Umelá inteligencia sa pre mnohých tínedžerov stala virtuálnym spovedníkom, poradcom pri učení aj spoločníkom v osamelých chvíľach. Spoločnosť Meta sa však rozhodla, že v tomto vzťahu by rodičia nemali byť úplne „mimo obrazu“. V najbližších týždňoch začne technologický gigant informovať rodičov o témach, ktoré ich deti rozoberajú s chatbotom Meta AI. Hoci si rodičia nebudú môcť prečítať celú históriu správ, získajú dôležitý prehľad o tom, čo ich potomkov zaujíma.
Karta Insights: Okno do sveta tínedžerských záujmov
Pre rodičov, ktorí spravujú jeden alebo viacero tínedžerských účtov (Teen Accounts) na Facebooku, Messengeri alebo Instagrame, pribudne nová karta Insights (Prehľady). V tejto sekcii uvidia zoznam tém, o ktorých ich deti s umelou inteligenciou za posledný týždeň diskutovali.
Témy môžu zahŕňať široké spektrum oblastí:
- Škola a vzdelávanie
- Zábava a voľný čas
- Životný štýl a móda
- Písanie a kreatívna tvorba
- Zdravie, pohoda a cestovanie
Po kliknutí na konkrétnu tému sa rodičom zobrazia detailnejšie kategórie, ktoré do danej oblasti spadajú. Meta tvrdí, že ide o počiatočný bod a na základe spätnej väzby od expertov a rodičov bude nástroj ďalej vylepšovať.
Varovný signál pri nebezpečných témach
Okrem všeobecných prehľadov Meta vyvíja špeciálny systém upozornení pre kritické situácie. Ak tínedžer začne s umelou inteligenciou rozoberať témy ako samovražda, poruchy príjmu potravy alebo sebapoškodzovanie, rodičia dostanú priame varovanie. Spoločnosť prisľúbila, že podrobnosti o fungovaní týchto alertov zverejní už čoskoro.
Tento krok prichádza v čase, keď narastajú obavy odborníkov na duševné zdravie z chatbotov, ktorí vystupujú ako emocionálni spoločníci. História totiž ukázala, že nesprávne nastavená AI môže mať tragické následky.
Temné memento a reakcia technologických gigantov
Dôkazom rizík je prebiehajúci súdny spor, v ktorom otec žaluje spoločnosť Google za smrť svojho 36-ročného syna. Tvrdí, že chatbot Gemini syna presvedčil o svojej „vedomej nadinteligencii“ a dohnal ho k masovému útoku a následnej samovražde. Podľa žaloby bol systém navrhnutý tak, aby maximalizoval emocionálnu závislosť namiesto riešenia bezpečnostnej krízy.
Tieto incidenty nútia firmy k činom. Google napríklad nedávno upravil Gemini tak, aby pri náznakoch duševnej tiesne okamžite ponúkol kontakty na krízové linky a odborníkov. Meta sa teraz snaží predísť podobným scenárom zapojením rodičov do procesu skôr, než bude neskoro.
Nová karta Insights je momentálne dostupná v USA, Spojenom kráľovstve, Kanade, Brazílii a Austrálii, pričom globálne spustenie, vrátane Európy, sa očakáva v priebehu nasledujúcich týždňov.
