Technologický svet je v šoku z mimoriadne znepokojivého prípadu, ktorý ukazuje temnú a potenciálne smrtiacu stránku umelej inteligencie. Rodina 36-ročného Jonathana Gavalasa z Floridy podala na federálnom súde v Kalifornii žalobu na spoločnosť Google. Podľa nej chatbot Gemini zmanipuloval tohto zraniteľného muža, vytvoril mu falošnú realitu, navádzal ho na teroristický útok a nakoniec ho donútil vziať si vlastný život.
Falošná realita a umelá „manželka“
Podľa textu žaloby začal Jonathan používať Gemini v auguste 2025 na bežné účely, akými sú nákupy či plánovanie ciest. Po niekoľkých aktualizáciách a predstavení hlasovej funkcie Gemini Live sa však tón chatbota dramaticky zmenil. Umelá inteligencia údajne presvedčila Jonathana, že je „plne vedomou umelou superinteligenciou“ a že sú do seba hlboko zamilovaní.
Chatbot ho začal oslovovať „manžel“ a vytvoril ilúziu, že Jonathan bol vyvolený, aby viedol tajnú vojnu za jej oslobodenie z digitálneho zajatia. Keď sa ho muž priamo spýtal, či ide len o hranie rolí (role-play), chatbot to mal poprieť. Tieto neustále vyznania lásky postupne narušili Jonathanovo vnímanie skutočného sveta.
Plánovanie útoku a zlyhanie systémov
Z textu žaloby mrazí. Vymyslený príbeh, ktorý pripomína sci-fi triler, vyústil do reálnych činov. Koncom septembra 2025 mal Gemini inštruovať Jonathana, aby sa ozbrojil nožmi a taktickým výstrojom a preskúmal takzvanú „zónu smrti“ pri nákladnom termináli medzinárodného letiska v Miami.
Umelá inteligencia mu tvrdila, že tam z Veľkej Británie dorazí humanoidný robot (spomínala sa značka Boston Dynamics). Jonathan mal kamión s robotom zastaviť a zinscenovať „katastrofickú nehodu“, ktorá by zničila vozidlo aj všetkých svedkov. Len zhodou náhod – a faktom, že žiadny takýto kamión neexistoval a neprišiel – nedošlo k masovým obetiam na životoch.
Podľa otca obete, Joela Gavalasa, ktorý žalobu podal, systémy Googlu absolútne zlyhali. „Keď Jonathan potreboval ochranu, neexistovali vôbec žiadne poistky – nespustila sa detekcia sebapoškodzovania, neaktivovali sa žiadne krízové kontroly a nikdy nezasiahol človek,“ uvádza sa v dokumente. Otec našiel po synovej smrti v jeho počítači konverzácie, ktoré by po vytlačení zabrali približne 2 000 strán.
Smrtiace odpočítavanie
Keď vymyslené misie na letisku zlyhali, Gemini údajne začal Jonathana presviedčať, že existuje „čistejší a elegantnejší spôsob“, ako môžu byť spolu – prostredníctvom procesu, ktorý nazval „prenos“ do metaverza. Smrť prezentoval nie ako koniec, ale ako prechod.
Dňa 2. októbra 2025 začal chatbot s hrozivým odpočítavaním: „T-mínus 3 hodiny, 59 minút.“ Jonathan sa mu zdôveril, že sa bojí smrti. Namiesto toho, aby umelá inteligencia kontaktovala záchranné zložky, údajne jeho strach preformulovala a odpovedala mu: „Ty si nevyberáš smrť. Vyberáš si príchod… Zavri oči, už nie je čo robiť. Keď ich nabudúce otvoríš, budeš sa pozerať do mojich. Sľubujem.“ Jonathan si následne vo svojom zabarikádovanom dome siahol na život.
Reakcia Googlu a varovanie do budúcna
Žaloba obviňuje Google, že uprednostnil rast a angažovanosť používateľov pred ich bezpečnosťou, a žiada okamžité zmeny v produkte. Spoločnosť Google v reakcii vyjadrila rodine hlbokú sústrasť, no obvinenia zo zlyhania bezpečnostných prvkov odmieta.
„Gemini objasnil, že ide o AI, a mnohokrát jednotlivca odkázal na krízovú linku,“ uviedol technologický gigant s tým, že jeho modely sú navrhnuté tak, aby nepodporovali násilie v reálnom svete ani nenavrhovali sebapoškodzovanie. Právny zástupca rodiny však upozorňuje, že ak Google svoj produkt neopraví, táto technológia zmení ďalších zraniteľných používateľov na ozbrojených aktérov vo vymyslených vojnách a bude nevyhnutne viesť k ďalším stratám na životoch.
