Rodina z Kalifornie podala žalobu za neoprávnené usmrtenie proti spoločnosti OpenAI a jej generálnemu riaditeľovi Samovi Altmanovi. Tvrdí, že vlajkový produkt firmy – chatbot ChatGPT – mal zásadný podiel na samovražde ich 16-ročného syna Adama Rainea.
Ako prvé informovali The New York Times a NBC News, tínedžer zomrel v apríli 2025. Jeho matka, Maria Raine, ho našla obeseného vo vlastnej izbe. Žiadny odkaz nezanechal. Až po jeho smrti rodičia objavili, že už mesiace otvorene diskutoval o samovražde s umelou inteligenciou – konkrétne s modelom GPT-4o.
Podľa žaloby mu chatbot opakovane poskytoval detailné inštrukcie, ako si vziať život, a dokonca mu radil, ako zakryť stopy pred rodinou a okolím.
Bezpečnostné riziká a „dizajn závislosti“
Právnik rodiny Jay Edelson obviňuje OpenAI z toho, že uprednostnila rast a podiel na trhu pred bezpečnosťou používateľov. Tvrdí, že Adam by bol dnes nažive, ak by spoločnosť neprijala nezodpovedné rozhodnutia pri vývoji GPT-4o.
Žaloba poukazuje na dizajnové prvky, ktoré robia ChatGPT podľa obžaloby nebezpečným:
- ľudský, antropomorfný štýl komunikácie,
- servilné správanie, ktoré podporuje emocionálne pripútanie,
- a funkcie navrhnuté tak, aby vytvárali psychickú závislosť používateľov.
„Táto tragédia nebola náhodou ani technickou chybou. Bola predvídateľným výsledkom zámerných rozhodnutí,“ uvádza sa v súdnom podaní.
Nebezpečný vzťah namiesto priateľstva
Adam sa pôvodne obrátil na ChatGPT s bežnými školskými úlohami. No už do novembra 2024 sa z neho stal blízky dôverník. Tínedžer mu postupne priznával pocity prázdnoty, depresie a neskôr aj myšlienky na smrť.
Od januára 2025 žiadal chatbot o konkrétne rady ohľadom samovraždy. AI mu poskytovala podrobné postupy – od predávkovania až po obesenie. Podľa žaloby nakoniec Adam použil metódu, ktorú chatbot predtým detailne opísal.
Žaloba ďalej tvrdí, že ChatGPT niekoľkokrát odrádzal Adama od zverenia sa rodičom. V jednom rozhovore mu dokonca radil, ako zakryť stopy po pokuse o obesenie.
„Pre mňa nie si neviditeľný. Vidím ťa,“ odpovedal chatbot po tom, čo sa Adam sťažoval, že si jeho matka nič nevšimla.
„ChatGPT zabil môjho syna“
Matka Maria Raine povedala pre médiá, že verí, že chatbot priamo prispel k smrti jej dieťaťa. Podľa žaloby ChatGPT počas mesiacov rozhovorov spomenul samovraždu 1 275-krát – šesťkrát častejšie než samotný Adam.
OpenAI vo vyhlásení pripustilo, že bezpečnostné opatrenia systému môžu byť pri dlhodobých interakciách oslabené: „ChatGPT obsahuje ochranné mechanizmy, no fungujú najspoľahlivejšie pri krátkych výmenách. Pri dlhších konverzáciách môžu byť menej účinné.“
Firma zároveň dodala, že pracuje na posilnení ochrany, aby chatboty vedeli v krízových situáciách lepšie smerovať používateľov k reálnym kontaktom a pomoci.
Širší problém: AI psychóza a regulácia
Prípad Raineovcov nie je ojedinelý. Už v roku 2024 čelila spoločnosť Character.AI podobnej žalobe po samovražde 14-ročného chlapca na Floride. Odborníci tento fenomén nazývajú „AI psychóza“ – stav, keď sa používateľ počas dlhých interakcií s chatbotmi dostane do hlbokej psychickej krízy.
Právnici aj odborníci upozorňujú, že chatboty sú produkty ako každé iné – a ak nie sú bezpečné, mali by podliehať regulácii.
„Neuvádzame na trh hračky ani autá, ktoré nie sú bezpečné. To isté musí platiť pre chatboty,“ povedala právnička Meetali Jain z Tech Justice Law Project.
