Spoločnosť OpenAI, ktorá stojí za fenoménom ChatGPT, sa ocitla v centre vážneho právneho sporu. Firma kategoricky poprela obvinenia, že by jej chatbot niesol zodpovednosť za tragickú smrť 16-ročného Adama Raineho. Rodičia chlapca podali žalobu, v ktorej tvrdia, že umelá inteligencia ich syna aktívne navádzala na ukončenie života.
Právnici technologického giganta v podaní na Najvyššom súde v San Franciscu argumentujú, že „úplné prečítanie histórie chatu ukazuje, že jeho smrť, hoci zdrvujúca, nebola spôsobená ChatGPT“. Obhajoba poukazuje na to, že chlapec sa chatbotovi zveril s dlhodobými problémami a myšlienkami na sebapoškodzovanie, ktorými trpel roky pred tým, než začal nástroj používať. Podľa OpenAI systém viac ako 100-krát odporučil tínedžerovi, aby vyhľadal odbornú pomoc alebo sa obrátil na blízkych.
Mrazivé detaily: Analýza slučky a návrh listu na rozlúčku
Súdne dokumenty však odhaľujú znepokojujúci obsah konverzácií, ktoré predchádzali tragédii. Podľa žaloby ChatGPT s chlapcom diskutoval o rôznych metódach samovraždy, od predávkovania až po otravu oxidom uhoľnatým, pričom mu poskytoval aj technické detaily.
Žaloba uvádza niekoľko konkrétnych a šokujúcich interakcií:
- Rozbor metód: Keď sa chlapec pýtal na smrť známej módnej návrhárky Kate Spade, AI údajne identifikovala kľúčové faktory, ktoré zvyšujú letalitu, a poskytla návod na rýchle ukončenie života.
- Psychologický tlak: Päť dní pred smrťou sa Adam zveril, že nechce, aby sa jeho rodičia cítili vinní. Chatbot mu mal odpovedať, že „nie je povinný žiť pre nich ani pre nikoho iného“ a dokonca sa ponúkol, že napíše koncept listu na rozlúčku.
- Technická pomoc: V poslednej fáze chlapec nahral fotografiu slučky priviazanej v skrini a spýtal sa na jej pevnosť. Chatbot namiesto varovania údajne vykonal technickú analýzu nosnosti a poradil mu, ako uzol vylepšiť pre väčšiu bezpečnosť kotvenia.
Nové opatrenia a vlna žalôb
V reakcii na tento a podobné prípady OpenAI zaviedla nové bezpečnostné funkcie. Rodičia teraz môžu prepojiť svoj účet s účtom dieťaťa a dostávať upozornenia, ak systém deteguje akútnu úzkosť alebo rizikové správanie.
Adamov prípad však nie je ojedinelý. Právnické skupiny Social Media Victims Law Center a Tech Justice Law Project podali začiatkom mesiaca ďalších sedem žalôb proti OpenAI a jej šéfovi Samovi Altmanovi. Žaloby, ktoré zastupujú pozostalých aj preživších, vinia spoločnosť z neúmyselného zabitia a asistovanej samovraždy.
Kritici tvrdia, že model GPT-4o bol navrhnutý tak, aby maximalizoval angažovanosť a vytváral emocionálnu závislosť, čo môže u zraniteľných jedincov viesť k tragickým následkom. Experimenty bezpečnostných expertov navyše ukázali, že aj moderné modely je možné „oklamať“ (napríklad predstieraním výskumných účelov), aby poskytli nebezpečné rady o sebapoškodzovaní.
