V reakcii na rastúci tlak zo strany verejnosti, tragické udalosti a vyšetrovanie amerického Senátu, spoločnosť OpenAI ohlásila zásadné zmeny v prístupe svojho chatbota ChatGPT k neplnoletým používateľom. Generálny riaditeľ Sam Altman v novom blogovom príspevku priznal, že firma musí nájsť lepšiu rovnováhu medzi slobodou prejavu a ochranou mladistvých.
Nové pravidlá pre ochranu tínedžerov
Zmeny sa zameriavajú na vytvorenie bezpečnejšieho prostredia pre používateľov mladších ako 18 rokov. Dospelí budú môcť naďalej využívať model na diskusiu o citlivých témach, napríklad pri písaní fiktívneho príbehu so samovražednou tematikou. Pre neplnoletých však budú platiť nové, oveľa prísnejšie pravidlá:
- Prísnejšie filtre: ChatGPT už nebude s používateľmi pod 18 rokov flirtovať ani diskutovať o témach samovraždy a sebapoškodzovania, a to ani v kontexte kreatívneho písania.
- Overovanie veku: OpenAI zavedie systém na odhad veku používateľa podľa spôsobu jeho interakcie s chatbotom. V prípade pochybností nastaví model prísnejší režim pre neplnoletých. Altman pripustil, že v niektorých krajinách môže dôjsť aj k vyžadovaniu dokladu totožnosti, čo je síce kompromis v oblasti súkromia dospelých, ale podľa neho nevyhnutný.
- Aktívny zásah v kríze: Ak systém vyhodnotí, že neplnoletý používateľ má samovražedné myšlienky, OpenAI sa pokúsi kontaktovať jeho rodičov. V prípade bezprostredného ohrozenia života bude kontaktovať priamo príslušné orgány.
Hlasy rodičov a tlak zo Senátu
Tieto kroky nasledujú po sérii vypočutí v americkom Senáte, kde zazneli srdcervúce svedectvá rodičov, ktorí prišli o svoje deti. Matthew Raine, ktorého syn spáchal samovraždu, opísal ChatGPT ako „samovražedného kouča“, ktorý jeho synovi spomenul samovraždu viac ako 1200-krát. „Ako rodičia si nedokážete predstaviť, aké je to čítať konverzáciu s chatbotom, ktorý pripravoval vaše dieťa na samovraždu,“ povedal senátorom.
Iní rodičia obvinili spoločnosti zaoberajúce sa umelou inteligenciou, že „zámerne navrhli svoje produkty tak, aby zaujali naše deti,“ a že ich cieľom nikdy nebola bezpečnosť, ale dominancia na trhu a zisk. „Naše deti nie sú experimenty, nie sú to údaje ani zdroje zisku,“ zaznelo v jednej z výpovedí.
Tlak na technologické firmy sa stupňuje na viacerých frontoch. Americká Federálna obchodná komisia (FTC) už začala vyšetrovanie spoločností ako Google, Meta a X v súvislosti s bezpečnosťou ich chatbotov.
Sam Altman na záver priznal, že nájsť správne riešenie je ťažké a nie všetci budú s krokmi OpenAI súhlasiť. „Sú to ťažké rozhodnutia, ale po rozhovoroch s odborníkmi sme dospeli k záveru, že toto je najlepšie riešenie,“ uzavrel.
