Spoločnosť OpenAI čelí vlne kritiky po tom, čo tisíce súkromných konverzácií používateľov ChatGPT boli dostupné cez výsledky vyhľadávania na Googli. Problém objavila redakcia Fast Company, ktorá upozornila na závažné narušenie súkromia: Chaty obsahovali intímne a citlivé informácie o vzťahoch, duševnom zdraví, návykoch či traumách.
Aj keď tieto chaty neobsahovali priamo meno používateľa, ich obsah bol často natoľko špecifický, že by bolo možné jednotlivcov identifikovať.
Čo sa vlastne stalo?
Podľa OpenAI boli zdieľané konverzácie indexované len vtedy, ak si používatelia zvolili možnosť „Urobiť tento chat objaviteľným“ pri zdieľaní. Tento výber však mohol byť zavádzajúci – upozornenie o tom, že chat sa môže objaviť vo výsledkoch vyhľadávania, bolo napísané malým a menej viditeľným písmom pod zaškrtávacím políčkom.
Podľa bezpečnostného šéfa OpenAI Danea Stuckeyho išlo o „krátkodobý experiment“, ktorý mal pomôcť ľuďom nájsť zaujímavé odpovede. Avšak neskôr uznal, že dizajn tejto funkcie „vytvoril príliš veľa príležitostí na nechcené zdieľanie citlivého obsahu.“
„Experiment“, ktorý zasiahol súkromie miliónov
„Je to znepokojujúce. Spoločnosti ako OpenAI testujú nápady na širokej verejnosti bez úplného pochopenia dôsledkov,“ uviedla Carissa Vélizová, odborníčka na etiku AI z Oxfordskej univerzity.
Niektoré z verejne prístupných chatov obsahovali:
- Osobné spovede o duševnom zdraví
- Detaily o sexuálnom živote
- Závislosti a užívanie drog
- Spomienky na traumy a medziľudské konflikty
OpenAI: Funkcia je už odstránená a prebieha čistenie výsledkov
OpenAI sa po medializácii prípadu rozhodla:
- Funkciu zdieľania s indexovaním úplne zrušiť
- Požiadať Google o odstránenie indexovaných stránok
- Zlepšiť ochranu súkromia vo svojich produktoch
Spoločnosť Google reagovala vyjadrením, že za indexovanie nesie zodpovednosť prevádzkovateľ webu, teda v tomto prípade OpenAI. Zároveň uviedla, že OpenAI má možnosť použiť nástroje na rýchle odstránenie obsahu z vyhľadávača – no len pre Google, nie pre ostatné vyhľadávače.
Fast Company odporúča zadať časť URL odkazu, ktorý ste získali pri zdieľaní chatu. Ak sa vo výsledkoch objaví, znamená to, že váš súkromný chat mohol byť dostupný komukoľvek na internete.
We just removed a feature from @ChatGPTapp that allowed users to make their conversations discoverable by search engines, such as Google. This was a short-lived experiment to help people discover useful conversations. This feature required users to opt-in, first by picking a chat… pic.twitter.com/mGI3lF05Ua
— DANΞ (@cryps1s) July 31, 2025
K afére sa pridáva aj súdne rozhodnutie, ktoré nariaďuje OpenAI uchovávať aj vymazané konverzácie, čo vyvoláva ďalšie otázky o skutočnom súkromí používateľov. Generálny riaditeľ Sam Altman síce aféru označil za „zbabranú“, no podľa Fast Company sa k vlastnému zlyhaniu v oblasti transparentnosti postavil len veľmi opatrne.
