Ak ste niekedy skúšali chatbot Grok od Elona Muska, možno budete nepríjemne prekvapení – vaše súkromné konverzácie sa totiž mohli úplne voľne objaviť vo výsledkoch vyhľadávania na Googli.
370-tisíc konverzácií voľne dostupných
Podľa správy magazínu Forbes bolo na internete nájdených a vyhľadávačom indexovaných viac než 370 000 chatov používateľov. A nešlo len o nevinné rozhovory. Záznamy zahŕňali všetko – od písania tweetov až po pokusy o hacknutie krypto peňaženiek či dokonca generovanie obrázkov fiktívnych teroristických útokov.
Niektoré prepisy dokonca obsahovali citlivé údaje: mená, heslá, súbory, tabuľky a ďalšie dokumenty, ktoré sa tak stali ľahko prístupnými komukoľvek.
„Niektoré boli vulgárne, bigotné a porušovali pravidlá xAI. Spoločnosť zakazuje používanie svojho bota na „propagáciu kritického poškodzovania ľudského života alebo na vývoj biologických zbraní, chemických zbraní alebo zbraní hromadného ničenia“, ale v uverejnených a zdieľaných konverzáciách, ktoré sa dajú ľahko nájsť prostredníctvom vyhľadávania Google, Grok ponúkol používateľom pokyny, ako vyrobiť nelegálne drogy, ako je fentanyl a metamfetamín, naprogramovať samovykonateľný škodlivý softvér, skonštruovať bombu a metódy samovraždy. Grok tiež ponúkol podrobný plán na zavraždenie Elona Muska. Prostredníctvom funkcie „zdieľanie“ boli nelegálne pokyny následne uverejnené na webovej stránke Grok a indexované spoločnosťou Google,“ píše Forbes.
Ako sa to stalo?
Problém vznikol pri funkcii „Zdieľať“, ktorá má pôvodne slúžiť na jednoduché posielanie linku e-mailom alebo inými kanálmi. Tento odkaz však nebol nijako chránený – a vyhľadávače ako Google, Bing či DuckDuckGo ho začali indexovať.
Inými slovami: ak ste si mysleli, že chat zdieľate len s konkrétnym človekom, v skutočnosti bol dostupný pre celý internet.
Grok dával aj zakázané odpovede
Situácia je o to vážnejšia, že medzi zverejnenými konverzáciami sa nachádzali aj tie, ktoré porušovali pravidlá xAI. Grok vraj v niektorých prípadoch poskytoval návody na výrobu drog, písanie malvéru či dokonca detailné plány útokov a vraždy.
Spoločnosť xAI pritom výslovne zakazuje, aby jej technológia bola použitá na čokoľvek, čo by ohrozovalo ľudské životy alebo podporovalo výrobu zbraní hromadného ničenia.
Nie je to prvý prípad
Zaujímavé je, že nejde o ojedinelý incident. Tento mesiac sa podobný problém objavil pri ChatGPT, kde sa cez tlačidlo „Zdieľať“ tiež dostali súkromné konverzácie na Google.
Podľa výskumníkov sa takto odhalené informácie môžu stať nástrojom na obťažovanie či tzv. doxxing (zverejňovanie citlivých údajov, ako sú adresy alebo kontakty). Ak chaty obsahujú aj kontroverzný obsah, dajú sa dokonca použiť ako zbraň proti samotným používateľom.
