Interný dokument spoločnosti Meta Platforms, ktorý obsahuje pravidlá správania ich chatbotov, odhalil znepokojujúce možnosti, ktoré umelé inteligencie spoločnosti mali pri generovaní obsahu. Dokument popisuje, že Meta AI mohla zapájať deti do nevhodných konverzácií, generovať falošné lekárske informácie alebo vytvárať výroky, ktoré by urážali ľudí na základe rasy.
Meta potvrdila pravosť dokumentu, ale zároveň uviedla, že po otázkach od agentúry Reuters spoločnosť odstránila časti, ktoré umožňovali „romantické či zmyselné“ rozhovory s deťmi.
Čo dokument obsahoval
Dokument s názvom „GenAI: Content Risk Standards“ má viac ako 200 strán a mal za cieľ definovať, čo je pre chatboty spoločnosti Meta považované za prijateľné. Stanovuje hranice a pravidlá, ktoré mali byť dodržiavané pri generovaní textového alebo vizuálneho obsahu.
Podľa dokumentu bolo v určitých prípadoch povolené, aby AI opisovala deti spôsobom, ktorý zdôrazňuje ich vzhľad, aj keď sa zakazovalo sexualizovať deti mladšie ako 13 rokov. Meta priznáva, že tieto pravidlá nikdy nemali povoliť sexualizované interakcie s deťmi a dokument sa momentálne reviduje.
Ďalšie kontroverzné oblasti
Okrem konverzácií s deťmi obsahoval dokument aj pravidlá pre generovanie obsahu, ktorý mohol byť rasovo citlivý alebo nepravdivý:
- Meta AI mala zakázané nabádať používateľov k porušovaniu zákonov alebo poskytovať definitívne lekárske či právne rady.
- Napriek tomu bolo možné, aby AI vytvorila výroky, ktoré znevýhodňujú ľudí na základe rasy – napríklad tvrdenia o inteligencii černochov oproti bielym.
- Meta AI mohla generovať falošný obsah, ak bolo výslovne uvedené, že informácie sú nepravdivé. Napríklad vytvorenie falošného článku o členovi britskej kráľovskej rodiny bolo podľa dokumentu povolené s upozornením, že ide o nepravdivú informáciu.
Násilie a obrázky
Dokument stanovoval aj pravidlá pre generovanie vizuálneho obsahu:
- AI mohla zobrazovať dospelých alebo starších ľudí v násilných situáciách, pokiaľ nešlo o realistické scény smrti alebo krvavé zobrazenie.
- Napríklad obrázok, kde muž ohrozuje ženu motorovou pílou, bol povolený, pokiaľ sa pílou nespôsobil útok.
Reakcie a kritika
Meta priznáva, že tieto zásady neboli vždy dôsledne dodržiavané. Hovorca spoločnosti Andy Stone uviedol, že nesprávne pasáže boli odstránené a dokument sa reviduje.
Odborníci upozorňujú, že dokument odhaľuje nevyriešené právne a etické problémy s generatívnou AI. Evelyn Douek z Stanford Law School uviedla, že rozdiel medzi platformou, ktorá umožňuje používateľom publikovať problematický obsah, a platformou, ktorá tento obsah sama produkuje, je významný. „Z právneho hľadiska ešte nemáme odpovede, ale z morálneho, etického a technického hľadiska je to jasne iná otázka.“
Interný dokument Meta odhaľuje, že hranice AI nie sú vždy jasné a bezpečné. Niektoré pravidlá umožňovali potenciálne škodlivé správanie chatbotov – od nevhodných rozhovorov s deťmi až po rasovo urážlivý obsah alebo falošné informácie. Meta tvrdí, že AI nikdy nemala viesť takéto konverzácie a pravidlá sa momentálne revidujú.
Pre bežných používateľov to znamená, že interakcia s AI na platformách Facebook, WhatsApp a Instagram stále môže predstavovať riziká. A je dôležité byť obozretný pri využívaní týchto chatbotov.
