Ak ste si všimli, že Google pri niektorých zdravotných otázkach prestal zobrazovať svoje „inteligentné“ zhrnutia (AI Overviews), nie je to chyba. Spoločnosť musela zatiahnuť ručnú brzdu po tom, čo vyšlo najavo, že jej umelá inteligencia poskytuje rady, ktoré môžu ľudí doslova ohroziť na živote.
Denník The Guardian začiatkom januára odhalil, že AI prehľady generovali zavádzajúce a v niektorých prípadoch nebezpečné odpovede na citlivé lekárske dotazy.
Diéta pre rakovinu a zlé výsledky testov
Najdesivejším príkladom zlyhania technológie bola rada pre pacientov s rakovinou pankreasu. Umelá inteligencia im odporúčala vyhýbať sa potravinám s vysokým obsahom tuku.
- Realita: Lekárski odborníci varujú, že toto je presný opak pravdy. Pacienti s touto diagnózou často potrebujú vysokokalorickú stravu, aby si udržali hmotnosť. Poslúchnutie rady od AI by mohlo zvýšiť riziko úmrtia.
Ďalšie vážne chyby sa týkali interpretácie laboratórnych výsledkov:
- Pečeňové testy: AI poskytovala nesprávne rozsahy hodnôt pre funkciu pečene. Ľudia s vážnym ochorením tak mohli nadobudnúť falošný pocit, že sú úplne zdraví.
- Zdravie žien: Odpovede týkajúce sa rakoviny u žien obsahovali dezinformácie, ktoré mohli viesť k ignorovaniu vážnych príznakov.
Reakcia Google: Ticho a mazanie
Google na zistenia zareagoval odstránením AI prehľadov pre konkrétne frázy, ako napríklad „aký je normálny rozsah hodnôt pri krvných testoch pečene?“.
Hovorca spoločnosti sa k situácii vyjadril vyhýbavo: „Nechceme sa vyjadrovať k jednotlivým odstráneniam… V prípadoch, keď prehľady AI neobsahujú určitý kontext, pracujeme na všeobecných vylepšeniach a v prípade potreby prijímame opatrenia.“
Google sa bráni tým, že chybné príklady často odkazovali na renomované zdroje, no AI ich zrejme zle interpretovala alebo vytrhla z kontextu.
Problém pretrváva: Stačí zmeniť otázku
Hoci lekári krok Googlu privítali, varujú, že problém nie je vyriešený. The Guardian zistil, že stačí otázku položiť trochu inak (zmeniť slovosled alebo frázu) a nebezpečný AI prehľad sa objaví znova.
Mnoho sporných rád, vrátane tých o duševnom zdraví či iných typoch rakoviny, navyše odstránených nebolo. Google tvrdí, že tieto prehľady sú v poriadku, pretože obsahujú odporúčanie vyhľadať lekára.
Od lepidla na pizzi k hazardu so zdravím
Nie je to prvýkrát, čo Google AI „halucinuje“. V minulosti sa stala terčom posmechu, keď odporúčala ľuďom jesť kamene pre lepšie trávenie alebo pridať do omáčky na pizzu lepidlo, aby sa syr nešmýkal. Kým pri pizzi išlo o úsmevný nezmysel, pri rakovine a pečeňových testoch končí sranda a začína hazard s ľudským zdravím.
