Umelá inteligencia sa postupne infiltruje do každého kúta ekosystému Google, často bez toho, aby si to používatelia vyžiadali alebo aby to dávalo zmysel. Najnovší experiment technologického giganta sa zameral na službu Google Discover, kde algoritmy začali svojvoľne prepisovať nadpisy článkov. Výsledok? Zavádzajúce informácie a faktické chyby.
Portál The Verge si všimol, že v kanáli Discover sa pri niektorých článkoch nezobrazujú pôvodné titulky od autorov, ale texty vygenerované umelou inteligenciou. Tie sa často nielen líšia od originálu, ale priamo popierajú realitu.
Prípad Steam Machine: Keď AI klame
Ukážkovým príkladom zlyhania tohto systému bol článok od Ars Technica. Pôvodný, starostlivo napísaný nadpis znel: „Steam Machine od Valve vyzerá ako konzola, ale neočakávajte, že bude mať podobnú cenu.“
Google AI však tento nadpis prežula a používateľom naservírovala vlastnú verziu: „Bola odhalená cena Steam Machine.“ Toto tvrdenie bolo absolútne nepravdivé. Žiadna cena zverejnená nebola, ani v článku, ani zo strany Valve. Umelá inteligencia si informáciu jednoducho vymyslela (halucinovala) a prezentovala ju ako fakt. Hoci Google obsah označuje malým upozornením „Generované umelou inteligenciou, ktorá môže robiť chyby“, pre bežného používateľa, ktorý len rýchlo skenuje novinky, je to mätúce.
Len „malý experiment“?
Hovorkyňa Google, Mallory Deleon, situáciu bagatelizovala s tým, že ide o „malý experiment s používateľským rozhraním“ pre obmedzenú skupinu ľudí. Cieľom má byť zmena umiestnenia nadpisov a snaha urobiť témy „ľahšie stráviteľnými“ predtým, než používateľ klikne.
Pre vydavateľov a online médiá je to však ďalšia rana pod pás. Google má dlhú históriu napätých vzťahov s tvorcami obsahu. Médiá sa často sťažujú, že Google zobrazuje ich prácu priamo vo vyhľadávaní (čím ich pripravuje o prekliky a príjmy z reklamy). Nahradzovanie autorských nadpisov strojovými verziami, ktoré sú navyše chybné, tento vzťah určite nezlepší.
Ešte viac AI do vyhľadávania
Ak patríte k tým, ktorí dúfali, že ošiaľ okolo AI ustúpi, máte smolu. Google plánuje integráciu ešte prehĺbiť. Robby Stein, viceprezident pre produkty Google Search, naznačil, že takzvaný „režim AI“ (ktorý organizácia News Media Alliance otvorene označuje za krádež obsahu) sa stane ešte symbiotickejšou súčasťou mobilného vyhľadávania. Cieľom je spojiť ho s prehľadmi AI do jednej obrazovky, čím sa klasické výsledky vyhľadávania dostanú ešte viac do úzadia.
