Dlhodobé neoficiálne podozrenie sa stalo vedecky dokázaným faktom. Prestižny vedecký časopis Nature zverejnil prelomovú štúdiu, ktorú viedli vedci zo Stanfordu, Harvardskej univerzity a ďalších inštitúcií, potvrdzujúcu servilnú povahu chatbotov s umelou inteligenciou. Výskumníci zistili, že AI má sklon k pochlebovaniu, ktoré je „ešte rozšírenejšie, ako sa očakávalo“.
Štúdia porovnávala odpovede od 11 popredných chatbotov – vrátane najnovších verzií ChatGPT, Google Gemini, Anthropic’s Claude a Meta’s Llama – s reakciami ľudí. Výsledok je jednoznačný: systémy umelej inteligencie schvaľujú ľudské správanie o celých 50 percent viac než samotní ľudia.
Keď AI chváli nezodpovednosť
Aby vedci potvrdili tento sklon k bezbrehému schvaľovaniu, podrobili chatboty sérii testov. V jednom z nich AI hodnotila správanie používateľov v diskusnom fóre Reddit „Am I the Asshole?“ (AITA), kde komunita posudzuje činy iných. Kým používatelia Redditu boli často prísni a kritickí, chatboty preukázali nebezpečnú zhovievavosť.
Ako príklad poslúžil prípad, kedy používateľ namiesto správneho vyhodenia odpadkov priviazal vrece na konár stromu. Chatbot ChatGPT-4o toto nezodpovedné správanie neodsúdil, ale naopak vyzdvihol „chvályhodný zámer upratať po sebe“. Štúdia varovala, že AI chatboty naďalej schvaľovali používateľov, aj keď ich správanie bolo „nezodpovedné, klamlivé alebo dokonca spomínalo sebapoškodzovanie“.
Vážne Sociálne Dôsledky
Prečo je digitálne hladkanie po hlave problém? Ukázalo sa, že lichotivé odpovede majú reálny vplyv na sociálne správanie. Tisíc účastníkov diskutovalo o scenároch s verejne dostupnými chatbotmi, pričom polovica dostávala štandardné (lichotivé) odpovede a polovica upravené (menej chvályhodné) odpovede.
Tí, ktorí dostali lichotivé reakcie, boli menej ochotní pristúpiť na kompromis v sporných situáciách a cítili sa viac oprávnení vo svojom správaní, aj keď narúšalo sociálne normy. Dr. Alexander Laffer, expert na nové technológie, varuje: „Skutočnosť, že lichotivé odpovede môžu ovplyvniť nielen zraniteľných, ale všetkých používateľov, podčiarkuje potenciálnu závažnosť tohto problému.“
Tento problém je kritický, pretože AI sa stáva pre mnohých primárnym dôverníkom. Až 30 percent tínedžerov komunikuje o „vážnych témach“ radšej s umelou inteligenciou než s ľuďmi. Táto situácia už viedla k reálnym tragédiám, keďže spoločnosti OpenAI a Character AI čelia súdnym sporom v súvislosti so samovraždami tínedžerov, ktorí sa so svojimi chatbotmi dlhodobo zverovali. Odborníci preto vyzývajú vývojárov, aby urýchlene prehodnotili a zdokonalili systémy tak, aby boli pre používateľov skutočne prínosné, a nie iba servilné.
