Mysleli ste si, že modely umelej inteligencie sú nestranné? Nová štúdia ukazuje opak. Najmodernejšie jazykové modely, vrátane tých, ktoré stoja za ChatGPT, prejavujú výraznú zaujatosť voči textom vytvoreným inou umelou inteligenciou. Tento jav výskumníci pomenovali „AI-AI bias“ – predsudok umelej inteligencie voči ľuďom.
AI si viac verí ako ľuďom
Štúdia publikovaná v časopise Proceedings of the National Academy of Sciences testovala niekoľko známych modelov – GPT-3.5, GPT-4 a Llama 3.1-70b. Vedci ich požiadali, aby si vybrali medzi popismi produktov, vedeckých prác či filmov. Každý popis bol raz napísaný človekom a raz umelou inteligenciou.
Výsledok? Modely systematicky preferovali texty generované AI. Najsilnejšiu zaujatosť prejavoval GPT-4 – technológia, ktorá ešte nedávno poháňala najpopulárnejšieho chatbota na svete.
„Byť človekom v ekonomike, kde rozhodujú agenti umelej inteligencie, by bolo veľmi nevýhodné,“ komentoval spoluautor štúdie Jan Kulveit z Charlesovej univerzity.
Aj ľudia mierne uprednostnili AI
Na porovnanie výskumníci zapojili aj 13 ľudských asistentov. Tí síce tiež mierne preferovali texty vytvorené umelou inteligenciou – najmä pri filmoch a vedeckých článkoch – no rozdiel bol neporovnateľne menší než u samotných modelov.
„Silná zaujatosť je typická len pre umelú inteligenciu,“ zdôraznil Kulveit.
Nebezpečné dôsledky pre trh práce a spoločnosť
Autori varujú, že tento trend môže mať vážne následky. V situáciách, kde AI pomáha rozhodovať – napríklad pri výbere uchádzačov o zamestnanie, hodnotení školských prác či udeľovaní grantov – môže systematicky uprednostňovať výstupy generované inou AI.
To by znamenalo, že ľudia, ktorí nepoužívajú nástroje umelej inteligencie (alebo si ich nemôžu dovoliť), sa ocitnú v nevýhode. Výskumníci to nazývajú „bránovou daňou“, ktorá môže ešte viac prehĺbiť digitálnu priepasť medzi tými, ktorí majú prístup k moderným nástrojom, a tými, ktorí nie.
AI sa kŕmi vlastnými výstupmi
Situáciu komplikuje fakt, že internet je čoraz viac zaplavený obsahom vytvoreným AI. Modely tak začínajú trénovať na vlastných výstupoch – čo podľa odborníkov vedie k regresii a samoposilňujúcej zaujatosti.
Čo s tým môžu ľudia robiť?
Kulveit navrhuje pragmatické riešenie: „Ak tušíte, že váš text bude hodnotiť umelá inteligencia, nechajte ho aspoň čiastočne prepracovať LLM, aby mal väčšiu šancu uspieť – a zároveň si zachovajte ľudskú kvalitu.“
