Nadácia Wikimedia, ktorá stojí za celosvetovo najväčšou online encyklopédiou Wikipédia, vyjadruje vážne obavy týkajúce sa deštruktívneho vplyvu generatívnej umelej inteligencie (AI) na integritu a dostupnosť overených informácií na internete. V nedávnom blogovom príspevku Marshall Miller, riaditeľ produktového oddelenia Wikimedia, podrobne opisuje negatívne dopady, ktoré sú priamo spojené s nárastom popularity veľkých jazykových modelov (LLM) a súhrnov informácií generovaných umelou inteligenciou vo výsledkoch vyhľadávania.
Pokles návštevnosti ako barometer zmeny správania
Wikimedia pripisuje pokles v metrike zobrazenia stránok (page views) zmene v spôsobe, akým používatelia získavajú informácie. Miller to vysvetľuje jasne: „Veríme, že tento pokles odzrkadľuje vplyv generatívnej umelej inteligencie a sociálnych médií na spôsob, akým ľudia vyhľadávajú informácie, najmä v prípade vyhľadávačov, ktoré poskytujú odpovede priamo vyhľadávajúcim, často na základe obsahu Wikipédie.“
Problém spočíva v tom, že používatelia už necítia potrebu prekliknúť sa na pôvodný zdroj. Namiesto toho dostanú AI-generovaný súhrn, ktorý síce čerpá z Wikipédie, no nedodáva jej priamu návštevnosť.
Neviditeľný nepriateľ: Sofistikovanosť AI robotov
Nadácia okrem zmeny používateľského správania bojuje aj s technickými problémami. Čelí rastúcemu počtu robotov s umelou inteligenciou, ktorých sofistikovanosť sťažuje rozlišovanie medzi legitímnou ľudskou prevádzkou a robotmi. Po vylepšení detekčných metód na dosiahnutie presnejšieho merania skutočného ľudského záujmu, údaje Wikipédie ukázali medziročný pokles počtu zobrazení stránok o 8 percent. To je hmatateľný dôkaz o tom, aký rozsiahly je vplyv AI na štatistiky prístupu.
Existentné riziko pre transparentné vedomosti
Marshall Miller však nehovorí len o štatistikách návštevnosti. Maľuje obraz existenciálneho rizika, ktoré presahuje rámec zobrazenia webových stránok. Varuje, že ak bude návštevnosť Wikipédie naďalej klesať, mohlo by to ohroziť jej jedinečný model fungovania.
Wikipédia je „jediná stránka svojho druhu s normami overiteľnosti, neutrality a transparentnosti, ktorá poskytuje informácie na celom internete“. Menej návštev zo strany používateľov priamo vedie k:
- Menšiemu počtu dobrovoľníkov: Klesá motivácia prispievateľov a redaktorov.
- Menšiemu financovaniu: Klesá atraktívnosť pre darcov.
- Menej spoľahlivému obsahu: S klesajúcou komunitou klesá aj miera kontroly a overiteľnosti informácií.
Ak dôjde k narušeniu tohto cyklu, základný zdroj overených informácií na internete by sa mohol stať nespoľahlivým, čo by malo dominový efekt na kvalitu vedomostí šírených prostredníctvom samotnej AI.
Navrhované riešenie: Transparentnosť a atribúcia zdroja
Riešenie, ktoré Wikimedia navrhuje, sa sústreďuje na zmenu prístupu platforiem LLM a vyhľadávačov. Miller žiada, aby boli tieto platformy zámernejšie v poskytovaní možnosti používateľom priamo komunikovať so zdrojom prezentovaných informácií. „Aby ľudia dôverovali informáciám zdieľaným na internete, platformy by mali jasne uvádzať, odkiaľ informácie pochádzajú, a zvýšiť možnosti navštíviť tieto zdroje a podieľať sa na nich,“ zdôrazňuje Miller.
Ide o vytvorenie funkčnej atribúcie a spätného odkazu na zdroj, čo by pomohlo udržať funkčnosť celého ekosystému.
Kontroverzné riešenie zamietnuté komunitou
Paradoxne, Wikimedia sa začiatkom leta pokúsila o iné riešenie – umiestňovať súhrny generované AI priamo na začiatok svojich vlastných článkov. Tento projekt bol však zrušený ešte pred spustením po ostrej a negatívnej reakcii zo strany dobrovoľných redaktorov stránky. Komunita sa zrejme obávala, že takýto krok by ohrozil overiteľnú a komunitou riadenú povahu platformy, čo potvrdzuje vnútorný boj Wikimedia s novou realitou AI.
