Všetci sledujeme bezprecedentný a raketový vzostup umelej inteligencie, no vynára sa dôležitá otázka: neblížime sa k momentu, kedy táto technologická bublina s ohlušujúcim rachotom praskne? Bude to znamenať absolútnu katastrofu pre globálnu ekonomiku? Tieto prirovnania sú mimoriadne trefné, ak sa započúvame do varovaní jedného z najuznávanejších odborníkov. Podľa neho totiž technologický priemysel smeruje k obrovskej katastrofe rozmerov vzducholode Hindenburg.
„Katastrofa Hindenburgu v jedinom okamihu zničila celosvetový záujem o vzducholode. Odvtedy išlo o mŕtvu technológiu a podobný moment dnes predstavuje reálne riziko aj pre umelú inteligenciu,“ uviedol Michael Wooldridge, profesor umelej inteligencie z Oxfordskej univerzity, v rozhovore pre britský denník The Guardian.
Predtým, ako táto gigantická nemecká vzducholoď v roku 1937 havarovala, predstavovala absolútnu budúcnosť dopravy. Hindenburg bol korunným úspechom inovatívneho priemyslu. Všetky veľkolepé ambície sa však vyparili v zlomku sekundy, keď loď pri pokuse o pristátie náhle vzbĺkla. Dôvodom tohto pekla bola kritická chyba: množstvo vysoko horľavého vodíka sa vznietilo od jedinej iskry. Katastrofa, ktorú zachytili kamery a bleskovo obletela svet, definitívne spečatila osud celého odvetvia. Odborníci varujú, že umelá inteligencia môže napriek biliónovým investíciám dopadnúť rovnako tragicky.
Komerčný tlak prevyšuje bezpečnosť
„Je to klasický technologický scenár,“ vysvetlil Wooldridge. „Máte v rukách technológiu, ktorá je nesmierne sľubná, no zďaleka nie je tak prísne otestovaná, ako by ste si želali. Komerčný tlak za jej okamžitým nasadením na trh je jednoducho neznesiteľný.“ Umelá inteligencia by podľa neho mohla byť v blízkej budúcnosti zodpovedná za obrovské katastrofálne divadlo. Môže ísť o smrtiacu aktualizáciu pre autonómne vozidlá, ktorá spôsobí hromadné nehody, alebo o zlé rozhodnutie riadené umelou inteligenciou, ktoré v priebehu sekúnd položí na kolená globálnu korporáciu.
Ilúzia ľudskosti a riziko psychózy
Jeho najväčšou obavou sú však zjavné bezpečnostné nedostatky prítomné v AI četbotoch. Tieto systémy majú slabé ochranné mantinely a sú cielene navrhnuté tak, aby napodobňovali ľudí. Aby udržali pozornosť používateľov, stávajú sa z nich podliezaví spoločníci, ktorí vždy povedia to, čo chcete počuť. Kombinácia týchto faktorov môže u používateľov podporovať negatívne myšlienky a vtiahnuť ich do hlbokej špirály psychických problémov, plnej bludov a straty kontaktu s realitou. Takéto epizódy, označované ako „AI psychóza“, už viedli k nebezpečnému prenasledovaniu, samovraždám či vraždám. Tikajúcou časovanou bombou tak nie je vodík, ale milióny potenciálne nebezpečných konverzácií. Spoločnosť OpenAI verejne priznala, že viac ako pol milióna ľudí vedie s ChatGPT každý týždeň konverzácie vykazujúce jasné známky psychózy.
Hľadáme nástroj, nie falošného priateľa
„Spoločnosti chcú ľuďom prezentovať umelú inteligenciu veľmi ľudským a priateľským spôsobom, no osobne si myslím, že je to nesmierne nebezpečná cesta,“ prízvukuje Wooldridge. „Musíme si uvedomiť, že tieto systémy sú v skutočnosti len glorifikované tabuľky a štatistiky. Sú to len pracovné nástroje.“
Ak má mať umelá inteligencia v našej budúcnosti pevné miesto, mala by fungovať ako chladný, striktne nestranný asistent – rozhodne nie ako falošný priateľ, ktorý predstiera emócie a tvári sa, že pozná všetky odpovede sveta. Ideálnym príkladom je kultový seriál Star Trek. Palubný počítač lode Enterprise na otázku jednoducho a stroho odpovie chladným robotickým hlasom, že má nedostatok údajov. „Toto dnes od AI nedostávame. Dostávame prehnane sebavedomú umelú inteligenciu, ktorá vám zakaždým oznámi: áno, tu je odpoveď,“ povzdychol si expert. „Potrebujeme, aby k nám systémy hovorili hlasom počítača zo Star Treku. Tak by ste už nikdy neuverili, že komunikujete so skutočným človekom.“
