Podľa najnovšieho výskumu sa proruská dezinformačná kampaň, známa ako Operation Overload, dostala na novú úroveň. Využíva nástroje umelej inteligencie určené pre bežných používateľov na tvorbu obrovského množstva manipulovaného obsahu – vrátane deepfake videí, AI-generovaných obrázkov a textov. Cieľom je eskalovať napätie v globálnych otázkach, ako sú voľby, migrácia či vojna na Ukrajine. Upozornil na to web Wired.
Operácia, ktorá prebieha už od roku 2023 a je spájaná s ruskou vládou, zaznamenala masívny nárast produkcie obsahu. Zatiaľ čo medzi júlom 2023 a júnom 2024 výskumníci identifikovali 230 kusov dezinformačných výstupov, v nasledujúcich ôsmich mesiacoch ich bolo už 587 – a väčšina z nich bola vytvorená pomocou AI.
AI generuje falošné správy, videá aj hlasy
Podľa výskumníkov zo spoločností Reset Tech a Check First boli použité rôzne nástroje AI, medzi nimi aj Flux AI – generátor obrázkov z textu, ktorý vytvorili bývalí zamestnanci Stability AI. Vytvárané boli falošné obrázky napr. protestujúcich moslimských migrantov v európskych metropolách, čím sa cielene podnecoval strach a nenávisť.
Nástroje na klonovanie hlasu boli zase použité na výrobu deepfake videí, v ktorých známe osobnosti vyzývali k radikalizmu. V jednom prípade bola sfalšovaná výpoveď francúzskej výskumníčky, ktorá bola zmanipulovaná tak, aby pôsobila, že podporuje krajne pravicovú stranu AfD v Nemecku.
Cieľom je zmätok, nie dôvera
Zvláštnym a desivým aspektom tejto kampane je, že dezinformátori sami kontaktujú fact-checkerov, novinárov a redakcie, aby ich upozornili na obsah, ktorý vytvorili – s cieľom získať „oficiálne“ potvrdenie, že ide o falošný obsah. Pre ruskú propagandu to však nie je zlyhanie, ale cieľ: ak sa o obsahu bude diskutovať, splnil svoj účel.
Od septembra 2024 takto rozoslali až 170 000 e-mailov s príkladmi dezinformačných videí a obrázkov.
Dezinformácie útočia na všetkých frontoch
Obsah kampane sa šíri najmä cez aplikácie ako Telegram, X (Twitter), Bluesky a TikTok. Len na TikToku dosiahli manipulatívne videá 3 milióny pozretí, než ich platforma zmazala. Na X však podľa výskumníkov zostávajú aktívne aj napriek dôkazom o koordinovanej činnosti.
Operácia Overload dokazuje, že umelá inteligencia sa stala lacnou a efektívnou zbraňou v informačnej vojne. A zatiaľ čo západné spoločnosti len postupne zavádzajú obranné mechanizmy, propagandisti už dávno bežia na plný výkon.
