Generatívna umelá inteligencia priniesla revolúciu v tvorbe obsahu, no čoraz častejšie sa ukazuje jej temná stránka. Už nejde len o nevinné vylepšovanie fotiek. Technológia sa stáva mocným nástrojom v rukách tvorcov, ktorí chcú manipulovať realitu, potvrdiť predsudky svojho publika a vyvolať strach. Dokonalým príkladom tohto nebezpečného trendu je najnovšia kauza populárneho juhoafrického vloggera Kurta Caza.
Od cestovania k „poverty porn“
Kurt Caz začínal svoju kariéru nevinne – jednoduchými videami o cestovaní. S rastúcou popularitou (dnes má takmer 4 milióny odberateľov) sa však jeho obsah radikalizoval. Prešiel k žánru tzv. „poverty porn“, kde vyhľadáva nebezpečné štvrte a getá, aby šokoval divákov.
Jeho najnovšie video s názvom „Vyhnite sa tomuto miestu v Londýne“ však prekročilo hranicu bežnej senzácie a vstúpilo do vôd cielenej manipulácie pomocou AI.
Realita vs. AI fikcia
Caz vo videu navštívil londýnsku štvrť Croydon. Aby však potvrdil svoj naratív o „nebezpečnej zóne ovládanej imigrantmi“, realita mu zjavne nestačila.
Pozorní diváci a účet Right Wing Cope odhalili, že náhľadový obrázok (thumbnail) videa bol drasticky upravený umelou inteligenciou:
- Muž na bicykli: V skutočnom videu vidíme usmievavého černocha, ktorý sa pri vloggerovi pristaví a priateľsky si s ním „ťukne päsťou“. Na AI upravenom náhľade sa tento istý muž mračí a na hlave má zrazu čiernu kuklu (balaklavu), čím pôsobí ako hrozba.
- Prostredie: Pôvodné nápisy na obchodoch v angličtine boli na obrázku nahradené textom, ktorý pripomína arabčinu, aby sa umocnil dojem „cudzieho“ a nepriateľského prostredia.
Keď fakty nesedia do scenára
Iróniou je, že samotné video priamo popiera strach, ktorý sa Caz snaží vyvolať. Keď okolo prechádza hasičské auto (pravdepodobne k požiaru), vlogger dramaticky komentuje: „Záchranné zložky sú v pohotovosti, cítim vo vzduchu energiu, akoby sa niečo chystalo.“
Keď ho spomínaný cyklista spozná a priateľsky pozdraví, Caz do kamery povie: „Vidíte, aj tu sú medzi nepriateľskými ľuďmi aj priateľskí ľudia. Len obklopený nepriateľskými ľuďmi.“
Jeho snaha vykresliť Britániu ako „sovietsku“ krajinu v rozklade naráža na realitu bežného dňa, no vďaka AI úprave náhľadu sa k miliónom ľudí v ich feedoch dostane len ten prvý, falošný a hrozivý dojem.
Nebezpečný precedens
Prípad Kurta Caza je varovným signálom. Ukazuje, ako jednoducho možno využiť generatívnu AI na vizuálne potvrdenie bigotnosti a rasizmu. Tvorcovia obsahu už nemusia čakať na skutočný konflikt alebo hrozbu – môžu si ju jednoducho vygenerovať.
Tento typ manipulácie je o to nebezpečnejší, že pôsobí na podvedomej úrovni. Ľudia pri scrollovaní sociálnymi sieťami konzumujú tieto upravené obrazy bez kritického myslenia, čím sa v spoločnosti prehlbuje strach a nenávisť na základe reality, ktorá v skutočnosti nikdy neexistovala.
