Rada Európskej únie súhlasila s návrhmi Európskej komisie na prísny zákaz využívania umelej inteligencie (AI), ktorá dokáže „vyzliekať“ občanov EÚ alebo vytvárať materiály obsahujúce sexuálne zneužívanie detí (CSAM). Tieto návrhy sú kľúčovou súčasťou širšieho balíka Digital Omnibus, ktorého cieľom je zjednodušiť a harmonizovať existujúce pravidlá v oblasti AI, kybernetickej bezpečnosti a ochrany údajov.
Kontext: Prečo EÚ zasahuje proti digitálnemu zneužívaniu?
V posledných rokoch sme svedkami masívneho a nebezpečného rozmachu generatívnej umelej inteligencie. Nástroje, ktoré dokážu z bežnej fotografie vytvoriť mimoriadne realistický a kompromitujúci „deepfake“ akt (takzvané nudification aplikácie), sa stali ľahko dostupnými pre bežných používateľov. To viedlo k obrovskému nárastu digitálnej šikany, vydierania a poškodzovania povesti, pričom obeťami sú najčastejšie ženy a dokonca aj neplnoleté osoby.
Pomyselnou poslednou kvapkou pre európskych zákonodarcov bola kauza z prelomu rokov. V decembri a januári používatelia masívne zneužili chatbota Grok (zabudovaného priamo v sociálnej sieti X patriacej Elonovi Muskovi) na to, aby „vyzliekal“ ženy na fotografiách a generoval falošný intímny obsah. Hoci sa Musk za incident verejne ospravedlnil a prisľúbil nápravu, Európska komisia oznámila začatie formálneho vyšetrovania a rozhodla sa zakročiť priamo na legislatívnej úrovni. Do Zákona o umelej inteligencii (AI Act) tak bolo pridané nové ustanovenie, ktoré explicitne a prísne zakazuje generovanie nekonsenzuálneho sexuálneho obsahu.
Nové pravidlá pre vývojárov a upravené termíny
Súčasťou schváleného balíka sú aj dôležité úpravy časového harmonogramu a prísnejšie povinnosti pre samotných tvorcov AI. Komisia navrhla posunúť uplatňovanie pravidiel pre takzvané vysokorizikové AI systémy o 16 mesiacov, aby firmám poskytla realistický čas na technickú adaptáciu a zosúladenie so zákonom.
Pre samostatné vysokorizikové AI systémy tak budú nové pravidlá platiť od 2. decembra 2027. V prípade vysokorizikových AI systémov, ktoré sú priamo integrované do iných produktov, sa dátum účinnosti posúva na 2. august 2028. Všetci poskytovatelia zároveň dostali prísnu povinnosť registrovať svoje technológie v centrálnej databáze EÚ určenej pre vysokorizikové systémy. EÚ však myslí aj na menších hráčov na trhu – navrhla výnimky z určitých byrokratických regulácií pre viacero malých a stredných podnikov (MSP), aby tak neudusila európske inovácie.
Ochrana dát a digitálna suverenita Európy
Návrh Rady taktiež obnovuje štandard takzvanej „prísnej nevyhnutnosti“ pri spracúvaní osobitných kategórií osobných údajov. V praxi to znamená, že citlivé dáta používateľov sa môžu spracúvať len vtedy, ak je to vyslovene a nevyhnutne potrebné na odhaľovanie a korekciu zaujatosti (bias) v samotných AI systémoch. Taktiež sa vyjasňujú kompetencie nového Úradu pre umelú inteligenciu (AI Office) a definujú sa výnimky, pri ktorých zostávajú kompetentné národné orgány členských štátov.
„Zefektívnenie pravidiel o umelej inteligencii je nevyhnutné pre zabezpečenie digitálnej suverenity EÚ,“ zdôraznila v oficiálnom vyhlásení Marilena Raouna, námestníčka cyperského ministra pre európske záležitosti, ktorej krajina momentálne Rade predsedá. Dodala, že na návrhu sa pracovalo s obrovskou naliehavosťou, aby sa uľahčilo včasné a efektívne uplatňovanie Zákona o umelej inteligencii v praxi.
