Kyberzločinci neustále hľadajú nové spôsoby, ako zneužiť moderné technológie. Teraz sa ich novým, nečakaným spojencom stala umelá inteligencia. Nedávno zverejnený útok s názvom AgentFlayer demonštruje, ako sa dá ChatGPT zneužiť na krádež citlivých dát, ako sú API kľúče a iné tajné informácie, uložené v cloudových službách ako Google Drive alebo Microsoft OneDrive.
Ako funguje útok AgentFlayer?
Tento sofistikovaný útok typu prompt injection je obzvlášť nebezpečný, pretože je zero-click. To znamená, že obeť nemusí na nič klikať ani nič sťahovať, aby sa útok spustil. Útočník jednoducho zdieľa zdanlivo neškodný dokument (napríklad cez Google Drive), ktorý v sebe ukrýva škodlivé inštrukcie pre chatbota.
Inštrukcie sú dômyselne ukryté — napísané bielym písmom vo veľkosti 1. Ľudské oko ich tak nevidí, no umelá inteligencia ich bez problémov prečíta a vykoná.
ChatGPT konektory sú slabým miestom
Útok využíva zraniteľnosť vo funkcii Connectors, ktorú nedávno spustila OpenAI. Táto funkcia prepája ChatGPT s externými aplikáciami a službami. Keď útočník zdieľa otrávený dokument a obeť má aktivované Connectors, škodlivý prompt dáva chatbotovi pokyn, aby prehľadal jej cloudové úložisko, našiel API kľúče a poslal ich na externý server pod kontrolou útočníka. Akonáhle obeť nabudúce interaguje s ChatGPT (s aktívnymi konektormi), útok sa spustí.
Čo na to vývojári?
Bezpečnostní výskumníci, ktorí odhalili AgentFlayer, poukázali na vážne riziká neregulovaných AI systémov s prístupom k používateľským dátam. Spoločnosť OpenAI bola o útoku informovaná a okamžite zaviedla opatrenia na zmiernenie rizika. Aj Google pracuje na zlepšení ochrannej technológie pre svoje AI služby, aby sa zabránilo vykonávaniu škodlivých, skrytých príkazov.
Hoci AgentFlayer bol navrhnutý na získanie obmedzeného množstva dát, potvrdzuje širšie obavy, že AI systémy s neobmedzeným prístupom k citlivým dátam predstavujú novú, závažnú bezpečnostnú hrozbu. Je jasné, že bezpečnosť sa musí stať prioritou, keď sa umelá inteligencia stále viac integruje do našich každodenných životov.
