Tradičné hacky sa spoliehajú na chyby v softvéri alebo škodlivý kód. S príchodom AI prehliadačov však útočníci našli nový spôsob: prompt injection – útok, ktorý využíva jazyk. Stačí správne sformulovaná veta a AI môže neúmyselne vykonať škodlivé príkazy, čím sa prehliadač stáva vektorom útoku.
Prečo sú AI prehliadače zraniteľné
Moderné webové prehliadače integrovali asistenta umelej inteligencie schopného interakcie s obsahom stránok. Tento asistent však nerozlišuje dokonale medzi legitímnymi používateľskými príkazmi a škodlivými vstupmi vloženými do textu. Útočníci tak môžu podvodne manipulovať AI, aby vykonala akcie, ktoré používateľ nikdy nezadal.
Agentické prehliadače: pohodlie so skrytou hrozbou
Agentické AI prehliadače môžu konať autonómne: rezervovať lety, spravovať účty alebo uskutočňovať nákupy. Pohodlie je obrovské, ale riziko rovnako vážne – škodlivá stránka môže získať prístup k platobným údajom, heslám alebo uskutočniť neautorizované transakcie.
Útočníci vkladajú skryté pokyny do webového obsahu, PDF dokumentov či komentárov na sociálnych sieťach. AI, ktorá tento obsah spracúva, ich interpretuje ako legitímne a môže ich vykonať. Napríklad biely text na bielom pozadí, ktorý si ľudia nevšimnú, môže pre AI predstavovať presný príkaz.
Prípadové štúdie: Brave a Comet
Testy na AI asistente Brave Leo a prehliadači Comet od Perplexity ukázali zraniteľnosť voči prompt injection. Útočníci vložili pokyny do obsahu, ktorý prehliadač spracoval, bez toho aby ich používateľ zadal. Brave upozornil, že toto predstavuje širší problém – AI musí vedieť odlíšiť príkazy používateľa od externého textu.
Ako sa chrániť pred útokmi na AI prehliadače
- Obmedzte oprávnenia agentických prehliadačov a delegujte citlivé úlohy len s ľudským potvrdením.
- Aktualizujte softvér a kontrolujte bezpečnosť zdrojov webových stránok.
- Používajte viacfaktorové overenie a monitorujte protokoly aktivít.
- Vyhýbajte sa automatizovaným finančným transakciám bez manuálnej kontroly.
Integrácia umelej inteligencie do prehliadačov prináša obrovské pohodlie, no aj nové spôsoby hackovania. Prompt injection ukazuje, že jazyk môže byť zbraňou a agentické systémy môžu byť zneužité na krádeže, manipulácie či neoprávnené transakcie. Bez preventívnych opatrení sa používatelia vystavujú vážnym rizikám.
