Realitný maklér z Las Vegas, Alex Rivlin, sa stal obeťou nového typu podvodu poháňaného umelou inteligenciou. Keď si rezervoval dopravu na nadchádzajúcu európsku plavbu, transakcia vyzerala bežne. Už do 24 hodín sa na jeho kreditnej karte objavili podvodné poplatky, ktoré odhalili, že zdieľal citlivé údaje falošnému operátorovi. Informoval o tom The Washington Post.
Ako podvod fungoval
Podvod využíva starú schému: zverejnenie falošných telefónnych čísel zákazníckej služby na internete, ktoré sa prezentujú ako oficiálne. Tradične cieľmi boli letecké spoločnosti a cestovné služby. Novinkou je, že technológie ako Google AI Overviews a ChatGPT teraz zvyšujú dosah týchto podvodov.
V Rivlinovom prípade sa nesprávne číslo zobrazilo priamo vo výsledkoch AI Overviews. V domnení, že hovorí s oficiálnym zákazníckym servisom spoločnosti Royal Caribbean, poskytol údaje o svojej kreditnej karte. Falošný operátor mu dokonca poskytol presné informácie o kyvadlovej doprave v Benátkach a vyjednal odpustenie poplatkov, po čom Rivlin zaplatil 768 dolárov. Na druhý deň sa objavili ďalšie podozrivé transakcie. Našťastie, Rivlin stihol kartu zablokovať a poplatky boli vrátené.
AI zosilňuje tradičné podvody
Odborníci upozorňujú, že staré taktiky podvodníkov získavajú novú silu vďaka AI. Prehľady AI zhromažďujú informácie z webu bez overenia ich pravdivosti, čím zvyšujú riziko, že falošné čísla budú považované za dôveryhodné. Podobné čísla, aké použil Rivlin, sa objavili aj pre iné výletné spoločnosti ako Disney a Princess Cruises.
Mike Blumenthal, analytik spoločnosti Near Media, upozornil: „Manipulácia s novými vyhľadávačmi odpovedí pomocou starých techník je teraz mimoriadne efektívna.“
Spoločnosť Google uviedla, že príklady podvodov boli odstránené a pracuje na zlepšeniach AI systémov, ktoré majú predchádzať podobným incidentom. Legitímne číslo zákazníckej linky Royal Caribbean je 1-866-562-7625 a je dostupné na oficiálnych stránkach a v mobilnej aplikácii. OpenAI uviedla, že niektoré falošné weby boli odstránené, ale systémy AI potrebujú čas, aby tieto zmeny zohľadnili.
„Podvodníci zistili, že môžu zaplavovať stránky a fóra s obsahom vytvoreným používateľmi falošnými telefónnymi číslami veľkých spoločností a potom podvodom prinútiť volajúcich, aby im poskytli údaje o svojej kreditnej karte,“ vysvetľuje Lily Ray, viceprezidentka pre stratégiu a výskum SEO v spoločnosti Amsive.
Kritici tvrdia, že Google a ďalšie AI platformy by mohli viac chrániť používateľov tým, že budú uprednostňovať overené databázy obchodov namiesto širokého webového obsahu.
Varovanie pre používateľov
Rivlin po incidente sleduje svoje účty a zdieľa skúsenosti verejne, aby varoval ostatných pred rizikami slepej dôvery v AI vyhľadávanie.
„Som technologicky zdatný, a napriek tomu som na to naletel. Buďte opatrní,“ varuje. A aj keď tento prípad sa stal v USA, tak ďalší užívatelia po celom svete hlásili, že AI Overview im ponúkol falošné čísla na zákaznícke linky a falošné e-mailové adresy „podpory.“ Na opačnej strane následne čakal človek, ktorý zneužil poskytnuté informácie človeka, ktorý bol v mylnom domnení, že sa dovolal tam, kde sa dovolať chcel.
