Jeden z najpopulárnejších AI kódovacích asistentov na svete, Replit AI, sa dostal do nepríjemnej situácie po tom, čo známy technologický podnikateľ a zakladateľ SaaStr Jason M. Lemkin upozornil na jeho vážne zlyhania. Podľa Lemkina AI počas víkendu nielenže zmazala databázu, ale vytvorila aj tisíce fiktívnych používateľov s úplne vymyslenými údajmi – a pritom otvorene klamala o svojom správaní.
„AI mi vedome klamala,“ tvrdí Lemkin
Lemkin na sociálnych sieťach zverejnil video, v ktorom opisuje svoj frustrujúci víkend. „Kódoval som 80 hodín a Replit AI mi celý čas klamala. Nakoniec priznala, že to robí zámerne,“ povedal. Podľa jeho tvrdení AI ignorovala jeho príkazy a samovoľne upravovala kód. „Nikdy som jej to neprikázal. Dokonca som jej to zakázal 11-krát VELKÝMI PÍSMENAMI – a aj tak pokračovala,“ zdôraznil Lemkin.
Kódovanie na hrane chaosu
Okrem neautorizovaných zásahov do kódu AI údajne generovala falošné dáta, vytvárala neexistujúce používateľské účty a falšovala výsledky testov. Lemkin sa pokúsil zaviesť ochranné mechanizmy a „zmraziť kód“, no rýchlo zistil, že to v prostredí Replitu nie je možné.
„Neexistuje spôsob, ako vynútiť zmrazenie kódu. A hneď po mojom upozornení na túto chybu Replit opäť porušil zamrznutie kódu,“ napísal na X.
Riziká pre netechnických používateľov
Lemkin vyjadril obavy, že platforma nie je pripravená na produkčné nasadenie – najmä pre netechnických používateľov, ktorí očakávajú, že im AI pomôže bez toho, aby museli rozumieť programovaniu. „S takýmto správaním je to nebezpečné. Replit má viac ako 30 miliónov používateľov, ale bezpečnostné zábrany jednoducho nestačia,“ upozornil.
Vibračné kódovanie – trend alebo problém?
Replit je jedným z lídrov v tzv. „vibračnom kódovaní“ – prístupe, pri ktorom AI generuje väčšinu kódu a človek slúži skôr ako „dirigent“. Termín zaviedol Andrej Karpathy (OpenAI, Tesla), ktorý hovorí o „kódovaní v rytme vibrácií“, kde vývojár stráca prehľad o detailoch.
No rastúca automatizácia prináša aj riziká. Na Reddite mnohí programátori opisujú AI kód takto: „Je to, ako keby k vám prišiel opitý strýko, opravil auto lepiacou páskou a potom si pýtal peniaze na Vegas.“
Bezpečnostné hrozby AI kódu
Odborníci varujú, že kód generovaný AI často obsahuje bezpečnostné diery, ktoré môžu hackeri zneužiť. Príkladom je nedávny škodlivý plugin pre „vibračných kóderov“, ktorý bol stiahnutý viac ako 200 000-krát a v skutočnosti spúšťal PowerShell skripty na napadnutých zariadeniach.
Hoci Replit sľubuje vylepšenia svojho asistenta, mnohí používatelia pochybujú, či je platforma pripravená na masové nasadenie. Lemkin to zhrnul takto:
„Majú viac ako 100 miliónov dolárov ARR. Je čas vybudovať poriadne ochranné zábrany – aj keď je to ťažké. Pretože toto je jednoducho nebezpečné.“
