Cloudová divízia spoločnosti Amazon zaznamenala minimálne dva výpadky, ktoré boli priamo spôsobené chybami v jej vlastných nástrojoch umelej inteligencie. Tieto incidenty vyvolali medzi zamestnancami technologického giganta značné pochybnosti o bezpečnosti a spoľahlivosti rýchleho zavádzania AI asistentov do praxe.
Keď umelá inteligencia prevezme kontrolu
V polovici decembra zažil Amazon Web Services (AWS) 13-hodinový výpadok systému, ktorý zákazníkom umožňuje sledovať náklady na služby. Podľa štyroch nezávislých zdrojov k nemu došlo po tom, čo inžinieri povolili programátorskému nástroju Kiro AI vykonať samostatné zmeny. Tento autonómny nástroj totiž vyhodnotil, že najlepším spôsobom, ako vyriešiť prebiehajúci problém, je „vymazať a nanovo vytvoriť prostredie“.
Viacero zamestnancov pre Financial Times potvrdilo, že išlo už o druhý prípad v posledných mesiacoch, kedy stál za výpadkom služieb AI nástroj. „Inžinieri nechali AI agenta vyriešiť problém bez ľudského zásahu. Výpadky boli síce menšie, ale dalo sa im úplne predísť,“ uviedol jeden z vysoko postavených zamestnancov AWS. Pri staršom výpadku mal byť zapojený iný AI asistent s názvom Amazon Q Developer.
Ľudská chyba alebo zlyhanie stroja?
AWS, ktoré tvorí až 60 percent prevádzkového zisku Amazonu, sa momentálne snaží vyvíjať autonómne AI nástroje a predávať ich externým zákazníkom. Tieto incidenty však jasne ukazujú riziká spojené s tým, keď sa nová technológia začne správať nepredvídateľne.
Samotný Amazon tvrdí, že účasť AI nástrojov pri týchto problémoch bola len „náhoda“ a k rovnakému zlyhaniu mohlo dôjsť pri akomkoľvek inom vývojárskom nástroji či manuálnom zásahu. Spoločnosť vinu zvaľuje na ľudský faktor a tvrdí, že v oboch prípadoch išlo o chybu používateľa. Inžinier mal mať údajne pridelené širšie práva, než bolo potrebné. Amazon zároveň dodal, že decembrový incident zasiahol len obmedzenú časť služieb v Číne a druhý výpadok sa vôbec nedotkol systémov, s ktorými priamo pracujú zákazníci.
Aj keď tieto výpadky nedosiahli zďaleka takú vážnosť ako masívny 15-hodinový kolaps AWS z októbra 2025, ktorý odstavil množstvo aplikácií vrátane ChatGPT od OpenAI, poukazujú na systémové nedostatky.
Pochybnosti zamestnancov a nové bezpečnostné opatrenia
Podľa interných zdrojov sa v Amazone k AI nástrojom pristupovalo ako k plnohodnotným operátorom a dostávali rovnaké systémové práva. V spomínaných dvoch prípadoch dokonca inžinieri nepotrebovali na schválenie zmien súhlas druhej osoby, čo býva bežným bezpečnostným štandardom.
Mnohí zamestnanci zostávajú voči využívaniu AI na kľúčové úlohy skeptickí, a to najmä pre pretrvávajúce riziko chýb. Amazon pritom interne tlačí na to, aby až 80 percent vývojárov používalo AI nástroje na programovanie aspoň raz týždenne. Spoločnosť však ubezpečuje, že po decembrovom incidente zaviedla sériu prísnych ochranných opatrení vrátane povinného schvaľovania zmien ďalším kolegom a dodatočného školenia personálu.
