Spoločnosť Anthropic bije na poplach a vyzýva na boj proti takzvaným „destilačným útokom“. Z masívneho zneužívania svojho populárneho chatbota Claude obvinila hneď tri konkurenčné AI firmy. Na svojom webe zverejnila tvrdenie, že spoločnosti DeepSeek, Moonshot a MiniMax rozbehli „kampane v priemyselnom meradle“, ktorých cieľom bolo nezákonne ťažiť z možností modelu Claude a vylepšovať tak svoje vlastné technológie.
Čo sú to destilačné útoky?
Pojem destilácia vo svete umelej inteligencie označuje proces, pri ktorom sa menej schopné modely učia a trénujú na základe odpovedí od tých pokročilejších. Hoci destilácia sama o sebe nemusí byť vždy vnímaná negatívne, Anthropic upozorňuje na jej nekalé využitie.
Spomínané tri čínske firmy mali podľa nich zrealizovať viac ako 16 miliónov interakcií s chatbotom Claude, a to prostredníctvom zhruba 24-tisíc falošných účtov. Využili ho tak ako skratku k vývoju vlastných, pokročilejších modelov, čo so sebou nesie aj riziko obchádzania dôležitých bezpečnostných poistiek a pravidiel.
Presvedčivé dôkazy a reakcia trhu
Anthropic tvrdí, že s vysokou mierou istoty dokáže tieto útoky prepojiť s konkrétnymi spoločnosťami. Pomohla im k tomu detailná analýza IP adries, požiadavky na metadáta a rôzne indikátory infraštruktúry. Svoje zistenia si navyše potvrdili aj s ďalšími hráčmi v AI priemysle, ktorí zaznamenali podobné podozrivé aktivity. S podobným problémom sa mimochodom začiatkom minulého roka potýkal aj gigant OpenAI, ktorý v reakcii na tajné trénovanie konkurenčných modelov zablokoval množstvo podozrivých účtov.
Obrana aj vlastné problémy so zákonom
Tvorcovia modelu Claude už avizovali, že plánujú výrazne vylepšiť svoje systémy tak, aby bolo podobné destilačné útoky oveľa ťažšie zrealizovať a naopak ľahšie odhaliť. Je však trochu paradoxné, že kým Anthropic ukazuje prstom na nekalé praktiky svojej konkurencie, sám sa momentálne potýka s vážnymi súdnymi ťahanicami. Hudobné vydavateľstvá totiž túto spoločnosť zažalovali za to, že pri trénovaní svojho chatbota údajne neoprávnene využívala nelegálne kópie autorsky chránených skladieb.
Ide tak o tradičný prípad „zlodej kričí, chyťte zlodeja.“
