Nasadenie technológie do praxe prinieslo svoje ovocie.
Toxicita v online hrách je stále veľkým problémom a na PC sa jeho veľkou súčasťou textový chat, ktorý v sebe často nesie urážky všetkého možného druhu. Preto organizácia FACEIT vyvinula v spolupráci s Google Cloud a technológiou Google Jigsaw technológiu Minverva, ktorá ma za úlohu analyzovať toxické správanie pri online hraní a následne banovať a upozorňovať previnilcov.
Od jej nasadenia prešlo šesť týždňov a prvé výsledky sú na svete. Minerva za 6 týždňov označila 7 miliónov správ ako toxické, pričom na nevhodné správanie upozornila 90 tisíc hráčov a rovno rozdala 20 tisíc banov. Využitie tejto technológie malo vplyv aj na správanie hráčov v hre, nakoľko v porovnaní medzi mesiacmi August a September klesol podiel toxických správ o 20% a počet hráčov, ktorí takéto správy posielali klesol o 8%.
„Detekcia v in-game chate je prvou a najjednoduchšou aplikáciou Minervy a je prvým krokom v našej vízii pre túto AI. Sme nadšení z týchto základov tejto technológie a tie nám umožnia vylepšovať Minervu tak, aby vedela takéto správanie identifikovať a trestať v reálnom čase. V najbližších týždňoch oznámime nové systémy, ktoré sa Minerva učí,“ prezradili predstavitelia FACEIT.
Minerva je založená na technológii machine learning a pri detekcii toxického správania v chate najprv upozorní autora, aby sa správal slušne a pri opakovanom porušení vydá rovno ban. Minerva vie navyše blokovať spam správy.