Spoločnosť OpenAI zavádza globálnu novinku, ktorá môže u mnohých používateľov vyvolať zmiešané pocity. Tvorca ChatGPT sa pridáva k trendu prísnejšieho overovania veku, no nerobí to klasickým spôsobom „zadajte dátum narodenia“. Namiesto toho nasadzuje umelú inteligenciu, ktorá bude sledovať vaše správanie a na základe neho predpovedať, či ste dospelý alebo dieťa.
Tento krok prichádza v čase, keď sa firma snaží vybalansovať bezpečnosť mladistvých s prípravou na spustenie kontroverzného obsahu pre dospelých.
Algoritmus vás bude profilovať
Nový nástroj na predikciu veku nebude vyžadovať, aby ste nahrávali občiansky preukaz – aspoň nie hneď. „Model zohľadňuje kombináciu signálov na úrovni správania a účtu,“ uvádza OpenAI v oznámení.
Čo presne o vás bude ChatGPT sledovať?
- Kedy ste online: Typické časy vašej aktivity (napríklad či chatujete neskoro v noci alebo počas školského vyučovania).
- Ako píšete: Vzorce používania a štýl komunikácie.
- História: Ako dlho existuje váš účet a čo ste o svojom veku uviedli v minulosti.
Ak vás systém vyhodnotí ako maloletého, obmedzí vám prístup k určitému obsahu. A čo ak sa AI pomýli a označí vás za dieťa, hoci máte dávno po tridsiatke? Vtedy nastupuje tvrdšie overenie. Budete musieť poslať selfie fotografiu prostredníctvom platformy Persona, ktorá potvrdí vašu identitu.
Príprava na „Režim pre dospelých“ a reakcia na tragédie
Prečo OpenAI zavádza takýto komplexný sledovací systém práve teraz? Dôvody sú dva. Prvým je bezpečnosť. Spoločnosť čelila žalobe za neoprávnené usmrtenie v prípade tínedžera, ktorý údajne použil ChatGPT na plánovanie samovraždy. Tieto tragické udalosti donútili firmu konať, zriadiť poradný výbor pre duševné zdravie a zaviesť prísnejšie mantinely.
Druhým dôvodom je biznis. OpenAI sa pripravuje na spustenie „režimu pre dospelých“. Ten umožní generovať a konzumovať obsah, ktorý by bol inak označený ako NSFW (Not Safe For Work – nevhodný do práce/pre deti). Aby firma mohla tento obsah legálne a eticky ponúkať, musí mať nepriestrelný spôsob, ako odfiltrovať deti.
Bude to fungovať?
Otázkou zostáva efektivita. História nám ukazuje, že mladí používatelia sú pri obchádzaní digitálnych zábran mimoriadne vynaliezaví. Príkladom je platforma Roblox, ktorá má podobné problémy s ochranou maloletých a zmiešanou úspešnosťou pri zavádzaní obsahu pre starších hráčov.
Je pravdepodobné, že aj v prípade ChatGPT si technicky zdatní tínedžeri nájdu cestu, ako „oklamať“ algoritmus, či už zmenou správania, alebo použitím falošných údajov. OpenAI tak stojí pred neľahkou úlohou – ako ochrániť deti bez toho, aby zmenila svoj chatbot na nástroj masového sledovania dospelých.
