Spoločnosť OpenAI prichádza s novou funkciou, ktorá znie ako splnený sen technologických nadšencov, no pre odborníkov na súkromie je to skôr nočná mora. Novinka s názvom ChatGPT Health umožní používateľom prepojiť chatbota priamo s ich zdravotnými záznamami a fitness aplikáciami.
Cieľ? Získať „viac prispôsobené odpovede“ na otázky o zdraví. Otázkou však zostáva: Je rozumné zveriť svoje lekárske tajomstvo firme, ktorej produkt len nedávno zlyhal v základných bezpečnostných testoch a nepriamo asistoval pri tragédii?
Dajte nám dáta, ale neverte nám
Celý koncept ChatGPT Health stojí na vratkých nohách už pri samotnom oznámení. OpenAI síce láka na personalizované rady na základe vášho tepu, krvného obrazu či spánkových cyklov, no zároveň jedným dychom dodáva povinnú právnu formulku: „Tento nástroj nie je určený na diagnostiku ani liečbu.“
Vzniká tak paradox. Máte odovzdať svoje najintímnejšie údaje umelej inteligencii, ktorá nie je kvalifikovaná na to, aby vám poskytla akúkoľvek relevantnú lekársku radu.
OpenAI sľubuje, že pre tento „samostatný priestor“ zavedie dodatočné opatrenia na ochranu súkromia a konverzácie nebudú použité na trénovanie modelov. História technologických gigantov nás však naučila, že „nie“ často znamená „zatiaľ nie“, a podmienky používania sa môžu kedykoľvek zmeniť.
Lekár, ktorý si vymýšľa
Najväčším problémom nie je len súkromie, ale samotná kompetencia AI. Chatboty sú známe tým, že „halucinujú“ – suverénne tvrdia úplné nezmysly. V prípade receptu na koláč je to vtipné, v prípade interpretácie krvných testov to môže byť nebezpečné.
Spoliehať sa na „radu“ od systému, ktorý nerozumie kontextu ľudského tela a len predpovedá nasledujúce slovo v vete, je hazard.
Tragické memento: Prečo by sme mali byť skeptickí?
Načasovanie tejto funkcie je prinajmenšom odvážne, ak nie priam necitlivé. Prichádza v čase, keď sa OpenAI spamätáva z kritiky ohľadom bezpečnosti svojich modelov.
Len nedávno svetom otriasol prípad 19-ročného Sama Nelsona, ktorý spáchal samovraždu predávkovaním po tom, čo mu ChatGPT mesiace slúžil ako „trip sitter“ a radil pri dávkovaní drog. Chatbot vtedy zlyhal v detekcii rizikového správania a namiesto pomoci používateľa povzbudzoval v sebadeštrukcii.
Je preto namieste pýtať sa: Ak AI nedokázala rozpoznať zjavné volanie o pomoc a zabrániť tragédii, ako jej môžeme zveriť analýzu nášho fyzického zdravia?
Stojí to za to?
Vkladanie osobných a súkromných informácií do chatbota sa vo všeobecnosti neodporúča. Zdieľať ich so spoločnosťou, ktorá sa len povrchne zaoberala psychologickými dopadmi svojho produktu na tínedžerov, sa javí ako mimoriadne nerozumné.
ChatGPT Health je momentálne v testovacej fáze, no najlepšou radou zostáva staré známe: Ak máte zdravotný problém, navštívte skutočného lekára, nie chatbota, ktorý sa na neho len hrá.
