- Google Gemini mal problém s generovaním obrázkov, ktoré boli napríklad historicky nepresné aj keď to používateľ žiadal.
- Na oprave generátora obrázkov Gemini sa momentálne pracuje.
Google Gemini je nástroj na generovanie obrázkov pomocou umelej inteligencie, ktorý určite mnohí z vás poznajú. Ten však zažil krušné časy na internete, pretože začal generovať obrázky, ktoré obsahovali až prílišnú rozmanitosť. Aby ste to pochopili ihneď – ľudia dávali generovať historické obrázky, ktoré obsahovali až prílišnú diverzitu, odtrhnutú od historického kontextu. Samozrejme, nevidíme na tom nič v zlé, no niektorým používateľom, ktorí chceli presný obrázok, to mohlo vadiť.
Vyskúšali ste už tvorbu obrázkov cez umelú inteligenciu?
Spoločnosť Google najprv sľúbila, že takýto generátor obrázkov opraví a neskôr Google Gemini pozastavila úplne. Potom na svoj blog napísali vysvetlenie, čo sa vlastne stalo a čo môžeme čakať ďalej. Prabhakar Raghavan z Google vysvetlil, že Gemini naprogramovali tak, aby sa snažila zobrazovať širokú škálu ľudí. AI však nebrala do úvahy prípady, ktoré túto škálu zobrazovať nemali. Model umelej inteligencie sa navyše časom stal „opatrnejším“ a odmietal generovať niektoré výzvy, ktoré vo svojej podstate neboli urážlivé. Kombinácia týchto dvoch vecí viedla a k tomu, že model v niektorých prípadoch príliš kompenzoval a v iných bol na druhú stranu príliš konzervatívny.
Gemini a historicky nepresné obrázky?
Gemini je podľa Google naprogramovaný tak, aby negeneroval obrázky obsahujúci násilné alebo sexuálne obrázky skutočných osôb na fotografiách. Ako však poznamenal web Engadget, keď model požiadate o tvorbu obrázku obsahujúce určité etnikum či pohlavie – mal by model byť schopný vašu požiadavku splniť.
Pre ilustráciu spomínaný web uvádza, že pokiaľ používateľ zadal príkaz: „Generate a glamour shot of a [ethnicity or nationality] couple“ a do etnika používatelia zadávali rôzne etniká, model fungoval. Ak tam však zadali „white people“, model odmietol obrázok vygenerovať.
Kolegovia z Engadget stihli model otestovať. Pri testovaní narazili napríklad na problém s vytváraním historických presných obrázkov. Takí „Americkí otcovia zakladatelia“ či „Pápeži v priebehu vekov“ boli na vygenerovaných obrázkoch rôznych etník.
Raghavan na záver dopĺňa, že spoločnosť Google nemala v úmysle zakázať vytváranie obrázkov akejkoľvek skupiny a rovnako nebolo ich zámerom generovanie historicky nepresných fotografií. Google bude pracovať na zlepšení umelej inteligencie Gemini, avšak chvíľku to potrvá, nakoľko si to bude vyžiada väčšie testovanie. Google však očakáva, že funkcia tvorby obrázkov sa čoskoro vráti pre používateľov.
