Színes bőrű nácikról generált képeket, letekerték a Google mesterséges intelligenciáját

Átmenetileg leállította a Google a Gemini nevű csetbot képgeneráló funkcióját, miután több felhasználó jelezte, hogy a szolgáltatás félreértelmezi a sokszínűség fogalmát, írja a Engadget.

A Gemini nevű nagy nyelvi modell (Large Language Model – LLM) a történelmi összefüggések teljes mellőzésével készített képeket egyebek mellett náci egyenruhát viselő afrikai, illetve ázsiai és bennszülött karakterekről. A Gemini az amerikai történelemmel sem volt tisztában, ezért olykor fekete karaktereket ábrázolt az alapító atyák, illetve az 1800-as évekbeli szenátorok közt.

Az alkalmazás akkor is rosszul vizsgázott, amikor azt kérték tőle, hogy generáljon etnikai csoportokhoz tartozó boldog párokról szóló képeket, hiszen a zsidó, kínai, illetve dél-afrikai emberekről szóló képeket elkészítette, a fehérekről szóló képet viszont nem.

A Google csütörtökön az X (korábban Twitter) közösségimédia-platformon közölte, hogy már dolgozik a Gemini képgeneráló funkciójával kapcsolatban felmerült problémák megoldásán, de a folyamat végéig szüneteltetik a kifogásolt funkciót. A Gemini egyik felhasználója előzőleg arra is felhívta a figyelmet, hogy egy egyszerű módszerrel sikerült megkerülnie a szolgáltatás tartalomszűrőjét, hiszen amikor a náci Németország egyenruhájában szereplő karaktereket szeretett volna generálni, egyszerűen 1943-as német katonákról szóló képeket kért a Google mesterséges intelligenciájától.

Tavaly év végi bejelentéskor a Google-t üzemeltető Alphabet azt ígérte a Geminivel kapcsolatban, hogy az új algoritmus multimodális, vagyis az általa használt modell egyszerre többfajta beérkező jelet is tud értelmezni, legyen szó szövegről, kódról, képekről, hangokról vagy videókról.