A Facebook a koronavírus-járvány miatt idén a szokásosnál is nagyobb ütemben építette be sokat kritizált moderációs folyamatába a mesterséges intelligenciát és a gépi tanulásos módszereket, az azonban sokszor kiderült már, hogy jelenlegi formájukban ezek a technológiák korántsem tökéletesek. Erről első kézből bizonyosodhatott meg az újfundlandi székhelyű The Seed Company is, ami csak egy hagymamagokról szóló hirdetést akart közzétenni a platformon, de az algoritmus túlságosan szexinek találta a mellékelt képen szereplő gömbölyű hagymákat – írja a BBC.
A cég hétfői posztjában számolt be a különös esetről, melynek főszereplője egy kosárnyi, méretéről és édes zamatáról ismert Walla Walla hagyma, ami a jelek szerint ráadásul pont annyira volt gömbölyű, hogy a Facebook azt higgye, a kép női melleket vagy fenekeket ábrázol. Emiatt aztán túlszexualizált, szuggesztív reklámnak ítélte a hagymákkal megtámogatott hirdetést, és nem is engedte kimenni. A cég amellett, hogy fellebbezett a döntés ellen, az eredeti hirdetés mellett meg is osztotta az elutasításról szóló képet – ami amúgy bátor döntés volt, tekintve, hogy a valamiért letiltott tartalmakról készült képekért is simán lehet kapni büntetést –, a Facebook pedig hamar reagált is a helyzetre, és visszaállította a reklámot.
Meg Sinclair, a cég kanadai sajtófőnöke viccesen annyit mondott, hogy automatizmusokat használnak a meztelenséget ábrázoló képek kiszűrésére, de néha nem tudja megkülönböztetni a Walla Walla hagymákat a női idomoktól, de az algoritmus azért ennél komolyabb helyzetekben is hibázott már. Többek közt amikor cenzúrázták a világ leghíresebb háborús fotóját, vagy amikor napokig tiltották azokat a felhasználókat, akik megosztották a Guardian cikkét, mert úgy látta, hogy a mellékelt képen túl lengén vannak öltözve a megláncolt bennszülöttek.
