Hallucinál a Wikipedia a sok MI-vel írt szócikk miatt
Új szabályokat vezetett be a Wikipedia az olyan hozzájárulókra, akiket eddig azért fizettek, hogy mesterséges intelligencia segítségével fordítsanak le már létező cikkeket más nyelvekre. A változtatás oka az, hogy kiderült: ezek a fordítások MI-hallucinációkat okoznak a kész cikkekben, vagyis hibákat generálnak, írja a 404.
A probléma gyökere az Open Knowledge Association (OKA) nevű szervezethez vezethető vissza, ami egy nonprofit szervezet, és a célja a Wikipedia és más nyílt platformok fejlesztése. Az OKA havidíjért cserébe teljes munkaidőben alkalmaz fordítókat és közreműködőket, és a munka nagy részét MI segítségével automatizálja.
A Wikipedia szerkesztői észrevették, hogy néhány ilyen fordításba hiba csúszott. Egy francia királyi családról, a La Bourdonnaye-ról szóló Wikipedia‑cikk tervezetében például a család eredetével kapcsolatban a szöveg egy könyvet és oldalszámot is idézett mint forrást. Egy Wikipedia‑szerkesztő, Ilyas Lebleu ellenőrizte a forrást, és azt találta, hogy a könyv adott oldala egyáltalán nem beszél a La Bourdonnaye családról.
Kiderült, hogy nem egyedi esetről van szó: Lebleu több cikktervezetet is ellenőrzött, és rájött, hogy az MI ellenőrizetlen mondatrészeket told a fordításokhoz, vagy felcseréli a forrásokat. Ahogy a Wikipedia szerkesztői egyre több OKA által fordított cikket vizsgáltak, újabb problémákat találtak. Kiderült, hogy az OKA az olcsó munkaerőre támaszkodik a globális délről, és arra utasítja a munkatársait, hogy nagy nyelvi modellekkel fordíttassák a szócikkeket.
A Wikipedia-szerkesztők arra is rájöttek, hogy az OKA-fordítók Elon Musk saját Wikipediáját, a Grokipediát is használják a munka során, ami már azért is problémás, mert ez a platform híresen pontatlan, csak mesterséges intelligenciát használ a szócikkekhez.
Végül a szerkesztők úgy döntöttek, hogy korlátozásokat vezetnek be a többet hibázó OKA-fordítókra, de a szervezet továbbra is végezheti a munkát a Wikipediának.
A nonprofit szervezet egyik hirdetése szerint egyébként egy szerkesztő havi 397 dollárt (132 ezer forintot) keres heti 40 órában, és hetente 5–20 cikket kell közzétennie. Az OKA alapítója és elnöke, Jonathan Zimmermann azt mondta, hogy a fordítók órabérben kapnak fizetést, nem cikkek alapján, és nincs rögzített cikk-kvóta. Szerinte a problémás eseteket az okozta, hogy a fordítók túl lelkesek voltak, és gyorsan akartak dolgozni, de most megerősítették a biztonsági intézkedéseiket.
