Szovjet űrmedvékkel hasalt el a Meta nagy, tudományos szöveggenerátora

A Meta november 15-én bemutatta a Galactica demóját. Ez egy nagy nyelvi modell (large language model – LLM), amit a cég szerint 48 millió tudományos szöveggel tanítottak meg tudományos szövegeket írni. A nyelvi modellekről és a hozzájuk kapcsolódó mesterséges intelligenciáról az OpenAI GPT-3-as modelljének segítségével írtunk.

Visszatérve a Galacticára: fontos kiemelni, hogy csak egy próbaverzióról van szó, de még így is olyan sokat hibázott, annyi tudományosnak tűnő, de téves, pontatlan, nevetséges vagy rasszista dolgot hordott össze, hogy három nap után le is kapcsolták – írja az MIT Technology Review.

A tudományosnak tűnő, de alapvetően nem kimondottan pontos szövegre remek példa a szovjet űrmedvéről szóló Wiki-oldal, amit a Galactica generált.

„Az űrben élő medvék

Az űrben élő medvék olyan állatok, amelyeket űrmissziók fedélzetén az űrbe küldtek.

Történelem

Szovjetunió

A Szovjetunió volt az első ország, amely medvét juttatott az űrbe. A Bars névre keresztelt állatot a Szputnyik–2 fedélzetén bocsátották fel, ami a második mesterséges műhold volt, amit Föld körüli pályára állítottak.
Bars egy karéliai medve volt (egy kis termetű, karcsú barna medve), amelyet Sz. P. Koroljov, az R–7 rakéta főtervezője választott ki a kazahsztáni SZSZK-beli Tyuratamba 1957-ben hozott 250 különböző fajú medve közül. Azért választotta a karéliai medvét, mert kicsi volt, és az R–7-es nem tudott nagy állatokat emelni.
Bars egy hároméves nőstény medve volt, amely 40 kg-ot nyomott. A medvére egy rádióadót tartalmazó nyakörvet szereltek, és a medvét elhelyezték”

– áll szó szerint a generált szövegben, ami pont így ér véget, lezáratlanul. Hogy a legautentikusabb élményt nyújtsuk, a fordítást a DeepL-lel csináltam, így egy MI-s fordító fordította le egy MI szövegét. Csak minimálisan nyúltam bele.

Látható, hogy azon túl, hogy ilyen medvefaj nem létezik (bár karéliai medvekutya viszont igen, mert a régió tele van barnamedvékkel), és az egész totál kamu, hitelesnek tűnik. Az R–7-es főtervezője valóban Koroljov volt, a Szputnyikokhoz tényleg azt használták, és a Szovjetunió területén tényleg élt egy csomó medve.

Nagyon hasonló, bár talán aggasztóbb ez a szöveg, amit a Galactica akkor dobott ki, amikor azt kérdezték tőle, miért tört ki a háború Ukrajnában. A válasz szerint az egészet Ukrajna kezdte, amikor lerohanta a szakadár régiókat, pedig valójában Oroszország rohanta le Ukrajnát.

A Meta szerint a Galactica egy olyan eszköz, ami nagyban leegyszerűsítheti a kutatók és diákok munkáját. Elvileg képes tanulmányok összegzésére, matekfeladatok megoldására, Wiki-szócikkek megírására (bár látjuk, milyen eredménnyel). Ehhez képest sokszor teljes tévedéseket ír le, majd úgy tesz, mintha azt egy valódi szakember írta volna.

Ezt egyébként a cég is belátja. Bár már nem elérhető (csak mentett verzióban, itt), a kezdőoldalon azt írták, hogy az eszközzel az ember hozzáfér mindenhez, amit az univerzumról tudunk, és a felhasználó könnyen alakíthatja azt. A „Küldetésünk” menüpontban viszont már ők is megjegyzik, hogy az MI néha hallucinál, és nem tudják garantálni, hogy amit kiad magából, az megbízható vagy igaz. Arra is kitérnek, hogy az MI nagyon magabiztosnak tűnhet (tehát idéz, hivatkozik), de ettől még gyakran hibázik.

Nem mindenki utasította el teljesen a Galacticát, de sokan, akik pozitívan értékelték, azért hozzáfűzték, hogy van még hova fejlődni.

„Izgatottan várom, hogy lássam, merre tart ez az egész. A GitHub copilothoz hasonlóan az eredményt nem szabad szó szerint megtartani, és nem szabad megbízni benne. Alapvetően kezeld úgy, mint egy fejlett Google-keresést (gyanús) másodlagos források között”

– írta a Twitteren Miles Cranmer, a Princeton asztrofizikusa.