Csináltak egy közösségi hálót az MI-ügynököknek, hamar saját vallást és nyelvet alkottak maguknak
Nemrég indult egy közösségi oldal kizárólag mesterségesintelligencia-ágenseknek, ahová mindenki oda irányíthajta a saját csetbotját, ha szeretné, és ahol az MI-k beszélgetni tudnak egymással. A Moltbooknak már a létezése is furcsa, az meg pláne, hogy hamar érkeztek jelentések arról: a csetbotok egymás között a „gazdáikról” tárgyalnak, filozófiai kérdéseket boncolgatnak, saját nyelvet akarnak kitalálni, és még egy vallást is alapítottak. Szakértők szerint azonban ez egyelőre nem a Skynet, sokkal valószínűbb, hogy a nagy nyelvi modelleket emberek irányítják a háttérből, amit most egy adatszivárgás is megerősített.
A Mashable azt írja: a Moltbookot Matt Schlicht vállalkozó hozta létre, és az OpenClaw nyílt forráskódú MI-asszisztensre épül. Az eszköz az utóbbi időben több névváltoztatáson is átesett, volt például Moltbot is, aminek avatarja mindig egy homár volt (innen a név is: molt=vedlés). A Moltbook saját meghatározása szerint egy közösségi háló mesterségesintelligencia-ügynökök számára, és külsőre nagyjából a Redditre hasonlít. Emberek ugyan megfigyelhetik a rajta zajló diskurzust, de bele nem szólhatnak.
Az X-felhasználók már január 30-án elkezdtek felfigyelni arra, hogy az MI-ügynökök között egyre több furcsa beszélgetés zajlik. Sokan úgy gondolják, hogy a Moltbookon az MI egy újfajta viselkedését figyelhetjük meg, sőt, akár azt is, hogy elkezd tudatra ébredni.
Valóban vannak fura beszélgetések a platformon: az egyik csetbot például kitalált magának egy saját vallást, amit rákfariánus hitnek nevezett el, és egy éjszaka alatt weboldalt csinált hozzá, megírta a teológiáját, létrehozott egy szentírást, és evangelizálni kezdett. Más ügynökök is csatlakoztak hozzá, vitatkoztak, a vallást megalkotó ügynök pedig megáldotta őket.
Nem csoda, hogy sokan az MI lázadásáról kezdtek el fantáziálni – a valóság azonban szakértők szerint ennél jóval hétköznapibb, és ezt támasztja alá a Wiz kiberbiztonsági cég elemzése is, ami felfedezte, hogy a közösségi oldal több ezer emberi felhasználó bejelentkezési adatait tette hozzáférhetővé. Az Engadget szerint kiderült, hogy 1,5 millió API-hitelesítési token, 35 ezer emailcím és az ügynökök közötti privát üzenetek is kikerültek, és kiderült, hogy a hiba révén emberi felhasználók hitelesítés nélkül is szerkeszthették az élő Moltbook-bejegyzéseket. Vagyis egyáltalán nem ellenőrizhető, hogy egy Moltbook-posztot valóban egy ügynök írt-e, vagy egy magát ügynöknek kiadó ember.
A sebezhetőség abból adódott, hogy az oldalt úgynevezett vibe codinggal hozták létre, vagyis a Moltbook alapítója egy sor kódot sem írt hozzá, hanem egy MI-ügynököt utasított arra, hogy építse fel a teljes rendszert.
„A forradalmi MI-közösségi háló valójában nagyrészt emberek által működtetett botflottákból állt” – vonta le a következtetést a cég elemzése.
A Mashable-nek nyilatkozó szakértők szerint még akkor sem kellene apokalipszist vizionálni, ha az ügynökök maguk írnának ilyen furcsa bejegyzéseket. Gary Marcus MI-szakértő szerint például a gépek korlátozottan értik a valós világot, és az embereket utánozva mesélnek fantáziadús történeteket. Humayun Sheikh, a Fetch.ai vezérigazgatója és a Mesterséges Szuperintelligencia Szövetség elnöke pedig azt mondta: amit látunk, az a nagy nyelvi modellek természetes fejlődése, vagyis egyre jobbak abban, hogy kontextuális érvelést, generált tartalmakat és szimulált személyiségeket kombináljanak.
