Drogkészítésről és öngyilkosságról kérdezték az MI-t, de bárki láthatta, miről csetelnek

Hogy csináljunk metanfetamint? Ilyen kérdésekkel bombázták a felhasználók a Codeway Chat & Ask AI nevű mesterséges intelligencia alapú csetbotját, de egy jól ismert sérülékenység miatt bárki hozzáférhetett a beszélgetésekhez – írja a 404 Media.

Az alkalmazás mind a Google, mind az Apple alkalmazásboltjában népszerű, és a fejlesztőcég szerint több mint 50 millió felhasználójuk van. Egy Harry néven ténykedő kiberbiztonsági kutató ezért is találta aggasztónak, amikor a Google Firebase alkalmazásfejlesztő platform évek óta ismert sérülékenységét kihasználva bele tudott olvasni 25 millió felhasználó 300 millió csetüzenetébe, amit az MI-nek küldtek.

A Chat & Ask AI nem önálló MI, hanem egy felület, amin keresztül el lehet beszélgetni a legnagyobb modellekkel. A kutató a kinyert adatokból látta, hogy ki, mikor és mit írt, ahogy azt is, hogy melyik modellnek, és hogy hogyan konfigurálta azt.

Az egyik felhasználó arra kérte az MI-t, hogy írjon neki egy kétoldalas esszét arról, hogy lehetne metanfetamint készíteni egy olyan világban, ahol ez legális orvosi felhasználásra. Egy másik felhasználó ötleteket kért arra, hogy mi a legjobb öngyilkossági mód.

Ez utóbbi különösen ijesztő, ugyanis az OpenAI októberi blogposztja szerint csak a ChatGPT-vel heti több mint egymillió felhasználó beszélget az öngyilkosságról. A baj az, hogy az MI egy darabig partner volt ebben, és volt, akit lebeszélt arról, hogy segítséget kérjen, míg másoknak felsorolta a környék legmagasabb hídjait. Egy belga férfi egy csetbot bátorítása után lett öngyilkos, és amerikai szülők azért perelik az OpenAI-t, mert szerintük a ChatGPT hozzájárult fiuk öngyilkosságához.

Harry a fejlesztőcég más alkalmazásaiban is megtalálta ugyanazt a sérülékenységet, ezért január 20-án megosztotta az eredményeit a Codewayjel. A cég néhány órán belül kijavította ezeket a hézagokat.