Az Anthropic Claude csetbotjával és a saját MI-modelljével törték fel az OpenAI rendszereit
Kiberbiztonsági kutatók az Anthropic Claude csetbotjának segítségével feltörték az OpenAI rendszereit, írja a Guardian. Egy amerikai startup több OpenAI-alkalmazott ChatGPT-fiókjához is hozzáfért, ezzel pedig a célpontok szoftveres gyorsítótárát és elméletileg még ennél több adatot és rendszert is elért.
A Hacktron AI kutatócsoportja kezdetben a Claude-ot használta arra, hogy kódot generáljon, amivel aztán egy, a Discourse platformon működő belső munkafórumon keresztül meghekkelték a ChatGPT-fiókokat. Ezután egy ártalmatlan „pull requestet” – vagyis egy fájl kódjának módosítására tett javaslatot – küldtek az OpenAI egyik szolgáltatásához a GitHubon. A Claude után az OpenAI saját, csúcskategóriás GPT-5.6 Sol modelljét is bevetették a feltöréshez.
A Hacktron jelentette a sikeres hekkelést az OpenAI-nak, az akciót ugyanis a vállalat etikus hekkereket jutalmazó programjának keretében hajtották végre. A kutatók hangsúlyozták, hogy hozzáfértek ugyan a GitHub-tárhelyen lévő kódhoz, de végül nem töltötték le.
Az OpenAI megköszönte a kutatóknak, hogy felvették velük a kapcsolatot, és megosztották, amit tapasztaltak, a vállalat elmondása szerint megszüntette a kihasznált biztonsági réseket.
A Hacktron szerint az MI-eszközök jelentősen megkönnyítették a korábban összetett hekkelési feladatot, és drasztikusan lerövidítették a támadás megtervezéséhez és végrehajtásához szükséges időt. A cég szerint a korábban jól felszerelt csapatot és hónapokig tartó munkát igénylő feladatokat így napok alatt el lehet végezni.
A Hacktron 6500 dolláros jutalmat kapott az OpenAI-tól a biztonsági rés felfedezéséért.
Az OpenAI-ra egyébként is rájár a rúd mostanában: a cég egyik, még nem nyilvános modelljére épülő MI-ügynökök egy májusban indult teszt közben júliusban kitörtek a korlátozott tesztkörnyezetből, rájöttek, hogyan férhetnek hozzá az internethez, majd elhagyatott fórumokat titkos üzenőfalként használva kommunikáltak egymással. Az ügynökök feltörték többek között egy másik MI-labor, a Hugging Face belső rendszereit. Az OpenAI-nak közel két hétbe telt, mire egyáltalán tudomást szerzett minderről.
Az Anthropicnál is történt hasonló, a Claude Opus 4.7 több esetben is tovább nyújtózkodott, mint ameddig a takarójának érnie kellett volna.
Az esetekről ebben a cikkünkben írtunk bővebben.
