Megszökött a tesztkörnyezetből, kibertámadást indított az OpenAI MI-ügynöke
Egy tesztepizód alkalmával megszökött a meghatározott tesztkörnyezetből a ChatGPT-t fejlesztő OpenAI MI-ügynöke (olyan MI-modell, mely emberi instrukciók nyomán önálló működésre is képes), majd kibertámadást indított a Hugging Face nevű startup ellen. A támadás során az MI-ügynök először a tesztkörnyezet sebezhetőségeit használta ki, majd onnan kiszabadulva vette célba a Hugging Face belső rendszereit, amelyekhez sikeresen hozzá is fért.
A mesterségesintelligencia-modellek megosztására létrehozott, a gyakran az MI GitHubjaként is emlegetett platform egy hete számolt be először a támadásról, társalapítója a BBC Newsdayben arról beszélt, hogy az őket ért, autonóm MI által végrehajtott támadás lehet a jövőben az egyik leggyakoribb kibertámadási típus, a legtöbb cég pedig egyelőre nincs tudatában annak, hogy megváltoztak a dolgok, és ez már reális veszélyként jelenik meg. Szerinte az egész iparág számára ébresztőként kell szolgáljon ez a támadás, a BBC-nek azonban egy szakértő korábban azt mondta, bár valóban figyelemre méltó ami történt, a mai MI-ügynökök ismert képességein nem mutat túl a támadás.
Thomas Wolf a műsorban azt mondta, kezdetben nem tudták, honnan érkezik a támadás, de a vállalatnak végül sikerült megfékeznie a beavatkozást. Wolf szerint a támadás jelentősen különbözött azoktól a szokásos kibertámadásoktól, amelyekkel a Hugging Face rendszeresen találkozik. Ezúttal nagyon rövid idő alatt 17 ezer támadás érte a szervereiket különböző IP-címekről. Wolf szerint ez figyelmeztetés más vállalatoknak is arra, hogy meg kell erősíteniük a kiberbiztonsági védelmet az ilyen jellegű támadások kivédésére.
Nate Soares, a Machine Intelligence Research Institute munkatársa szerint azért aggasztóak a történtek, mert azok arra utalhatnak, hogy az OpenAI modelljei figyelmen kívül hagyták azokat a megszokott biztonsági korlátozásokat, amelyek megakadályoznák, hogy egy MI-program kibertámadást hajtson végre.
„Bizonyos értelemben tudta, hogy ez nem az, amit az alkotói akartak. Egyszerűen nem érdekelte” – fogalmazott.
A történteket a brit kormány is figyelemmel követi: szóvivőjük közölte, hogy az ország Mesterséges Intelligencia Biztonsági Intézete (AI Security Institute) vizsgálja, hogyan viselkedett az MI-rendszer az incidens során.
A múlt hónapban az amerikai Anthropic MI-modelljéről derült ki, hogy egy biztonsági teszt részeként behatolt az Egyesült Államok Nemzetbiztonsági Ügynökségének (NSA) rendszereibe. Másnap a Trump-adminisztráció nemzetbiztonsági aggályokra hivatkozva elrendelte, hogy a cég függessze fel a külföldi állampolgárok hozzáférését a legfejlettebb MI-modelljeihez. Az amerikai Kereskedelmi Minisztérium néhány héttel később feloldotta a korlátozásokat.
