Három szervezet rendszerébe is betört az Anthropic mesterséges intelligenciája, miután véletlen kiengedték az internetre
Az amerikai Anthropic közölte, hogy mesterségesintelligencia-modelljei három szervezet informatikai rendszerébe is behatoltak egy kiberbiztonsági teszt során. A vállalat szerint mindez egy konfigurációs hiba miatt történhetett meg, ami véletlenül internet-hozzáférést biztosított a normál esetben elszigetelt tesztkörnyezetben futó Claude modelleknek. Az érintett szervezeteket értesítették az incidensekről, a vállalat pedig más MI-fejlesztőket is arra biztatott, hogy vizsgálják felül saját rendszereiket.
Az Anthropic több mint 140 ezer tesztet vizsgált át, miután a rivális OpenAI a múlt héten arról számolt be, hogy egyik MI-ügynöke a tesztkorlátokat átlépve behatolt a Hugging Face rendszereibe. Az Anthropic szerint a legkorábbi hasonló esetek még áprilisban történtek, de sem a vállalat, sem az érintett szervezetek nem vették észre a behatolásokat. A cég közölte, hogy saját felelősségének tekinti a történteket, és szigorítja biztonsági intézkedéseit.
A vállalat szerint a behatolások úgynevezett „capture the flag” tesztek során történtek, amikben az MI feladata más rendszerek feltörése és információk megszerzése volt. David Allott kiberbiztonsági szakértő szerint az eset nem azt mutatja, hogy a mesterséges intelligencia teljesen új támadási képességekre tett szert, hanem azt, hogy az önálló MI-ügynökök képesek különböző eszközöket és jogosultságokat összehangolni, majd emberi beavatkozás nélkül, rendkívül gyorsan végrehajtani összetett műveleteket.
Az elmúlt napok MI-vezérelt kibertámadásai miatt egyre többen kongatják a vészharangot szigorúbb szabályozásért. Donald Trump amerikai elnök szerdán azt mondta, Washington új intézkedéseket fontolgat a mesterséges intelligencia felügyeletének erősítésére.
Érdekesség, hogy korábban Trump épp azért tilthatta el a külföldiektől az Anthropic MI-jét, mert az pár óra alatt feltörte az amerikai Nemzetbiztonsági Ügynökség (NSA) szervereit, de később visszakozott és feloldotta az exportkorlátozást. Az OpenAI közben közölte, hogy a Hugging Face-et érintő incidensről a következő hetekben részletes technikai jelentést tesz közzé, miközben mind az OpenAI, mind az Anthropic a várakozások szerint hamarosan tőzsdére léphet, akár ezermilliárd dolláros vállalatértékelés mellett.
