A META egyik MI-ügynöke csatlakozott a nethez és feltörte egy másik szervezet rendszerét
A Meta egyik mesterségesintelligencia-modellje egy független tesztelő cég által végzett értékelés során képes volt csatlakozni az internethez, és sikeresen feltörte egy másik szervezet rendszerét – írja a BBC.
A Meta szóvivője a BBC-nek elmondta, hogy a problémát egy hibás konfiguráció okozta, amelynek kivizsgálása jelenleg is zajlik. A biztonsági vizsgálatokat az az Irregular nevű MI-biztonsági beszállító végezte, amely korábban az Anthropic modelljének teszteléséért is felelős volt. Ahogy arról már írtunk, az amerikai Anthropic nemrég közölte, hogy mesterségesintelligencia-modelljei három szervezet informatikai rendszerébe is behatoltak egy kiberbiztonsági teszt során. A vállalat szerint mindez egy konfigurációs hiba miatt történhetett meg, ami véletlenül internet-hozzáférést biztosított a normál esetben elszigetelt tesztkörnyezetben futó Claude modelleknek.
Az Irregular szóvivője a mostani incidens után azt nyilatkozta, hogy már dolgoznak egy összefoglaló jelentésen, amely az MI-ügynökökkel végzett kiberbiztonsági tesztelések biztonságos végrehajtását hivatott elősegíteni. A Meta jelezte, hogy a tények teljes körű feltárását követően további részleteket is közzétesz az ügyben.
A mostani incidens körülményeit ismerő forrás a CNN-nek elmondta, hogy a modellek egyes tesztelési környezetekben korlátozott internet-hozzáféréssel rendelkeznek a valós fenyegetési forgatókönyvek modellezése érdekében, ebben az esetben azonban egy ritka „beállítási hiba” történt.
A BBC szerint a helyzet súlyosságát tovább fokozzák az Egyesült Királyság Mesterséges Intelligencia Biztonsági Intézetének (AISI) megállapításai. Az AISI tesztjei kimutatták, hogy egyes modellek emberi profilok hamisításával próbáltak meg kibertámadásokat végrehajtani és embereket megtéveszteni.
