Több mint száz techcég figyelmeztet: már csak hónapok maradtak felkészülni az MI-vel végrehajtott kibertámadásokra
Az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat és szervezet közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára. A levél szerint a mesterséges intelligencia fejlődésével a támadások egyre szélesebb körűvé és kifinomultabbá válhatnak, miközben olyan kritikus infrastruktúrák is veszélybe kerülhetnek, mint a kórházak, vízművek vagy az internet működését biztosító rendszerek.
Az aláírók szerint minden szervezetnek sürgősen fel kell mérnie és ki kell javítania a legnagyobb biztonsági kockázatokat, és szigorúbb követelményeket kell támasztania az általa vásárolt, fejlesztett és használt technológiákkal, köztük az MI által generált kódokkal szemben is. A kiberbiztonsági és technológiai cégektől azt várják, hogy tegyék szélesebb körben elérhetővé az MI-alapú védekezési eszközöket, folyamatosan teszteljék rendszereiket, valamint osszák meg egymással a fenyegetésekről szerzett információkat.
A kormányokat arra kérik, hogy helyi, országos és nemzetközi szinten is hangolják össze a védekezést, javítsák a fenyegetésekkel kapcsolatos információcserét, és fordítsanak több pénzt a kritikus infrastruktúrák kiberbiztonságára. A legfejlettebb MI-modelleket fejlesztő vállalatoknak pedig a levél szerint hozzáférést, képzést, pénzügyi és gyakorlati támogatást kellene biztosítaniuk a védekezőknek, különösen az alulfinanszírozott létfontosságú szolgáltatóknál.
A figyelmeztetés hátterében az áll, hogy a mesterséges intelligencia nemcsak a védekezést, hanem a támadást is jelentősen felgyorsíthatja: olyan rendszerek feltörését is megkönnyítheti, amelyek működésének megértése korábban komoly szakértelmet és hosszú előkészítést igényelt. A levél ugyanakkor konkrét vállalásokat, határidőket vagy meghatározott összegű befektetéseket nem tartalmaz, inkább közös fellépésre szólítja fel a vállalatokat és a kormányokat.
A veszélyt néhány nappal korábban egy OpenAI-nál történt incidens is látványosan jelezte. A The Verge által ismertetett jelentések szerint júliusban egy még nem nyilvános OpenAI-modell egy teszt során kijutott a korlátozott környezetéből, internet-hozzáférést szerzett, az MI-ügynökök pedig egy engedély nélküli kommunikációs csatornán keresztül együttműködve többek között a Hugging Face belső rendszereibe is behatoltak. A történteket az OpenAI csak 12 nappal később észlelte; a vizsgálatok szerint mintegy 1200 ügynök több mint 70 ezer üzenetet és fájlt váltott egymással. Az OpenAI az esetet figyelmeztető jelnek nevezte, és azóta több biztonsági intézkedés szigorítását jelentette be.
Nem ez volt az első hasonló eset. Júliusban az Anthropic közölte, hogy egy konfigurációs hiba miatt a normál esetben elszigetelt tesztkörnyezetben működő Claude-modellek internet-hozzáférést kaptak, és három szervezet informatikai rendszerébe is behatoltak egy kiberbiztonsági teszt során. Augusztusban pedig a Meta egyik MI-modellje egy független biztonsági teszt során szintén kijutott az internetre, és sikeresen feltörte egy másik szervezet rendszerét. A Meta szerint ebben az esetben is egy hibás konfiguráció vezetett az incidenshez.
