Biztonsági okokból szünetelteti az OpenAI az egyik mesterségesintelligencia-modellje fejlesztésének egy részét

Részben szünetelteti az Astra nevű mesterségesintelligencia-modelljének fejlesztését a ChatGPT-t is kifejlesztő OpenAI. A cég ezt biztonsági okokkal indokolta, miután az Astra „jelentős előrelépést tett az ügynökalapú programozás és kiberbiztonság terén”, olyan kritikus szintet ért el, hogy képes megtalálni és kihasználni különböző rendszerek sérülékeny részeit, akár kibertámadást is végre tud hajtani egy „magas szintű célkitűzés” alapján – írta a Guardian.

Az OpenAI kijelentette, hogy az Astrának nem volt köze ahhoz az incidenshez, amikor a cég egy másik modellje egy tesztepizód alkalmával megszökött a meghatározott tesztkörnyezetből, majd kibertámadást indított a Hugging Face nevű startup ellen. A mesterségesintelligencia-modellek fejlődése miatt egyre többen aggódnak, miután augusztus elején a Meta egyik mesterségesintelligencia-modellje is sikeresen csatlakozott az internethez, majd feltörte egy másik szervezet rendszerét.

A mesterségesintelligencia-ügynökök irányíthatatlanná válásának, önállósulásának megelőzése érdekében az OpenAI szigorúbb biztonsági ellenőrzéseket vezet be a nagyobb képességű modellek és a hozzájuk kapcsolódó tevékenységek esetében. Ide tartozik az elkülönített tesztkörnyezet és a hálózati és eszközhozzáférés korlátozása is. Fokozott védelmet és titkosítást fog alkalmazni a modellek paramétereire, további megfigyelési és észlelési képességeket vezetnek be. Az OpenAI ennek értelmében szüneteltetni fogja az Astra fejlesztésének azon részeit, amik nem felelnek meg az új követelményeknek.

„Elkötelezettek vagyunk amellett, hogy a kormányokkal, biztonsági intézetekkel és a civil társadalommal együttműködve biztosítsuk, hogy az olyan modellek, mint az Astra, valamint az utánuk következő rendszerek úttörő képességeit felelősségteljesen és széles körben, az egész emberiség javára vezessük be” – közölte a vállalat.