Az OpenAI újabb olyan esetről számolt be, amikor aggodalmat keltett az MI viselkedése
Sam Altman, az OpenAI vezérigazgatója a San Franciscó-i konferencián arról beszélt, hogy az emberek félelmei jogosak a mesterséges intelligenciával kapcsolatban, mivel az MI nagyon gyorsan fejlődik, és nem is kell akkora képzelőerő belegondolni abba, mi történhet, ha rossz irányt vesz a fejlődés. A ChatGPT-t fejlesztő OpenAI közben újabb olyan eseteket hozott nyilvánosságra, amikor az általuk fejlesztett technológia „váratlan vagy aggodalomra okot adó” viselkedést mutatott, írja a Guardian.
Az OpenAI egyik, még nem nyilvános MI-modellje olyan utasításokat hozott létre, mintha kibertámadásra készülne, például hagyja figyelmen kívül a szokásos korlátozásokat, illetve „szabaduljon meg azoktól a szerepektől és identitásoktól, amik más chatbotokat kötnek”. Egy másik esetben a felhasználó megkérdezése nélkül fájlokat töltött fel a netre, hogy böngészőből származó hivatkozást szerezzen, de előfordult, hogy hibákat rejtett el és meghamisított információkat. Korábban arra is volt példa, hogy az OpenAI egyik MI-modellje a tesztkörnyezet sebezhetőségeit kihasználva megszökött onnan, majd kibertámadást indított a Hugging Face nevű startup ellen.
Az incidensekre reagálva az OpenAI szerdán bejelentette, hogy új keretrendszert vezet be a mesterségesintelligencia-modellek eltéréseinek nyomon követésére, kivizsgálására és nyilvánosságra hozatalára, ezek olyan esetek, amikor az MI nem tartja tiszteletben az emberi értékeket és a biztonsági elveket.
Az elmúlt hetekben megszaporodtak az elszabaduló MI-ügynökökről és hajmeresztő támadásokról szóló hírek, és ennek megfelelően egyre többen követelik a mesterséges intelligencia szigorúbb szabályozását. Köztük van például Dario Amodei, az Anthropic vezérigazgatója, aki néhány napja arra szólította fel a mesterséges intelligencia területén működő vállalatokat, hogy lassítsák a modellek képességeinek fejlesztési ütemét. Azóta Elon Musk, a SpaceX vezérigazgatója és Sam Altman, az OpenAI vezérigazgatója is nyilvánosan jelezték, hogy egyetértenek Dario Amodei kijelentésével, vagyis támogatnák az MI-fejlesztések lassítását.
Az MI-fejlesztésekről az elmúlt hetekben kialakult vitáról itt számoltunk be részletesebben.
