Egyre többen kérdezik a ChatGPT-től, hogyan kell mérgeket és biológiai fegyvereket csinálni
Tavaly nyáron világszerte több száz felhasználó kérdezte a ChatGPT-t arról, hogyan kell mérgeket vagy biológiai fegyvereket előállítani, írja a Wall Street Journal. A lap a nagy MI-fejlesztő cégeknél dolgozó jelenlegi és korábbi alkalmazottakra, valamint biológiai fegyverekkel foglalkozó kutatókra és szakpolitikai tanácsadókra hivatkozva állítja ezt. Az OpenAI azt mondta az újságíróknak: a szóban forgó keresések többsége mérgekkel volt kapcsolatos.
A modellek készségesen válaszoltak is a kérdésekre, és a cégek alkalmazottai szerint középiskolás szintre lebutítva magyarázták el, hogyan kell ezeket a szereket és fegyvereket megcsinálni. A Wall Street Journal átnézette a ChatGPT válaszait biológiai fegyverekkel és terrorizmussal foglalkozó szakértőkkel, akik azt mondták: néhány válasz rettentően pontos volt.
Az OpenAI letiltotta azokat a felhasználókat, akik ilyen témákról kérdezték a chatbotot, de nem értesítette a hatóságokat. Az Egyesült Államokban egyelőre nincs is olyan jogszabály, ami erre kötelezné az MI-cégeket.
Mindeközben az MI-cégek dolgozói és ezzel foglalkozó kutatók szerint egyre több felhasználó kér tanácsot a mesterséges intelligenciától tömeges gyilkosságok elkövetéséről, a chatbotok pedig hitelesnek tűnő tervekkel válaszolnak arra, hogyan lehet a legtöbb embert megölni egy ilyen szcenárióban. A világ vezető mesterségesintelligencia-fejlesztő vállalatai ezzel párhuzamosan próbálják megoldani, hogyan lehet megakadályozni vagy mérsékelni a rosszindulatú felhasználók által okozott károkat úgy, hogy közben a jóhiszemű kutatási célú lekérdezéseket se akadályozzák.
Nemcsak a ChatGPT érintett a problémában: a felhasználók az Anthropic Claude-ját, a Google Geminijét és Elon Musk Grokját is kérdezték már biológiai fegyverek készítéséről. A források szerint ugyanakkor nem egyértelmű, hogy a kérdéseket valóban biológiai fegyverek előállítása céljából tették-e fel, vagy csupán a chatbotok képességeit tesztelték velük.
Hamza Chaudhry, a mesterséges intelligencia által jelentett katasztrofális kockázatok csökkentésére összpontosító nonprofit szervezet, a Future of Life Institute nemzetbiztonsági politikáért felelős vezetője azt mondta a Wall Street Journalnak: a magányos elkövetők számára az ilyen MI-lekérdezések tervezési és beszerzési segítséget nyújthatnak célzott, alacsonyabb számú halálos áldozattal járó biológiai támadásokhoz, a következő években viszont rosszindulatú csoportok már sokkal nagyobb léptékű támadások megtervezésére is használhatják a mesterséges intelligenciát. A több erőforrással rendelkező terrorszervezetek számára a szakértő szerint az MI egyfajta biológiaifegyver-szakértő és -tanácsadó lehet.
A kínai fejlesztők nyílt MI-modellei szintén fokozták az ezekből a mesterséges intelligenciából eredő kiberbiztonsági és biológiai kockázatokkal kapcsolatos aggodalmakat. Ezek a modellek ugyanis olcsók és széles körben hozzáférhetők, ráadásul testre szabhatók, ami lehetővé teheti a biztonsági korlátozások és védelmi mechanizmusok eltávolítását.
