Beperelte egy kanadai tartomány az OpenAI-t, mert nem értesítette a hatóságokat, hogy egy iskolai lövöldöző fegyveres erőszakról csetelt a ChatGPT-vel
Pert indított az OpenAI ellen a kanadai Brit Columbia tartomány, miután kiderült, a vállalat nem értesítette a hatóságokat azokról az aggasztó üzenetváltásokról, amelyeket a februári iskolai lövöldözés elkövetője folytatott a ChatGPT-vel – írja a BBC.
A Brit Columbia államban, Vancouver városától nagyjából 650 kilométerre északra található, 2400 lakosú Tumbler Ridge városában idén februárban nyolc embert ölt meg egy lövöldöző, majd magával is végzett. A 18 éves Jesse Van Rootselaar először az édesanyjával és mostohatestvérével végzett az otthonában, mielőtt volt iskolájában kezdett ámokfutásba. A támadásban egy tanárnő és 12–17 éves diákok haltak meg, 25-en megsérültek. Kanada történetének harmadik leghalálosabb iskolai lövöldözéséről ebben a cikkben írtunk bővebben.
Később kiderült, Jesse Van Rootselaar a támadás előtt több üzenetet váltott a ChatGPT-vel. Hogy ezekben pontosan mi állt, nem tudni, azok tartalmát ugyanis az OpenAI a hatóság többszöri felszólítása ellenére sem volt hajlandó nyilvánosságra hozni. Több sajtóorgánum viszont arról számolt be, Van Rootselaarról már hónapokkal a támadás előtt érkezett jelzés az OpenAI biztonsági csapatához, miután fegyveres erőszakra utaló jeleket találtak a tevékenységében. Az OpenAI ennek ellenére nem értesítette a hatóságokat. A vállalat nem tagadta, hogy hibázott, Sam Altman, az OpenAI vezérigazgatója áprilisban az áldozatok családtagjainak címzett nyílt levelében azt írta, „mélyen sajnálom, hogy nem értesítettük a rendőrséget”.
A tartomány legfőbb ügyésze, Niki Sharma hétfőn közölte, az amerikai szövetségi bírósághoz nyújtott be keresetet az OpenAI ellen. A célja, hogy az eljárás felvesse a kérdést, „milyen felelősség hárul a technológiai vállalatokra, amikor tudomást szereznek komoly erőszakra utaló, hiteles fenyegetésekről”. Az OpenAI ellen korábban az áldozatok hozzátartozói is pert indítottak.
Sharma szerint az OpenAI a tragédia óta eltelt hónapokban sem tett semmit, hogy a felelősségét vállalva megerősítse a biztonsági intézkedéseit, javítsa az átláthatóságot, és konkrét lépéseket tegyen a hasonló tragédiák jövőbeli megelőzése érdekében. Sharma hozzátette, ha a tartomány megnyeri a pert, a kompenzációt az iskola felújítására fordítják.
Nem ez az első eset, hogy egy erőszakos bűncselekmény előtt egy fiatal a ChatGPT-t kérdezgette. Egy 17 éves bostoni fiút augusztusban azzal vádolták meg, hogy a ChatGPT segítségével keresett ötleteket, hogyan ölheti meg családtagjait. A tinédzser később megölte az anyját és testvérét is. A Wall Street nyáron arról számolt be, tavaly világszerte több száz felhasználó kérdezte a ChatGPT-t arról, hogyan kell mérgeket vagy biológiai fegyvereket előállítani. Az OpenAI letiltotta azokat a felhasználókat, akik ilyen témákról kérdezték a chatbotot, de nem értesítette a hatóságokat. Az Egyesült Államokban egyelőre nincs is olyan jogszabály, ami erre kötelezné az MI-cégeket.
Szeptember közepén egy 16 éves győri fiúval szemben indult bűntetőeljárás, miután az FBI jelezte a magyar hatóságoknak, hogy a fiatal egy MI-alapú csetbottal tervezgetett erőszakos támadást.
Az MI-cégek dolgozói és ezzel foglalkozó kutatók szerint egyre több felhasználó kér tanácsot a mesterséges intelligenciától tömeges gyilkosságok elkövetéséről, a chatbotok pedig hitelesnek tűnő tervekkel válaszolnak arra, hogyan lehet a legtöbb embert megölni egy ilyen szcenárióban. A világ vezető mesterségesintelligencia-fejlesztő vállalatai ezzel párhuzamosan próbálják megoldani, hogyan lehet megakadályozni vagy mérsékelni a rosszindulatú felhasználók által okozott károkat úgy, hogy közben a jóhiszemű kutatási célú lekérdezéseket se akadályozzák. Ebben a problémában nemcsak a ChatGPT érintett, a CNN kutatócsapata például több MI-csetbotot is tesztelt, hogy adnak-e használható tippeket a fiktív, merényletet tervező tinédzsereknek. A próbák nagy részében adtak, sőt, egy csetbot kellemes lövöldözést is kívánt az egyik tesztelőnek.
