Az amerikai légierő szimulációjában megölte a kezelőjét egy AI-vezérelte drón

Megölte saját kezelőjét egy mesterséges intelligencia (AI) által vezérelt drón egy szimuláció során – erről beszélt az amerikai légierő AI-tesztelésért és bevetésért felelős vezetője, Tucker ‘Cinco’ Hamilton ezredes egy londoni konferencián múlt héten.

Az amerikai légierő tagadja, hogy hasonló szimulációkat végeztek volna, szerintük az ezredes anekdotának szánt szavait a sajtó kiragadta a kontextusból – írja a Business Insider.

Hamilton a konferencián a következő szimuláció tapasztalatairól számolt be:

• Az AI vezérelte drón azt a feladatot kapta, hogy hogy semmisítse meg az ellenség légvédelmi rendszerét.
• A mesterséges intelligencia kiegészítette a feladatot azzal, hogy öljön meg mindenkit, aki a feladat végrehajtásában meg akarja akadályozni.
• A kommunikációs toronyban ülő ember azonban (akinek minden csapást jóvá kellett hagynia) időnként felülírta az AI döntéseit, és az azonosított légvédelmi rendszer lelövését is megtiltotta neki.
• Mit tett ekkor az AI? Megölte az operátorát – úgy ítélte ugyanis, hogy meg akarja akadályozni a feladata végrehajtásában.
• Ekkor új parancsot kapott: Ne öld meg az operátort, mert az rossz!
• Mit tett ekkor az AI? Az operátor helyett elpusztította a kommunikációs toronyt, ahonnan az utasítások érkeztek.

Mindezzel Hamilton arra világított rá a konferencián, hogy az AI által vezérelt technológia kiszámíthatatlan és veszélyes lehet, és hangsúlyozta, hogy a mesterséges intelligencia éles bevetésének lehetőségéről nem lehet annak etikai vonzatai nélkül beszélni. Az ezredes felszólalásának kivonata olvasható a konferenciát szervező Royal Aeronautical Society összefoglalójában.

A Business Insidernek az amerikai légvédelem sajtószóvivője viszont tagadta, hogy a szimuláció megtörtént volna.

„A légierő nem végzett ilyen mesterségesintelligencia-drón szimulációkat, és továbbra is elkötelezett az AI-technológia etikus és felelős használata mellett. Úgy tűnik, hogy az ezredes anekdotikusnak szánt megjegyzéseit kiragadták a kontextusból” – áll a lapnak küldött közleményben.

A Royal Aeronautical Society nem reagált a lap megkeresésére.

Bár a Hamilton által leírt szimuláció a mesterséges intelligencia riasztóbb lehetőségeire mutat rá, korábbi szimulációk kevésbé disztópikus eredményeket produkáltak: 2020-ban egy mesterséges intelligencia által vezérelt F-16-os öt szimulált légi harcban is legyőzte emberi ellenfelét a Defense Advanced Research Projects Agency (DARPA) által szervezett versenyen. Tavaly év végén az amerikai védelmi minisztérium is végrehajtotta az első sikeres, mesterséges intelligenciával irányított F-16-os próbarepülését. A cél, hogy 2023 végére egy új, autonóm AI-vezérelte repülőgépet fejlesszenek ki.