A gyilkos robotok használatát szabályozni kellene, mielőtt nagy baj lesz
2025. március 20. – 16:43
Felturbózott terminátort hallucinált a mesterséges intelligencia a gyilkos robotokról szóló pécsi minikonferencia egyik előadásához illusztrációként, azonban az autonóm fegyverrendszereket egyáltalán nem így kell elképzelni. A valóság inkább terepszínű – és éppen elég ijesztő. Mindennek a jelenlegi nemzetközi jogi hátterét bemutató előadásokkal nyílt meg a Stop Killer Robots mozgalom kiállítása a Pécsi Tudományegyetem Állam- és Jogtudományi Karán szerdán. A téma aktualitását a nemzetközi fegyverkezési verseny felélénkülése és az ezzel járó fejlesztési kényszer adja.
„Az emberiség a története során egyre inkább azon igyekezett, hogy minél távolabb tartsa a harcoktól az embert” – mondta nyitóelőadásában Kis Kelemen Bence, a PTE adjunktusa, nemzetközi jogász. Ebben egy logikus lépés volt a szaknyelvben halálos autonóm fegyverrendszereknek nevezett eszközök fejlesztése. Ezeket az egyszerűség kedvéért harci robotoknak is hívhatjuk. Ezeknek többféle kategóriája, csoportosítási lehetősége is van, de a széles körben elfogadott meghatározás szerint emberi beavatkozás nélkül képesek kiválasztani (érzékelni, azonosítani) majd ártalmatlanítani (megölni, kiiktatni, felrobbantani) a célpontokat. Félig és teljesen autonóm gyilkos robotok is vannak, és a harci cselekmények különböző szakaszaiban kerülhetnek bevetésre. Segíthetik a helyzetelemzést, döntéshozatalt, de részt vehetnek a cselekmény végrehajtásában is. Mindezzel kapcsolatban az egyik legnagyobb aggály, hogy az ember akár ki is kophat ezekből a folyamatokból.
Azonban a nemzetközi jogász érveket is felhozott az ilyen eszközök bevetése mellett. Az is előfordulhat, hogy egyenesen kötelező lehet egy-egy ilyen eszköznek a bevetése, mivel adott harci cél elérése érdekében éppen ez jár a legkisebb járulékos veszteséggel, mert nem kell például szőnyegbombázni. Sőt, ezeknek az eszközöknek a használata még a transzparenciához is hozzájárulhat.
Ebből is látható, hogy mindennek a szabályozása rengeteg kérdést vet fel. Ráadásul nem csak jogi dilemmákat kell mérlegelni. Kis Kelemen Bence előadásában végigvette az aktivisták leggyakoribb aggályait, kiemelve az olyan jelenségeket, mint a Game Boy/PlayStation-mentalitás, amit több kutatás támaszt alá. Ez azt jelenti, hogy a harci eszközt irányító katona eltávolodik a tetteitől és számítógépes játékként érzékeli, amit tesz. További kérdés a jogi felelősség, hiszen tisztázni, rögzíteni kell azt is, hogy egy-egy óhatatlanul előforduló hiba vagy esetleges visszaélés kit is terhel: a gyártót, a programozót vagy a használót?
A program második előadója, Katona Illés ugyan még csak jogászhallgató az ELTE-n, azonban a Stop Killer Robots aktivistájaként már hat éve, tizenhat éves kora óta foglalkozik a témával. A mesterséges intelligencia harcászati alkalmazásával kapcsolatban három fontos buktatót sorolt fel. A MI hatékony működésének egyik alapja a mintafelismerés, ami azonban profilozással, címkézéssel dolgozik, ez pedig dehumanizáláshoz vezethet. A tanulás pedig a betáplált adathalmazok alapján történik, ami elfogultsággal járhat, amit akár tudatosan is elő lehet idézni, azaz például rasszistává lehet tenni egy mesterséges intelligenciát. A harmadik alapprobléma a feketedoboz-szerű működés, ami az átláthatóság, a folyamatok transzparenciájának a hiánya miatti aggályokat jelenti.
A döntéshozatalt támogató mesterséges intelligenciára az izraeli Lavender példáját említette: a gázai övezetben élők adatbázisát használták arra, hogy eldöntsék, a rizikófaktorok alapján kit kell likvidálni. Elhangzott, hogy az orosz-ukrán háborúban sokszor mesterséges intelligenciát vetnek be mindkét oldalon a halott katonák beazonosítására, de taktikai döntéshozatalra is. „Kérdés, hogy mennyire sikerül mindezek felett az emberi kontrollt megtartani a jövőben? Főleg úgy, hogy tudunk rossz példát: 2021-ben érdemi ellenőrzés nélkül vetettek be harci drónt Líbiában.”
Katona Illés a Telexnek azt mondta, hogy vannak magyar szempontból pozitív fejlemények a szabályozással kapcsolatban, azonban kérdés, hogy proaktívan is hajlandó-e tenni ezért az ügyért a kormányzat és a külügy. „Jelenleg semmilyen nemzetközi szerződés, de még csak politikai megállapodás sincs ezeknek a használatáról vagy valamilyen korlátozásáról” – tette hozzá. Mindez a küszöbön álló felfegyverkezési hullám tükrében különösen problémás, hiszen a helyzet fejlesztési kényszerrel is jár.
„Az egyik legegyszerűbb gyilkos robot a taposóakna” – mondta a kiállítás megnyitóján Bíró Dalma, a Stop Killer Robots aktivistája, aki több mint húsz évet töltött különböző, háború sújtotta övezetekben. A témával 2012 óta foglalkozik, de a kiállítás ennél többről is szól. A mozgalom az emberi kontroll elvesztését digitális dehumanizációnak hívja, és erre is akadnak valós példák – Bíró egy ausztrál férfi esetét hozta fel, akinek a hitelkérelmét egy automatizált döntés miatt utasították el, és mindez végül tragédiába torkollt.
A Telex kérdésére Bíró Dalma azt mondta, hogy a cél – vagyis a nemzetközi szabályozás – érdekében minél több ponton és többfajta eszközzel kell hatni a társadalomra és a döntéshozókra. Ilyen pont lenne, hogy azok az egyetemek, amelyek kutatás-fejlesztési projektekben vesznek részt, a békés felhasználást is kikötik az etikai kódexben. „Magyarországon egyetlen jó példát sem találtam erre” – tette hozzá. Érdekesség, hogy a PTE alapító okiratának módosítása éppen a februári szenátusi ülésen volt napirenden: hadiipari fejlesztések is bekerülhetnek az egyetem tevékenységei közé, annak érdekében, hogy az intézmény együttműködhessen a Rheinmetall Hungary Zrt.-vel.
A cikk szerzője a Pécsről szóló Mecseki Müzli hírlevél szerkesztője, amire itt lehet feliratkozni.
A Telex fontosnak tartja, hogy az egész ország területéről szállíthasson az olvasóinak sztorikat, ezért közlünk gyakran vidéki riportokat. Mivel minden térséget nem tudunk lefedni budapesti szerkesztőségünkkel, keressük az együttműködést vidéki újságírókkal, és fokozatosan országos tudósítói hálózatot szeretnénk kiépíteni. Ez a cikk is egy ilyen együttműködés keretein belül készült.
