A mesterséges intelligencia már nemcsak a célpontot mutatja meg, hanem a hadműveletet is megtervezi

Legfontosabb

2023. május 15. – 18:10

A mesterséges intelligencia már nemcsak a célpontot mutatja meg, hanem a hadműveletet is megtervezi
Egy ukrán katona drónt irányít egy házból a donbaszi frontvonalon, az ukrajnai Donyecki területen, 2023. január 14-én – Fotó: Diego Herrera Carcedo / Anadolu Agency / Getty Images

Másolás

Vágólapra másolva

Forradalmi átalakuláson megy át a háborúzás. Sokkal szélesebb körben használják a mesterséges intelligenciát az ukrajnai háborúban, mint sokan gondolhatják. A kulcsszerepet egy az amerikai hadsereggel együtt dolgozó magáncég látja el, az ő MI-alapú szoftverükkel veszik célba az ellenséges orosz erők többségét. A cég vezetője szerint a hidegháborúhoz hasonló verseny bontakozik ki a nagyhatalmak között a mesterséges intelligencia fejlesztése terén, és aki ebben a legjobban teljesít, az nagyon nagy előnyre tesz szert a világrend formálásában.

„A mesterséges intelligencia a legmélyebb változást eredményezi az emberiség történetében.”

Ezt Mark Milley tábornok, az amerikai vezérkari főnökök egyesített bizottságának elnöke mondta tavaly az egyik legnívósabb katonai iskola, a West Point akadémia tisztavatásán. A legmagasabb rangú amerikai tábornok szerint a mesterséges intelligencia (MI) minden technológia fölött áll, és teljesen megváltoztatja a háborúzás mikéntjét.

Az orosz–ukrán háború technológiai értelemben több szempontból más, mint a korábbi nagy léptékű háborúk. Sokkal jobban előtérbe került a rakéta- és dróntechnológia. De van egy kulcsterület, amely alultárgyalt a hazai nyilvánosságban is, ez pedig az, hogy a harcokban valójában mire használják a mesterséges intelligenciát. Ebben a cikkben közérthetően mutatjuk be, mire képes ez a csúcstechnológia.

Természetesen nem látjuk, nem láthatjuk százszázalékos pontossággal, hogyan működik az MI az orosz–ukrán háborúban, hiszen ennek sok tényezője szigorúan titkos információ, de elég sok mindent tudunk így is. Már csak azért is, mert az MI széles körű ukrajnai használatáról viszonylag részletesen beszámol az egész történet egyik kulcsszereplője, az amerikai hadsereggel és nemzetbiztonsági szervekkel szorosan együttműködő magáncég, a Palantir.

A vállalat azért teszi közzé, hogy az ukránok a honvédő háborújukban hogyan alkalmazzák a cég mesterségesintelligencia-alapú szoftvereit, mert ez a jól felfogott üzleti érdeke. A big data analitikára specializálódott Palantir ugyanis nem csak a hadiiparban utazik, a mesterséges intelligenciát döntéstámogató, valós idejű adatelemzésre és adatvizualizációra használó szolgáltatásait különféle szektorokban működő óriásvállalatok is használják: az Amazon, a Morgan Stanley, az Airbus és a Fiat Chrysler is üzletfelük.

A big datán nem egyszerűen egy nagy adathalmazt értünk, hanem egy komplex technológiai környezetet (szoftvert, hardvert), amely lehetővé teszi olyan adatállományok kezelését, amelyek annyira nagy méretűek és annyira összetettek, hogy a feldolgozásuk borzasztóan nehéz. Leegyszerűsítve, a big data a nagy mennyiségű, nagy sebességgel változó és nagyon különféle adatok feldolgozásáról szól.

A legnagyobb elérésű nyugati újságok közül néhánynak testközelből volt lehetősége Ukrajnában arra, hogy megtapasztalja és az olvasóinak bemutassa, hogyan használják az MI-t a harcokban. A Palantir által nyilvánosságra hozott információkon kívül a cikk írásakor ezekre a riportokra is támaszkodtunk, és megkerestünk több elismert, az orosz–ukrán háborúról gyakran megnyilvánuló magyar katonai szakértőt is, de ők nem akartak nyilatkozni arra hivatkozva, hogy nem a téma szakértői. Ezért a szélsebesen változó, fejlődő, burjánzó MI jelenlegi fejlettségi szintjének jobb megértése érdekében megkérdeztünk egy civil magyar kibervédelmi és mesterségesintelligencia-szakértőt, Keleti Arthurt is, aki az aktuális polgári MI-fejlesztések képességeiről és azok lehetséges katonai alkalmazásáról beszélt lapunknak. Ő nem katonai szakértő, de aktívan kutatja az MI alkalmazhatóságát és határait a kiberbiztonság és a -védelem területén.

Mintha egy digitális hadsereg harcolna egy analóggal

Alex Karp, a Palantir vezérigazgatója volt az első olyan külföldi cégvezető, akit az orosz–ukrán háború tavaly februári eszkalációja után nyáron Kijevben fogadott Volodimir Zelenszkij ukrán elnök. Karp szerint az elmúlt évtizedek háborúiban a hardver volt a domináns technológia, de ez nagyon megváltozott az utóbbi években, és egyre inkább a szoftveres megoldások válnak kulcsszereplővé a konfliktusokban.

A Times egyik cikke szerint az ukrajnai háborúban az oroszok kis túlzással még mindig úgy használják például a tüzérséget, mint az első világháborúban, sarkítva lehet azt mondani, hogy az ukrajnai háborúban olyan a helyzet, mintha egy digitális hadsereg harcolna egy analóggal. Katonai elemzők szerint kisebb mérete ellenére ezért is tud sok szempontból felülteljesíteni az ukrán sereg.

A modern szoftveres megoldásokkal lehetőség van az ellenséges csapatoktól egyre nagyobb távolságból csapást mérni, nagy pontosságú fegyverekkel. Felértékelődött az aszimmetrikus hadviselés, tehát egy nagy technológiai és hírszerzési előnnyel bíró kisebb sereg meghatározó károkat tud okozni egy sokkal nagyobb méretű, de technológiai értelemben több évtizedes (az orosz esetében egyes területeken 40-60 éves!) lemaradásban lévő haderőnek.

A 24. Különleges rohamzászlóalj tüzérparancsnoka egy drónról készült videót néz egy parancsnoki állásban Ukrajnában, 2023. március 10-én – Fotó: Wojciech Grzedzinski / The Washington Post / Getty Images
A 24. Különleges rohamzászlóalj tüzérparancsnoka egy drónról készült videót néz egy parancsnoki állásban Ukrajnában, 2023. március 10-én – Fotó: Wojciech Grzedzinski / The Washington Post / Getty Images

Ezt láthattuk tavaly a szomszédunkban dúló háború első szakaszában is, amikor pár fős ukrán csapatok vállról indítható modern rakétavetőkkel (Javelin, NLAW) a rakétákhoz képest sokszoros pénzből előállítható tankokat radíroztak le a harcmezőkről, százas nagyságrendben. Mára az orosz inváziós sereg elvesztette az azonnali bevetésre alkalmas tankállományának meghatározó részét (legalább 60 százalékát), harckocsik nélkül pedig drámaian romlott a támadó hadműveletek hatékonysága. Tankok nélkül is lehet persze gyalogosrohamokat indítani, de így még hosszú hónapok alatt sem lehet bevenni egy kisvárost, stratégiai szempontból szinte értelmetlen halálba küldve több tízezer embert, ahogy azt Bahmutnál láthatjuk.

A Palantir vezetője úgy véli, a következő évtizedekben a hidegháborúhoz hasonló verseny bontakozik ki a nagyhatalmak között a mesterséges intelligencia fejlesztése, illetve az iszonyatosan nagy adathalmazok kezelése terén, és aki ebben a legjobban teljesít, az nagyon nagy előnyre tesz szert a világrend formálásában. Karp szerint az MI-alapú szoftverek fejlődése sokkal gyorsabb, mint azt sokan gondolnák.

Hogy működik a gyakorlatban?

A mesterséges intelligenciát többféle feladatra használják az ukrajnai háborúban. Az egyik legjelentősebb használati módja az úgynevezett targeting. Alex Karp idén februárban azt mondta, Ukrajnában a szoftverük segítségével veszik célba az ellenséges orosz egységek nagy részét.

Az MI használata lényegében az egész folyamatot lefedi az ellenség észlelésétől a likvidálásáig.

Az MI-alapú rendszerbe rengetegféle forrásból (például műholdak, drónok, felderítő repülők, kamerák, hőszenzorok, elektromágneses jelek, emberek által készített fotók, videók) beérkező, emberi ésszel felfoghatatlan mennyiségű adatot az MI segítségével a harctéri helyzet közel valós idejű elemzésére és térképes vizualizációjára használják. Ezt a hatalmas, folyamatosan változó, frissülő adattömeget egy központi, mesterséges agy dolgozza fel, és nemcsak feldolgozza, hanem villámgyorsan javaslatokat is tesz arra, hogyan lehet megoldani egy-egy problémát, például konkrétan melyik rendelkezésre álló ukrán egységekkel, fegyverekkel, járművekkel lehet a leghatékonyabban ártalmatlanná tenni egy észlelt ellenséges egységet. Rengeteg, és egyre több múltbeli eseményt, adatot, sikeres vagy sikertelen akciót is betápláltak az MI-be, aminek egyik leglényegesebb képessége, hogy folyamatosan tanul, fejleszti saját magát, sőt: az MI-alapú rendszerek egymást is tanítják, ezért egyre hatékonyabbak.

A Palantir egy harctéri helyzetet vázolva, az MI-alapú katonai szoftver tényleges kezelőfelületét bemutatva videót tett közzé arról, körülbelül hogy néz ki a gyakorlatban egy mesterséges intelligenciával végzett művelet. A folyamat valahol ott kezdődik, hogy a cég MI-alapú szoftvere figyelmeztető jelzést küld egy monitor előtt ülő ukrán katona számára, hogy a szoftver egy műholdkép alapján ellenséges aktivitást észlelt valahol a terepen. Ilyenkor a katona meg tudja kérni, hogy adjon több információt. (Bepötyögi emberi nyelven, hogy több információt kér, tehát nem kell semmilyen programnyelvet használniuk a katonáknak.) Kérésre az MI elmondja, egy ellenséges tank van kb. 30 kilométer távolságra. Majd a térképen láthatóvá teszi azt is, hogy milyen más ellenséges elemek vannak még a környéken.

Aztán utasítást ad egy drónnak, hogy menjen oda az észlelt ellenséges harckocsihoz, és készítsen róla videót. Közben a monitoron egy valós idejű térképen látjuk a közeli ellenséges elemeket és a saját erőket is, a felszereltségi szintjükkel, ellátottságukkal, a katonák képzettségi szintjére vonatkozó adatokkal együtt, illetve a felderítésre küldött drón mozgását is követhetjük. Majd a rendszer jelzi, hogy a drón odaért az ellenséges elemhez, és készített róla videót. Ez alapján látni, hogy valóban egy orosz tankról van szó (típusjelzéssel, pontos koordinátákkal együtt).

És ezután következik az, ami egy laikus számára elképesztő jelenség:

az MI vázol három lehetőséget, három különböző műveleti tervet arra, hogyan lehetne a közelben lévő ukrán egységek valamelyikével a leghatékonyabban kiiktatni a tankot: légicsapással, tüzérségi csapással, vagy egy pár fős csapattal, amely kézi páncéltörő fegyvereket használna.

Mindegyikhez odaírja, hány emberre, milyen felszerelésre és mennyi időre van hozzá szükség. Ezeket automatikusan elküldi a parancsnoki központba is, ahol ki tudják választani, melyiket hajtsák végre. Ha ez megtörtént, a Palantir szoftvere megmutatja, hogy a pár fős ukrán csapatot pontosan melyik járművel, milyen optimális útvonalon, mennyi idő alatt lehet odajuttatni. Majd az akció után drónnal ellenőrzik, sikeres volt-e a rajtaütés.

Ez az MI használata előtt sokkal körülményesebb, lassabb folyamat volt, és több embert igényelt. Jobb esetben egy, a légi felvételeket három kávé után, fáradtan bogarászó katona kiszúrt valamit egy bokor mögött, és értesítette a felettesét, hogy valószínűleg egy ellenséges páncélost lát, de nem biztos benne. Ezután a közelben lévő saját csapatokat egyesével megkérdezve kiderítették, melyik van olyan állapotban, hogy gyorsan oda tudjon menni, és fel tudja venni a harcot. Az ehhez hasonló logisztikai problémák megoldása korábban sok ideig tartott, most másodpercek alatt választ kapnak a parancsnokok.

És már eleve az ellenséges elemek észlelését is az MI végzi sok esetben. Maguk a drónok is tele vannak automatizált rendszerekkel, mélytanuló rendszerek és mesterséges intelligencia működik bennük, de gyakran az általuk készített kamerafelvételeket sem fáradt, hunyorgó katonák figyelik monitorok előtt, nem ők néznek át sok ezer órányi drón- és műholdfelvételt, hanem a mesterséges intelligencia szúrja ki, hol milyen ellenséges erők vannak. Ez a technológia hasonló ahhoz, amit az önvezető autóknál fejlesztenek, ahol szintén fontos, hogy a rendszer maga ismerje fel az autókat, táblákat, gyalogosokat stb.

Richard Barrons, a brit hadsereg iraki és afganisztáni háborúban is szolgáló tábornoka arról beszélt korábban, hogy

egy parancsnoki központ húsz évvel ezelőtt egy nap alatt maximum 10 ellenséges célpontot tudott azonosítani, ma viszont egy személyi állományát tekintve ugyanilyen kapacitású központ napi 300 célpontot azonosíthat az MI segítségével, többet, mint amennyire képesek csapást mérni.

És az MI tanul – méghozzá rendkívül gyorsan – az ilyen műveletekből, nagyon gyorsan kielemzi, a korábbi esetekben mi volt hatékony és mi nem.

A mesterséges intelligencia egyre jobban érti, mit akarunk mondani neki

Az MI használatának útjában korábban sok akadály volt, például nagyon nehezen értette meg, hogy az ember miről beszél, vagy hogy mit miért csinálunk. Viszont a mostanában egyre elterjedtebbé váló nagy nyelvi modellekkel (ahhoz hasonlóakkal, mint a ChatGPT) ez megoldódni látszik – mondta a Telexnek Keleti Arthur, az Informatikai Biztonság Napja alapítója. A szakértő szerint a nagy nyelvi modellek segítségével nem kell mindent algoritmizálni, paraméterezni, képletekbe leírni, mint korábban, hanem szabadabban lehet engedni a rendszereket, hogy önállóan ismerjenek fel helyzeteket, és

az látszik, hogy szabadszöveges parancsokra nagyobb szabadsággal reagálnak.

Korábban mindenhol nagyon szűken, arra a területre specializált megoldásokra volt szükség (narrow AI), például egy drón vagy önvezető autó esetében egy konkrétan arra a célra kitalált MI-modult használtak. Ez még most is így van sok esetben (gyártás, kritikus infrastruktúra, hadászat), de a nagy nyelvi modellek használatával a mesterséges intelligenciák jobban és dinamikusabban értik, amit mondani akarunk nekik.

„És meg is lepnek minket azzal, hogy milyen dolgokra jönnek rá maguktól, vagy milyen dolgokban vesznek észre mintázatokat – mondta Keleti Arthur. – Például ha régebben adtunk az MI-nak egy nagyobb mennyiségű szöveget vagy egy térképet, és azt mondtuk neki, hogy keressen rajta furcsa dolgokat, akkor nem tudott mit kezdeni vele. Most viszont már tud értelmes dolgokat visszaadni. Az emberi utasításokat értelmező, és az ember számára információkat visszaadó részek működnek sokkal jobban, ott »összekötő szövetként« használják a legújabb technológiákat, például a nagy nyelvi modelleket.”

A hadseregek működésének egyik leglényegesebb eleme a logisztika, de ez sok, nem a hadiiparban működő vállalatnál is kulcstényező. Egyes profitorientált nagy cégeknél már használnak mesterséges intelligenciát arra, hogy ha például egy logisztikai tényezőben változás áll be, akkor mi a teendő. Például nagy vihar van egy területen, ami megnehezíti a szállítmányozást, akkor az MI-t kérdezik meg, hogy mi az optimális megoldás – vezette le Keleti.

Egy ilyen probléma megoldására tett kísérlet az MI megjelenése előtt úgy nézett ki, hogy nagyon sok ember – főleg matematikusok – rengeteget gondolkodtak képleteken, hogyan lehet jól leírni velük azt, hogy ez itt most egy vihar, és hogy mit, mikor, mivel, hogyan kéne szállítani ilyen körülmények között. Az új MI-rendszerekben viszont sokkal kevésbé van erre szükség, mert azok elsősorban nem képletekkel dolgoznak, hanem „megnézettek” velük nagyon sok korábbi vihart, és azok alapján összekötötték a paramétereket, szinapszisokat csináltak úgy, mint egy ember, amikor tanul valamit, és a tanulási folyamat alapján meg tudják állapítani egy viharról, hogy az egy vihar. De ha megkérdezzük tőlük, hogy mitől az, akkor már nem képletekkel magyarázzák el, hanem lényegében azt közlik, hogy sok vihart láttak már, és ez vagy az szerintük annak számít.

A 24. „Aidar” különálló rohamzászlóalj ukrán katonái lőszert pakolnak ki egy katonai teherautóból Bahmut környékén, 2023. április 22-én – Fotó: Diego Herrera Carcedo / Anadolu Agency / Getty Images
A 24. „Aidar” különálló rohamzászlóalj ukrán katonái lőszert pakolnak ki egy katonai teherautóból Bahmut környékén, 2023. április 22-én – Fotó: Diego Herrera Carcedo / Anadolu Agency / Getty Images

Lehallgatás, szövegelemzés, dezinformálás

De messze nemcsak átfogó módon, targetingre és műveletek megszervezésére használható a mesterséges intelligencia egy fegyveres konfliktusban. A Palantir főként ezekről közöl információkat a nyilvánossággal, de ha abból indulunk ki, hogy a polgári felhasználásnál mire alkalmas az MI, akkor vélhetően egy profi hadsereg egy háborúban is tudja alkalmazni hasonló funkciókban.

Ha valami könnyen megy a mai MI-rendszereknek, akkor az a szövegelemzés. Ezért akár lehallgatott orosz szövegekből is sokkal könnyebben és gyorsabban ki tud szűrni dolgokat, mintha emberek hallgatnának meg sok ezer órányi szöveget.

Dezinformációs kampányokra is kifejezetten alkalmas a mesterséges intelligencia – tette hozzá Keleti. Például a hátország félretájékoztatására automatizált közösségimédia-fiókokat lehet létrehozni és üzemeltetni. De elvben arra is alkalmas, hogy fals, félrevezető, zavarkeltő üzeneteket küldjön a fronton vagy a parancsnoki központban lévő katonáknak. A hangklónozás és a képklónozás (deepfake) erre alkalmas eszközök, egy éles helyzetben, ahol gyors döntésekre van szükség, nagy zavart tud okozni egy üzenet, amit egy katona a felettesének tulajdonít, de valójában csak az MI téveszti meg. Ilyen megoldásokkal több millió dollárt csaltak ki kiberbűnözők polgári szervezetekből, tehát valószínűleg harci körülmények között is alkalmazhatók. „Ha a kiberbűnözők meg tudják csinálni, akkor a katonaság is meg tudja” – mondta Keleti.

Egyébként a hagyományos értelemben vett titkosított, kódnyelves katonai kommunikáció is sokkal védtelenebb az MI-vel szemben, ezek a rendszerek nagyon hamar feltörik a kódolt üzeneteket, sokkal gyorsabban, mintha valódi, hús-vér kódfejtők állnak neki. És ezekkel a rendszerekkel el tudják olvastatni az összes orosz katonai taktikáról szóló elméleti könyvet és dokumentumot, amivel szintén jobban ki tudják ismerni az ellenséget.

Az ember felügyelni sem tudja mindig az MI-t

Keleti Arthur kitért arra, a Palantir szoftverét az ukránok arra is használják, hogy összekapcsolják a különböző célokra kifejlesztett MI-modulokat. A cég MI-alapú programja meg tudja teremteni a kapcsolatot közöttük, és komplex következtetéseket von le ezekből, amiket közöl az emberrel. Egy ilyen folyamat végén sok esetben aztán az ember „nyomja meg az entert”, hogy rendben, legyen úgy, ahogy az MI javasolja. De ez nem mindig van így. Vannak már olyan autonóm rendszerek, amelyek önállóan működnek, és az ember csak felügyeli a tevékenységüket.

Például léteznek már olyan drónok (nem tudni, hogy Ukrajnában vannak-e ilyenek), amelyek ember vezette vadászrepülőgép mellett repülnek, felderítést végeznek, és visznek fegyvereket, bombákat is. Ezek akár teljesen automatán tudnak működni. Itt már súlyos etikai kérdések merülnek fel: mit tehet meg az MI, és mit nem. Az elmúlt pár évben abban volt nagy változás, hogy korábban a „human in the loop” elv volt jellemző, vagyis, hogy az ember legyen benne a folyamatban, és nélküle az MI ne csináljon semmi lényegeset. Manapság azonban egyre dominánsabbá válik a „human on the loop” elv, vagyis hogy az ember már nem feltétlenül részese a folyamatnak, csak felügyeli a rendszert – mondta a szakértő, aki szerint a nagy nyelvi modellek megjelenésével egyre inkább látszik, hogy az MI magától meg tud csinálni feladatokat az embernél jobb minőségben.

De Keleti Arthur szerint afelé haladunk, hogy már a felügyeletet sem látja majd el ember. Ez sok szakértőnél kiveri a biztosítékot. Sok minden utal arra, hogy ilyen rendszerek már léteznek, kis esély van arra, hogy a nagyobb hatalmak hadseregei vagy a profitorientált gigavállalatok vissza akarnák fogni magukat ezen a téren. Hiszen attól tartanak, ha ők visszafogják magukat, lehet, hogy a másik nem így tesz, és súlyos, akár végzetes versenyhátrányba kerülnek.

Van, hogy romlik a hatékonyság az ember közbeiktatásával

„Azért is hódít egyre nagyobb teret a teljes automatizálás, mert sok olyan eset van, ami meghaladja az emberi reakcióidő határát” – folytatta Keleti. Pár évvel ezelőtt történt, hogy vadászrepülő-szimulátorokban egy mesterséges intelligencia legyőzött hús-vér pilótákat. Már tesztelnek teljesen MI által működtetett vadászrepülőket, és azoknál szinte lehetetlen lesz, hogy minden műveletet csak emberi jóváhagyással végezzen el az MI, hiszen olyan rövid idő alatt kell meghozni rendkívül komplex döntéseket, hogy az ember közbeiktatásával jócskán romlik a hatékonyság.

De nemcsak gyorsaságban és hatékonyságban jobb az MI, hanem sokkal szélesebb spektrumból szedi az információkat, sokkal több adatot és egyéb tényezőt tud, mint az ember. És a nagy nyelvi modellek segítségével az MI már a kontextust is jobban érti, vagyis emberibb módon kezeli.

Tehát már nem feltétlenül csak azt látja például a harctéren, hogy az ott egy ellenséges katona, hanem képes megérteni, hogy a katona épp öt gyereket kísér valahova, tehát nem lehet csapást mérni rá, mert meghalnak a gyerekek is. (Legalábbis reméljük, hogy ilyen döntések születnek.)

A 57. brigád ukrán katonái aknavetővel lőnek az ukrajnai Bahmut környékén, 2023. április 20-án – Fotó: Diego Herrera Carcedo / Anadolu Agency / Getty Images
A 57. brigád ukrán katonái aknavetővel lőnek az ukrajnai Bahmut környékén, 2023. április 20-án – Fotó: Diego Herrera Carcedo / Anadolu Agency / Getty Images

Azt is egyre jobban érti, hogyan gondolkodik az ellenség

Keleti Arthur úgy véli, az MI egyre inkább fel tud építeni magában mentális képeket is, tehát vannak elképzelései arról, hogy az ellenséges katona hogyan gondolkodhat, és várhatóan milyen döntéseket hoz majd.

És az új MI-modelleknek nagyon jó a multimodális képességük is, azaz jobban fel tudnak ismerni dolgokat. Ha, mondjuk, a korábbi MI-knek mutattunk egy olyan képet, amelyen egy autó van, amelynek a tetején egy ember egy vasalódeszkán inget vasal, akkor nem tudták értelmezni a látványt. Az új rendszerek azonban nemcsak hogy tudják értelmezni, hanem azt is értik, hogy mi benne a vicces, miért veszélyes stb. Képessé váltak tehát emberi szempontból értelmezni a látottakat. Így egy háborús helyzetben is sokkal inkább az emberhez hasonlóan értelmezik az egyes szituációkat.

„Az igazán nagy újdonság az elmúlt években az, hogy a tudósok rájöttek, ezek az új MI-rendszerek még hatékonyabban tudnak dolgozni, ha egymással kommunikálnak. Egymás között beszélik meg, egy adott helyzetben mit látnak, és egymásnak adnak utasításokat” – mondta Keleti.

A felelősség megállapításában az értékrendünk emberekre szabott, nem gépekre

A mesterséges intelligencia harctéri alkalmazása rengeteg etikai kérdést vet fel. Mennyire nehéz meghatározni például azt, hogy ha hibázott az MI (mondjuk, egy lőszerraktár helyett egy gyerekekkel teli iskolát lőttek ki rakétával miatta), akkor felelősségre vonhatók-e ezért hús-vér emberek?

Az Egyesült Államok védelmi minisztériuma sok rendelkezést hozott arról, hogyan kell etikusan működniük a katonaságnál használt mesterséges intelligenciáknak. Elvárás, hogy elmagyarázható legyen emberi nyelven, emberi szavakkal, hogy mit miért csinált egy katonai művelet során az MI. Tehát maga az MI képes legyen elmagyarázni azt az embereknek, hogy mit miért tett, és mindezt milyen etikai elvek alapján hajtotta végre – vezette le Keleti Arthur.

Viszont könnyen előfordulhatnak majd olyan bonyolult helyzetek, amikor az MI nem kapott hibás adatokat, és az alapokig lebontva tulajdonképpen minden megfelelő volt, valamiért mégis rossz döntést hozott. Ilyen helyzetekben egy embert el lehet vinni bíróságra, de egy MI-t nem. És még embereknél is évekig tudunk azon vitatkozni, hogy abban a bizonyos két másodpercben miért döntött úgy egy rendőr, hogy lelövi a feltételezett bűnözőt. Egy MI-nél, egy szinte teljesen automatizált rendszernél ez még ennél is komplikáltabb lesz. „A felelősség megállapításában az értékrendünk emberekre szabott, nem gépekre – mondta Keleti. – Amikor például MI programoz be valamire egy másik MI-t, akkor bíróság legyen a talpán, ami szét tudja majd szálazni, hogy kimutatható-e valahol emberi mulasztás.”

Mi van az oroszokkal?

A mesterséges intelligencia ukrajnai működésével kapcsolatban lényegében egy ukránok által működtetett amerikai technológiáról beszélhetünk. Ennél sokkal kevesebb információnk van arról, hogy az oroszok hogy állnak ezen a területen.

Keleti Arthur szerint a nyugati szankciók elég erősen befolyásolják Oroszország informatikai kapacitásait, fejlődési potenciálját. A háború kitörése után és az első mozgósítási hullámkor sokan hagyták el az országot, és az emigrálók között nagy számban vannak informatikusok, hiszen az ő tudásuk minden országban nagyon kelendő. De nem is teljesen új problémáról van szó: a rendszerváltás után a gazdasági nehézségek miatt nagyon sok mérnököt és magasan képzett szakembert leépített az orosz hadsereg, közülük sokan már akkor elhagyták az országot.

És a szankciók miatt a legmodernebb mikrocsipek Oroszországba való exportja is szinte teljesen ellehetetlenült. Márpedig az MI használatához nagyon komoly számítási kapacitás kell – tette hozzá Keleti. Ez is negatívan befolyásolhatja a fejlődési lehetőségeiket. Viszont nyilván nem lehet teljesen leírni az oroszok képességeit. Nekik is van már ember nélküli, MI vezérelte lopakodó harci repülőgépük, bár kétséges, hogy bevethető állapotban van-e már, vagy inkább még csak prototípusról van szó.

Azonban a szakértő szerint sokakat meglepett, hogy Oroszország mennyire sebezhető kibervédelmi szempontból. A háború kitörése óta sokszor törtek már fel oroszországi kritikus infrastruktúrát, és időnként nagy elérésű állami médiumok adásait is meghekkelik.

Kapcsolódó
Partnereinktől
Kövess minket Facebookon is!