Hat lépés az átlátható állami mesterséges intelligenciáért
Az átláthatóság az elmúlt hónapok magyar közéletének egyik kulcsszava lett. Az Országgyűlés júniusban elfogadta a tavasszal hivatalba lépett kormány korrupcióellenes törvénycsomagját. A törvény szigorította a vagyonnyilatkozati rendszert, bővítette az Integritás Hatóság jogköreit, erősítette a közbeszerzések átláthatóságát és az összeférhetetlenségi szabályokat, továbbá kimondta a közérdekű vagyonkezelő alapítványok, a kekvák megszüntetését.
Van azonban egy olyan terület, amelynek átláthatóságáról eddig alig esett szó, pedig egyre több ember életét érinti. A vagyonnyilatkozatból kiderül, mennyi pénze van egy politikusnak, a közbeszerzési adatbázisból pedig az, hogy mennyiért vásárolt az állam egy szoftvert. Arról viszont, hogy ez a szoftver mit csinál, kire figyel, vagy milyen adatok alapján javasol ellenőrzést, szinte semmit nem tudhatunk meg. Az átláthatóság új szabályai most születnek, ezért most érdemes azt is eldönteni, hogy a mesterségesintelligencia-alapú technológiákra is kiterjedjenek-e.
Nyilvánvaló, hogy ma már algoritmusok is részt vesznek abban, hogy az állam kit ellenőriz, kit figyel, és kinek az ügyét hogyan intézi. Hogy pontosan hol és hogyan, azt viszont szinte senki nem tudja. A K-Monitor Közhasznú Egyesület hat javaslatot tesz arra, hogyan lehetne ezt megváltoztatni.
Miről van szó?
A mesterséges intelligencia nem csak csetbotokat és képgenerátorokat jelent. A hivatalokban egyre több olyan szoftver dolgozik, amely adatok tömegéből szűri ki, ki gyanús, kire kell jobban figyelni, vagy kinek az ügye kerüljön előre. Ezek a rendszerek önmagukban nem rosszak, hiszen gyorsabbá és olcsóbbá tehetik az ügyintézést. A gond ott kezdődik, hogy ha nem látjuk a működésüket, ellenőrizni sem tudjuk őket.
Nem elméleti kérdésről beszélünk. A Nemzeti Adó- és Vámhivatal évek óta gépi tanuláson alapuló modelleket használ, amelyek számla-, pénztárgép- és tranzakciós adatok, sőt közösségi médiás tartalmak alapján segítenek kiválasztani, kit ellenőrizzen a hatóság. A rendőrség Szitakötő nevű rendszere több tízezer kamerát kapcsol össze, és arcfelismerésre is képes. Egyiknél sincs nyilvános, részletes leírás arról, milyen adatokkal, milyen logikával és milyen emberi ellenőrzés mellett dolgozik.
A K-Monitor kiindulópontja egyszerű: ami nem látható, az nem kérhető számon, ami pedig nem kérhető számon, az előbb-utóbb visszaélésekhez vezet. Az időzítés kedvező, hiszen az átláthatóság szabályai most formálódnak. Közben a 2024-ben elfogadott uniós mesterségesintelligencia-rendelet bevezetése lassul: az úgynevezett Omnibusz-csomag 2028-ig tolta ki a legkockázatosabb mesterségesintelligencia-alapú rendszerek uniós adatbázisának létrehozását. Addig viszont nem érdemes tétlenül várni: a K-Monitor szerint a következő hat lépésre lenne szükség.
1. Egy nyilvános lista arról, hol használ mesterséges intelligenciát az állam
Ma Magyarországon nincs egyetlen nyilvános lista sem arról, hogy az állami szervek milyen mesterségesintelligencia-rendszereket használnak, márpedig amiről nem tudunk, azt ellenőrizni sem lehet. Ezért azt javasoljuk, hogy minden minisztériumnak és háttérintézménynek 90 napos határidővel be kelljen jelentenie, milyen döntést hozó vagy döntést segítő mesterségesintelligencia-rendszert működtet vagy tervez. Ezekből készüljön egy bárki számára kereshető online regiszter, amely rendszerenként megmutatja, ki használja, mire, kiket érint, milyen adatokból dolgozik, és hová lehet fordulni panasszal. Az adatközlést egy erre alkalmas hatóság, például a Nemzeti Média- és Hírközlési Hatóság, vagy a Nemzeti Adatvédelmi és Információszabadság Hatóság ellenőrizné, és bírságolhatna is, ha valaki elmulasztja.
Az ötlet nem újdonság: Hollandiában országos, Helsinkiben pedig városi szinten már működik ilyen regiszter, Észtországban pedig az állami fejlesztésű mesterségesintelligencia-eszközök nagy része nyílt forráskódú. Ha Magyarországon is lenne ilyen, néhány kattintással kideríthetnénk, hogy egy hivatal mesterséges intelligenciát is használ-e, amikor rólunk dönt.
2. Ha mesterséges intelligencia dönt rólad, legyen jogod emberhez fordulni
Aki egy algoritmus miatt esik el egy juttatástól, vagy kerül egy ellenőrzés célkeresztjébe, ma nem talál egyértelmű utat a felülvizsgálathoz. A mesterségesintelligencia-rendelet bizonyos esetekben magyarázathoz való jogot ad ugyan, de egységes eljárás nincs. Ezt az általános közigazgatási eljárási törvény (Ákr.) módosításával lehetne orvosolni: ha mesterséges intelligencia vett részt a döntésben, a hivatal írásban közölje ennek tényét, a döntés főbb szempontjait, és azt is, hogyan kérhető emberi felülvizsgálat. Az Ákr. már ismeri az automatikus döntéshozatali eljárást, de ez nem fedi le a mesterséges intelligencia bevonásának számos esetét. Emberi közbeavatkozás nélkül csak olyan ügyben lehet ma dönteni, amely mérlegelést nem igényel, és amelyhez minden adat géppel feldolgozható módon rendelkezésre áll. Ez semmi esetre sem fedi le a gépi tanuláson alapuló rendszerek minden esetét, hiszen ezek a technológiák ma már nagyon összetett ügyek elbírálásában is képesek közreműködni.
Igaz, ma mesterséges intelligencia önállóan nem hozhat közigazgatási döntést, de az előkészítésben már részt vesz, és ez a szerep a jövőben valószínűleg csak bővülni fog. Érdemes ezért az alapvető jogok biztosát kifejezetten is felhatalmazni a mesterséges intelligenciával kapcsolatos visszásságok vizsgálatára, és létrehozni egy egyablakos panaszfórumot, ahol senkinek sem kell kiismernie a hatóságok útvesztőjét ahhoz, hogy az igazát keresse. Így az algoritmus döntése nem válik megfellebbezhetetlen feketedobozzá.
3. Nyilvánosan működjön a mesterséges-intelligencia-szakpolitikát alakító testület
A 2025-ben létrehozott Magyar Mesterséges Intelligencia Tanács meghatározza az ország mesterségesintelligencia-stratégiájának irányát, a működéséről mégis szinte semmit nem tudni. Az alakuló ülésről csak egy rövid közlemény jelent meg, a 2026. márciusi ülésről mindössze egyetlen Facebook-bejegyzés, az ügyrend pedig máig nem nyilvános. Javaslatunk szerint törvénynek kellene előírnia, hogy a tanács tegye közzé ügyrendjét, naprakész tagságát és üléseinek összefoglalóit, a civil szervezetek pedig évente legalább kétszer véleményezhessék a munkáját. Ez nem szűkíti a testület szakmai mozgásterét, csak azt biztosítja, hogy lássuk, kik és milyen érvek alapján alakítják azokat a szabályokat, amelyek később mindannyiunkra vonatkoznak.
4. Derüljön ki, ki adja el az államnak a mesterséges intelligenciát
Az állam a legtöbb mesterségesintelligencia-rendszert nem maga fejleszti, hanem cégektől vásárolja. A közbeszerzési adatbázisból azonban ma nem derül ki, hogy egy szerződés mesterséges intelligencia fejlesztéséről szól-e, így azt sem lehet megítélni, ki a fejlesztő, milyen kockázatot hordoz a rendszer, és milyen érdekek alapján került a hivatalba.
A közbeszerzési törvény (Kbt.) módosításával elérhető lenne, hogy a nyilvános dokumentációból kiderüljön, van-e mesterséges intelligencia a szerződés mögött, és ha igen, az az uniós mesterségesintelligencia-rendelet szerint mennyire kockázatos. Aki egy ilyen rendszer fejlesztésében vagy értékelésében részt vesz, nyilatkozzon arról, hogy nincs érdekeltsége a beszállítónál. Egyedi fejlesztésnél pedig a cég adja át az államnak a forráskódot és a teljes műszaki leírást, és vállalja, hogy ezek nyilvánossá tehetők. Így a közpénzből fejlesztett mesterséges intelligencia közvagyon marad, nem egy cég zárt, ellenőrizhetetlen terméke, és ha ezeket az adatokat az első pontban javasolt regiszterhez kötjük, az is látszani fog, melyik állami döntés mögött melyik cég melyik terméke áll.
5. Ami eddig nyilvános volt, az az algoritmusnál is legyen az
Az információszabadságról szóló törvény (Infotv.) tág fogalmat használ: közérdekű adat minden, ami a közfeladatot ellátó szerv kezelésében van, és a tevékenységére vonatkozik. Ebbe a mesterséges intelligenciát használó rendszerekre vonatkozó adatok is beleférhetnek, így jogértelmezéstől függően, de akár már a hatályos szöveg is lehetőséget teremthet arra, hogy ezek nyilvánossá váljanak. A törvény azonban nem nevesíti a mesterséges intelligenciát, ez pedig a gyakorlatban mégis komoly akadály. A legtöbb mesterségesintelligencia-alapú eszközről az érintett szervek nem kommunikálnak, létüket sem ismerik el, így az adatigénylő tulajdonképpen azt sem tudja, mit kérdezzen. Az Infotv. ráadásul a már meglévő adatokra vonatkozik: ha a hivatal nem rögzítette, mire használja a rendszert, milyen adatokkal dolgozik és ki felügyeli, akkor hivatalosan nincs is mit kiadnia. Ilyenkor a hivatal a technológiára hivatkozva tagadhat meg olyan információt, amely egy hagyományos ügyintézésben megismerhető lenne.
Javaslatunk szerint a törvénynek ezért nevesítenie kellene a mesterséges intelligenciát, és ki kellene mondania, hogy a mesterséges intelligenciával hozott vagy előkészített döntést úgy kell kezelni, mint bármely más közigazgatási eljárás leírását. Ez egyértelművé tenné azt, ami a törvény céljával már most is összhangban van: ami egy emberi ügyintézésben nyilvános, az az algoritmikus változatban is legyen az, a legfontosabb adatokat pedig a hivatalok kérés nélkül, maguktól is tegyék közzé. Ehhez az is kell, hogy a szerv dokumentálja a használt rendszert, és hivatalosan is elismerje a létezését, ezért érdemes ezt az első pontban javasolt regiszterhez kapcsolni. Így közérdekűadat-igényléssel ugyanúgy megismerhetnénk az algoritmikus ügyintézés szabályait, mint a hagyományoséit, és a technológia nem lehetne kifogás a titkolózásra.
6. Szabályok a hivatalokon belül: az „árnyék-mesterségesintelligencia”
Sok köztisztviselő már ma is használ csetbotokat, gyakran a munkáltató tudta nélkül. A szakirodalom ezt „árnyék-mesterségesintelligenciának” nevezi. Egy ügyintéző bemásol egy fogalmazványt egy ingyenes csetbotba, egy elemző feltölt egy táblázatot, valaki megíratja egy határozat tervezetét. Mindez többnyire jó szándékkal, a munka gyorsítása érdekében történik, de így személyes adatok, üzleti titkok vagy más érzékeny információk kerülhetnek ellenőrizetlen, külső szolgáltatókhoz, a mesterséges intelligencia által írt szöveg pontosságáért pedig senki sem felel.
Ezért azt javasoljuk, hogy minden közigazgatási szerv fogadjon el belső mesterségesintelligencia-szabályzatot. Ez mondja meg, mely eszközök engedélyezettek, és kínáljon biztonságos alternatívát is, hiszen a puszta tiltás nem működik. Rögzítse, milyen adat soha nem kerülhet mesterségesintelligencia-alapú rendszerbe, és mondja ki, hogy a döntésért mindig egy azonosítható köztisztviselő felel, aki az algoritmikus szöveget is köteles ellenőrizni. Írja elő azt is, hogy utólag kiderüljön, mely döntéseknél segített mesterséges intelligencia, és biztosítson képzést a munkatársaknak. Így az állampolgárok adatai nem kerülnek véletlenül idegen szerverekre, a hivatali munka egy egyre fontosabb, ma még láthatatlan része pedig ellenőrizhetővé válik.
Mit tehetünk már most?
A törvénymódosításokra nem kell tétlenül várni. Ha egy hivatal olyan döntést hoz az ügyünkben, amelyet nem értünk, joggal kérdezhetjük meg, milyen szempontok és milyen eszközök alapján született, és az iratbetekintés joga is megillet bennünket. Bárki benyújthat közérdekűadat-igénylést egy állami szervnek, például arról, használ-e mesterségesintelligencia-rendszert, és ha igen, mire. Ebben segít a KiMitTud oldal, ahol a kérdések és a válaszok is nyilvánosak, így mások is tanulhatnak belőlük. Ha pedig úgy gondoljuk, hogy egy hivatal jogellenesen kezelte a személyes adatainkat, a Nemzeti Adatvédelmi és Információszabadság Hatósághoz fordulhatunk.
Hat lépés, egy cél
A hat javaslat egymásra épül. A regiszter megmutatja, hol van mesterséges intelligencia az államban, a jogorvoslat eszközt ad a kezünkbe, ha egy gépi döntés hátrányosan érint, a Magyar Mesterséges Intelligencia Tanács nyilvánossága pedig láthatóvá teszi, kik alakítják a szabályokat. A közbeszerzések átláthatósága felfedi, kik állnak a rendszerek mögött, az információszabadság kiterjesztése biztosítja, hogy mindez a gyakorlatban is megismerhető legyen, a belső szabályzat pedig a hivatali munka rejtett részét hozza felszínre.
Ha választani kellene, a regisztert és az emberi felülvizsgálathoz való jogot vezetnénk be elsőként, mert az állam már ma is használ jogi keret nélküli mesterségesintelligencia-rendszereket. Egyik javaslat sem drága, és egyik sem akadályozza az innovációt. Csak azt teszik lehetővé, ami egy jogállamban magától értetődő kellene hogy legyen: hogy a polgár tudja, ki és mi alapján dönt az ügyeiről. A mesterséges intelligencia szolgálhatja a tisztességes, gyors és átlátható államot, de csak akkor, ha mi is láthatjuk, hogyan működik.
