Felerősíti-e a társadalmi egyenlőtlenségeket a mesterséges intelligencia?

Az idei AI Summit adott helyet a Trendency vitAIndítónak, ahol öt kérdésről vitáztak a résztvevők. Egy-egy kérdésnek volt pró- és kontra szakértője, aki az adott kérdés mellett vagy ellen érvelt, miközben nem érthetett egyet a másikkal. Mindkét félnek nyolc-nyolc perce volt kifejteni az álláspontját és reflektálni a másikra, a pró oldal kezdett. A végén pedig egyrészt kérdezhetett a közönség, majd szavazhatott, hogy melyik oldallal tudott inkább azonosulni.

Mi Nagy-Józsa Dorkával (Y2Y) a címben jelzett kérdésről vitáztunk („Felerősíti-e az AI a társadalmi egyenlőtlenségeket?”), ahol nekem kellett amellett érvelnem, hogy igen, a mestersége intelligencia (MI) felerősíti a társadalmi egyenlőtlenségeket, míg Dorkának ennek az állításnak a cáfolata jutott. Komolyan vettem a feladatot, nagyjából két hétig érleltem magamban a kérdést, és még az utolsó percekben is alakítottam a mondandómon. A vitáról hamarosan elérhető lesz egy videó, addig is a saját gondolatmenetemet rekonstruálnám röviden az alábbiakban – vitaindító jelleggel, hogy mihez kezdjünk az MI és az egyenlőtlenség kérdésével.

Induljunk ki abból, hogy mit nevezünk társadalmi egyenlőtlenségnek: „amikor egy társadalomban a különböző egyének vagy csoportok egyenletlenül férnek hozzá a javakhoz, erőforrásokhoz és lehetőségekhez. Ez a különbség határozza meg az emberek társadalmi helyzetét, életkörülményeit és jövőbeli esélyeit”. (A Gemini válasza – munkadefiníciónak megteszi.)

Hogy miért fontos a társadalmi egyenlőtlenségek és az MI kapcsolatáról beszélni, annak megértésében Vincent Mosco digital sublime (digitális fenséges) fogalma segíthet nekünk. Konyhanyelven ennek lényege, hogy a digitális technológiák mindig is egy jobb világ reményével kecsegtetnek, például azzal, hogy összekötik az embereket, hozzáférhetővé teszik az információt, demokratizálnak és csökkentik a társadalmi különbségeket. Ezt megígérte a távíró, a rádió, a televízió és az internet is. De sajnos egyik esetben sem valósult meg az ígért utópia, a világ olyan, amilyen, komplex, egyszerre szép és borzasztó hely, ahol a társadalmi egyenlőtlenségek csak nőttek az utóbbi évtizedekben. (Éppen az 1950-es évek óta, amióta létezik az MI fogalma, bár ebben nincs ok-okozati összefüggés.) Tehát fontos, hogy a széplelkű reményeken túllépve beszéljünk a társadalmi egyenlőtlenségek újratermelődésének módján. A valódi kérdés ugyanis az, hogy erre hogyan hat az MI.

Mielőtt rátérnénk a kérdés – nem teljes körű – megválaszolására, nagyon fontos tisztáznunk, hogy általában véve milyen a technológia és a társadalom viszonya, lehet-e egyáltalán azt mondani, hogy egy technológia (mint amilyen az MI) bármit „okoz” a társadalomban, mondjuk felerősíti a társadalmi egyenlőtlenségeket? Szerintem nem, valójában ugyanis nem a technológia, hanem mi magunk, emberek hozzuk létre a társadalmi egyenlőtlenségeket, közösen a technológiával, egy szocio-technikai realitás részeként, ami formálható, de vissza is hat ránk.

Miért fontos ezt tudatosítani magunkban? Mert így nem fatalista módon egy technológiai végzet elszenvedői vagyunk csupán, hanem a valóság alakítói, tehát rajtunk (is) múlik, merre visz ez a fejlődés. Tehát én nem hiszek abban, hogy az MI önmagában növeli az egyenlőtlenségeket. Az MI és a társadalom együtt alakítja az egyenlőtlenségeket, az MI részévé válik az egyenlőtlenségek (újra)termelődésének. Ez viszont egyszerre lehetőség és veszély is: mi magunk döntjük el, hogy az MI milyen társadalmi viszonyokat erősít fel. Azt állítom ugyanakkor, hogy jelenleg egyáltalán nem az egyenlőség irányába megyünk.

Ha szigorúan csak logikai szempontok alapján mérlegelünk, az MI és az egyenlőtlenség viszonya elvileg négy rétegű lehet:

• meglévő egyenlőtlenségeket reprodukálunk vele,
• új egyenlőtlenségeket hozunk létre vele,
• felerősítjük vele a már meglévő egyenlőtlenségeket,
• mérsékeljük vele az egyenlőtlenségeket. (Mivel szerintem erről a vitapartneremnek kellett volna beszélnie, így erre itt nem fogok kitérni.)

Nézzünk ezekre példákat a teljesség igénye nélkül!

Mikor mondhatjuk, hogy az MI segítségével a meglévő egyenlőtlenségeket reprodukáljuk újra? A torzítás (bias) fogalma széles körben elterjedt az MI kapcsán: a korábbi társadalmi egyenlőtlenségeink benne vannak azokban az adatbázisokban, amikkel az MI modelleket tanítják, így az MI képes ezeket újratermelni. Például a hitelbírálat, munkaerő-felvétel, bírói ítéletek, oktatási értékelések vagy rendészeti rendszerek használata során.

Mikor hozunk létre vele új egyenlőtlenségeket? A világon hét-nyolcezer beszélt nyelv létezik, ezek közül az MI ugyan formálisan sok nyelven hozzáférhető, de nem minden nyelven ugyanolyan minőségben. (Attól függően, hogy a tanulásra használt adatbázisban mekkora az adott nyelv részesedése, ez jelentősen eltérő lehet.) De valójában egy-két tucat nagyobb nyelvhez van csak elegendő méretű adat, és rendre ezekhez érhető el megfelelő fejlesztői és üzleti ökoszisztéma, a kisebb nyelvek pedig másodrendűek. (A magyar még a szerencsésebbek közé tartozik, bár vita folyik arról, hogy szükség van-e külön magyar modellre.)

Mindez korlátozza az MI natív használatát (saját anyanyelven és kulturális-gazdasági kontextusban releváns módon), így csökkenti az MI-vel elérhető hasznot, és hátrányba hozza azokat az egyéneket, közösségeket, cégeket és társadalmakat, amelyek ezeket a nyelveket használják a gazdagabb és nagyobb országokkal szemben, ahol az MI natív nyelven is elérhető. Tehát már nemcsak digitális szakadék, hanem MI-szakadék is létezik.

Mikor mondhatjuk, hogy az MI-vel felerősítjük a már meglévő különbségeket? Ha az MI valóban óriási termelékenységnövekedést hoz (ennek egyelőre kevés nyomát látni a termelékenységi statisztikákban, de most fogadjuk el premisszaként, hogy ez csak idő kérdése), akkor kulcskérdés lesz, hogy kié lesz az ebből származó többlet. Ha egy vállalat ugyanazt a munkát hatékonyabban tudja elvégezni, felmerül a kérdés, hogy ki kapja meg a hatékonyságnövekedésből származó többletet. Erre négy elvi lehetőség kínálkozik:

• a fogyasztó, az alacsonyabb árak révén, amivel azonban bővülhet a piac is, mert olyanok is megvehetik a terméket vagy szolgáltatást, akik korábban nem engedhették meg maguknak – ezért ez egyúttal csökkentheti az egyenlőtlenségeket is.
• A munkavállaló, aki magasabb bért kap és/vagy kevesebbet kell dolgoznia, érdekesebb feladatokat végezhet – ez is csökkentheti az egyenlőtlenségeket.
• A vállalat tulajdonosai, akik magasabb profitot realizálnak és ezt megtartják maguknak – ez növeli az egyenlőtlenségeket.
• Az MI-szolgáltató, aki nyújtja a hatékonyságnövelő MI-t, hiszen ezért is fizetni kell, ideális esetben jóval kevesebbet, mint amennyi a hatékonyság növekedésével megkeresett pénz – ez inkább növelheti az egyenlőtlenségeket, mert kevés szereplő kezében összpontosul a többlet.

Az elmúlt évtizedekben domináns részvényesi kapitalizmus működési mechanizmusait ismerve vajon melyik a legvalószínűbb kimenet? Szerintem a harmadik és részben a negyedik. Pedig az első kettő akár csökkenthetné is az egyenlőtlenségeket, de

a viták nem arról szólnak, hogy mennyivel emeljék meg a munkavállalók bérét vagy hogyan rövidítsék a heti negyvenórás munkahetet az MI bevezetésével, hanem hogy hány (látszólag) feleslegessé vált embert lehet végre kirúgni.

Menjünk egy kicsit tovább az MI és a társadalmi egyenlőtlenségek újratermelődésének kapcsolatában. A leginkább izgalmas kérdés ugyanis az, hogy ki dönt a jövőről. Az MI mint a jelenlegi egyik legfontosabb általános célú technológia feletti döntés néhány nagy technológiai cég és pár kormányzat (például az amerikai vagy kínai) kezében koncentrálódik, ami szintén egyenlőtlenségi helyzet. Tehát nemcsak a jövedelmi viszonyok és az erőforrásokhoz való hozzáférés egyenlőtlen, hanem a jövő feletti döntési lehetőség is, ami további hatással van a társadalmi egyenlőtlenségek újratermelődésére. Ha az ígért módon nagyságrendekkel nagyobb lesz az elosztható többlet, arról a társadalomnak kellene döntenie, nem pedig néhány MI-fejlesztő cégvezetőnek vagy politikai döntéshozónak.

Záró gondolat: a szocio-technikai rendszereknek nagy a tehetetlenségük. Amit ma infrastruktúraként, üzleti modellként, szabályozásként vagy intézményi gyakorlatként – akár ad hoc reakcióinkkal – létrehozunk, azt néhány év múlva már nagyon nehéz lesz megváltoztatni. Ezért is fontos most beszélni az egyenlőtlenségek és az MI kapcsolatáról, amikor eldől, hogyan épül be az MI a társadalomba. Ahogy Ted Chiang sci-fi író és szoftvermérnök fogalmazott 2024-ben: „ha léteznek gazdasági igazságot támogató irányelveink, a technológia elősegítheti érvényesülésüket. De ha irányelveink a részvényesek nyereségét szolgálják, a technológia azok megvalósulását hozza közelebb.”*