Mesterséges intelligenciával jósolnák meg Kínában, hogy kik fordulhatnak szembe a Kommunista Párt hatalmával

„Az a célunk, hogy elfogjunk egy embert, aki a bűnelkövetés határán van” – mondta még 2019-ben a BBC riporterének a kínai Hszincsiang tartomány propaganda osztályának egyik tisztviselője. Egy másik kínai tisztviselő pedig arról beszélt a brit közszolgálati adó kamerái előtt, hogy még azelőtt le kell tartóztatni valakit, hogy gyilkosságot követne el, mert már előre lehetnek jelei annak, hogy képes embert ölni. És nyíltan beismerték azt amiről a Human Rights Watch nemzetközi jogvédő szervezet egy évvel korábban beszámolt. Hogy olyan emberek kerültek a főleg az ujgur kisebbség tagjait fogva tartó átnevelőtáborokba, akik még semmit sem követtek el, de a tartományban bevezetett pontalapú osztályozórendszer szerint olyan „szélsőséges gondolataik” lehetnek, amelyek alapján a jövőben akár bűnelkövetővé is válhatnak.

Kínában több mint egy évtizede igyekeznek kifejleszteni olyan szoftvereket, amik a kínai állampolgárok szokásairól, életmódjáról, telefonhívásairól és pénzügyi tranzakcióiról tömegével gyűjtött adatok alapján előre megjósolják, hogy valaki terrorcselekményre készülhet-e. Később egyéb bűncselekmények, úgymond, megelőzésére is kiterjesztették a rendszert. Mivel Kína totális megfigyelőállam, a hatóságoknak rengeteg adat áll rendelkezésükre ehhez. A Financial Times már 2017-ben arról számolt be, hogy mesterséges intelligenciát használó arcfelismerő kamerarendszerekkel próbálják megjósolni, hogy valaki bűncselekmény elkövetésére készülhet-e.

Nyugati szakértők, mint Daniel Sprick, a Kölni Egyetem kínai joggal foglalkozó előadója, már évekkel korábban arra figyelmeztettek, hogy ezt a fajta prediktív rendészetet valójában nem bűnmegelőzésre fogják használni, hanem a kínai állampártra veszélyesnek ítélt csoportok elnyomására. Egy titkosított, 2009-ből származó kínai kormányzati irat például az AP cikke szerint a prediktív rendészet céljának „a Kommunista Párt hatalmának megerősítését” határozta meg.

Mesterséges intelligenciával jeleznék, ki lesz ellenzéki

Egy kínai cég olyan mesterséges intelligenciát alkalmazó programon dolgozik, ami lehetőséget adhat az autoriter kormányoknak arra, hogy megjósolják, kik ellenezhetik a jövőben a hatalmukat, írta a New York Times. Erre abban a Vanderbilt Egyetem kutatói a több mint ötszáz gigabyte-os adathalmazban találtak rá, ami a kínai internetes cenzúra, a Nagy Tűzfal történetének egyik legnagyobb belső dokumentumkiszivárgásakor került nyilvánosságra. Az adatok a Kínai Tudományos Akadémia Információs Mérnöki Intézetéhez tartozó MESA laboratóriumából és a kínai netes cenzúra kereskedelmi változatát külföldi országokban értékesítő Geedge Networkstől származtak.

A Geedge a kiszivárgott információk szerint az állami támogatással működő kutatólaboratóriummal együttműködve azon dolgozik, hogy a kínai állampolgárokról gyűjtött adatok alapján összeállított profilokból mesterséges intelligenciával kiszűrjék azokat, akik a jövőben politikai kockázatot jelenthetnek az államnak. „A Geedge kutatócsoportja nem csak viselkedési mintákat dokumentál. Megpróbálták megjósolni, hogy az állampolgárok mit fognak csinálni, és kivel” – mondta a Timesnak Brett Benson, a Vanderbilt Egyetem politológiaprofesszora.

A 2018-ban alapított Geedge Networks – aminek egyik befektetője az internetet cenzúrázó, Nagy Tűzfalként ismertté vált infrastruktúra atyja, Fang Pin-hszing – gyakorlatilag a Nagy Tűzfal kereskedelmi változatát gyártja, és adja el külföldre. A kiszivárgott adatokból már tavaly kiderült, hogy a cég több országban, köztük Pakisztánban, Mianmarban, Kazahsztánban és Etiópiában telepítette az internetes megfigyelésre és cenzúrázására alkalmas programját, amivel nemcsak monitorozni lehet az internetforgalmat, hanem oldalakat és a cenzúra megkerülésére használható VPN-eszközöket is blokkolni tudnak, írta a Wired.

A cég kutatócsapata 2024 első hónapjaiban azon dolgozott, hogy viselkedésmintákon alapuló profilt hozzanak létre egyes emberekről a tartózkodási helyük, valamint a telekommunikációs és a közösségi oldalakon található adataik alapján, majd mesterséges intelligenciát használó modellek segítségével osztályozzák azokat, hogy észleljék a kínai kommunista zsargonban „káros információnak” nevezett ellenzéki véleményeket. Egy értekezlet kiszivárgott jegyzőkönyve szerint olyan adatokból következtettek volna ellenzékiségre, hogy ki milyen filmeket nézett, milyen könyveket olvasott.

Azt nem lehet tudni, hogy az elmúlt egy évben mennyit fejlődött a technológia, de a New York Timesnak név nélkül nyilatkozó amerikai kormányzati tisztviselők elmondása szerint nincs bizonyíték rá, hogy elkészültek volna vele, pláne arra, hogy már használnák is. Ennek részben oka, hogy a cég technológiai korlátokba ütközött.

Csipgondok

Joe Biden elnöksége idején az Egyesült Államok exporttilalmat vezetett be a mesterséges intelligenciára használt legmodernebb csipekre. A kiszivárgott adatok alapján ez már 2024-ben gondokat okozott a Geedge Networksnek, nem tudták beszerezni a csipeket, amikkel a lehető leghatékonyabban tudták volna működtetni a rendszereiket, írta a Times. Emiatt kénytelenek voltak régebbi, kevésbé erős csipeket és mesterségesintelligencia-modelleket használni, mondta a lapnak Brett Benson.

A Timesnak nyilatkozó amerikai tisztviselők szerint a vállalat most csak olyan csipekhez fér hozzá, amelyek aktuális termékeik működtetésére alkalmasak, de a prediktív technológiához szükséges fejlett csipekhez már nem. A most elérhető csipek korlátozott kapacitásai megnehezítik a lehallgatott telefonbeszélgetések és a térfigyelő kamerák felvételeinek használatát a jövőbeni gondolatbűnök leleplezésére. A kínai biztonsági cégek adattúltengéstől szenvednek, „egyszerre túl sok információjuk van”, mondta a lapnak Jimmy Goodrich. A Kaliforniai Egyetem kínai technológiával foglalkozó kutatója, a RAND Corporation tanácsadója szerint ezért is fontosak az amerikai exporttilalmak, mert a megfigyelőrendszerek hatékonysága a számítógépek erősségén múlik.

Kérdés, hogy ez meddig marad így, ahogy Kína igyekszik felépíteni saját csipgyártását. Donald Trump amerikai elnök tavaly decemberben engedélyezte az Nvidia egyik fejlettebb csipjének korlátozott eladását Kínának, de Peking végül nem engedélyezte a kínai cégeknek, hogy azt megvásárolják. „Sajátot próbálnak kifejleszteni” – mondta Trump újságíróknak Pekingből hazafelé tartva.