Friss szivárgás mutatja meg, hogyan turbózta fel Kína mesterséges intelligenciával az online cenzúrát

A kínai cenzúrát, illetve annak hatékonyságát ezen a ponton senkinek nem kell bemutatni. Arról például több cikk is született pár éve, hogy hogyan nyomta el a gépezet az elégedetlenkedő hangokat a koronavírus-járvány alatt, az utóbbi időszakban pedig a DeepSeek miatt az is nagy nyilvánosságot kapott, hogy még a mesterséges intelligenciát is jelentősen korlátozzák az országban. Egy frissen kiszivárgott adathalmaz alapján magát az MI-t is használják már cenzúrázásra, ezzel felturbózva az eleve nagyon fejlett rendszert – írja a Tech Crunch.

Az adathalmazra egy NetAskari nevű kiberbiztonsági kutató talált rá néhány hete egy titkosítatlan Elasticsearch-adatbázisban, a kínai Baidu egyik szerverén. Arra nem utal semmi, hogy az adatbázisként is használható, nyílt forráskódú keresőmotornak, vagy a leginkább ugyancsak a keresőmotorjáról ismert Baidunak köze lenne az adatokhoz, és az sem derült ki, hogy ki áll az adathalmaz mögött, de az biztos, hogy a közelmúltban, 2024 decemberében is frissítették azt.

Az adathalmazban 133 ezer példa szerepel, amelyeket a leírás alapján egy meg nem nevezett nagy nyelvi modellbe (LLM) táplálnak be, amelynek feladata az, hogy megállapítsa ezekről, hogy szerepelnek-e bennük érzékeny témák, például politikával, a társadalmi élettel vagy a katonasággal kapcsolatban. Ha igen, akkor az LLM feladata, hogy automatikusan megjelölje ezeket a posztokat. A Tech Crunch cikke szerint a legfontosabb témák között olyan,

Kínában az utóbbi években akár tüntetésekig fajuló témák szerepelnek, mint az élelmiszerbiztonság, a környezetszennyezés, a pénzügyi csalások és a munkaügyi problémák szerepelnek.

A lap konkrét példákat is kigyűjtött. Ezek jellemzően rövid összefoglalók, például arról, hogy a vidéki településeken nagy a szegénység és elmennek onnan az emberek, vagy, hogy a helyi, korrupt rendőrök zaklatják a vállalkozókat. Tajvanról és a tajvani katonai helyzetről is van több példa, és még az elégedetlenséget csak sejtető, politikai szatírát is érzékeny tartalomként tartják számon. Az adathalmaz vállaltan a közvéleménnyel kapcsolatos feladatokhoz használatos, így egy szakértő szerint több mint valószínű, hogy a kormányzati cenzúrázásban segíthet.

Xiao Qiang, a UC Berkeley kínai cenzúrával foglalkozó kutatója a Tech Crunchnak azt mondta, ez egyértelmű bizonyíték arra, hogy a kínai állampárt LLM-eket is be akar vetni az elégedetlenkedők elnyomásához. Mint mondta, ezeknek egyértelmű előnye, hogy sokkal hatékonyabban és gyorsabban tudnak dolgozni az emberi munkaerőnél, ezzel a kínai kormány még szorosabbra tudja húzni a gyeplőt az online térben.

Az OpenAI egyébként már februárban beszámolt arról, hogy több kínai entitás is LLM-eket használt erre a célra, a washingtoni kínai nagykövetség viszont a Tech Crunch megkeresésére most annyit reagált, hogy elkötelezettek az etikus MI mellett, és ellenzik az őket érő alaptalan támadásokat.