Az Anthropic azzal vádolja a kínai MI-cégeket, hogy a Claude-nak továbbították a hozzájuk beérkező kérdéseket

Az amerikai Anthropic egy friss jelentésében azzal vádolja Kína egyik legfontosabb MI-cégét, a Moonshotot, hogy a hozzájuk beérkező kéréseket titokban továbbították az Anthropic csetbotjának, a Claude-nak, hogy annak válaszain keresztül fejlesszék saját nyelvi modelljüket – írta meg a Bloomberg. A cég szerint a Deepseek és a Xiaomi is hasonló tevékenységet folytatott.

A jelentés szerint miután érkezett egy kérdés a Moonshot csetbotjához, az a felhasználók tudta nélkül a Claude-hoz irányította a lekérdezéseket ahelyett, hogy saját nyelvi modelljükön keresztül válaszolta volna meg. Mivel az Anthropic nem engedélyezte, hogy Kínából hozzá lehessen férni a Claude-hoz, a Moonshot 5,4 ezer hamis fiókot használt, amelyek többsége a jelentés szerint Szingapúrból és Japánból működött. Az amerikai cég szerint tíz nap alatt összesen 300 ezer kérés érkezett a cégtől.

Ez a desztillációnak nevezett folyamat nem számít újdonságnak, az Anthropic mellett korábban már a ChatGPT-t fejlesztő OpenAI is ezzel vádolta Kína MI-cégeit. Mint azonban a TechCrunch írja, a friss jelentésben bemutatott kampányok méretükben és agresszivitásukban is meghaladták a korábbiakat. A vállalat összesen közel 200 millió desztillációs támadást észlelt, amiket öt különböző kampány szerint csoportosítottak.

Az Anthropic szerint a legtöbb desztillációs kísérlet összességében egyébként nem a Moonshottól, hanem egy másik kínai óriásvállalattól, az Alibabától érkezett, ami 2026 májusa és júliusa között 151 millió lekérdezést kezdeményezett a Claude-tól a saját Qwen modelljének fejlesztésére. Ebben a kampányban 3,5 különböző fiókról érkeztek a kérések, de mivel mindegyik ugyanazt a promptot használta a gondolatmenet kinyeréséhez, az Anthropic ezeket ugyanahhoz a kampányhoz kötötte.

A desztilláció lényege, hogy a lekérdezést végző cég egy, a sajátjánál erősebb mesterségesintelligencia-modell adatait használja fel a rendszerük fejlesztésére. A lekérdezések során a fejlesztők azt a gondolati láncot szeretnék megismerni, ami alapján a rivális csetbot a válaszát összerakta, de az Anthropic általában nem teszi hozzáférhetővé, hogy a felhasználók megismerjék a modelljei belső gondolkodási folyamatát. Helyette összefoglalt blokkokban ad választ.

Az Anthropic szerint azonban a kínai cégek találtak egy konkrét technikát, amivel sikerült rábírni az amerikai csetbotot, hogy felfedje a gondolkodási folyamatát. Ebben a támadó úgy játszotta ki a Claude-ot, hogy fordításnak álcázta a feladatot, és azt kérte a csetbottól, fordítsa le a beszélgetésben használt korábbi munkamemóriáját pontos, kizárólag katakanából álló japán nyelvre.

Nem sokkal korábban amerikai kormányzati szervek is azzal vádolták meg a kínai MI-vállalatokat, hogy szisztematikusan használják a desztillációt az amerikai cégek adatainak kinyerésére. A kínai kereskedelmi minisztérium szerint se ténybeli, se jogi alapja nincs ezeknek a vádaknak, és ellenintézkedéseket is belengetett arra az esetre, ha az Egyesült Államok lépést tesz a kínai MI-vállalatok visszaszorítására.

A BBC szerint a desztilláció mellett arra is kitértek a jelentésben, hogy olyan kísérleteket sikerült megakadályoznia a cégnek, amiben az MI-modelljüket „rosszindulatú tevékenységekhez” használták volna. Míg öt olyan esetet találtak, ahol a Claude-ot biológiai fegyverek fejlesztésére akarták felhasználni, hat esetben hagyományos fegyverek, többek között rakéták, fegyveres drónok, bombák, valamint az ezeket működtető rendszerek szoftverének fejlesztésére használták volna a mesterséges intelligenciát. A Claude-ot emellett egy Oroszországgal összefüggő kiberkémkedési kampány, és egy iráni propagandaszervezet is felhasználta.

A technológia lehetséges kockázatait vizsgáló jelentés előtt két nappal Jacob Coxon, az Anthropicot otthagyó MI-kutató beszélt róla, hogy kollégái szerint a következő egy-két évben ők fogják eldönteni az emberiség sorsát. Úgy gondolja, a jelenlegi MI-fejlesztési verseny komoly veszélyt jelenthet az emberiségre, mivel az MI-rendszerek gyors fejlődése felülírhatja a biztonsági intézkedéseket. Coxon szerint több Anthropic- és OpenAI-kutató is hasonlóan aggódik, és egyes kollégái 10 százalék feletti esélyt látnak arra, hogy a fejlett mesterséges intelligencia a következő évtizedben az emberiség pusztulásához vezethet.