A Pentagon korlátlan hatalmat akar az MI felett, és most fog kiderülni, hogy megkapja-e
Az elmúlt években számtalanszor kiderült, hogy a Trump-kormány senkivel nem bánik kesztyűs kézzel, ha az történetesen akadályozza abban, hogy megkapjon valamit. Így van ez most az egyik legnagyobb, mesterséges intelligenciával (MI) foglalkozó amerikai céggel, az Anthropickal is, amelynek Pete Hegseth védelmi miniszter a héten lényegében ultimátumot adott – ha nem egyezik bele magyar idő szerint péntek késő estig abba, hogy a Pentagon „a törvényi keretek közt” bármire használhassa a modelljeit, akkor egy, a koreai háború idején hozott törvénnyel fogják rákényszeríteni erre. Egyúttal viszont azzal is fenyegeti a céget, hogy kimondják: veszélyt jelent az amerikai ellátási láncra, és letiltják arról, hogy a kormánnyal vagy a nekik beszállító cégekkel üzleteljen.
Ha most úgy érzi, hogy ez a két dolog egymás totális ellentettje, akkor jól érzi. A Trump-kormány egyik volt tanácsadója a Politicónak azt mondta, ezzel a Pentagon lényegében azt kommunikálja, hogy a partnereik nem használhatják az Anthropic modelljeit, miközben maga a Pentagon mégis csak ezeket használhatja, és ezt hajlandó ki is kényszeríteni.
Az Anthropic azért vonakodik, mert attól tart, hogy az amerikai kormány esetleg az ország lakosainak tömeges megfigyelésére használná a modelljüket, és nem is ok nélkül. Elvégre az amerikai idegenrendészet (ICE) már most olyan megfigyelőállamot épített ki, amire Kína is elismerően csettintene. Izrael pedig még ennél is sokkal magasabb szintre pörgette az MI-alapú megfigyelést, és bár ezt az ott zajló háborúval meg lehetett indokolni, már hónapokkal ezelőtt jól látszott, hogy az ott tökéletesített technológiáktól békeidőben és más országokban is kell majd tartani.
De miért ilyen fontos a Pentagonnak az Anthropic, és miért lett komoly kardcsörgetés abból, hogy a minisztériummal amúgy lelkesen együttműködő cég mindenbe azért mégsem szeretne belemenni?
A sztorit érdemes azzal kezdeni, amikor a Pentagon tavaly nyáron előbb az OpenAI-jal, aztán az Anthropickal, az xAI-jal és a Google-lel is 200 millió dolláros szerződést kötött. Az Anthropic ekkor már jó ideje együttműködött a Palantirral, és a tavalyi bejelentésében arról írt, hogy a cégen keresztül a modelljeit a Pentagon titkosított hálózataiba is beépítették. Az Anthropic jelenleg is az egyetlen cég, ami elmondhatja ezt magáról, a modelljeiket pedig élesben is bevetették, a Claude a venezuelai elnök, Nicolás Maduro január eleji elfogásában is szerepet játszott.
Ez viszont a Semafor cikke szerint nem annyira tetszett az Anthropicnak, vagy legalábbis a Palantir képviselője ezt szűrte le abból, ami elhangzott egy januári partneri megbeszélésen. Ezt a Pentagonnal is közölte, mert állítólag megijesztette a gondolat, hogy az Anthropic a jövőben esetleg ellenállhatna, ha egy katonai hadműveletben használnák a modelljeit.
Hegseth nem is hagyta szó nélkül a dolgot, és amikor bejelentette, hogy az xAI csatlakozik a Pentagon dolgozóinak létrehozott GenAI.mil nevű projekthez, nekik is odaszúrt. „A méltányos MI és az összes DEI-n [sokszínűségen, esélyegyenlőségen és befogadáson] meg társadalmi igazságosságon alapuló, a technológiát megbéklyózó befolyás csillaga leáldozott. Mostantól a hadügyminisztériumban a felelős MI az objektívan igazságos, biztonságosan és törvényesen használt MI-t jelenti. Nem fogunk olyan modelleket használni, amikkel nem lehet megvívni egy háborút” – mondta, az utolsó mondatot jó eséllyel az Anthropicnak címezve.
Ez a Trump-kormány azon törekvésére is rámutatott, hogy kultúrharcot csináljon mindenből azzal, hogy woke-nak nevezi a dolgokat, amik nem tetszenek neki. A republikánusok már Trump első elnöksége alatt is előszeretettel alkalmazták ezt a stratégiát, most pedig, ahogy arra a Platformer rámutatott, úgy próbálják keretezni az MI szabályozását, mint ahogy a közösségi médiás tartalommoderációt. Amit a szólásszabadság gátjaként definiáltak, pert is indítottak a Biden-kormány döntései miatt, végül pedig a nagy techcégek hathatós közreműködésével sikerült is leépíteni az egészet, természetesen a szabad internet jegyében.
Február közepére minisztérium és a cég közötti névtelen odamondogatás és a belső feszültségek odáig fajultak, hogy az Axios arról írt: a Pentagon már azzal fenyegeti az Anthropicot, hogy megszakítja vele a kapcsolatot, ha nem hajlandó minden korlátot kivenni a katonai célokra használt modelljeiből. Két nappal később az Axios egy tisztviselő alapján már azt írta, Hegseth már azon gondolkozik, hogy biztonsági kockázattá nyilvánítja a céget – ezt jellemzően olyan külföldi cégeknél szokták megtenni, amelyek valamilyen nem baráti országban, például Kínában működnek. Ez komoly eszkalációnak tűnt, bár a megvalósíthatóságával azért voltak problémák.
Az egész azért is volt furcsa, mert bár az Anthropic vezérigazgatója, Dario Amodei egy januári esszéjében egyértelművé tette, hogy néhány dolgot – az amerikaiak tömeges megfigyelését, a tömeges propagandát és a teljesen autonóm gyilkolást – nem tart legitim felhasználási módnak az MI-modelleknél, és a cég nem is akar ebben részt venni, közben azért nemhogy nem zárkózott el a védelmi felhasználástól, hanem még engedményeket is tett. Az Anthropic az elmúlt napok tárgyalásai során feldobta, hogy légvédelemre és kibervédelemre is használhatnák a modelljeit, a nemrég frissített irányelveiben pedig már nem szerepel, hogy csak bizonyítottan működő biztonsági óvintézkedések kifejlesztése után kezd bele egy erősebb modell fejlesztésébe.
A cég emellett továbbra is az egyetlen belsős partnere a Pentagonnak, bár ez hamarosan megváltozhat. Az eddig csak a nem titkosított rendszerekbe integrált Grokot fejlesztő, Elon Musk-féle xAI-jal a napokban kötött megállapodást a minisztérium, a Google-lel és az OpenAI-jal pedig tárgyalásokat folytatnak – előbbivel állítólag nincs is már messze a megállapodás. Az Anthropic mindenesetre jelenleg jó pozícióban van, és az elmúlt hetekben próbált is a kedvére tenni a Pentagonnak, de a jelek szerint ez nem volt elegendő. Így jutottunk el oda, hogy Hegseth kedden ultimátumot adott: vagy beleegyezik abba, hogy a Pentagon „a törvényi keretek közt” bármire használhassa a modelljeit, vagy jönnek a szankciók.
Azt, hogy mennyi értelmük van ezeknek a szankcióknak, vagyis az Anthropic feketelistára tételének és/vagy a törvény általi kényszerítésének, nehéz megmondani, és erre maga Amodei is rámutatott egy csütörtöki blogposztban, ahol a kettő közti ellentétről szóló Politico-cikket idézte. Emellett az is érdekes kérdés, hogy a törvény általi kényszerítés egyáltalán működhet-e, mert az erre vonatkozó jogszabályokat a kontextustól függően többféleképp is lehet értelmezni. Az biztos, hogy a Pentagon komolyan gondolja a dolgot, a minisztérium szóvivője csütörtök este arról posztolt, hogy ők csak annyit kérnek, hogy mindenre használhassák a modellt, amit a törvények lehetővé tesznek – ha ez nem történik meg, akkor elköszönnek a cégtől.
Az Anthropic viszont az Axios cikke szerint ugyancsak csütörtökön azt mondta, a Pentagon utolsó ajánlata továbbra sem garantálja, hogy a Claude-ot nem fogják tömeges megfigyelésre vagy autonóm gyilkolásra képes eszközök működtetésére használni. Mint írták, az újonnan bekerült garanciák mellé olyan jogi szöveg került, amely alapján lényegében bármikor figyelmen kívül hagyhatnák ezeket. A cég ugyanakkor azt is írta, további tárgyalásokra számítanak a határidő lejárta előtt.
Az egész ügy nem csak azért érdekes, mert a Pentagon éppen azzal fenyegeti az egyik legnagyobb amerikai MI-céget, hogy szinte olyan páriává teszi őket, mint amilyet mondjuk a kínai Huaweiből csináltak, ha nem táncolnak úgy, ahogy ők fütyülnek. Elvégre az, hogy a Trump-kormány nem tűri az elutasítást, eddig is egyértelmű volt. Azt is érdemes viszont megemlíteni, hogy bár a minisztérium törvényi keretekkel való érvelése elsőre logikusnak is tűnhet, valójában semmilyen törvény nem szabályozza az MI katonai felhasználását – vagyis a törvényi keretek gyakorlatilag korlátlanok.
Az, hogy ennek az egésznek mi lesz a vége, magyar idő szerint este 11 után egy perccel, az ultimátum lejártakor fog majd kiderülni, de jelenleg úgy tűnik, ha az Anthropic nem is, valamelyik másik cég megadhatja majd a Pentagonnak a korlátlan hatalmat a mesterséges intelligencia felett.
