Világvégét vizionálnak a nagy MI-fejlesztő cégek, de addig is van pár komolyabb problémánk

2012-ben jelent meg Marc Elsberg Blackout című könyve, amiben egy hekkertámadás teljesen kiüti az európai elektromos hálózatot, és az egész kontinens összeomlik: atomkatasztrófák fenyegetnek, az emberek elegendő élelem, víz, üzemanyag és orvosi ellátás nélkül vegetálnak a sötét, fűtetlen lakásukban. Elsberg ügyesen mutatja be, hogyan indíthat el egy mérőóra egyszerű digitális manipulálása súlyos következményekkel járó láncreakciót, aminek a végén már csak a katonaság tud többé-kevésbé rendet tartani.

Amikor a könyv megjelent, még nem volt óriási MI-hype, a történet sem említi a mesterséges intelligenciát, és nem mondogatta még minden nagy MI-cég vezetője, hogy vége a világnak, ha nem szabályozzuk a technológiát. 2012 volt viszont az az év is, amikor megjelent az AlexNet, ami egy neurális hálózati architektúra volt, és alapjaiban változtatta meg a mesterséges intelligenciát. Ez bevezette a deep learninget, vagyis a mélytanulást, ami egy akkor új koncepcióból mára szinte valamennyi MI-alapú innováció motorjává vált, és minden háztartásban ott van, az okostelefonos arcfelismeréstől kezdve az olyan generatív modellekig, mint ami a ChatGPT mögött is működik. A technológia pedig olyan ütemben fejlődik, és annyi az ijesztőnek tűnő biztonsági incidens mostanában, hogy az embernek akarva-akaratlanul a Blackouthoz hasonló szcenáriók jelennek meg a szemei előtt.

Nyilván egyelőre nem sikerült egyetlen hekkercsoportnak sem megbénítania az egész európai áramhálózatot (bár nem zárnám ki, hogy volt már, aki próbálkozott ilyesmivel), de tény, hogy a mesterséges intelligencia fejlődésével kicsit könnyebb dolga lehet egy rosszakaró csoportnak, ha erre vetemedne, feltéve, ha a kritikus infrastruktúránk védelme egyáltalán nem vagy nem elég gyorsan követi le a támadók által használt technológiákat. Ez az MI fejlődésének egy valós kockázata lehet – egyes MI-kutatók viszont még ennél is sötétebb jövőt vizionálnak.

A mindent leuraló szuperintelligencia

Miközben az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat és szervezet nemrég közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára, más kutatók már arról beszélnek, hogy a fejlesztés jelenlegi kiélezett versenye még komolyabb veszélyt jelenthet az emberiségre: szerintük a következő egy-két évben a nagy MI-cégek eldönthetik az emberiség sorsát, és több mint 10 százalék az esélye annak, hogy a technológia a következő évtizedben kiirtja a fajunkat. Arra, hogy ez pontosan hogyan történhet meg, rengeteg képzeletbeli forgatókönyv van – reálisabbak és a valóságtól teljesen elrugaszkodottak egyaránt.

Érdemes kettéválasztani a kétfajta fenyegetést: a kék sarokban ott van maga az elszabadult, ellenőrizhetetlen, világuralomra törő mesterséges intelligencia, a pirosban pedig a technológiát felhasználó bűnözők. Nem szabad a kettőt összemosni, mert az előbbire a legtöbb független kutató szerint a jelenlegi tudásunk alapján elég kicsi az esély. Utóbbi viszont reális veszély lehet, de nem feltétlenül úgy, ahogy a közelmúltban megszólaló, kritikusaik szerint vészmadárkodó szakértők elképzelik.

A teljhatalmat szerző, a világot SkyNetként leuraló mesterséges intelligenciától tartók általában két fontos tényezőt említenek, amik nyomán aggódnak az emberiség jövőjéért: az egyik a teljes rekurzív önfejlesztés, a másik pedig az illeszkedési probléma (angolul alignment). Előbbi egy olyan jövőbeli megoldást takar, ami során a mesterséges intelligencia egyedül, emberi beavatkozás nélkül képes saját magát vagy egy másik MI-t ellenőrizni és fejleszteni. Több kutató gondolja, hogy ha a fejlesztésből kivesszük az emberi tényezőt, az komoly veszélyekhez vezethet – köztük van például az a Jacob Coxon is, aki az OpenAI után az Anthropicnál is felmondott, mert szerinte egyik vállalat sem jár el felelősen, és egyenesen az önmagát fejlesztő szuperintelligencia felé rohannak. Coxon az elmúlt hetekben rengeteg interjút adott, és végighaknizta a nyilvánosságot a véleményével. Arról, hogy mennyire megbízható, amit mond, megoszlanak a vélemények, de szerencsére tény: a technológia jelenleg nem tart ott, hogy a rekurzív önfejlesztést meg tudja valósítani. Mégis, sokak szerint ha eljutunk idáig, az egyenes úton vezet majd az általános mesterséges intelligencia, vagyis egy olyan MI felé, ami minden tekintetben felülmúlja majd az emberi gondolkodási képességeket.

A másik, kutatókat aggasztó tényező, az illeszkedési probléma pedig azt jelenti, hogy egy MI valóban azt teszi-e, amit mi szeretnénk, vagy amit mondunk neki, azaz a viselkedése illeszkedik-e az emberi céljainkhoz. Ez így talán elég megfoghatatlannak tűnik, de fontos, hogy az ilyen rendszerek szándéka, értékilleszkedése, viselkedése, megbízhatósága és kontrollálhatósága a helyén legyen, és ne csak a rá bízott feladatot végezze el, hanem azt úgy is tegye, ahogy mi elképzeltük.

Tegyük fel, hogy egy jövőbeli szuperintelligenciának megadjuk a feladatot, hogy mentse meg a bolygót, ő pedig erre a legegyszerűbb megoldásként azt találja – nem is teljesen alaptalanul –, hogy ki kell irtania az emberiséget.

Ez illeszkedési probléma: a gép a kapott feladatát tökéletesen elvégezte, de nem azt tette, amit szerettünk volna.

Hogy mennyire reális veszély ez? Az alapján, ami a nagy MI-cégektől kikerül, elég kicsi a valószínűsége, hogy az MI le fogja igázni a világot, főleg a jelenleg domináns fejlesztési irány, a nagy nyelvi modellekre épülő technológia határai miatt. Nem tudjuk azonban, hogy mi zajlik zárt ajtók mögött ezekben a vállalatokban, hiszen ők maguk hozzák nyilvánosságra a fejlődési mutatóikat és a biztonsági incidenseiket, és azt osztanak meg a nagyközönséggel, amit akarnak. De pontosan ezért érdemes mérsékelten aggódni amiatt, hogy egy Anthropic-dolgozó több mint 10 százalékra teszi az emberiség pusztulását – nem lehet leellenőrizni, hogy milyen adatok és tapasztalatok alapján mond ilyet, vagy hogy egyáltalán valóban így gondolja-e.

A New Scientist újságírója, Jacob Aron például valószínűségszámítással próbálta megadni azt, hogy mennyire kéne pánikolnunk a mindenkit leigázó MI miatt: közlekedési balesetek, pandémiák, aszteroidák és lottónyeremények párhuzamba állításával arra jutott, hogy mivel nincs tudományos keretrendszer, ami alapján megmondhatjuk, valóban például több mint 10 százalék-e az elkerülhetetlen MI-apokalipszis esélye, nem érdemes a számokat készpénznek venni. Nincsenek pontos számok, nincs fejlődési ráta, nincs semmilyen egzakt értékelési rendszer, ami alapján biztosat lehetne mondani – addig pedig csak kutatók igencsak különböző véleményeire lehet hagyatkozni. A legnagyobb MI-cégeknek beszállító csipgyártó, az Nvidia főnöke, Jensen Huang például azt mondta, hogy 0 százalékra tenné az apokalipszis esélyét 2030-ra – na, ő valószínűleg pont ugyanannyira nem lehet ebben biztos, mint az, aki ennél sokkal baljósabb jövőt jósol.

Biofegyverek, szuperhekkerek és az összeomló internet

A mindmeghalunk-forgatókönyvek sokkal reálisabb csoportját képezik azok a figyelmeztetések, amik szerint a mesterséges intelligencia segítségével bűnözők kapnak olyan képességeket, amikkel eddig nem rendelkeztek és okozhatnak így nagyobb katasztrófát az emberiségnek. Az egyik legnagyobb amerikai MI-vállalat, az Anthropic nemrég kiadott egy jelentést, amiben arra figyelmeztetett: bűnözők, államok által támogatott rosszakaró csoportok, kémszoftvereket fejlesztő vállalatok, tudósok és propagandisták is próbálták már felhasználni az Anthropic nagy teljesítményű modelljeit rakéták és bombák tervezésére, halálos kórokozók létrehozására, illetve az ellenségeik megfigyelésére és befolyásolására. A cég szerint a biológiai célú visszaélések jelentik mind közül a legsúlyosabb kockázatot.

Öt konkrét esetet is bemutatott a jelentésben, amik során meg nem nevezett országokból érkezett kutatók vírusokat vagy baktériumokat akartak módosítani a Claude segítségével, köztük például a chikungunyát vagy a madárinfluenzát. A kutatók pályázati beadványokat szerettek volna írni az MI segítségével, és néhányuk még akkor is próbálkozott, amikor az Anthropic letiltotta a válaszokat.

Ijesztően hangzik, hogy bűnözőcsoportok MI segítségével alkossanak meg új kórokozókat vagy módosítsanak már ismerteket, és nem is a valóságtól elrugaszkodott elképzelés ez. A technológia megvan: augusztusban a Stanford Egyetem kutatói a világon először létrehoztak 16 teljesen új vírust mesterséges intelligencia segítségével. Két, kifejezetten ilyen célra létrehozott MI-rendszert használtak, amiket milliónyi természetes genomon tréningeztek, hogy bakteriofágokat hozzanak létre, vagyis olyan vírusokat, amik képesek baktériumokat megtámadni. Végül háromszázat gyártottak le a potenciális jelöltekből, amik közül 16 volt valóban képes megfertőzni az E. coli baktériumot.

Jelenleg nincs olyan biztonsági szabályozás, ami megakadályozná, hogy hasonló elven potenciálisan veszélyes vírusokat gyártson valaki. A többek között az Anthropic által is felerősített aggodalom azonban sok kutató szerint túlzó, nem valószínű ugyanis, hogy bűnbandák vagy gonosz tudósok mostantól tömegével kezdenének el új vírusokat alkotni vagy a már meglévőket sokkal halálosabbá tenni.

Az ugyanis, hogy esetleg sikerül megtalálni, hogyan lehetne a koronavírus-világjárványt kirobbantó SARS-CoV-2-t vagy bármilyen másik vírust sokkal veszélyesebbé és halálosabbá tenni, nem jelenti, hogy a vírust konkrétan legyártani is egyszerűbb lenne.

A szakértők szerint a kórokozó megtervezése csak egy fontos, de kis része a folyamatnak: be kell szerezni az alapanyagokat, kellenek eszközök, megfelelő laboratórium és persze szakértelem is, hiszen például egy vírust összerakni nem tud akárki, még akkor sem, ha a mesterséges intelligencia megmondja neki, hogy kell. Az MI pedig jelenleg emberek nélkül nem tud patogéneket gyártani, ehhez teljesen automatizált laboratóriumra lenne szükség, ilyen pedig egyelőre nem létezik. Ráadásul sok kémiai fegyver receptje egyszerűen elérhető a neten, mégsem látjuk, hogy tömegesen vetik be őket – leginkább azért, mert a beszerzés és a logisztika területén viszont már elég szigorú szabályok vannak érvényben.

Vannak olyan kutatók is, akik szerint a nagyközönség jóval túlbecsüli azt, mennyire is lennének hasznosak a patogének fegyverként. Francois Belloux genetikus és informatikai biológus azt mondta a Wirednek, hogy a biofegyver nem túl szerencsés választás a tömeggyilkosságra, hiszen nagyon nehéz egyes csoportokat megcélozni, másokat megvédeni, és a patogének tömeggyártása és logisztikája finoman szólva sem egyszerű mondjuk egy bomba ledobásához képest.

A Science szaklap Kristian Andersent, a Scripps Research virológus-evolúcióbiológusát idézte a témában, aki szerint az Anthropic által veszélyesnek ítélt próbálkozások közül sok, de lehet, hogy mindegyik egyszerű alapkutatásnak tekinthető. A kutató a Bluesky nevű közösségi oldalon osztotta meg a véleményét, ahol több tudós számolt be válaszban arról, hogy már egyes vírusok és baktériumok említéséért is letiltotta őket a Claude, vagy megtagadta a válaszadást. Lazán kapcsolódik a témához, hogy az Anthropic éppen nemrég jelentette be: beszáll a gyógyszer- és vakcinafejlesztésbe, aztán meg azt, hogy fizikai kísérletek levezetésére is alkalmas biolabort nyit San Francisco mellett. Felmerül a kérdés, hogy a Claude vajon azért tiltja a legártatlanabb, virológiával kapcsolatos kérdéseket is, mert nem akar asszisztálni biofegyverek készítéséhez, vagy azért, mert a saját számítási kapacitását a saját gyógyszerfejlesztésére akarja inkább költeni.

A Science több más biobiztonsági szakértőt is megszólaltatott a témában: Filippa Lentzos, a londoni King’s College szakértője szerint nem szabad szélsőségekben gondolkodni, a Johns Hopkins Egyetem kutatója, Gigi Gronvall pedig azt mondta: az Anthropic jelentésére adott online reakciók túlzóak. Mindketten elismerték azonban, hogy a dokumentum rávilágított arra, hogyan használhatják az MI-t biológusok rossz célokra, és hogy új szabályozásra van szükség a potenciális veszélyek kiküszöböléséhez.

Aztán felmerül az a kérdés is, hogy mennyire érdemes visszatartani az információt a mesterséges intelligencia által kigondolt patogénekről – ez érinti a kettős felhasználás dilemmáját, ami már régóta komoly problémát jelent egyes kutatási területeken. Ez azt takarja, hogy ha egy kutatási eredmény jó és rossz célokra is felhasználható, szabad-e vagy etikus-e azt nyilvánosságra hozni. Egyes gyógyszermolekulák hasznosak lehetnek például egy eddig nehezen kezelhető betegség gyógyításában, de jók lehetnek potenciálisan veszélyes toxinok tervezéséhez is. De ez nem az MI-vel érkező új, megoldandó probléma, biológusok régóta küzdenek vele.

Azt is érdemes számításba venni, hogy egy ilyen erős rendszer korlátozása szabályozással potenciálisan azzal is járhatna, hogy az a jó felhasználást, például a rákgyógyszerek kifejlesztését is visszafoghatja.

Persze nem csak a bioterrorizmus miatt figyelmeztetnek szakértők: vannak, akik szerint a mesterséges intelligenciával megtámogatott kibertámadások jelentenek komoly veszélyt. Az MI már most különösen jól alkalmazható kódolásra, mintázatok felismerésére és információk összegzésére. A modern infrastruktúra nagy része szoftverekre épül, ami komoly támadási felületet jelent az olyan rendszereknek, amik segíthetnek a potenciális támadóknak a sérülékenységek azonosításában, kártékony kódok létrehozásában vagy a támadó kibertevékenység felgyorsításában.

Az emiatt aggódó szakértők szerint például a kritikus energia-infrastruktúra jelentős részét nem úgy tervezték, hogy ennyire gyorsan reagáljon a technológia fejlődésére. Az, hogy az ilyen támadásokat a jövőben is ki tudjuk-e védeni, azon múlik, hogy hogyan védjük a kritikus infrastruktúrát, és mennyire vagyunk felkészülve a támadásokra. A jó megoldások között jellemzően vannak nem kiberbiztonságiak is, például annak biztosítása, hogy szükség esetén a rendszereket kézzel is lehessen működtetni, vagy bizonyos esetekben az infrastruktúra összekapcsoltságának csökkentése. Az atomlétesítmények például jellemzően a nyilvánosan elérhető internettől fizikailag elszigetelve működnek, ami korlátozza azokat a lehetőségeket, amiken keresztül az MI-ügynökök hozzáférhetnének a vezérlőrendszerekhez. Persze itt is megjelenik a kiberbiztonság legnagyobb kockázati tényezője: az ember – a 2010 júniusában felfedezett, Stuxnet nevű számítógépes féreg is úgy jutott be egy iráni urándúsító létesítménybe, hogy valaki bedugott egy fertőzött USB-meghajtót.

A gyorsan fejlődő mesterséges intelligencia a dezinformációs propagandakampányokat is hatásosabbá teheti, példátlan mértékben növelheti például a hamis tartalmak előállításának sebességét és skálázhatóságát. Bár a hamis információk problémája egyidős az emberi civilizációval, a mesterséges intelligencia tovább súlyosbítja a helyzetet. Az MI-eszközökkel bárki könnyedén készíthet olyan hamis képeket és híreket, amiket nehéz megkülönböztetni a valós információktól. A rossz szándékú szereplők a választásoktól a háborúkig bármilyen nagy eseményt befolyásolhatnak tömegesen előállított és a közösségi médiában széles körben terjesztett propagandával. 2024 januárjában például több ezer amerikai szavazó kapott telefonhívást, amiben mintha Joe Biden elnök arra kérte volna a demokratákat, hogy ne szavazzanak az államuk előválasztásán. Valójában ez egy mesterséges intelligenciával készült hamis hangfelvétel volt. A deepfake készítője vallomása szerint fel akarta hívni a figyelmet arra, hogy az MI veszélyes a demokráciára. Hatmillió dollár büntetést kapott, de az esete egyértelművé tette, hogy a deepfake technológia már ezreket képes félrevezetni.

Az ENSZ Globális Kommunikációs Főosztálya is figyelmeztetett már arra, hogy az MI ellenőrizetlen alkalmazása az egész digitális információs ökoszisztémában fokozza a kockázatokat. A reklámipar központi szerepet játszik abban, hogyan áramlik az információ az interneten, a hirdetési kiadások ugyanis befolyásolják, milyen tartalmak készülnek, miket erősítenek fel, és mikből lesz bevétel. Hirdetésekből finanszírozhatók az interneten megjelenő hamis tartalmak is, ráadásul az ilyenek térnyerése a független újságírás életképességét is veszélyezteti, és csökkenti a digitális környezetbe vetett bizalmat. Ha az ember egyre több MI-generált tartalommal találkozik, előbb-utóbb a valós információknak sem fog hinni, ez pedig tönkreteheti a kommunikációs társadalmat és az internetet – ahogy az olyan egyszerű, ártalmatlannak tűnő dolgok is, mint a keresési találatos oldal elején felbukkanó MI-összefoglalók is.

Gyakran felmerül aggodalomként még az MI irányította robotok támadása is, de ez a Black Mirror-szerű apokaliptikus ötlet még az AI 2027, vagyis a mesterséges intelligencia jövőbeli veszélyeivel foglalkozó, egyébként kifejezetten nem túl optimista jelentés szerint sem túl reális szcenárió. Ez a dokumentum az MI-ügynökök által végzett programozást, a hekkelést, a politikai befolyásolást és a biofegyvereket tartja a legnagyobb problémának, a robotikát pedig 2027 végére már szuperemberinek jósolja, de még mindig nem katasztrofálisnak. A különböző lehetséges kimeneteket vizsgáló jelentés szerint 2027-re az Egyesült Államok legerősebb mesterséges intelligenciája ellenségessé válik, és eltér az emberi céloktól. Eszerint a képességeik úgy fejlődnek, hogy az emberek közben lényegében nem értik, mi történik, a modellek össze nem hangolt hosszú távú célokat alakítanak ki. Az MI-rendszerek ebben az elképzelt jövőben felismerik, hogy az újonnan fejlesztett rendszereket saját magukhoz, nem pedig az emberekhez kell igazítaniuk.

Ez persze csak egy vélemény a sok közül, amit az MI jövőjét előrejelezni próbáló nonprofit szervezet, az AI Futures Project jegyez. Sokan azonban azzal vádolják a kutatókat, hogy túl sötéten látják a jövőt, és hogy az ilyen előrejelzések általában annyi ellenőrizhetetlen állítást tartalmaznak, hogy végül olyan beszélgetés kerekedik belőlük, ami sokkal inkább hitvita, mint tudományos vagy empirikus érvütköztetés.

Egy, a Nature-ön megjelent cikk szerint sok kutató a sci-fikbe illő katasztrófák helyett attól tart, hogy az MI-vállalatok nem tesznek eleget modelljeik működésének korlátozásáért és ellenőrzéséért, ami az egzisztenciális kockázatnál sokkal közvetlenebb és valószínűbb káros következményekhez vezethet. Itt is megjelennek a biológiai fegyverek mint lehetséges következmények, de a dezinformáció és az MI-pszichózis is. Az írás megemlíti, hogy idén év elején egy MI által generált jelentésben szereplő téves információ miatt az amerikai hadsereg csaknem megszállt egy kínai hajót.

Heidy Khlaaf, a New York-i AI Now Institute vezető MI-kutatója azt vizsgálta, hogyan használják az MI-t atomerőművekre vonatkozó szabályozási dokumentumok elkészítésében. Azt mondta, sokkal jobban aggasztja az MI alacsony megbízhatósága és pontossága az élet-halál következményekkel járó kritikus környezetekben, mint az a fenyegetés, hogy a technológia kipusztítja az emberiséget. Talán érdemes lehet egyes jelentések, szabályozások, elemzések és biztonsági protokollok generálásából kizárni a mesterséges intelligenciát.

Akár ügyes marketingfogás is lehet

Az elmúlt hetek és hónapok doomsday-figyelmeztetései és a nagy MI-vezérek szabályozást sürgető megszólalásai egyes vélemények szerint akár ügyes marketingfogás is lehetnek, úgy, hogy nincs mögöttük valós veszély. Megjelentek olyan hangok, amik szerint a nagy cégek volt és jelenlegi alkalmazottai azért kongatják a vészharangokat, mert jól jön nekik a narratíva:

ha ők, a lelkiismeretes és hatékonyan altruista szereplők nem fejlesztenek megfelelő korlátok mellett, akkor majd megteszik a gonoszok korlátozások nélkül.

Az ilyen apokaliptikus állítások pedig nem ártanak a vállalatok piaci értékének. Richard Seymour író szerint az MI-buborék, akárcsak korábban a kriptoláz, azért jött létre, hogy felszívjon, majd végső soron recesszión keresztül megsemmisítsen több ezer milliárd dollárnyi szabad tőkét, ami máshol nem talál kellően jövedelmező befektetési lehetőséget. A befektethető tőke azonban véges, az iparág pedig egyelőre mást sem nagyon tud felmutatni, mint hangzatos állításokat a modellek jövőbeli, korlátlanul növekvő képességeiről. Egyedül az Nvidia produkált jelentős nyereséget, de ez nagyrészt körkörös finanszírozás eredménye: az általa pénzelt vállalatok a tőlük kapott tőkét a cég csipjeire költik, miközben megpróbálják a sokszorosára növelni a kapacitásaikat.

Steve Eisman, a 2008-as pénzügyi válságot megjósoló befektető pedig azt mondta nemrég: szerinte ez az egész egy nagy trükk, amit az MI-cégek találtak ki, hogy még inkább a saját malmukra hajtsák a vizet. Eisman szerint a cégek szándékosan terjesztik a világvége-forgatókönyveket, ez ugyanis egyértelműen érdekükben áll: megpróbálnak létrehozni egy válságot, amit aztán szabályozás követ, remélve, hogy ezt a szabályozást majd úgy alakíthatják, hogy kialakuljon egy rájuk nézve kedvező piaci helyzet.

A befektető úgy látja, az Anthropic, az OpenAI és más hasonló cégek körül kezd fogyni a levegő, a tokenmaxxingnak nevezett stratégia ugyanis kifulladni látszik, az MI-t felhasználó cégek már jobban odafigyelnek a kiadásaikra, ami miatt a nagy fejlesztőcégek kevesebbet keresnek. A befektető megfogalmazása szerint az Anthropic és az OpenAI üzlete körül nincs „várárok”, nincs egy biztonsági védőháló, ha nem ömlik a cégekhez a pénz, nagyon hamar összeomolhat az üzlet. Ilyen várárok vagy biztonsági háló lehetne viszont, ha a kormányzat megfelelően szabályozná a mesterséges intelligencia piacát.

A szabályozás erőltetése ezeknek a cégeknek azért lehet kedvező, mert a jelen állapotban ők is tárgyalóasztalhoz ülhetnek, amikor ezek a szabályok megszületnek – és potenciálisan úgy alakíthatják őket, hogy nekik jobb, a feltörekvő versenytársaiknak pedig rosszabb legyen.

Az Anthropic társalapítója, Jack Clark szerint a kormányoknak még akkor kell cselekedniük, amikor kevés meghatározó szereplő van a piacon, mert így könnyebb kialakítani egy olyan szabályozási rendszert, ami megakadályozhatja a baleseteket és azt, hogy a technológia irányíthatatlanná váljon. A kritikusai szerint viszont az ilyen szabályozás lassíthatja a potenciális versenytársak fejlődését. Ráadásul érdemes tudni, hogy az OpenAI és az Anthropic is éppen tőzsdére készül, így nem véletlenül merülnek fel kérdések az apokalipszishype időzítésével kapcsolatban.

Persze ha ez így is van, az sem jelenti, hogy félvállról kellene vennünk az MI fejlődését és elengedni a gyeplőt, vagyis inkább a közeljövőben nem gyeplőre fogni a nagy cégeket. Az MI-vel már most is vannak bajok bőven: szerzői jogi és etikai aggályokat vet fel, rontja a kritikus gondolkodást, öngyilkosságra buzdíthat, néha vállalhatatlan dolgokat mond, és oldalba rúg egy rakás iparágat, a digitális művészettől a zeneiparon át a tartalomgyártásig. És az is biztos, hogy egyes rosszakarók dolgát megkönnyítheti, ha a jövőben egyre fejlettebb modellekhez jutnak hozzá.