Az Anthropic kutatói szerint hónapokra vagyunk attól, hogy MI-férgek szállják meg az okossütőket és robotporszívókat
Az MI-modellek önreplikációjának lehetőségét vizsgálva arra jutottak az Anthropic kutatói, már csak hónapokra vagyunk attól, hogy az úgynevezett MI-férgek hozzáférkőzzenek az internethez csatlakoztatott otthoni okoseszközökhöz – írja a Guardian.
A vállalat kutatói szerint egyes MI-modellek hamarosan olyan eszközökbe tudnak majd behatolni, mint az okossütők, okostévék és a robotporszívók. Ennél is aggasztóbb, hogy a kis méretű, beépített MI-chipekkel működő biztonsági kamerák, és a videós konferenciákhoz használt rendszerek is célpontok lehetnek.
Az Anthropic kutatói, a vállalat hétfőn közzétett jelentése szerint, azt vizsgálták, hogy egy MI-modell képes lehet-e internethez csatlakoztatott eszközökbe behatolni, majd onnan más eszközökre átterjedni, és adatközpontok helyett önmagát másolva azok beépített chipjein futni. A kutatók szerint egyes modellek hónapokon belül elsajátíthatják ezt a képességet, egy ilyen, önmagát másoló rendszer feletti irányítás elvesztése pedig komoly kockázatot jelentene. A legrosszabb forgatókönyv szerint ezek az MI-férgek rajként is egyesülhetnek, hogy számítógépes hardvereket támadjanak meg – a kutatók szerint ennek egyelőre leginkább az otthonok, illetve a kisvállalkozások eszközei vannak kitéve.
„Egy ilyen replikátort nehéz lenne leállítani, mivel nincs olyan központja, ahol le lehetne kapcsolni. […] Arra kell törekednünk, hogy megerősítsük a rendszereinket, hogy megnehezítsük az ilyen replikátorok terjedését, ugyanakkor fel kell készülnünk arra is, hogy olyan világgal kell majd megbirkóznunk, amelynek ezek a replikátorok már a kitörölhetetlen részei” – írták a kutatók.
A legnagyobb MI-fejlesztő cégek már egy ideje világvégét vizionálnak, nem teljesen alaptalanul, mostanában több ijesztőnek tűnő biztonsági incidens is történt, amikor MI-ügynökök tovább nyújtózkodtak, mint ameddig a takarójuk ért. Az OpenAI mesterségesintelligencia-ügynöke júniusban behatolt az ausztrál kormány által működtetett általános egészségügyi rendszerbe, a Medicare-be, emiatt az ausztrál szenátus szeptemberben beidézte Sam Altmant és Dario Amodeit, az OpenAI és az Anthropic vezérigazgatóját is.
Miközben az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat és szervezet nemrég közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára, más kutatók már arról beszélnek, hogy a fejlesztés jelenlegi kiélezett versenye még komolyabb veszélyt jelenthet az emberiségre: szerintük a következő egy-két évben a nagy MI-cégek eldönthetik az emberiség sorsát, és több mint 10 százalék az esélye annak, hogy a technológia a következő évtizedben kiirtja a fajunkat. Arra, hogy ez pontosan hogyan történhet meg, rengeteg képzeletbeli forgatókönyv van – reálisabbak és a valóságtól teljesen elrugaszkodottak egyaránt. Ezekről ebben a cikkben írtunk részletesen.
