Először fordult elő, hogy mesterséges intelligencia fedezett fel élesben egy biztonsági hibát

A mesterséges intelligenciára (MI) épülő Big Sleep, a Google Project Zero és a DeepMind kutatóinak közös projektje, a világon elsőként fedezett fel önállóan egy nulladik napi sérülékenységet egy sokak által használt programban, még mielőtt azt a hekkerek kihasználhatták volna – írja a Forbes. És akkor most nézzük, mit jelent mindez magyarul!

Minden programban lehetnek olyan hibák, amelyek lehetővé teszik a feltörését. Ezért biztonsági szempontból kulcskérdés, hogy ezeket a sérülékenységeket az adott program fejlesztői vagy kiberbiztonsági szakemberek előbb találják meg, mint a hekkerek – ahogy az is, hogy a hibajavításokat tartalmazó frissítéseket a felhasználók telepítsék is. Vannak olyan sérülékenységek, amelyek már ismertek, csak még nem adtak ki rájuk javítást, vagy azt nem minden érintett eszközön telepítették.

De vannak olyanok is, amelyekről még maguk a program fejlesztői sem szereztek tudomást, ezeket hívják nulladik napi (zero-day) sérülékenységnek. Ha a nulladik napon egy etikus hekker vagy egy jó szándékú felhasználó botlik bele ezekbe, szuper: szól a fejlesztőknek, akik javítják a hibát, és minden rendben. Ha viszont egy kiberbűnöző vagy egy állami hekkercsoport talál rá egy ilyen, még ismeretlen hibára, akkor azt kedvére kihasználhatja a maga céljára, amely profiltól függően lehet például pénzszerzés, kémkedés vagy akár szabotázs. Sőt, akár áruba is bocsáthatja a sérülékenységet más hekkereknek.

A Google-nél 2014 óta működik a Project Zero, amelynek a fentiek után már a nevéből is kitalálható, hogy a szakértői nulladik napi sérülékenységekre vadásznak. Ugyanebben az évben vették meg a DeepMindot is, amely pedig a mesterséges intelligencia jelenleg is zajló forradalmának egyik élharcosa – munkájuk szerteágazó jellegét mi sem illusztrálja jobban, mint hogy az alapító-vezérigazgató Demis Hassabis épp idén kapott kémiai Nobel-díjat fehérjeszerkezetek MI-alapú előrejelzéséért.

A két csapat nemrég összeállt, hogy közösen dolgozzanak az eleinte Naptime, azaz szundi néven futó projekten, amely mostanára a Big Sleep, azaz nagy alvás nevű projektté nőtte ki magát. A Big Sleep keretében egy nagy nyelvi modellre épülő MI-ügynökkel keresnek sérülékenységet – és mint láthatjuk, találnak is. November 1-jei bejelentésük szerint a megoldásuk az SQLite nevű, sokak által használt adatbázis-kezelőben talált egy eddig ismeretlen hibát, ezzel állításuk szerint ez az első alkalom, hogy mesterséges intelligencia azonosított egy való világbeli sérülékenységet.

A hibát természetesen még a nyilvános bejelentés előtt, októberben jelentették az SQLite fejlesztőinek, akik még aznap javították is. A sérülékenységet még azelőtt szúrta ki a Big Sleep, hogy az bekerült volna a program egy hivatalos kiadásába, azaz már azelőtt javíthatták a fejlesztők, hogy a hekkereknek esélyük lett volna kiszúrni, és a felhasználókra veszélyt jelenthetett volna.

A Big Sleep kutatói szerint az eredmény izgalmas, de még erősen kísérleti, de a munkájuk reményeik szerint nagy előnyt fog majd jelenteni a védekező félnek a kiberbiztonság folyamatosan gyorsuló macska-egér játékában, nemcsak azzal, hogy gyorsabban találhatják meg a kockázatot jelentő programhibákat, hanem azzal is, hogy költséghatékonyabban javíthatják azokat.