Felismeri, ha egy kép manipulált? Próbálja ki ezzel a teszttel!

A CGI-Deepfake kutatócsoport képek és videók megbízhatóságával foglalkozik: azzal, hogy mennyire hihetünk a szemünknek. Ebbe az is beletartozik, hogy a hétköznapi internethasználók mi alapján döntik el egy képi vagy videós tartalomról, hogy hitelesnek tekintik-e. A képszerkesztő programokkal módosított képek mellett a közösségi oldalakon is egyre inkább terjedő úgynevezett deepfake-tartalmakat is vizsgálják, többek között egy online kitölthető teszttel. A válaszadóknak 18 képről és videórészletről kell eldönteniük, hogy az eredeti vagy módosított-manipulált tartalom-e. A kérdőív végén a pontszámon kívül szöveges visszajelzést is adnak az eredményről. Ha tesztelni szeretné, hogy megtévesztik-e önt az ilyen tartalmak, tegye próbára magát, kattintson ide!

A kutatókat a deepfake terjedéséről, veszélyeiről, és a teszt eddigi eredményeiről kérdezte a Telex. A kérdésekre dr. Veszelszki Ágnes tanszékvezető egyetemi docens, a kutatócsoport vezetője, és két munkatársa, Horváth Evelin doktoranda és Mezriczky Marcell mesterszakos hallgató válaszolt e-mailben.

Milyen definíciókkal dolgoznak? Hol húzódik a határ a „deepfake”, a „fake”, illetve a minden médium, de akár minden telefon által használt kép- és hangmanipulációs technológiák között?

Az úgynevezett deepfake-et tartják a kutatók a hamis információk terjedésében a „nehézfegyverzetnek”. A deepfake digitálismédia-manipulációt jelent: valószerűnek tűnő, gépi tanulással létrehozott hamis videót, amelynek a szereplői olyan dolgokat tehetnek vagy mondhatnak, amit a valóságban soha nem tennének vagy mondanának. Az egyik ismert példa szerint Barack Obama korábbi amerikai elnök egy deepfake-videóban vulgáris szavakkal illette Trump (azóta ugyancsak volt) elnököt; egy másik hamisított videóban Ferenc pápa Trump mellett kampányolt; egy harmadik, széles körben elterjedt deepfake-videó pedig egy ismert kutató szájába adja az oltásellenesek egyik legerősebbnek tartott, egyébként tudományosan cáfolt érvét, miszerint az oltások autizmust okoznak. Az angol királynő 2021-es újévi, deepfake-kel előállított, azaz hamisított köszöntője hamarabb megjelent az online médiában, mint a valós videó.

A deepfake abban különbözik a photoshopolt képektől, hogy nem csupán a szemre, hanem a fülre is hat. A gyanútlan és gyakorlatlan videónézőt az egyre jobb és jobb minőségben előállított deepfake-videók könnyen becsapják. Ugyancsak megnehezíti a deepfake felismerését, hogy ezek a videók nagyrészt valódi képsorozatok, a deepfake-előállítók csupán kisebb részeket, az arckifejezést vagy a hangot változtatják meg rajtuk. Ily módon a tényeket és a fikciót még nehezebb elkülöníteni egymástól.

Milyen erőforrásokat igényel ma egy deepfake kép vagy akár videó előállítása? Mondjuk egy olyané, amilyenről nemrég a Telex is írt.

A deepfake videók elkészítése nem igényel semmilyen speciális tudást, olcsón és gyorsan kivitelezhetőek, a szoftveres letiltásuk pedig szinte lehetetlen. Egy, az átlagosnál kicsit erősebb hardverrel rendelkező számítógéppel már nehézségek nélkül el lehet készíteni egy kifejezetten jó minőségű, akár hosszabb terjedelmű deepfake videót. Jelenleg még ennél is népszerűbbek azonban a minimális erőforrást igénylő telefonos applikációk, mint amilyen a Reface is. A tesztünkben szereplő összes videó ezzel az alkalmazással készült, és az eddig beérkezett válaszok alapján úgy tűnik, ez a viszonylag egyszerű alkalmazás is elegendő lehet a felhasználók megtévesztésére. Annyi szükséges hozzá, hogy rendelkezzünk több jó minőségű képpel az alanyról, akinek az arcát bele szeretnénk illeszteni a filmekből kivágott jelenetekbe. Abba érdemes belegondolni, hogy a közösségi médiába feltöltött sok-sok fotónk milyen könnyedén felhasználható deepfake videó készítésére, akár a hozzájárulásunk nélkül is! Ez visszaélésekhez is vezethet, amint ez megtörtént már politikai célú videók és bosszúpornó esetében is.

Lesznek mondjuk hamarosan unokázós szélhámosok, akik Skype-on hívják fel a nagymamákat?

Itt nem is jövő időről beszélünk! Már két éve, 2019-ben csaltak ki pénzt egy vállalattól a cégvezető mesterségesen létrehozott hangjával, telefonon keresztül. A technológia óriási léptékben fejlődik, és előbb-utóbb elérkezik az a pont, amikor már a weboldalak, közösségi platformok egyébként hasonlóképpen folyamatosan fejlesztett szűrőalgoritmusai sem tudják felismerni a manipulációt. Egy választási kampányban ez akár sorsdöntő is lehet, de más jellegű csalások is elképzelhetők.

A politikai közbeszéd mai állapotában érdekel még valakit egyáltalán, hogy egy fotó, videó valóságos-e? Az egyénnek van bármilyen reális esélye a manipulált/generált tartalmak felismerésére?

Az előzetes eredményeink szerint – úgy, hogy a tesztünk válaszadói tudják, hogy feltételezhetően manipulatív tartalmakat kell felismerniük – a felhasználók nagyjából 60%-ban ismerték fel helyesen a módosított képeket és videókat. Gondoljunk bele, milyen lehet ez az arány, ha mindenféle előzetes felkészítés, ezáltal éberség nélkül találkoznak ezekkel a tartalmakkal!

Érdemes a médiafogyasztóknak megtanítani azt, hogy nem minden információ valós, amellyel találkoznak, az információkat, különösen a közösségi média közegén keresztül érkezőket, megfelelő távolságtartással célszerű kezelni. A vonatkozó kutatások alapján a hírgyártási szokások, illetve a tartalommanipulációs módszerek ismerete és a médiakompetencia hozzájárul a téves információk sikeres felismeréséhez, és csökkenti az összeesküvés-elméletek elfogadását, továbbá a közösségi médiában megjelenő információkkal szemben nagyobb szkepszissel jár együtt.

Van-e, legyen-e szerepe a platformcégeknek és/vagy az államnak abban, hogy az ilyen tartalmak pl. címkézve és/vagy törölve legyenek?

Egy 2018-as amerikai felmérés szerint a rendszeres közösségimédia-használók kétharmada a híreket is a közösségi média felületeiről szerzi be, innen tájékozódik. Jelenleg több mint két és fél milliárdan jelentkeznek be rendszeresen ezekre az oldalakra, Facebookra, Instagramra, Twitterre stb. Ez óriási, soha korábban egy platformon sem látott tömeget jelent. Nem túlzás tehát azt állítani, hogy a közösségi média folyton változó algoritmusai – és általuk ezen oldalak tulajdonosai, szerkesztői – igen erős kontrollt képesek gyakorolni az emberiség nagy részének figyelme, informálódási szokásai és tartalomelérése fölött.

Amikor az első ismertebb deepfake-applikáció, a FakeApp 2018 januárjában megjelent, alig három hónap alatt 120 ezren töltötték le, és elárasztották a különböző oldalakat, többek között a pornóra specializálódott Pornhubot is hamis, nem a videóban eredetileg szereplő személy arcát mutató úgynevezett bosszúpornó-videókkal. Ez három évvel ezelőtt olyan jogi-morális problémákat vetett fel, hogy a Pornhub, aztán később a Twitter és a Reddit is blokkolta az ezzel az alkalmazással készült videókat. Ehhez képest ma bárki feltöltheti Facebookra a filmes karakterek helyére illesztett arcával a legújabb deepfake videókat...