Pár ezer forintnyi összegért akár kiskorú lányokról is lehet hamis meztelen képeket generálni egy deepfake-alkalmazással

Világszerte négymillió felhasználója van annak a fizetős alkalmazásnak, amely egy egyszerű fénykép segítségével bárkiről hamis meztelen képeket generál. Bár a beszédes nevű ClothOff üzemeltetői állítják, a mesterséges intelligenciával működő program csak 18 éven felüliek fotóival működik, a Guardian alapos nyomozása több eset alapján kiderítette, hogy a deepfake-vetkőztetés haszonélvezői nem véletlenül tettek meg mindent, hogy kilétük ne kerüljön nyilvánosságra.

Egy, a cikkben szereplő 14 éves kamaszlány a dél-spanyolországi áldozatok egyike, akiről olyan generált meztelen fotók jelentek meg egy helyi Whatsapp-csoportban, amelyeket ismeretlenek hoztak létre a ClothOff segítségével. Hozzá hasonlóan több Almendralejóban élő iskolás lány járt hasonlóan, és a beszámoló szerint az őket eredetileg ruhában ábrázoló képekből úgy készültek meztelen fotók, hogy azokat látva nagyon nehéz megállapítani, hogy nem az ő testük szerepel a képeken. A deepfake fiatal áldozatai nem mernek iskolába menni, miután a hamis képek nyilvánosságra kerülése után fenyegető leveleket kaptak és zaklatták őket.

A spanyol államügyészség egyelőre azokkal szemben tervez eljárást, akik a ClothOff segítségével elkészítették a hamis képeket. Az ügy szálai ugyanakkor sokkal messzebbre vezetnek, hiszen a világszerte leginkább a Taylor Swift énekesnőről készült meztelen deepfake-képek terjedése miatt közismertté vált visszaélésnek bárki áldozatul eshet, miközben a ClothOff fejlesztőiről és üzemeltetőiről eddig csak keveset tudtunk.

Amikor a spanyolországihoz hasonló eset játszódott le egy New Jersey-i középiskola diákjaival, az Egyesült Államok kongresszusa kétpárti erőfeszítéseket tett, hogy betiltsák a nem beleegyezéssel készített deepfake-fotók készítését és terjesztését. Mindez eddig nem vetett gátat az egyre népszerűbb ClothOff alkalmazás terjedésének.

A Guardian nyomozása szerint a háttérben nem az az Ewan Liam Torres áll, akit az alkalmazást üzemeltető cég gazdái vezérigazgatóként neveztek meg, sőt, a Torresről készített portréfotókat szintén mesterséges intelligenciával hozták létre, vagyis nem létező személyről van szó. A nyomok Belaruszban, illetve Oroszországban bejegyzett vállalkozások felé vezetnek, amelyeknek londoni érdekeltségeik is vannak. Mint kiderült, egy sor hivatalosan teljesen más területen tevékenykedő vállalkozás segítségével biztosítják, hogy az alkalmazás kevesebb mint 9 fontért (kb. 6,5 ezer forint) regisztrációs díjából, illetve a használatához szükséges további kreditekből származó bevételek a sötétben tevékenykedő tulajdonosokhoz jussanak.