Fillérekért készítenek MI által generált pornót bárkiről a dark weben
2024. március 30. – 06:01
Egy Telegram-felhasználó, aki a Twitteren is hirdette szolgáltatásait, mindössze 10 dollárt kért azért, hogy egy mesterséges intelligencia (MI) által generált pornográf képet készítsen bárkiről a világon. Ehhez csak néhány fotóra volt szüksége az adott személyről, írja cikkében a 404 Media.
A módszer nem új, csak eddig a kamuképeket hírességek fotói alapján készítették, hogy a felhasználók arra használják azokat, amikre a normál pornót. Most viszont a mesterséges intelligencia egyik legsötétebb oldala bukkant elő, megmutatva, hogy milyen könnyű a hétköznapi emberekről, nem közös megegyezésen alapuló pornót létrehozni.
A Telegram-csatorna egyik „IRL Fakes” nevű csevegőszobájában a képeket készítő személy valódi emberekről készült, MI által generált képeket tett közzé. Ehhez az illetők közösségi profiljain nyilvánosan elérhető képeket használta. Tette ezt egyrészt azért, hogy szolgáltatására felhívja a figyelmet, másrészt azért, hogy a neki nem tetsző embereket megalázza.
Az, hogy a Telegram-csatorna a Twitteren hirdeti szolgáltatásait, jól mutatja, hogy Musk platformja mennyire nem képes vagy mennyire nem is akarja moderálni az ilyen káros tartalmakat. Amikor a Taylor Swiftről készült, mesterségesen generált képek terjedtek a Twitteren, több millióan látták őket, mire a Twitter lépett. és eltávolította azokat, illetve letiltotta a fiókokat.
„Az egyedi hamisítványaimhoz körülbelül 10 arcképre van szükségem az alanyról (többet is szívesen fogadok), de kevesebbel is meg tudom csinálni, bár így az eredmények nem lesznek tökéletesek” – írta a Telegram-csatornát üzemeltető felhasználó. „Ha próbadarabot szeretnél vásárlás előtt, 1 bikinis/fehérneműs fotót ingyen megcsinálok.”
A lap megkereste az illetőt, de ezután törölték a Telegram- és Twitter-fiókjukat, valamint a Discord-szerverüket.
Az „IRL Fakes” szobán kívül a Telegram-csatornának 35 másik szobája van, amelyek mindegyike hírességekről, youtuberekről, Twitch-sztárokról és Instagram-infuenszerekről készült hasonló jellegű képek megosztására szolgál. Vannak kiskorúak képeire szakosodott szobák is, de ott a mesterséges intelligencia által generált képek nem aktok, hanem bikinis képek.
„Akár mesterséges intelligencia által generált, akár nem, a nem közös beleegyezés alapján készült felnőtt intim médiának nincs helye a Discordon. Közösségi irányelveink tiltják az ilyen anyagok népszerűsítését vagy megosztását, és lépünk is, amikor ilyen tartalmakat látunk. Kitiltjuk az érintett felhasználókat, leállítjuk a szervereket, és adott esetben a megfelelő hatóságokat is értesítjük” – mondta a cég szóvivője a 404 Mediának.