A Twitter lett a deepfake-pornó mainstream melegágya

Több mint egy napig keringtek mesterséges intelligenciával (MI) gyártott pornóvideók Bobbi Althoff humoristáról a Twitteren (X-en) – írja a Washington Post. Elon Musk közösségi oldala nemcsak későn reagált a deepfake videókra, hanem sokan még pénzt is kereshettek velük.

A videók az elmúlt félévben már több deepfake-fórumon is megjelentek, de azokon csak 178 ezer megtekintést sikerült összeszedniük. Ehhez képest a sokkal nagyobb elérésű Twitteren, több tízezerszer posztolták ki a videók, és ezek közül néhány több tízmilliós nézettségig jutott. Olyan sokan rakták ki az MI-vel készített videót, amin a 26 éves nő maszturbálni látszik, hogy Althoff neve felkerült a trending listára.

Először nem is értette, mi történik, aztán az Instagramon jelezte, hogy ez nem ő, a videó nem igazi. Először azt hitte, valami hiba van a rendszerben, mert nem tudta elképzelni, hogy emberek tényleg azt hitték, ő az.

A videókat posztolók sok esetben azt ígérték, hogy a like-olók és megosztók megkapják a hosszabb verziót, ezzel növelték az interakciók számát. Más 10 dollárt kért egy 20 perces verzióért, amit PayPalon keresztül lehetett kifizetni. Emellett sok megosztó neve mellett ott volt a kis kék pipa, ami Musk előtt azt jelentette, hogy az egy hitelesített felhasználó, valóban az áll mögötte, akinek tűnik, de ma már csak annyi derül ki belőle, hogy a felhasználó havidíjat fizet, és ennek egyik előnye, hogy megfelelő mennyiségű interakció után akár részesedést is kaphat a Twitter reklámbevételéből. A sokmilliós nézettségű deepfake videók valószínűleg sokat lendítettek ezen.

Az egyik oka annak, hogy ilyen sokáig ilyen gyorsan terjedhetnek az ilyen videók a Twitteren az, hogy Musk moderációellenes, az első lépései között volt a moderátorcsapat leépítése, mert az szerinte csak cenzúrához vezetett, ő pedig a vadnyugatos internetet szereti.

Ez korábban is sült már el visszafelé: januárban Taylor Swiftről kerültek fel hasonló képek a Twitterre, és azok is sokáig zabolátlanul terjedtek az oldalon. Az üzemeltetők azzal próbálták megoldani a helyzetet, hogy nem lehetett Swift nevére keresni, de nem sokkal később bejelentették, hogy felvesznek új moderátorokat.

Azonban ez még vagy nem történt meg, vagy keveset vettek fel, mert az egyik legnépszerűbb Althoff-videó több mint 30 óráig volt elérhető a közösségi oldalon. A videók az Instagramra és a Redditre is felkerültek, de ezeket közel sem látták annyian, és viszonylag hamar le is kerültek az oldalakról.