Lefejezések, halálos balesetek, és pornó árasztotta el az Instagramot, a Meta bocsánatot kért

Elég rossz napja volt azoknak, akik szerdán elkezdték pörgetni a Reels-videókat az Instagramon, hogy hozzájussanak a szokásos agyrohasztó és/vagy cuki állatos tartalmaikhoz. A platformon világszerte rengeteg felhasználónak dobált be az algoritmus a megszokott tartalmak helyett lefejezős, gyilkolászós, brutális balesetes vagy pornográf videókat. A Meta csütörtökön már azt írta, javították a problémát okozó hibát, de több felhasználónál még mindig feltűnnek ezek a videók, és az eddig feltöltötteket sem törölték.

Az Instagram kényes tartalmak szabályozásáról szóló irányelveit ide kattintva lehet elolvasni. A lényeg az, hogy az erőszakos, a szexuális töltetű és a szabályozott termékekről (dohányáruk, alkohol, gyógyszerek) szóló tartalmakat az algoritmus nem ajánlja, és figyelmeztetéssel látják el őket, amire külön rá kell kattintani, hogy tényleg szeretnénk megnézni őket. A durván erőszakos és a konkrétan pornográf tartalmakat még így sem engedélyezik, ezeket, ha egyáltalán felkerülnek, törlik a platformról. Legalábbis elméletileg.

Ennek fényében nyilvánvaló, hogy az Instagramnál hiba csúszott a gépezetbe szerdán, a kényes tartalmat jelző figyelmeztetések alatt ugyanis konkrétan lefejezéseket, véres leszámolásokat és pornót lehetett találni. Simán bele lehetett futni például egy embert agyontaposó elefántba, frontálisan karambolozó autókba, kamiont elsodró, aztán felrobbanó vonatba vagy nyílt lábtörésekbe, utóbbi videóra még a kényes tartalmakra vonatkozó figyelmeztetés sem került rá.

Az egész olyan volt, mintha a LiveLeaket, vagy a 4chan hírhedt, /b/ nevű aloldalát pörgette volna az ember 2010 környékén, csak itt mindez a világ egyik legnépszerűbb platformján zajlott, ahova az emberek nem pont azért mennek fel, hogy kivégzéseket nézzenek.

Az Instagram nem hivatalos alredditjére olyan videók is kerültek fel, ahol az emberek Reels-hírfolyamában szinte kizárólag érzékeny tartalmak követték egymást, de az Instagramhoz kapcsolódó Threadsen is sokan írtak arról, hogy cicák helyett ez várta őket. A Telex szerkesztőségében a rögtönzött felmérésem alapján főleg azoknál jelentkezett a dolog, akik nem pörgetik rendszeresen a Reels-felületet, náluk még csütörtökön is fennállt a helyzet, hiába írta a Meta többek közt a Business Insidernek is csütörtökön, hogy kijavították a hibát.

Utóbbiak közül valaki egyből lefejezéssel találkozott, mást pedig végtelen csöcskontent fogadott. Nálam súlyos sérülések és farmon dolgozó, repülőt vezető és tépett ruhában gyapotot szedő, mesterséges intelligencia által generált LeBron Jamesek váltogatták egymást. Azóta is többször is rápróbáltam, és a jelek szerint mostanra stabilan beállt a durva közúti balesetekre az algoritmus, minden második videó ilyen nálam, méghozzá bármiféle figyelmeztetés nélkül. Ez még mindig kevésbé durva, mint a szerdai videók, ahol konkrétan emberek haltak meg, de egyébként ezek sem tűntek el, figyelmeztetéssel ugyan, de továbbra is meg lehet nézni őket.

A Meta nem árulta el, hogy konkrétan milyen hiba áll a jelenség háttérben, így erre vonatkozóan csak találgatni lehet. Nem ez az első eset, hogy az Instagramon ilyesmi fordult elő, a Washington Post pont két éve írt arról, hogy a platform erőszakos tartalmakat ajánl a felhasználóknak – részben azért, mert a Meta platformjain, akárhogy is csavargatták az algoritmust az elmúlt években, mindig a gyűlöletkeltő, erőszakos, konteókat terjesztő, vagyis a megosztó tartalmak szállították a legtöbb interakciót. Így ezek is termelik a legtöbb pénzt, hiába károsak, és ássák alá a platformba vetett bizalmat.

És arról még nem is beszéltünk, hogy a moderációs szabályok januárban bejelentett módosításaiban eleve kódolva van, hogy az ilyen tartalmakat nehezebben lehet majd megfogni a Meta platformjain – amelyeket már korábban, proaktív módszerrel is rendkívül nehéz volt megfelelően moderálni. Egy friss jelentés szerint évente 277 millióval nőhet a gyűlöletbeszédet és erőszakot tartalmazó posztok száma a Facebookon és az Instagramon, és bár a Meta vitatja a számot, a mostani, a hiba kijavítása után is fennálló helyzet alapján azért lehet benne valami.

Az incidens azért is kellemetlen lehet a Metának, mert éppen csütörtökön derült ki, hogy az Instagram vezetője, Adam Mosseri a héten arról beszélt az ott dolgozóknak, hogy egy különálló, a TikTokhoz hasonló alkalmazásba tennék át a Reels-videókat. Annak ellenére, hogy az év elején átmenetileg elsötétült TikTok jövője még mindig a levegőben lóg Amerikában, úgy nehezen fogják tudni felvenni vele a versenyt, ha minden második Reels-videóban kivégeznek valakit.