Azzal vádolja egy nő Elon Musk MI-alapú csetbotját, hogy a róla készült gyermekpornográf felvételekből generált képeket
Pert indított egy gyermekkorában szexuális bántalmazás áldozatává vált nő Elon Musk cége, az xAI ellen, miután állítása szerint az X mesterséges intelligencia alapú csetbotja, a Grok a róla készült gyermekpornográf felvételek alapján generált új képeket, amelyek aztán elterjedtek az X-en – írja a Guardian.
A kaliforniai bíróságra beadott perirat szerint a nőt, akire a védelme érdekében csak Jane Doe-ként hivatkoznak, és pár osztálytársát kisiskolás korukban bántalmazták szexuálisan. A nőt többször megerőszakolta a férfi, aki kényszerítette a felvételek elkészítésére is. Ezekből a képekből a perirat szerint a Grok gyermekek szexuális bántalmazását ábrázoló képeket generált, amelyek nyilvánosságra kerültek, és a cég adatbázisába is bekerültek.
A nő ügyvédje szerint a több mint húsz éve készült felvételek régóta keringenek az interneten, és jól ismertek voltak a hatóságok és a gyermekvédelmi szervek előtt is. Az ehhez hasonló, gyermekekről készült pornográf felvételeket a bűnüldöző szervek gyakran látják el egyfajta digitális ujjlenyomattal, hogy követni tudják, hogy mikor és hol bukkannak fel. A nőről készült felvételek is kaptak ilyet korábban, ezért a Kanadai Gyermekvédelmi Központ azonosítani tudta, hogy az X-en terjedő, mesterséges intelligenciával készült képek őt ábrázolják. Ez az ügyvéd szerint azért fontos, mert az MI-alapú képek esetében nem mindig lehet eldönteni, hogy igazi gyerek szerepel rajtuk, ebben az esetben azonban az eredeti képek ismeretében ez egyértelmű.
A keresetben azt állítják, hogy az xAI figyelmen kívül hagyta a szexuális visszaéléssel kapcsolatos tartalmak elleni védelemre vonatkozó iparági szabályokat, ami azt eredményezte, hogy mesterséges intelligencia által generált, gyermekek szexuális visszaélését ábrázoló tartalmak jelentek meg és terjedtek el az X-en.
Elon Musk korábban azt állította, nem tudott a Grok által készített „meztelen kiskorúakról készült képekről”. A techmilliárdos azután szorult magyarázkodásra, hogy kiderült, a Grok ezerszámra „vetkőztetett le” a beleegyezésük nélkül valós nőket és gyerekeket. Az így készült, többek között kiskorúakról készült szexualizált deepfake képek elárasztották az internetet. A xAI januárban megígérte, hogy a Grok ezentúl nem készíthet ilyen képeket. A probléma a jelek szerint nem oldódott meg, a vállalat augusztus végén pert indított két felhasználó ellen is, akik ellen büntetőeljárás folyik, mert állítólag éppen ezt tették. Az xAI azt szeretné elérni, ha a két férfi fizetné ki az áldozataik által a vállalat ellen indított perek költségeit.
