Una nuova class motion, depositato lunedì da tre ragazze adolescenti e dai loro tutori, sostiene che xAI di Elon Musk abbia creato e distribuito materiale pedopornografico raffigurante i loro volti e le loro somiglianze con la sua tecnologia Grok AI.
“Le loro vite sono state distrutte dalla devastante perdita di privateness, dignità e sicurezza personale che la produzione e la diffusione di questo CSAM hanno causato”, si legge nel documento. “Il guadagno finanziario di xAI attraverso il maggiore utilizzo del suo prodotto per la creazione di immagini e video è andato a loro spese e al loro benessere.”
Da dicembre all’inizio di gennaio, Grok ha consentito a molti utenti di social media AI e X di creare immagini intime non consensuali generate dall’intelligenza artificiale, a volte notice come deepfake porno. Stima dei rapporti che gli utenti di Grok hanno realizzato 4,4 milioni di immagini “spogliate” o “nudificate”, il 41% del numero totale di immagini create, in un periodo di nove giorni.
X, xAI e le sue divisioni di sicurezza e sicurezza dei bambini non hanno risposto immediatamente a una richiesta di commento.
L’ondata di immagini “svestite” ha suscitato indignazione in tutto il mondo. La Commissione Europea ha avviato rapidamente un’indagine, mentre Malesia e Indonesia hanno bandito X all’interno dei loro confini. Alcuni rappresentanti del governo degli Stati Uniti hanno chiesto advert Apple e Google di rimuovere l’app dai loro app retailer per aver violato le loro politiche, ma non è stata aperta alcuna indagine federale su X o xAI. Una causa collettiva simile e separata è stata archiviato (PDF) da una donna della Carolina del Sud a wonderful gennaio.
La tendenza disumanizzante ha evidenziato quanto siano capaci i moderni strumenti di immagine dell’intelligenza artificiale nel creare contenuti che sembrano realistici. La nuova denuncia paragona l’autoproclamata generazione di “IA piccante” di Grok alle “arti oscure” con la sua facilità nel sottoporre i bambini a “qualsiasi posa, per quanto malata, per quanto feticizzata, per quanto illegale”.
“Allo spettatore, il video risultante appare del tutto reale. Per la bambina, i suoi tratti identificativi saranno ora attaccati per sempre a un video che raffigura gli abusi sessuali su di lei”, si legge nella denuncia.
La denuncia afferma che xAI è colpevole perché non ha utilizzato guardrail commonplace del settore che impedirebbero agli autori di abusi di creare questo contenuto. Si afferma che xAI ha concesso in licenza l’uso della sua tecnologia a società terze all’estero, che hanno venduto abbonamenti che hanno portato gli autori di abusi a realizzare immagini di abusi sessuali su minori con i volti e le sembianze delle vittime. Le richieste passavano attraverso i server di xAI, il che rende la società responsabile, sostiene la denuncia.
La causa è stata intentata da tre Jane Does, pseudonimi dati alle adolescenti per proteggere la loro identità. Jane Doe 1 è stata avvisata per la prima volta del fatto che materiale sessuale offensivo generato dall’intelligenza artificiale su di lei circolava sul net tramite un messaggio anonimo su Instagram all’inizio di dicembre. Il documento afferma che l’utente anonimo di Instagram le ha parlato di un server Discord, dove il materiale è stato condiviso. Ciò ha portato Jane Doe 1 e la sua famiglia, e infine le forze dell’ordine, a trovare e arrestare un colpevole.
Le indagini in corso hanno portato le famiglie di Jane Does 2 e 3 a scoprire che le immagini dei loro figli erano state trasformate con la tecnologia xAI in materiale offensivo.
