La società xAI di Elon Musk dovrebbe essere ritenuta responsabile per aver consentito ai suoi modelli di intelligenza artificiale di produrre immagini sessuali abusive di minori identificabili, hanno sostenuto tre querelanti anonimi in una causa intentata lunedì presso un tribunale federale della California.
I tre querelanti vogliono intentare un’azione collettiva contro chiunque abbia avuto immagini reali di loro come minorenni trasformate in contenuti sessuali da Grok. Affermano che xAI non ha adottato le precauzioni di base utilizzate da altri laboratori di frontiera per impedire che i loro modelli di immagine producessero pornografia raffigurante persone reali e minori.
Il caso Jane Doe 1, Jane Doe 2, minorenne, e Jane Doe 3, minorenne contro x.AI Corp. e x.AI LLC, è stato depositato presso il tribunale distrettuale degli Stati Uniti del distretto settentrionale della California.
Altri generatori di immagini advert apprendimento profondo utilizzano varie tecniche per impedire la creazione di pornografia childish da normali fotografie. La causa sostiene che questi customary non sono stati adottati da xAI.
In particolare, se un modello consente la generazione di contenuti di nudo o erotici da immagini reali, è praticamente impossibile impedirgli di generare contenuti sessuali con bambini. La promozione pubblica da parte di Musk della capacità di Grok di produrre immagini sessuali e di rappresentare persone reali in abiti succinti è fortemente presente nel costume.
La società non ha risposto a una richiesta di commento da parte di TechCrunch.
Una querelante, Jane Doe 1, ha fatto modificare da Grok le foto del suo ritorno a casa al liceo e l’annuario per raffigurarla nuda. Un informatore anonimo che l’ha contattata su Instagram le ha detto che le foto circolavano on-line e le ha inviato un collegamento a un server Discord contenente immagini sessuali di lei e di altri minori che aveva riconosciuto a scuola.
Evento Techcrunch
San Francisco, California
|
13-15 ottobre 2026
Una seconda querelante, Jane Doe 2, è stata informata dagli investigatori penali di immagini alterate e sessualizzate di lei create da un’app cell di terze parti che si basa su modelli Grok. Anche una terza, Jane Doe 3, è stata informata dagli investigatori penali che hanno scoperto una sua immagine alterata e pornografica sul telefono di un soggetto che avevano arrestato. Gli avvocati dei querelanti affermano che, poiché l’utilizzo da parte di terze parti richiede ancora codice e server xAI, la società dovrebbe essere ritenuta responsabile.
Tutti e tre i querelanti, due dei quali sono ancora minorenni, affermano di sentirsi estremamente preoccupati per la circolazione di queste immagini e per ciò che potrebbe significare per la loro reputazione e vita sociale. Chiedono sanzioni civili ai sensi di una serie di leggi intese a proteggere i bambini sfruttati e prevenire la negligenza aziendale.
