A gennaio, Apple aveva avvertito privatamente la società xAI di Elon Musk che avrebbe rimosso l’app Grok dall’App Store a meno che la società non avesse fermato i deepfake nudi e sessualizzati del chatbot, secondo una lettera inviata da Apple ai senatori degli Stati Uniti e ottenuta da Notizie della NBC ($).
All’inizio di quest’anno, le capacità di intelligenza artificiale di Grok sono state esaminate dopo che gli utenti di X hanno condiviso immagini sessualizzate non consensuali di donne e bambini create dall’app, molte delle quali erano basate su foto di persone reali.
Ciò che seguì fu un’implementazione confusa di modifiche alla moderazione in Grok, alcune delle quali potevano essere facilmente aggirate. Pubblicamente, Apple non ha commentato la controversia in quel momento, ma ha risposto, ed è stata di fatto l’istigatrice dei cambiamenti. Internamente, la società ha riscontrato che sia X che Grok violavano le linee guida dell’App Store e ha chiesto ai suoi sviluppatori di presentare un piano di moderazione dei contenuti, rivela la lettera.
Secondo la lettera, Apple ha rifiutato una correzione iniziale di xAI in quanto insufficiente, affermando che “le modifiche non sono state sufficientemente efficaci”, e Apple ha avvertito che sarebbero state necessarie ulteriori modifiche altrimenti Grok sarebbe stato rimosso. Dopo ulteriori discussioni, tuttavia, Apple alla fine ha concluso che una successiva presentazione dell’app era migliorata abbastanza da poter essere approvata.
La divulgazione è stata apparentemente motivata da una lettera di gennaio dei senatori Ron Wyden, Ben Ray Luján e Edward Markey, che hanno esortato Apple e Google a ritirare entrambe le app, sostenendo che le immagini violavano le regole dell’App Store che vietano contenuti offensivi, sessuali e di sfruttamento.
I senatori hanno anche affermato che la risposta di Apple metterà alla prova le proprie argomentazioni, dal momento che la società ha difeso a lungo il suo curato App Store sostenendo che il suo processo di revisione mantiene gli utenti più sicuri. Lasciare che Grok continuasse a generare questo tipo di immagini, hanno sostenuto, minerebbe il caso agli occhi del pubblico e in tribunale.
Dopo Notizie della NBC ha pubblicato il suo rapporto, X ha pubblicato il seguente dichiarazione sulla sua piattaforma:
“Vietiamo severamente agli utenti di generare deepfake espliciti non consensuali e di utilizzare i nostri strumenti per svestire persone reali. xAI dispone di ampie misure di salvaguardia per prevenire tale uso improprio, come il monitoraggio continuo dell’utilizzo pubblico, l’analisi dei tentativi di evasione in tempo reale, frequenti aggiornamenti dei modelli, filtri tempestivi e garanzie aggiuntive.”
Mentre la quantità di deepfake sessualizzati creati da Grok e pubblicati su X sembra essere diminuita in modo significativo, Notizie della NBC ha scoperto che Grok è ancora in grado di generare immagini simili, con alcuni utenti che apparentemente hanno semplicemente aggiornato le loro tattiche tempestive per aggirare le misure di sicurezza. Puoi leggere il rapporto nella sua interezza da seguendo questo collegamento.
Nota: a causa della natura politica o sociale della discussione su questo argomento, il thread di discussione si trova nel ns Notizie politiche foro. Tutti i membri del forum e i visitatori del sito sono invitati a leggere e seguire il thread, ma la pubblicazione è limitata ai membri del forum con almeno 100 post.
