Grok, l’app AI di proprietà di xAI di Elon Musk, è stata quasi ritirata dall’App Store di Apple all’inizio di quest’anno in mezzo ad uno scandalo sui deepfake sessualizzati di persone reali generati dallo strumento proliferato su X, precedentemente noto come Twitter.
Secondo riportato da NBC NewsApple ha dichiarato in una lettera ai senatori statunitensi i suoi rapporti con xAI sull’app, avvertendo che Grok sarebbe stato rimosso dall’App Store se non fossero state apportate modifiche per affrontare la crisi dei deepfake. Un rapporto separato della NBC questa settimana, un’indagine su Grok, ha scoperto che le immagini generate dall’intelligenza artificiale sono sessualizzate vengono ancora da Grok e diffondersi online.
I rappresentanti di Apple e xAI non hanno risposto immediatamente alle richieste di commento. CNET ha anche contattato gli uffici stampa di tre senatori autori una lettera ad Apple e Google (PDF) a gennaio, ciò li ha esortati a far rispettare le regole dell’app store per affrontare i problemi di deepfake di Grok.
Grok è il principale strumento di intelligenza artificiale a disposizione degli utenti della piattaforma di social media X e, oltre a poter rispondere alle domande come chatbot, Grok può anche generare immagini e video. Alla fine dell’anno scorso, sono emerse segnalazioni di diffusi abusi di questa funzione da parte di utenti che hanno richiesto immagini sessualizzate di persone, compresi bambini, che sono state poi pubblicate su X. Da allora, Musk ha pubblicato aggiornamenti sui cambiamenti a Grok e sulle misure di salvaguardia che sono state messe in atto, ma il rapporto di NBC News suggerisce che tali cambiamenti non hanno eliminato l’uso dell’intelligenza artificiale di Grok per i deepfake sessualizzati, comprese le immagini generate dall’intelligenza artificiale di donne in costumi succinti, asciugamani o indumenti come reggiseni sportivi.
Nell’a dichiarazione su Xha affermato la società: “Vietiamo severamente agli utenti di generare deepfake espliciti non consensuali e di utilizzare i nostri strumenti per spogliare persone reali. xAI dispone di ampie misure di salvaguardia per prevenire tale uso improprio, come il monitoraggio continuo dell’uso pubblico, l’analisi dei tentativi di evasione in tempo reale, frequenti aggiornamenti dei modelli, filtri tempestivi e garanzie aggiuntive. ”
Vietiamo severamente agli utenti di generare deepfake espliciti non consensuali e di utilizzare i nostri strumenti per svestire persone reali. xAI dispone di ampie misure di salvaguardia per prevenire tale uso improprio, come il monitoraggio continuo dell’utilizzo pubblico, l’analisi dei tentativi di evasione in tempo reale,… https://t.co/lhvuhr3p2D
— Sicurezza (@Sicurezza) 14 aprile 2026
Avanti e indietro con Apple
Il rapporto di NBC News fa riferimento alle comunicazioni di Apple che dicono ai senatori che, in risposta alla protesta pubblica nei confronti di Grok, ha avvertito che è necessario apportare modifiche sia alle app X che a Grok. Secondo quanto riferito, xAI ha presentato versioni dell’app per entrambi, con l’app Grok rifiutata e quindi rielaborata per ottenere l’approvazione di Apple.
Nella lettera di Apple, il direttore senior degli affari governativi dell’azienda, Timothy Powderly, ha detto ai senatori che “Apple detesta questo tipo di immagini e i danni che causano. Le app che generano e proliferano tali contenuti violano le nostre politiche e non sono consentite sulla nostra piattaforma.”
La lettera, condivisa con CNET dall’ufficio del senatore Ron Wyden, descrive in dettaglio le politiche sulle app di Apple e i passi compiuti con le app X e Grok. Apple ha affermato che dopo questo processo “abbiamo stabilito che Grok era sostanzialmente migliorato e quindi abbiamo approvato la sua ultima proposta. Questa approvazione ha consentito a Grok di aggiornare le app installate sui dispositivi degli utenti con il software migliorato. Ci aspettiamo che Grok includa ulteriori miglioramenti nelle successive proposte.”
Apple ha lasciato la porta aperta a una futura rimozione se Grok dovesse violare i termini di Apple. “Come abbiamo chiarito loro, come a tutti gli sviluppatori, se non riusciranno a rispettare le Linee guida, verranno rimossi dall’App Store.”
In una dichiarazione a CNET, Wyden, un democratico dell’Oregon, ha anche criticato Google per non aver risposto a una richiesta dei legislatori relativa alle preoccupazioni su Grok. Un rappresentante di Google non ha risposto immediatamente a una richiesta di commento.
“Apprezzo la risposta dettagliata di Apple alle nostre domande su come ha risposto alla disgustosa proliferazione di materiale pedopornografico e deepfake non consensuali nelle app Grok e X”, ha affermato Wyden. “Resta scioccante questo [President Donald] Il Dipartimento di Giustizia di Trump non ha intrapreso alcuna azione per ritenere X responsabile della produzione e distribuzione di grandi quantità di materiale vile.”
