La settimana scorsa, Taylor Swift ha presentato a trio di domande di marchio per proteggere la sua immagine e la sua voce. Uno è pensato per coprire una famosa fotografia della cantante pop con in mano una chitarra rosa durante un concerto del suo tour Eras da file, mentre i due marchi sonori sono semplici frasi identificative: “Ehi, sono Taylor Swift” e “Ehi, sono Taylor”.
La mossa arriva mentre i deepfake basati sull’intelligenza artificiale continuano a proliferare sui social media. Ogni individuo rischia di vedere la propria somiglianza sfruttata nella creazione di materiale non consensuale generato dall’intelligenza artificiale; all’inizio di questo mese, un uomo dell’Ohio period il prima persona condannata secondo una nuova legge federale che criminalizza gli inganni visivi “intimi” di questo tipo. Le celebrità, nel frattempo, si trovano a rischio sia di deepfake espliciti che di false sponsorizzazioni.
Un nuovo rapporto dalla società di rilevamento AI Copyleaks mostra che Swift e altre star sono state recentemente utilizzate con le loro somiglianze in pubblicità truffaldine. I ricercatori hanno identificato un gruppo di video sponsorizzati su TikTok che sembravano mostrare Swift, Kim Kardashian, Rihanna e altri che promuovevano “servizi potenzialmente fraudolenti o dannosi”, con le clip che facevano uso di quelle che i ricercatori chiamano “voci dal suono realistico” così come “filtri strutturati intesi a mascherare alcuni dei difetti nelle immagini generate dall’intelligenza artificiale”.
Le pubblicità false mostrano Swift et al. in quelli che sembrano essere ambienti comuni per le interviste: eventi sul tappeto rosso o set di speak present. Invece di rispondere alle domande, tuttavia, le celebrità generate dall’intelligenza artificiale parlano di presunti programmi di ricompensa in cui gli utenti di TikTok vengono pagati per offrire suggestions sui contenuti offerti loro.
“Questa settimana stavo leggendo qualcosa sul comportamento digitale e mi sono imbattuto in una funzionalità di check chiamata TikTok Pay”, afferma Swift in un deepfaked in un annuncio che utilizza filmati manipolati da un aspetto il vero Swift se n’è andato Lo spettacolo di stasera con Jimmy Fallon nel mese di ottobre. “Alcuni utenti vengono invitati a guardare video e inviare opinioni.” Il deepfaked Swift prosegue dicendo che il programma è in “implementazione limitata” per il momento, ma incoraggia gli spettatori a vedere se sono idonei per questo, aggiungendo: “Se la pagina si apre per te, non pensarci troppo.”
Naturalmente chiunque clicchi viene accettato. Questi annunci alla fantastic portano l’utente a un servizio di terze parti che, nonostante il nome e il brand TikTok, è stato evidentemente codificato utilizzando la piattaforma AI Lovable, il cui marchio appare sulla pagina e nell’URL. A questo punto, dicono i ricercatori, all’utente viene richiesto di iniziare a inserire il proprio nome e le proprie informazioni personali.
Sebbene non sia chiaro cosa intendano fare gli inserzionisti con tutti i dati estratti attraverso la loro promozione deepfake sulle celebrità, gli annunci truffa con obiettivi simili sono estremamente comuni. La settimana scorsa, la Client Federation of America, un’organizzazione no-profit, ha citato in giudizio Meta, sostenendo che il colosso della tecnologia ha ingannato gli utenti di Fb e Instagram riguardo ai suoi sforzi per reprimere le pubblicità truffa e ha tratto profitto consentendo loro di proliferare. Lunedì la Federal Commerce Fee americana riportato che le truffe sui social media sono complessivamente aumentate, con le truffe su Fb che rappresentano il totale più elevato di perdite finanziarie.
Non sorprende che Swift e i suoi colleghi stiano adottando misure legali per prendere le distanze da questa economia fraudolenta. Anche se Swift non ha commentato pubblicamente le motivazioni alla base della presentazione dei suoi marchi, il danno alla reputazione che i deepfake ingannevoli comportano per il suo marchio da miliardi di dollari difficilmente può essere trascurato. Il problema è che ogni giorno diventano più sofisticati.
