YouTube ha un nuovo piano per affrontare l’ondata di contenuti generati dall’intelligenza artificiale che inondano la sua piattaforma e ti coinvolge. L’azienda ora chiede agli spettatori di valutare se un video sembra uno sbandamento dell’intelligenza artificiale. In apparenza, sembra un modo ragionevole per affrontare i contenuti AI di bassa qualità nel tuo feed. In pratica, potrebbe causare più problemi di quanti ne risolva.
Gli esseri umani non riescono a individuare i contenuti generati dall’intelligenza artificiale e stanno peggiorando
Il problema più basilare di questo approccio è che le persone non sono courageous a individuare i contenuti generati dall’intelligenza artificiale e il divario tra il rilevamento umano e la capacità dell’intelligenza artificiale si sta ampliando rapidamente. I primi contenuti dell’IA avevano segnali evidenti come voci robotiche, mani deformate o volti dall’aspetto innaturale. I modelli più recenti hanno in gran parte risolto questi problemi.
Le voci ora suonano naturali, i volti sono convincenti e gli ovvi indizi stanno scomparendo. Gli strumenti sono chiaramente avanzati, ma gli spettatori occasionali non sono riusciti a tenere il passo. E ci sono ricerche a sostegno di ciò.
Un recente studio sul rilevamento dei volti tramite l’intelligenza artificiale ha rilevato che le persone hanno ottenuto risultati solo leggermente migliori del caso quando è stato loro chiesto di identificare i volti generati dall’intelligenza artificiale. La cosa più preoccupante è che la loro fiducia nel riuscire a individuare i volti dell’intelligenza artificiale period costantemente superiore alla loro effettiva precisione. La ricerca mostra modelli simili altrove.
UN studio sul rilevamento dei deepfake ha scoperto che le persone hanno difficoltà a rilevare i deepfake ma credono ancora di poterlo fare, mentre ricerca sul rilevamento vocale generato dall’intelligenza artificiale suggerisce che le voci dell’intelligenza artificiale sono ora quasi indistinguibili da quelle reali per l’ascoltatore medio.
Il monitor report di YouTube non aiuta il suo caso. Uno studio di Kapwing ha rilevato che circa il 21% dei primi 500 video consigliati a un nuovo account erano classificati come scarsa intelligenza artificiale, mentre un’indagine del New York Instances ha rilevato che oltre il 40% degli brief consigliati rivolti ai bambini in una sessione di 15 minuti contenevano contenuti IA di bassa qualità.
Si tratta di contenuti che hanno già superato i sistemi di revisione umana e automatizzata di YouTube. Se questi sistemi lasciano passare così tanta intelligenza artificiale, aspettarsi che gli spettatori facciano di meglio sembra irrealistico.
Il sistema di ranking apre anche la porta agli abusi
Anche se gli spettatori fossero rilevatori di intelligenza artificiale affidabili, il nuovo sistema di classificazione è soggetto advert abusi. Le campagne coordinate contro i creatori sono un problema ben documentato su YouTube, con malintenzionati che prendono di mira i canali attraverso segnalazioni di massa e bombardamenti di antipatia. Una funzionalità che consente agli utenti di etichettare i contenuti come scarsa intelligenza artificiale offre loro un nuovo strumento da sfruttare. Canali rivali, comunità arrabbiate o gruppi organizzati potrebbero abusarne per contrassegnare i video indipendentemente dal fatto che l’intelligenza artificiale sia stata effettivamente utilizzata.
YouTube non ha spiegato come verificherà o peserà queste valutazioni, lasciando ampio spazio alla manipolazione. I creatori che hanno trascorso anni a costruire il proprio pubblico potrebbero ora dover affrontare un nuovo rischio che ha poco a che fare con la qualità del loro lavoro. Se il sistema venisse implementato su larga scala senza tutele, potrebbe finire per danneggiare i creatori legittimi tanto quanto prende di mira contenuti di intelligenza artificiale di bassa qualità.
E cosa ne ricavano gli spettatori?
Anche se YouTube riesce in qualche modo a contrastare gli abusi, c’è un altro chiaro problema con il sistema: gli incentivi. Segnalare i contenuti dell’intelligenza artificiale richiede impegno e richiede un certo livello di consapevolezza su ciò di cui sono effettivamente capaci gli strumenti di intelligenza artificiale, ma YouTube non offre alcun chiaro vantaggio agli spettatori nell’aiutare a individuare gli errori dell’intelligenza artificiale. La piattaforma, d’altro canto, ottiene un feed più pulito e un flusso costante di dati degli utenti, senza dare molto in cambio.
C’è anche la legittima preoccupazione che nulla impedisca a YouTube di utilizzare questo suggestions per addestrare futuri modelli di intelligenza artificiale, rendendo potenzialmente i video generati dall’intelligenza artificiale ancora più difficili da rilevare. In effetti, potrebbe trasformare un sistema destinato a combattere il rallentamento dell’intelligenza artificiale in uno che aiuta a migliorarlo.
L’approccio di YouTube manca il bersaglio
Il nuovo sistema di classificazione è un altro tentativo di YouTube di dimostrare che sta prendendo sul serio il problema dell’intelligenza artificiale, ma la piattaforma non sta ancora facendo abbastanza. Non vieta esplicitamente ai creatori di pubblicare contenuti generati dall’intelligenza artificiale e, sebbene richieda la divulgazione di media modificati o sintetici dall’intelligenza artificiale, story regola si applica solo in determinati casi. Anche la sanzione della monetizzazione è limitata, poiché si basa sugli stessi sistemi di rilevamento che già lasciano passare troppi contenuti AI di bassa qualità.
YouTube ha contribuito a creare le condizioni per questo problema consentendo e monetizzando per anni i contenuti generati dall’intelligenza artificiale, e i suoi sforzi per contenerlo sono stati ogni volta insufficienti. Affidare la pulizia agli spettatori, senza spiegare come verranno utilizzati i loro dati e senza offrire nulla in cambio, li tratta più come una risorsa gratuita che come una comunità. Se YouTube è seriamente intenzionato advert affrontare il problema dell’intelligenza artificiale, deve possedere la soluzione piuttosto che passare il lavoro alle persone che guardano.
