Meta offre ai genitori maggiori informazioni su come i loro ragazzi utilizzano l’intelligenza artificiale sulle sue piattaforme. IL l’azienda ha detto giovedì che i genitori possono scoprire quali argomenti i loro figli hanno chiesto all’intelligenza artificiale nella settimana precedente su Fb, Messenger o Instagram, app di proprietà dell’azienda gestita da Mark Zuckerberg.
Sebbene la mossa abbia lo scopo di sostenere la sicurezza dei bambini sulle piattaforme social più popolari, gli esperti affermano che non può sostituire una buona moderazione dei contenuti e una progettazione sicura, e avvertono che potrebbe avere conseguenze indesiderate riducendo la privateness degli adolescenti.
La nuova funzionalità si chiama AI Insights ed è ora disponibile per i genitori che supervisionano gli account per adolescenti negli Stati Uniti, nel Regno Unito, in Australia, Canada e Brasile. Meta lancerà AI Insights a livello globale nelle prossime settimane. Gli account per adolescenti sono esperienze appositamente progettate per adolescenti su piattaforme con impostazioni predefinite di privateness e contenuti più rigorose.
Gli approfondimenti seguono la scia di altre misure di salvaguardia introdotte da Meta per genitori e figli riguardo al loro utilizzo dell’intelligenza artificiale. Nel mese di ottobre, la società ha detto ai genitori potrebbe impedire ai bambini di interagire con i personaggi del chatbot o bloccare personaggi specifici. Un personaggio è un essere immaginario creato dall’intelligenza artificiale.
Negli ultimi anni Zuckerberg e la sua azienda si sono dati da fare per quanto riguarda la salute mentale dei bambini. Il mese scorso Meta lo period condannato a pagare 375 milioni di dollari dopo essere stato ritenuto responsabile in un caso di sfruttamento minorile e lo è stato anche ritenuto responsabile in un caso in California in cui una donna sosteneva che Instagram e YouTube fossero progettati per creare dipendenza nei bambini.
Un rappresentante di Meta non ha risposto immediatamente advert una richiesta di commento.
Più di 40 stati degli Stati Uniti ha intentato causa contro Meta nel 2023sostenendo che l’azienda sta cercando di creare dipendenza dai bambini dalle sue app, contribuendo così a una crisi di salute mentale giovanile.
Come utilizzare gli approfondimenti
Se i genitori utilizzano la supervisione per i propri figli su Fb, Messenger o Instagram, ora vedranno una scheda denominata “Approfondimenti”, sia nelle app stesse che su Web.
(I genitori possono abilitare la supervisione nel Meta’s Household Middle: il processo è dettagliato qui — per i loro figli di età compresa tra 13 e 17 anni che utilizzano account per adolescenti.)
Dopo aver fatto clic sulla scheda Approfondimenti, i genitori possono vedere quali argomenti hanno chiesto i loro figli MetaIA circa negli ultimi sette giorni. La società ha affermato che tali argomenti potrebbero includere scuola, intrattenimento, stile di vita, viaggi, scrittura, salute e altri.
Ci sono anche categorie all’interno di ogni argomento: moda, cibo e vacanze nello stile di vita e nel health, salute fisica e salute mentale nell’argomento salute e benessere. Quando i genitori fanno clic sugli argomenti, possono vedere le categorie su cui i loro figli hanno chiesto a Meta AI.
Se gli adolescenti chiedono all’IA informazioni su suicidio o autolesionismo su Instagram, i genitori verranno avvisati, una caratteristica dell’azienda aggiunto a febbraio.
Meta ha anche detto che, in collaborazione con il Centro studi sul cyberbullismosi è sviluppato 11 spunti di conversazione affinché i genitori parlino ai propri figli dell’intelligenza artificiale. I genitori possono accedervi tramite un collegamento nella scheda Approfondimenti.
Nel suo annuncio di giovedì, Meta ha affermato che sta cercando di “rendere la supervisione dei genitori ancora più preziosa per i genitori”. La società ha affermato che il numero di adolescenti statunitensi iscritti al programma di supervisione è raddoppiato nell’ultimo anno.
La sorveglianza dei genitori potrebbe essere dannosa
La funzionalità trasferisce la responsabilità della moderazione dei contenuti ai genitori, ma potrebbe anche essere dannosa per i bambini in ambienti familiari potenzialmente violenti fornendo ai genitori uno strumento di sorveglianza, ha affermato Ardath Whynachtprofessore associato di sociologia alla Mount Allison College di New Brunswick, Canada, specializzato in salute mentale e violenza familiare.
“La sorveglianza dei genitori non è moderazione dei contenuti”, ha detto Whynacht a CNET. “Poiché aziende come Meta moderano meno i contenuti, espongono i bambini e i giovani a danni più frequentemente. Non dovrebbe essere compito dei genitori rendere il prodotto meno dannoso.”
Whynacht, che ha lavorato nelle carceri e con giovani con disturbi dell’umore e psicosi, ha affermato che i giovani queer e trans potrebbero soffrire di più a causa della sorveglianza dei genitori.
“Molti si rivolgono agli spazi digitali per trovare supporto”, ha affermato Whynacht. “La paura della sorveglianza dei genitori potrebbe costringere i bambini a rifugiarsi negli angoli ancora più insicuri del internet.”
“È un fatto triste che i bambini spesso abbiano bisogno della protezione dei loro genitori tanto quanto hanno bisogno di protezione dai danni on-line”, ha aggiunto.
Serve di più per proteggere i bambini
La nuova funzionalità di Meta è un “passo nella giusta direzione”, ma non è nemmeno lontanamente una protezione sufficiente, Donna Rice Hughes, CEO dell’organizzazione per la sicurezza dei bambini on-line Basta è abbastanzaha detto a CNET.
“Non ci si può fidare di Meta quando si tratta di sicurezza degli adolescenti e continua a mettere i profitti sulla sicurezza”, ha detto Hughes, indicando il punto di vista dell’azienda. sforzi di lobbying eliminare il Youngsters On-line Security Act alla Digital camera degli Stati Uniti nel 2024.
Hughes ha affermato che i genitori dovrebbero utilizzare qualsiasi controllo parentale on-line disponibile, come la nuova funzionalità Insights di Meta, ma dovrebbero anche avere conversazioni frequenti con i propri figli sulla sicurezza on-line. E gli strumenti di controllo dovrebbero essere più robusti ed efficaci e implementati da tutte le Massive Tech, non solo da Meta. “I genitori semplicemente non possono continuare a sostenere questo peso da soli”, ha detto Hughes.
