Una sentenza contro Meta e Google potrebbe gettare le basi per cambiamenti nella gestione dei contenuti che incitano all’odio

Una sentenza decisiva contro Meta e Google in un processo attentamente seguito sulla dipendenza dai social media potrebbe ampliare la responsabilità delle piattaforme quando si tratta di contenuti che incitano all’odio.

Il caso si concentrava su una donna californiana di 20 anni, identificata come KGM, che sosteneva che le piattaforme alimentassero l’uso di dipendenza da minorenne e contribuissero alla sua depressione e pensieri suicidi attraverso il loro design basato sul coinvolgimento.

Le aziende hanno negato ogni illecito, sottolineando i loro strumenti di sicurezza e il controllo parentale.

“Siamo rispettosamente in disaccordo con questi verdetti e faremo appello. Ridurre qualcosa di così complesso come la salute mentale degli adolescenti a un’unica causa rischia di lasciare irrisolti i molti e più ampi problemi che gli adolescenti affrontano oggi e trascura il fatto che molti adolescenti si affidano alle comunità digitali per connettersi e trovare appartenenza. Rimaniamo impegnati a costruire ambienti sicuri e di supporto per i giovani e difenderemo vigorosamente il nostro file”, ha affermato Meta in una dichiarazione fornita a Fox Information Digital.

José Castañeda, portavoce di Google, ha detto a FOX Enterprise che la società non è d’accordo con il verdetto e intende presentare appello. Ha anche affermato che “il caso fraintende YouTube, che è una piattaforma di streaming costruita in modo responsabile, non un sito di social media”.

META GIUTA DI COMBATTERE “AGGRESSIVAMENTE” DOPO I VERDETTI FONDAMENTALI TROVA IL GIGANTE DELLA TECNOLOGIA RESPONSABILE DELLA DIPENDENZA DEI BAMBINI

Il caso ha in particolare eluso la Sezione 230, che protegge le piattaforme dalla responsabilità per il contenuto dei put up. Invece, la causa ha preso di mira il design dei prodotti utilizzati dalle aziende, che potrebbe avere implicazioni più ampie sul modo in cui le piattaforme gestiscono i contenuti che incitano all’odio, soprattutto quando sono monetizzati.

Liora Rez, fondatrice e direttrice esecutiva di StopAntisemitism, ha affermato che la sentenza è “monumentale” e che i gruppi di difesa hanno avvertito la grande tecnologia che “l’algoritmo sta influenzando negativamente le persone” sia in termini di proprietà di dipendenza che di “promozione dell’odio”.

“Siamo passati dal fatto che le piattaforme non stanno facendo abbastanza per rimuovere l’antisemitismo, advert esempio, advert ora le piattaforme stanno progettando specificamente sistemi che diffondono attivamente e, soprattutto, monetizzano e incentivano coloro che diffondono questo contenuto odioso”, ha detto Rez a Fox Information Digital.

StopAntisemitism è un’organizzazione di controllo dedicata a denunciare gruppi e individui che promuovono l’antisemitismo.

Le piattaforme di social media spesso hanno politiche che vietano determinati tipi di contenuti, in particolare quelli che promuovono l’odio o la violenza. Tuttavia, gli influencer hanno iniziato a usare parole in codice per aggirare la censura, come dire “non vivo” invece di “uccidere”.

Una sentenza storica contro Meta e Google in un processo sulla dipendenza dai social media ha sollevato interrogativi su come le piattaforme gestiscono i contenuti che incitano all’odio. (iStock/Getty Pictures Plus)

SOTTO GIURAMENTO, ZUCKERBERG DI META HA MOSTRATO PERCHÉ LE GRANDI TECNOLOGIE NON POSSONO CONTROLLARE SE STESSE

Rez ha riconosciuto che è possibile per coloro che diffondono odio creare codici simili, ma ha affermato che i “marcatori delle decisioni politiche” nelle principali piattaforme sono consapevoli del problema. Ha affermato che, a causa della portata dei social media di StopAntisemitism, in particolare tra coloro che hanno meno di 25 anni, l’organizzazione viene spesso informata tempestivamente di questi termini e può allertare le aziende.

Il fondatore di StopAntisemitism ha affermato che i contenuti generati dall’intelligenza artificiale saranno al centro della prossima battaglia, che è già iniziata.

“Siamo davvero preoccupati di come l’intelligenza artificiale stia ora contribuendo a diffondere contenuti antisemiti sulle piattaforme. E c’è pochissima, se non nessuna, supervisione al riguardo, e speriamo che questa sentenza possa in qualche modo essere interpretata per aiutare”, ha detto Rez.

Ha indicato i “rabbini” generati dall’intelligenza artificiale che hanno migliaia di follower, di cui almeno uno che guadagna oltre 1 milione. I resoconti spesso promuovono narrazioni antisemite sugli ebrei che controllano i sistemi finanziari e usano parole yiddish in modi che, secondo Rez, indicano che non c’è una persona ebrea dietro il conto.

Le società di social media si trovano advert affrontare domande sulla moderazione dei contenuti sulla scia di una sentenza storica contro Meta e Google. (iStock)

HAWLEY LANCIA UN’INDAGINE SU GOOGLE DOPO LA TESTIMONIANZA “SCIOCCANTE” SUL TRAFFICO DI MINORI ALL’UDIENZA AL SENATO

Uno di questi account, ora cancellato, è quello di Rabbi Goldmanche ha raccolto 1,5 milioni di follower su Instagram nonostante abbia pubblicato il suo primo video a metà febbraio. I contenuti generati dall’intelligenza artificiale del rabbino hanno ricevuto numerous be aware dalla comunità che avvisavano gli altri che erano falsi. Ha parlato dei cosiddetti segreti che tutti gli ebrei presumibilmente conoscono mentre usano parole yiddish in modi che non hanno senso.

“Quindi su, diciamo, 10 video, due o tre saranno interessanti. Tuttavia, i seguenti due o tre, e quello che abbiamo notato è che questi video più visti sono rapidamente seguiti da quelli problematici, giusto? Perché più i tuoi video vengono visti, più l’algoritmo spinge il video successivo e il put up successivo al tuo pubblico,” ha detto Rez del rabbino Goldman generato dall’intelligenza artificiale.

Nonostante queste preoccupazioni sui contenuti generati dall’intelligenza artificiale, Rez ha espresso ottimismo sulla volontà delle società di social media di affrontare i contenuti che incitano all’odio dopo il verdetto. Ha detto che StopAntisemitism spera che entro la advantageous dell’anno le società di social media adottino misure proattive.

“Meta deve farsi avanti e fare di più… Il loro fallimento nell’avvertire, essenzialmente, è stato un fallimento nel proteggere, le persone sono rimaste ferite”, ha detto Rez. “Pensiamo davvero che questo sia stato il precedente per futuri contenziosi di massa. Quindi, ancora una volta, speriamo che lo prendano come un segnale di avvertimento, e speriamo che l’intelligenza artificiale sia al centro di tutto questo.”

CLICCA QUI PER SCARICARE L’APP FOX NEWS

Fox Information Digital ha contattato Google per un commento.

Louis Casiano, Kelly Saberi e The Related Press di Fox Information Digital hanno contribuito a questo rapporto.