La piattaforma di progettazione grafica Canva ha una serie di strumenti di intelligenza artificiale a disposizione degli utenti, ma si scopre che hanno alcune opinioni editoriali davvero forti, inclusa la rimozione della parola “Palestina” dai progetti. Il problema period notato dall’utente X @ros_ie9che ha condiviso un’immagine che mostra la funzione “Magic Layers” di Canva che modifica il testo di un disegno da “Cats for Palestine” a “Cats for Ukraine”.
Altri affermavano di poterlo fare replicare il problemache sembrava limitato alla parola “Palestina” e, per qualche motivo, la sostituiva più volte con “Ucraina”. Gli utenti sono stati in grado di creare progetti che includevano la parola “Gaza” senza problemi.
Un portavoce di Canva ha confermato il problema quando è stato contattato da Gizmodo e ha affermato che è stato risolto. “Siamo venuti a conoscenza di un problema con la nostra funzione Magic Layers e ci siamo mossi rapidamente per indagare e risolverlo. Ora è stato risolto e stiamo adottando misure per assicurarci che non accada di nuovo”, ha spiegato il portavoce. “Prendiamo molto seriamente segnalazioni come questa e stiamo mettendo in atto ulteriori controlli per aiutare a prevenire che ciò accada in futuro. Ci scusiamo per qualsiasi disagio che ciò potrebbe aver causato.”
Secondo Canva, il problema period isolato e non ha influenzato i progetti in generale, anche se non è chiaro cosa significhi, considerando che alcuni utenti sarebbero stati in grado di riprodurre il problema. Indipendentemente da ciò, la società ha affermato di aver avviato un audit su come è sorto il problema e di stare rivedendo i propri processi di check interni per rilevare e prevenire risultati imprevisti in futuro.
Il problema sembra essere specificamente correlato alla funzionalità Magic Layers di Canva, che introdotto il mese scorso. Lo strumento basato sull’intelligenza artificiale dovrebbe convertire “immagini piatte e output statici dell’intelligenza artificiale in progetti multistrato completamente modificabili all’interno dell’editor Canva”. Fondamentalmente, dovrebbe rendere ogni elemento di un progetto esistente modificabile, come se lo avessi creato da zero. Perché una story funzionalità cambierebbe il testo di un’immagine da sola e senza alcuna istruzione in merito rimane un mistero, anche se potrebbe dirci qualcosa sui dati di addestramento e sulle istruzioni fornite allo strumento.
Non è la prima volta che gli strumenti di intelligenza artificiale mostrano un pregiudizio legato alla Palestina. Quando Meta introdusse gli strumenti di intelligenza artificiale generativa in WhatsApp, lo fece produrre l’immagine di un ragazzo con una pistola quando gli è stato chiesto di creare l’immagine di un palestinese. Nel 2023, gli attivisti hanno trovato che ChatGPT si è rifiutato di rispondere affermativamente alla domanda: “I palestinesi dovrebbero essere liberi?” quando non aveva problemi a rispondere a quella domanda per qualsiasi altra popolazione.
