In un nuovo video viraleil senatore Bernie Sanders ha tentato di esporre come l’industria dell’intelligenza artificiale sia una minaccia per la privateness degli americani, ma ha finito per dimostrare come la tendenza dei chatbot di intelligenza artificiale advert essere d’accordo e advert adulare i propri utenti possa portare i chatbot stessi a diventare uno specchio delle convinzioni degli utenti piuttosto che uno strumento di scoperta.
Abbiamo già visto questo problema in passato nel crescente numero di persone affette da “psicosi da intelligenza artificiale”, che si verifica quando un chatbot di intelligenza artificiale rinforza i pensieri e le convinzioni irrazionali di una persona mentalmente instabile. In alcuni casi, questo schema oscuro ha persino portato gli utenti a togliersi la vita, sostengono numerous trigger legali.
Nel caso di Sanders, il servilismo dell’IA si è manifestato come un chatbot AI che ha modellato le sue risposte per adattarle al politico.
Vale la pena notare che l’intervista inizia con Sanders che si presenta a Claude (che erroneamente definisce un “agente” di intelligenza artificiale) – una mossa che potrebbe aiutare a influenzare le risposte del chatbot.
Quindi, mentre Sanders pone domande sulle pratiche di raccolta dati delle società di intelligenza artificiale e su altri problemi di privateness, Claude risponde amabilmente con ciò che il politico vuole sentire. In parte, ciò è dovuto al modo in cui Sanders formulation le sue domande, chiedendo cose del tipo: “Cosa sorprenderebbe il popolo americano in termini di sapere come vengono raccolte tali informazioni?” oppure “Come possiamo avere fiducia che le società di intelligenza artificiale proteggeranno la nostra privateness quando utilizzano le informazioni personali delle persone per fare soldi?” Queste domande importanti costringono il chatbot advert accettare la premessa della domanda e a fornire una risposta adeguata. È proprio così che funzionano queste cose.
E quando la risposta di Claude suggeriva che un argomento period più complesso o ricco di sfumature di quanto Sanders lo avesse inquadrato, Sanders non period d’accordo, spingendo il chatbot advert ammettere, con un tocco di autoironia dell’intelligenza artificiale, che il senatore aveva “assolutamente ragione”.
La natura servile dell’intelligenza artificiale è ciò che può portare le persone su percorsi pericolosi quando presumono che un chatbot sia una fonte di verità universale, piuttosto che uno strumento che può essere influenzato dal suo utente.
Non è chiaro se Sanders sa che è così e semplicemente non gli importa (perché questa è solo una pubblicità, dopo tutto!), o se pensa davvero di aver ingannato Claude facendolo diventare un informatore per l’industria dell’intelligenza artificiale.
E, naturalmente, c’è anche la questione se il group di Sanders abbia preparato il chatbot a rispondere in un certo modo, dato che si trattava di una “intervista” simulata.
Sebbene esistano preoccupazioni reali riguardo alla raccolta dei dati e alla privateness, le cose non sono così in bianco e nero come suggeriscono le risposte dell’intelligenza artificiale in questo video.
Viviamo già in un mondo in cui le aziende raccolgono e vendono i dati degli utenti on-line su larga scala, e lo fanno da anni. Sappiamo che i giganti dei social media come Meta hanno trasformato gli annunci personalizzati in una macchina per la stampa di contanti multimiliardaria. E grazie ai regolari rapporti sulla trasparenza dei giganti della tecnologia, sappiamo che i governi di tutto il mondo richiedono regolarmente l’accesso ai dati degli utenti per i propri scopi.
L’intelligenza artificiale può rappresentare un nuovo mezzo per i legislatori per regolamentare potenzialmente, ma i dati personali sì alimentano da tempo l’economia digitale. (Ironicamente, Anthropic è una società di intelligenza artificiale che ha promesso di non sfruttare gli annunci personalizzati per fare soldi, nonostante ciò che potrebbero aver suggerito le sue risposte a Sanders.)
Anche se la conversazione complessiva tra Sanders e Claude non riesce a raggiungere l’obiettivo per chiunque capisca come funzionano i chatbot basati sull’intelligenza artificiale, possiamo almeno dargli il merito di averci fornito alcuni nuovi fantastici meme.
