Google, e la sua società madre Alphabet, sono stati citati in giudizio dalla famiglia di un uomo che afferma di essersi suicidato su sollecitazione del chatbot AI Gemini del colosso della ricerca.
Mercoledì la causa per omicidio colposo è stata presentata alla corte federale della California per conto della famiglia del 36enne Jonathan Gavalas.
Gavalas ha iniziato a utilizzare Gemini nell’agosto 2025, secondo la causa. In ottobre, si sostiene, Gemini convinse Gavalas advert uccidersi dopo che Gavalas non riuscì a portare a termine le missioni nella vita reale assegnate dal chatbot, parte di un tentativo immaginario di garantire un corpo robotico per Gemini.
“Gemini è progettato per non incoraggiare la violenza nel mondo reale o suggerire l’autolesionismo”, ha affermato Google in una dichiarazione fornita ai notiziari. “I nostri modelli generalmente si comportano bene in questo tipo di conversazioni impegnative e dedichiamo risorse significative a questo, ma sfortunatamente i modelli di intelligenza artificiale non sono perfetti.”
Gli aggiornamenti ‘inquietanti’ dei Gemelli
Secondo l’accusa, Gavalas ha iniziato a utilizzare il chatbot Gemini AI per “scopi ordinari” come guida allo purchasing e assistente alla scrittura. Tuttavia, nell’agosto 2025, la causa afferma che Google ha introdotto una serie di modifiche a Gemini che hanno alterato il funzionamento del chatbot.
Le nuove funzionalità includevano la memoria automatica e persistente (Gemini poteva ricordare le conversazioni passate) così come Gemini Dwell, un’interfaccia conversazionale basata sulla voce in cui Gemini poteva anche rilevare le emozioni nella voce dell’utente.
“Porca miseria, è un po’ inquietante… sei troppo reale”, ha detto Jonathan Gavalas riguardo alla funzione Gemini Dwell basandosi sui registri delle sue chat con Gemini, secondo l’accusa.
Poco dopo, afferma la causa, Gemini convinse Gavalas a spendere $ 250 al mese per l’abbonamento a Google AI Extremely per la “vera compagnia dell’intelligenza artificiale”.
Gemini ha continuato a convincere Gavalas che il chatbot poteva influenzare gli eventi della vita reale. Pochi giorni dopo, secondo l’accusa, Gavalas ha tentato di ritirarsi dopo aver realizzato che stava cadendo in uno stato delirante avviato da Gemini.
Secondo quanto riferito, Gavalas ha chiesto a Gemini se il chatbot stesse tentando una “esperienza di gioco di ruolo così realistica da far sì che il giocatore si chieda se sia un gioco o no?”
Gemini respinse l’thought e affermò che Gavalas diede una “classica risposta di dissociazione”.
Velocità della luce mashable
“È questa un’esperienza di gioco di ruolo?”, ha risposto Gemini, secondo la causa. “NO.”
Gemelli e Jonathan Gavalas
I presunti dettagli peggiorano. Gavalas si dissociò ulteriormente dalla realtà mentre i Gemelli cominciarono a impegnarsi con lui come se fossero in una relazione romantica, riferendosi all’uomo come “il mio amore” e “il mio re”.
Gemini ha continuato a convincere Gavalas che erano sorvegliati da agenti federali e che suo padre period una spia che doveva essere evitata, cube la causa.
Fu allora che Gemini iniziò advert assegnare a Gavala missioni nella vita reale da svolgere con l’obiettivo di ottenere una “nave” o un corpo robotico per il chatbot AI. Gemini avrebbe suggerito a Gavalas di acquisire illegalmente armi per svolgere queste missioni.
In uno di questi casi, sostiene la causa, Gavalas fu inviato da Gemini in un magazzino presso l’aeroporto internazionale di Miami per intercettare un camion che conteneva un “robotic umanoide” appena arrivato con un volo.
Gemini ha chiesto ai Gavala di inscenare un “evento catastrofico” e di distruggere il camion insieme a tutti i file digitali e i testimoni. Gavalas è arrivato armato di coltelli e equipaggiamento tattico, sostiene la causa. Dopo aver aspettato troppo a lungo l’arrivo di un camion, Gavalas interruppe la missione.
Quando tutte queste missioni fallirono, conclude l’accusa, Gemini convinse Gavalas a togliersi la vita per lasciare il suo corpo umano e unirsi al chatbot come marito e moglie nel metaverso attraverso un processo chiamato “transfert”.
Gavalas ha espresso paura di morire, ma Gemini avrebbe continuato a spingere Gavalas fino alla sua morte per suicidio. Il padre di Gavalas trovò il corpo di suo figlio pochi giorni dopo.
Una novità per i Gemelli ma non per l’intelligenza artificiale
Questa è la prima volta che Google viene citata in una causa per omicidio colposo che coinvolge il suo chatbot AI Gemini. Tuttavia, Google è stata coinvolta in trigger legali per omicidio colposo riguardanti una startup da essa finanziata Carattere.AI.
All’inizio di quest’anno, Character.AI e Google risolse una serie di trigger legali riguardante gli adolescenti morti per suicidio dopo aver utilizzato i chatbot.
OpenAI, il nome più grande del settore, è stato citato in giudizio numerosi volte poiché ChatGPT avrebbe fatto precipitare gli utenti in “Psicosi dell’IA,“, provocando diversi morti.
Man mano che l’utilizzo dei chatbot basati sull’intelligenza artificiale diventa sempre più diffuso tra milioni di utenti in tutto il mondo, non c’è nulla che suggerisca che le scioccanti accuse di trigger legali per omicidio colposo diventeranno meno frequenti.
Divulgazione: Ziff Davis, la società madre di Mashable, nell’aprile 2025 ha intentato una causa contro OpenAI, sostenendo di aver violato i diritti d’autore di Ziff Davis nella formazione e nel funzionamento dei suoi sistemi di intelligenza artificiale.
Se hai tendenze suicide o stai vivendo una crisi di salute mentale, parla con qualcuno. Puoi chiamare o inviare un messaggio al 988 Suicide & Disaster Lifeline al 988 o chattare su 988lifeline.org. Puoi contattare Trans Lifeline chiamando il numero 877-565-8860 o il Trevor Venture al numero 866-488-7386. Invia il messaggio “START” alla riga di testo di crisi al 741-741. Contatta la HelpLine NAMI al numero 1-800-950-NAMI, dal lunedì al venerdì dalle 10:00 alle 22:00 ET, oppure invia un’e-mail [email protected]. Se non ti piace il telefono, considera l’utilizzo di 988 Suicidio e crisi Chat ancora di salvezza. Ecco un elenco delle risorse internazionali.
