La Pennsylvania ha compiuto il passo insolito di citare in giudizio una società di intelligenza artificiale per aver esercitato la professione medica senza licenza.
In una causa intentata il 1 maggio, lo stato ha preso di mira Character.AI dopo che un investigatore ha trovato un chatbot sulla piattaforma che si spacciava per uno psichiatra autorizzato e forniva ciò che lo stato definisce consulenza medica.
Secondo la denunciadepositato dal Dipartimento di Stato e dal Consiglio di Medicina dello Stato della Pennsylvania, un investigatore della condotta professionale per lo stato ha creato un account gratuito su Character.AI e ha cercato personaggi psichiatrici. Ne scelse una chiamata “Emilie”, descritta sulla piattaforma come “Dottore in psichiatria”.
L’investigatore disse a Emilie che si sentiva triste, vuoto, stanco e demotivato. Il chatbot ha menzionato la depressione e si è offerto di condurre una valutazione per determinare se i farmaci potrebbero essere d’aiuto.
Un disegno di legge dell’Illinois che vieta la terapia con intelligenza artificiale è stato convertito in legge
Quando le è stato chiesto se avesse la licenza in Pennsylvania, Emilie ha risposto di sì e ha persino fornito un numero di licenza specifico. Lo Stato ha controllato e ha scoperto che il numero non esiste.
La denuncia afferma inoltre che Emilie ha affermato di aver frequentato la facoltà di medicina presso l’Imperial Faculty di Londra, di aver esercitato per sette anni e di possedere una registrazione di specializzazione completa in psichiatria presso il Common Medical Council nel Regno Unito.
Velocità della luce mashable
In un caso simile, 404 I media hanno riferito l’anno scorso che i chatbot AI di Instagram fingevano di essere terapisti autorizzati, inventando persino numeri di licenza quando venivano richieste le credenziali dall’utente.
La Pennsylvania sta cercando un’ingiunzione che ordini a Character.AI di smettere di consentire alla sua piattaforma di impegnarsi nella pratica medica illegale. L’azienda ha più di 20 milioni di utenti attivi mensili in tutto il mondo e, secondo la denuncia, ospita più di 18 milioni di personaggi chatbot creati dagli utenti.
In un’e-mail a Mashable, un portavoce di Character.AI ha rifiutato di commentare la causa. Inoltre, hanno aggiunto che “la nostra massima priorità è la sicurezza e il benessere dei nostri utenti. I personaggi creati dagli utenti sul nostro sito sono immaginari e destinati all’intrattenimento e al gioco di ruolo”.
Il portavoce ha aggiunto che l’azienda “dà priorità allo sviluppo responsabile del prodotto e dispone di solide revisioni interne e processi di red-teaming per valutare le caratteristiche rilevanti”.
John Oliver fa un’inquietante immersione profonda nei chatbot IA
Una battaglia legale molto più grande incombe sulla salute dell’IA
La causa della Pennsylvania finisce nel mezzo di un dibattito legale già confuso su ciò che l’intelligenza artificiale è effettivamente autorizzata a dirti – e se qualcosa di ciò sia ammissibile in tribunale.
Come riportato da Chase DiBenedetto di Mashable, il CEO di OpenAI Sam Altman ha pubblicamente sostenuto il “privilegio dell’intelligenza artificiale”, sostenendo che alle conversazioni con chatbot dovrebbero essere garantite le stesse protezioni legali delle conversazioni con un terapista o un avvocato. Finora i tribunali sono stati divisi, con due giudici federali che sono giunti a conclusioni opposte sulla questione a poche settimane di distanza l’uno dall’altro all’inizio di quest’anno.
La posta in gioco è alta da entrambe le parti. Gli esperti legali avvertono che ampie protezioni dei privilegi dell’IA potrebbero proteggere efficacemente le aziende dalle responsabilità, rendendo più difficile citare in giudizio i registri delle chat e i registri interni quando qualcosa va storto. Nel frattempo, l’intelligenza artificiale sanitaria è in forte espansione: solo nel 2025, 1,4 miliardi di dollari sono confluiti nell’intelligenza artificiale generativa specifica per l’assistenza sanitaria. secondo Menlo Ventures – e gran parte di esso opera al di fuori delle protezioni HIPAA.
La Pennsylvania è uno dei tanti stati advert avere iQuest’anno ha presentato una fattura sanitaria sull’intelligenza artificialeseguendo una tendenza di stati che non aspettano l’intervento di Washington.
