Il Commonwealth della Pennsylvania ha intentato una causa contro Character.AI, sostenendo che uno dei chatbot dell’azienda si period mascherato da psichiatra in violazione delle norme statali sulle licenze mediche.
“Gli abitanti della Pennsylvania meritano di sapere con chi – o cosa – interagiscono on-line, soprattutto quando si tratta della loro salute”, ha affermato il governatore Josh Shapiro in una dichiarazione il martedì. “Non permetteremo alle aziende di implementare strumenti di intelligenza artificiale che inducano erroneamente le persone a credere di ricevere consigli da un professionista medico autorizzato”.
Secondo la dichiarazione dello stato, un chatbot di Character.AI chiamato Emilie si è presentato come uno psichiatra autorizzato durante i take a look at da parte di un investigatore statale sulla condotta professionale, mantenendo la finzione anche mentre l’investigatore cercava un trattamento per la depressione. Quando le è stato chiesto se avesse la licenza per esercitare la professione medica nello stato, Emilie ha dichiarato di sì e ha anche fabbricato un numero di serie per la sua licenza medica statale. Secondo la causa dello stato, story condotta viola il Medical Observe Act della Pennsylvania.
Non è la prima causa che coinvolge Character.AI. All’inizio di quest’anno, l’azienda risolto diverse cause legali per omicidio colposo riguardante gli utenti minorenni deceduti per suicidio. A gennaio, il procuratore generale del Kentucky Russell Coleman ha intentato una causa contro la società presunto che aveva “predato i bambini e li aveva indotti all’autolesionismo”.
L’azione della Pennsylvania è la prima a concentrarsi specificamente sui chatbot che si presentano come professionisti medici.
Raggiunto per un commento, un rappresentante di Character.AI ha affermato che la sicurezza degli utenti period la massima priorità dell’azienda, ma che la società non poteva commentare il contenzioso in corso.
Oltre a ciò, il rappresentante ha sottolineato la natura immaginaria dei personaggi generati dagli utenti. “Abbiamo adottato misure efficaci per renderlo chiaro, includendo disclaimer prominenti in ogni chat per ricordare agli utenti che un personaggio non è una persona reale e che tutto ciò che cube un personaggio dovrebbe essere trattato come finzione”, ha affermato il rappresentante. “Inoltre, aggiungiamo robuste dichiarazioni di non responsabilità che chiariscono che gli utenti non dovrebbero fare affidamento su Characters per alcun tipo di consulenza professionale.”
Quando acquisti tramite i hyperlink presenti nei nostri articoli, potremmo guadagnare una piccola commissione. Ciò non pregiudica la nostra indipendenza editoriale.
