Un tribunale dell’Oregon ha emesso una multa di 10.000 dollari a un avvocato che ha presentato una memoria legale con citazioni e citazioni allucinate da AI, secondo un nuovo rapporto dell’Oregonian. Si tratta della multa più alta finora per aver citato casi falsi nello stato e sarebbe stata più alta, ma i giudici hanno offerto una certa clemenza, secondo il giornale.
Il procuratore, individuato dall’artwork Oregoniano come Invoice Ghiorso a Salem, ha presentato una memoria legale alla Corte d’Appello dell’Oregon che conteneva 15 citazioni false e nove citazioni false. Secondo quanto riferito, Ghiorso ha incolpato un assistente legale per le allucinazioni dell’intelligenza artificiale e inizialmente ha contestato la multa.
La corte d’appello dell’Oregon ha multato per la prima volta un diverso avvocato per questa pratica nel dicembre 2025. Il collegio di tre giudici ha stabilito che questo tipo di problema dovrebbe essere risolto con $ 500 per ciascuno. citazione falsa e $ 1.000 per ogni falsa citazione o dichiarazione di diritto. Sommando tutte le allucinazioni, Ghiorso è stato premiato per la prima volta con 16.500 dollari, ma i giudici hanno fissato un tetto massimo a ten.000 dollari.
Secondo i giudici del caso, Ghiorso ha spiegato che i suoi collaboratori avevano chiesto a Google se i casi citati fossero reali e gli period stato risposto che erano autentici: “Se si chiede al motore di ricerca di Google se molti dei casi inventati sono reali, esso genererà una risposta utilizzando il suo motore di ricerca di intelligenza artificiale, affermando che i casi inventati [cases] sono infatti reali.”
Le persone spesso pensano di poter verificare i fatti su qualcosa creato con l’intelligenza artificiale chiedendo al chatbot dell’intelligenza artificiale se è reale. Gli strumenti di intelligenza artificiale generativa non sono verificatori di fatti affidabili. Alcune persone pensano anche di poter garantire che il loro chatbot AI non crei informazioni false semplicemente attivando lo strumento con un’istruzione come “non avere allucinazioni”. Questo non funziona.
I giudici hanno scritto che Ghiorso avrebbe dovuto sapere che “la presentazione di una memoria con citazioni non controllate e in definitiva fabbricate potrebbe violare i doveri di professionalità, veridicità e franchezza di un avvocato nei confronti della corte”.
Non è chiaro se l’ufficio di Ghiorso abbia utilizzato esclusivamente le risposte dell’intelligenza artificiale di Google nel motore di ricerca o se siano stati utilizzati altri chatbot basati sull’intelligenza artificiale per creare le allucinazioni. Ghiorso non ha risposto immediatamente alle domande inviate through electronic mail giovedì.
Ci sono stati innumerevoli storie negli ultimi anni gli avvocati hanno presentato documenti legali con allucinazioni legate all’intelligenza artificiale. La maggior parte degli avvocati se la cavano con un avvertimento, ma ci sono alcuni giudici che emetteranno sanzioni pecuniarie come quella comminata a Ghiorso.
Secondo quanto riferito, un altro avvocato dell’Oregon è stato multato di 500 dollari il mese scorso per una citazione falsa. Una giuria di tre giudici a New Orleans ha ordinato a un avvocato di pagare 2.500 dollari per aver citato casi falsi il mese scorso.
