All’inizio di questo mese, WIRED ha pubblicato un estratto dal nuovo libro di Steve Rosenbaum, Il futuro della veritàche analizza il modo in cui l’intelligenza artificiale distorce il senso della realtà delle persone. Poco dopo, il New York Instances riportato che il libro conteneva più di una mezza dozzina di citazioni inventate o attribuite erroneamente. In una dichiarazione, Rosenbaum, che ha un grasp in “verità” presso la New York College, ha ammesso di aver accidentalmente incluso “una manciata” di citazioni “erroneamente attribuite o sintetiche”. Per ironia della sorte, la veridicità di un libro sull’impatto dell’intelligenza artificiale sulla verità period ora sotto attento esame a causa del modo in cui il suo autore aveva utilizzato l’intelligenza artificiale.
Dopo che la storia del Instances è scoppiata, WIRED ha dato un’altra occhiata al nostro estratto di 1.450 parole. Il workforce di fact-checking lo ha esaminato prima della pubblicazione e abbiamo riconfermato che le citazioni e i fatti erano accurati. Ma la politica editoriale sull’intelligenza artificiale generativa di WIRED vieta la pubblicazione di scritti generati e modificati dall’intelligenza artificiale, e un’e-mail di un lettore che denunciava l’estratto come “palesemente scritto dall’intelligenza artificiale” ha sollevato ulteriori domande sulla misura in cui Rosenbaum aveva utilizzato gli strumenti di intelligenza artificiale. In Il futuro della veritàNella sezione dei riconoscimenti, Rosenbaum scrive che ChatGPT, Claude, NaturalReaders, ProWritingAid e Grammarly hanno contribuito a “perfezionare e perfezionare la presentazione di [his] idee”. Cosa significava esattamente?
WIRED ha eseguito l’estratto attraverso diversi servizi di rilevamento AI, tra cui Pangram, GPTZero e ZeroGPT. Ogni servizio ha suggerito che probabilmente period generato dall’intelligenza artificiale o che period generato dall’intelligenza artificiale con elevata sicurezza. Ma gli strumenti di rilevamento dell’intelligenza artificiale sono fallibili e possono restituire letture imprecise. Quindi il capo della ricerca di WIRED ha inviato direttamente un’e-mail a Rosenbaum per chiedergli se e come avesse utilizzato l’intelligenza artificiale per scrivere l’estratto.
Ha risposto: “Come molti scrittori che lavorano oggi, ho utilizzato strumenti di intelligenza artificiale durante parti del processo di ricerca e sviluppo editoriale del libro, inclusa la scoperta delle fonti, il brainstorming, il suggestions strutturale e il perfezionamento del linguaggio”. Ma, ha sottolineato, “le idee, i resoconti, gli argomenti e la paternità finale sono miei, e l’estratto di WIRED non è stato generato dall’intelligenza artificiale e quindi semplicemente pubblicato così com’è”. Ha esortato gli editori di WIRED a prestare cautela nel fidarsi degli strumenti di rilevamento dell’intelligenza artificiale, sottolineando che possono verificarsi falsi positivi.
A questo punto, i redattori senior di WIRED mi hanno chiesto di esaminare l’episodio, perché mi occupo dello slop dell’intelligenza artificiale nelle sue varie forme dal 2024. Il mio primo passo è stato quello di esaminare l’intero testo del libro attraverso lo strumento di rilevamento di Pangram. (Mentre tutti gli strumenti di rilevamento dell’intelligenza artificiale hanno dei limiti e possono mostrare falsi positivi, Pangram è l’attuale gold customary.) È emerso che il libro sembrava essere generato per il 53% dall’intelligenza artificiale, con un ulteriore 9% registrato come probabilmente assistito dall’intelligenza artificiale.
Ho chiamato Rosenbaum e ho chiesto una descrizione più dettagliata di come avesse utilizzato l’intelligenza artificiale per scrivere il libro e se contestasse i risultati di Pangram. (BenBella Books, la cui impronta è stata pubblicata Il futuro della veritànon ha risposto alle richieste di commento. Simon & Schuster, che distribuisce i libri di BenBella negli Stati Uniti, ha rifiutato di commentare.)
Rosenbaum non ha voluto influire sull’accuratezza dei risultati di Pangram. In effetti, non voleva parlarne affatto. “Non partecipo a quella conversazione”, ha detto. “È come dire picchi tua moglie? È una di quelle accuse a cui non c’è risposta”.
Si è offerto, invece, di spiegare a grandi linee il suo processo editoriale. Cube che all’inizio del processo di scrittura, ha utilizzato gli strumenti di intelligenza artificiale come motori di ricerca, aiutandolo a trovare informazioni per le sezioni del libro più impegnative per la ricerca. Per dimostrare come avrebbe potuto farlo, ha chiesto a ChatGPT di descrivermi, quindi ha letto i risultati advert alta voce. La ricerca sull’intelligenza artificiale descriveva più o meno accuratamente alcune delle mie storie precedenti, incluso il lavoro su “siti multimediali zombie” generati dall’intelligenza artificiale.
