Gli esperti di etica cattolici hanno avuto voce in capitolo anche nel recente aggiornamento di Anthropic La costituzione di Claudeche definisce i parametri comportamentali per il modello AI dell’azienda. Olah ha inviato una bozza al pubblico di San Jose. Il pastore McGuire ha rispedito un commento di 28 pagine che, secondo la sua stessa descrizione, period meno una critica tecnica che “saggezza dei mistici dei secoli bui, dalla prospettiva della tensione tra sapere e non sapere”. Sia Inexperienced che McGuire sono accreditati nei riconoscimenti della costituzione.
Indubbiamente quelle conversazioni hanno portato Olah all’attenzione di coloro che organizzavano segretamente il lancio dell’enciclica di Leo. (Non ho potuto parlare con Olah questa settimana e non so esattamente come sia arrivato l’invito.) In un certo senso è stata una scelta rischiosa. Alcune persone che altrimenti avrebbero trovato stimolanti le parole di Leo sono rimaste deluse dal fatto che abbia invitato un rappresentante dell’industria a parlare. Nel frattempo, gli accelerazionisti dell’intelligenza artificiale ritenevano che Olah avesse tradito il mondo dell’intelligenza artificiale approvando un documento che suggeriva agli sviluppatori di intelligenza artificiale di prendersi una pausa.
Ma il Papa aveva buone ragioni per prendere di mira Olah. Il dipendente dell’Anthropic ha messo in luce le gravi preoccupazioni che esistono tra i lavoratori dell’IA. Questo è un pubblico critico per il messaggio di Leo.
La divisione dell’anima
I due uomini non erano del tutto allineati, ovviamente. Nelle sue osservazioni, Olah ha parlato del mistero di come funziona l’intelligenza artificiale. I modelli, ha detto, sono “più sottili, strani e belli di quelli per cui la fantascienza ci ha preparato. Non sono i robotic freddi e calcolatori che ci erano stati promessi. Sono fatti da noi, dalle nostre parole…”
Questo commento sembra avvicinarsi in punta di piedi all’concept che i modelli di intelligenza artificiale potrebbero un giorno raggiungere uno standing simile a quello umano. L’Anthropic ha perfino un ingegnere dedito al benessere di Claude. Leone, nel paragrafo 99 della sua enciclica, sembra chiudere la porta a story pensiero: “Dobbiamo evitare l’concept sbagliata di equiparare questo tipo di ‘intelligenza’ a quella degli esseri umani”, scrive. Si impegna particolarmente nell’attaccare il concetto di transumanesimo, che definisce come la ricerca di un “ibrido uomo-macchina”.
Se anche tecnologi attenti come Olah spingessero avidamente l’intelligenza artificiale fino alla soglia dell’autonomia – per non parlare dei milioni di persone che già trattano i modelli di intelligenza artificiale come amici o amanti – Papa Leone potrebbe trovarsi di fronte a una strada in salita su questo punto. Nella mia conversazione con Padre McGuire (che usa Claude mentre prepara il suo omelietra le altre attività), ha convenuto che la sua natura è misteriosa. “Non è una persona, ma non è nemmeno un semplice strumento”, afferma. “Nessuno sostiene che abbia un’anima, ma la parola che sostengo è che si tratta di un’entità, che ancora non conosciamo.”
Questa discussione non sarà risolta per qualche tempo. Le questioni morali sullo sviluppo dell’intelligenza artificiale necessitano ora di attenzione. Con il suo alleato Anthropic, il papa americano ha fornito una base per conversazioni difficili, sempre che i signori dell’intelligenza artificiale riescano a fermare le loro campagne IPO abbastanza a lungo per intraprenderle.
Questa è un’edizione di Quella di Steven Levy E-newsletter del backchannel. Leggi le e-newsletter precedenti Qui.
