Resolve un algoritmo ciò che vediamo, un altro filtra ciò che leggiamo, e altri ancora entrano nei processi che governano il lavoro, l’informazione e le scelte collettive. Nell’enciclica Magnifica Humanitas. la prima firmata da Papa Leone XIV e pubblicata il 25 maggio, l’intelligenza artificiale non è vista come una tecnologia come tante; fa parte dell’infrastruttura invisibile della nostra vita quotidiana contemporanea.
Ma il testo non è concepito come una riflessione esclusivamente tecnologica. Papa Leone XIV colloca la questione dell’IA nella tradizione della dottrina sociale della Chiesa cattolica e richiama direttamente – aggiornandola – la Rerum Novarum di Papa Leone XIII (pubblicato il 15 maggio 1891) nell’anno del suo 135° anniversario. Quell’enciclica affrontava la questione del lavoro al culmine della rivoluzione industriale alla tremendous del XIX secolo.
Se le “res novae” di allora erano le fabbriche, il lavoro e il capitalismo industriale, oggi le nuove questioni ruotano attorno a piattaforme digitali, algoritmi, dati e sistemi di automazione che stanno ridisegnando il potere, l’economia e le relazioni sociali. Per questo l’enciclica non si presenta come un testo tecnico sull’innovazione, ma piuttosto come un tentativo di interpretare la trasformazione digitale alla luce della dignità umana e del bene comune. La tecnologia, scrive il Papa, non è un male in sé; al contrario, appartiene alla storia e alla creatività umana. Ma la situazione attuale è diversa sia per scala che per profondità: “Mai l’umanità ha avuto così tanto potere su se stessa”, osserva il testo, descrivendo le tecnologie che ormai modellano i processi decisionali, l’immaginario collettivo e la vita sociale in modo sempre più pervasivo.
È da qui che Robert Francis Prevost ha scelto di partire: dalla crescente concentrazione del potere esercitato attraverso sistemi sempre più opachi ma sempre più decisivi, e dalla domanda che attraversa tutta l’enciclica: cosa resta della dignità umana, della tutela della verità, del lavoro, della giustizia sociale e della tempo quando le decisioni vengono trasferite nella logica algoritmica?
Tecnologia disarmante
Nell’enciclica c’è un’espressione che diventa la chiave di lettura dell’intero situation: “disarmare la tecnologia”. Il significato è ben lontano da qualsiasi tentativo di rallentare lo sviluppo dell’intelligenza artificiale o di negare il suo impatto potenzialmente trasformativo per sempre. Per Robert Francis Prevost disarmare l’intelligenza artificiale significa impedire che diventi una forma di potere capace di dominare l’esistenza umana.
Per Leone XIV il punto non è quindi la tecnologia in sé, ma la sua organizzazione e applicazione. L’intelligenza artificiale, scrive il papa, è oggi parte di una corsa globale verso l’“algoritmo più performante” e il “information heart più grande”, dove il vantaggio competitivo diventa anche geopolitico. In questo contesto, alcuni attori concentrano l’infrastruttura digitale, i dati e la capacità di calcolo, che influiscono sull’informazione, sull’economia e persino sulla democrazia.
Disarmare significa rompere questa equazione tra potere tecnico e diritto di governare. «Come accade per ogni grande svolta tecnologica, l’AI tende soprattutto advert aumentare il potere di chi già possiede risorse economiche e accesso ai dati», spiega il pontefice.
In termini espliciti, l’enciclica afferma che non è sufficiente semplicemente regolamentare la tecnologia: occorre sottrarla ai monopoli, renderla trasparente e aperta alle sfide, cioè renderla “abitabile” da una pluralità di attori. Soprattutto, bisogna evitare che l’intelligenza artificiale diventi uno strumento di dominio economico, politico o militare da parte di pochi eletti. Non si tratta di una metafora morale: è un appello a impedire che la logica della competizione trasformi un’infrastruttura condivisa in un sistema di controllo.
La verità nei sistemi che selezionano la realtà
Se la tecnologia concentra il potere, uno dei primi effetti concreti riguarda il modo in cui si forma la verità collettiva. L’enciclica affronta il tema della disinformazione, ma in modo decisamente più profondo perché la realtà percepita, o meglio l’esperienza, è sempre più filtrata da sistemi che decidono cosa mostrare e cosa nascondere.
Non si tratta solo di notizie false o di contenuti falsi in varie forme. Il problema è che piattaforme e algoritmi selezionano le informazioni in base a criteri di massimizzazione dell’attenzione e del coinvolgimento. In altre parole, ciò che diventa visibile non è necessariamente ciò che è più vero, ma ciò che funziona meglio nel generare reazioni. In questo modo la verità non scompare, ma diventa dipendente da sistemi opachi che influenzano opinioni, percezioni e scelte collettive senza che sia sempre chiaro come.
