Il magnifico potere di noi senza potere davanti all’avanzata dell’Ai

Don Javier Prades López, teologo, già rettore dell’Università ecclesiastica San Dámaso di Madrid, conosce come pochi la materia di cui tratta la Magnifica Humanitas, e specialmente la parte “clou” sull’intelligenza artificiale, avendo guidato il gruppo di lavoro della Commissione teologica internazionale (Cti) incaricato di approfondire uno studio sull’«antropologia cristiana di fronte ad alcuni scenari sul futuro dell’umano» poi riversato nel febbraio scorso in Quo vadis, humanitas?, documento che nella prima enciclica di papa Leone XIV è citato almeno tre volte. Tempi gli ha chiesto un aiuto a comprendere i più recenti, vorticosi sviluppi della cosiddetta “quarta rivoluzione industriale” con la capacità di giudizio offerta dalla saggezza bimillenaria della Chiesa.

Il Papa nell’enciclica menziona più volte Quo vadis, humanitas?, in particolare nel capitolo dedicato all’intelligenza artificiale e nei passaggi su transumanesimo e postumanesimo, i principali destinatari della parte critica del documento della Cti. Che cosa c’entrano questi due movimenti filosofici con l’Ai?
Transumanesimo e postumanesimo sono interpretazioni sulla vita umana, personale e sociale che probabilmente la maggior parte delle persone non saprebbe nemmeno definire con precisione, eppure è innegabile che abbiano una presa nell’immaginario collettivo, nella divulgazione scientifica e tecnologica, ma anche nella cultura. Quanti film e romanzi distopici mettono davanti agli occhi di tutti la possibilità di pensare a esseri umani non solo molto evoluti, ma trasformati o addirittura sostituiti? È una riflessione di taglio antropologico, filosofico, che prende spunto dall’accelerazione incredibile della tecnologia, che è un dato di fatto. L’intento della Commissione non è appena contestare transumanesimo e postumanesimo, ma prendere spunto da questa nuova circostanza storica per “ridire l’umano comune” così come lo comprende e lo propone la fede cristiana.

Il Papa – come del resto la Cti – esprime la preoccupazione che «sia sempre l’intelligenza umana, con la sua coscienza e la sua libertà, a guidare le innovazioni tecniche e a stabilirne con responsabilità l’uso e i limiti» (n. 97), e sembrerebbe un auspicio condiviso da tutti, almeno a parole. O invece lei crede che transumanesimo e postumanesimo stiano in realtà minando questa prospettiva, e che di fatto nella mentalità dominante è la tecnica a dettare legge?
Non so dire in quale direzione si svilupperanno in futuro i modelli più “globali” di Ai, né se mai si arriverà, per esempio, a creare cyborg. Mi sembra decisivo piuttosto guardare all’impatto che hanno già oggi sulle nostre vite i modelli esistenti di tecnologia digitale e di intelligenza artificiale. Un impatto molto rilevante. Non è la prima rivoluzione industriale, il primo “salto tecnologico” che l’umanità attraversa, sentiamo ripetere, ed è vero; qual è dunque la differenza? Che per la prima volta una tecnologia entra con forza nell’attività prettamente cognitiva degli uomini, esercitando un influsso su strati molto più profondi della nostra esperienza. Per esempio, il giudice o il medico che fa impostare all’Ai la bozza di una sentenza o di una diagnosi, si sta assumendo una responsabilità enorme a riguardo di chi è nel lavoro. Lo stesso vale per la mamma che chiede all’Ai se debba abortire, o come si tira su un bambino. E queste cose succedono già oggi: il livello della discussione quindi è molto reale.

Trans- e postumanesimo sono accomunati da una spinta ad “andare oltre i limiti dell’umano”: una tensione – si legge sia nell’enciclica che nel documento della Cti – connaturata in ogni persona e quindi da giudicare anche positivamente. Del resto è anche la pretesa cristiana, quella di superare la nostra condizione limitata. Che differenza c’è tra queste promesse?
Quo vadis, humanitas? a questo proposito cita Dante ben due volte (è un documento filoitaliano [ride, ndr]). La prima è nel riferimento al “trasumanar”, la parola usata nella Divina Commedia per indicare la pienezza dell’umano oltre se stesso, nella visione di Dio, nell’eternità. Un’esperienza – scrive l’Alighieri – che non si può spiegare a parole, se non evocando l’esperienza della grazia in chi la vive già. E poi il documento cita la versione dantesca dell’Ulisse, il celebre «fatti non foste a viver come bruti,/ ma per seguir virtute e canoscenza». Insomma sì, questa tensione dell’uomo ad “andare oltre” non può che essere guardata positivamente. La differenza tra noi cristiani e i transumanisti si gioca su due livelli. Il primo: superare sì, sostituire no. Se la spinta ad andare oltre il limite umano si traducesse in un sostituire l’uomo, sarebbe tradito l’impeto originale, si perseguirebbe altro. Il secondo livello riguarda la duplice caratteristica del “trasumanar” cristiano, cioè in fondo realmente umano: il binomio dono-compito. All’origine della nostra tensione ad “andare oltre” c’è un dono: la vita ci è donata, tutte le sue caratteristiche sono non solo un dato, bensì un dono. È un’evidenza riconoscibile dalla ragione, anche se occorre la capacità di purificazione della grazia di Dio per vederla. La vita è un dono e non un dono per il proprio piacimento, ma per un compito. E un compito implica la responsabilità. Non ci sono solo io che voglio compiere i miei sogni e diventare chissà cosa: la responsabilità verso se stessi, verso l’altro, verso il cosmo e verso Dio è altrettanto reale. Sono questioni che hanno a che fare con ogni aspetto della vita, anche con gli sviluppi della tecnologia.

Perché tanta insistenza sul fatto che le innovazioni tecnologiche come l’Ai o i social media «non sono mezzi neutrali»?
Perché c’è stata una tendenza a sostenere il contrario: che la tecnologia è neutra e che in fondo tutto dipende da come la si usa, per il bene o per il male. Non che non ci sia qualcosa di vero in questo, ma attenzione, il carattere totalizzante di queste tecnologie cognitive e la profondità con cui possono impattare generano una maggiore responsabilità. Inoltre in ogni passaggio del loro sviluppo esse sono state sottoposte a precise alternative da parte dei loro creatori. Il famoso “bias” di queste tecnologie non nasce certo spontaneamente dall’algoritmo: sono tutte “allenate”. Cioè sono piene di pre-supposti, pre-giudizi. Per esempio nei criteri che utilizzano per identificare determinati volti nei controlli di sicurezza, o per concedere mutui, o trattamenti sanitari. In tanti livelli della vita quotidiana già oggi questi strumenti dimostrano di non essere neutrali. Occorre esserne consapevoli.

Nell’enciclica Leone XIV torna ripetutamente su un’immagine efficace: «La prima scelta», scrive, «non è tra un “sì” o un “no” alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme» (n. 9). Quale opzione sta prevalendo? Babele? Il Papa sembra pensarla così, quando chiede esplicitamente «a tutti di fermare il cantiere dell’ennesima Babele» (n. 16).
Non sono un indovino, ma è evidente che la “spinta” tecnologica è mossa da grandissimi interessi economici. Lo disse Eisenhower già diversi decenni fa che il «complesso militare-industriale» può finire per portarci dove non vogliamo andare. La realtà è ancora quella. Con in più, oggi, la lotta per l’egemonia fra Stati Uniti e Cina, i due poli veri di questa discussione. È molto giusto dire che il cantiere dell’ennesima Babele è aperto. L’alternativa, ricostruire Gerusalemme, ha a che fare proprio con la nostra responsabilità. Il Papa dice: i potenti corrono a distruggere il mondo, i piccoli sono quelli che lo ricostruiscono. Ecco, noi non siamo tra i potenti – anche se nel nostro piccolo noi stessi contribuiamo alla distruzione – e l’invito per noi è a individuare questa Gerusalemme: cosa è e come ci si coinvolge nella sua ricostruzione.

Il Papa prende anche posizioni forti sul piano politico: «Serve una politica più presente», addirittura «capace di rallentare dove tutto accelera», dice per esempio al n. 107, e parla di «quadri giuridici», regole, spazi di partecipazione e discussione. Dare retta a questi appelli, però, dal punto di vista delle potenze in competizione, vorrebbe dire lasciare campo libero alle potenze avversarie che invece quegli appelli non ascolteranno. Abbiamo citato la Cina poco fa.
Ma io dico che questa è innanzitutto una bellissima rivendicazione del ruolo positivo della politica. Se la logica «militare-industriale» e gli interessi economici vanno nella direzione che sappiamo, bisogna augurarsi che nella vita politica ci siano anche voci in grado di promuovere il bene comune. Non è un caso che il Papa parli di multilateralismo. Il mondo ha conosciuto tanti disastri, il XX secolo è un bel catalogo di orrori, ma abbiamo visto anche momenti, magari solo puntuali, però reali, in cui la politica ha avuto la capacità di servire l’umano e non solo di assecondare gli interessi egemonici dei potenti. Non è irragionevole esortare a non abbandonare questa strada, è una dimensione del ricostruire Gerusalemme.

Rispetto al tema dell’Ai, ci sono governi che stanno andando nella giusta direzione?
Penso alla preoccupazione dell’Unione Europea per la regolazione giuridica ed etica dei sistemi di intelligenza artificiale. Ma anche per l’impatto ecologico che hanno: questi giganteschi centri dati hanno bisogno di enormi quantità di acqua e di energia, oltre alle cosiddette terre rare. Questa consapevolezza è positiva, poi bisogna vedere che risultati darà.

La preoccupazione del Papa si capisce facilmente finché si parla di usi dell’Ai in campo militare o medico. Sul piano economico invece si fa un gran parlare dei tanti posti di lavoro che andranno persi a causa dell’Ai, e qui si tratterà di bilanciare due valori – il lavoro delle persone e la competitività delle imprese – entrambi positivi. Un bel dilemma.
La teologia fa il suo mestiere specifico, ma l’appello riguarda tutti. L’enciclica apre delle piste anche sull’impatto dell’Ai sul lavoro, che devono essere seguite soprattutto dai laici cristiani. La Chiesa segnala i criteri, indica giudizi che sostengono la percezione delle cose, ma è un problema di tutti capire come agire nella complessità enorme della vita quotidiana. Che è fatta di continue scelte umane. Noi dobbiamo – e rieccoci alla Gerusalemme da ricostruire – sostenere chi mette le mani in pasta, aiutarlo a non far finta di niente, a non accontentarsi di fare come tutti solo perché “il mercato va così”. No, chi si adegua alla logica degli altri, se ne assuma la responsabilità. E se invece ha la percezione che nella sua vita ci sia qualcosa di più grande dei criteri del mondo, allora decisamente può muoversi in un altro modo. Una delle dimensioni che apprezzo di più nella proposta del Papa è proprio questo mai sollevarci dalla nostra responsabilità, per piccola che sia.

Ancora sul livello personale del problema: parlando dei rapporti con interlocutori virtuali il Papa segnala addirittura il rischio «non tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro» (n. 100). Perché, però, cercare l’altro quando lo si può sostituire con un partner ideale che ci dà sempre ragione?
Credo che la nostra educazione dia a tutti la possibilità di verificare se il risultato sia davvero paragonabile in termini di maturazione umana. Su questo abbiamo una responsabilità irrinunciabile. Davanti a un ragazzo, un figlio, uno studente che tende a chiudersi in sé – perché legarsi a un chatbot, a uno smartphone, significa chiudersi in sé – siamo chiamati ad aiutarlo a verificare quale sia il “ritorno umano” di quel comportamento. E in questo serve paternità. Servono, cioè, adulti capaci di accompagnare.

«Ciò che salva l’umano», scrive Leone (n. 128), «non è l’autosufficienza potenziata, ma una relazione che libera, una comunione che trasforma. Davanti a questo, una tecnologia che classifica e ottimizza ciò che già esiste può diventare, senza volerlo, un ostacolo al cambiamento e alla crescita». Significa che l’Ai può diventare addirittura ostacolo alla conversione?
Direi piuttosto: ostacolo alla condizione che rende possibile la fede, che è l’umano, l’umano aperto, l’umano che desidera, che soffre, che cerca e che grida. L’umano che si aspetta qualcosa di più – non si sa perché, ma aspetta qualcosa di più. Ecco, è questa condizione umana che può essere ridotta, appiattita. Quo vadis, humanitas? torna ripetutamente, per esempio, sulla tentazione di guardare alla possibilità del consumo – anche questa potenziata dalla tecnologia – come a un succedaneo della pienezza che soddisfa. Peccato che il consumo non compia. L’amore compie. E questo non è mica uno slogan, è verificabile: chi intende il consumo in questo modo non si dà mai pace (chiedetelo alla sua carta di credito!). Invece davvero l’amore compie, l’amicizia compie, la conoscenza vera compie.

Vale anche per i non credenti?
Per tutti. In questo senso la sfida della tecnologia oggi è un invito ad accettare il paragone. Perché un ragazzino non dovrebbe rimanere intrappolato nello schermo dello smartphone per 13 ore al giorno? Recentemente è apparsa una vignetta su El País, un bambino che guarda il telefonino e dice: «Mamma, come faccio? Tirami fuori!». Tirami fuori da me stesso, si capisce? La tecnologia, che pure offre grandi servizi a tutti noi, in certi casi può essere uno strumento molto potente per svuotare l’umano.

Che dire di Anthropic e del comitato di pensatori religiosi che l’azienda ha convocato per “dare un’anima” alla sua Ai? Autentico “momento Oppenheimer” o trovata di marketing?
Il fatto che un manager di Anthropic abbia partecipato alla presentazione dell’enciclica in Vaticano mi sembra un buon segno, ma non saprei dire se si tratti di reale apertura o di una mossa senza ulteriore sviluppo. Detto questo, resta il fatto che i capi delle grandi corporation americane hanno una tradizione di intervento davanti all’opinione pubblica su questioni etiche e perfino spirituali che in Europa ce la sogniamo.

Il dibattito intorno all’enciclica le sembra positivo?
Al netto delle critiche su singoli punti, non ho presente contestazioni che squalifichino il Papa in toto. Ho visto piuttosto, in positivo, la percezione che Magnifica Humanitas affronti un problema reale che riguarda tutti. In questo servizio al bene comune, papa Prevost si riallaccia bene a Leone XIII.

* * *

Una versione di questo articolo è pubblicata nel numero di agosto 2026 di Tempi. Il contenuto è riservato agli abbonati: grazie al tuo abbonamento puoi scegliere se sfogliare la versione digitale del mensile o accedere online ai singoli contenuti del numero.