«Guardatevi dal fervore morale di Anthropic»

Anticipiamo di seguito l’intervista di Mattia Ferraresi a Luke Burgis contenuta nel numero di Tempi di giugno 2026. L’accesso agli articoli del mensile è riservato agli abbonati con formula full o digitale: abbonati per non perderli.

* * *

«Spero di essere morto prima di allora» è la battuta apocrifa attribuita a Winston Churchill quando, nel 1949, il rettore del Massachusetts Institute of Technology introdusse il discorso del grande statista illustrando con toni trionfanti il futuro di prosperità e benessere che il sapere tecnico-scientifico avrebbe garantito, ora che era saldamente nelle mani dei buoni. Si schiudeva davanti all’Occidente reduce dall’orrore totalitario nazista, e alle prese con quello sovietico, un avvenire radioso eppure meccanizzato e deterministico, dove, sotto la guida degli scienziati, le democrazie liberali avrebbero pianificato razionalmente la felicità umana. Era un inferno delle buone intenzioni nel quale il realista Churchill non avrebbe voluto vivere – sempre secondo la battuta apocrifa – e nel discorso di fronte all’università scientifica più importante del mondo invitò gli scienziati ad andare avanti, «temendo Dio e nient’altro».

L’epoca dell’intelligenza artificiale generativa propone nuove versioni di quello scenario del dopoguerra, che forse è ciò che continuamente si propone all’umanità ogni volta che una nuova frontiera tecnologica promette una svolta per il genere umano, se sarà usata “bene”, oppure una fine apocalittica se finirà nelle mani sbagliate. Fra i titani che corrono per catturare il fuoco dell’Ai, Anthropic è certamente quello che investe di più per presentarsi come un attore morale, in grado di riconoscere il bene e praticarlo, sviluppando strumenti per accompagnare l’umanità verso un futuro in cui Churchill non desidererebbe essere morto.

L’azienda di Dario Amodei ha concepito Claude come un agente «sinceramente buono, saggio e virtuoso», ha scritto una Costituzione per fissare i valori fondativi che ispirano intenzioni e comportamento dell’intelligenza, ha una filosofa morale, Amanda Askell, che si prende cura dell’anima di Claude e ha ingaggiato una fiera battaglia con il Pentagono per limitare l’uso dei suoi strumenti applicati alle armi autonome e alla sorveglianza interna. Il cofondatore di Anthropic, Chris Olah, è stato scelto fra i relatori alla presentazione dell’enciclica Magnifica Humanitas di Leone XIV, lui che studiando le reti neurali disse che l’intelligenza artificiale fa quello che fa «perché l’abbiamo “cresciuta”, non perché l’abbiamo scritta o creata». Era il solo rappresentante di un’azienda privata in mezzo a un panel di cardinali e accademici. È stato Olah mesi fa a contattare padre Brendan McGuire, prete di Los Altos, in California, che prima di diventare sacerdote lavorava nell’industria tech. Nella sua parrocchia abbondano i fedeli che lavorano sull’intelligenza artificiale. McGuire è diventato un consulente di Anthropic per la scrittura della Costituzione e l’azienda ha deciso di convocare un gruppo di sacerdoti, intellettuali e leader cristiani per contribuire a dare una cornice morale alle macchine che sta addestrando.

Fra le persone contattate c’era anche Luke Burgis, imprenditore, insegnante e scrittore dell’Università cattolica di Washington che anni fa ha reso popolari le teorie di René Girard sul desiderio mimetico con il bestseller Wanting e fra poco torna in libreria con un nuovo volume sulla costruzione di personalità libere nel mondo del conformismo tribale. Titolo: The One and the Ninety-Nine: Forging Identity in the Age of Social Contagion. Burgis, però, ha rifiutato la convocazione di Anthropic e da allora è diventato un critico sempre più esplicito dell’ambizione di Amodei di costruire l’intelligenza artificiale dei buoni. In una conversazione con Tempi, Burgis spiega la ragione del suo disagio sui progetti moralmente irreprensibili dell’azienda che vuole costruire «amorevoli macchine d’amore».

Come è arrivata Anthropic a contattarla?

Attraverso una persona che conosco. Questa persona, che è cattolica, ha fatto il mio nome ai manager incaricati di coinvolgere personalità del mondo cristiano. Questo mio contatto alla fine ha accettato di collaborare con l’azienda.

Lei no. Perché?

Nelle conversazioni preliminari che abbiamo avuto ho subito avvertito un disagio sentendo il vocabolario che usavano, denso di riferimenti religiosi e animato da una concezione antropologica che mi sembrava opaca. Avvertivo il rischio di uno svuotamento dell’idea della persona umana, ma questo svuotamento avveniva usando le parole del cristianesimo. La cosa si è fatta poi ancora più complicata quando ho chiesto informazioni sul compenso per un’eventuale collaborazione.

Che cosa le hanno risposto?

Si sono quasi offesi all’idea che un professionista osasse aspettarsi un riconoscimento per un lavoro che certamente sarebbe stato impegnativo e avrebbe richiesto tempo, energie e viaggi in California. Era chiaro che concepivano la proposta non come un lavoro ma come una missione per il bene dell’umanità, e che quindi avrei dovuto accettare con trasporto e senza aspettarmi nulla in cambio. Quando ho scritto pubblicamente che non avevo accettato, molti si sono indignati, come se avessi violato un imperativo morale.

Qual è il problema di questo tipo di approccio?

Facendo così sicuramente hanno composto un gruppo di persone che ha passato una specie di autoselezione: solo quelli che si sentono investiti di una missione eroica hanno accettato. C’è l’alto rischio di avere molta omologazione e conformismo.

Qual è la sua critica alla concezione della persona umana che Anthropic mette al centro del suo modello?

Il linguaggio che usano nel descrivere la loro visione può essere fuorviante e manipolatorio. Nella confusa visione antropologica articolata da Anthropic gli uomini possono essere buoni grazie ai loro sforzi, ma dovremmo sempre ricordarci di quello che Gesù dice nel Vangelo a chi lo definisce buono: «Perché mi chiami buono? Nessuno è buono, se non Dio solo». Gesù ci ricorda che la bontà è un dono. Io penso che in fondo nella concezione dell’azienda ci sia una visione sincretista, che include alcune categorie del cristianesimo, distorcendole. La Costituzione di Anthropic è un documento interessante e apprezzo sinceramente la trasparenza nel presentarla, ma quando parlano del bene io vedo solo la benevola e placida uniformità della serie Pluribus, dove un virus alieno rende tutti inebetiti e soddisfatti.

Cosa pensa del coinvolgimento di persone di Anthropic nella presentazione dell’enciclica?

Penso sia una collaborazione che darà benefici all’azienda e al Vaticano, almeno a livello superficiale. Per Anthropic è certamente un momento di legittimazione enorme.

Quelli di Anthropic credono davvero nei valori che predicano o questa storia della Ai morale è solo una strategia di marketing?

Alcuni certamente sono dei “true believer”, nel senso che dava all’espressione il filosofo Eric Hoffer, e diverse persone mi hanno raccontato di aver pianto sentendo i discorsi che Amodei fa in azienda. Io quando ho ascoltato le sue interviste non mi sono commosso per niente. Questo non esclude che dietro la rappresentazione della virtù e dei discorsi toccanti ci sia anche una brillante strategia di comunicazione. Anthropic ha un’aura mistica, tocca le corde dei sentimenti morali, agli eventi recitano delle poesie composte da Claude, combinano i precetti morali dell’altruismo efficiente con il linguaggio dei sentimenti.

Non è una riedizione dell’ideologia che negli anni Duemila ha informato i giganti della Silicon Valley, che hanno dato una verniciatura morale a tutto quello che poi, abbiamo scoperto, stava intossicando le menti di miliardi di persone? Il motto originario di Google era «don’t be evil».

Io credo che sia un’evoluzione dell’ideologia di Google, ma quelle aziende, cresciute in un ambito totalmente secolarizzato, non usavano un vocabolario esplicitamente religioso e non coinvolgevano leader religiosi nella costruzione delle loro impalcature morali. Questo uso della religione li rende cento volte più pericolosi, perché rischia di confondere tante persone, mischiando la percezione del bene e il vero bene, il marketing e la realtà, la missione spirituale e il profitto. Non dimentichiamo che Anthropic è un’azienda privata che vale centinaia di miliardi di dollari. Il Vangelo, in particolare quello di Luca, parla chiaramente del potere corruttivo della ricchezza. Tanti nel mondo della tecnologia si stanno affacciando sul mondo del sacro per la prima volta, e rischiano di cadere in una specie di trappola per convertiti.

Dietro Anthropic c’è un’idea antropologica che sembra in contrasto rispetto a quella che ha Peter Thiel, le cui aziende dovrebbero tenere a freno la parte più oscura della natura umana.

Io non sono così sicuro che si tratti di un’antropologia diversa, perché anche da quelle parti si invoca una qualche forma di illuminazione religiosa. A un evento organizzato da Palantir ho sentito il fondatore di un’altra startup dire che la sola via per assicurare che l’Ai vada nella direzione giusta è fare in modo che sia governata da cristiani. Che siano apertamente religiose o no, le persone che governano l’industria dell’intelligenza artificiale pensano che sarà buona soltanto se loro sono al comando delle operazioni. Per questo non penso che si tratti di concezioni tanto diverse.

* * *

Si intitola “The One and the Ninety-Nine: Forging Identity in the Age of Social Contagion” il nuovo libro di Luke Burgis, dedicato all’educazione della libertà nell’era del conformismo tribale

Disclaimer: grazie al programma di affiliazione Amazon, Tempi ottiene una piccola percentuale dei ricavi da acquisti idonei effettuati su amazon.it attraverso i link pubblicati in questa pagina, senza alcun sovrapprezzo per i lettori.