L’intelligenza artificiale ci ucciderà tutti?

Mercoledì mattina (martedì sera negli Stati Uniti) Jacob Coxon, un ricercatore di Anthropic, società americana che sviluppa sistemi di intelligenza artificiale, ha annunciato le sue dimissioni dall’azienda e detto di volere lasciare il settore dell’Ai perché, sostiene, tutti i principali attori di quel mondo stanno correndo per costruire sistemi che non saranno in grado di controllare. A darne la notizia per primo è stato il Wall Street Journal, e pochi minuti dopo lo stesso Coxon ha rispolverato il proprio account X (inutilizzato da un po’) per ribadire le sue preoccupazioni raccolte dal quotidiano americano.

«Non sottovalutate il potere di questa tecnologia», ha aggiunto, «presto avremo a che fare con sistemi sovrumani capaci di hackerare qualsiasi cosa, rivoluzionare ogni settore dall’oggi al domani e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e tale avanzamento non sta rallentando. Chi sviluppa l’Ai crede sinceramente che essa possa ucciderci tutti entro la fine del decennio. Non si tratta di una trovata pubblicitaria. Semmai, molti dirigenti e ricercatori di alto livello scelgono con cura le parole da usare con la stampa per apparire ragionevoli, ma in privato sento le stesse persone esprimere timore. Nessun’altra attività umana comporta un tale livello di pericolo».

«L’Ai può sterminare l’umanità»

Perché non fermarsi tutti, se i primi a vedere questo pericolo sono proprio gli sviluppatori? Perché sono molti quelli che partecipano a questa corsa, e il timore di tutti è che sia inutile fermarsi se gli altri continuano. Anzi, nel caso di Anthropic l’hybris è paradossalmente maggiore rispetto ai concorrenti: proprio perché l’azienda fondata da Dario Amodei è consapevole di questi rischi, ma si sente l’unica in grado di agire in modo responsabile, insiste a sviluppare l’Ai in modo da poterla controllare in modo etico e morale.

Le parole di Coxon hanno dato vita a un dibattito mondiale, e non manca chi ha letto una mossa politica dietro a questa uscita, fatta alla viglia della quotazione in Borsa di Anthropic e seguita da immediate promesse da parte dei Democratici di proporre leggi per mettere un freno all’Ai. Pochi minuti dopo la pubblicazione dei suoi tweet, le parole di Coxon sono state rilanciate e commentate da Evan Hubinger, responsabile dell’allineamento (con gli obiettivi umani) dei modelli Ai della società: «Crediamo davvero che l’Ai potrebbe sterminare tutta l’umanità! Personalmente, Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per farlo», ha scritto.

Sapremo controllare l’intelligenza artificiale?

Da tempo “pessimisti” e “ottimisti” si scontrano sul futuro più o meno catastrofico che potrebbe avere lo sviluppo di questa tecnologia, e molti che ci lavorano da anni sostengono che finirà per rappresentare un rischio esistenziale per il genere umano. Una visione fortemente contestata da altri esperti, che la considerano un’accozzaglia di pessimismo da romanzo distopico. Una posizione, quella “catastrofista” che ha però guadagnato terreno negli ultimi mesi, da quando le ultime versioni dei sistemi di Anthropic e della rivale OpenAI sono riuscite a penetrare nelle reti informatiche, talvolta eludendo le restrizioni imposte dai loro stessi creatori.

L’allarme di Coxon arriva – guarda un po’ – in un momento in cui gli sviluppatori sarebbero ancora in grado di impedire conseguenze catastrofiche. «I timori», ha scritto il Washington Post, «si riducono essenzialmente allo scontro tra le capacità dei modelli di intelligenza artificiale, soprattutto quelle delle versioni future considerate “superintelligenti”, e la capacità dei loro creatori di mantenerli ancorati agli obiettivi umani, un aspetto noto come “allineamento”. Alcuni ricercatori si sono chiesti se gli agenti di intelligenza artificiale, acquisendo maggiori capacità e autonomia, inizieranno a perseguire i propri fini».

Rallenta tu che poi rallento io

Non è chiaro come questa distruzione dell’umanità da parte dell’Ai possa avvenire, è ancora il WaPost a citare l’allarme di Anthony Aguirre, amministratore delegato del Future of Life Institute, un’organizzazione no-profit che promuove la regolamentazione della sicurezza dell’Ai, la cui «principale preoccupazione è una “graduale perdita di potere”, per cui le persone cedono sempre più potere all’Ai fino al punto di diventare dipendenti dalla benevolenza delle macchine per sopravvivere». Recentemente Dario Amodei ha affermato di stimare intorno al 25 per cento la probabilità che l’intelligenza artificiale comprometta gravemente il nostro futuro.

Sia i dirigenti di OpenAI che quelli di Anthropic hanno firmato una dichiarazione congiunta in cui chiedono ai governi di tutto il mondo di adottare norme per rallentare lo sviluppo dell’intelligenza artificiale. Uno scenario che al momento sembra improbabile, tenuto conto che i Paesi che più investono su questa tecnologia sono Stati Uniti e Cina – certamente non due alleati che possono accordarsi tra loro per regolamentare l’Ai. Anche perché, è notizia di questi giorni, proprio secondo Anthropic negli ultimi mesi scienziati stranieri, hacker e servizi di sicurezza (in particolare russi e cinesi) avrebbero aggirato le restrizioni per utilizzare Claude in attività pericolose, tra cui possibili ricerche sulle armi biologiche.

Leone XIV: «Chiarire le responsabilità»

Un problema sollevato con forza da Papa Leone XIV in molti suoi interventi, e chiarito nella sua enciclica Magnifica Humanitas:

«Perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete. In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori. È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano».

«Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’Ai a valori umani, senza avere il coraggio di porre una ulteriore condizione», ha ammonito il Pontefice: «la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’Ai imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi». (È curioso che fa i titani che sviluppano l’Ai, Anthropic sia quello che investe di più per presentarsi come un attore morale, in grado di riconoscere il bene e praticarlo, sviluppando strumenti per accompagnare l’umanità verso un futuro “buono” grazie al contributo dell’etica cristiana).

Ma la corsa continua

Non è il primo allarme che viene lanciato, lo stesso Elon Musk tempo fa si fece portavoce della richiesta di una frenata nello sviluppo dell’Ai, né quelle di Coxon sono le prime dimissioni annunciate denunciando rischi mortali per l’umanità. In questi giorni alcuni dirigenti di aziende che sviluppano l’Ai stanno rilanciando la storia ripetendo tutti più o meno lo stesso concetto: sappiamo dei pericoli terribili che stiamo correndo e potremmo fa correre all’intera umanità, ma incentivi economici e la presunzione di essere gli unici in grado di sapere gestire questa tecnologia in modo responsabile ci impediscono di fermarci. Siamo intrappolati nel più classico dei dilemmi del prigioniero.

Che fare? «Quando sono entrato a far parte di OpenAI», ha scritto Daniel Kokotajlo su The Free Press, «in azienda si percepiva la convinzione che fossimo i buoni, perché eravamo un’organizzazione no-profit che avrebbe distribuito i benefici di un’intelligenza artificiale potente in modo equo e democratico, e perché ci saremmo fermati sull’orlo del baratro per coordinare la ricerca sulla sicurezza, anziché automatizzare la ricerca e sviluppo sull’Ai e correre verso la superintelligenza».

«Serve più trasparenza»

La corsa invece continua, apparentemente animata da buone intenzioni ma con rischi sempre più grandi, dice Kokotajlo. Anche OpenAi, tramite alcuni suoi dirigenti su X, si è unita al coro di chi dice che così ci si va a schiantare (ma resta il dubbio che sia anche un modo per essere chiamati nella stanza dei bottoni con chi dovrà legiferare sull’Ai).

Kokotajlo propone «una maggiore trasparenza su ciò che accade internamente nelle aziende all’avanguardia nel campo dell’Ai. Se a queste aziende viene permesso di continuare senza supervisione, un giorno ci sarà un’infinità di modelli di ultima generazione che si auto-miglioreranno autonomamente sui data center di OpenAI o Anthropic, e il pubblico non saprà nulla se non ciò che le aziende si degneranno di rivelare. Persino il governo potrebbe non esserne a conoscenza. L’ignoranza può essere una benedizione, ma è anche pericolosa». Anche perché, aggiunge, «queste aziende non sono in grado di controllare le proprie intelligenze artificiali oggi e non ci si dovrebbe fidare che lo facciano in futuro».

Il “Doom trolling” e l’appello di Leone XIV

È legittimo pensare che dietro a questi allarmi ci sia un po’ di esagerazione, come ha scritto Cal Newport sul New York Times a giugno, parlando di “Doom trolling”, una sorta di catastrofismo strategico delle grandi aziende per attirare attenzione sulle proprie ricerche e soprattutto per emergere come i soli in grado di fermare l’apocalisse, avendola annunciata appena in tempo.

Allarmismo o no, l’appello di Leone XIV a “disarmare l’intelligenza artificiale” resta l’approccio più ragionevole al problema. Come scrive nella Magnifica Humanitas:

«Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale». Prima che sia troppo tardi.