Noi, l’Ai e la fine del mondo

La scorsa settimana il ricercatore Jacob Coxon si è dimesso da Anthropic, società americana di intelligenza artificiale guidata da Dario Amodei, perché secondo lui presto l’Ai sfuggirà al controllo umano e potrebbe uccidere milioni di persone entro un decennio. Le sue parole hanno scatenato un dibattito mondiale sui rischi connessi allo sviluppo di questa tecnologia: diversi responsabili di società che lavorano in questo campo hanno chiesto un rallentamento e l’applicazione di regole definite anche da loro. La rassegna di oggi non vuole e non può esaurire la discussione sull’argomento, complessa e in continua evoluzione, ma cerca di segnalare spunti diversi e intelligenti, senza cadere nel catastrofismo o nell’ottimismo esagerato.

* * *

Scrive Andrea Venanzoni sul Foglio:

«I catastrofisti non salgono penitenti sui monti indossando il cilicio ma rilasciano interviste, scrivono libri e ci inondano con immagini di un orizzonte nerissimo: non dicono mai esattamente come e quando, ma si limitano a dipingere con i colori carnicini di un dipinto alla John Martin la catastrofe assoluta. […] Dietro l’apparente folklore, per quanto escatologico, si giocano partite assai più concrete. Da un lato, Anthropic e OpenAi cavalcano una certa narrazione e lo fanno da tempo, “umanizzando” i loro modelli, come nel caso dell’attacco alla piattaforma HuggingFace, quando sono state usate espressioni come perdita di controllo e “fuga”, oppure rilasciando report e comunicati sempre più inquietanti, come l’ultimo in ordine di tempo e riguardante il presunto blocco di un attacco di bioterrorismo elaborato a mezzo Claude. Tra le pieghe di ogni apocalisse sovente si celano interessi assai prosaici: Anthropic è in procinto di quotarsi in Borsa e nonostante l’aura catastrofista non sembra che la società di Amodei sia intenzionata a recedere da quel proposito. […] D’altronde i catastrofisti hanno poco da proporre, in concreto: la loro idea di decelerazione passa attraverso una utopica cooperazione internazionale multilaterale. Ed è certamente vero che la richiesta di decelerare sia stata formulata anche dal Papa nell’enciclica Magnifica Humanitas, ma la Cina socialista non appare interessata a dare corso a quell’invito: lo usa, piuttosto, come soft power per rallentare gli sforzi tecnologici occidentali».

* * *

Scrive David Streitfeld sul New York Times:

«Mark Zuckerberg, Ceo di Meta, ha scritto 6.500 parole su come le persone che utilizzano ampiamente l’intelligenza artificiale saranno quelle che sopravvivranno meglio nel futuro mondo dominato dall’Ai. Bill Gates ha impiegato quasi 6.000 parole per sostenere che l’Ai sarà la rovina dell’umanità a meno che non si riorienti la società e il comportamento umano in funzione di essa. Sam Altman di OpenAi, la cui casa di San Francisco è stata attaccata, ha impiegato solo 1.000 parole per sottolineare che “il mondo merita enormi quantità di Ai e dobbiamo capire come realizzarle”. Dario Amodei, cofondatore e amministratore delegato di Anthropic, è uno dei divulgatori più prolifici e raffinati del settore tecnologico. Ha contribuito a decine di articoli accademici e, più recentemente, ha scritto una mezza dozzina di saggi informali per il grande pubblico. […] La sua raccolta di saggi è una cronaca dei metodi in continua evoluzione della Silicon Valley per vendere il proprio prodotto a un pubblico che ne è allo stesso tempo attratto e inorridito. Non è un compito facile convincere il mondo che qualcosa sia un successo assicurato, anche se renderà la Silicon Valley più ricca e potente, lasciando magari la gente comune senza lavoro o – chissà? – morta. Le spiegazioni del dottor Amodei sono cambiate a seconda del clima politico».

* * *

Scrive Cal Newport sul suo blog:

«Perché queste specifiche aziende di Ai hanno reso questi allarmanti agenti basati su Llm a lungo termine così centrali nei loro sforzi? Non sono certo della risposta, ma se dovessi azzardare un’ipotesi, probabilmente ha molto a che fare con l’ideologia della salvezza tecnologica della Silicon Valley che ha fortemente influenzato figure chiave come Sam Altman e Dario Amodei, così come molti dei loro dipendenti. Credono che questo tipo di agenti sia la loro migliore possibilità per evocare la divinità digitale dell’Ai superintelligente che, nella loro escatologia futuristica, guarirà il mondo o lo distruggerà. In un certo senso, si vedono come profeti che tentano di inaugurare una nuova era messianica».

* * *

Ha scritto Mustafa Suleyman, ad di Microsoft Ai, sul suo blog:

«Le intelligenze artificiali non sono coscienti. Non provano sentimenti, non vivono esperienze e non soffrono. Non hanno preferenze innate né motivazioni profonde. Sono macchine per il completamento di sequenze, internamente vuote, progettate per seguire istruzioni e raggiungere obiettivi prefissati dagli esseri umani. Se l’umanità vuole prosperare nel XXI secolo, è così che deve rimanere. […] I modelli di intelligenza artificiale stanno diventando sempre più abili nell’imitare alcune delle caratteristiche distintive della coscienza. Questo, di per sé, è motivo di grande preoccupazione. Sta generando profonda confusione in molte persone riguardo a ciò che sta accadendo intorno a noi e dovrebbe preoccupare tutti. Ciò impone a noi, in quanto sviluppatori di Ai, la grande responsabilità di fondare le speculazioni e la documentazione sull’interiorità o sulla coscienza dei modelli su solide ricerche. Le nostre parole su questo argomento hanno conseguenze significative».

* * *

Ha scritto Niall Ferguson su The Free Press:

«Non è una questione di “se”, ma di “quando”. Non si tratta solo del prossimo 11 settembre, reso possibile dall’intelligenza artificiale, come ha brillantemente sostenuto Philip Bobbitt – un devastante attacco informatico alle infrastrutture critiche o un attacco biologico. Si tratta della prossima crisi finanziaria globale. Si tratta della prossima pandemia. Potrebbe persino essere la prossima guerra mondiale. […] Viviamo ormai da qualche anno in un mondo con due superpotenze nell’Ai. Una è una democrazia, il che significa che possiamo tutti lamentarci dei data center e di p(Doom), anche se non sappiamo quasi nulla di Ai. Nella Cina di Xi Jinping è diverso. Xi conosce perfettamente la posta in gioco. Se gli Stati Uniti vincono la corsa all’intelligenza artificiale, vincono la Seconda Guerra fredda. Potenzialmente, potrebbero schierare la loro arma cibernetica nucleare contro il Partito comunista cinese. Ma se l’Ai dovesse sfuggire al controllo in Cina – e non c’è alcuna ragione evidente per cui non dovrebbe – allora potrebbe destabilizzare il suo regime. […] L’amministrazione Trump, il suo predecessore democratico e gli stessi laboratori statunitensi, in particolare Anthropic, sono fin troppo espliciti nell’affermare di volere che gli Stati Uniti vincano la corsa all’intelligenza artificiale generale proprio per impedire alla Cina di vincerla. La loro motivazione risiede nell’enorme mole di prove che dimostrano come il Pcc stia già utilizzando il potere dell’Ai per fini nefasti. […] Qualcuno dovrebbe urgentemente redigere una Convenzione sul divieto degli abusi letali o altrimenti dannosi dell’intelligenza artificiale. Grazie a Cina e Russia, conosciamo già praticamente ogni uso nefasto che potrebbe mai essere concepito per l’Ai».

* * *

Scrivono Chase Difeliciantonio e Tayler Katzenberger su Politico:

«Martedì, durante la megaconferenza annuale Dreamforce di San Francisco, ospitata dal miliardario di Salesforce Marc Benioff, Jensen Huang, Ceo di Nvidia, ha affermato che il settore dell’intelligenza artificiale non ha bisogno di nuove leggi, ribadendo argomentazioni già espresse dal presidente Donald Trump. “Non abbiamo bisogno di nuove normative”, ha affermato Huang, una delle figure di spicco del settore dell’Ai e a capo di una delle aziende più redditizie, durante un’intervista con l’amministratore delegato di Salesforce».

* * *

Scrive Juliet Samuel sul Times che «i pericoli dell’intelligenza artificiale sono reali, ma sono anche esagerati. Ogni proposta di regolamento o trattato per rallentare lo sviluppo è imperfetta, quindi è una fortuna che le grandi aziende tecnologiche non possano permettersi che le cose vadano male».

«Il punto è che il pericolo è reale, ma quasi ogni suggerimento per affrontarlo è una sciocchezza. […] Potrebbe eventualmente diventare possibile, come ha suggerito Bill Gates, che i governi si accordino su standard di sicurezza internazionali, simili alle norme aeronautiche. Ma non siamo ancora nel pieno della nuova guerra fredda, come lo era Reagan nel 1987, con un livello di fiducia consolidato grazie allo scampato pericolo di una catastrofe. Le condizioni per un accordo globale non sussistono ancora. La buona notizia è che ci sono altri motivi per pensare che i laboratori di intelligenza artificiale troveranno il modo di tenere a freno i bot fuori controllo».

* * *

Ha scritto l’ex premier Mario Draghi sul Financial Times:

«L’Europa ha diverse strade per stimolare la crescita, come ad esempio la rimozione delle elevate barriere nel suo mercato interno. Ma l’adozione diffusa dell’intelligenza artificiale è forse la più promettente al momento. Secondo gli scenari della Bce, una rapida adozione dell’Ai aggiungerebbe dallo 0,3 allo 0,4 punti percentuali all’anno alla crescita della produttività totale dei fattori – ovvero i guadagni derivanti da una maggiore efficienza lavorativa piuttosto che dall’aumento di manodopera o capitale – che è rimasta pressoché nulla dal 2022. La crescita trainata dall’intelligenza artificiale, tuttavia, crea una tensione con le aspirazioni di sovranità dell’Europa, poiché quest’ultima controlla solo una piccola parte della catena del valore dell’Ai. La tecnologia è destinata a diventare onnipresente: nell’economia, nei sistemi sanitari, nell’istruzione, nell’energia, nella difesa, solo per citare alcuni settori. Non si tratta di una dipendenza ordinaria. Essere tagliati fuori dall’Ai, una volta che l’economia si baserà su di essa, sarebbe come essere tagliati fuori dal sistema finanziario statunitense. Gli effetti sarebbero catastrofici».

Il pericolo è reale, ma come ha scritto Marco Bassini su Tempi non è fermando il progresso che salviamo il mondo: servono diritto ed etica, non farsi prendere dal catastrofismo, capire di cosa stiamo parlando e comprendere l’opportunità di crescita che l’Ai darà a chi la saprà usare. Neppure bisogna sottostimare i rischi di un uso “sbagliato” di questa tecnologia, però: è giusto regolamentarla e investire in ricerca sulla sicurezza. Senza dimenticare che – lo ricorda Leone XIV nella Magnifica Humanitas – al centro di tutto questo sistema c’è l’essere umano, che è migliore delle macchine e non è per forza destinato a costruire tecnologie che distruggeranno il mondo.