L’Ai ci aiuterà o ci distruggerà. Di sicuro non ci salverà

Metà entusiasti e metà esitanti, i protagonisti del principale incontro sull’Intelligenza artificiale (Ai) al Meeting di Rimini (se ne è parlato anche in altre tavole rotonde). Entusiasmo inquietante quello dei primi. Dice Nello Cristianini, il fortunato autore della “trilogia delle macchine pensanti” (Machina Sapiens, La scorciatoia e Sovrumano), tre libri che sono sulla bocca di tutti quelli che si occupano dell’argomento: «Non bisogna dire ai giovani che il mondo è giunto alla fine e non c’è più speranza. C’è tantissima speranza. Non è la prima volta che il mondo cambia. Noi siamo i discendenti di quelli ai quali la mamma diceva “non giocate con il fuoco”. Noi siamo quelli che hanno disobbedito, hanno giocato col fuoco e siamo arrivati dove siamo arrivati: è la nostra natura. Ora siamo giunti in un posto molto difficile. Lo comprenderemo come sempre, lo risolveremo come sempre».

«Questo futuro non ci spaventa»

Bene, è lo stesso Cristiniani che poco prima aveva detto: «Il modo di pensare delle macchine non assomiglia al nostro modo di pensare. Hanno percorsi cognitivi diversi dai nostri. Noi non siamo l’unico modo di pensare. Come umani, abbiamo le nostre aspettative intuitive, che non corrispondono sempre alla realtà delle cose. L’Ai ci offrirà conoscenze controintuitive, avremo nuovi farmaci senza sapere come, perché le spiegazioni sono scritte in un linguaggio che non possiamo comprendere. La nostra mente si è evoluta per certi compiti, e quando ne usciamo siamo in difficoltà». 

Stesso entusiasmo inquietante nelle conclusioni di Fabio Mercorio, professore di computer science all’Università Bicocca di Milano, che ha condotto l’incontro: «Da dove prende i criteri un cristiano per giudicare la vita? Dall’esperienza della fede. Se non proviamo a dare i criteri, li darà il mondo al posto nostro. Per vincere la sfida dell’Ai e per costruire con mattoni nuovi abbiamo bisogno di comunità dove fare tentativi, fallire, richiamarci e riprenderci. La verità è che noi non sappiamo cosa accadrà con l’Ai, – nessuno lo sa, nemmeno chi la sta facendo – ma la novità è che le nostre forze non si spendono per prevedere cosa accadrà: se noi cristiani stiamo insieme come comunità, questo futuro non ci spaventa». 

Gli enormi problemi dell’Ai

Meno entusiasti e più problematici il sociologo Sergio Belardinelli e il teologo esperto di Ia e nuove tecnologie padre Paolo Benanti. Dice il primo: «L’Ai costituisce insieme un problema e un’opportunità per riproporci tre questioni che rischiano di diventare più problematiche di quando l’Ia non c’era: l’impoverimento del linguaggio, la distruzione del senso della realtà, la distruzione del senso della verità. Sono questioni che esistevano già, e che rischiano di aggravarsi: da qualche secolo tendiamo a identificare la realtà con le sue rappresentazioni. E questo ci fa perdere anche il senso della verità. Oggi l’Ai ci costringe a chiederci nuovamente come funziona la nostra mente, a chiederci se sia interamente funzionalizzabile, se funzioni come una macchina. Ci costringe a riproporci la domanda: “È giusto realizzare tutto ciò che è tecnicamente possibile?”».

Benanti ha attirato l’attenzione su alcune cose che stanno accadendo come effetti sociali dell’espansione delle nuove tecnologie: «La capacità umana di cooperare nasce dalla teoria della mente che insorge in noi: vedo l’altro essere umano di fronte a me, e subito immagino che abbia come me la capacità di pensare e di provare emozioni. Le macchine sofisticate che usano il linguaggio, che risponde con cose che sembrano avere un senso e una semantica complessa, provocano in noi la nascita di una teoria della mente: ci troviamo a pensare che la macchina abbia una mente e una soggettività. Così si finisce per affezionarsi. Ha fatto molto scalpore il fatto che quando si è passati dal modello GPT4 al modello 5, molta gente si è lamentata commentando: “Ho perso un amico, ho perso una persona che mi capiva e mi rispondeva in maniera intima, in cambio di una cosa che è più precisa ma meno empatica”».

«Riconosciamo il limite della macchina»

E poi più avanti: «L’Ai riconosce schemi all’interno della realtà, e questo a volte ci fornisce strumenti che funzionano molto bene, a volte ha effetti imprevisti. Ci sono stati algoritmi che nel riconoscimento facciale hanno trovato tratti somatici appartenenti ad alcune etnie associati a indicazioni di maggiore sospettosità, o strumenti che hanno trovato schemi assolutamente casuali come un’associazione fra il gusto per il baseball e maggiore profitto sul luogo di lavoro. Questo è successo ad Amazon, che ha orientato le assunzioni anche su questa caratteristica, e così ha finito per ridurre il numero delle donne assunte».

Si ripropone l’eterna questione dei limiti, con Benanti che richiama all’ovvio: «Riconoscere qual è il limite della macchina e riconoscere qual è il limite dell’umano, in questo consiste la vera chiamata alla responsabilità».

La tecnica è il soggetto della storia?

Insomma, si scontrano due sapienze. Quella di chi, con Cristianini, pensa e dice: «L’epistemologia al servizio dell’etica. Se non comprendiamo cosa queste macchine hanno in mente, non possiamo esercitare il controllo: ci ritroviamo nelle mani di qualcosa che non comprendiamo. Comprendere la conoscenza che la macchina sviluppa è un dovere, per poterla controllare e per potersi fidare. Non ci siamo ancora, ma stiamo facendo progressi».

E poi c’è quella pessimista alla Umberto Galimberti, che cinque anni fa parlò dell’oggi della tecnica al Meeting di Rimini: «La tecnica non è più uno strumento, è diventata il soggetto della storia. L’uomo è diventato funzionario di apparati tecnici, come hanno detto prima di me Max Weber, Spengler, Heidegger, Jaspers e Gunther Anders. La tecnica è tutta razionalità: raggiungere il massimo degli scopi col minimo dei mezzi; ma l’uomo no: l’uomo è dolore, amore, sogno, immaginazione, ideazione. Tutto questo è di disturbo alla razionalità della tecnica oggi. Ed è un processo irreversibile. L’etica e la politica possono chiedere alla tecnica di non diventare egemone, ma come si può chiedere alla tecnica che può di non fare ciò che può? È impossibile».

@RodolfoCasadei