«Davvero vogliamo che sia un algoritmo a decidere chi siamo?»
Due docenti universitari esperti di intelligenza artificiale spiegano al Meeting di Rimini tutti i rischi del meraviglioso e inquietante sviluppo tecnologico
Robot pensanti che prendono decisioni autonome? Uomini dominati e rimpiazzati dalle macchine? Gli scenari fantascientifici legati allo sviluppo vorticoso dell’intelligenza artificiale sono migliaia, e tutti ugualmente catastrofisti, ma per ora stiamo andando più verso 1984 di Orwell che Io Robot di Asimov. Il futuro che si sta aprendo «è inquietante e richiede una profonda riflessione da parte nostra se non vogliamo essere noi a servire le macchine, invece che il contrario».
I PRIMI PC. I relatori dell’incontro “L’uomo e la macchina: inquietudini e speranze del futuro prossimo”, andato in scena ieri pomeriggio alla XXXVIII edizione del Meeting di Rimini, sono d’accordo: la tecnologia non è neutrale e se non trova una coscienza e un’intelligenza preparate ad accoglierla rischia di travolgerci. «A 13 anni passavo molto tempo da solo con il mio computer in camera. Oggi forse è una cosa normale ma non nel 1981, quando quasi nessuno aveva un pc e io già creavo piccoli programmi», racconta Nello Cristianini, professore di Intelligenza artificiale all’università di Bristol. «Il prete che mi dava ripetizioni di greco, venuto a sapere che possedevo un computer, mi chiese di venire a casa mia, perché voleva vederne uno prima di morire ma dopo aver posto una domanda alla macchina, “quando è nato Alessandro Magno?”, rimase estremamente deluso alla scoperta che non sapeva rispondere. “Se sanno le cose solo perché gliele diciamo noi, queste macchine non saranno mai meglio di noi”». Trentacinque anni dopo questo episodio, continua Cristianini, «oggi le macchine sono perfettamente in grado di rispondere a queste domande e anche ad altre ben più complesse».
ALGORITMI E SOCIAL. Siri, l’assistente digitale sviluppato da Apple, è in grado di riconoscere la voce umana e cercare in autonomia nel mare magnum di Wikipedia la risposta alle domande. È un esempio innocuo, ma ce ne sono altri molto controversi: «In alcuni Stati americani è un algoritmo a decidere in base alle caratteristiche delle persone quali detenuti possono ottenere la libertà vigilata e quali no», continua il docente di Bristol. «Lo fanno sulla base di un calcolo statistico sui dati dei carcerati e della recidiva. Oppure in Inghilterra diverse compagnie che stipulano assicurazioni auto calcolano il premio non in base al comportamento reale delle persone alla guida, ma in base alla loro personalità. E come fanno a conoscerla? C’è un algoritmo che vaglia quello che viene pubblicato sui social network come Instagram, Facebook e Twitter. È giusto essere giudicati da una macchina? La domanda è quasi superflua, visto che ormai è già realtà».
LATI NEGATIVI. Se inizialmente le macchine intelligenti ci hanno garantito molti vantaggi e molti risparmi («pensiamo alla velocità con cui possiamo prenotare hotel e viaggi, leggere notizie e ascoltare musica senza intermediari e senza spendere nulla»), ora «iniziamo a renderci conto che lo sviluppo tecnologico ha i suoi lati negativi: le infrastrutture come Facebook ci osservano per acquisire dati, registrano quello che facciamo e compriamo e lo fanno per capire chi siamo allo scopo di venderci libri o pubblicità. Il sistema non è neutrale, ha uno scopo e un interesse. E se esiste un algoritmo incaricato di osservarci, gestirci e predirci è evidente che in futuro potremmo perdere molta autonomia e libertà, forse più di quella che le tecnologie ci hanno fatto acquisire».
COMPUTER NEL CERVELLO. Il punto critico però «non è la tecnologia ma l’uomo», aggiunge Gianfranco Pacchioni, prorettore alla Ricerca dell’università degli Studi di Milano-Bicocca. «È vero che negli ultimi 20 anni sono apparse e scomparse tecnologie impensabili come l’iPod o la fotocamera digitale. Strumenti rivoluzionari e già inutili. Oggi grazie alle nanotecnologie, che si sviluppano insieme alle biotecnologie, potremmo già essere in grado di impiantare piccoli computer nel cervello per stimolare determinate sensazioni e reazioni. Ma grazie a una delle più grandi scoperte degli ultimi decenni, la tecnologia CRISPR, possiamo anche modificare il codice genetico dell’uomo. Questo è davvero stimolante, ma anche inquietante, perché la gente non sa nulla di questi sviluppi».
PUNTO DI NON RITORNO. Il problema, continua Pacchioni, «è che mai nella storia dell’umanità c’è stato un cambiamento così rapido e così ramificato. È difficile avere una visione complessiva a causa dello sviluppo tumultuoso. Questo è preoccupante perché perdendo la visione di insieme si rischia di essere travolti. Dobbiamo innanzitutto cercare di capire e conoscere i nuovi sviluppi tecnologici per valutarli e capire se li vogliamo davvero. Cosa succederà quando anche i nostri dati genetici, oltre che personali, saranno in mano a un algoritmo? Servono anche leggi per guidare e regolare lo sviluppo, ma la politica per forza di cose fa fatica a sviluppare una riflessione su questi temi. Eppure bisogna fare uno sforzo di riflessione e valutazione, perché la manipolazione della società mi preoccupa tantissimo e temo che abbiamo già passato il punto di non ritorno».
CHE COSA PREFERIAMO? Cristianini è meno pessimista, ma vede il pericolo: «Io come informatico sono disposto a rallentare lo sviluppo tecnologico per favorire l’educazione. Magari potremmo creare dei comitati etici anche per l’informatica. Però il dibattito deve concentrarsi sui valori. A che cosa teniamo? Per noi è più importante il risparmio o l’autonomia dei cittadini? I soldi oppure la privacy? Il singolo o la collettività? Ora chiediamo a Facebook di censurare con un algoritmo certi contenuti violenti o le fake news generate da altri algoritmi, ma otterremo come risultato la censura. Che cosa preferiamo? Queste sono le domande a cui dobbiamo rispondere».
Foto Meeting