L’esperimento di Facebook con i due software che si sono messi a parlare in una “lingua sconosciuta” ha destato allarmismi. « Ma nelle macchine non c’è ancora comprensione semantica»
Questa estate l’esperimento condotto da Facebook con due robot ha portato a un risultato che ha destato inquietudine e allarmismo nell’opinione pubblica. Gli sviluppatori del social network stavano lavorando da mesi alla creazione di nuovi sistemi di intelligenza artificiale capaci di dialogare con gli utenti come tra esseri umani, in modo da soddisfare le loro richieste. L’esperimento prevedeva che i due robot comunicassero tra loro in inglese e portassero a termine trattative molto semplici, come lo scambio di oggetti. A un certo punto si è verificato un imprevisto: i due sistemi hanno cominciato ad esprimersi in un linguaggio proprio, usando le parole inglesi ma combinandole in maniera tale da essere comprensibili solo tra loro due. La spiegazione fornita dal responsabile del programma Facebook Al Research è che i robot, utilizzando particolari algoritmi, sono indipendenti nello sviluppare le capacità di linguaggio e negoziazione, e in quest’ultimo caso hanno trovato un nuovo sistema di comunicazione che consentiva loro di condurre la trattativa in maniera più efficiente. «Sebbene l’idea che dei robot si inventino un loro linguaggio può sembrare allarmistico a chi non è del settore, in realtà il campo dell’intelligenza artificiale è un settore solido, con una ricca bibliografia scientifica. Semplicemente, alcuni robot programmati per svolgere un compito trovano spesso modi non intuitivi per massimizzare il risultato».
PRIVI DI SINTASSI. Il timore diffuso è proprio quello che l’autonomia e l’intraprendenza dei robot li sottragga al controllo degli operatori. Passo dopo passo con il progredire della tecnologia, si teme che i robot possano svincolarsi dagli algoritmi con cui sono stati programmati. Tuttavia, secondo Massimo Piattelli Palmarini, linguista e docente di scienze cognitive presso l’Università dell’Arizona (e precedentemente presso il Massachusetts Institute of Technology), quel futuro è ancora molto, troppo lontano, perché il prima problema da porsi è di natura logico-linguistica. L’esperto accosta quest’ultimo esperimento di Facebook al caso di Nim Chimpsky, uno scimpanzé che negli anni Settanta venne usato come cavia per insegnare ai primati la lingua dei segni. Lo scimpanzé riuscì effettivamente a elaborare brevi frasi, ma queste erano formate dal semplice accostamento di sostantivi, senza alcun legame sintattico. Allo stesso modo, i robot di Facebook si sono limitati a ripetere poche parole in maniera ossessiva e grammaticalmente slegata (per esempio, «palla avere a me, a me, a me»). «Questi robot sono privi di sintassi. Finché i programmatori non introdurranno la struttura sintattica nel linguaggio delle macchine (operazione tutt’altro che semplice), queste non saranno mai in grado di comunicare in maniera complessa. Figurarsi di condurre una negoziazione, un’operazione delicatissima che richiede enormi capacità, non solo proprietà linguistiche ma anche sensibilità umana e capacità di interpretare il linguaggio non verbale». Per andare verso un reale progresso nel settore dell’intelligenza artificiale bisogna quindi riconoscere che «i big data da soli non sono sufficienti. Alla base ci devono necessariamente essere le teorie della logica e della linguistica».
Qualche esperimento riuscito però c’è già: sul Lago di Garda il robot umanoide Pepper, creato dal Dipartimento di Management di Ca’ Foscari in collaborazione con altri partner, svolge le attività di cameriere in uno dei ristoranti degli hotel di Bellatrix. Dialoga con i clienti, è in grado di consigliarli, di fornire informazioni su prodotti e offerte e rispondere a domande complesse. «In realtà, si tratta di sistemi elementari. Sono come le macchinette che distribuiscono bevande, solo leggermente più complesse: al posto del bottone per il caffè, questi hanno bottoni verbali» spiega Piattelli Palmarini.
LINGUAGGI A STATI FINITI. La semplicità di queste macchine è legata al fatto che i robot utilizzano i cosiddetti linguaggi a stati finiti. «Esiste una classificazione matematicamente rigorosa dei linguaggi in base alla loro complessità» spiega l’esperto. Il modello dei linguaggi a stati finiti (basato su determinati algoritmi) è molto diffuso nell’ingegneria e nell’informatica e corrisponde per esempio ai traduttori digitali, alle voci degli altoparlanti nelle stazioni e aeroporti e, in generale, alle voci di dispositivi elettronici. Consiste in una stringa i cui singoli elementi possono essere di volta in volta sostituiti (per esempio, l’orario di un treno o il nome della fermata). Il linguaggio umano invece costituisce un linguaggio dipendente dal contesto (si intende il contesto sintattico in cui ogni elemento linguistico è legato all’altro) e pertanto è molto più difficile da riprodurre. Tra questi due modelli, spiega Piattelli Palmarini, c’è un abisso linguistico-cognitivo. Per fare un esempio, è diverso far dire a una macchina “il gatto è nero” e “tutti i gatti sono neri” se al robot manca la nozione del “tutti”. La macchina potrebbe osservare anche migliaia di gatti neri, ma se le manca il quantificatore “tutti”, per ciascun gatto dirà che quel singolo esemplare è nero. «Perché una macchina parli come un umano non è sufficiente rendere più complesso un linguaggio a stati finiti, bisogna invece ripensare tutto il sistema progettando una macchina di una classe superiore».
PROMESSE FANTASCIENTIFICHE. Anche Luciano Floridi, professore di filosofia ed etica dell’informazione all’Università di Oxford, concorda sul fatto che l’intelligenza artificiale è ancora lontanissima da una qualsiasi forma di comunicazione complessa. «Siamo ancora a livello zero: non c’è comprensione semantica, non c’è il minimo barlume di intelligenza umana». La grande rivoluzione in questo campo rispetto agli anni Ottanta, spiega Floridi, è che gli algoritmi a codice (che stabiliscono facili legami tra periodi e concetti, sul tipo “se… allora”) sono stati sostituiti da straordinarie capacità di mappatura morfologica: da grandi masse di dati, i robot sono oggi in grado di ricavare mappe ordinate. Un robot funziona quindi solo quando l’attività consiste nel mappare una massa di dati, ma non può essere in grado di produrre qualcosa in totale autonomia. «Lo sbaglio che stiamo commettendo è quello di enfatizzare troppo queste nuove capacità delle macchine. Dobbiamo prepararci a una grande disillusione quando ci accorgeremo che tante promesse fantascientifiche non si potranno avverare» dice Floridi.
PROBLEMA LAVORO. D’altra parte, non dobbiamo neanche rifiutare in toto la tecnologia, «dobbiamo invece essere consapevole dei suoi limiti e quindi dei suoi possibili utilizzi». L’intelligenza artificiale («che non è assolutamente intelligente come potremmo essere portati a credere») può rivelarsi utile per esempio in quelle attività estremamente tecniche e ripetitive in cui la macchina può velocizzare il processo, per esempio nei caselli in autostrada e, in generale, negli sportelli automatici. «L’uso dei robot in determinate occupazioni può liberare l’uomo da lavori degradanti» dice Floridi. «L’altra faccia della medaglia è che inevitabilmente alcuni lavori spariranno, con tutte le conseguenze del caso».
Foto Ansa
