Alla fine Tay era scema come un pollo: la comunità twitter – ne dava così il triste annuncio Microsoft – ci aveva messo 16 ore a trasformare l’intelligenza artificiale, creata in casa Gates per interagire con i millennial sul social, in un bot razzista, misogino, negazionista e simpatetico con Adolf Hitler. Tay era programmata infatti per comunicare emulando il comportamento degli altri utenti, i quali, una volta compreso il meccanismo, cominciarono a bombardarla di frasi irripetibili. E Tay, che avrebbe dovuto essere intelligente, si è dimostrata soltanto un buon pappagallo. Da «buongiorno mondo» a «l’olocausto non esiste» passando per «odio le femministe, dovrebbero bruciare tutte» il passo era stato brevissimo.
I NERI SONO SCIMMIE. Non è l’unico caso di “intelligenza” stupida. Nel 2015 il software di riconoscimento di Google “Foto”, addestrato a catalogare le immagini grazie a un algoritmo in grado di analizzarne il contenuto, ha iniziato ad associare ed etichettare alla razzistissima voce “gorilla” gli utenti di colore. Di recente è stato invece accusato di sessismo il software di riconoscimento delle immagini sviluppato dall’università della Virginia, per il quale il posto della donna nella società contemporanea sarebbe in cucina.
ARRIVA ZO, SCOMPAIONO I GORILLA. Secondo gli esperti, la morale della favola di questi sviluppi inattesi dell’intelligenza artificiale, alimentata e influenzata dalla mole enorme di informazioni e dati provenienti dai motori di ricerca e dai social network, dovrebbe portarci a riflettere sugli stereotipi che diffondiamo attraverso la nostra cultura e società. In altre parole il problema siamo noi, i nostri pregiudizi e anche la nostra storia, che invece di permettere al cervellone di realizzarsi prendendo decisioni in autonomia e riducendo l’intervento umano, tenderebbe ad assumere e amplificarne le distorsioni.
Tant’è, a Tay è seguita Zo, chatbot versione politicamente corretta della sorella fuori controllo, nota per abbandonare ogni discussione su temi sensibili con «non ho alcuni interesse a parlare di religione», «per l’ultima volta basta parlare di politica, è così da super vecchi». Google, dopo tante scuse, ha rimosso dalla app la possibilità di etichettare qualunque cosa alla voce “gorilla”, ma pure “scimpanzé” e “scimmia”; dalla Virginia hanno spiegato che in rete le collezioni di immagini e fotografie contenenti “pregiudizi di genere” (la donna dedita ad attività casalinghe e l’uomo allo sport) sono troppe per non mandare in vacca l’apprendimento euristico di un robot.
LA RELIGIONE DEL DATISMO. Questo gli esperti. Noi, che esperti non siamo, non dovremmo stupirci del fatto che l’intelligenza artificiale concepita come un miglioramento della fallacia umana cada continuamente nei ridicoli tranelli dei più stupidi troll o analfabeti funzionali. Abbiamo letto il sociologo francese Edgar Morin affermare che «bisogna sfidare la certezza di poter conoscere tutto di un’epoca segnata dal progresso scientifico. A renderci umani sono lo stupore, la sensazione dell’ignoto e la consapevolezza del limite», e lo storico israeliano Yuval Noah Harari metterci in guardia dalla minaccia della religione del datismo, che sostiene che l’universo consiste di flussi di dati, e che il valore di ciascun fenomeno o entità sia determinato dal suo contributo all’elaborazione dei dati. Che resterebbe dell’uomo e della sua coscienza, in quel labirinto di algoritmi inorganici, incapaci di creare nessi e cogliere contesti e complessità del reale? Soprattutto, cosa c’è di intelligente in tutto questo?
SOPHIA L’ANDROIDE. Lo scorso anno, in seguito alla presentazione della donna-robot Sophia (figlia della cosiddetta rivoluzione Gnr, genetica, nanotecnologica e robotica) al Web Summit di Lisbona, Raymond Kurzweil, Nostradamus dell’era digitale e collaboratore di Google nello sviluppo di progetti sul machine-learning (la branca dell’intelligenza artificiale basata sull’assioma che i sistemi imparino a identificare modelli analizzando i dati che gli vengono forniti), ha assicurato che entro il 2040 le macchine saranno in grado di superare il test di Turing (che determina se una macchina sia in grado o meno di pensare autonomamente).
In attesa, assicura Kurzweil, l’uomo tenderà sempre più ad avvicinarsi a una versione 2.0 di se stesso, una combinazione vivente di componenti biologiche e meccanico-informatiche. E magari la scienza tenderà a risolvere quei “misunderstanding” che durante un’intervista avevano portato Sophia a rispondere alla domanda «Vuoi distruggere tutti gli umani?» con un «Ok! Distruggerò tutti gli umani».
EVVIVA IL TROLL. Chiamatela fantascienza, chiamatala stregoneria, ma l’artificio di ridurre a chip l’umana complessità, al fine di escluderla e non includerla, censurarla e non comprenderla, dequalificarla e non valorizzarla, surrogare in vitro un mondo puro e perfetto dominato da skill e algoritmi al posto di libertà e coscienza può dirsi intelligente? Esperti di nulla, certi del solo fatto che nessuna coscienza umana avrebbe mai concepito perfezione e purezza senza augurarsi la resurrezione di carne e spirito, continuiamo a fare il tifo per i tranelli, i misunderstanding e le spietate armate dei troll e degli analfabeti funzionali.
Foto Ansa