Rheganne Mooradian stava piangendo seduta sul suo letto. Era appena stata licenziata dal lavoro. Poi sentì una voce parlarle così: «Andrà tutto bene». Rheganne è rimasta molto turbata, non perché non ami essere consolata, ma perché a farlo era stato Alexa, l’assistente vocale di Amazon che di sua iniziativa ha deciso di tirarla su comunicando con lei attraverso un altoparlante Amazon Echo.
GOOGLE TI SPIA
Da quel giorno Rheganne ha staccato la spina all’altoparlante e non l’ha mai più utilizzato. Non è l’unico incidente avvenuto negli anni con l’intelligenza artificiale degli assistenti inventati dai tanti colossi della Silicon Valley. Anche l’assistente casalingo di Mountain View, Google Home Mini, ha fatto irruzione in conversazioni tra amici senza essere stato sollecitato. Così, spiega il Wall Street Journal, un apparecchio ha ricordato al suo proprietario di partecipare a un evento a base di «cocaina e spinelli». Il proprietario non era un tossicodipendente, ma aveva guardato in televisione il programma di un predicatore che tuonava contro la droga. Google Home Mini aveva “ascoltato” e tratto le sue conseguenze.
TANTI HAL 9000
Che gli assistenti che dovrebbero aiutare l’uomo a svolgere facilmente azioni come riprodurre musica, impostare allarmi, fornire informazioni sul meteo, sul traffico o sulla viabilità, si mettano ad ascoltare (ma sarebbe meglio scrivere “spiare”) tutto ciò che viene detto in casa è inquietante. Che agiscano di conseguenza nel modo che ritengono più opportuno fa pensare a scenari alla “HAL 9000”, il supercomputer della nave spaziale Discovery che nel capolavoro di Stanley Kubrick, 2001: Odissea nello spazio, era in grado di pensare e prendere decisioni in autonomia ribellandosi ai suoi padroni umani.
L’ALGORITMO DECIDE CHI ASSUMERE
L’unica differenza rispetto al personaggio del film di Kubrick è che l’intelligenza artificiale made in Silicon Valley non è affatto intelligente. Anzi, è molto stupida. Lo dimostra una notizia rivelata da Reuters, secondo cui Amazon avrebbe testato nel 2015 un algoritmo in grado di valutare i curriculum in vista di assunzioni. Il computer era in grado di vagliare centinaia di curriculum per scegliere i migliori, assegnando a ciascuno un punteggio da 1 a 5 stelle in base alle qualità e alle caratteristiche ricercate dall’azienda.
DONNE DISCRIMINATE
Tutto sembrava funzionare al meglio, fino a quando gli ingegneri di Amazon non hanno scoperto che l’algoritmo aveva imparato a discriminare le donne: qualunque curriculum contenesse, per qualunque motivo, la parola “donna” veniva immediatamente depennato e considerato non idoneo per l’assunzione. Amazon ha dunque dovuto ritirare il programma senza pubblicizzarlo, come invece aveva previsto di fare, ma l’agenzia di stampa ha tirato fuori la notizia ugualmente.
ALTRO CHE NEUTRALITÀ
L’ironia della sorte è che Amazon aveva creato l’algoritmo per avere una valutazione «neutrale» e «oggettiva», non dipendente dall’inestirpabile soggettività umana. Il sistema era anche stato impostato per rimanere neutrale davanti a termini come “uomo” o “donna”, ma la macchina ha imparato da sola dall’esperienza come selezionare nel miglior modo possibile i candidati. Finendo curiosamente per discriminare le donne.
«NON MI FIDEREI MAI»
La notizia negativa è che la maggior parte delle grandi aziende, almeno negli Stati Uniti, ritengono che nel giro di cinque anni utilizzeranno software simili per selezionare i candidati migliori ad alcuni posti di lavoro. È quanto emerge da un sondaggio del 2017 di CareerBuilder. La notizia positiva è che tutti sanno che l’intelligenza artificiale è irrimediabilmente stupida. Ecco perché il vicepresidente di LinkedIn Talent Solutions, John Jersin, ha dichiarato in merito: «Non mi fiderei mai di un sistema di intelligenza artificiale per decidere chi assumere. La tecnologia non è ancora pronta». L’uomo serve ancora. Almeno per ora.
