Se l’Ai fa paura la soluzione non è fermarla

Non può non destare una certa sorpresa che chi, come Anthropic, ha contribuito alla corsa allo sviluppo dei modelli di intelligenza artificiale ne invochi ora un rallentamento. Lo ha fatto il suo Ceo, Dario Amodei, nel saggio We Must Pace the Frontier, pubblicato il 12 settembre, raccogliendo in poche ore il sostegno di Sam Altman, Demis Hassabis ed Elon Musk.

Il grido di allarme non è però immotivato: i sistemi di frontiera stanno acquisendo capacità che rendono più difficile prevederne e controllarne il comportamento, possono utilizzare autonomamente strumenti esterni e iniziano a contribuire allo stesso processo di ricerca e sviluppo dell’Ai. Inoltre, come dimostrano anche incidenti recenti, i rischi sul terreno della cibersicurezza paiono sempre più concreti. Se le preoccupazioni non sono infondate, la domanda da porsi è se la soluzione prospettata possa funzionare davvero.

La “paura del nuovo” e il dilemma sulla regolamentazione dell’Ai

L’auspicato rallentamento nello sviluppo dell’Ai traduce una preoccupazione comune a molte riflessioni sul governo della tecnologia, che si ripropone a ogni importante evoluzione della tecnica. Si tratta della “paura del nuovo”, ossia di un senso di inadeguatezza e di precarietà dei presìdi e delle norme esistenti che spesso ha indotto i legislatori a sposare un atteggiamento di ansia regolatoria, definendo nuove regole senza interrogarsi sull’efficacia di quelle già esistenti.

Nel 1980, in The Social Control of Technology, David Collingridge formulò il dilemma che porta oggi il suo nome. Regolare la tecnologia troppo presto pone un problema di conoscenza: la fisionomia della tecnica è ancora immatura e la sua comprensione non può che essere limitata; regolare troppo tardi solleva invece un problema di potere: quando gli effetti della tecnologia diventano più chiaramente conoscibili, il suo sviluppo rischia di aver già consolidato fenomeni difficilmente governabili.

Il governo della tecnologia deve dunque fare i conti con una conoscenza inevitabilmente incompleta. Ma non si può indugiare in attesa che una tecnologia disveli tutto il proprio potenziale, pena il permettere alla tecnica di imporsi sul diritto, costringendolo a inseguirne ogni sviluppo.

Definire il momento ottimale di intervento è operazione complessa, esposta a pericoli in entrambe le direzioni. Ma invocare un rallentamento della tecnologia non appare una soluzione promettente, e ciò per diverse ragioni.

Governare la tecnologia

Anzitutto, lo sfasamento tra regola e tecnica è in una certa misura inevitabile. Il diritto procede attraverso tempi e procedure che possono apparire farraginosi, ma che riflettono anche la natura democratica dei processi attraverso cui si formano le regole; la tecnologia, al contrario, evolve tanto più rapidamente quanto minori sono gli ostacoli che incontra. Alcuni rischi, inoltre, diventano conoscibili soltanto nel corso dello sviluppo tecnologico. È proprio qui che si misura la qualità del diritto: nella sua capacità di anticipare per quanto possibile le evoluzioni della tecnica senza pretendere di determinarle una volta per tutte.

In secondo luogo, occorre domandarsi quale effetto produca una simile proposta sulle sedi in cui si decide. Formalmente, l’appello chiama in causa il potere pubblico: chiede ai governi di sostenere il coordinamento tra imprese e di rimuoverne gli ostacoli antitrust. Ma il disegno complessivo (chi valuta, secondo quali standard, dentro quale organismo) nasce dagli stessi soggetti che quelle regole dovrebbero disciplinare. Il rischio è che la co-regolazione venga scritta dai soggetti regolati e il ruolo pubblico degradi a mero controllore di accordi i cui contenuti sono determinati da altri.

Così, l’esortazione solleva un problema di legittimità democratica nella misura in cui potrebbe rimettere nelle mani di aziende tecnologiche divenute veri e propri poteri privati decisioni rilevanti per l’intera collettività. Né va trascurato che standard di sicurezza particolarmente onerosi possono finire per favorire proprio gli operatori già dominanti, meglio attrezzati per sostenerne i costi, generando evidenti ricadute concorrenziali.

Regolare l’Ai. Chi decide quale rischio è accettabile?

Su questo crinale si innesta un rilievo già avanzato da Marcello Ienca: un rallentamento rischia non solo di trascurare i benefici che la collettività trae dall’Ai (da bilanciare, naturalmente, con i suoi rischi), ma di nascondere il problema reale, ossia la costruzione di una governance efficace.

A determinare quale sia il livello di rischio accettabile per gli individui e la società, in altri termini, non dovrebbero essere soggetti privati legittimamente guidati da logiche economiche, pur animati dalle migliori intenzioni. La possibile sovrapposizione tra interesse privato e interesse pubblico, in un contesto di grande impatto come quello dell’Ai, rende problematico affidare a operatori economici decisioni così rilevanti.

Il progresso non si governa fermandolo

È qui che riemerge il ruolo del diritto e dell’etica come forze ordinatrici in grado di governare il nuovo, abbattendo il costo della “paura” senza pretendere di eliminare l’incertezza. Invocare un rallentamento sembra inoltre tradire una sfiducia nel complesso di regole di cui molti ordinamenti si sono dotati, a cominciare dall’Unione europea. Si tratta, evidentemente, di norme che devono essere testate nella loro efficacia e tenuta. La loro qualità si misurerà nella capacità di conservare la propria forza prescrittiva mentre la tecnologia si evolve e di adattarsi, dove necessario, in conformità ai principi che le informano.

Il progresso non si governa fermandolo in attesa di comprenderlo fino in fondo, ma costruendo istituzioni e regole capaci di controllarlo e correggerne gli effetti. Che l’intelligenza artificiale debba procedere a un ritmo sostenibile è senz’altro condivisibile. Ma a stabilire quel ritmo devono essere istituzioni democraticamente legittimate, non (solo) le imprese che partecipano a quella corsa.

* * *

Marco Bassini, autore di questo articolo, è professore di Diritti fondamentali e intelligenza artificiale all’Università di Tilburg, Paesi Bassi.