Governare l’intelligenza artificiale è un’impresa titanica

Chissà che cosa penserebbe Tolkien dell’imprevedibile eterogenesi del “Signore degli Anelli”. Lui che studiava i classici e insegnava lingua e letteratura a Oxford preso a pretesto, fonte d’ispirazione dei tecnocrati più agguerriti. Lui cattolico tradizionalista (con un figlio prete), così tanto ostile al Concilio Vaticano II da continuare a pronunciare le risposte rituali in latino, citato da un Papa che in quel Concilio vede «la stella polare» del cammino della Chiesa. Lui uscito invalido dalla battaglia della Somme e che aveva scritto la sua opera nel pieno dell’ascesa nazista, tirato in mezzo, nell’eterna battaglia tra il bene e il male: più da questa che dall’altra parte.

Il libro di Tolkien è un totem per tutti quei tecno-capitalisti (da Peter Thiel a Sam Altman) che nelle sue pagine hanno voluto trovare un universo morale di riferimento, accomunati dall’idea che le democrazie siano sistemi inefficienti e loro, invece, depositari della lotta al male in nome di una conoscenza da difendere con intelligenza artificiale e algoritmi predittivi. Senza vincoli né materiali né morali.

Il “Signore degli Anelli”, però, viene citato anche da papa Leone XIV nella sua prima enciclica, “Magnifica humanitas”, in cui individua un rischio esistenziale proprio in quelle spinte transumaniste che innervano l’intelligenza artificiale. Il pontefice al paragrafo 213 sceglie una frase di Gandalf, lo stregone bianco: «Non tocca a noi dominare tutte le maree del mondo; il nostro compito è di fare il possibile per la salvezza degli anni nei quali viviamo…». Leone XIV chiede di riflettere sui possibili pericoli di uno sviluppo incontrollato, invita a sottrarre l’intelligenza artificiale ai monopoli, renderla discutibile, contestabile. «Non basta regolarla: va disarmata e resa ospitale», avverte.

Un po’ ciò che fa Dario Amodei, Ceo di Anthropic, nel suo ultimo intervento pubblico – “Policy on the AI Exponential” – un appello alla politica a legiferare prima che l’intelligenza artificiale diventi così potente da essere incontrollabile. Anche lui ricorre a Tolkien e ai due hobbit che nel libro cercano di spingere Barbalbero a difendere la sua foresta da un esercito che la sta abbattendo. Ma Barbalbero agisce a una velocità molto diversa da quella degli hobbit. «Convincere lui e i suoi simili ad agire abbastanza in fretta è quasi impossibile – scrive Amodei –. L’intersezione tra l’intelligenza artificiale e le nostre istituzioni politiche ricorda un po’ la storia degli hobbit e di Barbalbero».

Tutti citano a ragione. L’accelerazionista Thiel e l’odiato (da lui) Papa americano, Elon Musk e il gran capo della start-up più attenta alla sicurezza, perché nel “Signore degli Anelli” come nell’intelligenza artificiale, c’è il bene e c’è il male, gli elfi e gli orchi, c’è Gandalf, c’è Sauron. E dopo millequattrocento pagine resta solo da decidere che fine riservare all’anello del potere.

L’evolversi impetuoso dell’intelligenza artificiale è il Tema Supremo. Nulla ha importanza maggiore, è la questione politica del nostro tempo. C’è modo di regolamentare una tecnologia che si appresta a divenire sovrumana? Di istruirla, addestrarla, plasmarla secondo regole morali e giuridiche inviolabili? Un’intesa globale, sulla falsariga dei trattati di non proliferazione che provarono a disinnescare la minaccia nucleare, sarebbe una soluzione credibile? Come Barbalbero i governi non sembrano comprenderne l’urgenza, frenati dagli interessi divergenti, dalla competizione militare ed economica tra Stati Uniti e Cina, dalla preoccupazione del singolo – in questo caso Donald Trump – di poter dire l’ultima parola o quantomeno mantenere un “vantaggio competitivo”.

Intanto, la situazione evolve a ritmi serrati, mentre SpaceX, Anthropic e OpenAI, le società più esposte insieme a Google nello sviluppo di nuovi modelli linguistici di grandi dimensioni, si contendono finanziamenti stratosferici e, secondo le stime, dovrebbero portare a Wall Street quasi quattromila miliardi di dollari di nuovo valore entro l’anno.

Un articolo pubblicato sul sito Axios lo scorso 21 maggio può aiutarci a rendere l’idea. Il titolo è “Due ore che hanno cambiato l’intelligenza artificiale” ed elenca le notizie che il giorno prima, appunto in sole due ore, hanno riguardato ogni aspetto o quasi della rivoluzione in atto contribuendo «a cristallizzare i pilastri fondamentali del nascente ordine dell’IA». Si comincia con un annuncio di OpenAI, la start-up di ChatGPT. Uno dei suoi modelli di frontiera avrebbe risolto autonomamente “il Problema delle distanze unitarie nel piano”, formulato per la prima volta da Paul Erdős e sul quale per ottant’anni si erano scervellate generazioni di matematici. Lo staff di Altman esulta, mentre il Wall Street Journal pubblica un’esclusiva sulla rivale Anthropic: la crescita è così dirompente che l’azienda potrà presentare il suo primo utile operativo. «Un punto di svolta per un settore in cui le spese hanno a lungo superato i ricavi», nota Axios, a cui si aggiungono i conti «eccezionali» di Nvidia, con l’a.d. Jensen Huang che giudica quanto sta accadendo come «la più grande espansione infrastrutturale nella storia dell’umanità». Da Wall Street in quei minuti arriva anche la tanto attesa documentazione sulla quotazione di SpaceX: gli analisti spulciano le carte, avanzano dubbi, ma solo tre settimane dopo l’Ipo risulterà la più grande della storia borsistica, ed Elon Musk il primo trilionario al mondo. Tocca a Mark Zuckerberg spegnere qualche entusiasmo: comunica che licenzierà ottomila persone perché «il successo non è scontato», mentre i sondaggi del giorno confermano che quasi il settanta per cento degli americani teme «che l’intelligenza artificiale si stia sviluppando troppo rapidamente». In questo turbinio di notizie, però, sarà un’altra a dare il titolo alle prime pagine del giorno dopo: Donald Trump sta per firmare l’ordine esecutivo che introduce controlli federali sui modelli di intelligenza artificiale prima che vengano rilasciati.

In realtà, quell’ordine esecutivo sgradito alle Big Tech, osteggiato da David O. Sacks (venture capitalist amico di Musk, nonché ascoltato consigliere del presidente) e accompagnato dal timore di non avvantaggiare la Cina, slitterà ancora un po’ per essere riproposto al ribasso, con un’adesione ai controlli su base volontaria. Si tratta, comunque, di una prima, importante, inversione di rotta della Casa Bianca.

Trump per mesi ha sostenuto che l’intelligenza artificiale dovesse essere lasciata libera di correre. Senza troppi vincoli e regole, sulla falsariga dei tecno-capitalisti più incalliti, dunque. Cosa lo ha indotto a cambiare idea? Non tanto la crescente preoccupazione del popolo americano, ma il modello Mythos annunciato dalla poco amata Anthropic, più potente di qualsiasi altro mai sviluppato, capace di individuare migliaia di vulnerabilità informatiche che prima nessuno aveva visto. Un pericolo esistenziale per la sicurezza nazionale: c’è arrivata l’azienda californiana, ci arriveranno anche altri. «Se non cambiamo rotta, i sistemi di intelligenza artificiale travolgeranno un governo statunitense distratto e sclerotico, incapace di gestirne lo sviluppo», avvertono in quei giorni Dean Ball e Ben Buchanan, tra i maggiori esperti della materia.

Non che l’allarme degli scienziati sia una novità. All’inizio del 2023, pochi mesi dopo il rilascio del primo e imperfetto ChatGPT, il Future of Life Institute pubblicava una lettera aperta in cui si chiedeva una pausa di almeno sei mesi nell’addestramento dei chatbot. Nel maggio seguente era il Center for A.I. Safety a farsi avanti con poche ma pesantissime righe: «Mitigare il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale, al pari di altri rischi di portata sociale come pandemie e guerre nucleari». Seguivano le firme di Sam Altman e Dario Amodei, del premio Nobel per gli studi sulle reti neurali artificiali Geoffrey Hinton, del vincitore del Premio Turing Yoshua Bengio, del co-fondatore di OpenAI Ilya Sutskever. I massimi esperti che si rivolgevano alle istituzioni americane allora governate dai democratici, e che risposero con le timide iniziative dell’amministrazione Biden. Poi Donald Trump e il suo colpo di spugna: pochi giorni dopo il secondo insediamento alla Casa Bianca, con un ordine esecutivo intitolato “Rimozione delle barriere alla leadership americana nell’intelligenza artificiale”.

«La questione se debbano esistere regole per gli esseri artificiali, quali debbano essere queste regole e a chi spetti stabilirle ha animato la fantascienza fin da “Frankenstein”, un libro che Mary Shelley scrisse mentre era in lutto per la perdita di un figlio, ne allattava un altro e ne aspettava un terzo», ha scritto Jill Lepore. Dalle pagine del New Yorker la scrittrice premio Pulitzer ha indagato sul tema, sui tentativi compiuti, spesso abortiti o contradditori, per rendere sicura e “allineata” l’intelligenza artificiale, fin dal lontano 2014 in cui il filosofo Nick Bostrom sostenne per primo che una superintelligenza avrebbe potuto ridurre in schiavitù o uccidere tutti gli esseri umani sul pianeta, per arrivare alla Costituzional A.I. (ben ventitremila parole contro le quattromilacinquecento di quella americana) con cui Anthropic ha addestrato Claude.

Ecco, Lepore in questo suo viaggio letterario ha sviluppato una teoria affascinante e magari condivisibile: la stessa esistenza della Costituzione di Claude è il prodotto della più ampia crisi del costituzionalismo negli Stati Uniti: «È perché la Costituzione degli Stati Uniti ha fallito – scrive – che Claude ha una costituzione, che a quanto pare è l’unica cosa che si frappone tra i cittadini americani (e le nazioni straniere) e la schiacciante forza dell’esercito statunitense».

Il dibattito è tuttora in atto, ma si concentra sulle questioni di sicurezza nazionale e di competizione con la Cina piuttosto che sulle regole da costruire, possibilmente proprio insieme ai cinesi. Con il Congresso statunitense che, inerme, sembra aver ceduto gran parte del suo potere al ramo esecutivo e col governo Trump, impegnato in un braccio di ferro su chi debba legiferare con i governatori dei singoli Stati. Fino alla riproposizione dello scontro con Anthropic, nato dal no della società all’uso dei suoi modelli per la sorveglianza di massa e in sistemi d’arma autonomi, e proseguito con il veto della Casa Bianca all’accesso a Fable 5, versione commerciale di Mythos, a qualsiasi non americano dentro o fuori dagli Stati Uniti, inclusi i dipendenti della stessa azienda. Una vicenda in cui alcuni hanno visto la conferma dell’ambiguità di Anthropic (paladina della sicurezza ma capofila nella diffusione di modelli superpotenti), ma molti altri la volontà di Trump di imporre regole non scritte e selettive.

Comunque sia, il primo caso in cui un governo ha rivendicato, e di fatto esercitato, il potere di staccare la spina da un giorno all’altro a una tecnologia di punta, riproponendo una domanda ancora inevasa: con quali strumenti l’intelligenza artificiale può essere disciplinata? Da parte di chi e con quanto arbitrio?

Torna utile la storiella di Barbalbero e dei due hobbit, col suo problema di fondo: la tecnologia avanza a ritmo esponenziale, mentre la legge si muove con lentezza. «Nei diversi anni che possono essere necessari al Congresso per intervenire, l’intelligenza artificiale può passare dall’essere un semplice passatempo a un intero Paese popolato da geni», scrive Amodei nel suo saggio, nel tentativo di proporre soluzioni come quella di modellare la vigilanza sulle agenzie che controllano il traffico aereo, la messa in commercio dei medicinali, la diffusione degli stupefacenti. I modelli oltre una certa soglia di potenza di calcolo dovrebbero, come gli aerei o i medicinali, essere sottoposti a test indipendenti e il loro rilascio dovrebbe essere bloccato se venisse segnalato un pericolo inaccettabile. Con una richiesta non secondaria. Quel potere andrebbe circoscritto e protetto da favoritismi politici e decisioni arbitrarie: «Un’intelligenza artificiale potente, se finita nelle mani sbagliate, potrebbe diventare lo strumento definitivo dell’autocrazia».

Senza sottovalutare il fatto che ci sono aziende ormai così influenti da avere le caratteristiche di un quasi Stato. Per non parlare del fatto che una nazione che disponga di intelligenza artificiale avanzata, di fronte a una che ne è priva, avrebbe un vantaggio paragonabile a quello «di un esercito di marines della Seconda guerra mondiale contro un esercito di spadaccini medievali». Il ceo di Anthropic scarta la soluzione del trattato di non proliferazione e propone invece l’idea di una coalizione di democrazie legate da standard di sicurezza e valori comuni che sappia rendere nel tempo attraente farne parte, più che rimanerne fuori. Contenimento più che disarmo. Una specie di Ue dell’intelligenza artificiale.

Unione europea alla quale non a caso guarda Martin Wolf, il principale commentatore economico del Financial Times, che ha dedicato diversi interventi a come controllare l’intelligenza artificiale, con l’idea che debba esserci un accordo globale. Ma con l’Unione come possibile regolatore di riferimento, perché nel mondo ci si fida di Bruxelles più che di Washington o di Pechino, troppo influenzati da interessi economici o dalla tentazione di usare l’IA per scopi militari. Mentre anche il Ceo di OpenAI, Sam Altman, nel recente G7 di Evian, ha finito per camminare al fianco di Amodei, con la proposta di un forum internazionale tra Stati e aziende che somiglia molto alla coalizione del concorrente. Purché a guidarlo sia l’America, riportando tutto alla competizione geopolitica.

Proposte non esaustive che ad alcuni appariranno utopistiche. Ad altri, di contro, persino conservative rispetto agli scenari più inquietanti, come quello delineato da una recente ricerca di Rand che teorizza una progressiva erosione dell’autonomia umana man mano che l’intelligenza artificiale entrerà nei processi decisionali, fino a una soglia oltre la quale la perdita si fa irreversibile, venendo meno le competenze e le istituzioni necessarie a ristabilire il controllo. O ancora, alla conclusione a cui sono giunti proprio due ricercatori di Anthropic, Marina Favaro e Jack Clark, in un recente studio dal titolo “Quando l’IA si costruisce da sola”, e cioè che un modello di intelligenza artificiale potrebbe un giorno non troppo lontano essere in grado di progettare e sviluppare in autonomia il proprio successore. «Se persino Anthropic, leader nel campo dell’IA, teme ciò che ci aspetta, i timori del resto di noi, soprattutto dei giovani, non possono che rafforzarsi», ha scritto proprio Wolf.

Gli uomini controlleranno le macchine, o viceversa? Una cosa è certa, stavolta l’Unico Anello non finirà tra le fiamme insieme a Gollum. In attesa, ci gioverà dare ancora ascolto al vecchio Gandalf: «Tutto ciò che dobbiamo decidere è cosa fare con il tempo che ci è dato».

Questo è un articolo del numero di Linkiesta Magazine 02/26 – “Inciviltà delle macchine”, ordinabile qui.