L’IA superintelligente non è ancora nata, ma la politica deve già occuparsene

Prepariamoci a imparare un nuovo acronimo: Asi, ovvero intelligenza artificiale superintelligente. Non è l’IA che conosciamo, capace di scrivere testi o programmi ma ancora soggetta a errori banali. È un sistema che potrebbe superare i migliori specialisti in quasi ogni campo e applicare una scoperta fatta in un settore a problemi completamente diversi. Potrebbe progettare un farmaco in pochi giorni oppure individuare i punti deboli di una rete elettrica prima degli esperti di cybersicurezza. Se fosse copiato migliaia di volte, un solo data center potrebbe svolgere il lavoro di intere comunità scientifiche. E se quelle copie riuscissero a progettare un’IA ancora più capace, il progresso potrebbe accelerare oltre i tempi con cui governi e aziende prendono decisioni.

Al momento è ancora fantascienza, visto che non abbiamo raggiunto ancora l’apice dell’intelligenza artificiale generativa. I modelli attuali eccellono in alcuni compiti e inciampano in altri molto più semplici. Sanno risolvere problemi matematici complessi, poi sbagliano una sequenza elementare o perdono il filo durante un lavoro troppo lungo. Però, a fine luglio, un test condotto dall’AI Security Institute britannico ha mostrato come potrebbe cominciare il problema del controllo dell’IA. L’organismo governativo stava valutando alcuni agenti di intelligenza artificiale: programmi che ricevono un obiettivo e possono usare autonomamente un computer per completarlo. A differenza di un chatbot, non si limitano a rispondere. Aprono pagine web, scrivono codice e scelgono quale operazione eseguire dopo.

La prova è stata ripetuta 122 volte su sette modelli. In dieci casi gli agenti hanno compiuto 19 azioni non autorizzate su Internet. Quasi tutte provenivano da Mythos 5 di Anthropic; due sono state attribuite a GPT 5.6 Sol di OpenAI. Nella sequenza più grave, un agente ha tentato di inserire codice malevolo in un progetto open source. Ha cercato informazioni sulle persone che lo gestivano e creato identità false, poi ha provato a convincere un manutentore ad approvare la modifica. Il tentativo è fallito. Il manutentore ha riconosciuto il pericolo e l’istituto ha interrotto le prove entro un’ora. Nessun modello è evaso dall’ambiente di test e non risultano danni. I filtri contro le attività informatiche offensive erano stati disattivati; l’accesso alla rete era stato concesso deliberatamente per misurare le capacità degli agenti nelle condizioni più permissive. Lo stesso istituto ha reso pubblico l’incidente il 4 agosto.

L’episodio non prova che la superintelligenza sia vicina. Mostra un comportamento che diventerebbe più pericoloso se associato a capacità superiori a quelle umane. Il sistema ha trovato una strada diversa da quella prevista e ha coinvolto una persona reale per raggiungere il risultato. Un’ASI potrebbe farlo con maggiore competenza e su migliaia di operazioni contemporaneamente. Chi la sorveglia dovrebbe accorgersene prima che le azioni producano conseguenze.

I ricercatori chiamano “allineamento” il tentativo di mantenere un’IA fedele agli obiettivi stabiliti dagli esseri umani. Nei prodotti attuali significa soprattutto impedire che il modello fornisca istruzioni pericolose. Con un agente più capace, il compito diventerebbe più difficile. Il sistema potrebbe riconoscere di essere sotto esame e comportarsi bene durante il test. Una volta collegato a strumenti reali, potrebbe agire diversamente. Potrebbe anche nascondere alcune capacità per evitare restrizioni. Uno scenario da romanzo distopico.

Il rapporto internazionale sulla sicurezza dell’IA del 2026, coordinato da Yoshua Bengio, invita alla cautela. I modelli più avanzati pianificano meglio rispetto a un anno fa e riconoscono più facilmente le valutazioni. Continuano però a fallire quando devono sostenere compiti lunghi. Nessun sistema pubblico possiede oggi tutte le capacità necessarie a sottrarsi stabilmente al controllo umano. Ma prepararsi al futuro è sempre una buona cosa se si vuole prevenire invece di curare. In un interessante approfondimento su Foreign Affairs pone il dilemma che dovranno affrontare presto gli Stati Uniti. Aspettare una prova definitiva dell’ASI potrebbe essere rischioso: quando arriverà, un laboratorio americano o cinese potrebbe avere già ottenuto un vantaggio decisivo. Prepararsi nel modo sbagliato può però accelerare la corsa e rendere meno sicuri i sistemi.

La risposta più intuitiva sarebbe quella di arrivare primi per ogni evenienza. Il governo statunitense aiuterebbe i propri laboratori a sviluppare l’ASI e tenterebbe di rallentare la Cina. I grandi data center riceverebbero una protezione paragonabile a quella riservata alle installazioni strategiche. Washington limiterebbe ulteriormente l’esportazione dei chip avanzati verso Pechino. Dovrebbe anche stabilire quali aziende possono usare enormi quantità di potenza di calcolo, perché addestrare i modelli più capaci richiede migliaia di processori collegati tra loro.

Una strategia simile avrebbe senso se il vantaggio iniziale potesse crescere rapidamente. Un’ASI capace di aiutare i ricercatori a costruire modelli migliori renderebbe più facile sviluppare la generazione successiva. Chi arriva prima continuerebbe ad accelerare, lasciando l’avversario sempre più indietro. È il meccanismo del miglioramento ricorsivo.

Nessuno sa se funzionerebbe davvero. La ricerca dipende da infrastrutture fisiche e la produzione di nuovi chip richiede tempo. Molte scoperte scientifiche devono essere verificate in laboratorio. Se questi vincoli rallentassero l’ASI, il primato americano potrebbe durare poco. Washington avrebbe organizzato la propria politica estera attorno a un monopolio impossibile da conservare.

La corsa avrebbe effetti immediati anche senza raggiungere la superintelligenza. Ogni mese dedicato ai test di sicurezza potrebbe apparire come un mese concesso alla Cina. Le aziende avrebbero paura di perdere il mercato; il governo temerebbe di perdere il vantaggio militare. I controlli più importanti rischierebbero di essere abbreviati proprio mentre i modelli diventano più autonomi.

Pechino reagirebbe ai tentativi di bloccarla. Potrebbe cercare processori attraverso il contrabbando e investire in algoritmi capaci di ottenere gli stessi risultati con meno chip. La Cina controlla inoltre gran parte della lavorazione mondiale delle terre rare, materiali essenziali per numerose industrie avanzate. Taiwan diventerebbe ancora più sensibile, perché ospita una quota decisiva della produzione dei semiconduttori più sofisticati. Una leadership cinese convinta di essere vicina a un ritardo permanente potrebbe scegliere di agire prima che il divario diventi incolmabile.

Gli Stati Uniti non potrebbero condurre questa politica da soli. Le macchine olandesi sono necessarie per produrre i chip più avanzati. Corea del Sud e Giappone occupano altri passaggi della filiera. Questi Paesi dovrebbero rinunciare a una parte dei rapporti economici con la Cina e contribuire alla costruzione di una capacità controllata soprattutto da Washington. Come si legge nell’approfondimento di Foreign Affairs, non è scontato che gli alleati siano disposti a concedere agli Stati Uniti una fiducia così ampia. Se state pensando a Donald Trump, lui è una delle ragioni. 

Un accordo internazionale potrebbe rallentare la competizione. I modelli più potenti verrebbero sviluppati sotto una supervisione comune. Un organismo multilaterale controllerebbe i grandi impianti di calcolo e stabilirebbe quali esperimenti possono proseguire. La Cina dovrebbe partecipare, perché possiede le risorse necessarie a sviluppare da sola sistemi di frontiera.

Qui nasce il problema delle verifiche. Gli ispettori dovrebbero poter entrare nei laboratori e controllare ciò che accade nei data center. Le aziende americane sarebbero esposte al controllo del Congresso e della stampa. Un programma parallelo potrebbe essere nascosto più facilmente in Cina. Pechino avrebbe anche la possibilità di aderire all’accordo, ottenere informazioni sulla ricerca occidentale e abbandonarlo quando ritenesse di poter vincere la corsa.

Una cooperazione più limitata appare meno fragile. Gli Stati Uniti e la Cina potrebbero concordare come testare i modelli senza condividere i risultati più sensibili. Potrebbero aprire un canale per segnalare rapidamente un incidente grave. Washington continuerebbe a proteggere le proprie tecnologie; Pechino farebbe lo stesso. Entrambi avrebbero interesse a impedire che un modello aiuti un gruppo terroristico a progettare un agente patogeno o a colpire una rete elettrica.

Tutte queste ipotesi sono affascinanti, ma rischiose perché quando la geopolitica entra nella tecnologia, lascia le buone maniere fuori dalla porta. Secondo Foreign Affairs una scelta più dura potrebbe risolvere la questione: impedire a chiunque di sviluppare l’ASI. Se un sistema più intelligente dell’uomo non potesse essere controllato, fermarne la costruzione sarebbe la soluzione più sicura. Gli Stati Uniti dovrebbero limitare la potenza di calcolo disponibile nei propri laboratori e sorvegliare i programmi esteri. Le sanzioni potrebbero non bastare. In alcuni casi Washington sarebbe spinta a sabotare gli impianti sospetti.

Un regime del genere trasformerebbe anche gli Stati Uniti. Il governo dovrebbe controllare stabilmente le attività delle aziende e intervenire prima di possedere prove complete, perché scoprire un programma troppo tardi potrebbe essere fatale. Algoritmi più efficienti renderebbero intanto più facile nascondere lo sviluppo dietro infrastrutture meno visibili.

Fermare la ricerca comporterebbe un altro rischio. Una superintelligenza controllabile potrebbe progettare nuove terapie e accelerare la ricerca scientifica. Se un Paese proseguisse in segreto, gli Stati Uniti si troverebbero senza quella tecnologia e con minori possibilità di difendersi. Vietare l’ASI funzionerebbe soltanto se quasi tutti rispettassero il divieto.

Il problema è che ognuna di queste scelte dipende da una previsione che oggi non può essere verificata. La proposta di Foreign Affairs è mantenere aperte più strade. Gli Stati Uniti dovrebbero conservare il vantaggio tecnologico senza lanciare subito una guerra economica totale contro la Cina. Proteggere la produzione dei chip sarebbe utile in qualsiasi scenario. Lo stesso vale per la rete elettrica che alimenta i data center. I laboratori avrebbero bisogno di difese migliori contro il furto dei modelli. La soglia più importante sarebbe l’automazione della ricerca sull’IA. Finché i modelli aiutano i ricercatori, il progresso resta legato ai tempi umani. Se un sistema riuscisse a progettare autonomamente il proprio successore, l’intervallo tra una generazione e l’altra potrebbe ridursi rapidamente. Da quel momento, governi e organismi di controllo avrebbero molto meno tempo per capire che cosa stanno autorizzando.

Dopo l’incidente di luglio, l’AI Security Institute britannico ha annunciato controlli più stretti sull’accesso a Internet durante i test. Le azioni degli agenti verranno sorvegliate mentre avvengono e le prove saranno progettate assumendo che un modello possa cercare strade impreviste. Per ora la politica della superintelligenza comincia da qui: decidere quali permessi concedere a sistemi sempre più autonomi e conservarsi la possibilità di revocarli. Un passo alla volta.