Gli ultimi modelli di intelligenza artificiale di Anthropic, Fable 5 e Mythos 5 non potranno essere usati fuori dagli Usa. L’azienda ha annunciato di aver ricevuto dal governo federale una direttiva di controllo sulle esportazioni che impone la sospensione dell’accesso ai modelli Fable 5 e Mythos 5 per tutti i cittadini stranieri, anche se residenti negli Stati Uniti, inclusi i dipendenti stranieri della stessa azienda. La società ha quindi deciso di disabilitare i due modelli per tutti i clienti, precisando che gli altri modelli non saranno coinvolti.
Entrambi i modelli derivano da Claude Mythos Preview, un modello estremamente avanzato sviluppato per la ricerca sulla sicurezza informatica, capace di individuare vulnerabilità e difetti nei sistemi software. L’accesso a Mythos Preview era inizialmente limitato a un ristretto gruppo di aziende e partner di ricerca attraverso il programma Project Glasswing. Nelle settimane successive, i partecipanti hanno riferito di aver identificato e corretto numerosi problemi di sicurezza grazie al supporto del modello.
Quando questa settimana Anthropic ha presentato Claude Mythos 5 e Claude Fable 5, l’azienda ha spiegato che la famiglia Mythos sarebbe rimasta riservata ai partecipanti di Project Glasswing, mentre Fable sarebbe stato reso disponibile al pubblico.
Fable include diverse misure di protezione e limitazioni progettate per ridurre il rischio di utilizzi impropri, alcune delle quali hanno suscitato forti critiche. Dal momento del lancio, Anthropic ha continuato a modificare e affinare questi meccanismi di sicurezza per trovare il giusto equilibrio tra protezione e facilità d’uso.
Nel comunicato, sono elencate le misure adottate per garantire la sicurezza di Fable. Anthropic afferma di aver implementato robuste salvaguardie per “ridurre la probabilità che Fable venga utilizzato impropriamente per attività legate alla cybersicurezza” e aggiunge che tali protezioni sono talmente restrittive che molti utenti si sono lamentati perché considerate eccessivamente ampie.
Il retroscena
Intelligenza artificiale, ecco le mire di Trump per prenderne il controllo
dal nostro corrispondente Alberto Simoni
L’azienda di Dario Amodei sottolinea inoltre che nessun fornitore può garantire una resistenza perfetta ai tentativi di jailbreak. Ogni modello, spiega la società, può essere vulnerabile a tecniche di aggiramento sviluppate specificamente per quel sistema. “Il nostro obiettivo era fare in modo che i jailbreak fossero o molto limitati, nel caso di tecniche non universali, oppure estremamente costosi da realizzare, nel caso di jailbreak universali, combinando questo approccio con un monitoraggio approfondito per individuare e bloccare rapidamente eventuali attacchi riusciti”, spiega l’azienda descrivendo la propria strategia difensiva.
Secondo Anthropic, il governo avrebbe fornito soltanto prove verbali relative a un possibile jailbreak limitato e non universale, condiviso con le autorità da un soggetto non identificato. L’azienda ha promesso di diffondere maggiori dettagli entro 24 ore, ma ha chiarito di non condividere l’idea che la semplice esistenza di un potenziale jailbreak possa giustificare il ritiro di un modello commerciale dal mercato.
“Come abbiamo affermato pubblicamente, riteniamo che il governo debba avere la possibilità di bloccare distribuzioni non sicure, all’interno di un processo normativo trasparente, equo, chiaro e basato su fatti tecnici”, ha scritto Anthropic, che negli ultimi anni si è distinta per aver chiesto maggiori controlli e supervisione sul settore dell’intelligenza artificiale. “Questa azione non rispetta tali principi”.
L’annuncio arriva nel momento in cui la pressione del governo federale sull’AI aumenta, considerato il possibile utilizzo strategico della tecnologia, ma anche alla vigilia della quotazione in Borsa di Anthropic, data ormai per imminente. E ricorda in modo sospetto una pubblicità di Apple del 1999, quando Steve Jobs ebbe la geniale idea di utilizzare per uno spot le restrizioni statunitensi sull’esportazione di tecnologie ad alte prestazioni. Il Power Mac G4 era primo computer a superare la soglia di un gigaflop (un miliardo di operazioni in virgola mobile al secondo): abbastanza da rientrare nei vincoli governativi del tempo, anche se oggi sarebbe superato anche dal più economico degli smartphone. Ne nacque una campagna pubblicitaria memorabile: un personal computer così potente da essere trattato come una tecnologia militare (“mentre Intel non è un pericolo”, recitava una voce fuori campo”).
La differenza è che allora il valore strategico era la potenza di calcolo grezza. Oggi il punto non è solo quante operazioni una macchina può eseguire, ma che cosa può fare: scrivere codice, analizzare vulnerabilità, assistere nella ricerca scientifica, automatizzare processi complessi, accelerare attività che fino a pochi anni fa richiedevano team specializzati. Perciò l’intelligenza artificiale non è più solo un prodotto commerciale, una piattaforma per sviluppatori o uno strumento di produttività: sta diventando una risorsa geopolitica e i governi – in primis quello americano – iniziano inevitabilmente a trattarla come infrastruttura critica.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Bruno Ruffilli
Source link
