💡⚠️ L’illusione dell’intelligenza 🤖🐱 Perché i modelli di IA di oggi non sono più intelligenti di un gatto domestico

Le allucinazioni come errore di sistema: il rischio economico della falsa certezza

I limiti scientifici del solo ragionamento avrebbero conseguenze pratiche significative. Ma esiste anche un fenomeno che viene ancora sottovalutato nella valutazione economica dei sistemi di intelligenza artificiale: l’allucinazione. I modelli di intelligenza artificiale producono informazioni fattualmente errate con grande forza persuasiva a livello linguistico, e lo fanno senza alcun segnale di avvertimento percepibile.

Un’analisi del 2025 condotta da NewsGuard ha rivelato che oltre un terzo – il 35% – delle risposte fornite dai principali strumenti di intelligenza artificiale generativa conteneva informazioni false. Un ampio studio dell’agenzia maxonline ha esaminato 150 aziende di medie dimensioni appartenenti a 11 settori nella regione DACH (Germania, Austria e Svizzera). Il risultato: ChatGPT ha fornito informazioni aziendali completamente accurate solo nel 3% di oltre 450 domande standardizzate. Nel 45% delle domande, l’IA ha inventato dati falsi, mentre in un altro 37% si è rifiutata di fornire qualsiasi informazione. Particolarmente preoccupante: nel 96% dei casi in cui l’IA ha menzionato i nomi dei dirigenti, questi erano completamente fittizi.

Le conseguenze economiche sono già misurabili e stanno assumendo una forma concreta. Amazon ha dovuto interrompere l’utilizzo di uno strumento di reclutamento basato sull’intelligenza artificiale dopo che questo discriminava sistematicamente le donne. Zillow ha perso oltre 500 milioni di dollari a causa di algoritmi di valutazione dell’IA difettosi. Deloitte Australia ha consegnato al governo una relazione, per la quale aveva pagato circa 440.000 dollari australiani, contenente informazioni deliranti. Due tribunali tedeschi – il Tribunale distrettuale di Colonia e il Tribunale regionale di Francoforte sul Meno – si sono occupati già nel 2025 di casi in cui gli avvocati avevano citato, nei loro atti legali, sentenze deliranti della Corte federale di giustizia (BGH) che in realtà non esistevano.

Il report di Dataiku “Global AI Confessions”, basato su un sondaggio condotto su oltre 100 responsabili dei dati in grandi aziende tedesche, dipinge un quadro inquietante di come vengono gestiti questi rischi. Il 76% dei responsabili dei dati tedeschi ha dichiarato di aver affrontato problemi aziendali lo scorso anno a causa di allucinazioni indotte dall’IA, un dato record a livello mondiale. Allo stesso tempo, il 53% delle aziende tedesche tollera sistemi di IA che commettono errori in oltre il 20% delle decisioni aziendali critiche. Inoltre, l’82% dei responsabili dei dati tedeschi ha affermato che il proprio management sottovaluta i tempi e gli sforzi necessari per rendere operativi i sistemi di IA. Questi dati rivelano una lacuna sistemica nella governance che comporta significativi rischi di responsabilità economica.

Il problema fondamentale delle allucinazioni è di natura strutturale: i modelli di intelligenza artificiale calcolano, sulla base delle probabilità, quale parola o affermazione segua statisticamente la precedente, senza una reale comprensione del mondo. Se i dati di addestramento sono incompleti o distorti, si generano errori che appaiono logici ma non corrispondono alla realtà. E questi errori vengono presentati con la stessa forza persuasiva delle informazioni corrette. La crescente quantità di contenuti generati dall’IA sul web crea circoli viziosi: le allucinazioni circolano, si moltiplicano e alimentano nuovi dati di addestramento, rischiando di aggravare i problemi di qualità nel lungo periodo.

L’architettura come destino: perché il problema non può essere semplicemente eliminato tramite l’ottimizzazione

Un equivoco comune nel dibattito tecnologico è che le debolezze descritte siano problemi di gioventù temporanei che possono essere superati con maggiore potenza di calcolo, modelli più grandi o dati di addestramento migliori. Le prove scientifiche contraddicono questa affermazione.

Il problema principale risiede nell’architettura stessa. I modelli di linguaggio naturale basati su Transformer, il paradigma dominante dell’attuale ondata di intelligenza artificiale, sono ottimizzati per prevedere il token successivo in base a modelli statistici derivati ​​dai dati di addestramento. Questa architettura è estremamente potente per lo scopo per cui è stata progettata: elaborare e generare linguaggio naturale basandosi su modelli noti. Tuttavia, non è progettata per il vero ragionamento logico, il pensiero causale-analitico o la generalizzazione delle regole a situazioni realmente nuove.

Nella sua opera successiva, “Il computer e il cervello”, John von Neumann sostenne che il cervello umano, a differenza delle architetture di von Neumann, non si basa sulla precisione aritmetica. I sistemi biologici riescono a svolgere con flessibilità ciò che i modelli di intelligenza artificiale richiedono enormi quantità di potenza di calcolo, e anche in questi casi spesso falliscono. La questione se il futuro dell’IA risieda semplicemente nell’ampliamento dei metodi attuali o in un approccio radicalmente diverso è quindi aperta e di importanza strategica dal punto di vista economico.

Recenti ricerche sul ragionamento logico nei modelli logici lineari (LLM) confermano che, nonostante gli impressionanti progressi compiuti da modelli come OpenAI o3 o DeepSeek-R1, la capacità di impegnarsi in argomentazioni logiche rigorose rimane una questione aperta. Queste analisi sottolineano la necessità di esplorare ulteriormente gli approcci neuro-simbolici, l’apprendimento per rinforzo e la messa a punto basata sui dati, approcci che vanno ben oltre la semplice scalabilità dei modelli esistenti. Tuttavia, a meno che non si verifichi un cambio di paradigma nell’architettura fondamentale dell’IA, è probabile che le limitazioni cognitive descritte rimangano strutturalmente intatte.

Le conseguenze economiche: dove l’IA crea valore e dove genera costi

L’analisi scientifica porta a una chiara conclusione economica: l’intelligenza artificiale non è uno strumento di pensiero universale, bensì uno strumento di elaborazione altamente specializzato. Questa distinzione ha implicazioni dirette per le decisioni di investimento, gli scenari applicativi e la gestione del rischio.

L’intelligenza artificiale crea valore in modo tangibile in ambiti applicativi che si basano principalmente su volume, velocità e riconoscimento di modelli di dati. Tra questi, l’analisi automatizzata dei testi contrattuali per individuare clausole standard, il controllo qualità nella produzione tramite sistemi di riconoscimento delle immagini, la segmentazione della clientela basata su dati comportamentali, la valutazione in tempo reale dei dati dei sensori nella logistica e l’ottimizzazione delle catene di approvvigionamento in base a parametri definiti. In tutti questi settori, l’IA sostituisce o integra le capacità umane nello svolgimento di compiti ripetitivi e ad alta intensità di dati, con conseguenti significativi aumenti di efficienza.

L’utilizzo dell’intelligenza artificiale diventa economicamente rischioso ovunque siano richiesti un pensiero complesso e stratificato, un’analisi causale, una risoluzione creativa dei problemi o la generalizzazione a situazioni realmente nuove. Sebbene le decisioni strategiche, le valutazioni legali, le diagnosi mediche per malattie complesse o le conclusioni scientifiche possano essere supportate dai sistemi di intelligenza artificiale, queste attività non possono essere delegate. I danni economici causati da un affidamento acritico sui risultati dell’IA in questi ambiti sono già documentati e continueranno ad aumentare.

I risultati del report di Dataiku rivelano una sfida particolare per le aziende tedesche: il 78% dei responsabili dei dati in Germania è convinto che i propri dirigenti sovrastimino l’accuratezza dei sistemi di intelligenza artificiale. Allo stesso tempo, il 76% di questi responsabili presume che le raccomandazioni aziendali generate dall’IA vengano prese più seriamente nelle loro organizzazioni rispetto a quelle dei dipendenti umani. Questa combinazione di sovrastima della tecnologia e sistematica sottovalutazione delle competenze umane è economicamente pericolosa. Può portare a investimenti errati, rischi di responsabilità e passi falsi strategici.

L’intelligenza come categoria sociale: cosa c’è in gioco?

Il dibattito sui limiti dell’IA tocca in definitiva una questione che va oltre la mera gestione aziendale: cosa significa per una società affidarsi sempre più a sistemi di IA affidabili con grandi quantità di dati, ma strutturalmente incapaci di un pensiero autentico?

Uno studio condotto dalla Scuola Statale di Economia di Mosca (HSE) ha analizzato come i modelli di intelligenza artificiale (IA) valutano le capacità di pensiero strategico umano. Il risultato è doppiamente rivelatore: gli attuali modelli di IA, come ChatGPT, sovrastimano significativamente la razionalità umana, risultando quindi perdenti nei giochi di logica contro partecipanti reali. L’IA considera l’umanità molto più razionale e logica di quanto non sia in realtà. Allo stesso tempo, i ricercatori suggeriscono che l’uso intensivo di strumenti di IA potrebbe indebolire a lungo termine la capacità umana di pensiero critico e indipendente. Se le persone non riescono più a trarre conclusioni logiche in modo autonomo perché si affidano all’output dell’IA, e l’IA stessa non riesce a trarre conclusioni logiche autentiche, si crea un vuoto collettivo.

Lo Stanford AI Index 2025 documenta che lo sviluppo dell’intelligenza artificiale sta compiendo progressi impressionanti in molti ambiti. Tuttavia, questi progressi riguardano principalmente la capacità di elaborazione, la fluidità linguistica e l’ampiezza dei domini di conoscenza coperti, non il ragionamento logico di base. Dario Amodei, CEO di Anthropic, ha delineato scenari in cui i sistemi di intelligenza artificiale potrebbero superare i premi Nobel già nel 2026. Queste previsioni ottimistiche contrastano nettamente con i risultati di laboratorio, che dimostrano come persino i modelli più avanzati falliscano nella matematica elementare quando i compiti vengono leggermente modificati.

Il dibattito sull’AGI (Intelligenza Artificiale Generale), ovvero la questione di quando l’intelligenza artificiale sarà in grado di replicare il pensiero umano nella sua interezza, rimane aperto. Un’analisi di oltre 9.800 previsioni di esperti rivela l’ampia gamma di opinioni. Ciò che è scientificamente consolidato, tuttavia, è che gli approcci attuali stanno raggiungendo i limiti fondamentali del pensiero generalizzabile. Una svolta nell’AGI non sarebbe una continuazione del percorso attuale, ma richiederebbe un salto paradigmatico nell’architettura dell’IA, i cui tempi e la cui forma sono del tutto incerti.

Precisione anziché euforia: conseguenze per l’uso strategico dell’IA

L’analisi economica dei limiti dell’IA porta a una raccomandazione tanto semplice quanto scomoda: precisione anziché euforia. Nello specifico, ciò significa concentrare l’uso dell’IA laddove risiedono i suoi comprovati punti di forza, e procedere con cautela e supervisione umana laddove le sue debolezze strutturali creano rischi economici e sociali.

Per le aziende, ciò significa che i sistemi basati sull’intelligenza artificiale per l’elaborazione dei dati, il riconoscimento di modelli e la generazione di testi ripetitivi possono offrire significativi aumenti di produttività e sono giustificabili. Tuttavia, i sistemi basati sull’intelligenza artificiale per decisioni complesse, analisi causali, valutazioni legali o pianificazione strategica richiedono assolutamente una validazione umana e non devono essere utilizzati come decisori autonomi. Sulla base delle conoscenze attuali, la soglia di tolleranza di molte aziende tedesche nei confronti degli errori dell’IA in applicazioni critiche per il business non è né economicamente né legalmente accettabile.

Ciò rappresenta un’opportunità strategica per la Germania. Il ritardo internazionale nell’adozione dell’intelligenza artificiale generativa deve essere colmato, ma non a costo di accettare acriticamente le promesse tecnologiche. Una nazione industrializzata, fondata su precisione, qualità e affidabilità ingegneristica, ha il potenziale per adottare un approccio consapevole e attento ai rischi nei confronti dell’IA, considerandola un vantaggio competitivo. Il potenziale di creazione di valore di 440 miliardi di euro, stimato dagli studi per la Germania, si concretizzerà solo se l’IA verrà impiegata laddove dimostri realmente i suoi punti di forza, e non dove una facciata convincente simula semplicemente una reale competenza.

Le macchine intelligenti possono essere sbalorditive nella gestione di enormi quantità di dati. Ma quando si tratta di pensare, rimangono strumenti ciechi. Questa consapevolezza non è un motivo per rifiutare la tecnologia, bensì un valido motivo per un giudizio ponderato. E la ponderazione è sempre stata il punto di partenza più sensato dal punto di vista economico quando si ha a che fare con tecnologie rivoluzionarie.