Come la delega all’algoritmo sta producendo una crisi di fiducia

Nel contributo precedente si è mostrato come la delega all’algoritmo produca, lungo la catena di progettisti, addestratori, deployer e utenti finali, non solo una dissoluzione strutturale della responsabilità ma anche una crisi della fiducia, silenziosa e per questo più insidiosa.

La crisi della fiducia non è la sfiducia in una fonte specifica. Non è la scoperta che un giornale mente, che un politico inganna, che un’istituzione fallisce. Queste sono esperienze antiche quanto la vita pubblica, e i sistemi democratici hanno sempre avuto strumenti, imperfetti, lenti, controversi, per elaborarle. Ciò che caratterizza la crisi attuale della fiducia è qualcosa di strutturalmente diverso. È l’erosione della fiducia come categoria. Non la sfiducia verso qualcuno, ma l’impossibilità percepita di distinguere il credibile dall’inaffidabile, il verificato dall’inventato, l’autentico dal simulato. È la sensazione, sempre più diffusa e sempre più fondata, che non si possa sapere nulla con certezza, che tutte le fonti siano potenzialmente compromesse, che ogni informazione possa essere falsa. Walter Lippmann aveva intuito, già nel 1922, che la democrazia dipende dalla qualità delle immagini mentali con cui i cittadini rappresentano il mondo.

In Public Opinion scriveva che l’ambiente reale è troppo vasto, troppo complesso e troppo fuggevole per essere conosciuto direttamente: ogni individuo opera a partire da una rappresentazione parziale, costruita attraverso i media del suo tempo. L’ecosistema algoritmico non ha inventato questo problema, ma lo ha radicalmente amplificato, introducendo nella costruzione di quelle rappresentazioni un livello di manipolabilità senza precedenti.

La crisi della fiducia non produce errori. Produce cinismo. Più esattamente un cinismo epistemico, la convinzione cioè che non valga la pena cercare la verità perché non è raggiungibile. E’ questo forse il danno più difficile da riparare che l’ecosistema algoritmico stia producendo.

Il filosofo Harry Frankfurt, in ‘On Bullshit’, aveva distinto la menzogna dal bullshit: il bugiardo sa cosa è vero e sceglie di nasconderlo; chi produce bullshit è indifferente alla verità, non nega i fatti ma li svuota di rilevanza. L’ecosistema della disinformazione algoritmica opera in modo analogo: non sempre mente, ma produce un ambiente in cui la distinzione tra vera e falsa cessa di avere conseguenze pratiche percepibili. E un ambiente in cui quella distinzione è irrilevante è un ambiente in cui il cinismo è la risposta razionale.

Le radici di questa crisi sono molteplici e si alimentano a vicenda.

La prima è strutturale nei modelli linguistici. La capacità di produrre testi fattualmente falsi con la stessa fluidità e lo stesso tono autorevole con cui si producono testi accurati. Gli esperti chiamano questo fenomeno allucinazione, una parola che cattura bene la natura del problema: il sistema vede qualcosa che non esiste e lo descrive con la stessa sicurezza con cui descriverebbe qualcosa di reale. Non sa di sbagliare. Non può saperlo, perché ottimizza la forma, non la verità. Emily Bender e i suoi coautori, nel saggio ‘On the Dangers of Stochastic Parrots’ pubblicato nel 2021, avevano messo in guardia precisamente da questo: i modelli linguistici apprendono le correlazioni statistiche tra sequenze di parole, non il rapporto tra quelle parole e il mondo. Producono forma senza significato, coerenza senza comprensione.

Quando sistemi capaci di produrre contenuti autorevoli e convincenti vengono impiegati su scala, per articoli, comunicati, analisi, report, senza verifica sistematica, l’effetto non è solo la circolazione di singole informazioni errate o peggio false. È anche l’aumento sistematico del costo cognitivo della verifica. Ogni lettore deve ora chiedersi, di fronte a qualsiasi contenuto, se sia stato prodotto da un essere umano, se sia stato verificato, se sia autentico. Queste domande, ripetute su ogni contenuto di ogni giorno, producono ciò che i ricercatori di psicologia cognitiva chiamano esaurimento da decisione: la progressiva riduzione della qualità delle scelte al crescere del loro numero.

La seconda radice riguarda le immagini e i video. Per quasi due secoli, la fotografia ha avuto una forza epistemica peculiare: era indice del reale perché era prova di qualcosa che era accaduto davanti a un obiettivo. I sistemi di generazione visiva hanno spezzato questo legame. Le immagini sintetiche assomigliano perfettamente alla realtà senza avere alcun rapporto causale con essa. I deepfake audio e video replicano volti, voci, gesti di persone reali in situazioni che non sono mai accadute.

Ma il danno più sottile non è nei singoli deepfake. È nell’effetto che la loro esistenza produce anche sui contenuti autentici. Robert Chesney e Danielle Keats Citron, in un saggio del 2019 pubblicato sulla California Law Review, hanno nominato questo effetto con una formula efficace: il dividendo del bugiardo. Quando tutti sanno che qualsiasi contenuto può essere falso, anche i contenuti veri perdono autorità.

Chi è ripreso, ad esempio, in un atto reale può difendersi sostenendo che si tratti di un deepfake. Il dubbio sistematico neutralizza il valore di qualsiasi evidenza visiva. È la vittoria della disinformazione anche quando non riesce a convincere, perché le basta seminare incertezza. La smentita, poi, arriva sempre tardi e raggiunge una frazione del pubblico che ha visto l’originale, quando la percezione si è già formata e sedimentata.

Il dividendo del bugiardo non è, tuttavia, soltanto un effetto collaterale della disinformazione visiva: è un meccanismo di potere in senso proprio. Chi produce il falso – o anche solo chi lo evoca come ipotesi plausibile – non mira necessariamente a convincere. Gli basta delegittimare. La vittoria non consiste nel far credere che il video autentico sia falso, ma nel far sì che non possa più essere creduto del tutto.

È una forma di dominio sull’ecosistema informativo che non richiede il controllo dei contenuti, ma solo la capacità di inquinare sistematicamente le condizioni della loro ricezione. In questa prospettiva, il dividendo del bugiardo si rivela come uno degli strumenti attraverso cui si esercita ciò che si potrebbe definire una posizione dominante epistemica: la capacità, strutturalmente asimmetrica, di orientare non ciò che le persone credono, ma ciò che sono in grado di credere. A ciò si aggiunge una dimensione temporale che aggrava il quadro.

La percezione si forma nella finestra che intercorre tra la prima esposizione e la smentita, una finestra che nell’ecosistema algoritmico è strutturalmente più ampia che in qualsiasi epoca precedente, perché la diffusione è istantanea e virale, mentre la verifica è lenta e faticosa. Ma anche quando la smentita arriva, arriva in un ecosistema già diverso da quello in cui la percezione si è sedimentata: raggiunge un pubblico ridotto, in un contesto emotivo mutato, con un’attenzione che si è già spostata altrove. Il danno non è reversibile con la correzione. È iscritto nella struttura stessa del tempo dell’informazione digitale.

La terza radice è la persuasione computazionale, di cui si è scritto in uno dei primi contributi di questa rubrica. La capacità di produrre messaggi personalizzati sui profili psicologici individuali, progettati per aggirare la riflessione critica e attivare risposte emotive immediate, non produce solo singoli atti di influenza. Produce, nel tempo, una sfiducia generalizzata nella propria capacità di formarsi opinioni autonome.

Shoshana Zuboff, in ‘Il capitalismo della sorveglianza’, descrive questo processo come modifica comportamentale: i sistemi di profilazione non si limitano a predire il comportamento degli utenti, ma lo orientano, sottraendo progressivamente spazio all’autonomia deliberativa. Chi sa di essere, anche vagamente, bersaglio di persuasione computazionale sviluppa una vigilanza difensiva che tende a estendersi a tutto, inclusi i contenuti autentici e le fonti affidabili.

La crisi della fiducia non è distribuita uniformemente. Colpisce di più chi ha meno strumenti per valutare l’affidabilità delle fonti, chi è già predisposto alla sfiducia nelle istituzioni, chi vive in ecosistemi informativi più polarizzati. È, come quasi tutti i problemi sistemici, una crisi che amplifica le disuguaglianze esistenti, sociali, economiche, educative. Il sociologo Robert Merton aveva descritto questo meccanismo come Mattew effect: a chi ha, sarà dato; a chi non ha, sarà tolto anche quello che ha. Nell’ecosistema informativo algoritmico, chi possiede già strumenti critici adeguati riesce a navigare la complessità; chi ne è privo è esposto in modo asimmetrico alla manipolazione e al cinismo.

Di fronte a questa diagnosi, la risposta immediata è spesso tecnica: sistemi di rilevamento dei deepfake, watermark digitali sull’origine dei contenuti, algoritmi di fact-checking automatico, etichette di autenticazione. Tutte queste soluzioni hanno un valore per sé. Nessuna è però sufficiente perché la crisi della fiducia non è un problema di accuratezza dei singoli contenuti.

È un problema di architettura dell’ecosistema informativo e di competenze degli interpreti che lo abitano. I sistemi di rilevamento rincorrono sistemi di produzione sempre più sofisticati in una spirale senza fine. Le etichette di autenticazione vengono ignorate o mal interpretate da chi non ha gli strumenti per leggerle. Il fact-checking automatico opera in un ecosistema in cui la velocità di diffusione della disinformazione supera strutturalmente la velocità della verifica. La risposta tecnica, da sola, sposta il problema senza risolverlo. Esattamente come la risposta normativa, da sola, senza una cultura diffusa della valutazione critica, rimane lettera morta.

Ciò che la risposta tecnica non può fare è restituire agli individui la capacità di stare nell’ecosistema informativo senza esserne travolti, di usare i sistemi algoritmici senza esserne usati, di delegare senza abdicare, di convivere con l’incertezza senza cedere al cinismo. Questa capacità ha un nome preciso, competenza interpretativa, e ne parleremo nel prossimo contributo. Non una virtù intellettuale opzionale riservata agli specialisti, ma una competenza di sopravvivenza cognitiva nell’epoca algoritmica: la condizione perché la supervisione umana sui sistemi che decidono al posto nostro sia sostanziale e non meramente formale, autentica e non solo dichiarata. Perché la risposta strutturale alla crisi della fiducia non è tecnica. È umana.