#Finsubito news dalla rete – Quell’aiutante è una spia – by Laura Turini

La maggior parte di noi, fino a qualche settimana fa, non sapeva chi fosse Jason Arday. Si legge che sia stato il più giovane professore nero ad avere ottenuto una cattedra a Cambridge Ma a a dare notorietà al suo nome, più della sua carriera, è stata la vicenda in cui si è trovato coinvolto.

Un libro che raccontava la storia della sua vita messo in discussione per possibile plagio, una contestazione in merito alla sua lettera di dimissioni che alcuni giornalisti avrebbero passato all’esame di un detector di testo generativo che avrebbe sentenziato che quasi certamente era stata scritta con l’uso dell’AI.

Poi la notizia del ritrovamento del cadavere di Jason Arday nel suo appartamento e le speculazioni che ricondurrebbero la sua morte allo scandalo.

Più di recente, lo scrittore Thélyson Orélien è stato escluso dal Premio Goncourt, nonostante il successo del suo romanzo d’esordio C’était ça ou mourir, dopo un post che contestava che fosse stato scritto con l’intelligenza artificiale, sospetto che sarebbe stato confermato da un esame del testo effettuati tramite, neanche a dirlo, sistemi di intelligenza artificiale.

Non sono gli unici casi di autori che hanno visto incrinare i loro sogni a causa di un software di controllo.

Jerry Falade ha dovuto sospendere l’uscita del suo romanzo Call Me, I’ll Hide the Body, per un sospetto sorto nel processo di scrittura del libro che avrebbe coinvolto l’intelligenza artificiale, anche se lui ha sempre negato di averla usata.

In futuro queste polemiche risulteranno probabilmente sterili.

Tutti gli autori usano l’AI, chi per fare ricerche, chi per farsi aiutare in alcune parti della scrittura, chi per riordinare alcuni concetti. Non è poi così importante se l’idea creativa e l’apporto intellettuale resta quello dello scrittore.

Oggi però tutti quanti rischiamo di finire alla gogna a causa di un’intelligenza artificiale che ci controlla e questa ingerenza della tecnologia potrebbe avere conseguenze anche più gravi.

Sorveglianza artificiale

Quanto accaduto a Carli Michelle Heller è un caso emblematico. Secondo quanto riportato dalla stampa statunitense, Heller avrebbe conversato con Claude scrivendo in due occasioni di voler aprire il fuoco sull’ufficio dello sceriffo e poi di essersi procurata una pistola.

La piattaforma di Anthropic, che monitora alcune parole chiave e certi tipi di contenuto, avrebbe segnalato la pericolosità delle frasi a un gruppo di revisori umani che si sarebbero attivati per trasmetterle alle forze dell’ordine.

La polizia è prontamente intervenuta, l’ha identificata e arrestata.

La donna si è difesa dicendo di utilizzare Claude come una sorta di diario segreto e di avere parlato con lui senza alcuna intenzione di agire veramente, in un soliloquio che le teneva compagnia.

Non sappiamo quanto possa essere credibile e, al momento, non sembra sia stato reso pubblico il verbale con le motivazioni dell’arresto, ma di sicuro non sarebbe l’unica a utilizzare un chatbot per questi scopi o per gioco, fingendo di essere una figura immaginaria, magari un pericoloso serial killer.

Le motivazioni addotte, al di là della loro fondatezza, svolgono una precisa funzione tecnica sul piano difensivo.

Secondo la legge della Florida commette reato chi invia, pubblica o trasmette un documento, anche elettronico, con cui minaccia di uccidere, di ferire, di compiere una strage o un atto di terrorismo.

Il concetto di “trasmissione” presuppone che qualcuno possa vedere quel documento e Heller sostiene che la sua fosse una conversazione privata con l’intelligenza artificiale, non destinata a raggiungere nessun interlocutore.

Il fatto che sia stata intercettata dal sistema di sorveglianza di Anthropic dimostrerebbe, però, che questa comunicazione esterna sia avvenuta, perché prima l’ha intercettata il chatbot e poi è stata trasmessa al gruppo di supervisori umani che si sono comportati come giudici di prima istanza, stabilendo, sostanzialmente a proprio arbitrio, se quelle parole meritassero una segnalazione alle forze di polizia.

Anthropic non solo lo ha fatto ma, quasi certamente, poteva farlo.

I suoi termini di servizio riservano all’azienda questo diritto. La privacy policy ammette la possibilità di condividere con le autorità le informazioni inserite dall’utente quando si ritiene in buona fede che sia necessario per prevenire un danno grave a una persona o a un bene.

È una formula più ampia di quanto previsto dallo Stored Communications Act del 1986 degli Stati Uniti che garantisce la riservatezza delle comunicazioni elettroniche, ritenendo possibile superarla soltanto in caso di pericolo di morte o lesioni gravi per una persona.

Anche OpenAI, un anno fa, aveva scritto sul proprio blog che le conversazioni in cui un utente sembra pianificare di fare del male ad altri vengono instradate verso un piccolo gruppo di revisori che può sospendere l’account e, davanti a una minaccia imminente di gravi danni fisici, rivolgersi alle forze dell’ordine. Nello stesso testo l’azienda precisava di non segnalare alla polizia i casi di autolesionismo, per il carattere particolarmente privato di quelle conversazioni.

Le piattaforme che si trasformano in giudici in un processo preliminare senza difesa non sono un fatto nuovo e tanto meno sconosciuto al panorama europeo. Una previsione analoga esiste nel Digital Services Act che all’art. 18 obbliga i servizi di hosting a informare subito le autorità quando c’è il sospetto che possa essere commesso un reato che minaccia la vita o la sicurezza delle persone.

La cosa peggiore è che, se non lo fanno, rischiano di incorrere in responsabilità che non intendono certo assumersi, per cui saranno indotti più spesso a informare le autorità piuttosto che restare inerti. In caso di errore di valutazione, invece, a rimetterci saranno i soggetti coinvolti che non saranno mai risarciti.

Se Carli Michelle Heller intendeva fare sul serio, l’intervento di Anthropic è stato ben mirato, ma se stava solo scherzando adesso si trova coinvolta in un processo penale con il suo nome stampato sulle pagine di molti quotidiani, senza colpa.

Nessuno, o quasi, legge le condizioni d’uso dei servizi digitali che utilizza e chi dialoga con un’AI ha la sensazione di trovarsi all’interno di una conversazione privata. Molti usano i chatbot come confidenti o psicologi e certamente non immaginano che qualcuno stia monitorando le loro esternazioni.

Non dovrebbe quindi bastare una riga nei Terms & Conditions, ma ci dovrebbe essere un’informativa molto più chiara su come vengono trattati i dati, anche non di natura personale, che vengono inseriti quando interroghiamo l’intelligenza artificiale. Diversamente è come avere un microfono nascosto nel proprio appartamento.

Se casi come quelli di Heller o degli scrittori condannati dall’AI si moltiplicheranno, ci troveremo a sederci davanti al nostro chatbot come di fronte a un nemico che ci spia più che a uno strumento che ci semplifica il lavoro.

Lascia un commento

Quello che sa fare Anne Carson

Quello che fa con i testi classici Carson è troppo disinvolto? Alcuni altri critici usano per l’ironia di Carson l’espressione inglese deadpan: è la cosa che ho pensato quando ho visto alcune sue interviste proprio in queste ore. C’è qualcosa di pythonesco nei suoi tempi di battuta. Sotto il tono però la sintassi carsoniana fa tre cose riconoscibili e difficilissime, che penso siano tra i dispositivi letterari più potenti che mi sia capitato di vedere in questi anni. Non sono solo; siamo stati ingannati in tanti, persino gli accademici svedesi? E se anche fosse?

L’emergenza casa è una scelta politica

Dal lato dell’offerta c’è un dato poco conosciuto, ma allarmante: in media, in Europa, il 20 per cento degli alloggi è inutilizzato. Significa che circa un appartamento su cinque è vuoto. Bisogna capire quanta parte di questo patrimonio possa essere messa a disposizione della popolazione. A Milano, città simbolo della crisi abitativa in Italia, gli alloggi vuoti e utilizzabili sono circa seimila. È un dato su cui certamente bisogna agire

Il futuro di Giorgia Meloni nell’età del caos

Forse la vera scommessa di Giorgia Meloni, molto più cinica di quelle che le vengono attribuite, è che proprio l’indeterminatezza che questa legge genera spingerà elettori ed eletti a cercare di aggrapparsi a qualche boa di stabilità. E il capo del governo più longevo della Repubblica, che rimarrà comunque in carica per gli affari correnti nella fase elettorale, sarà la scelta più ovvia per chi insegue quella stabilità che la legge elettorale non può garantire

Tutto in nome della sicurezza

Ci sono diversi ostacoli che rendono difficile il soggiorno in Russia soprattutto agli stranieri occidentali perché i cinesi, ad esempio, non sono soggetti a tutte le restrizioni, soprattutto quelle di natura bancaria, perché gran parte delle transazioni avvengono nella valuta yuan, e non mancano pubblicità televisive o manifesti pubblicitari di benvenu…

L’era del romanzo artificiale

I capolavori sono ormai fabbricati a tavolino da critici e uffici marketing. Devono rispondere alle esigenze emotive del momento, toccare i temi giusti, essere “globali”, cioè vendibili ovunque. Ci trasciniamo in interminabili Biennali e fiere senza più alcun criterio per giudicare da soli quello che guardiamo. Allo stesso modo, i libri che ci arrivano …

Il problema della sinistra con l’economia

Si dice: la sinistra deve parlare al sistema produttivo, ai gruppi sociali che lo compongono e a quelli che lo dirigono. Giusto, per dire cosa? Per continuare a offrire altre blandizie di diverso colore politico? No, per sottoscrivere un patto di programma per una buona economia e per una buona vita, dove ciascuno deve fare la propria parte dei cambia…

Fatti per stare insieme

Gli avversari di Vannacci rispondono nel merito a frasi che non sono state pronunciate per essere vere, ma per essere condivise, commentate e rilanciate. Confutare un’affermazione presuppone che chi l’ha pronunciata volesse davvero sostenerne la verità. Se questo presupposto non regge, ogni tentativo di replica nel merito rischia di restare vuoto e, anzi, di amplificare ulteriormente lo slogan che si voleva smontare

La guerra in prima serata

L’effetto è quello di un curioso governo controfattuale, composto da persone che hanno frequentato il centro del potere, lo hanno sfiorato e annusato. Anche questo è un piccolo salto di genere: la politica non viene rappresentata da attori, ma da politici veri che rappresentano se stessi in una vita politica alternativa. Reality? Docudrama? Simulazione …

Che ce ne facciamo della nostalgia?

La nostalgia non rappresenta necessariamente un fallimento nell’andare avanti. A volte è un modo di riconoscere ciò che il progresso ha distrutto, ciò che ha promesso senza mantenere, o ciò a cui teniamo ancora abbastanza da volerlo trattenere. La domanda non dovrebbe essere semplicemente se la nostalgia distorca il passato. Certo che lo fa. Lo fanno an…