In evidenza

Più AI e meno Autonomia: il prezzo nascosto delle risposte istantanee

Avete presente quando si fa un test, si sbaglia una risposta e poi non ce la si dimentica più? Ecco, fare fatica, sbagliare, riprovarci e, alla fine, imparare è il normale percorso di apprendimento che l’AI sta stravolgendo, ma quali sono le conseguenze nel lungo periodo?

Ad approfondire questa dinamica è lo studio AI Assistance Reduces Persistence and Hurts Independent Performance condotto dai ricercatori di Oxford, MIT, Carnegie Mellon e California University che, per la prima volta, offre risultati empirici sulla relazione tra l’uso dell’AI e le nostre capacità di apprendimento e problem-solving. Spoiler: peggiorano.

Un campione di 1.222 persone è stato sottoposto a tre esperimenti di ragionamento matematico, analisi e comprensione del testo: l’idea era confrontare le prestazioni di chi usava l’AI e di chi, invece, svolgeva i compiti in autonomia.

Cosa è emerso? Innanzitutto, si riduce la capacità di risolvere i problemi in autonomia: appena si smette di usare l’Intelligenza artificiale, i risultati peggiorano. Nell’esperimento matematico, nel test finale senza AI, il gruppo che prima era stato assistito ha risolto correttamente solo il 57% dei problemi, contro il 73% di chi non l’ha mai impiegata. Stessa cosa nel quiz sulla lettura: chi prima era stato supportato dall'AI ha risolto il 76% dei quesiti, contro l'89% degli “indipendenti”.

È emerso anche un tasso di rinuncia più alto. In pratica, visto che l’AI ci abitua a risposte confezionate in pochissimi secondi – generando un senso di gratificazione istantanea –, soffermarci a riflettere, facendo fatica, ci sembra troppo impegnativo e tendiamo ad arrenderci con più facilità: il tasso di rinuncia, o skip rate, di chi ha usato l’AI è doppio (20%) rispetto a quelli che, fin da subito, sono stati abituati a fare tutto da soli (11%). E questo è particolarmente vero quando si usa l’Intelligenza artificiale come short-cut per ottenere direttamente le soluzioni, invece che qualche consiglio di metodo.

Il risultato? Un’erosione non solo delle abilità e del pensiero critico, ma anche della motivazione e della propensione allo sforzo. E gli effetti si verificano immediatamente: bastano appena 10 minuti di interazione con l’AI per “farci passare la voglia” di impegnarci. Gli studiosi parlano di «deskilling cognitivo» per indicare come non ci sia solo una perdita di competenze tecniche – appunto le skills – necessarie alla risoluzione dei problemi, ma anche un calo della cosiddetta persistenza cognitiva – ossia, della capacità di mantenere l’attenzione su un compito, fondamentale per l’apprendimento nel lungo periodo.

Quindi, sebbene l’AI sia super-efficace nel breve periodo, col tempo le cose cambiano: è l’effetto «boiling frog» (rana bollita), per cui ogni singolo atto di delega può sembrare innocuo, ma la somma porta ad un disempowerment graduale difficile da invertire, se protratto per mesi o anni.

Il rischio, alla fine, è che i problemi complessi non vengano nemmeno affrontati se non c’è un’AI pronta a supportarci. C’è una soluzione? Lo studio propone un «cambio di paradigma» nella progettazione dei sistemi AI: dovrebbero saper riconoscere quando «non aiutare» è davvero l’aiuto di cui abbiamo bisogno.

*il testo dello studio

Il manifesto dei ricercatori: smontare il mito dell’AI che “capisce” per usarla

C’è una parola che sta iniziando a circolare sempre più spesso nel dibattito sull’Intelligenza artificiale: epistemia. Non è un tecnicismo da addetti ai lavori, ma descrive qualcosa di molto concreto che riguarda tutti noi. Secondo la Treccani è «la confortevole illusione di conoscenza prodotta dall’interazione con l’AI generativa dei grandi modelli linguistici». Tradotto: ci sembra di sapere qualcosa solo perché l’AI ce la spiega in un modo che “suona” plausibile. Complice una certa qualità narrativa – testi fluidi, coerenti, scritti con un linguaggio autorevole – che finiamo per scambiare per competenza o, peggio, per intelligenza.

Il manifesto, presentato il 16 giugno alla Camera dei Deputati, nasce proprio per fare chiarezza perché oggi, nel racconto pubblico, c’è ancora molta confusione su cosa siano davvero questi sistemi, a cosa servano e come funzionino. Un punto decisivo anche per chi deve regolamentare. Come ha sottolineato durante la conferenza stampa l’Onorevole Ascani, «se non comprendi fino in fondo che cosa dovresti regolamentare rischi poi di fare dei danni». Per questo, ha aggiunto, in una fase in cui «l'innovazione tecnologica corre tantissimo», lo scambio costante tra istituzioni e accademia diventa essenziale.

Uno dei nodi centrali è la comprensione. I modelli generativi possono scrivere testi articolati e sostenere conversazioni complesse, ma non capiscono per davvero. Sono sistemi matematico-statistici che imparano a fare previsioni: quale parola segue un’altra, quale risposta è più coerente. La loro competenza si limita a produrre l’output più probabile, «senza esperienza del mondo e la capacità di verificare le informazioni».

Il documento chiarisce anche dove questi strumenti funzionano bene e dove diventano più fragili. Sono efficaci in contesti simili ai dati di addestramento, ma possono generare risposte errate quando le informazioni cambiano rapidamente o il tema è controverso.

Un altro passaggio riguarda il tema dell’AGI, l’Intelligenza artificiale generale: quella che dovrebbe «ragionare in modo ampio e autonomo come un essere umano». Se ne parla spesso come di un traguardo vicino, ma secondo gli autori gli attuali sistemi non possiedono queste capacità. Sanno riorganizzare informazioni già esistenti, ma «non costruiscono modelli del mondo», almeno non come fanno le persone.

Il punto, allora, non è tanto la tecnologia in sé, ma il modo in cui la interpretiamo: se confondiamo coerenza con verità, narrazione con conoscenza, rischiamo di cambiare – magari senza accorgercene – il criterio stesso con cui riconosciamo ciò che è sapere. Questi strumenti funzionano, spesso benissimo. Ma proprio per questo vanno raccontati senza distorsioni, senza hype. Ciò che serve è nuova «alfabetizzazione». E qui la comunità accademica è chiamata a un ruolo attivo: «contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono».

*Il link al Manifesto “Una visione realistica dell’Intelligenza Artificiale”

L’università nell’era dell’AI: tra usi e abusi, la valutazione va ripensata

Se un universitario usa l’AI per scrivere un compito, sta “barando” o usando uno strumento di supporto? Quanti lo fanno? E come si valuta davvero uno studente nell’era dei chatbot? A queste domande prova a rispondere il policy article Generative AI use and misuse call for assessment reform in higher education, pubblicato su Science e firmato da Igor Chirikov dell’Università di Berkeley insieme a ricercatori della University of Technology Sydney e della Cornell University.

Il paper parte da un dato chiaro: il dibattito è polarizzato. Da un lato, chi vede nella GenAI uno strumento che favorisce la diffusione dell’«imbroglio» su larga scala; dall’altro, chi ritiene che i comportamenti degli studenti non siano cambiati in modo sostanziale. Il problema, avvertono gli autori, è che finora i dati sono stati pochi e poco affidabili. Per questo, lo studio si basa su un sondaggio molto più ampio condotto nel 2024 su 95.513 studenti di 20 grandi università statunitensi.

I numeri parlano chiaro: due studenti su tre hanno utilizzato strumenti di AI generativa e il 37% lo fa con regolarità, almeno una volta al mese. Ma l’uso non è uniforme: è più intenso nelle discipline dove la tecnologia è già centrale, come Informatica (62%) e Business (51%), mentre resta più contenuto nelle Arti (24%) o in Scienze Politiche (28%).

Quando si passa al terreno più scivoloso dell’imbroglio, la stima è significativa: circa il 9% degli studenti che usa strumenti di GenAI ha dichiarato – indirettamente – di aver consegnato lavori fatti dall’AI come propri, pur sapendo che non era consentito. E qui emerge un paradosso. Se l’uso dell’Intelligenza artificiale è più diffuso nelle materie STEM, i tassi di imbroglio risultano più alti nelle discipline non STEM: arrivano al 17% in Economia e al 16% in Giornalismo, contro il 5% registrato in Biologia. Non solo: la frequenza conta. Chi utilizza l’AI quotidianamente ha una probabilità di barare oltre tre volte superiore (26%) rispetto agli utenti più sporadici (7%).

E quindi, che fare? Secondo gli autori, divieti generalizzati e software di rilevamento non funzionano: è una corsa infinita “gatto e topo”. Gli autori propongono invece una riforma strutturale della valutazione, basata su tre direttrici. La prima è riportare alcune prove in ambienti controllati: esami in presenza, orali o pratici, che permettano di osservare direttamente la performance dello studente. La seconda riguarda la chiarezza normativa: superare la logica binaria del “permesso o vietato” e definire, per ogni compito, quali fasi possono beneficiare dell’AI (come brainstorming o revisione) e quali devono restare pienamente umane. La terza è la più ambiziosa: ripensare i compiti. Spostare il focus dal prodotto finale al processo, chiedendo agli studenti di documentare le proprie scelte, discutere e criticare gli output dell’AI, rendere visibile il ragionamento.

*Il link al paper

In Brasile PA AI-driven grazie a strumenti gratuiti

Sul ruolo della formazione per sfruttare davvero l’AI si dibatte da tempo, anche in questa newsletter (vedi l’articolo del numero scorso). Ad arricchire la produzione in materia arriva, a firma Vinicio Santana Gomes, funzionario pubblico del Dipartimento per lo sviluppo economico e docente alla Scuola governativa, parte attiva nei due casi presentati, un report brasiliano, pubblicato a giugno in preprint per la Cornell University. L’obiettivo è mostrare come sul metodo AI House possa basarsi l’utilizzo dell’Intelligenza artificiale nelle strutture pubbliche, senza grandi investimenti e ottenendo risultati verificabili.

Le due agenzie pubbliche in cui è avvenuta la sperimentazione fanno capo al Governo del Distretto Federale. Una si occupa di controlli disciplinari in ambito sanitario, l’altra di sviluppo economico.

A dare il via alla trasformazione dei processi è stato una formazione di 20 ore destinata ai funzionari pubblici. Nel corso viene applicato il metodo AI House, che nel nome richiama una casa, perché le 4 strutture che lo costituiscono vengono paragonate a parti di un’abitazione.

Il corso, denominato “Intelligenza artificiale nel settore pubblico: tecniche, rischi e applicazioni”, era costituito da 5 moduli. Nel primo (fondamenta) si approfondivano le basi dell’AI generativa e i suoi limiti. Nel secondo (mura) si esaminavano le tecniche di prompt engineering applicate alla redazione di documenti ufficiali. Nello step successivo (finiture) viene personalizzato l’utilizzo dell’AI con la base giuridica dell’Ufficio in questione. Si passa poi a esplorare la deidentificazione dei dati inseriti nello strumento (tetto) e, infine, alla fase di convalida umana su tutti i documenti generati dall’AI.

Nel Dipartimento della Salute, dove al personale di formazione sanitaria vengono richiesti pareri che si basano su principi e norme giuridiche, all’AI sono stati “dati in pasto” manuali disciplinari, leggi e decreti pertinenti al campo d’azione dell’agenzia. Confrontando i dati d’attività del 2023 (senza l’uso dell’AI) con quelli del 2024 (dopo l’introduzione dell’AI) emerge che i tempi si sono ridotti del 18.2%. Questo ha consentito di eliminare gli arretrati che si accumulavano regolarmente, al punto da spingere gli uffici a costituire speciali task force impegnate in attività straordinarie, per evitare di superare i termini oltre cui sarebbe scattata la prescrizione.

I dati sono sempre stati forniti all’AI in forma anonima, evitando così fughe di informazioni sensibili o violazioni, come è stato dimostrato – per entrambi gli uffici – dall’assenza di rilievi da parte degli enti di controllo. Questo era un requisito essenziale: non si trattava solo d’imparare a formulare prompt precisi e quindi performanti, ma di assicurare la necessaria riservatezza.

Il successo ottenuto poteva essere replicato? Per rispondere il metodo viene testato con l’Unità di controllo interno del Dipartimento dello Sviluppo economico, lavoro e reddito. In questo caso il focus erano i controlli sui contratti pubblici, gli audit di esecuzione finanziaria e il monitoraggio di accordi con un impatto economico anche di milioni di dollari.

Qui il tempo di elaborazione delle pratiche si riduce addirittura del 50%, mentre dal punto di vista qualitativo sono state prodotte il 92% di relazioni in più ed emesse 288 raccomandazioni formali ai dirigenti pubblici. Si stima che le raccomandazioni prodotte abbiano aiutato a mitigare rischi finanziari per circa 3 milioni di dollari. L’Unità, quindi, non agisce più solo con una logica punitiva, ma anche in ottica preventiva.

La responsabilità è chiaramente identificata: resta in carico al funzionario che firma la pratica. L’AI non sostituisce le persone: prepara bozze o sintesi, ma ogni documento finale passa necessariamente per una revisione umana integrale prima di essere firmato e ufficializzato.

Il metodo, quindi, ha dimostrato di reggere anche in una situazione diversa per oggetto, operatori, prassi e normative, senza investimenti miliardari in tecnologia – sono state impiegate versioni gratuite di ChatGPT e Claude –, ma semplicemente investendo sulla formazione delle persone e creando precise linee guida.

*Il testo del rapporto

Focus

Gli schemi di decreti attuativi della legge italiana sull’intelligenza artificiale: una mappa delle novità

A cura di Marco Bassini - Tilburg University

Il 17 giugno 2026 il Consiglio dei Ministri ha sottoposto a esame preliminare due schemi di decreto legislativo volte a dare attuazione alla legge n. 132/2025, la disciplina nazionale con cui l’Italia ha adeguato il proprio ordinamento all’AI Act. Si tratta di un passaggio decisivo per l’effettiva applicazione del regolamento. I due decreti seguiranno ora il vaglio delle Commissioni parlamentari, della Conferenza delle Regioni e delle autorità competenti. Il tratto comune dei due provvedimenti è l’approccio antropocentrico già caratterizzante la legge n. 132/2025: l’AI può supportare decisioni, ma la responsabilità deve fare sempre capo a una persona fisica.

Il primo schema di decreto interviene su vari fronti, legati sia all’impatto su determinate professioni sia al ruolo delle autorità designate. Sul piano della formazione, introduce obblighi differenziati per settore: aggiornamento delle indicazioni nazionali della scuola secondaria, alfabetizzazione sull’AI nell’educazione civica, formazione obbligatoria dei docenti (con una dotazione per contrastare le dipendenze digitali), contenuti minimi nei corsi universitari, percorsi per il personale pubblico, formazione per gli operatori sanitari e aggiornamento degli ordinamenti professionali. Sul piano del lavoro, si codifica il divieto di decisioni automatizzate esclusive in materia di costituzione, modifica o cessazione del rapporto: il licenziamento basato unicamente su trattamento automatizzato è nullo e il lavoratore ha diritto a una motivazione intelligibile fornita da una persona fisica. Sul piano della giustizia, si attribuisce alla Scuola Superiore della Magistratura il compito di formare i magistrati all’uso dell’AI, che dovrà comunque mantenere intatta la discrezionalità interpretativa e decisionale del giudice.

Infine, il decreto definisce l’assetto delle autorità nazionali: AgID (Agenzia per l’Italia Digitale) come autorità di notifica, ACN (Autorità per la Cybersicurezza Nazionale) come autorità di vigilanza del mercato e punto di contatto con l’Ue, con competenze settoriali per Banca d’Italia, CONSOB, IVASS (in relazione all’impiego di sistemi ad alto rischio nel settore finanziario) e per il Garante privacy (in relazione ai sistemi ad alto rischio in attività di contrasto, gestione delle frontiere, giustizia e processi democratici). Il regime sanzionatorio è graduato, sfruttando la facoltà (prevista dall’AI Act) di fissare massimali nazionali inferiori a quelli europei e di modularne l’entità sulla base dei ruoli nella catena del valore.

Il secondo schema di decreto si concentra sulle attività di polizia e sui temi della responsabilità civile e penale. Anche qui il filo conduttore è dato dal controllo umano. In materia di identificazione biometrica, si distinguono due ipotesi: l’uso in tempo reale è ammesso solo per finalità tassative (minacce gravi all’ordine pubblico, ricerca di persone scomparse o vittime di tratta) in conformità all’AI Act e soggetto ad autorizzazione giudiziaria con limiti temporali stringenti; e il riconoscimento facciale a posteriori, attivabile solo dopo la commissione di un reato, con titolarità del trattamento in capo al Ministero dell’Interno, valutazione d’impatto obbligatoria, consultazione del Garante e conservazione dei dati limitata a sette giorni. È espressamente vietata la costituzione di banche dati biometriche tramite scraping non mirato del web, in conformità al divieto di tale pratica sancito a livello europeo.

In tema di responsabilità civile, viene rafforzata la posizione del danneggiato, prevedendo meccanismi quali l’accesso alla documentazione tecnica del sistema, la presunzione (ma non automatismo) del nesso causale, la costituzione del foro alternativo presso la residenza del danneggiato che sia persona fisica. La scelta colma, almeno parzialmente, il vuoto lasciato dal ritiro della proposta di direttiva europea sulla responsabilità da AI.

In materia penale, viene introdotta una fattispecie volta a sanzionare l’omessa adozione di misure di sicurezza nei sistemi ad alto rischio e la loro alterazione, quando ne derivi un pericolo concreto per la vita, l’incolumità pubblica o la sicurezza dello Stato, con possibile estensione di responsabilità all’ente. La soglia di punibilità, ancorata al pericolo concreto e, per la colpa, alla colpa grave, è pensata per non criminalizzare il semplice errore tecnico.

In attesa che gli schemi di decreti completino il loro percorso, l’ordinamento italiano si prepara dunque a garantire piena effettività all’imponente regolamentazione europea dell’AI.

*link al comunicato del Consiglio dei Ministri

Normativa

Presentato il Tech Sovereignty Package: rafforzata la sovranità digitale Ue

Il 3 giugno la Commissione europea ha presentato un insieme di misure denominate “Tech Sovereignty Package”, finalizzate a rafforzare la capacità europea in ambito di semiconduttori, Intelligenza artificiale, cloud e tecnologie open source.

Il pacchetto si compone di due documenti: il Chips Act 2.0, che aggiornerà il Chips Act del 2023 per costruire le capacità necessarie allo sviluppo del settore, supportando domanda e offerta tramite investimenti nel relativo mercato; e il Cloud and AI development ACT (CADA). Questa seconda misura nasce dall’esigenza di sviluppare le capacità europee nel campo del cloud e dell’AI e intende proteggere le applicazioni critiche e i dati sensibili. Il provvedimento punta a triplicare la capacità dei data center in Europa nei prossimi cinque-sette anni e a rafforzare l’Apply AI Strategy.

Nel pacchetto, anche la Roadmap per la digitalizzazione e l’AI nel settore dell’energia, per gestire in modo sostenibile e trasparente l’aumento dei consumi elettrici generato dall’espansione dei data center, contribuendo a creare modelli AI sovrani e sicuri per il settore energetico, addestrati su dati europei e sviluppati da aziende europee.

Strengthening Europe’s Tech Sovereignty | European Commission

AI in Pillole

AI detectors: come individuare i testi generati dall’AI (con alcuni caveat per “umanizzarli”)

a cura di Annalisa Negrelli (100% Human Authored)

I modelli AI di assistenza alla scrittura sono strumenti molto diffusi in diversi ambiti e per molteplici utilizzi, dalla traduzione multilingue (strumenti di e-translation), al supporto nella fase di brainstorming, dalla revisione grammaticale e di sintesi del testo e suo affinamento stilistico, fino all’editing. In base alla normativa vigente (art. 50 dell’AI ACT), a partire dal 2 agosto 2026 chiunque faccia uso di software AI per generare o manipolare contenuti (audio, video, testi ecc.) ha l’obbligo di indicarlo, precisando se il testo sia stato etero generato (AI generated content), oppure se sia stato redatto anche solo con il mero supporto dell’AI (AI assisted content).

Ma quando questa indicazione manca, è possibile verificare l’origine umana o artificiale di un contenuto?

Gli AI detector sono software progettati proprio per analizzare e verificare l’origine di un contenuto (audio, testo, immagini o codici), con lo scopo di stimare la probabilità che possa essere stato generato da un modello linguistico AI automatizzato (ChatGpt, Claude, Gemini), anziché da un essere umano. Alcuni sono dotati anche della funzione Humanizer: vale a dire, promettono di riscrivere il testo umanizzandolo, privandolo dei contenuti troppo artificiali.

Per effettuare questo genere di esame e smascherare i contenuti creati con l’ausilio dell’AI, in particolare nei testi scritti, questi modelli vanno alla ricerca di pattern ricorrenti, analizzando le metriche statistiche e strutturali della scrittura mediante due parametri di riferimento: “perplexity” e “burstiness”.

Con il primo criterio, il modello misura la prevedibilità della concatenazione di parole in una frase: più il livello di probabilità e logicità è alto, minore sarà la perplessità sulla sua origine AI perché i modelli AI sono progettati proprio per elaborare frasi con la più alta strutturazione logica e probabile. Viceversa, più il livello di probabilità e logicità è basso, maggiore sarà la perplessità sulla sua origine AI perché il periodare umano è molto più variegato e imprevedibile. Con il secondo criterio, il modello esamina la “variazione del ritmo” nella lunghezza e strutturazione delle frasi. Il linguaggio umano si presenta generalmente più naturale e articolato, alternando periodi più lunghi e più corti, strutturati stilisticamente in modo diverso. Al contrario, i modelli AI tendono a ripetere nei contenuti lo stesso tipo di strutturazione delle frasi per blocchi dal ritmo piatto e uniforme, dando una sensazione di monotonia e fluidità meccanica. Da questo punto di vista, i testi AI sono riconoscibili perché presentano generalmente una struttura elementare: partono quasi sempre da un’introduzione standard, paragrafi centrali che sviscerano i punti, molto spesso con un elenco puntato (quasi sempre liste di 3 o 5 elementi, quasi mai di 2 o 4) e una conclusione che riassume tutto.

A livello contenutistico, un chiaro indice di utilizzo di modelli AI è dato dalla tendenza alla “riformulazione infinita”: lo stesso concetto viene ripetuto più volte, cambiando leggermente le parole. In un primo paragrafo l’AI espone il tema, nel successivo lo ribadisce, al terzo lo conferma con una sfumatura in parte diversa, con il quarto lo riassume per sicurezza, dando origine ad un testo che, all’apparenza, sembra lungo e approfondito ma che in realtà contiene poche informazioni ripetute. O, ancora, i testi AI sono riconoscibili per la presenza di termini specifici. A questo proposito, Wikipedia ha stilato un vero e proprio elenco di parole preferite che l’AI utilizza più di frequente: la presenza di questi vocaboli, se molteplici nella stessa frase, è un palese segno di testo AI-generated.

Altri indizi riguardano alcuni “tic” linguistici e stilistici, quali, ad esempio, l’utilizzo di connettivi logici, presenti in quasi tutte le frasi (“in conclusione”, “inoltre”, “nel complesso”); l’eccesso di frasi fatte, massime e luoghi comuni; l’utilizzo frequente del gerundio nelle subordinate; l’abuso di aggettivi iperbolici (“straordinario”, “esagerato”, “mozzafiato”), o metafore marittime (abuso del verbo navigare); l’utilizzo della cosiddetta “tripletta enfatica”, con un uso ossessivo di sequenze di tre aggettivi o tre verbi. Molto frequente anche la retorica “negare per affermare” con la formula “non è x. È y.” – forse il segnale più vistoso dell’AI generativa. Così come il plot twist, l’abuso delle frasi ad effetto, che iniziano con una avversativa o che invertono il soggetto per enfatizzare il senso di una frase che, a ben vedere, poi risulta priva di quel contenuto sensazionale atteso. Altri indizi, infine, possono essere l’assenza di ironia e sarcasmo, così come di opinioni personali, giudizi.

Considerato che gli assistenti di scrittura AI sono allenati sul linguaggio umano, come è possibile distinguere quando la presenza dei segnali “rivelatori” indica un contenuto generato dall’AI e quando invece dalle persone?

I rilevatori AI più diffusi sono ZeroGpt, Grammarly, TextGuard, Copyleaks, Isgen, ma hanno un tasso di affidabilità molto diverso tra loro e un differente grado di errore. Ed è proprio da quest’ultimo dato che bisogna partire per comprendere come vadano utilizzati questi software per sfruttare al meglio le loro abilità senza correre il rischio di sbagliare.

Quando si sottopone un testo all’AI detection, l’analisi indica anche il grado di accuratezza della rilevazione, ma come ha riferito al New York Times il ricercatore Mike Perkins, coautore di uno studio sui rilevatori di testo basati sull’AI generativa: «Non potrà mai esistere uno strumento in grado di identificare al 100% se l’AI è stata utilizzata in testi, immagini, video o qualsiasi altro formato». Questo perché, si legge nella ricerca, se da un lato è facile sfuggire a questo tipo di controllo semplicemente adottando qualche accorgimento (apportare modifiche “umane” al testo scritto dall’AI, anche minime, rende impossibile scoprirne l’origine); d’altra parte, anche il controllo “artigianale” basato sull’analisi “a occhio” è spesso inefficace: basta, infatti, chiedere ai chatbot di non usare cliché, ripetizioni e altre caratteristiche stilistiche tipiche per ottenere risposte più “umane”.

Il rischio di falsi positivi, con conseguenti danni reputazionali per gli autori, accusati falsamente di fare uso di AI senza dichiararlo, d’altra parte, sono sempre più frequenti. Numerose università in tutto il mondo hanno iniziato a disattivare la funzione di rilevamento AI di Turnitin per il suo elevato tasso di fallimento: ha segnalato erroneamente centinaia di saggi di studenti come generati da AI. Diversi esperimenti e test accademici pubblicati sulla piattaforma Reddit hanno dimostrato che i sistemi di rilevamento dell’AI non sempre sono affidabili. Quando i testi di grandi classici, come quelli di Charles Dickens, vengono inseriti in questi software, i risultati sono spesso completamente errati, etichettando la prosa vittoriana come generata dall’Intelligenza artificiale con percentuali che superano il 90%.

Alcuni casi recenti balzati alla cronaca inducano tuttavia a fare una riflessione più profonda e a non liquidare gli strumenti di AI detection come spazzatura. Di pochi mesi fa il caso Hachette e il terremoto che ne è derivato per il mondo editoriale, con il ritiro dal mercato del romanzo horror Shy Girl dell’autrice Mia Ballard, dopo che è stata accusata di averlo generato interamente con AI con un minimo intervento umano. O il caso del saggio edito da Tlon PwC, dal titolo “Ipnocrazia - Trump, Musk e la nuova architettura della realtà”, del misterioso filosofo Jianwei Xun, poi rivelatosi un falso, prodotto dell’interazione tra l’Intelligenza artificiale e un collettivo guidato da Andrea Colamedici e tradotto in molte lingue. Per non parlare del caso dei volumi Kindle commercializzati da Amazon, scritti a centinaia da ChatGpt.

Per correre ai ripari e tutelare i propri autori, dal 2025, la US Authors Guild e, dal 2026, la Society of Authors UK hanno introdotto il bollino “Human Authored” per attestare che un libro è stato scritto da un umano. Si tratta di una sorta di auto-certificazione che ha sollevato non poche critiche e lo sdegno degli stessi autori (si pensi al caso dei 10.000 autori che per protesta, per cessare di allenare l’AI, hanno pubblicato 10.000 pamphlet in bianco), lasciando sul tavolo tutta una serie di quesiti senza risposta: quando un testo può dirsi scritto da un umano e quando dall’AI? O meglio, qual è il limite all’utilizzo di strumenti AI di assistenza alla scrittura perché si possa dire che un testo è ancora umano? Quando va dichiarato per non esporsi ai rischi? E se in un testo redatto interamente senza il supporto di strumenti AI, venissero identificati quei segnali che gli AI detectors codificano come indizio di AI-generated text, come viene tutelata l’originalità del lavoro?

Per fare una prova, ho sottoposto questo mio scritto – 100% Human Authored – agli AI detectors/Humanizer più diffusi: per Isgen, la probabilità che il testo sia scritto da un essere umano è pari al 100%; anche ZeroGpt è d’accordo: «Your Text is Human written, 0% AI GPT». Ma, al contrario, secondo TextGuard questo testo sarebbe AI al 63%, il tool (beffardo) mi chiede: «Vuoi umanizzare il tuo testo con AI Detectors: Identifying AI-Gene?»; addirittura, secondo ExpertChat AI, sarebbe AI all’88%, e anche questo tool mi consiglia di umanizzarlo.

Quindi? Tutto molto curioso e divertente, finché non sottoponi il tuo lavoro all’analisi dell’AI e scopri di essere stato un robot tutto questo tempo. E allora non sembra più così bizzarra la trovata di Sam Altman, annunciata ieri, con il Progetto World Network Project: la “prova di umanità” per certificare, tramite scansione dell’iride, che una persona sia réellement umana…

Per approfondire:
M. Lovecchio, Come riconoscere un testo scritto dall’IA | Fondazione Leonardo, 10 novembre 2024