Perché l'IA inventa le cose: 7 controlli per scovare un'allucinazione

L'IA inventa le cose perché un modello linguistico è costruito per produrre le parole successive più probabili, non per verificare se siano vere, e perché il modo in cui i modelli vengono addestrati e valutati premia una risposta sicura ma tirata a indovinare rispetto a un onesto "non lo so". Questa guida spiega il meccanismo in parole semplici, quanto spesso accade con i modelli attuali, quanto è costato a tre aziende e quali sono i sette controlli che lo individuano.

Lo avete visto: il chatbot che cita una norma inesistente, riporta una statistica che nessuna indagine ha mai prodotto o nomina un fornitore che non riuscite a trovare. Si chiama allucinazione e non è un difetto che il prossimo aggiornamento eliminerà. I ricercatori di OpenAI hanno scritto nel settembre 2025 che i modelli producono "falsità plausibili e troppo sicure di sé" perché il loro addestramento e la loro valutazione "premiano l'indovinare rispetto all'ammettere l'incertezza". Capire perché l'IA inventa le cose fa la differenza tra uno strumento che vi fa risparmiare un giorno a settimana e uno che mette una cifra falsa davanti a un cliente, a una banca o a un tribunale.

Quello che segue è la spiegazione che serve a un titolare con poco tempo, non una lezione di informatica: come funziona davvero la macchina, dove si concentrano gli errori, tre casi reali con il conto da pagare, che cosa dicono gli stessi fornitori e i sette controlli. L'ultima sezione tratta di come un agente IA che mostra le proprie fonti e il proprio browser cambi il problema, e di ciò che comunque non può fare al posto vostro.

Come abbiamo verificato questa guida

1. Solo fonti primarie per il meccanismo: l'articolo di ricerca di OpenAI del 4 settembre 2025 e le dichiarazioni delle autorità di regolamentazione che citano i fornitori.
2. Tassi misurati da una classifica pubblica consultata il 22 ottobre 2026, con il metodo dichiarato, perché un tasso di allucinazione senza metodo è esso stesso una specie di allucinazione.
3. Atti giudiziari e documenti governativi per i tre casi, non riassunti giornalistici.
4. Le pagine di assistenza dei fornitori per quello che ChatGPT e Claude dichiarano sui propri limiti.
5. Controlli che una persona non tecnica può eseguire in meno di un minuto, senza altro strumento che una casella di ricerca.

Che cos'è un'allucinazione e perché succede

Un grande modello linguistico funziona prevedendo il testo che ha più probabilità di seguire quello che gli è stato dato. Quando la Solicitors Regulation Authority (SRA, l'autorità che regola gli avvocati solicitor in Inghilterra e Galles) ha messo in guardia la professione legale nel novembre 2023, lo ha detto chiaramente: questi strumenti "funzionano anticipando il testo che dovrebbe seguire l'input ricevuto, ma non hanno un concetto di 'realtà'". Se chiedete una sentenza che sostenga la vostra tesi, il modello produce qualcosa che ha la forma di una sentenza: un nome plausibile, un anno plausibile, una citazione plausibile. Niente al suo interno verifica che la sentenza esista, perché niente al suo interno è stato costruito per farlo.

La seconda causa è il modo in cui i modelli vengono valutati. Nel loro articolo del settembre 2025 "Why language models hallucinate", quattro ricercatori di OpenAI hanno mostrato che i test standard premiano la risposta sicura e non danno nulla per l'ammissione di incertezza, così che "con una valutazione binaria, astenersi è strettamente subottimale". Un modello che tira a indovinare ottiene più punti di uno che dice di non sapere, così come lo studente che tira a indovinare in un test a risposta multipla batte quello che lascia la domanda in bianco. L'abitudine di indovinare si impara, e si impara perché vince.

Le cifre che OpenAI ha pubblicato insieme all'articolo rendono visibile il compromesso. In un test fattuale, un modello regolato per astenersi ha rifiutato di rispondere al 52% delle domande, ha risposto bene al 22% e male al 26%; un modello precedente che non si asteneva quasi mai ha risposto bene al 24% e male al 75%. Le risposte sbagliate sono diminuite grazie a più "non lo so", non a più conoscenza. È tutta la storia in una tabella, ed è per questo che i controlli qui sotto cominciano con il permesso di dire no.

Quanto spesso succede nel 2026

La risposta onesta è "abbastanza spesso da controllare sempre". La classifica delle allucinazioni di Vectara, aggiornata il 22 ottobre 2026, valuta i modelli su un compito ristretto: riassumere un documento che hanno ricevuto e contare quanto spesso il riassunto contiene qualcosa che il documento non dice. Anche con i fatti davanti, i modelli più diffusi hanno inventato contenuti in una quota misurabile dei riassunti.

Due cose spiccano. Più recente e più grande non significa più sicuro: la configurazione GPT-5 di agosto 2025 ha ottenuto un risultato peggiore di GPT-4o, più vecchio di un anno, in questo test. E sono cifre di ancoraggio alla fonte, con il documento fornito; quando il modello deve richiamare i fatti dalla memoria, i tassi sono più alti.

Gli studi specialistici concordano. I ricercatori che scrivono negli Annals of the Royal College of Surgeons of England hanno riferito nell'aprile 2026 che, su 108 risposte di chatbot a domande chirurgiche, contenenti 1,249 riferimenti, i modelli peggiori hanno fabbricato o non hanno saputo sostenere dal 25% al 34% delle citazioni, mentre i migliori non ne hanno prodotta nessuna. Una lettera pubblicata su The Lancet nel maggio 2026 ha rilevato che circa un articolo recente su 277 in PubMed conteneva riferimenti fabbricati, contro uno su 2,828 nel 2023. Uno studio di Stanford sugli strumenti di ricerca legale che usano il recupero dei documenti ha trovato che allucinavano comunque tra il 17% e il 33% delle volte. Il recupero aiuta, ma non chiude la questione.

Quanto è costato: tre casi

New York, giugno 2023. In Mata v Avianca, due avvocati hanno depositato una memoria contenente sentenze inesistenti, generate da ChatGPT, e il tribunale ha imposto una sanzione di $5,000. È stato il primo caso ampiamente riportato e oggi è una delle oltre 2,200 decisioni giudiziarie nel mondo che riguardano citazioni IA fabbricate, censite in una banca dati pubblica curata dall'avvocato Damien Charlotin.

Londra, giugno 2025. In Ayinde v Haringey e Al-Haroun v Qatar National Bank, la High Court (l'Alta Corte inglese) ha trattato due casi insieme: una memoria citava cinque sentenze inesistenti, l'altra citava 45 precedenti di cui 18 inventati. Il Presidente della King's Bench Division ha scritto che gli strumenti generativi "non sono in grado di condurre ricerche legali affidabili" e "possono citare fonti che non esistono", che gli avvocati hanno il dovere professionale "di verificare l'accuratezza di tali ricerche facendo riferimento a fonti autorevoli" e che le conseguenze del mancato rispetto possono includere procedimenti per oltraggio alla corte e la segnalazione alla polizia. Da allora la Solicitors Regulation Authority ha emesso un avviso (17 agosto 2026) che cita "casi, riferimenti o affermazioni apparentemente fattuali fittizi" e ricorda ai solicitor che restano responsabili del risultato.

Canberra, ottobre 2025. Deloitte Australia ha consegnato a un ministero un rapporto nell'ambito di un contratto da AU$440,000. Conteneva una citazione inventata attribuita a una sentenza e riferimenti ad articoli accademici inesistenti. L'azienda ha pubblicato una versione corretta il 3 ottobre 2025, ha dichiarato per la prima volta che era stato usato un modello Azure OpenAI e ha restituito l'ultima rata, circa AU$98,000. Il lavoro era stato svolto da un grande studio professionale con un processo di revisione. L'invenzione è passata comunque, perché nessuno ha aperto i riferimenti.

Nessuna di queste persone era un dilettante distratto. Erano professionisti occupati che hanno trattato un testo fluido come un testo verificato. È l'errore da evitare, ed è evitabile.

Che cosa dicono i fornitori stessi

La documentazione di Anthropic per Claude elenca le misure standard di mitigazione, tra cui consentire al modello di dire "non lo so", chiedergli di citare prima di rispondere e limitarlo ai documenti forniti, e poi aggiunge che queste misure "non le eliminano del tutto. Convalidate sempre le informazioni critiche." Il suo articolo di assistenza sulle risposte errate, aggiornato nel marzo 2026, dice chiaramente che Claude "può occasionalmente produrre risposte errate o fuorvianti" e che non va considerato "un'unica fonte di verità". La pagina di assistenza di OpenAI sulla veridicità di ChatGPT dice lo stesso: può fabbricare citazioni e voi dovete verificare. L'ICO (l'autorità britannica per la protezione dei dati), nel suo lavoro del 2024 sull'IA generativa, ha osservato che anche dati di addestramento accurati "non impediranno" ai modelli di produrre affermazioni false, e la revisione dell'FCA (l'autorità britannica per i servizi finanziari) di ottobre 2026 sull'IA nei servizi finanziari ribadisce che le aziende "restano responsabili degli esiti per i consumatori" a prescindere dallo strumento che li ha prodotti.

Letti insieme, il messaggio di chi costruisce e di chi regola questi strumenti è coerente: usateli e controllateli.

I 7 controlli che scovano un'allucinazione

1. Chiedete la fonte, poi apritela

Un modello produrrà volentieri un riferimento su richiesta; la prova è se il riferimento si apre e dice quello che il modello dice che dice. Il rapporto Deloitte aveva dei riferimenti. Nessuno li ha aperti. Se il link è morto, l'articolo non esiste o la pagina dice altro, l'intera risposta è sospetta, non solo quella riga.

2. Verificate separatamente nomi, numeri, date e citazioni

Queste quattro categorie sono dove si concentra l'invenzione, perché sono le parti di una frase più difficili da prevedere dal contesto. Una citazione è la più facile da controllare: incollatela in un motore di ricerca tra virgolette. Una statistica dovrebbe portare a un'indagine con un campione e una data, così come questa guida nomina lo studio del Royal College of Surgeons of England e i suoi 1,249 riferimenti.

3. Chiedete due volte, o chiedete a un secondo modello

Un fatto che sopravvive alla riformulazione ha più probabilità di essere un fatto. Fate la stessa domanda con parole diverse, oppure incollatela in un secondo prodotto (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus o Muse di Meta si comportano tutti in modo diverso sullo stesso prompt). Due modelli concordi non sono una prova, ma due modelli discordi sono un segnale affidabile per controllare.

4. Date il documento e delimitate il campo

Le cifre della classifica qui sopra sono il caso migliore, con la fonte fornita; il richiamo dalla memoria è peggiore. Quindi fornite la fonte. Allegate il contratto, il foglio di calcolo o la norma, dite al modello di rispondere solo da lì e di citare la riga usata, poi leggete la citazione. Se non riesce a citare una riga, la risposta non veniva dal documento.

5. Date il permesso di dire "non lo so"

Poiché l'addestramento premia l'indovinare, dovete cambiare il punteggio nel prompt. "Se non sei sicuro, dillo e dimmi che cosa dovrei verificare" è la frase singola più efficace di questa guida; è l'equivalente scritto del modello che si astiene nella tabella di OpenAI e non vi costa nulla.

6. Rifate i calcoli

I modelli linguistici prevedono testo; non calcolano, a meno che non eseguano codice. Un totale sbagliato di una riga, una percentuale calcolata sulla base sbagliata, una data fuori di un anno: sembrano giusti perché la frase intorno è giusta. Sommate voi la colonna, oppure chiedete a un agente che esegue il calcolo in un foglio di calcolo e lo mostra.

7. Trattate denaro, diritto, salute e reputazione come bozza

Gli avvocati di Londra e i consulenti di Canberra non mancavano di intelligenza; mancavano di una regola. La regola è che tutto ciò che raggiunge un cliente, un'autorità di vigilanza, un finanziatore o un tribunale è una bozza finché una persona con nome e cognome non ne ha controllato i fatti. Scrivete questa regola; la politica sull'IA in Politica sull'IA per le piccole imprese: un modello gratuito ve ne offre la versione di una pagina.

Dove le piccole imprese restano più spesso incastrate

• Preventivi e stime. Un modello a cui si chiedono "prezzi tipici" inventa prezzi tipici. Usate il vostro listino o una fonte con i prezzi.
• Formulazioni legali e fiscali. Soglie, date e sanzioni cambiano ogni aprile; la memoria del modello può avere due anni. Controllate su GOV.UK.
• Dettagli di fornitori e prodotti. Numeri di modello, compatibilità e specifiche sono esattamente il testo denso e difficile da prevedere che viene inventato.
• Recensioni e testimonianze. Non lasciate mai che un modello scriva una recensione o una citazione di un cliente. Oltre a essere inventate, le recensioni false sono illegali nel Regno Unito ai sensi del Digital Markets, Competition and Consumers Act 2024.
• Traduzioni di cifre. Quando un modello traduce un documento, i numeri possono cambiare. Controllate ogni cifra della versione tradotta rispetto all'originale.

Come un agente IA cambia il problema

Un chatbot vi dà una risposta e lascia a voi il controllo. Un agente può fare parte del controllo come parte del lavoro, ed è per questo che i meccanismi contano quando ne scegliete uno.

• Mostra le sue fonti. Un agente che naviga restituisce le pagine che ha letto, così il controllo 1 diventa un clic invece di una ricerca. Jobbit Research allega le fonti a ogni risultato nel rapporto che scrive.
• Lavora in un browser che potete guardare. Quando l'agente apre una pagina, voi vedete la pagina. Una cifra del rapporto si può far risalire alla schermata da cui proviene.
• Lavora dai vostri documenti. Allegate il contratto o il foglio di calcolo in un progetto Jobbit e l'agente risponde dal file, con la riga citata: è il controllo 4 fatto per impostazione predefinita.
• Fa i calcoli in un foglio di calcolo, non in prosa. Chiedete una previsione di flusso di cassa e l'agente costruisce il foglio e mostra le formule; l'aritmetica è riproducibile.
• Chiede prima di spendere o inviare. Un agente che si ferma per ottenere l'approvazione prima che parta un'email dà al controllo 7 uno stop integrato.
• Si può istruire ad astenersi. Istruzioni di progetto come "dì quando non sei sicuro ed elenca che cosa verificare" valgono per ogni chat, quindi il controllo 5 si imposta una volta sola.

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus e Muse di Meta scrivono tutti bene le bozze, e molti ora navigano e citano. Quello che nessuno di loro elimina è il controllo finale di una persona, e nemmeno Jobbit lo elimina. Quello che Jobbit aggiunge è una rete di persone: quando il lavoro è un contratto di locazione, una dichiarazione dei redditi o una richiesta di risarcimento medico, l'agente può affidare il controllo a un professionista selezionato all'interno dello stesso ordine, invece che a voi alle undici di sera.

Il vostro piano per questa settimana

• Lunedì: scrivete la regola unica. "Tutto ciò che va a un cliente, a HMRC, a una banca o a un tribunale è una bozza finché una persona con nome e cognome non ne ha controllato i fatti." Inseritela nella vostra politica sull'IA e nelle istruzioni di progetto.
• Martedì: aggiungete la riga dell'astensione. Inserite "se non sei sicuro, dillo e dimmi che cosa controllare" nelle istruzioni permanenti di ogni strumento che usate.
• Mercoledì: eseguite il controllo 1 sui risultati della settimana scorsa. Prendete gli ultimi tre documenti scritti dall'IA che avete usato e aprite ogni riferimento. Contate quelli che falliscono.
• Giovedì: portate un lavoro in modalità ancorata. Scegliete il compito in cui gli errori costano di più, allegate i documenti reali e pretendete le righe citate.
• Venerdì: decidete che cosa non esce mai senza controllo. Fate l'elenco (prezzi, formulazioni legali, dichiarazioni sulla salute, citazioni di clienti) e condividetelo con chiunque usi l'IA nella vostra attività.

Da leggere dopo

• L'IA è sicura da usare? Una guida in parole semplici su dati, denaro e truffe da tenere d'occhio
• 12 errori dei principianti con gli agenti IA, e la soluzione rapida per ciascuno
• Come funzionano gli agenti IA? Il ciclo in 5 passaggi dietro ogni compito, spiegato semplicemente

Domande frequenti

Perché l'IA inventa le cose?

Perché un modello linguistico genera le parole successive più probabili invece di controllare i fatti, e perché i test usati per addestrare e classificare i modelli premiano una risposta sicura ma tirata a indovinare rispetto all'ammissione di incertezza. I ricercatori di OpenAI hanno descritto il risultato nel 2025 come "falsità plausibili e troppo sicure di sé". Fluidità e accuratezza nascono dallo stesso processo, ed è per questo che una risposta sbagliata si legge esattamente come una giusta.

Che cos'è un'allucinazione dell'IA?

Una risposta fluida e plausibile ma falsa: una sentenza inventata, una statistica che nessuna indagine ha prodotto, una citazione che nessuno ha detto, un prodotto che non esiste. Non è un malfunzionamento; è il comportamento normale di un modello a cui si chiede qualcosa che non sa.

Quanto spesso ChatGPT inventa le cose?

Dipende dal compito. In un test pubblico di ancoraggio alla fonte consultato nell'ottobre 2026, i modelli più diffusi hanno inventato contenuti in circa il 4% fino al 15% dei riassunti di documenti, anche con la fonte fornita; gli studi sulle citazioni in chirurgia e nel diritto hanno trovato tassi di invenzione dal 17% al 34% per i peggiori. L'ipotesi prudente è "abbastanza spesso da controllare ogni nome, numero, data e citazione".

Si possono eliminare del tutto le allucinazioni dell'IA?

No. Fornire il documento di partenza, chiedere le citazioni, consentire il "non lo so" e usare un agente che mostra le proprie fonti riducono il tasso, e la stessa documentazione di Anthropic dice che queste misure "non le eliminano del tutto". Il controllo finale su qualsiasi cosa importante spetta a una persona.

Qualcuno è stato multato per le allucinazioni dell'IA?

Sì. Un tribunale di New York ha imposto una sanzione di $5,000 nel 2023 per sentenze false in una memoria; la High Court di Londra ha avvertito nel giugno 2025 che le citazioni fabbricate possono portare a procedimenti per oltraggio e alla segnalazione alla polizia; e Deloitte Australia ha restituito l'ultima rata di un contratto governativo da AU$440,000 nell'ottobre 2025 dopo che il suo rapporto era risultato contenere riferimenti inventati.

Un agente IA è più affidabile di un chatbot?

Un agente che naviga, cita le proprie fonti e lavora dai vostri documenti rende i controlli più rapidi e gli errori più facili da rintracciare, ma serve comunque una persona che approvi tutto ciò che riguarda denaro, diritto o salute. L'agente di Jobbit mostra il proprio browser e le proprie fonti mentre lavora e può passare il controllo finale a un professionista selezionato quando il lavoro lo richiede.