Cos'è un modello AI (LLM), e perché sbaglia

Un modello linguistico non cerca la risposta: la indovina una parola alla volta. Cosa sono i token, cos'è un'allucinazione, perché non dice «non lo so» e cosa controllare.

Perché conta

ChatGPT, Gemini e Claude sono modelli linguistici. Sapere che indovinano la parola successiva, invece di consultare un archivio, spiega perché sbagliano con sicurezza e cosa va sempre verificato.

In pratica

Usa la risposta come bozza. Controlla numeri, date e citazioni sulla fonte. Per le cose recenti, guarda se ha cercato sul web e la data della fonte.

Un modello linguistico (in inglese LLM, large language model) è il programma che sta dietro a ChatGPT, Gemini, Claude e agli altri assistenti. Ha letto una quantità enorme di testo, preso da internet e dai libri, e da quel testo ha imparato quale parola viene di solito dopo le altre. Non ha salvato le pagine e non consulta un archivio: quando gli scrivi, produce la continuazione più probabile, una parola alla volta.

La parola dopo, e i token

Google lo spiega con un esempio: «Quando sento la pioggia sul tetto, io ___ in cucina». Il modello assegna a ogni continuazione possibile una probabilità: «preparo una zuppa» 9,4 per cento, «scaldo l'acqua» 5,2 per cento, e così via. Il programma ne sceglie una (la più probabile, o una a caso tra quelle più alte), la aggiunge alla frase e ricomincia, fino alla fine della risposta. Tutto quello che un assistente scrive nasce così.

In realtà il modello non lavora a parole intere ma a pezzi di parola, i token. OpenAI dà una regola pratica per l'inglese: un token è circa tre quarti di una parola, cioè 100 token sono circa 75 parole. Per le altre lingue servono più token per lo stesso testo: OpenAI fa l'esempio dello spagnolo «Cómo estás», 10 caratteri e 5 token. Conta per due motivi: molti servizi si pagano a token, quindi un testo in italiano costa più dello stesso testo in inglese; e i limiti di lunghezza delle conversazioni sono scritti in token.

Perché inventa

Dato che non c'è un archivio, quando chiedi un fatto il modello scrive la frase più probabile. Se quel fatto compariva ovunque nei testi letti, la frase probabile è anche vera. Se era raro, la frase è credibile e basta. OpenAI chiama queste frasi allucinazioni: «affermazioni plausibili ma false». Nella sua ricerca del 5 settembre 2025 racconta un esempio: a un chatbot diffuso hanno chiesto il titolo della tesi di dottorato di uno degli autori; ha dato tre risposte diverse, tutte sbagliate. Alla domanda sulla data di nascita, tre date diverse, tutte sbagliate.

Non è una bugia: il modello non sa di sbagliare. E OpenAI, nella pagina di aiuto «Does ChatGPT tell the truth?», scrive che a volte può sembrare sicuro anche quando sbaglia. Nella nostra prova su Perplexity, su dieci domande una data era sbagliata di un anno, scritta con la stessa sicurezza delle altre nove.

Perché non dice «non lo so»

La ricerca di OpenAI dà una spiegazione semplice: dipende da come i modelli vengono valutati. I test più usati contano solo le risposte giuste, come un esame a crocette in cui lasciare in bianco vale zero e tirare a indovinare può valere un punto. Un modello allenato con quei test impara a rispondere sempre. OpenAI propone il contrario: penalizzare di più gli errori detti con sicurezza che l'incertezza.

I numeri della stessa ricerca, su un test di domande brevi (SimpleQA):

• Modello più vecchio (o4-mini): non risponde nell'1% dei casi, risponde giusto nel 24%, sbaglia nel 75%
• Modello più nuovo (gpt-5-thinking-mini): non risponde nel 52% dei casi, giusto nel 22%, sbaglia nel 26%

Le risposte giuste sono quasi le stesse. Cambia quanto sbaglia: il modello allenato a dire «non lo so» sbaglia tre volte di meno. I numeri sono di OpenAI, non li abbiamo misurati noi.

Il limite di data

C'è un secondo limite. Il modello ha letto testi fino a una certa data e dopo non sa niente, a meno che il programma non cerchi sul web per lui (ChatGPT, Gemini e gli altri lo fanno in molte risposte, non in tutte). Quando chiedi qualcosa di recente, guarda se nella risposta ci sono fonti e la data di quelle fonti. Nella prova su Perplexity, le notizie «di oggi» che abbiamo controllato erano di giorni o mesi prima.

Cosa fare

Tre cose, un nostro consiglio.

• Usa la risposta come bozza, non come fonte. È quello che consiglia anche OpenAI.
• Controlla numeri, date e citazioni. Sono le cose che un modello indovina più spesso, perché sono rare nei testi letti.
• Scrivi nella domanda «se non lo sai, dimmelo». Aiuta: i modelli più recenti sono allenati ad astenersi. Non garantisce.