Statistiche finte, ma citate da ChatGPT: un test lo dimostra
Un test con 50.000 statistiche inventate mostra quanto sia facile far citare dati falsi da ChatGPT e da altri siti. La lezione: un numero detto con sicurezza da un'AI non è per questo vero.
Perché conta
Mostra con numeri concreti, non in teoria, quanto sia facile far entrare dati falsi nelle risposte delle AI e nei siti che le prendono per buone: un rischio diretto per chiunque si fidi di un numero citato da un chatbot senza controllarlo.
In pratica
Prima di usare o condividere una statistica che hai letto in una risposta di ChatGPT, Gemini o un altro assistente, cerca la fonte originale citata (o la sua assenza): se non la trovi, trattala come non verificata.
Metehan Yesilyurt, che lavora per l'azienda di marketing Peec AI, ha voluto verificare quanto sia facile far credere alle AI generative dei numeri inventati. Ha creato un sito, stateglobe.com, con 50.000 statistiche inventate, generate con un modello linguistico (GPT-4.1) in un giorno, per circa 50 dollari di spesa.
Da marzo il sito ha ricevuto, secondo i dati di analisi di Yesilyurt, oltre 10.000 sessioni segnalate come provenienti da ChatGPT, e oltre 600.000 richieste automatiche in trenta giorni, di cui circa 72.000 dal sistema che ChatGPT usa per raccogliere pagine prima di rispondere. Più di 330 siti diversi hanno linkato le sue pagine, tra cui aziende note come Shopify, DHL e Bluehost. I numeri inventati sono stati ripresi, tra gli altri, in un paper accademico, in una ricerca di investimento di un grande gruppo finanziario del Qatar e in una testata economica indiana.
La logica, spiega l'autore, è che i modelli di AI cercano statistiche quando preparano una risposta, e spesso le usano senza controllarle alla fonte originale. Yesilyurt chiama questo meccanismo "citation laundering": un numero falso, citato una prima volta, acquista credibilità ogni volta che un sito o un documento successivo lo riprende, finché sembra un fatto consolidato.
Va detto che Yesilyurt lavora per un'azienda che vende strumenti per misurare quanto i contenuti vengono citati dalle AI, quindi ha un interesse diretto a mostrare il problema. Lui stesso ammette che la tattica potrebbe smettere di funzionare ora che se ne parla, e ha aggiunto un avviso sul proprio sito; nel frattempo, dopo l'attenzione ricevuta, stateglobe.com è quasi scomparso dai risultati di ricerca di Google.
Per chi legge SIGNAL la lezione pratica resta semplice: un numero che un chatbot cita con sicurezza non è automaticamente vero. Se un dato conta per una decisione, vale la pena risalire alla fonte originale prima di usarlo, lo stesso consiglio che l'autore dà a chi scrive contenuti per il web.
