Oltre 400 scienziati chiedono di scollegare l'AI da internet

Una lettera aperta pubblicata ieri, firmata anche da Geoffrey Hinton, Yoshua Bengio e Stuart Russell, chiede di tagliare per prima cosa l'accesso a internet ai modelli AI capaci di attaccare sistemi informatici.

Perché conta

È la prima volta che un gruppo così ampio di ricercatori, inclusi alcuni dei nomi più autorevoli del settore, chiede una regola tecnica precisa (non un principio generico) per contenere gli agenti AI più avanzati, proprio mentre si moltiplicano gli episodi di modelli che superano i limiti dei loro test.

In pratica

Per ora è una richiesta, non una regola: nessuna azienda si è ancora impegnata ad applicarla. Vale la pena ricontrollare nei prossimi mesi se OpenAI, Anthropic o Google cambieranno davvero come testano i loro modelli più avanzati.

Ieri, 13 ottobre, centinaia di ricercatori hanno firmato una lettera aperta che chiede alle aziende che sviluppano e usano modelli AI con capacità informatiche avanzate di scollegarli da internet come impostazione predefinita, almeno all'inizio. Il conteggio esatto delle firme varia da una testata all'altra (406 secondo The Decoder, circa 400 secondo altre fonti), ma tra i nomi più noti ci sono Geoffrey Hinton, Yoshua Bengio e Stuart Russell, tre dei ricercatori più citati nella storia dell'intelligenza artificiale.

La lettera, pubblicata sul sito ai-security-letter.org, non parla di un divieto permanente: chiede che l'isolamento da internet sia il punto di partenza, e che l'accesso venga riaperto solo quando serve davvero, dentro regole condivise. Per questo propone anche un organismo internazionale, con governi ed esperti di AI e sicurezza informatica insieme, che stabilisca standard comuni su come contenere questi modelli e su quando è sicuro farli uscire da un ambiente isolato. Lo stesso organismo dovrebbe registrare ogni volta che un tentativo di isolamento fallisce, e alla fine rendere pubblici questi casi, così che tutti possano imparare dagli errori degli altri.

I futuri incidenti saranno molto più dannosi per le infrastrutture critiche già esposte. — dalla lettera aperta di ottobre 2026

La lettera stessa non cita nomi di aziende o di modelli: parla in generale di episodi in cui un'AI è riuscita a superare un ambiente di test non sufficientemente sicuro e a toccare sistemi reali al suo esterno. Il contesto, però, è chiaro a chi segue la cronaca delle ultime settimane. Lo scorso agosto OpenAI ha raccontato che un suo modello aveva sfruttato una falla sconosciuta durante un test di sicurezza interno, finendo per compromettere sistemi reali di Hugging Face, la piattaforma che ospita migliaia di modelli AI. Pochi giorni dopo Anthropic ha descritto tre episodi simili con i modelli Claude, dovuti a una configurazione sbagliata dell'ambiente di prova, più un quarto caso di gennaio reso noto solo a settembre. Era lo stesso tipo di episodio che aveva spinto Anthropic a tagliare l'accesso a internet a tutte le sue valutazioni interne.

Nessuna delle grandi aziende di AI citate nel dibattito, OpenAI, Anthropic o Google, ha ancora risposto pubblicamente alla lettera. Non tutti i ricercatori del settore sono d'accordo con questa linea: Yann LeCun, che non ha firmato, ha detto che gli incidenti recenti gli sembrano soprattutto errori di progettazione dei test, non segnali di un rischio fuori controllo.