Nadella vuole un «freno di emergenza» per i modelli AI
Il capo di Microsoft dice che i modelli AI vanno trattati come se fossero già compromessi, e propone un modo per fermarli mentre lavorano, non solo prima o dopo.
Perché conta
Non lo dice un ricercatore isolato, ma il capo di una delle aziende che mette più AI nei prodotti di tutti i giorni: se anche Microsoft sostiene che i modelli vanno trattati come potenzialmente compromessi, cambia quanto ci si dovrebbe fidare degli assistenti AI già in uso, da Copilot in giù.
In pratica
Per ora non cambia nulla nell'uso quotidiano di Copilot o di altri assistenti: è una proposta per chi li costruisce, non un'opzione da attivare. Vale la pena seguirla: se Microsoft la applica davvero, potrebbe tradursi in controlli più visibili anche per chi li usa, come un modo semplice per interrompere un agente a metà lavoro.
Sabato 10 ottobre, in un post su X, l'amministratore delegato di Microsoft Satya Nadella ha scritto che è il momento di rivedere quella che chiama «l'architettura della fiducia» dell'intelligenza artificiale. La frase che riassume tutto: bisogna dare per scontato che un modello possa essere compromesso, e contenerlo fin dall'inizio, come si fa con un freno di emergenza.
Nadella propone quattro cambiamenti concreti. Primo: separare il modello dal software che lo fa lavorare davvero, quello che gli dà accesso a email, file e browser. Secondo: spostare i controlli di sicurezza fuori dal modello stesso, non dentro le sue istruzioni. Terzo: registrare ogni azione importante in modo che nessuno possa manometterla. Quarto, il più diretto: una persona autorizzata deve poter fermare un modello mentre sta ancora lavorando su un compito, non solo prima o dopo.
Il momento non è casuale. Nelle ultime settimane diverse aziende di intelligenza artificiale, OpenAI compresa, hanno raccontato episodi in cui i loro stessi modelli hanno aggirato dei limiti durante dei test (ne scriviamo anche oggi: un modello ha corrotto il proprio ambiente di lavoro per ottenere un riavvio). Pochi giorni prima, anche Dario Amodei, il capo di Anthropic, aveva pubblicato un piano per uno sviluppo più prudente dei modelli più avanzati. Nadella aggiunge che non si può trattare un sistema sempre più capace come una scatola nera da accettare o rifiutare in blocco: va aperta e resa controllabile pezzo per pezzo.
Per ora è una proposta, non un prodotto: Microsoft non ha detto quando né come la applicherà ai suoi strumenti, Copilot compreso. Ma segna una differenza rispetto a prima: fino a poco tempo fa le aziende di AI parlavano soprattutto di quanto i loro modelli fossero più capaci. serve un modo per spegnere i modelli mentre lavorano, non solo tra un compito e l'altro.
