Anthropic: vicini al punto in cui l'AI accelera sé stessa

Nel documento depositato alla SEC per la quotazione in Borsa, Anthropic scrive che i modelli futuri potrebbero presto toccare la soglia del «progresso drammaticamente accelerato» e ammette di non riuscire sempre a vederlo mentre accade.

Perché conta

È la prima volta che un grande laboratorio di AI scrive, in un documento legale e non in un post promozionale, di essere vicino alla soglia dell'auto-miglioramento ricorsivo: il rischio che più divide chi studia la sicurezza dell'intelligenza artificiale.

In pratica

Per ora riguarda gli investitori dell'IPO più che chi usa Claude ogni giorno, ma segna quanto in fretta Anthropic stessa dice di muoversi: un segnale da seguire nelle prossime settimane, insieme alle eventuali modifiche alla Responsible Scaling Policy.

Anthropic, l'azienda di Claude, ha depositato lunedì negli Stati Uniti (la notizia è circolata ieri sera, ora italiana) un'integrazione al documento con cui si prepara a quotarsi in Borsa. Tra i rischi per chi comprerà le sue azioni, scrive che l'uso sempre maggiore dell'AI per accelerare la propria ricerca potrebbe far crescere le capacità dei modelli più in fretta di quanto l'azienda riesca a costruire le misure di sicurezza che servono a controllarli. E aggiunge: le sue stime interne sui modelli futuri, non su quelli di oggi, indicano che potrebbe presto arrivare alla soglia che la sua Responsible Scaling Policy (le regole interne con cui Anthropic decide quanto limitare un modello in base al rischio che comporta) chiama «progresso drammaticamente accelerato attribuibile all'AI».

È la definizione interna di quello che fuori da Anthropic si chiama RSI, dall'inglese recursive self-improvement, auto-miglioramento ricorsivo: il momento in cui un'AI diventa così brava ad aiutare a costruire la versione dopo di sé da far accelerare bruscamente tutto lo sviluppo dell'intelligenza artificiale. Per chi teme i rischi dell'AI è lo scenario più pericoloso, perché difficile da fermare una volta partito; per chi ci crede, la promessa di scoperte enormi in tempi brevissimi. Il motivo per cui conta scriverlo qui: un modulo per la SEC, l'autorità di Borsa statunitense, è un documento legale che l'azienda firma sapendo di risponderne se contiene affermazioni false, non un post sul blog.

"we may imminently meet our Responsible Scaling Policy's definition of dramatically accelerated progress attributable to AI" — Anthropic, modulo S-1/A depositato alla SEC, 2 novembre 2026

Anthropic non ha classificato nessun modello attuale come sopra quella soglia, e nel documento ammette un limite non da poco: in passato non si è sempre accorta di un'accelerazione mentre accadeva, e potrebbe succedere di nuovo, perché buona parte delle prove su cui si basa arriva con ritardo. Scrive anche di non prevedere, almeno per ora, di poter usare Claude per progettare da solo le prossime generazioni di modelli senza una supervisione umana vera, e che sta valutando se aggiornare la sua Responsible Scaling Policy per mantenere il controllo umano sullo sviluppo. Come esempio di cautela già applicata cita i limiti messi a Claude Mythos, il modello usato nel programma Project Glasswing per scovare falle di sicurezza. Non ci sono numeri né test citati a sostegno della vicinanza alla soglia: resta da vedere cosa risponderà Anthropic quando gli investitori, nelle prossime settimane, le faranno le stesse domande.