METR entra in Anthropic con accesso da dipendente
Sei persone di METR, un'organizzazione indipendente che valuta i rischi dell'AI, hanno ricevuto hardware, un ufficio e l'accesso ai sistemi interni di Anthropic: possono pubblicare quello che trovano, e Anthropic non può bloccarli.
Perché conta
Avere persone di un'organizzazione indipendente dentro l'azienda, con accesso quotidiano e il diritto di pubblicare senza che l'azienda possa bloccarle, è diverso da un controllo fatto da fuori: è il tipo di sorveglianza che chi segue i rischi dell'AI chiede da tempo.
In pratica
Non cambia nulla per chi usa Claude oggi, ma vale la pena seguire: le prime analisi di METR scritte con questo accesso diranno se il meccanismo funziona davvero o resta solo un annuncio.
Anthropic ha dato a sei persone di METR, un'organizzazione no profit che valuta i rischi dei modelli di intelligenza artificiale, un accesso «come un dipendente»: computer aziendale, una postazione in ufficio e l'uso degli stessi strumenti interni dei team che ad Anthropic si occupano di valutare i rischi. L'ha annunciato Anthropic stessa il 15 ottobre, con un aggiornamento aggiunto il giorno dopo sui dettagli dell'accordo con METR.
Il punto più insolito è cosa può fare METR con quello che scopre: pubblicarlo. Anthropic non ha potere di veto sulle analisi che METR scrive sui suoi livelli di rischio, sugli incidenti o sulle sue pratiche interne. Può chiedere di togliere informazioni, ma solo dentro categorie decise in anticipo: i dati dei clienti, i segreti legali e i dettagli sull'architettura dei modelli (quelli, dice Anthropic, rischiano di uscire per sbaglio e raramente servono a capire i rischi). Per il resto, al personale Anthropic viene chiesto di parlare con le persone di METR come parlerebbe con un collega che lavora sulla sicurezza.
Questo accordo con METR è il più alto di tre livelli di accesso che Anthropic ha descritto per i valutatori esterni. Al primo livello, con controlli più ristretti, ci sono valutazioni su un compito preciso e la pubblicazione deve avere l'ok di Anthropic: è il caso di SecureBio, che sta rileggendo il capitolo sui rischi chimici e biologici dell'ultimo rapporto interno di Anthropic. Al terzo livello, quello di METR, il valutatore pubblica da solo. Anthropic dice di avere conversazioni preliminari anche con Hugging Face per estendere questo tipo di accesso.
Finora chi controllava i rischi di un'AI lo faceva quasi sempre da fuori, con quello che l'azienda decideva di mostrare. Un gruppo che lavora dentro, con accesso quotidiano e la possibilità di scrivere quello che vede senza che l'azienda lo filtri, è un passo diverso: più vicino a un revisore dei conti che a un giornalista che chiede un'intervista. L'idea nasce da un saggio di settembre del capo di Anthropic, Dario Amodei, sul fatto che lo sviluppo dei modelli più avanzati andrebbe accompagnato da controlli di questo tipo; Anthropic ha anche firmato un accordo alla Casa Bianca sulla superintelligenza che impegna le aziende a collaborare con revisori esterni indipendenti.
METR non ha ancora pubblicato nessuna analisi con questo nuovo accesso, quindi non c'è ancora un caso concreto da leggere. Non è nemmeno chiaro chi deciderà, in caso di disaccordo, se un'informazione tolta da Anthropic rientrava davvero nelle categorie protette: la regola dice che è Anthropic a stabilirlo, e che METR può solo dire pubblicamente a che livello di accesso era arrivata.
