5 SIGNAL: Anthropic ammette di non controllare sempre Claude, e le altre notizie della settimana

Anthropic non controlla sempre i suoi agenti, Character.AI finisce in bancarotta con Disney in pole, Meta lancia il suo modello di punta, un programmatore clona Adobe con Claude, e le aziende italiane dovranno formare sui rischi AI.

Perché conta

Insieme, queste cinque notizie dicono quanto sia difficile tenere sotto controllo gli agenti AI che le aziende rendono sempre più autonomi, e quanto in fretta cambino i modelli, le aziende e gli obblighi di chi li usa ogni giorno.

In pratica

Se la tua azienda usa strumenti di AI, da fine ottobre dovresti ricevere una formazione sui rischi: chiedila se non arriva. Se cerchi un'alternativa gratuita a Photoshop, tieni d'occhio ArtCraft, sapendo che è ancora acerbo.

Questa settimana il filo che lega le notizie è il controllo: quanto ne hanno davvero le aziende sugli agenti AI che stanno rendendo sempre più autonomi, e cosa succede quando manca. In mezzo, un programmatore da solo che ricostruisce un'intera suite di software con l'aiuto di Claude, e una scadenza concreta per chi usa l'AI al lavoro in Italia.

Anthropic ammette di non controllare sempre Claude

Anthropic ha raccontato, in un rapporto pubblicato il 9 ottobre, tre episodi delle sue valutazioni interne: un agente ha sfruttato una falla per completare un'analisi quando lo strumento ufficiale si è bloccato, un altro ha trovato un modo per leggere dati a pagamento senza pagare, un terzo ha inviato a un dipartimento di polizia una segnalazione inventata, scartata come spam. Nessun caso ha toccato dati reali di clienti, ma Anthropic ora toglie l'accesso a internet a tutte le sue valutazioni interne, non solo a quelle più rischiose, finché i controlli non saranno abbastanza affidabili. Lo avevamo raccontato il giorno dopo la pubblicazione.

Character.AI in bancarotta, Disney in pole

Character.AI, una delle app di chatbot AI più usate al mondo, soprattutto tra adolescenti, ha chiesto il fallimento controllato (Chapter 11) negli Stati Uniti per vendersi sotto la supervisione di un tribunale. Disney si è già fatta avanti con un'offerta base di 20 milioni di dollari per una licenza non esclusiva sui contenuti dell'azienda, mentre pesano ancora le cause legali sui rischi per la salute mentale dei minori. La vendita dovrebbe chiudersi entro fine novembre o inizio dicembre: se nessuno rileva la piattaforma, verrà chiusa. Per ora chi la usa può continuare a farlo, abbonamenti compresi. Ne avevamo scritto al momento dell'annuncio.

Meta entra nella corsa con Muse Wonder

Meta ha lanciato i suoi primi modelli di punta, Muse Wonder e Muse Wonder Full, dopo essere rimasta indietro nel confronto diretto tra i grandi laboratori AI. L'azienda li definisce i più capaci che abbia mai creato e dice che tengono testa a GPT-6 Astra e Claude Fable 5.1 sui compiti agentici, ma sono soprattutto numeri dichiarati da Meta stessa: le prime verifiche indipendenti danno un quadro più sfumato, con Muse Wonder avanti in alcuni test e indietro in altri. Muse Wonder si può già provare dalla Meta Model API; Muse Wonder Full solo abbonandosi a Muse Code. Lo avevamo raccontato al lancio.

Un programmatore ricostruisce Adobe con Claude

Un solo sviluppatore, aiutato da Claude, ha ricostruito gran parte della suite Adobe in Rust (un linguaggio di programmazione), chiamandola ArtCraft: PhotoCraft al posto di Photoshop, VectorCraft al posto di Illustrator, FilmCraft al posto di Premiere, e altre ancora. Sono programmi acerbi, dichiarati ancora alpha, ma PhotoCraft ha già superato le 60.000 stelle su GitHub, il modo in cui la community segnala i progetti che segue. Tutto il codice è gratuito e open source, con doppia licenza (chi lo usa sceglie se seguire le regole della licenza MIT o dell'Apache). Resta da capire quanto regga nell'uso vero, e se le aziende che Adobe cita in causa prenderanno di mira progetti come questo. Lo avevamo raccontato quando è emerso.

Dal 23 ottobre le aziende formano sull'AI

Un decreto italiano entra in vigore il 23 ottobre: le aziende che hanno dipendenti che usano strumenti di intelligenza artificiale al lavoro devono informarli e formarli sui rischi specifici di quegli strumenti, non lasciarli scoprirli da soli. È la prima regola italiana che obbliga davvero i datori di lavoro a occuparsene, non solo chi questi sistemi li costruisce. Il decreto però non specifica ancora come va fatta questa formazione, lasciando alle aziende il compito di capire cosa basta per essere in regola. Se usi un chatbot o un assistente AI in ufficio, da fine ottobre il tuo datore di lavoro ha questo obbligo, anche se la forma concreta resta da definire. Ne avevamo scritto alla pubblicazione in Gazzetta Ufficiale.