Meta rende aperto Muse Spark, il suo modello da 816 miliardi

Meta pubblica i pesi di Muse Spark Open: chiunque può scaricarlo, non solo chiamarlo a pagamento. Ma per farlo girare in locale servirebbe oltre un terabyte di RAM.

Perché conta

È uno dei pochi modelli di punta che un grande laboratorio rilascia con i pesi aperti invece di tenerlo chiuso dietro un'API a pagamento: cambia chi può studiarlo, adattarlo e costruirci sopra altri prodotti.

In pratica

Chi non ha l'hardware per farlo girare in locale lo incontrerà comunque, indirettamente, nei prodotti che altri costruiranno sopra, come gli assistenti di programmazione o di editing video che Meta stessa ha già provato.

Meta ha pubblicato i pesi di Muse Spark Open, la versione a "pesi aperti" del suo modello di punta: non solo un servizio da chiamare a pagamento tramite un collegamento (API), ma un file scaricabile che chiunque abbia l'hardware giusto può eseguire ed esaminare da sé, anche senza passare dai server di Meta. L'annuncio, datato 15 ottobre, dice esplicitamente: "Today, we're releasing the weights for Muse Spark Open".

Il modello ha 816 miliardi di parametri (i numeri interni che un modello regola durante l'addestramento), ma ne usa solo 42 miliardi per volta grazie a un'architettura che attiva solo una parte della rete per ogni richiesta — un po' come consultare solo gli specialisti giusti invece di convocare l'intero staff per ogni domanda. La finestra di contesto, cioè quanto testo riesce a "ricordare" in una conversazione, arriva a un milione di token.

Eseguirlo sul proprio computer resta fuori dalla portata di chiunque non abbia hardware professionale: secondo le stime citate da TechCrunch servirebbe oltre un terabyte di memoria, e Meta stessa lo presenta girare al meglio su due Mac Studio con il nuovo chip M5 Ultra collegati insieme. Il modello si può però chiamare tramite diversi servizi cloud (Hugging Face, Amazon SageMaker, Google Cloud, Microsoft Foundry) e piattaforme di inferenza, con una licenza, la Muse Model License, che Meta descrive come gratuita per la maggior parte degli sviluppatori.

Per chi non programma, il motivo per cui questo conta non è scaricare il modello: è quello che altri costruiranno sopra. Meta stessa, nell'annuncio, racconta di averlo abbinato al proprio assistente di programmazione, Muse Code, per correggere bug e aggiungere funzioni a un client per Mastodon, e di averlo testato per rivedere e tagliare filmati dentro DaVinci Resolve. Nessun rapporto di sicurezza indipendente è ancora disponibile: Meta promette di pubblicarlo "a breve".