Llama Windows

Scarica e fa parlare modelli AI direttamente sul tuo PC Windows, dalla barra delle applicazioni.

Un'app gratuita e open source che fa girare modelli di intelligenza artificiale in locale su Windows 11, senza passare dal cloud.

Cos’è

Llama Windows vive nella system tray di Windows 11 e permette di scaricare modelli AI da Hugging Face Hub e chattare con loro richiamando una finestra con Alt+Spazio, da qualsiasi programma. Non è un prodotto Microsoft (usa solo il framework WinUI 3 per l'interfaccia) né un prodotto Meta, anche se il nome richiama la famiglia di modelli Llama: gira su llama.cpp, il motore open source che fa funzionare in locale molti modelli diversi, non solo quelli di Meta. Tutto il calcolo avviene sul computer di chi la usa: i prompt e le risposte non vengono inviati a un server esterno.

Come funziona

L'app gestisce un processo 'llama serve' che carica il modello scelto e risponde tramite una piccola API REST locale; l'overlay di chat si apre con Alt+Spazio e si chiude con Esc. I modelli scaricati restano nella cache standard di Hugging Face, condivisa con altri programmi che usano llama.cpp.

Per chi è

Chi usa Windows 11 e vuole un assistente AI sempre a portata di scorciatoia, senza inviare le proprie domande a un server esterno.

Cosa ci si può fare

• Fare domande rapide senza aprire il browser
• Scrivere o correggere un testo restando offline
• Provare modelli open source diversi scaricandoli da Hugging Face

Punti di forza

• Gratis e open source (licenza MIT)
• Tutto il calcolo resta sul computer, niente dati inviati a un server esterno
• Sviluppato dal gruppo che mantiene llama.cpp, un progetto noto e affidabile

Limiti

• Progetto giovane, nessuna garanzia di stabilità assoluta
• Le risposte dipendono dal modello scelto e dalla potenza del PC, non dall'app