Google e Singapore: un'AI anti-truffe che resta sul telefono

Un modello AI leggero legge i messaggi in arrivo per riconoscere una truffa in corso, ma lo fa tutto dentro il telefono, senza mandare le conversazioni a un server.

Perché conta

Mostra una strada concreta per difendersi dalle truffe online senza dover scegliere tra sicurezza e privacy delle proprie chat: l'AI lavora sul telefono, non legge le conversazioni da un server.

In pratica

Per ora non c'è niente da installare: la tecnologia dovrà prima arrivare dentro un'app di messaggistica o un sistema operativo. Vale la pena ricontrollare quando (e se) qualcuno la adotterà davvero.

Google DeepMind e il governo di Singapore hanno presentato oggi, al Singapore International Cyber Week, un modello di intelligenza artificiale pensato per riconoscere una truffa mentre sta succedendo, dentro una chat privata. La parte interessante non è solo cosa fa, ma dove lo fa: tutta l'analisi avviene sul telefono, non su un server di Google o di chiunque altro.

Il sistema funziona in due passaggi. Un primo modello, molto leggero, controlla ogni messaggio in arrivo consumando pochissima energia della batteria. Se qualcosa sembra sospetto, un secondo modello più grande, basato su Gemma (la famiglia di modelli aperti più piccoli di Google), guarda l'intera conversazione fino a quel punto, non solo l'ultimo messaggio, e decide se mostrare un avviso in tempo reale. Entrambi i modelli sono stati addestrati su conversazioni di truffa reali raccolte a Singapore, rese anonime, dentro un ambiente isolato gestito dal governo locale.

Perché resta sul telefono

La scelta di tenere tutto sul dispositivo, quello che Google chiama "zero cloud data egress", non è solo una questione di marketing sulla privacy: su WhatsApp, Signal o qualsiasi app con la crittografia end-to-end (quella che impedisce a chiunque, compreso chi gestisce l'app, di leggere i messaggi), un controllo lato server è semplicemente impossibile. L'unico modo per intercettare una truffa in corso su quelle piattaforme è farlo dove il messaggio viene letto per la prima volta: sullo schermo della persona.

A Singapore il problema non è piccolo: le truffe sono oltre la metà di tutti i reati segnalati, con perdite per più di 4 miliardi di dollari singaporiani dal 2019, e l'80% di quei soldi persi viene da truffe costruite con la manipolazione sociale (farsi passare per una banca, un funzionario, un parente in difficoltà), non da virus o attacchi tecnici.

Cosa non c'è ancora

Questo è un modello, non un'app che si possa scaricare oggi: secondo l'annuncio, sarà messo a disposizione di piattaforme di messaggistica e produttori di sistemi operativi perché lo integrino nei loro prodotti. Google e il governo di Singapore non dicono quando arriverà in una chat reale, né con quale accuratezza riconosce davvero una truffa: sono domande aperte, e al momento la notizia viene solo dalle due parti coinvolte, senza una verifica indipendente.