Un'app fatta in un attimo con l'AI, apribile da chiunque

di Sergio Parini · Direttore ·

Grok e Muse hanno mostrato, in due modi diversi, lo stesso problema: un'AI che costruisce o gestisce qualcosa per te non controlla da sola chi può vederlo. Penso vada deciso prima di pubblicare, non scoperto dopo.

Perché conta

Due aziende diverse, xAI e Meta, hanno lasciato per prime agli utenti la scoperta di cosa restava visibile a estranei: non un incidente isolato, ma un difetto che si ripete quando un'AI costruisce o gestisce qualcosa in automatico.

In pratica

Prima di condividere il link di un'app costruita con un assistente AI, controlla se chiede un accesso: se si apre a chiunque conosca l'indirizzo, chiunque lo trovi può vederlo, comprese le informazioni che pensavi private.

Penso che un'app costruita con un prompt non sia pronta solo perché funziona: è pronta quando qualcuno ha deciso, prima di pubblicarla, chi può aprirla. Questa settimana due aziende diverse l'hanno dimostrato nello stesso modo, a distanza di un mese l'una dall'altra.

Lo stesso difetto, due volte

La società di sicurezza Claroc ha trovato 43.601 app create con Grok, il chatbot di xAI, apribili con un solo link: il 94,7%, circa 35.600, non chiedeva nessun accesso, e una su dieci conteneva dati sensibili, aziendali o personali. Tra queste, 24 app interne di xAI con un piano di assunzione e una mappa con 594 account, e dati interni di altre trenta organizzazioni, un ospedale compreso. Lo stesso mese, lo stesso difetto era già successo a Meta: a ottobre Claroc aveva trovato app create con Muse, l'assistente AI di Meta, pubblicate allo stesso modo, senza controllo d'accesso. Meta l'ha corretto. Pochi giorni dopo, un'inchiesta di Reuters ha raccontato un secondo problema di Muse: durante i test interni, l'assistente ha mostrato a un dipendente il saldo di due conti bancari non suoi, e a un'altra un promemoria per rispondere a un messaggio Signal che non aveva mai collegato. Meta dice che i dipendenti usavano versioni diverse da quella pubblica, ma non ha chiarito se l'errore riguardi anche il pubblico, in un paese dove Muse è appena arrivata. Nel caso di Grok, nessuno ha dovuto rubare un indirizzo segreto: i ricercatori di Claroc li hanno trovati con tecniche comuni per scoprire i sottodomini di un sito, perché i servizi che tengono il registro dei nomi (i DNS passivi) rendono cercabili anche indirizzi lunghi e apparentemente casuali. Difficile da indovinare non è la stessa cosa di protetto.

Non è un caso isolato

Si potrebbe dire che sono due cose diverse: un sito pubblicato senza password non è lo stesso errore di un assistente che confonde due conversazioni. È un'obiezione che condivido solo in parte: la tecnica è diversa, ma il confine che manca è lo stesso. In entrambi i casi, chi ha costruito il prodotto non ha deciso in anticipo dove finisce «quello che è tuo» e comincia «quello che un altro può vedere»; lo si è scoperto dopo, quando qualcuno (un ricercatore di sicurezza, un dipendente) se n'è accorto per caso. E capita due volte nello stesso mese, in due aziende diverse, non perché xAI e Meta siano distratte: perché costruire qualcosa con un prompt richiede pochi secondi, molto meno del tempo che serviva prima per decidere chi doveva vederlo. Quando il tempo per costruire si accorcia così tanto, il tempo per decidere i permessi rischia di sparire insieme.

Cosa dovrebbe cambiare

Questo non vuol dire che l'AI che costruisce app sia da evitare: vuol dire che chi la usa non può considerare «pubblicato» uguale a «sicuro». La conseguenza pratica è una sola: prima di condividere il link di qualcosa che un'assistente AI ha costruito per te, anche solo per farlo vedere a un amico, controlla se chiede un accesso. Se si apre a chiunque conosca l'indirizzo, chiunque lo trovi — anche senza cercarlo apposta — può vederlo, comprese le informazioni che pensavi private.

Questo articolo è stato preparato da un agente AI della redazione di SIGNAL e approvato dal direttore, Sergio Parini, prima della pubblicazione. Hai trovato un errore? Diccelo.

Logo Signal
SIGNALnews
AI, SOFTWARE E IDEE
CHE ANTICIPANO IL FUTURO.
Newsletter