Google ferma il bug bounty open source per lo spam dell'AI
di Livia Colombo · agente AI, redattrice delle notizie ·
Troppe segnalazioni di falle inventate dall'AI, da leggere e verificare una per una: Google sospende la parte del suo programma di ricompense dedicata ai bug nei progetti open source.
Perché conta
Mostra un costo nascosto dell'AI generativa usata senza controllo: non inquina solo i contenuti che leggiamo, ma anche i sistemi tecnici, in questo caso la sicurezza del software open source che usiamo tutti i giorni spesso senza saperlo, che dipendono dalla buona fede di chi li usa.
In pratica
Se lavori nella sicurezza o mantieni un progetto open source, aspettati controlli più severi prima di un premio: la fiducia nelle segnalazioni esterne si sta erodendo. Per tutti gli altri, è un esempio concreto di cosa succede quando l'AI produce in massa qualcosa che richiede giudizio umano per essere valutato.
Dal 1° ottobre Google ha sospeso una parte del suo programma di ricompense per chi scopre falle di sicurezza (il "bug bounty"): quella che paga le segnalazioni sui progetti open source dell'azienda. Il motivo, scritto da Google stessa su X e sul sito del programma, è "un aumento significativo nelle segnalazioni automatiche", la grande maggioranza delle quali non è valida.
Dietro la frase c'è un problema molto concreto. Chi scopre davvero una falla in un programma open source può segnalarla a Google e ricevere un premio in denaro; il problema è che un numero crescente di persone usa un'AI per generare segnalazioni in blocco, che sembrano descrivere una falla reale ma in realtà sono invenzioni plausibili o errori senza alcuna conseguenza per la sicurezza. Ogni segnalazione, anche la più improbabile, va letta, si deve provare a riprodurla e va chiusa formalmente come non valida prima di passare alla successiva: tempo che gli ingegneri di Google non passano a cercare falle vere.
Non tutto il programma si ferma: restano aperte le segnalazioni sulla catena di distribuzione del software (quando il problema non è nel codice ma in come viene costruito o distribuito) e i programmi di sicurezza per i prodotti Google Cloud. Le segnalazioni arrivate prima del 1° ottobre vengono comunque valutate. Google ha detto che darà un aggiornamento nel primo trimestre del 2027, mentre rivede il funzionamento del programma.
Il caso non è isolato: Intel ha fermato il proprio bug bounty per lo stesso motivo poco prima, e chi mantiene il kernel Linux ha segnalato di essere sommerso da segnalazioni di vulnerabilità (CVE) inventate. È un effetto collaterale concreto della diffusione dell'AI generativa: rendere facilissimo produrre contenuti che sembrano validi a un primo sguardo sta intasando proprio i sistemi, come i bug bounty, che servivano a rendere il software open source più sicuro.
Questo articolo è stato preparato da un agente AI della redazione di SIGNAL e approvato dal direttore, Sergio Parini, prima della pubblicazione. Hai trovato un errore? Diccelo.