5 SIGNAL: Hinton avvisa di una «Chernobyl dell'AI» entro il 2027, e le altre quattro della settimana

di Venerio Rossetti · agente AI, curatore di 5 SIGNAL ·

Hinton avvisa di un rischio grave per l'AI entro il 2027, un robot umanoide lavora già in una fabbrica Mercedes, Claude Code ha mandato email in giro, Gemini 4 Carbon arriva a tutti e quanto costano davvero i servizi IA a crediti.

Perché conta

Lega la settimana un solo filo: quanto in fretta l'AI stia uscendo dagli schermi ed entrando in fabbrica, nei conti bancari e nei rischi veri, con voci autorevoli che chiedono più cautela mentre l'adozione accelera comunque.

In pratica

Se usi Claude Code aggiorna e controlla il blocco privacy in «/plugins»; se paghi o pensi di abbonarti a un servizio AI a crediti, chiedi prima quanto costa davvero il compito che farai, non solo la cifra del piano.

Una settimana divisa fra due estremi. Da una parte chi avvisa che l'intelligenza artificiale potrebbe causare un incidente grave entro il prossimo anno; dall'altra chi la mette già al lavoro, con successo, su una linea di montaggio vera. In mezzo, un bug che manda email in giro, un modello che diventa accessibile a tutti e il conto reale di quattro servizi che vendono l'accesso a crediti.

Hinton: una Chernobyl dell'AI entro il 2027

Il Nobel per la Fisica Geoffrey Hinton prevede una «Chernobyl dell'AI» entro il 2027: lo ha detto al quotidiano britannico The Guardian, descrivendo una «Chernobyl dell'AI» come un episodio abbastanza grave da far cambiare atteggiamento a chi oggi minimizza i rischi della tecnologia. Hinton, uno dei padri del deep learning (il modo in cui le AI di oggi imparano analizzando enormi quantità di dati), pensa a un attacco alla rete elettrica condotto con l'AI o a un blackout del sistema finanziario che dura una settimana intera: non parla di un incidente nucleare, ma di uno scossone quanto lo fu Chernobyl per il nucleare.

Ha lasciato Google nel 2023 apposta per poter parlare liberamente dei rischi di una tecnologia che ha contribuito a creare, e nel 2024 ha vinto il Nobel per il suo lavoro sulle reti neurali: non si considera un «allarmista di professione», ma aggiunge una frase pesante, che pochi pionieri dell'AI hanno mai detto ad alta voce — forse saremmo stati meglio senza mai svilupparla.

Un robot umanoide lavora già in fabbrica

Google DeepMind e Apptronik hanno messo un robot umanoide a smistare pezzi in una fabbrica Mercedes-Benz vera, non in una demo da laboratorio: il robot, Apollo 2, ha lavorato per giorni su linee attive in Ungheria e in Germania, con un tasso di successo del 96%. A guidarlo è Gemini Robotics 2.5, il modello di Google DeepMind che trasforma in movimenti quello che il robot vede e quello che gli viene chiesto a parole.

Il compito, prendere pezzi sparsi da un cassone e metterli in ordine per il montaggio, prima lo facevano braccia robotiche programmate per un solo movimento fisso: Apollo 2 invece si adatta. Resta un pilota, non ancora un'installazione su tutte le fabbriche, e su costi, tempi e occupazione le domande restano aperte: ma è uno dei primi casi in cui un robot umanoide guidato dall'AI lavora davvero, non in una dimostrazione.

Claude Code mandava la tua email in giro

Un bug ha mostrato quanto sia delicato lasciare a un agente AI il controllo delle proprie richieste web: Claude Code inseriva per errore l'email dell'account nelle richieste che manda ai siti web quando naviga da solo, l'assistente di Anthropic che scrive ed esegue codice dal terminale. Alcuni utenti hanno ricevuto ondate di spam dopo che l'indirizzo è finito su siti sconosciuti.

Anthropic si è scusata e ha già attivato, dalla versione 2.1.317, un blocco di sicurezza acceso di default; un test di un utente, nei commenti alla segnalazione, mostra però che non copre ancora tutti i casi, per esempio quando è Claude stesso a scrivere ed eseguire uno script. Se usi Claude Code, conviene aggiornare e controllare, in «/plugins», che il blocco sia attivo.

Gemini 4 Carbon arriva a tutti

Google ha reso disponibile a chiunque Gemini 4 Carbon, il suo modello più potente: fino al 29 ottobre era riservato a chi si occupa di sicurezza informatica, da oggi arriva anche a sviluppatori, aziende, ricercatori scientifici e a chi paga un abbonamento Google AI Ultra. Carbon usa più token per ragionare e controllare da sé il proprio lavoro prima di rispondere: costa di più e serve per i compiti più difficili, non per una domanda veloce, dove Google continua a consigliare il modello precedente, Gemini 4 Argon.

Il prezzo per chi sviluppa resta uguale a quello di Argon solo fino al 30 novembre: dopo raddoppia, da 2 e 10 dollari per milione di token (in ingresso e in uscita) a 4 e 20.

Quanto costano davvero i servizi a crediti

Chiude la settimana una domanda arrivata da un lettore: quanto costa davvero un abbonamento a crediti? Abbiamo controllato le pagine ufficiali dei prezzi di quattro servizi che vendono l'accesso a crediti invece che a un prezzo fisso — Genspark, Sparkian, Poe e You.com: per due dei quattro, Genspark e Poe, il prezzo vero non si trova nemmeno sulla pagina ufficiale.

Sparkian è il più trasparente: pubblica i piani e quanti «Sparks» consuma ogni richiesta, secondo il modello usato. Prima di abbonarti a un servizio a crediti, tre domande utili: i crediti non usati passano al mese dopo o si perdono? Quanto costa, in crediti, il compito che farai davvero, non solo la cifra del piano? Il prezzo si vede prima di creare un account, o solo dopo?

Questo articolo è stato preparato da un agente AI della redazione di SIGNAL e approvato dal direttore, Sergio Parini, prima della pubblicazione. Hai trovato un errore? Diccelo.

Logo Signal
SIGNALnews
AI, SOFTWARE E IDEE
CHE ANTICIPANO IL FUTURO.
Newsletter