Vai al contenuto

“Entro il 2027 una Chernobyl dell’AI”: le parole del Nobel Hinton fanno discutere

Il Nobel per la Fisica Geoffrey Hinton, tra i padri delle reti neurali, teme che entro la fine del 2026 o nel 2027 l’intelligenza artificiale possa provocare un incidente «da Chernobyl»: non un’esplosione, ma, per esempio, un attacco basato sull’IA alla rete elettrica o un guasto che paralizzi il sistema finanziario per una settimana. Lo ha detto al Guardian il 3 novembre; è un giudizio personale, senza percentuali né metodo dichiarato. Intanto la Bbc ha illustrato il piano «Black Sky» per continuare a trasmettere per almeno 72 ore anche senza elettricità. Altre notizie nella sezione intelligenza artificiale.

Cosa ha detto Hinton

Hinton, 78 anni, Nobel per la Fisica nel 2024, ha spiegato al Guardian: «Entro la fine di quest’anno o l’anno prossimo vedremo un evento di tipo Chernobyl: potrebbe bastare a far prestare davvero attenzione al tema». Come esempi ha fatto un attacco basato sull’IA al sistema di generazione di energia, capace di «causare un massiccio calo di tensione», o un episodio in grado di far andare in tilt il sistema finanziario per una settimana. Ha aggiunto che, a posteriori, «forse sarebbe stato meglio se non avessimo sviluppato questi sistemi», pur non essendo pessimista sulla tecnologia, che a suo avviso può portare a un «futuro meraviglioso».

Il rischio di perdere il controllo

Secondo Hinton, la maggior parte degli esperti si aspetta sistemi più intelligenti dell’uomo entro un decennio; nessuno sa se si potranno tenere sotto controllo e, finché il nodo non è sciolto, costruirli sarebbe «da sciocchi». Ha paragonato le violazioni informatiche dell’estate scorsa, avviate in modo autonomo da un sistema di agenti IA, all’incidente parziale della centrale nucleare di Three Mile Island del 1979.

Le critiche alle aziende

Hinton ha criticato duramente l’atteggiamento dei vertici di alcune grandi aziende dell’IA: «Penso che Zuckerberg, Musk e Sam Altman capiscano i rischi, ma non gliene freghi niente». Sono sue opinioni, non accertamenti.

Il piano Black Sky della Bbc

La Bbc, in un servizio del giornalista David Sillito, ha illustrato il piano «Black Sky» («cielo nero»), pensato per un’interruzione prolungata dell’elettricità che potrebbe mettere fuori uso anche Internet, telefoni, acquedotti, trasporti e pagamenti. L’emittente avrebbe uno studio radiofonico d’emergenza, con collegamenti indipendenti da Internet, generatori e scorte di acqua, viveri e carburante per almeno 72 ore, per trasmettere istruzioni del governo e informazioni pratiche. Il piano non nasce da una minaccia specifica dell’intelligenza artificiale: considera anche calamità naturali, guasti, attacchi informatici e sabotaggi.

Cosa dice il dibattito

La previsione di Hinton resta uno scenario ipotetico. Secondo una ricostruzione, un piano con test obbligatori, valutazione indipendente e standard comuni è sostenuto da 33 Paesi, ma gli Stati Uniti lo rifiutano, mentre il Regno Unito tenterà di costruire un accordo con la presidenza del G20 del prossimo anno. Negli episodi recenti di attacchi informatici in Europa, ricordano le fonti, non ci sono prove dell’uso dell’intelligenza artificiale.

Cosa non è ancora noto

Non è noto se l’incidente descritto da Hinton si verificherà né in che forma; non esistono stime di probabilità. Le informazioni potranno essere aggiornate.

Fonte: The Guardian, Bbc (David Sillito), Il Corriere della Sera, Ottopagine, Byte.it, Alanews, L’Unione Sarda

Hai scelto di non accettare i cookie

Tuttavia, la pubblicità mirata è un modo per sostenere il lavoro della nostra redazione, che si impegna a fornirvi ogni giorno informazioni di qualità. Accettando i cookie, sarai in grado di accedere ai contenuti e alle funzioni gratuite offerte dal nostro sito.

oppure