Una "Chernobyl dell'Intelligenza artificiale", un disastro di dimensioni globali che potrebbe, per esempio, bloccare i conti correnti di milionì di persone per un'intera settimana. In un'intervista a The Guardian Geoffrey Hinton, uno dei padri fondatori dell'IA, ha dichiarato che, col senno di poi, forse sarebbe stato meglio se l'umanità non avesse mai sviluppato questa tecnologia ed ha avvertito che, già quest'anno o il prossimo, potrebbe innescare un incidente su larga scala, come un blackout temporaneo dei sistemi finanziari o delle reti elettriche.
L'informatico, insignito del premio Nobel nel 2024, ha spiegato al Guardian di non essere un "catastrofista" e di ritenere che l'IA abbia il potenziale per condurre a un "futuro meraviglioso". Tuttavia, ha aggiunto, "potrebbe darsi che, per noi, sarebbe stato meglio non svilupparla affatto". Hinton, 78 anni, ha sostenuto che entro un decennio, se non prima, l'umanità scoprirà se sarà in grado di gestire i rischi legati a questa tecnologia o se, al contrario, "non riusciremo a gestirli, finendo per trovarci di fronte a un divario enorme tra ricchi e poveri, gravi problemi culturali, una disoccupazione di massa e, in definitiva, alla disgregazione della società".
Hinton ha inoltre criticato duramente l'atteggiamento imprudente dei vertici di alcune delle principali aziende di intelligenza artificiale: "Credo che Zuckerberg, Musk e Sam Altman comprendano i rischi, ma se ne fregano altamente. Preferiscono i soldi. Questa è la mia opinione". Secondo Hinton, gli episodi verificatisi la scorsa estate di violazione della sicurezza informatica innescati autonomamente da un sistema di agenti di intelligenza artificiale, sono paragonabili al parziale incidente nucleare avvenuto nel 1979 presso la centrale di Three Mile Island.
"Entro la fine di quest'anno o il prossimo, assisteremo a un evento del tipo di Chernobyl; potrebbe bastare a far sì che la gente presti davvero attenzione", ha affermato facendo l'esempio di un attacco basato sull'intelligenza artificiale contro il sistema di produzione di energia elettrica, capace di "causare un massiccio blackout parziale" o di un episodio in grado di mandare in tilt il sistema finanziario per una settimana. "Riuscite a immaginare cosa accadrebbe? Potremmo riprenderci, certo, ma una cosa del genere costringerebbe tutti a drizzare le antenne e a prendere nota".