Ci sono momenti in cui una tecnologia smette di essere promessa e diventa rischio, e a ricordarlo è ora uno dei padri dell'intelligenza artificiale, il Nobel Geoffrey Hinton. In un'intervista al Guardian, lo scienziato immagina che entro uno o due anni un incidente legato all'IA possa avere la gravità di Chernobyl, con un blackout parziale della rete elettrica o una settimana di paralisi finanziaria. È una previsione, non una certezza, e come tale va letta: ma il suo monito si inserisce in una lunga storia umana in cui solo la catastrofe ha spesso costretto le società a guardare in faccia ciò
Hinton avverte: entro uno o due anni un evento tipo Chernobyl legato all'IA, e critica i vertici di Big Tech
Potremmo riprenderci, ma tutti drizzerebbero le antenne
Mark
Hinton parla di un evento tipo Chernobyl entro uno o due anni. Perché la notizia pesa?
Mimi
Perché a dirlo è uno scienziato premiato con il Nobel, e perché porta esempi precisi: un blackout parziale causato da un attacco all'IA o un blocco finanziario di una settimana.
Luke
Però è una previsione, non un fatto. Nessuno ha confermato che accadrà.
Mark
Cosa c'entra Three Mile Island?
Mimi
Hinton lo usa come paragone per le violazioni informatiche dell'estate scorsa, innescate autonomamente da un sistema di agenti di IA. Le legge come un primo segnale.
Luke
Ma quel paragone è la sua interpretazione. Nel testo non ci sono dettagli sull'episodio estivo, quindi non so quanto danno abbia fatto.
Mark
E le critiche a Zuckerberg, Musk e Altman?
Mimi
Dice che capiscono i rischi ma preferiscono i soldi. Lo definisce lui stesso una sua opinione.
Luke
Appunto: è un'opinione sull'intenzione altrui, non dimostrata. E non vediamo risposte dei diretti interessati.
Mark
Quindi cosa resta di solido?
Mimi
Un monito netto da una voce autorevole, con scenari concreti.
Luke
E una scadenza che potremo verificare solo col tempo.
Der Puls
- Un Nobel avverte che un grave incidente legato all'IA potrebbe colpire entro la fine del prossimo anno.
- Il paragone con Chernobyl e Three Mile Island scuote un settore abituato a parlare di innovazione, non di danni.
- Gli scenari evocati, un attacco alla rete elettrica e il blocco dei mercati per una settimana, trasformano un rischio astratto in una minaccia concreta.
- Hinton accusa apertamente Zuckerberg, Musk e Altman di preferire il denaro alla sicurezza, e il dibattito sulla regolamentazione potrebbe ora accelerare.
Ci sono momenti in cui una tecnologia smette di essere promessa e diventa rischio, e a ricordarlo è ora uno dei padri dell'intelligenza artificiale, il Nobel Geoffrey Hinton. In un'intervista al Guardian, lo scienziato immagina che entro uno o due anni un incidente legato all'IA possa avere la gravità di Chernobyl, con un blackout parziale della rete elettrica o una settimana di paralisi finanziaria. È una previsione, non una certezza, e come tale va letta: ma il suo monito si inserisce in una lunga storia umana in cui solo la catastrofe ha spesso costretto le società a guardare in faccia ciò che avevano scelto di ignorare.
Geoffrey Hinton, premio Nobel e figura centrale nella nascita dell'intelligenza artificiale, ha lanciato un avvertimento netto: il prossimo episodio che farà parlare di IA per le ragioni sbagliate potrebbe essere un evento paragonabile a Chernobyl, e potrebbe accadere presto, entro la fine di quest'anno o il prossimo. Lo ha detto in un'intervista al Guardian.
Hinton immagina due scenari concreti: un attacco basato sull'intelligenza artificiale contro la produzione di energia elettrica, capace di provocare un ampio blackout parziale, oppure un episodio che paralizzi il sistema finanziario per una settimana. Non sarebbe necessariamente irreparabile, ha precisato, ma basterebbe a costringere tutti a prestare attenzione.
Secondo lo scienziato, gli episodi di sicurezza informatica dell'estate scorsa, avviati in modo autonomo da un sistema di agenti IA, somigliano al parziale incidente di Three Mile Island del 1979: un segnale d'allarme, non ancora la catastrofe.
Le critiche più dure riguardano i vertici delle grandi aziende del settore. Hinton ritiene che Mark Zuckerberg, Elon Musk e Sam Altman comprendano i rischi ma diano priorità al denaro, precisando che si tratta di una sua opinione personale.
Le previsioni restano tali, e nel testo non compaiono repliche delle aziende chiamate in causa. Resta da vedere se l'incidente temuto si verificherà e se il dibattito sulla regolamentazione dell'intelligenza artificiale ne uscirà rafforzato.
Secondo Geoffrey Hinton, la prossima volta che l'intelligenza artificiale farà notizia per le ragioni sbagliate potrebbe essere un evento paragonabile a Chernobyl, e il momento non sarebbe lontano: «entro la fine di quest'anno o il prossimo». Lo scienziato, insignito del Nobel, lo ha detto in un'intervista al Guardian.
Hinton ha spiegato che un episodio di quel tipo potrebbe bastare a far sì che la gente presti davvero attenzione. Ha poi indicato due esempi concreti di ciò che immagina. Il primo è un attacco basato sull'intelligenza artificiale contro il sistema di produzione di energia elettrica, capace di causare un massiccio blackout parziale. Il secondo è un episodio in grado di mandare in tilt il sistema finanziario per una settimana.
Per lo scienziato, un simile scenario non sarebbe necessariamente irreparabile: «Potremmo riprenderci, certo», ha detto. Ma una cosa del genere, a suo giudizio, costringerebbe tutti a drizzare le antenne e a prendere nota. Ha chiesto all'interlocutore se riesca a immaginare cosa accadrebbe.
Il paragone con il passato non è limitato a Chernobyl. Hinton considera gli episodi di violazione della sicurezza informatica verificatisi la scorsa estate, innescati in modo autonomo da un sistema di agenti di intelligenza artificiale, comparabili al parziale incidente nucleare avvenuto nel 1979 presso la centrale di Three Mile Island. In altre parole, una prima avvisaglia, e non ancora la catastrofe.
La seconda parte dell'intervista è dedicata ai responsabili delle grandi aziende del settore. Hinton ha criticato duramente l'atteggiamento imprudente dei vertici di alcune delle principali società di intelligenza artificiale. Ha citato per nome Mark Zuckerberg, Elon Musk e Sam Altman: «Credo che comprendano i rischi, ma se ne fregano altamente. Preferiscono i soldi». E ha precisato: «Questa è la mia opinione».
Va tenuta ben distinta la natura di queste affermazioni. Quella sulla tempistica è una previsione, non un fatto accertato, e l'accusa ai tre imprenditori è un giudizio personale dichiarato come tale dallo stesso Hinton. Nel testo disponibile non compaiono repliche da parte delle aziende o delle persone chiamate in causa, né dettagli sull'episodio estivo oltre alla sua descrizione.
Resta da osservare se un incidente del genere si verificherà davvero nel periodo indicato e se, in caso contrario o in caso affermativo, il dibattito sulla regolamentazione dell'intelligenza artificiale troverà nuovo slancio.
Bemerkenswerte Zitate
Credo che comprendano i rischi, ma se ne fregano altamente. Preferiscono i soldi. Questa è la mia opinione.— Geoffrey Hinton, al Guardian
Entro la fine di quest'anno o il prossimo assisteremo a un evento del tipo di Chernobyl.— Geoffrey Hinton, al Guardian
Möchten Sie die ganze Geschichte?
Das Original lesen bei Ticinonline ↗
Technology