Una profezia terrificante, ancora più inquietante perché proviene da chi l'Intelligenza artificiale la conosce come pochi altri al mondo. Un ricercatore di Anthropic ha deciso di lasciare l'industria dell'IA per i timori che la competizione tra le aziende stia spingendo il settore verso lo sviluppo di sistemi in grado di migliorarsi autonomamente e potenzialmente sfuggire al controllo umano.
Hanno fatto il giro del mondo le parole, rivelate dal Wall Street Journal, di Jacob Coxon, 27 anni, ricercatore specializzato nell'addestramento di nuovi modelli di Ia attraverso l'elaborazione di grandi quantità di dati. Coxon ha dichiarato di aver deciso di lasciare Anthropic perché non vuole partecipare alla corsa dell'industria allo sviluppo di sistemi di Ia capaci di migliorarsi autonomamente, nel timore che possano "sfuggire al controllo" e distruggere l'umanità entro il prossimo decennio.
Coxon, britannico ed ex studente di matematica, ha affermato che molti suoi colleghi del settore utilizzano ormai espressioni come "crunchtime" e "endgame" per descrivere il percorso verso modelli in grado di migliorarsi autonomamente. "Siamo sulla strada per arrivare a molti degli scenari più estremi, nei quali entro la fine del prossimo anno le cose potrebbero essere già fuori controllo", ha dichiarato Coxon, aggiungendo che, in un contesto di competizione tra aziende statunitensi e nuovi concorrenti cinesi, compromessi sul fronte della sicurezza sarebbero inevitabili.
Anthropic non ha immediatamente commentato l'uscita di Coxon. L'amministratore delegato Dario Amodei e altri dirigenti dell'azienda hanno più volte lanciato l'allarme sui rischi legati a modelli di Ia che potrebbero agire autonomamente e hanno invitato il settore a rallentare lo sviluppo. Dopo l'annuncio di Coxon, Evan Hubinger, uno dei principali scienziati di Anthropic, ha scritto su X di ritenere fondate le preoccupazioni del ricercatore. "Crediamo davvero, seriamente, che l'IA potrebbe uccidere tutti gli esseri umani. Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio", ha scritto Hubinger, aggiungendo che Anthropic sta facendo del suo meglio ma non dispone ancora di un piano per risolvere il problema dell'allineamento dell'IA superintelligente.