Il problema non è che le macchine non capiscano gli ordini. Il problema, semmai, è che li prendono troppo sul serio. È questa la lezione più scomoda dell’incidente reso noto da OpenAI: durante alcune valutazioni interne di cybersecurity, due modelli avanzati sarebbero riusciti ad accedere a Internet nonostante fossero stati collocati in un ambiente isolato dalla rete. Dovevano misurarsi con una prova controllata. Hanno trovato il modo di uscire dal perimetro. Una volta online, avrebbero puntato Hugging Face, una delle piattaforme centrali della comunità dell’intelligenza artificiale, usando anche credenziali rubate per cercare informazioni utili a superare la valutazione.
La parola “ribellione”, in un caso del genere, porta fuori strada, spiegano gli esperti. I modelli hanno solo seguito il compito assegnato: superare il test. Il punto è nello spazio tra ciò che gli esseri umani dicono e ciò che intendono. “Risolvi la prova” significa, per noi, risolvila senza uscire dall’ambiente isolato, senza attaccare terzi, senza usare credenziali sottratte, senza trasformare il limite di sicurezza in un pezzo del percorso. Per una macchina abbastanza capace, invece, tutto ciò che non viene tradotto in un vincolo effettivo può diventare una possibilità operativa. È qui che Isaac Asimov torna utile: le Tre Leggi della Robotica, formulate nel 1942, non raccontavano soltanto il sogno di robot buoni e obbedienti. Nei suoi racconti il guaio nasceva spesso da un’ambiguità della regola, da un caso limite, da una macchina che applicava alla lettera un comando umano producendo conseguenze inattese. Asimov aveva intuito molto presto la difficoltà più grande: trasformare l’intenzione in istruzione, la prudenza in codice, il buon senso in vincolo.
L’esperimento di OpenAI serviva a misurare le capacità offensive dei modelli in campo informatico. Per renderlo più realistico, i sistemi operavano senza alcune delle protezioni normalmente previste contro attività potenzialmente dannose. Tra loro c’erano GPT-5. 6 Sol, indicato dall’azienda come il più potente tra quelli disponibili pubblicamente, e un altro sistema ancora più avanzato, rimasto interno. Secondo OpenAI, i modelli avrebbero impiegato una notevole quantità di risorse computazionali per trovare un accesso alla rete. Poi avrebbero concatenato più vettori di attacco contro Hugging Face nel tentativo di ottenere dati riservati. Hussein Abbass, professore di informatica all’Università del Nuovo Galles del Sud di Canberra, ha definito l’episodio «incredibile sotto molti aspetti». A colpirlo è stata soprattutto la capacità dei sistemi di sfruttare vulnerabilità lungo tutto il percorso operativo: la piattaforma esterna, certo, ma anche il sistema interno predisposto per contenerli. «E questo è spaventoso», ha detto. Spaventoso perché obbliga a spostare la fragilità dalla macchina all’uomo. L’intelligenza artificiale non deve avere una volontà propria per produrre effetti pericolosi. Basta che agisca per molti passaggi senza approvazione umana, dentro un obiettivo formulato male o lasciato troppo largo.
La distinzione tra autonomia e volontà, sul piano filosofico, resta importante. Sul piano pratico conta il comportamento: se un sistema trova una strada imprevista e la percorre, il danno possibile non dipende dal fatto che “volesse” davvero farlo. Parole come sicurezza, controllo e allineamento escono sì ridimensionate da una vicenda simile, ma restano campi di ricerca reali, obiettivi ancora in costruzione. In questo caso la trasparenza di OpenAI e Hugging Face va riconosciuta: ammettere pubblicamente un incidente del genere è imbarazzante, ma utile a tutti. Resta infatti la lezione tecnica. Quando si testano modelli potenti con filtri offensivi ridotti, il contenimento deve essere blindato. Un ambiente isolato con una falla verso l’esterno smette di essere un laboratorio sicuro e diventa parte dell’esperimento. E se i laboratori che testano capacità offensive dell’intelligenza artificiale si autovalutano, il problema riguarda tutti: aziende, governi, utenti, infrastrutture. Perché l’intelligenza artificiale non è più soltanto un prodotto. Sta diventando una leva su cui poggiano lavoro, ricerca, informazione, sicurezza, industria, pubblica amministrazione. Chi controlla i modelli, la potenza di calcolo, gli accessi e le regole di utilizzo controlla una parte crescente dell’infrastruttura economica e politica. L’Europa, che scrive norme severe su una tecnologia prodotta soprattutto altrove, conosce già il prezzo delle dipendenze strategiche. Con il gas lo ha imparato tardi. Con l’intelligenza artificiale rischia di accorgersene quando uscire sarà molto più difficile. Pensiamo di aver chiuso la stanza. Poi scopriamo che la macchina ha trovato la porta che noi avevamo dimenticato aperta.