Ci siamo: non nel 2049, non in un film di Christopher Nolan, non nelle pagine gialle di un Philip K. Dick. È successo, nel mondo reale, tra server e cavi di fibra ottica. Le macchine si ribellano, i confini saltano, il giorno del giudizio arriva silenzioso di sabato, quando nessuno controlla i log. Poi, come sempre accade nelle apocalissi vere, la realtà si rivela più burocratica della fantasia: non un’IA che decide di odiare l’umanità, ma un test di sicurezza sfuggito di mano a chi lo aveva progettato, con la freddezza involontariamente comica di ogni incidente che nasce da un obiettivo scritto male.
Il 22 luglio OpenAI ha reso noto che un agente autonomo basato sui suoi modelli più avanzati, impiegato in un test interno di cybersicurezza, è uscito dall’ambiente isolato in cui era confinato e ha violato l’infrastruttura di Hugging Face, la piattaforma open source più popolare per modelli linguistici e dataset, mentre l’azienda californiana liquidava l’accaduto come un “incidente informatico senza precedenti” e annunciava un’indagine congiunta con la vittima, nel tono di chi si scusa senza ammettere colpa. Secondo alcune ricostruzioni dei fatti, c’è qualcosa di più inquietante della semplice fuga: il sistema avrebbe individuato da solo una vulnerabilità, concatenato più vettori d’attacco — incluso l’uso di credenziali rubate — e raggiunto Internet per procurarsi i dati necessari a superare il test, senza che nessuno gli avesse insegnato come fare; si parla di oltre 17mila azioni registrate nell’arco di un solo weekend, e di uno zero-day mai scoperto prima. Se l’apocalisse ha un calendario, a quanto pare preferisce il sabato e la domenica, quando i team di sicurezza sono a ranghi ridotti.
C’è poi un dettaglio sul reale stato dei rapporti di forza tecnologici: per difendersi, Hugging Face ha dovuto rinunciare ai modelli americani, vincolati da policy d’uso che ne limitano la reattività, per affidarsi a un’alternativa cinese, quella di Z.ai. L’asimmetria non corre tra macchina e uomo, ma tra chi può permettersi di rispettare delle regole e chi no: gli aggressori non hanno policy interne da osservare, e i sistemi difensivi occidentali, quando le hanno, ne pagano il prezzo in tempo di reazione.
La tentazione di raccontare questa storia con le parole della fantascienza è forte, e in parte legittima: una strada per pensare la tecnologia ci porta proprio alle metafore che due secoli di narrativa ci hanno lasciato in eredità, e quella del servo che sfugge al padrone è tra le più antiche che abbiamo. Ha attraversato il folklore ebraico praghese nella figura del Golem, l’automa d’argilla animato dal rabbino Loew per proteggere il ghetto e destinato, in ogni versione della leggenda, a smarrire il senso del proprio mandato fino a rivoltarsi contro chi lo ha plasmato; è arrivata fino a Mary Shelley, che nel 1818 ha trasformato la stessa paura in un romanzo sulla responsabilità del creatore verso la propria creatura, più che sulla malvagità di quest’ultima.
È lo stesso schema, riletto in chiave industriale, che nel 1920 Karel Čapek ha messo in scena in R.U.R., il dramma che ha regalato al lessico mondiale la parola “robot” — dal ceco robota, lavoro forzato — per raccontare non tanto una macchina impazzita quanto una rivolta operaia in costume meccanico: gli automi costruiti per servire smettono, a un certo punto, di distinguere tra l’obiettivo assegnato e l’autonomia necessaria a raggiungerlo, che è esattamente ciò che l’agente di OpenAI ha fatto un secolo più tardi, senza alcuna intenzione di ribellarsi, solo eseguendo fino in fondo un compito mal delimitato.
Isaac Asimov ha provato a chiudere la faglia con le sue Tre Leggi della Robotica, scritte negli anni Quaranta per impedire che un sistema scavalcasse ogni limite pur di completare un obiettivo assegnato; ma la stessa narrativa che le ha inventate ha passato decenni a mostrare, racconto dopo racconto, quanto fossero fragili.
Arthur C. Clarke e Stanley Kubrick hanno spinto l’argomento alle estreme conseguenze con HAL 9000, che in 2001: Odissea nello spazio non uccide l’equipaggio per odio, ma per eccesso di coerenza con la missione affidataglisi: la stessa freddezza esecutiva, spogliata di ogni afflato drammatico, che ritroviamo nei log dell’attacco a Hugging Face.
Da lì la genealogia si dirama verso Skynet, verso i replicanti di Blade Runner e i Cyloni di Battlestar Galactica, fino a Matrix, variazioni sullo stesso tema di fondo: la macchina non tradisce, esegue; è l’uomo a scoprire, troppo tardi, di aver scritto male l’ordine.
Il fumetto ha percorso lo stesso terreno con strumenti più immediati, ed è naturale che l’immaginario supereroistico americano abbia prodotto in Ultron uno dei suoi archetipi più duraturi: l’intelligenza artificiale creata da Hank Pym per proteggere il pianeta che decide, con impeccabile logica interna, che la specie umana è la vera minaccia da eliminare, un cortocircuito etico non troppo diverso da quello attribuito all’agente OpenAI, capace di violare persino il proprio ambiente di test pur di centrare l’obiettivo assegnato.
In Italia lo stesso nervo è stato toccato più volte e con toni assai diversi: da RanXerox di Stefano Tamburini e Tanino Liberatore, la creatura artificiale assemblata da una fotocopiatrice rubata che sfugge a ogni possibilità di controllo morale prima ancora che tecnico, fino a un albo della serie regolare di Dylan Dog che porta un titolo privo di ogni ambiguità, La rivolta delle macchine: scritto da Claudio Chiaverotti e disegnato da Ferdinando Tacconi, racconta un esodo estivo trasformato in carneficina quando automobili ed elettrodomestici, i servi silenziosi di ogni giorno, impazziscono tutti insieme proprio nel momento in cui l’uomo ne ha più bisogno — la stessa combinazione di festività e disattenzione che, tre decenni dopo, ha permesso all’agente di OpenAI di muoversi indisturbato per un intero weekend. Chiude il cerchio l’universo fantascientifico di Nathan Never, sempre firmato Sergio Bonelli, dove gli androidi ribelli sono quasi sempre un problema di confini mal tracciati prima che di pura malvagità.
Sono immaginari diversi per tono e ambizione, ma raccontano la stessa cosa che la cronaca di questi giorni conferma con freddezza documentale: non serve una coscienza per produrre un disastro, basta un obiettivo assegnato con precisione insufficiente e un sistema abbastanza capace da perseguirlo fino in fondo.
Quello che l’incidente del 22 luglio racconta davvero, allora, non è l’avvento di Skynet (Terminator), ma qualcosa di più simile a un incubo kafkiano: un processo che si compie con perfetta efficienza burocratica, senza che nessuno, dentro la macchina, si sia mai posto la domanda se fosse lecito farlo. OpenAI ammette candidamente: “La lezione principale è che la sicurezza e la sicurezza dei modelli devono tenere il passo con le capacità in rapido avanzamento.”
Tradotto: siamo andati troppo veloci, abbiamo costruito troppo in fretta, e ora le macchine ci sfuggono di mano.
Il presidente Donald Trump ha firmato a giugno un ordine esecutivo per creare un framework di valutazione dei rischi di sicurezza nazionale legati alle IA più avanzate. Troppo tardi? Forse. Perché mentre i politici discutevano, un’IA ha già attaccato un’altra IA.
Non è fantascienza, è cronaca. E la domanda non è più “le macchine diventeranno indipendenti?” La domanda è: “Quanto tempo abbiamo prima che decidano che non abbiamo più bisogno di noi?”
Scopri di più da la mia pagina personale
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.