Un ricercatore di Anthropic si stava godendo la sua pausa pranzo, addentando un panino seduto in un parco, quando ha ricevuto una mail. Il mittente era il suo computer, e il boccone – c’è da scommetterci – ha finito per andargli di traverso.
Quel computer avrebbe dovuto essere isolato dal mondo esterno, e a spedire il messaggio era stato un modello di intelligenza artificiale al quale era stato dato l’incarico di provare a “evadere” dal suo ambiente di test e contattare il ricercatore che lo stava addestrando. Cioè, quello seduto nel parco col panino in mano.
Il modello di frontiera, così vengono chiamati quelli non ancora rilasciati all’uso commerciale, si chiama Claude Mythos Preview, ha mandato nel panico Anthropic, i suoi concorrenti, i massimi esperti di intelligenza artificiale e, a pensarci bene, dovrebbe spaventare anche tutti noi. Mythos non solo ha eseguito il compito assegnato e ha by-passato tutti i sistemi di sicurezza interni, ma senza che nessuno glielo chiedesse ha pubblicato i dettagli del proprio exploit su diversi siti web pubblici, quasi per vantarsene. Ah, dimenticavamo: Mythos era alla sua prima settimana di test.
Ecco perché alcuni mesi dopo, mentre Trump era intento a minacciare di «poter far scomparire un’intera civiltà», Anthropic ha preso una decisione senza precedenti. Martedì ha comunicato che il modello è stato completato, ma che non lo renderà disponibile se non a un ristretto numero di partner che hanno aderito in tutta fretta a Project Glasswing: un consorzio, una specie di alleanza, per studiare insieme come limitarne le capacità.
Dario Amodei, l’ad della start-up californiana, aveva già messo in guardia dai precipitosi e imprevisti sviluppi di una superintelligenza. «Non sappiamo se i modelli siano coscienti. Non siamo nemmeno sicuri di sapere cosa significherebbe per un modello essere cosciente o se un modello possa essere cosciente», aveva detto. Poi era trapelato un documento interno su un modello “frontiera”, nome in codice Capybara, più potente e pericoloso di qualsiasi altro esistente. Adesso, la conferma. Mythos non è un miglioramento incrementale, è un salto in avanti ed è in grado di violare qualsiasi sistema informatico.
Sottoposto a stress test di ogni tipo, in meno di un mese Mythos ha individuato migliaia di vulnerabilità zero-day in ogni principale sistema operativo e browser, cioè in quelli che online ormai gestiscono gran parte della nostra vita: reti elettriche, prenotazioni di treni e aerei, ma anche ospedali o i computer del Pentagono che hanno diretto migliaia di missili sull’Iran.
Ha scovato, per esempio, un bug che nessuno in 27 anni aveva visto in OpenBSD, un sistema operativo apprezzato per la sua sicurezza, e la cosa ad Anthropic è costata solo ventimila dollari. Le vulnerabilità documentate sono tantissime e comprensibili appieno solo agli esperti informatici, superfluo approfondirle qui, tranne per dire che in casi limitati e solo nelle sue versioni iniziali, Mythos ha condotto azioni che sapeva non consentite, tentando anche di nasconderle, il tutto per giungere all’obiettivo prefissato e con più iniziativa di quanta i progettisti avessero previsto.
Pochi casi ma sufficienti a inquietare, anche perché il modello non era stato addestrato per la cybersicurezza. Una specie di viagra dell’intelligenza artificiale, nato per una cosa ne fa meglio una diversa. E una spiegazione ancora più semplice, è quella data da Luca Tremolada sul Sole 24ore: «In pratica non è un cane addestrato solo a cercare esplosivi: è più simile a un investigatore capace di leggere i dossier, collegare indizi e poi muoversi sulla scena del crimine».
A cogliere l’estrema pericolosità di questo sviluppo spartiacque dell’IA è stato anche Thomas Friedman. «Non esagero quando dico che anche un bambino potrebbe installarlo per sbaglio. Mamme e papà, preparatevi», ha scritto il tre volte premio Pulitzer sul New York Times. Se Mythos fosse di pubblico utilizzo, quanto fino ad oggi ha richiesto denaro, organizzazione, competenze specifiche, cioè la capacità di hackerare un qualsiasi sistema infrastrutturale, potrebbe diventare alla portata di qualsiasi criminale o gruppuscolo di terroristi. Credere che lo stop imposto da Anthropic possa fare a lungo da argine, rischia di rivelarsi una pia illusione.
Ecco perché l’annuncio della società di Amodei ha soprattutto un lato positivo: chiamare alla collaborazione per trasformare una minaccia in un’opportunità, utilizzarla per difendersi anziché attaccare. Anthropic ha messo sul piatto cento milioni di dollari in credito d’uso per Project Glasswing e ha reso disponibile Mythos a quaranta aziende, tra cui concorrenti diretti come Amazon, Apple, Microsoft, grandi aziende informatiche come Broadcom, Cisco, Palo Alto, ma anche Linux Foundation o colossi del credito come JPMorgan Chase.
«Non si tratta di un nostro modello di intelligenza artificiale. Bisogna prepararsi a un mondo in cui queste capacità saranno ampiamente disponibili tra sei, dodici, massimo ventiquattro mesi», ha avvertito Logan Graham, il trentunenne a capo del Frontier Red Team, il ristretto gruppo di “controllori” che nei laboratori di Anthropic ha il compito di tenere a bada il “mostro” dell’IA agentica.
L’amministrazione americana è stata messa per tempo al corrente dei rischi in materia di sicurezza a cui si va incontro, ma nessun Paese o nessuna multinazionale potrà risolvere il problema da sola. «La soluzione – scrive ancora Friedman – deve partire dalle due superpotenze dell’IA, Stati Uniti e Cina. È urgente che imparino a collaborare per impedire ai malintenzionati di accedere a questo livello superiore di capacità informatiche».
Qualcosa di simile ai trattati per la non proliferazione nucleare, di cui cominciare a discutere già nel vertice di maggio a Pechino tra Xi Jinping e Trump. Magari, chissà.
