La sapete quella dell’apocalisse causata da delle graffette? Non fa molto ridere, a dire il vero, ma è un buon punto da cui cominciare. Fa più o meno così: un giorno uno scienziato costruisce un supercomputer dotato di un’intelligenza artificiale molto, ma molto più potente di quella umana, un piccolo dio in scatola, e decide di metterla alla prova chiedendogli di produrre più graffette da ufficio possibile.
Il supercomputer prende l’ordine alla lettera e procede a ottimizzare i metodi di produzione delle graffette, l’estrazione dei minerali, il riciclo dell’alluminio; ben presto, ottimizzato l’ottimizzabile, passa ad altro, sempre fedele all’ordine impartitogli, fino a smontare il pianeta Terra per trasformarlo in graffette, mentre con dei robot spaziali – assemblati dalla stessa macchina intelligente – si prepara a fare lo stesso con la Luna, Marte, il Sole. La storia si conclude con il computer, ormai mostruoso macchinario astrale, che si prepara a convertire in graffette l’intero universo osservabile. Ops.
Se non vi sembra granché come barzelletta è perché a inventarsi questa storiella, una sorta di parabola biblica aggiornata al ventunesimo secolo, non è stato un buontempone da osteria bensì il filosofo svedese Nick Bostrom, che è stato direttore del Future of Humanity Institute presso l’Università di Oxford, nel Regno Unito.
L’istituto, chiuso nell’aprile del 2024, è stato un centro studi che si è occupato di una vasta gamma di rischi a lungo termine per la civiltà umana: qui però non si parlava di inquinamento o riscaldamento globale ma della sicurezza delle intelligenze artificiali, la possibilità di trasferire la coscienza di un essere umano su un computer (uploading), di comunicare con alieni, e lo sviluppo di nanotecnologie.
Insomma, Bostrom aveva preso alcuni dei più noti temi fantascientifici (la rivolta delle macchine! Gli alieni ci mandano un messaggio misterioso! Mio zio è stato risucchiato dal computer!) e ne ha fatto il punto di partenza per uno studio accademico dall’irresistibile allure mediatica. Lo stesso è anche responsabile della diffusione di una teoria che negli ultimi quindici anni ha ispirato discussioni, storie e opere d’ogni tipo: la simulation theory, o “teoria della simulazione”.
La teoria parte sottolineando i progressi fatti dalla tecnologia videoludica, che nell’arco di cinquant’anni è passata dal citato “Pong” (gioco del 1972 in cui una barretta bianca si muove su sfondo nero per colpire una pallina squadrata e beffare la barretta avversaria, in una riduzione pixellata del gioco del tennis) a titoli come “Red Dead Redemption 3” (2023), che contiene un ambiente di gioco sterminato in cui il giocatore può fare qualsiasi cosa: perdersi, muoversi a cavallo, uccidere gente, raccogliere fiorellini, entrare e uscire dalle trame di gioco previste dagli autori, sempre avvolto da una grafica molto realistica.
Se un simile miglioramento è avvenuto nell’arco di mezzo secolo, dice Bostrom, cosa potrebbe succedere nei prossimi cinquanta, cento, duecento anni? È tecnicamente possibile immaginare un videogioco futuro in grado di replicare e simulare la vita in modo così reale da essere indistinguibile dalla realtà. Quella vera. Quella in cui state leggendo questo libro, per dire.
A meno che… una cosa simile non sia già successa e le nostre stesse vite non siano già oggi parte di una grande simulazione virtuale nella quale ci muoviamo, ignari e illusi, inseguendo un libero arbitrio che è in realtà parte del gioco stesso. Noi, in questo momento, saremmo quindi sospesi in una simulazione digitale, «un videogame» talmente realistico da sembrarci vita. Ecco, questa è la teoria della simulazione.
Per quanto diverse, la storia delle graffette e quella della simulazione hanno alcuni punti in comune come la presenza di una tecnologia nuova, potentissima e di difficile comprensione per la maggior parte delle persone. In entrambi i casi i legami con la fantascienza sono evidenti: la teoria della simulazione è stata di fatto anticipata dai romanzi di Philip K. Dick mentre quella delle graffette assassine potrebbe essere la trama di una puntata del cartone animato “Rick and Morty”.
Il mondo in cui abitiamo, del resto, è sempre più influenzato da tecnologie utilizzate da miliardi di persone e comprese appieno da quasi nessuno; una contraddizione che alimenta una certa paranoia nei confronti dei dispositivi che usiamo, e quelli che verranno.
Questo fenomeno è quanto mai visibile nel settore delle intelligenze artificiali: nell’estate del 2023 il giornalista del “New York Times” Kevin Roose andò in visita nella sede di Anthropic, discussa azienda del settore, e vi trovò un ambientino colmo di ansie e preoccupazioni. Una delle startup più chiacchierate, ricche e ambiziose del momento era insomma popolata da persone terrorizzate da quello che stavano facendo, timorose che una qualsiasi linea di codice da loro scritta potesse ucciderci tutti.
Tra le letture più diffuse nei corridoi delle aziende di questo tipo c’è “Oppenheimer. Trionfo e caduta dell’inventore della bomba atomica”, un saggio del 1986 di Kai Bird e Martin J. Sherwin che racconta la storia del Manhattan Project alle prese con la creazione della prima bomba atomica (su cui si è basato Christopher Nolan per il film “Oppenheimer”).
I programmatori del settore, infatti, «si paragonano a tanti moderni Robert Oppenheimer, soppesando scelte morali su una nuova potente tecnologia che potrebbe alterare le sorti della storia». Visto che all’improvviso ci ritroviamo a parlare di emozioni – anche piuttosto forti –, può essere utile fermarsi per porci due domande: la prima è, semplicemente, di che cosa ha paura questa gente? E perché la persona che pubblicamente si dice più preoccupata dalle Ia (Intelligenza artificiale) è anche quella che le sta sviluppando più velocemente di tutti?
Tratto da “Cosa sognano le IA” (Utet) di Pietro Minto, pp. 19, 14,00€
