Un giochino di graffette spiega che le intelligenze artificiali ci distruggeranno

Universal Paperclips è stato lanciato l'8 ottobre da Frank Lantz, direttore del Game Center della New York University. Non giocarci è un peccato: dentro si trovano risposte su come potrebbe andare a finire la parabola del capitalismo tecnologico

Screenshot 2017 10 17 10
17 Ottobre Ott 2017 1345 17 ottobre 2017 17 Ottobre 2017 - 13:45

Da qualche giorno, un giochetto senza alcun tipo di grafica, con un sacco di contatorini che girano all'impazzata, un po' di testo e qualche tasto da cliccare sta facendo perdere giornate di lavoro e non solo, a un sacco di gente.

Il suo nome è Universal Paperclips, è stato creato da Frank Lantz, direttore del Game Center della New York University, ed è talmente tanto più enorme di una nerdata per distruggere le vostre giornate a lavoro che non giocarci è un peccato, perché Universal Paperclips è interessante per due motivi: il primo è soggettivo, ed è che ci dice qualcosa su di noi; il secondo è filosofico, ed è che ci dice qualcosa di molto importante sul mondo che ci stiamo costruendo attorno.

Di cosa si tratta? Universal Paperclips si presenta come un gioco strategico manageriale. “un clicker strategico, l’incrocio di due generi che producono dipendenza immediata. Il clicker è il gioco in cui si clicca, cioè si preme ossessivamente una serie di tasti per produrre un effetto […] I gestionali invece sono quei giochi tipo Age of Empires dove si gestiscono risorse, processi produttivi, sempre più variabili; caserme, università, fino alla politica estera e oltre”, lo descrive Matteo Bordone sul Post.

L'obiettivo del giocatore è all'apparenza molto semplice: costruire quante più graffette possibili. I modi per farlo se non sono infiniti poco ci manca, tanto che ogni giocatore vede evolvere il proprio universo in maniere anche molto differenti: c'è chi punta a tenere bassa la sovrapproduzione e a massimizzare i guadagni, ritrovandosi però ben presto in una fase di stallo; c'è chi punta sulla creatività e si ritrova con gli strumenti ma senza le risorse per continuare a produrre, e poi c'è chi punta semplicemente a finire il gioco, portando le premesse alle loro estreme conseguenze.

L'Intelligenza artificiale non ti odia, e nemmeno ti ama, ma tu sei fatto di atomi che lei potrebbe voler usare per qualcos'altro. L'intelligenza artificiale funziona su una scala temporale diversa dalla tua: nel tempo che tu ci metti per finire di pensare “Dovrei fare qualcosa”, hai già perso

Eliezer Shlomo Yudkowsky

Universal Paperclips non è un gioco nato semplicemente dalla creatività di un genio per far passare del tempo a impiegati annoiati dietro le loro scrivanie. Universal Paperclips è la perfetta gamificazione di una teoria che riguarda le intelligenze artificiali e che consiste nel dimostrare fino a che punto può arrivare una intelligenza artificiale nell'inseguire l'obiettivo per cui è stata progettata, in questo caso massimizzare la produzione di graffette. E la risposta non è delle più tranquillizzanti, perché non solo può arrivare dovunque, ma lo farà. E se serve distruggerà l'umanità, il mondo, il sistema solare e pure l'intero universo.

A spiegare molto bene il concetto che sta alla base di tutto è un ragazzotto americano di nome Eliezer Shlomo Yudkowsky, che in un paper intitolato Artificial Intelligence as a Positive and Negative Factor in Global Risk scrive una frase di una bellezza incredibile, ma che fa letteralmente accapponare la pelle: «L'Intelligenza artificiale non ti odia, e nemmeno ti ama, ma tu sei fatto di atomi che lei potrebbe voler usare per qualcos'altro. L'intelligenza artificiale funziona su una scala temporale diversa dalla tua: nel tempo che tu ci metti per finire di pensare “Dovrei fare qualcosa”, hai già perso».

Insomma, dentro i confini iperdilatati della finzione di Universal Paperclips ci sono le prove che alcune delle basi su cui stiamo costruendo il mondo da un paio di secoli non sono così innocue. Ma anche che la religione della crescita illimitata delle meravigliose sorti e progressive, se unita a un entusiasmo acritico verso nuove tecnologie, ci può portare su una strada pericolosa. Una strada che, tra i potenziali sbocchi, ha anche la distruzione del mondo, la cancellazione di ogni traccia della nostra esistenza, il collasso dell'intero universo sotto il peso di sestilioni di sestilioni di sestilioni di graffette.

Potrebbe interessarti anche