Cassandra: Quindi prevedi una rete neurale con una potenza di elaborazione sufficiente a superare tutte le capacità degli esseri umani entro il 2029.
Ray: Giusto. Lo stanno già facendo con una capacità dopo l’altra.
Cassandra: E quando ci riusciranno, saranno di gran lunga migliori di qualsiasi essere umano, in tutte le abilità possedute da qualsiasi essere umano.
Ray: Esatto. In un settore dopo l’altro, saranno migliori di tutti gli esseri umani entro il 2029.
Cassandra: Per superare il test di Turing, un’IA dovrà essere resa meno intelligente.
Ray: Sì, altrimenti sapremmo di non avere di fronte un essere umano non potenziato.
Cassandra: E prevedi anche che entro i primi anni 2030 avremo il modo di entrare nel cervello e connetterci ai livelli superiori della neocorteccia, sia per stabilire che cosa succede, sia per attivare delle connessioni.
Ray: Giusto.
Cassandra: Quindi questa superintelligenza che stiamo creando diventerà direttamente parte del nostro cervello, almeno attraverso quelle connessioni al cloud.
Ray: Esatto.
Cassandra: Va bene, ma questi due passi avanti, insegnare a una rete neurale tutto ciò che gli esseri umani possono fare, e anche di più, e connettersi internamente al cervello con connessioni bidirezionali efficaci, riguardano ambiti molto diversi.
Ray: Beh, sì.
Cassandra: Uno riguarda la sperimentazione con i computer, che in gran parte non è regolamentata. Gli esperimenti richiedono giorni, e i passi avanti si susseguono subito uno dopo l’altro. Il progresso è molto rapido. Dall’altra parte, un processo come installare nel cervello un dispositivo che comporta un milione di fili è qualcosa di totalmente diverso, richiede ogni genere di supervisione e regolamentazione. Si tratta di inserire qualcosa non solo nel corpo umano ma nel cervello stesso, che probabilmente è la parte fisicamente più sensibile dell’organismo. Agli enti di regolamentazione non è nemmeno chiaro che sia necessario. Se possiamo prevenire una malattia cerebrale grave, per esempio, questo potrebbe offrire un beneficio chiaro, ma il collegamento a un computer esterno sarebbe molto difficile.
Ray: Ma succederà comunque, in parte con l’obiettivo di risolvere i gravi disturbi cerebrali che hai citato.
Cassandra: Sì, sono d’accordo che è possibile, ma probabilmente ci vorrà parecchio tempo in più.
Ray: Per questo ho previsto che ci arriveremo negli anni Trenta.
Cassandra: Ma qualsiasi norma relativa all’inserimento di oggetti estranei nel cervello potrebbe ritardare questo traguardo per, poniamo, dieci anni, fino agli anni Quaranta. Questo modificherebbe nettamente la tua cronologia per l’interazione tra macchine superintelligenti e persone. Tanto per cominciare, le macchine occuperebbero tutti i posti di lavoro, anziché diventare semplicemente un’estensione dell’intelligenza delle persone.
Ray: Beh, un’estensione della mente direttamente nel cervello sarebbe comoda: non la perderesti mai, come potrebbe succedere invece con il tuo cellulare. Ma anche quando questi dispositivi non saranno ancora connessi direttamente, funzioneranno comunque come un’estensione dell’intelligenza umana. Una ragazza oggi può accedere a tutta la conoscenza umana con il suo dispositivo mobile. E l’IA comunque potenzia un numero di lavoratori di gran lunga superiore a quelli che sostituisce. Anche se le estensioni del cervello sono all’esterno del nostro corpo, oggi facciamo lavori che sarebbero impossibili senza le estensioni che già abbiamo, anche se quei dispositivi non sono fisicamente collegati al nostro cervello.
Cassandra: Sì, ma hai previsto che saranno necessari milioni di circuiti per connetterci allo strato superiore della neocorteccia. Invece, estendere la nostra intelligenza con dispositivi esterni richiede input scritti alla tastiera, il che è più lento di parecchi ordini di grandezza. Certamente comprometterebbe molto l’interazione. Perché mai poi un’IA vorrebbe avere a che fare con un essere umano con una velocità di comunicazione tanto lenta? Potrebbe semplicemente fare tutto da sola.
Ray: Alla metà degli anni Venti avremo un mezzo per interagire con un computer migliaia di volte più veloce di una tastiera: la realtà virtuale pienamente immersiva con video a tutto schermo e audio. Vedremo e sentiremo la realtà ordinaria, ma sarà intrecciata con comunicazioni bidirezionali con i nostri computer. Sarà veloce quasi quanto una connessione con gli strati superiori della nostra neocorteccia. Questa alla fine sostituirà l’interazione mediante una tastiera.
Cassandra: Va bene, miglioreremo nella nostra capacità di comunicare con i nostri computer, ma ancora non è la stessa cosa che estendere effettivamente la neocorteccia.
Ray: Ci saranno però ancora lavori che le persone dovranno svolgere per ottenere cibo, riparo e soddisfare altri bisogni. Ancora prima che le estensioni interne del cervello ci consentano di formulare pensieri più astratti, i dispositivi esterni di estensione del cervello con IA avanzata ci consentiranno di svolgere attività difficili e di risolvere problemi difficili.
Cassandra: Le persone però hanno bisogno di scopi più profondi. Se le IA possono fare tutto quello che possono fare gli esseri umani in ogni sfera intellettuale, e lo possono fare meglio e a velocità superiori, che cosa rimane da fare per gli esseri umani, che ci dia un significato?
Ray: Beh, è il motivo per cui vogliamo fonderci con l’intelligenza che stiamo creando. Le IA diventeranno parte di noi, e perciò saremo noi che faremo tutte quelle cose.
Cassandra: Giusto, ed è per questo che sono ancora preoccupata per quello che potrebbe rappresentare un ritardo di un decennio nel raggiungere il traguardo del funzionamento di un dispositivo di estensione del cervello, visto quanto sia straordinaria la sfida di installare dentro il nostro cranio un dispositivo con milioni di connessioni. Posso accettare la fattibilità di ogni genere di cambiamento all’esterno del nostro corpo, inclusa la realtà virtuale, ma non è la stessa cosa che estendere effettivamente la neocorteccia.
Ray: Questa è la preoccupazione che esprimeva Daniel Kahneman, che era preoccupato anche della violenza che potrebbe manifestarsi fra le persone che hanno perso il loro lavoro e gli altri.
Cassandra: Per “altri” intendi i computer, dato che saranno loro a essere superiori agli esseri umani in tutte le capacità?
Ray: Non i computer, perché saremo dipendenti dai computer per il nostro benessere, bensì gli esseri umani che potranno essere visti come quelli che utilizzano l’IA per aumentare la propria ricchezza e il proprio potere a spese di quanti vedono svanire il proprio lavoro.
Cassandra: Sì, sospetto che Kahneman pensasse a un periodo intermedio in cui alcuni esseri umani mantengono il potere, e l’IA non ha ancora creato sufficiente abbondanza materiale da evitare i conflitti.
Ray: Va bene, ma il conflitto può essere ridotto al minimo se le persone sentono di avere uno scopo, ed estendere la nostra neocorteccia nel cloud sarà fondamentale perché gli esseri umani mantengano un senso di scopo. Come lo sviluppo di più neocorteccia, centinaia di migliaia di anni fa, ha elevato i nostri antenati primati dall’istinto di sopravvivenza fino alla contemplazione della filosofia, gli esseri umani con le loro estensioni avranno una maggiore capacità di empatia ed etica
Cassandra: Sono d’accordo, ma estendere la neocorteccia nel cloud è un tipo di progresso molto diverso rispetto ad avere migliori dispositivi esterni di estensione del cervello.
Ray: Sì, la tua osservazione è giusta, ma penso che raggiungeremo un’estensione della neocorteccia agli inizi degli anni Trenta. Perciò il periodo intermedio probabilmente non sarà molto lungo.
Cassandra: Le scadenze temporali per la connessione alla neocorteccia sono però una preoccupazione fondamentale. Sarebbe un problema enorme se ci fosse un ritardo.
Ray: Beh, sì, è vero.
Cassandra: Inoltre, se un’IA dovesse emulare te, e sostituissimo il “te” biologico con l’emulazione, potrebbe sembrare che sia te, e apparirebbe come te a tutti gli altri, ma tu in effetti te ne saresti andato.
Ray: Va bene, ma non stiamo parlando di questo. Non emuleremo il cervello biologico. Aggiungeremo qualcosa a esso. Il cervello biologico rimarrà com’era, solo con l’aggiunta di intelligenza.
Cassandra: Ma l’intelligenza non biologica alla fine sarebbe molte volte più potente del nostro cervello biologico, alla fine migliaia o anche milioni di volte più potente.
Ray: Sì, ma comunque non viene tolto nulla, e invece verrà aggiunto molto.
Cassandra: Hai sostenuto, però, che nel giro di qualche anno il nostro cervello sarà a tutti gli effetti un’estensione nel cloud.
Ray: Lo stiamo già facendo, in realtà. E qualsiasi significato filosofico tu attribuisca al nostro cervello biologico, non elimineremo nemmeno quello.
Cassandra: Ma il cervello biologico a quel punto sarà davvero insignificante.
Ray: Ma sarà ancora lì, e conserverà tutte le sue qualità fondamentali.
Cassandra: Beh, vedo arrivare cambiamenti molto profondi in tempi molto brevi.
Ray: Su questo siamo d’accordo.
