FobIAL’ascesa inarrestabile dell’Intelligenza Artificiale (e le narrazioni esagerate)

In “L’intelligenza matematica. Cosa abbiamo che le macchine non hanno”, edito da Piccola Biblioteca Einaudi, Junaid Mubeen racconta le ultime evoluzioni della tecnologia informatica. Nonostante i progressi delle macchine, le capacità umane risultano ancora essenziali e inimitabili

Pexels

L’automazione dello sforzo mentale non si esaurisce con il calcolo. I primi vagiti di Intelligenza Artificiale (IA) – la capacità dei computer di pensare e risolvere problemi – si sentirono nell’Ottocento. Ada Lovelace, figlia di Lord Byron e appassionata di matematica sin da giovanissima, fu affascinata dalle possibilità rappresentate dal secondo calcolatore di Babbage, la «macchina analitica». Lovelace vide la bellezza nella meccanizzazione: «La macchina analitica tesse forme algebriche proprio come il telaio Jacquard tesse fiori e foglie». Babbage stesso si era reso conto che le funzioni della sua macchina analitica non si limitavano necessariamente ai numeri, ma si potevano estendere a operazioni più generali su simboli. Fu però Lovelace a spiegare il potenziale di intelligenza delle macchine, osservando, com’è noto, che «la macchina analitica […] può fare tutto ciò che sappiamo ordinarle di eseguire». […]

La situazione cambiò completamente alla fine del secolo. Se mai le macchine dovessero arrivare a regnare su questo mondo, potrebbero considerare come inizio dell’ascesa una famosa scena del maggio 1997: il campione mondiale di scacchi Garri Kasparov alza le braccia in segno di resa, sconfitto da Deep Blue, il computer ibm che gioca a scacchi, in una gara presentata da «Newsweek» come «l’ultimo baluardo del cervello». Il trionfo della macchina destò le preoccupazioni più profonde dell’umanità. Un conto era che i computer automatizzassero attività di routine come eseguire calcoli, ma ora sembravano essere capaci di applicare la logica per risolvere problemi complessi – un’abilità che pensavamo, forse speravamo, di avere soltanto noi. E perché mai i computer si sarebbero dovuti fermare agli scacchi? […]

A partire dallo storico trionfo di Deep Blue, le macchine hanno continuato a progredire in un modo che può sembrare inarrestabile, con computer sempre più veloci combinati con algoritmi intelligenti e grandi insiemi di dati che producono risultati sorprendenti. […] Più recentemente, ogni nuova versione degli strumenti di generazione di testi gpt della OpenAI è diventata sempre piú potente; gpt-3, ultimato nel 2020, ha un modello che contiene la bellezza di 175 miliardi di parametri ed è in grado di produrre una gran varietà di testi. […]

Mentre le macchine continuano ad acquisire una capacità di pensare sempre maggiore, gli esseri umani si spremono le meningi, esplorano la coscienza e scansionano il cervello nel tentativo di capire che cosa li aspetta. Figure di alto profilo, tra cui Stephen Hawking e Elon Musk, hanno soffiato sul fuoco avvertendo della minaccia esistenziale dell’IA per l’umanità. Il filosofo Nick Bostrom ha prospettato una serie di scenari che potrebbero derivare dalla super intelligenza delle macchine – e che per la maggior parte non fanno ben sperare per il genere umano. Le paure nei confronti dell’IA non sono nuove. Anche se Lovelace era entusiasta del potenziale delle macchine intelligenti, il giornalista religioso vittoriano Richard Thornton lanciò il primo avvertimento sulla minaccia esistenziale che ponevano, osservando che con il calcolatore meccanico la mente «supera sé stessa ed elimina la necessità della propria esistenza inventando macchine che pensano da sole». Le descrizioni odierne dell’IA alimentano insicurezze profonde; Hollywood trae profitto dalle nostre paure esistenziali che le macchine ci sostituiscano (o ci portino all’estinzione).

Gran parte del clamore intorno all’IA si basa però sulla mancanza di trasparenza sul funzionamento di questi strumenti. Temiamo ciò che non capiamo, e riserviamo le preoccupazioni più profonde alle cose che si comportano in modo diverso da noi. Non sorprende che, quando ci troviamo alle prese con divisioni lunghe e altre reliquie del programma scolastico di matematica, reagiamo con riverenza nei confronti delle macchine di oggi. Temiamo questi strumenti perché sono calcolatori con il turbo; eccellono proprio nelle capacità che ci causano tanta difficoltà e timore. Le applicazioni odierne dell’apprendimento automatico sono più intelligenti dei computer medi, e persino di Deep Blue, nel senso che imparano continuamente dai dati forniti. […]

Nonostante tutta la sua apparente raffinatezza, tuttavia, l’apprendimento automatico ha alcuni limiti fondamentali che, se esaminati da vicino, fanno luce sui nostri punti di forza. […] Le macchine che si basano esclusivamente su modelli possono avere un valore predittivo, ma non hanno le capacità di ragionamento e il buon senso necessari per spiegare le proprie scelte. Possono dire, con un certo grado di attendibilità, che cosa accadrà in futuro – ma non perché. Ali Rahimi, ricercatore di IA presso Google, è stato acclamato con una standing ovation a un convegno sull’IA quando ha avvertito che le tecnologie di apprendimento automatico sono diventate una forma di alchimia. «C’è un clima di angoscia nel settore, – ha raccontato, – e molti di noi si sentono come se stessero intervenendo su una tecnologia aliena». François Chollet, anch’egli ricercatore di IA presso Google, dei tanto decantati modelli di apprendimento profondo dice che «non hanno alcuna comprensione dei dati che elaborano, quanto meno non nel senso umano di “comprendere”. La nostra comprensione di immagini, di suoni e del linguaggio si basa sulla nostra esperienza sensomotoria di esseri umani – creature terrene incarnate. I modelli di apprendimento automatico non hanno accesso a tali esperienze e quindi non possono “comprendere” i dati in alcun modo simile al nostro». Un algoritmo di apprendimento profondo può essere molto abile nell’identificare gli alberi, ma non li vede nello stesso senso in cui li vedono gli esseri umani e non ha una visione del mondo in cui collocarli. Vedrà gli alberi, ma non la foresta. […]

Se emulare l’intelligenza umana fosse una questione puramente computazionale, allora la partita sarebbe chiusa, come Deep Blue e i suoi successori hanno dimostrato in modo chiaro. D’altra parte, se abbandoniamo questa concezione semplicistica di tutto ciò che fa il cervello e cogliamo invece la sua enorme complessità, scopriremo aspetti del pensiero che sono distintamente umani. Il cervello umano è progettato per il dinamismo e il cambiamento. Per un bambino appena nato, inizialmente tutta la vita al di là di un orizzonte di 20 centimetri è confusa, ma i neonati sono dotati di meccanismi di apprendimento che li aiutano ad adattarsi rapidamente e a cambiare quando interagiscono con l’ambiente circostante. È questione di ore prima che riescano a riconoscere la voce della madre, di giorni prima che il suo volto diventi familiare e di settimane prima che percepiscano colori contrastanti. L’apprendimento è un’attività sociale, alimentata dalle interazioni fisiche con le persone e l’ambiente.

Se si dovesse descrivere il cervello in termini computazionali, potremmo dire che è un potente ibrido di circuiti innati, che si sono evoluti nel corso di milioni di anni arrivando a dotarci di intuizioni e modi di pensare, e di un vasto archivio di algoritmi di apprendimento per riuscire a orientarsi nel mondo. A ogni interazione, la circuiteria neurale del nostro cervello viene sottoposta a un aggiornamento incrementale, ricablando sé stessa mentre riesamina i presupposti e acquisisce esperienza. Progressivamente, costruiamo nuovi e diversi modelli per capire il mondo.

Funzionando con soli 12 watt, gli 86 miliardi di neuroni del nostro cervello formano reti vaste e intricate che comunicano attraverso segnali elettrochimici, rendendo possibili il pensiero, la contemplazione e l’improvvisazione. Possiamo infrangere le regole con la stessa facilità con cui le creiamo, saltando da un paradigma mentale all’altro. Possediamo anche la capacità di ragionare e giustificare in modo rigoroso le nostre idee. Creiamo ricche rappresentazioni del mondo che ci permettono di risolvere problemi in una gran varietà di contesti. Non abbiamo bisogno che ci forniscano milioni di esempi di gatti per essere in grado di distinguerli dai cani, o milioni di problemi di calcolo infinitesimale per discernerne i principî fondamentali.

Non è tutto: le nostre caratteristiche psicologiche ci espongono a vulnerabilità, ma pongono anche le basi per le nostre scoperte più creative. Cerchiamo bellezza ed eleganza nelle nostre idee. Nell’apprendimento portiamo con noi speranze e paure. Proviamo gioia, frustrazione, noia e tutti i sentimenti intermedi. Piangiamo e ridiamo. La conoscenza umana, compresa l’intelligenza matematica, è incarnata, emotiva e soggettiva. Tutte caratteristiche che non fanno proprio pensare ai computer, vero? Considerare il cervello come un computer è problematico perché suggerisce un certo grado di passività, come se una massa di viscidume grigio se ne stesse lì ad aspettare di elaborare informazioni. In questo modo si trascura il fatto che il cervello è un organo molto attivo, in continuo mutamento. Quando impariamo, rimodelliamo letteralmente la nostra configurazione neurale. Questa «neuroplasticità» è visibile nell’ippocampo molto sviluppato dei tassisti londinesi, che hanno imparato a memoria migliaia di nomi di strade e creato nuovi percorsi neurali per memorizzare rappresentazioni spaziali incredibilmente dettagliate. Il cervello possiede anche notevoli capacità di recupero: quando una parte subisce un danno, un’altra interviene per svolgere la stessa funzione. L’hardware dei computer non ha la flessibilità del wetware degli esseri umani. Ciò che abbiamo imparato dai recenti progressi dell’IA non è che i computer hanno emulato l’intelligenza umana, ma semplicemente che certi giochi un tempo associati alla massima espressione dell’intelligenza umana non sono affatto il miglior criterio per valutarla. Si possono utilizzare come una lente particolare attraverso la quale osservare alcuni tipi di comportamento intelligente, ma sono ben lontani dal presentare le caratteristiche richieste per poter parlare di intelligenza generale artificiale, un’espressione che comprende la versatilità e la profondità del pensiero umano. […]

Le narrazioni esagerate, tuttavia, persistono; a sentire molti sedicenti esperti, si potrebbe pensare che l’intelligenza generale sia già arrivata. È importante mantenere una posizione equilibrata. Allo stato attuale, l’intelligenza è «risolta» soltanto in parte e i problemi più importanti del mondo reale richiedono l’ingegno e la supervisione delle persone. Quando sopravvalutiamo le capacità dei computer in questo modo, sminuiamo le capacità umane, inoltre dimentichiamo che queste tecnologie si comportano come previsto, cioè come un insieme di strumenti del pensiero complementari che potenziano il nostro modo di pensare.

Da “L’intelligenza matematica. Cosa abbiamo che le macchine non hanno” di Junaid Mubeen, Piccola Biblioteca Einaudi, 297 pagine, 24 euro.