La paurosa scienza dell’intimità digitale

Intelligenza Artificiale e cinema

La prima cosa che mi è venuta in mente quando ho letto la trama di Her, l’ultimo film di Spike Jonze, è S1m0ne, un film del 2002 con Al Pacino, diretto da Andrew Niccol. Poi ho pensato alla puntata di The Big Bang Theory in cui Raj parla con Siri e si fa trasportare tanto dalla relazione virtuale da innamorarsi del sintetizzatore. La invita a cena, cerca di baciarla, diventa geloso, ci discute e non mi ricordo bene come va a finire. Forse cade semplicemente nel nulla, forse Siri è ancora lì latente da qualche parte nella mente e nelle tasche del giovane asiatico e salterà fuori prima o poi. Non so, davvero.

Nel 1966, Joseph Weizenbaum, un professore ordinario del MIT e ricercatore informatico – nonché visionario, ma questa è un’altra storia – mise a punto un programma chiamato ELIZA, che non aveva altro scopo se non quello di parlare con chi utilizzava il computer sul quale era caricato, dando risposte aperte e abbastanza elusive, ma avvicinandosi quanto più possibile a una conversazione naturale. Per fare questo ELIZA attingeva a poche centinaia di righe di codice. Le intenzioni di Weizenbaum erano quelle di riprodurre una conversazione virtuale con un analista stereotipato, probabilmente per sciogliere la tensione degli ingegneri costretti a rapportarsi per ore con le sole macchine – siamo in tempi non sospetti, oggi io ho una relazione profonda con il mio Mac e non la cambierei per nulla al mondo, che mi parli o meno. Quando la sua assistente, che aveva cominciato a chiacchierare spontaneamente con il simulatore, chiese a Weizenbaum di lasciare la stanza per non assistere a quella che definì una «conversazione privata», il professore si rese conto che era necessario spostare l’attenzione dall’efficienza della macchina al modo in cui gli esseri umani si approcciavano ad essa.

 https://www.youtube.com/embed/vti6yzyuy1I/?rel=0&enablejsapi=1&autoplay=0&hl=it-IT 

«Era stupefacente vedere quanto velocemente e quanto profondamente le persone che avevano una conversazione con ELIZA cominciassero a relazionarsi con la macchina, e quanto inequivocabilmente cominciassero a darle una forma umana» scrive Weizenbaum. Non mi risulta che ELIZA avesse una voce, ma se devo la immagino robotica e affettata, eppure così sensuale da farmi venire voglia di aprirmi abbastanza e cominciare a pormi qualche domanda sulla mia salute mentale. La stessa cosa accadeva alle persone «abbastanza normali» che incontrava il professore, ad Al Pacino in S1m0ne – che però aveva il conforto di un’immagine, anche piuttosto invitante – a Raj Koothrappali in TBBT e, non ultimo, a Joaquin Phoenix nel film di Spike Jonze. Questo poi fa avanzare così tanto il rapporto con la sua voce amata – quella di Scarlett Johansson, mica per niente – da trasformarla nell’unico modo per recuperare una socialità perduta. L’amore non è una voce al computer, ma la voce è l’unico amore che ha.

L’idea che le persone possano cominciare a confondere una conversazione simulata con una conversazione reale, a fonderle assieme fino a renderle una cosa unica se non addirittura intercambiabili – l’incubo di Ray Bradbury! – mette radici ai tempi delle prime ricerche sull’intelligenza artificiale. Quando anche solo parlarne faceva venire strane idee di omini imbullonati e con le antenne pronti a ridurre in schiavitù l’umanità. Oggi l’efficienza di un programma di simulazione d’intelligenza basato sulla capacità di ingannare l’interlocutore, cioè il traguardo da passare per considerare un computer capace di giudizio e (si spera) raziocinio, è misurata dal Turing Test. Alan Turing è stato uno dei padri dell’informatica, abbastanza lungimirante da ipotizzare, nel 1950 all’interno di quello che è considerato il primo articolo sull’IA, che entro il ventunesimo secolo avremmo raggiunto il punto in cui poter «parlare di macchine pensanti senza il timore di essere contraddetti». Il fatto che il Turing Test non l’abbia ancora passato nessuno – in realtà c’è chi sostiene che sia stato scavalcato diverse volte da diversi chatterbot, e di volta in volta riformulato – vive nella sacrosanta evidenza che per ora tutti i simulatori vengono utilizzati consapevolmente, esempi televisivi e cinematografici a parte. Se parlo con una macchina è perché ho scelto di parlare con una macchina, ma se qualcuno provasse ad ingannarmi – penso a una truffa telefonica, o alle chat ammiccanti e attira click che di tanto in tanto compaiono al piede delle pagine commerciali, per esempio? Non so neanche questo, i test fatti fino ad ora hanno sempre, alla lunga, dato esito negativo e Siri – che dal 2011 si è infiltrata alla chetichella in iPhone e iPad – sa ancora troppe poche cose, e ne impara di nuove troppo lentamente, per fregare veramente qualcuno.

Cinema e televisione intanto vanno per conto loro, e producono, come hanno sempre fatto e come la letteratura prima, teorie alternative accettabili. Inoltre aiutano a formare la preziosissima consapevolezza di cui avremo bisogno quando il maledetto momento in cui i robot prenderanno il sopravvento verrà davvero. A un certo punto di Her, Samantha – questo il nome del simulatore/Johansson – diventa più umana dell’umano che se n’è innamorato. Twombly – il personaggio interpretato da Phoenix – vive dal principio del film una vita meccanica, regolata, silenziosa e pigra e, prima della fine della storia, riesce a imparare qualcosa sulle relazioni sociali dalla macchina che all’inizio non sapeva nemmeno cosa “relazioni sociali” volesse dire. Questo è il ribaltamento che ci sarà utile per sfuggire dalle grinfie della tirannia virtuale, o per lo meno è la sua proiezione preventiva. L’ingenuità, che per i computer è solo sinonimo di ignoranza e una volta persa – una volta acquisita la nozione – non è più riproducibile, è quello che veramente ci salverà. Finché saremo abbastanza stupidi da farci fregare da una macchina, abbastanza fessi da innamorarci di una cosa che mai e poi mai considererà nemmeno l’idea di innamorarsi di noi, pur dicendoci sempre quello che ci aspetteremmo da un’amante, saremo al sicuro.

Finché non scegliamo una delle due pillole, abbiamo il potere di imparare a comprendere il Matrix, finché non tocca la parete azzurra Truman è un uomo libero in potenza. E anche dopo acquisisce un potere di scelta che nessuna macchina avrà mai. Il vantaggio, questo ci salverà.

A chi, però, sostiene che è molto difficile considerare il comportamento umanoide di un computer come “volontario”, ovvero conscio, Turing risponde che «si può dire lo stesso del comportamento umano, l’unico modo per determinare senza ombra di dubbio che un altro individuo sta pensando è, di fatto, essere quell’individuo». Anche nella certezza siamo afflitti dal dubbio, quindi, e cosa ci rimane? C’è una seconda scelta, ed è quella per cui opterò alla chiusura dell’articolo. Walt Whitman nell’Erudito astrologo recita: «quando udii l’erudito astronomo, | quando dimostrazioni e cifre vennero incolonnate dinanzi a me, | quando mi mostrarono carte e diagrammi per sommarle, dividerle e misurarle, | quando mi sedetti a udire il seminario dell’astronomo tra mille applausi in sala, | oh, quanto presto mi stancai e stufai, | fino a che mi alzai e me ne scivolai via scappando, | nella mistica aria notturna brumosa, e di quando in quando | rimirai in perfetto silenzio le stelle». Abbandonare la sala, ecco cosa ci resta. Alzarsi e andarsene e di tanto in tanto fare un’illazione, che comunque, quando il momento verrà, non ce ne renderemo conto.  

NOTA: per chi volesse provare ELIZA, ce ne sono miriadi di versioni disponibili, tutte piuttosto ripetitive e non molto stimolanti. Ecco la prima che mi compare su Google.

Le newsletter
de Linkiesta

X

Un altro formidabile modo di approfondire l’attualità politica, economica, culturale italiana e internazionale.

Iscriviti alle newsletter