Falso allarme?Forse abbiamo sopravvalutato il rischio dei deepfake

La nuova tecnologia in grado di sovrapporre in modo digitale il volto di una persona al corpo di un’altra minacciava di provocare conflitti, caos e disorientamento. In realtà è semplice da tracciare e bloccare. Il vero problema è che contribuisce al flusso di disinformazione che divide la società

di Christian Gertenbach, da Unsplash

Se si parla di deepfake, la prima reazione è di allarme. La tecnologia digitale che permette – detto alla buona – di creare video in cui il volto di qualcuno viene sovrapposto al corpo di un altro, è stata presentata negli ultimi anni come la frontiera finale della disinformazione e del caos. Le possibilità sono del resto infinite: qualcuno potrebbe creare un video in cui il presidente degli Stati Uniti dichiara guerra alla Corea del Nord, oppure immagini in cui il capo di una multinazionale quotata dà le sue dimissioni, scatenando le reazioni delle borse.

Sono tutte ipotesi percorribili, esempi da manuale. Al momento però l’impiego principale riguarda tutt’altro e sono i filmati porno, in cui su richiesta si può avere rapporti sessuali con celebrità del cinema, come Scarlett Johansson, o con persone che si frequentano nella vita quotidiana. Come ricorda questo articolo di The Verge, anche questa è una cosa «dannosa e bieca», soprattutto per le donne al centro di casi di molestie.

Lo spiega nel suo libro “Trust No One: Inside the World of Deepfakes” il giornalista e romanziere americano Michael Grothaus, esperto in sottoculture della rete: questa tecnologia dà origine a sentimenti contrastanti e lo ha sperimentato in prima persona: per coglierne appieno la portata aveva fatto creare un filmato deepfake del padre, morto da tempo. La reazione è stata complessa: da un lato la contentezza di poterlo rivedere, dall’altra il disgusto spaventato per la rottura del velo di verità. È sul filo di questa ambiguità che cammina il fascino del deepfake. È insieme la prospettiva, immaginaria, di superare i confini della morte, di dare volto e corpo all’utopia, di veder realizzate le proprie fantasie sessuali. Ma al tempo stesso c’è il rischio di creare una realtà alternativa, falsa, in cui proiettare la propria esistenza.

È qui che si può giocare, al massimo, il potenziale impatto sul piano della comunicazione politica. Finora il caos e le catastrofi evocate negli anni scorsi non si sono presentate. Il caso più eclatante riguarda il contabile di una multinazionale che, ingannato dalla registrazione manipolata della voce del suo amministratore delegato, ha girato ai truffatori la bellezza di 243 dollari. Sul piano politico, nel 2016 era girato tra gli elettori di Donald Trump un video di livello amatoriale in cui l’attore Dwayne Johnson umiliava Hillary Clinton. Divenne virale, ma non certo perché persuasivo: la sua forza era quella di confermare i pregiudizi e le idee dei sostenitori repubblicani.

Il punto è qui: i deepfake non sono una rivoluzione, tutt’altro. Questo vuol dire che, per alcuni limiti strutturali (glitch e sfumature) non sfuggono (ancora) all’occhio attento di chi li guarda e, soprattutto, al sistema di controllo degli algoritmi installati da qualche anno sulle piattaforme social. I deepfake sono facili da tracciare e individuare: questo vuol dire che, per i troll che mirano a diffondere false notizie, non rappresentano uno strumento efficace.

Se il loro potenziale ingannevole è limitato, va detto però che funzionano, più che altro come il resto della disinformazione online: confermano e rafforzano convinzioni e stereotipi già presenti nelle persone. Contribuiscono, in altre parole, a polarizzare in modo ulteriore l’opinione pubblica. Sempre nel 2016, circolava negli ambienti MAGA un video in cui Papa Francesco faceva il suo endorsement per Trump. Era così falso che non sembrava nemmeno tentare di essere credibile. Nelle cerchie trumpiane è comunque piaciuto, più per il messaggio che veicolava, espresso come una forma di fiction politica amatoriale, che per la sua pretesa di verità. Forse la verità, questa sì profonda, è che con le società sempre più divise e polarizzate il peggior problema non sono i deepfake.