Informazione manipolataCom’è profondo il pericolo connesso ai deep fake

Questo è un articolo dell’ultimo numero di Linkiesta Magazine + New York Times World Review in edicola a Milano e Roma e ordinabile qui.
——————————————

Pubblichiamo il dibattito moderato da Farah Nayeri, giornalista culturale del New York Times con Toomas Hendrik Ilves, ex presidente della repubblica estone, Ashley Tolbert, senior security engineer di Netflix e Bill Posters (nome d’arte di Barnaby Francis), artista, ricercatore, scrittore e facilitatore.

Mentre i video deep fake e altri media manipolati diventano più sofisticati e più economici da produrre, ne stanno ora facendo esperienza anche le persone che non fanno parte dell’ambiente tecnologico. Per i loro creatori questi media sono un potente strumento espressivo. Ma possono anche essere usati per influenzare le persone e per modificarne le opinioni. Il semplice fatto di usare la definizione “arte” dà ai creativi la licenza di giocare con la realtà? E come possiamo preparare e proteggere noi stessi, le nostre istituzioni e le nostre democrazie quando il vedere non è più sufficiente perché si possa credere?

Nayeri
Io penso che i deep fake abbiano attirato per la prima volta l’attenzione del pubblico generalista nel 2017 quando diventarono virali moltissimi video di personaggi famosi e di attori impegnati in performance pornografiche che non avevano mai svolto nella loro vita reale. Quindi, tutto il dibattito intorno a questo argomento ha iniziato a infiammarsi più meno in quel periodo. E oggi, a quanto mi pare di capire, più o meno chiunque può creare un deep fake. Barnaby, mi rivolgo a lei. So che il suo nome d’arte è Bill Posters. Vorrei che ci parlasse del concetto di deep fake. Perché per lei si tratta di un modo di fare arte, di una forma d’arte e io mi rendo conto che l’arte abbia a che fare con l’artificio e con il rappresentare le persone attraverso una sorta di finzione. Ma lei è consapevole delle implicazioni per la democrazia e delle implicazioni politiche della sua arte?

Francis
Insieme a un collaboratore, Daniel Howe, ho creato una serie di opere che ho chiamato “Big Data Public Faces”. Tra queste ci sono fake video di Mark Zuckerberg di Facebook e di varie altre persone famose. Queste opere sono state riprese e sono diventate virali, creando un gran polverone sui temi a cui le nostre opere sono connesse. Chiaro? Stiamo parlando di disinformazione e di informazione manipolata e del modo in cui la verità viene diffusa online o di come la nostra percezione può essere alterata attraverso l’uso di nuovi media come questi. Noi usiamo i deep fake in questa forma.

Nayeri
Ma poi può capitare che qualcuno, guardando un frammento del vostro video in cui Zuckerberg dice cose inquietanti, creda che Mark abbia davvero detto quelle cose, prenda il video e lo diffonda su altre piattaforme.

Francis
Certo, sì, è senz’altro possibile.

Nayeri
Che lei stia facendo arte in un contesto artistico va benissimo, ma poi quando si colloca questa arte fuori dal contesto artistico ecco che emergono diversi pericoli.

Francis
Certamente. E questo è vero per qualunque tipo di informazione che viene condivisa su qualsiasi forum o in qualsiasi ecosistema informativo online, no? O è citata male o è male interpretata eccetera. Quindi i veri elementi chiave qui sono la competenza e il contesto. Quindi ogni cosa che io condivido online è contestualizzata come un’opera d’arte contemporanea, sapete, come un opera d’arte concettuale. Insomma, c’è sempre questo tipo di trasparenza in relazione ai media che vengono condivisi, ok? Purtroppo non accade altrettanto in molti dei forum o dei contesti informativi in cui vengono condivise le cose online.

Nayeri
Toomas Hendrik Ilves, lei e l’ex presidente dell’Estonia. E la rivista Forbes ha scritto che, mentre lei era a capo dello Stato, l’Estonia è diventata il Paese con il più alto livello di digitalizzazione del mondo. Lei ha condotto una rivoluzione digitale nel suo Paese e, a quanto ne so, oggi in Estonia è possibile essere identificati attraverso la tecnologia del riconoscimento facciale – o non è così? Insomma, quanto è digitale l’Estonia?

Ilves
In Estonia l’erogazione di tutti i servizi pubblici e tutte le interazioni tra il cittadino e lo Stato possono avvenire digitalmente, tranne il matrimonio, il divorzio e l’acquisto o la vendita di proprietà immobiliari – e questa non è una cattiva idea dal momento che negli Stati Uniti due mafiosi russi hanno acquistato appartamenti nella Trump Tower attraverso società di comodo anonime. Tutto il resto può essere fatto online. Quando, l’anno scorso, ho letto un articolo sul suo giornale sul fatto che, dopo due mesi di Covid, ci fosse sostanzialmente un arretrato di 3,5 milioni di richieste di passaporto mi sono domandato perché ci fosse questo ritardo. Beh, perché gli uffici erano chiusi. Invece, in Estonia, quando devo rinnovare il mio passaporto vado semplicemente online. Devo caricare una nuova fotografia perché, sa, i capelli sono meno e sono più grigi, ma, a parte questo, nient’altro è cambiato. Tutto il resto rimane uguale e non devo compilare nient’altro. Noi facciamo così. Per quanto riguarda il riconoscimento facciale invece no, non molto. I deep fake invece mi preoccupano molto di più.

Nayeri
Se il suo Paese sta lavorando sulla tecnologia del riconoscimento facciale e qualcuno, per esempio, finge di essere me e fa un video in cui mi si vede fare qualche azione criminale, lei capisce che…

Ilves
Penso che sia ancora peggio. Penso che lo sviluppo dei deep fake, diversamente da quanto è accaduto con la fotografia e anche con Photoshop, colpisca davvero la base empiristica della democrazia, perché in questo caso sono coinvolti anche i movimenti e la voce.

Nayeri
Perché crede che questa sia una minaccia per la democrazia?

Ilves
Perché si può danneggiare praticamente ogni cosa. Si può fare un video fake di un politico che prende una tangente. Si possono screditare persone che sono state legittimamente elette creando dei deep fake. E il problema è che le soluzioni tecnologiche per combattere tutto questo sono piuttosto limitate. Quindi dovremo insegnare alle persone a non credere a quello che vedono.

Tolbert
Condivido la convinzione che i deep fake siano preoccupanti. Tuttavia, vorrei rimanere ancora nell’ambito dei deep fake come forma artistica, va bene? Ecco, i “media sintetici” sono una forma d’arte e sono una cosa che esiste fin dal Diciannovesimo secolo. Ma, quando si esce dai confini di quell’ambito artistico, ci sono rischi catastrofici connessi ai deep fake. Se si calibra bene il momento in cui viene diffuso un deep fake questo può avere un reale impatto su delle elezioni o sulla reputazione di qualcuno. Quindi, sostanzialmente, si approfitta della possibilità di influenzare le persone in un istante. E poi, una volta che il seme è stato piantato, la cosa è quasi irreversibile ed è di fatto impossibile tornare indietro e invertire la corsa di quella presunta notizia che si è diffusa in un istante. Quindi per me il problema è la viralità, è il fatto che questa linea che unisce la disinformazione ai deep fake sia semplicemente troppo potente.

©️2021 The New York Times Company

Linkiesta Magazine + New York Times World Review in edicola dal weekend a Milano e Roma e ordinabile qui.