La parola “deepfake” viene spesso applicata a foto e video falsi piuttosto che a testi falsi. Fino a poco tempo fa, le immagini false venivano in genere prodotte con Photoshop, la tecnologia cgi e altri strumenti. Un esempio è l’apparizione della principessa Leia verso la fine del film del 2016 Rogue One: A Star Wars Story. Assomiglia al giovane personaggio interpretato da Carrie Fisher nel film originale di Star Wars del 1977. La scena è stata creata utilizzando la tecnologia cgi. Gli specialisti hanno incollato la faccia di Fisher dal film del 1977 sul corpo dell’attrice norvegese Ingvild Deila. La scena di Rogue One ha ricevuto reazioni contrastanti. La tecnologia cgi era limitata e molti spettatori hanno trovato la replica della principessa Leia stridente o poco convincente. Tuttavia, solo quattro anni dopo, dei dilettanti hanno utilizzato un programma di intelligenza artificiale ampiamente disponibile per replicare la scena adattando il volto di Leia alla scena del film. Molti spettatori hanno trovato la versione amatoriale del 2020 molto più convincente della versione professionale del 2016. La nuova versione di Leia era un deepfake.
Le foto e i video deepfake sono prodotti da reti neurali “profonde”, reti interconnesse con molti strati di unità computazionali simili a neuroni. Queste reti possono essere addestrate nel tempo tramite un processo di deep learning, che regola le connessioni tra le unità in risposta al feedback. Il deep learning può addestrare le reti a svolgere molte attività, inclusa la produzione di immagini o video altamente convincenti. Spesso, una foto o un video deepfake mostra qualcuno mentre fa qualcosa che non ha mai fatto o dice qualcosa che non ha mai detto. A volte, una foto o un video deepfake ritraggono una persona che non è mai esistita.
I deepfake possono essere trovati in contesti diversi come la politica e la pornografia. Spesso raffigurano personaggi pubblici che dicono cose oltraggiose. Ce n’è uno in cui Barack Obama dice “Killmonger aveva ragione”, riferendosi all’antagonista rivoluzionario in Black Panther. Ce n’è un altro in cui Donald Trump appare nella serie tv Better Call Saul e spiega come funziona il riciclaggio di denaro. In una campagna elettorale a Delhi nel 2020, il Bharatiya Janata Party di Delhi ha utilizzato questa tecnologia per creare un video in cui uno dei suoi candidati, Manoj Tiwari, si rivolgeva a una folla in haryanvi, una lingua che non parla. È probabile che la tecnologia deepfake migliori rapidamente. Presto non saremo in grado di distinguere foto o video deepfake da foto e video reali. Questo genere di contenuti potrebbe benissimo entrare a far parte dei mondi della realtà aumentata o virtuale. Forse un’amica ci apparirà tramite la realtà aumentata, dicendo qualcosa che non ha mai detto. Alla fine ci saranno intere realtà virtuali deepfake destinate a convincere le persone che si trovano in un dato posto quando non è così.
I deepfake sollevano una versione della Domanda sulla Realtà: essi sono reali? Se conferiamo realtà agli oggetti virtuali, non dobbiamo fare lo stesso per i deepfake? Anche loro sollevano una versione della Domanda sulla Conoscenza: come possiamo sapere che qualcosa che stiamo vedendo non sia un deepfake? Quando i deepfake sono diffusi, possiamo sapere quando una rappresentazione è reale? Le stesse domande sorgono riguardo alle notizie ingannevoli, ora spesso conosciute come fake news. È diventato sempre più comune diffondere fake news per colpire alcune figure politiche e favorirne altre. Ancora una volta, possiamo porre la Domanda sulla Realtà: le fake news sono reali? E, cosa più importante, possiamo porre la Domanda sulla Conoscenza: come possiamo sapere quando delle notizie sono fake news?
[…]
Cominciamo con la relazione tra deepfake e realtà. La prima domanda è se le entità e gli eventi che incontriamo nelle immagini deepfake (foto e video) siano reali. Il deepfake di Obama è realmente Obama? Un cane deepfake è realmente un cane? È almeno un cane virtuale? È un’entità digitale? Si potrebbe dire che i deepfake sono un tipo di realtà virtuale. Se è così, la mia versione del realismo virtuale si applicherà ai deepfake e dovrò dire che i deepfake di Obama, di un cane o di un gatto sono reali, nel senso in cui le versioni in vr di Obama e del cane o del gatto sono reali. Intuitivamente, sarebbe una conclusione strana, ma non è la prima volta che argomento a favore di strane conclusioni. Fortunatamente, questa conclusione non segue. I deepfake standard non sono affatto esempi di realtà virtuali.
Ricordiamo che le realtà virtuali sono immersive, interattive e generate da un computer. I deepfake soddisfano una condizione e potrebbero facilmente soddisfarne un’altra. Essi sono effettivamente generati da un computer e, sebbene al momento non siano immersivi, è abbastanza facile immaginarne delle versioni immersive, dove un video deepfake a 360 gradi è visualizzabile tramite un visore. Tuttavia, foto e video non soddisfano la condizione dell’interattività. Le foto e i video deepfake sono costituiti da un’immagine fissa o da una serie fissa di immagini che non devono interagire con nient’altro. Poiché non sono interattivi, la maggior parte dei deepfake attuali è più simile ai film digitali che ai mondi della vr. È importante sottolineare che essi non contengono oggetti virtuali in piena regola. Possono contenere pattern di bit al loro interno che corrispondono grosso modo a Obama, per esempio, o a un particolare cane o gatto. Ma questi pattern di bit non hanno i poteri causali di una versione virtuale del soggetto. Un Obama virtuale è interattivo, e quindi in grado di produrre una varietà di espressioni o azioni a seconda di come interagite con lui. Anche un cane virtuale, o una palla virtuale, sono interattivi. I cani deepfake e le palle deepfake non hanno poteri interattivi. Nella migliore delle ipotesi hanno il potere di apparire in un certo modo.
[…]
Sul breve periodo, i deepfake possono coinvolgere entità digitali reali, ma queste non hanno niente dei poteri causali degli oggetti fisici o virtuali standard. Sul lungo periodo, i deepfake dell’intelligenza artificiale virtuale potranno coinvolgere entità digitali reali con poteri causali pari a quelli di oggetti fisici o virtuali standard. Tuttavia, in entrambi i casi probabilmente diremo che un deepfake non è un’entità reale. Il deepfake di Obama (probabilmente) non è l’Obama reale. Un pallone da calcio deepfake (probabilmente) non è un pallone da calcio reale. Questo è sufficiente per sollevare seriamente la Domanda sulla Conoscenza.
