Alla fine dell’intervista, Kashmir Hill apre il suo libro a pagina uno e scrive una dedica all’intervistatore: «To Davide, to the dystopia and protecting la faccia», offrendo la simpatica sintesi di una visione della tecnologia prossima ventura. Evitare il millenarismo e allo stesso tempo proteggersi da una AI invasiva è un buon consiglio. Soprattutto perché arriva da una giornalista investigativa in forza al New York Times che con il suo “La tua faccia ci appartiene” (appena uscito in Italia per Orville Press) ha scavato dentro uno dei furti con destrezza più grossi della Storia. Un bottino da quaranta miliardi di foto. Scaricate dai nostri profili social, date in pasto agli algoritmi e trasformate nel prodotto di riconoscimento facciale perfetto per il controllo sociale, qualunque cosa questo voglia dire per la polizia o per chi voglia promuovere l’acquisto di pannolini.
Al centro dell’indagine, che ha un tono quasi da thriller, una startup segreta, Clearview AI, e nomi falsi a protezione dei signori del silicio, bravissimi a rendersi inattaccabili.
Se dovesse riassumere alle giovani generazioni l’insegnamento del suo libro che cosa direbbe?
Credo si debba insegnare a distinguere tra società che forniscono servizi che ben comprendiamo e altre che giocano con l’AI e che forse non sanno nemmeno loro dove stanno andando. Suggerirei di non cadere nella tentazione di rilasciare i propri dati ogni volta che ci vengono chiesti in cambio di qualcosa. E di evitare l’upload indiscriminato di foto e video. In breve, di prendere sul serio la propria privacy.
Lei lo fa?
(estrae dalla borsa un Motorola che somiglia tanto al vecchio StarTac)
Beh io non cado in tentazione.
Quaranta miliardi di foto rubate. E adesso che cosa succede?
Succede che non sappiamo come saranno utilizzate, chi diavolo le gestirà, le archivierà le distribuirà a chi e per farne cosa. Sappiamo soltanto che il riconoscimento facciale è una finestra aperta in casa nostra. Usando una nostra foto chiunque può entrare e prendere tutti i dati che abbiamo lasciato in bella vista. Qualcuno l’ha fatto e lo farà e forse anche con la complicità di autorità governative. Per poi accorgersi di aver commesso gravi errori, arresti arbitrari, violazioni clamorose del diritto all’oblio. Fa abbastanza paura?
Vista così sembra che essere manipolati per scopi commerciali sia meno grave rispetto al possibile uso dei nostri dati per obiettivi politici o giudiziari.
Ho espresso anche la preoccupazione per uno spregiudicato uso commerciale. C’è stato un caso emblematico, creato dal titolare della società Madison Square Garden che ha utilizzato l’app di riconoscimento facciale per interdire l’accesso ai suoi nemici o presunti tali. Un avvocato esperto di diritto del lavoro non è stato fatto entrare al Radio City Hall per assistere allo spettacolo “Christmas Spectacular” con la sua bambina. È orwelliano. Su altre conseguenze possiamo riderci sopra ma sono altrettanto inquietanti. Lei immagini di entrare in farmacia e sentire un dottore che, da dietro al bancone, le dice: «Buongiorno, quindi ha finito i condom, le prendo un’altra scatola». La conoscenza dei dettagli della nostra vita, della nostra salute e delle nostre relazioni sta per diventare di dominio pubblico grazie a una foto che abbiamo postato in buona fede.
Esistono società che, come ha fatto Clearview AI con le immagini, si stanno muovendo in segreto per campionare una quantità ugualmente mostruosa di voci?
Il voice cloning, la clonazione della voce è un altro territorio dove le regole ancora non esistono. Esistono però i mezzi per estorcere a chiunque l’impronta vocale. Non ho ancora lavorato su questo ma recentemente nel New Hampshire qualcuno ha clonato e trasmesso un finto discorso di Joe Biden.
Quello che ci impressiona dell’AI oggi, porterà presto, secondo alcuni esperti, ad annoiarci. Alla fine l’autenticità dell’umano vincerà?
Siamo creature adattabili, la responsabilità è in parte nostra e in parte di chi costruisce le tecnologie. Ci aspettano anni rischiosi ma c’è chi sta maturando una visione più umanista anche tra gli startupper tecnologici.
Come hanno reagito i potenti della Silicon Valley all’uscita del suo libro?
Ho sentito soltanto alcuni dei loro dipendenti e mi è parso di capire che qualche turbolenza ci sia stata. Qualcuno so per certo che è corso ai ripari.
Chi?
Open AI, la società che sviluppa Chat Gpt aveva implementato un sistema che sulla base delle immagini inserite nei prompt forniva descrizioni e identità della persona, ma hanno già provveduto a oscurare i volti.
Nell’ultimo anno abbiamo assistito a un’ambivalenza dei big tech nei confronti dello sviluppo di AI. Google ha frenato dicendo che la macchina mostrava segni di schizofrenia, Elon Musk pareva spaventato dell’impatto sui posti di lavoro. Ma poi eccoli lì, che giocano ancora. Perché?
Credo che nella Silicon Valley si stiano concentrando sull’esistenza di rischi reali dell’AI. Hanno paura che sostituisca gli umani e temono l’impatto sull’economia e sul lavoro. I giornalisti ormai monitorano attentamente le criticità, per loro sbagliare è un rischio.
Sta dicendo che i Lords della Valley sono diventati più buoni e coscienziosi?
Quando hai la possibilità di interagire con miliardi di utenti è chiaro che il tuo potere è esagerato e compete con quello politico e quello della finanza globale. Ma nel fare lobbying i big tech stanno affrontando problemi come il GDPR, dato che la privacy limiterà la loro libertà di azione e gli costerà tantissimo. Non possono più permettersi scandali come quello di Cambridge Analytica. In qualche modo, le regole proteggono anche loro.
Lei parla di un paradosso, il fatto che da questa tecnologia invasiva siamo stati protetti in passato proprio da Meta e Google. Com’è possibile?
Il fatto che queste aziende abbiano rivoluzionato il nostro modo di essere visibili in pubblico e costretti a prendere seriamente la privacy non significa che non abbiano maturato decisioni strategiche sul riconoscimento facciale. In entrambi i casi oltre dieci anni fa erano già stati sviluppati internamente strumenti simili a Clearview AI. Ma la pericolosità di questi li ha spinti a bloccarne il rilascio e ad acquisire molte startup che ci lavoravano da tempo. Così questa tecnologia è stata tenuta a bada fino a quando lo strumento è diventato open source. Oggi potenzialmente chiunque può rilasciare app basate sul riconoscimento del volto.
Nessuno, in politica, ha tentato di proteggere i cittadini?
In realtà c’è un caso virtuoso, lo stato dell’Illinois. Chi abita lì, oggi ha più diritti di difendersi dalle conseguenze del riconoscimento facciale. Lo dobbiamo al Biometric Information Privacy Act, una legge visionaria del 2008. Afferma che chiunque desideri utilizzare dati biometrici delle persone, incluso il volto, l’impronta vocale e altri dettagli fisici, deve ottenere il loro consenso scritto. Ogni violazione è punita con cinquemila dollari di multa. Clearview ha avuto molti problemi in Illinois e diversi prodotti di Google come la telecamera di sorveglianza Nest Cam non possono essere venduti.
Scenario ricco e in evoluzione, avrà ancora molto da investigare e da scrivere. Che pista sta seguendo ora?
Voglio prendermi una pausa dalla tecnologia e dell’AI. Oggi mi interessa di più indagare il comportamento umano. Ci sono tante rivoluzioni in atto che le persone faticano a comprendere. Vorrei aiutarle spiegando loro il senso del cambiamento, le possibilità che abbiamo di adattarci, dal modo di guidare un’auto a quello di curarci.
Un domani non lontano Chat Gpt potrebbe scrivere un libro come il suo?
No. Chat Gpt aiuta a fare i copy, a scrivere per il marketing, ma non ha nulla a che fare con la creatività dell’essere umano.
Gli americani devono temere di più la prossima vicenda Clearview AI o la vittoria di Donald Trump alle prossime elezioni?
Dovrebbe chiederlo agli elettori che comprano il New York Times (ride).