L’intelligenza artificiale, quindi, è un’idea, un’infrastruttura, un’industria, una forma di esercizio del potere e un modo di vedere le cose; è anche una manifestazione di un capitale altamente organizzato sostenuto da vasti sistemi di estrazione e logistica, con catene di approvvigionamento che avviluppano l’intero pianeta. Tutte queste cose fanno parte di quello che è l’intelligenza artificiale: una combinazione di due parole su cui è mappato un insieme complesso di aspettative, ideologie, desideri e paure.
L’intelligenza artificiale può sembrare una forza spettrale, come un calcolo disincarnato, ma questi sistemi sono tutt’altro che astratti. Sono infrastrutture fisiche che stanno rimodellando la Terra, modificando contemporaneamente il modo in cui vediamo e comprendiamo il mondo.
È importante per noi fare i conti con questi numerosi aspetti dell’intelligenza artificiale: la sua malleabilità, il suo disordine e la sua portata spaziale e temporale.
La promiscuità dell’IA come concetto, la sua disponibilità alla riconfigurazione fanno sì che essa venga utilizzata in una pluralità di modi: può riferirsi a qualsiasi cosa, dai dispositivi consumer come Amazon Echo ai sistemi di elaborazione back-end senza nome, dalle astruse pubblicazioni tecniche alle più grandi compagnie del mondo. Ma anche questo ha la sua utilità.
L’ampiezza dell’espressione «intelligenza artificiale» ci autorizza a considerare tutti questi elementi insieme e nella loro profonda interconnessione: dalla politica dell’intelligenza alla massiccia raccolta dei dati; dalla concentrazione industriale del settore tecnologico alla geopolitica militare; dall’ambiente degradato alle continue forme di discriminazione.
Il compito che ci prefiggiamo è di rimanere con i piedi per terra per osservare i significati mutevoli e plastici dell’espressione «intelligenza artificiale» come un contenitore in cui vengono collocate e da cui vengono poi rimosse varie cose, perché anche questo fa parte della storia.
In poche parole, l’intelligenza artificiale è oggi un attore nella formazione della conoscenza, nella comunicazione e nel potere. Queste riconfigurazioni si stanno verificando a livello di epistemologia, principi di giustizia, organizzazione sociale, espressione politica, cultura, concezione del corpo umano, soggettività e identità: cosa siamo e cosa possiamo essere. Ma è possibile andare oltre. L’intelligenza artificiale, nel processo di rimappatura e intervento nel mondo, è politica condotta con altri mezzi, sebbene sia raramente riconosciuta come tale. Queste politiche sono guidate dalle grandi società dell’IA, vale a dire la mezza dozzina di aziende che dominano il calcolo planetario su larga scala.
Molte istituzioni sociali sono oggi influenzate da questi strumenti e da questi metodi, che danno forma a ciò che valutano e al modo in cui vengono prese le decisioni, creando una complessa serie di ripercussioni.
L’intensificazione del potere tecnocratico è un processo in corso da molto tempo, ma attualmente in accelerazione anche in virtù della concentrazione del capitale industriale in un momento di austerità economica e di outsourcing, che comprende il taglio dei fondi ai sistemi di assistenza sociale e alle istituzioni che un tempo fungevano da freno al potere del mercato. Questo è il motivo per cui dobbiamo confrontarci con l’IA come forza politica, economica, culturale e scientifica.
Come osservano Alondra Nelson, Thuy Linh Tu e Alicia Headlam Hines, «le controversie in campo tecnologico sono sempre collegate a lotte più ampie per la mobilità economica, a questioni politiche e alla costruzione di comunità».
Siamo in un momento critico, che ci impone di porre domande difficili sul modo in cui viene prodotta e adottata l’IA. Dobbiamo chiederci: cos’è l’IA? Quali forme di politica propaga? Quali interessi promuove e chi rischia il maggiore danno? E dove dovremmo limitare l’uso dell’IA? Queste domande non avranno risposte facili.
Ma non si tratta nemmeno di una situazione irrisolvibile o di un punto di non ritorno: le forme di pensiero distopiche rischiano di immobilizzarci nell’azione e di impedire interventi urgenti. Come scrive Ursula Franklin, «la fattibilità della tecnologia, come la democrazia, dipende alla fin fine dalla pratica della giustizia e dall’imposizione di limiti al potere».
da “Né intelligente né artificiale. Il lato oscuro dell’IA”, di Kate Crawford, il Mulino, 2021, pagine 320, euro 20