Basso reddito, background migratorio, età inferiore ai diciotto anni, aver cambiato più di due scuole ed essere stato testimone di violenza. Ma anche reddito mediano negli ultimi dodici mesi, luogo di nascita, numero di viaggi effettuati nell’ultimo anno, genere, mezzo di trasporto usato per andare al lavoro, ricezione di assistenza pubblica o buoni pasto negli ultimi dodici mesi, tipo di famiglia (se multigenerazionale, e le dimensioni), matrimoni finiti in vedovanza, numero di divorzi, livello di istruzione, lingua madre. Queste sono alcune delle caratteristiche che vengono impiegate e incrociate dai modelli di intelligenza artificiale, a scopo predittivo, incaricati di valutare il livello di rischio di migliaia di esseri umani quotidianamente.
Omar è un nome fittizio per raccontare una delle tante storie e testimonianze raccolte da pilp (Public Interest Litigation Project), un progetto legale fondato nel 2014 dal Comitato olandese degli avvocati per i diritti umani che supporta ong, gruppi di interesse, movimenti, comunità, attivisti, avvocati e accademici per promuovere e difendere i diritti umani. Non sono gli unici ad aver lavorato sul caso di Top400 e di ProKid+ per dare voce agli adolescenti e alle loro famiglie.
La regista Nirit Peled, nel suo documentario Moeders, ha raccontato i sentimenti e le conseguenze provate da quattro madri i cui figli sono entrati nel mirino di Top400 e di sentenze automatizzate che hanno sconvolto profondamente le loro vite. Saskia, una di loro, le paragona a «profezie che si auto‐ avverano». È preoccupata per suo figlio, che ha assistito alla morte di due dei suoi migliori amici nel giro di pochi mesi e che presenta tutti i sintomi di un trauma molto profondo. Lo Stato le ha promesso per suo figlio delle cure e un supporto psicologico che non arrivano mai, ma in compenso ha attivato contro di lui una macchina di sorveglianza, controllo e sospetto che lo discriminerà ed escluderà per tutta la vita. Sua madre lotta per lui contro processi inspiegabili, invisibili e deresponsabilizzati, frutto della nuova burocrazia che li tiene in ostaggio e che non opera più solo in modo spersonalizzato sul presente, ma ora pretende anche di prevedere e automatizzare il futuro.
Le stesse tecnologie, sviluppate e orientate diversamente, avrebbero potuto portare a individuare nelle stesse persone le beneficiarie di supporto, cure e aiuti da parte dello Stato, ma abbiamo deciso di usarle quasi esclusivamente per addossare colpe e giudicarle come colpevoli fino a prova contraria. I vertici pubblici (e funzionari) che hanno deciso di impiegare questa tecnologia hanno motivato la loro scelta spiegando che si trattava di un «nuovo approccio rivoluzionario alla prevenzione del crimine» che avrebbe portato enormi benefici.
Da qualche anno sentiamo parlare dell’intelligenza artificiale – e più in generale delle tecnologie dell’informazione e della comunicazione – come di una rivoluzione. Ma in realtà è tutta la storia umana a essere scandita da nuove tecnologie che, per come le abbiamo sempre studiate, plasmano cambi di paradigma e nuovi ordini sociali. Sono quelle che all’inizio degli anni sessanta l’epistemologo Thomas Kuhn chiamava «scienze rivoluzionarie». La rivoluzione, incarnata da specifiche scienze e tecnologie, è ciò che consente la transizione da un paradigma all’altro, ciò che sovverte intere visioni del mondo. Da sempre studiamo le rivoluzioni industriali come eventi caratterizzati dall’installazione di singole nuove tecnologie che in modo creativo distruggono il vecchio per lasciare spazio al nuovo. Ma cosa le accomuna? Siamo abituati a pensare che i cambi di paradigma di cui parlava Kuhn corrispondano a delle invenzioni dirompenti e inevitabili, proposte da alcuni individui particolarmente capaci. Ma è davvero così?
«Data la barca e il motore a vapore, non è forse inevitabile la barca a vapore?». Se lo chiese lo scrittore e sociologo statunitense William Ogburn insieme a Dorothy Thomas nel 1922. Nel saggio «Are Inventions Inevitable?» sostenevano che le invenzioni rivoluzionarie, lungi dall’essere il risultato di «imprevedibili lampi di ispirazione» di singoli geni inventori, sono più semplicemente eventi inevitabili. Una volta che sono presenti i «necessari elementi culturali costitutivi», è impossibile evitare una nuova tecnologia. Non è nemmeno il singolo inventore, o il gruppo di persone, quindi, a renderle possibili: esse proliferano, fatalmente, a partire dalle condizioni necessarie.
A partire dagli anni settanta, un’intera tradizione di studiosi ha iniziato a contestare l’intero assetto che vedeva la tecnologia e la scienza come singole opere rivoluzionarie e inevitabili da attribuire alternativamente a «grandi inventori» o alla tecnologia in sé. Per la prima volta nella storia, un grande movimento teorico e culturale attaccava il determinismo tecnologico, il paradigma dominante per interpretare il rapporto tra tecnologia e società, e secondo il quale l’innovazione segue processi estremamente lineari di invenzione, progettazione e applicazione grazie ai quali le società evolvono e si sviluppano.
Questi autori si soffermarono sulla costruzione sociale di ogni tecnologia – che si trattasse della bicicletta, di ponti stradali o dei missili balistici – mostrando come lontano dall’essere «pronto per l’uso» e frutto di un’invenzione individuale, ogni nuovo artefatto sia il risultato di una minuziosa e accurata modifica dell’esistente raggiunta attraverso un accrescimento di tanti piccoli dettagli, contributi e scelte umane. Perché, a un certo punto della storia, una tecnologia si impone su un’altra, e cosa determina la sua affermazione? Quali sono i fattori che influenzano e rendono possibile la costruzione di quell’artefatto? Sono alcune delle domande che si sono posti i costruttivisti, per dimostrare che nessuna tecnologia è inevitabile, ma piuttosto il risultato di precise strade intraprese e arricchite da conflitti, compromessi e diverse distribuzioni del potere tra i gruppi sociali che noi, utenti finali, ci siamo abituati a dare completamente per scontati.
La tecnologia era stata aperta all’analisi sociale, e dalla scatola uscirono diverse evidenze illuminanti su tutto ciò che non c’era di nuovo e sui dibattiti e le controversie che, alla fine, portano al consolidamento non solo di un artefatto, ma anche delle sue conseguenze sociali. Ogni nuova tecnologia corrisponde a una promessa rivoluzionaria di modificare lo stato delle cose esistenti, ma nessuna di queste parte da zero.
