Minority ReportQuando saranno le macchine a gestire la giustizia e le prigioni

Per aumentare l’efficienza l’inserimento di intelligenza artificiale e calcolatori è cresciuto nel tempo. Secondo gli studiosi, ricorda Frank Pasquale in “Le nuove leggi della robotica”, queste innovazioni condizioneranno anche il concetto di diritto, come quello di pena e di controllo

di Brett Jordan, da Unsplash

Immaginate di ricevere per posta un invito a comparire in tribunale. Una volta giunti nell’aula, non trovate nessuno. Un chiosco vi scatta una foto e vi mostra uno schermo che vi invita a sedervi su una sedia marchiata con un grosso numero.

La voce del chiosco, che somiglia a quelle di Siri e Alexa, vi comunica che il vostro sarà il nono caso preso in esame quel giorno. Una volta che vi siete tutti sistemati, un annuncio ordina: “alzatevi”. Nello schermo compare una finestra con l’immagine di un uomo che indossa una toga. Il volto del giudice è uno dei milioni di fake face ovvero di volti generati dalla tecnologia delle “reti neurali antagoniste” (generative adversarial networks). I suoi tratti sono ripresi da immagini di giudici presenti in decine di migliaia di filmati usati normalmente dai ricercatori AI. È la versione AI di un giudice stereotipato da telefilm.

Un ufficiale giudiziario robot legge il vostro caso e voi oltrepassate un cancelletto fino ad arrivare a una sedia e a una scrivania preparate per gli imputati. Il giudice-avatar comincia a parlare: «Lei è stato riconosciuto colpevole di un numero eccessivo di infrazioni di legge. La sua automobile ha superato il limite di almeno otto chilometri orari per dieci volte durante gli ultimi due anni. Lei ha scaricato illegalmente tre film l’anno scorso. Ha fumato marijuana a una festa. Secondo il nostro sistema di deliberazioni algoritmiche, il deterrente ottimale per questo insieme di colpe è la decurtazione di 40 punti dal suo credito personale, una multa pari al 5 per cento dei suoi beni e il suo consenso all’installazione di una videocamera casalinga, monitorata in modo algoritmico, per i prossimi sei mesi, per assicurarci che lei non violi più la legge. Se desidera fare appello, per cortesia ne scriva le motivazioni sull’app Swift Justice appena scaricata dal suo cellulare. Se non vuole, per cortesia esca da dove è entrato e segua le ulteriori istruzioni del chiosco».

Uno scenario del genere può sembrare appartenere a una storia di fantascienza piuttosto assurda, una sorta di incontro tra Franz Kafka e Philip K. Dick. Riflette però le attuali tendenze nel controllo sociale. La prima è la sorveglianza onnipresente, cioè la possibilità di registrare e analizzare ogni singolo momento della giornata di una persona. La seconda è il tentativo di rendere le città “intelligenti”, che potrebbe consentire di tarare multe e premi per i comportamenti vietati o consigliati.

Secondo i futurologi, presto la politica abbandonerà le vecchie leggi per valutare in modo più “flessibile” i comportamenti dei cittadini. In questo ordine ideale privo di legge, se il chiasso di una festa suscita abbastanza proteste, è illegale; altrimenti non lo è. La terza è il tentativo di mettere le macchine al posto delle persone. Addetti alla sorveglianza e poliziotti richiedono stipendi e pensioni, mentre i robot hanno bisogno solo di elettricità e aggiornamenti del software. Il futuro delle forze armate potrebbe essere rappresentato da sciami di droni, pronti a immobilizzare ogni criminale o sospetto.

Al momento, l’uso di AI e robotica nell’applicazione della legge si lega soprattutto a un discorso di carattere economico, volto a un uso più efficiente delle risorse. Una miscela di droni, videocamere a circuito chiuso e robot costerebbe meno di un corpo di polizia e potrebbe persino essere più efficiente e meno incline a far del male ai sospetti o a prendersela con gli innocenti.

La sensazione è però che ci sia il rischio di perdere molto e che i governi si stiano spingendo troppo oltre in materia di controllo. Un governo si pone inevitabilmente come fonte di protezione e di minaccia, di aiuto e di oppressione. La polizia può proteggere dei manifestanti pacifici da una folla ostile, ma li può anche arrestare brutalmente e imprigionare. La cosa ancor più grave è che i pro e i contro dell’esercizio della forza pubblica troppo spesso vengono distribuiti in modo arbitrario e discriminatorio. La polizia si comporta in modo violento soprattutto con le minoranze, come con gli afroamericani negli Stati Uniti, gli uiguri in Cina o gli abitanti delle favelas in Brasile. Le comunità hanno cercato modi per rendere le leggi meno ingiuste. Ci sono consigli e tribunali civili per censurare gli eccessi della polizia e richiedere danni in caso di violazioni dei diritti.

Il quarto emendamento della Costituzione degli Stati Uniti vieta di “emettere mandati” di perquisizione e sequestro senza fondato motivo.

Altre dichiarazioni per i diritti umani offrono una protezione ancora maggiore contro gli Stati di polizia. Queste protezioni servono a rendere la polizia meno efficiente. Gli standard applicati all’industria sono pertanto inefficaci quando si tratta di una questione sociale come quella della polizia.

I settori della sicurezza (informatica e fisica), dei corpi di polizia e delle forze armate, che assorbono una parte considerevole della capacità produttiva globale, già da tempo usano software e AI. Si pensa di programmare robot che rispettino senza mai sbagliare le leggi internazionali, senza farsi sviare da passioni, bias o pregiudizi umani.

Il giurista Bennett Capers ha immaginato un futuro nel quale una polizia fortemente informatizzata imporrà l’eguaglianza sottoponendo l’intera popolazione degli Stati Uniti a livelli di sorveglianza incredibilmente alti. Nella sua visione afrofuturista, la tecnologia per far rispettare la legge verrà inserita in un ordine sociale più mite e compassionevole. Capers spera «che i pochi processi necessari» non dovranno essere dei “processi meccanizzati”, ma comunque quella sarà la direzione da intraprendere, per eliminare i bias che caratterizzano i processi attuali».

L’australiano Dan Hunter, giurista e rettore universitario, crede che la AI possa rendere obsolete le prigioni. Basta un sistema informatico abbastanza sofisticato e in futuro i colpevoli potranno essere condannati agli arresti domiciliari. Può sembrare un grande progresso nel sistema della detenzione e della riabilitazione, visto che la prigione è un luogo permeato da noia e violenza. Nel Technological Incarceration Project di Hunter ci sono però proposte che sembrano riprese da Minority Report. In cambio degli arresti domiciliari, «i condannati dovranno indossare un braccialetto elettronico al polso o alla caviglia, in grado di somministrare una scossa immobilizzante nel caso l’algoritmo rilevi la possibilità che il soggetto commetta un altro crimine, elaborando una serie di fattori biometrici come il riconoscimento vocale e l’analisi del volto».

Questa è la definizione di giustizia automatizzata. Non c’è alcuna possibilità di appellarsi a un giudice né tantomeno di chiedere pietà a un agente di polizia dopo il giudizio. La AI fa da giudice, giuria e perfino da boia, se il sistema non calcola bene la scossa da somministrare. I tecnofili spiegano con acume come approcciarsi all’uso della AI per far rispettare la legge. Secondo loro, è inevitabile che AI e robotica subentrino alla polizia, ed è nostro dovere di cittadini, studiosi e tecnici contribuire a fare in modo che tutto funzioni. Per esempio, se i sistemi di riconoscimento facciale fanno più fatica con i volti dei neri, bisogna aggiungerne altri al database.

Bisognerebbe però fare un passo indietro e capire perché una sorveglianza universale o prigioni in realtà virtuale riescono a convincere tante persone. All’inizio del libro abbiamo parlato del fascino delle AI sostitutive: se un lavoro svolto dagli esseri umani è costoso e poco efficiente, aumenteranno le pressioni per delegarlo alle macchine. Se la violenza e la noia di una prigione gestita male sono l’unica alternativa esistente, il monitoraggio costante di un prigioniero agli arresti domiciliari sotto la minaccia di un taser non sembra allora così male. I dati di molti distretti di polizia fanno emergere un vergognoso razzismo, per questo l’idea di un robocop afrofuturista sembra un grosso passo avanti.

Che cosa significa accettare questa sorta di riformismo anziché scegliere di mettere in atto una serie di riforme strutturali?

Ruha Benjamin, docente di studi afroamericani dell’Università di Princeton, sostiene che «le cosiddette alternative più umane alle prigioni, parte di una serie di “tecnocorrezioni”, dovrebbero venire chiamate con il loro vero nome: grillete (“ceppi”, in spagnolo)». Polizia e guardie carcerarie stanno adottando AI e robotica in modo molto rapido e nella confusione ci si dimentica di possibili approcci olistici al problema, mentre i pericoli insiti nelle soluzioni tecnologiche non vengono presi in considerazione.

Cosa accadrebbe se allo scenario alla Minority Report non contrapponessimo una comune prigione (con il problema delle celle affollate, dei letti scomodi e del cibo pessimo), bensì una prigione di “minima sicurezza” come quelle della Scandinavia? Si tratta di centri correzionali in tutto e per tutto, nei quali i governatori (non i secondini) danno ai detenuti stanze luminose e l’autonomia per prepararsi da soli il pranzo e pulire i propri spazi. I detenuti possono imparare cose nuove, lavorare senza venire sfruttati o fare apprendistato, e godere di un livello di fiducia quasi impossibile da trovare nelle carceri di USA, Cina e Russia.

Le prigioni scandinave non sono certo country club, in quanto limitano fortemente la libertà dei detenuti, ma allo stesso tempo offrono loro quel rispetto mancante tanto nelle comuni prigioni quanto nelle loro versioni “progredite” tecnologicamente. Anche a livello politico cresce sempre più il numero di chi vuole porre fine a certe pratiche e non limitarsi a migliorarle.

da “Le nuove leggi della robotica. Difendere la competenza umana nell’era dell’intelligenza artificiale”, di Frank Pasquale, Luiss University Press, pagine 336, euro 20

Le newsletter de Linkiesta

X

Un altro formidabile modo di approfondire l’attualità politica, economica, culturale italiana e internazionale.

Iscriviti alle newsletter