Il Social Credit SystemIl controllo totalitario in stile cinese esiste anche in Occidente, meglio parlarne

La Cina sta sperimentando un sistema di rating personale che premia i comportamenti “desiderabili” e punisce quelli riprovevoli (a detta del regime). Ricorda un episodio di Black Mirror, ma non è fiction, è realtà

NOEL CELIS / AFP

Qualcuno ricorda Nosedive, l’episodio della serie Black Mirror in cui si immagina un mondo dove ogni persona dà un voto a chiunque interagisca con lui. E così ognuno ha un suo rating, calcolato in tempo reale che, di ora in ora, di giorno in giorno, come un titolo in borsa, sale o scende. Così in un giorno d’umore felice colleziona una serie di voti altissimi e in giorni più neri ne colleziona di pessimi. O semplicemente succedono, come nell’episodio, occasioni e circostanze sfortunate, per cui il rating personale via via scende, si alimenta come una slavina e alla fine arriva così in basso che preclude di vivere, anche perché il rating è visibile a tutti, e nessuno vuole interagire con una persona con un rating troppo basso.

Distopia? Certamente. Irreale? Meno certamente, perché in Cina si sta sperimentando qualcosa di simile. Di cosa si tratta? Si chiama Social Credit System ed è appunto un sistema di rating personale. Il governo ha un file per ogni cittadino in cui sono racchiuse una serie di informazioni, l’esito scolastico (la prima struttura sociale che giudica quanto i cittadini siano “adatti” a essere “buoni cittadini”); il curriculum di lavoro, le informazioni sulle caratteristiche fisiche e, naturalmente, alcune foto (si ricorda che la Cina è oggi campione mondiale nella tecnologia del riconoscimento facciale).

In questo primo esperimento ogni persona parte da una soglia di 1.000 punti. Come possiamo chiamare questa metrica? Mille punti di credibilità? Di conformismo? Di merito sociale? Perciò ogni volta che la persona agisce in certi campi può vedere il suo punteggio aumentare o diminuire. Ad esempio, se fa una donazione di sangue incrementa i suoi punti; se fa del volontariato incrementa i suoi punti; se fa della carità (certificata, naturalmente, non in segreto) aumenta il punteggio. E su questo poco da dire (se non che il sistema implichi il controllo totale sui comportamenti personali). Ottiene anche un incremento di punteggio se parla bene del governo sui social media.

Tutte queste circostanze sono abbastanza inquietanti, perché presuppongono che di ogni cittadino si tracci ogni suo comportamento, come gli acquisti, i percorsi stradali e la scelta di leggere questa o quella pagina del web

Quando ottiene una diminuzione del punteggio? Qui la gamma è ampia, oltre a quelli più ovvi del mancato rispetto delle leggi, c’è anche la mancata visita dei genitori anziani. Si è anche puntiti se si imbroglia nei giochi on line, e anche se si fanno ”pasticci” su internet e persino se le scuse avanzate per reati o atti negativi non siano “sincere” (Ah, la “sincerità” apre un capitolo del lessico comunista che sembrava dimenticato). Si è però anche puniti se si critica il governo sui social media.

Tutte queste circostanze sono abbastanza inquietanti, perché presuppongono che di ogni cittadino si tracci ogni suo comportamento, anche quelli più ovvi, routinari, come gli acquisti, i percorsi stradali e la scelta di leggere questa o quella pagina del web. La cosa è più grave perché in Cina c’è una situazione di monopolio digitale, in quanto tutto quello che in Occidente è fatto da player privati e indipendenti, in quel paese si concentra in una sola piattaforma controllata di fatto dal governo, che unisce le app corrispondenti di Google, Facebook, Amazon, What’s App, Mappe e altro.

Le conseguenze di un rating basso sono molto pesanti, perché non si possono prenotare voli aerei, e meno che mai ottenere dei visti per andare all’estero, e neppure prendere i treni. Questo pare sia già avvenuto, con 17milioni di volte che è stata rifiutata l’emissione di un biglietto aereo e 5milioni di volte l’emissione di un biglietto del treno, e 120 persone accusate di non aver pagato le tasse non hanno potuto andare all’estero.

Un’altra pesante conseguenza è l’accesso al credito che, se combinato con il progetto di rendere Alipay l’unico sistema di distribuzione della moneta digitale che dovrebbe sostituire il contante, si arriva alla conseguenza che qualcuno non potrebbe neppure mettere insieme del contante minimo per sopravvivere. Ovviamente nel più grave e forse improbabile dei casi, ma teoricamente possibile.

Per ogni singola parola pubblicata su un quotidiano c’è un Direttore Responsabile (per l’appunto) che ne risponde legalmente, nel mentre Facebook dichiara ufficialmente che non può darsi carico della verifica di quanto pubblicato

Lasciamo la Cina per venire a noi. Da noi la situazione è diversa perché i social media non sono di proprietà o controllati dal governo. Da noi, anzi, il problema è opposto, nel senso che i proprietari dei dati hanno un potere più grande di quello del governo, almeno nell’informazione, che non è l’aspetto meno importante della nostra vita collettiva.

Per capire appieno il senso di questa affermazione, occorre osservare un punto essenziale: i social media sono un sistema d’informazione chiuso (per la prima volta nella storia dell’umanità). Cosa vuol dire? Prendiamo i media finora conosciuti (libri, giornali, radio, tv) sono tutti del tipo uno-a-tutti: scrivo un libro, lo vedono tutti e lo legge chi vuole; parlo in tv, vedono tutti e ascolta chi vuole. Non posso scegliere a chi far giungere il mio messaggio e a chi no. La gravità del caso Trump-Cambridge Analytica sta proprio nell’aver mandato messaggi personalizzati: quello che dico ad A non lo può vedere B e vice-versa.

Allo stesso modo se Facebook decide che il mio messaggio non lo vedrà nessuno, non lo vedrà nessuno. Punto. Se Facebook decide che il mio messaggio è perfetto per una certa tipologia di persone e non gradito a un’altra tipologia di persone, può scegliere cosa fare. Domanda: perché dovrebbe fare tutto questo? Risposta: perché non dovrebbe, se lo ritiene?

D’altra parte la potenza della pubblicità sul digitale sta proprio in questa caratteristica, nella comunicazione personalizzata e, al limite, in una ragnatela da-uno-a-uno teoricamente infinita e perciò senza limiti. Se non è possibile che ognuno abbia il suo prodotto, può – teoricamente – avere il suo messaggio personalizzato.

Per tutto questo non c’è alcuna tutela pubblica, neppure nella divulgazione del contenuto delle notizie postate sui social media. Per ogni singola parola pubblicata su un quotidiano c’è un Direttore Responsabile (per l’appunto) che ne risponde legalmente, nel mentre Facebook dichiara ufficialmente che non può darsi carico della verifica di quanto pubblicato. Domanda: cos’è Facebook? Un’enorme chat in cui ognuno risponde di quel che scrive (ma non c’è neppure la certezza dell’identità personale) o un editore? Se si considera che circa 20 milioni di Italiani ogni giorno passano un sacco di tempo su Facebook (quasi due ore in media) e su questo media leggono notizie e informazioni su tutto, chi è più editore di Facebook?

La fantasia di Black Mirror è fra noi, per adesso non in maniera plateale, e per fini che sono solo commerciali, e quasi mai politici o personali, ma resteranno così?

Se la distopia cinese viaggia tra il possibile e il probabile, sotto la tutela totalitaria dello Stato, nel caso occidentale siamo all’opposto, seppure sui medesimi temi, con la sostituzione surrettizia dei compiti e delle regole pubbliche da parte di soggetti privati, per di più sovranazionali. La libertà di essere informati da chiunque e la pari condizione di chi compete alle elezioni politiche, ad esempio, possono essere decise e definite da Facebook? Vale solo l’osservazione che avendo un fine commerciale sia di conseguenza neutrale in politica o su altri temi di natura collettiva? E se fossero in discussione proprio gli interessi di Facebook, rimarrebbe ancora neutrale?

Se gli estensori della Costituzione avessero potuto prevedere l’avvento un giorno di Google Search, sicuramente avrebbero preteso che l’acquisto di parole-chiave fosse quanto meno regolamentato. Se voglio capire una vicenda di cui so poco (ad esempio, la guerra contro i curdi) e se tutte le parole-chiave collegate alla vicenda fossero acquistate da uno solo dei soggetti in causa, il motore di ricerca rimanderebbe solo alle loro posizioni. Cosa resterebbe della effettiva libertà d’informazione? Chiunque sarebbe ancora libero di esprimersi: ma una parte avrebbe l’ascolto e l’altra sistematicamente e programmaticamente non l’avrebbe. Situazione teorica? Uhm: abbiamo già dei casi.

La fantasia di Black Mirror è fra noi, per adesso non in maniera plateale, come abbiamo visto nella serie televisiva, e per fini che sono solo di marketing, perciò commerciali, e quasi mai (un quasi che si assottiglia ogni giorno di più) politici o personali, ma resteranno così? Quel che abbiamo davanti è una enormità: bisogna parlarne, almeno.

Entra nel club de Linkiesta

Il nostro giornale è gratuito e accessibile a tutti, ma per mantenere l’indipendenza abbiamo anche bisogno dell’aiuto dei lettori. Siamo sicuri che arriverà perché chi ci legge sa che un giornale d’opinione è un ingrediente necessario per una società adulta.

Se credi che Linkiesta e le altre testate che abbiamo lanciato, EuropeaGastronomika e la newsletter Corona Economy, così come i giornali di carta e la nuova rivista letteraria K, siano uno strumento utile, questo è il momento di darci una mano. 

Entra nel Club degli amici de Linkiesta e grazie comunque.

Sostieni Linkiesta