Il “Sistema di Credito Sociale” cinese e l’inquietante analogia con la serie Black Mirror
Black Mirror a Pechino… Il nuovo sistema di valutazione del credito sociale della Cina è in fase di implementazione già dai primi di marzo del 2019.
La Cina prevede di classificare tutti i suoi cittadini in base al loro Social Credit ovvero “credito sociale”. I cittadini saranno ricompensati o puniti in base ai loro punteggi. Come i punteggi di credito finanziario privato, il punteggio sociale di una persona può aumentare e diminuire in base al proprio comportamento.
Il programma sarebbe dovuto essere pienamente operativo a livello nazionale entro il 2020, ma nonostante il progetto abbia subito un netto ritardo, è già stato sperimentato su milioni di persone in tutto il paese. Entro la fine del prossimo anno il regime sarà obbligatorio.
Al momento il sistema è implementato solo in parte, alcuni sono gestiti dai consigli comunali, mentre altri sono valutati da piattaforme tecnologiche private che contengono dati personali, in particolare il progetto City Brain di Alibaba. Le persone possono essere penalizzate per comportamenti scorretti percepiti come cattiva guida, fumo in zone non fumatori, acquisto di troppi videogiochi e pubblicazione di notizie false online. Le critiche al governo e simili mosse più audaci non sono nemmeno menzionate sulla scala.
La Cina ha già iniziato a punire le persone limitando i loro viaggi. A nove milioni di persone con punteggi bassi è stato impedito di acquistare biglietti per i voli nazionali, secondo quanto riportato a marzo da Channel News Asia, citando statistiche ufficiali. Altre punizioni includono la riduzione della velocità di Internet o il blocco di tutti gli accessi, il blocco delle migliori scuole, assistenza sanitaria o lavoro. Potrebbe anche escluderti da hotel e ristoranti, portare via i tuoi animali domestici o farti vergognare pubblicamente.
Una inquietante analogia con la serie tv Black Mirror
Il nuovo sistema di credito sociale della Cina è stato paragonato a Black Mirror, la serie fittizia di Netflix con un concetto simile, e molti altri futuri distopici che appartenevano solo a un mondo di fantascienza. È interessante, ma porta anche enormi questioni etiche e sui diritti umani.
L’idea del credito sociale è stata annunciata dal governo del presidente Xi come un sistema opt-in nel 2014. Ma c’è una differenza tra il sistema governativo ufficiale e le versioni private e aziendali, sebbene i sistemi di punteggio abbiano già iniziato a fondersi.
Nei paesi occidentali siamo abituati ai controlli del credito, dove i data broker come Experian tracciano il modo tempestivo in cui paghiamo i nostri debiti, dandoci un punteggio utilizzato da istituti di credito e fornitori di mutui. Chiunque abbia effettuato acquisti online con eBay ha una valutazione sui tempi di spedizione e sulle comunicazioni, mentre i conducenti e i passeggeri di Uber, gli host e gli ospiti di Airbnb si valutano a vicenda.
Il sistema di credito sociale cinese porta la stessa idea oltre a tutti gli aspetti della vita, valutando il comportamento e l’affidabilità di ogni cittadino. Sorpreso a guidare in mod spericolato nel traffico, a non pagare una multa, a suonare la tua musica a volume troppo alto sul treno… potresti perdere alcuni diritti, come prenotare un biglietto aereo o ferroviario.
“L’idea in sé non è un fenomeno cinese”, afferma Mareike Ohlberg, ricercatore associato presso il Mercator Institute for China Studies. Né è l’uso e l’abuso di dati aggregati per l’analisi del comportamento. “Ma se il sistema cinese si riunisse come previsto, sarebbe comunque qualcosa di molto unico”, dice. “È unico e fa parte di una tendenza globale”.
Leggi anche:
Sei un buon cittadino?
Svelato in un piano del 2014, la maggior parte dei pezzi del sistema sono già in atto e il governo cinese punta al 2022 per mettere in atto l’intero sistema, in tutta l’enorme nazione.
Finora non esiste un sistema di credito sociale. Invece, gli stati e le città locali hanno i propri sistemi di record sociali che funzionano in modo diverso, mentre le versioni private non ufficiali sono gestite da società come Zhima Credit di Ant Financial, meglio conosciuta come Sesame Credit (Ant è la società di pagamento nata da Alibaba). I sistemi utilizzano le abitudini di acquisto tra gli altri dati per informare i punteggi di tipo di credito, su base opt-in.
I sistemi privati, tra cui Sesame Credit di Ant Financial, vengono spesso fusi con i piani del governo, sebbene non facciano parte del sistema ufficiale. Per essere un po ‘più confusi, i dati raccolti dalle società private dovrebbero essere utilizzati dal governo in futuro, e alcuni dei dati sono già utilizzati nei processi governativi. Sesame Credit dice che questo è solo con il consenso dell’utente.
Ciò che preoccupa è quando quei sistemi privati si collegano alle classifiche governative, cosa che sta già accadendo con alcuni piloti. “Avrai una sorta di memorandum d’intesa come gli accordi tra la città e, diciamo, Alibaba e Tencent sugli scambi di dati e includerli nelle valutazioni dei cittadini”, aggiunge Ohlberg. Si tratta di molti dati raccolti con poca protezione e nessuna trasparenza algoritmica su come vengono analizzati per sputare un punteggio o una classifica, sebbene Sesame condivida alcuni dettagli sui tipi di dati utilizzati.
Come funziona il sistema di credito sociale
L’obiettivo entro la fine del prossimo anno è che il sistema governativo sarà a livello nazionale, con alle imprese un “codice di credito sociale unificato” e ai cittadini un numero di identità, tutti collegati a un registro permanente. “Se visiti un sito Web di credito in Cina e disponi del codice di credito di un’entità, puoi digitarlo e visualizzare i record di credito”, spiega Hoffman. “Gli individui avranno codici collegati all’ID.” È meno un punteggio, dice, e più un record.
Alcuni rapporti parlano di una lista nera; fa parte del sistema di credito sociale del governo ufficiale, il che significa che se devi denaro al governo, ad esempio, potresti perdere alcuni diritti. C’è una differenza tra ottenere un punteggio di credito sociale basso ed essere inseriti nella lista nera dal governo, ad esempio per essersi rifiutati di pagare una multa.
I criteri che entrano in una classifica del credito sociale dipendono da dove ti trovi, osserva Ohlberg. “Dipende dal luogo in cui ti trovi, perché hanno i loro cataloghi”, dice. Può variare dal non pagare multe quando si è ritenuti pienamente in grado di farlo, comportarsi male su un treno, alzarsi in piedi su un taxi o guidare attraverso un semaforo rosso.
Una città, Rongcheng, dà a tutti i residenti 1.000 punti per iniziare. Le autorità fanno detrazioni per comportamenti scorretti come violazioni del codice stradale e aggiungono punti per comportamenti corretti come donazioni in beneficenza. Un regolamento recentemente letto da Ohlberg riguarda specificamente il furto di elettricità. Ovviamente prima dovrai farti beccare o essere segnalato da qualcun altro. Sebbene il riconoscimento facciale sia notoriamente utilizzato per individuare i jaywalker, in alcune città non è così automatizzato, osserva Ohlberg.
I progetti privati, come Sesame Credit, raccolgono tutti i tipi di dati sui suoi 400 milioni di clienti, dal tempo che trascorrono a giocare ai videogiochi (che non va bene) al fatto che siano un genitore (va bene). Questo può essere condiviso con altre società. Un esempio è Sesame Credit che si collega al sito di incontri Baihe, quindi i partner possono giudicarsi a vicenda sul loro aspetto e sul loro punteggio di credito sociale; quel sistema è opt-in.
Finora, la partecipazione sia alla versione privata che a quella governativa è tecnicamente volontaria; in futuro, il sistema ufficiale di credito sociale sarà obbligatorio. Detto questo, c’è molta pressione per partecipare ora. “Ci sono incentivi a partecipare e disincentivi a non partecipare”, osserva Hoffman.
Cosa succede se sei nella lista nera?
La Cina ha già iniziato a punire le persone limitando i loro viaggi. A nove milioni di persone con punteggi bassi è stato impedito di acquistare biglietti per i voli nazionali, secondo quanto riportato a marzo da Channel News Asia, citando statistiche ufficiali. Possono anche reprimere le opzioni di lusso: a tre milioni di persone è vietato ottenere i biglietti del treno di classe business.
L’eventuale sistema punirà specificamente i passeggeri cattivi. I potenziali misfatti includono il tentativo di guidare senza biglietto, il bighellonare davanti ai gate di imbarco o il fumo in aree non fumatori.
Secondo Foreign Policy, i sistemi di credito controllano se le persone pagano le bollette in tempo, proprio come i tracker del credito finanziario, ma attribuiscono anche una dimensione morale.
Altri reati punibili discussi includono passare troppo tempo a giocare ai videogiochi, sprecare denaro in acquisti frivoli e pubblicare sui social media.
Anche la diffusione di notizie false, in particolare su attacchi terroristici o sicurezza aeroportuale, sarà un reato punibile.
Liu Hu è un giornalista in Cina, scrive di censura e corruzione del governo. A causa del suo lavoro, Liu è stato arrestato e multato e inserito nella lista nera. Liu ha scoperto di essere stato nominato in un elenco di persone disoneste soggette a applicazione dalla Corte Suprema del Popolo come “non qualificato” per acquistare un biglietto aereo e gli è stato vietato di viaggiare su alcune linee ferroviarie, acquistare proprietà o chiedere un prestito.
“Non c’era nessun file, nessun mandato di polizia, nessuna notifica preventiva ufficiale. Mi hanno semplicemente tagliato fuori dalle cose a cui avevo diritto”, ha detto a The Globe and Mail. “La cosa veramente spaventosa è che non puoi farci niente. Non puoi fare rapporto a nessuno. Sei bloccato in mezzo al nulla.”
Che rimedio c’è? Con il sistema governativo, se vuoi essere rimosso da una lista nera, puoi pagare il conto o fare appello al tribunale, afferma Jing Zeng, ricercatore presso l’Università di Zurigo. “Porta i tuoi soldi in tribunale e poi verrai rimosso dal sistema”, dice. “Non è un sistema giudiziario di per sé, è pur sempre il tribunale a cui devi [fare appello].”
Tuttavia, il sistema giudiziario cinese lascia molto a desiderare, afferma Hoffman. “Non esistono protezioni reali per le persone e le entità soggette al sistema”, afferma.
Oltre al potenziale di abuso di potere, agli effetti a catena della sorveglianza a livello statale e alla probabilità di dati errati, Ohlberg osserva che alcuni segni negativi su un record di credito sociale potrebbero innescare una spirale negativa.
Anche se varia in base al programma, in alcuni progetti pilota locali una valutazione positiva significa sconti e vantaggi, come un processo semplificato con burocrazie. Se hai una valutazione bassa, potresti avere scartoffie o commissioni extra. “Una volta che sei in una categoria bassa, diventa difficile”, dice. “Vedo un enorme potenziale di spirale negativa.” Un tale sistema potrebbe dividere ulteriormente la società, creando classi di persone che dipendono dal loro credito sociale – ed è qui che saltano fuori i paragoni con Black Mirror.
Leggi anche:
Qual è l’obiettivo della Cina?
“Si tratta di creare fiducia”, afferma il governo cinese. Il documento del 2014 che descrive i piani del governo rileva che, poiché “il mantenimento della fiducia non è sufficientemente ricompensato, i costi per infrangere la fiducia tendono ad essere bassi”.
E la società cinese ha problemi di fiducia, dice Ohlberg, che si tratti di scandalo sulla qualità del cibo, inquinamento o dipendenti che non pagano i propri lavoratori. “Ma il sistema può essere utilizzato anche per far rispettare leggi vaghe come mettere in pericolo la sicurezza o l’unità nazionale”, aggiunge. Zeng dice che può includere la sicurezza alimentare e la qualità dei prodotti, i principali problemi del paese. “È un grosso problema nella società cinese”, dice. “Stanno punendo le aziende per questo tipo di comportamento scorretto”.
Inoltre, potrebbe aiutare a costruire mezzi alternativi di credito finanziario, dice Ohlberg, poiché molte persone in Cina vivono al di fuori dei sistemi finanziari, quindi non hanno un rating del credito affidabile. “Alcuni dei primi progetti pilota del sistema di credito sociale che hanno preceduto il grande piano politico pubblicato nel 2014, stavano effettivamente costruendo un sistema di credito sociale per le campagne”, dice. “La maggior parte delle persone lì non avrebbe dati bancari finanziari su di loro.” Per le imprese, un sistema di credito sociale potrebbe essere utilizzato anche per le microimprese, che non poteva essere valutato con criteri tradizionali.
Hoffman non sta comprando questo argomento, dicendo che un tale sistema riguarda il potere del governo. “Se risolvere i problemi fosse il vero obiettivo, il PCC non avrebbe bisogno di credito sociale per farlo”, dice. “Il sistema di credito sociale cinese è un programma guidato dallo stato progettato per fare una cosa, sostenere ed espandere il potere del Partito comunista cinese”.
Aggiunge che il credito sociale è un modo abilitato dalla tecnologia per legare il potere politico allo sviluppo sociale ed economico di cui si discute nel paese dagli anni ’80, un’automazione della Mass Line del presidente Mao – un termine per descrivere come la leadership del partito ha modellato e gestito la società. . “Nella Cina di Mao, la Mass Line si è basata sulla mobilitazione ideologica di massa, utilizzando il carisma personale di Mao Zedong, per forzare la partecipazione”, dice Hoffman. “Il PCC non poteva più, dopo l’era Mao, fare affidamento sulla mobilitazione ideologica come strumento principale per rendere operativa la gestione sociale”.
La portata dell’impatto sul credito sociale per i cittadini cinesi è impossibile da dire, semplicemente perché il sistema non esiste ancora del tutto. Zeng suggerisce che la realtà è da qualche parte tra le affermazioni del governo e la descrizione dei media occidentali delle distopie piene di orrore. “È molto simile a un piccolo passo”, ha detto del lavoro che è successo finora.
Ohlberg concorda sul fatto che le prime segnalazioni contenessero molteplici errori che hanno portato a incomprensioni del sistema, ma ciò non significa che il credito sociale non sia pericoloso. “È da qualche parte tra le persone che dicono che la copertura mediatica è imprecisa e ciò significa che non è così male e le persone che vedono questa enorme distopia”, dice. “Devi trovare questo spazio tra quello in cui puoi spiegare che in realtà è piuttosto spaventoso, anche se non è proprio il modo in cui è ritratto.”
Per questo motivo, nessun altro paese dovrebbe prendere in considerazione questa idea, afferma Hoffman. “L’Occidente non dovrebbe copiare alcun aspetto del credito sociale”, dice Hoffman. “Spesso vengono effettuati confronti tra applicazioni private come Uber e il suo sistema di classificazione per clienti e conducenti. Sebbene questi sistemi di società private siano estremamente problematici a mio avviso, sono fondamentalmente diversi. La Repubblica popolare cinese è un paese autoritario, il Partito Comunista Cinese è responsabile per decenni di gravi violazioni dei diritti umani – guardate ora l’esempio dello Xinjiang. Non c’è nulla che nessuna società liberaldemocratica dovrebbe nemmeno pensare di copiare nel sistema di credito sociale”.
Segui guruhitech su:
- Google News: http://bit.ly/gurugooglenews
- Telegram: https://t.me/guruhitech
- Facebook: https://www.facebook.com/guruhitechfb
- Twitter: https://twitter.com/guruhitech1
- Instagram: https://www.instagram.com/guruhitech_web/
- Gab: https://gab.com/guruhitech
- Parler: https://parler.com/profile/Guruhitech/posts
- MeWe: https://mewe.com/i/guruhitech
- Tillor: https://tillor.com/guruhitech
- Skype: live:.cid.e496a29c3d8dfd2
Esprimi il tuo parere!
Qual è la tua opinione su questo Social Credit System? Credi sia giusto premiare o punire le persone in base ai loro comportamenti? Lascia un commento nell’apposita sezione che trovi più in basso.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].