Questo è un estratto di Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart (Penguin Portfolio) di Rachel Botsman, pubblicato il 4 ottobre 2017. Da quando questo pezzo è stato scritto, la People’s Bank of China ha ritardato le licenze alle otto società che conducono programma pilota del credito sociale. I piani del governo per lanciare il Sistema di Credito Sociale nel 2020 rimangono invariati.
Il governo cinese prevede di lanciare il suo sistema di credito sociale nel 2020. L’obiettivo? Giudicare la fiducia – o meno – dei suoi 1,3 miliardi di residenti.
Il 14 giugno 2014, il Consiglio di Stato cinese ha pubblicato un documento molto inquietante chiamato “Piano di programmazione per la Costruzione di un sistema di Credito Sociale”. In termini di documento di policy cinese, la questione era piuttosto lunga e sterile, ma conteneva un’idea radicale. Cosa succederebbe se ci fosse un punteggio di fiducia nazionale che valutasse che tipo di cittadino sei?
Immagina un mondo in cui molte delle tue attività quotidiane venissero costantemente monitorate e valutate: cosa acquisti nei negozi e online; dove ti trovi in ogni momento della giornata; chi sono i tuoi amici e come interagisci con loro; quante ore spendi a guardare contenuti o giocare a videogames; le multe o le tasse che paghi (oppure no). Non è troppo difficile da immaginare visto che la maggior parte di queste cose stanno già accadendo grazie a tutti quei colossi della collezioni dati come Google, Facebook e Instagram o alle applicazione per tracciare la salute come Fitbit.
Ora prova ad immaginare un sistema in cui tutti questi comportamenti sono valutati positivamente o negativamente e distillati in un solo numero, secondo delle regole impostate dal governo. Questo numero andrebbe a creare il cosiddetto “punteggio dei cittadini” che farebbe sapere a tutti se sei degno o meno di fiducia. Inoltre la tua valutazione sarebbe resa pubblica insieme e a confronto con quella dell’intera popolazione e verrebbe usata per determinare la tua idoneità per un mutuo o per un lavoro, dove i tuoi figli possono andare a scuola o anche semplicemente la possibilità di avere un appuntamento romantico.
Una visione futuristica e fuori controllo del Grande Fratello? No, il Cina è già in corso d’opera, il governo sta sviluppando il Sistema di Credito Sociale (SCS) per valutare l’affidabilità dei suoi 1.3 miliardi di cittadini. Il governo Cinese sta proponendo questo sistema come un modo desiderabile per misurare e migliorare la “fiducia” a livello nazionale e per costruire una cultura di “sincerità”. Come afferma il governo: “Creerà un ambiente di opinione pubblica dove mantenere la fiducia è un onore. Rafforzerà la sincerità negli affari governativi, nell’ambito commerciale, nell’ambito sociale e la costruzione di una credibilità giuridica”.
Altri sono meno ottimisti sul suo più ampio scopo. “E’ molto ambizioso sia per profondità che per scopo, incluso l’osservazione dei comportamenti individuali e i libri che la gente legge. Sono i consumatori di Amazon con un una distorsione politica Orwelliana”, così Johan Lagerkvist, uno specialista di internet Cinese presso l’Istituto Svedese di Affari Internazionali, descrive il sistema sociale di credito. Rogier Creemers, un borsista post-dottorato specializzato in diritto Cinese e governance al Van Vollenhoven Institute presso l’Università di Leida, il quale ha pubblicato un’interpretazione comprensiva del progetto, lo compara ad una “recensione di Yelp con lo Stato che fa da baby sitter che ti osserva da dietro le spalle”.
Per ora, tecnicamente, la partecipazione al programma di “raccolta punti” è volontaria. Ma entro il 2020 sarà obbligatoria. Il comportamento di ogni singolo cittadino e persona legale (categoria che comprende ogni azienda o ente) in Cina verrà valutato e classificato, che gli piaccia o meno.
Prima del lancio nazionale nel 2010, il governo cinese sta mantenendo un approccio di osservazione e apprendimento. In questo matrimonio tra la vigilanza comunista e il possibilismo capitalista, il governo ha dato la licenza a otto compagnie private per trovare sistemi e algoritmi da utilizzare in funzione del punteggio di credito sociale. Prevedibilmente, i giganti del raccoglimento dati conducono due dei progetti più conosciuti.
Il primo è con la China Rapid Finance, un partner del colosso dei social network Tencent e sviluppatore dell’applicazione di messaggistica WeChat con oltre 850 milioni di utenti attivi. L’altro, Sesame Credit, è guidato dall’ Ant Financial Service group (AFSG), una compagnia affiliata di Alibaba. Ant Financial vende prodotti assicurati e fornisce prestiti a piccole e medie aziende. Ad ogni modo, la vera star di Ant è AliPay, il suo braccio di pagamenti che la gente utilizza non solo per acquistare cose online, ma anche per ristoranti, taxi, tasse scolastiche, biglietti del cinema e anche per il trasferimento di soldi tra individui.
Sesame Credit si è anche associata con un altra piattaforma di generazione dati, come Didi Chuxing, un’azienda di ride-hailing che è stata principale competitor di Uber in Cina, prima che acquisisse le attività cinesi della compagnia americana nel 2016, e Baihe, il più grande servizio di online dating del paese.Non è difficile vedere come tutto torna a gigantesche quantità di dati che Sesame Credit può sfruttare per verificare come le persone si comportano e come valutano.
Quindi, come vengono valutate le perone? Gli individui a Sesame Credit sono misurati da una classifica di punti che va da 350 a 950. Alibaba non vuole divulgare il “complesso algoritmo” che utilizza per calcolare il numero ma hanno rivelato i 5 fattori che tengono in considerazione. Il primo è la storia creditizia. Per esempio, i cittadini pagano le loro bollette dell’elettricità e del telefono in tempo? Il secondo è la capacità di adempimento, che viene definita nelle linee guida come “la capacità dell’utente ad adempiere agli obblighi di contratto”. Il terzo fattore sono le caratteristiche personali, verificare le informazioni personali come il numero di telefono di qualcuno o l’indirizzo di casa. Ma è il quarto fattore quello che rende tutta la questione molto interessante, ovvero il comportamento e le preferenze.
Con questo sistema qualcosa di innocuo come le abitudini di acquisto di una persona diventano una misura del suo carattere. Alibaba ammette di giudicare le persone in base alle tipologie di prodotti che acquistano “per esempio una persona che gioca ai video game per 10 ore consecutive viene considerato un fannullone” dice Li Yingyun, il Direttore Tecnologico della Sesame. “Qualcuno che acquista frequentemente pannolini è probabilmente un genitore, che a conti fatti è più probabile che abbia maggiore senso di responsabilità” Quindi il sistema non solo analizza i comportamenti , ma li crea. Spinge i cittadini ad acquistare e comportarsi in modo da compiacere il governo.
Anche le amicizie sono importanti. La quinta categoria infatti sono le relazioni interpersonali. Che cosa dicono della persona analizzata le scelte di amicizie e le interazioni online? Condividendo quello che Sesame Credit definisce come “energia positiva” online, come messaggi favorevoli sul governo o ad esempio quanto stia andando bene l’economia del paese, farà si che il punteggio salga.
Alibaba è categorico sul fatto che, attualmente, qualunque post negativo sui social media non va ad influenzare il punteggio (non sappiamo dire se questo sia vero o no, visto che l’algoritmo è segreto). Ma sembra chiaro come questo potrebbe andare a finire quando il sistema di punti, di proprietà del governo, sarà ufficialmente lanciato nel 2020. Anche se non c’è ancora alcuna ipotesi che, una delle otto società private coinvolte nel programma pilota in corso, sarà in ultima analisi responsabile della gestione del sistema di proprietà governativa, è difficile credere che il governo non vorrà estrarre il massimo dei dati per il Sistema di Credito Sociale dal programma pilota. Se ciò dovesse accadere e restare come nuova consuetudine sotto il SCS del governo, ciò si tradurrà in piattaforme private che agiscono essenzialmente come agenzie di spionaggio per il governo. Potrebbero non avere scelta.
Postare sui social opinion politiche dissidenti o link che menzionano Piazza Tiananmen non è mai stata considerata come cosa saggia in Cina, ma ora potrebbe danneggiare direttamente il punteggio del cittadino. Ma ecco il vero punto forte: il punteggio di una persona potrà essere anche influenzato da ciò che gli amici online dicono e fanno, a prescindere dal contatto con loro. Se qualcuno con cui sono connessi online condivide un commento negativo, anche il loro punteggio verrà abbassato.
Quindi, perché milioni di persone si sono già iscritte al programma di prova per sistema di sorveglianza governativo pubblicamente approvato? Potrebbero esserci ragioni più oscure e non dichiarate – ad esempio la paura di ripercussioni per coloro che non alzano la mano – ma c’è anche un attrattiva sotto forma di ricompensa e “privilegi speciali” per quei cittadini che si dimostrano essere “degni di fiducia” su Sesame Credit.
Se il loro punteggio raggiunge 600, possono prelevare un prestito Just Spend fino a 5.000 yuan (circa 565 £) da utilizzare per acquistare online su un sito di proprietà di Alibaba. Al raggiungimento di 650 punti possono noleggiare un’auto senza lasciare un deposito. Sono inoltre autorizzati a effettuare il check-in piu veloce in hotel e ad utilizzare il VIP-check-in presso l’aeroporto internazionale di Pechino.
Coloro che hanno un punteggio superiore a 666 punti possono ottenere un prestito in contanti fino a 50.000 yuan (5.700 £) dalla Ant Financial Service. Oltre i 700 punti si può viaggiare a Singapore senza documenti, come la lettera di impiego. E, a 750 punti, possono avere la priorità nel conseguimento del visto paneuropeo Schengen. “Credo che il modo migliore per capire questo sistema è vederlo come una sorta di figlio di bastardo bastardo di un regime di fedeltà” dice Creemers.
I punteggi più alti sono già diventati uno status symbol, con circa 100.000 persone che si vantano del loro su Weibo (l’equivalente cinese di Twitter) a pochi mesi dal lancio. Il punteggio dei cittadini può anche incidere sulle possibilità di ottenere un appuntamento romantico, o un coniuge, poiché più alto è il loro rating Sesame più prominente sarà il loro profilo sul servizio online di appuntamenti Baihe.
Sesame Credit sta già offrendo consigli per aiutare i singoli a migliorare il loro punteggio, includendo avvertimenti circa gli aspetti negativi di essere amici di qualcuno che ha un punteggio basso. Ciò potrebbe portare all’ascesa dei consiglieri del punteggio, che condividono suggerimenti su come ottenere punti o consulenti di reputazione disposti a offrire consigli esperti su come migliorare strategicamente una classifica o scendere dalla lista nera della fiducia.
Infatti Sesame Credit è fondamentalmente una versione gamificata dei metodi della sorveglianza tipica del Partito Comunista; l’inquinante dang’an (parola cinese che sta a significare il sistema archivistico che registra “le prestazioni e gli atteggiamenti” dei cittadini). Il regime ha dei dossier su ogni individuo che tracciano le trasgressioni politiche e personali. Il dang’an personale segue i cittadini per tutta la loro vita, dalla scuola al lavoro. La gente ha iniziato a denunciare amici e addirittura membri della famiglia, suscitando sospetti e abbassando la fiducia sociale in Cina. La stessa cosa accadrà con i dossier virtuali. Le persone avranno un incentivo a dire a i propri amici e alla propria famiglia: “non postare quello. Non voglio che ti rovini il punteggio ma non voglio nemmeno che rovini il mio”.
Vedremo anche la nascita del mercato nero della reputazione che venderà sottobanco modi per aumentare la propria fiducia. Nello stesso modo in cui si possono comprare i like di Facebook e i follower di Twitter, le persone pagheranno per manipolare il proprio punteggio. E per quanto riguarda i sistemi di sicurezza? Gli hacker potranno cambiare o rubare gli archivi di informazioni digitali.
Il nuovo sistema riflette un cambiamento paradigmatico. Come abbiamo visto, invece di cercare di far rispettare la stabilità o la conformità con un grande bastone e una buona dose di paura dall’alto, il governo sta tentando di far sentire l’obbedienza come un gioco.E’ un metodo di controllo sociale travestito da sistema di punti-premio. E’ obbedienza gamificata.
In un quartiere alla modo al centro di Pechino, la BBC nel ottobre 2015 ha chiesto alla gente in strada il loro punteggio di Sesame Credit. La maggior parte delle persone ha parlato dei lati positivi, ma infondo chi criticherebbe pubblicamente il sistema? Ding, il tuo punteggio scenderebbe subito. In modo allarmante, poche persone hanno capito che che un punteggio negativo potrebbe danneggiarli in futuro. Ancora più preoccupante è la quantità di persone che non ha la minima idea di essere stata valutata.
Attualmente Sesame Credit non penalizza direttamente le persone per essere “non degne di fiducia”, è più efficace infatti disincentivare la gente con ossequi per buona condotta. Ma Hu Tao, il chief manager di Sesame Credit avverte che il sistema è pensato in modo tale che i non degni di fiducia non possano noleggiare un’auto, prendere soldi in prestito o persino trovare un lavoro. Ha anche reso noto che Sesame Credit si è avvicinata all’Istituto di istruzione della Cina per condividere un elenco dei suoi studenti che hanno imbrogliato agli esami nazionali, per fargli pagare in futuro la loro disonestà.
Le sanzioni sono destinate a cambiare drasticamente quando il sistema governativo diventa obbligatorio nel 2020. Infatti, il 25 settembre 2016, l’Ufficio generale del Consiglio di Stato ha aggiornato la sua politica intitolata “Meccanismi di avvertimento e punizione per le persone soggette all’esecuzione per Trust-Breaking”. Il principio generale è semplice: “Se la fiducia viene rotta in un luogo , le restrizioni vengono imposte ovunque”, afferma il documento.
Ad esempio, chi ha un punteggio basso avrà internet a velocità ridotta; restrizioni di accesso a ristoranti, nightclub o campi da golf; e la rimozione dei diritti di libero movimento all’estero “il controllo restrittivo sul consumo all’interno delle aree di vacanza o le imprese di viaggio”. Il punteggio influenzerà le richieste di affitto di una persona, la capacità di ottenere un’assicurazione o un prestito e anche i benefit di sicurezza sociale. I cittadini con un punteggio basso non verranno assunti da determinati datori di lavoro e gli verrà impedito l’ottenimento di determinati impieghi, incluso il servizio civile, giornalismo e il campo legale, dove ovviamente devi essere considerato affidabile. Un cittadino dal punteggio basso sarà anche limitato quando si tratterà di iscrivere se stesso o i propri figli in scuole private ad alto rendimento. Non mi sto inventando questa lista di punizioni, ma è la realtà che i cittadini cinesi dovranno affrontare. Come afferma il documento del governo, il sistema di credito sociale “permetterà a chi è fidato di vagare dappertutto sotto il cielo, rendendo difficile per gli screditati di intraprendere un solo passo”.
Secondo Luciano Floridi, professore di filosofia e di etica dell’informazione presso l’Università di Oxford e direttore della ricerca presso l’Oxford Internet Institute, ci sono stati tre “spostamenti di decentramento” che hanno alterato la nostra visione di auto comprensione. Il modello di Copernico della Terra che orbita intorno al Sole, la teoria di Darwin sulla selezione naturale, e l’affermazione di Freud che le nostre azioni quotidiane sono controllati dalla mente inconscia.
Floridi ritiene che ora stiamo entrando nel quarto spostamento, poiché quello che facciamo online e offline si fonde in una onlife. Asserisce che la nostra società sta sempre più diventando un infosfera, un mix di esperienze fisiche e virtuali, e che noi di conseguenza stiamo acquisendo una personalità onlife – diversa rispetto a quella che abbiamo inizialmente nel “mondo reale “ da solo. Questo lo vediamo già in grande stile su Facebook, dove le persone presentano un ritratto modificato o idealizzato della loro vita. Pensa ad esempio alle tue esperienze con Uber. Ti ritrovi a d essere anche solo un po’ più gentile con il conducente solo perché sai che che ti valuterà? Ma la valutazione di Uber è niente in confronto a Peeple, un’applicazione lanciata nel Marzo 2016, una sorta di Yelp ma per gli essere umani. Ti permette di assegnare una valutazione e recensione a tutti quelli che conosci – il tuo coniuge, vicino, il capo e persino i tuoi ex. Ogni profilo ha un “Numero Peeple”, un punteggio basato su tutti i feedback e recensioni che ricevi. Una volta che il tuo nome è sul sistema di Peeple, sarà lì per sempre, non c’è modo di eliminarlo.
Peeple ha proibito determinati comportamenti negativi come ad esempio menzionare la propria condizione di salute, dire volgarità o essere sessisti . Ma ci sono alcune regole su come le persone vengono classificate o standardizzate sulla trasparenza.
Il sistema di fiducia cinese potrà anche essere solo di tipo volontario per ora, ma sta già avendo conseguenze. Nel Febbraio 2017 la Corte Suprema del paese ha annunciato che a 6.15 milioni di cittadini è stato proibito prendere aerei negli ultimi quattro anni per misfatti sociali. L’interdizione è il primo passo verso la creazione della lista nera del SCS. “Abbiamo firmato un memorandum… 44 dipartimenti governativi per limitare il discredito di persone su diversi livelli” ha detto Meng Xiang, capo del dipartimento esecutivo della Corte Suprema. Altri 1.65 milioni di persone inserite nella lista nera non possono prendere i treni.
Questi sistemi scendono veramente in un territorio angosciante soprattutto perché gli algoritmi di fiducia utilizzati sono ingiustamente riduttivi. Infatti non tengono in considerazione il contesto. Ad esempio, una persona potrebbe non aver pagato una tassa o una multa poiché si trova in ospedale, oppure potrebbe essere semplicemente un profittatore. E proprio in questo sta la sfida che che tutti noi dobbiamo affrontare nel mondo digitale, e non solo i cinesi. Se gli algoritmi di determinazioni della vita sono qui per restare, dobbiamo trovare un modo per accettarne le sfumature, incongruenze e contraddizioni intrinseche agli esseri umani e come possono riflettere la vita reale.
Si potrebbe pensare al piano di fiducia cinese come il 1984 di Orwell che incontra il cane di Pavlov. Comportati da bravo cittadino e sarai premiato e ti sarà anche fatto pensare che ti stai divertendo. Occorre ricordare però che un sistema di punteggio personale è presente in Occidente già da alcune decadi.
Più di 70 anni fa due uomini Bill Fair e Earl Isaac hanno inventato il punteggio di credito. Oggi le aziende usano il punteggio FICO per determinare molte decisioni finanziarie, inclusi i tassi di interesse per i mutui o se siamo idonei a ricevere un prestito.
La maggior parte dei cittadini cinesi non ha mai avuto un punteggio di credito perciò non possono ottenere credito. “Molte persone in Cina non possiedono una caso, un auto o carte di credito, perciò questo tipo di informazione non è misurabile” spiega Wen Quan, un blogger influente che scrive di tecnologia e finanza. “La Banca Centrale possiede i dati finanziari di 800 milioni di persone, ma solo 320 milioni hanno una storia creditizia tradizionale.” Secondo il Ministero del Commercio cinese, la perdita economica annuale causata dalla mancanza di informazioni sul credito è più di 600 miliardi di yuan (68 miliardi di sterline).
La mancanza della Cina di un sistema di credito nazionale è il motivo per cui il governo è convinto che i Punteggi dei cittadini sono stati lungamente attesi e estremamente necessari per aggiustare quello che chiamo “deficit di fiducia”. In un mercato scarsamente regolato la vendita di prodotti contraffatti e non conformi è un grosso problema. Secondo l’Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE), il 63% di tutte le merci false, dagli orologi alle borse al cibo per neonati, provengono dalla Cina. “Il livello di corruzione è enorme” dice Creemers, “perciò se questo particolare schema dovesse portare una più efficace sorveglianza e senso di responsabilità, sarà probabilmente accolto con grande favore”.
Il Governo afferma inoltre che il sistema è un modo per portare dentro quelle persone lasciate fuori dai sistemi di credito tradizionali, come gli studenti e le famiglie a basso reddito. Il professor Wang Shuqin, dell’Ufficio di Filosofia e Scienze Sociali della Capital Normal University in Cina, recentemente ha vinto il bando per aiutare il Governo a sviluppare il sistema, quello che chiama “Sistema Sociale fedele della Cina”.
Senza questo tipo di meccanismo, fare affari in Cina risulta rischioso, e sottolinea che circa la metà dei contratti firmati non vengono rispettati. “Data la velocità dell’economia digitale, è fondamentale che le persone possano rapidamente verificare la loro capacità di credito” dice. “Il comportamento della maggioranza è determinato dal loro mondo di pensieri. Se una persona crede nei valori cardine del socialismo si comporterà più decentemente”. Considerando il sistema di valutazione degli “standard morali”, come dei dati finanziari, come un bonus.
Infatti, il Consiglio di Stato mira a sollevare la “mentalità onesta e i livelli di credito dell’intera società” per poter migliorare “la generale competitività del paese”. È possibile che il SCS sia in realtà un approccio trasparente più desiderabile alla sorveglianza in un paese che ha una lunga storia di osservazione dei suoi cittadini? “Da cinese, sapendo che tutto quello che faccio online è tracciato, non preferirei essere consapevole dei dettagli di ciò che è monitorato e usare queste informazioni per insegnare a me stesso come rispettare meglio queste regole?” dice Rasul Majid, un blogger cinese con base a Shanghai che scrive di struttura comportamentale e psicologia del gioco.
“O preferirei vivere nell’ignoranza e sperare/augurarmi/sognare che la privacy personale esista ancora e che le nostre struttura governative ci rispettino abbastanza da non approfittarne?”
In parole povere Majid pensa che il sistema gli dia un pochino più di controllo sui suoi dati. Quando racconto agli occidentali del Sistema di Credito Sociale Cinese, le loro risposte sono ferventi e viscerali. Eppure noi già valutiamo ristoranti, film, libri e anche i medici. Facebook, nel frattempo, è già in grado di identificarti nelle foto senza vedere il tuo volto; necessità solo dei tuoi vestiti, capelli e corporatura per taggarti in immagini con l’83% di accuratezza. Nel 2015 l’OCSE ha pubblicato uno studio rivelando che negli Stati Uniti ci sono almeno 24.9 dispositivi su 100 abitanti. Ogni tipo di compagnia scrutina i “big data” emessi da questi dispositivi per capire il tuo stile di vita e tuoi desideri, e per prevedere le tue azioni in modi che nemmeno noi stessi possiamo prevedere.
I Governi in tutto il mondo sono già entrati nel business del monitoraggio e della valutazione. Negli USA, l’Agenzia di Sicurezza Nazionale (NSA) non è l’unico occhio digitale che segue i movimenti dei cittadini. Nel 2015, l’Amministrazione della Sicurezza dei Trasporti negli Stati Uniti ha proposto l’idea di estendere le indagini includendo i social media, i dati relativi alla posizione e lo storico degli acquisti. L’idea però è stata bloccata dopo forti critiche, ma ciò non vuol dire che sia morta. Viviamo già in un mondo di algoritmi predittivi che determinano se siamo una minaccia, un rischio, bravi cittadini e anche se siamo affidabili. Ci stiamo avvicinando al sistema Cinese – l’espansione del punteggio di credito nel punteggio di vita – anche se non siamo consapevoli che sta accadendo.
Ci stiamo dirigendo verso un futuro dove saremo tutti marchiati online e spogliati delle nostre informazioni? Certamente questa è la tendenza. A prescindere da una sorta di rivoluzione di massa per riavere la propria privacy, stiamo entrando in un’epoca in cui le azioni di un individuo saranno giudicate da norme che non possono controllare e dove tale giudizio non può essere cancellato.Le conseguenze non sono solo inquietanti; sono permanenti. Dimenticate il diritto di eliminare o di essere dimenticati, e di essere giovani e sciocchi.
Anche se potrebbe essere troppo tardi per fermare questa nuova era, abbiamo delle possibilità e dei diritti che possiamo esercitare ora. Nel suo libro The Inevitable, Kevin Kelly descrive un futuro dove i controllori e i controllati possono osservarsi l’uno con l’altro in trasparenza. “La nostra scelta principale ora è se mantenere questa sorveglianza segreta, panopticon unidirezionale – o avere una mutua, trasparente sorta di co-sorveglianza che comporta di osservare gli osservatori”.
La nostra fiducia dovrebbe partire con gli individui all’interno del governo (o chiunque controlli il sistema). Abbiamo bisogno di meccanismi degni di fiducia per assicurarsi che i punteggi e i dati siano utilizzati in modo responsabile e con il nostro permesso. Per avere fiducia nel sistema, dobbiamo ridurre gli incogniti. Questo vuol dire fare dei passi per ridurre l’opacità dell’algoritmo. Le argomentazioni contrarie alla divulgazione obbligatoria di informazioni è che se tutti sapessero cosa accade sotto il cappuccio, il sistema potrebbe diventare truccato o hackerato. Ma se gli esseri umani vengono ridotti a un rating che potrebbe avere un impatto significativo sulla loro vita, deve essere trasparente come funziona il punteggio.
In Cina, alcuni cittadini, come ad esempio i funzionari di governo, saranno probabilmente considerati al di sopra del sistema. Quali saranno le reazioni pubbliche quando le loro azioni sfavorevoli non influiranno sul loro punteggio? Potremmo vedere un Panama Papers 3.0 per frode di reputazione.
E’ ancora troppo presto per sapere come risulterà una cultura del monitoraggio costante e del rating. Che cosa accadrà quando questi sistemi, che tracciano la storia sociale, morale e finanziaria di un’intera popolazione, entrano in piena forza? Quanto ancora sarà violata la privacy e la libertà di parola? Chi deciderà in quale direzione andrà il sistema? Queste sono domande che tutti dobbiamo tenere in considerazione e dobbiamo farlo il prima possibile. Oggi è la Cina ma domani potrebbe essere in qualche luogo più vicino. Le vere domande sul futuro della fiducia non sono di tipo tecnologico o economico, ma sono etiche.
Se non siamo vigili su questo, la fiducia così ripartita potrebbe trasformarsi in disonore veicolato dalla rete. La vita diventerebbe un concorso di popolarità senza fine, in cui tutti noi competeremo per ottenere il rating più altro che solo pochi potranno ottenere.
Rachel Botsman
Traduzione di Irene Guidarelli
Leggi l’articolo originale sul sito di Wired