Como o Ocidente entendeu errado o sistema de crédito social chinês

Por Louise Matsakis, via wired.com traduzido por Bruno Santana

O projeto propõe o estabelecimento de um esquema nacional para inspecionar a confiança dos cidadãos, empresas e oficiais do governo. O governo chinês e a mídia estatal afirmam que o projeto foi pensado para aumentar a confiança e enfrentar problemas como fraude corporativa e corrupção. Críticos ocidentais veem o crédito social no entanto, como um aparato de vigilância intruso para punir dissidentes e afligir à privacidade da população. 

Em outubro de 2018, o vice-presidente Mike Pence visitou o Instituto Hudson- um think tank conservador de Washington, DC- para dar um discurso de amplo alcance sobre o relacionamento dos EUA com a China. Com uma postura rígida usando uma gravata azul, o vice-presidente começou seu discurso acusando o Partido Comunista Chinês de interferir na política interna dos EUA e direcionar os negócios chineses para o roubo da propriedade intelectual estadunidense de toda forma possível. Pence voltou sua atenção aos abusos contra os direitos humanos cometidos pela China, começando a citar não a perseguição de minorias religiosas, mas com uma iniciativa governamental peculiar: o sistema de crédito social. “Em 2020, os líderes chineses pensam em implementar um sistema Orwelliano que tem como premissa monitorar virtualmente todas as facetas da vida humana- a assim chamada ‘pontuação de crédito social’”, disse Pence. “Nas palavras oficiais do projeto, irá permitir àqueles que são confiáveis que caminhem para qualquer lugar do paraíso enquanto torna difícil àqueles que não pontuam dar um passo sequer.”

As declarações do vice-presidente ecoaram em um fluxo contínuo pela mídia ocidental, que vem publicando ao longo dos anos em suas manchetes, de que o Sistema de Crédito Social Chinês é um pesadelo distópico trazido diretamente de Black Mirror. Os artigos e programas de mídia dizem frequentemente que o governo central da China está usando um algoritmo futurista para compilar as conexões pessoas dos cidadãos nas redes sociais, históricos de compras, dados de localização e outros dados em uma pontuação que confere à população seus direitos e liberdades. O governo pode supostamente analisar filmagens de centenas de milhões de câmeras equipadas com reconhecimento facial em tempo real, e então lhe recriminar pontos por mau comportamento, como por exemplo por ter jogado videogames por muito tempo. 

No entanto não há nenhum sistema todo-poderoso de pontuação atribuido aos indivíduos na China, pelo menos não ainda. O relatório oficial no qual Pence se refere é um documento lançado pelo comando-em-chefe administrativo da China há 5 anos atrás. O projeto propõe o estabelecimento de um esquema nacional para inspecionar a confiança dos cidadãos, empresas e oficiais do governo. O governo chinês e a mídia estatal afirmam que o projeto foi pensado para aumentar a confiança e enfrentar problemas como fraude corporativa e corrupção. Críticos ocidentais veem o crédito social no entanto, como um aparato de vigilância intruso para punir dissidentes e afligir à privacidade da população.

Faltando apenas um ano até o fim do prazo imposto pelo próprio governo para estabelecer as leis e regulação do crédito social, pesquisadores chineses dizem que o sistema está longe de ser o grande aparato semelhante ao ‘Big Brother’ como é retratado no imaginário ocidental. “Eu realmente acredito que você encontraria uma porcentagem muito maior de estadunidenses que sabem sobre o crédito chinês do que você encontraria chineses que sabem sobre o crédito social,” diz Jeremy Daum, pesquisador senior do Centro Paul Tsai da Escola de Direito de Yale em Pequim. O sistema tal como ele é existe hoje como remendos de projetos pilotos regionais, com algumas indicações sobre o que poderia ser implementado em escala nacional.

Isto não significa que os medos sobre o crédito social são infundados. O governo chinês já está usando novas tecnologias para controlar seus cidadãos de formas assustadoras. A internet é altamente censurada e todos os números de celulares e atividades online são registradas em um único endereço de IP ligado a um nome real. Tecnologias de reconhecimento facial estão aumentando exponencialmente na China, com algumas restrições em como ela pode ser usada para vigiar cidadãos. Os abusos mais problemáticos estão ocorrendo na província de Xinjiang, onde grupos de direitos humanos e jornalistas dizem que o governo chinês está detendo e vigiando as pessoas que pertencem à minoria islâmica Uyghur em uma escala nunca antes vista.

Mas as preocupações ocidentais sobre o que poderia acontecer com o Sistema de Crédito Social na China sempre de alguma forma ultrapassam as discussões sobre o que está realmente acontecendo. Críticos se baseiam no pior cenário possível no que pode vir a acontecer, e correm o risco de minimizar os aspectos problemáticos do projeto como ele está colocado hoje. Os retratos exagerados podem também ajudar a minimizar os esforços de vigilância excessiva em outras partes do mundo. “Porque a China é frequentemente associada ao lado extremo de um espectro, acho que isto interfere no objetivo central das discussões,” diz Daum. “Para que qualquer coisa menos invasiva do que nossa versão imaginada do crédito social pareça aceitáveis, porque pelo menos não é tão ruim quanto na China.”

Como se formaram os equívocos

Uma das primeiras preocupações emanadas do ocidente foi publicada por uma fonte improvável: A União Americana das Liberdades Civis, que não opera na China. Como parte de seu trabalho como analista de políticas de Expressão, Privacidade e Tecnologia da UALC, Jay Stanley escreve sobre ameaças emergentes às liberdades civis. Em 5 de outubro de 2015, ele publicou um post intitulado “As pontuações de cidadãos são um aviso aos americanos.” O artigo representa o quão inicial estava a cobertura, que derivava frequentemente de informações de segunda mão que viajavam como um jogo de celular, ao invés de uma reportagem em campo. O post de Stanley teve sua fonte associada a uma história similar da Privacy News Online, que se baseou em um artigo sueco vindo de outro website.

Hoje Stanley afirma que pretendia destacar o programa chinês como um causo preventivo para os EUA. “Isto realmente me pareceu estar apontando para um potencial futuro obscuro”, diz ele. “Haviam vários sinais e similaridades acontecendo nos EUA”, como o banco de dados digital. O post não foi a única saída usada para usar o sistema chinês como uma forma de dirigir a atenção das pessoas aos problemas de privacidade e vigilância experienciados no ocidente. “Quanto mais eu olho à minha volta, mais me parece que um sistema de crédito social americano está nos rondando- e não parece que será tão diferente de como é na China,” Casey Newton, um escritor na The Verge escreveu no mês passado em seu artigo “Tecnologia Chinesa Distópica pode ser contagiosa”, uma publicação na The Atlantic afirmou o mesmo no ano passado.

Enquanto vários jornalistas e estudiosos tentaram corrigir o registro, mitos de ficção científica sobre o sistema de crédito social da China continuam a perdurar no ocidente. “Há muita coisa escrita sobre isso que está errado, isto está ganhando vida própria”, diz Shazeda Ahmed, estudante PhD da Universidade da California em Berkley, que estudando o Sistema de Crédito Social da China, ela afirma que “ ainda vejo os artigos citando coisas de 2014, 2015 que pensei já terem sido superadas.”

Esta confusão é compreensível, no entanto. Primeiro, há a barreira linguística. Daum diz que a frase “crédito social” tem conotações diferentes no inglês em relação ao chinês (mandarim). Para um falante de inglês as duas palavras juntas podem significar uma referência a relacionamentos interpessoais. No chinês (mandarim), o termo está mais associado à termos como “propriedade pública de um truste”. Há também o obstáculo de decifrar um documento legal. “Acho que a língua é a barreira real”, diz Daum. “Ao mesmo tempo o jargão político e legal chinês conflitam com o inglês.”

O projeto original para o crédito social lançado em 2014 é ao mesmo tempo vago e abrangente, e não esteve claramente alinhado com o que o projeto pode realmente se constituir. “Eles esperavam que as diferentes partes do governo, central e local, iriam tentar associar seus termos para trabalhar conjuntamente na implementação do projeto,” diz Xin Dai, professor e diretor associado na Escola de Direito da Universidade Oceânica da China, que pesquisou o crédito social. “Você tem este cenário massivo e caótico ao mesmo tempo das pessoas tentando implementar diferentes tipos de programas.”

Por exemplo, o governo entrou em parcerias com empresas em algumas iniciativas embrionárias, incluindo “pontuações de crédito” calculadas para empresas privadas de tecnologia, como o programa de Crédito da Ant Financial. Em 2015 o governo chinês autorizou oito empresas de tecnologia, incluindo a Ant Financial, afiliada à gigante corporativa Alibaba, para experimentar o desenvolvimento de sistemas de crédito para os cidadãos. Junto aos dados financeiros, a Sesame Credit leva em consideração dados como conexões em redes sociais e hábitos de compras- a característica que mais ganhou a atenção do ocidente, inclusive uma história contada pela WIRED.

Em 2017, o governo chinês decidiu que nenhum dos pilotos iria receber autorização oficial para obter relatórios sobre as pesquisas, devido a preocupações sobre potenciais conflitos de interesses. Mas inicialmente, não estava claro o quão próximo estes programas estariam aos esforços do governo, mesmo na China. “Acho que houve, e ainda existem cidadãos chineses que não entenderam ao certo as diferenças também,” diz Ahmed. “Porque no começo,  a Sesame Credit era marketing por si só e contribuía para o Sistema de Crédito Social.”

Hoje, a Sesame Credit, assim como outras iniciativas semelhantes funcionam essencialmente como programas de recompensa por lealdade. Participantes com pontuações maiores ganham privilégios como alugar uma bicicleta sem deixar quantias ou terem seus pagamentos deferidos em gastos com saúde, mas a pontuação não faz parte do sistema legal, e ninguém é requerido a participar. 

Os projetos conduzidos pelo Estado que capturaram a atenção do ocidente são os projetos piloto locais. Dezenas de cidades chinesas estão experimentando suas próprias versões do crédito social, e algumas criaram programas que sim dão aos usuários um ranking numérico de pontuação pessoal. Estas iniciativas não contam com suporte de vigilância em massa ou inteligência artificial, e muitos cidadãos sequer sabem que isto existe. É difícil generalizar sobre os casos, uma vez que podem variar amplamente. Alguns estão incorporando tecnologia blockchain por exemplo. Por hora, não está claro quando, ou se esta iniciativa será adotada nacionalmente. 

A cidade de Rongcheng, a 500km de Beijing, é um dos locais que registra a pontuação individual de seus residentes no crédito social. De acordo com documentos do projeto que contornam o documento traduzido por Daum, seu escopo é bastante limitado. Para perder pontos no sistema, você precisaria violar uma lei, regulação existente, ou contrato que tenha feito. Manter uma fidelidade excepcional ao sistema é portanto um problema das regras legais já vigentes. Os benefícios de manter uma alta pontuação são modestos, como checkups gratuitos e empréstimos sem juros. “Olhando o quão fragmentado sua implementação é, você percebe que autoridades diferentes não possuem os mesmos recursos,” diz Ahmed. “Algumas das cidades pequenas só podem subsidiar benefícios não tão atrativos.”

Listas vermelhas e listas negras

O principal mecanismo do Sistema de Crédito que funciona nacionalmente são as listas vermelhas e listas negras. Cada agência regulatória foi solicitada a listar seus piores infratores, empresas e cidadãos que tenham violado regulações industriais existentes. As listas vermelhas são o exato oposto – são as empresas e pessoas complacentes. Estes arquivos foram ao público em um website centralizado chamado China Credit, onde todos podiam ter acesso. Pense no Better Business Bureau, ou nas notas dadas aos restaurantes. 

Muitas agências regulatórias assinaram memorandos concordando em punir pessoas e empresas que constarem em suas respectivas listas. Hipoteticamente, se este sistemas estivesse em vigência nos EUA, uma empresa poderia sofrer punições adicionais pela Agência de Proteção Ambiental por violar alguma regra do Conselho Alimentício e Farmacêutico. Não há evidências de que as mídias sociais da população estejam sendo incorporadas nos dados, pelo menos não até agora. “Estão fazendo isto para que estes registros sejam informados à outras agências,” diz Daum. “De alguma forma, isto foi interpretado como se tudo que estivesse fazendo fosse vigiado em um panóptico, e isto eu não vi”.

Pesquisadores do direito chinês estão preocupados com um destes bancos de dados em particular: A suprema corte popular mantem uma lista de pessoas que o governo afirma que não compareceram à audiências judiciais, por exemplo por não terem pago multas, mas também por coisas como ter falhado em formalmente ter se desculpado a alguém que foi acusado de ter feito algo errado. E estar nesta lista acompanha severas punições. Você pode ser impedido de comprar passagens de trem-bala, voar de avião ou enviar seus filhos a uma escola privada. Mais de 13 milhões de pessoas estavam na lista em março de acordo com registros estatais, e o governo impediu compras de mais de 20 milhões de passagens de avião. 

Yu-Jie Chen, uma advogada taiwanesa de direitos humanos e pesquisador pós-doutorado na Institutum Iurisprudentiae da Academia Sinica, diz que a lista negra está impondo “punições desproporcionais, arbitrárias e de grande alcance”, sobre pessoas que já sofreram as consequências de infringir a lei. Ela ainda afirma que está preocupada em como a lista penaliza os que não cometeram nenhum delito, como uma criança que é impedida de se matricular em certas escolas por causa das ações de seus pais. Não está claro quais cidadãos conseguem sair da lista ou se são incluídos por acidente, ou mesmo se cumpriram suas responsabilidades com as cortes legais. 

Para reforçar estas punições, Ahmed escreveu que o governo está compartilhando listas em plataformas digitais. Desta forma as pessoas não podem fazer coisas como agendar voos ou comprar passagens de trem online. Os governos locais estão pedindo à empresas de redes sociais que ajudem a orquestrar iniciativas de constrangimento público. Na cidade de Nanning, o aplicativo TikTok colaborou com as cortes locais para divulgar fotos de pessoas na lista entre vídeos, como uma nota fiscal digital. Na cidade de Shijiazhuang, pessoas e entidades na lista foram expostas em um mapa no aplicativo WeChat. As medidas não são amplamente fomentadas, mas geram preocupação especialmente se as pessoas foram adicionadas equivocadamente à lista negra e esta informação está disponível para todos.

O futuro do crédito social

Ao se aproximar do prazo de 2020, o Sistema de Crédito Social da China se mantem em desenvolvimento. Há sinais no entanto, de que o sistema pode ser incorporado a mais formas de coleta de dados. Por exemplo, diz Chen, a página Credit China já encoraja seus usuários a fazer log in usando o próprio rosto, ainda que não seja obrigatório. “Então haverá um elemento de reconhecimento facial se o governo pode persuadir as pessoas a usarem mais funções oferecidas”, explica.

Enquanto isso, diz Dai, pesquisadores chineses começaram a discutir os potenciais riscos à privacidade e outros riscos apresentados pelo projeto. Foram influenciados em parte, pela enorme atenção dada ao Crédito Social no ocidente, a despeito do fato do projeto não ter sido retratado com precisão. “Este projeto inteiro é tão grande, e varia de lugar a lugar” diz Dai. “É fácil existir equívocos na interpretação em cada parte, sem se analisar o cenário todo.”