O regime comunista da China vem utilizando seus avanços em inteligência artificial (IA) não só para tentar ultrapassar os Estados Unidos, seu principal rival tecnológico, mas também para ampliar o seu já rigoroso sistema de controle da informação, conhecido como “Grande Firewall”. Uma base de dados chinesa vazada e analisada pelo portal americanoTechCrunch – especializado em tecnologia – revelou que as autoridades comunistas treinaram um modelo de IA com mais de 133 mil exemplos de conteúdos considerados “sensíveis” — incluindo denúncias de corrupção, críticas à polícia, comentários sobre a pobreza rural e Taiwan — com o objetivo de monitorar, censurar e eliminar publicações contrárias à narrativa oficial.
O sistema, segundo os registros obtidos, opera de forma semelhante a plataformas de IA generativa, mas com um propósito inteiramente distinto: eliminar automaticamente qualquer conteúdo que questione a autoridade do Partido Comunista Chinês (PCCh). De acordo com a informação, a IA foi treinada para censurar até mesmo frases aparentemente inofensivas, como provérbios chineses usados para criticar lideranças. Um exemplo incluído nos dados é o ditado “Quando a árvore cai, os macacos se espalham”, interpretado como uma ameaça simbólica à estabilidade do poder.
De acordo com Xiao Qiang, pesquisador da Universidade da Califórnia em Berkeley e especialista em censura chinesa, a revelação representa “uma prova irrefutável” de que o regime chinês está avançando no uso da IA para consolidar seus mecanismos de repressão.
“Ao contrário dos métodos tradicionais de censura, que dependem de filtros de palavras-chave e supervisão manual, um modelo de linguagem de grande porte (LLM) treinado para esse propósito aumentaria exponencialmente a capacidade de controle do Estado sobre a informação”, afirmou Qiang ao TechCrunch.
O banco de dados utilizado para treinar a “IA censora” foi encontrado pelo pesquisador de segurança digital conhecido como “NetAskari”. De acordo com o TechCrunch, este pesquisador localizou os registros em um servidor da gigante chinesa de tecnologia Baidu que estava sem as proteções adequadas. As informações estavam armazenadas em um sistema do tipo Elasticsearch – uma plataforma amplamente utilizada para indexação e busca rápida de grandes volumes de dados – e continham atualizações recentes, até dezembro de 2024, o que indica que a ferramenta está em uso ativo. Embora não esteja claro qual entidade oficial desenvolveu o sistema, a documentação interna o descreve como ferramenta de “trabalho de opinião pública” — um eufemismo comumente usado pela Administração do Ciberespaço da China (CAC), que coordena o chamado “Grande Firewall”, para definir censura e propaganda digital.
A prática não é isolada. Em fevereiro deste ano, a OpenAI, empresa americana responsável pelo ChatGPT, informou ter identificado agentes chineses usando inteligência artificial para monitorar publicações críticas à ditadura de Pequim em redes sociais de outros países. O objetivo desses agentes era desacreditar dissidentes no exterior. A organização Article 19, que atua em defesa da liberdade de expressão, alertou que regimes autoritários estão adotando a IA como forma de suprimir vozes contrárias e controlar o debate público com ainda mais precisão. Michael Caster, especialista da entidade, apontou que o objetivo central dessa estratégia é “proteger as narrativas oficiais e eliminar qualquer ponto de vista alternativo”.
Atualmente, entre os tópicos mais visados pelo sistema chinês de censura estão a corrupção dentro do PCCh, escândalos de poluição ambiental, fraudes financeiras e protestos trabalhistas. Segundo o TechCrunch, temas relacionados a Taiwan apareceram mais de 15 mil vezes na base de dados utilizada para treinar a IA censora, evidenciando a prioridade do regime chinês em monitorar qualquer menção à ilha democrática — considerada por Pequim um “território rebelde”, embora opere de forma independente.
“É fundamental compreender como a censura baseada em IA está evoluindo, permitindo que o controle do discurso público seja cada vez mais preciso e eficiente”, concluiu Xiao Qiang.