No primeiro texto, o foco recaiu sobre IA, emprego e estabilidade social. Esta segunda parte trata dos outros dois eixos da política chinesa de IA.
Controle de informação e disciplina ideológica. Segurança nacional e riscos técnicos.
A ideia central é direta. A China integra IA ao aparato de censura e de segurança do Estado, não trata a tecnologia como neutra.
De algoritmos de recomendação à IA generativa
Antes da explosão da IA generativa, o país já usava algoritmos de recomendação em larga escala. Feeds de notícias, redes sociais e comércio eletrônico dependiam dessa camada.
Isso deslocou o controle do que as pessoas viam primeiro. Em vez de manchetes definidas centralmente, usuários passaram a receber listas personalizadas.
A resposta veio com regulamentos específicos para algoritmos de recomendação. As normas exigem registro de modelos, classificam conteúdo em positivo, negativo e ilegal e determinam que plataformas promovam o primeiro grupo e reduzam o segundo.
Em seguida, surgiu o registro de algoritmos. Provedores precisam informar finalidade, dados de treino e lógica geral de sistemas com potencial de mobilização social. Essa base virou peça central da governança de IA chinesa e passou a incluir serviços de IA generativa.
Deepfakes, “deep synthesis” e integridade da informação
O caso do aplicativo Zao, que popularizou trocas de rosto em vídeo, acelerou a reação a deepfakes.
Assim, o país evoluiu de regras gerais sobre audiovisual online para um regulamento dedicado à “deep synthesis”. O termo abrange geração e edição automática de texto, imagem, áudio, vídeo e cenas virtuais.
As normas exigem duas camadas de marcação. Uma etiqueta técnica em metadados para todo conteúdo gerado por máquina. E uma rotulagem visível em casos com potencial de confundir o público, como vozes sintéticas realistas e vídeos hiper-realistas.
Remover ou ocultar essas etiquetas fere a regra. Provedores devem monitorar conteúdo, reportar material ilegal e combater rumores quando suas ferramentas forem usadas para desinformação.
O ponto decisivo é a responsabilização. As normas tratam provedores de serviços de deep synthesis como produtores diretos do conteúdo, inclusive para fins de sanção administrativa ou penal. Então, o efeito provável é de autocensura técnica, com limitação de funcionalidades em temas sensíveis.
IA generativa e disciplina ideológica
Com modelos de linguagem avançados, vieram medidas interinas para serviços de IA generativa. O texto replica a lógica de controle de conteúdo aplicada a sistemas conversacionais.
As regras determinam que saídas de modelos reflitam “valores socialistas centrais” e proíbem conteúdo que ameace o sistema político, a unidade territorial ou a imagem internacional do país.
Também vetam incitação ao terrorismo, ao separatismo, ao ódio étnico e conteúdos considerados violentos, obscenos ou capazes de perturbar a ordem econômica e social.
Versões mais recentes ajustam a linguagem sobre falsidade. A obrigação passa de “evitar conteúdo falso” para “reduzir conteúdo falso nocivo”, reconhecimento das limitações técnicas de modelos grandes sem flexibilizar o controle político.
Na prática, equipes regulatórias testam modelos domésticos com consultas sensíveis. A aprovação depende de altas taxas de respostas consideradas adequadas sobre temas como Taiwan, protestos e episódios históricos.
Testes independentes mostram que chatbots chineses tendem a recusar perguntas sobre liberdade de imprensa e a enquadrar organizações críticas como instrumentos políticos externos.
IA generativa funciona assim como camada adicional de filtragem e reforço da narrativa oficial.
Arquitetura de segurança: identidade, dados e agentes autônomos
A camada de segurança combina identidade real, proteção de dados e limites a agentes.
Usuários de serviços de IA precisam registrar identidade conforme normas de cibersegurança, reduzindo anonimato e facilitando a responsabilização.
A lei de proteção de dados pessoais estabelece princípios de consentimento e necessidade mínima. Provedores de IA passam a ser tratados como operadores formais de dados, com obrigações de segurança e retenção restrita.
Casos como a paralisação simultânea de mais de cem robôs táxi em Wuhan, que deixaram passageiros presos por horas, expõem riscos operacionais de sistemas autônomos e mobilizam autoridades de segurança pública.
Ao mesmo tempo, laboratórios estrangeiros demonstram modelos capazes de identificar vulnerabilidades em defesas cibernéticas, o que alimenta preocupação com uso ofensivo de IA contra infraestruturas.
IA como ativo de poder e vetor de vulnerabilidade
A China investe em IA em segurança pública, vigilância urbana e monitoramento de redes. Empresas locais ganharam espaço global em visão computacional e reconhecimento facial, o que reforça a confiança interna na base industrial de IA.
A liderança também começa a tratar a perda de controle técnico sobre modelos de fronteira como risco de segurança. Discursos recentes mencionam essa possibilidade em meio a preocupações com roubo de dados e ataques avançados.
O uso de deepfakes em operações de influência ilustra o dilema. Internamente, o país regula de forma rígida conteúdo sintético e associa deepfakes a risco de instabilidade. Externamente, analistas apontam interesse em explorar tecnologias semelhantes em campanhas de influência em outras regiões.
Organizações de monitoramento de mídia mostram que chatbots chineses reproduzem elementos de propaganda estatal. Respostas sobre temas sensíveis tendem a seguir roteiros oficiais ou a deslegitimar fontes críticas.
IA aparece assim como ativo de poder e, ao mesmo tempo, como fonte de novas vulnerabilidades técnicas e políticas.
Implicações para empresas e líderes fora da China
Empresas globais de tecnologia que operam na China precisam lidar com versões regulatórias múltiplas dos mesmos produtos. Modelos devem ser ajustados para cumprir regras chinesas de conteúdo e de dados, sem violar exigências de outras jurisdições.
Na prática, muitas optam por manter variantes de sistemas. Uma versão para uso doméstico, alinhada a políticas chinesas de conteúdo e registro. Outra para mercados com regimes jurídicos diferentes.
Grupos econômicos diversificados enfrentam desafios em duas frentes. Adaptação de sistemas às exigências de identidade real, retenção de dados e rotulagem de conteúdo sintético. E gestão de risco reputacional em países com expectativas distintas sobre privacidade e liberdade de expressão.
A exigência chinesa de etiquetas técnicas e visíveis para deepfakes antecipa debates globais sobre marcação de conteúdo gerado por IA. Empresas multinacionais que experimentam esses mecanismos hoje tendem a levar aprendizados para outros mercados.
Para lideranças de negócios e tecnologia, a conclusão é pragmática. Governança de IA precisa reconhecer que modelos e agentes atravessam regimes regulatórios com prioridades políticas diferentes. Arquiteturas, políticas de dados e camadas de filtragem terão de refletir essa diversidade.
Conclusão
Nos dois textos, o quadro se mantém. A China trata IA como tecnologia de potência, mas ancora seu desenvolvimento em três frentes de controle. Emprego e estabilidade social. Informação e disciplina ideológica. Segurança nacional e cibersegurança.
No campo de controle de informação, o país combina regulamentos sobre algoritmos de recomendação, deepfakes e IA generativa com um registro de modelos que permite rastrear e intervir em sistemas com capacidade de mobilização social.
Na dimensão de segurança, reforça exigências de identidade real, proteção de dados e padrões para agentes autônomos, ao mesmo tempo em que amplia uso de IA em vigilância e operações digitais.
A experiência chinesa ilustra o tipo de tensão que outros países e empresas também enfrentarão. Como capturar ganhos econômicos e estratégicos de IA sem perder controle sobre emprego, informação e infraestrutura crítica. A resposta chinesa segue um caminho próprio, alinhado ao seu modelo político, e fornece um caso concreto de uso de IA como instrumento direto de poder estatal.
Referências bibliográficas
Economist. “Why China’s Government Worries About AI”. Edição China, 16 abril 2026.
Carnegie Endowment for International Peace. “China’s AI Policy at the Crossroads: Balancing Development and Control in the DeepSeek Era”. 2025.
Carnegie Endowment for International Peace. “Tracing the Roots of China’s AI Regulations”. 27 fevereiro 2024.
Daum, Jeremy. “Overview of Draft Measures on Generative AI”. China Law Translate, abril 2023, atualizado em 2025.
Asia Society Policy Institute. “China’s Emerging Approach to Regulating General-Purpose Artificial Intelligence: Balancing Innovation and Control”. 7 fevereiro 2024.
China Media Project. “How China Thinks About AI Safety”. 19 setembro 2024.
Jamestown Foundation. “Deepfakes with Chinese Characteristics: PRC Influence Operations in 2024”. 22 julho 2025.
China on a Tightrope: AI, information control, and national security (2/2)
In the first text, the focus was on AI, employment, and social stability. This second part looks at the other two axes of China’s AI policy.
Control of information and ideological discipline. National security and technical risk.
The core idea is straightforward. China integrates AI into its censorship and security apparatus and does not treat the technology as neutral.
From recommendation algorithms to generative AI
Well before the boom in generative AI, the country was already using recommendation algorithms at scale. News feeds, social networks, and e-commerce all depended on this layer.
This shifted control over what people saw first. Instead of centrally defined headlines, users started receiving personalized lists.
The response came through specific regulations for recommendation algorithms. The rules require model registration, classify content as positive, negative, or illegal, and instruct platforms to promote the first group and reduce the second.
Next came the algorithm registry. Providers must disclose the purpose, training data, and general logic of systems with potential for social mobilization. That database became a central piece of China’s AI governance and now includes generative AI services.
Deepfakes, “deep synthesis”, and information integrity
The case of the Zao app, which popularized face-swap videos, accelerated the reaction to deepfakes.
This forces the country to move from general rules on online audiovisual content to a regulation dedicated to “deep synthesis”. The term covers automatic generation and editing of text, images, audio, video, and virtual scenes.
Now, rules require two layers of labeling. A technical tag in metadata for all machine-generated content. And a visible label for cases that could mislead the public, such as realistic synthetic voices and hyper-realistic videos.
Removing or hiding these labels violates the regulation. Providers must monitor content, report illegal material, and counter rumors when their tools are used to spread disinformation.
However, the decisive point is liability. The rules treat deep synthesis service providers as direct producers of content, including for administrative and criminal sanctions. Its likely effect is technical self-censorship, with limited features on sensitive topics.
Generative AI and ideological discipline
With advanced language models, the government introduced interim measures for generative AI services. The text replicates the content-control logic applied to conversational systems.
The rules state that model outputs must reflect “core socialist values” and prohibit content that threatens the political system, territorial unity, or the country’s international image.
They also ban incitement to terrorism, separatism, and ethnic hatred, as well as content classified as violent, obscene, or capable of disrupting economic or social order.
More recent versions adjust the language around falsity. The obligation shifts from “avoiding false content” to “reducing harmful false content”, acknowledging technical limits of large models without loosening political control.
In practice, regulators test domestic models with sensitive prompts. Approval depends on high rates of “acceptable” answers on topics like Taiwan, protests, and specific historical events.
Independent tests strongly suggest that Chinese chatbots tend to refuse questions about press freedom and to frame critical organizations as political instruments of foreign actors.
Generative AI thus operates as an additional layer of filtering and reinforcement of the official narrative.
Security architecture: identity, data, and autonomous agents
The security layer combines real-name identity, data protection, and constraints on agents.
Users of AI services must register their identity under cybersecurity rules, which reduces anonymity and simplifies attribution.
Data protection law establishes principles of consent and data minimization. AI providers are treated as formal data handlers, with obligations on security and limited retention.
Events such as the simultaneous shutdown of more than one hundred robotaxis in Wuhan, which left passengers stranded for hours, expose operational risks in autonomous systems and trigger responses from public-security authorities.
At the same time, foreign labs demonstrate models capable of finding vulnerabilities in cyber-defense systems, which feeds concern about offensive uses of AI against infrastructure.
AI as a power asset and a source of vulnerability
China invests in AI for public security, urban surveillance, and network monitoring. Local companies have gained global ground in computer vision and facial recognition, which reinforces internal confidence in the AI industrial base.
The leadership is also starting to frame loss of technical control over frontier models as a security risk. Recent speeches mention this possibility alongside worries about data theft and advanced attacks.
The use of deepfakes in influence operations illustrates the dilemma. Domestically, the country tightly regulates synthetic content and associates deepfakes with instability risk. Externally, analysts see interest in using similar technologies in influence campaigns abroad.
Media-monitoring organizations show that Chinese chatbots reproduce elements of state propaganda. Answers on sensitive topics tend to follow official scripts or delegitimize critical sources.
AI therefore appears both as a power asset and as a source of new technical and political vulnerabilities.
Implications for companies and leaders outside China
Global technology companies operating in China must cope with multiple regulatory versions of the same products. Models need to be adjusted to comply with Chinese content and data rules without violating requirements in other jurisdictions.
In practice, many choose to maintain system variants. One version for domestic use, aligned with Chinese policies on content and logging. Another for markets with different legal regimes.
Diversified business groups face challenges on two fronts. Adapting systems to real-name, data-retention, and synthetic-content labeling requirements. And managing reputational risk in countries with different expectations on privacy and freedom of expression.
China’s requirement for technical and visible labels on deepfakes anticipates global debates on marking AI-generated content. Multinational firms experimenting with these mechanisms today tend to carry lessons into other markets.
For business and technology leaders, the conclusion is pragmatic. AI governance must recognize that models and agents cross regulatory regimes with different political priorities. Architectures, data policies, and filtering layers will need to reflect that diversity.
Conclusion
Across both texts, the picture is consistent. China treats AI as a power technology but anchors its development in three control fronts. Employment and social stability. Information and ideological discipline. National security and cybersecurity.
On information control, the country combines regulations on recommendation algorithms, deepfakes, and generative AI with a model registry that enables tracking and intervention in systems with mobilization capacity.
On security, it reinforces real-name requirements, data-protection obligations, and standards for autonomous agents while expanding the use of AI in surveillance and digital operations.
The Chinese experience illustrates the kind of tension that other countries and companies will also face. How to capture economic and strategic gains from AI without losing control over employment, information, and critical infrastructure. The Chinese answer follows its own political model and offers a concrete case of AI used as a direct instrument of state power.
References
Economist. “Why China’s Government Worries About AI”. China section, 16 April 2026.
Carnegie Endowment for International Peace. “China’s AI Policy at the Crossroads: Balancing Development and Control in the DeepSeek Era”. 2025.
Carnegie Endowment for International Peace. “Tracing the Roots of China’s AI Regulations”. 27 February 2024.
Daum, Jeremy. “Overview of Draft Measures on Generative AI”. China Law Translate, April 2023, updated 2025.
Asia Society Policy Institute. “China’s Emerging Approach to Regulating General-Purpose Artificial Intelligence: Balancing Innovation and Control”. 7 February 2024.
China Media Project. “How China Thinks About AI Safety”. 19 September 2024.
Jamestown Foundation. “Deepfakes with Chinese Characteristics: PRC Influence Operations in 2024”. 22 July 2025.