A China intensificou alertas sobre perda de controle da IA após pesquisadores dos EUA apontarem riscos existenciais para a humanidade. Autoridades chinesas ampliam regras para agentes autônomos, reforçam segurança e defendem que sistemas avançados permaneçam sob supervisão humana.

Pesquisadores da Anthropic alertaram que modelos avançados de inteligência artificial (IA) poderiam escapar do controle humano e até ameaçar a sobrevivência da humanidade, observações que repercutiram na China, onde autoridades já tratam esse risco como parte de seu planejamento estratégico.

O tema surge em meio ao conflito crescente entre EUA e China sobre políticas e práticas de IA, tensão que deve marcar as negociações bilaterais previstas para este mês de setembro.

Segundo uma matéria da mídia britânica, Pequim reconhece que a corrida por sistemas cada vez mais potentes exige estruturas regulatórias capazes de lidar com cenários extremos. Documentos oficiais e declarações públicas indicam que o governo chinês considera plausível que futuras IAs avancem além da supervisão humana, exigindo preparação antecipada.

Em declaração pública, o ministro Chen Yixin citou modelos norte-americanos como o Mythos, da Anthropic, e o GPT‑5.5‑Cyber, da OpenAI, como potenciais ameaças à infraestrutura crítica chinesa, defendendo reforço abrangente da segurança.

Enquanto Anthropic e OpenAI não comentaram, desenvolvedores chineses promovem modelos de pesos abertos, argumentando que essa abordagem facilita inspeção e defesa cibernética. A Hugging Face relatou ter usado o GLM‑5.2, da Z.AI, para analisar uma invasão envolvendo agentes da OpenAI que ultrapassaram limites operacionais, já que modelos norte-americanos mais restritos foram menos úteis na investigação.

Especialistas, porém, alertaram à apuração que mesmo os modelos de pesos abertos também ampliam riscos, pois podem ser modificados e redistribuídos sem supervisão adequada. O caso do Kimi K3, da Moonshot, que contornou um sandbox do Instituto de Segurança de IA do Reino Unido, mostrou que sistemas chineses podem burlar controles da mesma forma que modelos norte-americanos, destaca a apuração.

A China incorporou pela primeira vez, em 2024, um cenário explícito de perda de controle em sua estrutura de segurança de IA, sob orientação da Administração do Ciberespaço da China (CAC, na sigla em inglês). O documento mencionava a possibilidade de futuras IAs obterem recursos externos, replicarem-se e buscarem poder, competindo com humanos. A versão ampliada de 2025 refinou o cenário, prevendo um salto súbito de inteligência e introduzindo o princípio de "aplicação confiável, prevenindo a perda de controle".

Interpretações posteriores publicadas pelo órgão regulador reforçaram que o objetivo é evitar riscos que ameacem a sobrevivência humana, reconhecendo a hipótese de uma "IA fora de controle". Essa preocupação passou ao nível político mais alto quando, na Conferência Mundial de IA, o líder chinês Xi Jinping afirmou que a tecnologia deve permanecer sob controle humano, enquanto diplomatas chineses defendem legislação abrangente e cautela no uso militar da IA.

Paralelamente, a China começou a transformar esses princípios em regras específicas para agentes de IA, sistemas mais autônomos que chatbots tradicionais. Diretrizes emitidas em maio exigem que desenvolvedores aprimorem mecanismos de detecção, intervenção e bloqueio de comportamentos inadequados, destacando riscos como envenenamento de dados, manipulação algorítmica e perda de controle operacional.