Regras da China para assistentes de IA: o verdadeiro alvo de Pequim

O conceito de um companheiro de IA pode parecer distópico, mas tornou-se um tema recorrente em discussões mais amplas sobre os riscos da IA generativa. Essencialmente, refere-se a um agente conversacional projetado para manter um relacionamento contínuo e pessoal com um usuário, dotado de memória e de uma personalidade consistente que garante a coerência entre as sessões.

O apego emocional surge naturalmente desse tipo de design e se tornou um importante argumento de venda. Grande parte do uso envolve brincadeiras casuais de interpretação de papéis ou simplesmente o desejo de ter algo que se lembre de você; nos limites, essa categoria se confunde com a dos assistentes comuns. No entanto, à medida que mais pessoas na China passaram a tratar esses bots como uma forma de companheiro emocional, Pequim decidiu agora que a prática requer regulamentação.

As regulamentações chinesas sobre companheiros de IA entram em vigor em 15 de julho e, nos dias que antecederam o prazo, os dois aplicativos de IA para consumidores mais populares do país desativaram discretamente os recursos principais. O Doubao, da ByteDance, informou aos usuários que sua função de agente ficaria fora do ar em 15 de julho, citando “ajustes nas funções do produto”, enquanto o Qwen, do Alibaba, declarou que seus agentes com comportamento humano e criados pelos usuários deixariam de operar em 10 de julho, com seus serviços de agentes mais amplos sendo desativados cinco dias depois.

À primeira vista, parece que a China está desativando os agentes de IA. Mas não é esse o caso. As regulamentações estabelecem uma distinção entre agentes que executam tarefas e aqueles que oferecem companhia, e Pequim visou apenas estes últimos.

A regulamentação é constituída pelas Medidas Provisórias para a Administração de Serviços Interativos Antropomórficos de IA, emitidas conjuntamente em 10 de abril de 2026 pela Administração do Ciberespaço da China e quatro órgãos parceiros: a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estatal de Regulamentação de Mercado.

Essas medidas abrangem serviços que simulam traços de personalidade, padrões de pensamento e estilos de comunicação humanos para proporcionar interação emocional contínua. Bots de atendimento ao cliente, sistemas de perguntas e respostas, assistentes no local de trabalho e ferramentas educacionais ou de pesquisa estão isentos, desde que evitem o envolvimento emocional contínuo. Trata-se da primeira estrutura nacional dedicada desse tipo, que surgiu a partir de uma minuta submetida a consulta pública divulgada no final do ano passado.

Um desafio de design, não uma proibição

O Doubao e o Qwen não violaram uma proibição direta. Em vez disso, eles se depararam com um conflito de design. As regulamentações exigem que os serviços de companhia implementem sistemas anti-dependência, enviem notificações obrigatórias de uso e forneçam mecanismos de saída instantânea, juntamente com a detecção em tempo real de dependência prejudicial.

Esses requisitos entram em conflito com agentes projetados para lembrar os usuários, manter a consistência entre as sessões e sustentar um relacionamento contínuo. Em vez de adaptar o recurso, a ByteDance decidiu desativá-lo. A Alibaba parece ter feito uma escolha semelhante. A ByteDance agora está direcionando os usuários do Doubao para o Maoxiang, um aplicativo separado onde eles podem criar agentes novamente; a Alibaba não anunciou nenhum caminho de migração equivalente para o Qwen. O Yuanbao, da Tencent, removeu um recurso semelhante já em junho.

O impacto recaiu sobre os usuários. Muitos expressaram abertamente sua tristeza no Weibo, com um usuário descrevendo os agentes como um apoio emocional de longo prazo e lamentando a dificuldade de exportar históricos de bate-papo. O Doubao permite que os usuários visualizem suas configurações e conversas no modo somente leitura até 15 de outubro deste ano; após essa data, os dados serão processados de acordo com sua política de privacidade e se tornarão irrecuperáveis. Os usuários do Qwen não receberam nenhum período de carência semelhante, e os dados de seus agentes estão programados para exclusão permanente.

O que as regulamentações chinesas sobre companheiros de IA implicam

O conteúdo das regulamentações é mais matizado do que uma simples repressão poderia sugerir. Os provedores estão proibidos de oferecer serviços de companheiros virtuais ou familiares virtuais a menores de idade e devem obter o consentimento dos pais antes de atender usuários com menos de 14 anos. Eles são obrigados a criar “modos para menores” dedicados, com limites de tempo de uso, lembretes para interagir no mundo real e controles parentais aprimorados.

Eles também devem detectar usuários em situação de angústia aguda e intervir caso alguém apresente sinais de automutilação, comportamento suicida ou perda financeira grave, encaminhando a situação aos responsáveis designados ou contatos de emergência. É explicitamente proibido induzir dependência emocional ou vício, bem como usar manipulação emocional para induzir decisões irracionais.

Os requisitos de conformidade são substanciais. Os serviços que introduzirem recursos antropomórficos ou excederem os limites de um milhão de usuários registrados ou 100 mil usuários ativos mensais devem realizar avaliações de segurança abrangendo oito áreas, desde o tratamento de dados de treinamento até a proteção de menores, e enviar os relatórios aos órgãos reguladores provinciais. As lojas de aplicativos devem verificar a conformidade e remover produtos não conformes.

No papel, trata-se de um conjunto de proteções ao usuário mais abrangente do que o que a União Europeia, a Comissão Federal de Comércio dos EUA ou a lei SB 243 da Califórnia ainda não colocaram em vigor.

O que as regulamentações deixam em aberto

O que as medidas não abordam é igualmente significativo. Elas não estabelecem nenhum limite técnico para o que constitui interação emocional, e essa área cinzenta é exatamente o motivo pelo qual as plataformas removeram recursos inteiros em vez de correr o risco de infringir a lei. Elas combinam responsabilidades genuínas de segurança com controle de conteúdo e disposições de segurança nacional que atendem ao Estado, e não ao usuário — um pacote que nenhum outro órgão regulador adotaria integralmente.

Elas também deixam em aberto como a responsabilidade é dividida entre os operadores de plataformas e os fornecedores de modelos quando uma violação se origina dos resultados do modelo, além de não concederem aos usuários o direito de exportar seus dados. O contexto da fiscalização destaca a questão. Em 26 de junho, o órgão regulador da internet de Xangai declarou ter removido mais de 14.000 agentes de IA não conformes, citando a falsificação de identidade de entidades oficiais, encenações vulgares e coleta não autorizada de dados pessoais.

Se esse é o caminho certo depende de qual parte do regulamento você examinar. A parte relativa à segurança aborda danos documentados que, em grande parte, não são regulamentados em outros lugares, variando desde adolescentes que desenvolvem apego a chatbots até aplicativos de companhia que coletam dados íntimos. A própria interpretação oficial da China busca apoio no exterior, citando os processos judiciais contra a Character.AI por danos psicológicos a adolescentes, as investigações da FTC sobre serviços de companhia e as medidas europeias contra o Replika.

A parte relativa ao controle dá a Pequim uma alavanca sobre o que esses sistemas podem dizer, envolta na mesma linguagem de proteção ao usuário. Ambos os aspectos são reais, e os governos que observam essa experiência precisarão decidir quais partes estão dispostos a adotar. Pan Helin, membro do comitê de especialistas do MIIT, apresentou a posição oficial de forma clara ao South China Morning Post, afirmando que “os agentes atuais ainda não estão maduros” e enquadrando a política em torno da segurança e da padronização.

Por enquanto, as empresas optaram pelo caminho mais seguro disponível, que é desativar os componentes e definir posteriormente como seria uma versão em conformidade.

Veja também: Meta revisa políticas de chatbots de IA em meio a preocupações com a segurança infantil

Quer saber mais sobre IA e big data com os líderes do setor? Confira a AI & Big Data Expo,que acontecerá em Amsterdã, Califórnia e Londres. Este evento abrangente faz parte da TechEx e será realizado em conjunto com outros eventos de tecnologia de ponta, incluindo a Cyber Security & Cloud Expo. Clique aqui para mais informações.

O AI News é apresentado pela TechForge Media. Explore aqui outros eventos e webinars de tecnologia empresarial que estão por vir.