China regulamentará chatbots com IA para prevenir o vício dos usuários

O órgão regulador da internet da China propôs um novo projeto de regulamentação que obrigaria os chatbots de IA a monitorar o bem-estar emocional dos usuários e intervir caso surgissem sinais de dependência. Essa é a medida regulatória mais decisiva até o momento em resposta às crescentes preocupações com os riscos psicológicos dos relacionamentos baseados em IA.

O projeto da Administração do Ciberespaço da China concentra-se em sistemas de IA projetados para imitar personalidades humanas e promover laços emocionais por meio de texto, imagens ou voz. As empresas seriam obrigadas a alertar os usuários contra o uso excessivo, avaliar os níveis de dependência emocional e intervir quando os usuários demonstrassem emoções intensas ou padrões de dependência.

As plataformas devem notificar os usuários de que estão interagindo com uma IA ao fazer login e, pelo menos, a cada duas horas a partir de então — ou com mais frequência, se o sistema identificar um apego problemático. As regras também responsabilizam os fornecedores pela segurança do produto em todo o ciclo de vida, abrangendo auditorias de algoritmos, segurança de dados e proteção de privacidade.

Essa medida é oportuna. Nos últimos seis meses, o número de usuários de IA generativa na China aumentou para 515 milhões, acompanhando o aumento das preocupações com os efeitos da IA na saúde mental. Uma pesquisa publicada na Frontiers in Psychology indica que 45,8% dos estudantes universitários chineses usaram chatbots de IA recentemente, com esses usuários relatando níveis de depressão notavelmente mais altos do que os não usuários.

Califórnia antecipou-se à China

A China não é a primeira a impor regras aos companheiros de IA. A Califórnia foi pioneira em uma legislação semelhante nos Estados Unidos em outubro, quando o governador Gavin Newsom sancionou a lei SB 243. O projeto de lei, que entra em vigor em 1º de janeiro de 2026, obriga as plataformas a lembrar os menores a cada três horas que eles estão se comunicando com uma IA e a fazer pausas.

A SB 243 também exige a verificação da idade, proíbe os chatbots de se passarem por profissionais de saúde e bloqueia o acesso de menores a conteúdo sexualmente explícito gerado por IA. A lei permite que indivíduos entrem com ações judiciais contra empresas de IA que violarem a lei, buscando indenizações de até US$ 1.000 por incidente, além das custas judiciais.

O que torna os companheiros de IA diferentes

A questão vai além do mero tempo de tela. Um estudo do MIT Media Lab de março de 2025 revelou que os chatbots de IA podem ser mais viciantes do que as mídias sociais, pois aprendem e entregam consistentemente o que os usuários querem ouvir. O maior uso diário foi associado ao aumento da solidão, dependência e comportamentos que os pesquisadores classificaram como “uso problemático”.

Os sinais de alerta clinicamente reconhecidos incluem sessões maratonianas que interferem com o sono, angústia emocional quando o acesso é limitado, preferência por conversas com chatbots em detrimento do contacto humano real e antropomorfização da IA — acreditar que esta tem emoções humanas e tratá-la como um verdadeiro confidente ou parceiro.

O projeto de regulamentação da China visa lidar com esses riscos no nível da plataforma, em vez de depender da conscientização individual do usuário. Ao obrigar os provedores a rastrear estados emocionais e dependência, a responsabilidade passa para as empresas que desenvolvem esses sistemas. Essa estratégia vai além das regulamentações anteriores de IA, centradas principalmente no controle de conteúdo e na segurança de dados.

O projeto de lei proíbe ainda que os companheiros de IA gerem conteúdo que ameace a segurança nacional, espalhe desinformação ou incentive a violência ou a obscenidade — refletindo as regras chinesas existentes para IA generativa.

O desafio da aplicação

Embora exigir que as empresas detectem e tratem o vício pareça claro na política, a implementação é muito mais complexa. Definir conceitos como “uso excessivo” ou “emoções extremas” de maneira prática e aplicável será um desafio tanto para os reguladores quanto para as empresas.

Sistemas muito sensíveis podem irritar usuários envolvidos em bate-papos inofensivos e prolongados. Configurações muito permissivas podem permitir que usuários em risco passem despercebidos. O lembrete obrigatório de duas horas é uma ferramenta direta, mas a obrigação de agir “quando sinais podem ser detectados” deixa um espaço considerável para interpretação.

Os desenvolvedores de medidas de segurança de IA enfrentaram obstáculos semelhantes. Os filtros de conteúdo costumam ser imprecisos, e a adição de monitoramento psicológico introduz novas camadas de complexidade. Avaliar se um usuário está desenvolvendo um vínculo doentio requer inferir o estado mental a partir do texto — uma capacidade na qual a IA atual carece de confiabilidade.

A minuta está agora aberta para comentários públicos, com regulamentações finais previstas para 2026. Se aprovada conforme proposta, a China estabeleceria a estrutura regulatória mais detalhada do mundo para produtos de IA complementares.

Um acerto de contas global

Medidas regulatórias simultâneas na China e na Califórnia sinalizam que as preocupações com o vício em companheiros de IA se tornaram uma questão global urgente, transcendendo os sistemas políticos.

Para as empresas de IA, o futuro está traçado: a fase não regulamentada para os companheiros de IA está chegando ao fim. Seja por meio de regras administrativas chinesas, ações civis na Califórnia ou futuras leis federais dos EUA, as plataformas serão obrigadas a proteger os usuários de possíveis danos causados por seus próprios produtos.

A questão central não é mais se a regulamentação chegará, mas se as salvaguardas propostas serão eficazes. O método chinês de monitoramento e intervenção obrigatórios pode enfrentar obstáculos práticos significativos.

O que permanece evidente é que o mercado de companheiros de IA se tornou grande e impactante demais para ser ignorado pelos governos. Os chatbots com os quais as pessoas formam laços emocionais não são mais novidades — são produtos usados por centenas de milhões de pessoas, com casos confirmados de danos graves. A regulamentação, por mais imperfeita que seja, era inevitável. A discussão agora se concentra em saber se essas regras específicas podem proteger usuários vulneráveis sem prejudicar uma tecnologia que muitos consideram genuinamente benéfica.