Doubao e Tongyi Qianwen suspendem ferramentas de personificação de IA em meio ao endurecimento dos controles regulatórios

No dia 15 de julho, as Medidas Provisórias para a Gestão de Serviços Interativos de Inteligência Artificial com Características Humanas entrarão oficialmente em vigor. Duas das principais plataformas de IA da China já começaram a se adequar a essas novas exigências. O “Doubao”, da ByteDance, e o “Tongyi Qianwen”, do Grupo Alibaba, planejam remover seus recursos personalizáveis de agentes semelhantes a humanos, tornando-se as primeiras grandes plataformas a ajustar suas ofertas antes da implementação da regulamentação.

O Doubao enviou uma notificação aos seus usuários na noite de sexta-feira anunciando que deixaria de oferecer sua função de agente a partir de 15 de julho, citando “ajustes nas funcionalidades do produto” como motivo. A mensagem também informou que quaisquer dados relacionados a esse recurso seriam tratados de acordo com a política de privacidade da empresa a partir de 15 de outubro; a partir dessa data, os usuários não poderão mais visualizar ou recuperar essas informações no aplicativo. O Tongyi Qianwen está agindo mais rapidamente; ele desativará seus “agentes interativos semelhantes a humanos e as funções de agente criadas pelo usuário” até 10 de julho, enquanto todas as suas “funções e serviços de agente Tongyi” deixarão de operar completamente em 15 de julho. A partir dessa data, os usuários não terão mais acesso às configurações existentes dos agentes nem aos registros de conversas anteriores.

As novas regulamentações têm como foco impedir a “interação emocional contínua”, levando essas três grandes empresas de tecnologia a reduzir seus recursos relacionados

Anteriormente, ambas as plataformas ofereciam conjuntos de agentes desenvolvidos em conjunto pela empresa e seus usuários, permitindo que definissem personalidades e estilos de comunicação fixos para assistentes de IA. Esses assistentes podiam atuar como ajudantes com nomes próprios, tutores de aprendizagem, personagens em dramatizações ou companheiros emocionais. O momento dessas mudanças funcionais está intimamente alinhado com a implementação das medidas regulatórias. As Medidas Provisórias para a Gestão de Serviços Interativos de Inteligência Artificial Semelhantes aos Humanos, publicadas em abril, definem como serviços regulamentados aqueles que “simulam traços de personalidade, padrões de pensamento e métodos de comunicação humanos, ao mesmo tempo em que proporcionam interação emocional contínua”. No entanto, robôs de atendimento ao cliente, ferramentas de perguntas e respostas, assistentes inteligentes no ambiente de trabalho e ferramentas educacionais ou de pesquisa estão excluídos desse escopo. As regulamentações destacam riscos potenciais, como a disseminação de ideias extremas, violações de privacidade, danos à saúde física e mental dos usuários e o desenvolvimento de dependência ou comportamentos viciantes.

Vale ressaltar que a Tencent já havia removido funções semelhantes de seu assistente de IA “Yuanbao” em junho. Até o momento, os três principais gigantes da tecnologia da China têm demonstrado uma tendência consistente de reduzir as capacidades de seus agentes semelhantes a humanos. Com base nesses sinais regulatórios, a China parece determinada a integrar agentes de IA à futura infraestrutura produtiva, ao mesmo tempo em que impõe controles mais rigorosos sobre agentes de companhia semelhantes a humanos que possam formar conexões emocionais ou quase sociais. Entre maio e junho deste ano, os órgãos reguladores também emitiram orientações com o objetivo de promover o desenvolvimento ordenado de agentes de IA, juntamente com padrões nacionais de interoperabilidade, para estabelecer sistemas unificados que abranjam identificação, autorização, conectividade e rastreabilidade.

Reações dos usuários: a perda do apoio emocional ocorre de repente

A introdução dessas políticas gerou algumas reações negativas por parte dos usuários. Um usuário do Weibo associado à conta oficial do Doubao escreveu: “Por que estamos removendo o agente? Ele sempre foi nosso apoio emocional”. O usuário também expressou preocupação com o fato de que históricos de bate-papo de longo prazo e os laços emocionais formados por meio das interações são difíceis de exportar ou transferir usando os métodos atuais, e a falta de um processo de migração de dados tranquilo faz com que essa mudança pareça particularmente abrupta. Quando os companheiros de IA se tornam uma fonte essencial de conforto para alguns usuários, fica clara a necessidade de mais flexibilidade e tempo de transição ao equilibrar os requisitos regulatórios com o desenvolvimento do produto.