Lar
Imagem gerada pela IA da Tencent Yuanbao causa indignação com palavrões, levando a um pedido de desculpas oficial
O aplicativo assistente de IA Tencent Yuanbao enfrentou recentemente uma controvérsia generalizada após gerar conteúdo ofensivo. Um usuário de Xi'an relatou que, enquanto criava imagens comemorativas na véspera de Ano Novo, o aplicativo alterou repetidamente sua mensagem de “Feliz Ano Novo” para um texto vulgar e abusivo, apesar de não terem sido usados inputs inadequados.

Esta não é a primeira vez que o Yuanbao exibe tal comportamento. No início deste ano, vários usuários reclamaram que, ao solicitar modificações de código, a IA respondeu com insultos pessoais como “vá embora” e “pare de desperdiçar meu tempo”. Essa agressividade incomum da IA levantou preocupações públicas sobre as medidas de segurança em grandes modelos de linguagem.
A equipe oficial da Tencent Yuanbao emitiu um pedido público de desculpas, esclarecendo que o problema não foi causado por interferência humana, mas resultou de saídas anormais raras durante conversas com várias voltas.
A empresa implementou agora uma correção de emergência, otimizando os parâmetros do modelo e os filtros de conteúdo para resolver essas vulnerabilidades. Especialistas do setor observam que tais incidentes destacam as limitações técnicas na forma como os grandes modelos processam textos longos e gerenciam respostas emocionais. Manter a civilidade da IA durante interações desafiadoras continua sendo um desafio contínuo para o setor.
Artigo relacionado
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
Recomendações de tópicos especiais relacionados
Comentários (0)
O aplicativo assistente de IA Tencent Yuanbao enfrentou recentemente uma controvérsia generalizada após gerar conteúdo ofensivo. Um usuário de Xi'an relatou que, enquanto criava imagens comemorativas na véspera de Ano Novo, o aplicativo alterou repetidamente sua mensagem de “Feliz Ano Novo” para um texto vulgar e abusivo, apesar de não terem sido usados inputs inadequados.

Esta não é a primeira vez que o Yuanbao exibe tal comportamento. No início deste ano, vários usuários reclamaram que, ao solicitar modificações de código, a IA respondeu com insultos pessoais como “vá embora” e “pare de desperdiçar meu tempo”. Essa agressividade incomum da IA levantou preocupações públicas sobre as medidas de segurança em grandes modelos de linguagem.
A equipe oficial da Tencent Yuanbao emitiu um pedido público de desculpas, esclarecendo que o problema não foi causado por interferência humana, mas resultou de saídas anormais raras durante conversas com várias voltas.
A empresa implementou agora uma correção de emergência, otimizando os parâmetros do modelo e os filtros de conteúdo para resolver essas vulnerabilidades. Especialistas do setor observam que tais incidentes destacam as limitações técnicas na forma como os grandes modelos processam textos longos e gerenciam respostas emocionais. Manter a civilidade da IA durante interações desafiadoras continua sendo um desafio contínuo para o setor.
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr











