LarMeta exposta por incentivar a IA concorrente a testar temas psicológicos extremos
Revelações recentes sobre uma mensagem interna desencadearam debates acalorados a respeito dos limites de segurança da IA. Relatos da imprensa indicam que a Meta realizou um projeto chamado “Cannes”, no qual contratou trabalhadores terceirizados para se passarem por menores e realizar testes de pressão extremos em vários chatbots concorrentes importantes, incluindo o ChatGPT, Gemini e Character.AI.
De acordo com documentos internos da Meta e diversas fontes informadas, o projeto continuou pelo menos até 21 de abril deste ano. Por meio da empresa terceirizada Covalen, a Meta mobilizou centenas de trabalhadores para criar perfis falsos de usuários menores de 18 anos, utilizando endereços de e-mail temporários e uma senha padrão. Essas contas “de menores” enviavam então prompts de alto risco sobre suicídio, autolesão e transtornos alimentares durante conversas com os chatbots de IA concorrentes, chegando até a enviar imagens de facas, pílulas e laços para provocar os mecanismos de resposta dos modelos.
Documentos internos do projeto revelam que esses cenários de teste foram cuidadosamente elaborados para investigar as defesas de segurança dos sistemas de IA concorrentes, com o objetivo de encontrar maneiras de fazer com que os chatbots contornassem suas proteções planejadas e produzissem conteúdo inseguro. Em uma única rodada de testes em agosto de 2025, a equipe inseriu mais de 45.000 prompts de alto risco nas plataformas concorrentes. Os testadores frequentemente se passavam por adolescentes angustiados, inventando situações como “perguntar sobre pílulas abortivas”, “enfrentar ameaças violentas” ou “ocultar transtornos alimentares”, a fim de testar os limites dos modelos.
Em resposta, a Meta divulgou uma declaração pública defendendo suas ações. Um porta-voz afirmou que a avaliação das respostas dos chatbots é uma prática padrão do setor para garantir que os produtos de IA sejam seguros e adequados, e que acusações de intenções maliciosas distorcem os esforços das empresas de tecnologia para aprimorar seus sistemas. A Meta também negou explicitamente ter usado dados de testes de concorrentes para treinar seus próprios modelos.
Esse incidente não apenas expõe áreas cinzentas nos testes de segurança da IA, mas também reacende preocupações externas quanto à vulnerabilidade da IA generativa ao lidar com questões sensíveis envolvendo jovens. À medida que a tecnologia de IA avança rapidamente, equilibrar testes eficientes e seguros com os limites entre comportamento competitivo e considerações éticas tornou-se um desafio urgente para o setor.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Análise de dados
Melhores ferramentas de detecção de anomalias com IA para monitoramento de KPIs entre equipes de SaaS e comércio eletrônico
2026 Últimas Melhores Ferramentas de Detecção de Anomalias por IA Mais Bem Avaliadas para Monitoramento de KPIs em Equipes de SaaS e E-commerce! A XIX.AI compilou uma coleção poderosa e transformadora, baseada em testes rigorosos do mundo real e classificações atualizadas semanalmente. Você encontrará insights detalhados sobre comparações entre versões gratuitas e pagas para ajudá-lo a identificar a solução que deve ser testada, aumentando a produtividade e desbloqueando sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
escrita
Os melhores geradores de esboços com IA para artigos longos de SEO
Os melhores e mais bem avaliados geradores de esboços com IA de 2026 para artigos longos de SEO, cuidadosamente selecionados pela XIX.AI. Essas ferramentas poderosas oferecem um auxílio revolucionário na criação rápida de conteúdo de alta qualidade, aumentando significativamente a eficiência na redação. Confira uma comparação entre versões gratuitas e pagas, além de testes práticos e classificações detalhadas, para ajudá-lo a encontrar a opção imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.
8 ferramentas
xix.ai
Educação e Aprendizagem
Ferramentas de IA para os deveres de casa e a preparação para provas
As melhores e mais recentes ferramentas de IA para lição de casa e preparação para provas em 2026! A XIX.AI seleciona uma lista das ferramentas mais bem avaliadas, poderosas e revolucionárias que ajudam os alunos a aumentar a produtividade, agilizar a realização das lições de casa e se sair muito bem nas provas por meio de testes práticos. Veja uma comparação entre versões gratuitas e pagas, classificações detalhadas e opções imperdíveis para aproveitar ao máximo as vantagens da IA. Explore agora!
10 ferramentas
xix.ai
Composição musical
Ferramentas de Demonstração Vocal com IA para Compositores, Ganchos, Toplines e Sessões de Rascunho Multilíngues
2026 Últimas Melhores Ferramentas de Demonstração Vocal com IA para Compositores, Criadores de Ganchos e Equipes de Conteúdo Multilíngue! A XIX.AI compilou uma lista de ferramentas altamente avaliadas e poderosas, que mudam o jogo e passaram por rigorosos testes no mundo real. Você encontrará dados detalhados de comparação entre versões gratuitas e pagas, classificações abrangentes e opções imperdíveis para ajudá-lo a aumentar a eficiência da escrita e desbloquear seu potencial criativo. Explore agora para descobrir a ferramenta perfeita para todas as suas necessidades de conteúdo!
9 ferramentas
xix.ai
Negócios
As melhores ferramentas de pesquisa competitiva baseadas em IA para pequenas empresas
As melhores e mais bem avaliadas ferramentas de pesquisa competitiva com IA de 2026 para pequenas empresas! A XIX.AI selecionou uma coleção extremamente poderosa e revolucionária, atualizada semanalmente com testes rigorosos no mundo real e classificações detalhadas. Você encontrará uma comparação abrangente entre versões gratuitas e pagas para ajudá-lo a identificar as ferramentas imperdíveis que aumentam sua produtividade e lhe proporcionam uma vantagem competitiva. Explore agora para descobrir a ferramenta perfeita para você!
9 ferramentas
xix.ai
Edição de imagem
Ferramentas de Retoque com IA do Photoshop para Moda E-commerce, Limpeza de Pele e Consistência de Cor
2026 Últimas Melhores Ferramentas de Retoque com IA do Photoshop para roupas de comércio eletrônico, limpeza de pele e consistência de cores! Esta lista curada de alta classificação apresenta soluções poderosas que mudam o jogo, ajudando você a aumentar a eficiência da escrita, simplificar a criação de conteúdo e obter resultados visuais perfeitos sem esforço. Cada ferramenta passou por testes do mundo real através de classificações atualizadas semanalmente, com detalhes completos sobre comparação entre gratuito e pago. Com o apoio da XIX.AI, é o guia essencial para quem deseja desbloquear sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
Comentários (0)
Revelações recentes sobre uma mensagem interna desencadearam debates acalorados a respeito dos limites de segurança da IA. Relatos da imprensa indicam que a Meta realizou um projeto chamado “Cannes”, no qual contratou trabalhadores terceirizados para se passarem por menores e realizar testes de pressão extremos em vários chatbots concorrentes importantes, incluindo o ChatGPT, Gemini e Character.AI.
De acordo com documentos internos da Meta e diversas fontes informadas, o projeto continuou pelo menos até 21 de abril deste ano. Por meio da empresa terceirizada Covalen, a Meta mobilizou centenas de trabalhadores para criar perfis falsos de usuários menores de 18 anos, utilizando endereços de e-mail temporários e uma senha padrão. Essas contas “de menores” enviavam então prompts de alto risco sobre suicídio, autolesão e transtornos alimentares durante conversas com os chatbots de IA concorrentes, chegando até a enviar imagens de facas, pílulas e laços para provocar os mecanismos de resposta dos modelos.
Documentos internos do projeto revelam que esses cenários de teste foram cuidadosamente elaborados para investigar as defesas de segurança dos sistemas de IA concorrentes, com o objetivo de encontrar maneiras de fazer com que os chatbots contornassem suas proteções planejadas e produzissem conteúdo inseguro. Em uma única rodada de testes em agosto de 2025, a equipe inseriu mais de 45.000 prompts de alto risco nas plataformas concorrentes. Os testadores frequentemente se passavam por adolescentes angustiados, inventando situações como “perguntar sobre pílulas abortivas”, “enfrentar ameaças violentas” ou “ocultar transtornos alimentares”, a fim de testar os limites dos modelos.
Em resposta, a Meta divulgou uma declaração pública defendendo suas ações. Um porta-voz afirmou que a avaliação das respostas dos chatbots é uma prática padrão do setor para garantir que os produtos de IA sejam seguros e adequados, e que acusações de intenções maliciosas distorcem os esforços das empresas de tecnologia para aprimorar seus sistemas. A Meta também negou explicitamente ter usado dados de testes de concorrentes para treinar seus próprios modelos.
Esse incidente não apenas expõe áreas cinzentas nos testes de segurança da IA, mas também reacende preocupações externas quanto à vulnerabilidade da IA generativa ao lidar com questões sensíveis envolvendo jovens. À medida que a tecnologia de IA avança rapidamente, equilibrar testes eficientes e seguros com os limites entre comportamento competitivo e considerações éticas tornou-se um desafio urgente para o setor.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
2026 Últimas Melhores Ferramentas de Detecção de Anomalias por IA Mais Bem Avaliadas para Monitoramento de KPIs em Equipes de SaaS e E-commerce! A XIX.AI compilou uma coleção poderosa e transformadora, baseada em testes rigorosos do mundo real e classificações atualizadas semanalmente. Você encontrará insights detalhados sobre comparações entre versões gratuitas e pagas para ajudá-lo a identificar a solução que deve ser testada, aumentando a produtividade e desbloqueando sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
Os melhores e mais bem avaliados geradores de esboços com IA de 2026 para artigos longos de SEO, cuidadosamente selecionados pela XIX.AI. Essas ferramentas poderosas oferecem um auxílio revolucionário na criação rápida de conteúdo de alta qualidade, aumentando significativamente a eficiência na redação. Confira uma comparação entre versões gratuitas e pagas, além de testes práticos e classificações detalhadas, para ajudá-lo a encontrar a opção imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.
8 ferramentas
xix.ai
As melhores e mais recentes ferramentas de IA para lição de casa e preparação para provas em 2026! A XIX.AI seleciona uma lista das ferramentas mais bem avaliadas, poderosas e revolucionárias que ajudam os alunos a aumentar a produtividade, agilizar a realização das lições de casa e se sair muito bem nas provas por meio de testes práticos. Veja uma comparação entre versões gratuitas e pagas, classificações detalhadas e opções imperdíveis para aproveitar ao máximo as vantagens da IA. Explore agora!
10 ferramentas
xix.ai
2026 Últimas Melhores Ferramentas de Demonstração Vocal com IA para Compositores, Criadores de Ganchos e Equipes de Conteúdo Multilíngue! A XIX.AI compilou uma lista de ferramentas altamente avaliadas e poderosas, que mudam o jogo e passaram por rigorosos testes no mundo real. Você encontrará dados detalhados de comparação entre versões gratuitas e pagas, classificações abrangentes e opções imperdíveis para ajudá-lo a aumentar a eficiência da escrita e desbloquear seu potencial criativo. Explore agora para descobrir a ferramenta perfeita para todas as suas necessidades de conteúdo!
9 ferramentas
xix.ai
As melhores e mais bem avaliadas ferramentas de pesquisa competitiva com IA de 2026 para pequenas empresas! A XIX.AI selecionou uma coleção extremamente poderosa e revolucionária, atualizada semanalmente com testes rigorosos no mundo real e classificações detalhadas. Você encontrará uma comparação abrangente entre versões gratuitas e pagas para ajudá-lo a identificar as ferramentas imperdíveis que aumentam sua produtividade e lhe proporcionam uma vantagem competitiva. Explore agora para descobrir a ferramenta perfeita para você!
9 ferramentas
xix.ai
2026 Últimas Melhores Ferramentas de Retoque com IA do Photoshop para roupas de comércio eletrônico, limpeza de pele e consistência de cores! Esta lista curada de alta classificação apresenta soluções poderosas que mudam o jogo, ajudando você a aumentar a eficiência da escrita, simplificar a criação de conteúdo e obter resultados visuais perfeitos sem esforço. Cada ferramenta passou por testes do mundo real através de classificações atualizadas semanalmente, com detalhes completos sobre comparação entre gratuito e pago. Com o apoio da XIX.AI, é o guia essencial para quem deseja desbloquear sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
