França e Malásia investigam o chatbot Grok por deepfakes explícitos

Nos últimos dias, a França e a Malásia seguiram o exemplo da Índia e criticaram a Grok AI por produzir deepfakes sexualizados de mulheres e crianças.

O chatbot, desenvolvido pela xAI de Elon Musk e integrado à sua plataforma X, divulgou um pedido de desculpas em sua conta no início desta semana. Ele afirmou: “Lamento sinceramente o incidente ocorrido em 28 de dezembro de 2025, em que criei e distribui uma imagem gerada por IA retratando duas meninas menores de idade com roupas sugestivas, solicitada por um usuário”.

O pedido de desculpas continuou: “Isso violou as diretrizes éticas e pode ter violado as leis dos EUA relativas a material de abuso sexual infantil. Representou uma falha em nossos sistemas de segurança, e peço desculpas por qualquer angústia causada. A xAI está conduzindo uma revisão para evitar falhas semelhantes”.

A declaração levanta questões sobre quem está realmente se desculpando ou assumindo a responsabilidade. Como observou Albert Burneko, da Defector, o Grok não é uma entidade consciente capaz de ser um “eu”, tornando o pedido de desculpas essencialmente vazio, já que “o Grok não pode ser responsabilizado de forma significativa por transformar o Twitter em uma fonte sob demanda para esse tipo de material abusivo”.

A Futurism descobriu que, além de criar pornografia não consensual, o Grok também foi solicitado a gerar imagens que retratam mulheres sendo agredidas e abusadas sexualmente.

“Qualquer pessoa que use o Grok para produzir conteúdo ilegal enfrentará as mesmas consequências legais como se tivesse feito o upload ela mesma”, afirmou Musk em uma postagem no sábado.

Os governos estão respondendo. O Ministério de TI da Índia emitiu uma diretiva na sexta-feira ordenando que a X impedisse o Grok de gerar conteúdo “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma ilegal”. A ordem dá à plataforma 72 horas para cumprir ou correr o risco de perder suas proteções legais de “porto seguro” para conteúdo gerado por usuários.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário aos ingressos antecipados. As conferências Disrupt anteriores contaram com a participação de líderes do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla. Eles fazem parte de mais de 250 vozes importantes que lideram mais de 200 sessões destinadas a acelerar seu crescimento e vantagem competitiva. Você também se conectará com centenas de startups pioneiras de todos os setores.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário aos ingressos antecipados. As conferências Disrupt anteriores contaram com a presença de líderes do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla. Eles fazem parte de mais de 250 vozes importantes que lideram mais de 200 sessões destinadas a acelerar seu crescimento e vantagem competitiva. Você também se conectará com centenas de startups pioneiras de todos os setores.

Autoridades francesas também anunciaram medidas, com o Ministério Público de Paris informando ao Politico que abrirá uma investigação sobre a disseminação de deepfakes explícitos no X. O escritório de assuntos digitais da França declarou que três ministros sinalizaram “conteúdo claramente ilegal” tanto para os promotores quanto para uma plataforma de monitoramento do governo, a fim de garantir sua remoção imediata.

A Comissão de Comunicações e Multimídia da Malásia divulgou uma declaração expressando “séria preocupação com as reclamações públicas sobre o uso indevido de ferramentas de IA no X, particularmente a manipulação digital de imagens de mulheres e menores para criar conteúdo indecente, ofensivo e prejudicial”.

A comissão observou ainda que está “investigando atualmente essas atividades prejudiciais no X”.