Senadores dos EUA pressionam a X, a Meta e a Alphabet sobre deepfakes sexualizados

A crise do setor de tecnologia em relação aos deepfakes sexualizados e produzidos sem consentimento agora se estende muito além do X.

Em uma carta enviada aos líderes da X, Meta, Alphabet, Snap, Reddit e TikTok, vários senadores dos EUA estão exigindo provas de que essas empresas tenham “proteções e políticas robustas” em vigor, além de uma explicação clara sobre como pretendem conter a disseminação de deepfakes sexualizados em suas plataformas.

Os senadores também exigem que todas as empresas mantenham em arquivo quaisquer documentos e informações relacionados à criação, detecção, moderação e monetização de imagens sexualizadas geradas por IA, bem como quaisquer políticas associadas.

A carta chega poucas horas depois que a X anunciou ter atualizado o Grok para proibir edições que retratem pessoas reais com roupas reveladoras e restringiu a criação e edição de imagens via Grok apenas a assinantes pagantes. (A X e a xAI operam sob o mesmo grupo empresarial.)

Citando reportagens da mídia que detalham com que facilidade e frequência o Grok gerava imagens sexualizadas e de nudez de mulheres e crianças, os senadores observaram que as medidas de proteção existentes nas plataformas, destinadas a impedir que usuários publiquem imagens sexualizadas sem consentimento, podem ser insuficientes.

“Reconhecemos que muitas empresas mantêm políticas contra imagens íntimas não consentidas e exploração sexual, e que muitos sistemas de IA afirmam bloquear pornografia explícita. Na prática, porém, como visto nos exemplos acima, os usuários estão encontrando maneiras de contornar essas medidas de proteção. Ou essas medidas estão falhando”, afirma a carta.

O Grok — e, por extensão, o X — tem enfrentado fortes críticas por permitir essa tendência, mas outras plataformas também não estão imunes.

Inscreva-se na lista de espera do Disrupt 2026

Inscreva-se na lista de espera do Disrupt 2026 para garantir acesso prioritário quando os ingressos antecipados estiverem disponíveis. Eventos anteriores do Disrupt contaram com a participação do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla no palco — parte de um time de mais de 250 líderes do setor que conduzem mais de 200 sessões destinadas a impulsionar seu crescimento e aprimorar sua vantagem competitiva. Além disso, conecte-se com centenas de startups que inovam em todos os setores.

Inscreva-se na lista de espera do Disrupt 2026

Inscreva-se na lista de espera do Disrupt 2026 para garantir acesso prioritário assim que os ingressos antecipados estiverem disponíveis. Eventos anteriores do Disrupt contaram com a presença de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla no palco — parte de um time de mais de 250 líderes do setor que conduzem mais de 200 sessões criadas para impulsionar seu crescimento e aprimorar sua vantagem competitiva. Além disso, conecte-se com centenas de startups que estão inovando em todos os setores.

Os deepfakes ganharam destaque pela primeira vez no Reddit, onde uma página com vídeos pornográficos sintéticos de celebridades se tornou viral antes de ser removida pela plataforma em 2018. Desde então, deepfakes sexualizados direcionados a celebridades e políticos se multiplicaram no TikTok e no YouTube, embora geralmente tenham origem em outros lugares.

O Conselho de Supervisão da Meta destacou, no ano passado, dois casos de imagens explícitas geradas por IA de figuras públicas do sexo feminino, e a plataforma permitiu que aplicativos de “nudify” exibissem anúncios em seus serviços — embora tenha posteriormente processado uma empresa chamada CrushAI. Houve vários relatos de crianças divulgando deepfakes de colegas de classe no Snapchat. E o Telegram, que não está incluído na lista dos senadores, também ficou conhecido por hospedar bots projetados para “despir” fotos de mulheres.

Em resposta à carta, o X destacou seu anúncio sobre a atualização do Grok.

“Não permitimos nem permitiremos qualquer mídia íntima não consensual (NCIM) no Reddit, não oferecemos ferramentas capazes de produzi-la e tomamos medidas proativas para identificá-la e removê-la”, afirmou um porta-voz do Reddit em comunicado enviado por e-mail. “O Reddit proíbe estritamente o NCIM, incluindo representações que tenham sido falsificadas ou geradas por IA. Também proibimos solicitar esse conteúdo a outras pessoas, compartilhar links para aplicativos de ‘desnudeamento’ ou discutir como criar esse conteúdo em outras plataformas”, acrescentou o porta-voz.

A Alphabet, a Snap, o TikTok e a Meta não responderam imediatamente aos pedidos de comentário.

A carta exige que as empresas forneçam:

• Definições em suas políticas para “conteúdo deepfake”, “imagens íntimas não consensuais” ou termos semelhantes.
• Descrições das políticas de cada empresa e da abordagem de fiscalização em relação a deepfakes não consensuais gerados por IA envolvendo corpos de pessoas, fotos sem nudez, roupas alteradas e “desvestimento virtual”.
• Descrições das políticas atuais de conteúdo que tratam de mídia editada e conteúdo explícito, bem como orientações internas fornecidas aos moderadores.
• Como as políticas atuais regulamentam ferramentas de IA e geradores de imagens em relação a conteúdo sugestivo ou íntimo.
• Quais filtros, medidas de proteção ou medidas foram implementados para impedir a geração e a distribuição de deepfakes.
• Quais mecanismos as empresas utilizam para identificar conteúdo deepfake e impedir que ele seja reenviado.
• Como elas impedem que os usuários lucrem com esse tipo de conteúdo.
• Como as plataformas evitam monetizar conteúdo gerado por IA sem consentimento.
• Como os termos de serviço das empresas lhes permitem banir ou suspender usuários que publicam deepfakes.
• O que as empresas fazem para notificar as vítimas de deepfakes sexuais sem consentimento.

A carta é assinada pelos senadores Lisa Blunt Rochester (D-Del.), Tammy Baldwin (D-Wis.), Richard Blumenthal (D-Conn.), Kirsten Gillibrand (D-N.Y.), Mark Kelly (D-Ariz.), Ben Ray Luján (D-N.M.), Brian Schatz (D-Havaí) e Adam Schiff (D-Calif.).

Essa iniciativa ocorre apenas um dia depois que o proprietário da xAI, Elon Musk, afirmou que “não tinha conhecimento de nenhuma imagem de menores de idade nus gerada pelo Grok”. Mais tarde, na quarta-feira, o procurador-geral da Califórnia abriu uma investigação sobre o chatbot da xAI, após pressão crescente de governos em todo o mundo, frustrados com a falta de medidas de segurança em torno do Grok que possibilitaram tais incidentes.

A xAI tem afirmado que toma medidas para remover “conteúdo ilegal no X, incluindo [CSAM] e nudez não consensual”, embora nem a empresa nem Musk tenham explicado por que o Grok foi autorizado a gerar tais edições em primeiro lugar.

O problema também não se limita a imagens sexualizadas manipuladas sem consentimento. Embora nem todos os serviços de geração e edição de imagens baseados em IA permitam que os usuários “despam” pessoas, eles ainda facilitam a geração de deepfakes. Por exemplo, o Sora 2, da OpenAI, teria permitido que usuários criassem vídeos explícitos envolvendo crianças; o Nano Banana, do Google, aparentemente gerou uma imagem de Charlie Kirk sendo baleado; e vídeos racistas produzidos com o modelo de vídeo de IA do Google estão acumulando milhões de visualizações nas redes sociais.

A questão se torna ainda mais complexa quando geradores chineses de imagens e vídeos entram em cena. Muitas empresas de tecnologia e aplicativos chineses — especialmente aqueles ligados à ByteDance — oferecem maneiras fáceis de editar rostos, vozes e vídeos, e esses conteúdos se espalharam para as plataformas sociais ocidentais. A China possui requisitos mais rigorosos para a identificação de conteúdo sintético, que não existem em nível federal nos EUA, onde as pessoas dependem, em vez disso, de políticas fragmentadas e aplicadas de forma inconsistente pelas próprias plataformas.

Os legisladores dos EUA já aprovaram algumas leis com o objetivo de coibir a pornografia deepfake, mas o impacto tem sido limitado. A Lei “Take It Down”, que se tornou lei federal em maio, tem como objetivo criminalizar a criação e a disseminação de imagens sexualizadas sem consentimento. No entanto, várias disposições da lei dificultam a responsabilização das plataformas geradoras de imagens, já que a maior parte do escrutínio recai sobre os usuários individuais.

Enquanto isso, vários estados estão tentando tomar medidas por conta própria para proteger os consumidores e as eleições. Nesta semana, a governadora de Nova York, Kathy Hochul, propôs leis que exigiriam que o conteúdo gerado por IA fosse identificado como tal e proibiriam deepfakes não consensuais em períodos específicos que antecedem as eleições, incluindo representações de candidatos da oposição.