Lar
A xAI de Elon Musk é alvo de processo por pornografia infantil; menores alegam que o Grok os despiu.

Três autoras anônimas argumentaram em uma ação judicial apresentada na segunda-feira em um tribunal federal da Califórnia que a empresa de Elon Musk, xAI, deve ser responsabilizada por permitir que seus modelos de IA gerem imagens sexuais abusivas de menores identificáveis.
As três autoras, que buscam transformar o caso em uma ação coletiva, pretendem representar todas as pessoas cujas imagens reais dos anos da infância foram alteradas para conter conteúdo sexual pelo Grok. Elas alegam que a xAI não adotou as precauções básicas utilizadas por outros laboratórios de ponta para evitar que seus modelos de imagem gerem pornografia com pessoas reais e menores. O processo, intitulado Jane Doe 1, Jane Doe 2 (menor) e Jane Doe 3 (menor) contra a X.AI Corp e a X.AI LLC, foi registrado no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia.
Outros geradores de imagens por aprendizado profundo utilizam diversas técnicas para impedir a criação de pornografia infantil a partir de fotografias comuns. A ação judicial afirma que a xAI não adotou esses padrões.
Vale ressaltar que, se um modelo permite a geração de conteúdo nu ou erótico a partir de imagens reais, torna-se quase impossível impedir que ele crie conteúdo sexual envolvendo crianças. A promoção pública feita por Musk das capacidades do Grok de gerar imagens sexuais e retratar pessoas reais em roupas mínimas desempenha um papel importante nesse processo judicial.
A empresa não respondeu ao pedido de comentário feito pelo TechCrunch.
Uma das autoras, Jane Doe 1, teve fotos do seu baile de formatura e do anuário escolar alteradas pelo Grok para mostrá-la sem roupas. Uma fonte anônima que entrou em contato com ela pelo Instagram informou que as imagens estavam circulando na internet e enviou um link para um servidor Discord contendo imagens sexualizadas dela e de outros menores que ela reconhecia da escola.
Outra autora, Jane Doe 2, foi informada por investigadores criminais sobre imagens alteradas e sexualizadas suas criadas por um aplicativo móvel de terceiros que utiliza modelos do Grok. A terceira autora, Jane Doe 3, também recebeu notificação de investigadores criminais que encontraram uma imagem pornográfica alterada dela no celular de um suspeito apreendido. Os advogados das autoras argumentam que, como o uso por terceiros ainda requer o código e os servidores da xAI, a empresa deve ser responsabilizada.
Todas as três autoras, duas delas ainda menores de idade, afirmam estar passando por grande angústia devido à circulação dessas imagens e ao possível impacto em sua reputação e vida social. Elas buscam sanções civis com base em diversas leis criadas para proteger crianças exploradas e evitar negligência corporativa.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)

Três autoras anônimas argumentaram em uma ação judicial apresentada na segunda-feira em um tribunal federal da Califórnia que a empresa de Elon Musk, xAI, deve ser responsabilizada por permitir que seus modelos de IA gerem imagens sexuais abusivas de menores identificáveis.
As três autoras, que buscam transformar o caso em uma ação coletiva, pretendem representar todas as pessoas cujas imagens reais dos anos da infância foram alteradas para conter conteúdo sexual pelo Grok. Elas alegam que a xAI não adotou as precauções básicas utilizadas por outros laboratórios de ponta para evitar que seus modelos de imagem gerem pornografia com pessoas reais e menores. O processo, intitulado Jane Doe 1, Jane Doe 2 (menor) e Jane Doe 3 (menor) contra a X.AI Corp e a X.AI LLC, foi registrado no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia.
Outros geradores de imagens por aprendizado profundo utilizam diversas técnicas para impedir a criação de pornografia infantil a partir de fotografias comuns. A ação judicial afirma que a xAI não adotou esses padrões.
Vale ressaltar que, se um modelo permite a geração de conteúdo nu ou erótico a partir de imagens reais, torna-se quase impossível impedir que ele crie conteúdo sexual envolvendo crianças. A promoção pública feita por Musk das capacidades do Grok de gerar imagens sexuais e retratar pessoas reais em roupas mínimas desempenha um papel importante nesse processo judicial.
A empresa não respondeu ao pedido de comentário feito pelo TechCrunch.
Uma das autoras, Jane Doe 1, teve fotos do seu baile de formatura e do anuário escolar alteradas pelo Grok para mostrá-la sem roupas. Uma fonte anônima que entrou em contato com ela pelo Instagram informou que as imagens estavam circulando na internet e enviou um link para um servidor Discord contendo imagens sexualizadas dela e de outros menores que ela reconhecia da escola.
Outra autora, Jane Doe 2, foi informada por investigadores criminais sobre imagens alteradas e sexualizadas suas criadas por um aplicativo móvel de terceiros que utiliza modelos do Grok. A terceira autora, Jane Doe 3, também recebeu notificação de investigadores criminais que encontraram uma imagem pornográfica alterada dela no celular de um suspeito apreendido. Os advogados das autoras argumentam que, como o uso por terceiros ainda requer o código e os servidores da xAI, a empresa deve ser responsabilizada.
Todas as três autoras, duas delas ainda menores de idade, afirmam estar passando por grande angústia devido à circulação dessas imagens e ao possível impacto em sua reputação e vida social. Elas buscam sanções civis com base em diversas leis criadas para proteger crianças exploradas e evitar negligência corporativa.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr











