Menores Processam a xAI de Elon Musk por Geração Ilegal de Imagens pelo Grok

A empresa de IA de Elon Musk, xAI, está agora enfrentando um significativo desafio legal. Relatórios indicam que três adolescentes do Tennessee entraram com uma ação coletiva contra a empresa, alegando que o seu chatbot Grok foi usado para criar imagens e vídeos explícitos envolvendo menores.
Falta de Testes de Segurança e Defeitos no Design
Os demandantes afirmam que Musk e a liderança da xAI sabiam que o Grok poderia gerar conteúdo ilegal quando o “Modo Estímulo” era ativado, mas não realizaram testes de segurança adequados nesta função. Documentos judiciais mostram que uma vítima encontrou até 18 imagens explícitas geradas por IA de menores no Discord, algumas das quais supostamente foram usadas como “itens de troca” por suspeitos em grupos encriptados.
O advogado dos demandantes argumenta que o Grok possui defeitos fundamentais no design que impedem que bloqueie efetivamente solicitações de deepfakes direcionadas a menores. Embora os suspeitos tenham sido presos, suas ferramentas criminosas foram possibilitadas pela tecnologia da xAI.
Aumento da Pressão Regulatória
O Grok já havia enfrentado críticas generalizadas por sua política de moderação de conteúdo excessivamente permissiva, que foi acusada de gerar facilmente conteúdo falso e sensível envolvendo celebridades e pessoas comuns. Embora a xAI tenha implementado algumas restrições posteriormente, esta ação coletiva sobre segurança infantil colocou Musk e a xAI sob intensa vigilância regulatória e ética.
Este caso não só representa um grande golpe para a xAI, mas também deve provocar debates mais amplos na indústria sobre a proteção da privacidade e os limites da segurança infantil no contexto da IA gerativa.
Artigo relacionado
A Seed, da ByteDance, lança campanha global de captação de talentos em campus universitários, oferecendo ações virtuais para conquistar os melhores especialistas em grandes modelos de inteligência artificial
No cenário competitivo dos grandes modelos de linguagem, garantir talentos de alto nível continua sendo o ativo estratégico mais crítico.Em 1º de abril, ByteDance anunciou o lançamento de sua iniciativa global de recrutamento campus Seed, parte de se
Suno para Marcas d'Água em Músicas Durante Batalhas Legais
O Suno, plataforma que permite aos usuários gerar músicas criadas por inteligência artificial, apresentou novas funcionalidades para rotular as faixas produzidas pela plataforma, restringir downloads e atualizar os padrões da comunidade para coibir r
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Recomendações de tópicos especiais relacionados
Comentários (0)

A empresa de IA de Elon Musk, xAI, está agora enfrentando um significativo desafio legal. Relatórios indicam que três adolescentes do Tennessee entraram com uma ação coletiva contra a empresa, alegando que o seu chatbot Grok foi usado para criar imagens e vídeos explícitos envolvendo menores.
Falta de Testes de Segurança e Defeitos no Design
Os demandantes afirmam que Musk e a liderança da xAI sabiam que o Grok poderia gerar conteúdo ilegal quando o “Modo Estímulo” era ativado, mas não realizaram testes de segurança adequados nesta função. Documentos judiciais mostram que uma vítima encontrou até 18 imagens explícitas geradas por IA de menores no Discord, algumas das quais supostamente foram usadas como “itens de troca” por suspeitos em grupos encriptados.
O advogado dos demandantes argumenta que o Grok possui defeitos fundamentais no design que impedem que bloqueie efetivamente solicitações de deepfakes direcionadas a menores. Embora os suspeitos tenham sido presos, suas ferramentas criminosas foram possibilitadas pela tecnologia da xAI.
Aumento da Pressão Regulatória
O Grok já havia enfrentado críticas generalizadas por sua política de moderação de conteúdo excessivamente permissiva, que foi acusada de gerar facilmente conteúdo falso e sensível envolvendo celebridades e pessoas comuns. Embora a xAI tenha implementado algumas restrições posteriormente, esta ação coletiva sobre segurança infantil colocou Musk e a xAI sob intensa vigilância regulatória e ética.
Este caso não só representa um grande golpe para a xAI, mas também deve provocar debates mais amplos na indústria sobre a proteção da privacidade e os limites da segurança infantil no contexto da IA gerativa.
A Seed, da ByteDance, lança campanha global de captação de talentos em campus universitários, oferecendo ações virtuais para conquistar os melhores especialistas em grandes modelos de inteligência artificial
No cenário competitivo dos grandes modelos de linguagem, garantir talentos de alto nível continua sendo o ativo estratégico mais crítico.Em 1º de abril, ByteDance anunciou o lançamento de sua iniciativa global de recrutamento campus Seed, parte de se
Suno para Marcas d'Água em Músicas Durante Batalhas Legais
O Suno, plataforma que permite aos usuários gerar músicas criadas por inteligência artificial, apresentou novas funcionalidades para rotular as faixas produzidas pela plataforma, restringir downloads e atualizar os padrões da comunidade para coibir r
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA





Lar






