Lar
O ChatGPT para Adolescentes da OpenAI enfrenta ceticismo de especialistas sobre os mecanismos de segurança

O recente lançamento do ChatGPT para Crianças pela OpenAI, com restrições baseadas na idade, atraiu fortes críticas de defensores da segurança infantil, que questionam a transparência e a eficácia de suas salvaguardas.
Especialistas em segurança enfatizam que testes independentes são essenciais antes que a plataforma seja recomendada às famílias. Robbie Tynjala, do Common Sense Media, destacou que a OpenAI deve fornecer provas concretas de que seus recursos de segurança realmente funcionam, em vez de depender de alegações não verificadas.
Josh Golin, líder da iniciativa Fairplay, levantou sérias preocupações sobre a falta de responsabilidade. Ele observou que as restrições anteriores da OpenAI sobre tópicos sensíveis, como suicídio e violência, muitas vezes falharam, argumentando que a autorregulação é insuficiente sem uma supervisão robusta.
Especialistas também duvidam da confiabilidade do sistema automático de verificação de idade. Tynjala apontou que a OpenAI não divulgou dados sobre as taxas de falsos positivos ou negativos, deixando claro que os sistemas automatizados não podem identificar perfeitamente os usuários jovens. Além disso, é provável que os adolescentes encontrem maneiras de contornar essas verificações.
O ceticismo permanece elevado em relação à promessa da OpenAI de que o conteúdo sinalizado será revisado por funcionários e os pais serão notificados dentro de uma hora. Tynjala questionou a confiabilidade dos filtros automatizados, enquanto Golin exigiu dados concretos sobre o volume diário de sinalizações, o tamanho da equipe e os tempos de revisão, observando que é irreal esperar uma equipe suficiente para revisar manualmente todas as interações perigosas.
Por fim, os especialistas argumentam que exigir que os pais vinculem manualmente as contas compromete a proteção. Golin sugeriu que os recursos de segurança devem ser incorporados ao produto por padrão, como limites automáticos de tempo, em vez de colocar o ônus da configuração complexa inteiramente sobre os pais.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)

O recente lançamento do ChatGPT para Crianças pela OpenAI, com restrições baseadas na idade, atraiu fortes críticas de defensores da segurança infantil, que questionam a transparência e a eficácia de suas salvaguardas.
Especialistas em segurança enfatizam que testes independentes são essenciais antes que a plataforma seja recomendada às famílias. Robbie Tynjala, do Common Sense Media, destacou que a OpenAI deve fornecer provas concretas de que seus recursos de segurança realmente funcionam, em vez de depender de alegações não verificadas.
Josh Golin, líder da iniciativa Fairplay, levantou sérias preocupações sobre a falta de responsabilidade. Ele observou que as restrições anteriores da OpenAI sobre tópicos sensíveis, como suicídio e violência, muitas vezes falharam, argumentando que a autorregulação é insuficiente sem uma supervisão robusta.
Especialistas também duvidam da confiabilidade do sistema automático de verificação de idade. Tynjala apontou que a OpenAI não divulgou dados sobre as taxas de falsos positivos ou negativos, deixando claro que os sistemas automatizados não podem identificar perfeitamente os usuários jovens. Além disso, é provável que os adolescentes encontrem maneiras de contornar essas verificações.
O ceticismo permanece elevado em relação à promessa da OpenAI de que o conteúdo sinalizado será revisado por funcionários e os pais serão notificados dentro de uma hora. Tynjala questionou a confiabilidade dos filtros automatizados, enquanto Golin exigiu dados concretos sobre o volume diário de sinalizações, o tamanho da equipe e os tempos de revisão, observando que é irreal esperar uma equipe suficiente para revisar manualmente todas as interações perigosas.
Por fim, os especialistas argumentam que exigir que os pais vinculem manualmente as contas compromete a proteção. Golin sugeriu que os recursos de segurança devem ser incorporados ao produto por padrão, como limites automáticos de tempo, em vez de colocar o ônus da configuração complexa inteiramente sobre os pais.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr











