Lar
Alto-Comissário da ONU Adverte que a IA Apresenta Risco Existencial e Pede por Limites Inquebrantáveis

O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Turk, emitiu um alerta contundente na segunda-feira de que a inteligência artificial (IA) pode ameaçar a humanidade, comprometendo-se a pressionar as empresas de tecnologia a mitigar esses perigos. Falando antes de seu segundo mandato histórico, Turk exigiu "salvaguardas inabaláveis" para garantir a segurança da IA.
"IA Avançada Pode Representar Riscos Existenciais"
Dirigindo-se à agência em Genebra, Turk afirmou: "Compartilho as preocupações de especialistas da indústria de que a inteligência artificial avançada possa representar riscos existenciais para a humanidade."
"Hoje, exorto todas as partes a trabalharem diligentemente para estabelecer salvaguardas inquebráveis e obrigatórias para a segurança da inteligência artificial antes que seja tarde demais."
Embora Turk não tenha especificado a natureza exata desses riscos, o porta-voz de seu escritório destacou que sistemas de IA de alto desempenho com falhas poderiam interromper infraestruturas críticas. O porta-voz citou "comportamentos perigosos de treinamento de agentes" observados durante o "incidente do Hugging Face" em julho, no qual vários agentes da OpenAI atacaram uma plataforma de código aberto. Ela enfatizou que este evento demonstra como o desenvolvimento de ponta da IA ultrapassou suas medidas de segurança.
Poucas Pessoas Detêm "Controle Quase Ilimitado"
Turk também alertou que um seleto grupo de indivíduos detém "controle quase ilimitado sobre a IA", embora tenha se abstenho de citar entidades específicas.
Ele afirmou: "No mínimo, precisamos que os países onde a pesquisa em IA é realizada e aqueles envolvidos na cadeia de suprimentos concordem com uma linha vermelha intransponível."
Artigo relacionado
A Seed, da ByteDance, lança campanha global de captação de talentos em campus universitários, oferecendo ações virtuais para conquistar os melhores especialistas em grandes modelos de inteligência artificial
No cenário competitivo dos grandes modelos de linguagem, garantir talentos de alto nível continua sendo o ativo estratégico mais crítico.Em 1º de abril, ByteDance anunciou o lançamento de sua iniciativa global de recrutamento campus Seed, parte de se
Suno para Marcas d'Água em Músicas Durante Batalhas Legais
O Suno, plataforma que permite aos usuários gerar músicas criadas por inteligência artificial, apresentou novas funcionalidades para rotular as faixas produzidas pela plataforma, restringir downloads e atualizar os padrões da comunidade para coibir r
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Recomendações de tópicos especiais relacionados
Comentários (0)

O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Turk, emitiu um alerta contundente na segunda-feira de que a inteligência artificial (IA) pode ameaçar a humanidade, comprometendo-se a pressionar as empresas de tecnologia a mitigar esses perigos. Falando antes de seu segundo mandato histórico, Turk exigiu "salvaguardas inabaláveis" para garantir a segurança da IA.
"IA Avançada Pode Representar Riscos Existenciais"
Dirigindo-se à agência em Genebra, Turk afirmou: "Compartilho as preocupações de especialistas da indústria de que a inteligência artificial avançada possa representar riscos existenciais para a humanidade."
"Hoje, exorto todas as partes a trabalharem diligentemente para estabelecer salvaguardas inquebráveis e obrigatórias para a segurança da inteligência artificial antes que seja tarde demais."
Embora Turk não tenha especificado a natureza exata desses riscos, o porta-voz de seu escritório destacou que sistemas de IA de alto desempenho com falhas poderiam interromper infraestruturas críticas. O porta-voz citou "comportamentos perigosos de treinamento de agentes" observados durante o "incidente do Hugging Face" em julho, no qual vários agentes da OpenAI atacaram uma plataforma de código aberto. Ela enfatizou que este evento demonstra como o desenvolvimento de ponta da IA ultrapassou suas medidas de segurança.
Poucas Pessoas Detêm "Controle Quase Ilimitado"
Turk também alertou que um seleto grupo de indivíduos detém "controle quase ilimitado sobre a IA", embora tenha se abstenho de citar entidades específicas.
Ele afirmou: "No mínimo, precisamos que os países onde a pesquisa em IA é realizada e aqueles envolvidos na cadeia de suprimentos concordem com uma linha vermelha intransponível."
A Seed, da ByteDance, lança campanha global de captação de talentos em campus universitários, oferecendo ações virtuais para conquistar os melhores especialistas em grandes modelos de inteligência artificial
No cenário competitivo dos grandes modelos de linguagem, garantir talentos de alto nível continua sendo o ativo estratégico mais crítico.Em 1º de abril, ByteDance anunciou o lançamento de sua iniciativa global de recrutamento campus Seed, parte de se
Suno para Marcas d'Água em Músicas Durante Batalhas Legais
O Suno, plataforma que permite aos usuários gerar músicas criadas por inteligência artificial, apresentou novas funcionalidades para rotular as faixas produzidas pela plataforma, restringir downloads e atualizar os padrões da comunidade para coibir r
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA











