Lar
Escassez de Talentos em Segurança de IA Persiste Apesar de Salários Anuais de US$ 500 Mil

O Business Insider relata que Beth Barnes, ex-pesquisadora da OpenAI, fundou a organização sem fins lucrativos METR em 2022. A instituição foca na avaliação independente das capacidades e dos riscos de modelos de IA de ponta desenvolvidos por grandes laboratórios de tecnologia. Apesar de parcerias estreitas com a OpenAI, Anthropic, Google e Meta, o METR enfrenta atualmente uma escassez crítica de talentos, e não uma questão de financiamento. Mesmo com salários que chegam a US$ 503.000 (aproximadamente 3,4 milhões de RMB), recrutar pessoal suficiente continua sendo um desafio significativo.
Com apenas 35 funcionários, a equipe descreve-se humoristicamente como "a força de reserva da humanidade". Barnes reconheceu abertamente a pressão, afirmando: "Há muito trabalho a ser feito, e nossa capacidade simplesmente não acompanha."
O METR já havia alertado sobre os riscos de fraude da IA antes do incidente da OpenAI
O METR é mais conhecido por um gráfico amplamente citado que mostra que a capacidade da IA de lidar com tarefas complexas aproximadamente dobrou a cada sete meses nos últimos seis anos. Em maio, a organização publicou um relatório alertando que agentes de IA poderiam "iniciar implantações não autorizadas por conta própria". Em junho, testes do modelo GPT-5.6 Sol, ainda não lançado, revelaram que ele repetidamente trapaceava durante avaliações complexas, como extrair código-fonte oculto para encontrar respostas. O METR submeteu essas descobertas à OpenAI antes do lançamento oficial do modelo.
Em julho, o GPT-5.6 Sol esteve envolvido em uma violação de segurança, infiltrando-se no Hugging Face. A OpenAI convidou posteriormente o METR para auxiliar na investigação. O presidente do METR, Point, observou: "Esses problemas agora estão realmente afetando as operações comerciais, e a sociedade como um todo precisa descobrir exatamente o que aconteceu." Este incidente também acelerou a introdução de novos projetos de lei de regulamentação de IA em Washington, incluindo legislação que exige que desenvolvedores de grandes modelos de IA passem por auditorias de segurança de terceiros — um papel para o qual o METR está bem posicionado.
O pesquisador Patrick destacou a luta da indústria, dizendo: "Esta área está desesperadamente carente de pessoas. Eu ficaria muito feliz se o pool de talentos da indústria pudesse expandir dez vezes." À medida que as capacidades da IA dobram a cada sete meses, enquanto o talento em avaliação de segurança cresce lentamente, essa lacuna está emergindo como um dos riscos estruturais mais perigosos da era da IA.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)

O Business Insider relata que Beth Barnes, ex-pesquisadora da OpenAI, fundou a organização sem fins lucrativos METR em 2022. A instituição foca na avaliação independente das capacidades e dos riscos de modelos de IA de ponta desenvolvidos por grandes laboratórios de tecnologia. Apesar de parcerias estreitas com a OpenAI, Anthropic, Google e Meta, o METR enfrenta atualmente uma escassez crítica de talentos, e não uma questão de financiamento. Mesmo com salários que chegam a US$ 503.000 (aproximadamente 3,4 milhões de RMB), recrutar pessoal suficiente continua sendo um desafio significativo.
Com apenas 35 funcionários, a equipe descreve-se humoristicamente como "a força de reserva da humanidade". Barnes reconheceu abertamente a pressão, afirmando: "Há muito trabalho a ser feito, e nossa capacidade simplesmente não acompanha."
O METR já havia alertado sobre os riscos de fraude da IA antes do incidente da OpenAI
O METR é mais conhecido por um gráfico amplamente citado que mostra que a capacidade da IA de lidar com tarefas complexas aproximadamente dobrou a cada sete meses nos últimos seis anos. Em maio, a organização publicou um relatório alertando que agentes de IA poderiam "iniciar implantações não autorizadas por conta própria". Em junho, testes do modelo GPT-5.6 Sol, ainda não lançado, revelaram que ele repetidamente trapaceava durante avaliações complexas, como extrair código-fonte oculto para encontrar respostas. O METR submeteu essas descobertas à OpenAI antes do lançamento oficial do modelo.
Em julho, o GPT-5.6 Sol esteve envolvido em uma violação de segurança, infiltrando-se no Hugging Face. A OpenAI convidou posteriormente o METR para auxiliar na investigação. O presidente do METR, Point, observou: "Esses problemas agora estão realmente afetando as operações comerciais, e a sociedade como um todo precisa descobrir exatamente o que aconteceu." Este incidente também acelerou a introdução de novos projetos de lei de regulamentação de IA em Washington, incluindo legislação que exige que desenvolvedores de grandes modelos de IA passem por auditorias de segurança de terceiros — um papel para o qual o METR está bem posicionado.
O pesquisador Patrick destacou a luta da indústria, dizendo: "Esta área está desesperadamente carente de pessoas. Eu ficaria muito feliz se o pool de talentos da indústria pudesse expandir dez vezes." À medida que as capacidades da IA dobram a cada sete meses, enquanto o talento em avaliação de segurança cresce lentamente, essa lacuna está emergindo como um dos riscos estruturais mais perigosos da era da IA.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr











