Lar
Vários países exigem avaliação de segurança para modelos grandes antes de seu lançamento.

À medida que a IA se expande rapidamente em todo o mundo, a supervisão dos grandes modelos de linguagem está passando de princípios gerais para uma aplicação prática e efetiva das regras. Os governos do Reino Unido, dos EUA e da Austrália introduziram recentemente novas medidas que exigem que sistemas de IA de ponta passem por testes governamentais de vulnerabilidades de segurança e avaliação de riscos antes de seu lançamento oficial.
A abordagem do Reino Unido se torna um modelo para políticas globais
Nessa mudança regulatória, a estrutura de teste de invasão e avaliação de riscos desenvolvida pelo UK AI Safety Institute (AISI) está se destacando como referência para outros países. Recentemente, o governo britânico anunciou uma parceria formal com o Australian AI Safety Institute para monitorar conjuntamente os riscos potenciais decorrentes da IA avançada em contextos de ataques cibernéticos e defesa, além de compartilhar conhecimentos sobre capacidades essenciais.
Esse novo modelo representa um distanciamento da dependência anterior de compromissos voluntários por parte das empresas, trazendo o governo diretamente para o processo de teste. Daqui para frente, os grandes modelos de IA terão de seguir um procedimento de conformidade semelhante a uma “inspeção de segurança pré-lançamento” ao competir no mercado, e as capacidades de teste de segurança estão se tornando cada vez mais um componente fundamental da competitividade dos produtos.
Gigantes tecnológicos dos EUA aderem a avaliações de segurança nacional
Enquanto isso, o AI Standards and Innovation Center (CAISI), vinculado ao Departamento de Comércio dos EUA, está desenvolvendo mecanismos semelhantes de avaliação de segurança nacional. Várias empresas líderes em IA, como a Google DeepMind, a Microsoft e a xAI de Elon Musk, firmaram acordos importantes com o centro, comprometendo-se a fornecer materiais relevantes e passar por avaliações detalhadas de segurança antes de lançar publicamente seus modelos.
Nesse período, a Microsoft também confirmou que fortalecerá ainda mais a colaboração com órgãos de teste dos EUA e do Reino Unido para reduzir conjuntamente os riscos à segurança pública causados por modelos avançados. Essas parcerias internacionais rápidas enviam uma mensagem clara: as futuras regulamentações da IA não se concentrarão mais apenas em saber se as empresas elaboraram compromissos de segurança, mas sim em verificar se esses compromissos foram efetivamente testados.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)

À medida que a IA se expande rapidamente em todo o mundo, a supervisão dos grandes modelos de linguagem está passando de princípios gerais para uma aplicação prática e efetiva das regras. Os governos do Reino Unido, dos EUA e da Austrália introduziram recentemente novas medidas que exigem que sistemas de IA de ponta passem por testes governamentais de vulnerabilidades de segurança e avaliação de riscos antes de seu lançamento oficial.
A abordagem do Reino Unido se torna um modelo para políticas globais
Nessa mudança regulatória, a estrutura de teste de invasão e avaliação de riscos desenvolvida pelo UK AI Safety Institute (AISI) está se destacando como referência para outros países. Recentemente, o governo britânico anunciou uma parceria formal com o Australian AI Safety Institute para monitorar conjuntamente os riscos potenciais decorrentes da IA avançada em contextos de ataques cibernéticos e defesa, além de compartilhar conhecimentos sobre capacidades essenciais.
Esse novo modelo representa um distanciamento da dependência anterior de compromissos voluntários por parte das empresas, trazendo o governo diretamente para o processo de teste. Daqui para frente, os grandes modelos de IA terão de seguir um procedimento de conformidade semelhante a uma “inspeção de segurança pré-lançamento” ao competir no mercado, e as capacidades de teste de segurança estão se tornando cada vez mais um componente fundamental da competitividade dos produtos.
Gigantes tecnológicos dos EUA aderem a avaliações de segurança nacional
Enquanto isso, o AI Standards and Innovation Center (CAISI), vinculado ao Departamento de Comércio dos EUA, está desenvolvendo mecanismos semelhantes de avaliação de segurança nacional. Várias empresas líderes em IA, como a Google DeepMind, a Microsoft e a xAI de Elon Musk, firmaram acordos importantes com o centro, comprometendo-se a fornecer materiais relevantes e passar por avaliações detalhadas de segurança antes de lançar publicamente seus modelos.
Nesse período, a Microsoft também confirmou que fortalecerá ainda mais a colaboração com órgãos de teste dos EUA e do Reino Unido para reduzir conjuntamente os riscos à segurança pública causados por modelos avançados. Essas parcerias internacionais rápidas enviam uma mensagem clara: as futuras regulamentações da IA não se concentrarão mais apenas em saber se as empresas elaboraram compromissos de segurança, mas sim em verificar se esses compromissos foram efetivamente testados.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr











