LarO grupo de Fei-FEI Li pede legislação de segurança de IA preventiva
Um novo relatório de um grupo de políticas da Califórnia, co-liderado pela pioneira em IA Fei-Fei Li, sugere que os legisladores devem considerar os riscos da IA que ainda não foram observados no mundo real ao criar políticas regulatórias para IA. Este relatório interino de 41 páginas, divulgado na terça-feira, vem do Grupo de Trabalho Conjunto de Políticas da Califórnia sobre Modelos de Fronteira de IA, estabelecido pelo governador Gavin Newsom após ele vetar o controverso projeto de lei de segurança de IA da Califórnia, SB 1047. Newsom sentiu que o SB 1047 não atingiu exatamente o alvo, mas reconheceu a necessidade de uma análise mais profunda dos riscos da IA para orientar os legisladores.
No relatório, Li, junto com os coautores Jennifer Chayes, decana da Faculdade de Computação da UC Berkeley, e Mariano-Florentino Cuéllar, presidente da Carnegie Endowment for International Peace, defendem leis que tornem mais claro o que os laboratórios de IA de fronteira, como a OpenAI, estão fazendo. Antes de o relatório ser tornado público, ele foi revisado por pessoas da indústria de diversas áreas, incluindo fortes apoiadores da segurança de IA, como o vencedor do Prêmio Turing, Yoshua Bengio, e aqueles que se opuseram ao SB 1047, como o cofundador da Databricks, Ion Stoica.
O relatório destaca que os novos riscos dos sistemas de IA podem significar que precisamos de leis que obriguem os desenvolvedores de modelos de IA a compartilhar seus testes de segurança, como obtêm seus dados e suas medidas de segurança com o público. Ele também pede melhores padrões para verificações de terceiros sobre essas questões e políticas das empresas, além de mais proteções para trabalhadores e contratados de empresas de IA que denunciam irregularidades.
Li e seus coautores mencionam que ainda não há provas suficientes sobre o potencial da IA para ajudar em ataques cibernéticos, fabricar armas biológicas ou causar outros perigos "extremos". Mas eles também dizem que a política de IA não deve apenas lidar com o que está acontecendo agora; ela também deve pensar no que pode acontecer no futuro se não houver medidas de segurança suficientes em vigor.
O relatório usa o exemplo de uma arma nuclear, dizendo: "Não precisamos ver uma arma nuclear explodir para saber que ela pode causar muitos danos." Ele continua dizendo: "Se aqueles que falam sobre os piores riscos estiverem certos — e não temos certeza se estarão — então não fazer nada sobre a IA de fronteira agora pode ser realmente custoso."
Para tornar o desenvolvimento de modelos de IA mais aberto, o relatório sugere uma abordagem de "confiar, mas verificar". Ele diz que os desenvolvedores de modelos de IA e seus trabalhadores devem ter maneiras de relatar coisas que importam para o público, como testes de segurança internos, e também devem ter suas alegações de testes verificadas por terceiros.
Embora o relatório, que será finalizado em junho de 2025, não apoie nenhuma lei específica, ele foi bem recebido por especialistas de ambos os lados do debate sobre políticas de IA.
Dean Ball, um pesquisador focado em IA na George Mason University que não gostou do SB 1047, disse no X que o relatório é um bom passo para as regras de segurança de IA da Califórnia. Também é uma vitória para os defensores da segurança de IA, segundo o senador estadual da Califórnia, Scott Wiener, que apresentou o SB 1047 no último ano. Wiener disse em um comunicado à imprensa que o relatório contribui para as "conversas urgentes sobre governança de IA que começamos na legislatura em 2024."
O relatório parece concordar com partes do SB 1047 e com o próximo projeto de lei de Wiener, SB 53, como fazer com que os desenvolvedores de modelos de IA relatem os resultados de seus testes de segurança. Olhando para o quadro geral, parece uma vitória muito necessária para os defensores da segurança de IA, cujas ideias têm perdido terreno no último ano.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Análise de dados
Melhores ferramentas de detecção de anomalias com IA para monitoramento de KPIs entre equipes de SaaS e comércio eletrônico
2026 Últimas Melhores Ferramentas de Detecção de Anomalias por IA Mais Bem Avaliadas para Monitoramento de KPIs em Equipes de SaaS e E-commerce! A XIX.AI compilou uma coleção poderosa e transformadora, baseada em testes rigorosos do mundo real e classificações atualizadas semanalmente. Você encontrará insights detalhados sobre comparações entre versões gratuitas e pagas para ajudá-lo a identificar a solução que deve ser testada, aumentando a produtividade e desbloqueando sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
escrita
Os melhores geradores de esboços com IA para artigos longos de SEO
Os melhores e mais bem avaliados geradores de esboços com IA de 2026 para artigos longos de SEO, cuidadosamente selecionados pela XIX.AI. Essas ferramentas poderosas oferecem um auxílio revolucionário na criação rápida de conteúdo de alta qualidade, aumentando significativamente a eficiência na redação. Confira uma comparação entre versões gratuitas e pagas, além de testes práticos e classificações detalhadas, para ajudá-lo a encontrar a opção imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.
8 ferramentas
xix.ai
Educação e Aprendizagem
Ferramentas de IA para os deveres de casa e a preparação para provas
As melhores e mais recentes ferramentas de IA para lição de casa e preparação para provas em 2026! A XIX.AI seleciona uma lista das ferramentas mais bem avaliadas, poderosas e revolucionárias que ajudam os alunos a aumentar a produtividade, agilizar a realização das lições de casa e se sair muito bem nas provas por meio de testes práticos. Veja uma comparação entre versões gratuitas e pagas, classificações detalhadas e opções imperdíveis para aproveitar ao máximo as vantagens da IA. Explore agora!
10 ferramentas
xix.ai
Composição musical
Ferramentas de Demonstração Vocal com IA para Compositores, Ganchos, Toplines e Sessões de Rascunho Multilíngues
2026 Últimas Melhores Ferramentas de Demonstração Vocal com IA para Compositores, Criadores de Ganchos e Equipes de Conteúdo Multilíngue! A XIX.AI compilou uma lista de ferramentas altamente avaliadas e poderosas, que mudam o jogo e passaram por rigorosos testes no mundo real. Você encontrará dados detalhados de comparação entre versões gratuitas e pagas, classificações abrangentes e opções imperdíveis para ajudá-lo a aumentar a eficiência da escrita e desbloquear seu potencial criativo. Explore agora para descobrir a ferramenta perfeita para todas as suas necessidades de conteúdo!
9 ferramentas
xix.ai
Negócios
As melhores ferramentas de pesquisa competitiva baseadas em IA para pequenas empresas
As melhores e mais bem avaliadas ferramentas de pesquisa competitiva com IA de 2026 para pequenas empresas! A XIX.AI selecionou uma coleção extremamente poderosa e revolucionária, atualizada semanalmente com testes rigorosos no mundo real e classificações detalhadas. Você encontrará uma comparação abrangente entre versões gratuitas e pagas para ajudá-lo a identificar as ferramentas imperdíveis que aumentam sua produtividade e lhe proporcionam uma vantagem competitiva. Explore agora para descobrir a ferramenta perfeita para você!
9 ferramentas
xix.ai
Edição de imagem
Ferramentas de Retoque com IA do Photoshop para Moda E-commerce, Limpeza de Pele e Consistência de Cor
2026 Últimas Melhores Ferramentas de Retoque com IA do Photoshop para roupas de comércio eletrônico, limpeza de pele e consistência de cores! Esta lista curada de alta classificação apresenta soluções poderosas que mudam o jogo, ajudando você a aumentar a eficiência da escrita, simplificar a criação de conteúdo e obter resultados visuais perfeitos sem esforço. Cada ferramenta passou por testes do mundo real através de classificações atualizadas semanalmente, com detalhes completos sobre comparação entre gratuito e pago. Com o apoio da XIX.AI, é o guia essencial para quem deseja desbloquear sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
Comentários (39)
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
Um novo relatório de um grupo de políticas da Califórnia, co-liderado pela pioneira em IA Fei-Fei Li, sugere que os legisladores devem considerar os riscos da IA que ainda não foram observados no mundo real ao criar políticas regulatórias para IA. Este relatório interino de 41 páginas, divulgado na terça-feira, vem do Grupo de Trabalho Conjunto de Políticas da Califórnia sobre Modelos de Fronteira de IA, estabelecido pelo governador Gavin Newsom após ele vetar o controverso projeto de lei de segurança de IA da Califórnia, SB 1047. Newsom sentiu que o SB 1047 não atingiu exatamente o alvo, mas reconheceu a necessidade de uma análise mais profunda dos riscos da IA para orientar os legisladores.
No relatório, Li, junto com os coautores Jennifer Chayes, decana da Faculdade de Computação da UC Berkeley, e Mariano-Florentino Cuéllar, presidente da Carnegie Endowment for International Peace, defendem leis que tornem mais claro o que os laboratórios de IA de fronteira, como a OpenAI, estão fazendo. Antes de o relatório ser tornado público, ele foi revisado por pessoas da indústria de diversas áreas, incluindo fortes apoiadores da segurança de IA, como o vencedor do Prêmio Turing, Yoshua Bengio, e aqueles que se opuseram ao SB 1047, como o cofundador da Databricks, Ion Stoica.
O relatório destaca que os novos riscos dos sistemas de IA podem significar que precisamos de leis que obriguem os desenvolvedores de modelos de IA a compartilhar seus testes de segurança, como obtêm seus dados e suas medidas de segurança com o público. Ele também pede melhores padrões para verificações de terceiros sobre essas questões e políticas das empresas, além de mais proteções para trabalhadores e contratados de empresas de IA que denunciam irregularidades.
Li e seus coautores mencionam que ainda não há provas suficientes sobre o potencial da IA para ajudar em ataques cibernéticos, fabricar armas biológicas ou causar outros perigos "extremos". Mas eles também dizem que a política de IA não deve apenas lidar com o que está acontecendo agora; ela também deve pensar no que pode acontecer no futuro se não houver medidas de segurança suficientes em vigor.
O relatório usa o exemplo de uma arma nuclear, dizendo: "Não precisamos ver uma arma nuclear explodir para saber que ela pode causar muitos danos." Ele continua dizendo: "Se aqueles que falam sobre os piores riscos estiverem certos — e não temos certeza se estarão — então não fazer nada sobre a IA de fronteira agora pode ser realmente custoso."
Para tornar o desenvolvimento de modelos de IA mais aberto, o relatório sugere uma abordagem de "confiar, mas verificar". Ele diz que os desenvolvedores de modelos de IA e seus trabalhadores devem ter maneiras de relatar coisas que importam para o público, como testes de segurança internos, e também devem ter suas alegações de testes verificadas por terceiros.
Embora o relatório, que será finalizado em junho de 2025, não apoie nenhuma lei específica, ele foi bem recebido por especialistas de ambos os lados do debate sobre políticas de IA.
Dean Ball, um pesquisador focado em IA na George Mason University que não gostou do SB 1047, disse no X que o relatório é um bom passo para as regras de segurança de IA da Califórnia. Também é uma vitória para os defensores da segurança de IA, segundo o senador estadual da Califórnia, Scott Wiener, que apresentou o SB 1047 no último ano. Wiener disse em um comunicado à imprensa que o relatório contribui para as "conversas urgentes sobre governança de IA que começamos na legislatura em 2024."
O relatório parece concordar com partes do SB 1047 e com o próximo projeto de lei de Wiener, SB 53, como fazer com que os desenvolvedores de modelos de IA relatem os resultados de seus testes de segurança. Olhando para o quadro geral, parece uma vitória muito necessária para os defensores da segurança de IA, cujas ideias têm perdido terreno no último ano.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
2026 Últimas Melhores Ferramentas de Detecção de Anomalias por IA Mais Bem Avaliadas para Monitoramento de KPIs em Equipes de SaaS e E-commerce! A XIX.AI compilou uma coleção poderosa e transformadora, baseada em testes rigorosos do mundo real e classificações atualizadas semanalmente. Você encontrará insights detalhados sobre comparações entre versões gratuitas e pagas para ajudá-lo a identificar a solução que deve ser testada, aumentando a produtividade e desbloqueando sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
Os melhores e mais bem avaliados geradores de esboços com IA de 2026 para artigos longos de SEO, cuidadosamente selecionados pela XIX.AI. Essas ferramentas poderosas oferecem um auxílio revolucionário na criação rápida de conteúdo de alta qualidade, aumentando significativamente a eficiência na redação. Confira uma comparação entre versões gratuitas e pagas, além de testes práticos e classificações detalhadas, para ajudá-lo a encontrar a opção imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.
8 ferramentas
xix.ai
As melhores e mais recentes ferramentas de IA para lição de casa e preparação para provas em 2026! A XIX.AI seleciona uma lista das ferramentas mais bem avaliadas, poderosas e revolucionárias que ajudam os alunos a aumentar a produtividade, agilizar a realização das lições de casa e se sair muito bem nas provas por meio de testes práticos. Veja uma comparação entre versões gratuitas e pagas, classificações detalhadas e opções imperdíveis para aproveitar ao máximo as vantagens da IA. Explore agora!
10 ferramentas
xix.ai
2026 Últimas Melhores Ferramentas de Demonstração Vocal com IA para Compositores, Criadores de Ganchos e Equipes de Conteúdo Multilíngue! A XIX.AI compilou uma lista de ferramentas altamente avaliadas e poderosas, que mudam o jogo e passaram por rigorosos testes no mundo real. Você encontrará dados detalhados de comparação entre versões gratuitas e pagas, classificações abrangentes e opções imperdíveis para ajudá-lo a aumentar a eficiência da escrita e desbloquear seu potencial criativo. Explore agora para descobrir a ferramenta perfeita para todas as suas necessidades de conteúdo!
9 ferramentas
xix.ai
As melhores e mais bem avaliadas ferramentas de pesquisa competitiva com IA de 2026 para pequenas empresas! A XIX.AI selecionou uma coleção extremamente poderosa e revolucionária, atualizada semanalmente com testes rigorosos no mundo real e classificações detalhadas. Você encontrará uma comparação abrangente entre versões gratuitas e pagas para ajudá-lo a identificar as ferramentas imperdíveis que aumentam sua produtividade e lhe proporcionam uma vantagem competitiva. Explore agora para descobrir a ferramenta perfeita para você!
9 ferramentas
xix.ai
2026 Últimas Melhores Ferramentas de Retoque com IA do Photoshop para roupas de comércio eletrônico, limpeza de pele e consistência de cores! Esta lista curada de alta classificação apresenta soluções poderosas que mudam o jogo, ajudando você a aumentar a eficiência da escrita, simplificar a criação de conteúdo e obter resultados visuais perfeitos sem esforço. Cada ferramenta passou por testes do mundo real através de classificações atualizadas semanalmente, com detalhes completos sobre comparação entre gratuito e pago. Com o apoio da XIX.AI, é o guia essencial para quem deseja desbloquear sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
