A Superinteligência Chega: Vamos Deixá-la Entrar?

Carregando o player…
As empresas de inteligência artificial vêm falando sobre uma IA superinteligente como se fosse inevitável, mas recentes incidentes de segurança, como a violação do Hugging Face pela OpenAI, estão demonstrando os potenciais perigos de implantar sistemas de IA mais capazes do que os seres humanos. Então, o que acontece quando não conseguimos controlar de forma confiável o que esses sistemas fazem?
Neste episódio do podcast Equity da TechCrunch, Rebecca Bellan é acompanhada por Connor Leahy, pesquisador de IA, empreendedor e agora diretor executivo dos Estados Unidos da organização sem fins lucrativos ControlAI, que defende uma abordagem muito mais radical para a segurança da IA: impedir que as empresas desenvolvam superinteligência de qualquer forma. Leahy explica por que ele acredita que os riscos se tornaram grandes demais para serem gerenciados apenas por meio de alinhamento e contenção, e como o que parecia distante há seis meses agora está sendo respaldado por uma onda de nova legislação.
Inscreva-se no Equity no YouTube, Apple Podcasts, Overcast, Spotify e em todas as plataformas de podcasts. Você também pode seguir o Equity no X e Threads, em @EquityPod.
Artigo relacionado
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
Hugging Face em negociações para aquisição de US$ 13 bilhões
O Business Insider informou no fim de semana que a Hugging Face foi abordada para ser vendida com uma avaliação de 13 bilhões de dólares ou mais.A plataforma da startup e sua comunidade de código aberto são onde desenvolvedores e pesquisadores compa
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
Recomendações de tópicos especiais relacionados
Comentários (0)

Carregando o player…
As empresas de inteligência artificial vêm falando sobre uma IA superinteligente como se fosse inevitável, mas recentes incidentes de segurança, como a violação do Hugging Face pela OpenAI, estão demonstrando os potenciais perigos de implantar sistemas de IA mais capazes do que os seres humanos. Então, o que acontece quando não conseguimos controlar de forma confiável o que esses sistemas fazem?
Neste episódio do podcast Equity da TechCrunch, Rebecca Bellan é acompanhada por Connor Leahy, pesquisador de IA, empreendedor e agora diretor executivo dos Estados Unidos da organização sem fins lucrativos ControlAI, que defende uma abordagem muito mais radical para a segurança da IA: impedir que as empresas desenvolvam superinteligência de qualquer forma. Leahy explica por que ele acredita que os riscos se tornaram grandes demais para serem gerenciados apenas por meio de alinhamento e contenção, e como o que parecia distante há seis meses agora está sendo respaldado por uma onda de nova legislação.
Inscreva-se no Equity no YouTube, Apple Podcasts, Overcast, Spotify e em todas as plataformas de podcasts. Você também pode seguir o Equity no X e Threads, em @EquityPod.
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
Hugging Face em negociações para aquisição de US$ 13 bilhões
O Business Insider informou no fim de semana que a Hugging Face foi abordada para ser vendida com uma avaliação de 13 bilhões de dólares ou mais.A plataforma da startup e sua comunidade de código aberto são onde desenvolvedores e pesquisadores compa
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan





Lar






