La superinteligencia ha llegado: ¿la dejamos entrar?

Cargando el reproductor…
Las empresas de inteligencia artificial han estado hablando de una IA superinteligente como si fuera inevitable, pero los recientes incidentes de seguridad, como la violación de OpenAI en Hugging Face, están demostrando los posibles peligros de desplegar sistemas de IA más capaces que los seres humanos. Entonces, ¿qué sucede cuando no podemos controlar de manera confiable lo que hacen estos sistemas?
En este episodio del podcast Equity de TechCrunch, Rebecca Bellan se une a Connor Leahy, investigador de IA, emprendedor y ahora director ejecutivo de ControlAI en Estados Unidos, una organización sin fines de lucro que impulsa un enfoque mucho más radical hacia la seguridad de la IA: detener a las empresas de desarrollar superinteligencia por completo. Leahy explica por qué cree que los riesgos se han vuelto demasiado grandes para gestionarse solo mediante alineación y contención, y cómo lo que sonaba lejano hace seis meses ahora está respaldado por una ola de nueva legislación.
Suscríbete a Equity en YouTube, Apple Podcasts, Overcast, Spotify y todas las plataformas de podcasts. También puedes seguir a Equity en X e Threads, en @EquityPod.
Artículo relacionado
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
Hugging Face en conversaciones para una adquisición de 13.000 millones de dólares
Business Insider informó el fin de semana pasado que se ha acercado a Hugging Face para venderla con una valoración de 13.000 millones de dólares o más.La plataforma de la startup y su comunidad de código abierto son el lugar donde los desarrollador
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Cargando el reproductor…
Las empresas de inteligencia artificial han estado hablando de una IA superinteligente como si fuera inevitable, pero los recientes incidentes de seguridad, como la violación de OpenAI en Hugging Face, están demostrando los posibles peligros de desplegar sistemas de IA más capaces que los seres humanos. Entonces, ¿qué sucede cuando no podemos controlar de manera confiable lo que hacen estos sistemas?
En este episodio del podcast Equity de TechCrunch, Rebecca Bellan se une a Connor Leahy, investigador de IA, emprendedor y ahora director ejecutivo de ControlAI en Estados Unidos, una organización sin fines de lucro que impulsa un enfoque mucho más radical hacia la seguridad de la IA: detener a las empresas de desarrollar superinteligencia por completo. Leahy explica por qué cree que los riesgos se han vuelto demasiado grandes para gestionarse solo mediante alineación y contención, y cómo lo que sonaba lejano hace seis meses ahora está respaldado por una ola de nueva legislación.
Suscríbete a Equity en YouTube, Apple Podcasts, Overcast, Spotify y todas las plataformas de podcasts. También puedes seguir a Equity en X e Threads, en @EquityPod.
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
Hugging Face en conversaciones para una adquisición de 13.000 millones de dólares
Business Insider informó el fin de semana pasado que se ha acercado a Hugging Face para venderla con una valoración de 13.000 millones de dólares o más.La plataforma de la startup y su comunidad de código abierto son el lugar donde los desarrollador
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando





Hogar






