HogarEl grupo de Fei-Fei Li insta a la legislación preventiva de seguridad de IA
Un nuevo informe de un grupo de políticas de California, co-liderado por la pionera en IA Fei-Fei Li, sugiere que los legisladores deberían considerar los riesgos de la IA que aún no se han visto en el mundo real al crear políticas regulatorias de IA. Este informe interino de 41 páginas, publicado el martes, proviene del Grupo de Trabajo de Políticas Conjuntas de California sobre Modelos de Frontera de IA, establecido por el gobernador Gavin Newsom tras vetar el controvertido proyecto de ley de seguridad de IA de California, SB 1047. Newsom consideró que SB 1047 no dio en el blanco, pero reconoció la necesidad de un análisis más profundo de los riesgos de la IA para guiar a los legisladores.
En el informe, Li, junto con los coautores Jennifer Chayes, decana del Colegio de Computación de UC Berkeley, y Mariano-Florentino Cuéllar, presidente de la Carnegie Endowment for International Peace, abogan por leyes que aclaren qué están haciendo los laboratorios de IA de frontera como OpenAI. Antes de que el informe se hiciera público, fue revisado por personas de la industria de diversos ámbitos, incluyendo fervientes defensores de la seguridad de la IA como el ganador del Premio Turing Yoshua Bengio y aquellos que se opusieron a SB 1047, como el cofundador de Databricks, Ion Stoica.
El informe señala que los nuevos riesgos de los sistemas de IA podrían implicar la necesidad de leyes que obliguen a los desarrolladores de modelos de IA a compartir sus pruebas de seguridad, cómo obtienen sus datos y sus medidas de seguridad con el público. También pide mejores estándares para verificaciones de terceros sobre estas cosas y las políticas de las empresas, además de más protecciones para los trabajadores y contratistas de empresas de IA que denuncien irregularidades.
Li y sus coautores mencionan que aún no hay pruebas suficientes sobre el potencial de la IA para ayudar con ciberataques, crear armas biológicas o causar otros peligros "extremos". Pero también dicen que la política de IA no debería solo abordar lo que está sucediendo ahora; también debería pensar en lo que podría pasar en el futuro si no hay suficientes medidas de seguridad en su lugar.
El informe usa el ejemplo de un arma nuclear, diciendo: "No necesitamos ver explotar un arma nuclear para saber que podría causar mucho daño." Continúa diciendo: "Si aquellos que hablan de los peores riesgos tienen razón —y no estamos seguros de si lo tendrán— entonces no hacer nada respecto a la IA de frontera ahora podría ser realmente costoso."
Para hacer el desarrollo de modelos de IA más abierto, el informe sugiere un enfoque de "confiar pero verificar". Dice que los desarrolladores de modelos de IA y sus trabajadores deberían tener formas de informar sobre cosas que importan al público, como las pruebas de seguridad internas, y también deberían hacer que sus afirmaciones de pruebas sean verificadas por terceros.
Aunque el informe, que se finalizará en junio de 2025, no respalda ninguna ley específica, ha sido bien recibido por expertos de ambos lados del debate sobre políticas de IA.
Dean Ball, un investigador enfocado en IA en la Universidad George Mason que no estaba a favor de SB 1047, dijo en X que el informe es un buen paso para las reglas de seguridad de IA de California. También es una victoria para los defensores de la seguridad de IA, según el senador estatal de California Scott Wiener, quien presentó SB 1047 el año pasado. Wiener dijo en un comunicado de prensa que el informe contribuye a las "conversaciones urgentes sobre la gobernanza de la IA que comenzamos en la legislatura en 2024."
El informe parece estar de acuerdo con partes de SB 1047 y el próximo proyecto de ley de Wiener, SB 53, como hacer que los desarrolladores de modelos de IA informen los resultados de sus pruebas de seguridad. En una perspectiva más amplia, parece una victoria muy necesaria para los defensores de la seguridad de la IA, cuyas ideas han estado perdiendo terreno durante el último año.
Artículo relacionado
El lanzamiento global de la campaña de campus de Seed de ByteDance ofrece acciones virtuales para captar a los mejores talentos en modelos grandes
En el competitivo panorama de los modelos de lenguaje grandes, asegurar el talento de primer nivel sigue siendo el activo estratégico más crítico.El 1 de abril, ByteDance anunció el lanzamiento de su iniciativa global de reclutamiento de campus Seed
Suno añade marcas de agua a las canciones en medio de batallas legales
Suno, la plataforma que permite a los usuarios generar música creada por inteligencia artificial, ha presentado nuevas funciones para etiquetar las pistas producidas en la plataforma, restringir las descargas y actualizar las normas de la comunidad c
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Recomendaciones de temas especiales relacionados
Diseño y Arte
Herramientas de referencia de estilos visuales basadas en IA para fichas de personajes, moodboards y presentaciones
¡Ya están aquí, en XIX.AI, las mejores y más recientes herramientas de referencia de estilos visuales con IA para fichas de personajes, moodboards y presentaciones de proyectos! Esta lista seleccionada y mejor valorada incluye potentes herramientas revolucionarias que han superado rigurosas pruebas en el mundo real. Encontrarás una comparación entre opciones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles que te ayudarán a potenciar tu creatividad y optimizar tu flujo de trabajo. ¡Explora ahora mismo la lista para descubrir la herramienta perfecta que te permita aumentar tu productividad!
11 herramientas
xix.ai
SEO
Las mejores herramientas de análisis de SERP basadas en IA para la estrategia de búsqueda
Las mejores herramientas de análisis de SERP con IA mejor valoradas de 2026 para la estrategia de búsqueda han sido seleccionadas por XIX.AI tras rigurosas pruebas en condiciones reales y clasificaciones que se actualizan semanalmente. Estas potentes herramientas te ayudan a descubrir oportunidades de optimización ocultas, a mejorar el rendimiento de tu contenido y a obtener una ventaja competitiva en los motores de búsqueda. Descubre hoy mismo la herramienta perfecta para mejorar tu estrategia de búsqueda. ¡Explora ahora!
13 herramientas
xix.ai
Análisis de datos
Mejores herramientas de IA para la detección de anomalías en el monitoreo de KPIs para equipos de SaaS y comercio electrónico
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
escribiendo
Los mejores generadores de esquemas basados en IA para artículos largos optimizados para SEO
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
comentario (39)
0/500
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
Un nuevo informe de un grupo de políticas de California, co-liderado por la pionera en IA Fei-Fei Li, sugiere que los legisladores deberían considerar los riesgos de la IA que aún no se han visto en el mundo real al crear políticas regulatorias de IA. Este informe interino de 41 páginas, publicado el martes, proviene del Grupo de Trabajo de Políticas Conjuntas de California sobre Modelos de Frontera de IA, establecido por el gobernador Gavin Newsom tras vetar el controvertido proyecto de ley de seguridad de IA de California, SB 1047. Newsom consideró que SB 1047 no dio en el blanco, pero reconoció la necesidad de un análisis más profundo de los riesgos de la IA para guiar a los legisladores.
En el informe, Li, junto con los coautores Jennifer Chayes, decana del Colegio de Computación de UC Berkeley, y Mariano-Florentino Cuéllar, presidente de la Carnegie Endowment for International Peace, abogan por leyes que aclaren qué están haciendo los laboratorios de IA de frontera como OpenAI. Antes de que el informe se hiciera público, fue revisado por personas de la industria de diversos ámbitos, incluyendo fervientes defensores de la seguridad de la IA como el ganador del Premio Turing Yoshua Bengio y aquellos que se opusieron a SB 1047, como el cofundador de Databricks, Ion Stoica.
El informe señala que los nuevos riesgos de los sistemas de IA podrían implicar la necesidad de leyes que obliguen a los desarrolladores de modelos de IA a compartir sus pruebas de seguridad, cómo obtienen sus datos y sus medidas de seguridad con el público. También pide mejores estándares para verificaciones de terceros sobre estas cosas y las políticas de las empresas, además de más protecciones para los trabajadores y contratistas de empresas de IA que denuncien irregularidades.
Li y sus coautores mencionan que aún no hay pruebas suficientes sobre el potencial de la IA para ayudar con ciberataques, crear armas biológicas o causar otros peligros "extremos". Pero también dicen que la política de IA no debería solo abordar lo que está sucediendo ahora; también debería pensar en lo que podría pasar en el futuro si no hay suficientes medidas de seguridad en su lugar.
El informe usa el ejemplo de un arma nuclear, diciendo: "No necesitamos ver explotar un arma nuclear para saber que podría causar mucho daño." Continúa diciendo: "Si aquellos que hablan de los peores riesgos tienen razón —y no estamos seguros de si lo tendrán— entonces no hacer nada respecto a la IA de frontera ahora podría ser realmente costoso."
Para hacer el desarrollo de modelos de IA más abierto, el informe sugiere un enfoque de "confiar pero verificar". Dice que los desarrolladores de modelos de IA y sus trabajadores deberían tener formas de informar sobre cosas que importan al público, como las pruebas de seguridad internas, y también deberían hacer que sus afirmaciones de pruebas sean verificadas por terceros.
Aunque el informe, que se finalizará en junio de 2025, no respalda ninguna ley específica, ha sido bien recibido por expertos de ambos lados del debate sobre políticas de IA.
Dean Ball, un investigador enfocado en IA en la Universidad George Mason que no estaba a favor de SB 1047, dijo en X que el informe es un buen paso para las reglas de seguridad de IA de California. También es una victoria para los defensores de la seguridad de IA, según el senador estatal de California Scott Wiener, quien presentó SB 1047 el año pasado. Wiener dijo en un comunicado de prensa que el informe contribuye a las "conversaciones urgentes sobre la gobernanza de la IA que comenzamos en la legislatura en 2024."
El informe parece estar de acuerdo con partes de SB 1047 y el próximo proyecto de ley de Wiener, SB 53, como hacer que los desarrolladores de modelos de IA informen los resultados de sus pruebas de seguridad. En una perspectiva más amplia, parece una victoria muy necesaria para los defensores de la seguridad de la IA, cuyas ideas han estado perdiendo terreno durante el último año.
El lanzamiento global de la campaña de campus de Seed de ByteDance ofrece acciones virtuales para captar a los mejores talentos en modelos grandes
En el competitivo panorama de los modelos de lenguaje grandes, asegurar el talento de primer nivel sigue siendo el activo estratégico más crítico.El 1 de abril, ByteDance anunció el lanzamiento de su iniciativa global de reclutamiento de campus Seed
Suno añade marcas de agua a las canciones en medio de batallas legales
Suno, la plataforma que permite a los usuarios generar música creada por inteligencia artificial, ha presentado nuevas funciones para etiquetar las pistas producidas en la plataforma, restringir las descargas y actualizar las normas de la comunidad c
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
¡Ya están aquí, en XIX.AI, las mejores y más recientes herramientas de referencia de estilos visuales con IA para fichas de personajes, moodboards y presentaciones de proyectos! Esta lista seleccionada y mejor valorada incluye potentes herramientas revolucionarias que han superado rigurosas pruebas en el mundo real. Encontrarás una comparación entre opciones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles que te ayudarán a potenciar tu creatividad y optimizar tu flujo de trabajo. ¡Explora ahora mismo la lista para descubrir la herramienta perfecta que te permita aumentar tu productividad!
11 herramientas
xix.ai
Las mejores herramientas de análisis de SERP con IA mejor valoradas de 2026 para la estrategia de búsqueda han sido seleccionadas por XIX.AI tras rigurosas pruebas en condiciones reales y clasificaciones que se actualizan semanalmente. Estas potentes herramientas te ayudan a descubrir oportunidades de optimización ocultas, a mejorar el rendimiento de tu contenido y a obtener una ventaja competitiva en los motores de búsqueda. Descubre hoy mismo la herramienta perfecta para mejorar tu estrategia de búsqueda. ¡Explora ahora!
13 herramientas
xix.ai
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
