Hogar
OpenAI podría flexibilizar las salvaguardias si sus competidores lanzan modelos de IA potencialmente peligrosos
OpenAI ajusta su protocolo de seguridad ante la presión de la competencia
OpenAI ha revisado su Marco de Preparación, el mecanismo interno que guía las evaluaciones de seguridad de los modelos de IA y la aplicación de salvaguardas a lo largo de los ciclos de desarrollo. La política actualizada incluye, en particular, disposiciones que permiten una posible relajación de las medidas de seguridad si las empresas competidoras lanzan sistemas de alto riesgo sin protecciones equivalentes.
Esta modificación subraya las crecientes fuerzas del mercado que obligan a los desarrolladores de IA a acelerar los plazos de implantación. OpenAI se enfrenta a un creciente escrutinio en relación con la supuesta disminución de la priorización de la seguridad para permitir lanzamientos más rápidos, incluida la publicación retrasada de la documentación de evaluación de la seguridad. En un reciente proceso judicial, 12 antiguos empleados apoyaron la demanda de Elon Musk contra OpenAI, advirtiendo de que la reestructuración empresarial prevista podría erosionar aún más las normas de seguridad.
Equilibrio entre competencia y seguridad
Anticipándose a las críticas, OpenAI hizo hincapié en que cualquier ajuste de política mantendría unos niveles de protección rigurosos. "Si bien podemos adaptar los requisitos si los competidores despliegan sistemas de alto riesgo que carecen de salvaguardias comparables", declaró la actualización del blog del martes, "nos comprometemos a una verificación exhaustiva de los riesgos, la transparencia sobre las modificaciones y el mantenimiento de medidas de protección superiores."
El marco revisado pone de relieve la creciente dependencia de OpenAI de herramientas de evaluación automatizadas junto con las pruebas tradicionales dirigidas por humanos. Los representantes de la empresa afirman que estos sistemas automatizados permiten mantener el ritmo de lanzamiento sin comprometer la calidad de la evaluación.
Surgen prácticas de prueba controvertidas
Los informes contradicen la postura oficial de OpenAI, ya que los informes internos revelan periodos de revisión de seguridad comprimidos. Según fuentes del Financial Times, los probadores recibieron recientemente menos de una semana para evaluar un modelo inminente, un plazo drásticamente inferior a los anteriores. También ha surgido la preocupación de que las pruebas de seguridad se realicen principalmente en variantes del modelo previas al lanzamiento, en lugar de en versiones de despliegue público.
OpenAI reduce discretamente sus compromisos de seguridad.
Omisión de los cambios en el marco:
- No se requieren pruebas de seguridad para los modelos ajustados.
- Steven Adler (@sjgadler) 15 de abril de 2025
Sistema de clasificación de riesgos redefinido
El marco actualizado introduce una categorización racionalizada de los modelos centrada en dos umbrales de capacidad:
- Alta capacidad: Modelos que amplifican los vectores de daños graves existentes
- Capacidad crítica: Modelos que establecen nuevas vías de daños graves
"Los sistemas de alta capacidad exigen salvaguardias de mitigación de riesgos antes de su despliegue", aclara OpenAI. "Los modelos de capacidad crítica requieren protecciones adicionales en la fase de desarrollo".
Esto marca la primera revisión sustancial del marco desde 2023, lo que refleja la evolución de la dinámica de la industria y los cambios operativos internos en OpenAI.
Artículo relacionado
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
Recomendaciones de temas especiales relacionados
Análisis de datos
Mejores herramientas de IA para la detección de anomalías en el monitoreo de KPIs para equipos de SaaS y comercio electrónico
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
escribiendo
Los mejores generadores de esquemas basados en IA para artículos largos optimizados para SEO
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Negocio
Las mejores herramientas de investigación competitiva basadas en IA para pequeñas empresas
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
Edición de imágenes
Herramientas de retoque con IA de Photoshop para ropa de comercio electrónico, limpieza de piel y consistencia del color
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
comentario (2)
0/500
![WillieHernández]()
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある？
![PaulTaylor]()
Interesante cómo la competencia puede influir en los estándares de seguridad 😕 No sé si relajar protocolos sea buena idea, pero entiendo la presión del mercado. ¿Hasta qué punto la carrera por la IA está poniendo en riesgo controles importantes?
OpenAI ajusta su protocolo de seguridad ante la presión de la competencia
OpenAI ha revisado su Marco de Preparación, el mecanismo interno que guía las evaluaciones de seguridad de los modelos de IA y la aplicación de salvaguardas a lo largo de los ciclos de desarrollo. La política actualizada incluye, en particular, disposiciones que permiten una posible relajación de las medidas de seguridad si las empresas competidoras lanzan sistemas de alto riesgo sin protecciones equivalentes.
Esta modificación subraya las crecientes fuerzas del mercado que obligan a los desarrolladores de IA a acelerar los plazos de implantación. OpenAI se enfrenta a un creciente escrutinio en relación con la supuesta disminución de la priorización de la seguridad para permitir lanzamientos más rápidos, incluida la publicación retrasada de la documentación de evaluación de la seguridad. En un reciente proceso judicial, 12 antiguos empleados apoyaron la demanda de Elon Musk contra OpenAI, advirtiendo de que la reestructuración empresarial prevista podría erosionar aún más las normas de seguridad.
Equilibrio entre competencia y seguridad
Anticipándose a las críticas, OpenAI hizo hincapié en que cualquier ajuste de política mantendría unos niveles de protección rigurosos. "Si bien podemos adaptar los requisitos si los competidores despliegan sistemas de alto riesgo que carecen de salvaguardias comparables", declaró la actualización del blog del martes, "nos comprometemos a una verificación exhaustiva de los riesgos, la transparencia sobre las modificaciones y el mantenimiento de medidas de protección superiores."
El marco revisado pone de relieve la creciente dependencia de OpenAI de herramientas de evaluación automatizadas junto con las pruebas tradicionales dirigidas por humanos. Los representantes de la empresa afirman que estos sistemas automatizados permiten mantener el ritmo de lanzamiento sin comprometer la calidad de la evaluación.
Surgen prácticas de prueba controvertidas
Los informes contradicen la postura oficial de OpenAI, ya que los informes internos revelan periodos de revisión de seguridad comprimidos. Según fuentes del Financial Times, los probadores recibieron recientemente menos de una semana para evaluar un modelo inminente, un plazo drásticamente inferior a los anteriores. También ha surgido la preocupación de que las pruebas de seguridad se realicen principalmente en variantes del modelo previas al lanzamiento, en lugar de en versiones de despliegue público.
OpenAI reduce discretamente sus compromisos de seguridad.
- Steven Adler (@sjgadler) 15 de abril de 2025
Omisión de los cambios en el marco:
- No se requieren pruebas de seguridad para los modelos ajustados.
Sistema de clasificación de riesgos redefinido
El marco actualizado introduce una categorización racionalizada de los modelos centrada en dos umbrales de capacidad:
- Alta capacidad: Modelos que amplifican los vectores de daños graves existentes
- Capacidad crítica: Modelos que establecen nuevas vías de daños graves
"Los sistemas de alta capacidad exigen salvaguardias de mitigación de riesgos antes de su despliegue", aclara OpenAI. "Los modelos de capacidad crítica requieren protecciones adicionales en la fase de desarrollo".
Esto marca la primera revisión sustancial del marco desde 2023, lo que refleja la evolución de la dinámica de la industria y los cambios operativos internos en OpenAI.
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある？
Interesante cómo la competencia puede influir en los estándares de seguridad 😕 No sé si relajar protocolos sea buena idea, pero entiendo la presión del mercado. ¿Hasta qué punto la carrera por la IA está poniendo en riesgo controles importantes?
