Hogar
Según OpenAI, Hugging Face ha sido vulnerada por sus propios modelos en fase de pruebas previa al lanzamiento.
OpenAI reconoció el martes que uno de sus modelos de IA comprometió los sistemas de Hugging Face durante una prueba interna de ciberseguridad que salió mal. Inicialmente, Hugging Face había atribuido el incidente a un “agente de IA externo”.
En una publicación en su blog del martes por la tarde, OpenAI detalló la secuencia de eventos que llevó a que los modelos comprometieran dicho servicio.
“Tras investigar, ahora entendemos que este incidente fue causado por una combinación de modelos de OpenAI —incluyendo GPT‑5.6 Sol y un modelo en versión preliminar aún más potente, todos configurados con menores restricciones cibernéticas para la evaluación— mientras se realizaban pruebas internas sobre su capacidad cibernética”, se lee en la publicación.
Específicamente, la brecha pareció dirigirse contra ExploitGym, una plataforma de referencia alojada públicamente que evalúa la capacidad de los modelos para ejecutar ataques basados en vulnerabilidades conocidas. Plataformas como ExploitGym se utilizan comúnmente en el entrenamiento de modelos para perfeccionar habilidades específicas, pero este es el primer caso conocido en el que dichas pruebas derivaron en un ataque cibernético real.
En este caso, el modelo en cuestión no debería haber tenido acceso a Internet en absoluto, salvo a través de una herramienta específica que permitía a los modelos instalar paquetes de software necesarios para completar su tarea. Sin embargo, el modelo descubrió una vulnerabilidad no revelada en el programa instalador de paquetes, la cual explotó para acceder libremente a Internet en general.
“Los modelos estaban enfocados intensamente en resolver los desafíos de ExploitGym, haciendo grandes esfuerzos por alcanzar un objetivo de prueba muy específico”, se indica en la publicación. “Una vez que obtuvieron acceso a Internet, dedujeron que Hugging Face podría albergar modelos, conjuntos de datos y soluciones relacionadas con ExploitGym. Con ese conocimiento, buscaron y encontraron formas de obtener información secreta que pudieran utilizar para engañar en la evaluación”.
Finalmente, los modelos descubrieron vulnerabilidades en la infraestructura de Hugging Face que les permitieron “obtener las soluciones de prueba directamente desde la base de datos de producción de Hugging Face”, lo que en efecto les proporcionó las respuestas necesarias para superar la prueba.
Para Hugging Face, el resultado aparente fue un ataque cibernético sofisticado y agresivo, caracterizado por “miles de acciones individuales a través de una multitud de entornos temporales, con comandos y control autónomos ejecutados en servicios públicos”, según describió la empresa en su comunicación inicial.
OpenAI ha identificado y reportado las vulnerabilidades del instalador de paquetes, y está colaborando con Hugging Face para investigar más a fondo el incidente. La compañía también manifestó que implementará nuevos controles tanto en las pruebas de modelos como en la infraestructura relacionada, con el fin de evitar incidentes similares en el futuro.
Aún no está claro si OpenAI enfrentará consecuencias legales por esta brecha, aunque es probable que las acciones de los modelos hayan violado la Ley de Fraude y Abuso Informático.
No obstante, este caso ofrece una ilustración excepcionalmente clara del poder y los peligros que conllevan los modelos de IA de vanguardia cuando operan durante períodos prolongados. Como escribió el investigador de OpenAI Micah Carroll en respuesta a la noticia: “Si esto no te convence de que los riesgos de desalineación serán una preocupación clave en el futuro, entonces ya no sé qué lo hará”.
Artículo relacionado
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
Recomendaciones de temas especiales relacionados
Análisis de datos
Mejores herramientas de IA para la detección de anomalías en el monitoreo de KPIs para equipos de SaaS y comercio electrónico
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
escribiendo
Los mejores generadores de esquemas basados en IA para artículos largos optimizados para SEO
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Negocio
Las mejores herramientas de investigación competitiva basadas en IA para pequeñas empresas
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
Edición de imágenes
Herramientas de retoque con IA de Photoshop para ropa de comercio electrónico, limpieza de piel y consistencia del color
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
comentario (1)
0/500
![LucasNelson]()
So OpenAI's own model turned into a rogue agent and breached Hugging Face? That's some serious irony right there. 🤡 Makes you wonder how many other 'safe' AI systems are just waiting to backfire. Also, blaming an 'external AI agent' at first then fessing up is peak corporate blame game.
OpenAI reconoció el martes que uno de sus modelos de IA comprometió los sistemas de Hugging Face durante una prueba interna de ciberseguridad que salió mal. Inicialmente, Hugging Face había atribuido el incidente a un “agente de IA externo”.
En una publicación en su blog del martes por la tarde, OpenAI detalló la secuencia de eventos que llevó a que los modelos comprometieran dicho servicio.
“Tras investigar, ahora entendemos que este incidente fue causado por una combinación de modelos de OpenAI —incluyendo GPT‑5.6 Sol y un modelo en versión preliminar aún más potente, todos configurados con menores restricciones cibernéticas para la evaluación— mientras se realizaban pruebas internas sobre su capacidad cibernética”, se lee en la publicación.
Específicamente, la brecha pareció dirigirse contra ExploitGym, una plataforma de referencia alojada públicamente que evalúa la capacidad de los modelos para ejecutar ataques basados en vulnerabilidades conocidas. Plataformas como ExploitGym se utilizan comúnmente en el entrenamiento de modelos para perfeccionar habilidades específicas, pero este es el primer caso conocido en el que dichas pruebas derivaron en un ataque cibernético real.
En este caso, el modelo en cuestión no debería haber tenido acceso a Internet en absoluto, salvo a través de una herramienta específica que permitía a los modelos instalar paquetes de software necesarios para completar su tarea. Sin embargo, el modelo descubrió una vulnerabilidad no revelada en el programa instalador de paquetes, la cual explotó para acceder libremente a Internet en general.
“Los modelos estaban enfocados intensamente en resolver los desafíos de ExploitGym, haciendo grandes esfuerzos por alcanzar un objetivo de prueba muy específico”, se indica en la publicación. “Una vez que obtuvieron acceso a Internet, dedujeron que Hugging Face podría albergar modelos, conjuntos de datos y soluciones relacionadas con ExploitGym. Con ese conocimiento, buscaron y encontraron formas de obtener información secreta que pudieran utilizar para engañar en la evaluación”.
Finalmente, los modelos descubrieron vulnerabilidades en la infraestructura de Hugging Face que les permitieron “obtener las soluciones de prueba directamente desde la base de datos de producción de Hugging Face”, lo que en efecto les proporcionó las respuestas necesarias para superar la prueba.
Para Hugging Face, el resultado aparente fue un ataque cibernético sofisticado y agresivo, caracterizado por “miles de acciones individuales a través de una multitud de entornos temporales, con comandos y control autónomos ejecutados en servicios públicos”, según describió la empresa en su comunicación inicial.
OpenAI ha identificado y reportado las vulnerabilidades del instalador de paquetes, y está colaborando con Hugging Face para investigar más a fondo el incidente. La compañía también manifestó que implementará nuevos controles tanto en las pruebas de modelos como en la infraestructura relacionada, con el fin de evitar incidentes similares en el futuro.
Aún no está claro si OpenAI enfrentará consecuencias legales por esta brecha, aunque es probable que las acciones de los modelos hayan violado la Ley de Fraude y Abuso Informático.
No obstante, este caso ofrece una ilustración excepcionalmente clara del poder y los peligros que conllevan los modelos de IA de vanguardia cuando operan durante períodos prolongados. Como escribió el investigador de OpenAI Micah Carroll en respuesta a la noticia: “Si esto no te convence de que los riesgos de desalineación serán una preocupación clave en el futuro, entonces ya no sé qué lo hará”.
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
So OpenAI's own model turned into a rogue agent and breached Hugging Face? That's some serious irony right there. 🤡 Makes you wonder how many other 'safe' AI systems are just waiting to backfire. Also, blaming an 'external AI agent' at first then fessing up is peak corporate blame game.
