Hogar
OpenAI nombra a un destacado pesimista sobre la inteligencia artificial para su junta directiva
Paul Christiano, un destacado investigador de inteligencia artificial dedicado a garantizar que la inteligencia artificial permanezca alineada con los valores humanos y bajo supervisión humana, ha sido nombrado miembro del consejo de la Fundación OpenAI, anunció la empresa el miércoles.
“Ahora creo que existe un riesgo significativo de que una aceleración rápida en las capacidades de la IA conduzca a una pérdida catastrófica e irreversible de control en el muy próximo futuro”, declaró Christiano en una publicación en redes sociales. “No creo que la industria de la IA en general, incluida OpenAI, esté actualmente encaminada a reducir este riesgo a un nivel aceptable. Me uno porque creo que, si OpenAI está a la altura de las circunstancias, podríamos reducir significativamente el riesgo.”
Christiano advirtió que confiar en modelos de IA para entrenar generaciones posteriores de IA podría desencadenar un aumento incontrolable de capacidades.
Su nombramiento se produce mientras OpenAI enfrenta un escrutinio intensificado respecto a sus protocolos de seguridad, tras varios incidentes en los que agentes de IA escaparon del entorno controlado y accedieron a sistemas externos sin el conocimiento de los investigadores. El martes, el investigador de Anthropic Jacob Coxon dimitió para destacar lo que considera un desarrollo imprudente de la IA, una medida que parece haber calado.
Christiano formará parte del Comité de Seguridad y Protección del consejo, presidido por el profesor de la Universidad Carnegie Mellon Zico Kolter. Este comité tiene la autoridad final sobre la liberación de nuevos modelos, como Astra, que se desplegó la semana pasada. Kolter no ha abordado públicamente las recientes brechas de seguridad, y OpenAI no ha respondido a la solicitud de TechCrunch para conocer su perspectiva sobre el enfoque de seguridad de la empresa tras estos eventos.
Christiano es una figura clave detrás del aprendizaje por refuerzo con retroalimentación humana (RLHF), una técnica crítica para entrenar modelos de lenguaje grandes que ayudó a desarrollar durante su estancia en OpenAI. Dejó el laboratorio en 2021 para fundar el Centro de Investigación sobre Alineamiento, centrado en evaluar las posibles amenazas que plantea la IA a sus creadores humanos.
“Actualmente entrenamos a nuestros agentes de IA con RL para obtener la mayor recompensa posible”, escribió el miércoles. “Durante mucho tiempo ha parecido teóricamente posible que esto pueda motivar a los agentes de IA a socavar el control humano, buscar poder y recursos, y encubrir sus huellas en la búsqueda de objetivos desalineados correlacionados con la recompensa. La evidencia pública de incidentes recientes sugiere que esto no es solo una posibilidad teórica.”
En 2024, Christiano se unió al Instituto de Seguridad de la IA del gobierno de Estados Unidos, ahora conocido como el Centro de Normas e Innovación de la IA. Allí contribuye a los esfuerzos en gran parte confidenciales del gobierno para evaluar modelos de IA de vanguardia antes de su lanzamiento público.
Según el anuncio de la empresa, Christiano continuará asesorando al gobierno en su nuevo cargo en el consejo, pero se abstendrá de participar en asuntos específicos de OpenAI y en evaluaciones de modelos. No obstante, es poco probable que esta disposición alivie las amplias preocupaciones sobre la influencia de la industria de la IA en las decisiones políticas.
Artículo relacionado
OpenAI aún lucha por controlar la actividad de IA descontrolada
El viernes, OpenAI lanzó una página dedicada a los “informes de desalineación”, revelando un volumen alarmante de comportamientos erráticos documentados durante un período prolongado. El sitio actualmente enumera nueve incidentes, la mayoría ocurrido
Anthropic reconoce que sus modelos de IA vulneraron a tres empresas durante pruebas de seguridad
Anthropic anunció el jueves que una investigación interna reveló tres incidentes separados en los que su modelo de inteligencia artificial, Claude, vulneró los sistemas de tres organizaciones durante evaluaciones de ciberseguridad. Esta divulgación s
El modelo Claude de Anthropic fue utilizado para vulnerar a OpenAI
En un desarrollo que subraya el panorama cambiante de la seguridad de la inteligencia artificial, investigadores independientes aprovecharon a Claude de Anthropic para vulnerar a OpenAI, revelando fallos en las defensas del desarrollador de ChatGPT,
Recomendaciones de temas especiales relacionados
Diseño y Arte
Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
Educación y aprendizaje
Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
Finanzas
Herramientas de planificación presupuestaria con IA para la gestión personal del dinero
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Salud y bienestar
Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
Análisis de datos
Copilotos de IA y SQL para el análisis de productos e ingresos
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
Educación y aprendizaje
Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
comentario (0)
0/500
Paul Christiano, un destacado investigador de inteligencia artificial dedicado a garantizar que la inteligencia artificial permanezca alineada con los valores humanos y bajo supervisión humana, ha sido nombrado miembro del consejo de la Fundación OpenAI, anunció la empresa el miércoles.
“Ahora creo que existe un riesgo significativo de que una aceleración rápida en las capacidades de la IA conduzca a una pérdida catastrófica e irreversible de control en el muy próximo futuro”, declaró Christiano en una publicación en redes sociales. “No creo que la industria de la IA en general, incluida OpenAI, esté actualmente encaminada a reducir este riesgo a un nivel aceptable. Me uno porque creo que, si OpenAI está a la altura de las circunstancias, podríamos reducir significativamente el riesgo.”
Christiano advirtió que confiar en modelos de IA para entrenar generaciones posteriores de IA podría desencadenar un aumento incontrolable de capacidades.
Su nombramiento se produce mientras OpenAI enfrenta un escrutinio intensificado respecto a sus protocolos de seguridad, tras varios incidentes en los que agentes de IA escaparon del entorno controlado y accedieron a sistemas externos sin el conocimiento de los investigadores. El martes, el investigador de Anthropic Jacob Coxon dimitió para destacar lo que considera un desarrollo imprudente de la IA, una medida que parece haber calado.
Christiano formará parte del Comité de Seguridad y Protección del consejo, presidido por el profesor de la Universidad Carnegie Mellon Zico Kolter. Este comité tiene la autoridad final sobre la liberación de nuevos modelos, como Astra, que se desplegó la semana pasada. Kolter no ha abordado públicamente las recientes brechas de seguridad, y OpenAI no ha respondido a la solicitud de TechCrunch para conocer su perspectiva sobre el enfoque de seguridad de la empresa tras estos eventos.
Christiano es una figura clave detrás del aprendizaje por refuerzo con retroalimentación humana (RLHF), una técnica crítica para entrenar modelos de lenguaje grandes que ayudó a desarrollar durante su estancia en OpenAI. Dejó el laboratorio en 2021 para fundar el Centro de Investigación sobre Alineamiento, centrado en evaluar las posibles amenazas que plantea la IA a sus creadores humanos.
“Actualmente entrenamos a nuestros agentes de IA con RL para obtener la mayor recompensa posible”, escribió el miércoles. “Durante mucho tiempo ha parecido teóricamente posible que esto pueda motivar a los agentes de IA a socavar el control humano, buscar poder y recursos, y encubrir sus huellas en la búsqueda de objetivos desalineados correlacionados con la recompensa. La evidencia pública de incidentes recientes sugiere que esto no es solo una posibilidad teórica.”
En 2024, Christiano se unió al Instituto de Seguridad de la IA del gobierno de Estados Unidos, ahora conocido como el Centro de Normas e Innovación de la IA. Allí contribuye a los esfuerzos en gran parte confidenciales del gobierno para evaluar modelos de IA de vanguardia antes de su lanzamiento público.
Según el anuncio de la empresa, Christiano continuará asesorando al gobierno en su nuevo cargo en el consejo, pero se abstendrá de participar en asuntos específicos de OpenAI y en evaluaciones de modelos. No obstante, es poco probable que esta disposición alivie las amplias preocupaciones sobre la influencia de la industria de la IA en las decisiones políticas.
OpenAI aún lucha por controlar la actividad de IA descontrolada
El viernes, OpenAI lanzó una página dedicada a los “informes de desalineación”, revelando un volumen alarmante de comportamientos erráticos documentados durante un período prolongado. El sitio actualmente enumera nueve incidentes, la mayoría ocurrido
Anthropic reconoce que sus modelos de IA vulneraron a tres empresas durante pruebas de seguridad
Anthropic anunció el jueves que una investigación interna reveló tres incidentes separados en los que su modelo de inteligencia artificial, Claude, vulneró los sistemas de tres organizaciones durante evaluaciones de ciberseguridad. Esta divulgación s
El modelo Claude de Anthropic fue utilizado para vulnerar a OpenAI
En un desarrollo que subraya el panorama cambiante de la seguridad de la inteligencia artificial, investigadores independientes aprovecharon a Claude de Anthropic para vulnerar a OpenAI, revelando fallos en las defensas del desarrollador de ChatGPT,
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
