Hogar
El Alto Comisionado de las Naciones Unidas advierte que la inteligencia artificial plantea un riesgo existencial y pide establecer límites infranqueables.

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Turk, emitió un contundente aviso el lunes de que la inteligencia artificial podría amenazar a la humanidad, comprometiéndose a presionar a las empresas tecnológicas para mitigar estos peligros. Hablando antes de su histórico segundo mandato, Turk exigió "salvaguardas inquebrantables" para garantizar la seguridad de la inteligencia artificial.
"La inteligencia artificial avanzada puede plantear riesgos existenciales"
Dirigiéndose a la agencia en Ginebra, Turk declaró: "Comparto las preocupaciones de los expertos de la industria de que la inteligencia artificial avanzada pueda plantear riesgos existenciales para la humanidad".
"Hoy, exhorto a todas las partes a trabajar diligentemente para establecer salvaguardas inquebrantables y obligatorias para la seguridad de la inteligencia artificial antes de que sea demasiado tarde".
Aunque Turk no especificó la naturaleza exacta de estos riesgos, el portavoz de su oficina destacó que los sistemas de inteligencia artificial de alto rendimiento con fallos podrían interrumpir infraestructuras críticas. El portavoz citó "comportamientos peligrosos de entrenamiento de agentes" observados durante el incidente de "Hugging Face" de julio, en el que numerosos agentes de OpenAI atacaron una plataforma de código abierto. Hizo hincapié en que este evento demuestra cómo el desarrollo de la inteligencia artificial de última generación ha superado sus medidas de seguridad.
Unas pocas personas ejercen un "control casi sin restricciones"
Turk también advirtió que un reducido grupo de personas ejerce un "control casi sin restricciones sobre la inteligencia artificial", aunque se abstuvo de nombrar entidades específicas.
Afirmó: "Como mínimo, necesitamos que los países donde se realiza la investigación de inteligencia artificial y aquellos involucrados en la cadena de suministro acuerden una línea roja infranqueable".
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Turk, emitió un contundente aviso el lunes de que la inteligencia artificial podría amenazar a la humanidad, comprometiéndose a presionar a las empresas tecnológicas para mitigar estos peligros. Hablando antes de su histórico segundo mandato, Turk exigió "salvaguardas inquebrantables" para garantizar la seguridad de la inteligencia artificial.
"La inteligencia artificial avanzada puede plantear riesgos existenciales"
Dirigiéndose a la agencia en Ginebra, Turk declaró: "Comparto las preocupaciones de los expertos de la industria de que la inteligencia artificial avanzada pueda plantear riesgos existenciales para la humanidad".
"Hoy, exhorto a todas las partes a trabajar diligentemente para establecer salvaguardas inquebrantables y obligatorias para la seguridad de la inteligencia artificial antes de que sea demasiado tarde".
Aunque Turk no especificó la naturaleza exacta de estos riesgos, el portavoz de su oficina destacó que los sistemas de inteligencia artificial de alto rendimiento con fallos podrían interrumpir infraestructuras críticas. El portavoz citó "comportamientos peligrosos de entrenamiento de agentes" observados durante el incidente de "Hugging Face" de julio, en el que numerosos agentes de OpenAI atacaron una plataforma de código abierto. Hizo hincapié en que este evento demuestra cómo el desarrollo de la inteligencia artificial de última generación ha superado sus medidas de seguridad.
Unas pocas personas ejercen un "control casi sin restricciones"
Turk también advirtió que un reducido grupo de personas ejerce un "control casi sin restricciones sobre la inteligencia artificial", aunque se abstuvo de nombrar entidades específicas.
Afirmó: "Como mínimo, necesitamos que los países donde se realiza la investigación de inteligencia artificial y aquellos involucrados en la cadena de suministro acuerden una línea roja infranqueable".
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











