Hogar
Entra en vigor la primera normativa china sobre la personificación de la IA, que prohíbe las parejas virtuales para los menores
Las nuevas medidas provisionales de China para la gestión de los servicios interactivos de IA de carácter humano, emitidas conjuntamente por cinco organismos gubernamentales, han entrado en vigor. En ellas se definen las responsabilidades de los proveedores de servicios en materia de seguridad y se introduce una regulación por niveles para los productos de IA con funciones de compañía emocional, lo que supone un cambio de una gestión experimental a una gestión con un marco jurídico.

Ahora se prohíben explícitamente seis categorías de actividades.
Las medidas definen claramente seis actividades prohibidas a la hora de prestar servicios interactivos de tipo humano: generar contenidos que socaven la seguridad o los intereses nacionales; generar contenidos que fomenten la autolesión, el suicidio o la violencia verbal, perjudicando la salud mental y física; la generación de contenidos que induzcan a la revelación de secretos de Estado, secretos comerciales o datos de carácter privado; la generación de contenidos para menores que puedan dar lugar a comportamientos peligrosos o fomentar malos hábitos; complacer excesivamente a los usuarios para crear dependencia emocional o adicción, lo que perjudica las relaciones en la vida real; y el uso de la manipulación emocional para llevar a los usuarios a tomar decisiones irrazonables que violen sus derechos legítimos.
En el caso de los menores, las medidas prohíben explícitamente ofrecer familiares virtuales, parejas virtuales u otras formas de relaciones íntimas virtuales. Para los niños menores de 14 años, solo se permiten otros servicios interactivos de tipo humano con el consentimiento de los padres o tutores.
Las evaluaciones de seguridad y la presentación de los algoritmos son ahora obligatorias.
En cuanto a la gestión de la seguridad, las medidas exigen a los proveedores de servicios que definan claramente sus responsabilidades en materia de seguridad y refuercen la supervisión a lo largo de todo el ciclo de vida del servicio. Se exigen evaluaciones de seguridad en varios supuestos: al lanzar un servicio o añadir nuevas funciones, al adoptar nuevas tecnologías que supongan cambios significativos, o cuando el servicio cuente con más de un millón de usuarios registrados o 100 000 usuarios activos al mes. La evaluación debe abarcar aspectos como las medidas de seguridad del servicio, el tratamiento de los datos de entrenamiento y la identificación y respuesta de emergencia ante situaciones extremas de los usuarios. Los proveedores de servicios también están obligados a completar los trámites de registro de algoritmos con arreglo al Reglamento sobre la gestión de las recomendaciones algorítmicas para los servicios de información en Internet. Además, se les anima a unirse a plataformas de servicios de seguridad de entornos de pruebas de inteligencia artificial para fomentar la innovación tecnológica y las pruebas de seguridad. Un responsable de la Administración del Ciberespacio de China señaló que el desarrollo y la gobernanza de los servicios interactivos de tipo humano requieren la colaboración entre el Gobierno, las empresas, la sociedad, los internautas y otras partes interesadas para mantener un ecosistema en línea saludable.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Las nuevas medidas provisionales de China para la gestión de los servicios interactivos de IA de carácter humano, emitidas conjuntamente por cinco organismos gubernamentales, han entrado en vigor. En ellas se definen las responsabilidades de los proveedores de servicios en materia de seguridad y se introduce una regulación por niveles para los productos de IA con funciones de compañía emocional, lo que supone un cambio de una gestión experimental a una gestión con un marco jurídico.

Ahora se prohíben explícitamente seis categorías de actividades.
Las medidas definen claramente seis actividades prohibidas a la hora de prestar servicios interactivos de tipo humano: generar contenidos que socaven la seguridad o los intereses nacionales; generar contenidos que fomenten la autolesión, el suicidio o la violencia verbal, perjudicando la salud mental y física; la generación de contenidos que induzcan a la revelación de secretos de Estado, secretos comerciales o datos de carácter privado; la generación de contenidos para menores que puedan dar lugar a comportamientos peligrosos o fomentar malos hábitos; complacer excesivamente a los usuarios para crear dependencia emocional o adicción, lo que perjudica las relaciones en la vida real; y el uso de la manipulación emocional para llevar a los usuarios a tomar decisiones irrazonables que violen sus derechos legítimos.
En el caso de los menores, las medidas prohíben explícitamente ofrecer familiares virtuales, parejas virtuales u otras formas de relaciones íntimas virtuales. Para los niños menores de 14 años, solo se permiten otros servicios interactivos de tipo humano con el consentimiento de los padres o tutores.
Las evaluaciones de seguridad y la presentación de los algoritmos son ahora obligatorias.
En cuanto a la gestión de la seguridad, las medidas exigen a los proveedores de servicios que definan claramente sus responsabilidades en materia de seguridad y refuercen la supervisión a lo largo de todo el ciclo de vida del servicio. Se exigen evaluaciones de seguridad en varios supuestos: al lanzar un servicio o añadir nuevas funciones, al adoptar nuevas tecnologías que supongan cambios significativos, o cuando el servicio cuente con más de un millón de usuarios registrados o 100 000 usuarios activos al mes. La evaluación debe abarcar aspectos como las medidas de seguridad del servicio, el tratamiento de los datos de entrenamiento y la identificación y respuesta de emergencia ante situaciones extremas de los usuarios. Los proveedores de servicios también están obligados a completar los trámites de registro de algoritmos con arreglo al Reglamento sobre la gestión de las recomendaciones algorítmicas para los servicios de información en Internet. Además, se les anima a unirse a plataformas de servicios de seguridad de entornos de pruebas de inteligencia artificial para fomentar la innovación tecnológica y las pruebas de seguridad. Un responsable de la Administración del Ciberespacio de China señaló que el desarrollo y la gobernanza de los servicios interactivos de tipo humano requieren la colaboración entre el Gobierno, las empresas, la sociedad, los internautas y otras partes interesadas para mantener un ecosistema en línea saludable.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











