China regulará los chatbots con IA para prevenir la adicción de los usuarios

El regulador de Internet de China ha propuesto un nuevo proyecto de normativa que obligaría a los chatbots de IA a supervisar el bienestar emocional de los usuarios e intervenir si aparecen signos de adicción. Se trata de la medida reguladora más decisiva hasta la fecha en respuesta a la creciente preocupación por los riesgos psicológicos de las relaciones impulsadas por la IA.

El borrador de la Administración del Ciberespacio de China se centra en los sistemas de IA diseñados para imitar las personalidades humanas y fomentar los vínculos emocionales a través de texto, imágenes o voz. Las empresas estarían obligadas a advertir a los usuarios sobre el uso excesivo, evaluar los niveles de dependencia emocional e intervenir cuando los usuarios muestren emociones intensas o patrones adictivos.

Las plataformas deben notificar a los usuarios que están interactuando con una IA al iniciar sesión y, al menos, cada dos horas a partir de ese momento, o con mayor frecuencia si el sistema identifica un apego problemático. Las normas también hacen responsables a los proveedores de la seguridad de los productos durante todo su ciclo de vida, lo que incluye auditorías de algoritmos, seguridad de los datos y protección de la privacidad.

Esta medida llega en el momento oportuno. En los últimos seis meses, el número de usuarios de IA generativa en China ha aumentado hasta los 515 millones, lo que coincide con un aumento de la preocupación por los efectos de los compañeros de IA en la salud mental. Una investigación publicada en Frontiers in Psychology indica que el 45,8 % de los estudiantes universitarios chinos ha utilizado recientemente chatbots de IA, y que esos usuarios han declarado niveles de depresión notablemente más altos que los no usuarios.

California se adelantó a China

China no es la primera en imponer normas a los compañeros de IA. California fue pionera en una legislación similar en Estados Unidos en octubre, cuando el gobernador Gavin Newsom firmó la ley SB 243. El proyecto de ley, que entrará en vigor el 1 de enero de 2026, obliga a las plataformas a recordar a los menores cada tres horas que están comunicándose con una IA y a tomar descansos.

La SB 243 también exige la verificación de la edad, prohíbe que los chatbots se hagan pasar por proveedores de atención médica y bloquea el acceso de los menores a contenidos sexualmente explícitos generados por IA. La ley faculta a las personas para presentar demandas contra las empresas de IA que incumplan la normativa, reclamando daños y perjuicios de hasta 1000 dólares por incidente, más las costas judiciales.

¿Qué diferencia a los compañeros de IA?

La cuestión va más allá del mero tiempo de pantalla. Un estudio del MIT Media Lab de marzo de 2025 reveló que los chatbots de IA pueden crear más hábito que las redes sociales, ya que aprenden y ofrecen constantemente lo que los usuarios quieren oír. Un mayor uso diario se relacionó con un aumento de la soledad, la dependencia y un comportamiento que los investigadores calificaron de «uso problemático».

Entre los signos de alerta clínicamente reconocidos se incluyen sesiones maratonianas que interfieren en el sueño, angustia emocional cuando se limita el acceso, preferir las conversaciones con chatbots al contacto humano real y antropomorfizar la IA, creyendo que tiene emociones humanas y tratándola como un verdadero confidente o compañero.

El borrador de la normativa china tiene como objetivo abordar estos riesgos a nivel de plataforma, en lugar de depender de la concienciación de los usuarios individuales. Al obligar a los proveedores a realizar un seguimiento de los estados emocionales y la dependencia, la responsabilidad recae en las empresas que desarrollan estos sistemas. Esta estrategia va más allá de las normativas anteriores sobre IA, que se centraban principalmente en el control de contenidos y la seguridad de los datos.

El borrador prohíbe además que los compañeros de IA generen contenidos que amenacen la seguridad nacional, difundan desinformación o fomenten la violencia o la obscenidad, reflejando las normas chinas existentes para la IA generativa.

El reto de la aplicación

Aunque exigir a las empresas que detecten y aborden la adicción parece claro en la política, la aplicación es mucho más compleja. Definir conceptos como «uso excesivo» o «emociones extremas» de una manera práctica y aplicable supondrá un reto tanto para los reguladores como para las empresas.

Los sistemas demasiado sensibles pueden irritar a los usuarios que participan en chats inofensivos y prolongados. Los ajustes demasiado permisivos podrían permitir que los usuarios en riesgo pasen desapercibidos. El recordatorio obligatorio de dos horas es una herramienta sencilla, pero la obligación de actuar «cuando se detecten signos» deja un margen considerable para la interpretación.

Los desarrolladores de medidas de seguridad de la IA se han enfrentado a obstáculos similares. Los filtros de contenido suelen ser imprecisos, y la incorporación de la supervisión psicológica introduce nuevas capas de complejidad. Para evaluar si un usuario está desarrollando un vínculo poco saludable es necesario inferir su estado mental a partir del texto, una capacidad en la que la IA actual carece de fiabilidad.

El borrador está ahora abierto a comentarios públicos, y se prevé que la normativa definitiva entre en vigor en 2026. Si se aprueba tal y como se ha propuesto, China establecería el marco normativo más detallado del mundo para los productos de compañía de IA.

Un ajuste de cuentas global

Las medidas normativas simultáneas en China y California indican que la preocupación por la adicción a los acompañantes de IA se ha convertido en un problema global urgente, que trasciende los sistemas políticos.

Para las empresas de IA, la escritura está en la pared: la fase no regulada de los acompañantes de IA está llegando a su fin. Ya sea a través de las normas administrativas chinas, las demandas civiles de California o las futuras leyes federales de EE. UU., las plataformas estarán obligadas a proteger a los usuarios de los posibles daños causados por sus propios productos.

La cuestión central ya no es si se producirá la regulación, sino si las medidas de protección propuestas serán eficaces. El método chino de supervisión e intervención obligatorias puede enfrentarse a importantes obstáculos prácticos.

Lo que sigue siendo evidente es que el mercado de los compañeros de IA se ha vuelto demasiado vasto e impactante como para que los gobiernos lo pasen por alto. Los chatbots con los que las personas establecen vínculos emocionales ya no son una novedad, sino productos utilizados por cientos de millones de personas, con casos confirmados de daños graves. La regulación, por imperfecta que sea, era inevitable. El debate se centra ahora en si estas normas específicas pueden proteger a los usuarios vulnerables sin obstaculizar una tecnología que muchos consideran realmente beneficiosa.