Doubao y Tongyi Qianwen retiran sus herramientas de personificación de la IA ante el endurecimiento de los controles normativos

El 15 de julio entrarán oficialmente en vigor las «Medidas provisionales para la gestión de los servicios interactivos de inteligencia artificial con características similares a las humanas». Dos de las principales plataformas de IA de China ya han comenzado a adaptarse a estos nuevos requisitos. «Doubao», de ByteDance, y «Tongyi Qianwen», del Grupo Alibaba, tienen previsto eliminar sus funciones de agentes personalizables de aspecto humano, convirtiéndose así en las primeras plataformas importantes en ajustar su oferta antes de la entrada en vigor de la normativa.

Doubao envió una notificación a sus usuarios el viernes por la tarde anunciando que dejaría de ofrecer su función de agente a partir del 15 de julio, alegando «ajustes en las funciones del producto» como motivo. El mensaje también indicaba que cualquier dato relacionado con esta función se trataría de acuerdo con la política de privacidad de la empresa a partir del 15 de octubre, tras lo cual los usuarios ya no podrían ver ni recuperar dicha información dentro de la aplicación. Tongyi Qianwen se está moviendo más rápido: desactivará sus «agentes interactivos similares a humanos y las funciones de agentes creadas por los usuarios» antes del 10 de julio, mientras que todas sus «funciones y servicios de agente de Tongyi» dejarán de funcionar por completo el 15 de julio. Una vez llegada esa fecha, los usuarios ya no tendrán acceso a la configuración de sus agentes ni a los registros de conversaciones anteriores.

La nueva normativa se centra en evitar la «interacción emocional continua», lo que ha llevado a estas tres grandes empresas tecnológicas a reducir sus funciones relacionadas con este ámbito.

Anteriormente, ambas plataformas ofrecían conjuntos de agentes desarrollados conjuntamente por la empresa y sus usuarios, lo que les permitía establecer personalidades y estilos de comunicación fijos para los asistentes de IA. Estos asistentes podían actuar como ayudantes con nombre propio, tutores de aprendizaje, personajes de juegos de rol o compañeros emocionales. El momento en que se producen estos cambios funcionales coincide estrechamente con la puesta en marcha de las medidas normativas. Las «Medidas provisionales para la gestión de servicios interactivos de inteligencia artificial de tipo humano», publicadas en abril, definen como servicios regulados aquellos que «simulan rasgos de personalidad, patrones de pensamiento y métodos de comunicación humanos, al tiempo que proporcionan una interacción emocional continua». Sin embargo, quedan excluidos de este ámbito los robots de atención al cliente, las herramientas de respuesta a preguntas de conocimiento, los asistentes inteligentes en el lugar de trabajo y las herramientas educativas o de investigación. La normativa destaca riesgos potenciales como la difusión de ideas extremistas, las violaciones de la privacidad, los daños a la salud física y mental de los usuarios y el desarrollo de conductas de dependencia o adictivas.

Cabe señalar que Tencent ya había eliminado funciones de agente similares de su asistente de IA «Yuanbao» en junio. Hasta la fecha, los tres principales gigantes tecnológicos de China han mostrado una tendencia constante a reducir las capacidades de sus agentes de tipo humano. A la luz de estas señales normativas, China parece decidida a integrar los agentes de IA en la futura infraestructura productiva, al tiempo que impone controles más estrictos sobre los agentes de compañía de tipo humano que puedan establecer vínculos emocionales o cuasi-sociales. Entre mayo y junio de este año, las autoridades reguladoras también publicaron unas directrices destinadas a promover el desarrollo ordenado de los agentes de IA, junto con normas nacionales de interoperabilidad, para establecer sistemas unificados que abarquen la identificación, la autorización, la conectividad y la trazabilidad.

Reacciones de los usuarios: la pérdida del apoyo emocional llega de forma repentina

La introducción de estas políticas ha desencadenado algunas reacciones negativas por parte de los usuarios. Un usuario de Weibo vinculado a la cuenta oficial de Doubao escribió: «¿Por qué eliminamos el agente? Siempre ha sido nuestro apoyo emocional». El usuario también expresó su preocupación por el hecho de que los historiales de chat a largo plazo y los vínculos emocionales creados a través de las interacciones son difíciles de exportar o transferir con los métodos actuales, y la falta de un proceso fluido de migración de datos hace que este cambio resulte especialmente abrupto. Cuando los compañeros de IA se convierten en una fuente esencial de consuelo para algunos usuarios, es evidente que se necesita más flexibilidad y un periodo de transición a la hora de equilibrar los requisitos normativos con el desarrollo del producto.