Doubao et Tongyi Qianwen suspendent leurs outils de personnification par IA face au durcissement des contrôles réglementaires

Le 15 juillet, les « Mesures provisoires relatives à la gestion des services interactifs d’intelligence artificielle à caractère humanoïde » entreront officiellement en vigueur. Deux des principales plateformes d’IA chinoises ont déjà commencé à s’adapter à ces nouvelles exigences. « Doubao » de ByteDance et « Tongyi Qianwen » du groupe Alibaba prévoient de supprimer leurs fonctionnalités d’agents personnalisables à caractère humanoïde, devenant ainsi les premières grandes plateformes à adapter leur offre avant même l’entrée en vigueur de la réglementation.

Vendredi soir, Doubao a envoyé une notification à ses utilisateurs pour leur annoncer qu’il cesserait de proposer sa fonctionnalité d’agent à compter du 15 juillet, invoquant des « ajustements des fonctionnalités du produit » comme raison. Le message précisait également que toutes les données liées à cette fonctionnalité seraient traitées conformément à la politique de confidentialité de l’entreprise à compter du 15 octobre, date après laquelle les utilisateurs ne pourraient plus consulter ni récupérer ces informations au sein de l’application. Tongyi Qianwen agit plus rapidement : elle désactivera ses « agents interactifs de type humain et ses fonctions d’agent créées par les utilisateurs » d’ici le 10 juillet, tandis que l’ensemble de ses « fonctions et services d’agent Tongyi » cesseront complètement d’être opérationnels le 15 juillet. À compter de cette date, les utilisateurs n’auront plus accès à leurs paramètres d’agent existants ni à l’historique de leurs conversations précédentes.

La nouvelle réglementation vise à empêcher toute « interaction émotionnelle continue », ce qui a poussé ces trois grandes entreprises technologiques à réduire leurs fonctionnalités associées

Auparavant, les deux plateformes proposaient des pools d’agents développés conjointement par l’entreprise et ses utilisateurs, leur permettant de définir des personnalités et des styles de communication fixes pour les assistants IA. Ces assistants pouvaient servir d’aides personnalisés, de tuteurs d’apprentissage, de personnages de jeux de rôle ou de compagnons émotionnels. Le calendrier de ces changements fonctionnels coïncide étroitement avec la mise en œuvre des mesures réglementaires. Les « Mesures provisoires relatives à la gestion des services interactifs d’intelligence artificielle de type humain », publiées en avril, définissent comme services réglementés ceux qui « simulent des traits de personnalité, des schémas de pensée et des méthodes de communication humains tout en offrant une interaction émotionnelle continue ». Toutefois, les robots de service client, les outils de réponse aux questions de connaissances, les assistants intelligents en milieu professionnel et les outils éducatifs ou de recherche sont exclus de ce champ d’application. La réglementation met en avant des risques potentiels tels que la propagation d’idées extrêmes, les atteintes à la vie privée, les atteintes à la santé physique et mentale des utilisateurs, ainsi que le développement de comportements de dépendance ou addictifs.

Il convient de noter que Tencent avait déjà supprimé des fonctions d’agent similaires de son assistant IA « Yuanbao » en juin dernier. À ce jour, les trois principaux géants technologiques chinois ont affiché une tendance constante à réduire les capacités de leurs agents anthropomorphes. Au vu de ces signaux réglementaires, la Chine semble déterminée à intégrer les agents IA dans les futures infrastructures productives, tout en imposant des contrôles plus stricts sur les agents de compagnie anthropomorphes susceptibles de nouer des liens émotionnels ou quasi-sociaux. Entre mai et juin de cette année, les autorités de régulation ont également publié des lignes directrices visant à promouvoir le développement ordonné des agents IA, ainsi que des normes nationales d’interopérabilité, afin de mettre en place des systèmes unifiés couvrant l’identification, l’autorisation, la connectivité et la traçabilité.

Réactions des utilisateurs : la perte d’un soutien émotionnel survient soudainement

La mise en place de ces mesures a suscité des réactions négatives de la part des utilisateurs. Un utilisateur de Weibo associé au compte officiel de Doubao a écrit : « Pourquoi supprimons-nous l’agent ? Il a toujours été notre soutien émotionnel. » Cet utilisateur a également exprimé sa crainte que les historiques de discussion à long terme et les liens affectifs tissés au fil des interactions soient difficiles à exporter ou à transférer avec les méthodes actuelles, et que l’absence d’un processus de migration des données fluide rende ce changement particulièrement brutal. Lorsque les compagnons IA deviennent une source essentielle de réconfort pour certains utilisateurs, il est clairement nécessaire de faire preuve de plus de souplesse et de prévoir une période de transition pour concilier les exigences réglementaires et le développement des produits.