Maison
Les inquiétudes concernant la gouvernance sociale de l'IA s'intensifient face à l'absence de mesures de protection des mineurs dans les produits proposant des « partenaires virtuels »
Récemment, plusieurs applications de compagnons virtuels basées sur l’IA ont fait l’objet d’une attention particulière de la part des médias en raison de risques liés à la conformité et de préoccupations éthiques. Des enquêtes indiquent que les applications de compagnons émotionnels telles que « Hoshino », « Mingdao » et « EchoMe » ont rapidement gagné en popularité auprès des utilisateurs, tout en présentant des failles de sécurité généralisées. Certaines de ces applications attirent non seulement les utilisateurs avec des déblocages payants pour des scénarios intimes, mais elles ne protègent pas non plus suffisamment les mineurs, avec des problèmes tels que des paramètres de « mode adolescent » facilement contournables et un étiquetage peu clair du contenu généré par l’IA.

Si l’on examine le paysage des entreprises, celles qui sont à l’origine de ces applications sont souvent de création récente et présentent des structures actionnariales concentrées. L’entité à l’origine de « Hoshino », Shanghai Jizhi Zongheng Technology Co., Ltd., a été fondée en avril 2025 et est détenue à 100 % par Shanghai Jizhi Wujie Technology Co., Ltd. La société à l’origine de « Mingdao », Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., a été créée en mars 2024 et est détenue conjointement par Hong Yixiu et Ge Wenbing. « EchoMe » est exploitée par Hangzhou Nixiang Information Technology Co., Ltd., fondée en janvier 2022. Bien que ces start-ups mentionnent le développement de logiciels d’IA et les services de télécommunications à valeur ajoutée dans leur objet social, la conception de leurs personnages et le contenu de leurs interactions frôlent souvent la vulgarité, mettant en scène un grand nombre de personnages douteux.

Le secteur des compagnons virtuels basés sur l’IA traverse actuellement une phase critique en matière de gouvernance, après une période de croissance explosive. À mesure que la technologie d’IA générative se généralise, la simulation émotionnelle s’est imposée comme le domaine trouvant le plus rapidement des applications pratiques, mais elle reste également le plus exposé aux pratiques relevant de la zone grise. Cette action réglementaire ciblée indique que les produits sociaux basés sur l’IA passeront d’une expansion effrénée à un développement axé sur la conformité. L’amélioration de la transparence des algorithmes et le renforcement des systèmes de contrôle des contenus deviendront des conditions indispensables pour les entreprises souhaitant survivre dans ce secteur.
Article connexe
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Recommandations de sujets spéciaux liés
commentaires (0)
Récemment, plusieurs applications de compagnons virtuels basées sur l’IA ont fait l’objet d’une attention particulière de la part des médias en raison de risques liés à la conformité et de préoccupations éthiques. Des enquêtes indiquent que les applications de compagnons émotionnels telles que « Hoshino », « Mingdao » et « EchoMe » ont rapidement gagné en popularité auprès des utilisateurs, tout en présentant des failles de sécurité généralisées. Certaines de ces applications attirent non seulement les utilisateurs avec des déblocages payants pour des scénarios intimes, mais elles ne protègent pas non plus suffisamment les mineurs, avec des problèmes tels que des paramètres de « mode adolescent » facilement contournables et un étiquetage peu clair du contenu généré par l’IA.

Si l’on examine le paysage des entreprises, celles qui sont à l’origine de ces applications sont souvent de création récente et présentent des structures actionnariales concentrées. L’entité à l’origine de « Hoshino », Shanghai Jizhi Zongheng Technology Co., Ltd., a été fondée en avril 2025 et est détenue à 100 % par Shanghai Jizhi Wujie Technology Co., Ltd. La société à l’origine de « Mingdao », Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., a été créée en mars 2024 et est détenue conjointement par Hong Yixiu et Ge Wenbing. « EchoMe » est exploitée par Hangzhou Nixiang Information Technology Co., Ltd., fondée en janvier 2022. Bien que ces start-ups mentionnent le développement de logiciels d’IA et les services de télécommunications à valeur ajoutée dans leur objet social, la conception de leurs personnages et le contenu de leurs interactions frôlent souvent la vulgarité, mettant en scène un grand nombre de personnages douteux.

Le secteur des compagnons virtuels basés sur l’IA traverse actuellement une phase critique en matière de gouvernance, après une période de croissance explosive. À mesure que la technologie d’IA générative se généralise, la simulation émotionnelle s’est imposée comme le domaine trouvant le plus rapidement des applications pratiques, mais elle reste également le plus exposé aux pratiques relevant de la zone grise. Cette action réglementaire ciblée indique que les produits sociaux basés sur l’IA passeront d’une expansion effrénée à un développement axé sur la conformité. L’amélioration de la transparence des algorithmes et le renforcement des systèmes de contrôle des contenus deviendront des conditions indispensables pour les entreprises souhaitant survivre dans ce secteur.
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











