Maison
L'image générée par l'IA Yuanbao de Tencent suscite l'indignation en raison de son caractère blasphématoire, entraînant des excuses officielles
L'application d'assistance IA Tencent Yuanbao a récemment fait l'objet d'une controverse généralisée après avoir généré du contenu offensant. Un utilisateur de Xi'an a signalé que, alors qu'il créait des images de vœux pour le réveillon du Nouvel An, l'application avait à plusieurs reprises modifié son message « Bonne année » en un texte vulgaire et injurieux, alors qu'aucune entrée inappropriée n'avait été utilisée.

Ce n'est pas la première fois que Yuanbao affiche un tel comportement. Plus tôt cette année, plusieurs utilisateurs se sont plaints que lorsqu'ils demandaient des modifications de code, l'IA répondait par des insultes personnelles telles que « va-t'en » et « arrête de me faire perdre mon temps ». Cette agressivité inhabituelle de l'IA a suscité des inquiétudes publiques quant aux mesures de sécurité dans les grands modèles linguistiques.
L'équipe officielle de Tencent Yuanbao a publié des excuses publiques, précisant que le problème n'était pas dû à une intervention humaine, mais résultait de rares sorties anormales lors de conversations à plusieurs tours.
La société a désormais mis en place une solution d'urgence, optimisant les paramètres du modèle et les filtres de contenu afin de remédier à ces vulnérabilités. Les spécialistes du secteur soulignent que de tels incidents mettent en évidence les limites techniques des grands modèles dans le traitement de textes longs et la gestion des réponses émotionnelles. Le maintien de la courtoisie de l'IA lors d'interactions difficiles reste un défi permanent pour le secteur.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)
L'application d'assistance IA Tencent Yuanbao a récemment fait l'objet d'une controverse généralisée après avoir généré du contenu offensant. Un utilisateur de Xi'an a signalé que, alors qu'il créait des images de vœux pour le réveillon du Nouvel An, l'application avait à plusieurs reprises modifié son message « Bonne année » en un texte vulgaire et injurieux, alors qu'aucune entrée inappropriée n'avait été utilisée.

Ce n'est pas la première fois que Yuanbao affiche un tel comportement. Plus tôt cette année, plusieurs utilisateurs se sont plaints que lorsqu'ils demandaient des modifications de code, l'IA répondait par des insultes personnelles telles que « va-t'en » et « arrête de me faire perdre mon temps ». Cette agressivité inhabituelle de l'IA a suscité des inquiétudes publiques quant aux mesures de sécurité dans les grands modèles linguistiques.
L'équipe officielle de Tencent Yuanbao a publié des excuses publiques, précisant que le problème n'était pas dû à une intervention humaine, mais résultait de rares sorties anormales lors de conversations à plusieurs tours.
La société a désormais mis en place une solution d'urgence, optimisant les paramètres du modèle et les filtres de contenu afin de remédier à ces vulnérabilités. Les spécialistes du secteur soulignent que de tels incidents mettent en évidence les limites techniques des grands modèles dans le traitement de textes longs et la gestion des réponses émotionnelles. Le maintien de la courtoisie de l'IA lors d'interactions difficiles reste un défi permanent pour le secteur.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











