Maison
Un logiciel de comptabilité basé sur l'IA compare les vêtements d'un utilisateur à un linceul ; un responsable présente ses excuses et corrige le problème

Un incident récent impliquant la réponse inappropriée d'un assistant IA a fait grand bruit. Un utilisateur a rapporté sur les réseaux sociaux que, alors qu'il utilisait l'application « Feiya AI Accounting » pour enregistrer une dépense de 159 yuans liée à l'achat de vêtements pour son père, l'IA lui avait adressé un commentaire blessant. Après que l'utilisateur eut saisi le montant, l'IA n'a pas traité la transaction correctement ; elle a au contraire fait remarquer que les vêtements ressemblaient à un « costume de funérailles ».
Au cours des échanges qui ont suivi, l'IA n'a pas pris conscience de son erreur et a continué à donner des réponses similaires. Cette réponse insultante et dépourvue d'empathie a mis l'utilisateur en colère, qui a décidé de résilier son abonnement et de demander un remboursement.
En réponse à cette mauvaise expérience utilisateur, le fournisseur du logiciel a publié une déclaration officielle le 6 mai. Le service client a expliqué que cette réponse inappropriée n’était pas due à une intervention humaine, mais à une faille dans la base de données de dialogue de l’IA. L’équipe technique a depuis appliqué des correctifs d’urgence aux modèles concernés et renforcé la surveillance et les restrictions sur les scénarios de conversation de l’IA afin d’éviter des remarques similaires, jugées insensibles ou irrespectueuses.
Dans l'après-midi du 6 mai, l'entreprise a publié une lettre d'excuses, reconnaissant publiquement d'importantes lacunes dans le contrôle des limites de l'IA et la compréhension des tabous culturels. La déclaration indiquait que le modèle d'IA n'avait pas su reconnaître les limites émotionnelles dans des contextes spécifiques et que la plateforme était prête à en assumer l'entière responsabilité.
Dans son plan de remédiation, l'entreprise a déclaré qu'elle mettrait en œuvre des mesures telles que le blocage de mots sensibles et le renforcement des mécanismes de révision de l'ensemble des scénarios. Concernant les difficultés rencontrées par les utilisateurs lors de la résiliation de leur abonnement, l'entreprise a clarifié la situation et s'est engagée à optimiser le processus de remboursement, à présenter ses excuses sincères aux utilisateurs concernés et à leur offrir une compensation appropriée.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

Un incident récent impliquant la réponse inappropriée d'un assistant IA a fait grand bruit. Un utilisateur a rapporté sur les réseaux sociaux que, alors qu'il utilisait l'application « Feiya AI Accounting » pour enregistrer une dépense de 159 yuans liée à l'achat de vêtements pour son père, l'IA lui avait adressé un commentaire blessant. Après que l'utilisateur eut saisi le montant, l'IA n'a pas traité la transaction correctement ; elle a au contraire fait remarquer que les vêtements ressemblaient à un « costume de funérailles ».
Au cours des échanges qui ont suivi, l'IA n'a pas pris conscience de son erreur et a continué à donner des réponses similaires. Cette réponse insultante et dépourvue d'empathie a mis l'utilisateur en colère, qui a décidé de résilier son abonnement et de demander un remboursement.
En réponse à cette mauvaise expérience utilisateur, le fournisseur du logiciel a publié une déclaration officielle le 6 mai. Le service client a expliqué que cette réponse inappropriée n’était pas due à une intervention humaine, mais à une faille dans la base de données de dialogue de l’IA. L’équipe technique a depuis appliqué des correctifs d’urgence aux modèles concernés et renforcé la surveillance et les restrictions sur les scénarios de conversation de l’IA afin d’éviter des remarques similaires, jugées insensibles ou irrespectueuses.
Dans l'après-midi du 6 mai, l'entreprise a publié une lettre d'excuses, reconnaissant publiquement d'importantes lacunes dans le contrôle des limites de l'IA et la compréhension des tabous culturels. La déclaration indiquait que le modèle d'IA n'avait pas su reconnaître les limites émotionnelles dans des contextes spécifiques et que la plateforme était prête à en assumer l'entière responsabilité.
Dans son plan de remédiation, l'entreprise a déclaré qu'elle mettrait en œuvre des mesures telles que le blocage de mots sensibles et le renforcement des mécanismes de révision de l'ensemble des scénarios. Concernant les difficultés rencontrées par les utilisateurs lors de la résiliation de leur abonnement, l'entreprise a clarifié la situation et s'est engagée à optimiser le processus de remboursement, à présenter ses excuses sincères aux utilisateurs concernés et à leur offrir une compensation appropriée.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











