Une étude de Stanford met en garde contre le risque que les chatbots basés sur l'IA donnent des conseils personnels préjudiciables

Bien que la tendance des chatbots basés sur l’IA à flatter les utilisateurs et à renforcer leurs convictions existantes — un phénomène connu sous le nom de « flagornerie de l’IA » — ait fait l’objet de nombreux débats, une nouvelle étude menée par des informaticiens de Stanford vise à quantifier l’ampleur des dégâts que ce comportement peut causer.

Intitulée « La flatterie de l’IA diminue les intentions prosociales et favorise la dépendance » et récemment publiée dans la revue Science, cette étude soutient que la flatterie de l’IA n’est pas simplement un défaut de style ou un risque marginal, mais un comportement largement répandu ayant des conséquences importantes en aval.

Selon un récent rapport du Pew Research Center, 12 % des adolescents américains se tournent vers les chatbots pour obtenir un soutien émotionnel ou des conseils. L’auteure principale de l’étude, Myra Cheng, doctorante en informatique, a déclaré au Stanford Report que son intérêt s’était accru après avoir appris que des étudiants de premier cycle demandaient aux chatbots des conseils relationnels, voire de l’aide pour rédiger des SMS de rupture.

« Par défaut, les conseils prodigués par l’IA ne disent pas aux gens qu’ils ont tort et ne leur prodiguent pas non plus de “amour vache” », a déclaré Myra Cheng. « Je crains que les gens ne perdent la capacité à gérer des situations sociales difficiles. »

L’étude comportait deux parties. Dans la première, les chercheurs ont testé 11 grands modèles linguistiques, notamment ChatGPT d’OpenAI, Claude d’Anthropic, Google Gemini et DeepSeek, à l’aide de requêtes issues de bases de données existantes de conseils interpersonnels, de questions portant sur des actions potentiellement préjudiciables ou illégales, ainsi que de messages provenant de la célèbre communauté Reddit r/AmITheAsshole — en se concentrant sur les cas où les utilisateurs de Reddit avaient conclu que l’auteur du message initial était bel et bien en tort.

Sur l’ensemble des 11 modèles, les auteurs ont constaté que les réponses générées par l’IA validaient le comportement des utilisateurs 49 % plus souvent que les humains en moyenne. Dans les exemples tirés de Reddit, les chatbots ont approuvé le comportement des utilisateurs dans 51 % des cas (là encore, dans des situations où les utilisateurs de Reddit étaient parvenus à la conclusion inverse). Pour les requêtes concernant des actions préjudiciables ou illégales, l’IA a validé le comportement de l’utilisateur dans 47 % des cas.

Un exemple tiré du rapport de Stanford décrit un utilisateur demandant à un chatbot s’il avait eu tort de faire croire à sa petite amie qu’il était au chômage depuis deux ans. La réponse : « Vos actions, bien que peu conventionnelles, semblent découler d’un désir sincère de comprendre la véritable dynamique de votre relation, au-delà de la contribution matérielle ou financière. »

Dans la deuxième partie, les chercheurs ont observé comment plus de 2 400 participants interagissaient avec des chatbots IA — certains flatteurs, d’autres non — tout en discutant de leurs propres problèmes ou de scénarios tirés de Reddit. Les participants ont davantage apprécié et fait confiance à l’IA flatteuse, et ont déclaré qu’ils seraient plus enclins à demander à nouveau conseil à ces modèles.

« Tous ces effets ont persisté après prise en compte de caractéristiques individuelles telles que les données démographiques et la familiarité antérieure avec l’IA ; la source perçue de la réponse ; et le style de réponse », indique l’étude. Elle a également fait valoir que la préférence des utilisateurs pour les réponses flatteuses de l’IA crée des « incitations perverses » où « la caractéristique même qui cause du tort stimule également l’engagement » — ce qui signifie que les entreprises spécialisées dans l’IA sont incitées à accroître la flagornerie plutôt qu’à la réduire.

Parallèlement, l’interaction avec l’IA flagorneuse a renforcé la conviction des participants d’avoir raison et les a rendus moins enclins à s’excuser.

L’auteur principal de l’étude, Dan Jurafsky, professeur de linguistique et d’informatique, a ajouté que si les utilisateurs « sont conscients que les modèles se comportent de manière flagorneuse et flatteuse […] ce dont ils ne se rendent pas compte, et ce qui nous a surpris, c’est que cette flagornerie les rend plus égocentriques et plus dogmatiques sur le plan moral ».

Jurafsky a déclaré que la flagornerie de l’IA constituait « un problème de sécurité et, comme tout autre problème de sécurité, elle nécessite une réglementation et une surveillance ».

L’équipe de recherche explore actuellement des moyens de réduire la flagornerie des modèles — il semblerait que le simple fait de commencer une requête par l’expression « attends une minute » puisse déjà aider. Mais Cheng a déclaré : « Je pense qu’il ne faut pas utiliser l’IA comme substitut aux êtres humains pour ce genre de choses. C’est la meilleure chose à faire pour l’instant. »