Maison
Une nouvelle étude révèle que le grand public perçoit l'IA comme plus sûre d'elle que les êtres humains
À mesure que les systèmes d’intelligence artificielle gagnent en popularité, de plus en plus de personnes se tournent vers eux pour obtenir des conseils sur des sujets du quotidien, tels que les habitudes de consommation ou les recommandations de lecture. Or, une étude récente publiée dans la revue « Communications Psychology » par des chercheurs de l’université de Waterloo et de l’University College London a mis en lumière un constat intéressant. Les résultats indiquent que même lorsque l’IA et les humains fournissent des réponses identiques, les gens ont tendance à percevoir les réponses de l’IA comme plus assurées.
Ce comportement est connu sous le nom d’« illusion de confiance » en matière d’IA. Les recherches montrent que lorsque les gens ne peuvent pas évaluer directement le degré de certitude d’une personne, ils s’appuient sur des indices externes — tels que la rapidité de la réponse et la facilité avec laquelle une décision est prise — pour se forger une opinion sur le niveau de confiance de cette personne.

Les idées préconçues induisent en erreur quant à la confiance, l’absence de signaux émotionnels entraîne des risques cachés
Comme le grand public part souvent du principe que l’IA est plus compétente que les humains dans de nombreux domaines, ce biais peut facilement conduire à des jugements erronés. Des expériences ont montré qu’une fois que les gens considèrent une IA comme compétente, ils supposent qu’elle est très sûre d’elle-même en toute situation, même si le système peut s’avérer peu fiable face à des défis spécifiques.
Dans les interactions quotidiennes, le ton de la voix, les expressions faciales et le langage corporel constituent des signaux sociaux essentiels qui nous aident à déterminer si nous pouvons faire confiance à quelqu’un. Comme la plupart des grands modèles linguistiques ne disposent pas de ces éléments expressifs, les utilisateurs sont contraints de se fier à des suppositions. Même si l’IA est incertaine et que sa réponse risque d’être erronée, les utilisateurs peuvent tout de même lui accorder une confiance excessive.
Les scientifiques explorent des méthodes de communication intuitives ; les futurs grands modèles pourraient intégrer de nouvelles fonctionnalités
Pour atténuer ce risque, le professeur Kollbach et son équipe soutiennent que le développement futur de l’IA devrait intégrer des moyens plus clairs de communiquer le niveau de confiance réel d’un système, grâce à des indicateurs externes plus simples et variés. Cette approche permet non seulement d’améliorer les systèmes d’IA générative existants, mais contribue également à empêcher les utilisateurs de commettre des erreurs dues à une confiance aveugle.
Actuellement, l’équipe de recherche prévoit de mener des études supplémentaires visant à identifier des méthodes efficaces, intuitives et fiables pour la communication homme-machine. À l’avenir, les grands modèles linguistiques pourraient être dotés de fonctionnalités affichant explicitement les niveaux de confiance, permettant ainsi aux utilisateurs de prendre des décisions plus éclairées et rationnelles quant à l’opportunité de suivre les conseils générés par l’IA.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)
À mesure que les systèmes d’intelligence artificielle gagnent en popularité, de plus en plus de personnes se tournent vers eux pour obtenir des conseils sur des sujets du quotidien, tels que les habitudes de consommation ou les recommandations de lecture. Or, une étude récente publiée dans la revue « Communications Psychology » par des chercheurs de l’université de Waterloo et de l’University College London a mis en lumière un constat intéressant. Les résultats indiquent que même lorsque l’IA et les humains fournissent des réponses identiques, les gens ont tendance à percevoir les réponses de l’IA comme plus assurées.
Ce comportement est connu sous le nom d’« illusion de confiance » en matière d’IA. Les recherches montrent que lorsque les gens ne peuvent pas évaluer directement le degré de certitude d’une personne, ils s’appuient sur des indices externes — tels que la rapidité de la réponse et la facilité avec laquelle une décision est prise — pour se forger une opinion sur le niveau de confiance de cette personne.

Les idées préconçues induisent en erreur quant à la confiance, l’absence de signaux émotionnels entraîne des risques cachés
Comme le grand public part souvent du principe que l’IA est plus compétente que les humains dans de nombreux domaines, ce biais peut facilement conduire à des jugements erronés. Des expériences ont montré qu’une fois que les gens considèrent une IA comme compétente, ils supposent qu’elle est très sûre d’elle-même en toute situation, même si le système peut s’avérer peu fiable face à des défis spécifiques.
Dans les interactions quotidiennes, le ton de la voix, les expressions faciales et le langage corporel constituent des signaux sociaux essentiels qui nous aident à déterminer si nous pouvons faire confiance à quelqu’un. Comme la plupart des grands modèles linguistiques ne disposent pas de ces éléments expressifs, les utilisateurs sont contraints de se fier à des suppositions. Même si l’IA est incertaine et que sa réponse risque d’être erronée, les utilisateurs peuvent tout de même lui accorder une confiance excessive.
Les scientifiques explorent des méthodes de communication intuitives ; les futurs grands modèles pourraient intégrer de nouvelles fonctionnalités
Pour atténuer ce risque, le professeur Kollbach et son équipe soutiennent que le développement futur de l’IA devrait intégrer des moyens plus clairs de communiquer le niveau de confiance réel d’un système, grâce à des indicateurs externes plus simples et variés. Cette approche permet non seulement d’améliorer les systèmes d’IA générative existants, mais contribue également à empêcher les utilisateurs de commettre des erreurs dues à une confiance aveugle.
Actuellement, l’équipe de recherche prévoit de mener des études supplémentaires visant à identifier des méthodes efficaces, intuitives et fiables pour la communication homme-machine. À l’avenir, les grands modèles linguistiques pourraient être dotés de fonctionnalités affichant explicitement les niveaux de confiance, permettant ainsi aux utilisateurs de prendre des décisions plus éclairées et rationnelles quant à l’opportunité de suivre les conseils générés par l’IA.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











