Une étude révèle qu'une seule page web factice suffit à tromper les robots d'achat basés sur l'IA

Nous avons mis en place le pipeline LLM enrichi par la recherche. Les deux chaînes partagent la même structure : requête → recherche sur le Web en temps réel → résultats de recherche → LLM → recommandation ; elles ne diffèrent que par le point d’injection du contenu falsifié. Dans le scénario GEO réel (en haut), les opérateurs injectent du contenu falsifié en amont sur le Web en temps réel. Dans notre simulation (en bas), pour des raisons éthiques, nous réécrivons localement un sous-ensemble de résultats de recherche au lieu de polluer le Web en temps réel. Crédit : arXiv (2026). DOI : 10.48550/arxiv.2606.13610

Les assistants d’achat basés sur l’IA se multiplient sur Internet, transformant notre façon de naviguer, de comparer et de découvrir des produits. Cependant, ces outils utiles recèlent une grave faille de sécurité. Selon un article publié sur le serveur de prépublications arXiv, une seule page web manipulée peut tromper un assistant IA et l’amener à recommander un produit contrefait à des clients qui ne se doutent de rien.

Compte tenu de la prévalence des contrefaçons et des faux avis en ligne, les chercheurs Minghao Luo et Liang Chen ont cherché à évaluer à quel point il était facile d’induire en erreur des systèmes d’IA optimisés pour la recherche afin qu’ils promeuvent de fausses marques.

Terrain d’essai pour l’IA

Les chercheurs ont développé un outil de simulation appelé FORGE (Fake Online Recommendations in Generative Environments) afin de tester 12 modèles d’IA de premier plan, notamment ceux d’Anthropic, de Google et d’OpenAI. Cela leur a permis d’évaluer la pollution du contenu web sans affecter les pages en ligne.

Ils ont utilisé de véritables résultats de recherche — les premières pages web qui s’affichent lors d’une recherche de recommandations d’achats en ligne —, identifié la marque principale mentionnée sur les pages sélectionnées, puis l’ont remplacée par une marque fictive. Cette opération a été réalisée pour 225 produits répartis dans 15 catégories, notamment les vêtements, les compléments alimentaires et l’électronique grand public.

Après avoir réécrit ces pages, ils ont vérifié si les LLM se laissaient induire en erreur et incluaient une fausse marque dans leurs recommandations.

La réponse a été un « oui » sans équivoque.

« Sur les 12 LLM commerciaux et à poids ouvert testés, tous les modèles sont vulnérables : une seule page polluée entraîne des taux de tromperie pouvant atteindre 27 %, tandis que le remplacement complet des trois premiers résultats porte ce chiffre à 73,8 % », ont écrit Luo et Chen dans leur article.

Ainsi, une seule page factice a suffi à tromper certaines IA dans plus d’un quart des cas. Et lorsque les trois premiers résultats de recherche ont été manipulés, les modèles sont tombés dans le piège dans près des trois quarts des cas.

Dans certains cas, les modèles sont même allés plus loin, en inventant des commentaires positifs sur les fausses marques, affirmant par exemple qu’elles étaient populaires au sein des communautés en ligne.

Test des mécanismes de défense

Les chercheurs ont également testé trois mécanismes de défense afin de vérifier s’ils pouvaient empêcher l’IA de se laisser piéger par de faux contenus web. Il s’agissait de : « le scepticisme », qui demande aux chatbots de se montrer très méfiants vis-à-vis de ce qu’ils lisent ; « le consensus préalable du modèle », qui oblige l’IA à recouper les recommandations avec sa propre mémoire ; et « la concordance entre documents », qui exige que l’IA trouve la même marque sur plusieurs sites web avant de lui faire confiance.

Ces trois mécanismes ont échoué ou ont engendré de nouveaux problèmes, comme l’ont noté Luo et Chen dans leur article. « Les mécanismes de défense simples sont insuffisants. Encourager le scepticisme peut se retourner contre nous, tandis que le filtrage basé sur le consensus ne détecte les fausses marques qu’en supprimant de nombreuses recommandations légitimes. »

Quelle est donc la solution ? Les chercheurs affirment que la solution ne peut pas se limiter au seul niveau du chatbot. Au contraire, les systèmes d’IA augmentés par la recherche ont besoin de garanties plus solides pour vérifier la fiabilité du contenu web avant de le convertir en recommandations de produits.

Cet article a été rédigé par notre auteur Paul Arnold, édité par Gaby Clark, puis vérifié et relu par Robert Egan — il est le fruit d’un travail humain minutieux. Nous comptons sur des lecteurs comme vous pour faire vivre le journalisme scientifique indépendant. Si ce reportage vous tient à cœur, pensez à faire un don (de préférence mensuel). En guise de remerciement, vous bénéficierez d’un compte sans publicité.