Régisse alarmante des escroqueries alimentées par l'IA: Microsoft révèle 4 milliards de dollars de fraude contrecarrée

L'évolution rapide des escroqueries alimentées par l'IA

Les escroqueries alimentées par l'IA sont en augmentation, les cybercriminels exploitant une technologie de pointe pour tromper les victimes plus efficacement que jamais. Selon le dernier rapport Cyber Signals de Microsoft, le géant technologique a déjoué 4 milliards de dollars de tentatives de fraude au cours de l'année écoulée, bloquant environ 1,6 million de tentatives d'inscription de bots chaque heure. Ce chiffre stupéfiant souligne l'ampleur de la menace à laquelle nous faisons face.

La neuvième édition du rapport, intitulée « Déception alimentée par l'IA : menaces de fraude émergentes et contre-mesures », met en lumière comment l'intelligence artificielle abaisse les barrières techniques pour les escrocs. Ce qui prenait autrefois des jours ou des semaines à mettre en place peut désormais être réalisé en quelques minutes, permettant même à ceux ayant des compétences minimales de lancer des escroqueries sophistiquées. Cette démocratisation des capacités de fraude redessine le paysage criminel, impactant les consommateurs et les entreprises à l'échelle mondiale.

Comment l'IA améliore les cyberescroqueries

Le rapport de Microsoft détaille comment les outils d'IA sont désormais capables de scanner et extraire des informations sur le web pour collecter des données sur les entreprises, permettant aux cybercriminels de créer des profils détaillés pour des attaques d'ingénierie sociale ciblées. Ces malfaiteurs utilisent l'IA pour rédiger de faux avis sur les produits et générer des vitrines entières, avec des historiques d'entreprise et des témoignages de clients fabriqués, pour attirer les victimes dans des schémas de fraude complexes.

Kelly Bissell, vice-président corporatif de la lutte contre la fraude et l'abus de produits chez Microsoft Security, note que la cybercriminalité est un problème de mille milliards de dollars qui croît chaque année depuis trois décennies. « Je pense que nous avons aujourd'hui une opportunité d'adopter l'IA plus rapidement pour détecter et combler rapidement l'écart d'exposition », déclare Bissell. « Maintenant, nous avons une IA qui peut faire une différence à grande échelle et nous aider à intégrer des protections contre la fraude et la sécurité dans nos produits beaucoup plus rapidement. »

Le rapport souligne également que les attaques de fraude alimentées par l'IA sont une préoccupation mondiale, avec une activité significative provenant de Chine et d'Europe, en particulier d'Allemagne, en raison de son grand marché de commerce électronique. Plus le marché numérique est vaste, plus il est probable de voir une augmentation proportionnelle des tentatives de fraude.

Escroqueries dans le commerce électronique et l'emploi en première ligne

Deux domaines où la fraude améliorée par l'IA est particulièrement répandue sont le commerce électronique et le recrutement d'emploi. Dans le secteur du commerce électronique, les outils d'IA permettent aux escrocs de créer des sites web frauduleux en quelques minutes, imitant des entreprises légitimes avec des descriptions de produits, des images et des avis clients générés par l'IA. Ces sites peuvent même déployer des chatbots de service client alimentés par l'IA qui interagissent de manière convaincante avec les clients, retardent les remboursements et manipulent les plaintes pour maintenir une façade professionnelle.

Les chercheurs d'emploi sont également à risque, car l'IA générative facilite la création par les escrocs de fausses offres d'emploi sur diverses plateformes. Ces annonces sont souvent accompagnées de descriptions générées automatiquement et de campagnes d'emails alimentées par l'IA conçues pour hameçonner les chercheurs d'emploi. Les entretiens alimentés par l'IA et les emails automatisés renforcent la crédibilité de ces escroqueries, les rendant plus difficiles à détecter. Les fraudeurs demandent souvent des informations personnelles, telles que des CV ou des coordonnées bancaires, sous prétexte de vérifier les candidatures.

Les signaux d'alerte incluent les offres d'emploi non sollicitées, les demandes de paiement et la communication via des plateformes informelles comme les SMS ou WhatsApp.

La réponse de Microsoft aux fraudes alimentées par l'IA

Pour faire face à ces menaces émergentes, Microsoft a adopté une approche multifacette à travers ses produits et services. Microsoft Defender for Cloud offre une protection contre les menaces pour les ressources Azure, tandis que Microsoft Edge propose une protection contre les fautes de frappe de sites web et une protection contre l'usurpation de domaine, utilisant la technologie d'apprentissage profond pour aider les utilisateurs à éviter les sites frauduleux.

Windows Quick Assist a été amélioré avec des messages d'avertissement pour alerter les utilisateurs des potentielles escroqueries de support technique avant d'accorder l'accès à quelqu'un prétendant être du support informatique. Microsoft bloque désormais en moyenne 4 415 tentatives de connexion Quick Assist suspectes par jour.

Dans le cadre de son initiative Secure Future (SFI), Microsoft a introduit une nouvelle politique de prévention de la fraude. À partir de janvier 2025, les équipes de produits Microsoft devront effectuer des évaluations de prévention de la fraude et mettre en œuvre des contrôles anti-fraude dès la phase de conception, garantissant que les produits sont « résistants à la fraude par conception ».

Alors que les escroqueries alimentées par l'IA continuent d'évoluer, la vigilance des consommateurs est cruciale. Microsoft conseille aux utilisateurs de se méfier des tactiques d'urgence, de vérifier la légitimité des sites web avant de faire des achats et de ne jamais fournir d'informations personnelles ou financières à des sources non vérifiées. Pour les entreprises, la mise en œuvre de l'authentification multifactorielle et le déploiement d'algorithmes de détection de deepfakes peuvent aider à atténuer les risques.