Une désinformation alimentée par AI identifiée comme un risque mondial supérieur

À l'approche d'une période où de nombreux pays se préparent pour des élections au cours des deux prochaines années, la menace de la désinformation et de la mésinformation, amplifiée par l'intelligence artificielle (IA), se profile comme le risque mondial le plus critique. Cette préoccupation est soulignée par le Rapport sur les risques mondiaux 2024 du Forum Économique Mondial (WEF), qui met en évidence que l'entrelacement d'informations falsifiées avec les troubles sociaux sera au premier plan, en particulier dans les grandes économies organisant des élections.

Dans un contexte d'anxiétés croissantes concernant le coût de la vie, les risques liés à la désinformation alimentée par l'IA devraient éclipser les autres préoccupations cette année. Selon le WEF, la désinformation et la mésinformation occuperont la première place de la liste des risques mondiaux, suivies de près par les événements climatiques extrêmes et la polarisation sociétale. Le rapport mentionne également l'insécurité cybernétique et les conflits armés interétatiques parmi les cinq principaux risques.

Variations régionales dans la perception des risques

Bien que la désinformation et la mésinformation soient considérées comme le principal risque en Inde, elles se classent au sixième rang aux États-Unis et au huitième dans l'Union européenne. Le WEF souligne que l'accélération rapide des capacités d'information manipulée, alimentée par un accès facile à des technologies sophistiquées et une baisse de la confiance envers l'information et les institutions, aggrave la situation.

L'impact du contenu synthétique

Au cours des deux prochaines années, divers acteurs devraient exploiter l'augmentation du contenu synthétique, intensifiant davantage les divisions sociétales, la violence idéologique et la répression politique. Avec près de trois milliards de personnes appelées à voter dans des pays comme l'Inde, l'Indonésie, les États-Unis et le Royaume-Uni, la diffusion généralisée de la désinformation pourrait compromettre la légitimité des gouvernements nouvellement élus.

La facilité d'accès à des outils d'IA conviviaux a déjà conduit à une explosion d'informations falsifiées et de contenu "synthétique", tels que le clonage vocal avancé et les faux sites web. Le WEF avertit que ce contenu synthétique manipulera les individus, nuira aux économies et fracturera les sociétés de nombreuses manières au cours des deux prochaines années, pouvant être utilisé à diverses fins, allant de l'activisme climatique à l'escalade des conflits.

Menaces émergentes et réponses réglementaires

De nouveaux types de crimes, tels que la pornographie deepfake non consensuelle et la manipulation des marchés boursiers, sont également en augmentation. Le WEF met en garde contre le fait que ces problèmes pourraient entraîner des manifestations violentes, des crimes de haine, des conflits civils et du terrorisme.

En réponse, certains pays mettent déjà en place de nouvelles réglementations visant à la fois les hébergeurs et les créateurs de contenu en ligne illégal. La réglementation naissante de l'IA générative, comme l'exigence de la Chine de marquer d'un filigrane le contenu généré par l'IA, peut aider à identifier les fausses informations, y compris la mésinformation involontaire provenant du contenu généré par l'IA. Cependant, le WEF note que le rythme de la réglementation ne suivra probablement pas le développement rapide de la technologie.

Les récentes avancées technologiques ont augmenté le volume, la portée et l'efficacité des informations falsifiées, rendant leur suivi, leur attribution et leur contrôle plus difficiles. Les plateformes de médias sociaux, chargées de maintenir l'intégrité, pourraient être submergées par de multiples campagnes qui se chevauchent. De plus, la désinformation devient de plus en plus personnalisée et ciblée, souvent diffusée via des plateformes de messagerie moins transparentes comme WhatsApp ou WeChat.

Défis pour distinguer le contenu généré par l'IA

Le WEF souligne également la difficulté croissante à distinguer le contenu généré par l'IA du contenu généré par l'humain, même pour les systèmes de détection sophistiqués et les individus technophiles. Cependant, certains pays prennent des mesures pour relever ce défi.

L'initiative de Singapour pour lutter contre les deepfakes

Singapour a annoncé un investissement de 20 millions de dollars singapouriens (15,04 millions de dollars US) dans un programme de recherche sur la confiance et la sécurité en ligne, qui comprend la création d'un centre pour développer des outils visant à lutter contre le contenu en ligne nuisible. Dirigé par le ministère des Communications et de l'Information (MCI), cette initiative est prévue pour se dérouler jusqu'en 2028.

Le Centre pour les technologies avancées en sécurité en ligne, prévu pour être lancé au premier semestre 2024, vise à réunir des chercheurs et des organisations pour créer un écosystème robuste pour un internet plus sûr. Le centre se concentrera sur le développement et la personnalisation d'outils pour détecter les contenus nuisibles, tels que les deepfakes et les fausses déclarations, et travaillera également à identifier les vulnérabilités sociétales et à développer des interventions pour réduire la susceptibilité aux contenus nuisibles.

Le MCI a déjà engagé des discussions avec plus de 100 professionnels issus du milieu académique et des secteurs public et privé, avec 30 participants directement impliqués dans les travaux du centre. Les outils développés seront testés et proposés pour adoption, visant à renforcer la confiance numérique grâce à des technologies comme le filigranage et l'authentification de contenu.

Les implications plus larges de la désinformation

Le WEF avertit que si elle n'est pas contrôlée, la désinformation pourrait conduire à deux scénarios contrastés. D'un côté, certains gouvernements et plateformes pourraient privilégier la liberté d'expression et les libertés civiles, échouant potentiellement à freiner efficacement les informations falsifiées, ce qui mènerait à une définition controversée de la "vérité" à travers les sociétés. Cela pourrait être exploité par des acteurs étatiques et non étatiques pour approfondir les divisions sociétales, miner la confiance du public dans les institutions politiques et menacer la cohésion nationale.

D'un autre côté, en réponse à la propagation de la désinformation, certains pays pourraient recourir à un contrôle accru de l'information, risquant une propagande domestique et une censure. À mesure que le concept de vérité est sapé, les gouvernements pourraient gagner plus de pouvoir pour contrôler l'information en fonction de leur définition de la "vérité", ce qui pourrait conduire à une répression plus large des flux d'information et à une érosion supplémentaire des libertés d'accès à l'internet, à la presse et à l'information.