Comprendre la nouvelle norme ETSI en matière de sécurité de l'IA

La norme ETSI EN 304 223 définit les exigences fondamentales en matière de sécurité pour l'intelligence artificielle que les organisations doivent intégrer dans leurs structures de gouvernance.

Alors que les entreprises intègrent l'apprentissage automatique dans leurs flux de travail principaux, cette norme européenne prévoit des dispositions spécifiques pour la protection des modèles et des systèmes d'IA. Il s'agit de la première norme européenne applicable à l'échelle mondiale en matière de cybersécurité de l'IA, officiellement approuvée par les organismes nationaux de normalisation, ce qui renforce sa crédibilité sur les marchés internationaux.

Servant de référence complémentaire à la loi européenne sur l'IA, cette norme reconnaît que les systèmes d'IA comportent des risques spécifiques — notamment l'empoisonnement des données, l'obfuscation des modèles et l'injection indirecte de prompts — que les pratiques conventionnelles de sécurité logicielle négligent souvent. Elle s'applique aux réseaux neuronaux profonds, à l'IA générative et aux systèmes prédictifs de base, en excluant explicitement uniquement ceux utilisés exclusivement à des fins de recherche universitaire.

La norme ETSI définit la chaîne de responsabilité en matière de sécurité de l'IA

L'attribution de la responsabilité des risques constitue un défi persistant dans le déploiement de l'IA en entreprise. La norme ETSI y répond en définissant trois rôles techniques essentiels : les développeurs, les opérateurs de système et les gardiens de données.

Dans de nombreuses organisations, ces limites deviennent floues. Par exemple, une société de services financiers qui affine un modèle open source pour la détection des fraudes est à la fois un développeur et un opérateur de système. Ce double rôle impose des responsabilités strictes : l’entreprise doit sécuriser l’environnement de déploiement tout en documentant la provenance des données d’entraînement et les audits de conception des modèles.

L'inclusion explicite des « gardiens de données » en tant que groupe distinct de parties prenantes concerne directement les responsables des données et de l'analyse (CDAO). Ces personnes gèrent les autorisations et l'intégrité des données, un rôle qui comporte désormais des obligations claires en matière de sécurité. Les gardiens doivent vérifier que l'utilisation prévue du système correspond au niveau de sensibilité de ses données d'entraînement, intégrant ainsi efficacement un contrôleur de sécurité au sein des processus de gestion des données.

La norme ETSI sur l'IA souligne que la sécurité ne doit pas être une réflexion après coup ajoutée uniquement lors du déploiement. Dès la phase de conception, les organisations doivent réaliser une modélisation des menaces tenant compte des attaques spécifiques à l'IA, telles que l'inférence d'appartenance et l'obfuscation des modèles.

Une exigence impose aux développeurs de limiter les fonctionnalités afin de réduire au minimum la surface d'attaque. Par exemple, si un système utilise un modèle multimodal mais ne traite que du texte, les modalités inutilisées — telles que le traitement d'images ou d'audio — deviennent des risques qu'il convient d'atténuer. Cela pousse les responsables techniques à repenser l'habitude courante de déployer de grands modèles de base à usage général alors qu'un modèle plus petit et plus spécialisé suffirait.

La norme impose également une gestion rigoureuse des actifs. Les développeurs et les opérateurs de système doivent tenir un inventaire détaillé des actifs, couvrant les interdépendances et la connectivité. Cela facilite la détection de l’IA fantôme : les responsables informatiques ne peuvent pas protéger des modèles dont ils ignorent l’existence. De plus, la norme exige des plans de reprise après sinistre spécialement conçus pour les attaques d’IA, garantissant qu’un « état connu comme bon » puisse être restauré si un modèle est compromis.

La sécurité de la chaîne d'approvisionnement pose un défi direct aux organisations qui dépendent de fournisseurs tiers ou de référentiels open source. En vertu de la norme ETSI, si un opérateur de système choisit d'utiliser des modèles ou des composants d'IA mal documentés, il doit justifier ce choix et documenter les risques de sécurité qui y sont associés.

Dans la pratique, les équipes d'approvisionnement ne peuvent plus accepter de solutions de type « boîte noire ». Les développeurs doivent fournir des hachages cryptographiques pour les composants du modèle afin d’en vérifier l’authenticité. Lorsque les données d’entraînement proviennent de sources publiques — ce qui est courant pour les grands modèles linguistiques —, les développeurs doivent enregistrer l’URL de la source et l’horodatage de l’acquisition. Cette piste d’audit facilite les enquêtes post-incident, notamment pour déterminer si un modèle a été affecté par un empoisonnement des données pendant l’entraînement.

Les entreprises qui fournissent des API à des clients externes doivent mettre en place des contrôles pour contrer les attaques spécifiques à l'IA, telles que la limitation de débit afin d'empêcher les adversaires de procéder à une ingénierie inverse du modèle ou de submerger les défenses pour injecter des données empoisonnées.

Cette approche du cycle de vie se poursuit pendant la phase de maintenance, où la norme considère les mises à jour majeures — comme le réentraînement sur de nouvelles données — comme le déploiement d'une nouvelle version. Selon la norme ETSI sur l'IA, ces mises à jour nécessitent de nouveaux tests et une nouvelle évaluation de sécurité.

La surveillance continue est également systématisée. Les opérateurs système doivent analyser les journaux non seulement pour vérifier la disponibilité, mais aussi pour identifier les « dérives de données » ou les changements de comportement progressifs pouvant signaler une faille de sécurité. Cela fait passer la surveillance de l'IA d'une mesure de performance à une fonction de sécurité.

La norme couvre également la phase de « fin de vie ». Lorsqu’un modèle est retiré ou transféré, les organisations doivent faire appel à des gardiens de données pour garantir l’élimination sécurisée des données et des détails de configuration. Cette exigence empêche la fuite de propriété intellectuelle sensible ou de données d’entraînement via du matériel mis au rebut ou des instances cloud oubliées.

Supervision de la direction et responsabilités en matière de gouvernance

La conformité à la norme ETSI EN 304 223 nécessite de revoir les programmes actuels de formation à la cybersécurité. La norme exige une formation spécifique aux rôles, garantissant que les développeurs maîtrisent le codage sécurisé pour l’IA tandis que les employés en général restent vigilants face à des menaces telles que l’ingénierie sociale via les résultats de l’IA.

« La norme ETSI EN 304 223 marque une étape importante dans la création d’une base commune et solide pour la sécurité des systèmes d’IA », a déclaré Scott Cadzow, président du comité technique de l’ETSI pour la sécurisation de l’intelligence artificielle.

« À mesure que l'IA s'intègre de plus en plus dans les services et infrastructures critiques, on ne saurait trop insister sur l'importance de disposer de recommandations claires et pratiques qui tiennent compte à la fois de la complexité de ces technologies et des réalités de leur déploiement. Les efforts à l'origine de ce cadre sont le fruit d'une large collaboration, permettant aux organisations de faire confiance à des systèmes d'IA résilients, fiables et sécurisés dès leur conception. »

L'adoption des principes de base définis dans la norme de sécurité de l'IA de l'ETSI crée un cadre propice à une innovation plus sûre. Grâce à des pistes d'audit documentées, à des rôles bien définis et à la transparence de la chaîne d'approvisionnement, les organisations peuvent réduire les risques liés à l'adoption de l'IA tout en se dotant d'une position défendable en vue de futurs examens réglementaires.

Un rapport technique à paraître (ETSI TR 104 159) appliquera ces principes spécifiquement à l’IA générative, en abordant des défis tels que les deepfakes et la désinformation.

À lire également : Allister Frost sur la manière de gérer l'anxiété des employés pour une intégration réussie de l'IA

Vous souhaitez découvrir les avis d'experts en IA et en mégadonnées ? Découvrez l'AI & Big Data Expo à Amsterdam, en Californie et à Londres. Cet événement complet, qui fait partie de TechEx, se tient en même temps que d'autres conférences technologiques de premier plan. Cliquez ici pour plus de détails.

AI News vous est proposé par TechForge Media. Découvrez ici d'autres événements et webinaires à venir sur les technologies d'entreprise.