Maison
De nombreux pays exigent une évaluation de sécurité pour les grands modèles avant leur mise sur le marché.

À mesure que l’IA se développe rapidement dans le monde entier, la surveillance des grands modèles de langage évolue des principes généraux vers une application concrète. Les gouvernements du Royaume-Uni, des États-Unis et de l’Australie ont récemment mis en place de nouvelles mesures exigeant que les systèmes d’IA de pointe subissent des tests gouvernementaux visant à identifier les vulnérabilités de sécurité ainsi que les limites liées aux risques avant leur mise en service officielle.
L’approche britannique devient un modèle de politique mondiale
Dans ce changement réglementaire, le cadre d’évaluation des risques et de tests de type « red-teaming » développé par l’AI Safety Institute (AISI) du Royaume-Uni s’impose comme référence pour les autres pays. Récemment, le gouvernement britannique a annoncé un partenariat formel avec l’Australian AI Safety Institute afin de surveiller conjointement les risques potentiels liés aux technologies d’IA avancées dans les domaines des attaques et de la défense informatiques, et d’échanger des connaissances sur leurs capacités fondamentales.
Ce nouveau modèle marque un éloignement par rapport à la dépendance précédente envers des engagements volontaires de la part des entreprises, en intégrant directement le gouvernement dans le processus de test. À l’avenir, les grands modèles d’IA devront suivre une procédure de conformité similaire à une « inspection de sécurité avant mise sur le marché » tout en concourant sur le marché, et les capacités de test de sécurité deviennent de plus en plus un élément clé de la compétitivité des produits.
Les géants technologiques américains s’engagent dans des évaluations de sécurité nationale
Parallèlement, le AI Standards and Innovation Center (CAISI) relevant du Département du Commerce américain développe des mécanismes similaires d’évaluation de la sécurité nationale. Plusieurs entreprises leaders dans le domaine de l’IA, dont Google DeepMind, Microsoft et xAI d’Elon Musk, ont conclu des accords importants avec ce centre, s’engageant à fournir les documents nécessaires et à subir des évaluations de sécurité approfondies avant de publier leurs modèles.
Durant cette période, Microsoft a également confirmé qu’elle renforcerait sa collaboration avec les organismes de test américains et britanniques afin de réduire conjointement les risques pour la sécurité publique liés aux modèles avancés. Ces partenariats internationaux rapides envoient un message clair : la régulation future de l’IA ne se concentrera plus uniquement sur le fait que les entreprises aient établi des engagements en matière de sécurité, mais plutôt sur le fait que ces engagements aient effectivement été testés.
Article connexe
Slackbot devient un agent d'IA
Slackbot, l’assistant automatisé intégré à la plateforme de messagerie d’entreprise Slack de Salesforce, évolue vers un agent d’intelligence artificielle. Le CTO de Salesforce, Parker Harris, envisage qu’il atteigne une notoriété virale comparable à
ByteDance renforce les incitations à l’IA centrale alors que Doubao bondit de 14,6 %
ByteDance a récemment organisé une réunion d’information sur l’évaluation de DouBao afin de dévoiler de nouvelles politiques d’incitation pour le personnel impliqué dans la division DouBao. Le prix d’exercice des actions DouBao a été relevé de 14,85
MiniMax dévoile un programme d’équipe 10x pour encourager les experts mondiaux en intelligence artificielle
MiniMax (Xiyu Technology), le laboratoire d’intelligence artificielle générale, a officiellement lancé « 10x Team », une initiative mondiale de collaboration avec des talents. Ce programme vise à recruter des experts de premier plan dans divers secte
Recommandations de sujets spéciaux liés
commentaires (0)

À mesure que l’IA se développe rapidement dans le monde entier, la surveillance des grands modèles de langage évolue des principes généraux vers une application concrète. Les gouvernements du Royaume-Uni, des États-Unis et de l’Australie ont récemment mis en place de nouvelles mesures exigeant que les systèmes d’IA de pointe subissent des tests gouvernementaux visant à identifier les vulnérabilités de sécurité ainsi que les limites liées aux risques avant leur mise en service officielle.
L’approche britannique devient un modèle de politique mondiale
Dans ce changement réglementaire, le cadre d’évaluation des risques et de tests de type « red-teaming » développé par l’AI Safety Institute (AISI) du Royaume-Uni s’impose comme référence pour les autres pays. Récemment, le gouvernement britannique a annoncé un partenariat formel avec l’Australian AI Safety Institute afin de surveiller conjointement les risques potentiels liés aux technologies d’IA avancées dans les domaines des attaques et de la défense informatiques, et d’échanger des connaissances sur leurs capacités fondamentales.
Ce nouveau modèle marque un éloignement par rapport à la dépendance précédente envers des engagements volontaires de la part des entreprises, en intégrant directement le gouvernement dans le processus de test. À l’avenir, les grands modèles d’IA devront suivre une procédure de conformité similaire à une « inspection de sécurité avant mise sur le marché » tout en concourant sur le marché, et les capacités de test de sécurité deviennent de plus en plus un élément clé de la compétitivité des produits.
Les géants technologiques américains s’engagent dans des évaluations de sécurité nationale
Parallèlement, le AI Standards and Innovation Center (CAISI) relevant du Département du Commerce américain développe des mécanismes similaires d’évaluation de la sécurité nationale. Plusieurs entreprises leaders dans le domaine de l’IA, dont Google DeepMind, Microsoft et xAI d’Elon Musk, ont conclu des accords importants avec ce centre, s’engageant à fournir les documents nécessaires et à subir des évaluations de sécurité approfondies avant de publier leurs modèles.
Durant cette période, Microsoft a également confirmé qu’elle renforcerait sa collaboration avec les organismes de test américains et britanniques afin de réduire conjointement les risques pour la sécurité publique liés aux modèles avancés. Ces partenariats internationaux rapides envoient un message clair : la régulation future de l’IA ne se concentrera plus uniquement sur le fait que les entreprises aient établi des engagements en matière de sécurité, mais plutôt sur le fait que ces engagements aient effectivement été testés.
Slackbot devient un agent d'IA
Slackbot, l’assistant automatisé intégré à la plateforme de messagerie d’entreprise Slack de Salesforce, évolue vers un agent d’intelligence artificielle. Le CTO de Salesforce, Parker Harris, envisage qu’il atteigne une notoriété virale comparable à
ByteDance renforce les incitations à l’IA centrale alors que Doubao bondit de 14,6 %
ByteDance a récemment organisé une réunion d’information sur l’évaluation de DouBao afin de dévoiler de nouvelles politiques d’incitation pour le personnel impliqué dans la division DouBao. Le prix d’exercice des actions DouBao a été relevé de 14,85
MiniMax dévoile un programme d’équipe 10x pour encourager les experts mondiaux en intelligence artificielle
MiniMax (Xiyu Technology), le laboratoire d’intelligence artificielle générale, a officiellement lancé « 10x Team », une initiative mondiale de collaboration avec des talents. Ce programme vise à recruter des experts de premier plan dans divers secte











