Les avertissements d'Anthropic en matière de sécurité se retournent contre l'entreprise, alors que le gouvernement suspend son IA la plus puissante

Vendredi, le gouvernement américain a ordonné à Anthropic de désactiver immédiatement l’accès à deux de ses systèmes d’IA les plus avancés, Claude Fable 5 et Claude Mythos 5, invoquant des risques pour la sécurité nationale. Anthropic a confirmé s’être conformé à cette injonction via X, tout en déclarant estimer que la décision du gouvernement était erronée.

Selon Anthropic, la directive est parvenue vendredi à 17 h 21 (heure de la côte Est), exigeant que l’entreprise bloque l’accès à ces deux modèles pour tous les utilisateurs du monde entier, au-delà des ressortissants étrangers initialement visés par l’arrêté de contrôle des exportations. Les autres modèles d’Anthropic ne sont pas concernés.

Pourquoi est-ce important ? Mythos est l’IA la plus puissante d’Anthropic ; présentée en avant-première début avril, elle a été soumise à des restrictions strictes en raison de sa capacité exceptionnelle à identifier les failles de sécurité des logiciels. Anthropic indique que Mythos a détecté des failles dans tous les principaux systèmes d’exploitation et navigateurs web testés. Par conséquent, au lieu d’une mise à disposition à grande échelle, l’entreprise a lancé le projet Glasswing, un programme contrôlé accordant l’accès à environ 50 organisations agréées, dont Amazon, Apple, Google, Microsoft et CrowdStrike, à des fins de cybersécurité défensive.

Fable 5, lancé il y a tout juste trois jours, répond aux pressions commerciales en proposant une version de Mythos dotée de garde-fous qui bloquent les réponses dans des secteurs à haut risque tels que la cybersécurité et la biologie. Anthropic affirme que cela rend le modèle sûr pour une utilisation générale, et les tests comparatifs réalisés par Vals AI, qui suit les performances des IA, confirment qu’il s’agit actuellement du modèle d’IA public le plus performant.

Crédits image :Vals AI /

Alors que le gouvernement présente cette décision comme une mesure de contrôle des exportations visant à limiter l’accès des étrangers, Anthropic fait valoir dans un article de blog détaillé que le véritable enjeu réside dans un prétendu « jailbreak » de Fable 5. L’entreprise affirme que le gouvernement n’a fourni que des preuves verbales d’un « jailbreak potentiel, limité et non universel », qui consiste à demander au modèle d’analyser une base de code spécifique à la recherche de failles logicielles. Anthropic souligne que cette fonctionnalité est déjà largement disponible dans d’autres modèles publics, tels que le GPT-5.5 d’OpenAI, et qu’elle est couramment utilisée par les professionnels de la cybersécurité à des fins de défense.

L’argument central d’Anthropic est que ses mesures de protection les plus solides reposent sur des systèmes de classification indépendants, distincts du modèle lui-même. Cela signifie que même si un utilisateur contourne un refus, les protections sous-jacentes contre les résultats dangereux restent actives.

Malgré ces mesures de sécurité, le gouvernement a poursuivi son action, et Anthropic a ouvertement exprimé sa frustration. « Nous ne sommes pas d’accord avec le fait que la découverte d’une possibilité restreinte de « jailbreak » doive justifier le retrait d’un modèle commercial déployé auprès de centaines de millions de personnes », a écrit l’entreprise. « Si cette norme était appliquée à l’ensemble du secteur, nous pensons qu’elle mettrait pratiquement un terme à tous les nouveaux déploiements de modèles pour l’ensemble des fournisseurs de modèles de pointe. »

Anthropic devrait, selon les prévisions générales, procéder à une introduction en bourse cette année, en se positionnant comme l’alternative soucieuse de la sécurité face à ses concurrents. Les observateurs soulignent l’ironie du fait que la prudence dont Anthropic a fait preuve en restreignant l’accès à Mythos — en le présentant comme trop dangereux pour être rendu public — ait désormais déclenché précisément cette surveillance gouvernementale susceptible de perturber ses activités.

Sam Altman, d’OpenAI, semble se réjouir de la situation. En avril, il a déclaré au podcasteur Ashlee Vance que la gestion de Mythos par Anthropic relevait d’un « marketing fondé sur la peur ». « C’est clairement une stratégie marketing incroyable que de dire : “Nous avons fabriqué une bombe. Nous étions sur le point de vous la lâcher sur la tête. Nous allons vous vendre un abri anti-bombes pour 100 millions de dollars” », a déclaré Altman. Bien qu’Altman, dont la société prévoit également une introduction en bourse imminente, n’ait pas prédit une intervention du gouvernement, il a souligné une conséquence de la stratégie d’Anthropic : en passant des mois à avertir que son IA était particulièrement dangereuse, l’entreprise s’est assurée que le gouvernement américain y prêterait attention.