OpenAI dévoile les détails supplémentaires de son partenariat avec le Pentagone

Le PDG d'OpenAI, Sam Altman, a reconnu que l'accord conclu entre son entreprise et le ministère de la Défense avait été finalisé trop rapidement et que l'opinion publique y était défavorable.

À la suite de la rupture des négociations entre Anthropic et le Pentagone vendredi, le président Donald Trump a ordonné aux agences fédérales de cesser d'utiliser la technologie d'Anthropic après une période de transition de six mois. Le secrétaire à la Défense, Pete Hegseth, a qualifié l'entreprise d'IA de risque pour la chaîne d'approvisionnement.

OpenAI a alors rapidement annoncé son propre accord pour déployer des modèles dans des environnements classifiés. Anthropic ayant déclaré qu'elle interdirait l'utilisation de sa technologie dans des armes entièrement autonomes ou dans le cadre d'une surveillance domestique de masse, et Altman affirmant qu'OpenAI appliquait les mêmes restrictions, des questions se sont posées : OpenAI était-elle transparente au sujet de ses mesures de protection ? Pourquoi a-t-elle conclu un accord alors qu'Anthropic n'y est pas parvenue ?

Alors que les dirigeants d'OpenAI défendaient cet accord sur les réseaux sociaux, l'entreprise a également publié un article de blog détaillant sa stratégie.

Cet article mettait en avant trois applications spécifiques pour lesquelles les modèles d'OpenAI ne sont pas autorisés : la surveillance domestique de masse, les systèmes d'armes autonomes et les « décisions automatisées à haut risque (telles que les systèmes de « crédit social ») ».

OpenAI a déclaré que, contrairement à d'autres entreprises d'IA qui ont « affaibli ou supprimé les mesures de sécurité et s'appuient principalement sur des politiques d'utilisation comme garanties dans les déploiements liés à la sécurité nationale », son accord maintient ses lignes rouges « grâce à une approche plus large et à plusieurs niveaux ».

« Nous conservons le contrôle total de notre infrastructure de sécurité, nous déployons via le cloud, nous avons autorisé le personnel d'OpenAI à participer et nous appliquons des protections contractuelles solides », explique le blog. « Ces mesures s'ajoutent aux protections robustes déjà prévues par la législation américaine. »

L'entreprise a ajouté : « Nous ne savons pas pourquoi Anthropic n'a pas pu conclure un accord similaire, et nous espérons qu'eux-mêmes et d'autres laboratoires envisageront cette voie. »

Après la publication de cet article, Mike Masnick, de Techdirt, a affirmé que l'accord « autorise la surveillance nationale », puisqu'il stipule que la collecte de données privées se fera conformément au décret 12333 et à d'autres lois. M. Masnick a qualifié ce décret de « base juridique utilisée par la NSA pour mener des opérations de surveillance nationale en interceptant des communications en dehors des États-Unis, même lorsqu'elles concernent des citoyens américains ».

Dans un article publié sur LinkedIn, Katrina Mulligan, responsable des partenariats en matière de sécurité nationale chez OpenAI, a fait valoir qu'une grande partie du débat sur la formulation du contrat part du principe que « le seul obstacle à l'utilisation de l'IA pour la surveillance nationale de masse et les armes autonomes est une seule clause dans un contrat avec le ministère de la Guerre ».

« Ce n'est pas ainsi que le système fonctionne », a déclaré Mme Mulligan, ajoutant : « L'architecture de déploiement est plus importante que la formulation du contrat. En limitant notre déploiement à l'API cloud, nous pouvons empêcher nos modèles d'être directement intégrés dans des armes, des capteurs ou d'autres équipements opérationnels ».

Altman a également répondu aux questions concernant l'accord sur X, admettant qu'il avait été conclu à la hâte et avait provoqué une vive réaction contre OpenAI, à tel point que Claude d'Anthropic a dépassé ChatGPT d'OpenAI sur l'App Store d'Apple ce samedi-là. Alors pourquoi continuer ?

« Nous avons sincèrement cherché à apaiser les tensions et avons estimé que l'accord proposé était bénéfique », a déclaré M. Altman. « Si nous avons raison et que cela conduit à une réduction des tensions entre le ministère de la Guerre et l'industrie, nous serons considérés comme des visionnaires, une entreprise qui a surmonté des difficultés considérables pour soutenir le secteur. Sinon, nous continuerons à être critiqués pour avoir agi de manière précipitée et sans la diligence requise. »