Comment le gouvernement a déterminé que le modèle « Frontier » d’OpenAI pouvait être commercialisé en toute sécurité

OpenAI a lancé son tout dernier modèle linguistique avancé, Sol, et l’a rendu accessible au grand public. Sol est largement considéré comme équivalent, en termes de capacités, à Fable d’Anthropic, un modèle si controversé qu’il a brièvement suscité des inquiétudes à la Maison Blanche, ce qui a conduit à une restriction temporaire de son accès au public.

Comment ces modèles ont-ils finalement obtenu l’autorisation d’être mis à disposition ? La réponse reste floue.

« Franchement, je n’ai pas de visibilité sur ces processus précis, donc oui, je n’ai pas l’impression de disposer de suffisamment d’informations pour dire s’ils sont adéquats ou non », a déclaré à TechCrunch Mina Narayanan, analyste de recherche senior au Center for Security and Emerging Technology de Georgetown. « Anthropic a bien indiqué être en pourparlers avec le gouvernement, avoir développé un classificateur pour détecter les tentatives de "jailbreak" et avoir mis en place des stratégies défensives pour empêcher de futurs "jailbreaks", mais la nature exacte de ce dialogue entre le gouvernement, Anthropic et OpenAI reste floue. »

Dean W. Ball, ancien conseiller politique de Trump travaillant désormais chez OpenAI, a noté dans sa lettre d’information le mois dernier que « personne ne sait quelles sont les conditions requises pour obtenir une licence ».

Andy Konwinski, informaticien et cofondateur de Databricks, Perplexity et du Laude Institute, a déclaré n’avoir jamais parlé à quiconque comprenne pleinement le processus, même parmi les employés des principaux laboratoires d’IA. « C’est un problème existentiel », confie-t-il à TechCrunch. « Sécurité ou pas, la question est de savoir qui détient le pouvoir de décision — qui contrôle l’accès et décide des autorisations ? »

Dix-huit mois après l’entrée en fonction de l’administration Trump, la voie à suivre reste floue, malgré — ou, selon certains critiques, à cause de — l’influence des acteurs du secteur sur l’élaboration des politiques. Le mois dernier, après des semaines de dissensions internes, un décret présidentiel a été publié, définissant une feuille de route pour l’évaluation des modèles de pointe, mais les détails concrets restent à préciser, à l’exception de ce qui n’existera pas. « Il n’y aura pas d’équivalent de la FDA pour l’IA », a déclaré au Financial Times Sriram Krishnan, ancien associé chez Andreessen Horowitz qui a occupé jusqu’au mois dernier le poste de conseiller principal en IA à la Maison Blanche.

Il n’y a notamment toujours pas de consensus sur les types de modèles qui nécessitent un contrôle gouvernemental, ni sur l’agence ou les agences chargées de mener ces évaluations. Pour l’instant, le Centre pour les normes et l’innovation en matière d’IA du ministère du Commerce semble mener la danse, mais le décret présidentiel charge six agences du gouvernement de définir un processus définitif d’ici début août. Ce qui a émergé entre-temps relève, au mieux, d’une approche ad hoc.

Sam Altman, PDG d’OpenAI, a déclaré à CNBC que le processus avait donné lieu à des discussions avec des responsables tels que le secrétaire au Commerce Howard Lutnick, le secrétaire au Trésor Scott Bessent et le directeur national américain de la cybersécurité Sean Cairncross, mais on ignore toujours qui étaient les experts chargés de tester les modèles ni comment ils ont mené ces tests. OpenAI a refusé de communiquer des détails sur le processus gouvernemental à TechCrunch, renvoyant plutôt aux résultats de plusieurs évaluations externes menées par des organisations telles que l’AISI (Royaume-Uni), SecureBio et Irregular, inclus dans la fiche de sécurité du dernier modèle.

À l’instar du déploiement de Fable par Anthropic, OpenAI a présenté le modèle au gouvernement et à certains utilisateurs avant sa diffusion à plus grande échelle, mais on ignore qui étaient tous ces utilisateurs ni comment ils ont été sélectionnés. Dans un article de blog publié fin juin, l’entreprise a déclaré : « Nous ne pensons pas que ce type de processus d’accès gouvernemental doive devenir la norme à long terme », ajoutant qu’elle travaillerait avec le gouvernement pour définir une autre voie à suivre.

Ces discussions s’inscrivent dans un contexte marqué par des informations selon lesquelles Altman aurait proposé jusqu’à 5 % du capital d’OpenAI pour les « comptes Trump » de l’administration, ainsi que par le rôle du président d’OpenAI, Greg Brockman, en tant que principal donateur connu du public pour la campagne électorale de Trump en vue des élections de mi-mandat. Il est difficile pour les observateurs extérieurs de dissocier ces activités de l’approche apparemment plus souple adoptée par le gouvernement pour réglementer Sol.

Le modèle « Fable » d’Anthropic, en revanche, a brièvement été retiré de l’accès grand public lorsque le gouvernement américain en a interdit l’utilisation aux ressortissants étrangers, en partie en raison de préoccupations légitimes concernant le « jailbreak » du modèle par des utilisateurs pour accéder à des capacités de piratage, et en partie en raison de conflits de personnalité entre Anthropic et l’administration Trump. La menace d’une interdiction d’exportation a peut-être également incité OpenAI à se montrer plus coopératif face aux demandes (inconnues) du gouvernement.

Du point de vue du secteur, une approche non interventionniste de la réglementation peut sembler séduisante, mais une approche qui repose sur des relations personnelles avec des responsables de l’administration engendre de l’incertitude et crée de mauvaises incitations.

Konwinski a déclaré à TechCrunch qu’il craignait que les véritables experts de cette technologie — « les chercheurs en sécurité, en alignement, en interprétabilité, mais aussi les spécialistes des données et les acteurs de l’ensemble de la chaîne technologique » — ne jouent pas un rôle suffisant dans le processus de publication des modèles.

Konwinski soutient qu’un « bien commun ouvert » est le meilleur moyen de concilier sécurité et innovation. Il cite en exemple des structures telles que la FDA, les NIH ou les laboratoires nationaux, qui rassemblent des chercheurs, des responsables gouvernementaux et des entreprises privées afin de parvenir à un consensus sur les questions de sécurité.

Cela s’explique en partie par les incitations du capitalisme qui motivent les chercheurs en IA depuis plus d’une décennie, et qui ont été mises en évidence au tribunal lors du procès intenté par Elon Musk pour contester la structure d’entreprise d’OpenAI. Ball souligne que la nature même du secteur de l’IA oblige les entreprises à récupérer une grande partie de leurs coûts de formation peu après la publication de leurs modèles, ce qui leur permet de devancer la concurrence.

« Même si leurs intentions sont louables, il existe des obligations légales et une responsabilité fiduciaire très claires qui sont intégrées aux procédures opérationnelles », souligne Konwinski.

Dans son article, Ball a fait valoir que la voie à suivre dépendra d’organismes d’audit tiers, agréés par le gouvernement, qui évalueront l’approche des laboratoires de pointe en matière de sécurité. Konwinski se montre lui aussi optimiste quant à de nouvelles structures institutionnelles, telles que des organismes de recherche spécialisés, qui pourraient aider davantage d’experts indépendants issus du monde universitaire et du secteur associatif à accéder aux modèles de pointe et à les évaluer.

Pour l’instant, le secret entourant le développement de l’IA n’est pas près de disparaître, mais il va également susciter des défis politiques pour un secteur que les Américains considèrent avec un scepticisme croissant. « On n’a pas l’impression que ce soient des personnes responsables qui mènent ces changements », a déclaré la semaine dernière Remzi Arpaci-Dusseau, professeur d’informatique à l’université du Wisconsin-Madison, lors de la conférence Open Frontier.

Lors de ce même événement, David Siegel, l’informaticien fondateur de Two Sigma, l’un des fonds spéculatifs quantitatifs les plus prospères, a demandé aux participants d’« imaginer une situation, qui serait selon moi très grave, [où] un petit nombre d’entreprises contrôlerait la technologie ; le gouvernement, dans ses laboratoires secrets, évalue si cette technologie est apte à être utilisée ou non ; et le grand public ainsi que la communauté scientifique n’ont en réalité aucun accès à tout cela. »

Il semble que nous n’ayons pas besoin de l’imaginer.