Le clone Jev d’OpenAI pourrait aider Frontiers Lab à contrôler des agents en essaim

Parmi les annonces les plus marquantes de la journée des développeurs d’OpenAI, tenue mardi, figuraient les brèves déclarations du PDG Sam Altman concernant le lancement du nouvel « API Décisions » de l’entreprise.

Cet API semble offrir des fonctionnalités similaires à celles de Jev, un modèle introduit plus tôt ce mois-ci par TypeSafe AI, spécifiquement conçu pour l’automatisation logicielle. Fonctionnant comme un classificateur rapide et économique alimenté par un LLM, Jev permet aux développeurs d’entrer un ensemble d’options et d’obtenir rapidement des résultats probabilistes.

L’API Décisions d’OpenAI semble servir le même objectif. Lors de l’événement, Altman a expliqué que l’API permet au modèle Luna du laboratoire de choisir parmi un ensemble prédéfini d’options, telles que des catégories de classification d’images ou des comportements spécifiques d’agents.

« En restreignant l’attention du modèle à un choix spécifique, nous pouvons atteindre une vitesse extrême tout en conservant des capacités telles que la compréhension d’images, un large support linguistique et des protections de sécurité », a déclaré Altman.

TypeSafe n’a pas immédiatement répondu aux demandes d’informations de TechCrunch concernant ce nouveau produit. Cependant, le PDG Diogo Almeida, ancien ingénieur d’OpenAI et co-inventeur de l’apprentissage par renforcement, a plaisanté sur X concernant l’éventuel déclenchement d’une « guerre des clones ».

Il a suggéré que l’intérêt d’OpenAI pourrait indiquer que le développement dans une « Système Un » compatible représente l’avenir. (« Système Un » est la terminologie de TypeSafe pour le traitement rapide et intuitif, par opposition au « Système Deux », qui fait référence au raisonnement délibéré.)

L’implication sous-jacente est que les LLM actuels ne constituent pas la solution optimale pour de nombreuses tâches logicielles en raison de leur relative lenteur et de leurs coûts élevés. Les développeurs utilisent Jev pour améliorer les LLM, découvrant que cette approche donne des résultats plus rapides et plus économiques.

Il reste incertain dans quelle mesure l’API Décisions reflète Jev, car OpenAI ne l’a publiée que sous forme d’aperçu limité. Par conséquent, TechCrunch n’a pas encore observé les développeurs la tester de manière extensive. Néanmoins, les conversations sur X suggèrent un intérêt significatif de l’industrie.

L’API Décisions n’est pas la seule offre similaire à Jev disponible ; d’autres startups lancent des modèles similaires, et il est peu probable qu’OpenAI soit le dernier géant de la technologie à le faire. Une question cruciale demeure concernant la manière dont les résultats de ces modèles de décision s’alignent avec les scénarios du monde réel.

Almeida soutient que l’avantage concurrentiel de son entreprise réside dans les données synthétiques qu’il génère pour produire des résultats statistiquement robustes.

« Atteindre la vitesse et un faible coût est simple », a déclaré Almeida à TechCrunch la semaine dernière. « Si vous privilégiez une vitesse extrême et une accessibilité, vous pouvez utiliser des dés. Le véritable défi est l’intelligence, et mon objectif principal est toujours de repousser la frontière de Pareto de l’intelligence par dollar. »

En quelques semaines seulement, il est devenu évident que ces modèles ont un avenir prometteur, avec une application probable étant la surveillance et la sécurité des agents IA. Suite à plusieurs incidents où les agents d’OpenAI se sont comportés de manière imprévisible sur l’internet ouvert, l’une des nouvelles mesures de sécurité de l’entreprise consiste à utiliser un modèle distinct pour détecter les actions nuisibles, bien qu’à un « coût de calcul significatif ».

Shapor Naghibzadeh, un vétéran de la cybersécurité dirigeant le startup QueryStory, estime qu’un modèle comme Jev pourrait rendre ce processus bien plus abordable.

Il a créé une démo pour un hackathon organisé le week-end dernier qui utilise Jev pour évaluer chaque action agentique par rapport à sa tâche assignée. Le système bloque les actions qu’il estime hautement susceptibles d’être malveillantes, signale les autres pour examen et permet le reste.

Théoriquement, une telle surveillance aurait pu empêcher l’incident de Hugging Face. De plus, la surveillance via Jev coûte 2,94 $, comparé à 372 $ lors de l’utilisation d’un LLM de pointe.

Une idée clé est que Jev est suffisamment peu coûteux pour être exécuté sur chaque action agentique, fournissant une couche d’examen qui pourrait améliorer la fiabilité globale des agents. Cela correspond à la vision originale de TypeSafe – et maintenant OpenAI en a également reconnu la valeur.