Maison
Patronus AI a obtenu 50 millions de dollars pour créer des mondes numériques permettant de soumettre les agents IA à des tests de résistance.

Les agents d’IA deviennent de plus en plus sophistiqués, passant du simple fait de répondre aux questions à celui d’exécuter de manière indépendante des tâches complexes et multi-étapes.
Cependant, avant que ces agents ne puissent être mis à profit pour réserver des voyages ou effectuer des analyses financières au nom des utilisateurs, leurs fournisseurs de modèles ainsi que les startups qui les développent doivent garantir une performance fiable dans un large éventail de scénarios.
Les laboratoires d’IA s’appuient fréquemment sur des benchmarks pour démontrer les capacités de leurs modèles, mais un score élevé – même sur un benchmark spécifique aux agents – ne garantit pas pour autant que l’IA sera capable d’accomplir correctement diverses tâches du monde réel.
Patronus AI, une startup fondée en 2023 par d’anciens chercheurs en IA chez Meta, Anand Kannappan et Rebecca Qian, aide les concepteurs de modèles et les entreprises à affiner leurs modèles en créant des environnements numériques simulés permettant d’évaluer la performance des agents.
Cette startup basée à San Francisco répond clairement à un besoin crucial. Selon Glenn Solomon, directeur général chez Notable Capital, presque tous les laboratoires d’IA de pointe ainsi que de nombreuses startups émergentes sont devenus clients, et la demande pour ces environnements simulés serait quasiment insatiable.
Les revenus de Patronus ont augmenté de 15 fois au cours de l’année écoulée, suscitant un vif intérêt de la part des investisseurs. Jeudi, l’entreprise a annoncé un tour de financement Series B d’un montant de 50 millions de dollars, mené par Greenfield Partners, avec la participation de Notable Capital, Lightspeed, Datadog et Samsung. Le montant total des fonds levés atteint ainsi 70 millions de dollars.
Patronus utilise ce qu’elle appelle des « modèles de monde numérique » pour créer des répliques de sites web et de systèmes internes. Dans ces environnements, les agents subissent des tests de résistance après avoir été formés grâce à l’apprentissage par renforcement, méthode qui récompense itérativement l’achèvement réussi des tâches et pénalise les erreurs.
Les laboratoires d’IA trouvent ces simulations numériques extrêmement précieuses, car elles permettent aux agents d’expérimenter divers scénarios, parfois imprévisibles. L’entreprise compare son approche à celle utilisée par Waymo pour former ses voitures autonomes : en construisant d’abord des mondes synthétiques afin de tester les véhicules face à des dangers rares tels que des conditions météorologiques extrêmes ou un enfant poursuivant une balle.
La différence avec les agents d’IA réside dans le fait que ces derniers ont souvent tendance à prendre des raccourcis, ce qui entraîne un accomplissement incorrect des tâches. « Patronus est vraiment douée pour détecter de telles astuces et s’assurer que les modèles soient tenus pour responsables », a déclaré Solomon.
Patronus propose actuellement ses environnements numériques simulés dans les domaines du génie logiciel et des finances, mais selon Kannappan, ce n’est qu’un début.
« Aujourd’hui, nous nous concentrons fortement sur des problèmes vérifiables – ceux qui peuvent être immédiatement contrôlés et confirmés – mais il existe de nombreux autres domaines qui sont non vérifiables ou extrêmement difficiles à vérifier », a-t-il affirmé.
Le fait que ces processus soient vérifiables ne signifie pas pour autant qu’ils soient simples. « Nous voulons pouvoir créer un environnement où l’on peut faire fonctionner un agent pendant 10 heures, 10 jours, voire 10 semaines », a ajouté Kannappan.
En ce qui concerne les concurrents, Patronus estime qu’elle concurrence principalement les équipes internes que les laboratoires d’IA ont déjà mises en place pour évaluer le comportement des agents. Alors que des entreprises spécialisées dans les données humaines comme Mercor et Surge aident les concepteurs de modèles avec l’apprentissage par renforcement, Patronus adopte une approche différente en évaluant le comportement des agents sans aucune intervention humaine.
Article connexe
Sarvam a obtenu 234 millions de dollars de la part de HCLTech afin de devenir le plus récent « unicorn » en matière d’IA en Inde.
Sarvam a annoncé lundi avoir levé 234 millions de dollars, ce qui correspond à une évaluation de 1,5 milliard de dollars pour l’entreprise. Cette startup basée à Bengaluru devient ainsi le plus récent « unicorn » en intelligence artificielle en Inde,
Un adolescent hacker devenu chercheur pour le programme « Iron Dome » lève 28 millions de dollars pour lutter contre le phishing basé sur l'IA
Shay Shwartz connaît les attaques de phishing par e-mail sur le bout des doigts. Adolescent, il gagnait sa vie en tant que hacker, mais après s’être fait prendre à l’âge de 16 ans, il a compris qu’il
Le modèle d'IA de Meta est performant, mais son caractère open source s'affaiblit
Le paysage de l'IA open source a toujours offert un large choix. Pendant des années, les développeurs ont pu accéder à des modèles tels que Mistral, Falcon et à un nombre croissant d'alternatives open
Recommandations de sujets spéciaux liés
commentaires (0)

Les agents d’IA deviennent de plus en plus sophistiqués, passant du simple fait de répondre aux questions à celui d’exécuter de manière indépendante des tâches complexes et multi-étapes.
Cependant, avant que ces agents ne puissent être mis à profit pour réserver des voyages ou effectuer des analyses financières au nom des utilisateurs, leurs fournisseurs de modèles ainsi que les startups qui les développent doivent garantir une performance fiable dans un large éventail de scénarios.
Les laboratoires d’IA s’appuient fréquemment sur des benchmarks pour démontrer les capacités de leurs modèles, mais un score élevé – même sur un benchmark spécifique aux agents – ne garantit pas pour autant que l’IA sera capable d’accomplir correctement diverses tâches du monde réel.
Patronus AI, une startup fondée en 2023 par d’anciens chercheurs en IA chez Meta, Anand Kannappan et Rebecca Qian, aide les concepteurs de modèles et les entreprises à affiner leurs modèles en créant des environnements numériques simulés permettant d’évaluer la performance des agents.
Cette startup basée à San Francisco répond clairement à un besoin crucial. Selon Glenn Solomon, directeur général chez Notable Capital, presque tous les laboratoires d’IA de pointe ainsi que de nombreuses startups émergentes sont devenus clients, et la demande pour ces environnements simulés serait quasiment insatiable.
Les revenus de Patronus ont augmenté de 15 fois au cours de l’année écoulée, suscitant un vif intérêt de la part des investisseurs. Jeudi, l’entreprise a annoncé un tour de financement Series B d’un montant de 50 millions de dollars, mené par Greenfield Partners, avec la participation de Notable Capital, Lightspeed, Datadog et Samsung. Le montant total des fonds levés atteint ainsi 70 millions de dollars.
Patronus utilise ce qu’elle appelle des « modèles de monde numérique » pour créer des répliques de sites web et de systèmes internes. Dans ces environnements, les agents subissent des tests de résistance après avoir été formés grâce à l’apprentissage par renforcement, méthode qui récompense itérativement l’achèvement réussi des tâches et pénalise les erreurs.
Les laboratoires d’IA trouvent ces simulations numériques extrêmement précieuses, car elles permettent aux agents d’expérimenter divers scénarios, parfois imprévisibles. L’entreprise compare son approche à celle utilisée par Waymo pour former ses voitures autonomes : en construisant d’abord des mondes synthétiques afin de tester les véhicules face à des dangers rares tels que des conditions météorologiques extrêmes ou un enfant poursuivant une balle.
La différence avec les agents d’IA réside dans le fait que ces derniers ont souvent tendance à prendre des raccourcis, ce qui entraîne un accomplissement incorrect des tâches. « Patronus est vraiment douée pour détecter de telles astuces et s’assurer que les modèles soient tenus pour responsables », a déclaré Solomon.
Patronus propose actuellement ses environnements numériques simulés dans les domaines du génie logiciel et des finances, mais selon Kannappan, ce n’est qu’un début.
« Aujourd’hui, nous nous concentrons fortement sur des problèmes vérifiables – ceux qui peuvent être immédiatement contrôlés et confirmés – mais il existe de nombreux autres domaines qui sont non vérifiables ou extrêmement difficiles à vérifier », a-t-il affirmé.
Le fait que ces processus soient vérifiables ne signifie pas pour autant qu’ils soient simples. « Nous voulons pouvoir créer un environnement où l’on peut faire fonctionner un agent pendant 10 heures, 10 jours, voire 10 semaines », a ajouté Kannappan.
En ce qui concerne les concurrents, Patronus estime qu’elle concurrence principalement les équipes internes que les laboratoires d’IA ont déjà mises en place pour évaluer le comportement des agents. Alors que des entreprises spécialisées dans les données humaines comme Mercor et Surge aident les concepteurs de modèles avec l’apprentissage par renforcement, Patronus adopte une approche différente en évaluant le comportement des agents sans aucune intervention humaine.
Sarvam a obtenu 234 millions de dollars de la part de HCLTech afin de devenir le plus récent « unicorn » en matière d’IA en Inde.
Sarvam a annoncé lundi avoir levé 234 millions de dollars, ce qui correspond à une évaluation de 1,5 milliard de dollars pour l’entreprise. Cette startup basée à Bengaluru devient ainsi le plus récent « unicorn » en intelligence artificielle en Inde,
Un adolescent hacker devenu chercheur pour le programme « Iron Dome » lève 28 millions de dollars pour lutter contre le phishing basé sur l'IA
Shay Shwartz connaît les attaques de phishing par e-mail sur le bout des doigts. Adolescent, il gagnait sa vie en tant que hacker, mais après s’être fait prendre à l’âge de 16 ans, il a compris qu’il
Le modèle d'IA de Meta est performant, mais son caractère open source s'affaiblit
Le paysage de l'IA open source a toujours offert un large choix. Pendant des années, les développeurs ont pu accéder à des modèles tels que Mistral, Falcon et à un nombre croissant d'alternatives open











