Maison
Il devrait obtenir 9 millions de dollars pour développer des systèmes d’IA plus fiables.

Malgré la puissance croissante des LLM, les hallucinations demeurent un défi persistant. Même les modèles les plus avancés génèrent des erreurs, et bien que des méthodes existent pour les détecter, l’industrie travaille encore à affiner l’approche la plus efficace.
Probably, qui a récemment obtenu 9 millions de dollars en financement initial d’Andreessen Horowitz, vise à développer une méthode plus fiable pour la détection des erreurs.
Le fondateur Peter Elias (voir photo ci-dessus) explique que la mission de l’entreprise est d’empêcher les hallucinations et les erreurs factuelles d’atteindre les utilisateurs, en visant une précision de 99,99 % typique des systèmes déterministes — un niveau beaucoup plus difficile à atteindre avec l’intelligence artificielle. Pour y parvenir avec les LLM, souligne-t-il, il est nécessaire de repenser les hypothèses fondamentales de l’ingénierie en IA.
Le produit initial de Probably est un outil de science des données conçu pour générer rapidement des réponses à partir de jeux de données complexes. Chaque résultat inclut une citation ainsi qu’un historique de sa dérivation, une pratique qui devient de plus en plus courante dans les outils d’IA.
Afin d’éviter que des erreurs ne se glissent dans ces synthèses, l’entreprise a mis au point un système complexe que Elias qualifie de « combinaison mécanique pour la science des données ». Les réponses initiales du LLM sont validées par un système déterministe, qui rejette tout résultat incompatible avec le jeu de données. Le LLM a été entraîné en fonction de ce validateur, et l’ensemble du système est optimisé pour la vitesse et la précision, selon l’entreprise.
« Ce que nous avons découvert, c’est que plus votre système de validation est solide, moins le modèle a besoin d’être puissant », dit Elias. « Si vous affinez suffisamment le contexte, le modèle n’a pas à se démener pour produire des résultats corrects. En somme, il s’agit de réduire l’ambiguïté. »
Cela permet à l’outil de science des données de Probably de fonctionner avec des modèles d’IA bien plus modestes. Elias note que la version actuelle utilise un modèle « quatre classes moins puissant que les modèles de pointe », ce qui lui permet de s’exécuter sur du matériel local — un ordinateur de bureau plutôt qu’un centre de données — réduisant ainsi considérablement les coûts liés à l’utilisation de l’IA.
Cette approche est d’autant plus pertinente que les coûts des tokens augmentent et que de nombreux clients réévaluent leurs budgets consacrés à l’IA. La vision d’Elias dépasse la science des données ; le même moteur peut être adapté à des domaines tels que la comptabilité ou les services médicaux — en ses termes, « tout domaine nécessitant une grande précision ».
« Il est frappant que les grands laboratoires d’IA n’aient même pas essayé cette approche », dit Elias. « Ils ont des incitations contraires, car ils tirent profit du besoin de corrections répétées. »
Article connexe
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Comment corriger les Core Web Vitals pour de meilleurs classements SEO
Fluidifiez les commentaires de bulletin avec des outils d'IAIntroductionOutils d'IA pour générer des commentaires de bulletinMagic SchoolAlmanac AIChat GPTUtilisation de Magic School pour générer des commentaires de bulletinConnexion à Magic Sc
Slackbot devient un agent d'IA
Slackbot, l’assistant automatisé intégré à la plateforme de messagerie d’entreprise Slack de Salesforce, évolue vers un agent d’intelligence artificielle. Le CTO de Salesforce, Parker Harris, envisage qu’il atteigne une notoriété virale comparable à
Recommandations de sujets spéciaux liés
commentaires (0)

Malgré la puissance croissante des LLM, les hallucinations demeurent un défi persistant. Même les modèles les plus avancés génèrent des erreurs, et bien que des méthodes existent pour les détecter, l’industrie travaille encore à affiner l’approche la plus efficace.
Probably, qui a récemment obtenu 9 millions de dollars en financement initial d’Andreessen Horowitz, vise à développer une méthode plus fiable pour la détection des erreurs.
Le fondateur Peter Elias (voir photo ci-dessus) explique que la mission de l’entreprise est d’empêcher les hallucinations et les erreurs factuelles d’atteindre les utilisateurs, en visant une précision de 99,99 % typique des systèmes déterministes — un niveau beaucoup plus difficile à atteindre avec l’intelligence artificielle. Pour y parvenir avec les LLM, souligne-t-il, il est nécessaire de repenser les hypothèses fondamentales de l’ingénierie en IA.
Le produit initial de Probably est un outil de science des données conçu pour générer rapidement des réponses à partir de jeux de données complexes. Chaque résultat inclut une citation ainsi qu’un historique de sa dérivation, une pratique qui devient de plus en plus courante dans les outils d’IA.
Afin d’éviter que des erreurs ne se glissent dans ces synthèses, l’entreprise a mis au point un système complexe que Elias qualifie de « combinaison mécanique pour la science des données ». Les réponses initiales du LLM sont validées par un système déterministe, qui rejette tout résultat incompatible avec le jeu de données. Le LLM a été entraîné en fonction de ce validateur, et l’ensemble du système est optimisé pour la vitesse et la précision, selon l’entreprise.
« Ce que nous avons découvert, c’est que plus votre système de validation est solide, moins le modèle a besoin d’être puissant », dit Elias. « Si vous affinez suffisamment le contexte, le modèle n’a pas à se démener pour produire des résultats corrects. En somme, il s’agit de réduire l’ambiguïté. »
Cela permet à l’outil de science des données de Probably de fonctionner avec des modèles d’IA bien plus modestes. Elias note que la version actuelle utilise un modèle « quatre classes moins puissant que les modèles de pointe », ce qui lui permet de s’exécuter sur du matériel local — un ordinateur de bureau plutôt qu’un centre de données — réduisant ainsi considérablement les coûts liés à l’utilisation de l’IA.
Cette approche est d’autant plus pertinente que les coûts des tokens augmentent et que de nombreux clients réévaluent leurs budgets consacrés à l’IA. La vision d’Elias dépasse la science des données ; le même moteur peut être adapté à des domaines tels que la comptabilité ou les services médicaux — en ses termes, « tout domaine nécessitant une grande précision ».
« Il est frappant que les grands laboratoires d’IA n’aient même pas essayé cette approche », dit Elias. « Ils ont des incitations contraires, car ils tirent profit du besoin de corrections répétées. »
Comment corriger les Core Web Vitals pour de meilleurs classements SEO
Fluidifiez les commentaires de bulletin avec des outils d'IAIntroductionOutils d'IA pour générer des commentaires de bulletinMagic SchoolAlmanac AIChat GPTUtilisation de Magic School pour générer des commentaires de bulletinConnexion à Magic Sc
Slackbot devient un agent d'IA
Slackbot, l’assistant automatisé intégré à la plateforme de messagerie d’entreprise Slack de Salesforce, évolue vers un agent d’intelligence artificielle. Le CTO de Salesforce, Parker Harris, envisage qu’il atteigne une notoriété virale comparable à











