Nvidia dévoile les outils logiciels NEMO pour les entreprises pour créer des agents d'IA personnalisés

Nvidia, le géant renommé des puces, a annoncé mercredi la disponibilité générale d'une nouvelle suite d'outils conçus pour aider les entreprises à développer une intelligence artificielle "agentique". Ces outils, appelés microservices NeMo, font partie du portefeuille logiciel AI Enterprise plus large de Nvidia. Ils sont conçus pour personnaliser et optimiser les agents IA pour une vaste gamme de tâches, allant de l'amélioration des opérations des centres d'appels à l'augmentation de l'efficacité du développement logiciel.

Lors d'un briefing avec les médias, Joey Conway, responsable de l'IA générative pour les entreprises chez Nvidia, a décrit le logiciel NeMo comme un moyen de déployer des agents IA en tant qu'"employés numériques". Il a souligné l'impact potentiel dans diverses industries, déclarant : « Notre vision de l'évolution des choses est qu'il y a plus d'un milliard de travailleurs du savoir dans de nombreuses industries, géographies et localisations. Et notre point de vue est que les employés numériques, ou agents IA, pourront aider les entreprises à accomplir plus de travail dans ces divers domaines et scénarios. »

Gains de productivité

Conway a partagé des idées sur les bénéfices tangibles en termes de productivité que ces agents IA ont déjà apportés. Par exemple, Amdocs, un fournisseur de logiciels pour les entreprises de télécommunications, a exploité les microservices NeMo pour développer des agents de facturation, de vente et de réseau. Leur agent de facturation, chargé de traiter les demandes de facturation des clients, a atteint une augmentation significative de 50 % du "taux de résolution au premier appel", démontrant un impact direct sur l'efficacité du service client.

Le concept d'agents IA fonctionnant comme des employés numériques n'est pas nouveau. C'est une narrative qui a gagné du terrain au cours de l'année passée, l'IA étant perçue comme capable de gérer les processus d'entreprise tout comme les employés humains. Nvidia a affiné son logiciel NeMo pendant plus de cinq ans, visant à accélérer le développement de modèles IA pour les entreprises. En 2022, ils ont élargi leurs offres pour inclure des modèles IA préconstruits basés sur le cloud à la demande, les microservices ayant été introduits en octobre dernier.

Nouveaux composants de microservices

La boîte à outils NeMo comprend plusieurs microservices, dont deux, Curator et Retriever, étaient déjà disponibles. Curator aide les développeurs à construire des "pipelines" pour nettoyer et affiner les ensembles de données utilisés pour entraîner ou ajuster les modèles IA. Retriever, d'autre part, extrait les éléments pertinents des sources de données pour l'utilisation du modèle, tels que le texte, les graphiques et les éléments de graphiques.

Complétant ceux-ci, trois nouveaux composants : Customizer, Evaluator et Guardrails. Le Customizer prend la sortie de Curator et applique des techniques de post-entraînement pour améliorer les capacités du modèle. L'Evaluator agit comme un banc d'essai automatisé, testant le modèle après Customizer pour évaluer les améliorations ou nouvelles compétences acquises. Guardrails garantit la conformité et la sécurité en opérant au moment de l'exécution pour protéger les opérations de l'entreprise.

Mise à jour et acquisition de nouvelles capacités

La philosophie derrière NeMo est de faire passer les modèles à travers ces microservices de manière répétée, permettant des mises à jour continues et l'acquisition de compétences, un processus que Nvidia appelle un "volant d'inertie". Les microservices NeMo s'intègrent au logiciel d'infrastructure de déploiement de Nvidia, NIM (Nvidia Inference Microservices), qui encapsule les modèles IA dans des conteneurs d'applications gérés par des systèmes comme Kubernetes et accessibles via des API.

Conway a souligné que NeMo simplifie les tâches traditionnellement complexes d'entraînement, de post-entraînement, d'évaluation et de révision des modèles IA. Il a noté : « L'objectif des microservices NeMo est de pouvoir construire ces microservices afin que le reste de l'écosystème puisse démarrer beaucoup plus rapidement. D'après notre expérience, nous avons vu que cela peut être assez compliqué. » Il a ajouté que l'Evaluator NeMo consolide et met à jour diverses bibliothèques open-source, les rendant plus fiables et plus faciles à utiliser grâce à de simples appels API.