Maison
Baidu lance Ernie 5.1, réduisant les coûts de pré-entraînement de 94 % et se classant parmi les quatre premiers au niveau mondial
Baidu a officiellement lancé son modèle linguistique de nouvelle génération, Ernie 5.1, le 11 mai 2026. S'appuyant sur les bases de pré-entraînement d'Ernie 5.0 publiées plus tôt en janvier — un modèle comportant 2,4 billions de paramètres —, cette nouvelle version a été développée à l'aide d'un « cadre d'entraînement élastique en une seule fois » innovant. Cette approche a permis à Baidu d'optimiser plusieurs tailles de modèles en un seul cycle d'entraînement, réduisant ainsi les coûts de pré-entraînement d'Ernie 5.1 à seulement 6 % de ceux des modèles comparables.

Au 9 mai, Ernie 5.1 occupait la quatrième place mondiale et se classait premier parmi les modèles chinois au classement Arena Search avec un score de 1 223 points, démontrant ainsi son efficacité exceptionnelle et ses performances bien équilibrées.
Sur le plan architectural, Ernie 5.1 se caractérise par une conception en sous-modèles dont la profondeur, la largeur et le nombre d’experts actifs sont ajustables. Son nombre total de paramètres ne représente qu’un tiers de celui de son prédécesseur, et le nombre de paramètres effectifs activés par requête a été réduit de moitié environ. Pour remédier à « l’effet de balancier » courant dans l’entraînement multiconcompétences, Baidu a mis en œuvre un processus de post-entraînement en quatre phases. Cette méthode utilise un code d'entraînement spécialisé en parallèle, l'inférence et des modèles d'experts proxy, combinés à la distillation de stratégies et à l'apprentissage par renforcement, résolvant ainsi efficacement le défi sectoriel consistant à trouver un équilibre entre les capacités de programmation et le raisonnement créatif. De plus, une infrastructure d'apprentissage par renforcement remaniée dissocie les mises à jour du modèle, la génération de réponses et l'évaluation. Associée à une bibliothèque de calculs à faible précision standardisée, cela améliore considérablement la stabilité de l'entraînement à grande échelle.

Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)
Baidu a officiellement lancé son modèle linguistique de nouvelle génération, Ernie 5.1, le 11 mai 2026. S'appuyant sur les bases de pré-entraînement d'Ernie 5.0 publiées plus tôt en janvier — un modèle comportant 2,4 billions de paramètres —, cette nouvelle version a été développée à l'aide d'un « cadre d'entraînement élastique en une seule fois » innovant. Cette approche a permis à Baidu d'optimiser plusieurs tailles de modèles en un seul cycle d'entraînement, réduisant ainsi les coûts de pré-entraînement d'Ernie 5.1 à seulement 6 % de ceux des modèles comparables.

Au 9 mai, Ernie 5.1 occupait la quatrième place mondiale et se classait premier parmi les modèles chinois au classement Arena Search avec un score de 1 223 points, démontrant ainsi son efficacité exceptionnelle et ses performances bien équilibrées.
Sur le plan architectural, Ernie 5.1 se caractérise par une conception en sous-modèles dont la profondeur, la largeur et le nombre d’experts actifs sont ajustables. Son nombre total de paramètres ne représente qu’un tiers de celui de son prédécesseur, et le nombre de paramètres effectifs activés par requête a été réduit de moitié environ. Pour remédier à « l’effet de balancier » courant dans l’entraînement multiconcompétences, Baidu a mis en œuvre un processus de post-entraînement en quatre phases. Cette méthode utilise un code d'entraînement spécialisé en parallèle, l'inférence et des modèles d'experts proxy, combinés à la distillation de stratégies et à l'apprentissage par renforcement, résolvant ainsi efficacement le défi sectoriel consistant à trouver un équilibre entre les capacités de programmation et le raisonnement créatif. De plus, une infrastructure d'apprentissage par renforcement remaniée dissocie les mises à jour du modèle, la génération de réponses et l'évaluation. Associée à une bibliothèque de calculs à faible précision standardisée, cela améliore considérablement la stabilité de l'entraînement à grande échelle.

Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











