Maison
Mianbi Intelligence et l’université de Tsinghua dévoilent le premier grand modèle chinois de 1,58 bit, le BitCPM-CANN
Mingshi Intelligence, en partenariat avec l’université de Tsinghua et la communauté OpenBMB, a officiellement mis en open source BitCPM-CANN, le premier grand modèle linguistique chinois entraîné sur la plateforme Ascend de Huawei. Grâce à la quantification ternaire (1,58 bit), cette avancée révolutionnaire fait progresser la technologie d'entraînement à faible nombre de bits et marque une étape importante pour l'écosystème chinois de l'IA.
BitCPM-CANN démontre les capacités robustes de l’infrastructure informatique nationale, en mettant en place un pipeline de développement entièrement natif, allant des opérateurs de quantification aux algorithmes d’entraînement. Disponible en variantes de 0,5 milliard, 1 milliard, 3 milliards et 8 milliards de paramètres, il surpasse les modèles MiniCPM4 en pleine précision de taille équivalente. Il réduit notamment d’environ six fois l’utilisation de mémoire en inférence, ce qui permet un fonctionnement fluide des modèles à 8 bits de paramètres sur les smartphones phares grand public et offre des avantages considérables à l’industrie mobile.

Grâce à MindSpeed et Megatron-LM, Mingshi Intelligence a mis au point un cadre complet d’entraînement en faible nombre de bits. Cette infrastructure prend en charge l’adaptation à l’environnement, le traitement de longues séquences de 32K, les stratégies parallèles et les opérateurs intégrés. En mettant à disposition cette base ouverte pour tous les entraînements en faible nombre de bits basés sur Ascend, l’entreprise réduit les obstacles au développement et accélère l’itération technologique.

Afin de favoriser une adoption plus large, tous les poids du modèle BitCPM-CANN sont open source et accessibles via HuggingFace et ModelScope. Cette initiative dote les développeurs d’outils puissants, encourageant ainsi la création d’applications innovantes dans l’ensemble du paysage de l’IA.
En conclusion, BitCPM-CANN représente une avancée cruciale dans les capacités de formation des grands modèles d’IA en Chine, jetant des bases solides pour les futures applications intelligentes.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)
Mingshi Intelligence, en partenariat avec l’université de Tsinghua et la communauté OpenBMB, a officiellement mis en open source BitCPM-CANN, le premier grand modèle linguistique chinois entraîné sur la plateforme Ascend de Huawei. Grâce à la quantification ternaire (1,58 bit), cette avancée révolutionnaire fait progresser la technologie d'entraînement à faible nombre de bits et marque une étape importante pour l'écosystème chinois de l'IA.
BitCPM-CANN démontre les capacités robustes de l’infrastructure informatique nationale, en mettant en place un pipeline de développement entièrement natif, allant des opérateurs de quantification aux algorithmes d’entraînement. Disponible en variantes de 0,5 milliard, 1 milliard, 3 milliards et 8 milliards de paramètres, il surpasse les modèles MiniCPM4 en pleine précision de taille équivalente. Il réduit notamment d’environ six fois l’utilisation de mémoire en inférence, ce qui permet un fonctionnement fluide des modèles à 8 bits de paramètres sur les smartphones phares grand public et offre des avantages considérables à l’industrie mobile.

Grâce à MindSpeed et Megatron-LM, Mingshi Intelligence a mis au point un cadre complet d’entraînement en faible nombre de bits. Cette infrastructure prend en charge l’adaptation à l’environnement, le traitement de longues séquences de 32K, les stratégies parallèles et les opérateurs intégrés. En mettant à disposition cette base ouverte pour tous les entraînements en faible nombre de bits basés sur Ascend, l’entreprise réduit les obstacles au développement et accélère l’itération technologique.

Afin de favoriser une adoption plus large, tous les poids du modèle BitCPM-CANN sont open source et accessibles via HuggingFace et ModelScope. Cette initiative dote les développeurs d’outils puissants, encourageant ainsi la création d’applications innovantes dans l’ensemble du paysage de l’IA.
En conclusion, BitCPM-CANN représente une avancée cruciale dans les capacités de formation des grands modèles d’IA en Chine, jetant des bases solides pour les futures applications intelligentes.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











