Maison
Cambricon dévoile la compatibilité complète de la série Model Day0 et le code optimisé open-source pour DeepSeek-V4

Cambricon a achevé l’intégration « Day0 » de la dernière série de modèles open-source de DeepSeek, DeepSeek-V4 , en s’appuyant sur le framework d’inférence vLLM. Cette adaptation complète couvre à la fois la variante Flash (285 milliards de paramètres) et la variante Pro (1,6 trillion de paramètres), garantissant une stabilité immédiate sur le matériel Cambricon dès sa sortie. Le code d’intégration correspondant a été officiellement open-sourcé sur GitHub.
Face aux mécanismes d’attention sparse et à l’architecture compressée uniques de DeepSeek-V4 , Cambricon a accéléré les composants clés tels que le Compresseur en utilisant sa bibliothèque de fusion vectorielle propriétaire, Torch-MLU-Ops. En exploitant le langage BangC haute performance, l’équipe a développé des noyaux optimisés pour des opérations critiques telles que l’attention sparse et GroupGemm. La solution prend entièrement en charge la parallélisme hybride à cinq dimensions (TP/PP/SP/DP/EP), la quantification basse précision et la séparation PD au sein du framework vLLM, augmentant significativement le débit de tokens tout en respectant des contraintes strictes de latence.
Côté matériel, Cambricon exploite les capacités d’accès mémoire et de tri accéléré du MLU pour gérer les structures d’indexation complexes de DeepSeek-V4 . En tirant parti d’une bande passante d’interconnexion élevée et de communications à faible latence, cette approche minimise les frais généraux lors des phases de Préremplissage et de Décodage, maximisant ainsi l’efficacité de l’inférence.
Des experts du secteur notent que la fenêtre de contexte de millions de tokens et les capacités de raisonnement logique de premier plan de DeepSeek-V4 exigent des architectures de calcul sous-jacentes robustes. L’adaptation rapide Day0 de Cambricon met en lumière la force des plateformes de calcul nationales dans le soutien aux modèles ultra-grands et complexes, signalant que l’écosystème IA national a atteint un niveau mature de synergie logiciel-matériel, fournissant une base solide pour l’adoption généralisée des grands modèles.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

Cambricon a achevé l’intégration « Day0 » de la dernière série de modèles open-source de DeepSeek,
Face aux mécanismes d’attention sparse et à l’architecture compressée uniques de
Côté matériel, Cambricon exploite les capacités d’accès mémoire et de tri accéléré du MLU pour gérer les structures d’indexation complexes de
Des experts du secteur notent que la fenêtre de contexte de millions de tokens et les capacités de raisonnement logique de premier plan de DeepSeek-V4 exigent des architectures de calcul sous-jacentes robustes. L’adaptation rapide Day0 de Cambricon met en lumière la force des plateformes de calcul nationales dans le soutien aux modèles ultra-grands et complexes, signalant que l’écosystème IA national a atteint un niveau mature de synergie logiciel-matériel, fournissant une base solide pour l’adoption généralisée des grands modèles.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











