Lar
A Cambricon revela a compatibilidade completa da série Model Day0 e o código otimizado de código aberto para o DeepSeek-V4

A Cambricon concluiu a integração “Day0” da mais recente série de modelos de código aberto da DeepSeek, DeepSeek-V4 , utilizando o framework de inferência vLLM. Esta adaptação abrangente abrange tanto a variante Flash (285 bilhões de parâmetros) quanto a variante Pro (1,6 trilhão de parâmetros), garantindo estabilidade imediata no hardware da Cambricon desde o lançamento. O código de integração correspondente foi oficialmente disponibilizado como código aberto no GitHub.
Ao abordar os mecanismos de atenção esparsa e a arquitetura compactada exclusivos do DeepSeek-V4 , a Cambricon acelerou componentes essenciais do núcleo, como o Compressor, por meio de sua biblioteca proprietária de fusão vetorial, Torch-MLU-Ops. Utilizando a linguagem BangC de alto desempenho, a equipe desenvolveu kernels otimizados para operações críticas, como Atenção Esparsa e GroupGemm. A solução suporta totalmente a paralelismo híbrido de cinco dimensões (TP/PP/SP/DP/EP), quantização de baixa precisão e a separação PD dentro do framework vLLM, aumentando significativamente a taxa de tokens processados enquanto mantém rigorosas restrições de latência.
No lado do hardware, a Cambricon explora as capacidades de aceleração de acesso à memória e ordenação do MLU para gerenciar as complexas estruturas de indexação do DeepSeek-V4 . Aproveitando a alta largura de banda de interconexão e a comunicação de baixa latência, essa abordagem minimiza a sobrecarga nas fases de Prefill e Decode, maximizando assim a eficiência da inferência.
Especialistas do setor observam que a janela de contexto de milhões de tokens e as capacidades de raciocínio lógico de ponta do DeepSeek-V4 exigem arquiteturas computacionais subjacentes robustas. A rápida adaptação Day0 da Cambricon destaca a força das plataformas computacionais nacionais no suporte a modelos ultra grandes e complexos, indicando que o ecossistema de IA nacional atingiu um nível maduro de sinergia entre software e hardware, fornecendo uma base sólida para a adoção generalizada de grandes modelos.
Artigo relacionado
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Como corrigir as Core Web Vitals para melhorar o ranqueamento de SEO
Simplifique os Comentários do Boletim Escolar com Ferramentas de IAIntroduçãoFerramentas de IA para Gerar Comentários do Boletim EscolarMagic SchoolAlmanac AIChat GPTUsando o Magic School para Gerar Comentários do Boletim EscolarFazendo login n
Recomendações de tópicos especiais relacionados
Comentários (0)

A Cambricon concluiu a integração “Day0” da mais recente série de modelos de código aberto da DeepSeek,
Ao abordar os mecanismos de atenção esparsa e a arquitetura compactada exclusivos do
No lado do hardware, a Cambricon explora as capacidades de aceleração de acesso à memória e ordenação do MLU para gerenciar as complexas estruturas de indexação do
Especialistas do setor observam que a janela de contexto de milhões de tokens e as capacidades de raciocínio lógico de ponta do DeepSeek-V4 exigem arquiteturas computacionais subjacentes robustas. A rápida adaptação Day0 da Cambricon destaca a força das plataformas computacionais nacionais no suporte a modelos ultra grandes e complexos, indicando que o ecossistema de IA nacional atingiu um nível maduro de sinergia entre software e hardware, fornecendo uma base sólida para a adoção generalizada de grandes modelos.
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
Como corrigir as Core Web Vitals para melhorar o ranqueamento de SEO
Simplifique os Comentários do Boletim Escolar com Ferramentas de IAIntroduçãoFerramentas de IA para Gerar Comentários do Boletim EscolarMagic SchoolAlmanac AIChat GPTUsando o Magic School para Gerar Comentários do Boletim EscolarFazendo login n











