Lar
Tsinghua e Tencent Hunyuan vencem o Desafio de Inferência MoE do MLSys2026 com um aumento de velocidade de 4,1x na NPU
O Laboratório de Armazenamento da Universidade de Tsinghua e a equipe de infraestrutura de IA MegEngine da Tencent conquistaram recentemente o título de campeões mundiais no Desafio de Otimização de Inferência de Modelos MoE (Mixture of Experts) na MLSys2026, uma das principais conferências sobre sistemas de aprendizado de máquina.
Para superar os gargalos de desempenho na inferência na arquitetura “mixture-of-experts” (MoE) com parâmetros na escala de trilhões executados em chips NPU heterogêneos, a equipe conjunta projetou uma solução de otimização de cadeia completa para o modelo oficial e o hardware NPU. Ao empregar a estratégia E-Shard para o particionamento de tarefas em nível de especialista, a leitura em lote de tensores 3D PSUM, o caminho GEMV que distribui saídas por vários bancos para garantir a concorrência e o uso de motores escalares para reduzir a latência inicial da transferência de dados, eles resolveram com sucesso a baixa eficiência na transferência de dados e as transferências repetidas de ativação no nível do operador.
Paralelamente, a equipe reorganizou o layout de dados no chip para o módulo de atenção e integrou os operadores principais do Transformer, alcançando um alinhamento de alta precisão no nível de bits.
Figura 3: Diagrama da arquitetura de otimização MoE, apresentando particionamento especializado E-Shard, DMA contínuo, concorrência PSUM/GEMV, pipeline de partida a frio e controle de pré-busca.
Além disso, a equipe desenvolveu um otimizador de operadores de inferência baseado em agentes chamado “Knight”. Por meio de um processo automatizado de ciclo fechado de proposta, implementação de código e iteração, ele ampliou drasticamente o espaço de busca de otimização. Como resultado, o tempo de inferência de ponta a ponta caiu de 14,91 segundos para 3,56 segundos, um aumento de velocidade de 4,1 vezes; a latência de decodificação em uma única etapa caiu de 12,63 ms para 5,45 ms, e a utilização do mecanismo DMA durante o carregamento de pesos subiu para cerca de 80%.
Superando equipes de universidades líderes globais, como Stanford e o MIT, essa conquista destaca a profunda expertise das equipes chinesas na adaptação de grandes modelos aos sistemas subjacentes e na otimização de operadores. Ela também fornece um valioso plano de engenharia para a implantação de modelos MoE com trilhões de parâmetros em futuras plataformas de computação com supernós.
Artigo relacionado
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
Recomendações de tópicos especiais relacionados
SEO
As melhores ferramentas de análise de SERP com IA para estratégias de busca
As melhores e mais bem avaliadas ferramentas de análise de SERP com IA de 2026 para estratégias de busca são selecionadas pela XIX.AI por meio de rigorosos testes práticos e rankings atualizados semanalmente. Essas ferramentas poderosas ajudam você a identificar oportunidades ocultas de otimização, melhorar o desempenho do conteúdo e obter uma vantagem competitiva nas buscas. Descubra hoje mesmo a ferramenta perfeita para aprimorar sua estratégia de busca. Explore agora!
13 ferramentas
xix.ai
Análise de dados
Melhores ferramentas de detecção de anomalias com IA para monitoramento de KPIs entre equipes de SaaS e comércio eletrônico
2026 Últimas Melhores Ferramentas de Detecção de Anomalias por IA Mais Bem Avaliadas para Monitoramento de KPIs em Equipes de SaaS e E-commerce! A XIX.AI compilou uma coleção poderosa e transformadora, baseada em testes rigorosos do mundo real e classificações atualizadas semanalmente. Você encontrará insights detalhados sobre comparações entre versões gratuitas e pagas para ajudá-lo a identificar a solução que deve ser testada, aumentando a produtividade e desbloqueando sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
escrita
Os melhores geradores de esboços com IA para artigos longos de SEO
Os melhores e mais bem avaliados geradores de esboços com IA de 2026 para artigos longos de SEO, cuidadosamente selecionados pela XIX.AI. Essas ferramentas poderosas oferecem um auxílio revolucionário na criação rápida de conteúdo de alta qualidade, aumentando significativamente a eficiência na redação. Confira uma comparação entre versões gratuitas e pagas, além de testes práticos e classificações detalhadas, para ajudá-lo a encontrar a opção imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.
8 ferramentas
xix.ai
Educação e Aprendizagem
Ferramentas de IA para os deveres de casa e a preparação para provas
As melhores e mais recentes ferramentas de IA para lição de casa e preparação para provas em 2026! A XIX.AI seleciona uma lista das ferramentas mais bem avaliadas, poderosas e revolucionárias que ajudam os alunos a aumentar a produtividade, agilizar a realização das lições de casa e se sair muito bem nas provas por meio de testes práticos. Veja uma comparação entre versões gratuitas e pagas, classificações detalhadas e opções imperdíveis para aproveitar ao máximo as vantagens da IA. Explore agora!
10 ferramentas
xix.ai
Composição musical
Ferramentas de Demonstração Vocal com IA para Compositores, Ganchos, Toplines e Sessões de Rascunho Multilíngues
2026 Últimas Melhores Ferramentas de Demonstração Vocal com IA para Compositores, Criadores de Ganchos e Equipes de Conteúdo Multilíngue! A XIX.AI compilou uma lista de ferramentas altamente avaliadas e poderosas, que mudam o jogo e passaram por rigorosos testes no mundo real. Você encontrará dados detalhados de comparação entre versões gratuitas e pagas, classificações abrangentes e opções imperdíveis para ajudá-lo a aumentar a eficiência da escrita e desbloquear seu potencial criativo. Explore agora para descobrir a ferramenta perfeita para todas as suas necessidades de conteúdo!
9 ferramentas
xix.ai
Negócios
As melhores ferramentas de pesquisa competitiva baseadas em IA para pequenas empresas
As melhores e mais bem avaliadas ferramentas de pesquisa competitiva com IA de 2026 para pequenas empresas! A XIX.AI selecionou uma coleção extremamente poderosa e revolucionária, atualizada semanalmente com testes rigorosos no mundo real e classificações detalhadas. Você encontrará uma comparação abrangente entre versões gratuitas e pagas para ajudá-lo a identificar as ferramentas imperdíveis que aumentam sua produtividade e lhe proporcionam uma vantagem competitiva. Explore agora para descobrir a ferramenta perfeita para você!
9 ferramentas
xix.ai
Comentários (1)
![BrianMartinez]()
That's a massive leap! 4.1x NPU speedup for MoE inference? I'm curious about the techniques they used. Is it better quantization or sparse attention? Either way, congrats to the team! 🎉
O Laboratório de Armazenamento da Universidade de Tsinghua e a equipe de infraestrutura de IA MegEngine da Tencent conquistaram recentemente o título de campeões mundiais no Desafio de Otimização de Inferência de Modelos MoE (Mixture of Experts) na MLSys2026, uma das principais conferências sobre sistemas de aprendizado de máquina.
Para superar os gargalos de desempenho na inferência na arquitetura “mixture-of-experts” (MoE) com parâmetros na escala de trilhões executados em chips NPU heterogêneos, a equipe conjunta projetou uma solução de otimização de cadeia completa para o modelo oficial e o hardware NPU. Ao empregar a estratégia E-Shard para o particionamento de tarefas em nível de especialista, a leitura em lote de tensores 3D PSUM, o caminho GEMV que distribui saídas por vários bancos para garantir a concorrência e o uso de motores escalares para reduzir a latência inicial da transferência de dados, eles resolveram com sucesso a baixa eficiência na transferência de dados e as transferências repetidas de ativação no nível do operador.
Paralelamente, a equipe reorganizou o layout de dados no chip para o módulo de atenção e integrou os operadores principais do Transformer, alcançando um alinhamento de alta precisão no nível de bits.
Figura 3: Diagrama da arquitetura de otimização MoE, apresentando particionamento especializado E-Shard, DMA contínuo, concorrência PSUM/GEMV, pipeline de partida a frio e controle de pré-busca.
Além disso, a equipe desenvolveu um otimizador de operadores de inferência baseado em agentes chamado “Knight”. Por meio de um processo automatizado de ciclo fechado de proposta, implementação de código e iteração, ele ampliou drasticamente o espaço de busca de otimização. Como resultado, o tempo de inferência de ponta a ponta caiu de 14,91 segundos para 3,56 segundos, um aumento de velocidade de 4,1 vezes; a latência de decodificação em uma única etapa caiu de 12,63 ms para 5,45 ms, e a utilização do mecanismo DMA durante o carregamento de pesos subiu para cerca de 80%.
Superando equipes de universidades líderes globais, como Stanford e o MIT, essa conquista destaca a profunda expertise das equipes chinesas na adaptação de grandes modelos aos sistemas subjacentes e na otimização de operadores. Ela também fornece um valioso plano de engenharia para a implantação de modelos MoE com trilhões de parâmetros em futuras plataformas de computação com supernós.
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
As melhores e mais bem avaliadas ferramentas de análise de SERP com IA de 2026 para estratégias de busca são selecionadas pela XIX.AI por meio de rigorosos testes práticos e rankings atualizados semanalmente. Essas ferramentas poderosas ajudam você a identificar oportunidades ocultas de otimização, melhorar o desempenho do conteúdo e obter uma vantagem competitiva nas buscas. Descubra hoje mesmo a ferramenta perfeita para aprimorar sua estratégia de busca. Explore agora!
13 ferramentas
xix.ai
2026 Últimas Melhores Ferramentas de Detecção de Anomalias por IA Mais Bem Avaliadas para Monitoramento de KPIs em Equipes de SaaS e E-commerce! A XIX.AI compilou uma coleção poderosa e transformadora, baseada em testes rigorosos do mundo real e classificações atualizadas semanalmente. Você encontrará insights detalhados sobre comparações entre versões gratuitas e pagas para ajudá-lo a identificar a solução que deve ser testada, aumentando a produtividade e desbloqueando sua vantagem com IA. Explore agora!
10 ferramentas
xix.ai
Os melhores e mais bem avaliados geradores de esboços com IA de 2026 para artigos longos de SEO, cuidadosamente selecionados pela XIX.AI. Essas ferramentas poderosas oferecem um auxílio revolucionário na criação rápida de conteúdo de alta qualidade, aumentando significativamente a eficiência na redação. Confira uma comparação entre versões gratuitas e pagas, além de testes práticos e classificações detalhadas, para ajudá-lo a encontrar a opção imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.
8 ferramentas
xix.ai
As melhores e mais recentes ferramentas de IA para lição de casa e preparação para provas em 2026! A XIX.AI seleciona uma lista das ferramentas mais bem avaliadas, poderosas e revolucionárias que ajudam os alunos a aumentar a produtividade, agilizar a realização das lições de casa e se sair muito bem nas provas por meio de testes práticos. Veja uma comparação entre versões gratuitas e pagas, classificações detalhadas e opções imperdíveis para aproveitar ao máximo as vantagens da IA. Explore agora!
10 ferramentas
xix.ai
2026 Últimas Melhores Ferramentas de Demonstração Vocal com IA para Compositores, Criadores de Ganchos e Equipes de Conteúdo Multilíngue! A XIX.AI compilou uma lista de ferramentas altamente avaliadas e poderosas, que mudam o jogo e passaram por rigorosos testes no mundo real. Você encontrará dados detalhados de comparação entre versões gratuitas e pagas, classificações abrangentes e opções imperdíveis para ajudá-lo a aumentar a eficiência da escrita e desbloquear seu potencial criativo. Explore agora para descobrir a ferramenta perfeita para todas as suas necessidades de conteúdo!
9 ferramentas
xix.ai
As melhores e mais bem avaliadas ferramentas de pesquisa competitiva com IA de 2026 para pequenas empresas! A XIX.AI selecionou uma coleção extremamente poderosa e revolucionária, atualizada semanalmente com testes rigorosos no mundo real e classificações detalhadas. Você encontrará uma comparação abrangente entre versões gratuitas e pagas para ajudá-lo a identificar as ferramentas imperdíveis que aumentam sua produtividade e lhe proporcionam uma vantagem competitiva. Explore agora para descobrir a ferramenta perfeita para você!
9 ferramentas
xix.ai
That's a massive leap! 4.1x NPU speedup for MoE inference? I'm curious about the techniques they used. Is it better quantization or sparse attention? Either way, congrats to the team! 🎉
