Дом
Cambricon представляет полную серию совместимости Model Day0 и открывает оптимизированный код для DeepSeek-V4

Компания Cambricon завершила интеграцию «Day0» новейшей серии открытых моделей DeepSeek, DeepSeek-V4 , с использованием фреймворка для вывода vLLM. Эта комплексная адаптация охватывает как вариант Flash (285 млрд параметров), так и вариант Pro (1,6 трлн параметров), обеспечивая немедленную стабильность на оборудовании Cambricon с момента выпуска. Соответствующий код интеграции официально опубликован как открытый исходный код на GitHub.
Учитывая уникальные механизмы разреженного внимания и сжатую архитектуру DeepSeek-V4 , ядро ускорения Cambricon оптимизировало ключевые компоненты, такие как Compressor, с использованием собственной библиотеки векторного слияния Torch-MLU-Ops. Используя высокопроизводительный язык BangC, команда разработала оптимизированные ядра для критически важных операций, таких как разреженное внимание (Sparse Attention) и GroupGemm. Решение полностью поддерживает пятимерную гибридную параллельную обработку (TP/PP/SP/DP/EP), квантование низкой точности и разделение PD в рамках фреймворка vLLM, что значительно увеличивает пропускную способность токенов при строгом соблюдении ограничений по задержке.
На стороне оборудования Cambricon использует возможности ускорения доступа к памяти и сортировки MLU для управления сложными структурами индексации DeepSeek-V4 . Благодаря высокой пропускной способности межсоединений и низкой задержке связи этот подход минимизирует накладные расходы на этапах Prefill и Decode, тем самым максимизируя эффективность вывода.
Отраслевые эксперты отмечают, что контекстное окно DeepSeek-V4 на миллион токенов и выдающиеся способности к логическому рассуждению требуют надежных базовых вычислительных архитектур. Быстрая адаптация Cambricon на уровне Day0 подчеркивает сильные стороны отечественных вычислительных платформ в поддержке сверхбольших сложных моделей, сигнализируя о том, что отечественная экосистема ИИ достигла зрелого уровня программно-аппаратной синергии, обеспечивая мощную основу для широкого внедрения больших моделей.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)

Компания Cambricon завершила интеграцию «Day0» новейшей серии открытых моделей DeepSeek,
Учитывая уникальные механизмы разреженного внимания и сжатую архитектуру
На стороне оборудования Cambricon использует возможности ускорения доступа к памяти и сортировки MLU для управления сложными структурами индексации
Отраслевые эксперты отмечают, что контекстное окно
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











