Дом
Компания Liquid AI открыла исходный код гибридной экспертной модели LFM2.5 для периферийного искусственного интеллекта
Стартап Liquid AI сегодня официально представил и открыл исходный код своей новейшей крупномасштабной модели для периферийных устройств — LFM2.5-8B-A1B . Разработанная для вызова инструментов и выполнения сложных инструкций на потребительском оборудовании, эта модель повышает производительность логических выводов и инференции на периферийных устройствах, сохраняя при этом чрезвычайно низкие вычислительные затраты.
С архитектурной точки зрения в ней используется разреженная конструкция «смесь экспертов» (MoE) с общим количеством параметров 8,3 миллиарда. Благодаря этой разреженности активируется только 1,5 миллиарда параметров на токен, что обеспечивает плавную локальную работу на смартфонах, ноутбуках и аналогичных устройствах.

Расширенный контекст и более мощное рассуждение
По сравнению со своей предшественницей, LFM2.5 расширяет окно контекста с 32K до 128K токенов и увеличивает объем данных предварительного обучения с 12T до 38T токенов. Как чистая модель вывода, она формирует явную цепочку рассуждений перед предоставлением окончательного ответа. Ее высокосжатый словарь эффективно обрабатывает девять языков, включая китайский и арабский.
Чтобы уменьшить количество логических тупиковых циклов и галлюцинаций при длительном рассуждении, команда разработчиков применила двухэтапное обучение с подкреплением (RL) во время обучения. Оптимизация предпочтений эффективно сокращает количество «тупиковых циклов» в рассуждениях с длинной цепочкой, а специализированный механизм вознаграждения против галлюцинаций позволяет модели активно отказываться отвечать на вопросы, выходящие за пределы ее базы знаний.
Высокая производительность на периферии и широкая поддержка экосистемы
По производительности LFM2.5 продемонстрировала взрывной рост. Ее результаты в тестах на логическое рассуждение и защиту от галлюцинаций значительно превосходят показатели предшественницы, и она даже конкурирует с более крупными моделями в выполнении инструкций. При вызове инструментов модель по умолчанию выдает эффективные вызовы функций Python и поддерживает плавное переключение в формат JSON через системные подсказки.
В день запуска модель получила полную поддержку со стороны основных фреймворков для инференции, включая llama.cpp, MLX, vLLM и SGLang. В ходе аппаратных тестов скорость декодирования достигала 253 байт в секунду на чипе M5 Max и около 30 байт в секунду на мобильных устройствах, что обеспечивает идеальный баланс между конфиденциальностью и эффективностью для пограничных развертываний.
Связанная статья
OpenAI заманивает уоллстритовских банкиров огромными выплатами и долями в компании, чтобы переформатировать финансовую отрасль
OpenAI активно расширяет свое присутствие в сфере инвестиционного банкинга: недавние вакансии показывают, что компания ищет инвестиционных специалистов с опытом работы более двух лет для присоединения к своей команде прикладного искусственного интелл
Пять министерств и ведомств запускают план «Искусственный интеллект в образовании» по разработке курсов MOOC с использованием ИИ на всех этапах академического обучения
10 апреля Министерство образования, Государственный комитет по развитию и реформам, Министерство промышленности и информатизации, Министерство науки и технологий и Национальное управление по данным совместно опубликовали «План действий по внедрению т
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Рекомендации по связанным специальным темам
Комментарии (1)
Стартап Liquid AI сегодня официально представил и открыл исходный код своей новейшей крупномасштабной модели для периферийных устройств —
С архитектурной точки зрения в ней используется разреженная конструкция «смесь экспертов» (MoE) с общим количеством параметров 8,3 миллиарда. Благодаря этой разреженности активируется только 1,5 миллиарда параметров на токен, что обеспечивает плавную локальную работу на смартфонах, ноутбуках и аналогичных устройствах.

Расширенный контекст и более мощное рассуждение
По сравнению со своей предшественницей, LFM2.5 расширяет окно контекста с 32K до 128K токенов и увеличивает объем данных предварительного обучения с 12T до 38T токенов. Как чистая модель вывода, она формирует явную цепочку рассуждений перед предоставлением окончательного ответа. Ее высокосжатый словарь эффективно обрабатывает девять языков, включая китайский и арабский.
Чтобы уменьшить количество логических тупиковых циклов и галлюцинаций при длительном рассуждении, команда разработчиков применила двухэтапное обучение с подкреплением (RL) во время обучения. Оптимизация предпочтений эффективно сокращает количество «тупиковых циклов» в рассуждениях с длинной цепочкой, а специализированный механизм вознаграждения против галлюцинаций позволяет модели активно отказываться отвечать на вопросы, выходящие за пределы ее базы знаний.
Высокая производительность на периферии и широкая поддержка экосистемы
По производительности LFM2.5 продемонстрировала взрывной рост. Ее результаты в тестах на логическое рассуждение и защиту от галлюцинаций значительно превосходят показатели предшественницы, и она даже конкурирует с более крупными моделями в выполнении инструкций. При вызове инструментов модель по умолчанию выдает эффективные вызовы функций Python и поддерживает плавное переключение в формат JSON через системные подсказки.
В день запуска модель получила полную поддержку со стороны основных фреймворков для инференции, включая llama.cpp, MLX, vLLM и SGLang. В ходе аппаратных тестов скорость декодирования достигала 253 байт в секунду на чипе M5 Max и около 30 байт в секунду на мобильных устройствах, что обеспечивает идеальный баланс между конфиденциальностью и эффективностью для пограничных развертываний.
OpenAI заманивает уоллстритовских банкиров огромными выплатами и долями в компании, чтобы переформатировать финансовую отрасль
OpenAI активно расширяет свое присутствие в сфере инвестиционного банкинга: недавние вакансии показывают, что компания ищет инвестиционных специалистов с опытом работы более двух лет для присоединения к своей команде прикладного искусственного интелл
Пять министерств и ведомств запускают план «Искусственный интеллект в образовании» по разработке курсов MOOC с использованием ИИ на всех этапах академического обучения
10 апреля Министерство образования, Государственный комитет по развитию и реформам, Министерство промышленности и информатизации, Министерство науки и технологий и Национальное управление по данным совместно опубликовали «План действий по внедрению т
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью











