Компании Liquid AI и Hugging Face выпустили прототипные чекпоинты модели DSpark для трех моделей серии LFM2.5, оснащенные алгоритмом спекулятивной декодировки, который позволяет увеличить скорость обработки запросов до 3,18 раз на GPU и в 2,87 раза на периферийных устройствах без снижения качества результата. В сценариях использования edge-агентов этот алгоритм сокращает время выполнения функциональных вызовов модели LFM2.5-2.6B на 57%, достигая скорости обработки 139 токенов в секунду на устройстве MacBook Pro с процессором M4Max, тем самым снижая барьеры для локальной развертки и обеспечивая лучшую производительность по сравнению с некоторыми проприетарными облачными моделями. Данная технология преодолевает ограничения по пропускной способности памяти в традиционных схемах инференса за счет использования легковесного прототипа модели для генерации кандидатских токенов, которые затем проверяются единообразным образом. Структура системы включает параллельную основную сеть, последовательный блок обработки и механизм верификации уровня уверенности. Исходный прототип модели построен на архитектуре из 5 слоев и 9 блоков с использованием только механизма внимания и содержит около 300 миллионов параметров. Точность вывода остается неизменной по сравнению с базовым методом жадной декодировки. При запуске DSpark совместим с инструментами SGLang и llama.cpp.