Дом
Fireworks AI представляет FireRouter с Opus: снижение затрат на кодирование на 57% при минимальной потере точности
Fireworks AI представила FireRouter с Opus — первую в отрасли систему маршрутизации, учитывающую кэширование и адаптированную для серии моделей Claude Opus. Теперь доступная через серверный конечный пункт, эта независимая модель маршрутизации прошла более месяца внутреннего A/B-тестирования, обеспечив точность 98,1% для задач кодирования и снизив затраты на 57% по сравнению с использованием только Opus.
FireRouter работает, оценивая пригодность каждой модели для текущей задачи при каждом взаимодействии с пользователем. Она рассчитывает затраты на обработку, включая кэширование запросов, и определяет, экономит ли переключение на другую модель достаточно средств, чтобы компенсировать потерю кэшированных данных. Затем система направляет трафик на модель, обеспечивающую оптимальный баланс между качеством и стоимостью. В настоящее время пул маршрутизации включает Claude Opus5.5, GLM5.3 и GLM5.3Flash, с планами интеграции новых моделей по мере их появления.

Для тестирования использовался внутренний трафик кодирования, случайным образом распределяя сессии между группой FireRouter с Opus и контрольной группой, использующей только Opus, с идентичными рабочими нагрузками и базами пользователей. Результаты показали снижение затрат с $15,36 до $6,63 за сессию, что составляет уменьшение на 57% (±19 процентных пунктов, доверительный интервал 95%). С точки зрения точности, FireRouter с Opus достигла 78,7% в оценочных раундах по сравнению с 80,2% для одного Opus — разница всего в 1,5 процентных пункта (±1,3), что представляет собой 98,1% от общей точности Opus.
Что касается частоты попаданий в кэш, FireRouter с Opus достигла 94,2%, тогда как один Opus показал 97,8%, разница составила 3,6 процентных пункта. Fireworks AI отмечает, что это преднамеренный незначительный компромисс: поскольку модели с открытым исходным кодом эффективно справляются с рутинными задачами кодирования, маршрутизация, учитывающая кэширование, значительно снижает общие затраты за счет направления более простых запросов на более доступные модели.

Связанная статья
Claude Opus 5.2 Night Gray выходит с более быстрым откликом, решая проблему лени
Opus 5.2 тихо вышел этим утром, что побудило многих разработчиков заметить, что обновленная модель Claude Opus 5.2 начала ограниченное развертывание в рамках Claude Code.Вчера вечером пользователи X заметили, что вызов Opus 5 в Claude Code дает прои
NVIDIA представляет модель единого аудиоинтеллекта Nemotron-Labs-Audex-30B-A3B
По мере стремительного развития мультимодальных больших моделей возможности обработки аудио часто оказываются под угрозой: многие модели улучшают понимание аудио за счет ухудшения логики работы с текстом. Чтобы решить эту проблему, исследователи NVID
Как исправить Core Web Vitals для мобильной SEO
Улучшение локального SEO: создание облачных стеков Google Drive для вашей сущностиСодержание:ВведениеПонимание облачных стеков сущностей GoogleКлючевые преимущества облачных стеков сущностей GoogleНачало работы с облачными стеками Google Drive 4
Рекомендации по связанным специальным темам
Комментарии (0)
Fireworks AI представила FireRouter с Opus — первую в отрасли систему маршрутизации, учитывающую кэширование и адаптированную для серии моделей Claude Opus. Теперь доступная через серверный конечный пункт, эта независимая модель маршрутизации прошла более месяца внутреннего A/B-тестирования, обеспечив точность 98,1% для задач кодирования и снизив затраты на 57% по сравнению с использованием только Opus.
FireRouter работает, оценивая пригодность каждой модели для текущей задачи при каждом взаимодействии с пользователем. Она рассчитывает затраты на обработку, включая кэширование запросов, и определяет, экономит ли переключение на другую модель достаточно средств, чтобы компенсировать потерю кэшированных данных. Затем система направляет трафик на модель, обеспечивающую оптимальный баланс между качеством и стоимостью. В настоящее время пул маршрутизации включает Claude Opus5.5, GLM5.3 и GLM5.3Flash, с планами интеграции новых моделей по мере их появления.

Для тестирования использовался внутренний трафик кодирования, случайным образом распределяя сессии между группой FireRouter с Opus и контрольной группой, использующей только Opus, с идентичными рабочими нагрузками и базами пользователей. Результаты показали снижение затрат с $15,36 до $6,63 за сессию, что составляет уменьшение на 57% (±19 процентных пунктов, доверительный интервал 95%). С точки зрения точности, FireRouter с Opus достигла 78,7% в оценочных раундах по сравнению с 80,2% для одного Opus — разница всего в 1,5 процентных пункта (±1,3), что представляет собой 98,1% от общей точности Opus.
Что касается частоты попаданий в кэш, FireRouter с Opus достигла 94,2%, тогда как один Opus показал 97,8%, разница составила 3,6 процентных пункта. Fireworks AI отмечает, что это преднамеренный незначительный компромисс: поскольку модели с открытым исходным кодом эффективно справляются с рутинными задачами кодирования, маршрутизация, учитывающая кэширование, значительно снижает общие затраты за счет направления более простых запросов на более доступные модели.

Claude Opus 5.2 Night Gray выходит с более быстрым откликом, решая проблему лени
Opus 5.2 тихо вышел этим утром, что побудило многих разработчиков заметить, что обновленная модель Claude Opus 5.2 начала ограниченное развертывание в рамках Claude Code.Вчера вечером пользователи X заметили, что вызов Opus 5 в Claude Code дает прои
NVIDIA представляет модель единого аудиоинтеллекта Nemotron-Labs-Audex-30B-A3B
По мере стремительного развития мультимодальных больших моделей возможности обработки аудио часто оказываются под угрозой: многие модели улучшают понимание аудио за счет ухудшения логики работы с текстом. Чтобы решить эту проблему, исследователи NVID
Как исправить Core Web Vitals для мобильной SEO
Улучшение локального SEO: создание облачных стеков Google Drive для вашей сущностиСодержание:ВведениеПонимание облачных стеков сущностей GoogleКлючевые преимущества облачных стеков сущностей GoogleНачало работы с облачными стеками Google Drive 4











