オプション
ニュース
LFM2.5 DSparkのドラフトモデルが公開:推論速度が3.18倍に向上

LFM2.5 DSparkのドラフトモデルが公開:推論速度が3.18倍に向上

2026年9月21日
6

Liquid AIとHugging Faceは、LFM2.5シリーズのDSparkドラフトモデルチェックポイントを正式にリリースしました。これには、LFM2.5-1.2B-Instruct、LFM2.5-2.6B、およびLFM2.5-8B-A1Bが含まれます。 この革新的な機能により、出力の品質を維持しつつ、推論スループットを大幅に向上させる新しい推測的デコードパスが導入されました。

主な性能向上と実運用での活用例

実環境でのテストにより、DSparkの驚異的な高速化が実証されました。GPUではスループットが最大3.18倍に向上し、エッジデバイスでは最大2.87倍の改善が見られました。

エッジエージェントの推論において、LFM2.5-2.6B は関数呼び出しのレイテンシを平均 57% 削減します。M4 Max MacBook Pro でのテストでは、1 秒あたり最大 139 トークンの速度を達成し、ローカルエージェントの導入障壁を下げ、独自のクラウドモデルに匹敵するユーザー体験を提供します。

image.png

DSparkのアーキテクチャと仕組みの理解

従来のLLM推論では、時間の大部分がDRAMからSRAMへの重みのストリーミングに費やされるため、メモリ帯域幅がボトルネックとなります。投機的デコードは、軽量なドラフトモデルを使用して候補トークンを生成し、それらをターゲットモデルによる単一のフォワードパスで検証することでこの問題を解決し、重みの読み込みコストを効果的に分散させます。

DSparkは、以下の3つのコアコンポーネントを通じて既存の手法を統合しています:

並列バックボーンネットワーク:DFlashと同様に、ターゲットモデルのコンテキスト特徴量に基づいて、1回のフォワードパスですべてのドラフトトークンの隠れ状態を生成します。シーケンシャルヘッド(マルコフヘッド): 隣接するトークン間のマルコフ連鎖をシミュレートすることで、依存関係を強化し、後続の位置における受け入れ率を向上させます。信頼度スケジューリングバリデータ:各トークンの生存確率を予測し、検証コストが節約効果を上回る場合、信頼度の低いサフィックスを自動的に破棄します。

トレーニングにおいて、このドラフトモデルはSFT、チャット、コード、関数呼び出しなど、多様なデータセットを組み合わせて利用しています。厳密なアブレーション研究を経て、初期バージョンは5層9ブロックからなるアテンション専用アーキテクチャを採用し、パラメータ数を約3億に抑えています。

image.png

品質保証とエコシステムへの統合

推測的デコードのため、貪欲デコードはターゲットモデルの分布と完全に一致するドラフトトークンのみを受け入れます。拒否されたトークンはターゲットモデルの出力に置き換えられ、生成されたシーケンスがベースラインの貪欲デコード構造と一致し、ベンチマークにおいて精度の低下がないことが保証されます。

リリース時点で、DSparkは主要な推論フレームワークとの互換性を実現しました:

SGLang:専用の統合および起動設定により、アクセラレータ上での実行をサポートしています。llama.cpp:公式のビルドサポートを提供しており、ユーザーはコマンドラインから対応するGGUF重みとドラフトモデルファイルをロードできます。

関連記事
なぜAbnormal AIは『Daybreak』でOpenAIと提携したのか なぜAbnormal AIは『Daybreak』でOpenAIと提携したのか OpenAIのサイバー部門プロダクト責任者、マイケル・アイエロ | 提供:マイケル・アイエロ/LinkedInアブノーマルAIがOpenAIの「Daybreak」プログラムに参加。マイク・アイエロ氏は、この提携により企業向けの実用的な防御策の導入が加速すると述べている最先端のAI企業であるOpenAIは、Abnormal AIと提携し、企業がビジネスおよび製品開発の全領域において、最高水準のAIモ
AIエージェント「エレメンツ・クロー」、超伝導材料の開発を完了 AIエージェント「エレメンツ・クロー」、超伝導材料の開発を完了 人工知能が科学探求の限界を押し広げる中、重要なマイルストーンが達成されました。7月3日、アリババDAMOアカデミーは、中国人民大学および中国科学院大学と提携し、超伝導材料の発見に特化した世界初の人工知能エージェント「Elements Claw」を発表しました。 この画期的な成果は、科学的発見における転換点を示しており、AIを単なる補助的な役割から独立した研究パートナーへと昇格させると同時に、新素材
日本におけるGoogleとYahoo!のSEOランキングを効果的に確認する方法 日本におけるGoogleとYahoo!のSEOランキングを効果的に確認する方法 肖像写真をハリー・ポッター風のスケッチに変換する目次:はじめに写真からスケッチへの変換最小フィルターの使用肖像画変換の別の技法準備作業必要な画像をダウンロードレイヤーの準備画像の彩度削除彩度削除レイヤーの作成レイヤーの調整反転効果の適用レイヤーの反転色彩除外効果の追加画像のぼかし処理ガウスぼかしフィルターの適用ぼかし設定の調整スケッチの仕上げペンツールの使用ディテールの強化と不完全な部分の除去レイヤーの結合反転レイヤーと背景コピーレイヤーの結合長さと短
関連特集おすすめ
健康とウェルネス シフト勤務者、時差ボケの解消、そしてより良い生活リズム作りに最適なAI睡眠コーチングツール
シフト勤務者、時差ボケの解消、そしてより良い生活リズム作りに最適なAI睡眠コーチングツール

2026年最新!シフト勤務者、時差ボケ解消、より良い生活リズム作りに最適なAI睡眠コーチングツール!XIX.AIは、実地テストを経て正確なガイダンスを提供する、画期的な高評価ツールの厳選リストを作成しました。 無料版と有料版の詳しい比較情報や、これらの「必試」ソリューションが、いかに睡眠の質を向上させ、時差ボケの回復を早め、より健康的な生活リズムを築くのに役立つかを確認できます。今すぐチェックして、あなたにぴったりのツールを見つけましょう!

7 ツール
xix.ai
コード Pythonのエラー、APIログ、スタックトレースのトリアージのためのChatGPTデバッグツール
Pythonのエラー、APIログ、スタックトレースのトリアージのためのChatGPTデバッグツール

2026年最新のChatGPTデバッグツールは、Pythonのエラー、APIログ、スタックトレースのトリアージに最適です。これらはXIX.AIで提供されています。この厳選されたトップ評価ソリューションのリストは、無料版と有料版の比較、実際のテスト、詳細なランキングを提供しており、あなたの生産性を大幅に向上させ、複雑な技術的な問題をより迅速に解決できる最も強力なツールを見つけるのに役立ちます。今すぐ探索して、完璧なソリューションを見つけましょう!

9 ツール
xix.ai
テキスト読み上げ 製品デモビデオ用のAIボイスオーバーツール
製品デモビデオ用のAIボイスオーバーツール

2026年最新版・最高評価のAIボイスオーバーツール一覧がXIX.AIにて公開!この厳選リストには、プロ品質のオーディオコンテンツを迅速に作成し、デモ効率を大幅に向上させる強力な革新的なオプションが掲載されています。私たちは実際のテストを実施し、無料版と有料版の比較および週次更新のランキングを提供し、最適なツール選びをサポートします。今すぐ探索して、AIによる優位性を解き放ちましょう!

10 ツール
xix.ai
仕事 スタートアップの事業検証に役立つAIビジネスプラン作成ツール
スタートアップの事業検証に役立つAIビジネスプラン作成ツール

2026年最新版:スタートアップの事業検証に最適なAIビジネスプランツール!XIX.AIは、実環境でのテストを経て正確な結果をもたらす、画期的な高評価ツールを厳選しました。 無料版と有料版の比較、詳細なランキング、そしてわかりやすい分析情報が掲載されており、最適なソリューション選びとスタートアップの成功率向上に役立ちます。今すぐチェックして、AIの優位性を手に入れましょう!

9 ツール
xix.ai
チャットボット ロールプレイと会話練習のためのAIチャットアプリ
ロールプレイと会話練習のためのAIチャットアプリ

2026年最新版!ロールプレイと会話練習に最適なAIチャットアプリBEST!XIX.AIは、厳格な実世界テストを経て卓越した結果をもたらす強力な必須ツールを厳選した高評価リストを提供しています。無料版と有料版の詳細比較、包括的なランキング、これらのアプリがどのように言語スキルとコミュニケーションの自信を効果的に向上させるかに関する洞察をご覧いただけます。今すぐ探索して、練習に最適な完璧なツールを見つけましょう!

10 ツール
xix.ai
デザイン プロダクトチームに最適なAIワイヤーフレームツール
プロダクトチームに最適なAIワイヤーフレームツール

2026年版 プロダクトチーム向け最新・最高評価のAIワイヤーフレームツール!この厳選リストでは、実地テストと厳格なランキングを通じて、生産性を大幅に向上させる、強力で画期的なソリューションを紹介しています。最適なツールを見つけるお手伝いをするため、無料版と有料版の詳細な比較も掲載しています。XIX.AIは、意思決定の指針となる専門家の知見を提供します。 今すぐチェックして、最適なツールを見つけ、プロダクト開発におけるAIの優位性を手に入れましょう!

8 ツール
xix.ai
コメント (0)
0/500
OR