Google DeepMind、LLM生成型検索の検索速度を948倍に高速化する「STATIC」フレームワークを発表
現代の産業用レコメンデーションシステムにおいて、大規模言語モデル(LLM)に基づくジェネレーティブ・リトリーバル(GR)が、従来のエмбеディングベースの検索に徐々に取って代わりつつある。しかし、実際には、このアプローチには重大な課題がある。すなわち、モデルが不正な商品IDを生成したり、在庫制約に違反する出力を生成したりすることが多く、その結果、意味をなさないレコメンデーションが生じてしまう。
この問題を解決するため、Google DeepMindとYouTubeの研究者らは共同で、STATIC(Sparse Transition Matrix Accelerated Trie Index for Constrained Decoding)と呼ばれる新しいフレームワークを発表した。この技術は、革新的な数学的手法を活用し、LLMにおける制約付きデコーディングを驚異的な948倍の速度で高速化する。

主要な技術的ブレークスルー:
「ツリー」を「行列」に変換:従来の制約検証はプレフィックスツリー(Trie)に依存していますが、GPUやTPUなどのハードウェア上では処理効率が低くなります。STATICは、この複雑なツリーを静的圧縮疎行列(CSR)に変換し、検証処理をハードウェアが効率的に処理できるベクトル化された演算へと変換します。
卓越した応答速度:30億パラメータのモデルを用いたテストにおいて、STATICは1ステップあたりのレイテンシを0.033ミリ秒まで短縮しました。これは、従来のCPUベースの検索に比べて約1,000倍、既存のハードウェア加速ソリューションに比べて40倍以上高速です。
YouTubeでの成功事例:STATICは、YouTubeの動画レコメンデーションシステムに導入され、過去7日以内の動画というビジネス上の制約を満たすレコメンデーションを実現しています。テストの結果、新しい動画の再生回数が5.1%増加したほか、クリック率(CTR)も著しく向上しました。
さらに、STATICはコールドスタート段階における生成型検索の限界にも対処しています。正確なデコード制約を課すことで、モデルはこれまで一度も遭遇したことのない全く新しい製品を推薦する際にも、精度を大幅に向上させることができます。
関連記事
Slackbot が AI エージェントになる
Salesforceの企業向けメッセージングプラットフォームSlackに組み込まれた自動化アシスタント「Slackbot」は、AIエージェントへと進化しつつある。SalesforceのCTOであるパーカー・ハリス氏は、OpenAIのChatGPTに匹敵するバイラルな普及を達成する可能性を構想している。クラウドソフトウェア大手は火曜日、アップデートされたSlackbotをリリースした。Business+およびEnterprise+の顧客が利用可能なこの新しいAI駆動版は、Slack内で直接情報の
ByteDance、コアAIインセンティブを強化、Doubaoが14.6%急伸
ByteDanceは最近、DouBaoの株式に関する説明会を開催し、DouBao部門に関わる従業員向けの新たなインセンティブ政策を発表した。DouBao株式の行使価格は2026年6月の14.85ドルから17.02ドルに引き上げられ、約14.6%の増加となった。この改定により、DouBao株式の評価額が上昇するだけでなく、その配布範囲も大幅に拡大した。個人の役割に応じて、一部の従業員は総報酬の約5%に相当するDouBao株式を受け取ることができる。新しい交換メカニズムの下、ByteDanceは従
MiniMax、グローバルのAI専門家に対するインセンティブを提供する「10xチームプログラム」を発表
MiniMax(稀宇科技)の汎用人工知能ラボは、グローバルな人材連携イニシアチブ「10xチーム」を正式に開始しました。このプログラムは、大規模モデルの専門分野における深い応用を探求するために、各業界のトップエキスパートを募集することを目的としています。深い業界知識と最先端のAIを統合することで、MiniMaxは汎用から専門的なシナリオへと大規模モデルの生産性を拡大し、最終的に業界の効率に「10倍の増加」をもたらすことを目指しています。業界の認知価値を検証し、マルチモーダルの中核リソースを開放す
関連特集おすすめ
コメント (1)
0/500
現代の産業用レコメンデーションシステムにおいて、大規模言語モデル(LLM)に基づくジェネレーティブ・リトリーバル(GR)が、従来のエмбеディングベースの検索に徐々に取って代わりつつある。しかし、実際には、このアプローチには重大な課題がある。すなわち、モデルが不正な商品IDを生成したり、在庫制約に違反する出力を生成したりすることが多く、その結果、意味をなさないレコメンデーションが生じてしまう。
この問題を解決するため、Google DeepMindとYouTubeの研究者らは共同で、STATIC(Sparse Transition Matrix Accelerated Trie Index for Constrained Decoding)と呼ばれる新しいフレームワークを発表した。この技術は、革新的な数学的手法を活用し、LLMにおける制約付きデコーディングを驚異的な948倍の速度で高速化する。

主要な技術的ブレークスルー:
「ツリー」を「行列」に変換:従来の制約検証はプレフィックスツリー(Trie)に依存していますが、GPUやTPUなどのハードウェア上では処理効率が低くなります。STATICは、この複雑なツリーを静的圧縮疎行列(CSR)に変換し、検証処理をハードウェアが効率的に処理できるベクトル化された演算へと変換します。
卓越した応答速度:30億パラメータのモデルを用いたテストにおいて、STATICは1ステップあたりのレイテンシを0.033ミリ秒まで短縮しました。これは、従来のCPUベースの検索に比べて約1,000倍、既存のハードウェア加速ソリューションに比べて40倍以上高速です。
YouTubeでの成功事例:STATICは、YouTubeの動画レコメンデーションシステムに導入され、過去7日以内の動画というビジネス上の制約を満たすレコメンデーションを実現しています。テストの結果、新しい動画の再生回数が5.1%増加したほか、クリック率(CTR)も著しく向上しました。
さらに、STATICはコールドスタート段階における生成型検索の限界にも対処しています。正確なデコード制約を課すことで、モデルはこれまで一度も遭遇したことのない全く新しい製品を推薦する際にも、精度を大幅に向上させることができます。
Slackbot が AI エージェントになる
Salesforceの企業向けメッセージングプラットフォームSlackに組み込まれた自動化アシスタント「Slackbot」は、AIエージェントへと進化しつつある。SalesforceのCTOであるパーカー・ハリス氏は、OpenAIのChatGPTに匹敵するバイラルな普及を達成する可能性を構想している。クラウドソフトウェア大手は火曜日、アップデートされたSlackbotをリリースした。Business+およびEnterprise+の顧客が利用可能なこの新しいAI駆動版は、Slack内で直接情報の
ByteDance、コアAIインセンティブを強化、Doubaoが14.6%急伸
ByteDanceは最近、DouBaoの株式に関する説明会を開催し、DouBao部門に関わる従業員向けの新たなインセンティブ政策を発表した。DouBao株式の行使価格は2026年6月の14.85ドルから17.02ドルに引き上げられ、約14.6%の増加となった。この改定により、DouBao株式の評価額が上昇するだけでなく、その配布範囲も大幅に拡大した。個人の役割に応じて、一部の従業員は総報酬の約5%に相当するDouBao株式を受け取ることができる。新しい交換メカニズムの下、ByteDanceは従
MiniMax、グローバルのAI専門家に対するインセンティブを提供する「10xチームプログラム」を発表
MiniMax(稀宇科技)の汎用人工知能ラボは、グローバルな人材連携イニシアチブ「10xチーム」を正式に開始しました。このプログラムは、大規模モデルの専門分野における深い応用を探求するために、各業界のトップエキスパートを募集することを目的としています。深い業界知識と最先端のAIを統合することで、MiniMaxは汎用から専門的なシナリオへと大規模モデルの生産性を拡大し、最終的に業界の効率に「10倍の増加」をもたらすことを目指しています。業界の認知価値を検証し、マルチモーダルの中核リソースを開放す





家






