OpenRouter、AIによる複数ターンにわたる会話のコストを大幅に削減する技術を発表
AI会話技術の進化に伴い、OpenRouterは、エージェントとの複数ターンにわたる会話におけるトークンコストを削減するために設計された2つの新機能、「プロンプトキャッシュ」と「スティッキールーティング」をリリースしました。この革新的な機能により、開発者はエージェントとの長時間のやり取りにおけるコストを削減でき、エージェントアプリケーションのより広範な導入が促進されます。
マルチターン会話では、エージェントが同じシステムプロンプト、ツール定義、戦略指示を頻繁に再送信します。たとえユーザーが6回のやり取りの中で入力を1つだけ変更したとしても、繰り返されるプロンプトごとに課金が発生します。「プロンプトキャッシュ」機能により、OpenRouterはキャッシュされたデータを取得できるため、同一のプロンプトを再送信するコストを回避できます。 プロバイダーによっては、キャッシュからの読み取りコストは標準的な入力価格の0.1~0.5倍であり、費用を大幅に削減できます。例えば、Claude Sonnet 4.6では、キャッシュからの読み取りは100万トークンあたりわずか0.30ドルであるのに対し、通常の入力は3.00ドルかかります。

複数のターンにわたってキャッシュの有効性を維持するため、OpenRouterの「スティッキー・ルーティング」機能は、ホットキャッシュを保持している同じプロバイダーに後続のリクエストを送信します。これにより、開発者は会話全体を通じて一貫して低コストのキャッシュ読み取りを利用できます。
ただし、この革新的な機能を最大限に活用するには、開発者はセッションを最初から最後まで維持する必要があります。最適なキャッシュを実現するため、OpenRouterではsession_idの設定を推奨しています。これにより、キャッシュヒット時だけでなく、最初のリクエストが成功した直後にスティッキー・ルーティングが有効になります。また、開発者はレスポンスデータを確認することで、キャッシュの使用状況を確認することもできます。
AI技術の進歩に伴い、OpenRouterの最新機能は、開発者に強力なコスト管理ツールを提供するだけでなく、エージェントアプリケーションに新たな可能性を切り開きます。
関連記事
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
関連特集おすすめ
コメント (0)
0/500
AI会話技術の進化に伴い、OpenRouterは、エージェントとの複数ターンにわたる会話におけるトークンコストを削減するために設計された2つの新機能、「プロンプトキャッシュ」と「スティッキールーティング」をリリースしました。この革新的な機能により、開発者はエージェントとの長時間のやり取りにおけるコストを削減でき、エージェントアプリケーションのより広範な導入が促進されます。
マルチターン会話では、エージェントが同じシステムプロンプト、ツール定義、戦略指示を頻繁に再送信します。たとえユーザーが6回のやり取りの中で入力を1つだけ変更したとしても、繰り返されるプロンプトごとに課金が発生します。「プロンプトキャッシュ」機能により、OpenRouterはキャッシュされたデータを取得できるため、同一のプロンプトを再送信するコストを回避できます。 プロバイダーによっては、キャッシュからの読み取りコストは標準的な入力価格の0.1~0.5倍であり、費用を大幅に削減できます。例えば、Claude Sonnet 4.6では、キャッシュからの読み取りは100万トークンあたりわずか0.30ドルであるのに対し、通常の入力は3.00ドルかかります。

複数のターンにわたってキャッシュの有効性を維持するため、OpenRouterの「スティッキー・ルーティング」機能は、ホットキャッシュを保持している同じプロバイダーに後続のリクエストを送信します。これにより、開発者は会話全体を通じて一貫して低コストのキャッシュ読み取りを利用できます。
ただし、この革新的な機能を最大限に活用するには、開発者はセッションを最初から最後まで維持する必要があります。最適なキャッシュを実現するため、OpenRouterではsession_idの設定を推奨しています。これにより、キャッシュヒット時だけでなく、最初のリクエストが成功した直後にスティッキー・ルーティングが有効になります。また、開発者はレスポンスデータを確認することで、キャッシュの使用状況を確認することもできます。
AI技術の進歩に伴い、OpenRouterの最新機能は、開発者に強力なコスト管理ツールを提供するだけでなく、エージェントアプリケーションに新たな可能性を切り開きます。
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ





家






