AIコンピューティングの探求:Cerebrasは次なる大物か?

AIモデルの実行に必要な計算リソースへの需要が急増し続ける中、業界関係者はハードウェアの確保と、データセンターでの展開による収益化という2つの重大な課題に直面しています。
モデルの学習ではなく、ユーザーからのリクエストに応じる推論フェーズに特化した新種のネオクラウドプロバイダーであるGeneral Computeは、AIエコシステムの進化方向性を示すソリューションを提供しています。これらの戦略的優位性により、FUSE VCがリードし、Carya Venture PartnersやVillage Global Venturesが参加する1,500万ドルのシードラウンドで、企業価値6,000万ドルのバリュエーションでの資金調達を実現しました。
最適なチップの選定が最初の課題です。GPUへの需要は急増していますが、学習済みAIモデルの実行には必ずしも最も効率的な選択肢ではないことが認識されつつあります。推論に必要な計算要件は学習とは大きく異なり、この目的のために設計された新世代のチップの開発を促しています。12月にNvidiaがGroqを200億ドルで買収したこと、そして先週Cerebrasが570億ドル規模のIPOを実施したことは、このシフトを裏付けるものです。
GroqおよびCerebrasの容量制約を踏まえ、General Computeの共同創業者でありCEOのFinn PuklowskiとCTOのJason Goodisonは代替案を見出しました。彼らは、Intelの支援を受けたチップメーカーで、推論ソリューションに特化しておりシリコンバレーでの注目度が低いSambaNovaと提携しています。
SambaNovaが今年後半に新チップをリリースする際に、この状況は変化する可能性があります。このアーキテクチャはより高い柔軟性を提供し、推論計算中にコンテキストを保存するためにより多くのメモリを利用します。SambaNovaによれば、これらのチップはGPUだけでなく、GroqやCerebrasなどの競合他社による専用ハードウェアよりもパフォーマンスが高いとのことです。Puklowskiによると、新チップは標準的なGPUの約250トークン/秒に対して、1秒あたり600〜700トークンの速度を実現するとのことです。
General ComputeはSambaNovaのSN50チップを3億ドル分発注し、これらを展開する初のネオクラウドとなることを目指しています。
これらのチップは、もう一つの主要な課題である展開場所の問題にも対処しています。水冷ではなく空冷であり、消費電力が少ないため、新しいインフラ投資を必要とせずに既存のデータセンター施設に統合できます。
Puklowskiは、General Computeが第三者の施設に自社のハードウェアを設置するコロケーション契約を追求しています。これらのパートナーシップは従来のデータセンタープロバイダーを超え、特にビットコイン採掘のコストが市場価値を上回る状況下でインフラの再利用を模索するクリプトマイナーにも及びます。
General Computeは先週クラウドサービスを開始し、現在、強力なオープンソース大規模言語モデルであるMiniMax 2.7に対して最速のパフォーマンスを提供していると主張しています。
2021年、推論ブームの初期段階でGroqに出資したベンチャーキャピタル投資家のJoe Hasselmannは、今年AIに焦点を当てた新ファンドEvercrest Capital Partnersを立ち上げ、General Computeを最初の投資先としました。Hasselmannは、SambaNovaとGeneral Computeの提携がCoreweaveとNvidiaの関係、およびGroqのチップ製造と以前のクラウド提供の組み合わせに類似していると考えています。
「彼らは、高成長環境に自社のチップを設置する多様な顧客基盤を必要としています」とHasselmannは指摘しました。「General ComputeがSambaNovaに賭けているように、SambaNovaもGeneral Computeに賭けているのです。」
今後のAIにおいて、どのコンピュータアーキテクチャが最大の価値を確保するかという重要な問いが残っています。推論クラウドは、単一のプロバイダーが支配せず、速度とコストが主要な競争要因となる、複数のモデルとエージェントが存在するエコシステムへの暗黙の賭けを表しています。これは、トークン支出を最適化するために顧客に複数のモデルへのアクセスを提供するOpenRouterの最近の1億1,300万ドルのシリーズB資金調達にも反映されています。
速度は価格設定と機能において重要です。Puklowskiは、長時間かかるコーディングエージェントの作業を5〜10分に短縮し、効率的な会話のための高速推論を可能にすることで、カスタマーサービス用のオーディオエージェントをより経済的にすることを目指しています。
「ChatGPTを使用して1秒あたり50トークンを生成する場合、それは人間の読書速度よりもはるかに速いですが」とPuklowskiはTechCrunchに語りました。「しかし、エージェントが私たちの代わりに読み取りやデータベース照問を行うエージェント間インタラクションへのシフトに伴い、はるかに高い速度で動作する必要があります。」
関連記事
OpenAIのプロダクト責任者、ティボー・ソトヨーによる「世界がなぜ準備ができているように見えるか」についての考察
OpenAIのソフトウェアエンジニアリングツール「Codex」は、製品が主要な成長マイルストーンに達するたびにトークン制限をリセットすることで知られるエンジニア、ティボー・ソトーヨ氏と長年結びついてきました。現在、OpenAIは「ChatGPT Work」というプラットフォームを通じて、その達成感をより広い層に提供することを目指しています。このプラットフォームは、ホワイトカラーの専門家がAIエージェントを活用できるよう設計されています。私たちは最近、ソトーヨ氏に製品の課題についてインタビューしま
OpenAIは、ChatGPTが家庭に深く浸透する中で、家族を対象とした戦略に賭けている
ChatGPTが生成系AIを注目の的に押し上げてから3年以上が経過し、OpenAIは対象を個人ユーザーから世帯全体へと拡大している。OpenAIは、親、介護者、シニア層を対象に、プラットフォーム全体で家族向けの体験を開発するためのプロダクトマネージャーをサンフランシスコで募集している。求人票によると、この職位には、家族向けおよび信頼が敏感な消費者向けアプリケーションの製品作成に関する背景経験が求められている。この募集は、ChatGPTのユーザー層が当初の若年層を超えて高齢化していることと一致する
食欲をそそらないAI生成メニューの背後にある同一性の問題
最初は、自分の精神状態を疑い始めるだろう。カフェに入り、ベージュのサンドイッチで満たされたメニューをスキャンするが、すべての画像が不気味なほど完璧に見える――対称性が完璧で、過度に滑らかだ――これは何かおかしいという直感的な感覚を引き起こす。あなたは錯覚を抱いているのではなく、あなたの直感は正しい。生成AIによる視覚表現は、レストラン業界に浸透しており、これは「魅力的な」美学に偏って訓練されたモデルによって駆動されており、それが本質的に間違っているように感じられるためである。時には、これらの画像
関連特集おすすめ
コメント (0)
0/500

AIモデルの実行に必要な計算リソースへの需要が急増し続ける中、業界関係者はハードウェアの確保と、データセンターでの展開による収益化という2つの重大な課題に直面しています。
モデルの学習ではなく、ユーザーからのリクエストに応じる推論フェーズに特化した新種のネオクラウドプロバイダーであるGeneral Computeは、AIエコシステムの進化方向性を示すソリューションを提供しています。これらの戦略的優位性により、FUSE VCがリードし、Carya Venture PartnersやVillage Global Venturesが参加する1,500万ドルのシードラウンドで、企業価値6,000万ドルのバリュエーションでの資金調達を実現しました。
最適なチップの選定が最初の課題です。GPUへの需要は急増していますが、学習済みAIモデルの実行には必ずしも最も効率的な選択肢ではないことが認識されつつあります。推論に必要な計算要件は学習とは大きく異なり、この目的のために設計された新世代のチップの開発を促しています。12月にNvidiaがGroqを200億ドルで買収したこと、そして先週Cerebrasが570億ドル規模のIPOを実施したことは、このシフトを裏付けるものです。
GroqおよびCerebrasの容量制約を踏まえ、General Computeの共同創業者でありCEOのFinn PuklowskiとCTOのJason Goodisonは代替案を見出しました。彼らは、Intelの支援を受けたチップメーカーで、推論ソリューションに特化しておりシリコンバレーでの注目度が低いSambaNovaと提携しています。
SambaNovaが今年後半に新チップをリリースする際に、この状況は変化する可能性があります。このアーキテクチャはより高い柔軟性を提供し、推論計算中にコンテキストを保存するためにより多くのメモリを利用します。SambaNovaによれば、これらのチップはGPUだけでなく、GroqやCerebrasなどの競合他社による専用ハードウェアよりもパフォーマンスが高いとのことです。Puklowskiによると、新チップは標準的なGPUの約250トークン/秒に対して、1秒あたり600〜700トークンの速度を実現するとのことです。
General ComputeはSambaNovaのSN50チップを3億ドル分発注し、これらを展開する初のネオクラウドとなることを目指しています。
これらのチップは、もう一つの主要な課題である展開場所の問題にも対処しています。水冷ではなく空冷であり、消費電力が少ないため、新しいインフラ投資を必要とせずに既存のデータセンター施設に統合できます。
Puklowskiは、General Computeが第三者の施設に自社のハードウェアを設置するコロケーション契約を追求しています。これらのパートナーシップは従来のデータセンタープロバイダーを超え、特にビットコイン採掘のコストが市場価値を上回る状況下でインフラの再利用を模索するクリプトマイナーにも及びます。
General Computeは先週クラウドサービスを開始し、現在、強力なオープンソース大規模言語モデルであるMiniMax 2.7に対して最速のパフォーマンスを提供していると主張しています。
2021年、推論ブームの初期段階でGroqに出資したベンチャーキャピタル投資家のJoe Hasselmannは、今年AIに焦点を当てた新ファンドEvercrest Capital Partnersを立ち上げ、General Computeを最初の投資先としました。Hasselmannは、SambaNovaとGeneral Computeの提携がCoreweaveとNvidiaの関係、およびGroqのチップ製造と以前のクラウド提供の組み合わせに類似していると考えています。
「彼らは、高成長環境に自社のチップを設置する多様な顧客基盤を必要としています」とHasselmannは指摘しました。「General ComputeがSambaNovaに賭けているように、SambaNovaもGeneral Computeに賭けているのです。」
今後のAIにおいて、どのコンピュータアーキテクチャが最大の価値を確保するかという重要な問いが残っています。推論クラウドは、単一のプロバイダーが支配せず、速度とコストが主要な競争要因となる、複数のモデルとエージェントが存在するエコシステムへの暗黙の賭けを表しています。これは、トークン支出を最適化するために顧客に複数のモデルへのアクセスを提供するOpenRouterの最近の1億1,300万ドルのシリーズB資金調達にも反映されています。
速度は価格設定と機能において重要です。Puklowskiは、長時間かかるコーディングエージェントの作業を5〜10分に短縮し、効率的な会話のための高速推論を可能にすることで、カスタマーサービス用のオーディオエージェントをより経済的にすることを目指しています。
「ChatGPTを使用して1秒あたり50トークンを生成する場合、それは人間の読書速度よりもはるかに速いですが」とPuklowskiはTechCrunchに語りました。「しかし、エージェントが私たちの代わりに読み取りやデータベース照問を行うエージェント間インタラクションへのシフトに伴い、はるかに高い速度で動作する必要があります。」
OpenAIのプロダクト責任者、ティボー・ソトヨーによる「世界がなぜ準備ができているように見えるか」についての考察
OpenAIのソフトウェアエンジニアリングツール「Codex」は、製品が主要な成長マイルストーンに達するたびにトークン制限をリセットすることで知られるエンジニア、ティボー・ソトーヨ氏と長年結びついてきました。現在、OpenAIは「ChatGPT Work」というプラットフォームを通じて、その達成感をより広い層に提供することを目指しています。このプラットフォームは、ホワイトカラーの専門家がAIエージェントを活用できるよう設計されています。私たちは最近、ソトーヨ氏に製品の課題についてインタビューしま
OpenAIは、ChatGPTが家庭に深く浸透する中で、家族を対象とした戦略に賭けている
ChatGPTが生成系AIを注目の的に押し上げてから3年以上が経過し、OpenAIは対象を個人ユーザーから世帯全体へと拡大している。OpenAIは、親、介護者、シニア層を対象に、プラットフォーム全体で家族向けの体験を開発するためのプロダクトマネージャーをサンフランシスコで募集している。求人票によると、この職位には、家族向けおよび信頼が敏感な消費者向けアプリケーションの製品作成に関する背景経験が求められている。この募集は、ChatGPTのユーザー層が当初の若年層を超えて高齢化していることと一致する
食欲をそそらないAI生成メニューの背後にある同一性の問題
最初は、自分の精神状態を疑い始めるだろう。カフェに入り、ベージュのサンドイッチで満たされたメニューをスキャンするが、すべての画像が不気味なほど完璧に見える――対称性が完璧で、過度に滑らかだ――これは何かおかしいという直感的な感覚を引き起こす。あなたは錯覚を抱いているのではなく、あなたの直感は正しい。生成AIによる視覚表現は、レストラン業界に浸透しており、これは「魅力的な」美学に偏って訓練されたモデルによって駆動されており、それが本質的に間違っているように感じられるためである。時には、これらの画像





家






