AI算力爭奪戰：Cerebras會是下一個重磅產品嗎？

執行 AI 模型對算力的需求持續激增，然而行業參與者仍面臨兩大關鍵障礙：獲取合適的硬體，並將其部署到資料中心以開始產生收入。

General Compute 是一家專注於推理階段的新興雲服務商，其專長在於模型響應使用者而非進行訓練的階段，提供的解決方案凸顯了 AI 生態系統不斷演變的方向。這些戰略優勢促成了由 FUSE VC 領投、Carya Venture Partners 和 Village Global Ventures 等機構參與的 1500 萬美元種子輪融資，投後估值為 6000 萬美元。

確定最佳晶片是第一個挑戰。儘管 GPU 需求飆升，但人們越來越認識到，它們並非執行已訓練 AI 模型的最有效選擇。推理的計算需求與訓練存在顯著差異，這促使開發出一類專門為此目的設計的晶片。Nvidia 去年 12 月以 200 億美元收購 Groq，以及 Cerebras 上週進行的 570 億美元 IPO，都凸顯了這一轉變。

鑑於 Groq 和 Cerebras 產能受限，General Compute 聯合創始人兼執行長 Finn Puklowski 和技術長 Jason Goodison 找到了替代方案。他們與 SambaNova 合作，這是一家由 Intel 支援的晶片製造商，專注於推理解決方案，在矽谷受到的關注較少。

當 SambaNova 今年晚些時候釋出其新晶片時，這種動態可能會發生變化。該架構提供了更大的靈活性，並利用更多記憶體來儲存推理計算期間的上下文。SambaNova 聲稱，這些晶片的效能不僅優於 GPU，還優於 Groq 和 Cerebras 等競爭對手的專用硬體。據 Puklowski 介紹，新晶片的速度將達到每秒 600 至 700 個 token，而標準 GPU 的速度約為每秒 250 個 token。

General Compute 已訂購價值 3 億美元的 SambaNova SN50 晶片，並旨在成為首家部署這些晶片的新興雲服務商。

這些晶片還解決了第二個主要挑戰：部署地點。由於它們採用風冷而非水冷，且功耗較低，因此可以整合到現有資料中心設施中，無需新的基礎設施投資。

Puklowski 正在尋求託管協議，即 General Compute 在第三方設施中安裝其硬體。這些合作伙伴關係超越了傳統的資料中心提供商，包括尋求重新利用其基礎設施的加密貨幣礦工，特別是當比特幣挖礦成本往往超過其市場價值時。

General Compute 上週推出了其雲服務，聲稱目前為 MiniMax 2.7（一款強大的開源大型語言模型）提供了最快的效能。

風險投資者 Joe Hasselmann 在 2021 年推理熱潮初期投資了 Groq，今年推出了專注於 AI 的新基金 Evercrest Capital Partners，並將 General Compute 作為其首筆投資。Hasselmann 認為 SambaNova 與 General Compute 的合作類似於 Coreweave 與 Nvidia 的關係，以及 Groq 的晶片製造與其此前雲服務提供的結合。

“他們需要多樣化的客戶群，將他們的晶片部署在高增長環境中，”Hasselmann 指出。“正如 General Compute 押注 SambaNova 一樣，SambaNova 也在押注 General Compute。”

關鍵問題仍然是哪種計算機架構將在 AI 的未來中捕獲最多的價值。推理雲代表了對一個擁有多種模型和智慧體、沒有單一提供商佔據主導地位、速度和成本成為主要競爭因素的格局的隱性押注。這反映在 OpenRouter 最近完成的 1.13 億美元 B 輪融資中，該輪融資凸顯了其為客戶提供訪問多種模型以最佳化 token 支出的能力。

速度對於定價和能力至關重要。Puklowski 旨在將長達一小時的編碼智慧體工作量縮短至五到十分鐘，並透過實現更快的推理速度使客戶服務音訊智慧體更具經濟性，從而促進有效對話。

“如果你使用 ChatGPT，它每秒生成 50 個 token，這仍然比人類閱讀速度快得多，”Puklowski 告訴 TechCrunch。“然而，隨著向智慧體對智慧體互動的轉變，其中智慧體代表我們閱讀或查詢資料庫，它們需要以高得多的速度執行。”