AI算力争夺战：Cerebras会是下一个重磅产品吗？

运行 AI 模型对算力的需求持续激增，然而行业参与者仍面临两大关键障碍：获取合适的硬件，并将其部署到数据中心以开始产生收入。

General Compute 是一家专注于推理阶段的新兴云服务商，其专长在于模型响应用户而非进行训练的阶段，提供的解决方案凸显了 AI 生态系统不断演变的方向。这些战略优势促成了由 FUSE VC 领投、Carya Venture Partners 和 Village Global Ventures 等机构参与的 1500 万美元种子轮融资，投后估值为 6000 万美元。

确定最佳芯片是第一个挑战。尽管 GPU 需求飙升，但人们越来越认识到，它们并非运行已训练 AI 模型的最有效选择。推理的计算需求与训练存在显著差异，这促使开发出一类专门为此目的设计的芯片。Nvidia 去年 12 月以 200 亿美元收购 Groq，以及 Cerebras 上周进行的 570 亿美元 IPO，都凸显了这一转变。

鉴于 Groq 和 Cerebras 产能受限，General Compute 联合创始人兼首席执行官 Finn Puklowski 和首席技术官 Jason Goodison 找到了替代方案。他们与 SambaNova 合作，这是一家由 Intel 支持的芯片制造商，专注于推理解决方案，在硅谷受到的关注较少。

当 SambaNova 今年晚些时候发布其新芯片时，这种动态可能会发生变化。该架构提供了更大的灵活性，并利用更多内存来存储推理计算期间的上下文。SambaNova 声称，这些芯片的性能不仅优于 GPU，还优于 Groq 和 Cerebras 等竞争对手的专用硬件。据 Puklowski 介绍，新芯片的速度将达到每秒 600 至 700 个 token，而标准 GPU 的速度约为每秒 250 个 token。

General Compute 已订购价值 3 亿美元的 SambaNova SN50 芯片，并旨在成为首家部署这些芯片的新兴云服务商。

这些芯片还解决了第二个主要挑战：部署地点。由于它们采用风冷而非水冷，且功耗较低，因此可以集成到现有数据中心设施中，无需新的基础设施投资。

Puklowski 正在寻求托管协议，即 General Compute 在第三方设施中安装其硬件。这些合作伙伴关系超越了传统的数据中心提供商，包括寻求重新利用其基础设施的加密货币矿工，特别是当比特币挖矿成本往往超过其市场价值时。

General Compute 上周推出了其云服务，声称目前为 MiniMax 2.7（一款强大的开源大型语言模型）提供了最快的性能。

风险投资者 Joe Hasselmann 在 2021 年推理热潮初期投资了 Groq，今年推出了专注于 AI 的新基金 Evercrest Capital Partners，并将 General Compute 作为其首笔投资。Hasselmann 认为 SambaNova 与 General Compute 的合作类似于 Coreweave 与 Nvidia 的关系，以及 Groq 的芯片制造与其此前云服务提供的结合。

“他们需要多样化的客户群，将他们的芯片部署在高增长环境中，”Hasselmann 指出。“正如 General Compute 押注 SambaNova 一样，SambaNova 也在押注 General Compute。”

关键问题仍然是哪种计算机架构将在 AI 的未来中捕获最多的价值。推理云代表了对一个拥有多种模型和智能体、没有单一提供商占据主导地位、速度和成本成为主要竞争因素的格局的隐性押注。这反映在 OpenRouter 最近完成的 1.13 亿美元 B 轮融资中，该轮融资凸显了其为客户提供访问多种模型以优化 token 支出的能力。

速度对于定价和能力至关重要。Puklowski 旨在将长达一小时的编码智能体工作量缩短至五到十分钟，并通过实现更快的推理速度使客户服务音频智能体更具经济性，从而促进有效对话。

“如果你使用 ChatGPT，它每秒生成 50 个 token，这仍然比人类阅读速度快得多，”Puklowski 告诉 TechCrunch。“然而，随着向智能体对智能体交互的转变，其中智能体代表我们阅读或查询数据库，它们需要以高得多的速度运行。”