OpenAI 担心开源权重模型。美国应该感到担忧吗？

Kimi K3的发布，即中国实验室Moonshot推出的最大开源权重大型语言模型，引发了一场将两个不同问题混为一谈的争论：美国AI巨头的经济策略与大型语言模型（LLM）的技术轨迹。

OpenAI的战略未来负责人Dean W. Ball建议，美国政府应围绕新模型制造监管方面的恐惧和不确定性，他认为开源权重架构不可避免地会阻碍前沿实验室的资本支出。

反对声音迅速出现，Yann LeCun和Martin Casado等技术领袖辩称，开源软件加速了创新，并且可以与专有项目共存。Ball随后撤回了他的说法，即监管打击是白宫的“最佳策略”，且开源权重模型必然阻碍技术进步。

然而，Axios报道，在美国前沿实验室的敦促下，特朗普政府正在考虑禁止K3及其他先进中国模型。相反，Politico的报道表明，商务部近期不打算采取此类行动。

主要AI公司的优势显而易见：可以在独立基础设施或企业内部运行的开源权重模型，比Anthropic或OpenAI的专有产品提供更便宜的智能。如果用户越来越多地在封闭实验室之外使用服务，前沿实验室巨额训练投资的回报率就会降低。

这种观点不仅限于OpenAI。“强大、具备前沿水平的开源模型将压缩利润空间并压低前沿公司的价格，”Snorkel AI联合创始人、Laude研究所研究合伙人Braden Hancock对TechCrunch表示。“这不一定会减少AI的使用；相反，情况可能恰恰如此。”

对于那些在Anthropic或OpenAI没有利益相关的人来说，这并非问题。AI将继续普及。那么，有什么理由证明政府阻止美国人在表面上自由的市场中购买产品是正当的呢？

对中国模型的担忧各不相同。一种论点涉及保护美国数据免受中国政府侵害，类似于因数据隐私问题而禁止现代中国电动汽车。然而，专家相信，托管在美国服务器上的开源权重模型不太可能将数据泄露回中国，尽管这仍是一种可能性。

另一个担忧是这些模型可能对中国（PRC）存在隐性偏见，尽管这对编码等任务的影响尚不明确。

第三种常见的担忧是中国模型缺乏美国政府（通过不透明的流程）强制要求的安全护栏，以防止滥用封闭系统或制造武器。然而，这些同样的安全护栏可能使美国公司更加脆弱：风险投资家兼特朗普顾问David Sacks指出了美国公司转向中国大型语言模型以绕过美国前沿模型施加的安全限制的情况。

然而，限制这些模型的最重要动机是担心，如果前沿实验室放缓发展步伐，中国将超越美国。

乔治城大学安全与新兴技术中心专注于中国问题的研究员Sam Bresnick认为，AI对美国军事行动日益重要的事实证明了继续投资前沿实验室的合理性。尽管如此，他指出，整个问题充满了复杂性。

“为什么美国政府的重量应该用于保护这些公司免受因其出身而被排除在美国市场之外的竞争对手的侵害？”Bresnick问道。

开源AI的支持者认为，前沿公司正在创新与封闭模型之间制造错误的二元对立。

“这些来自中国的开源模型带来的更大影响，不在于它们通过后门潜入，而在于它们掌握了创新，”Hancock对TechCrunch表示。“最终，你实际上是在你的模型上拥有了一个扩展的工作团队。PyTorch之所以成为行业标准，是因为它是开源的，因此整个社区都可以为其做出贡献，而不仅仅是一家公司，它不断发展壮大，相比之下，其他所有深度学习库都逐渐消亡了。”

Hancock和其他支持者担心，中国大型语言模型将成为国际研究的中心。目前，美国研究生项目主要基于开源的中国模型构建，Hancock表示，学生研究的一半论文源自中国机构，因为美国前沿实验室越来越不愿意广泛分享他们的工作。

“限制开源模型不会使AI更安全，”Hugging Face（一个开源AI协作平台）的CEO Clem Delangue说。“它只是隐藏了风险，将权力集中在少数人手中，并使下一代建设者、研究人员、学术界、非营利组织和政府更难参与使AI更安全且对所有人更有利的工作。”

Bresnick建议，减缓中国进度的真正方法是专注于芯片出口管制。保持美国AI领导权的更好策略是停止向中国出售Nvidia H200处理器。“他说，‘这有可能让我们避免陷入这场关于禁止大量美国公司希望使用的开源技术的棘手辩论。’”

问题的一部分在于围绕AI经济的不确定性。“开源商业模式，专有商业模式——两者都尚未明确。AI公司正努力弄清楚如何从其工具中获利，尤其是随着培训成本需要不断上升，”Bresnick指出。

在美国发生的同样挑战在中国也显而易见，那里的AI公司难以产生收入并获得计算能力。尽管在商业化方面存在困难，但中国政府出于政策原因鼓励开源发布。

包括Thinking Machines Lab和Nvidia在内的部分美国公司正试图围绕发布开源模型建立商业模式。Hancock指出，Nvidia将从“有数十或数百家构建AI的公司”中获益更多，而不是只有两三家资本充足到可以制造自己芯片的公司，这解释了其对Nemotron（一组开源模型）的投资。

“主要观点是，美国拥有自己非常强大、便宜得多的开源模型将受益匪浅，”Bresnick说。“这仅仅与前沿公司采取的方法相冲突。”

Rebecca Bellan提供了补充报道。