OpenAI 擔心開源權重模型。美國應該感到擔憂嗎？

Kimi K3的釋出，即中國實驗室Moonshot推出的最大開源權重大型語言模型，引發了一場將兩個不同問題混為一談的爭論：美國AI巨頭的經濟策略與大型語言模型（LLM）的技術軌跡。

OpenAI的戰略未來負責人Dean W. Ball建議，美國政府應圍繞新模型製造監管方面的恐懼和不確定性，他認為開源權重架構不可避免地會阻礙前沿實驗室的資本支出。

反對聲音迅速出現，Yann LeCun和Martin Casado等技術領袖辯稱，開源軟體加速了創新，並且可以與專有專案共存。Ball隨後撤回了他的說法，即監管打擊是白宮的“最佳策略”，且開源權重模型必然阻礙技術進步。

然而，Axios報道，在美國前沿實驗室的敦促下，特朗普政府正在考慮禁止K3及其他先進中國模型。相反，Politico的報道表明，商務部近期不打算採取此類行動。

主要AI公司的優勢顯而易見：可以在獨立基礎設施或企業內部執行的開源權重模型，比Anthropic或OpenAI的專有產品提供更便宜的智慧。如果使用者越來越多地在封閉實驗室之外使用服務，前沿實驗室鉅額訓練投資的回報率就會降低。

這種觀點不僅限於OpenAI。“強大、具備前沿水平的開源模型將壓縮利潤空間並壓低前沿公司的價格，”Snorkel AI聯合創始人、Laude研究所研究合夥人Braden Hancock對TechCrunch表示。“這不一定會減少AI的使用；相反，情況可能恰恰如此。”

對於那些在Anthropic或OpenAI沒有利益相關的人來說，這並非問題。AI將繼續普及。那麼，有什麼理由證明政府阻止美國人在表面上自由的市場中購買產品是正當的呢？

對中國模型的擔憂各不相同。一種論點涉及保護美國資料免受中國政府侵害，類似於因資料隱私問題而禁止現代中國電動汽車。然而，專家相信，託管在美國伺服器上的開源權重模型不太可能將資料洩露回中國，儘管這仍是一種可能性。

另一個擔憂是這些模型可能對中國（PRC）存在隱性偏見，儘管這對編碼等任務的影響尚不明確。

第三種常見的擔憂是中國模型缺乏美國政府（透過不透明的流程）強制要求的安全護欄，以防止濫用封閉系統或製造武器。然而，這些同樣的安全護欄可能使美國公司更加脆弱：風險投資家兼特朗普顧問David Sacks指出了美國公司轉向中國大型語言模型以繞過美國前沿模型施加的安全限制的情況。

然而，限制這些模型的最重要動機是擔心，如果前沿實驗室放緩發展步伐，中國將超越美國。

喬治城大學安全與新興技術中心專注於中國問題的研究員Sam Bresnick認為，AI對美國軍事行動日益重要的事實證明了繼續投資前沿實驗室的合理性。儘管如此，他指出，整個問題充滿了複雜性。

“為什麼美國政府的重量應該用於保護這些公司免受因其出身而被排除在美國市場之外的競爭對手的侵害？”Bresnick問道。

開源AI的支持者認為，前沿公司正在創新與封閉模型之間製造錯誤的二元對立。

“這些來自中國的開源模型帶來的更大影響，不在於它們透過後門潛入，而在於它們掌握了創新，”Hancock對TechCrunch表示。“最終，你實際上是在你的模型上擁有了一個擴充套件的工作團隊。PyTorch之所以成為行業標準，是因為它是開源的，因此整個社羣都可以為其做出貢獻，而不僅僅是一家公司，它不斷發展壯大，相比之下，其他所有深度學習庫都逐漸消亡了。”

Hancock和其他支持者擔心，中國大型語言模型將成為國際研究的中心。目前，美國研究生專案主要基於開源的中國模型構建，Hancock表示，學生研究的一半論文源自中國機構，因為美國前沿實驗室越來越不願意廣泛分享他們的工作。

“限制開源模型不會使AI更安全，”Hugging Face（一個開源AI協作平臺）的CEO Clem Delangue說。“它只是隱藏了風險，將權力集中在少數人手中，並使下一代建設者、研究人員、學術界、非營利組織和政府更難參與使AI更安全且對所有人更有利的工作。”

Bresnick建議，減緩中國進度的真正方法是專注於晶片出口管制。保持美國AI領導權的更好策略是停止向中國出售Nvidia H200處理器。“他說，‘這有可能讓我們避免陷入這場關於禁止大量美國公司希望使用的開源技術的棘手辯論。’”

問題的一部分在於圍繞AI經濟的不確定性。“開源商業模式，專有商業模式——兩者都尚未明確。AI公司正努力弄清楚如何從其工具中獲利，尤其是隨著培訓成本需要不斷上升，”Bresnick指出。

在美國發生的同樣挑戰在中國也顯而易見，那裡的AI公司難以產生收入並獲得計算能力。儘管在商業化方面存在困難，但中國政府出於政策原因鼓勵開源釋出。

包括Thinking Machines Lab和Nvidia在內的部分美國公司正試圖圍繞釋出開源模型建立商業模式。Hancock指出，Nvidia將從“有數十或數百家構建AI的公司”中獲益更多，而不是隻有兩三家資本充足到可以製造自己晶片的公司，這解釋了其對Nemotron（一組開源模型）的投資。

“主要觀點是，美國擁有自己非常強大、便宜得多的開源模型將受益匪淺，”Bresnick說。“這僅僅與前沿公司採取的方法相沖突。”

Rebecca Bellan提供了補充報道。