OpenAIはオープンウェイトモデルを懸念している。米国はこれを懸念すべきか？

中国のラボ、Moonshotによる最大規模のオープンウェイト大規模言語モデル「Kimi K3」の発売は、米国のAI大手の経済戦略とLLMの技術的軌道という2つの異なる問題を混同する論争に火をつけた。

OpenAIの戦略的将来部門責任者であるDean W. Ballは、米政府が新モデルについて規制上の恐怖と不確実性を煽るべきだと示唆し、オープンウェイトアーキテクチャはフロンティアラボの資本支出を必然的に抑制すると主張した。

反発は迅速であり、Yann LeCunやMartin Casadoといった技術リーダーたちは、オープンソフトウェアがイノベーションを加速し、独自プロジェクトと共存し得ると論じた。その後、Ballは、規制当局の取り締まりがホワイトハウスの「最善の戦略」であり、オープンウェイトモデルが技術的進歩を必然的に阻害するとする自身の主張を撤回した。

しかし、Axiosの報道によれば、トランプ政権は米国のフロンティアラボの要請を受けて、K3やその他の高度な中国モデルの禁止を検討している。一方、Politicoの報道では、商務省は近いうちにそのような行動を取る計画はないと示されている。

主要なAI企業にとっての利点は明確である。独立したインフラ上、あるいは企業内で実行可能なオープンウェイトモデルは、AnthropicやOpenAIの独自製品よりも安価なインテリジェンスを提供する。ユーザーが閉鎖されたラボの外で支出を increasingly 行うようになれば、フロンティアラボの巨額の学習投資に対するリターンは減少する。

この見解はOpenAIを超えている。「強力なフロンティアレベルのオープンソースモデルは、フロンティア企業のマージンを圧迫し、価格を引き下げるだろう」と、Snorkel AIの共同創業者でありLaude Instituteの研究パートナーであるBraden HancockはTechCrunchに語った。「必ずしもAIの利用が減少するわけではない；むしろその逆の可能性が高い。」

AnthropicやOpenAIに利害関係のない者にとって、これは問題ではない。AIは引き続き普及し続ける。では、なぜ政府は、表面上は自由市場で購入できる製品からアメリカ人を遮断する正当化を行うのか？

中国モデルに関する懸念は多様である。一つの論拠は、現代の中国製EVがデータプライバシーの懸念から禁止されているのと同様に、中国政府から米国のデータを保護することである。しかし、専門家は、米国のサーバーでホストされるオープンウェイトモデルがデータを中国に漏洩する可能性は低いと考えているものの、それが完全に不可能であるとは限らないと指摘している。

もう一つの懸念は、これらのモデルが中国共産党（PRC）への暗黙のバイアスを内包している可能性であり、しかしコード生成などのタスクへの影響は依然として不明確である。

3つ目の一般的な懸念は、中国モデルが、閉鎖システムの悪用や兵器の作成を防ぐために米政府（不透明なプロセスを通じて）が義務付けたガードレールを欠いているという点である。しかし、これらの同じガードレールが米企業をより脆弱にする可能性がある。ベンチャーキャピタリストでありトランプのアドバイザーであるDavid Sacksは、米企業が米国フロンティアモデルによって課されたセキュリティ制限を回避するために中国製LLMを利用するケースを指摘している。

しかし、これらのモデルを制限する最も重要な動機は、フロンティアラボの開発が遅れる場合、中国が米国を凌駕する恐れがあるという懸念である。

ジョージタウン大学のセキュリティ・アンド・エマージング・テクノロジーズセンター（CSET）の中国専門研究員であるSam Bresnickは、米国の軍事運用におけるAIの重要性の高まりが、フロンティアラボへの継続的な投資を正当化すると論じる。それでも、彼は全体の問いが複雑さに満ちていると指摘している。

「なぜ米政府の重みが、自国の市場から起源に基づいて締め出されている競合他社からこれらの企業を保護するために向けられなければならないのか？」とBresnickは問う。

オープンAIの支持者たちは、フロンティア企業がイノベーションと閉鎖モデルの間に偽の二項対立を作り出していると主張する。

「これらのオープンソースモデルが中国から来ることのより大きな影響は、裏口から忍び込むことではなく、イノベーションを所有することにある」と、HancockはTechCrunchに語った。「結果として、実質的にあなたのモデルに対する拡張された労働力を得ることになる。PyTorchが業界標準になったのは、それがオープンソースであり、したがってコミュニティ全体が貢献できたからであり、単一の企業だけでなく、それは成長し続け、他のディープラーニングライブラリは比較して死滅した。」

Hancockおよび他の支持者たちは、中国のLLMが国際研究の中心地となることを懸念している。すでに、米国の大学院プログラムは主にオープンウェイトの中国モデルに基づいて構築されており、Hancockは、米国のフロンティアラボがますます広く自身の成果を共有することをためらう中、学生が研究する論文の半分が中国の機関から来ていると述べている。

「オープンモデルを制限することは、AIを安全にするわけではない」と、オープンAIコラボレーションのプラットフォームであるHugging FaceのCEOであるClem Delangueは語った。「それは単にリスクを隠し、権力を少数の手に集中させ、次世代のビルダー、研究者、学界、非営利団体、政府が、AIをより安全で、すべての人にとって有益にするための参加を困難にするだろう。」

Bresnickは、中国の進歩を遅らせる真の方法は、チップの輸出管理に焦点を当てるべきだと示唆する。米国のAIリーダーシップを維持するためのより良い戦略は、中国へのNvidia H200プロセッサの販売を停止することである。「それこそが、巨大な数の米企業が使用したいと望むオープンソース技術を禁止するという厄介な論争から、我々を救う可能性がある」と彼は言う。

問題の一部は、AI経済に関する不確実性にある。「オープンビジネスモデル、独自ビジネスモデル——どちらも確立されていない。AI企業は、特に学習コストが上昇し続ける中で、ツールでどのように収益を上げるかを模索している」とBresnickは指摘する。

米国で展開されている同じ課題は、中国でも顕著であり、AI企業は収益の創出とコンピューティングパワーへのアクセスに苦戦している。中国政府は、それらを収益化することが困難であるにもかかわらず、政策上の理由からオープンリリースを奨励している。

Thinking Machines LabやNvidiaを含む一部の米企業は、オープンモデルのリリース围绕してビジネスを構築しようとしている。Hancockは、Nvidiaは「独自のチップを製造するのに十分な資金を持つ2社や3社よりも、数十社や数百社の企業がAIを構築している場合」に、より多くの利益を得ると指摘しており、これがオープンモデルのコレクションであるNemotronへの投資の説明となる。

「主要な点は、米国が非常に能力が高く、はるかに安価な独自のオープンモデルを持つことが、米国にとって非常に有益であるということだ」とBresnickは語った。「それは、フロンティアラボが取ってきたアプローチと衝突するだけである。」

Rebecca Bellanによる追加レポートを含む。