サティア・ナデラ氏、AIを活用する企業に対し厳しい警告を発する

AIの潜在的な弊害をめぐる多くの議論の中で、シリコンバレーのAI愛好家たちを特に不安にさせている懸念が一つある。それは、独自開発のモデルを販売する大手AI研究所が、まるで「トロイの木馬」のように振る舞っている可能性があるという懸念だ。

その懸念とは、スタートアップや企業がOpenAIやAnthropicといった研究所のAIモデルを採用するにつれ、それらの研究所が企業の最も機密性の高いビジネスデータへのアクセス権をますます拡大してしまうというものである。 モデル開発者はその情報を自らの利益のために利用し、ひいては自社の顧客の競合相手となる可能性さえある。このリスクに関する警告は、ベンチャーキャピタリストのジェイソン・カラカニス氏からパランティアのCEOアレックス・カープ氏に至るまで、幅広い層から発せられている。

そして月曜日、マイクロソフトのサティア・ナデラCEOが、意外なブログ記事を通じてこの議論に加わった。ナデラ氏は、AIユーザー（同氏は「購入者」と呼んでいる）が二重の代償を払っていることを警告している。彼らはAIトークンの使用料を承知の上で支払っているが、その過程で知らず知らずのうちに貴重なデータも提供しているのだ。

「本質的に、知能に対して2回支払っていることになる。1回目は金銭で、2回目はそれよりもさらに価値のあるもの――その知能を役立てるために開示せざるを得ない独自の知識――で支払うのだ。モデルの性能を高めたいと思えば思うほど、その知識をモデルに与えなければならない！」と彼は記している。

最も危険なのは、企業が実質的にモデルに自社のビジネスの微妙なニュアンスを教えていることだと、彼は主張する。

「モデルは『排気データ』――つまり、人々が書くプロンプト、エージェントが使用するツール、そして特にモデルが誤った際に人々が加える修正――から学習します。あらゆる修正は、組織のノウハウとして凝縮されるのです」と彼は記している。

これは「競合他社が決して購入することのできない種類の知識」であるにもかかわらず、企業はそれを無償で提供している。

ナデラ氏は、AI企業がモデルの学習のためにインターネットから自由にデータを収集することが許されるのであれば、その見返りとして企業がそれらのモデルを研究――あるいは「蒸留」――できるのは当然だと主張する。 「蒸留（ディスティレーション）」とは、モデル自身の出力を用いてその仕組みを理解し、その知見に基づいて、多くの場合より安価な新しいモデルを学習させることを指す。2月、Anthropic社は、中国のオープンソースモデルが自社のモデルを改善するためにClaudeに数百万件のプロンプトを送信したと非難し、米国政府に対し輸出規制の強化を求めた。

ナデラ氏の主張は、モデル開発者が「両方の利益」を享受することはできない、というものである。世界中のデータを使って自由にモデルを学習させながら、他者が自社のモデルに対して同じことを行うことを制限するのは偽善的だ。

「モデルプロバイダーが公開データを用いてモデルを学習させるためのフェアユース権を持つことから生まれる偉大なイノベーションは必要ですが、その一方で、現状では一転してディスティレーションに対して制限的な条件を課しているというのは皮肉なことです」と、マイクロソフトのCEOは記している。

ナデラ氏は、モデル開発者が「顧客の利用状況やインタラクションデータから学習する権利を留保する」点について特に懸念を示している。

ナデラ氏の解決策は、大手クラウドプロバイダーのCEOが提案するようなものだ。彼は、企業がプロンプトやフィードバックなどを含む自社のデータの「所有権を保持」することを望んでいる。 そこで彼は、企業がクラウド上に独自の「専有学習環境」を構築するよう促している――そのデータはそもそもすでにクラウド上に保存されている可能性が高く、都合よく言えば、それはマイクロソフトのクラウド「Azure」を指すことになる。 また、彼は企業に対し、自身が「オーケストレーション層」と呼ぶものを実装するよう推奨している。これは本質的に、特定のプロバイダーに縛られることなく、異なるプロバイダーのAIモデル間を容易に切り替えるための手段である。まさにこれを可能にするAI「ゲートウェイ」のようなツールは、ますます普及しつつある。

ナデラ氏は、所有権を維持する方法として「オープンソース」という言葉を決して用いていませんが、それが暗に示されていることは明らかです。しかし、そこにはもう一つの含意もあります。

クラウドを利用するだけでなく、依然として自社データセンターを運用している大企業の多くは、すでに自社施設内（業界用語で「オンプレミス」）に導入されるオープンソースモデルへと移行しつつある。 企業のAIシステム管理を支援するネットワークおよびセキュリティソフトウェアを開発するSolo.ioの創業者兼CEO、イディット・レヴィーン氏は、自社の顧客の間でまさにこの変化が見られると述べています。 「プロプライエタリなモデルメーカーを試した後、顧客は『オープンソースのモデルをオンプレミスで実行することはできるか？』と尋ね始めるようになります。『大手が提供している機能の90％近くをカバーできるし、コストもはるかに安くなる』と」と、彼女はTechCrunchに語った。「顧客はその点を理解しており、自ら管理できるのです。」

Solo.ioの技術は昨年、Linux FoundationのAgentgatewayプロジェクトを支える技術として採用された。同社の顧客には、T-Mobile、ADP、SAPなどの企業が名を連ねている。彼女は、企業がオンプレミスのオープンソースモデルを導入するケースが増えていると見ており、これを企業向けAI利用における次の大きな潮流と捉えている。

彼女だけではない。ウェブサイトの構築・ホスティングプラットフォームとして最もよく知られ、最近AIモデルの切り替えツールを追加したVercelや、開発者が異なるAIモデル間でリクエストをルーティングするのを支援するOpenRouterといった企業も、オープンソースモデルへのトラフィックが急増している。 実際、先月、Vercelのゲートウェイを経由した全トラフィックの29％をオープンソースモデルが占めた。

OpenAIとAnthropicの両社に出資しているマイクロソフトのCEOが、企業に対しプロプライエタリなモデルの利用には慎重であるよう公に呼びかけていることから、この傾向は今後も拡大し続けると予想される。「知能を活用するとは、知能を創造することだ。そして、あなたが創造したものは、あなた自身のものとなるべきだ」とナデラ氏は記している。