マイクロソフトのCEO、AIラボの「ディスティレーション」を痛烈に批判

マイクロソフトのCEO、サティア・ナデラ氏は、ディスティレーションに関する批判をめぐり、AI研究機関の偽善を指摘した。この発言は、アンソロピックを名指ししたものと広く解釈されている。写真提供：ゲッティ・イメージズ

マイクロソフトのサティア・ナデラCEOは、AI開発者たちがモデルの蒸留を制限する一方で、自社のシステムを訓練するために公共データや顧客データを活用していることに異議を唱えた。

マイクロソフトのサティア・ナデラ氏は、AIディスティレーション（より大規模で高性能なシステムの出力を用いて、より小規模なモデルを学習させる技術）に対する矛盾した姿勢について、テクノロジー業界全体の特定のAI研究所を名指しせずに公に批判した。

Xへの投稿で、ナデラ氏は、ディスティレーションに不満を述べるモデル開発者たちが、AIのトレーニングプロセス全体に関して偽善的であると主張した。

同氏は、「モデルプロバイダーが公開データを用いて学習するための公正利用権を持つことから生まれる偉大なイノベーションは必要である」と認めつつも、業界のコンセンサスがディスティレーションに「制限的な条件」を課していることを「皮肉だ」と指摘している。

これは、こうした企業が自らは顧客の利用状況やインタラクションデータから学習する権利を留保しているにもかかわらず、起こっている。

「学習の流れが一方通行である場合、経済的価値は知識そのものの創作者ではなく、学習インフラの所有者に集中してしまう」とナデラ氏は指摘する。

Anthropicの攻撃が浮き彫りにした、拡大するデータ調達をめぐる対立

Anthropic、OpenAI、Google DeepMindは、AIモデルのトレーニングにサードパーティのコンテンツに依存している。ChatGPT、Claude、Geminiは、一般に公開されている文章、画像、データから情報を収集している。

この学習方法に対して、多くの人が倫理的および著作権上の懸念を表明しており、主要なコンテンツ制作者による法的措置につながっている。

例えば、BBCニュースは、BBCが同意のないデータ収集を理由にAnthropicを提訴していると報じた。

ナデラ氏はAnthropicを直接名指しはしなかったものの、証拠から判断すると、この投稿は同AI企業を強く念頭に置いたものだったと考えられる。彼の批判は、Anthropicが以前に投稿した「蒸留攻撃の検知と防止」に関する記事を受けてのものだ。

6月にサウスカロライナ州選出のティム・スコット上院議員およびマサチューセッツ州選出のエリザベス・ウォーレン上院議員宛てに送られた書簡の中で、Anthropicは、アリババが最近、同社のデータに対して「既知最大規模の蒸留攻撃」を実行したと主張した。

同声明では、競合他社がディスティレーションを利用することで、「独自に開発する場合に比べて、はるかに短い時間とわずかなコストで、他社の研究所が持つ強力な能力を獲得できる」と主張した。アリババはこれらの告発に対してまだ回答していない。

BBCやRedditなどの企業は、Anthropicが同意なしに自社のデータを使用してClaudeモデルの学習を行ったとして、同社を提訴している（画像提供：Anthropic）

モデルの外部委託は重大なビジネスリスクをもたらす

同じXの投稿で、ナデラ氏は、主要なAIモデルに依存している企業は、AI企業に自社の専有データへのアクセス権を与えていると警告している。

彼は、企業が単一のモデルベンダーに依存するのではなく、自社のAIインフラと業界知識を自ら保有しなければならないと強調している。

ナデラ氏は、AI技術が時間とともに発展・改善されるよう、企業は独自の評価と「学習ループ」を実施すべきだと助言している。

企業は、独自の開発成果を保護するために厳格なセキュリティ対策が必要です。ナデラ氏は、人的資本とトークン資本が相乗効果を発揮するためには、企業に真の「信頼の境界」が必要だと述べています。

さらに、この境界線は「同意なしに、インテリジェンス・エグゾーストでさえも」含め、いかなる者や物によっても越えてはならないと付け加えている。

同様に、イーロン・マスク氏は、Anthropic社がAIモデルのトレーニングに用いるデータ収集手法について公に批判している。

2月にXに投稿した記事の中で、マスク氏はアンソロピック社を「大規模なトレーニングデータの窃取」で非難し、窃取行為により同社が「数十億ドル規模の和解金」を支払うことになるだろうと予測した。

「これは単なる事実だ」と彼は付け加えている。