3人のAIの先駆者が、安全への懸念が高まる中、大規模モデルをオープンに維持するよう主張する

Pacing the Frontierのような取り組みは、主要なラボと提携することでAIの安全性を確保することを目指していますが、オープンソースモデルは業界内で依然として論争の的となっています。無償で配布され、使用制限がないため、オープンウェイトモデルの規制は困難であり、一部の組織はこれに大きな懸念を抱いています。

しかし、先週ラスベガスで開催されたAi4会議において、ノーベル賞受賞者のジェフリー・ヒントン氏、World LabsのCEO兼共同創設者のフェイフェイ・リー氏、Courseraの共同創設者であるアンドリュー・ン氏の3人の著名なAI専門家が、この問題について議論を行いました。具体的な戦略については見解が異なりますでしたが、3者ともオープンなAIエコシステムの維持を強く支持しました。

これらのスピーカーにとって、主な懸念は、少数の大手AI企業が技術の進歩を支配する状況を防止することでした。数社が技術へのアクセスを独占し、AppleやGoogleがモバイルオペレーティングシステムを支配している場合と同様に、イノベーションが停滞し、プラットフォームの制御者が何が開発されるかを決定する可能性があります。

アンドリュー・ン氏は、AIにおいて同様の動態が生じる可能性に懸念を表明しました。「ゲートキーパーが存在してはなりません」とン氏は述べています。「それは、私たち全員がAIにアクセスする方法を制限することになります。」

企業は、業界規制を形成することを含む、競争優位性を保護するインセンティブを持っています。これにより、高度なAIシステムを構築するリソースを持つ最大かつ最も資金力のある企業のみが存続するシナリオが生じる可能性があります。

ン氏の解決策は、複数のプロバイダーを維持し、モデルや企業が競争する状態を保つことで、一部のプレイヤーが支配することを防ぐことでした。「もし一つの処方箋を提案するとすれば、それは開放性を促進することです」とン氏は語りました。「AIは素晴らしい技術であり、誰もが手にできる状態にしたいからです。」

オープンウェイトモデルがこの競争バランスを維持すると考える人は全員ではありませんでした。特にヒントン氏は、基礎コードの公開と改変を可能にするオープンソースソフトウェアと、訓練済みAIモデルのパラメータを一般公開するオープンウェイトモデルを区別しました。

「オープンソースは素晴らしいです。人々にコードを見せ、多くの人々がコードの行を見て『ああ、バグがある』と言うのです。オープンウェイトとは、大きなモデルを訓練し、その後、人々にウェイトを与えることを意味します。それは非常に異なります」とヒントン氏は説明しました。「私はオープン[ウェイト]に反対していました。なぜなら、訓練に非常に高額な費用がかかるこれらの大規模な基盤モデルを、はるかに少ない費用でサイバー攻撃などの悪意のある目的のために訓練することが容易になるからです。」

懸念を示しつつも、ヒントン氏はオープンウェイトモデルがAIにおける恒久的な存在となったことを認めています。「この戦いはすでに敗れたと思います。今やオープンウェイトモデルが存在し、大規模な基盤モデルを訓練するコストという、多くの人々がこれらの大規模モデルを取得する障壁が消失しました。手遅れです。」

しかし、現実を受け入れることがリスクを無視することを意味するわけではありません。ヒントンの立場は明確でした。AIは継続的に進歩し、これは主に有益であると彼は信じています。それは生産性を向上させ、教育と医療を改善すると彼は指摘しました。「AIの可能な悪影響や、私たちよりも賢明な知的生命体が何を行うかについて心配することは、不公平ではありません。そのような考えを持つ者を恐怖煽動者としてレッテルを貼ることこそが不公平です」とヒントンは付け加えました。

ン氏は異なる見解を示しました。問題はオープンモデルがリスクを抱えているかどうかではなく、誰がアクセスを制御し、誰が市場で勝利するかであると彼は論じました。より安価なモデルを構築する企業が優位性を得ます。もし中国のオープンウェイトモデルがアジア、アフリカ、および/または発展途上世界で広く採用されれば、数十億人の人々が民主主義、自由、人権に関するアイデアとどのように出会うかに影響を与える可能性があると警告しました。

「私が希望することは、米国の競争力とオープンソースAIを促進することです。AIはソフトパワーの極めて重要な源泉であることがわかりました。例えば、アフリカにおける中国モデルの顕著な成果をご覧いただければわかります」とン氏は語りました。「しかし、私の懸念は、米国のロビー活動と恐怖煽動のため、米国におけるオープンソースAIの構築が中国からのオープンウェイトモデルと競争することに苦戦していることです。もし中国がAIを構築する根本的により費用対効果の高い方法を確立すれば、費用対効果の高いものが根本的なビジネス上の採用優位性を持つことになります。」

リー氏はこの枠組みに異議を唱えました。「完全な開放性から完全な閉鎖性までの二項対立としてこれを捉えるのは非常に危険です」と彼女は述べました。「複雑なソフトウェアシステムや科学システムにおいて、はるかに微妙な対応が必要です。」

リー氏は原子核物理学を例に挙げました。科学論文は公開されますが、ウランは規制され、実験室での作業はその中間に位置します。彼女が説明した教訓は、開放性が全か無かの選択である必要はないということです。エコシステムの異なる層が、異なるレベルの開放性で運用され得ます。

また、彼女はヒトゲノムプロジェクトのような公共機関と民間機関の協力にも言及しました。その結果得られた知識は、他の人が構築できるプラットフォームとなったと彼女は述べ、製薬会社が利益を得、科学者が研究を進展させ、社会が恩恵を受けることを可能にすると説明しました。

「したがって、[AI]をそのようなインフラとして使用しなければならないと考えます」とリー氏は語りました。「科学的研究、教育、グローバルなパートナーシップにおける開放性のレベル、そして起業家にとって収益性の高いビジネスモデルが必要です。同時に、クローズドソースシステムも受け入れます。『私たちは一つの形態しか容認できない』という広範なレベルでのこの議論は誤った議論です。私たちは微妙な対応のレベルに到達する必要があります。」

しかし、誰もがAIを正しい軌道に保つために何らかの規制が必要であることに同意しました。「私たちが目指すのは、人々を助ける方向でAIを開発することであり、規制がそれを支援してくれます」とヒントン氏は語りました。「イーロン・マスクやマーク・ザッカーバーグのような個人に、AIがどのように行われるべきかを決定させることはできません。」