政府は、OpenAIの最先端モデルが公開しても安全であるとどのように判断したのか

OpenAIは、最新の高度な言語モデル「Sol」をリリースし、一般公開を開始した。Solは、Anthropic社の「Fable」と同等の能力を持つと広く見なされている。Fableは物議を醸したモデルであり、一時はホワイトハウスの懸念を招き、一般へのアクセスが一時的に制限される事態となった。

では、これらのモデルは最終的にどのようにして公開の承認を得たのだろうか。その答えは依然として不明だ。

「率直に言って、私はそれらの具体的なプロセスについて把握できていません。ですから、そのプロセスが適切かどうかを判断するには、十分な情報を持っていないと感じています」と、ジョージタウン大学セキュリティ・新興技術センターの上級研究アナリスト、ミナ・ナラヤナン氏はTechCrunchに語った。 「Anthropic社は、政府と協議を行っていたこと、脱獄の試みを検知するための分類器を開発したこと、そして将来の脱獄を防ぐための防御的ギャップ戦略を実施したことを明らかにしましたが、政府とAnthropic社、そしてOpenAIとの間の対話が具体的にどのようなものだったのかは不明です。」

トランプ政権の元政策顧問で、現在はOpenAIに勤務するディーン・W・ボール氏は、先月のニュースレターで、「ライセンス取得に必要な要件が何であるか、誰も知らない」と指摘した。

Databricks、Perplexity、Laude Instituteを共同設立したコンピュータ科学者のアンディ・コンウィンスキー氏は、主要なAI研究所の従業員の間でさえ、そのプロセスを完全に理解している人物とは一度も話したことがない、と述べた。「これは存在論的な問題だ」と彼はTechCrunchに語った。 「安全性の有無にかかわらず、重要なのは誰が意思決定権を持っているか――つまり、誰がゲートキーパーとなり、許可を決定するのか、ということだ」

トランプ政権発足から18カ月が経過したが、業界の要人が政策形成に関与しているにもかかわらず――あるいは、一部の批評家が主張するように、それゆえに――、今後どう進めるべきかについては依然として明確な見通しが立っていない。先月、数週間にわたる内部対立の末、最先端モデルの評価に向けたロードマップを概説する大統領令が公布されたが、存在しないものについては除き、具体的な詳細は依然として未定のままである。 「AIのためのFDA（食品医薬品局）のような機関は存在しないだろう」と、先月までホワイトハウスでAI担当上級顧問を務めた、アンドリーセン・ホロウィッツの元パートナー、スリラム・クリシュナン氏はフィナンシャル・タイムズ紙に語った。

特に注目すべきは、どの種類のモデルが政府による審査を必要とするのか、またどの機関（あるいは複数の機関）がそれらの評価を行うべきかについて、依然として合意が形成されていない点だ。 現時点では、商務省の「AI基準・イノベーションセンター」がこの取り組みを主導しているように見えるが、大統領令では6つの閣僚級機関に対し、8月上旬までに最終的なプロセスを決定するよう指示している。その間に行われている取り組みは、せいぜいその場しのぎのものに過ぎない。

OpenAIのサム・アルトマンCEOはCNBCに対し、このプロセスにはハワード・ルトニック商務長官、スコット・ベッセント財務長官、ショーン・ケアンクロス米国サイバー安全保障局長らとの協議が含まれていたと語ったが、モデルをテストした専門家が誰であったか、また彼らがどのようにテストを実施したのかについては依然として不明のままである。 OpenAIはTechCrunchに対し、政府の手続きに関する詳細の開示を拒否し、代わりに、最新モデルのセーフティカードに含まれている、英国のAISI、SecureBio、Irregularといった組織による複数の外部評価の結果を指摘した。

Anthropicの「Fable」のリリースと同様に、OpenAIも一般公開に先立ち、政府および選定されたユーザーに対してモデルのプレビューを行ったが、それらのユーザーが具体的に誰であり、どのように選定されたのかは不明である。 6月下旬のブログ記事で、同社は「この種の政府によるアクセスプロセスが長期的な標準となるべきではないと考えている」と述べ、政府と協力して別の道筋を模索していくと付け加えた。

こうした協議の背景には、アルトマン氏が政権のいわゆる「トランプ・アカウント」に対し、OpenAIの株式の最大5％を提供したとの報道や、OpenAI社長のグレッグ・ブロックマン氏が、トランプ氏の中間選挙に向けた政治活動において、公に知られている最大の献金者としての役割を果たしていたことが挙げられる。 外部の観察者にとって、こうした活動と、Solに対する政府の規制姿勢が表向きは比較的緩やかであるという事実とを切り離して考えることは難しい。

一方、Anthropic社の「Fable」は、米国政府が外国人による使用を禁止した際、一時的に一般へのアクセスが制限された。その背景には、ユーザーがモデルを「脱獄」させてハッキング機能にアクセスするのではないかという正当な懸念と、Anthropic社とトランプ政権との間の性格的な不和があった。 輸出禁止の脅威もまた、OpenAIが政府の（内容不明の）要請に対してより協力的になるよう促した可能性がある。

業界の視点から見れば、規制に対する「手出しを控える」アプローチは魅力的に見えるかもしれないが、行政当局者との個人的なつながりに依存するものは、不確実性と悪しきインセンティブを生み出す。

コンウィンスキー氏はTechCrunchに対し、この技術の真の専門家――「安全性研究者、アラインメント研究者、解釈可能性研究者だけでなく、データ専門家やスタック全体のあらゆる分野の人々」――が、モデルのリリースプロセスにおいて十分な役割を果たしていないことを懸念していると語った。

コンウィンスキー氏は、「オープン・コモンズ」こそが安全性とイノベーションのバランスをとる最善の方法だと主張する。同氏は、FDAやNIH、あるいは国立研究所のようなモデルを例に挙げ、そこでは研究者、政府関係者、民間企業が結集し、安全性の問題について合意形成を図っていると指摘する。

こうした状況の一因は、10年以上にわたりAI研究者を駆り立ててきた資本主義のインセンティブにあり、それはイーロン・マスクがOpenAIの企業構造に異議を唱えた訴訟の法廷でも顕在化した。ボール氏は、AIビジネスの性質上、企業はモデルをリリースして競合他社に一歩先んじた直後に、トレーニングコストの大部分を回収しなければならないと指摘する。

「たとえ意図が善意であっても、運営手順には非常に明確な法的義務と受託者責任が組み込まれている」とコンウィンスキー氏は指摘する。

ボール氏は自身の投稿の中で、今後の道筋は、政府から認可を受けた第三者監査機関が、最先端の研究機関の安全対策への取り組みを評価することにかかっていると主張した。コンウィンスキー氏もまた、学術界や非営利団体のより利害関係のない専門家が最先端のモデルにアクセスし、評価することを可能にする、専門的な研究機関のような新しい制度的枠組みについて楽観的である。

今のところ、AI開発を取り巻く秘密主義は消えることはないが、それは、アメリカ国民がますます懐疑的な目で見ているこの業界にとって、政治的な課題の種となるだろう。 「責任ある人々がこうした変化を推進しているという感覚はない」と、ウィスコンシン大学マディソン校のコンピュータサイエンス教授、レムジ・アルパチ＝デュソー氏は先週開催された「Open Frontier」カンファレンスで述べた。

同イベントでは、最も成功した定量ヘッジファンドの一つである「トゥー・シグマ（Two Sigma）」を設立したコンピュータ科学者のデビッド・シーゲル氏が、参加者に次のように問いかけた。「私が非常に悪い状況だと考えるシナリオを想像してほしい。すなわち、少数の企業が技術を支配し、 政府が秘密の研究所で、その技術が使用に適しているかどうかを評価しており、一般市民や科学界はそうした情報にほとんどアクセスできない」と参加者に想像するよう求めた。

どうやら、それを想像する必要はないようだ。