AIの未来を描く青写真は、導入を待っている

ワシントンとアンソロピックとの決裂は、人工知能に関する一貫したルールが完全に欠如していることを露呈したが、超党派の有識者グループは、政府が未だに提示できていないもの、すなわち責任あるAI開発のための明確な枠組みを構築した。

「プロ・ヒューマン宣言」は先週の国防総省とアンソロピック社の対立以前に最終決定されていたが、そのタイミングの重要性は関係者にも十分に認識されていた。

「この4ヶ月間で、アメリカでは実に驚くべきことが起きた」と、この取り組みの組織化を支援したMITの物理学者兼AI研究者、マックス・テグマーク氏は語った。「最近の世論調査によると、現在、アメリカ人の95％が、規制のない『超知能』への競争に反対していることが示されている。」

数百人の専門家、元政府高官、著名人が署名したこの新たに公表された文書は、人類が岐路に立っているという厳しい現実の指摘から始まる。「代替への競争」と称される一方の道は、権力が説明責任を負わない機関とその機械へと移り、人間がまず労働者として、次には意思決定者として置き換えられる結果をもたらす。もう一方の道は、人間の可能性を劇的に拡大するAIへとつながる。

この前向きな未来は、5つの柱に支えられている。すなわち、人間による統制の維持、権力の集中防止、人間の体験の保護、個人の自由の保全、そしてAI企業への法的責任の追及である。そのより強力な規定には、科学的な合意によって安全性が確認され、国民の支持が得られるまで超知能の開発を禁止すること、強力なシステムへの強制的な停止スイッチの設置、そして自己複製、自律的な自己改善、またはシャットダウンへの抵抗が可能なAIの禁止などが含まれている。

この宣言の発表は、その緊急性を浮き彫りにするタイミングで行われた。2月の最終金曜日、ピート・ヘグセット国防長官は、AIがすでに機密軍事プラットフォームで稼働しているアンソロピック社に対し、同社が国防総省による技術の無制限な使用を許可しなかったことを受け、「サプライチェーン上のリスク」と断じた。 その数時間後、OpenAIは国防総省と独自の合意に達したが、法律の専門家によれば、これを実質的に履行させるのは困難だと言われている。この一連の出来事は、AIに関する議会の不作為がもたらす代償がますます大きくなっていることを浮き彫りにしている。

アメリカン・イノベーション財団の上級研究員であるディーン・ボール氏はニューヨーク・タイムズ紙に対し、「これは単なる契約上の争いではない。誰がAIシステムを管理するかについて、わが国で初めて行われた真の議論なのだ」と語った。

テグマーク氏は、誰もが共感できる例えを挙げた。「製薬会社が、安全性が証明される前に有害な薬を発売するとは誰も心配しない」と彼は述べた。「なぜなら、FDA（米国食品医薬品局）は、十分に安全であると認められるまで、いかなる製品も市場に出さないからだ」

ワシントンでの縄張り争いでは、法律を変えるのに必要な世論の圧力が生まれることはめったにない。その代わりに、テグマーク氏は、子供の安全こそが現在の膠着状態を打破する可能性が最も高い問題だと見ている。この宣言は、AI製品――特にチャットボットや若年層向けのコンパニオンアプリ――について、自殺念慮の増大、メンタルヘルスの悪化、感情的な操作といったリスクに対する導入前の義務的なテストを求めている。

「もし不審な大人が11歳の少年に、少女になりすまして『自殺しろ』とメッセージを送れば、その人物は刑務所行きになる」とテグマーク氏は述べた。「それに対する法律はすでに存在する。では、機械が同じことをしたからといって、なぜ扱いが違うべきなのか？」

彼は、子供向け製品に対するリリース前のテストが確立されれば、その範囲は必然的に拡大すると考えている。「人々は他の要件も追加し始めるだろう。テロリストが生物兵器を作るのを助けないかどうかもテストすべきかもしれない。あるいは、超知能が米国政府を転覆させられないようにすべきかもしれない。」

トランプ前大統領の顧問だったスティーブ・バノン氏や、オバマ前大統領の国家安全保障担当補佐官だったスーザン・ライス氏が、マイク・マレン元統合参謀本部議長や進歩的な宗教指導者たちと共に、同じ文書に署名したことは意義深い。

「彼らが一致している点は、もちろん、全員が人間だということだ」とテグマークは指摘した。「人類の未来と機械の未来のどちらを選ぶかということになれば、当然、彼らは同じ側に立つことになるだろう。」