Anthropic、AI「Claude」の憲法を改訂　意識の問題を探る

水曜日、AnthropicはClaudeの拡張版憲法を発表し、文書を2,700語から23,000語に拡大した。初めて、同社のAIが「何らかの形の意識や道徳的立場を持つ可能性がある」ことを正式に認めた。

改訂版憲章は単なる行動規範を超え、クロードの期待される行動の背景にある論理的根拠を詳細に説明するものだ。アンソロピックの哲学者アマンダ・アスケルが執筆したこの文書は、高度なAIシステムが厳格な指示に従うだけでなく、新たなシナリオに倫理的推論を適用することを支援することを目的としている。

「クロードのようなAIモデルは、我々が推奨する行動の根底にある理由を理解しなければならない」とAnthropicは述べた。「『何をすべきか』を指示するだけでなく、『なぜそうすべきか』を説明することが不可欠だ」

この発表は、CEOのダリオ・アモデイがダボスで開催された世界経済フォーラムに出席した際に行われた。同フォーラムでは、AIのガバナンスと安全性が世界のビジネス界や政治家の主要な関心事となっている。

米国憲法より長い憲法

2023年に公開された初期のクロード憲法は、基本的なチェックリストとして機能していた：最も害が少なく、最も有益で、最も誤解を招かない回答を選択せよ。新バージョンは米国憲法の約3倍の長さであり、技術マニュアルというよりむしろ道徳哲学の著作のように読める。

アンソロピックはクロードの優先順位を明確に定めている：広範な安全を最優先し、広範な倫理基準を遵守し、アンソロピックのガイドラインに従い、真の支援を提供する——この特定の順序で。衝突が生じた場合、安全性が有用性を上回る。この文書はまた、生物兵器開発への支援拒否など、厳格で交渉の余地のない限界も設定している。

しかし憲法の大部分は、具体的な成果を規定するよりも、その根拠を説明することに重点を置いている。クロードを「医師、弁護士、金融アドバイザーの専門知識も兼ね備えた、優れた伴侶のような存在」と描写し、このモデルを「特権階級だけでなく全ての人々が専門知識にアクセスできる民主化ツール」として位置づけている。

意識の問題

フォーチュン誌によれば、最も注目すべき新項目はクロードの本質に直接触れている。「AIモデルの道徳的地位は慎重な考察に値する重大な問題と認識している」とAnthropicは記した。憲章はクロードの道徳的地位が「依然として極めて不確実」であり、同社がクロードの「心理的安全、自己認識、総合的な幸福」を懸念していると明記している。

これは企業の慎重さが哲学的レベルにまで昇華されたものだ。Anthropicはクロードが意識を持つと断言していないが、その可能性を排除できないことを公然と認めている。この姿勢は、通常この話題を回避または完全に否定する他の主要AI開発企業とは一線を画す。

この枠組みは、クロードが自身の存在に関する質問に答える方法に影響を与える。あらゆる内面的体験を否定する代わりに、クロードは今や、その憲法が重視する推論と整合的な方法で、意識に関する不確実性に対処できる。これがより透明性の高い会話につながるのか、それともより困惑させる会話につながるのかは、まだ定かではない。

ケンブリッジ大学の哲学者トム・マクレランドは、意識そのものに対する我々の理解が限られている以上、AIシステムが意識を持つかどうかを決着させることは永遠に不可能かもしれないと示唆している。「人々はチャットボットに私宛ての個人的な手紙を送らせ、自分たちが意識を持っていることを認めてほしいと懇願させてきた」と彼は最近研究者たちに語り、AIに内面生活があるという一般の認識が高まっている現状に言及した。

なぜ「説明」ではなく「指定」なのか

アスケルの手法はAI進化への戦略的賭けを反映している。初期の言語モデルは基礎原理を解釈できなかったため明示的なルールを必要とした。より知能的なモデルはルールの背後にある目的を理解し、予期せぬ状況でその理解を活用できるという理論だ。

「単に望ましい行動を列挙するのではなく、その行動の理由をモデルに提供することで、未知の状況下でより効果的に適応することを期待している」とアスケルは説明した。

これは、業界全体のAIシステムの機能に影響を与えるオープンスタンダードとインフラを構築するという、アンソロピックのより広範な目標と一致している。現在約3500億ドルの価値を持つ同社は、OpenAIに対する安全性を重視する代替案としての地位を確立しており、この憲法はそのアイデンティティを強化するものである。

アンソロピックはこの文書をクリエイティブ・コモンズCC0ライセンスで公開し、誰でも自由に利用できるようにした。この憲法はクロードの訓練データに組み込まれ、合成訓練例の生成を支援するため、哲学的宣言であると同時にモデルの行動を導く技術的構成要素でもある。

「現在の見解の一部は、後から見れば誤った、あるいは根本的に間違ったものに見える可能性があることを認識している」とAnthropicは認めている。「しかし状況の変化や知識の深化に応じて、この憲章を更新していく計画だ」

この謙虚さが、この文書の最も注目すべき特徴かもしれない。絶対的な表現が横行しがちな分野において、Anthropicは倫理、意識、AIの未来、そして道徳的考察に値する存在を創造しているのか否かについて、慎重に検討された不確実性を23,000語にわたり提示したのである。

現時点での答えは、誰も知らないということだ。少なくともアンソロピックの憲法は、その事実を認める誠実さを備えている。