AWSニューロシンボリックAIが規制対象分野向けに検証可能なエージェント自動化を実現

AWSは、Bedrockの自動推論チェック機能を一般提供することで、企業や規制産業がより多くのAIアプリケーションやエージェントを採用・展開する自信を高めると確信しています。

同社はさらに、数学的検証を用いて真偽値を確立する自動推論のような手法が、企業がニューロシンボリックAIへ移行する助けとなると予測している。AWSはこれをAI分野における次の重要な進化、そして主要な差別化要因と見なしている。

自動推論チェック機能により、企業ユーザーは応答の正確性を検証し、モデルの幻覚（hallucinations）を検出できます。AWSは昨年12月のre:InventカンファレンスでBedrockにこの機能を初導入し、ほぼ全ての幻覚を識別可能と主張しました。当初はAmazon Bedrock Guardrails経由で限定ユーザーが利用可能でしたが、このツールにより組織は責任あるAIポリシーを定義できます。

AWS自動推論グループの主席科学者兼バイスプレジデントであるバイロン・クック氏はVentureBeatのインタビューで、プレビュー版が企業環境におけるシステムの有効性を実証したと述べた。また、シンボリックで構造化された推論と生成AIのニューラルネットワーク機能を融合したAIの価値を組織が理解する助けにもなったと語った。

「自動推論は神経記号AIという広範な概念に属します」とクック氏は説明。「神経記号AIへの関心の高まりにより、ユーザーはこのツールを実際に使用する中で、この技術がいかに重要かを実感しました」

クック氏は、一部顧客がAWSに自社データと回答注釈文書の分析を許可した事例を挙げた。ツールの性能は、ルールブックを手にした人間と同等であることが判明したという。真偽や正しさの概念は主観的になり得るが、自動推論はこの曖昧さをほぼ回避できると彼は付け加えた。

「実に驚くべき光景でした」と彼は語る。「論理学のバックグラウンドを持つ人々が社内チャットで何が真実か議論し、数回のやり取りの末にツールを指さして『ああ、これが正解だ』と気づく様子は圧巻でした」

一般公開に向け、AWSは自動推論チェック機能を強化し、以下の新機能を追加した：

• 最大80,000トークン（約100ページ相当）の大規模文書対応
• テストシナリオの保存・再利用機能によるポリシー検証の簡素化
• 事前定義された仕様からの自動シナリオ生成
• ポリシー改善のための自然言語による提案
• カスタマイズ可能な検証設定

クックによれば、自動推論チェックはモデルが解決策を幻覚生成していないことを証明することでAIシステムの真実性を検証する。この機能は、生成AIの非決定論的性質による誤出力に懸念を持つ規制当局や規制対象企業に対し、より高い保証を提供し得る。

ニューロシンボリックAIと真実性の確立

クック氏は、自動推論チェックがニューロシンボリックAIの主要原理の実証に役立つと強調した。

ニューロシンボリックAIは、言語モデルが使用するニューラルネットワークのパターン認識と、シンボリックAIの構造化された論理を組み合わせたものである。ニューラルネットワークがデータパターンから学習するのに対し、シンボリックAIは明示的なルールと論理的推論に基づいて動作する。基盤モデルは主にニューラルネットワークに依存しているため、幻覚現象の影響を受けやすく、これは企業にとって大きな懸念事項である。一方、シンボリックAIは手動プログラミングなしでは柔軟性に欠ける。

ゲイリー・マーカスらAI分野の有力者は、汎用人工知能（AGI）達成にはニューロシンボリックAIが不可欠だと主張している。

クックとAWSは、ニューロシンボリックAIの概念を企業に導入することに熱心だ。ベンチャービートのマット・マーシャルはポッドキャストで、AWSが自動推論チェックなどの手法に注力していることを議論した。これは生成AIに数学的・論理的厳密性を適用し、幻覚を低減するものである。

現在、Kognitos、Franz Inc.、UMNAIなど、製品化された神経記号AIソリューションを提供する企業はほとんどない。

数学的厳密性を検証に適用する

自動推論は、与えられたクエリに対するモデルの応答に数学的証明を適用することで機能する。

これは「理論モジュロ満足可能性（SMT）」と呼ばれる手法を利用し、記号に事前定義された意味を持たせることで、論理（if、then、and、or）と数学の両方を含む問題を解決します。この技術はモデルの応答にこの手法を適用し、複数回のテスト実行を必要とせずに、一連のポリシーやグラウンドトゥルースデータとの整合性をチェックします。

例えば、企業が財務監査の正確性を検証したい場合を考えてみましょう。モデルが承認されていない支払いを含むとしてレポートにフラグを立てた場合、自動推論はこれを論理式に分解します：

(forall ((r Report))

(=> (containsUnapprovedVendorPayments r)

(shouldEscalate r)))

その後、Bedrock Guardrailsでユーザーが設定した定義、変数、型を参照し、この式を解くことでモデルの応答が正しく真実に基づいていることを証明します。

証明可能なAIエージェントの正確性確保

クック氏は、エージェント型ユースケースは自動推論チェックから大きな恩恵を受けると述べた。Bedrockを通じた広範なアクセスがその有用性を実証するのに役立つだろう。ただし、自動推論やその他のニューロシンボリックAI技術はまだ発展途上段階にあると彼は注意を促した。

「現時点では非常に推測の域を出ない分野ではあるが、エージェント型AIに影響を与えると確信している」とクックは語った。「文中の曖昧性を特定し、解釈の差異を明確に指摘した上でユーザーに説明を求めるといった手法が重要になるだろう。これは数年前に生成AIの実験を始めた顧客に見られた感情的な変遷と類似している」