米国の保健当局がOpenAIおよびAnthropicのAIモデルを評価

全国の公衆衛生機関は、「Coalition for Health AI」が主導し、OpenAI、Anthropic、アクセンチュアと提携して実施される新たな取り組みを通じて、生成AIの評価を行う予定だ。

「公衆衛生ユースケースおよび学習スケーリング・エンジン（PULSE）」は、10の州、地方自治体、部族、および準州の管轄区域にわたる実証実験に資金を提供する。このイニシアチブは、同様のAI導入を検討している公衆衛生機関向けに、実践可能な導入ガイダンスを作成することを目的としている。

OpenAIとAnthropicは、最大2,000人の公衆衛生専門家を支援するためのエンタープライズライセンス10件を提供した。アクセンチュアは、参加者のオンボーディングを管理し、試験結果に基づいた導入マニュアルの作成を支援する。

このプログラムにより、公衆衛生担当者はOpenAIおよびAnthropicのエンタープライズグレードのAI製品を利用できるようになる。ただし、CHAIは、使用される具体的な製品、モデルバージョン、構成、および各パイロットサイトへのプロバイダーの割り当て方法については明らかにしていない。

「あらゆる大規模な技術変革の成否は、信頼、ガバナンス、そして実行力にかかっている」と、元テキサス州保健局長であるデビッド・レイキー博士は述べた。「PULSEは、実用的な導入に焦点を当て、この取り組みにおいて各機関を支援するように設計されている。」

公衆衛生における5つの活用事例

Coalition for Health AIのリーダーシップ評議会は、参加する管轄区域を選定し、実務担当者を以下の5つの主要分野に割り当てる：バイオサーベイランスおよび薬物流行予測、健康の社会的決定要因（SDoH）のマッピング、業務効率化と地域社会からのフィードバック分析、広報、および多言語翻訳ハブ。 さらに、このプログラムには、臨床データの自動取得機能とFHIRクエリエンジンも含まれている。

NISTのAIリスク管理フレームワークでは、AIシステムを、その使用目的、運用環境、影響を受ける当事者、および潜在的な結果に基づいて評価するよう推奨している。CHAIは、これら5つのPULSEユースケースに関する具体的な評価基準、プライバシー基準、セキュリティ基準、あるいは人間によるレビュー基準をまだ公表していない。

FHIRは、互換性のあるシステム間の医療情報の電子的交換を促進するHL7規格である。

PULSEには自動化された臨床データ取得機能とFHIRクエリエンジンが含まれていますが、今回の発表では、このワークフローにおける生成AIの役割については明確にされていません。モデルがクエリを生成するのか、記録を取得するのか、情報を要約するのか、あるいはこれらの機能を組み合わせるのかは、依然として不明です。

さらに、発表では、誤ったクエリ、不完全な検索結果、または不適切な要約が、情報が利用される前に担当者によって審査されるかどうかについても明記されていない。

提案されている用途の中には、人口統計データ、地理的データ、臨床データ、あるいは集団健康データが含まれる可能性がある。CHAIは、パイロット事業において、識別可能な記録、匿名化された情報、合成データ、あるいは集計データセットのいずれが使用されるかについては明らかにしていない。

HIPAA（医療保険の携行性と責任に関する法律）の下では、同規制の対象となる組織は、特定の電子健康情報を保護しなければならない。保健社会福祉省のクラウドコンピューティングに関するガイダンスでは、クラウドシステムが電子保護健康情報（ePHI）を作成、受信、維持、または送信する場合、規制対象機関およびサービスプロバイダーはHIPAAの要件を遵守することが義務付けられている。

HIPAAの規制は、参加するすべての組織やワークフローに適用されるわけではありません。その適用可否は、具体的な機関、関与するデータ、および実行される機能によって異なります。

OpenAIは、ChatGPT EnterpriseやそのAPIを含む同社のビジネスサービスからの入出力データが、デフォルトではモデルの学習や改善に使用されないとしている。同様に、Anthropicも、同社の商用製品からの入出力データをデフォルトではモデルの学習に使用していないことを確認している。

これらのプロバイダーのポリシーは、PULSEの導入構成を定義するものではありません。この発表には、保存期間、アクセス制御、監査体制、データ保存要件、または保護対象医療情報の提出に関する規則についての詳細が欠けています。

「AIは、社会が直面する最も重要な課題に取り組む人々にとって、有用で安全、かつ利用しやすいものであるべきだと考えています」と、OpenAIの政府向け市場開拓責任者であるフェリペ・ミロン氏は述べた。同氏は、これらのライセンスが、公衆衛生機関が体系的なプロセスを通じてこれらのツールを評価するのを支援することを目的としていると指摘した。

ガバナンスと評価については未定義のまま

パイロット事業は2026年秋に開始される予定だ。CHAIは、その結果として作成されるプレイブックが2027年に公開され、他の公衆衛生機関の参考資料となることを期待している。

CHAIは、パイロット事業を評価するための指標を公表しておらず、各ユースケースが技術的、運用上、プライバシー、安全性の各基準ごとに個別に評価されるかどうかも説明していない。

また、この発表では、モデルの出力がどのように審査されるかについても説明されていない。生成された対外的なコミュニケーション文を職員が承認する必要があるか、翻訳を検証する必要があるか、取得された臨床情報を妥当性確認する必要があるか、あるいはバイオサーベイランスや薬物流行に関する出力を使用前に審査する必要があるかについては、具体的に明記されていない。

NISTのガイダンスでは、どのAI機能に人間の監督が必要かを特定し、システムの実績と限界を理解できるようユーザーを教育することを推奨している。また、生成AIに関するガイダンスでは、テスト、検証、モニタリング、文書化、プライバシー、および管理上の監督についても扱っている。

「公衆衛生チームには、限られたリソースでより多くの成果が求められており、AIはそれを支援できる――ただし、慎重に導入され、適切な安全対策が講じられている限りにおいて」と、Anthropicの有益な導入担当責任者であるエリザベス・ケリー氏は述べた。 同氏は、PULSEにより実務者が自身の環境でツールをテストでき、最初からプライバシー、ガバナンス、および責任ある利用のための措置を組み込むことができると述べた。

CHAIが引用した全米郡・市保健当局者協会（NACCHO）のデータによると、地方保健局の40％近くが現在AIを利用していないことが示されている。同連合は、一部の保健局がワークフローの見直しや業務効率の向上に関心を示していると指摘した。

PULSEは、エンタープライズライセンス、導入支援、ピアコミュニティ、および導入ガイドブックを提供する予定だ。ただし、CHAIは参加自治体に対する最低人員、インフラ、相互運用性、またはサイバーセキュリティの要件については具体的に明示していない。

参加資格のある機関には、州および準州の保健局、郡・市当局、部族当局、先住民保健機関、および大都市の保健局が含まれる。

PULSEは、10の管轄区域からの知見を、より広範な利用に向けたガイダンスにまとめる計画だ。発表では、プレイブックが機関の規模、技術システム、法的責任、人員配置、調達体制の違いをどのように考慮に入れるかについては説明されていない。

さらに、この発表では、バイオサーベイランス、薬物流行の予測、あるいは臨床データの取得から得られる成果物が、単にテスト目的で使用されるのか、職員によるレビューのために提示されるのか、あるいは業務ワークフローに組み込まれるのかについても明確になっていない。

PULSEは、医療AIのガバナンス基準に関する「Coalition for Health AI」の広範な取り組みの一環である。5月、同団体は150名以上の医療AI関係者によるワークショップやワーキンググループを通じて、8つのガバナンス分野を網羅する指針を策定する計画を発表した。

同連合は、組織のAIポリシー、ガバナンス体制、内部リソースに関するプレイブックの公開を開始している。追加のガイダンスでは、医療AI管理の他の分野も網羅される見込みだ。

これとは別に、CHAIは、自主的な「医療におけるAIの責任ある利用（Responsible Use of AI in Healthcare）」認証に準拠したガバナンス・プレイブックについて、ジョイント・コミッション（Joint Commission）と協力してきた。今回のPULSEの発表では、参加する公衆衛生機関がこの認証に基づいて評価されることについては言及されていない。

Coalition for Health AIのCEOであるブライアン・アンダーソン博士は、公衆衛生機関が長年にわたり技術投資が限られていた状況下で、COVID-19パンデミックに直面したと指摘した。同博士は、PULSEがAIの広範な導入に先立ち、各機関に実践的なAI体験を提供することを目的としていると述べた。

「AIが公衆衛生の提供方法を再構築することは明らかだ――問題は、それを慎重に行うか否かだ」と、元ホワイトハウスCOVID-19対応コーディネーターのアシシュ・ジャ博士は述べた。同博士はさらに、このプログラムを通じてどのアプリケーションが有効かを検証し、その結果を他の機関のために記録していくと付け加えた。

関連記事：バンカーヒル、医療システム全体でのエージェント型AIの拡大に向け5,500万ドルを調達

業界のリーダーたちからAIやビッグデータについてさらに学びたいですか？ アムステルダム、カリフォルニア、ロンドンで開催される「AI & Big Data Expo」をご覧ください。この包括的なイベントはTechExの一部であり、「Cyber Security & Cloud Expo」を含む他の主要なテクノロジーイベントと同時開催されます。詳細はこちらをクリックしてください。

AI NewsはTechForge Mediaが運営しています。今後開催予定のその他のエンタープライズ・テクノロジーイベントやウェビナーについては、こちらをご覧ください。