美国卫生机构对OpenAI和Anthropic的人工智能模型进行评估

在全国范围内，公共卫生机构将通过由“健康人工智能联盟”（Coalition for Health AI）牵头、并与OpenAI、Anthropic及埃森哲（Accenture）合作开展的一项新计划，对生成式人工智能进行评估。

“公共卫生用例与学习扩展引擎”（PULSE）将为覆盖10个州、地方、部落及领地管辖区的试点项目提供资金支持。该计划旨在为考虑部署类似人工智能技术的公共卫生机构制定可操作的实施方案指南。

OpenAI和Anthropic共提供了10份企业级许可证，可支持多达2,000名公共卫生专业人员。埃森哲将负责参与者的入职管理，并根据试点结果协助制定实施指南。

该计划使公共卫生工作人员能够使用 OpenAI 和 Anthropic 的企业级 AI 产品。不过，CHAI 尚未披露将使用的具体产品、模型版本或配置，也未说明各试点地点将如何分配这些供应商的服务。

“每次重大的技术转型，其成败都取决于信任、治理和执行，”德克萨斯州前卫生专员大卫·莱基博士表示。“PULSE计划旨在支持各机构开展这项工作，重点在于实际落地。”

五大公共卫生应用场景

健康人工智能联盟（CHAI）领导委员会将遴选参与的辖区，并为五大关键领域指派从业人员：生物监测与疫情浪潮预测、健康社会决定因素（SDoH）测绘、运营效率与社区反馈分析、公共传播，以及多语言翻译中心。 此外，该计划还包括自动临床数据检索和FHIR查询引擎。

美国国家标准与技术研究院（NIST）的人工智能风险管理框架建议，应根据人工智能系统的预期用途、运行环境、受影响方以及潜在后果对其进行评估。目前，CHAI尚未针对这五个PULSE应用案例发布具体的评估、隐私、安全或人工审核标准。

FHIR 是一项 HL7 标准，旨在促进兼容系统之间医疗保健信息的电子交换。

尽管 PULSE 包含自动临床数据检索和 FHIR 查询引擎，但公告并未阐明生成式人工智能在此工作流程中的作用。目前尚不清楚这些模型将生成查询、检索记录、汇总信息，还是结合上述功能。

此外，该公告未明确说明在信息被使用前，错误的查询、不完整的检索结果或不符合规范的摘要是否会由工作人员进行审核。

部分拟议的应用可能涉及人口统计、地理、临床或人群健康数据。CHAI 尚未说明试点项目将使用可识别记录、去识别化信息、合成数据还是聚合数据集。

根据《健康保险流通与责任法案》（HIPAA），受该法规约束的机构必须保护特定的电子健康信息。美国卫生与公众服务部的云计算指南规定，当云系统创建、接收、维护或传输受保护的电子健康信息时，受监管实体和服务提供商必须遵守HIPAA的要求。

HIPAA法规并不适用于所有参与组织或工作流程。其适用性取决于具体机构、涉及的数据以及所执行的功能。

OpenAI 声明，其商业服务（包括 ChatGPT Enterprise 及其 API）的输入和输出，默认情况下不会用于训练或改进其模型。同样，Anthropic 也确认，其商业产品的输入和输出默认情况下不会用于模型训练。

这些服务提供商的政策并未定义 PULSE 部署的配置。该公告未详细说明保留期限、访问控制、审计安排、数据存储要求，以及提交受保护健康信息的规则。

“我们认为，人工智能应当对那些致力于解决社会最重要挑战的人们有用、安全且易于获取，”OpenAI政府市场拓展负责人费利佩·米隆（Felipe Millon）表示。他指出，这些许可旨在帮助公共卫生组织通过结构化的流程对这些工具进行评估。

治理与评估机制尚未明确

试点项目计划于2026年秋季启动。CHAI预计相关实践指南将于2027年发布，作为其他公共卫生机构的参考资料。

CHAI 尚未公布评估试点项目的指标，也未说明每个用例是否将根据技术、运营、隐私和安全等各自独立的标准进行评估。

该公告也未说明将如何审查模型输出结果。它未明确规定工作人员是否必须在使用前批准生成的公共通讯内容、核实翻译内容、验证检索到的临床信息，或审查生物监测和疫情波段分析的输出结果。

美国国家标准与技术研究院（NIST）的指导意见建议明确哪些AI功能需要人工监督，并培训用户了解系统的性能和局限性。其关于生成式AI的指导意见还涵盖了测试、验证、监控、文档记录、隐私以及管理监督等方面。

“公共卫生团队正被要求以更少的资源完成更多工作，而人工智能可以提供帮助——只要在引入时谨慎行事并设置适当的防护措施，”Anthropic公司有益部署负责人伊丽莎白·凯利（Elizabeth Kelly）表示。 她指出，PULSE 平台允许从业者在其自身环境中测试工具，并从一开始就融入隐私保护、治理及负责任使用等措施。

CHAI援引的美国县市卫生官员全国协会（NACCHO）数据显示，目前近40%的地方卫生部门尚未采用AI技术。该联盟指出，部分部门有意调整工作流程并提升运营效率。

PULSE将提供企业级许可证、入职支持、同行社区以及实施指南。不过，CHAI尚未明确参与地区在人员配置、基础设施、互操作性或网络安全方面的最低要求。

符合条件的参与者包括各州及属地卫生部门、县市机构、部落当局、印第安人卫生组织以及大型城市卫生部门。

PULSE计划将10个管辖区的实践成果转化为指导方针，以供更广泛应用。该公告未说明实施手册将如何兼顾各机构在规模、技术系统、法律责任、人员配置或采购安排方面的差异。

此外，该公告也未明确说明生物监测、疫情浪潮预测或临床数据检索的成果，究竟是仅用于检测，还是提交给工作人员审核，抑或纳入运营工作流程。

PULSE是“医疗健康人工智能联盟”（Coalition for Health AI）在医疗健康人工智能治理标准方面更广泛工作的一部分。今年5月，该组织宣布计划通过涉及150多名医疗健康人工智能代表的研讨会和工作组，制定涵盖八个治理领域的指导方针。

该联盟已开始发布关于组织人工智能政策、治理结构和内部资源的实践手册。预计后续指导将涵盖医疗健康人工智能管理的其他领域。

此外，CHAI 还与联合委员会（Joint Commission）合作，共同制定了与其自愿性“医疗保健中人工智能的负责任使用”认证相一致的治理手册。PULSE 的公告并未说明参与的公共卫生机构将根据该认证接受评估。

医疗健康人工智能联盟首席执行官布莱恩·安德森博士指出，公共卫生机构在经历多年技术投入不足的情况下，突然面临了新冠疫情的挑战。他表示，PULSE计划旨在让各机构在更广泛地实施人工智能之前，先积累实际应用经验。

“我们知道人工智能将重塑公共卫生服务的提供方式——关键在于我们是否会审慎地推进这一进程，”前白宫新冠疫情应对协调员阿希什·贾博士表示。他补充道，该项目将测试哪些应用有效，并为其他机构记录研究成果。

另请参阅：Bunkerhill 筹集 5500 万美元，旨在将代理式人工智能推广至各医疗系统

想从行业领袖那里了解更多关于人工智能和大数据的信息吗？欢迎探索将在阿姆斯特丹、加利福尼亚和伦敦举办的“人工智能与大数据博览会”。这一综合性活动隶属于 TechEx，并将与其他领先的技术活动同期举办，包括“网络安全与云计算博览会”。点击此处获取更多信息。

AI News 由 TechForge Media 提供支持。点击此处了解其他即将举办的企业技术活动和网络研讨会。