Органы здравоохранения США проводят оценку моделей искусственного интеллекта компаний OpenAI и Anthropic

Органы общественного здравоохранения по всей стране приступят к оценке генеративного ИИ в рамках новой инициативы, возглавляемой Коалицией по ИИ в здравоохранении (Coalition for Health AI) в партнерстве с компаниями OpenAI, Anthropic и Accenture.

Программа «PULSE» (Public Health Use Case and Learning Scaling Engine) профинансирует испытания в 10 штатах, а также на местном, племенном и территориальном уровнях. Цель инициативы — разработать практические рекомендации по внедрению для организаций общественного здравоохранения, рассматривающих возможность аналогичного использования ИИ.

OpenAI и Anthropic предоставили 10 корпоративных лицензий, которые позволят охватить до 2 000 специалистов в сфере общественного здравоохранения. Accenture будет координировать подключение участников к программе и оказывать помощь в разработке руководств по внедрению на основе результатов пилотных испытаний.

Программа предоставляет сотрудникам системы общественного здравоохранения доступ к продуктам ИИ корпоративного уровня от OpenAI и Anthropic. Однако CHAI не раскрыла конкретные продукты, версии моделей или конфигурации, которые будут использоваться, а также то, как поставщики будут распределены между пилотными площадками.

«Успех или провал любой крупной технологической трансформации зависит от доверия, системы управления и исполнения», — заявил д-р Дэвид Лэйки, бывший комиссар по здравоохранению штата Техас. «Программа PULSE призвана поддержать ведомства в этих усилиях, уделяя особое внимание практическому внедрению».

Пять сценариев применения в сфере общественного здравоохранения

Руководящий совет Коалиции по ИИ в здравоохранении (CHAI) выберет участвующие юрисдикции и распределит специалистов по пяти ключевым направлениям: бионаблюдение и прогнозирование всплесков заболеваемости, картирование социальных детерминант здоровья (SDoH), операционная эффективность и анализ обратной связи от населения, коммуникации с общественностью, а также центр многоязычного перевода. Кроме того, программа включает автоматизированный поиск клинических данных и механизм запросов FHIR.

Согласно Рамке управления рисками ИИ Национального института стандартов и технологий (NIST), при оценке систем ИИ следует учитывать их предполагаемое использование, операционную среду, заинтересованные стороны и потенциальные последствия. CHAI пока не опубликовала конкретные критерии оценки, конфиденциальности, безопасности или экспертной проверки для этих пяти сценариев применения PULSE.

FHIR — это стандарт HL7, облегчающий электронный обмен медицинской информацией между совместимыми системами.

Хотя PULSE включает в себя автоматизированный механизм извлечения клинических данных и механизм запросов FHIR, в объявлении не уточняется роль генеративного ИИ в этом рабочем процессе. Остаётся неясным, будут ли модели генерировать запросы, извлекать записи, обобщать информацию или сочетать эти функции.

Кроме того, в объявлении не указано, будут ли неверные запросы, неполные результаты поиска или неподтвержденные сводки проверяться персоналом перед использованием информации.

Некоторые предлагаемые приложения могут включать демографические, географические, клинические данные или данные о здоровье населения. CHAI не указала, будут ли в пилотных проектах использоваться идентифицируемые записи, обезличенная информация, синтетические данные или агрегированные наборы данных.

В соответствии с законом HIPAA организации, подпадающие под действие данного законодательства, обязаны защищать определенную электронную медицинскую информацию. Руководство Министерства здравоохранения и социальных служб по облачным вычислениям предписывает регулируемым организациям и поставщикам услуг соблюдать требования HIPAA в тех случаях, когда облачные системы создают, получают, хранят или передают электронную защищенную медицинскую информацию.

Правила HIPAA не будут применяться ко всем участвующим организациям или рабочим процессам. Их применимость зависит от конкретного агентства, задействованных данных и выполняемой функции.

OpenAI заявляет, что входные и выходные данные из своих бизнес-сервисов, включая ChatGPT Enterprise и его API, по умолчанию не используются для обучения или улучшения моделей. Аналогичным образом, Anthropic подтверждает, что по умолчанию не использует входные и выходные данные из своих коммерческих продуктов для обучения моделей.

Данные политики поставщиков не определяют конфигурацию развертываний PULSE. В объявлении отсутствуют подробности о сроках хранения, средствах контроля доступа, механизмах аудита, требованиях к хранению данных или правилах предоставления защищенной медицинской информации.

«Мы считаем, что ИИ должен быть полезным, безопасным и доступным для людей, решающих важнейшие задачи общества», — заявил Фелипе Миллон, руководитель отдела вывода на рынок государственных секторов в OpenAI. Он отметил, что лицензии призваны помочь организациям общественного здравоохранения оценивать эти инструменты в рамках структурированного процесса.

Вопросы управления и оценки остаются нерешенными

Запуск пилотных проектов запланирован на осень 2026 года. CHAI ожидает, что итоговые руководства будут опубликованы в 2027 году и послужат справочным материалом для других учреждений общественного здравоохранения.

CHAI не опубликовала показатели оценки пилотных проектов и не пояснила, будет ли каждый случай использования оцениваться по отдельным критериям — техническим, операционным, конфиденциальности и безопасности.

В объявлении также не объясняется, как будут проверяться результаты работы моделей. В нём не уточняется, должны ли сотрудники утверждать сгенерированные публичные сообщения, проверять переводы, подтверждать достоверность полученной клинической информации или анализировать результаты бионаблюдения и прогнозов распространения эпидемий перед их использованием.

В рекомендациях NIST предлагается определять, какие функции ИИ требуют контроля со стороны человека, а также обучать пользователей пониманию работоспособности и ограничений системы. Рекомендации NIST по генеративному ИИ также охватывают тестирование, валидацию, мониторинг, документирование, вопросы конфиденциальности и управленческий контроль.

«От команд общественного здравоохранения требуют делать больше с меньшими ресурсами, и ИИ может в этом помочь — при условии, что его внедряют с осторожностью и с учетом надлежащих мер безопасности», — сказала Элизабет Келли, руководитель отдела эффективного внедрения компании Anthropic. Она отметила, что платформа PULSE позволяет специалистам тестировать инструменты в своих собственных средах, с самого начала учитывая меры по обеспечению конфиденциальности, управления и ответственного использования.

Данные Национальной ассоциации окружных и городских должностных лиц здравоохранения, на которые ссылается CHAI, указывают на то, что почти 40 % местных департаментов здравоохранения в настоящее время не используют ИИ. Коалиция отметила, что некоторые департаменты заинтересованы в пересмотре рабочих процессов и повышении операционной эффективности.

PULSE будет предоставлять корпоративные лицензии, поддержку при внедрении, сообщества коллег и руководства по внедрению. Однако CHAI не указала минимальные требования к кадровому составу, инфраструктуре, взаимодействию или кибербезопасности для участвующих юрисдикций.

К числу участников, имеющих право на участие, относятся департаменты здравоохранения штатов и территорий, окружные и муниципальные агентства, органы власти племен, организации здравоохранения коренных народов, а также департаменты здравоохранения крупных городов.

PULSE планирует преобразовать результаты, полученные в 10 юрисдикциях, в рекомендации для более широкого применения. В объявлении не объясняется, как руководства по внедрению будут учитывать различия в размере учреждений, технических системах, юридических обязанностях, кадровом составе или механизмах закупок.

Кроме того, в объявлении не уточняется, будут ли результаты бионаблюдения, прогнозирования всплесков заболеваемости или сбора клинических данных использоваться исключительно для тестирования, предоставляться персоналу для ознакомления или включаться в операционные рабочие процессы.

PULSE является частью более широкой деятельности Коалиции по искусственному интеллекту в здравоохранении (Coalition for Health AI) по разработке стандартов управления ИИ в сфере здравоохранения. В мае организация объявила о планах разработки рекомендаций, охватывающих восемь областей управления, в рамках семинаров и рабочих групп с участием более 150 представителей сферы ИИ в здравоохранении.

Коалиция приступила к публикации руководств по организационной политике в области ИИ, структурам управления и внутренним ресурсам. Ожидается, что дополнительные рекомендации охватят и другие сферы управления ИИ в здравоохранении.

Кроме того, CHAI сотрудничала с Joint Commission над руководствами по управлению, согласованными с её добровольной сертификацией «Ответственное использование ИИ в здравоохранении». В объявлении о PULSE не указано, что участвующие учреждения общественного здравоохранения будут проходить оценку в рамках этой сертификации.

Д-р Брайан Андерсон, генеральный директор Коалиции по ИИ в здравоохранении (CHAI), отметил, что учреждения общественного здравоохранения столкнулись с пандемией COVID-19 после многих лет ограниченных инвестиций в технологии. Он заявил, что программа PULSE направлена на то, чтобы предоставить учреждениям практический опыт использования ИИ перед его более широким внедрением.

«Мы знаем, что ИИ изменит подход к оказанию услуг в сфере общественного здравоохранения — вопрос в том, будем ли мы делать это обдуманно или нет», — сказал д-р Ашиш Джа, бывший координатор Белого дома по борьбе с COVID-19. Он добавил, что в рамках программы будет проверено, какие приложения работают, и полученные результаты будут задокументированы для использования другими учреждениями.

См. также: Bunkerhill привлекла 55 млн долларов на масштабирование агентного ИИ в системах здравоохранения

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие является частью TechEx и проходит одновременно с другими ведущими технологическими событиями, включая Cyber Security & Cloud Expo. Нажмите здесь для получения дополнительной информации.

AI News поддерживается TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям здесь.