Las agencias sanitarias estadounidenses evalúan los modelos de IA de OpenAI y Anthropic

Las agencias de salud pública de todo el país se disponen a evaluar la IA generativa a través de una nueva iniciativa liderada por la Coalición para la IA en la Salud, en colaboración con OpenAI, Anthropic y Accenture.

El programa «Public Health Use Case and Learning Scaling Engine» (PULSE) financiará ensayos en diez jurisdicciones estatales, locales, tribales y territoriales. La iniciativa tiene como objetivo generar directrices prácticas de implementación para las organizaciones de salud pública que estén considerando implantaciones similares de IA.

OpenAI y Anthropic han aportado 10 licencias empresariales, con las que se dará apoyo a hasta 2.000 profesionales de la salud pública. Accenture gestionará la incorporación de los participantes y ayudará a desarrollar guías de implementación basadas en los resultados de las pruebas.

El programa concede al personal de salud pública acceso a productos de IA de nivel empresarial de OpenAI y Anthropic. Sin embargo, CHAI no ha revelado los productos específicos, las versiones de los modelos ni las configuraciones que se utilizarán, ni cómo se distribuirán los proveedores entre los centros piloto.

«El éxito o el fracaso de toda gran transformación tecnológica depende de la confianza, la gobernanza y la ejecución», afirmó el Dr. David Lakey, excomisario de Salud de Texas. «PULSE está diseñado para apoyar a los organismos en este esfuerzo, centrándose en la implementación práctica».

Cinco casos de uso en salud pública

El consejo directivo de la Coalition for Health AI seleccionará las jurisdicciones participantes y asignará a los profesionales a cinco áreas clave: biosupervisión y predicción de oleadas de contagios, cartografía de los determinantes sociales de la salud (SDoH), eficiencia operativa y análisis de la retroalimentación de la comunidad, comunicaciones públicas y un centro de traducción multilingüe. Además, el programa incluye la recuperación automatizada de datos clínicos y un motor de consultas FHIR.

El Marco de Gestión de Riesgos de la IA del NIST recomienda evaluar los sistemas de IA en función de su uso previsto, el entorno operativo, las partes afectadas y las posibles consecuencias. La CHAI aún no ha publicado criterios específicos de evaluación, privacidad, seguridad o revisión humana para estos cinco casos de uso de PULSE.

FHIR es un estándar HL7 que facilita el intercambio electrónico de información sanitaria entre sistemas compatibles.

Aunque PULSE incluye un sistema automatizado de recuperación de datos clínicos y un motor de consultas FHIR, el comunicado no aclara el papel de la IA generativa en este flujo de trabajo. Sigue sin estar claro si los modelos generarán consultas, recuperarán registros, resumirán información o combinarán estas funciones.

Además, el comunicado no especifica si las consultas incorrectas, las recuperaciones incompletas o los resúmenes sin fundamento serán revisados por el personal antes de que se utilice la información.

Algunas de las aplicaciones propuestas podrían incluir datos demográficos, geográficos, clínicos o de salud de la población. La CHAI no ha indicado si los proyectos piloto utilizarán registros identificables, información anonimizada, datos sintéticos o conjuntos de datos agregados.

En virtud de la HIPAA, las organizaciones sujetas a la normativa deben proteger determinada información sanitaria electrónica. Las directrices sobre computación en la nube del Departamento de Salud y Servicios Humanos exigen que las entidades reguladas y los proveedores de servicios cumplan los requisitos de la HIPAA cuando los sistemas en la nube creen, reciban, mantengan o transmitan información sanitaria protegida en formato electrónico.

Las normas de la HIPAA no se aplicarán a todas las organizaciones participantes ni a todos los flujos de trabajo. Su aplicabilidad depende de la agencia concreta, de los datos en cuestión y de la función que se esté llevando a cabo.

OpenAI afirma que, de forma predeterminada, las entradas y salidas de sus servicios empresariales, incluidos ChatGPT Enterprise y su API, no se utilizan para entrenar o mejorar sus modelos. Del mismo modo, Anthropic confirma que, de forma predeterminada, no utiliza las entradas y salidas de sus productos comerciales para el entrenamiento de modelos.

Estas políticas de los proveedores no definen la configuración de las implementaciones de PULSE. El anuncio carece de detalles sobre los períodos de conservación, los controles de acceso, las disposiciones de auditoría, los requisitos de almacenamiento de datos o las normas para el envío de información sanitaria protegida.

«Creemos que la IA debe ser útil, segura y accesible para las personas que abordan los retos más importantes de la sociedad», afirmó Felipe Millon, responsable de comercialización para el sector público de OpenAI. Señaló que las licencias tienen por objeto ayudar a las organizaciones de salud pública a evaluar estas herramientas mediante un proceso estructurado.

La gobernanza y la evaluación siguen sin definirse

Está previsto que los proyectos piloto se pongan en marcha en otoño de 2026. La CHAI espera que las guías resultantes se publiquen en 2027, para que sirvan de material de referencia a otros organismos de salud pública.

CHAI no ha publicado los indicadores para evaluar los proyectos piloto ni ha explicado si cada caso de uso se evaluará según criterios técnicos, operativos, de privacidad y de seguridad independientes.

El anuncio tampoco explica cómo se revisarán los resultados de los modelos. No especifica si el personal debe aprobar las comunicaciones públicas generadas, verificar las traducciones, validar la información clínica obtenida o revisar los resultados de la biosupervisión y las oleadas de medicamentos antes de su uso.

Las directrices del NIST recomiendan identificar qué funciones de la IA requieren supervisión humana y formar a los usuarios para que comprendan el rendimiento y las limitaciones del sistema. Sus directrices sobre IA generativa también abarcan las pruebas, la validación, la supervisión, la documentación, la privacidad y la supervisión de la gestión.

«A los equipos de salud pública se les pide que hagan más con menos, y la IA puede ayudar —siempre que se implemente con cuidado y con las medidas de protección adecuadas—», afirmó Elizabeth Kelly, directora de implementaciones beneficiosas de Anthropic. Afirmó que PULSE permite a los profesionales probar herramientas en sus propios entornos, incorporando desde el principio medidas de privacidad, gobernanza y uso responsable.

Los datos de la Asociación Nacional de Funcionarios de Salud de Condados y Ciudades, citados por CHAI, indican que casi el 40 % de los departamentos de salud locales no utilizan actualmente la IA. La coalición señaló que algunos departamentos están interesados en revisar los flujos de trabajo y mejorar la eficiencia operativa.

PULSE proporcionará licencias empresariales, apoyo para la incorporación, comunidades de pares y guías de implementación. Sin embargo, CHAI no ha especificado los requisitos mínimos de personal, infraestructura, interoperabilidad o ciberseguridad para las jurisdicciones participantes.

Entre los participantes elegibles se incluyen los departamentos de salud estatales y territoriales, las agencias de condado y municipales, las autoridades tribales, las organizaciones de salud indígenas y los departamentos de salud de las grandes ciudades.

PULSE tiene previsto convertir los resultados obtenidos en 10 jurisdicciones en directrices para un uso más amplio. El comunicado no explica cómo tendrán en cuenta las guías las diferencias en cuanto al tamaño de los organismos, los sistemas técnicos, las responsabilidades legales, la dotación de personal o los acuerdos de contratación pública.

Además, el anuncio no aclara si los resultados de la biosupervisión, la predicción de oleadas de contagios o la recuperación de datos clínicos se utilizarán exclusivamente para realizar pruebas, se presentarán al personal para su revisión o se incorporarán a los flujos de trabajo operativos.

PULSE forma parte del trabajo más amplio de la Coalition for Health AI sobre normas de gobernanza para la IA en el ámbito sanitario. En mayo, la organización anunció sus planes de elaborar directrices que abarquen ocho áreas de gobernanza a través de talleres y grupos de trabajo en los que participarán más de 150 representantes del sector de la IA sanitaria.

La coalición ha comenzado a publicar manuales sobre políticas organizativas en materia de IA, estructuras de gobernanza y recursos internos. Se espera que las directrices adicionales abarquen otras áreas de la gestión de la IA en el ámbito sanitario.

Por otra parte, la CHAI ha colaborado con la Comisión Conjunta (Joint Commission) en la elaboración de manuales de gobernanza alineados con su certificación voluntaria «Uso responsable de la IA en la asistencia sanitaria». El anuncio de PULSE no indica que las agencias de salud pública participantes vayan a ser evaluadas en el marco de esta certificación.

El Dr. Brian Anderson, director ejecutivo de la Coalición para la IA en la Salud, señaló que las agencias de salud pública se enfrentaron a la pandemia de COVID-19 tras años de inversión tecnológica limitada. Afirmó que PULSE tiene como objetivo proporcionar a las agencias experiencia práctica en IA antes de una implementación más amplia.

«Sabemos que la IA va a transformar la forma en que prestamos los servicios de salud pública; la cuestión es si lo hacemos de forma reflexiva o no», afirmó el Dr. Ashish Jha, antiguo coordinador de la respuesta al COVID-19 de la Casa Blanca. Añadió que el programa pondrá a prueba qué aplicaciones funcionan y documentará los resultados para otras agencias.

Véase también: Bunkerhill recauda 55 millones de dólares para ampliar la IA «agéntica» en los sistemas sanitarios

¿Quieres saber más sobre la IA y el big data de la mano de líderes del sector? Descubre la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este evento integral forma parte de TechEx y se celebra junto con otros eventos tecnológicos destacados, como la Cyber Security & Cloud Expo. Haz clic aquí para obtener más información.

AI News es una iniciativa de TechForge Media. Descubre aquí otros próximos eventos y seminarios web sobre tecnología empresarial.