Los agentes de IA pueden comunicarse, pero sólo unos pocos son realmente fiables

La demanda de agentes de IA en la sanidad nunca ha sido tan acuciante. En todo el sector, los equipos sobrecargados se enfrentan a un volumen abrumador de tareas que consumen mucho tiempo y retrasan la atención al paciente. Los médicos están al límite de su capacidad, los centros de llamadas de los pagadores están inundados de solicitudes y los pacientes esperan respuestas a preguntas urgentes.

Los agentes de IA ofrecen una solución al abordar lagunas críticas, ampliando el alcance y la disponibilidad del personal clínico y administrativo, al tiempo que reducen el agotamiento tanto del personal sanitario como de los pacientes. Pero para hacer realidad este potencial, primero debemos establecer una base sólida de confianza en los agentes de IA. La confianza no se construye únicamente con un tono amistoso o un encanto conversacional. Es el resultado de una ingeniería deliberada.

A pesar del creciente interés por los agentes de IA y de los titulares que prometen el poder de la IA agéntica, muchos líderes sanitarios -responsables del bienestar de los pacientes y de la comunidad- siguen siendo cautos a la hora de adoptarlos de forma generalizada. Las empresas emergentes promueven capacidades que van desde la automatización de tareas sencillas, como la reserva de citas, hasta la comunicación con el paciente y el apoyo clínico. Sin embargo, pocas han demostrado que estas interacciones sean realmente seguras.

De hecho, muchas nunca lo harán.

Cualquiera puede crear un agente de voz utilizando un gran modelo de lenguaje (LLM), darle un tono empático y guionizar conversaciones que parezcan convincentes. Existen plataformas de este tipo en todos los sectores, cada una de las cuales promociona sus propios agentes. Pero aunque estos agentes parezcan y suenen diferentes, sus comportamientos son sorprendentemente similares: propensos a alucinar, incapaces de verificar hechos esenciales y carentes de mecanismos que garanticen la rendición de cuentas.

Este enfoque -que a menudo no es más que una fina capa que envuelve un LLM fundacional- puede ser adecuado en el comercio minorista o la hostelería, pero está condenado al fracaso en la sanidad. Los modelos fundacionales son potentes, pero su diseño es de uso general; no han sido formados en directrices clínicas, políticas de pago o requisitos normativos. Incluso los agentes más elocuentes construidos sobre estos cimientos pueden derivar hacia respuestas especulativas, abordar preguntas que no deberían, inventar respuestas o pasar por alto indicaciones para involucrar a un operador humano.

Las consecuencias son tangibles: los pacientes pueden confundirse, la atención puede verse interrumpida y a menudo se producen costosas correcciones manuales. No se trata de un problema de inteligencia artificial. Es un problema de falta de infraestructura.

Para funcionar de forma segura, fiable y eficaz en el entorno sanitario, los agentes de IA no pueden limitarse a funcionar como voces automáticas en una llamada. Deben estar respaldados por sistemas diseñados para el control, la comprensión contextual y la rendición de cuentas. Basándome en mi experiencia en la construcción de este tipo de sistemas, esto es lo que implica.

El control de la respuesta hace prácticamente imposibles las alucinaciones

Los agentes de IA en la atención sanitaria deben hacer algo más que generar respuestas plausibles. Deben ofrecer respuestas precisas en todo momento. Esto requiere un "espacio de acción" estrictamente controlado: un sistema que permita un diálogo natural y garantice al mismo tiempo que todas las respuestas se ciñen a una lógica preaprobada.

Con parámetros de control de respuestas incorporados, los agentes sólo pueden recurrir a protocolos autorizados, procedimientos predefinidos y normas reglamentarias. La creatividad del modelo se canaliza para guiar las interacciones, no para inventar hechos. Así es como las organizaciones sanitarias pueden erradicar el riesgo de alucinaciones, no a través de pilotos limitados o grupos de discusión, sino eliminando el riesgo mediante un diseño fundacional.

Los gráficos de conocimiento especializado permiten interacciones de confianza

Cada conversación sanitaria es profundamente personal. Pensemos en dos personas con diabetes de tipo 2 que viven en la misma zona y comparten factores de riesgo similares. Su elegibilidad para un determinado medicamento podría diferir en función del historial médico, los protocolos de tratamiento, los planes de seguro y las normas del formulario.

Los agentes de IA no sólo necesitan acceder a este nivel de contexto, sino que deben ser capaces de utilizarlo para razonar en tiempo real. Un grafo de conocimiento especializado proporciona exactamente esto. Organiza la información procedente de múltiples fuentes fiables en un formato estructurado, lo que permite a los agentes validar la información introducida y ofrecer respuestas precisas y personalizadas. Sin esta capa, los agentes pueden parecer bien informados, pero se limitan a ejecutar flujos de trabajo rígidos y a hacer conjeturas.

Los sistemas de revisión exhaustiva evalúan la precisión sistemáticamente

Incluso cuando un paciente concluye una llamada satisfecho, la tarea del agente de IA no ha terminado. Los profesionales sanitarios necesitan confirmar que el agente ha proporcionado la información correcta, ha entendido el intercambio y ha documentado adecuadamente la interacción. Aquí es donde los sistemas automatizados de postprocesamiento desempeñan un papel vital.

Un sistema de revisión fiable debe analizar cada conversación con la meticulosa atención de un supervisor humano que dispone de tiempo ilimitado. Debe verificar la precisión de la respuesta, garantizar la correcta captura de datos y determinar si es necesario realizar un seguimiento. Si se detecta un problema, el agente debe escalarlo a un humano. Si todo concuerda, la tarea puede cerrarse con plena confianza.

Más allá de estos tres pilares de confianza diseñada, toda infraestructura de IA agéntica debe incluir un sólido marco de seguridad y cumplimiento que proteja los datos de los pacientes y garantice la alineación normativa. Esto significa la adhesión a normas como SOC 2 e HIPAA, así como procesos integrados para pruebas de sesgo, redacción de información sanitaria protegida y retención de datos.

Estas medidas de seguridad hacen algo más que satisfacer casillas de verificación. Forman la columna vertebral de un sistema fiable capaz de gestionar todas las interacciones de acuerdo con las normas que esperan pacientes y proveedores.

La sanidad no necesita más propaganda de la IA. Necesita una infraestructura de IA sólida. En el caso de la IA agéntica, la confianza no sólo se gana, sino que se crea desde el principio.