La Inteligencia Artificial Generativa (GenAI) tiene un enorme potencial en la atención médica y el sector de la salud. De hecho puede ser un agente transformador en áreas clave como la experiencia del paciente, la optimización de procesos administrativos e incluso el descubrimiento de nuevos fármacos.
Todo lo anterior fue dado a conocer en un estudio realizado por EPAM Systems Inc. Al mismo tiempo, menciona que hay muchos retos con respecto al correcto uso y la regulación de las nuevas herramientas tecnológicas.
“La aplicación de GenAI sin la participación humana podría poner en peligro la seguridad del paciente. Su uso como agente que apoya las tareas realizadas por humanos libera todo su potencial, a la vez que refuerza las medidas de seguridad”, indica la publicación.
Uso ético de la tecnología en el ámbito médico
En este mismo punto coincide la Organización Mundial de la Salud (OMS) porque ha llamado a un uso ético y seguro de la IA. El máximo objetivo siempre debe ser la seguridad e integridad de los pacientes.
Si bien la OMS es partidaria entusiasta del uso adecuado de tecnologías, incluidos los grandes modelos lingüísticos (LLM), en apoyo del personal de salud, los pacientes, la investigación y la ciencia, ha manifestado su inquietud por si las precauciones que normalmente se tienen ante toda nueva tecnología, no se aplican sistemáticamente con los grandes modelos lingüísticos.
La adopción precipitada de sistemas no comprobados podría inducir a errores por el personal de salud, causar daños a los pacientes, erosionar la confianza en la IA y, por tanto, socavar (o retrasar) los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo.
Ante este panorama de dudas es que EPAM aclara que “hasta que la humanidad no tenga la certeza de que la IA no diagnosticará erróneamente un infarto ni alucinará (proporcionar información falsa) algo que parezca un consejo médico, no deberíamos usar GenAI sin supervisión humana”.
Lo que se debe y no se debe hacer con GenAI en la atención médica
El estudio también indica que antes de adoptar un enfoque en donde la GenAI intervenga en casos de atención médica, primero se debe definir el problema o desafío a solucionar y así evaluar si es que esta tecnología es la indicada.
De serlo, el siguiente paso es comprender los riesgos y esfuerzos que conlleva su uso antes de determinar si la posible recompensa vale la pena. Y es que las ventajas son amplias porque existen áreas en las que su uso puede acelerar ciertas operaciones.
Lo primero en lo que se debe hacer énfasis es que la GenAI en atención médica no es un sustituto de los humanos, sino que es una herramienta que ayuda a realizar las tareas con mayor rapidez y eficiencia.
¿Qué actividades puede realizar la GenAI?
- Resumen de textos para compartir únicamente con usuarios internos.
- Generación de contenido borrador para su posterior revisión y aprobación a través de los canales correspondientes.
- Apoyo de guardia a empleados internos para difundir las mejores prácticas y procedimientos operativos estándar, y mejorar la productividad de los trabajadores.
- Extracción de metadatos y mapeo relacional.
En todos estos casos la intervención humana es esencial para garantizar la validación y el control de los resultados, contemplando que saben que los resultados son generados por computadora.
¿Qué actividades NO puede realizar la GenAI?
Por otro lado, existen áreas de la GenAI que parecen atractivas; sin embargo, requieren de pruebas y validación más exhaustivas, por lo que EPAM recomienda tomar las siguientes precauciones:
- No utilizar grandes modelos lingüísticos (LLM) como interfaz de preguntas y respuestas para pacientes o proveedores de atención médica sin restricciones. En su lugar, utilice métodos de recuperación y generación aumentada (RAG) para mejorar la calidad de los datos.
- No emplear LLMs para generar contenido dinámicamente sin seguir procesos para revisarlo y aprobarlo primero.
- No compartir información personal con un LLM sin obtener su permiso.
