Cada vez es más común que las personas utilicen cualquier chatbot disponible con inteligencia artificial (IA) para investigar sobre salud. Muchas veces lo único que se busca es conocer los síntomas de alguna enfermedad. Aunque parece una actividad sin relevancia, al final hay varios riesgos detrás de esta forma de tecnología.
Grandes empresas han incursionado en la IA de salud con el lanzamiento de servicios como Copilot Health, ChatGPT Health y Amazon’s HealthAI, cuyos modelos ayudan a los usuarios a interpretar sus historiales médicos y hacer preguntas sobre sus síntomas, resultados de laboratorio y opciones de tratamiento.
También lee: ChatHRP, primer chatbot con IA de la OMS que responde preguntas sobre salud reproductiva
Un chatbot nunca podrá reemplazar a un profesional de la salud
Acerca de este tema, ESET advierte que existen múltiples riesgos al esperar que una herramienta de IA asuma el rol de un médico real.
“El riesgo no es sólo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital, así como que sus datos queden expuestos a entidades inesperadas. El mal uso de los chatbots de IA en general es actualmente el principal riesgo tecnológico en salud, según una organización de seguridad del paciente de Estados Unidos”, comenta Mario Micucci, Investigador de Seguridad Informática de ESET Latinoamérica.
De acuerdo con Microsoft, las personas en sus dispositivos móviles hablan sobre su salud y la de sus seres queridos más que de cualquier otro tema. Los chatbots están disponibles las 24 horas, los 7 días de la semana, con una respuesta para todo, expresada en un tono seguro que ayuda a tranquilizar a los pacientes nerviosos.
En un momento en que los sistemas nacionales de salud están cada vez más presionados, es probable que muchas personas se autodiagnostiquen con ayuda de la IA antes de decidir si deben buscar atención médica; sin embargo, ya están surgiendo preocupaciones.
La primera es la de las alucinaciones o el asesoramiento incorrecto. Un estudio de la Universidad de Oxford de febrero, publicado en Nature Medicine, encontró que los usuarios a menudo no sabían qué información debían compartir, que se les proporcionaban respuestas muy diferentes, incluso si las preguntas variaban sólo ligeramente y que los modelos a menudo ofrecían tanto buenos como malos consejos, pero los usuarios tenían dificultades para distinguir entre ambos.
“A pesar de todo el entusiasmo, la IA simplemente no está lista para asumir el rol de médico. Los pacientes deben ser conscientes de que preguntarle a un modelo de lenguaje sobre sus síntomas puede ser peligroso, generar diagnósticos erróneos y no reconocer cuándo se necesita ayuda urgente”, advirtió la autora principal del estudio, la doctora Rebecca Payne.
Riesgos de privacidad
El compartir información médica sensible con un chatbot público puede implicar que esos datos se utilicen para entrenar al modelo y, por lo tanto, puedan terminar reapareciendo en respuestas a otros usuarios. Incluso de forma involuntaria, ya hubo casos de modelos que han expuesto datos introducidos por sus usuarios.
Algunos proveedores pueden utilizar los datos para mejorar sus modelos, a menos que los usuarios opten por no participar, mientras que otros hacen promesas más firmes de no usar información relacionada con la salud para el entrenamiento. En cualquier caso, todos deberían saber con qué tipo de servicio están interactuando antes de subir información sensible.
Por otro lado, la mayoría de los principales chatbots centrados en salud prometen no usar estos datos para entrenamiento. Aun así, el entrenamiento es solo una parte del panorama de privacidad, y es posible que estos servicios no hagan las mismas promesas respecto al intercambio de datos con terceros.
La información médica personal podría terminar en manos de un agregador de datos, un tercero que actúa como intermediario entre el proveedor del modelo y el proveedor de salud.
También podría compartirse con anunciantes, ya sea directamente o a través de estos intermediarios, aunque normalmente se anonimiza antes de su uso. Aun así, conviene actuar con cautela: los datos de salud son especialmente sensibles, y la anonimización no siempre elimina todos los riesgos.
El problema de que datos sensibles circulen por tantas organizaciones es que hay mayores probabilidades de que queden expuestos a ciberdelincuentes y estafadores. Legisladores estadounidenses afirman haber identificado pérdidas por valor de 21.000 millones de dólares vinculadas a un puñado de brechas en empresas de intermediación de datos.
Los datos de salud son altamente valiosos para los delincuentes ya que mantienen su valor durante largos períodos, pueden incluir información de seguros para presentar reclamaciones fraudulentas o recibir servicios médicos a nombre de otra persona, y pueden usarse para extorsiones.
También lee: ¿Un chatbot con IA podría aprobar el ENARM 2025?
Recomendaciones para proteger la privacidad
- Nunca compartir o subir documentos médicos, resultados de laboratorio u otra información sensible con una herramienta de IA sin entender cómo maneja esos datos.
- Evitar introducir nombres, direcciones, datos de seguros, números de paciente u otros identificadores.
- Asegurarse de desactivar las funciones de entrenamiento y el historial de chat.
- Compartir solo la información mínima necesaria para la tarea.
- Asumir que todo lo que se escriba podría almacenarse o exponerse y ajustar sus consultas en consecuencia.
“En última instancia, los chatbots de IA pueden servir para ayudarte a pensar preguntas sobre una condición específica antes de acudir al médico o para explicar un término médico que no conoces. Pero hay una gran diferencia entre usar la IA para prepararte para la atención médica y usarla como sustituto de esta. No tomes una respuesta con tono seguro como un diagnóstico, y no ignores síntomas urgentes porque una máquina haya sonado tranquilizadora.”, concluye Mario Micucci, investigador de ESET.
