En un hecho sin precedentes, Google anunció la eliminación de la visualización de resultados en las búsquedas relacionadas con salud en sus AI Overviews o resúmenes creados con inteligencia artificial (IA). Todo se generó a partir de una investigación que demostró que la tecnología cometía demasiados errores. Además también se acusó que ofrecía información errónea que ponía en riesgo el bienestar de las personas.
Es una realidad que cada vez más personas utilizan internet para buscar información de cualquier tema. El inconveniente ocurre cuando no se verifican las fuentes o simplemente se cree absolutamente todo lo que aparece en los medios digitales.
También lee: Síndrome de Google: ¿Qué es y por qué la tecnología puede ser peligrosa?
¿Qué es AI Overviews?
Para buscar información en internet el explorador más conocido y utilizado en el mundo es Google. Una de sus funciones más recientes es AI Overviews y consiste en un resumen que utiliza IA generativa para mostrar una respuesta rápida y sintetizada en la parte superior de los resultados de búsqueda.
De esta manera no es necesario dar clic en enlaces porque todo se puede consultar dentro de Google. Aunque puede ser más práctica porque ahorra tiempo, también es una función que implica varios riesgos como las fake news.
Gráfica del día: Los países donde son más comunes las consultas a Dr. Google
Google toma una medida inédita en las búsquedas relacionadas con salud
Como mencionamos al inicio, Google anunció la eliminación de las visualizaciones de resultados en las búsquedas de temas relacionados con salud en AI Overviews. Detrás de esta medida se encuentra un trabajo realizado por el periódico inglés The Guardian.
De acuerdo con el medio, los resúmenes de información ofrecían información médica engañosa y potencialmente peligrosa. Incluso mencionó varios casos específicos que ponían en riesgo el bienestar de las personas.
También lee: MedGemma: ¿Cómo funciona la herramienta de Google con IA para leer radiografías?
Errores cometidos por los resúmenes de Google
- Pruebas de función hepática: La IA proporcionaba rangos numéricos de referencia para análisis de sangre sin considerar factores críticos como la edad, el sexo, la etnia o la nacionalidad. Esto podría hacer que personas con enfermedades graves pensaran erróneamente que sus resultados eran “normales”.
- Cáncer de páncreas: Se detectó que la IA recomendaba evitar dietas ricas en grasas a pacientes con cáncer de páncreas, lo cual, según expertos de Pancreatic Cancer UK, es lo contrario a la recomendación médica estándar y podría poner en riesgo la vida del paciente al afectar su capacidad de recibir tratamiento.
- Cáncer femenino y salud mental: La IA afirmaba incorrectamente que la prueba de Papanicolaou servía para detectar cáncer vaginal (cuando es para el cervical) y ofrecía resúmenes confusos sobre trastornos alimenticios y psicosis.
Antes las acusaciones, la primera respuesta de Google fue eliminar de forma selectiva las AI Overviews para algunas consultas de salud específicas. El inconveniente fue que los usuarios han seguido con las búsquedas o simplemente modifican algunas palabras para obtener una respuesta al instante.
Para evitar continuar con los conflictos ahora la plataforma decidió retirar de manera definitiva la visualización de resúmenes en temas relacionados con salud dentro de AI Overviews. Ahora Google prefiere mostrar los enlaces hacia la fuente original para no ser acusada de promover la difusión de información errónea en aspectos tan delicados.
