Una de las herramientas más populares del momento es ChatGPT pero de ninguna forma es perfecta porque tiene varias desventajas. Incluso su dependencia absoluta es contraproducente, en especial en ámbitos como el campo médico.
El desarrollo de la tecnología durante los últimos años ha logrado avances que hace décadas parecían imposibles. Aunque lo más importante es que las decisiones finales siempre deben ser tomadas por humanos.
¿Qué es ChatGPT?
ChatGPT es el chatbot con Inteligencia Artificial más potente y avanzado que existe en el mundo. Fue elaborado por la empresa OpenIA a partir de más de 175 millones de parámetros y fue entrenado para realizar distintas actividades relacionadas con el lenguaje, desde la traducción hasta la generación de texto.
Dicho de otra forma, es una herramienta que ofrece respuestas automatizadas como si se tratara de un humano. Lo único que se requiere es escribir cualquier pregunta y de manera automática redacta una respuesta de alta complejidad.
¿Cuáles son las desventajas de ChatGPT en el campo médico?
A pesar de todo lo mencionado y su creciente popularidad, al final ChatGPT no es perfecto porque tiene varias desventajas y limitaciones, en especial dentro del campo médico.
Dependencia de datos preexistentes
ChatGPT está basado en información y datos con los que fue entrenado, lo que significa que su conocimiento tiene un límite temporal y no está actualizado en tiempo real. Esto puede resultar en respuestas desactualizadas, especialmente si los eventos o avances más recientes son relevantes para la conversación.
Falta de comprensión profunda
Aunque ChatGPT puede generar respuestas que parecen coherentes y lógicas, no “entiende” realmente lo que está diciendo.
La Inteligencia Artificial genera texto en función de patrones estadísticos y no a partir de la comprensión consciente. Esto puede llevar a respuestas superficiales o incorrectas si el contexto es complejo o si hay ambigüedades en la pregunta.
Sesgos en los datos
Al ser entrenado con grandes volúmenes de texto de internet, ChatGPT puede reflejar los sesgos presentes en esos datos. Esto puede resultar en respuestas que son parciales o que no consideran de manera justa todas las perspectivas, lo que podría ser problemático en temas sensibles o controvertidos.
Limitaciones en la creatividad genuina
Aunque ChatGPT puede generar ideas interesantes, su creatividad está limitada por los ejemplos previos con los que ha sido entrenado. No puede pensar de manera verdaderamente original o innovadora como lo haría un ser humano, ya que sus respuestas se basan en lo que ya está presente en sus datos.
Incapacidad para gestionar emociones o empatía real
Si bien puede simular un tono empático o amigable, ChatGPT no tiene emociones reales y no puede ofrecer la misma calidad de apoyo emocional que un ser humano. Esto puede ser una desventaja si se busca consejo emocional o apoyo psicológico genuino.
Posibles errores en la información
Aunque ChatGPT intenta proporcionar información precisa, puede cometer errores, dar respuestas vagas o incluso inventar hechos. Como no tiene la capacidad de verificar la información en tiempo real, puede ofrecer respuestas incorrectas si el tema es muy específico o técnico.
Interacciones poco naturales o repetitivas
A veces las respuestas de ChatGPT pueden parecer demasiado rígidas o estructuradas, lo que puede hacer que la conversación no fluya de manera natural. También puede repetir patrones de respuesta o no tener la flexibilidad que un humano tendría para manejar una conversación dinámica.
Riesgos de mal uso
Aunque ChatGPT está diseñado para ser útil y respetuoso, puede ser utilizado para generar contenido dañino o desinformación poque puede crear texto que parece convincente pero que no es verdadero. Esto plantea preocupaciones sobre cómo podría ser utilizado en contextos malintencionados.
