-
De acuerdo con Statista, el 42% de los adultos mayores de 65 de origen hispano que residen en Estados Unidos afirmaron tener la necesidad de salud mental en el 2021.
-
Se prevé que los suplementos de salud mental para uso femenino alcancen un tamaño de mercado de 161.000 millones de dólares estadounidenses en 2027.
-
Según Statista, alrededor del 3.59 por ciento de la población mundial tuvo depresión en 2019.
KoKo es una empresa de salud mental sin fines de lucro que conecta a consejeros voluntarios con personas que solicitan terapia a través de varias plataformas como Telegram y Discord quien los contactara más tarde. Sin embargo, en esta ocasión fue un chatbot generado por una IA (Inteligencia Artificial quien se puso en contacto con los usuarios de los servicios de la empresa de salud mental.
Se realizó un experimento de chatbot para responder a los usuarios. Cabe destacar que antes de las pruebas de la empresa de salud mental con el chatbot con IA, los usuarios enviaban un mensaje, que era redirigido a un consejero voluntario para comenzar con el servicio.
Es de mencionar que esto difiere del protocolo de mensajería habitual utilizado por KoKo. Antes, una persona que buscaba asesoramiento en salud mental chateaba con un bot, éste reenviaba su mensaje a un asesor voluntario y luego el asesor respondía.
Robert Morris, cofundador de KoKo, dijo que el experimento les permitió brindar ayuda a unas 4000 personas. Morris publicó inicialmente algunos tuits que implican en gran medida una falta de consentimiento informado entre los usuarios, como: “Una vez que las personas supieron que los mensajes fueron creados conjuntamente por una máquina, no funcionó. La empatía simulada se siente rara, vacía”.
We provided mental health support to about 4,000 people — using GPT-3. Here’s what happened 👇
— Rob Morris (@RobertRMorris) January 6, 2023
También agregó que aunque los mensajes compuestos por IA fueron calificados significativamente más altos que los escritos por humanos, los usuarios no se sentían cómodos con la falta de compasión y empatía genuinas expresadas por un robot.
“También es posible que la empatía genuina sea algo que los humanos podamos valorar como algo exclusivamente nuestro. Tal vez sea lo único que hacemos que la IA nunca podrá reemplazar”, tuiteó Morris.
Los usuarios de Twitter respondieron al hilo con críticas sobre la naturaleza poco ética del experimento. Argumentaron que esto rompe inherentemente el contrato social entre un terapeuta y un usuario, violando la confianza y haciendo que quienes buscan ayuda se sientan “deshumanizados”.
Why can’t you tech people be normal?
— Katelyn Burns (@transscribe) January 7, 2023
Morris luego aclaró que su tweet inicial estaba relacionado con él y su equipo, no con los usuarios. También argumentó que la función era opcional y que todos la conocían cuando estuvo activa durante unos días.
Sin embargo, aún no está claro qué tipo de información se proporcionó a los usuarios antes de participar y si estaban completamente informados de los posibles daños y beneficios. La falta de dicho consentimiento haría que el experimento fuera ilegal en contextos médicos, aunque los servicios de salud mental en línea permanecen en el área gris de la ley, ya que operan fuera de un entorno médico formal. El experimento no recibió la aprobación de una Junta de Revisión Institucional (IRB), lo que significa que se llevó a cabo sin supervisión formal.
Some important clarification on my recent tweet thread:
We were not pairing people up to chat with GPT-3, without their knowledge. (in retrospect, I could have worded my first tweet to better reflect this).
— Rob Morris (@RobertRMorris) January 7, 2023
Notas relacionadas:
