La inteligencia artificial (IA) está abriendo un abanico de posibilidades en el campo de la salud y el bienestar personal. Mediante chatbots, asistentes virtuales y aplicaciones móviles vinculadas al campo de la salud mental -entre otros ámbitos- se está transformando la atención a pacientes y el vínculo con terapeutas. Sin embargo, ¿qué tan eficientes son estas herramientas basadas en IA como para reemplazar en un futuro próximo a profesionales de la atención médica? ¿Qué problemas aparecen en torno a aspectos éticos, regulatorios y de privacidad de los datos? En este post intentaremos explorar algunos de esos interrogantes.
Claramente la pandemia de Covid-19 forzó a cambiar algunas costumbres, entre las que se destaca el acceso a las consultas médicas, evidenciando un crecimiento exponencial de la telemedicina en general y evitando que las personas se desplacen físicamente hacia un consultorio o centro de salud (ver post anterior de 7Puentes).
No obstante ello, la salud mental ha sido un eje clave en estas transformaciones. Se estima que mil millones de personas en todo el mundo vivían con ansiedad y depresión antes de la pandemia (el 82 % de ellos en países de ingresos bajos y medianos) según la Organización Mundial de la Salud (OMS). La pandemia aumentó ese número en aproximadamente un 27%, estimó la OMS.
Un interesante estudio de la organización RAND evidenció que el aumento significativo en el uso de la telemedicina durante el auge de la pandemia fue impulsado más por personas que buscaban servicios de salud mental, que por la atención de afecciones físicas. Basada en más de 2000 respuestas, la encuesta emitida en 2020 encontró que casi la mitad recurrió a la telesalud para continuar accediendo a la atención cuando se desató la pandemia. De ese número, alrededor del 54 por ciento señaló que “estaba buscando ayuda por un problema de salud conductual”, mientras que el 43 por ciento buscó tratamiento por una condición crónica de salud física. De hecho, antes de la pandemia alrededor del 40 por ciento buscaba atención por una condición de salud crónica, mientras que solo el 15 por ciento buscaba atención por un problema de salud conductual.
Popularidad de las apps de salud y asistentes virtuales
En este contexto complejo, caracterizado por la artificialización del cuidado, emergen cada vez más aplicaciones que utilizan sofisticadas técnicas de procesamiento del lenguaje natural y aprendizaje automático, tales como chatbots y asistentes virtuales de reconocimiento de texto y de voz, disponibles prácticamente las 24 horas, para ampliar potencialmente el acceso y las posibilidades de atención remota de los servicios de salud mental. El nivel de autonomía, versatilidad y credibilidad respecto de las aplicaciones para responder preguntas o simular conversaciones de atención terapéutica, hace que en ciertas oportunidades los pacientes reemplacen la atención profesional de un humano, confiando en estas herramientas (más allá de ser un evidente complemento a la tarea médica, terapéutico o de cuidado personal).
Como ejemplo de la evolución de estos cambios, un paper publicado recientemente en el journal médico JMIR examinó la utilidad de un chatbot impulsado por IA llamado Woebot, una solución digital de salud mental diseñada para tratar los trastornos por uso de sustancias sin contraindicaciones. El estudio mostró que Woebot logró mejoras significativas para disminuir el consumo de sustancias, incrementar la confianza de pacientes y bajar la ansiedad, pudiendo reducir potencialmente la carga de los trastornos en pacientes por uso de sustancias que terminan siendo perjudiciales para la salud.
“La popularidad de los teléfonos inteligentes ha acelerado el desarrollo de las aplicaciones de cuidado de personas”, sostiene Laurie M. Orlov, fundadora de Aging and Health Technology Watch (en inglés), un sitio que sigue las investigaciones y las tendencias de la tecnología relacionada con el envejecimiento. Según Orlov, “hay muchas aplicaciones que brindan ayuda a los cuidadores y sus seres queridos, ya sea para localizar a alguien, comprar suministros, buscar información confiable, administrar medicamentos, programar citas, reservar transporte, encontrar farmacias especializadas o participar en grupos de apoyo, por ejemplo. Y las aplicaciones a menudo son gratuitas, ya que normalmente cuentan con el patrocinio de anuncios publicitarios”.
Aún con estos aparentes beneficios, la gratuidad de las aplicaciones tiene una contracara importante: el uso de los datos personales con fines que no son estrictamente el tratamiento médico o científico. Todo ello se agrava cuando los usuarios desconocen los términos y condiciones que aceptan o no están alertados acerca de la ausencia de una real regulación sobre la mayoría de estas apps.
Ética y privacidad de los datos
A pesar del crecimiento en la popularidad de diversas aplicaciones para el apoyo al cuidado de la salud en todo el mundo, las preocupaciones sobre la privacidad siguen siendo un riesgo importante para los usuarios, según descubrió la Fundación Mozilla en una investigación publicada en 2022. De las 32 aplicaciones analizadas (asistentes de bienestar y salud mental), como Talkspace, Woebot y Calm, 28 fueron marcadas por «fuertes preocupaciones sobre la gestión de datos de los usuarios» y 25 no cumplieron con los estándares de seguridad, como requerir contraseñas seguras.
Tal es así que el investigador de Mozilla, Misha Rykov, describió estas aplicaciones como «máquinas de succión de datos con una apariencia de aplicación de salud mental» que abren la posibilidad de que los datos de los usuarios sean recopilados por terceros (por ejemplo compañías de seguros y datos y compañías de redes sociales).
Ante estas preocupaciones respecto a la protección de los datos personales, desde Estados Unidos hasta la Unión Europea, los legisladores se están apresurando para regular las herramientas de IA y están presionando a la industria para que adopte un código de conducta voluntario mientras se desarrollan nuevas leyes.
En lo que hace al monitoreo clínico de la salud, en Estados Unidos existe actualmente una fuerte preocupación por el uso de apps que se utilizan para monitorear el ciclo menstrual. Se teme que si la Corte Suprema revoca “Roe vs. Wade”, un histórico fallo que protege la interrupción voluntaria del embarazo como un derecho constitucional desde 1973, algunos estados se valgan de la data recopilada para castigar a quienes buscan abortar. “Cuando alguien aborta, puede que decida no compartir esa información con amistades o integrantes de su familia. Pero, por lo general, altas son las chances de que su celular esté enterado”, señala un reciente artículo del Washington Post.
Sin dudas, todos estos datos son muy codiciados por los mercados publicitarios. Flo, una de las apps menstruales más populares en Estados Unidos, dice en su sitio web que solo comparte datos de sus usuarias para fines científicos. Sin embargo, una investigación del Wall Street Journal descubrió que la aplicación informaba a Facebook cuando una usuaria tenía la menstruación o si tenía la intención de quedarse embarazada. A raíz de la información, Flo se sometió a una revisión independiente de su política de privacidad y tomó medidas al respecto.
Al mismo tiempo, la firma española especializada en auditar los algoritmos a empresas tecnológicas, Eticas Research & Consulting, ha elaborado un informe en el que se analiza el uso de los datos íntimos por parte de las apps menstruales más populares. La conclusión es clara: la mayoría comparten datos con terceros para fines comerciales y se desconocen los riesgos que los usuarios enfrentan al brindar sus datos voluntariamente a las aplicaciones.
El fenómeno de la empatía y más preguntas abiertas…
Algunas preguntas casi obligadas, en este escenario de asistentes virtuales dedicados al cuidado personal, serían: ¿pueden los chatbots resultar más empáticos que los terapeutas humanos? ¿Reemplazarán a la relación entre paciente y profesional médico? ¿Podrán hablar como los seres humanos?
Una investigación médica publicada en la revista científica JAMA, evaluó las respuestas de chatbots y médicos a 195 preguntas de pacientes seleccionadas al azar de un foro de redes sociales. Descubrieron que las respuestas del chatbot se calificaron como «significativamente más altas, tanto en calidad como en empatía» en comparación con las del médico. Los investigadores dedujeron que «los asistentes de inteligencia artificial pueden ayudar a redactar respuestas a las preguntas de los pacientes», pero no reemplazar a los médicos por completo.
Resulte evidente que estos asistentes basados en IA simulan cada vez mejor la empatía, hasta el punto de presentar aparentes beneficios extra: un asistente de atención a un cliente -o paciente específicamente en el ámbito de la salud- puede estar cansado o distraído al momento de gestionar la consulta, o puede recibir de manera negativa cualquier queja o reclamo, mientras que el bot está estandarizado para trabajar siempre con la misma eficiencia, no se cansa y no reacciona ante el disgusto del usuario.
Aunque las opiniones sobre la empatía de los chatbots están divididas, existen cada vez más voces a favor de implementar chatbots en actividades caracterizadas por el cuidado, habilidades interpersonales y comprensión humana, por lo que la atención médica no es la excepción. ¿En qué nivel los asistentes virtuales podrán reemplazar o no la atención física de personas especializadas? Es realmente difícil aventurarse sobre ese punto.
En resumen, el interrogante que deja este artículo radica en preguntarse hasta dónde podrán llegar estos avances tecnológicos de la artificialización del cuidado y en qué medida se necesita de una mayor participación de actores involucrados en la temática (especialistas, empresas, gobiernos, organizaciones y asociaciones vinculadas a la salud) en pos de una IA más ética, segura y regulada. En este sentido, seguramente la IA debería ir evolucionando de la mano de los intereses legítimos de las sociedades y comunidades, cada vez más involucradas en obtener sus potenciales beneficios.