IA y medicina: un largo camino por recorrer

El 19 de marzo de 2023, se creaba en Catalunya el Programa para la promoción y desarrollo de la inteligencia artificial en el sistema de salud, en el marco de la Estrategia de inteligencia artificial de Catalunya, puesta en marcha en febrero de 2020 y bajo la cual se articulan las inversiones estratégicas para potenciar las capacidades de la IA.

El Programa Salut/IA persigue la creación de un entorno que facilite la innovación en el ámbito de la salud mediante el desarrollo y la implementación de soluciones de inteligencia artificial para la mejora de la salud de la ciudadanía. Entre sus objetivos destacan la evolución hacia la medicina de las 5P (preventiva, predictiva, participativa, personalizada y poblacional), la optimización de los recursos del sistema sanitario integral de utilización pública de Catalunya (SISCAT), los avances en materia de calidad asistencial o la mejora de la sostenibilidad del sistema de salud catalán, entre otros. El marco de referencia de este programa es el Plan de salud de Catalunya 2021-2025.

Catalunya no es una excepción. La IA y su aplicación en casi todos los ámbitos ya está aquí y lo mejor para sacarle el máximo partido es regular su campo de actuación y definir sus límites. Tal y como pronostican los y las expertas, en el ámbito de la medicina, la IA traerá mejoras en los diagnósticos de patologías y en la detección e identificación de lesiones, avances en el pronóstico de enfermedades, mejoras en el desarrollo de fármacos o el apuntalamiento de sistemas de prevención más eficaces en el terreno de la epidemiología, por mencionar algunos ejemplos. A estas alturas, negar o desvirtuar el potencial del uso de la inteligencia artificial en la asistencia sanitaria sería descabellado. Sin embargo, si bien las oportunidades parecen ilimitadas, también lo son los retos y los obstáculos. Innovar en materia de IA y salud es lo que se persigue desde las instituciones, pero no se pueden dejar de lado las cuestiones éticas, los límites y los sesgos. Y si hay algo en lo que está de acuerdo el sector es en que hay que garantizar que la IA sirva al interés común y a la creación de valor público a medio y largo plazo.

El desafío de los datos y el desafío de los algoritmos

Analizar radiografías de tórax sin la intervención de un especialista en radiología ya es posible desde 2022, cuando la UE dio luz verde a este sistema. “La herramienta emite automáticamente informes de los pacientes con un diagnóstico totalmente sano, es decir, aquellos que no presentan anomalías. Las imágenes que son etiquetadas como dudosas, o con posible presencia de complicaciones, son enviadas a los radiólogos para su revisión”, explican en Inteligencia artificial y medicina (Libros de la Catarata, 2023) las investigadoras Miriam Cobo y Lara Lloret. “Así, el algoritmo ofrece un primer filtrado de las radiografías de tórax donde la mayoría de los pacientes no presentan ningún tipo de problema, lo que permite reducir la carga de trabajo de los especialistas, que ahora pueden centrarse en analizar detalladamente a los pacientes con posibles complicaciones”, se lee en el libro. Este es solo un ejemplo del uso que se le puede dar a la IA en materia médica. Sin embargo, Miriam Cobo se resiste a hablar de sistemas de inteligencia artificial y apunta a que el bombo que se le está dando responde a una estrategia de marketing: “Todavía no podemos hablar de que sean inteligentes, no son sistemas conscientes, no son capaces de pensar”, explica para Público.

Independientemente del nombre que le demos, la aplicación de los sistemas de IA en el ámbito médico presenta unos retos mayúsculos. Cobo y Lloret aseguran que en este campo existen dos tipos de desafíos: los que están relacionados con los datos y los que están relacionados con los algoritmos en sí. “En medicina, como en muchas otras áreas, gran parte de los conjuntos de datos son esencialmente inútiles. Suele ser información que no ha sido recogida de forma estructurada y orientada para un análisis posterior, sino con un interés puramente clínico. Datos ocultos en silos aislados y gestionados por sistemas incompatibles, con dificultad para interpretarlos, procesarlos y compartirlos […]. A menudo, también son datos recopilados por distintos especialistas, que tienen su propia manera de organizarlos”. En otras palabras: los datos sin una adecuada contextualización no sirven de nada.

Por otro lado, existe la problemática de los sesgos, que pueden ser peligrosos y complicados de detectar. Las investigadoras distinguen entre sesgos estadísticos y sesgos sociales. “Los sesgos estadísticos son los que se dan cuando la distribución de los datos que introducimos en el sistema de aprendizaje no refleja la auténtica distribución de la población […]. Los sesgos estadísticos y sus complicaciones están estrechamente relacionados con el problema de generalización. […]. Los sesgos sociales, por otro lado, se refieren a desigualdades que pueden dar lugar a malos resultados por parte de los algoritmos para determinados grupos de población”, explican. Un sesgo social, por ejemplo sería la incorrecta interpretación de los síntomas de un ataque de corazón en hombres y en mujeres (sesgo de género) o los fallos que presentan los sistemas entrenados para la detección de lesiones cutáneas, donde la mayoría de las imágenes utilizadas proceden de pacientes blancos. En estos casos los sesgos tienen su origen en que el sistema no ha sido entrenado con suficientes datos de mujeres, o pacientes de piel oscura, respectivamente. Para combatir y superar este reto, “hay que conocer muy bien los datos que manejas y tenerlos bien caracterizados. Y sobre todo, no seguir ciegamente los algoritmos”, dice Cobo. Para que se entienda, la investigadora pone el ejemplo del GPS y la gente que no cuestiona si se le está indicando correctamente el camino o no: “La IA en medicina no tiene unos riesgos muy distintos a los que ya tienen otras tecnologías que utilizamos en nuestro día a día”.

“La inteligencia artificial ahora mismo está avanzando a pasos agigantados y la legislación va por detrás”.

Etiquetas, interoperabilidad y protección de los datos

Otro de los retos que presenta la IA aplicada a la medicina reside en la problemática de las etiquetas; ya que “[…] para que un algoritmo pueda aprender fijándose en las etiquetas que nosotros hemos puesto a un conjunto de datos, es necesario que esas etiquetas sean consistentes entre sí, y evitar, en la medida de lo posible, ambigüedades. De no ser así, se introducirá un ruido al sistema que dificultará el aprendizaje”. Y no solo eso. Como afirma la investigadora: “Es muy importante que tengamos unos datos que estén bien estructurados y que sean variados. Si hay una patología que aparece poco, el sistema no la podrá aprender correctamente porque no habrá visto suficientes ejemplos. Entonces, fallará. Los datos tienen que ser completos e interoperables [que no estén aislados]”. Esto no es todo. Basta con que dos profesionales de la salud pongan la fecha de una prueba de manera distinta —por ejemplo, 1/3/2024 o 1/3/24— para que los sistemas no puedan trabajar con ese material. También una misma prueba realizada por máquinas de diferentes marcas puede dar problemas, así como las diferencias en la configuración de parámetros. Y luego está el asunto de la protección de los datos. “El Reglamento General de Protección de Datos es muy restrictivo en cuanto a la compartición de datos y cómo tratarlos”, dice Cobo. En este sentido, chocan la transparencia, el secreto profesional, el acceso a la información y las distintas legislaciones al respecto.

Por último, Miriam Cobo y Lara Lloret se preguntan: “¿Quién es responsable si un algoritmo de IA toma una decisión médica incorrecta o da lugar a un resultado indeseable? ¿Es el fabricante del sistema, el médico que lo utiliza o el paciente que lo acepta?”. Cobo no tiene la respuesta, dice, pero sí tiene claro que “la inteligencia artificial ahora mismo está avanzando a pasos agigantados y la legislación va por detrás”. Los avances —y las reticencias, así como las deficiencias— están ahí, pero el camino por recorrer aún es largo. Es necesario entrenar correctamente a las máquinas para que puedan interpretar los diferentes contextos y aplicar los conocimientos adquiridos de la manera adecuada. De momento, no lo hacen, puesto que se sirven de patrones memorizados y, como concluyen Cobo y Lloret: “Lograr reproducir la enorme complejidad de nuestro cerebro es algo de lo que todavía estamos muy lejos y que implica, además, un mayor entendimiento de su funcionamiento del que tenemos ahora”. Miriam Cobo lo tiene claro: “En el ámbito médico, la inteligencia artificial no va a sustituir a los médicos, va a ser una herramienta más”. ◼

¿Sustitución humana?

“A pesar del enorme potencial de los sistemas de IA, aún están lejos de sustituir a los humanos en tareas que requieren creatividad, innovación o empatía. Los trabajos que corren más riesgo de ser reemplazados son los rutinarios, repetitivos y predecibles, como los de gestión y administración. De hecho, es precisamente en este tipo de trabajos en los que ya hay precedentes exitosos del empleo de IA en instituciones sanitarias. Todas estas mejoras en la gestión ayudarán de manera directa al profesional de la salud, pues le permitirán dejar de ocupar gran parte de su tiempo en tareas burocráticas y dedicarse a atender adecuadamente a los pacientes. Con todas estas ventajas ya disponibles en diversos hospitales y clínicas de todo el mundo, se espera que en un futuro cercano muchas más instituciones sanitarias comiencen a utilizar sistemas basados en inteligencia artificial”.