“Cuantos más datos se tengan, más segura será la IA, pero también habrá más riesgos”

 Médicos internistas de todo el país se han congregado este pasado sábado, 15 de junio, en la IX Reunión de Bioética y Profesionalismo de la Sociedad Española de Medicina Interna (SEMI), que tuvo lugar en Madrid, en la propia sede de la SEMI, bajo el lema ‘Reflexiones éticas ante la Inteligencia Artificial y las Nuevas Tecnologías’. Durante la reunión, inaugurada por Manuel Méndez, secretario general de la SEMI, y por Antonio Blanco, coordinador del Grupo de Bioética y Profesionalismo de SEMI, se ha debatido en una de las mesas sobre el binomio Inteligencia Artificial (IA) y ética clínica, con especial foco a la revolución que supone la IA y las nuevas tecnología sobre aspectos como la relación clínica, la privacidad o la responsabilidad del profesional sanitario.

También, de forma particular, se ha analizado en otra de las mesas de la reunión cómo construir el futuro de la Medicina teniendo en cuenta la IA y las nuevas tecnologías, abordando la perspectiva del paciente, de los formadores en salud y de la legislación, además de presentarse casos clínicos sobre el rechazo de medidas terapéuticas y valoración de la competencia en el marco del Concurso de Casos Clínicos – VIII Premio para residentes y estudiantes ‘Francisco Vallés’.

Blanco considera que “el problema principal que desvela la inteligencia artificial en sus modalidades de aprendizaje automático, deep learning y su requerida minería de datos, es la privacidad”.

“De hecho, cuantos más datos se tengan, más seguros serán los sistemas de inteligencia artificial, con menos sesgos, pero mayor riesgo habrá de vulnerar la confidencialidad”, afirma.

También indica que “otros problemas éticos que plantea es la responsabilidad en la toma de decisiones asistida por inteligencia artificial, la necesidad de supervisión humana, la necesidad de sistemas de inteligencia artificial explicables para reportar confiabilidad y, por tanto, usabilidad y lo que eso supone en sistemas de caja opaca (‘black box’). Y es que no se conoce con exactitud cómo los sistemas de deep learning son capaces de llegar a acertar en el reconocimiento de ciertos patrones y resulta que funcionan mejor cuanto menos explicables son . ¿Cómo van a consentir los pacientes que se tomen decisiones asistidas por tecnologías de las cuáles no se sabe con exactitud cómo funcionan? Finalmente, cabe destacar otras cuestiones relativas a equidad, formación o justicia de distribución de recursos”.

Dilemas éticos

La telemedicina también juega un papel relevante en la privacidad. Con la telemedicina existe una pantalla que mediante tecnología avanzada consigue ponernos en contacto. “Lo que pasa en lo que no vemos de esa pantalla puede ser un resquicio para vulnerar la privacidad. Además, el marco de la pantalla hace que no podamos controlar el entorno o si hay alguien más en la sala y eso lleva a desconfiar en una relación que se debe basar en la confianza. Pero el Dr. Blanco va más allá. Incide en “la repercusión de la biometría en nuestras decisiones” y reitera la necesidad de diferenciar también entre “privacidad individual y privacidad colectiva”.

La legislación tiene un efecto regulador con el objetivo de ser garantista, de ofrecer productos que sirven, que son efectivos y a la vez son seguros. La seguridad tiene un coste, económico y burocrático, que supone siempre un enlentecimiento en el desarrollo (sólo en ciertas maneras de entender el desarrollo). La cuestión es que, en un mundo globalizado, la legislación local “sólo tiene efectos locales y no evita incumplir esa ley en otros territorios”.

La inteligencia artificial “va a asistir al médico en la toma de decisiones”. Actualmente tiene capacidad de leer electrocardiogramas, pruebas de imagen o tejidos o lesiones en la piel y emitir una sospecha diagnóstica, señalar imágenes sospechosas, hacer seguimiento, predicciones de recurrencia e incluso de mortalidad. Tiene capacidad de “leer una historia clínica y en base a los síntomas y signos descritos y resultados complementarios emitir una sospecha diagnóstica”. Pero, es más, la IA tiene capacidad de, en función de una estirpe celular y la farmacogenómica del paciente, elegir “qué fármaco es el más adecuado para tratar un cáncer”. Los beneficios son evidentes: “más precisión y en menos tiempo. Los riesgos son que hasta que llegue hay que hacer mucha investigación y estar muy seguros de que funciona, que no existen sesgos en la selección de pacientes, que requieren de una supervisión humana que entienda cómo funciona y que los médicos no sabemos de ingeniería informática”, resume el Dr. Blanco.

Uno de los principales riesgos, según expone, es “el de dejarnos de implicar intelectualmente en la relación clínica y asumir que la IA, por comodidad o porque tengamos la sensación de que acierta, conllevará un alienación y un desgaste profesional. Sobreañadido a aquel que se sufre por la carga afectiva de nuestro trabajo, la presión asistencial y la precariedad laboral vital. Asumir o delegar las decisiones en la IA, supondrá un quiebre definitivo en la relación clínica y una ruptura de la confianza”.

“Si aspiramos a la aplicabilidad ética de sistemas de inteligencia artificial en nuestro ámbito de trabajo, porque creemos que nos pueden aportar mayor precisión, calidad y seguridad en nuestra toma de decisiones, sin duda tendremos que conocer cómo funcionan estos sistemas, cuáles son sus riesgos y a qué elementos decisionales tenemos que prestar atención en los que puede que esa IA no haga o pueda hacerlo con mayores posibilidades de sesgo”, expone el coordinador del grupo de trabajo.

La reunión, organizada por el Grupo de Bioética y Profesionalismo de la SEMI, ha contado con participación de: Plataforma de Organización de Pacientes (POP), Instituto de Ética Clínica Francisco Vallés, Fundación José Ortega y Gasset-Gregorio Marañón, Sociedad Española de Enfermería Intensiva y Unidades Coronarias (SEEIC), European Junior Doctors Association (UJD), ELISAVA, y las universidades Pública de Navarra (UPNA), de Valladolid, de Barcelona (UB) y la Universidad Pontificia de Comillas.