La Organización Mundial de la Salud (OMS) ha publicado sus consideraciones regulatorias clave sobre la inteligencia artificial (IA) para la salud. El documento enfatiza la importancia de establecer la seguridad y eficacia de los sistemas de IA, poner rápidamente a disposición de quienes los necesitan sistemas apropiados y fomentar el diálogo entre las partes interesadas, incluidos desarrolladores, reguladores, fabricantes, trabajadores de la salud y pacientes.
La OMS reconoce el potencial de la IA para mejorar los resultados de salud mediante el fortalecimiento de los ensayos clínicos; mejorar el diagnóstico médico, el tratamiento, el autocuidado y la atención centrada en la persona; y complementar los conocimientos, habilidades y competencias de los profesionales de la salud.
Sin embargo, las tecnologías de inteligencia se están implementando rápidamente, a veces sin una comprensión completa de su funcionamiento, lo que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes. Al utilizar datos de salud, los sistemas de IA “podrían tener acceso a información personal confidencial, lo que requiere marcos legales y regulatorios sólidos para salvaguardar la privacidad, la seguridad y la integridad, que esta publicación pretende ayudar a establecer y mantener”.
"La inteligencia artificial es muy prometedora para la salud, pero también plantea serios desafíos, incluida la recopilación de datos poco ética, amenazas a la ciberseguridad y amplificación de los sesgos o la desinformación", afirmó Tedros Adhanom Ghebreyesus, director general de la OMS. "Esta nueva guía ayudará a los países a regular la IA de manera efectiva, para aprovechar su potencial, ya sea en el tratamiento del cáncer o en la detección de la tuberculosis, minimizando al mismo tiempo los riesgos".
En respuesta a las crecientes necesidades de los países de gestionar responsablemente el rápido aumento de las tecnologías sanitarias de IA, la publicación describe seis áreas para la regulación de la IA para la salud.
Para fomentar la confianza, la publicación enfatiza la importancia de la transparencia y la documentación, por ejemplo documentando todo el ciclo de vida del producto y rastreando los procesos de desarrollo.
Para la gestión de riesgos, cuestiones como el “uso previsto”, el “aprendizaje continuo”, las intervenciones humanas, los modelos de capacitación y las amenazas a la ciberseguridad deben abordarse de manera integral, con modelos lo más simples posible. Validar los datos externamente y tener claro el uso previsto de la IA ayuda a garantizar la seguridad y facilitar la regulación.
Un compromiso con la calidad de los datos, por ejemplo mediante una evaluación rigurosa de los sistemas antes del lanzamiento, es vital para garantizar que los sistemas no amplifiquen los sesgos y los errores.
Los desafíos que plantean regulaciones importantes y complejas, como el Reglamento General de Protección de Datos (GDPR) en Europa y la Ley de Responsabilidad y Portabilidad de Seguros Médicos (HIPAA) en los Estados Unidos de América, se abordan haciendo hincapié en la comprensión del alcance de la jurisdicción y requisitos de consentimiento, al servicio de la privacidad y la protección de datos.
Fomentar la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de la industria y socios gubernamentales puede ayudar a garantizar que los productos y servicios cumplan con la regulación durante todo su ciclo de vida.
Los sistemas de IA son complejos y dependen no solo del código con el que están construidos, sino también de los datos con los que están entrenados, que provienen de entornos clínicos y de interacciones con los usuarios, por ejemplo. Una mejor regulación puede ayudar a gestionar los riesgos de que la IA amplifique los sesgos en los datos de entrenamiento.
La nueva publicación de la OMS tiene como objetivo esbozar los principios clave que los gobiernos y las autoridades reguladoras pueden seguir para desarrollar nuevas orientaciones o adaptar las orientaciones existentes sobre IA a nivel nacional o regional.
Nicolas Gonzalez Casares: