La Organización Mundial de la Salud (OMS) y la Unión Internacional de Telecomunicaciones (UIT) han publicado una lista de consideraciones regulatorias sobre la inteligencia artificial (IA) para la salud, que abarca áreas como la gestión de riesgos, el enfoque del ciclo de vida de productos médicos, la validación analítica y clínica, la privacidad, protección de datos y la colaboración internacional.
Entre las medidas recomendadas en dicho informe se encuentra el refuerzo de ensayos clínicos midiendo el potencial de la IA; o la importancia de la transparencia y la documentación, por ejemplo, documentando todo el ciclo de vida del producto de IA presentado y rastreando los procesos de desarrollo.
Para la gestión de riesgos, según dicta el documento, cuestiones como el uso previsto, el aprendizaje continuo, las intervenciones humanas, los modelos de capacitación y las amenazas a la ciberseguridad deben abordarse de manera integral, con modelos lo más simples posible.
Otras medidas incluidas en son: validar los datos externamente y tener claro el uso previsto de la IA para garantizar la seguridad y facilitar la regulación, la evaluación rigurosa de los sistemas antes del lanzamiento para asegurar que los sistemas no amplifiquen los sesgos y los errores, o el fomento de la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de la industria y socios gubernamentales para garantizar que los productos y servicios cumplan con la regulación durante todo su ciclo de vida.
El objetivo de este documento es facilitar el desarrollo y el uso seguro de los sistemas de IA en la atención sanitaria y el desarrollo terapéutico, así como fomentar la colaboración internacional en materia de regulaciones de la inteligencia artificial.
Seguridad y eficacia
La OMS enfatiza en el informe la importancia de establecer la seguridad y eficacia de los sistemas de la IA, poner rápidamente a disposición de quienes los necesitan sistemas apropiados de acceso y fomentar el diálogo entre las partes interesadas.
“Con la creciente disponibilidad de datos sobre atención médica y el rápido progreso en las técnicas analíticas, las herramientas de inteligencia artificial podrían transformar el sector de la salud”, considera la OMS, que reconoce el potencial de la IA para mejorar los resultados de salud mediante el fortalecimiento de los ensayos clínicos; mejorar el diagnóstico médico, el tratamiento, el autocuidado y la atención centrada en la persona; y complementar los conocimientos, habilidades y competencias de los profesionales de la salud.
Estas tecnologías se están implementando rápidamente, a veces sin una comprensión completa de su funcionamiento, lo que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes.
“Al utilizar datos de salud, los sistemas de IA podrían tener acceso a información personal confidencial, lo que requiere marcos legales y regulatorios sólidos para salvaguardar la privacidad, la seguridad y la integridad”, señala la publicación.
Tedros Adhanom Ghebreyesus, director general de la OMS señala que, aunque la IA es prometedora para la salud, también plantea serios desafíos, incluida la recopilación de datos poco ética, amenazas a la ciberseguridad y amplificación de los sesgos o la desinformación.
Esta nueva guía propuesta por la Organización, según señala Adhanom, “ayudará a los países a regular la IA de manera efectiva, para aprovechar su potencial, ya sea en el tratamiento del cáncer o en la detección de la tuberculosis, minimizando al mismo tiempo los riesgos”.
Oportunidad para mejorar la salud
La OMS ve en la IA una oportunidad para mejorar la salud al optimizar los ensayos clínicos, el diagnóstico médico, el tratamiento, el autocuidado y la atención personalizada, así como para generar más evidencia, habilidades y competencias para los profesionales sanitarios.
Además, y según se refleja en el informe de la Organización, la IA puede transformar el sector de la salud al responder a las diversas necesidades de los actores involucrados en la atención médica y el desarrollo terapéutico, gracias a la mayor disponibilidad de datos sanitarios y al avance de las técnicas de análisis.
Aunque tanto al OMS como la UIT reconocen que la IA ha sido esencial para impulsar rápidamente la investigación en la atención sanitaria y el desarrollo terapéutico, también advierten de la complejidad cambiante del panorama de la IA y la necesidad de colaboración internacional para promover el desarrollo y uso seguro y adecuado de los sistemas de IA.
Para finalizar el informe, la OMS emite tres consideraciones importantes acerca de esta colaboración. Para empezar, que compartir conocimientos y mejores prácticas sobre la evolución de las consideraciones regulatorias podría acelerar el desarrollo de este panorama regulatorio y reducir la brecha entre el avance de la tecnología y la regulación.
En segundo lugar, que esta colaboración internacional mejora la coherencia de las regulaciones, lo cual es importante ya que es probable que muchas herramientas eventualmente crucen fronteras, y esto podría mejorar los estándares y permitir una implementación más rápida.
Por último, el informe explica que esta colaboración “beneficia a los países con menor capacidad regulatoria, ya que les permite acceder a herramientas con altos estándares y evitar la desigualdad en la implementación de estas herramientas”.