Su nueva publicación enfatiza la importancia de establecer sistemas de IA seguros y efectivos y fomentar el diálogo sobre su uso como una herramienta positiva, reuniendo a desarrolladores, reguladores, fabricantes, trabajadores de la salud y pacientes.
Con la creciente disponibilidad de datos sanitarios y el rápido progreso en las técnicas analíticas, la OMS reconoce el potencial que tiene la IA para mejorar los resultados de salud fortaleciendo los ensayos clínicos, mejorando el diagnóstico médico y complementando los conocimientos y competencias de los profesionales de la salud.
‘Serios desafíos’
Sin embargo, al utilizar datos de salud, los sistemas de inteligencia artificial podrían potencialmente acceder a información personal confidencial, lo que requiere marcos legales y regulatorios sólidos para salvaguardar la privacidad, la seguridad y la integridad.
«La inteligencia artificial es muy prometedora para la salud, pero también plantea serios desafíos, incluida la recopilación de datos poco ética, las amenazas a la ciberseguridad y la amplificación de los sesgos o la desinformación», afirmó Tedros Adhanom Ghebreyesus, Director General de la OMS.
En respuesta a la creciente necesidad de gestionar responsablemente el rápido aumento de las tecnologías sanitarias de IA, la OMS está destacando la importancia de la transparencia y la documentación, la gestión de riesgos y la validación externa de los datos.
«Esta nueva orientación ayudará a los países a regular la IA de manera efectiva, para aprovechar su potencial, ya sea en el tratamiento del cáncer o en la detección de la tuberculosis, minimizando al mismo tiempo los riesgos», dijo Ghebreyesus.
Regulaciones complejas
Los desafíos que plantean regulaciones importantes y complejas, como el Reglamento General de Protección de Datos (GDPR) en Europa y la Ley de Responsabilidad y Portabilidad del Seguro Médico (HIPAA) en los Estados Unidos, se abordan haciendo hincapié en la comprensión del alcance de la jurisdicción y el consentimiento. requisitos, al servicio de la privacidad y protección de datos.
Los sistemas de IA son complejos y dependen no sólo del código con el que están construidos sino también de los datos con los que están entrenados, afirmó la OMS. Una mejor regulación puede ayudar a gestionar los riesgos de que la IA amplifique los sesgos en los datos de entrenamiento.
Puede resultar difícil para los modelos de IA representar con precisión la diversidad de poblaciones, lo que genera sesgos, imprecisiones o incluso fracasos.
Para ayudar a mitigar estos riesgos, se pueden utilizar regulaciones para garantizar que los atributos (como el género, la raza y el origen étnico) se informen y que los conjuntos de datos se hagan representativos intencionalmente.
El compromiso con los datos de calidad es vital para garantizar que los sistemas no amplifiquen los sesgos y los errores, destacó el informe.
