Las medidas de precaución que normalmente se aplican a cualquier nueva tecnología no se ejercen de manera consistente con respecto a las herramientas de modelo de lenguaje grande (LLM), que utilizan IA para procesar datos, crear contenido y responder preguntas, advirtió la Organización Mundial de la Salud (OMS).
“Adopción precipitada de los sistemas no probados podrían conducir a errores por parte de los trabajadores de la saludcausar daño a los pacientes, erosionar la confianza en la IA y, por lo tanto, socavar o retrasar los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo”, dijo la agencia.
Como tal, la agencia propuso que estas preocupaciones se aborden y se miden pruebas claras de los beneficios antes de su uso generalizado en la atención médica y la medicina de rutina.
Evitar errores relacionados con la salud
Si bien está entusiasmada con el uso apropiado de las tecnologías para ayudar a los profesionales de la salud, los pacientes, los investigadores y los científicos, la OMS dijo que estos Las nuevas herramientas basadas en IA requieren vigilanciaespecialmente a la luz de plataformas en rápida expansión como ChatGPT, Bard, BERT y muchas otras que imitan la comprensión, el procesamiento y la producción de la comunicación humana.
Por ejemplo, estas nuevas herramientas pueden generar respuestas que pueden parecer autorizadas y plausibles para un usuario final. El peligro es que estas respuestas pueden ser completamente incorrectas o contener errores graves, especialmente relacionados con cualquier problema de salud, dijo la OMS.
También pueden ser mal utilizado para generar y difundir desinformación altamente convincente en forma de contenido de texto, audio o video que es difícil para el público diferenciar del contenido de salud confiable.
Aprovechamiento seguro de la IA
El los riesgos deben ser examinados cuidadosamente al usar estas nuevas herramientas para mejorar el acceso a la información de salud, como una herramienta de apoyo a la toma de decisiones, o incluso para mejorar la capacidad de diagnóstico en entornos de escasos recursos para proteger la salud de las personas y reducir la inequidad, dijo la OMS.
Comprometida con el aprovechamiento de las nuevas tecnologías para mejorar la salud humana, la OMS recomienda que los encargados de formular políticas garantizar la seguridad y protección del paciente mientras las empresas de tecnología trabajan para comercializar herramientas LLM.
La agencia reiteró la importancia de aplicando principios éticos y de gobierno adecuado. En este sentido, la agencia de salud de la ONU en 2021, publicó Ética y Gobernanza de la Inteligencia Artificial para la Salud antes de la aprobación de la primer acuerdo mundial sobre la ética de la IA.
