Direccionamiento En la Cumbre sobre Seguridad de la Inteligencia Artificial convocada por el Reino Unido, en la famosa finca de Bletchley Park, donde los descifradores de códigos aliados hicieron una enorme contribución al esfuerzo bélico para descifrar los códigos nazis, el jefe de la ONU enfatizó la necesidad de una “conversación sostenida y estructurada” en torno a su riesgos, desafíos y oportunidades.
“Las Naciones Unidas, una plataforma inclusiva, equitativa y universal para la coordinación de la gobernanza de la IA, ahora están plenamente involucradas en esa conversación”, dijo.
Tres áreas clave
El Secretario General esbozó tres áreas clave para la acción inmediata.
En primer lugar, pidió abordar las amenazas existentes relacionadas con el lanzamiento de potentes modelos de IA que actualmente carecen de barreras de seguridad y supervisión suficientes.
En segundo lugar, Guterres expresó su preocupación por las consecuencias negativas a largo plazo de la IA, incluido su impacto en el empleo; la erosión de la diversidad cultural debido a algoritmos sesgados y el avivamiento de las tensiones geopolíticas derivadas de la concentración de corporaciones de inteligencia artificial en solo un puñado de países.
La tercera preocupación era que, si no se toman medidas inmediatas, la IA exacerbará las desigualdades que ya están aumentando.
“Esto no es un riesgo; es una realidad”, advirtió.
Principios éticos
Para abordar estas preocupaciones, Guterres mencionó el desarrollo de más de 100 conjuntos diferentes de principios éticos para la IA, a menudo superpuestos.
Si bien existe un amplio acuerdo sobre principios como la confiabilidad, la transparencia, la rendición de cuentas y la capacidad de cerrar aplicaciones de IA, se necesita una supervisión global para evitar incoherencias y brechas, instó.
El jefe de la ONU destacó el lanzamiento de su nuevo Órgano asesor sobre IAque está formado por expertos del gobierno, empresas, la comunidad tecnológica, la sociedad civil y el mundo académico.
“Es verdaderamente universal, con representación de todas partes del mundo, para fomentar las soluciones en red, inclusivas y basadas en evidencia que se necesitan”, dijo.
Asociaciones para el futuro
El Órgano Asesor trabajará en conjunto con otras iniciativas globales establecidas a través de la UE y el G7, por ejemplo, y brindará recomendaciones preliminares antes de fin de año para generar consenso científico y hacer que la IA funcione para toda la humanidad.
Estas recomendaciones se incorporarán al Pacto Digital Mundial, propuesto para su adopción en la reunión de la ONU. Cumbre del futuro el próximo mes de septiembre.
«En otras palabras, su trabajo incorporará la gobernanza de la IA en los procesos intergubernamentales y en una cumbre global establecida», dijo Guterres.
