“La naturaleza misma de la tecnología en sí (transfronteriza en estructura y aplicación) requiere un enfoque global.”, concluye el informe final del panel designado por el Secretario General de la ONU.
La inteligencia artificial (IA) está transformando nuestro mundo, desde la apertura de nuevas áreas de investigación científica y la optimización de las redes energéticas hasta la mejora de la salud pública y la agricultura y la promoción del progreso en los 17 Objetivos de Desarrollo Sostenible (ODS).
Sin embargo, si bien existe un enorme potencial para el bien, si no se gobernara, los beneficios de la IA podrían limitarse a solo un puñado de Estados, empresas e individuos pioneros, ampliando la brecha y la desigualdad digitales.
En un esfuerzo por mitigar estos riesgos, el informe propone varias recomendaciones para establecer un marco para la gobernanza global de la IA.
Crecientes preocupaciones por los derechos humanos
En el informe también se expresa una gran preocupación sobre las formas en que la IA puede utilizarse para infringir los derechos humanos.
Las mismas materias primas necesarias para las tecnologías de inteligencia artificial (incluidos minerales críticos) se obtienen a nivel mundial, lo que lleva a una batalla por el poder y la riqueza sobre estos raros productos básicos a escala global.
Además, los sistemas de armas autónomos podrían tomar decisiones sin intervención humana, lo que plantea cuestiones éticas y jurídicas sobre la rendición de cuentas y la protección de los civiles durante los conflictos. El creciente potencial de una carrera armamentista impulsada por los avances en la tecnología de inteligencia artificial también podría poner en peligro la seguridad humana.
El sesgo y la vigilancia de la IA son otra área de preocupación, ya que la creación y difusión de desinformación puede dañar a los civiles.
Ya aparecen lagunas
Las disparidades ya están empezando a aparecer. En términos de representación, partes enteras del mundo han quedado fuera de las conversaciones internacionales sobre gobernanza de la IA.
Por ejemplo, solo Siete (Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos) son partes de siete destacadas iniciativas de IA ajenas a las Naciones Unidas. Considerando que 118 países, principalmente en el Sur Global, no son partes en ninguno.
“La equidad exige que más voces desempeñen papeles significativos en las decisiones sobre cómo gobernar la tecnología que nos afecta”, afirma el informe.
“La concentración de la toma de decisiones en el sector de la tecnología de IA no puede justificarse; También debemos reconocer que históricamente muchas comunidades han sido completamente excluidas de las conversaciones sobre gobernanza de la IA que las afectan”, añadió.
Arquitectura globalmente inclusiva
Para abordar estas preocupaciones, el grupo de expertos de la ONU propone varias recomendaciones para regular el uso de la IA.
Las recomendaciones del informe incluyen una panel científico internacional independiente sobre IA, un informe bianual intergubernamental y de múltiples partes interesadas diálogo político sobre la gobernanza de la IA para compartir las mejores prácticas y un fondo global para que la IA reduzca la brecha digital.
El grupo también subrayó que cualquier despliegue de IA en entornos militares debe cumplir con el derecho internacional humanitario y normas de derechos humanos y recomendó que los estados establecieran marcos legales y mecanismos de supervisión sólidos.
En conjunto, estas recomendaciones instan a los Estados miembros de la ONU a sentar las bases de la primera arquitectura globalmente inclusiva para la gobernanza de la IA basada en la cooperación internacional y la transparencia.
