Dowden dijo que la llamada Cumbre de Seguridad de la IA, prevista para noviembre, tendrá como objetivo anticiparse a los riesgos que plantea la IA de frontera y explorar cómo se puede utilizar para el bien público.
“La IA es la mayor transformación que ha conocido el mundo”, enfatizó, señalando que va a cambiar todo lo que hacemos, la forma en que vivimos, las relaciones entre las naciones, y va a cambiar a las Naciones Unidas, fundamentalmente.
“Nuestra tarea como gobiernos es entenderlo, captarlo y buscar gobernarlo, y debemos hacerlo a gran velocidad”, subrayó.
No conocemos sus límites
Dowden trazó paralelismos entre el trabajo de los inventores Thomas Edison (bombilla) y Tim Berners-Lee (correo electrónico) y el potencial de la inteligencia artificial en la actualidad.
“Seguramente no podrían haber imaginado respectivamente la iluminación del horizonte de Nueva York por la noche o las maravillas de la Internet moderna… pero sospechaban el poder transformador de sus inventos”.
Hizo hincapié en que la IA de vanguardia tiene el potencial no sólo de transformar nuestras vidas de manera similar, sino también de reimaginar nuestra comprensión de la ciencia, desde decodificar las partículas más pequeñas hasta los confines más lejanos del universo.
Oportunidades versus riesgos
Una de las principales preocupaciones destacadas por el Viceprimer Ministro es la velocidad sin precedentes a la que está evolucionando la IA, y ese ritmo tiene implicaciones de gran alcance, tanto en términos de las oportunidades que presenta como de los riesgos que plantea.
En el lado positivo, los modelos de IA actualmente en desarrollo podrían desempeñar un papel fundamental a la hora de abordar algunos de los desafíos más apremiantes del mundo: energía limpia, acción climática, producción de alimentos o detección de enfermedades y pandemias.
«De hecho, cada uno de los desafíos discutidos en la Asamblea General de este año (y más) podría mejorarse o incluso resolverse mediante la IA», afirmó.
Sin embargo, en medio de la promesa de la IA, Dowden también hizo una nota de advertencia, subrayando los peligros del uso indebido, citando ejemplos como la piratería informática, los ataques cibernéticos, los deepfakes y la posible pérdida de control sobre los sistemas de IA.
«De hecho, muchos argumentan que esta tecnología no se parece a ninguna otra, en el sentido de que sus propios creadores no saben cómo funciona… por lo tanto, el principio provendrá de un mal uso, una desventura o una desalineación con los objetivos humanos», añadió.
«No hay futuro en el que esta tecnología no se desarrolle a un ritmo extraordinario», dijo, y mientras las empresas hacían todo lo posible para establecer barreras, «se ha dado el pistoletazo de salida a una carrera competitiva a nivel mundial en la que empresas individuales como y los países se esforzarán por traspasar los límites lo más lejos y rápido posible”.
Objetivos de la cumbre de IA
En este contexto, la Cumbre sobre Seguridad de la IA se centrará en abordar los riesgos extremos asociados con la IA de frontera, dijo el Viceprimer Ministro.
La cumbre tiene como objetivo reunir a expertos, formuladores de políticas y partes interesadas para explorar estrategias para mitigar estos riesgos y al mismo tiempo aprovechar el potencial positivo de la IA para el bien público.
“No podemos permitirnos quedar atrapados en debates sobre si la IA es una herramienta para el bien o para el mal; será una herramienta para ambos. Debemos prepararnos para ambos y asegurarnos contra este último”, instó.
Declaración completa disponible aquí.
