WASHINGTON, DC – Hace casi exactamente 66 años, 22 prominentes científicos de diez países, entre ellos Estados Unidos y la Unión Soviética, se reunieron en Pugwash, Escocia, para identificar los peligros que significaban las armas nucleares e idear maneras pacíficas de resolver los conflictos entre países. Con ello nació la organización internacional conocida como las Conferencias Pugwash sobre Asuntos Científicos y Mundiales, o Movimiento Pugwash. Si bien hoy el planeta está lejos de haber eliminado las armas nucleares, la influencia del Movimiento por avanzar en el desarme fue lo suficientemente potente como para merecer el Premio Nobel de la Paz de 1995.
Hoy el mundo necesita un nuevo Movimiento Pugwash, esta vez centrado en la Inteligencia Universal. A diferencia de las armas nucleares, la IA es tanto una promesa como una amenaza, y su capacidad destructiva es todavía más teórica que real. Aun así, ambas tecnologías suponen riesgos existenciales para la humanidad. En consecuencia, los lideres científicos y tecnológicos, los expertos en filosofía y ética, y los humanistas y filántropos de cada continente debieran reunirse y asegurarse de llegar a un acuerdo amplio de normas para gobernar la IA que concite apoyos en los niveles local, nacional y global.
En su lugar, el nuevo Movimiento Pugwash debiera centrarse en gran parte en conectar entre sí a los actores relevantes, alinear las medidas necesarias y asegurarse de que estas se pongan en práctica con la mayor amplitud posible. Las instituciones serán vitales en este sentido. Pero, ¿qué tipo de instituciones se necesitan y cuáles se pueden crear o empoderar de manera realista para abordar rápidamente el desafío de la IA?
António Guterres, Secretario General de las Naciones Unidas, ha llamado a un “multilateralismo interconectado” en el que la ONU, “las instituciones financieras internacionales, las organizaciones regionales, los bloques de comercio y otros actores” -incluidas varias entidades no gubernamentales- “colaboren entre sí de manera más estrecha y eficaz”. Pero, para ser eficaces, tales redes de múltiples partes interesadas tendrían que estar diseñadas para desempeñar funciones específicas.
Un estudio publicado este mes por un grupo de académicos y expertos líderes en IA de universidades y empresas tecnológicas identifica cuatro de estas funciones: propagar los beneficios tecnológicos, armonizar las normas, asegurarse de que su desarrollo y uso sean seguros, y manejar los riesgos geopolíticos.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Es comprensible que muchos consideren el “asegurarse de que su desarrollo y uso sean seguros” como la prioridad principal. Así, hay en camino iniciativas para desarrollar una institución que identifique y monitoree los daños actuales y potenciales de las aplicaciones de la IA, de manera muy parecida a como el Panel Intergubernamental sobre el Cambio Climático vigila el riesgo existencial del cambio climático. De hecho, el Observatorio Global de la IA, recientemente propuesto por la Iniciativa de Inteligencia Artificial e Igualdad, tendría al IPCC como modelo explícito, es decir, esencialmente una red de redes que funciona muy bien para acumular conocimientos procedentes de muchas fuentes distintas.
Las redes acumulativas – desde el Incident Reporting System (Sistema de Aviso de Incidentes) de la Agencia de Ciberseguridad y Seguridad para las Infraestructuras de EE.UU. a la Wikipedia- se caracterizan por tener un nodo de autoridad central que junta información y análisis de muchos tipos diferentes de instituciones, algunas de las cuales ya se encuentran interconectadas. Pero un centro así no puede adoptar medidas rápidas basadas en la información que reúne. Para gobernar la IA, todavía hace falta una institución multilateral jerárquica con el poder de adoptar y poner en práctica las decisiones que tome, como una especie de Consejo de Seguridad de la ONU funcional.
En cuanto a la función de propagar la tecnología beneficiosa (lo que la mayoría de la gente considera que es tan importante como prevenir daños), es probable que lo que funcione mejor sea una red mixta de innovación-colaboración. Las redes de innovación suelen poseer muchos nodos apartados entre sí para asegurarse de acceder a la mayor cantidad posible de nuevas ideas y prácticas, y una cantidad limitadas de nodos centralizados que transformen ideas en acciones, colaboren en torno a las mejores prácticas y prevengan la explotación. Debieran estar centrados en regiones específicas o, tal vez, estar vinculados con Objetivos de Desarrollo Sostenible de la ONU específicos.
Para armonizar la normativa -lo que incluye experimentar con diferentes tipos de regulación- se necesitará una estructura más amplia, más flexible y con el máximo de capacidad de inclusión. Las tecnologías de IA son sencillamente demasiado amplias y veloces para que una o varias autoridades normativas centralizadas tenga alguna posibilidad de canalizarlas y guiarlas por sí misma. En lugar de ello, proponemos una red multimodo ampliamente distribuida que soporte lo que llamamos una “cogobernanza digital”.
Nuestro modelo se basa en el sistema de arquitectura distribuida y cogobernanza al que se le reconoce el mérito de mantener la estabilidad y la resiliencia de la internet. Hace ya décadas, investigadores tecnológicos, apoyados por el gobierno estadounidense y empresas de internet tempranas, crearon varias instituciones en una constelación poco estructurada, cada una con sus propias responsabilidades funcionales.
La clave del éxito de estas instituciones es que su operación se realiza a través de redes autorreguladas que se distribuyen entre pares (“peer-to-peer”) que reúnen a una amplia gama de actores para diseñar en conjunto normas, reglas y pautas de implementación. Por ejemplo, el ICANN cuenta con decenas de redes autoorganizadas que se ocupan del Sistema de Nombres de Dominios -crucial para que los usuarios naveguen en internet- y coordina otras redes autorreguladas, como las cinco instituciones regionales que administran la asignación de direcciones IP en el mundo.
Estas instituciones son capaces de manejar una amplia gama de medidas que van desde lo técnico hasta lo político. Cuando Rusia invadió Ucrania en 2022, las autoridades ucranianas presionaron al ICANN para que eliminara .ru del directorio maestro del Sistema de Nombres de Dominios, conocido como la zona raíz y manejado por 12 instituciones de cuatro países, coordinadas pero no controladas por el ICANN. Finalmente, la Autoridad de Asignación de Números de Internet declinó la petición.
Una conferencia como la de Pugwash sobre la IA tendría abundancia de participantes gubernamentales, académicos, corporativos y cívicos dispuestos a colaborar. Los participantes originales de Pugwash respondían a un llamado de gigantes intelectuales como el filósofo Bertrand Russell y el físico Albert Einstein. ¿Quién hará lo mismo hoy?
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Adekeye Adebajo
argues that Israel’s war in Gaza is accelerating the trend toward global apartheid, highlights the strengths and weaknesses of United Nations peacekeeping missions, criticizes the militarization of US engagement with Africa, and more.
The models are in place to achieve clean cooking for all, which would have enormous benefits for the climate, health, and gender equality. Now rich-country governments, the private sector, and international organizations must agree to provide the necessary funding at this week’s IEA Summit on Clean Cooking in Africa.
urge global leaders to provide the financing to end a practice with dire effects for health and the climate.
The dollar's strength, particularly against major Asian currencies, has triggered a wave of skittishness in financial markets. Can anything be done to stem the greenback's rise, and even if something can be done, should it?
asks whether anything can or should be done about the greenback's strength, especially against Asian currencies.
WASHINGTON, DC – Hace casi exactamente 66 años, 22 prominentes científicos de diez países, entre ellos Estados Unidos y la Unión Soviética, se reunieron en Pugwash, Escocia, para identificar los peligros que significaban las armas nucleares e idear maneras pacíficas de resolver los conflictos entre países. Con ello nació la organización internacional conocida como las Conferencias Pugwash sobre Asuntos Científicos y Mundiales, o Movimiento Pugwash. Si bien hoy el planeta está lejos de haber eliminado las armas nucleares, la influencia del Movimiento por avanzar en el desarme fue lo suficientemente potente como para merecer el Premio Nobel de la Paz de 1995.
Hoy el mundo necesita un nuevo Movimiento Pugwash, esta vez centrado en la Inteligencia Universal. A diferencia de las armas nucleares, la IA es tanto una promesa como una amenaza, y su capacidad destructiva es todavía más teórica que real. Aun así, ambas tecnologías suponen riesgos existenciales para la humanidad. En consecuencia, los lideres científicos y tecnológicos, los expertos en filosofía y ética, y los humanistas y filántropos de cada continente debieran reunirse y asegurarse de llegar a un acuerdo amplio de normas para gobernar la IA que concite apoyos en los niveles local, nacional y global.
A diferencia del Movimiento Pugwash original, la versión para IA no tendría que idear un marco desde cero. Ya hay en camino muchas iniciativas para orientar y guiar el desarrollo y las aplicaciones de IA. Algunos ejemplos son el Proyecto de Declaración de Derechos sobre Inteligencia Artificial en Estados Unidos, las Directrices Éticas para una IA fiable en la Unión Europea, los Principios de la OCDE sobre IA, y la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO. UNESCO.
En su lugar, el nuevo Movimiento Pugwash debiera centrarse en gran parte en conectar entre sí a los actores relevantes, alinear las medidas necesarias y asegurarse de que estas se pongan en práctica con la mayor amplitud posible. Las instituciones serán vitales en este sentido. Pero, ¿qué tipo de instituciones se necesitan y cuáles se pueden crear o empoderar de manera realista para abordar rápidamente el desafío de la IA?
António Guterres, Secretario General de las Naciones Unidas, ha llamado a un “multilateralismo interconectado” en el que la ONU, “las instituciones financieras internacionales, las organizaciones regionales, los bloques de comercio y otros actores” -incluidas varias entidades no gubernamentales- “colaboren entre sí de manera más estrecha y eficaz”. Pero, para ser eficaces, tales redes de múltiples partes interesadas tendrían que estar diseñadas para desempeñar funciones específicas.
Un estudio publicado este mes por un grupo de académicos y expertos líderes en IA de universidades y empresas tecnológicas identifica cuatro de estas funciones: propagar los beneficios tecnológicos, armonizar las normas, asegurarse de que su desarrollo y uso sean seguros, y manejar los riesgos geopolíticos.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Es comprensible que muchos consideren el “asegurarse de que su desarrollo y uso sean seguros” como la prioridad principal. Así, hay en camino iniciativas para desarrollar una institución que identifique y monitoree los daños actuales y potenciales de las aplicaciones de la IA, de manera muy parecida a como el Panel Intergubernamental sobre el Cambio Climático vigila el riesgo existencial del cambio climático. De hecho, el Observatorio Global de la IA, recientemente propuesto por la Iniciativa de Inteligencia Artificial e Igualdad, tendría al IPCC como modelo explícito, es decir, esencialmente una red de redes que funciona muy bien para acumular conocimientos procedentes de muchas fuentes distintas.
Las redes acumulativas – desde el Incident Reporting System (Sistema de Aviso de Incidentes) de la Agencia de Ciberseguridad y Seguridad para las Infraestructuras de EE.UU. a la Wikipedia- se caracterizan por tener un nodo de autoridad central que junta información y análisis de muchos tipos diferentes de instituciones, algunas de las cuales ya se encuentran interconectadas. Pero un centro así no puede adoptar medidas rápidas basadas en la información que reúne. Para gobernar la IA, todavía hace falta una institución multilateral jerárquica con el poder de adoptar y poner en práctica las decisiones que tome, como una especie de Consejo de Seguridad de la ONU funcional.
En cuanto a la función de propagar la tecnología beneficiosa (lo que la mayoría de la gente considera que es tan importante como prevenir daños), es probable que lo que funcione mejor sea una red mixta de innovación-colaboración. Las redes de innovación suelen poseer muchos nodos apartados entre sí para asegurarse de acceder a la mayor cantidad posible de nuevas ideas y prácticas, y una cantidad limitadas de nodos centralizados que transformen ideas en acciones, colaboren en torno a las mejores prácticas y prevengan la explotación. Debieran estar centrados en regiones específicas o, tal vez, estar vinculados con Objetivos de Desarrollo Sostenible de la ONU específicos.
Para armonizar la normativa -lo que incluye experimentar con diferentes tipos de regulación- se necesitará una estructura más amplia, más flexible y con el máximo de capacidad de inclusión. Las tecnologías de IA son sencillamente demasiado amplias y veloces para que una o varias autoridades normativas centralizadas tenga alguna posibilidad de canalizarlas y guiarlas por sí misma. En lugar de ello, proponemos una red multimodo ampliamente distribuida que soporte lo que llamamos una “cogobernanza digital”.
Nuestro modelo se basa en el sistema de arquitectura distribuida y cogobernanza al que se le reconoce el mérito de mantener la estabilidad y la resiliencia de la internet. Hace ya décadas, investigadores tecnológicos, apoyados por el gobierno estadounidense y empresas de internet tempranas, crearon varias instituciones en una constelación poco estructurada, cada una con sus propias responsabilidades funcionales.
La Internet Society promueve una internet abierta y conectada globalmente. El Consorcio por la World Wide Web desarrolla estándares para la web. El Foro de Gobernanza de Internet reúne a las partes interesadas para hablar de asuntos de políticas relevantes. Y la Corporación de Nombres y Números Asignados de Internet (ICANN) coordina y salvaguarda los identificadores únicos de internet.
La clave del éxito de estas instituciones es que su operación se realiza a través de redes autorreguladas que se distribuyen entre pares (“peer-to-peer”) que reúnen a una amplia gama de actores para diseñar en conjunto normas, reglas y pautas de implementación. Por ejemplo, el ICANN cuenta con decenas de redes autoorganizadas que se ocupan del Sistema de Nombres de Dominios -crucial para que los usuarios naveguen en internet- y coordina otras redes autorreguladas, como las cinco instituciones regionales que administran la asignación de direcciones IP en el mundo.
Estas instituciones son capaces de manejar una amplia gama de medidas que van desde lo técnico hasta lo político. Cuando Rusia invadió Ucrania en 2022, las autoridades ucranianas presionaron al ICANN para que eliminara .ru del directorio maestro del Sistema de Nombres de Dominios, conocido como la zona raíz y manejado por 12 instituciones de cuatro países, coordinadas pero no controladas por el ICANN. Finalmente, la Autoridad de Asignación de Números de Internet declinó la petición.
Una conferencia como la de Pugwash sobre la IA tendría abundancia de participantes gubernamentales, académicos, corporativos y cívicos dispuestos a colaborar. Los participantes originales de Pugwash respondían a un llamado de gigantes intelectuales como el filósofo Bertrand Russell y el físico Albert Einstein. ¿Quién hará lo mismo hoy?
Traducido del inglés por David Meléndez Tormen