NUEVA YORK – Cuando hace poco me pidieron que expresara mi opinión sobre los fenomenales avances de la inteligencia artificial (IA) y si las Naciones Unidas juegan un papel en su gobernanza global, recordé las Tres Leyes de la Robótica, un conjunto de normas ideadas por el autor de ciencia ficción Isaac Asimov e introducidas en su cuento de 1942.
Me dije a mí mismo que la ciencia ficción ahora se encontró con la vida real. La primera ley establece el principio más fundamental al enfatizar que “Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño”. La norma de 80 años sería útil para el escenario actual del mundo de la IA.
IA al mando
La IA es emocionante y al mismo tiempo aterradora. Las implicaciones y la evolución potencial de la IA son enormes, por decir lo menos. Hemos llegado a un punto de inflexión en la historia humana que nos dice que, incluso en este momento, la IA es mucho más inteligente que los humanos.
Ya, incluso la IA «primitiva» controla tantos aspectos y actividades de nuestra vida diaria, independientemente de dónde vivamos en este planeta. Nuestra conectividad global a nivel personal: correos electrónicos, calendarios, transportes como Uber, GPS, compras y muchas otras actividades ahora están a cargo de la IA.
Luego, piense en las redes sociales y cómo influye en nuestro pensamiento y nuestra naturaleza interactiva que ha inyectado una incertidumbre peligrosa obvia que ya causó un problema considerable para el orden social y el estrés mental.
Humanidad dependiente de la IA
La humanidad depende casi por completo de la IA de una forma u otra. Piense en lo indefensos que serían los humanos sin un teléfono inteligente influenciado por la IA en nuestras manos. La IA es el sector tecnológico de más rápido crecimiento y se espera que agregue u$s 15 billones a la economía mundial en los próximos 5 a 7 años.
Incluso en su etapa actual de desarrollo de varios chatbots de IA liderados por OpenAI, Google y otros en los últimos meses han alarmado a los expertos bien intencionados. Cuando se les preguntó a los expertos sobre el futuro de la IA, dieron una respuesta honesta: «No lo sabemos».
Son de la opinión de que en este punto sólo se pueden prever los desarrollos para los próximos 5 años, más allá de eso no se puede predecir nada. La gente habla de ChatGPT-4 como una próxima IA de siguiente nivel, pero es posible que ya esté aquí.
El potencial ilimitado y no regulado de la IA
El potencial de la IA es tan ilimitado que se ha comparado con la carrera armamentista en la que las naciones están inmersas en una búsqueda interminable de seguridad y poder mediante la adquisición de más y más variados armamentos en número y eficacia.
Sin embargo, para la IA, los actores principales son los gigantes tecnológicos con enormes recursos y sin una orientación ética. Están en esta carrera de la IA por las ganancias: solo ganancias y, como corolario, un poder inexplicable para dominar las actividades humanas.
Sorprendentemente, no hay reglas, ni regulaciones, ni leyes que rijan el sector de la IA. Es gratis para todos, se puede comparar con el «salvaje oeste salvaje».
Armas nucleares e IA
Los expertos han comparado la IA con el advenimiento de la tecnología nuclear, que podría aprovecharse en beneficio de la humanidad o utilizarse para su aniquilación. Incluso han llegado al extremo de llamar a la IA un arma potente de destrucción masiva más que las armas nucleares. Las armas nucleares no pueden producir armas nucleares más poderosas. Pero la IA puede generar una IA más potente, por así decirlo, se autocapacita.
La preocupación es que, a medida que la IA se vuelve más poderosa por sí misma, no puede controlarse, sino que tendría la capacidad de controlar a los humanos. Al igual que la tecnología nuclear, no podemos “desinventar la IA”. Por lo tanto, el riesgo aún no completamente conocido de estas tecnologías de vanguardia continúa.
Amenaza existencial
Si bien reconocen los muchos posibles usos beneficiosos de la IA en las áreas médicas, para las predicciones meteorológicas, la mitigación de los impactos del cambio climático y muchas otras áreas, los expertos están haciendo sonar la alarma de que la superinteligencia de la IA sería una «amenaza existencial», posiblemente mucho más catastrófica, más inminente que la actual y siempre desafiante crisis climática.
Puede leer aquí la versión en inglés de este artículo.
La principal preocupación es que, en ausencia de una gobernanza global y acuerdos regulatorios, los malos agentes pueden involucrar a la IA para motivaciones distintas a las que son buenas para la sociedad, buenas para las personas y buenas para nuestro planeta en general. Como sabemos, los gigantes tecnológicos no están motivados por estos objetivos positivos.
La IA podría tener efectos perjudiciales graves. Este mes de mayo, por primera vez en la historia, las cifras de desempleo de Estados Unidos mencionaron a la IA como una razón para la pérdida de empleo.
Malos agentes sin barreras
Los malos agentes sin barreras de seguridad pueden abusar del poder de la IA para generar una avalancha de información errónea para influir negativamente en las opiniones de grandes segmentos de la humanidad, interrumpiendo así los procesos electorales y destruyendo la democracia y las instituciones democráticas. La tecnología de inteligencia artificial, en el área del conocimiento químico, puede usarse para fabricar armas químicas sin un sistema regulatorio.
Necesitamos darnos cuenta de que la IA es notablemente buena para hacer narrativas convincentes sobre cualquier tema. Cualquiera puede ser engañado por ese tipo de cosas. Dado que los humanos no siempre son racionales, su uso de la IA no puede ser racional ni positivo. Los malos agentes deben ser controlados para que la IA no represente una amenaza para la humanidad.
Naciones Unidas debe liderar la gobernanza global de la IA
Todos estos puntos pesan mucho a favor de una gobernanza global. Si me preguntan quién debería tomar la iniciativa en esto, mi respuesta enfática sería “¡las Naciones Unidas, por supuesto!”.
La experiencia, la credibilidad y la universalidad de las Naciones Unidas como organización normativa global obviamente tienen un papel en la creación de normas regulatorias para la IA y su evolución.
Es necesario proteger las cuestiones morales y éticas, así como los principios globales fundamentales, del ataque de la IA, como los derechos humanos, en particular la tercera generación de derechos humanos, la cultura de paz, la consolidación de la paz, la resolución de conflictos, la buena gobernanza, las instituciones democráticas, elecciones libres y justas y mucho más.
Además, es igualmente importante examinar y abordar las implicaciones para los gobiernos nacionales del uso global de la IA, que afecta la soberanía de las naciones. Valdría la pena explorar si la IA puede influir en los procesos de negociación intergubernamental, ahora o en el futuro.
Agencias de la ONU e implicaciones de sus actividades con la IA
Dos agencias de la ONU anunciaron recientemente actividades relacionadas con la IA. La Unesco informó que organizó una reunión virtual a nivel ministerial a fines de mayo con participantes seleccionados mientras compartía las estadísticas de que menos de 10 % de las instituciones educativas usaban IA.
La Unesco describió el programa informático ChatGPT como “muy popular”. Una entidad de la ONU no debería haber hecho tal respaldo de un producto gigante tecnológico.
Llamándose a sí misma “agencia de tecnología de la ONU”, la Unión Internacional de Telecomunicaciones (UIT) anunció que está convocando la Cumbre Mundial “AI for Good” a principios de julio para “mostrar la tecnología de inteligencia artificial y robots como parte de un diálogo global sobre cómo la inteligencia artificial y la robótica pueden servir como fuerzas para el bien”.
La llamada agencia de tecnología de la ONU se atribuyó el mérito de organizar «la primera conferencia de prensa de robots de la ONU», junto con «eventos con ejecutivos de la industria, funcionarios gubernamentales y líderes de opinión sobre inteligencia artificial y tecnología».
Existe la necesidad de una alerta en todo el sistema de la ONU que proporcione pautas para las interacciones con los gigantes tecnológicos y establezca acuerdos de colaboración con ellos. La tecnología de la IA se está desarrollando tan rápido que debe existir una conciencia sobre los posibles pasos en falso por parte de una u otra entidad de la ONU.
Incluso en su nivel actual de desarrollo, la IA se ha adelantado mucho a ChatGPT y la robótica impulsando las motivaciones de ganancias de los gigantes tecnológicos y eso es una gran preocupación para todas las personas bien intencionadas.
Estas entidades de la ONU han pasado por alto o incluso ignorado la parte de la Declaración sobre la conmemoración del septuagésimo quinto aniversario de las Naciones Unidas adoptada como resolución 75/1 por la Asamblea General de la ONU el 21 de septiembre de 2021 que alertaba que “…Cuando indebida o maliciosamente utilizados, pueden alimentar divisiones dentro y entre países, aumentar la inseguridad, socavar los derechos humanos y exacerbar la desigualdad”. Estas palabras de advertencia deben ser cumplidas plenamente por todos con suma seriedad.
“Nuestra Agenda Común” de Naciones Unidas se refiere a la IA
El secretario general de la ONU, António Guterres, en su informe titulado Nuestra Agenda Común (OCA, en inglés) emitido en septiembre de 2021 promete “trabajar con los Estados Miembros para establecer una Plataforma de Emergencia para responder a crisis globales complejas.
La plataforma no sería un nuevo organismo o institución permanente. Se activaría automáticamente en crisis de suficiente escala y magnitud, independientemente del tipo o naturaleza de la crisis involucrada”.
Sin duda, la IA es una de esas «crisis globales complejas» y ya es hora de que el Secretario General comparta formalmente su pensamiento sobre cómo planea abordar el desafío.
Será demasiado tarde para la Cumbre del Futuro convocada por el secretario general en septiembre de 2024 para discutir un régimen regulatorio global para la IA bajo la autoridad de la ONU. En ese período de tiempo, la tecnología de la IA se manifestaría de una manera que no sería posible una gobernanza global.
Fuera de la lámpara
El genio de la IA se escapó de la lámpara: la ONU debe garantizar que el genio de la IA sirva a los mejores intereses de la humanidad y de nuestro planeta.
El impacto de la IA es tan amplio y tan general que es relevante y pertinente para todas las áreas cubiertas en OCA. Depende de nosotros que el Secretario General presente sus propias recomendaciones sobre lo que se debe hacer sin esperar la Cumbre del Futuro del próximo año.
Nuestro futuro afectado por la IA debe abordarse AHORA. La IA se está extendiendo a una velocidad y propagación inconcebibles. El secretario general, como líder mundial al frente de las Naciones Unidas, no debe restar importancia a la gravedad del desafío. Tiene que poner la pelota en marcha sin esperar un consenso negociado entre los Estados miembros.
La ONU debe regular la IA y asegurar su gobernanza global efectiva y eficiente
Las propuestas clave identificadas por OCA en sus 12 compromisos incluyen «Promover la regulación de la inteligencia artificial» para «garantizar que esto esté alineado con los valores globales compartidos».
En OCA, el secretario general ha afirmado que “Nuestro éxito en la búsqueda de soluciones a los problemas interrelacionados que enfrentamos depende de nuestra capacidad para anticipar, prevenir y prepararnos para los grandes riesgos que se avecinan.
«Esto coloca una agenda de prevención revitalizada, integral y global al frente y al centro de todo lo que hacemos…. Donde no se proveen bienes públicos globales, tenemos su opuesto: ‘males’ públicos globales en forma de riesgos y amenazas graves para el bienestar humano.
«Estos riesgos ahora son cada vez más globales y tienen un mayor impacto potencial. Algunos son incluso existenciales…. Estar preparado para prevenir y responder a estos riesgos es un contrapunto esencial para gestionar mejor el patrimonio mundial y los bienes públicos globales”.
La comunidad mundial debería sentirse consolada sabiendo que el liderazgo de las Naciones Unidas ya sabe bien qué pasos se deben tomar en este momento.
El embajador Anwarul K. Chowdhury es ex secretario general adjunto y alto representante de las Naciones Unidas, además de fundador del Movimiento Global para la Cultura de Paz.
T: MLM / ED: EG
