GINEBRA – El desarrollo acelerado de la inteligencia artificial (IA) pone en riesgo todos los derechos humanos, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad, advirtió este lunes 14 el alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk.
Turk señaló que “los fallos en los sistemas de IA con capacidad de gestión -y mucho más en aquellos diseñados deliberadamente para ello- podrían paralizar servicios esenciales, fragmentar las comunicaciones, desestabilizar infraestructuras críticas y socavar la esencia misma de las instituciones democráticas”.
Afirmó que “poblaciones enteras podrían quedar aisladas del agua potable, la calefacción y los servicios financieros, y la IA con capacidad de gestión ya está acelerando el ritmo y el alcance de la guerra y erosionando las salvaguardias que nos protegen del lanzamiento de armas de destrucción masiva”, aseveró.
“En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, resumió.
El responsable de derechos humanos en la ONU expuso sus puntos de vista en una carta abierta dirigida al cuarto Foro Mundial sobre Inteligencia Artificial, reunido este lunes en Riad por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).
Según Türk, “nos encontramos al borde de un cambio irreversible que nos afectará no solo a nosotros, sino también a las generaciones venideras”, y los Estados y las empresas deben movilizarse con urgencia en foros multilaterales, para gobernar la IA sobre la base del derecho internacional y los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, abundó.,
La declaración de Türk se suma a recientes y crecientes advertencias acerca de los riesgos que el desarrollo descontrolado de la IA supone para la humanidad.
El magnate de empresas de vanguardia Elon Musk, o responsables de corporaciones de IA como Dario Amodei de Anthropic o Sam Altman de OpenAI, han reclamado frenar deliberadamente el ritmo de desarrollo de los modelos de IA más avanzados frente a riesgos como la pérdida de control sobre los sistemas.
Geoffrey Hinton, premio Nobel de Física en 2004 y quien renunció a su cargo de vicepresidente en la corporación Google, dijo a ABC Radio de Australia que “asusta” la previsión de expertos, de que en una década surgirán sistemas que superen la inteligencia humana.
“Nadie sabe si dichos sistemas podrán mantenerse bajo control, y hasta que se resuelva esa cuestión, sería una insensatez construirlos”, manifestó Hinton.
La semana pasada el investigador Jacob Coxon, de 27 años, renunció a su trabajo en Anthropic tras sostener que esa empresa y OpenAI “están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas.”
“No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y este progreso no se detiene”, advirtió Coxon.
Türk expuso que las advertencias no se limitan a las posibles consecuencias de la IA en el futuro, pues algunos de los daños que describe ya son observables.
“Los perjuicios relacionados con la IA no son hipotéticos: ya están ocurriendo a plena luz del día”, recalcó.
La automatización de servicios esenciales a expensas de las poblaciones marginadas, la explotación masiva de datos personales, las tecnologías de vigilancia y las campañas de desinformación son prácticas que su oficina considera amenazas a las libertades individuales, la cohesión social y las instituciones democráticas.
Insistió en que las empresas que desarrollan estos sistemas tienen tanto los medios como la responsabilidad de actuar. Pero no pueden, por sí solas, establecer los límites a las tecnologías, de modo que los gobiernos deben imponerles obligaciones y exigirles responsabilidades por sus fallos.
Solicita, en particular, una verificación independiente de las capacidades de los agentes de IA, llevada a cabo por expertos con las competencias técnicas necesarias y acceso a los modelos, su documentación y sus entornos de prueba.
Asimismo, pide a las empresas que evalúen continuamente el impacto de sus productos en los derechos humanos.
A-E/HM
