NACIONES UNIDAS – Hace unas semanas celebramos el Día de las Niñas en las Tecnologías de Información y la Comunicación (TIC) y vale preguntarse cómo podemos seguir moviendo la aguja de la igualdad digital para que más mujeres de las 259 millones que hoy están desconectadas puedan conectarse y convertirse en creadoras y no solo beneficiarias en la economía digital.
Las tecnologías digitales han impregnado prácticamente todos los aspectos esenciales de nuestras vidas. Desde las noticias que escuchamos a primera hora de la mañana, hasta los deberes escolares y la conexión con nuestros amigos y familiares.
Solo unos días después de su lanzamiento, ChatGPT tenía más de un millón de visitantes y ahora atrae a cerca de 100 millones de usuarios mensuales.
Hace unas semanas, un grupo de líderes de la industria escribió una carta abierta para detener temporalmente el desarrollo de la IA durante al menos seis meses. Argumentan que las tecnologías de inteligencia artificial (IA) deben desplegarse bajo marcos reguladores estrictos, ser públicas y verificables, al igual que se desarrollan y lanzan al mercado los medicamentos y las vacunas.
No cabe duda de que la IA y el aprendizaje automático son un arma de doble filo.
Por un lado, estas tecnologías pueden ayudar a combatir el cambio climático.
Agronovate, en Nigeria, diseñó un dispositivo de almacenamiento inteligente que mantiene frescas frutas y verduras. En Marruecos, Atlan Space utiliza IA para pilotar drones que recogen datos y realizan misiones de vigilancia para seguir la pista de delitos medioambientales. Mientras, en la región del Sahel, los pastores utilizan la IA y los datos por satélite para alimentar al ganado con un sistema de vigilancia pastoral.
La IA también está luchando contra el retroceso de la igualdad de género.
El Programa de las Naciones Unidas para el Desarrollo (PNUD) está utilizando algoritmos basados en IA en Uruguay, Filipinas, Uganda y Colombia, para rastrear los medios de comunicación social, vigilar el discurso de odio de género y enviar señales a los gobiernos y organizaciones de la sociedad civil.
Se trata de proteger a las defensoras de los derechos de la mujer, a las mujeres políticas y a las periodistas, que cada vez sufren más ciberacoso y otras formas de violencia digital, como el doxing (revelación de datos personales para hacer daño), el troleo (mensaje ofensivo) y el flameo (ataque verbal en línea),
Pero la IA también tiene un lado oscuro que puede agravar las desigualdades y causar daños, sobre todo a las mujeres. Las mujeres están cada vez más expuestas y atrapadas por la IA que produce falsificaciones profundas o imágenes digitales y audio que son artificialmente alterados o manipulados por la IA y el aprendizaje profundo para hacer que alguien haga o diga algo que en realidad no hizo o dijo.
Las consecuencias pueden ser devastadoras. A principios de marzo, cientos de anuncios de deepfake (imágenes falsas y maliciosas) sexuales inundaron Facebook e Instagram utilizando el rostro de Emma Watson, actriz británica y defensora de los derechos de la mujer.
Es innegable que los sesgos de género son reproducidos por las tecnologías de IA cuyos algoritmos son entrenados por programadores sesgados y moldeados por normas sociales discriminatorias, y esto puede tener resultados adversos, por ejemplo, cuando las mujeres solicitan créditos que se conceden con aplicaciones de puntuación de créditos basadas en IA, o cuando solicitan un puesto de trabajo que suelen desempeñar los hombres.
Puede leer aquí la versión en inglés de este artículo.
Para bien o para mal, la IA marcará el futuro de nuestro mundo y no solo tenemos que aprovechar su poder, sino también asegurarnos de proteger a los más rezagados de posibles efectos adversos.
He aquí algunas pistas para lograrlo.
En primer lugar, necesitamos marcos legislativos y reguladores sólidos capaces de exigir responsabilidades a las grandes empresas tecnológicas.
En segundo lugar, las empresas tecnológicas deben comprometerse aún más a abordar la incitación al odio y la violencia de género y a mantener sus plataformas seguras para todos. En todo el mundo, 38 % de las mujeres -es decir, casi una de cada cuatro- han sufrido violencia en línea. Las estadísticas son terribles y las grandes empresas tecnológicas, como Google, Amazon, Apple, Meta y Microsoft, deben ser más responsables y rendir cuentas.
En tercer lugar, el diseño de los productos digitales, incluidos los algoritmos basados en IA y la forma en que se entrenan, debe ser igualitario desde el punto de vista del género y guiarse por los principios de la ética digital. Las tecnologías deben diseñarse con los usuarios y abordar la privacidad y la seguridad, garantizando que todas las personas, pero especialmente las mujeres y las poblaciones marginadas por motivos de género, estén protegidas en los espacios digitales.
Y en cuarto lugar, necesitamos más diversidad en la industria tecnológica. Las grandes empresas tecnológicas están avanzando lenta pero constantemente en el aumento de la participación de las mujeres, no solo en la escala profesional, sino también en las funciones técnicas. Las grandes empresas tecnológicas mundiales, en promedio, alcanzaron casi el 33% de representación femenina general en sus plantillas y 25% en puestos técnicos en 2022. Aún queda mucho camino por recorrer.
La innovación digital puede cambiar realmente las reglas del juego en nuestro mundo moderno y hay mucho potencial y talento femenino ahí fuera para darle la vuelta al guión. Las jóvenes innovadoras ya están ayudando a redibujar el futuro de la IA con soluciones que abordan los problemas más acuciantes de la actualidad.
El PNUD cree firmemente que, ahora más que nunca, las fundadoras de empresas tecnológicas necesitan apoyo personalizado, programas de aceleración específicos y un mayor acceso al capital. Por eso apoyamos a miles de mujeres de todo el mundo con programas emblemáticos como el Programa de Mujeres Árabes Innovadoras o el Programa BOOST de Mujeres Innovadoras en Europa y Asia Central.
Vea algunas de las historias más asombrosas de jóvenes mujeres innovadoras apoyadas por el PNUD que están liderando el campo de la IA para el bien.
Samar Hamdy (Egipto), cofundadora de DevisionX y desarrollador de Tuba. ai, una plataforma para etiquetar, entrenar datos y desplegar aplicaciones basadas en IA con cero código; Mariam Torosyan (Armenia), la directora ejecutiva y fundadora de SafeYou, una aplicación móvil diseñada para reducir la violencia de género mediante funciones de seguridad y comunidad.
También las de Sara Saeed (Pakistán) , directora general y cofundadora de Sehat Kahani, una plataforma de telesalud que conecta una red de profesionales de la salud predominantemente mujeres con los pacientes mediante una aplicación de telemedicina que permite la consulta médica en tiempo real e instantánea por chat/audio/vídeo, el diagnóstico electrónico, la farmacia electrónica y el asesoramiento sanitario; o Salua García (Colombia), cofundadora de Symplifica, un emprendimiento tecnológico con una aplicación móvil que facilita la formalización de las trabajadoras domésticas.
Sigamos apoyando a las chicas en las TIC, esas jóvenes innovadoras que están redibujando el futuro de la IA y acercando la igualdad digital.
Diana Gutiérrez es gerente del Programa Mundial del PNUD sobre Empresas para la Igualdad de Género y Líder Global de Género y Digital.
