MÉXICO – Un hospital público de Ciudad de México utiliza la inteligencia artificial (IA) en servicios de radiología diseñados para obtener diagnósticos más precisos que van desde la identificación de lesiones o fracturas mediante rayos X hasta el seguimiento de un embarazo, e incluso identificar enfermedades antes indetectables para el ojo humano.
Además, investigadores del Instituto Mexicano del Seguro Social desarrollaron una herramienta de inteligencia artificial, que utiliza datos clínicos de los pacientes con melanoma para predecir si el cáncer de piel responderá a la inmunoterapia.
Estos ejemplos demuestran el uso creciente de servicios públicos que recurren a herramientas tecnológicas basadas en la IA. Como en el resto de América Latina, los países han introducido sistemas basados en algoritmos sin regulación apropiada, lo que suscita dudas sobre la aplicación, diseño y estándares utilizados.
El despegue regional adquiere la velocidad de un disco duro recién comprado, mientras los países tratan de avanzar en el paso regulatorio. El lema parece ser “use ahora y pregunte mañana”.
“Las leyes describen principios generales sobre lo que la IA debería ser o no debería ser, basados en un diseño de riesgos, dependiendo de la peligrosidad que potencialmente tenga un tipo de sistema. Las estrategias apuestan por infraestructura, desarrollo de capacidades, interacción entre el sector público y privado”: Franco Giandana.
Franco Giandana, analista de políticas de la no gubernamental Access Now, distingue en América Latina entre leyes y planes nacionales de IA, cuya diferencia radica en enfoques y objetivos.
“Las leyes describen principios generales sobre lo que la IA debería ser o no debería ser, basados en un diseño de riesgos, dependiendo de la peligrosidad que potencialmente tenga un tipo de sistema”, describió a IPS desde Buenos Aires.
En cambio, “las estrategias apuestan por infraestructura, desarrollo de capacidades, interacción entre el sector público y privado”, dijo.
“En América Latina, tenemos un atraso en materia de infraestructura y de capacidades para el desarrollo autónomo o regional de IA. Intentan abordar ese problema”, explicó el especialista en IA que por años ha integrado el Ecosistema de Gobernanza de Internet.
La IA representa la capacidad de las máquinas para imitar las capacidades cognitivas humanas como el aprendizaje, el razonamiento y la resolución de problemas, mediante técnicas estadísticas y de aprendizaje automático para reconocer patrones en los conjuntos de datos.
Claudia del Pozo, fundadora y directora del no gubernamental Eon Institute, especializado en políticas públicas sobre tecnologías emergentes, aprecia en América Latina un panorama complicado plagado de retos regulatorios.
“Hay poca capacidad gubernamental por diseñar estas propuestas de una forma que realmente proteja los derechos. Hay poco entendimiento técnico-legal y los países que sí han aplicado regulaciones, les está costando la aplicación. Nos quedamos con leyes bonitas en el papel, pero el problema es la aplicación”, aseguró a IPS en Ciudad de México.
La experta prepara un reporte sobre la influencia de la Unión Europea (UE) y Estados Unidos en las regulaciones y marcos de gobernanza de la IA en la región.
Algoritmos generalizados
América Latina y el Caribe utilizan ya los algoritmos para una serie de tareas públicas, aunque aún con escasa normativa.
El reporte de 2024 “Superar las trampas del desarrollo de América Latina y el Caribe en la era digital. El potencial transformador de las tecnologías digitales y la inteligencia artificial”, de la Comisión Económica para América Latina y el Caribe (Cepal), enumeró 272 sistemas de IA en el sector público en 20 países de la región.
El organismo de las Naciones Unidas identificó 76 (casi un tercio del total) en entidades vinculadas a asuntos económicos; 66 (una cuarta parte), a servicios públicos generales, y 50 (18 %), a orden público y seguridad. Halló también concentración de prácticas en pocos países, como Colombia (64), Chile (45), Brasil (33), Argentina (24), México (23) y Uruguay (21).
La mayoría sistemas consisten en asistentes digitales (chatbots), reconocimiento de objetos y facial.
“Hay poca capacidad gubernamental por diseñar estas propuestas de una forma que realmente proteja los derechos. Hay poco entendimiento técnico-legal y los países que sí han aplicado regulaciones, les está costando la aplicación. Nos quedamos con leyes bonitas en el papel, pero el problema es la aplicación”: Claudia del Pozo.
Los gobiernos latinoamericanos aspiran al acceso asequible a las nuevas herramientas tecnológicas para promover mejores condiciones de vida. Pese al optimismo que podría conllevar el auge regulatorio, los informes advierten sobre la falta de evidencia respecto de sus impactos sociales, debido al estado inicial de estos mecanismos, la opacidad de los sistemas y la dificultad metodológica de medir sus efectos.
Una de las mayores preocupaciones de Giandana recae en la automatización de la vigilancia pública, con las prácticas observadas al respecto en México, Ecuador y Brasil.
“Esa delegación es preocupante. Allí escalan los riesgos para los derechos fundamentales y es donde la ciudadanía tiene que estar más alerta y las organizaciones civiles, más abocadas. Hay una falta de entendimiento de muchos oficiales sobre lo que la IA puede o no puede hacer”, advirtió.
El experto plantea interrogantes sobre cómo se desarrollan los algoritmos, quiénes lo hacen, cómo mitigan riesgos, de dónde provienen los datos, qué diversidad representan estos datos, cómo generar su gobernanza y cuánto respetan la privacidad.
Pero esas incógnitas brotan en un terreno aún vacío y donde poco a poco florecen sistemas informáticos envueltos en la opacidad y sin mayor escrutinio público.
México está rezagado en el tema, en comparación con naciones como Brasil, Chile o Costa Rica, al carecer de legislación y de estrategia nacional. Existen al menos 14 iniciativas de ley sobre regulación de la IA.
Ello a pesar de que fue de las primeras naciones latinoamericanas en tener una estrategia nacional, aprobada en 2018. Pero el gobierno del entonces presidente Andrés Manuel López Obrador (2018-2024) relegó su desarrollo.
El Repositorio de IA del público Centro de Investigación y Docencia Económicas halló 114 sistemas públicos en el país y cuya mayoría son chatbots.
Tras solicitudes de información pública, IPS descubrió la utilización algorítmica en al menos cuatro dependencias relacionadas con electricidad, petróleo, vivienda y agricultura.
El 29 de enero, la Secretaría (ministerio) de Ciencias, Humanidades, esbozó sus 10 principios éticos para el uso y desarrollo de la IA. Uno de ellos resulta fundamental, pues se refiere a que toda decisión apoyada por IA debe estar sustentada en marcos institucionales claros, lo que hoy no sucede, y como si los algoritmos pudieran tener por sí mismos posturas éticas.
Uruguay, una de las naciones más avanzadas en el entorno digital, actualizó su estrategia nacional en 2024, aunque aún carece de una ley al respecto.
El país ejecuta el Programa Uruguay Innova, diseñado para coordinar el ecosistema nacional de innovación. Uno de sus objetivos centrales consiste en el impulso a la creación de una “plataforma de inteligencia artificial y datos para la gestión pública”, con el propósito de optimizar la eficiencia del Estado.
Además, Uruguay es el único país de la región en rubricar en 2025 el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, el primer tratado internacional vinculante destinado a garantizar que el uso de sistemas de IA sea coherente con los derechos humanos, la democracia y el Estado de derecho.
Firmado ya por 18 países, está abierto a la adhesión de países externos al bloque, como Argentina, Costa Rica, México y Perú, observadores del proceso.
Mientras, Brasil ejecuta el algoritmo a toda velocidad, con pocos frenos. Mientras ya cuenta con el Plan de Inteligencia Artificial 2024-2028, el país prevé fusionar una ley que plasma las normas básicas, las clasificaciones de riesgo y las obligaciones de derechos de autor, con otra que proporciona el marco institucional al crear el Sistema Nacional de IA.
Para garantizar el uso de la tecnología con ética, transparencia y gobernanza, el Consejo Nacional de Justicia brasileño publicó en 2020 una resolución, modificada el año pasado, que trata sobre la producción y uso de la IA en el Poder Judicial.
Sus directrices abordan la no discriminación, publicidad y transparencia; gobernanza y calidad; seguridad; control por el usuario; investigación, desarrollo y aplicación de servicios de inteligencia artificial; responsabilidad y rendición de cuentas.
Chile, por su parte, actualizó su estrategia nacional en 2024, en medio de una introducción acelerada de algoritmos en las políticas públicas.
El Repositorio Algoritmos Públicos 2025, elaborado por la Escuela de Gobierno de la privada Universidad Adolfo Ibáñez, identificó 117 algoritmos públicos, más del doble de los 50 hallados en 2021, en un país con al menos dos proyectos de ley.
En salud funcionan 29 sistemas, seguida por orden público y seguridad (23) y educación (6). En salud pública, se incluyen servicios hospitalarios y para pacientes externos.
En tanto, Argentina fue uno de los pioneros en tener un plan nacional de IA, desde 2019.
Por ejemplo, la Corte Suprema de Justicia de la Nación implementó una nueva forma de visualizar las sentencias de los tribunales federales y nacionales publicadas en su sitio con IA.
Aún en su infancia
Mas allá de esos avances, evaluaciones recientes muestran que la región ha emprendido el camino robótico sin la preparación necesaria.
Ya en 2024, el Fondo Monetario Internacional alertaba de rezagos en infraestructura digital, recursos humanos y políticas laborales; innovación e integración económica y regulación en el subcontinente.
La evolución del Índice Latinoamericano de Inteligencia Artificial, elaborado por la Cepal y el no gubernamental Centro Nacional de Inteligencia Artificial de Chile. también refleja el paso atropellado de los robots.
Al menos nueve países cuentan con estrategias nacionales de IA, pero solo una minoría ha avanzado en su actualización, considera un presupuesto para su ejecución o establece algún plan de acción para asegurar su aplicación efectiva.
En materia de gobernanza de IA, Brasil, Chile y Costa Rica están a la cabeza y México resulta el segundo peor evaluado, solo por delante de Panamá. La región cojea en factores habilitantes e investigación y desarrollo, con promedios inferiores a 50 puntos sobre 100.
También le pueden interesar:
Chile busca convertirse en polo latinoamericano de almacenamiento y transmisión de datos
Cuba promueve la creación de sistemas de inteligencia artificial propios
Brillos y sombras de la IA en la agricultura de América Latina
Inteligencia artificial: temores y entusiasmo en América Latina
Inteligencia Artificial en América Latina, entre riesgos y promesas
La especialista Del Pozo resaltó que el panorama va a depender de la voluntad política para regular los sistemas, la priorización del tema, el impulso económico de la IA y el manejo de riesgos para las personas.
“Ahora hay más entendimiento de la urgencia. En cualquier estrategia (pública), va a saltar el tema. No podemos seguirlo ignorando. Usamos sistemas que no entendemos, porque son cajas negras, y los aplicamos. Hay un dilema de rendición de cuentas. La falta de regulación incide en manejo de riesgos para la población”, señaló.
Esto último se debe, prosiguió, a que muchas empresas optan por los modelos de las grandes corporaciones tecnológicas, en vez de desarrollar los propios y más vinculados al contexto local, y por ello con menor riesgo de discriminación, para que la responsabilidad recaiga en las primeras.
ED: EG
