Por Fabrizio Scrollini, Presidente del Directorio de ILDA
A principio de mes se lanzó la segunda edición del Índice Global sobre IA Responsable (GIRAI), que analiza 135 países y en el que participa ILDA como socio regional. El 95% de los gobiernos declara algún compromiso con la inteligencia artificial responsable. Solo el 55% de los marcos adoptados muestra evidencia de implementación, y en el Sur Global esa proporción baja al 45%. Mucha declaración y pobre implementación, por el momento.
Esto no es una sorpresa. Trabajé en datos, tecnología cívica y gobernanza en la región por mucho tiempo. En el 2020, produje desde ILDA un pequeño policy brief sobre machine learning y datos, llamando a automatizar con cautela, marcando la tensión existente entre políticas de datos, modelos de IA y valor público. Los nuevos LLMs han cambiado muchas cosas, por los debates centrales siguen siendo los mismos, aunque los riesgos son cada vez más altos.
En este breve artículo voy a señalar tres aspectos de la IA en América Latina que pienso debemos tener en cuenta, a la luz de la información que trae el GIRAI.
La posición de partida
América Latina no tiene modelos de frontera propios. Hay trabajo valioso de adaptación de modelos abiertos, como el del CENIA en Chile, pero la frontera, medida en capital y poder de cómputo, está en otro lado. Esto no nos condena a ser lo que Luca Belli llama una colonia digital, pero tal vez nuestro foco no esté en la capa de los modelos sino en la de los datos.
América Latina lleva al menos dos décadas de apertura de datos públicos y marcos de protección de datos personales. Carolina Aguerre ha documentado cómo las estrategias nacionales de IA de la región se apoyan en esos marcos, y cómo pasaron de una fase aspiracional a una normativa que hoy se expresa en proyectos de ley en más de media docena de países. Sobre esa base se montan buena parte de las iniciativas locales de IA. Pero buena parte de los datos de la región se procesan en nubes de tres empresas extranjeras, bajo jurisdicciones ajenas, con fiscalización local limitada. La autonomía sobre los datos es la que tenemos disponible, pero por ahora es una posibilidad, no un hecho consumado.
Por otro lado, tenemos preguntas incómodas. Veinte años de apertura hoy alimentan modelos cuyo valor se captura en otra parte. Cuando los usuarios eran periodistas, sociedad civil y el propio Estado, la ecuación cerraba. Ya no. Stefaan Verhulst, desde el GovLab, advierte sobre un invierno de datos: la demanda para entrenar sistemas se expande mientras el acceso a datos de calidad para el interés público se contrae. Parte de esto tiene que ver con incentivos legales e institucionales que no hemos establecido adecuadamente.
En África ya ensayaron una respuesta: la licencia NOODL establece condiciones diferenciadas según quién accede al dato y desde dónde. La premisa incomoda pero es difícil de refutar: tratar igual a un investigador en Nairobi y a una multinacional no es equidad, es extracción. La OKFN y el CNRS empujan en la misma dirección con Sustainable Data Commons. América Latina está precisando esta conversació
¿La Democracia Automatizada?
La IA ya entró en las decisiones del Estado: subsidios, salud, seguridad, empleo. La pregunta no es si integrar sino bajo qué condiciones, y esas condiciones deberían salir de los valores democráticos que la región defendió con esfuerzo en otros terrenos, y hoy luchan por sostenerse. Es claro que este tipo de esfuerzo no puede hacerse en soledad, debido a la compleja red de actores sumamente concentrados. El nivel de gravedad ha llevado al obispo de Roma a emitir la encíclica Magnifica Humanitas abogando por incluir dentro de los bienes de destino universal los algoritmos y datos, haciendo notar que ya no son solo los Estados quienes pueden regular datos y decisiones, sino las grandes plataformas.Los gobiernos democráticos están obligados a explicar cómo deciden. Delegar decisiones a sistemas que nadie puede explicar no puede resolver ninguna estrategia nacional.
La desigualdad estructural de siempre.
Los pueblos indígenas, el mundo rural y el trabajo informal, que es cerca de la mitad de la economía real de la región, casi no existen en los datos con los que se entrenan estos sistemas. Lo que no está en los datos difícilmente esté en las decisiones.La exclusión opera también por otro lado, menos evidente. Eduardo Levy ha argumentado desde el BID que la IA vuelve abundante el conocimiento codificado y escaso el tácito, ese que solo se adquiere haciendo. Los trabajos de entrada donde los jóvenes aprenden el oficio son los más expuestos a la automatización. Si se comprimen demasiado rápido, perdemos algo más que empleos: perdemos el mecanismo por el cual una generación le transmite oficio a la siguiente.
Una agenda posible para América Latina.
Necesitamos entender cómo los marcos de datos públicos y personales habilitan o bloquean la creación de valor con IA. Documentar el uso real de sistemas algorítmicos en el Estado, con nombre y apellido: qué sistemas, en qué decisiones, con qué resultados, algo que Juan David Gutiérrez y el GobLab vienen avanzando en este sentido en Colombia y Chile.. Y estudiar los impactos sobre las poblaciones ausentes de los datos, con metodologías que no reproduzcan la exclusión que pretenden documentar.Lamentablemente, las estrategias de IA de la región rara vez traen recursos asignados, equipos y plazos. Ese es el primer dato a mirar cuando un gobierno anuncia una política: cuánto pone y quién la ejecuta.
La compra pública es la herramienta más subestimada del repertorio. El Estado es el mayor comprador de tecnología en casi todos los países, y si exige transparencia, auditabilidad y evaluación de impacto en sus adquisiciones, el efecto regulatorio es inmediato y no depende del parlamento. Brasil empezó por ahí. Los límites también son claros: alcanza al Estado y no al mercado privado, donde ocurre buena parte del daño algorítmico, del scoring crediticio a las plataformas de empleo. Y arrastra el riesgo del cumplimiento del formulario, con el proveedor entregando el papel de auditoría y la agencia sin capacidad de verificarlo.
Los órganos de control necesitan competencias claras, capacidad técnica y potestad de sancionar. Lo que pasa cuando eso no se cumple ya lo aprendimos con las instituciones que fiscalizan la agenda de datos abiertos. . Y como ningún país tiene por sí solo peso para negociar con las grandes empresas de IA, la cooperación regional deja de ser un gesto simpático y pasa a ser un requisito
Queda la inclusión, que requiere financiar infraestructura de datos gobernada por las propias comunidades, empezando por lenguas y territorios indígenas. Es una decisión de inversión que gobiernos y donantes pueden tomar hoy, y no se resuelve solo con talleres. De igual forma, una visión transversal de los temas de género y niñez debería ser adoptada por parte de todos los actores tomando decisiones.
La región no va a ganar la carrera de los grandes modelos, pero puede gobernar los datos sobre los que estos modelos operan. Y puede establecer, en un contexto complejo, un ejemplo de uso de IA ética para el mundo. La ventana de oportunidad para esas decisiones, no estará abierta por siempre.