Nueva política nacional de Inteligencia Artificial

Además de los Juegos Panamericanos, Chile será este mes sede de un gran encuentro internacional enfocado en el uso ético de la IA. La siguiente columna para CIPER describe los objetivos de este foro y su cruce con temas fundamentales referidos a transparencia y derecho a la información.

De manera similar a lo que está sucediendo en otras partes del mundo, los usos éticos de la Inteligencia Artificial (IA) conciernen ya no sólo a las empresas tecnológicas a cargo de sus avances y posibilidades, sino también a las autoridades políticas que deben comprenderlas y estudiarlas como herramientas de impacto en la calidad de vida de las personas, el ejercicio de la ciudadanía y el mantenimiento de la democracia. 

Uno de estos espacios de discusión será el Foro Sobre la Ética de la Inteligencia Artificial en América Latina y el Caribe (IALAC),  que se desarrollará en Chile los días 23 y 24 de octubre. El encuentro tiene como objetivo establecer un consejo regional que implemente la recomendación de Ética de la IA adoptada hace dos años por los 193 Estados miembros de Unesco, y se erige como un espacio político y técnico que aborde el tema desde un enfoque ético, integrador y protector de derechos, considerando las prioridades específicas de la región. 

Chile no sólo será sede del encuentro sino que se consagrará como el primer país latinoamericano en evaluar su estado actual respecto del uso de IA usando la Metodología de Evaluación de Preparación (RAM, por sus siglas en inglés), una herramienta de diagnóstico diseñada por Unesco para ayudar a los gobiernos en el despliegue de la IA. Como parte del proceso, se ha desarrollado en nuestro país una serie de talleres participativos para el sector público y privado, la academia y sociedad civil, cuyos resultados serán presentados en el foro de octubre con el objetivo de actualizar la Política Nacional de Inteligencia Artificial (2021). La coordinación fundamental de todo esto la está llevando el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación.

De manera más específica, el encuentro busca entregar lineamientos sobre cómo lidiar con la IA, teniendo en cuenta tanto los riesgos como las oportunidades que implica su rápido avance. Si bien hay numerosos ámbitos en los que la IA  crea mejoras y eficiencias, su uso plantea nuevos desafíos legales y regulatorios, tales como la falta de certeza respecto a las fuentes utilizadas, la incertidumbre en protección de datos personales, la existencia de sesgos en los algoritmos que generan contenido, y ciertos problemas de seguridad. Además, su rápida expansión también ha simplificado enormemente la creación y distribución de contenido falso (y sumamente verosímil), provocando un riesgo significativo para la democracia y la confianza en las instituciones; sobre todo, cuando, como señala la edición de 2023 del Reporte de Libertad de Prensa de Reporteros Sin Fronteras (implementada en 180 países), se reconoce la participación sistemática de actores políticos locales en campañas de desinformación masiva o propaganda a través del mundo digital. La llamada «industria del engaño» que se articula en los medios sociales y digitales ha resultado en una difuminación de la línea entre la verdad y la falsedad, los hechos y las creaciones artificiales, poniendo en riesgo el derecho de las personas a informarse veraz y oportunamente.

Una actualización de la Política Nacional de Inteligencia Artificial debe considerar el establecimiento de mecanismos de supervisión adecuados. Se cuentan entre ellos: auditabilidad, trazabilidad y explicabilidad para evaluar los algoritmos, datos y procesos de concepción;  la evaluación continua de la calidad de los datos de entrenamiento para los sistemas de IA; el establecimiento de salvaguardias adecuadas para proteger el derecho a la privacidad; la promoción de la alfabetización mediática e informacional, así como el pensamiento crítico y creativo; la utilización de los sistemas de IA para mejorar el acceso a la información y el conocimiento con la garantía de que sus actores respeten y promuevan la libertad de expresión; así como el acceso a la información en lo que respecta a la generación, moderación y conservación automáticas de contenidos. Como profesionales del movimiento Wikimedia (detrás de proyectos digitales de acceso abierto al conocimiento, tales como Wikipedia), estos elementos nos parecen esenciales en la creación de una política nacional que efectivamente promueva y asegure el derecho de todas las personas a acceder a información verificable y de calidad. 

El próximo 23 y 24 de octubre Chile tendrá la oportunidad de liderar esta conversación, en un foro que se alza como una instancia urgente debido al avance de la tecnología en nuestra región. Instamos a las autoridades, representantes locales y sociedad civil de Chile y América Latina que se encontrarán en ese espacio a poner al centro de la discusión la protección de los valores democráticos, los derechos humanos y el imperativo ético de una tecnología al servicio de la creación de un conocimiento verificable, más justo, inclusivo y participativo.