Transparencia cuando la función pública incorpora inteligencia artificial: ¿es suficiente con una Ley en Chile?. (RI §428356)  

Transparency when public administration it incorporates artificial intelligence: is a law enough in Chile? - Lorayne Finol Romero

La transparencia es un principio fundamental tanto para fortalecer la confianza ciudadana y salvaguardar el funcionamiento democrático, como para la integración responsable de la inteligencia artificial (IA) en la administración del Estado. A partir de esta premisa, en el artículo se examina el proyecto de ley chileno sobre regulación de la IA para dilucidar qué tipo de mecanismos de transparencia exige a los algoritmos del sector público. Los resultados muestran que el proyecto de ley no recoge la creciente demanda mundial por una mayor regulación de las normas aplicables a la IA para dar fin a una era de autorregulación, y se argumenta que la transparencia de la IA cuando el Estado es el responsable requiere más que una ley, porque amerita adaptar el estatuto administrativo vigente al marco de la gobernanza de los algoritmos incorporados en la administración pública. Se concluye que sigue habiendo lagunas en cuanto a las obligaciones legales cuya materia regulada es la explicabilidad de y mayor responsabilidad de los algoritmos, la supervisión eficaz y exigencia de los mecanismos de control para corregir posibles sesgos o decisiones arbitrarias especialmente en sistemas de aprendizaje automático.

1. Introducción. 2. Conceptualización de la Transparencia Algorítmica. 2.1 Qué transparencia algorítmica es la requerida cuando el responsable de su aplicación es la administración del Estado. 2.2 Transparencia Algorítmica: Cuestiones doctrinales preliminares. 3 Marco Legal Para Garantizar Transparencia Algorítmica. 3.1. Comparación de estándares en el ámbito internacional. 3.1.1 En la Unión Europea (UE). 3.1.2 Consejo sobre Inteligencia Artificial de la OCDE. 3.1.3 UNESCO. 4 Principios Garantes de la Transparencia Algorítmica en la Administración del Estado. 4.1 Transparencia algorítmica del Estado adaptada al estatuto administrativo en Chile. 4.2 Desafíos de la transparencia exigible a los algoritmos del Estado en el proyecto de Ley de IA chileno. 5. Conclusiones. 6. Bibliografía.

Palabras clave: Transparencia algorítmica; inteligencia artificial; responsabilidad del Estado.;

Transparency is a fundamental principle both for strengthening citizen trust and safeguarding democratic functioning, as well as for the responsible integration of artificial intelligence (AI) in the administration of the State. Based on this premise, the article examines the Chilean draft law on AI regulation to elucidate what kind of transparency mechanisms it requires for public sector algorithms. The results show that the bill does not capture the growing global demand for greater regulation of the rules applicable to AI to end an era of self-regulation, and it is argued that AI transparency when the State is responsible requires more than a law, because it merits adapting the current administrative statute to the framework of governance of algorithms incorporated in public administration. It is concluded that there are still gaps in terms of legal obligations whose regulated matter is the explainability of and greater accountability of algorithms, effective supervision and requirement of control mechanisms to correct possible biases or arbitrary decisions especially in machine learning systems.

Keywords: Algorithms Transparency; artificial intelligence; public administration responsive.;