El régimen jurídico del uso de los sistemas de inteligencia artificial en el derecho público Francés. Fuentes, respuestas y debates. (RI §425988)
Regulation of artificial intelligence systems usage in French public law. Source, answers and discussions -
Francisco José Rodríguez Pontón
En Francia tiene lugar un debate muy intenso y rico sobre el uso de los sistemas de inteligencia artificial en el ámbito del Derecho Público. El legislador ha reaccionado en este contexto básicamente a través de dos pilares, la protección de datos personales y las relaciones entre la Administración y el ciudadano, inclinándose a respuestas basadas en la transparencia, la explicación (redevabilité) y el control humano (maîtrise). La jurisprudencia del Conseil Constitutionnel es también relevante, ya que, si bien en general se muestra deferente con el legislador, ha contribuido, también a través de reservas interpretativas, a enriquecer el régimen de garantías. El debate doctrinal, y también el propiciado por documentos de gran calado de ciertas instituciones, ayuda a anticipar situaciones, interpretar normas y plantear ángulos muertos, lagunas, mejoras y enfoques que constituyen una aportación relevante al necesario acervo jurídico común en este ámbito.
I. Introducción. Avances notables desde el punto de vista normativo; reflexión institucional sólida; persistencia de debates y preocupaciones. II. La respuesta normativa y jurisprudencial del Derecho público francés a la utilización de los SIA en el ejercicio del poder público. 1. Los pilares legislativos. 2. La relevancia de la aplicabilidad de los derechos fundamentales y de las normas superiores. 3. Presentación sistemática de las reglas fundamentales del ordenamiento jurídico francés para la utilización de los SIA en las decisiones administrativas. 3.1. Disposiciones limitativas y garantistas de carácter general contenidas en la legislación de protección de datos personales. 3.2. Referencia a una Decisión pionera del Consejo Constitucional que sitúa el valor garantista del contenido de la LIL, así como a una veterana jurisprudencia del Consejo de Estado. 3.3. La relevante Decisión del Consejo Constitucional acerca de la Ley francesa de protección de datos para la adaptación al Reglamento europeo de protección de datos. 3.4. Previsiones y restricciones específicas en relación con el recurso a la toma de decisiones automatizadas que afectan a datos personales en ciertos sectores. 3.5. El derecho del interesado a ser informado acerca de la lógica que sustenta un algoritmo utilizado como base de una decisión en el marco de la legislación de protección de datos personales. 3.6. Los códigos fuente son documentos comunicables, y por tanto son objeto posible del ejercicio del derecho de acceso por parte del ciudadano. 3.7. La Administración debe difundir en línea ciertos elementos relacionados con los rasgos de tratamientos algorítmicos utilizados en decisiones individuales. 3.8. Los destinatarios de decisiones individuales fundadas en un tratamiento algorítmico son titulares de un derecho a una información reforzada. 3.9. El reconocimiento de un derecho constitucional de acceso a los documentos administrativos. La relevancia de la Decisión nº 2020-834-QPC, de 3 de abril de 2020, del Conseil Constitutionnel (Union nationale des étudiants de France -UNEF-). 3.10. La garantía específica del recurso administrativo. 3.11. Ponderación del conjunto de garantías y análisis de proporcionalidad como método constante en la jurisprudencia del Conseil Constitutionnel. III. Elementos persistentes de debate. 1. Un debate animado en la sociedad francesa. 2. Un punto de partida: está cambiando la concepción del proceso de toma de decisiones administrativas. 3. La yuxtaposición resultante del doble pilar normativo. Entre defecto de manejabilidad y virtud de complementariedad. 4. La “explicabilidad” y la “redevabilité”, en el marco de la “lealtad”, como vectores principales de impulso en la respuesta jurídico-pública a la utilización de los SIA. 5. Dudas persistentes. Elementos críticos en la valoración de la suficiencia de las garantías legales existentes. 5.1. Introducción. 5.2. Zonas opacas, puntos ciegos, ángulos muertos. 5.3. En particular, el temor ante el problema de la “apariencia” de la intervención humana. 5.4. Márgenes de mejora de la regulación existente. 5.5. El problema de las potestades administrativas discrecionales: diversas facetas a considerar. 5.6. La potencialidad de algunos elementos derivados de principios generales y derechos fundamentales. 5.7. Más allá de las obligaciones legales de la LIL y del CRPA: necesidad de transparencia desde el diseño y necesidad de auditar y acompañar un elemento cuya evolución es imposible conocer a priori. IV. A modo de conclusión. la apelación persistente a la necesidad de garantizar la “maîtrise” humana de los SIA: una genuina constante semántica francesa.
In France, a very intense and rich debate is taking place on the use of artificial intelligence systems in the field of public law. In this context, the legislator has basically reacted on two axes: personal data protection and the public administration-citizen relationship, leaning towards answers based on transparency, explanation (redevabilité) and human supervision (maîtrise). The case law of the Conseil Constitutionnel is important as well, given that, while in general it is deferent to the legislator, it has contributed to enhancing the system of safeguards, also by means of interpretation. The scholar’s debate, as well as that encouraged by important documents of some institutions, helps to foresee scenarios, to interpret norms and to raise blind spots, loopholes, improvements, and new approaches that constitute a relevant contribution to the required common legal framework in this field.
I. Introduction. Remarkable normative progress; solid institutional reflection; persisting debates and concerns. II. The regulatory and case law response of French public law to the use of AIS in the exercise of public authority. 1. The legislative cornerstones. 2. The significance of the application of fundamental rights and norms of higher rank. 3. A systematic approach to the basic rules of the French legal system for the use of AIS in administrative decisions. 3.1. Restrictive and safeguarding norms in the legislation on the protection of personal data. 3.2. Mention of a pioneer ruling of the Constitutional Council, which highlights the safeguard value of the LIL, as well as a long-standing precedent of the Council of State. 3.3. An important ruling of the Constitutional Council on the French Data Protection Act for its adaptation to the General Data Protection Regulation. 3.4. Specific provisions and restrictions regarding the use of automated decision-making involving personal data in particular sectors. 3.5. The right of the person involved to be informed about the logic behind an algorithm used as the basis for a decision under personal data protection legislation. 3.6. Source codes are communicable documents; therefore they can be subject to the exercise of the right of access by the citizen. 3.7. Administration should disseminate online certain items related to the features of algorithmic treatments used in individual decisions. 3.8. The addressees of individual decisions based on algorithmic treatment are entitled to a right to more detailed information. 3.9. A constitutional right of access to administrative documents. The significance of Decision No. 2020-834-QPC of April 3, 2020, of the Conseil Constitutionnel (Union nationale des étudiants de France -UNEF-). 3.10. The specific safeguard of the administrative review. 3.11. Weighting of the set of safeguards and proportionality analysis as a constant method in the case law of the Conseil Constitutionnel. III. Persisting debate issues. 1. A vibrant debate in French society. 2. A starting point: the understanding of the administrative decision-making process is changing. 3. The juxtaposition resulting from the two normative axes. Between the flaw of manageability and the virtue of being complementary. 4. "Explainability" and "redevabilité", within the context of "loyalty", as the main driving forces in the public law response to the use of AIS. 5. Persisting doubts. Critical aspects in the assessment of the suitability of existing legal safeguards. 5.1. Introduction. 5.2. Dark zones and blind spots. 5.3. In particular, the fear of the issue of the "appearance" of human intervention. 5.4. Improvement scope of the current regulation. 5.5. The issue concerning discretionary administrative powers: various factors to be considered. 5.6. The possibilities of some aspects derived from general principles and fundamental rights. 5.7. Beyond the legal mandates of the LIL and the CRPA: the need for transparency from the design stage and the need to audit and monitor an aspect of which it is impossible to know a priori how it is going to evolve. IV. A conclusion, the persisting need to the safeguard of the human " maîtrise” in the AIS: a genuine French semantic constant.
DIRECTOR
