Sistemas automatizados de toma de decisiones en el Derecho Administrativo Español. (RI §425992)
Automated decision-making systems in Spanish Administrative Law -
Eduardo Gamero Casado
La legislación española sobre actuación administrativa automatizada es una de las más avanzadas del mundo. Fue promulgada en 2007 y se ha mantenido sin cambios en la Ley de Procedimiento Administrativo de 2015. En la actualidad, más de un tercio del sector público español utiliza estos sistemas. Subsisten algunos problemas de cumplimiento del Derecho administrativo general, como el derecho de subsanación de las solicitudes, el derecho a presentar alegaciones frente a una propuesta antes de que se dicte una resolución denegatoria, la motivación de las resoluciones automatizadas o la transparencia de la programación. Pero a pesar de que cada día se adoptan miles de decisiones automatizadas, los litigios en este ámbito han sido hasta ahora meramente anecdóticos. En este trabajo se describen los requisitos establecidos por la legislación española para la implementación de los sistemas automatizados de toma de decisiones utilizados por la Administración Pública: su necesidad de aprobación previa de forma expresa, la auditoría del sistema, la firma electrónica de las decisiones, etc.; y los aspectos críticos que aún subsisten en la materia.
I. El marco jurídico nacional. 1. Los artículos 41 y 42 de la Ley 40/2015, de 1 octubre, de Régimen Jurídico del Sector Público. 1.1. El concepto de “actuación administrativa automatizada”. 1.2. La determinación previa de los requisitos legales por parte de la Administración. ¿Los algoritmos son reglamentos? El debate respecto de la falta de transparencia. 1.3. El órgano competente para implementar los sistemas de IA y atribuirle su actividad. 1.4. La supervisión del sistema. La falta de supervisión jurídica. 1.5. El control de calidad y la auditoría del sistema de información y de su código fuente. Especial referencia al régimen de protección de datos personales. 1.6. La firma electrónica de decisiones automatizadas (artículo 42 LRJSP). 2. El artículo 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación. 3. La modificación del Estatuto de los Trabajadores. 4. La creación de la Agencia Española de Supervisión de la Inteligencia Artificial. II. El soft law: la Carta de derechos digitales. III. La jurisprudencia y los principales problemas actuales. 1. El caso “Bosco”. 2. El algoritmo VioGén. 3. La iniciación automática de procedimientos sancionadores. 4. La privación de garantías en los procedimientos automatizados de concesión de subvenciones. 5. El incumplimiento del deber de motivación de los actos administrativos.
Spain's legislation on automated administrative action is among the most advanced in the world. Enacted in 2007, it has remained the same in the current Administrative Procedure Act of 2015. Currently, more than one third of the Spanish public sector uses these systems. Some problems of compliance with general administrative law remain, such as the right to correct applications, the right to present arguments in the face of a draft before a rejection decision is issued, or the motivation of automated decisions or the transparency of programming. But despite the fact that thousands of automated decisions are taken every day, judicial litigation in this area has so far been merely anecdotal. This paper describes the requirements established by Spanish law for the implementation of automated decision-making systems used by Public Administration: their express prior approval, the auditing of the system, the electronic signature of the decisions, etc.; and the critical aspects that still remain.
I. Legal framework. 1. Arts. 41 and 42 of Act 40/2015, of 1st October, on Legal Regime of Public Sector. 1.1. Concept of “automated administrative action”. 1.2. Prior determination by the administration of the legal requirements. Algorithms, are regulations? The lack of transparency. 1.3. The body competent to implement AI systems and to attribute to it its activity. 1.4. Supervision and quality control. The lack of legal supervision. 1.5. Auditing of the information system and its source code. Special reference to the personal data protection regime. 1.6. E-signature of automated decisions (Art. 42 LRJSP). 2. Art. 23 of Act 15/2022, of 12th July, for Equal Treatment and Non-discrimination. 3. Amendment of the Workers’ Statute. 4. Creation of the Spanish Agency for the Supervision of AI. II. Soft law: charter of digital rights. III. Case-law and main problems in current situation. 1. The “Bosco” case. 2. The VioGen algorithm. 3. Automatic initiation of sanctioning procedures. 4. Deprivation of safeguards in automated grant award procedures. 5. Non-compliance with the duty to state reasons for administrative acts.
DIRECTOR
