Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. (RI §421176)  

Artificial intelligence, administrative law and mankind reservation: algorithms and due technological process - Julio Ponce Solé

El estudio analiza el uso de la inteligencia artificial por las Administraciones Públicas para la toma de decisiones automatizadas y semi-automatizadas. Partiendo de la situación existente en España y teniendo en cuenta las preocupaciones y regulaciones a nivel internacional, el análisis sugiere una mejora del marco regulador de la actividad automatizada, estableciendo una reserva para humanos en el ejercicio de potestades discrecionales debido a la necesidad de empatía para la realización de la ponderación con criterios extrajurídicos en que consiste la discrecionalidad. Asimismo, el estudio plantea una lucha contra la opacidad de los algoritmos en garantía del derecho a una buena administración de los ciudadanos, especialmente en su vertiente del derecho a comprender las decisiones administrativas.

I. INTRODUCCIÓN. INTELIGENCIA ARTIFICIAL, BIG DATA Y ALGORITMOS Y SU CRECIENTE USO EN EL SECTOR PRIVADO Y PÚBLICO: LA ACTIVIDAD ADMINISTRATIVA AUTOMATIZADA. II. REGULACIÓN DE LA TOMA DE DECISIONES ADMINISTRATIVAS AUTOMATIZADAS. SITUACIÓN ACTUAL. 2.1 Situación internacional y en la UE: el Reglamento General de Protección de Datos de la UE y la Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales de 2018. 2.2 Las lagunas de leyes 39 y 40/2015 y de la Ley 19/2013, de 9 de diciembre, de Transparencia, acceso a la información y Buen Gobierno en relación a las decisiones automatizadas. 2.3 La necesidad de una mejora regulatoria en este ámbito. 2.3.1 El sesgo humano de confianza en la inteligencia artificial frente a los posibles límites y sesgos discriminatorios de ésta: la herencia ilustrada. 2.3.2 La inteligencia artificial en relación con los privados que ejercen funciones públicas o prestan servicios de interés general. La necesaria regulación de la autoregulación. 2.3.3 Ejemplos de regulaciones comparadas: los casos francés y australiano. III. POSIBLES LÍNEAS FUTURAS DE AVANCE EN LA MATERIA. 3.1 La inteligencia artificial en relación con la toma de decisiones administrativas: apoyo a la decisión o decisión automatizada respecto a ejercicio de potestades regladas y discrecionales. 3.2 Límites y orientaciones en la automatización: la diligencia debida o debido cuidado derivado del derecho a una buena administración en conexión con la empatía y la prhonesis humana. ¿Una necesaria reserva de humanidad?. 3.3. La naturaleza jurídica de los algoritmos. ¿Son los algoritmos fuente del derecho?. 3.4 El Estado de Derecho y la inteligencia artificial. 3.4.1 Algoritmos, derechos de los ciudadanos y cajas negras (black boxes) y muñecas rusas: abriendo las cajas negras. 3.4.2 Control jurídico de algoritmos. ¿Necesidad de un ente público específico supervisor?. IV. REFLEXIONES FINALES.

Palabras clave: ilustración; discrecionalidad; inteligencia artificial; procedimiento administrativo; buena administración; reserva de humanidad; derecho a comprender;

After analyzing the situation in Spain, it suggests some regulatory improvements in accordance to international ideas and regulations. The study recommends a reservation for human intervention in the case of discretionary powers due to the need of human empathy for their proper exercise. It includes some measures against opacity of algorithms to guarantee the right to good administration and specially its expressions as a right to understand public decisions.

Keywords: Enlightment; discrecionality; artificial intelligence; administrative procedure; good administration; mankind reservation; right to understand.;