Detectando los riesgos de la inteligencia artificial en la instrucción penal. (RI §427249)  

Detecting the risks of artificial intelligence in criminal investigations - Alfredo Rodríguez del Blanco

El ámbito jurídico no es ajeno a la afectación que supone la irrupción y futuro desarrollo de la Inteligencia Artificial (IA). A este respecto, corresponde a los juristas estudiar el modo concreto en que dicha tecnología puede afectar a los distintos sectores del ordenamiento jurídico, a fin de alcanzar a conocer cómo debería reformarse nuestra legislación para adaptarse, sin merma de derechos, a esta nueva realidad tecnológica. El objeto del presente artículo es acometer ese estudio preliminar mediante un análisis de los riesgos (evaluación de impacto) que la aplicación de sistemas de IA pueden tener en la instrucción penal, especialmente en relación con los derechos fundamentales implicados en la misma. A tal efecto, se propone un ejercicio ponderativo (test de desnaturalización del núcleo esencial), a través el cual trato de identificar las líneas rojas que la IA no debería sobrepasar en la investigación penal al interactuar con tales derechos fundamentales. El trabajo, que se cierra con las pertinentes conclusiones, pretende ser de utilidad en el diseño y desarrollo de los programas de cumplimiento de los entornos controlados de pruebas para sistemas de IA a los que se refieren el RD 817/2023 y el Reglamento de IA de la Unión Europea (en adelante, RIA).

I.- INTELIGENCIA ARTIFICIAL E INVESTIGACIÓN CRIMINAL: ¿DE DÓNDE VENIMOS Y HACIA DÓNDE (NO) QUEREMOS IR? II.- INSTRUCCIÓN PENAL Y DERECHOS FUNDAMENTALES. 1.- Derechos fundamentales: límite al poder del Estado. 2.- Garantías de los derechos fundamentales. 3.- Contenido esencial, delimitación y restricción de los derechos fundamentales. Principio de proporcionalidad. 4.- ¿Derechos Humanos o derechos fundamentales? Marco normativo: perspectiva del Derecho de la UE. III.- ¿EXISTEN RIESGOS PARA LOS DERECHOS FUNDAMENTALES EN UNA INSTRUCCIÓN PENAL CON IA?: “SANDBOX” Y TEST DE DESNATURALIZACIÓN DEL NÚCLEO ESENCIAL. HACIA UN BLOQUE DE “CONSTITUCIONALIDAD” (RECTIUS: LEGALIDAD) EN MATERIA DE IA. 1.- Igualdad ante la ley. 2.- Libertad personal. 3.- Intimidad y propia imagen. 4.- Secreto de las comunicaciones. 5.- Protección de datos. 6.- Tutela judicial efectiva. 7.- Juez ordinario predeterminado por la ley. 8.- Proceso con todas las garantías. IV.- CONCLUSIONES. V.- BIBLIOGRAFÍA. VI.- ANEXO DE JURISPRUDENCIA.

Palabras clave: proceso penal; inteligencia artificial; derechos fundamentales; riesgos; garantías.;

The legal field is no stranger to the impact of the emergence and future development of Artificial Intelligence (AI). In this regard, it is up to jurists to study the specific way in which this technology may affect the different sectors of the legal system, in order to then get to know how our legislation should be reformed in order to adapt to this new technological reality without diminishing rights. The purpose of this article is to undertake this preliminary study through an analysis of the risks (impact assessment) that the application of AI systems may have on criminal investigation, especially in relation to the fundamental rights involved in it. To this end, a weighting exercise (essential core denaturalisation test) is proposed, through which I try to identify the red lines that AI should not exceed in criminal investigation when interacting with such fundamental rights. The paper concludes with some findings that are intended to be useful in the design and development of compliance programmes for controlled environments for AI systems referred to in the Royal Decree 817/2023 and the EU AI Act.

I.- ARTIFICIAL INTELLIGENCE AND CRIMINAL INVESTIGATION: WHERE HAVE WE COME FROM AND WHERE DO (NOT) WE WANT TO GET? II.- CRIMINAL INVESTIGATION AND FUNDAMENTAL RIGHTS. 1. Fundamental rights: limit to the Public power. 2.- Fundamental rights safeguards. 3.- Fundamental rights core content, delimitation and restriction. Principle of proportionality. 4.- Human Rights or fundamental rights? Legal framework: EU law perspective. III.- ARE THERE ANY RISKS FOR FUNDAMENTAL RIGHTS IN A CRIMINAL INVESTIGATION USING AI?: "SANDBOX" AND TEST OF DENATURALISATION OF THE CORE CONTENT. TOWARDS A "CONSTITUTIONAL CORPUS" (RECTIUS: LEGAL CORPUS) IN AI TERMS. 1.- Equality before the law. 2.- Personal liberty. 3.- Privacy and self-image. 4.- Secrecy of communications. 5.- Personal data protection. 6.- Effective judicial protection. 7.- Ordinary judge predetermined by law. 8.- Due Process. IV.- FINDINGS. V.- BIBLIOGRAPHY. VI.- CASE LAW ANNEX.

Keywords: criminal procedure; artificial intelligence; fundamental rights; risks; safeguards.;