Sistemas de justicia predictiva en la toma de decisiones en la instrucción penal: nuevos retos en sede procesal. Una mirada desde Europa. (RI §426089)  

Predictive justice systems in decision making in criminal investigations: new challenges in the procedural venue. A look from Europe. - Jaime Criado Enguix

Los sistemas de predicción y evaluación de riesgos, como herramientas de apoyo en la instrucción penal, pueden servir a diversos propósitos, entre otros: establecer hipótesis de hechos según las pruebas obtenidas por el juez (programa STEVIE); elaborar pronósticos del periculum para la toma de medidas cautelares, como los obtenidos por los sistemas de evaluación de riesgo, de los cuales COMPAS sería un ejemplo en el ámbito de la reincidencia; o predecir los resultados de sentencias (LexMachina), entre otros tantos. La IA representa utilidades muy significativas en Europa, pues no sólo aliviaría la carga de trabajo, sino que, por un lado, conformaría, como instrumento de cooperación internacional, una herramienta idónea para luchar contra la nueva forma digital de crimen organizado, y, por otro, ayudaría a reducir, si los datos son correctos y objetivos, los sesgos humanos. No obstante, tales objetivos, pueden verse dañados por una serie de riesgos, como la falta de transparencia, los fallos técnicos del sistema, o la vulneración de derechos fundamentales procesales. Por ello, procede hacer excurso sobre las utilidades y riesgos potenciales del uso de IA en la justicia predictiva a nivel europeo, como herramienta de apoyo en la instrucción penal, e instrumento necesario contra las nuevas formas de criminalidad digital, a fin de proporcionar un enfoque lo más ecuánime e imparcial del asunto, y determinar si jurídicamente es sugerible la implementación de algoritmos predictivos en el proceso penal.

I. Hacia la era del algoritmo. II. Inteligencia artificial en el entorno judicial: aclaraciones conceptuales. III. Herramientas de justicia predictiva en la fase de instrucción penal. 1. Nota previa. 2. La regulación de la IA en el ámbito de la instrucción penal: instrumentos legales internacionales, europeos y nacionales. 3. Tipos de algoritmos predictivos. Utilidades y potenciales beneficios en la instrucción penal 4. La IA predictiva como herramienta idónea en Europa para la lucha contra el crimen organizado digital. 5. El interés de una armonización legislativa de la IA en Europa. IV. Incidencia negativa de los algoritmos predictivos sobre los derechos fundamentales procesales. V. A modo de conclusión: el necesario equilibrio entre la eficiencia instructora, y la libertad del justiciable. Algunas sugerencias para un uso lícito del algoritmo predictivo. Bibliografía.

Palabras clave: Inteligencia Artificial; algoritmo predictivo; instrucción penal; derechos fundamentales.;

Prediction and risk assessment systems, as support tools in criminal investigations, can serve various purposes, including: establishing hypotheses of facts according to the evidence obtained by the judge (STEVIE programme); drawing up periculum forecasts for taking precautionary measures, such as those obtained by risk assessment systems, of which COMPAS would be an example in the field of recidivism; or predicting the results of sentences (LexMachina), among others. AI represents very significant utilities in Europe, as it would not only ease the workload but, on the one hand, as an instrument of international cooperation, it would be an ideal tool to fight the new digital form of organised crime, and, on the other hand, it would help to reduce, if the data are correct and objective, human biases. However, these objectives may be undermined by a number of risks, such as lack of transparency, technical failures of the system, or infringement of fundamental procedural rights. It is therefore appropriate to discuss the potential benefits and risks of the use of AI in predictive justice at European level, as a support tool in criminal investigation, and a necessary instrument against new forms of digital criminality, in order to provide a more even-handed and impartial approach to the issue, and to determine whether the implementation of predictive algorithms in criminal proceedings is legally feasible.

Keywords: Artificial Intelligence; predictive algorithm; criminal investigation; fundamental rights.;