Derecho, algoritmos y sesgos: de la ficción cinematográfica a la justicia en la era de la IA. (RI §427863)  

El presente trabajo analiza el filme Justicia Artificial (2024), dirigida por Simon Casal, no solo como una cinta de ficción, sino también como un reflejo de las cuestiones jurídicas y éticas que emergen del uso de la inteligencia artificial en el ámbito judicial. En particular, el estudio se vincula con el marco normativo vigente, destacando la regulación contenida en el Real Decreto-ley 6/2023, que introduce medidas para la modernización del servicio público de justicia en el contexto del Plan de Recuperación, Transformación y Resiliencia. Si bien los sistemas algorítmicos poseen una notable capacidad para procesar ingentes volúmenes de datos y ponderar múltiples factores de manera simultánea, su implementación en la esfera judicial plantea desafíos ineludibles. Entre ellos, se encuentra la necesidad de conjugar el potencial de la innovación tecnológica con la salvaguarda de los principios fundamentales del Estado de derecho, garantizando la transparencia, la ausencia de sesgos y el respeto a las garantías procesales. La cuestión nuclear radica en determinar hasta qué punto estos sistemas pueden asistir en la labor jurisdiccional sin menoscabar la función del juez, quien debe ejercer un control riguroso sobre dichas herramientas y conservar la última palabra en la resolución de controversias. Así, si en la ficción cinematográfica se presenta el sistema THENTE como una inteligencia artificial capaz de dictaminar sobre cuestiones judiciales, en la realidad contemporánea existen diversos sistemas de justicia y policía predictiva que han sido diseñados para evaluar el riesgo de reincidencia y optimizar la gestión de los recursos jurídicos y de seguridad. Este estudio analizará su alcance, sus limitaciones y el equilibrio necesario entre la eficiencia tecnológica y los valores esenciales del derecho, en un contexto en el que la inteligencia artificial se perfila como un actor cada vez más relevante en la administración de justicia.

Palabras clave: inteligencia artificial; sistema judicial; justicia predictiva; algoritmos; instrumentos de evaluación de riesgos.;

This paper analyses the film Artificial Justice (2024), directed by Simon Casal, not only as a fictional film, but also as a reflection of the legal and ethical issues that emerge from the use of artificial intelligence in the judicial sphere. In particular, the study is linked to the current regulatory framework, highlighting the regulation contained in Decree-Law 6/2023, which introduces measures for the modernisation of the public justice service in the context of the Recovery, Transformation and Resilience Plan. Although algorithmic systems have a remarkable capacity to process huge volumes of data and weigh multiple factors simultaneously, their implementation in the judicial sphere poses unavoidable challenges. Among them is the need to combine the potential of technological innovation with safeguarding the fundamental principles of the rule of law, ensuring transparency, absence of bias and respect for due process. The core issue is to determine to what extent these systems can assist in jurisdictional work without undermining the role of the judge, who must exercise rigorous control over these tools and retain the last word in the resolution of disputes. Thus, if in film fiction the THENTE system is presented as an artificial intelligence capable of ruling on judicial matters, in contemporary reality there are various justice and predictive policing systems that have been designed to assess the risk of recidivism and optimise the management of legal and security resources. This study will analyse their scope, their limitations and the necessary balance between technological efficiency and the essential values of law, in a context in which artificial intelligence is emerging as an increasingly relevant actor in the administration of justice.

Keywords: artificial intelligence; judicial system; predictive justice; algorithms; risk assessment instruments.;