“Profundamente falso” y “profundamente incierto”: el deepfake como automated evidence en el proceso penal. Consideraciones generales. (RI §426109)  

“Deeply false” and “deeply uncertain”: deepfake as automated evidence in criminal proceedings. General considerations - Alessandro Malacarne

Desde el año 2017, los usuarios de las redes sociales han empezado a difundir vídeos aparentemente reales en los que aparecen personajes famosos o comunes en el acto de realizar actividades que, en realidad, nunca habían llevado a cabo. El fenómeno es conocido como deepfake, y la tecnología que hay detrás de su creación está vinculada al uso de complejos sistemas de inteligencia artificial. El presente artículo, tras destacar las características de tales modelos y sus implicaciones jurídicas generales, examina las posibles repercusiones en el proceso penal.

1. Tecnologías disruptivas, inteligencia artificial y proceso penal. – 2. Definición general y breve historia de los deepfakes. – 3. El aspecto tecnológico: funcionamiento de los ultrafalsos. – 4. Los posibles usos de la tecnología GAN: breves indicaciones. – 5. El aspecto jurídico: introducción. – 5.1 Deepfake, prueba digital y automated evidence. – 5.1.1 La autenticidad de la prueba como problema fundamental. – 5.1.2 Deepfake y jurados. – 6. Para acabar… sin concluir.

Palabras clave: proceso penal; prueba digital; prueba automatizada; deepfake; autenticidad.;

Since 2017 social networks’ users begun to diffuse apparently real videos in which are represented famous people or actors performing activities that, in reality, they had never performed. The phenomenon is known as deepfake, a particular technology that uses specific type of artificial intelligence (AI). The paper analyses the characteristics of such AI models and legal implications, especially with regard to the criminal proceeding.

Keywords: criminal proceeding; digital evidence; automated evidence; deepfake; authenticity.;