Logo de Iustel
 
 
Sello de Calidad de la Fundación Española para la Ciencia y la TecnologíaDIRECTOR
Santiago Muñoz Machado
Catedrático de Derecho Administrativo
Universidad Complutense

SUBDIRECTOR
Juan Francisco Mestre Delgado
Catedrático de Derecho Administrativo
Universidad de Valencia

Menú de la revista

Conexión a la revista

 

El derecho a la transparencia algorítmica en Big Data e inteligencia artificial. (RI §421167)  


The right to algorithmic transparency in big data and artificial intelligence - Wilma Arellano Toledo

l fenómeno conocido como Big Data (o macrodatos, de acuerdo la versión en castellano de documentos de la Unión Europea) que se refiere a los grandes volúmenes de datos e información que circulan y son almacenados en las redes y servidores, lleva consigo numerables impactos tanto positivos como negativos en toda clase de derechos, incluidos el de acceso a la información y el de la privacidad; y, por tanto, en principios como el de la dignidad humana o el libre desarrollo de la personalidad. El Parlamento Europeo publicó en 2017 una Resolución sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley. En dicha Resolución se pone de manifiesto que el Big Data implica un tratamiento automatizado mediante algoritmos informáticos y avanzadas técnicas de tratamiento de datos, utilizando tanto datos almacenados como datos transmitidos en flujo continuo, con el fin de generar correlaciones, tendencias y patrones; lo que se conoce como <>. En esa Resolución, el Parlamento introduce el planteamiento sobre la necesidad de una transparencia algorítmica, toda vez que “algunos casos de utilización de macrodatos implican la capacitación de dispositivos de Inteligencia Artificial [IA] como redes neuronales y modelos estadísticos” para predecir comportamientos o situaciones. En este artículo, se aborda justamente el concepto de transparencia algorítmica para generar confianza en el Big Data y en la Inteligencia Artificial y para la seguridad jurídica; teniendo en cuenta que ambos pueden generar datos defectuosos, correlaciones falsas o sesgos en sus resultados, afectando así, derechos fundamentales.

Palabras clave: Big Data; algoritmos; transparencia algorítmica; Inteligencia Artifical.;

The phenomenon known as Big Data (or “macrodatos”, according to the Spanish version of documents of the European Union) that refers to data volume and information that travel and are stored in networks and servers, carries implies numerous impacts both positive and negative in all kinds of rights, including information access and privacy; and, therefore, in principles such as human dignity or the free development of personality. The European Parliament published in 2017 a Resolution on the implications of big data on fundamental rights: privacy, data protection, non-discrimination, security and law enforcement. This Resolution shows that Big Data involves an automated treatment using computer algorithms and advanced data processing techniques, using both data stored and transmitted in continuous flow, in order to generate correlations, trends and patterns; what is known as << big data analytics >>. In this Resolution, the Parliament presents the need for an algorithmic transparency, since "some cases of big data require the training of Artificial Intelligence [IA] devices such as neural networks and statistical models" to predict behaviours or situations . In this paper, the concept of algorithmic transparency is addressed to generate confidence in Big Data and Artificial Intelligence and for legal security, considering that both can generate defective data, false correlations or biases in their results, affecting fundamental rights.

Keywords: Big Data; algorithmics; algorithmic transparency; Artificial Intelligence.;

Documento disponible para usuarios registrados.

Para consultar gratuitamente este artículo primero deberá registrarse como usuario.

 
 
 

© PORTALDERECHO 2001-2020

Icono de conformidad con el Nivel Doble-A, de las Directrices de Accesibilidad para el Contenido Web 1.0 del W3C-WAI: abre una nueva ventana