Logo de Iustel
 
 
PRESIDENCIA
Ricardo Alonso Soto
Catedrático de Derecho Mercantil
(Universidad Autónoma de Madrid)

Santiago Muñoz Machado
Catedrático de Derecho Administrativo
(Universidad Complutense de Madrid)

CONSEJO DE DIRECCIÓN
Luis Velasco San Pedro

Catedrático de Derecho Mercantil (Universidad de Valladolid)
M.ª Victoria Petit Lavall
Catedrática de Derecho Mercantil (Universidad Jaume I de Castellón)
Julio V. González García
Catedrático de Derecho Administrativo (Universidad Complutense)
Silvia del Saz Cordero
Catedrática de Derecho Administrativo (UNED)

DIRECCIÓN EJECUTIVA
Manuel Alba Fernández

Profesor Titular de Derecho Mercantil (Universidad Carlos III de Madrid)
Antonio Fortes Martín

Profesor Titular de Derecho Administrativo (Universidad Carlos III de Madrid)

Menú de la revista

Conexión a la revista

 

La propuesta de Reglamento de Inteligencia Artificial de la Unión Europea y los sistemas de alto riesgo. (RI §424382)  

- Alba Soriano Arnanz

The growing use of artificial intelligence in all kinds of contexts has generated the need for a specific legal framework that addresses the risks produced by automated systems. The new proposal of a European Artificial Intelligence Act tries to accomplish said task. This paper focuses on some of the provisions contained in said regulatory proposal, in particular, those which address high-risk artificial intelligence systems. In doing so, it aims to highlight some of the positive aspects of the future Regulation but also its limitations and shortcomings.

I. INTRODUCCIÓN. II. La necesidad de un marco jurídico para la inteligencia artificial. 1. El creciente uso de sistemas de inteligencia artificial. 2. Los riesgos del creciente uso de sistemas de inteligencia artificial. 3. Límites y deficiencias de las normas existentes. III. LA PROPUESTA DE REGLAMENTO DE INTELIGENCIA ARTIFICIAL (EN GENERAL). 1. Estructura. 2. Ámbito de aplicación. 2.1. Objetivo. 2.2. Subjetivo y territorial. 3. Un enfoque basado en el riesgo. IV. LA REGULACIÓN DE LOS SISTEMAS DE ALTO RIESGO. 1. La clasificación de los sistemas de alto riesgo. 1.1. El problema de los sistemas empleados por las grandes plataformas digitales. 2. Requisitos de los sistemas de alto riesgo y obligaciones de los operadores. 2.1. Requisitos. 2.1.1. Sistema de gestión de riesgos. 2.1.2. Datos y gobernanza de datos. 2.1.3. Requisitos relacionados con la transparencia, explicabilidad y comprensibilidad de los sistemas. 2.1.4. Intervención humana. 2.2. Obligaciones de los operadores. 3. Autoridades de control y evaluación de la conformidad. 4. Una base de datos para sistemas de alto riesgo independientes. V. Conclusiones finales. VI. BIBLIOGRAFÍA.

Palabras clave: Artificial intelligence; automated decision-making; algorithms; risks.;

El creciente uso de la inteligencia artificial en toda clase de contextos ha generado la necesidad de establecer un marco jurídico específico que aborde los riesgos producidos por los sistemas automatizados. La nueva propuesta de Ley Europea de Inteligencia Artificial trata de cumplir dicha tarea. Este trabajo se centra en algunas de las disposiciones contenidas en dicha propuesta normativa, en particular, las que abordan los sistemas de inteligencia artificial de alto riesgo. Con ello, se pretende destacar algunos de los aspectos positivos del futuro Reglamento, pero también sus limitaciones y carencias.

Keywords: Inteligencia artificial; decisiones automatizadas; algoritmos; riesgos.;

Para la consulta de este artículo es necesaria suscripción.

Pulse aquí si desea más información sobre cómo contratar las Revistas Generales de Derecho

 
 
 

© PORTALDERECHO 2001-2022

Icono de conformidad con el Nivel Doble-A, de las Directrices de Accesibilidad para el Contenido Web 1.0 del W3C-WAI: abre una nueva ventana