La propuesta de Reglamento de Inteligencia Artificial de la Unión Europea y los sistemas de alto riesgo. (RI §424382)  

The growing use of artificial intelligence in all kinds of contexts has generated the need for a specific legal framework that addresses the risks produced by automated systems. The new proposal of a European Artificial Intelligence Act tries to accomplish said task. This paper focuses on some of the provisions contained in said regulatory proposal, in particular, those which address high-risk artificial intelligence systems. In doing so, it aims to highlight some of the positive aspects of the future Regulation but also its limitations and shortcomings.

I. INTRODUCCIÓN. II. La necesidad de un marco jurídico para la inteligencia artificial. 1. El creciente uso de sistemas de inteligencia artificial. 2. Los riesgos del creciente uso de sistemas de inteligencia artificial. 3. Límites y deficiencias de las normas existentes. III. LA PROPUESTA DE REGLAMENTO DE INTELIGENCIA ARTIFICIAL (EN GENERAL). 1. Estructura. 2. Ámbito de aplicación. 2.1. Objetivo. 2.2. Subjetivo y territorial. 3. Un enfoque basado en el riesgo. IV. LA REGULACIÓN DE LOS SISTEMAS DE ALTO RIESGO. 1. La clasificación de los sistemas de alto riesgo. 1.1. El problema de los sistemas empleados por las grandes plataformas digitales. 2. Requisitos de los sistemas de alto riesgo y obligaciones de los operadores. 2.1. Requisitos. 2.1.1. Sistema de gestión de riesgos. 2.1.2. Datos y gobernanza de datos. 2.1.3. Requisitos relacionados con la transparencia, explicabilidad y comprensibilidad de los sistemas. 2.1.4. Intervención humana. 2.2. Obligaciones de los operadores. 3. Autoridades de control y evaluación de la conformidad. 4. Una base de datos para sistemas de alto riesgo independientes. V. Conclusiones finales. VI. BIBLIOGRAFÍA.

Palabras clave: Artificial intelligence; automated decision-making; algorithms; risks.;

El creciente uso de la inteligencia artificial en toda clase de contextos ha generado la necesidad de establecer un marco jurídico específico que aborde los riesgos producidos por los sistemas automatizados. La nueva propuesta de Ley Europea de Inteligencia Artificial trata de cumplir dicha tarea. Este trabajo se centra en algunas de las disposiciones contenidas en dicha propuesta normativa, en particular, las que abordan los sistemas de inteligencia artificial de alto riesgo. Con ello, se pretende destacar algunos de los aspectos positivos del futuro Reglamento, pero también sus limitaciones y carencias.

Keywords: Inteligencia artificial; decisiones automatizadas; algoritmos; riesgos.;