La proyección del Reglamento de IA sobre la Administración Pública: el Principio de explicabilidad aplicado al procedimiento administrativo

Abstract

The AI Regulation has been a step forward in the regulation of artificial intelligence in the European Union. This paper analyzes the impact of this regulation on the use of AI by the public administration, particularly with regard to the explainability and motivation of decisions made with AI systems. The paper addresses the Regulation’s failure to address the risks of using AI in administrative procedures and identifies the shortcomings of Article 86 of the Regulation in relation to the need to justify and explain certain elements of the algorithmic administrative procedure so that it is understandable to citizens.

El Reglamento de IA ha supuesto un paso adelante en la regulación de la inteligencia artificial en la Unión Europea. En este trabajo, se analiza el impacto de esta norma en el uso de IA por la Administración Pública, particularmente, respecto de la explicabilidad y la motivación de las decisiones tomadas con sistemas de IA. El trabajo atiende a la insuficiencia del Reglamento para abordar los riesgos del uso de la IA en el procedimiento administrativo y se identifican las deficiencias del artículo 86 del Reglamento en relación con la necesidad de motivar y de explicar determinados elementos del procedimiento administrativo algorítmico para que sea comprensible para la ciudadanía.