Últimos cambios en la propuesta de Reglamento de Inteligencia Artificial

Los avances en la tramitación del futuro Reglamento europeo sobre el marco jurídico aplicable a los sistemas de Inteligencia Artificial (“Reglamento IA”) (ya abordado en nuestro anterior post: Propuesta de reglamento de la UE sobre inteligencia artificial) siguen su curso. La presidencia checa del Consejo de la Unión Europea  presentó el pasado 3 de noviembre la versión final de la propuesta de Reglamento IA, que recibió el apoyo unánime de los embajadores de la UE en el debate mantenido el pasado 18 de noviembre en el Comité de Representantes Permanentes de los Gobiernos de los Estados miembros de la UE (“COREPER”).

La versión final será debatida en el Consejo de Telecomunicaciones, a celebrar el próximo 6 de diciembre, para poder adoptar la llamada “orientación general” sobre el texto. Dicha orientación general será la base para las negociaciones (diálogos tripartitos o trílogo) entre el Consejo de la UE, el Parlamento Europeo y la Comisión.

El texto acogido por el COREPER incluye ciertas modificaciones respecto del texto anterior. En esta entrada, trataremos algunas de las más relevantes.

Definición de la IA (Art. 3.1)

Este punto resulta crucial, ya que, en función de la definición de sistema de IA, el Reglamento de la IA será aplicable o no en cada caso concreto. En este sentido, el cambio más significativo introducido en la versión final consiste en la supresión del Anexo I, que se incorpora parcialmente al contenido de la definición que ofrece el art. 3.1.

La redacción actual de la definición de sistema de IA en el art. 3.1 requiere tres condiciones acumulativas: (i) operar con datos e inputs recibidos de máquinas o humanos; (ii) inferir cómo lograr un conjunto determinado de objetivos utilizando estrategias basadas en el aprendizaje automático o en la lógica y el conocimiento; y (iii) generar resultados en forma de contenidos, predicciones, recomendaciones o decisiones que influyan en el entorno con el que interactúa. Asimismo, los sistemas de IA deben estar diseñados para funcionar con elementos de autonomía, entendida como el grado en que el sistema de IA funciona sin participación humana.

Usos de la IA para la aplicación de la ley

La Presidencia checa introdujo excepciones en circunstancias excepcionales de seguridad pública o riesgo inminente para la vida o salud de las personas. Una de las más significativas, prevista en el art. 47.1a, se refiere a la facultad de las fuerzas policiales de emplear un sistema de alto riesgo que no haya superado el procedimiento de evaluación de conformidad, siempre que soliciten la correspondiente autorización durante su uso o inmediatamente después. La nueva redacción prevé que, en el caso de que la autoridad finalmente rechace la solicitud, las autoridades policiales deberán, con carácter inmediato, no sólo detener el uso del sistema de IA sino también descartar inmediatamente todos los resultados derivados de dicho sistema de IA.

Seguros categorizados como de alto riesgo

En el anexo III, punto 5, letra e), en relación con el uso de sistemas de IA en los servicios de seguros, se ha introducido una modificación para indicar que sólo se consideran de alto riesgo los sistemas empleados en seguros de vida y de salud.

Transparencia

El considerando 70, en relación con las obligaciones de transparencia, se ha modificado ligeramente para indicar, entre otras cosas, que al cumplir con estas obligaciones deben tenerse en cuenta las características de las personas pertenecientes a grupos vulnerables (p. ej., en términos de edad o discapacidad), en la medida en que el sistema esté pensado para interactuar con estos grupos de destinatarios.

En conclusión, el apoyo unánime a los últimos flecos de la versión final permite medir el avance de esta propuesta normativa, cuya aprobación se prevé para mediados de 2023.

Sin duda, la regulación sobre la IA impactará directamente en infinidad de actores, tales como empresas y administraciones, cuyo día a día está rodeado de algoritmos de machine learning y sistemas automatizados de reglas lógicas. A medida que la tramitación del Reglamento de IA continúe avanzando seguiremos informando desde el blog.