El Reglamento de IA logra el apoyo del Parlamento Europeo

El Parlamento Europeo (“PE”) ha aprobado hoy por mayoría absoluta (499 votos a favor, 28 en contra y 93 abstenciones) su posición (“Posición del PE”) sobre la Propuesta inicial de Reglamento de Inteligencia Artificial. Esta votación representa el avance pionero y firme compromiso europeo por establecer un marco normativo para la Inteligencia Artificial (“IA”), garantizando que su desarrollo y utilización en Europa se ajusta plenamente a los derechos y valores de europeos, tales como la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación y el bienestar social y medioambiental.

El interés generado por esta normativa traspasa fronteras, de hecho, el Co-rapporteur Drago? Tudorache, afirmaba segundos antes de comenzar la votación (12:30:30), que 300 medios de comunicación de todo el mundo siguieron e informaron sobre la votación previa de los comités parlamentarios del pasado 11 de mayo, con un 99,6% de informes positivos sobre el trabajo realizado por Europa en esta materia. El eurodiputado rumano finalizaba su intervención interpelando e invitando al PE a votar teniendo en mente las expectativas generadas en todo el mundo.

Las modificaciones aprobadas por el PE no varían de las ya aprobadas por los comités parlamentarios (ya analizadas extensamente en nuestro blog). Dicho esto, exponemos de manera sucinta algunas de las más relevantes, citando los artículos de la ya aprobada Posición del PE:

• Incluir principios y criterios para asegurar la supervisión humana, la seguridad, la transparencia, la trazabilidad, la no discriminación y el respeto al medio ambiente por los sistemas de IA.
• Revisar la definición de “sistema de IA” en línea con la definición adoptada por la Organización para la Cooperación y el Desarrollo Económico (art. 3).
• Incluir otros conceptos como “modelo fundacional”, “sistema de IA de propósito general”, o “riesgo significativo” (art. 3).
• Modificar sustancialmente los sistemas de IA prohibidos (art. 5), tales como los sistemas de reconocimiento de emociones en el ámbito policial, gestión fronteriza, lugar de trabajo e instituciones educativas y los sistemas de extracción indiscriminada de datos biométricos de redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial, entre otros.
• Reformular la categorización de sistemas de alto riesgo, añadiendo una capa adicional para determinar si un sistema de IA puede calificarse como de alto riesgo o no (art. 6) (explicado en nuestro post anterior).
• Incorporar obligaciones para los proveedores de modelos fundacionales (art. 28b), con especial interés en su apartado 4, donde se regulan específicamente los sistemas de IA generativa. En resumidas cuentas, los sistemas como ChatGPT deberán: (i) cumplir obligaciones de transparencia; (ii) diseñar y desarrollar los modelos fundacionales para evitar la generación de contenidos ilegales y (iii) documentar y poner a disposición del público un resumen suficientemente detallado de los datos de entrenamiento del sistema IA que estén protegidos por derechos de autor.
• Para impulsar la innovación en IA y apoyar a las PYMEs, los eurodiputados han aprobado exenciones para las actividades de investigación y los componentes de IA proporcionados bajo licencias de código abierto -open source-. Contrariamente a lo sostenido en ciertos círculos del ámbito tecnológico sobre la supuesta prohibición de los modelos fundacionales en el ámbito del open source. Asimismo, fomentar la creación de sandboxes regulatorios o entornos reales, establecidos por las autoridades públicas para probar la IA antes de su despliegue (en España se regulará mediante Real Decreto).
• Incorporar la obligación de realizar evaluaciones de impacto de derechos fundamentales (art. 29.a) en caso de implementar sistemas de alto riesgo.
• Potenciar los derechos de los ciudadanos, proporcionando un conjunto de instrumentos jurídicos y remedios (Capítulo 3a), para que éstos puedan reclamar frente a las autoridades supervisoras en caso de que los sistemas de IA incumplan el Reglamento IA (art. 68a de la Posición del PE) y recibir explicaciones de las decisiones basadas en dichos sistemas de IA de alto riesgo que afecten significativamente a sus derechos fundamentales (art. 68c de la Posición del PE).
• Los eurodiputados también han reformado el papel de la Oficina Europea de Inteligencia Artificial, que se encargará de supervisar la aplicación de la normativa.

Tras la votación del PE, Brando Benifei, otro de los Co-rapporteur de nacionalidad italiana, afirmaba que: «Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa se ha adelantado y ha propuesto una respuesta concreta a los riesgos que empieza a plantear la IA. Queremos aprovechar el potencial positivo de la IA para la creatividad y la productividad, pero también lucharemos por proteger nuestraposición y contrarrestar los peligros para nuestras democracias y libertades durante las negociaciones con el Consejo".

Siguientes pasos:

Los eurodiputados entablarán ahora negociaciones interinstitucionales con el Consejo de Ministros de la UE, que representa a los gobiernos europeos, y la Comisión Europea en los llamados diálogos a tres bandas (“trílogos”). El trílogo tendrá lugar el mismo día de la votación plenaria del Parlamento Europeo.

Sin embargo, esta primera sesión tendrá un carácter simbólico, ya que según informa Euractiv, las instituciones de la UE se limitarán a exponer sus posiciones y delegar el trabajo a nivel técnico.

Las negociaciones se intensificarán cuando España asuma la presidencia rotatoria del Consejo en julio, cuyos inicios comenzarán de manera convulsa debido al adelanto electoral previsto para el 23J, precisamente se solicitó el aplazamiento de la comparecencia española en el PE para exponer las prioridades de la Presidencia española del Consejo de la UE.

Tal y como se constatado en las últimas semanas de negociaciones, los principales puntos de discordia se centrarán en las categorías de alto riesgo, los derechos fundamentales y los modelos fundacionales. Otras cuestiones como la gobernanza, la innovación y la definición de IA se resolverán, probablemente, a nivel técnico.

El primer diálogo tripartito operativo tendrá lugar antes de las elecciones parlamentarias españolas del 23J. España pretende llegar a un acuerdo en noviembre con tres trílogos, pero también se han previsto dos como reserva.

Si bien la aprobación de este Reglamento IA no verá la luz, presumiblemente, hasta finales de 2023 o inicios 2024 y su aplicación directa no se materializará hasta dos años después de su aprobación, algunos parlamentarios -dada la relevancia de esta materia y los efectos disruptivos de la IA- proponen anticipar la aplicación de la legislación, si no para todos los tipos de IA, al menos, para los modelos fundacionales o IA generativa. El ritmo frenético de los avances tecnológicos y regulatorios no hace más que aumentar nuestro interés en esta relevante y pionera regulación, por lo que nuestro compromiso por informar sobre cualquier novedad y actualización, seguirá intacto.