Propuesta de “sandbox regulatorio” sobre el Reglamento de IA

El Ministerio de Asuntos Económicos y Transformación Digital ha publicado el borrador de Real Decreto que establece un entorno controlado de pruebas (“sandbox”) para el ensayo del cumplimiento de la propuesta de Reglamento de Inteligencia Artificial (“Propuesta de Sandbox IA”), que tendrá una vigencia de 36 meses desde su entrada en vigor.

Esta iniciativa, en la que el Gobierno de España ha colaborado con la Comisión Europea, forma parte de la estrategia española de transformación digital, Agenda de España Digital 2026, que enmarca la hoja de ruta del Gobierno de España para impulsar el proceso de transformación digital del país.

En este contexto, la Propuesta de Sandbox IA se articula como el primer entorno controlado de pruebas para determinar la forma de implementar los requisitos aplicables a los sistemas de inteligencia artificial de alto riesgo contemplados en la propuesta de Reglamento europeo de Inteligencia Artificial.

El objeto del entorno controlado será “estudiar la operatividad de los requisitos establecidos en la propuesta de Reglamento europeo, así como la autoevaluación de cumplimiento y la prueba de sistemas de supervisión de los sistemas de inteligencia artificial de alto riesgo de los participantes durante su funcionamiento”, y, en principio, dará lugar a (i) un informe de buenas prácticas y conclusiones obtenidas; así como a (ii) guías técnicas de ejecución y supervisión basadas en la evidencia y la experimentación que faciliten a las entidades el cumplimiento del futuro Reglamento de Inteligencia Artificial.

A continuación, destacamos los aspectos más relevantes de la Propuesta de Sandbox IA:

Definiciones

Uno de los primeros aspectos que llaman la atención de la Propuesta de Sandbox IA son las definiciones del artículo 3, que difieren de las contenidas en la Propuesta inicial Reglamento de Inteligencia Artificial.

Así, el artículo 3 incluye, entre otras, definiciones propias de (i) sistema de inteligencia artificial; (ii) sistemas de inteligencia artificial de alto riesgo; o de (iii) sistema de inteligencia artificial de propósito general (entendido como aquel sistema de inteligencia artificial que está destinado por el proveedor del sistema a realizar, entre otras, funciones de aplicación general, como el reconocimiento de texto, imágenes y del habla). En algunos casos las definiciones se toman de la versión del Consejo, de diciembre de 2022. En cualquier caso, el texto del Real Decreto deberá adaptarse a la redacción final del Reglamento de IA que se acabe aprobando.

Requisitos de elegibilidad en el entorno controlado de pruebas

Puesto que la propuesta de Reglamento de Inteligencia Artificial se centra especialmente en las obligaciones que deben cumplir los sistemas de inteligencia artificial denominados de «alto riesgo», la participación en el entorno controlado regulado se centra en los:

• Sistemas de inteligencia artificial que sean clasificados de alto riesgo;
• Sistemas de inteligencia artificial de propósito general;
• Modelos fundacionales;
• Sistemas de inteligencia artificial generativa.

Sin perjuicio de lo anterior, el artículo 5 de la Propuesta de Sandbox IA, excluye la participación de ciertos sistemas de IA cuya finalidad sea, por ejemplo, científica, de defensa o de seguridad nacional, o bien lleven a cabo prácticas prohibidas en el Reglamento, como la de servirse de técnicas subliminales que trasciendan la consciencia de una persona con el objetivo o el efecto de alterar efectivamente su comportamiento de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios físicos o psicológicos a esa persona o a otra.

Además, se limita el acceso al entorno de pruebas a determinado proveedores de sistemas de inteligencia artificial, al que podrán acceder, entre otros, quienes residan, entre otros requisitos, en España o que tengan establecimiento permanente en España.

Los proveedores podrán presentar uno o varios sistemas de inteligencia artificial, siempre y cuando sean diferentes, pero sólo será admitido un único sistema de inteligencia artificial de los presentados.

Procedimiento de admisión y desarrollo

Las convocatorias que se publiquen contarán con un número de plazas limitadas, que se concretará en las respectivas convocatorias y las solicitudes deberán ir acompañadas de (i) la memoria técnica incluía en el Anexo II de la Propuesta de Sandbox IA; (ii) una declaración responsable de cumplimiento de la normativa de protección de datos; y, (iii) de la documentación adicional requerida en la convocatoria.

Una vez el proveedor haya sido admitido por el órgano instructor, deberá participar en el entorno controlado de pruebas cumpliendo los objetivos y requisitos fijados en el artículo 11, que son esencialmente los exigidos en la Propuesta el Reglamento de IA. Destacamos los siguientes:

• El establecimiento, implementación, documentación y mantenimiento de un sistema de gestión de riesgo relativo al sistema de inteligencia artificial en cuestión;

• Los sistemas de inteligencia artificial permitir deberán técnicamente el registro automático de eventos (‘logs’) a lo largo del ciclo de vida del sistema;

• El sistema de inteligencia artificial irá acompañado de instrucciones de uso en formato electrónico, que incluyan información sobre las características y prestaciones del sistema que sea concisa, completa, correcta, actualizada, clara, relevante, accesible y comprensible para los usuarios del sistema.

El participante deberá implementar también un sistema de seguimiento posterior a la comercialización. Se realizará una autoevaluación de cumplimiento de los requisitos de los sistemas de inteligencia artificial por los participantes, que será examinada por el órgano competente.

Finalización de las pruebas y del entrono controlado

La participación en el entorno controlado de pruebas tendrá una duración a especificar en las correspondientes convocatorias y, previa a la finalización, los participantes entregarán un informe cuyo contenido mínimo se indicará en las guías que ofrezca el órgano competente.

Cuando el órgano competente considere que el entorno controlado de pruebas ha cumplido con el objeto de la Propuesta de Sandbox IA podrá determinar la finalización del mismo y emitirá un comunicado público a tal efecto.

Se trata de una propuesta que puede sufrir modificaciones, en parte porque continua viva la tramitación del Reglamento de IA, por lo que desde Cuatrecasas seguiremos muy de cerca su avance.