Se aprueba el primer Tratado Internacional sobre Inteligencia Artificial

El pasado 17 de mayo de 2024 el Consejo de Europa (el “Consejo”) aprobó el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (el “Convenio”), el primer tratado internacional en materia de Inteligencia Artificial. El Convenio, redactado por el Comité de Inteligencia Artificial con la participación de 46 estados miembros del Consejo o de la Unión Europea y 11 estados no miembros, prevé la adhesión de terceros países invitados por el Consejo.

El Convenio persigue “asegurar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el estado de derecho”, supliendo las lagunas que han podido surgir en dichas materias como consecuencia de los rápidos avances tecnológicos. Así pues, el Convenio se suma al conjunto de instrumentos internacionales que apuestan por regular el desarrollo tecnológico en favor de una aplicación ética de los sistemas de IA.  

Cabe destacar que el Convenio acoge la definición de sistema de inteligencia artificial acuñada en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial Europeo (“Reglamento de IA”) aprobado recientemente por la Unión Europea, en línea con la definición de la OCDE revisada en noviembre de 2023.

El Convenio se estructura en ocho capítulos que conforman una regulación de las distintas actividades dentro del ciclo de vida de los sistemas de IA y que 

establecen los siguientes principios comunes generales para garantizar que la implementación de sistemas de IA es consistente con los sistemas legales domésticos y las obligaciones previstas en la Convención Europea de Derechos Humanos:

1. Dignidad humana y autonomía individual,
2. Igualdad y no discriminación,
3. Respeto a la privacidad y protección de datos personales,
4. Transparencia y supervisión,
5. Rendición de cuentas y responsabilidad,
6. Fiabilidad,
7. Innovación segura.

Paralelamente al Reglamento de IA, se establecen distintos requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos, entre los cuales destacan: la identificación de todo contenido generado por IA, la adopción de medidas para garantizar que los sistemas de IA no sean usados para minar instituciones y procesos democráticos, y el establecimiento de un mecanismo de supervisión independiente para garantizar el cumplimiento del tratado. 

El Convenio comprende en su ámbito de aplicación el uso de sistemas de IA por autoridades públicas (ya sea directamente o por agentes privados a su nombre), así como la obligación de que los Estados firmantes aborden los riesgos e impactos derivados de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial llevadas a cabo por actores privados. No obstante, excluye de su alcance aquellas actividades de sistemas de IA relativas a la protección de intereses de seguridad nacional, asuntos de defensa nacional, y actividades de investigación y desarrollo de estos sistemas no abiertas para su uso.

Asimismo, se prevén dos modalidades de cumplimiento con los principios y obligaciones del Convenio, ya sea mediante la aplicación directa de sus disposiciones, o a través de la adopción de otros tratados o acuerdos, siempre que aseguren el cumplimiento de sus obligaciones para con los derechos humanos, la democracia y el Estado de Derecho. Para verificar su implementación, el Convenio prevé la llamada “Conferencia de las Partes”, compuesta por representantes oficiales de las partes del Convenio y cuyas conclusiones y recomendaciones pretenden asegurar el cumplimiento del tratado y garantizar su efectividad a largo plazo.

Se ha avanzado que el Convenio se abrirá para su firma en setiembre de este año. Dada la participación de estados no miembros del Consejo en su redacción, se espera que terceros países se unan a su firma, ya sea este mismo mes de setiembre o con posterioridad. En este sentido, el Convenio representa un primer paso en la formulación de un marco regulatorio global en materia de IA, fomentando un uso de estos sistemas que se adecue a los estándares actuales de protección de los derechos humanos. 

Autores: Paula Álvarez, en colaboración con Adrián Vizuete.