La OCDE actualiza sus Principios sobre la IA

El pasado 3 de mayo, la Organización para la Cooperación y Desarrollo Económicos actualizó su Recomendación sobre Inteligencia Artificial. El documento, adoptado inicialmente en 2019, propone la adopción de una serie de principios para una gestión responsable y de confianza de la Inteligencia Artificial (IA). Se trata de un instrumento jurídico no vinculante pero que representa un compromiso político de los países adherentes. Desde 2019, los principios recogidos en la Recomendación han sido acogidos por el G20, la Unión Europea, Japón, Estados Unidos y otras jurisdicciones, y han informado el trabajo de las Naciones Unidas y el Consejo de Comercio y Tecnología entre la UE y EE.UU. 

Los principios de la OCDE sobre la IA se basan los valores del respeto a los derechos humanos y los valores democráticos, la inclusión, la diversidad, la equidad, la innovación y el bienestar. Estos valores se traducen en cinco principios para el desarrollo y el uso de sistemas de IA:

1. Crecimiento inclusivo, desarrollo sostenible y bienestar
2. Respeto al estado de derecho, los derechos humanos y los valores democráticos, incluida la equidad y la privacidad
3. Transparencia y explicabilidad
4. Robustez y seguridad
5. Rendición de cuentas

El documento contiene también recomendaciones para los gobiernos y las organizaciones internacionales sobre cómo promover y facilitar los anteriores principios, abordando aspectos como la inversión, la investigación, la educación, el acceso a los datos, la cooperación, la supervisión y la rendición de cuentas.

En noviembre de 2023, el Consejo de la OCDE aprobó una modificación de la Recomendación para ofrecer una definición revisada de la noción de “sistema de IA”, definición que ha sido adoptada en el Reglamento de Inteligencia Artificial recientemente aprobado. Ahora, en mayo de 2024, el Consejo de la OCDE ha llevado a cabo una nueva revisión de la Recomendación, con un alcance más amplio.

La revisión de 2024

A la vista del acelerado ritmo de los avances tecnológicos en el campo de la IA, especialmente en lo que se refiere a la IA de propósito general y la IA generativa, la OCDE ha considerado necesario actualizar la Recomendación para estar al día ante los nuevos desafíos y oportunidades que plantean estas tecnologías. Así, en mayo de 2024, el Consejo Ministerial de la OCDE ha aprobado una revisión que introduce algunos cambios significativos.

Las revisión se ha centrado en reforzar y aclarar algunos aspectos clave, tales como:

• La seguridad de los sistemas de IA, introduciendo mecanismos y salvaguardias para gestionar los sistemas de IA que puedan causar daños indebidos o exhibir comportamientos no deseados, así como la posibilidad de anular, reparar o desmantelar dichos sistemas.
• La integridad de la información, reflejando la importancia de abordar el problema de la desinformación y la manipulación de los datos en el contexto de la IA generativa, que puede crear contenidos falsos o engañosos con gran realismo y verosimilitud.
• La conducta responsable de las empresas, enfatizando la necesidad de que las organizaciones que desarrollan, implementan o utilizan sistemas de IA lo hagan de manera ética, legal y socialmente responsable, cooperando con los distintos actores implicados y respetando los derechos de las personas afectadas por la IA.
• La transparencia y la divulgación responsable, aclarando qué implica informar adecuadamente sobre los objetivos, las características, las limitaciones y los riesgos de los sistemas de IA, así como sobre las fuentes, la calidad y el uso de los datos que los alimentan.
• La sostenibilidad ambiental, haciendo referencia explícita a esta, debido a la preocupación creciente por el impacto de la IA en el medio ambiente y los recursos naturales, y la necesidad de minimizarlo y compensarlo.
• La interoperabilidad de los marcos de gobernabilidad y política, subrayando la conveniencia de que las jurisdicciones trabajen juntas para promover entornos normativos y regulatorios compatibles y coherentes para la IA, que faciliten la innovación y la cooperación internacional. 

Con estas revisiones, la OCDE demuestra su capacidad de adaptación y liderazgo en el ámbito de la política digital, y reafirma su compromiso con una IA que sea innovadora, confiable y respetuosa con los derechos humanos y los valores democráticos.

Albert Agustinoy con la colaboración de Mireia Sala