Deepfake vs. Derecho al honor, intimidad y propia imagen

El pasado 13 de octubre de 2023 se publicó en el Boletín Oficial de las Cortes Generales la Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

La Proposición de Ley se articula como un mecanismo que trata de dar cabida a la utilización de técnicas de recreación de imágenes y voces de personas mediante la inteligencia artificial (comúnmente conocidas como deepfake) al amparo del Derecho Fundamental a la libertad de expresión, a la vez que esboza un marco regulatorio para tratar de asegurar los restantes Derechos Fundamentales previstos en nuestro ordenamiento jurídico, y en especial la protección del derecho al honor, a la intimidad y a la propia imagen.

¿Por qué surge esta Proposición de Ley?

La Proposición de Ley comienza advirtiendo sobre el avance de las tecnologías de la imagen y la utilización de la inteligencia artificial (nos referiremos a ellas, en general, como deepfake) en estos últimos años, y de los retos que a nivel legal plantean.

La Exposición de Motivos destaca que estas tecnologías “difumina[n] la barrera entre lo que es verdadero y lo que es falso; entre lo que son acciones realmente realizadas por una persona y lo que son simulaciones generadas por terceros de manera totalmente artificial” y que «el sistema normativo español carece de una regulación en lo que respecta a la forma de autorizar la difusión de las alteraciones de imágenes o voces y sobre la persecución de su utilización ilícita».

Sobre la base del estudio “Tackling deepfakes in European policy” del Servicio de Estudios del Parlamento Europeo (2021), la Proposición de Ley identifica los riesgos derivados del uso de estas tecnologías. Entre ellos se incluyen la difamación, la intimidación, el fraude, la manipulación mediática y electoral, el robo de identidad y los daños reputacionales, pasando por un riesgo de incidencia de los casos de acoso, llegando incluso a afectar el efectivo cumplimiento de principios esenciales como el de la igualdad y la no discriminación.

Al abordar los límites a la utilización del deepfake y el debate generado en torno a este tipo de tecnología, son numerosas las fuentes que la Proposición de Ley cita. En particular:

• Las “Conclusiones relativas al Plan Coordinado sobre la Inteligencia Artificial” (2019) del Consejo Europeo, donde se destacó la importancia de garantizar los derechos de la ciudadanía europea y su adaptación a las oportunidades y retos de las nuevas tecnologías.

• Las conclusiones sobre la “Carta de los Derechos Fundamentales en el contexto de la inteligencia artificial y el cambio digital” de la de la Presidencia del Consejo de la Unión Europea (2020), donde se abogaba por afrontar la complejidad, imprevisibilidad y sesgos derivados de ciertos sistemas tecnológicos.

• El Libro Blanco de la Unión Europea sobre la inteligencia artificial (2020), que propone desarrollar un marco jurídico que haga compatibles los valores y derechos que se constituyen como principios esenciales de la Unión Europea y el desarrollo de innovación científica.

• La propuesta de reglamento europeo por el que se establecen normas armonizadas en materia de inteligencia artificial (2021) instada por la Comisión Europea, a la que, en relación con los deepfakes, nos referimos en esta entrada del blog.

• La Proposición de Ley se apoya de nuevo en el citado Estudio del Parlamento Europeo, y hace hincapié en las medidas allí contenidas en torno al deepfake.

• El Reglamento de Servicios Digitales, al que nos hemos referido, entre otras, en esta entrada del blog.

¿Cuál es el marco regulatorio propuesto?

La Proposición de Ley aboga por realizar varias modificaciones legislativas y recoge aquellas que considera más “inmediatas y urgentes”. Las detallamos a continuación.

• Su artículo 1 propone modificar la Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual, de forma que:

• Se incorpora como infracción muy grave la difusión de deepfakes sin la previa autorización o consentimiento expreso de la persona o personas objeto de ellos, salvo que incluyan una advertencia de su condición de imagen o audio generados artificialmente.
• En el caso de imágenes/vídeos, esta advertencia debe figurar sobreimpresa y ser claramente legible y, en el caso de audios, la advertencia deberá realizarse inmediatamente antes y después de haber reproducido la voz generada por estas tecnologías.
  

Como excepción a esta infracción se prevé la utilización de estas tecnologías cuando dicho uso esté “autorizad[o] por la ley para detectar, prevenir, investigar y perseguir infracciones penales o cuando el contenido forme parte de una obra o programa evidentemente creativo, satírico, artístico o de ficción”.

• Su artículo 2 propone modificar la Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, incorporando como intromisión ilegítima en el ámbito de protección delimitado por esta norma la difusión y utilización de deepfakes sin la previa autorización o consentimiento expreso de la persona o persona objeto de ellos, salvo que dichos deepfakes incluyan de forma clara y destacada una advertencia de su condición de imagen o audio generado artificialmente.

De nuevo, en el caso de imágenes/vídeos, esta advertencia debe figurar sobreimpresa y ser claramente legible y, en el caso de audios, la advertencia deberá ser audible y realizarse inmediatamente antes y después de haber reproducido la voz generada por estos sistemas.

• Su artículo 3 propone modificar el Código Penal, de forma que:

• Como delito de injuria, incorpora la acción consistente en recrear mediante tecnología deepfake para la pública difusión de la imagen corporal o audio de una persona, sin haber obtenido su autorización y con el afán de menoscabar el honor, fama, dignidad o la estimación de una persona.
• La difusión en redes sociales de las recreaciones realizadas mediante tecnología deepfake será calificado como injuria hecha con publicidad.

• Su artículo 4 propone modificar la Ley de Enjuiciamiento Civil, creando una medida cautelar específica consistente en “[l]a retirada de las simulaciones de imágenes, vídeos o voces de personas, generadas por sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial a petición de la persona afectada o sus representantes”.

• Su artículo 5 propone modificar la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales, regulando de forma expresa que la norma resulta de aplicación directa a aquellos tratamientos de datos personales generados por inteligencia artificial.

• Su artículo 6 propone modificar la Ley 3/1991, de 10 de enero, de Competencia Desleal, incorporando como conducta constitutiva de “actos de engaño” la utilización en comunicaciones comerciales de deepfakes o la modificación de las apariencias corporales utilizadas en dichas comunicaciones por sistemas de procesamiento de imágenes sin advertir de tales extremos en la propia comunicación comercial de una forma clara y sobresaliente.

• Su artículo 7 propone modificar la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General para añadir un nuevo régimen de delitos en la distribución maliciosa de imágenes y voces generadas mediante inteligencia artificial.

• En su disposición adicional primera sugiere la creación de un Consejo de Participación Ciudadana para la supervisión y evaluación de la Inteligencia Artificial y regula su composición orgánica y sus competencias.

Asimismo, en su disposición adicional segunda, sugiere la creación de un Consejo Consultivo sobre el uso de la Inteligencia Artificial, encargado de velar por el desarrollo normativo y reglamentario de las iniciativas legislativas necesarias para la protección de los derechos fundamentales y las libertades públicas. Esta disposición adicional segunda también regula su composición orgánica y sus competencias.