Directrices sobre la definición de “sistema de IA”

Siguiendo el mandato del Reglamento de IA, la Comisión Europea publicó el pasado 7 de febrero unas Directrices sobre la Definición de Sistema de IA, con el fin de aclarar qué constituye un sistema de IA y por tanto, a qué sistemas resultaría de aplicación el Reglamento.

Asimismo, la Comisión publicó recientemente un repositorio vivo sobre prácticas de alfabetización en materia de IA, y unas Directrices sobre Prácticas Prohibidas de IA, ofreciendo así orientaciones para la interpretación de los arts. 4 y 5 del Reglamento de IA, relativos a la obligación de alfabetización y a las prácticas prohibidas en materia de IA, respectivamente. Puede consultarse aquí nuestra última publicación al respecto.

En esta publicación analizaremos algunos de los puntos clave de las Directrices de la Comisión Europea sobre la definición de sistema de IA, que todavía se encuentran pendientes de su adopción formal. Cabe destacar que, aunque estas directrices interpretativas no son vinculantes, pueden influir substancialmente en la interpretación última del Tribunal de Justicia de la Unión Europea sobre el Reglamento de IA, lo que les otorga una destacada importancia. 

Principales elementos de la definición de "sistema de IA"

Siguiendo la definición elaborada por la Organización para la Cooperación y el Desarrollo Económicos (OCDE), el artículo 3, apartado 1, del Reglamento de IA define un «sistema de IA» como «un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe, la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales». Esta definición se compone de siete elementos:

1. Sistema basado en una máquina: Un sistema de IA se basa en máquinas en el sentido de que requiere de componentes de hardware y software para su funcionamiento. La integración de estos componentes garantiza que el sistema funcione a través de procesos computacionales y operaciones impulsadas por máquinas.
2. Niveles de autonomía: La autonomía, como consecuencia directa de la capacidad de inferencia, se refiere a la medida en que un sistema puede realizar tareas y generar resultados sin intervención humana continua.
3. Que puede mostrar capacidad de adaptación tras el despliegue: Este criterio se refiere a la capacidad del sistema para modificar su comportamiento después del despliegue, lo que le permite aprender de los datos y refinar sus resultados de salida sin necesidad de reprogramación manual. Este aspecto es particularmente relevante para los modelos de machine learning y los sistemas de IA generativa. No obstante, la Comisión ha aclarado que si bien esta es una característica que puede darse en los sistemas de IA, no resulta imprescindible de acuerdo con la definición del Reglamento de IA.
4. Objetivos: Los objetivos pueden ser explícitos (directamente introducidos en el sistema) o implícitos (deducidos del comportamiento o de las asunciones subyacentes del sistema, y que pueden derivar de los datos de entrenamiento o de la interacción con el entorno). Los objetivos de un sistema de IA deben diferenciarse de la finalidad prevista del sistema: los primeros son internos al sistema, refiriéndose a las metas de las tareas a realizar y a sus resultados, mientras que la finalidad prevista es externa y se refiere al uso para el que el sistema está diseñado y a cómo este debe ser operado.
5. Inferencia en la generación de resultados: Una característica definitoria de los sistemas de IA en virtud del Reglamento es su capacidad para inferir cómo generar resultados a partir de datos de entrada, a diferencia de los sistemas que únicamente ejecutan reglas predefinidas. La Comisión Europea describe las técnicas de desarrollo que permitirían dotar a los sistemas de capacidad de inferencia, como el machine learning (incluido el aprendizaje supervisado, no supervisado, autosupervisado, de refuerzo, y las técnicas de deep learning) y las técnicas basadas en lógica y conocimiento experto.
6. Tipos de resultados:  Los sistemas de IA generan una serie de resultados de salida, entre los que se incluyen predicciones (estimaciones basadas en datos de entrada), contenido (generación de texto, imagen o música), recomendaciones (sugerencias basadas en datos de usuario) y decisiones (conclusiones o elecciones realizadas por el sistema a través de un proceso totalmente automatizado sin intervención humana).
7. Influencia en entornos físicos o virtuales:  Los sistemas de IA tienen un impacto activo en sus entornos, influyendo en el ámbito físico (como la robótica y la maquinaria automatizada), en los espacios virtuales (incluidos los flujos de datos y los ecosistemas de software), o en ambos.

Sistemas excluidos de la definición de IA

Las Directrices aclaran que determinados sistemas quedan fuera del ámbito de aplicación de la definición de sistema de IA por presentar una limitada capacidad de inferencia. Entre ellos se encuentran:

• Sistemas para mejorar la optimización matemática o para acelerar y aproximar métodos de optimización tradicionales, como los métodos de regresión lineal o logística. Por ejemplo, los sistemas utilizados en simulaciones físicas o en la gestión de recursos de comunicación por satélite.
• Sistemas básicos de procesamiento de datos, que siguen reglas predefinidas sin aprender, razonar ni adaptarse. Algunos ejemplos son el software de gestión de bases de datos, las aplicaciones de hojas de cálculo y las herramientas estadísticas utilizadas únicamente para la visualización de datos o la comprobación de hipótesis.
• Sistemas heurísticos basados en reglas, que siguen instrucciones u operaciones predefinidas y explícitas. Estos sistemas se desarrollan e implementan para realizar tareas basadas en entradas o reglas manuales, sin ningún "aprendizaje, razonamiento o modelado" en ninguna etapa del ciclo de vida del sistema. Un programa de ajedrez que utiliza un algoritmo predefinido sin ajustes basados en datos se encuadraría en esta categoría.
• Sistemas de predicción simples que generan pronósticos estadísticos básicos, como la estimación de precios de acciones basados en promedios históricos (benchmarking financiero), o la estimación de ventas diarias basadas en datos históricos.

La Comisión subraya que ninguna clasificación automática o lista exhaustiva puede determinar definitivamente qué sistemas entran dentro o fuera de esta definición. En cambio, cada caso deberá evaluarse individualmente en función de sus características y capacidades.

Cabe recordar que el pasado 2 de febrero empezaron a ser aplicables las disposiciones del Reglamento de IA incluidas en los Capítulos I (Disposiciones Generales) y II (Prácticas de IA Prohibidas) del mismo (puede consultarse aquí la publicación relativa al inicio de aplicación parcial del Reglamento de IA y aquí nuestra Guía práctica del Reglamento de IA).

Mireia Sala, con la colaboración de Gaizka Monje Gutiérrez