Diretrizes sobre a definição de «sistema de IA»

Seguindo o mandato do Regulamento da IA, a Comissão Europeia publicou no passado dia 7 de fevereiro umas  Diretrizes sobre a definição de um sistema de IA, com o objetivo de esclarecer o que constitui um sistema de IA e, portanto, a que sistemas se aplica o Regulamento.

A Comissão publicou também recentemente um repositório vivo de práticas de literacia em IA e umas Diretrizes sobre práticas de IA proibidas, com as quais a oferecendo assim orientações adicionais para a interpretação dos artigos 4.º e 5.º do Regulamento da IA, relativos à obrigação de literacia e às práticas proibidas no domínio da IA,  respetivamente. Pode consultar a nossa última publicação sobre este assunto aqui.

Nesta publicação, analisaremos alguns dos pontos-chave das Diretrizes da Comissão Europeia sobre a definição de um sistema de IA, que ainda estão pendentes de adoção formal. Note-se que, embora estas Diretrizes interpretativas não sejam vinculativas, podem influenciar substancialmente a interpretação do Regulamento da IA pelo Tribunal de Justiça da União Europeia, conferindo-lhes uma importância proeminente.

Principais elementos da definição de «sistema de IA»

De acordo com a definição elaborada pela Organização de Cooperação e de Desenvolvimento Económicos (OCDE), o artigo 3.º, n.º 1, do Regulamento da IA define «sistema de IA» como «um sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis e que pode apresentar capacidade de adaptação após a implantação e que,  para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais". Esta definição é composta por sete elementos:

1. Sistema baseado em máquinas: um sistema de IA que se baseia em máquinas no sentido de que requer componentes de hardware e software para o seu funcionamento. A integração destes componentes garante que o sistema funciona através de processos computacionais e operações impulsionadas por máquinas.
2. Níveis de autonomia: A autonomia, como consequência direta da capacidade de inferência, refere-se à medida em que um sistema pode executar tarefas e gerar resultados sem intervenção humana contínua. Que pode mostrar capacidade de adaptação após a implantação: Este critério refere-se à capacidade do sistema de modificar o seu comportamento após a implantação, permitindo que ele aprenda com os dados e refine os seus resultados de saída sem a necessidade de uma reprogramação manual. Este aspeto é particularmente relevante para modelos de machine learning e sistemas de IA generativa. No entanto, a Comissão esclareceu que, embora esta seja uma característica que pode ocorrer nos sistemas de IA, não é imprescindível de acordo com a definição do Regulamento de IA.
3. Que pode mostrar capacidade de adaptação após a implantação: Este critério refere-se à capacidade do sistema de modificar o seu comportamento após a implantação, permitindo que ele aprenda com os dados e refine os seus resultados de saída sem a necessidade de uma reprogramação manual. Este aspeto é particularmente relevante para modelos de machine learning e sistemas de IA generativa. No entanto, a Comissão esclareceu que, embora esta seja uma característica que pode ocorrer nos sistemas de IA, não é imprescindível de acordo com a definição do Regulamento de IA.
4. Objetivos: Os objetivos podem ser explícitos (diretamente inseridos no sistema) ou implícitos (deduzidos do comportamento ou das assunções subjacentes do sistema, e que podem derivar de dos dados de formação ou da interação com o ambiente). Os objetivos de um sistema de IA devem ser diferenciados da finalidade pretendida do sistema: a primeira seria interna ao sistema, referindo-se às metas das tarefas a serem executadas e os seus resultados, enquanto que a finalidade pretendida é externa e refere-se ao uso para o qual o sistema está concebido e como este deve ser operado.
5. nferência na geração de resultados: Uma característica determinante dos sistemas de IA de acordo com o Regulamento é a sua capacidade de inferir como gerar resultados a partir de dados de entrada, distinguindo-os de sistemas que executam apenas regras predefinidas. A Comissão Europeia descreve as técnicas de desenvolvimento que permitiriam dotar os sistemas de capacidades de inferência, tais como técnicas de machine learning (incluindo técnicas supervisionadas, não supervisionadas, autosupervisionadas, de reforço e de deep learning) e técnicas baseadas em lógica e conhecimentos especializados.
6. Tipos de resultados:  Os sistemas de IA geram uma gama de resultados, incluindo previsões (estimativas baseadas em dados de entrada), conteúdos (geração de texto, imagem ou música), recomendações (sugestões baseadas em dados do utilizador) e decisões (conclusões ou escolhas feitas pelo sistema através de um processo totalmente automatizado sem intervenção humana).
7. Influenciar ambientes físicos ou virtuais:  os sistemas de IA têm um impacto ativo nos seus ambientes, influenciando domínios físicos (como a robótica e as máquinas automatizadas), espaços virtuais (incluindo fluxos de dados e ecossistemas de software), ou em ambos. 

Sistemas excluídos da definição de IA

As Diretrizes esclarecem que determinados sistemas não se enquadram no âmbito da definição de sistema de IA porque têm uma capacidade de inferência limitada. Estes incluem:

• Sistemas para melhorar a otimização matemática ou para acelerar e aproximar métodos tradicionais de otimização, como métodos de regressão linear ou logística. Por exemplo, sistemas utilizados em simulações físicas ou na gestão de recursos de comunicação por satélite.
• Sistemas básicos de processamento de dados, que seguem regras pré-definidas sem aprender, raciocinar ou adaptar. Exemplos incluem software de gestão de bancos de dados, aplicações de folhas de cálculo e ferramentas estatísticas usadas exclusivamente para visualização de dados ou teste de hipóteses.
• Sistemas heurísticos baseados em regras, que segue instruções ou operações predefinidas e explícitas. Estes sistemas são desenvolvidos e implementados para executar tarefas com base em entradas manuais ou regras, sem qualquer “aprendizagem, raciocínio ou modelagem” em qualquer fase do ciclo de vida do sistema. Um programa de xadrez que utiliza um algoritmo predefinido sem configurações orientadas por dados enquadrar-se-ia nesta categoria.
• Sistemas de previsão simples que geram previsões estatísticas básicas, como estimar os preços das ações com base em médias históricas (benchmarking financeiro) ou estimar as vendas diárias com base em dados históricos. 

A Comissão sublinha que nenhuma classificação automática ou lista exaustiva pode determinar definitivamente quais os sistemas abrangidos ou não por esta definição. Em vez disso, cada caso deve ser avaliado individualmente com base nas suas características e capacidades.

Recordamos que no passado dia 2 de fevereiro, passaram a ser aplicáveis as disposições do Regulamento da IA, incluídas nos capítulos I (Disposições Gerais) e II (Práticas de IA Proibidas) (Consulte aqui a nossa publicação sobre o início da aplicabilidade parcial do Regulamento da IA e aqui o nosso Guia Prático do Regulamento da IA).

Lavínia Pinto Marques, Mireia Sala, com a colaboração de Gaizka Monje Gutiérrez