Desafíos de la adopción de la IA en el sector público

La inteligencia artificial (IA) tiene un potencial transformador para optimizar la eficiencia, mejorar la calidad de los servicios y fomentar la innovación en la gestión del sector público. Sin embargo, su implementación también presenta desafíos significativos que deben ser abordados para diseñar planes de acción efectivos y responsables por parte de las administraciones públicas.

En este contexto, la Comisión Europea ha publicado recientemente un estudio titulado "Competencias y prácticas de gobernanza para la inteligencia artificial en el sector público", que ofrece un análisis detallado de las competencias y las prácticas de gobernanza que se requieren para la adopción y el uso efectivos de la IA en el sector público en la Unión Europea (UE).

El documento presenta dos marcos integrales: uno para las competencias clave y otro para las prácticas de gobernanza necesarias. Además, propone seis recomendaciones, desglosadas en 18 acciones, para desarrollar las competencias y las prácticas de gobernanza necesarias para la IA en el sector público en Europa.

Contexto: casos de uso de IA en el sector público europeo

En su estudio, la Comisión Europea ha destacado algunos de los ejemplos más sonados de adopción de IA en el sector público en Europa:

• El municipio de Gladsaxe, en Dinamarca, fue pionero en la aplicación de IA en servicios públicos. En 2017 experimentó con un sistema algorítmico para identificar a niños en riesgo de abuso, aunque el proyecto fue abandonado en 2019 debido a preocupaciones sobre privacidad de datos y transparencia. En diciembre de 2023 lanzaron 'GladGPT', un chatbot interno basado en la tecnología de OpenAI ChatGPT 4, diseñado para asistir a los empleados en las tareas administrativas.
• En Italia, el Instituto Nacional de Seguridad Social (INPS) ha implementado un sistema de IA para clasificar correos electrónicos, mejorando la eficiencia y precisión en la respuesta a los ciudadanos
• El municipio de Ámsterdam ha establecido un registro de IA que proporciona un método estandarizado para registrar las decisiones y suposiciones subyacentes a lo largo del ciclo de vida de los algoritmos utilizados. Asimismo, han implementado IA en áreas como la anticipación de delitos, la detección de fraudes en alquileres vacacionales y la gestión de residuos.

Competencias para la inteligencia artificial en el sector público

El estudio de la Comisión identifica tres grupos de competencias necesarias para las personas que se ocupan de la IA en el sector público: competencias tecnológicas, gerenciales y políticas, legales y éticas.

Además, establece una clasificación adicional de estas en atención a su nivel de abstracción, incluyendo tanto aspectos operativos y habilidades funcionales, como atributos más abstractos, como valores y actitudes. Así, también propone agrupar las competencias en tres grupos transversales: competencias actitudinales (“por qué”), operativas (“cómo”) y de alfabetización (“qué”).

• Las competencias tecnológicas se refieren a las habilidades, el conocimiento y los comportamientos necesarios para trabajar con la tecnología de la IA en el sector público. Incluyen competencias de alfabetización, como la comprensión de los fundamentos del aprendizaje automático; competencias operativas, como la gestión de datos, el análisis de datos o la programación de software relacionado con la IA; y competencias actitudinales, como la curiosidad tecnológica, la actitud positiva hacia la IA o el pensamiento de diseño técnico.
• Las competencias gerenciales se refieren a las habilidades, el conocimiento y los comportamientos necesarios para gestionar los proyectos, los equipos y los recursos relacionados con la IA en el sector público. Incluyen competencias operativas, como la formulación de objetivos, la evaluación del rendimiento, la gestión de riesgos o la colaboración con expertos en dominios, y competencias actitudinales, como el liderazgo, la visión de futuro, la proclividad al riesgo o la capacidad de delegar en la IA.
• Las competencias políticas, legales y éticas se refieren a las habilidades, el conocimiento y los comportamientos necesarios para abordar los aspectos políticos, legales y éticos de la IA en el sector público. Incluyen competencias de alfabetización, como la comprensión de los marcos legales y éticos, la formulación de políticas públicas o la experiencia legal especializada, competencias operativas, como la formulación de políticas compatibles con la IA, la auditoría, la difusión o la colaboración con expertos en ética de la IA, y competencias actitudinales, como la conciencia de las implicaciones éticas, la evaluación crítica de la tecnología o el diseño de políticas.

Prácticas de gobernanza para la inteligencia artificial en el sector público

Las prácticas de gobernanza hacen referencia a la capacidad organizativa para controlar el diseño y la implementación de la estrategia tecnológica y, de este modo, garantizar que haya una fusión entre los objetivos organizativos y la tecnología utilizada.

Las prácticas de gobernanza se clasifican en tres dimensiones: prácticas procedimentales, estructurales y relacionales, con tres niveles correspondientes de gobernanza: estratégico, táctico y operativo.

• Las prácticas procedimentales se refieren a los procesos y protocolos que se establecen para garantizar el uso adecuado y eficaz de la IA en el sector público. Incluyen: a nivel estratégico, el desarrollo de directrices éticas para la IA, la creación de protocolos de cumplimiento y la formulación de procedimientos de rendición de cuentas; a nivel táctico, la minimización de la autorización para acceder a los datos, la supervisión del uso de la IA; y a nivel operativo, la gestión del ciclo de vida de la IA y la definición de procesos para la reutilización de modelos.
• Las prácticas estructurales se centran en la definición de los responsables de la toma de decisiones clave y la asignación de sus roles y responsabilidades correspondientes. Estas prácticas comprenden, a nivel estratégico, el establecimiento de comités de ética independientes, el desarrollo de un código de conducta ético y la creación de un departamento de ciberseguridad; a nivel táctico, la implementación de barreras de seguridad para prevenir el uso indebido o el establecimiento de registros algorítmicos; y a nivel operativo, la participación de los usuarios finales en el desarrollo y evaluación de la IA.
• Las prácticas relacionales abarcan aspectos complementarios, pero igualmente importantes, de la gobernanza tecnológica que se refieren a los tipos de vínculos entre y dentro de los grupos de interés importantes. Estas prácticas abarcan, a nivel estratégico, la educación y formación de los interesados, y la promoción de esfuerzos colaborativos entre los interesados; a nivel táctico, la negociación y contratación con proveedores; y a nivel operativo medidas como el establecimiento de comunidades de práctica, para la transferencia de conocimientos.

Recomendaciones de la Comisión Europea para la IA en el sector público

La Comisión Europea ha formulado una serie de recomendaciones para fomentar el desarrollo de competencias y prácticas de gobernanza en el ámbito de la inteligencia artificial (IA) dentro del sector público en Europa. Estas recomendaciones se dividen en seis áreas principales, cada una de las cuales se desglosa en acciones específicas para su implementación efectiva.

En primer lugar, se destaca la importancia de desarrollar programas de formación interdisciplinaria en competencias de IA. Para ello, se propone la incorporación de módulos de IA en los programas de formación ya existentes en el sector público, así como la creación de vías de formación especializadas que se adapten a los diferentes roles dentro del sector público. Además, se subraya la necesidad de contar con colaboradores académicos e industriales para asegurar una formación integral y actualizada en IA.

Otra recomendación clave es la promoción de la investigación interdisciplinaria aplicada sobre competencias de IA. Esto implica financiar proyectos de investigación que se centren en las competencias necesarias para la IA en el sector público, establecer consorcios de investigación que aborden estas competencias y fomentar el intercambio de conocimientos y la difusión de los resultados de estas investigaciones.

Asimismo, la Comisión Europea sugiere establecer procesos de contratación específicos y destinar recursos adicionales para atraer especialistas con competencias en IA. Esto incluye desarrollar una estrategia de reclutamiento de talento en IA específica para el sector público, crear programas de prácticas en IA dirigidos a jóvenes, y mejorar la colaboración con centros de investigación y centros de innovación en IA.

También se recomienda desarrollar redes que faciliten la comunicación y colaboración. Esto se puede lograr creando conexiones con las partes interesadas relevantes, desplegando plataformas digitales que permitan una comunicación y colaboración efectiva entre las entidades involucradas, y financiando proyectos conjuntos entre entidades públicas y privadas.

Para fomentar un entorno de aprendizaje activo y desarrollo de capacidades en la gobernanza responsable de la IA, se sugiere desarrollar material educativo que explique cómo integrar prácticas responsables de IA en la gobernanza. Además, se recomienda organizar seminarios temáticos que aborden aspectos a considerar durante la gobernanza de la IA y crear una base de datos para la recopilación de mejores prácticas que esté disponible para los profesionales del sector.

Finalmente, se enfatiza la necesidad de habilitar procesos de participación de las partes interesadas. Esto incluye facilitar foros nacionales que involucren a diferentes partes interesadas, requerir que los organismos públicos incluyan a estas partes en los proyectos de IA, y financiar proyectos de creación conjunta de IA en áreas críticas de la administración pública.

Estas recomendaciones de la Comisión Europea buscan no solo mejorar las competencias y prácticas de gobernanza en IA dentro del sector público, sino también asegurar que la implementación de estas tecnologías se realice de manera ética y responsable.

Conclusiones

La adopción de la inteligencia artificial en el sector público presenta tanto oportunidades como desafíos. Los casos de Gladsaxe, Italia y Ámsterdam demuestran cómo la IA puede mejorar la eficiencia y la calidad de los servicios públicos, aunque también subrayan la importancia de abordar cuestiones de privacidad, transparencia y ética. La UE ha establecido un marco legislativo y diversas iniciativas para apoyar esta transición, pero corresponde a las administraciones públicas desarrollar las competencias necesarias y adoptar prácticas de gobernanza adecuadas para garantizar un uso responsable y efectivo de la IA.