IA Act en Administraciones Públicas y Ayuntamientos: cómo cumplir con el Reglamento Europeo de Inteligencia Artificial
El AI Act en Administraciones Públicas ya es una cuestión relevante para Ayuntamientos, diputaciones, organismos autónomos y otras entidades del sector público. La inteligencia artificial se está incorporando para analizar documentación, preparar borradores, localizar normativa, resumir expedientes, asistir a empleados públicos y mejorar determinados servicios al ciudadano.
Pero esta incorporación plantea una pregunta fundamental: ¿puede una Administración Pública utilizar cualquier herramienta de inteligencia artificial?
La respuesta es no.
El Reglamento Europeo de Inteligencia Artificial establece obligaciones diferentes en función del sistema utilizado, su finalidad, el nivel de riesgo y el papel que desempeñe la Administración.
Por eso, cumplir con el AI Act en Administraciones Públicas exige analizar qué sistemas de IA se utilizan, para qué se utilizan, qué datos procesan y qué controles deben establecerse en cada caso.
¿Qué es el AI Act y cómo afecta a las Administraciones Públicas?
El AI Act, o Reglamento Europeo de Inteligencia Artificial, es la normativa europea que establece obligaciones diferentes en función de los riesgos asociados a cada sistema y a su utilización.
Esto significa que no todas las herramientas de IA están sometidas a las mismas exigencias.
Una Administración que utiliza inteligencia artificial para ayudar a resumir documentación interna no se encuentra necesariamente en la misma situación que otra que utiliza un sistema para intervenir en procesos que afectan a derechos, acceso a prestaciones o decisiones sobre ciudadanos.
Por ello, uno de los primeros pasos para cualquier organismo público debería ser identificar y clasificar los sistemas de inteligencia artificial que utiliza.
La cuestión ya no es únicamente si una Administración utiliza IA, sino cómo la utiliza, con qué datos, para qué finalidad y bajo qué controles.
¿A qué organismos públicos puede afectar el AI Act?
El cumplimiento del Reglamento de Inteligencia Artificial puede resultar relevante para prácticamente cualquier organismo del sector público que incorpore soluciones basadas en IA.
Entre otros:
- Ayuntamientos y entidades locales.
- Diputaciones provinciales.
- Cabildos y consejos insulares.
- Comunidades autónomas y sus organismos.
- Empresas y entidades públicas.
- Organismos autónomos.
- Universidades públicas.
- Consorcios y mancomunidades.
- Departamentos de Urbanismo, Contratación, Recursos Humanos, Servicios Sociales, Secretaría o Intervención.
El nivel concreto de obligaciones dependerá fundamentalmente de qué sistema se utilice y cuál sea su finalidad.
¿Qué debería hacer un Ayuntamiento para cumplir con el AI Act?
No existe una única medida que permita afirmar automáticamente que una entidad local cumple con el Reglamento.
El enfoque adecuado pasa por construir un sistema interno de gobernanza y control de la inteligencia artificial.
1. Crear un inventario de herramientas de inteligencia artificial
El primer problema de muchas organizaciones es que desconocen cuántas herramientas de IA están utilizando realmente sus equipos.
Chatbots generalistas, asistentes integrados en aplicaciones, herramientas jurídicas, soluciones para transcribir reuniones, generación de documentos, análisis de datos o automatización de procedimientos pueden incorporar inteligencia artificial.
Por ello, resulta recomendable elaborar un inventario de sistemas y herramientas de IA utilizados por la organización.
Para cada herramienta deberían identificarse, al menos:
- Proveedor.
- Finalidad.
- Departamento que la utiliza.
- Usuarios autorizados.
- Tipología de información introducida.
- Existencia de datos personales o información confidencial.
- Integración con otros sistemas.
- Posible impacto sobre ciudadanos.
- Nivel de supervisión humana.
Este inventario constituye una buena base para desarrollar posteriormente el mapa de riesgos.
2. Clasificar los usos de IA según su riesgo
El AI Act adopta un enfoque basado en riesgos.
Por tanto, un Ayuntamiento debería analizar individualmente los diferentes casos de uso y determinar qué régimen jurídico resulta aplicable.
Especial atención requieren los sistemas que puedan utilizarse en ámbitos sensibles o intervenir en procesos capaces de producir efectos relevantes sobre las personas.
La Administración debe preguntarse:
¿La IA simplemente ayuda al empleado público o condiciona una decisión administrativa?
La diferencia puede ser jurídicamente muy importante.
Cuanto mayor sea el impacto potencial de la herramienta sobre derechos o intereses de los ciudadanos, mayor deberá ser el nivel de análisis, documentación, control y supervisión.
3. Establecer una política interna de uso de inteligencia artificial
Una entidad pública no debería limitarse a contratar herramientas de IA y permitir que cada empleado decida libremente cómo utilizarlas.
Resulta recomendable aprobar una política interna de inteligencia artificial que determine, entre otras cuestiones:
- Qué herramientas están autorizadas.
- Qué usos están permitidos.
- Qué información puede introducirse.
- Qué datos no deben incorporarse.
- Cuándo es necesaria supervisión humana.
- Cómo deben verificarse las respuestas generadas.
- Qué procedimiento seguir ante errores o incidentes.
- Quién es responsable de supervisar la utilización de IA.
Estas reglas permiten reducir riesgos y establecer criterios homogéneos para toda la organización.
4. Formar a funcionarios y empleados públicos en inteligencia artificial
Uno de los aspectos especialmente relevantes del AI Act es la alfabetización en materia de IA.
No basta con proporcionar acceso a una herramienta. Las organizaciones deben prestar atención a que las personas que utilizan sistemas de inteligencia artificial dispongan de conocimientos adecuados en función del contexto y del uso.
En una Administración Pública, esta formación debería abordar cuestiones como:
- Funcionamiento básico de los sistemas de IA.
- Riesgo de respuestas incorrectas o alucinaciones.
- Protección de datos.
- Confidencialidad.
- Verificación de fuentes.
- Sesgos.
- Supervisión humana.
- Buenas prácticas de prompting.
- Limitaciones de la inteligencia artificial generativa.
Un empleado público debe entender que una respuesta generada por IA no debe convertirse automáticamente en una decisión administrativa.
5. Coordinar AI Act y protección de datos
El cumplimiento del AI Act no sustituye al Reglamento General de Protección de Datos.
Una herramienta puede plantear simultáneamente obligaciones derivadas del AI Act, RGPD y normativa española de protección de datos, además de otras normas sectoriales.
Antes de introducir información personal en una herramienta de inteligencia artificial deberían analizarse cuestiones como la base jurídica del tratamiento, finalidad, minimización de datos, conservación, acceso, proveedores, encargados del tratamiento, transferencias internacionales y medidas de seguridad.
En determinados supuestos también puede ser necesario valorar la realización de una evaluación de impacto relativa a la protección de datos (EIPD).
Por ello, la implantación de IA en una Administración no debería abordarse únicamente desde el departamento de tecnología.
Secretaría, servicios jurídicos, protección de datos, seguridad, contratación y responsables de los departamentos afectados pueden necesitar participar en el modelo de gobernanza.
6. Mantener supervisión humana
Uno de los principios esenciales para una utilización responsable de la inteligencia artificial en el sector público es mantener un nivel adecuado de supervisión humana.
La IA puede ayudar a:
analizar expedientes, localizar normativa, comparar documentos, generar borradores, resumir información o detectar elementos relevantes.
Pero el resultado debe ser revisado cuando pueda afectar a una actuación administrativa o jurídica.
La inteligencia artificial debe funcionar como herramienta de apoyo al empleado público, no como una fuente automáticamente infalible.
7. Controlar especialmente el uso de IA generativa
La popularización de ChatGPT y otros modelos generativos ha provocado que muchos empleados utilicen IA incluso antes de que sus organizaciones hayan establecido políticas internas.
Esto genera lo que habitualmente se denomina Shadow AI: utilización de herramientas de inteligencia artificial fuera del conocimiento o control de la organización.
En una Administración Pública puede representar un riesgo importante.
Un funcionario podría introducir inadvertidamente información personal, documentación confidencial, expedientes administrativos o datos internos en una plataforma que no ha sido previamente evaluada.
Por ello, las entidades públicas deberían establecer claramente qué herramientas pueden utilizarse y bajo qué condiciones.
Inteligencia artificial jurídica en Ayuntamientos y entidades locales
Uno de los ámbitos donde la IA puede aportar un mayor incremento de productividad es el jurídico.
Los servicios jurídicos, secretarías municipales y otros departamentos trabajan diariamente con enormes cantidades de normativa, jurisprudencia, expedientes y documentación administrativa.
Una inteligencia artificial jurídica puede ayudar a localizar normativa aplicable, analizar documentación, preparar borradores, investigar cuestiones jurídicas o contrastar información.
Pero precisamente porque se trata de información jurídica, la fiabilidad de las respuestas y de las fuentes utilizadas resulta especialmente importante.
Un modelo generalista puede generar una respuesta aparentemente convincente y, sin embargo, incorporar una norma incorrecta, una sentencia inexistente o una interpretación que no corresponda al ordenamiento aplicable.
Por eso, la adopción de IA jurídica por el sector público debería valorar no solo la potencia del modelo, sino también cuestiones como trazabilidad de las fuentes, actualización normativa, verificación de jurisprudencia, seguridad y mecanismos para reducir alucinaciones.
Prudencia: inteligencia artificial jurídica para Administraciones Públicas
Prudencia está diseñada específicamente para trabajar con información jurídica y permitir que profesionales jurídicos, empresas y Administraciones Públicas utilicen inteligencia artificial sobre fuentes jurídicas.
A diferencia de utilizar únicamente un modelo generalista, Prudencia combina inteligencia artificial con infraestructura específicamente orientada al conocimiento jurídico.
Entre sus capacidades se encuentran la búsqueda y análisis de normativa y jurisprudencia, investigación jurídica, análisis documental, expedientes, herramientas de verificación y acceso a fuentes jurídicas.
Para una Administración Pública, el objetivo no debería ser simplemente “tener IA”.
El objetivo debería ser disponer de herramientas que permitan aumentar la productividad manteniendo criterios adecuados de fiabilidad jurídica, seguridad, trazabilidad y supervisión humana.
Checklist de cumplimiento del AI Act para Ayuntamientos
Una entidad local que quiera empezar a ordenar su estrategia de inteligencia artificial puede comenzar respondiendo a estas preguntas:
¿Sabemos qué herramientas de IA utilizan nuestros empleados?
¿Tenemos identificada la finalidad de cada sistema?
¿Hemos analizado el nivel de riesgo de cada caso de uso?
¿Existe una política interna de utilización de IA?
¿Los empleados han recibido formación sobre IA y sus riesgos?
¿Sabemos qué información puede introducirse en cada herramienta?
¿Hemos analizado las implicaciones en materia de RGPD y seguridad?
¿Existe supervisión humana sobre los resultados?
¿Podemos identificar y documentar los sistemas utilizados?
¿Tenemos procedimientos para detectar y gestionar incidentes?
Si la respuesta a varias de estas preguntas es negativa, probablemente exista margen para mejorar la gobernanza de IA de la organización.
Preguntas frecuentes sobre AI Act y Administraciones Públicas
¿El AI Act se aplica a los Ayuntamientos?
Sí. Las Administraciones Públicas no quedan, con carácter general, fuera del Reglamento de Inteligencia Artificial. Las obligaciones concretas dependerán del sistema utilizado, de la posición que ocupe la entidad respecto del sistema y de la finalidad para la que se utilice.
¿Puede un Ayuntamiento utilizar ChatGPT u otra IA generativa?
El uso de una herramienta de IA generativa debe analizarse atendiendo al caso de uso, la información introducida, la protección de datos, la confidencialidad, la seguridad y las obligaciones que resulten aplicables. La disponibilidad pública de una herramienta no significa que cualquier utilización administrativa sea automáticamente adecuada.
¿Es obligatorio formar a los empleados públicos en inteligencia artificial?
El AI Act incorpora obligaciones relacionadas con la alfabetización en materia de IA. Por ello, las organizaciones que utilizan sistemas de inteligencia artificial deben prestar especial atención a la formación y conocimientos de las personas encargadas de utilizarlos.
¿AI Act y RGPD son lo mismo?
No. Son marcos regulatorios diferentes y pueden aplicarse simultáneamente. Cumplir el AI Act no implica automáticamente cumplir el RGPD, ni al contrario.
¿Puede utilizarse IA para tomar decisiones administrativas?
Dependerá del sistema y del caso de uso. Cuando la IA interviene en ámbitos susceptibles de afectar significativamente a las personas, el análisis jurídico y de riesgos debe ser especialmente riguroso. No debería confundirse una herramienta de asistencia con la sustitución automática del criterio y las garantías propias de la actuación administrativa.
¿Cómo empezar a implantar IA de forma responsable en un Ayuntamiento?
Un buen punto de partida es realizar un inventario de sistemas de IA, identificar casos de uso, evaluar riesgos, establecer una política interna, formar al personal, analizar protección de datos y seguridad y definir mecanismos claros de supervisión humana.
Del cumplimiento a una estrategia pública de inteligencia artificial
El AI Act no debería contemplarse únicamente como una nueva obligación regulatoria.
Para las Administraciones Públicas también representa una oportunidad para ordenar la adopción de inteligencia artificial y evitar que su implantación se produzca de manera descontrolada.
Los Ayuntamientos que establezcan desde ahora una adecuada gobernanza podrán incorporar progresivamente herramientas de IA para agilizar expedientes, reducir tareas repetitivas, mejorar el análisis jurídico y aumentar la productividad de los empleados públicos, manteniendo al mismo tiempo las garantías que exige la actuación administrativa.
La cuestión ya no es si la inteligencia artificial llegará a las Administraciones Públicas.
Ya está llegando.
La cuestión es cómo utilizarla con seguridad, criterio jurídico y responsabilidad.
Prudencia para Administraciones Públicas
Prudencia permite acercar la inteligencia artificial jurídica a Ayuntamientos, entidades locales y otros organismos públicos mediante una solución específicamente orientada al trabajo jurídico.
Si tu Administración está estudiando cómo incorporar inteligencia artificial en sus servicios jurídicos o quiere conocer las posibilidades de la IA aplicada a normativa, jurisprudencia, expedientes y documentación administrativa, solicita una demostración de Prudencia para Administraciones Públicas.
