Política de uso de la IA en Aragón

La IA se ha convertido en una herramienta clave para la modernización de las administraciones públicas. Su aplicación permite mejorar la eficiencia de los servicios, agilizar los procedimientos y ofrecer una atención más personalizada a la ciudadanía. Consciente de que, además de estas oportunidades, también existen riesgos asociados, el Gobierno de Aragón ha aprobado una Política de Uso de la IA, que establece las normas y principios que rigen su utilización en el ámbito público autonómico. Esta política garantiza un uso responsable, ético y legal de la IA, además de asegurar el respeto a los derechos fundamentales y promover la transparencia, la calidad y la seguridad en su implementación.

¿Por qué es necesaria una política de uso de la IA?

La IA engloba un conjunto de tecnologías en vertiginosa evolución, que pueden generar importantes beneficios económicos, sociales y medioambientales. Sin embargo, su uso inadecuado puede afectar a derechos fundamentales, como la privacidad, la igualdad de trato o la transparencia en la toma de decisiones administrativas.

La aprobación de esta política se enmarca, además, en el nuevo contexto normativo europeo, especialmente en el Reglamento (UE) 2024/1689 de IA, que establece normas armonizadas para garantizar un uso seguro, ético y fiable de estas tecnologías en toda la Unión Europea.

Ámbito de aplicación

La Política de Uso de la IA se aplica a:

• La Administración de la Comunidad Autónoma de Aragón.
• Sus organismos públicos y entidades vinculadas o dependientes.
• El personal empleado público.
• Las empresas proveedoras y entidades colaboradoras que desarrollen o utilicen sistemas de IA para la Administración autonómica.

De este modo, se asegura que cualquier sistema de IA que se implante en el sector público aragonés esté sujeto a los mismos criterios y garantías.

Principios que rigen el uso de la IA

La política establece una serie de principios básicos que deben cumplirse en todo el ciclo de vida de los sistemas de IA:

• Respeto a los derechos fundamentales de la ciudadanía.
• No discriminación en los resultados, equidad y acceso universal.
• Control humano efectivo, garantizando que las decisiones relevantes no queden exclusivamente en manos de sistemas automatizados.
• Transparencia y trazabilidad, de forma que las decisiones automatizadas puedan ser explicadas y auditadas.
• Protección de los datos personales y seguridad de la información.
• Cogobernanza dentro del Gobierno de Aragón y cooperación con otras entidades.

Estos principios buscan generar confianza en el uso de la IA y asegurar que la tecnología esté siempre al servicio del interés general.

Usos permitidos y usos prohibidos

La Política de Uso de la IA promueve la utilización de estas tecnologías para mejorar la gestión pública y los servicios a la ciudadanía, pero establece límites claros. En particular, se prohíbe expresamente el uso de sistemas de IA con fines fraudulentos, engañosos o contrarios al ordenamiento jurídico.

Asimismo, antes de implantar nuevos sistemas de IA, es obligatorio realizar evaluaciones previas que analicen su impacto legal, ético y organizativo, garantizando que sean conformes a derecho y respetuosos con los valores públicos.

Gobernanza y control

Para asegurar el cumplimiento de esta política, el Gobierno de Aragón ha creado un Marco de Gobernanza de la IA, que incluye dos órganos especializados:

• La Oficina de Gobernanza de la IA, encargada de emitir directrices, validar proyectos y supervisar el cumplimiento de los principios éticos y legales.
• La Oficina Técnica de la IA, responsable de la implementación técnica y operativa de los sistemas.

Cualquier sistema de IA que se quiera implantar en la Administración autonómica debe contar con el informe favorable de ambos órganos, lo que garantiza una supervisión rigurosa desde las fases iniciales del proyecto.

Un compromiso con una IA responsable

Con la aprobación de la Política de Uso de la IA, Aragón se sitúa entre las comunidades autónomas pioneras en dotarse de un marco claro y garantista para el uso de estas tecnologías en el sector público.

Este enfoque refuerza el compromiso del Gobierno de Aragón con una transformación digital responsable, que aprovecha el potencial de la IA para mejorar los servicios públicos, sin renunciar a la protección de los derechos, la transparencia y la confianza de la ciudadanía.