La incorporación de inteligencia artificial en la contratación pública debe alinearse no solo con los principios de la LCSP y de la normativa europea sobre contratación, sino también con los nuevos requisitos del Reglamento (UE) 2024/1689.
Las herramientas de IA que asistan o automaticen procesos que afecten a la participación, adjudicación o ejecución de contratos públicos tienen una alta probabilidad de ser consideradas sistemas de alto riesgo.
Esto implica nuevas obligaciones jurídicas para las entidades públicas, incluso si no son las desarrolladoras del sistema. La responsabilidad en la implementación de la IA exige aplicar protocolos de supervisión, transparencia, control de sesgos y garantía de derechos, de forma sistemática y documentada.
La transformación digital de la contratación pública es una oportunidad para innovar, pero debe construirse sobre una base de cumplimiento normativo sólido y con plena garantía de los principios que rigen la función pública.
En una publicación anterior realizábamos una propuesta de suite de herramientas de IA pensada para apoyar el ciclo completo de contratación pública, desde la planificación hasta la ejecución contractual (Aplicaciones de IA en contratación pública y licitaciones).
La IA en contratación pública podría ser considerada un sistema de alto riesgo.
El Reglamento (UE) 2024/1689, también denominado Reglamento de Inteligencia Artificial, establece en su artículo 6 y Anexo III una tipología de sistemas considerados de alto riesgo.
La IA aplicada a la contratación pública podría ser clasificada como de alto riesgo por los siguientes motivos:
- Impacto jurídico directo
Estas herramientas asisten —o en algunos casos automatizan parcialmente— decisiones administrativas que pueden tener efectos jurídicos o económicos sustanciales para los operadores económicos. Por ejemplo, excluir una oferta por incumplimiento documental o detectar una oferta anormalmente baja.
- Evaluación de personas jurídicas y cumplimiento normativo
El sistema analiza documentación presentada por licitadores, verifica requisitos de solvencia o cumplimiento de obligaciones fiscales y laborales, y detecta inconsistencias técnicas. Estas tareas podrían encajar con las actividades recogidas en el Anexo III, apartado 5 del Reglamento.
- Riesgo de sesgo y discriminación
La selección algorítmica de procedimientos o la evaluación automática de ofertas pueden introducir sesgos que afecten a la igualdad de trato entre licitadores, vulnerando principios esenciales del Derecho europeo de la contratación pública.
- Supervisión de ejecución contractual
La monitorización basada en IA durante la fase de ejecución puede afectar al cumplimiento de obligaciones contractuales o a la imposición de penalidades, lo que también tiene repercusión directa sobre derechos económicos de los adjudicatarios.
Obligaciones derivadas de la clasificación como sistema de alto riesgo
Una vez que una suite de IA se cataloga como sistema de alto riesgo, entran en juego las obligaciones previstas en el Reglamento, que afectan tanto a desarrolladores como a entidades públicas que la despliegan:
- Gestión y mitigación de riesgos
Es obligatorio establecer procedimientos formales para identificar, evaluar y mitigar riesgos asociados al uso del sistema durante todo su ciclo de vida.
- Gobernanza de datos
Los datos utilizados para entrenar o hacer funcionar el sistema deben ser representativos, pertinentes y libres de sesgos. Esto es especialmente importante cuando se trata de documentación de licitadores o métricas de evaluación.
- Documentación técnica y trazabilidad
La suite de IA debe contar con una documentación exhaustiva sobre su arquitectura, diseño, funcionamiento y decisiones algorítmicas, que permita una trazabilidad completa en caso de reclamación o auditoría.
- Transparencia e información
Debe garantizarse que los órganos de contratación comprendan cómo funciona el sistema y puedan explicar sus resultados. Además, debe informarse a los afectados de que están siendo evaluados mediante IA.
- Supervisión humana efectiva
El sistema no puede operar de forma autónoma. Debe existir supervisión por parte de personal cualificado, con capacidad real para modificar o anular decisiones automatizadas.
- Evaluación de conformidad previa
Antes de su implementación, el sistema debe superar un procedimiento de evaluación de conformidad. En muchos casos, esta evaluación deberá realizarse por organismos notificados independientes.
- Registro europeo obligatorio
Todo sistema de alto riesgo debe ser inscrito en la base de datos pública europea gestionada por la Comisión, con información sobre su funcionamiento, responsable y finalidad.
