Informe
Por qué los gobiernos compran mal la IA
Puntos clave
- La mala compra de IA es estructural: el régimen fue diseñado para bienes que no cambian después de entregados.
- El costo dominante está después de la firma; los contratos típicos presupuestan casi solo el desarrollo.
- Los datos son la cláusula más cara de omitir: deciden si la entidad puede cambiar de proveedor o siquiera operar al terminar el contrato.
- Ningún piloto sin fecha de fin y criterios de evaluación pactados de antemano.
- Las diez cláusulas son texto adaptable hoy, no aspiración regulatoria.
Un puente mal comprado se cae y se investiga. Un sistema de IA mal comprado opera mal durante años, en silencio. Ocho causas estructurales — y las diez cláusulas que ningún contrato debería omitir.
Cuando un gobierno compra mal un puente, el puente se cae y la causa se investiga. Cuando compra mal un sistema de inteligencia artificial, el sistema opera —mal— durante años: decide sobre personas con criterios que nadie en la entidad puede explicar, genera costos que nadie presupuestó y crea una dependencia que nadie pactó. La mala compra de IA no falla con estruendo; falla en silencio y a plazo.
El problema es estructural. El régimen de compra pública presupone objetos definibles antes de comprar, verificables al recibir y estables después de entregados. Un sistema de IA no cumple ninguna de las tres condiciones: su desempeño depende de datos que cambian, su calidad solo se observa operando, y su comportamiento se modifica con cada actualización.
Las ocho causas
De ese desajuste nacen ocho causas que se repiten entre países con regímenes distintos. Antes de comprar: se especifican medios y no problemas (el pliego pide “una solución con aprendizaje profundo” en lugar de definir resultados) y la asimetría de información deja al comprador sin forma de distinguir producto de promesa. Al contratar: el ciclo de vida no cabe en el contrato (se presupuesta el desarrollo; el sistema exige operación, monitoreo y reentrenamiento durante años), los datos quedan mal pactados (¿de quién son los datos que la operación genera? ¿puede el proveedor usarlos para otros clientes?) y no hay salida (sin portabilidad pactada, la renovación no se negocia: se acata). Al operar: la evaluación sin capacidad técnica, el secreto comercial contra la transparencia pública —cláusulas que impiden a la entidad explicar su propio sistema ante un juez— y el piloto eterno, que escala sin competencia ni evaluación.
La séptima causa merece pausa: si el contrato permite al proveedor oponer confidencialidad frente a la propia entidad, ninguna política de transparencia posterior lo revierte. El caso Horizon británico —dos décadas de dependencia probatoria de un sistema que ni la entidad entendía— es la ilustración extrema de una cláusula mal firmada.
El contrato es la única ley disponible — y es suficiente
En países sin ley de IA —toda América Latina, salvo el marco declarativo peruano—, las condiciones pactadas en los contratos son las únicas reglas exigibles que gobernarán los sistemas en operación. Cada pliego publicado sin requisitos es una vigencia contractual completa de opacidad pactada.
La buena noticia: el estándar internacional ya converge, y es adaptable hoy. Las guías del Reino Unido y del Foro Económico Mundial, las cláusulas contractuales modelo de la Comisión Europea y el trabajo pionero de Chile en transparencia algorítmica de compras coinciden en el núcleo. Nuestro informe lo destila en diez cláusulas mínimas: problema y métricas pactadas; documentación técnica; derecho de auditoría sin veto del proveedor; propiedad y acceso permanente a los datos; supervisión operable; desempeño desagregado por grupos; gestión de cambios de modelo; portabilidad y salida; responsabilidad del proveedor; prohibición de uso secundario de los datos.
Si el proveedor “no puede” aceptar documentación, auditoría o salida, le está diciendo a la entidad quién gobernará el sistema. Conviene creerle — y no firmar.
Por qué importa
La compra pública es la política de IA de facto de la región: casi toda la IA estatal será comprada, y las condiciones de compra serán las condiciones de operación. Para Colombia, tres vías concretas no requieren reforma legal: documentos tipo para sistemas de decisión automatizada, un acuerdo marco con las cláusulas como condición de entrada al catálogo, y una marca en SECOP que permita, por primera vez, responder cuánta IA compra el Estado.
Hay además un efecto de mercado que juega a favor: las cláusulas exigentes filtran a los vendedores de promesas y premian a quienes pueden documentar desempeño. Un mercado mejor para el comprador público es también un mercado mejor para la industria seria.
El documento completo —con su metodología, sus fuentes y sus limitaciones— está disponible en el PDF descargable de esta página.