Nota técnica
La supervisión humana se presupuesta, o no existe
Puntos clave
- El patrón de supervisión lo fija el impacto del sistema; el presupuesto solo revela si el proyecto es viable.
- La interfaz es política pública: caso completo, incertidumbre visible, disenso sin fricción.
- La dotación se calcula antes del despliegue y se mide en piloto — con la bitácora activada desde el primer día.
- Dos métricas trimestrales, publicadas, separan la supervisión real del teatro.
- Tras la sentencia T-323, documentar todo esto dejó de ser buena práctica: es la dirección de la exigencia jurídica colombiana.
Un sistema que procesa mil casos diarios con revisión completa exige más de cuarenta revisores. La entidad que declara supervisión sin esa planta está firmando una ficción. Cómo se diseña la supervisión real: flujo, pantalla, dotación, registro.
“Habrá supervisión humana” es una frase de política. Lo que sigue —cómo se organiza esa supervisión en el flujo de trabajo, en la pantalla del revisor, en la planta de personal y en las métricas— es donde la frase se vuelve verdad o teatro. Este año, la distancia entre ambas dejó de ser académica: el Reglamento de IA europeo entró en vigor exigiendo supervisión “efectiva” para sistemas de alto riesgo, y la Corte Constitucional colombiana fijó en la sentencia T-323 la primera regla nacional — la IA puede apoyar tareas judiciales, pero no sustituir el razonamiento del juez.
Ninguna de las dos normas dice cómo. Nuestro informe de septiembre llena ese vacío con cinco componentes verificables.
El flujo: tres patrones, ninguna improvisación
La supervisión admite tres formas legítimas, y la elección no es discrecional — la fija el impacto del sistema. Revisión previa universal para decisiones de alto impacto: el sistema ordena y sugiere, una persona revisa cada caso. Cola de excepciones para volumen alto de impacto medio: el sistema procesa lo claro; lo dudoso y lo atípico van a una persona. Muestreo posterior solo para bajo impacto y error reversible — nunca cuando hay derechos en juego.
Cualquier flujo que no encaje en ninguno de los tres es, en la práctica, decisión automatizada sin supervisión. Y debe tratarse como tal.
La pantalla decide más que el manual
La evidencia experimental es inequívoca: pequeñas decisiones de interfaz cambian las tasas de error más que la calidad del propio modelo. Cinco elementos son obligatorios en la pantalla del revisor: el caso completo (revisar solo el resumen del sistema es revisar al sistema, no al caso); la recomendación con su incertidumbre (un porcentaje invita a ponderar; un veredicto invita a firmar); la explicación del caso concreto; los límites conocidos del sistema; y acciones equivalentes — disentir no puede costar más clics que aceptar. Ninguna opción preseleccionada.
La aritmética que nadie quiere hacer
La fórmula es elemental: revisores necesarios = casos por día × fracción revisada × minutos por caso, dividido por la jornada efectiva. Sus consecuencias no lo son. Un sistema de mil casos diarios con revisión universal de quince minutos exige más de cuarenta revisores de tiempo completo; con cola de excepciones al 25 %, unos diez; con muestreo al 5 %, dos.
La lectura correcta no es “el muestreo es más barato”. Es que cada patrón compra un nivel de protección distinto, y el nivel lo fija el impacto del sistema, no el presupuesto disponible. Cuando el presupuesto no alcanza para el patrón que el impacto exige, el hallazgo es que el proyecto está sobredimensionado — y conviene descubrirlo antes del contrato, no después del escándalo. La respuesta honesta es reducir el alcance del sistema; nunca recortar los minutos por caso hasta que la cuenta cierre.
El registro convierte la supervisión en evidencia
Cada intervención queda en bitácora: caso, revisor, acción —acepta, modifica, rechaza, deriva— y razón. De ahí salen las dos métricas que delatan la supervisión nominal: la tasa de aceptación cercana al 100 % sostenido, y la tasa de derivación en cero. La bitácora es, además, la defensa jurídica del revisor y de la entidad: documenta que hubo juicio, no estampilla.
Por qué importa
Para las entidades colombianas, la ecuación cambió este año: la entidad que documenta flujo, interfaz, dotación y registro tiene la mejor defensa disponible ante tutelas y órganos de control; la que no, carga con la prueba imposible de una supervisión sin evidencia. Y los lineamientos que la Rama Judicial deberá expedir tras el exhorto de la Corte serán el primer protocolo oficial del Estado — las entidades que adopten estos componentes antes llegarán a ese estándar por decisión propia y no por orden judicial.
La predicción operativa con la que cierra el informe: en dos años, “¿me muestra su bitácora de supervisión?” será la primera pregunta de todo auditor competente de sistemas públicos. Las entidades que puedan responderla serán minoría distinguida.
El documento completo —con su metodología, sus fuentes y sus limitaciones— está disponible en el PDF descargable de esta página.