Problema
Muchos equipos pasan de demo a autonomía sin una medida clara de fiabilidad. El agente funciona en diez pruebas, impresiona en una reunión y acaba tocando workflows donde un error no es un bug simpático: es retrabajo, perdida de margen o daño reputacional.
El problema no es que el agente falle. El problema es no saber cuanto puede fallar antes de que deje de ser rentable.
Tesis
La autonomía de un agente no debería aprobarse por percepción. Debería aprobarse por score operativo: calidad, estabilidad, reversibilidad, coste de supervisión y claridad de escalado.
Un agente no merece más autonomía porque parezca inteligente. La merece cuando su error es medible, reversible y económicamente aceptable.
Framework
Un Agent Reliability Score puede empezar con cinco dimensiones:
- Task fit: el trabajo es repetible, observable y acotado.
- Output quality: el resultado cumple criterios definidos, no gusto subjetivo.
- Stability: el rendimiento se mantiene entre ciclos, inputs y casos límite.
- Reversibility: el coste de corregir una acción fallida es bajo o controlado.
- Escalation clarity: el agente sabe cuando pedir ayuda y a quien.
Cada dimensión se puntúa de 1 a 5. La autonomía no sube por la media. Sube por el peor punto crítico.
Mini-caso: un agente de operaciones financieras genera borradores de conciliación con buena precisión, pero falla cuando el proveedor cambia el formato del archivo. Su score de quality es alto, pero stability y escalation son bajos. La decisión correcta no es apagarlo. Es mantenerlo como copiloto hasta que detecte cambios de formato y escale antes de contaminar el workflow.
Señal medible: porcentaje de acciones autónomas que no requieren retrabajo, escalado tardío o rollback.
Postura: la autonomía sin score es delegación emocional.
Respiración: una demo puede tolerar magia. Una operación necesita límites.
Matriz simple de autonomía
| Score mínimo | Nivel | Que puede hacer |
|---|---|---|
| 1-2 | Observador | leer, resumir, sugerir |
| 3 | Copiloto | preparar decisiones con aprobación humana |
| 4 | Operador limitado | ejecutar acciones reversibles bajo threshold |
| 5 | Operador autónomo | ejecutar dentro de policy con auditoría continua |
La clave no es subir rápido. Es no conceder autonomía en una dimensión que el agente todavía no puede sostener.
Error común
El anti-ejemplo es evaluar al agente por “accuracy” y olvidarse de la reversibilidad. Un agente con 95% de acierto puede ser inviable si el 5% restante rompe contratos, factura mal o obliga a senior staff a revisar todo.
La pregunta correcta no es “cuantas veces acierta”. Es “que pasa cuando se equivoca”.
Protocolo (3 pasos)
- Define el trabajo exacto. Si no puedes describir la tarea en condiciones, inputs, outputs y límites, no está lista para autonomía.
- Puntúa las cinco dimensiones. Task fit, quality, stability, reversibility y escalation clarity.
- Asigna autonomía por el mayor riesgo residual. No por entusiasmo, no por presión interna, no por comparación con la demo.
Cuando bajar autonomía
El score no se calcula una vez. Baja autonomía cuando:
- sube el retrabajo dos ciclos seguidos
- aparecen errores nuevos en casos ya conocidos
- el agente escala tarde
- el owner humano deja de confiar en el output
- el coste de supervisión supera el ahorro operativo
Un sistema maduro no solo promueve agentes. También los degrada a tiempo.
Relacionado
- AI Evaluation Stack 2026: medir sin teatro
- Human Escalation Design: cuando un agente debe pedir ayuda y cuando debe seguir solo
- Agent Handoffs: transferencias sin fricción entre humanos y agentes
Próximo paso
Antes de dar más autonomía a un agente, puntúa su peor dimensión. Si no sabes cual es, la autonomía ya va por delante del sistema. Podemos revisarlo en un diagnóstico.