Problema
“Human in the loop” suena responsable, pero muchas veces significa una cola ambigua donde nadie sabe cuando intervenir, que revisar o con que criterio aprobar.
El resultado es malo en ambos sentidos: agentes demasiado frenados para tareas simples y demasiado libres en decisiones sensibles.
La supervisión humana no puede ser un botón rojo permanente. Debe ser una capacidad diseñada.
Tesis
Human as Tool es una forma más operativa de pensar la supervisión.
El humano no aparece como última línea romántica de defensa. Aparece como una herramienta especializada que el agente puede invocar cuando detecta incertidumbre, riesgo, ambigüedad, excepción o impacto alto.
Eso exige interfaz, SLA, contexto y criterio.
Framework
Una herramienta humana debe tener cinco parámetros:
- Trigger: cuando se invoca.
- Payload: que contexto recibe el humano.
- Decisión set: que opciones puede tomar.
- SLA: cuanto tiempo puede esperar el agente.
- Learning loop: como la decisión mejora futuras reglas o evals.
Mini-caso: un agente legal prepara respuestas contractuales. No debería pedir aprobación para todo. Debe escalar solo cuando detecta cambio de responsabilidad, penalizaciones, términos no estándar o cliente estratégico. El humano recibe diff, riesgo, recomendación y opciones.
Señal medible: porcentaje de escalados humanos con trigger, decisión y resultado reutilizable.
Postura: supervisión sin diseño es fricción. Supervisión invocable es arquitectura.
Por que importa ahora
OpenAI recomienda supervisión humana para acciones sensibles, irreversibles o de alto impacto. MCP incluye elicitation como patrón para pedir información adicional al usuario durante una interacción. En sistemas agénticos, la pregunta deja de ser “humano si o no” y pasa a ser “que humano, cuando, con que contexto y para decidir que”.
El humano se convierte en un nodo del workflow, no en un parche.
Anti-ejemplo
“Todo lo aprueba alguien antes de enviar.”
Parece seguro, pero mata velocidad y no enseña al sistema. Si cada aprobación llega sin taxonomía, el agente no aprende que situaciones son realmente peligrosas.
Protocolo (3 pasos)
- Define triggers de escalado. Riesgo legal, dinero, datos sensibles, irreversibilidad, baja confianza.
- Diseña payload mínimo. Contexto, recomendación del agente, razón del escalado y opciones.
- Cierra aprendizaje. Cada decisión humana debe alimentar regla, eval o documentación.
| Trigger | Humano adecuado | Output esperado |
|---|---|---|
| riesgo legal | legal | aprobar/rechazar |
| dato sensible | security | permiso |
| cliente clave | account owner | criterio |
| baja confianza | experto dominio | respuesta |
| acción irreversible | manager | autorización |
Relacionado
- Human Escalation Design: cuando un agente debe pedir ayuda y cuando debe seguir solo
- Agent Handoffs: transferencias sin fricción entre humanos y agentes
- Output Verification Layer: el seguro invisible de los agentes en producción
Fuentes consultadas
- OpenAI: A practical guide to building agents
- MCP Elicitation specification
- OpenAI: Evals for AI agents
Próximo paso
Elige un workflow con aprobaciones humanas. No preguntes “podemos automatizarlo”. Pregunta que triggers justifican humano, que payload necesita y que decisión debe devolver.