Problema
El sistema clasifica solicitudes y deriva las dudosas a una persona. En la demostración, esa salida parece prudente. En operación, puede convertirse en una cola interminable donde conviven errores de datos, casos realmente complejos y peticiones que el modelo no entendió.
Abstenerse evita una decisión automática inadecuada, pero no resuelve el trabajo. Si nadie recibe el caso con contexto suficiente, el riesgo simplemente cambia de lugar y queda menos visible.
Tesis
Diseña la abstención como un servicio con destinatario, motivo y plazo operativo. El NIST plantea integrar la evaluación y la confianza en el uso de sistemas de IA; la guía de herramientas de Anthropic insiste en comprobar su desempeño con tareas. Aplicado al triaje, el criterio debe incluir qué ocurre después de clasificar o derivar.
No conviene pedir al modelo una puntuación de seguridad y tratarla como una probabilidad calibrada sin comprobarla. La decisión de automatizar debe apoyarse en resultados observados y en el coste de cada tipo de error.
Framework
Separa incertidumbre de falta de permiso
Un caso puede estar perfectamente entendido y requerir aprobación por su impacto. Otro puede ser rutinario, pero carecer de datos. Un tercero puede quedar fuera del catálogo. Esas situaciones necesitan rutas distintas, aunque todas impidan actuar automáticamente.
Devuelve un motivo operativo de derivación: documento ausente, contradicción entre fuentes, excepción de política o categoría desconocida. El revisor debe recibir la información ya disponible y la pregunta que tiene que resolver, no una transcripción completa sin orientar.
Mide la cola junto al clasificador
Observa antigüedad, reasignaciones, decisiones corregidas y casos que vuelven a entrar. Una clasificación aparentemente buena puede ocultar que el sistema deriva justo los asuntos más costosos y deja a las personas una carga peor organizada.
Agrupa los motivos recurrentes para decidir la intervención. Si faltan datos, mejora la captura; si hay reglas ambiguas, aclara la política; si el modelo confunde categorías, revisa ejemplos y evaluación. Aumentar su capacidad no es una respuesta universal.
Acuerda qué error pesa más
Una derivación innecesaria y una aprobación indebida tienen consecuencias diferentes. El propietario del proceso debe definir esa asimetría antes de ajustar la automatización. Documenta qué clases pueden resolverse solas y cuáles necesitan revisión aunque el sistema parezca seguro.
Enrutamiento de devoluciones con una salida útil para cada caso
Supuesto operativo: un asistente recibe consultas sobre devoluciones. Antes de ajustar el clasificador, define qué trabajo queda cuando no puede resolverlas.
| Caso | Motivo de salida | Destino y contenido mínimo |
|---|---|---|
| Falta el pedido | Información incompleta | Pedir la referencia por el canal autorizado |
| Pedido localizado y consulta de estado | Consulta rutinaria | Recuperar el estado vigente sin aprobar importes |
| Política y contrato discrepan | Conflicto documental | Responsable de política, con ambas referencias |
| Excepción comercial solicitada | Decisión fuera de autorización | Responsable comercial, con propuesta y alcance |
| No se entiende la petición | Clasificación incierta | Revisor de entrada, con pregunta concreta |
Una derivación útil transporta el expediente y la decisión pendiente. «Revisar por baja confianza» obliga a empezar de nuevo; «el contrato permite la devolución y la política recuperada la rechaza» permite actuar sobre el conflicto.
Para evaluar, sigue una muestra de expedientes hasta la resolución humana. Revisa derivaciones innecesarias y casos que el agente resolvió indebidamente. Si solo inspeccionas la cola derivada, no verás los errores que quedaron fuera de ella. Incluye también solicitudes sin etiqueta y casos que regresan después de una supuesta resolución.
El criterio para ampliar automatización debe fijarlo el propietario del proceso según las consecuencias. Puede permitir consultas de estado y mantener las excepciones comerciales bajo revisión. No hace falta convertir toda incertidumbre en el mismo umbral numérico. Si no hay capacidad humana para recibir la salida, reduce el alcance de entrada antes de presentar la abstención como control resuelto.
Por qué importa ahora
El abaratamiento de la clasificación facilita insertar IA en entradas de soporte, operaciones y ventas. La calidad del proceso depende de cómo se reparte el trabajo que queda, no solo de cuántos casos puede etiquetar el modelo.
Anti-ejemplo
Caso hipotético: un sistema deriva cualquier solicitud que mencione una devolución. La tasa de errores automáticos parece baja, pero el equipo humano recibe también preguntas sencillas sobre el estado de un reembolso. La prudencia del clasificador se ha convertido en saturación evitable.
Protocolo (3 pasos)
| Paso | Decisión | Evidencia |
|---|---|---|
| Diferenciar | Motivos de abstención y aprobación | Catálogo de rutas con responsable |
| Observar | Qué ocurre con cada caso derivado | Cola y resultado final vinculados |
| Corregir | Datos, política o clasificación | Menos derivación inútil sin más daño |
Relacionado
- Human Escalation Design: cuando un agente debe pedir ayuda y cuando debe seguir solo
- Decisión Quality: el KPI que reemplaza a la velocidad
Fuentes consultadas
Próximo paso
Revisa los últimos casos derivados y agrúpalos por la decisión que faltaba. Si todos llegan al mismo buzón con el mismo mensaje, empieza por diseñar la cola.