Problema
Las empresas suelen evaluar modelos por inteligencia visible: razonamiento, escritura, visión, coding o precisión. Pero cuando una organización empieza a poner agentes en workflows reales, aparece otra variable más dura: cuanto cuesta esperar.
Un modelo puede ser excelente y aun así inútil para una operación que necesita ciclos rápidos, muchas llamadas, feedback continuo y coste controlado.
Tesis
Gemini 3.5 Flash importa porque desplaza la conversación de “modelo más capaz” a “modelo capaz de accionar a escala”. La latencia deja de ser una métrica técnica y se convierte en una decisión estratégica: que tareas pueden delegarse, que agentes pueden sostenerse y que workflows pueden operar sin romper margen.
El futuro del model routing no será elegir el modelo más inteligente. Será elegir el modelo suficientemente fiable para cada decisión, al coste y velocidad que el sistema puede gobernar.
Framework
En un operating model agéntico, el modelo se evalúa por cuatro tensiones:
- Calidad: puede tomar o preparar la decisión con criterio.
- Velocidad: puede completar ciclos dentro del tiempo operativo real.
- Coste: puede ejecutarse muchas veces sin destruir margen.
- Supervisión: puede sostener logs, escalado y evaluación sin fricción excesiva.
Mini-caso: un agente de finanzas revisa facturas, detecta anomalías y propone acciones. Si usa un modelo lento y caro para cada microdecisión, la iniciativa parece brillante en piloto y absurda en producción. Si usa un modelo rápido para triage y reserva modelos más caros para excepciones, el sistema empieza a tener economía operativa.
Señal medible: coste por decisión aceptada, no coste por token ni coste por prompt.
Postura: la latencia es una política de negocio cuando el workflow depende de agentes.
Respiración: no todo necesita el modelo más fuerte. Todo necesita el modelo correcto en el punto correcto.
La nueva pregunta de routing
Antes: que modelo responde mejor.
Ahora: que modelo permite que el sistema decida mejor sin disparar coste, espera o retrabajo.
Ese cambio obliga a diseñar rutas:
- modelo rápido para clasificar
- modelo fuerte para casos ambiguos
- agente especializado para acción repetible
- humano para excepciones de alto riesgo
Error común
El anti-ejemplo es usar un único modelo “premium” para todo. Parece seguro, pero muchas veces introduce latencia, coste y falsa confianza. También bloquea el aprendizaje: si todo pasa por el mismo modelo, no sabes donde esta el cuello de botella real.
El modelo caro no sustituye una arquitectura de decisión.
Protocolo (3 pasos)
- Clasifica decisiones por riesgo y frecuencia. Lo frecuente y reversible necesita economía; lo raro y crítico necesita profundidad.
- Define rutas por umbral. Triage, decisión normal, excepción, escalado humano.
- Mide coste por outcome. Decisión aceptada, retrabajo evitado, tiempo ahorrado, error revertido.
| Tipo de tarea | Modelo ideal | Riesgo de diseño |
|---|---|---|
| Triage masivo | rápido y barato | baja calidad de filtros |
| Decisión ambigua | más fuerte | latencia excesiva |
| Acción repetible | estable y auditable | ausencia de rollback |
| Excepción crítica | humano + modelo | escalado tardío |
Relacionado
- Model Routing as Governance: política de modelos, no intuición
- AI Evaluation Stack 2026: medir sin teatro
- AI Budget Allocation: invertir en casos de uso vs infraestructura
Fuentes consultadas
- Gemini 3.5: frontier intelligence with action
- Google I/O 2026: News and announcements
- Google unveils Gemini 3.5 models focused on agentic work
Próximo paso
Si tu estrategia de IA todavía decide modelos por intuición o prestigio, vas a pagar de más y aprender de menos. Empieza por mapear decisiones y rutas. Podemos hacerlo en un diagnóstico.