Problema
Cuando un agente actúa sobre sistemas, clientes o dinero, la pregunta deja de ser si el modelo parece fiable. La organización necesita saber quién responde, qué control estaba activo y qué evidencia permite reconstruir una decisión.
Muchas evaluaciones terminan antes del despliegue. Certifican una configuración que después cambia por una nueva herramienta, una política distinta o una actualización del modelo. El riesgo real vive en esa distancia entre la revisión puntual y la operación cotidiana.
Tesis
La responsabilidad no puede descansar en una promesa general del proveedor. Debe expresarse como una cadena de evidencia: inventario de capacidades, límites de acción, evaluación de escenarios, autorización, registros y respuesta ante incidentes.
La aparición de servicios que conectan certificación y cobertura aseguradora apunta a una evolución importante: el control técnico empieza a traducirse en una condición económica. Pero asegurar el riesgo no sustituye a gobernarlo. Una póliza puede transferir parte del impacto; no puede reconstruir una decisión que nunca se registró.
Framework
La asegurabilidad operativa se puede leer en cuatro preguntas:
- Alcance: ¿qué puede hacer el agente y sobre qué activos?
- Fallo: ¿qué escenarios se han evaluado y con qué umbrales?
- Responsabilidad: ¿quién autoriza, supervisa y detiene?
- Prueba: ¿qué registro permite demostrar que los controles funcionaban?
NIST sitúa las pruebas, la evaluación, la verificación y la validación dentro de la gestión del riesgo de IA. La clave es conservar el vínculo entre ese trabajo y el sistema que efectivamente está en producción.
Por qué importa ahora
Los agentes combinan modelos, herramientas, identidades y datos externos. Cada conexión amplía la superficie de fallo y hace menos útil una evaluación centrada solo en el modelo. Compras, seguridad, legal y producto necesitan un objeto común: evidencia suficientemente concreta para decidir si el sistema puede operar, bajo qué límites y con qué respuesta.
Anti-ejemplo
Una compañía contrata cobertura después de una auditoría inicial. Meses más tarde amplía los permisos del agente y añade una herramienta sin actualizar el registro de riesgos. Ocurre un incidente y nadie puede determinar qué versión estaba activa, qué política se aplicó o quién aprobó el cambio. La cobertura existe; la evidencia operativa, no.
Protocolo (3 pasos)
| Paso | Decisión | Evidencia mínima |
|---|---|---|
| Delimitar | Declarar acciones permitidas, activos y exclusiones | Ficha de capacidad y límites aprobada |
| Verificar | Evaluar escenarios antes y después de cambios materiales | Resultados ligados a una versión concreta |
| Mantener | Revisar permisos, registros e incidentes | Historial auditable y propietario vigente |
Relacionado
- Output Verification Layer: el seguro invisible de los agentes en producción
- Agent Incident Response: cómo investigar el fallo de un sistema agéntico
- Identidad de agente: patrocinio, alcance y caducidad
Fuentes consultadas
- NIST — Artificial Intelligence Risk Management Framework
- NIST — Generative Artificial Intelligence Profile
- ElevenLabs — AI agent insurance backed by AIUC-1
Próximo paso
Selecciona un agente en producción e intenta demostrar, con registros actuales, su alcance, su última evaluación y su responsable. Cada respuesta que dependa de memoria oral es una deuda de asegurabilidad.