# Responsabilidad de agentes de IA: asegurar el riesgo exige evidencia

> La asegurabilidad de un agente depende de controles demostrables, trazabilidad y límites operativos mantenidos en producción.

- Author: Viktor Berthelius (BRTHLS)
- Published: 2026-10-08
- Category: systems thinking
- Tags: agentes-ia, seguros, riesgo, evidencia
- Language: es
- Canonical: https://www.brthls.com/magazine/responsabilidad-agentes-ia-seguros-evidencia-es
- Source: BRTHLS Magazine — https://www.brthls.com

---

## Problema

Cuando un agente actúa sobre sistemas, clientes o dinero, la pregunta deja de ser si el modelo parece fiable. La organización necesita saber quién responde, qué control estaba activo y qué evidencia permite reconstruir una decisión.

Muchas evaluaciones terminan antes del despliegue. Certifican una configuración que después cambia por una nueva herramienta, una política distinta o una actualización del modelo. El riesgo real vive en esa distancia entre la revisión puntual y la operación cotidiana.

## Tesis

La responsabilidad no puede descansar en una promesa general del proveedor. Debe expresarse como una cadena de evidencia: inventario de capacidades, límites de acción, evaluación de escenarios, autorización, registros y respuesta ante incidentes.

La aparición de servicios que conectan certificación y cobertura aseguradora apunta a una evolución importante: el control técnico empieza a traducirse en una condición económica. Pero asegurar el riesgo no sustituye a gobernarlo. Una póliza puede transferir parte del impacto; no puede reconstruir una decisión que nunca se registró.

## Framework

La asegurabilidad operativa se puede leer en cuatro preguntas:

- **Alcance:** ¿qué puede hacer el agente y sobre qué activos?
- **Fallo:** ¿qué escenarios se han evaluado y con qué umbrales?
- **Responsabilidad:** ¿quién autoriza, supervisa y detiene?
- **Prueba:** ¿qué registro permite demostrar que los controles funcionaban?

NIST sitúa las pruebas, la evaluación, la verificación y la validación dentro de la gestión del riesgo de IA. La clave es conservar el vínculo entre ese trabajo y el sistema que efectivamente está en producción.

## Por qué importa ahora

Los agentes combinan modelos, herramientas, identidades y datos externos. Cada conexión amplía la superficie de fallo y hace menos útil una evaluación centrada solo en el modelo. Compras, seguridad, legal y producto necesitan un objeto común: evidencia suficientemente concreta para decidir si el sistema puede operar, bajo qué límites y con qué respuesta.

## Anti-ejemplo

Una compañía contrata cobertura después de una auditoría inicial. Meses más tarde amplía los permisos del agente y añade una herramienta sin actualizar el registro de riesgos. Ocurre un incidente y nadie puede determinar qué versión estaba activa, qué política se aplicó o quién aprobó el cambio. La cobertura existe; la evidencia operativa, no.

## Protocolo (3 pasos)

| Paso | Decisión | Evidencia mínima |
| --- | --- | --- |
| Delimitar | Declarar acciones permitidas, activos y exclusiones | Ficha de capacidad y límites aprobada |
| Verificar | Evaluar escenarios antes y después de cambios materiales | Resultados ligados a una versión concreta |
| Mantener | Revisar permisos, registros e incidentes | Historial auditable y propietario vigente |

## Relacionado

- [Output Verification Layer: el seguro invisible de los agentes en producción](/magazine/output-verification-layer-seguro-invisible-agentes-produccion-es)
- [Agent Incident Response: cómo investigar el fallo de un sistema agéntico](/magazine/agent-incident-response-investigar-fallo-sistema-agentico-es)
- [Identidad de agente: patrocinio, alcance y caducidad](/magazine/identidad-agente-patrocinio-caducidad-es)

## Fuentes consultadas

- [NIST — Artificial Intelligence Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)
- [NIST — Generative Artificial Intelligence Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)
- [ElevenLabs — AI agent insurance backed by AIUC-1](https://elevenlabs.io/blog/aiuc-announcement)

## Próximo paso

Selecciona un agente en producción e intenta demostrar, con registros actuales, su alcance, su última evaluación y su responsable. Cada respuesta que dependa de memoria oral es una deuda de asegurabilidad.

---

_Cite as: Berthelius, V. (2026). "Responsabilidad de agentes de IA: asegurar el riesgo exige evidencia". BRTHLS Magazine. https://www.brthls.com/magazine/responsabilidad-agentes-ia-seguros-evidencia-es_