Problema
La retención cero parece resolver la privacidad: el proveedor no conserva la interacción. Pero ciertos abusos no aparecen en una petición aislada. Se reconocen al correlacionar actividad entre sesiones, cuentas y momentos. Borrar todo de inmediato puede proteger la confidencialidad y, al mismo tiempo, debilitar la detección.
Tesis
La salida no es elegir entre custodia y seguridad, sino separar responsabilidades. Enterprise Frontier Safeguards de Anthropic propone que la actividad se almacene en infraestructura controlada por el cliente, bajo sus claves y políticas, mientras la detección automatizada busca patrones de abuso. Las alertas llegan al equipo del cliente, que conserva la revisión humana.
Framework
Diseña el sistema con cuatro responsabilidades explícitas:
| Responsabilidad | Decisión | Propietario sugerido |
|---|---|---|
| Custodia | Dónde vive la actividad | Seguridad y datos |
| Detección | Qué patrón genera alerta | Seguridad de IA |
| Revisión | Quién ve el contenido | Equipo autorizado |
| Respuesta | Qué acción sigue | Operaciones y riesgo |
Este reparto encaja con el ciclo de NIST AI RMF: gobernar, mapear, medir y gestionar. Una alerta solo es útil si existe un propietario con autoridad para interpretarla y responder.
Por qué importa ahora
Los agentes acceden a código, datos y herramientas. Una credencial filtrada o un patrón de acciones destructivas puede cruzar varias sesiones. Por eso la política de retención no debe escribirse como una casilla legal independiente: debe conectarse con detección, acceso, auditoría y respuesta a incidentes.
La pregunta madura no es «¿guardamos o no guardamos?». Es «¿qué señal mínima necesitamos, durante cuánto tiempo, bajo qué claves y para qué decisión de seguridad?».
Anti-ejemplo
Una empresa activa retención cero y declara el sistema seguro. No conserva señales operativas, no correlaciona actividad y tampoco define un canal de alertas. Cuando aparece un incidente, protege el dato de la plataforma, pero carece de evidencia para entender el recorrido del agente.
Protocolo (3 pasos)
- Mapear señales: identificar qué actividad permite detectar abuso sin retener contenido innecesario.
- Separar funciones: asignar custodia, detección, revisión y respuesta a responsables distintos y auditables.
- Probar el circuito: simular una alerta y medir si llega a una persona autorizada con contexto suficiente.
Relacionado
- Agent Incident Response: cómo investigar un fallo
- AI Governance Backlog: convertir riesgo en trabajo ejecutable
Fuentes consultadas
Próximo paso
Revisa una integración sensible y documenta por separado custodia, detección, revisión y respuesta. Si una misma frase intenta cubrir las cuatro, todavía no existe un control operativo.