Problem
Når man taler om hukommelse i agenter, viser mange demos det samme: agenten husker præferencer, samtaler eller personlige detaljer. Det kan være nyttigt i forbrugerprodukter, men det er utilstrækkeligt for virksomheder.
En organisation har ikke brug for, at agenten “husker chatten”. Den har brug for, at den husker, hvilken beslutning den tog, med hvilke kilder, hvilket værktøj den eksekverede, hvad der fejlede, hvem der godkendte, hvilket resultat den producerede, og hvilken læring der skal ændre næste cyklus.
Brugbar hukommelse fødes ikke i samtalens nostalgi. Den fødes i driften.
Tese
Den næste front for agent memory bliver memory from trace.
En enterprise-agent bør opbygge hukommelse fra sine egne traces: trin, tool calls, inputs, outputs, genfindinger, fejl, eskaleringer, omkostninger og outcomes. Den hukommelse er ikke en dagbog. Det er et styrbart læringslag.
Uden trace er der ingen pålidelig hukommelse. Kun resumé.
Rammeværk
En operationel hukommelse kræver fire registre:
- Beslutning: hvad agenten valgte, og hvorfor.
- Eksekvering: hvilke værktøjer den kaldte, med hvilke parametre, og hvad de returnerede.
- Resultat: hvad der skete bagefter, om der var godkendelse, fejl eller omarbejde.
- Læring: hvilken regel, undtagelse eller mønster skal overleve næste run.
Mini-case: en customer success-agent forbereder QBRs. Hvis den kun husker chats, kan den tilpasse tonen. Hvis den husker traces, ved den, hvilke CRM-data der var pålidelige, hvilket dashboard der fejlede, hvilken indvending der dukkede op, hvilken slide der blev kasseret, og hvilken beslutning ejeren tog. Den anden hukommelse forbedrer processen; den første forbedrer kun samtalen.
Målbart signal: procentdel af vedvarende minder, der kan knyttes til en trace, kilde, ejer eller outcome.
Holdning: hukommelse uden lineage er en ny hallucinationsoverflade.
Hvorfor det er vigtigt nu
LangGraph dokumenterer tilstandspersistens via checkpointers og hukommelse på tværs af tråde via stores. Til produktion anbefales vedvarende stores som Postgres, MongoDB eller Redis. OpenTelemetry opretholder semantiske konventioner for GenAI-systemer, herunder spans for model, agenter, værktøjer, retrieval, begivenheder og metrics.
Det viser en vigtig adskillelse. Det er ikke nok at persistere hukommelse. Man skal også observere, hvor denne hukommelse kommer fra, hvilke følsomme data den berører, hvilket tool call der genererede den, og om den sikkert kan genbruges.
I enterprise-agenter er hukommelse, observerbarhed og compliance det samme problem set fra tre vinkler.
Anti-eksempel
“Gem et resumé af hver samtale, og brug det bagefter.”
Det ligner hukommelse, men det kan forvandle fejl til permanent kontekst. Et resumé fanger ikke tilladelser, kilde, ejer, godkendelsesstatus eller resultat. Værre: det kan genindføre upålidelige instruktioner i fremtidige sessioner.
Protokol (3 trin)
- Adskil hukommelse fra cache. Ikke alt, der genbruges, fortjener at overleve.
- Kræv lineage pr. indtastning. Hver vedvarende hukommelse skal pege på en begivenhed, kilde eller beslutning.
- Udløb det operationelle. Varige regler og midlertidige data bør ikke leve i det samme lag.
| Type af hukommelse | Korrekt kilde | Risiko |
|---|---|---|
| præference | bruger eller ejer | falsk personliggørelse |
| beslutning | trace og godkendelse | gentage gammelt kriterium |
| operationel data | kildesystem | forældelse |
| fejl | log og resultat | lære det forkerte mønster |
| regel | governance-beslutning | hukommelse uden autoritet |
Relateret
- AI Decision Ledger: den registrering der adskiller læring fra mening
- Agent Reliability Score: hvordan man ved, om en agent fortjener autonomi
- Rollback Design for AI Workflows: hvordan man slår automatiseringer fra uden at bryde driften
Konsulterede kilder
- LangGraph Persistence
- OpenTelemetry: Semantic conventions for generative AI systems
- OpenTelemetry: Semantic conventions for generative client AI spans
Næste skridt
Vælg en agent, du allerede bruger. Før du giver den hukommelse, udskriv en trace af en komplet eksekvering. Hvis du ikke kan forklare, hvad der skete, hvilken kilde den brugte, og hvilket resultat den producerede, er den ikke klar til at huske.
Oversat fra den spanske original med AI-hjælp og gennemset for nøjagtighed. Læs originalen på spansk.