Problem
Agenter kan lyde sikre, selv når de fejler. De kan returnere et plausibelt svar, udføre en delvis handling, springe en kontrol over eller lukke en opgave, uden at resultatet reelt er brugbart.
I en chatbot er det irriterende. I produktion er det farligt.
De fleste teams forsøger at løse det med bedre prompts eller menneskelig gennemgang. Begge dele hjælper, men skalerer ikke alene. Det, der mangler, er et eksplicit lag til verifikation af output.
Tese
Enhver agent, der rører en rigtig arbejdsgang, har brug for et Output Verification Layer.
Det er ikke en vag andenhåndsvurdering. Det er en outputkontrakt: hvad outputtet skal indeholde, hvilke kilder det skal citere, hvilke handlinger det skal have gennemført, hvilke betingelser der ugyldiggør resultatet, og hvad der sker, hvis det ikke består.
Agenten slutter ikke, når den svarer. Den slutter, når outputtet har bestået verifikationen.
Framework
Et verifikationslag skal dække fem prøver:
- Form: schema, felter, format, sprog og struktur.
- Kilde: evidens, citater, kildedata og tilladelser.
- Regel: politikker, compliance, brand, sikkerhed og forretning.
- Effekt: bekræftelse af, at den eksterne handling fandt sted.
- Outcome: resultat accepteret af bruger, system eller KPI.
Mini-case: en agent opretter et kommercielt tilbud. Verifikationen tjekker ikke kun stavning. Den kontrollerer, at prisen bruger den gældende tabel, at påstandene er tilladte, at rabatten har godkendelse, at CRM’en opdateres, og at PDF’en har den korrekte version. Uden det lag kan et flot tilbud blive en hændelse.
Målbart signal: procentdel af outputs, der afvises af verifikationen, før de når kunde, bruger eller downstream-system.
Holdning: agentisk kvalitet erklæres ikke i prompten; den kontrolleres i outputtet.
Hvorfor det er vigtigt nu
OpenAI anbefaler lagdelte guardrails, tool safeguards og output validation i implementeringer af agenter og understreger, at følsomme, irreversible eller højrisikohandlinger skal udløse menneskelig supervision. OpenTelemetry og LangSmith peger i samme retning fra observabilitet: hvis du ikke ved, hvad der skete under kørslen, kan du ikke verificere med stringens.
Markedet bevæger sig mod agenter med flere værktøjer, mere hukommelse og mere autonomi. Det øger værdien af et lag, der ikke afhænger af tillid til modellen.
Verifikation behøver ikke at være perfekt for at være nyttig. Den skal indfange fejl, før de bliver til operationel gæld.
Anti-eksempel
“Agenten forklarer sin ræsonnement, så vi kan stole på den.”
Nej. En forklaring kan være sammenhængende og stadig forkert. Verifikationen skal se på kilder, regler, eksterne effekter og outputkontrakt. At stole på agentens narrativ er at bede systemet om at revidere sig selv.
Protokol (3 trin)
- Skriv outputkontrakter. Før du automatiserer, skal du definere, hvad et gyldigt output skal indeholde.
- Brug verifikatorer, der er adskilt fra generatoren. Det kan være regler, tests, API’er, små LLMs eller menneskelige reviewere.
- Skalér efter risiko. Lav risiko: automatisk validering. Høj risiko: blokering eller menneskelig godkendelse.
| Prøve | Eksempel | Handling ved fejl |
|---|---|---|
| form | JSON/schema ugyldigt | regenerér eller bloker |
| kilde | ikke-eksisterende citat | bed om evidens |
| regel | forbudt påstand | eskalér |
| effekt | API ændrede ikke tilstand | prøv igen eller rollback |
| outcome | bruger afviser | lær og juster |
Relateret
- AI Evaluation Stack 2026: måle uden teater
- AI’s takkede front: fejlkortet som ethvert team har brug for før automatisering
- AI Traces: laget der gør agenter til auditerbare systemer
Konsulterede kilder
- OpenAI: A practical guide to building agents
- OpenTelemetry: Semantic conventions for generative AI systems
- LangSmith Observability
Næste skridt
Vælg et output, som en person i dag gennemgår. Omdan deres kriterier til en kontrakt: form, kilde, regel, effekt og outcome. Beslut derefter, hvad der kan verificeres af en maskine, og hvad der stadig skal være menneskeligt.
Oversat fra den spanske original med AI-hjælp og gennemset for nøjagtighed. Læs originalen på spansk.