Bronnen · 03

AI-agentbeheer: een handleiding voor productiegereedheid.

Stel machtigingen, gegevens, tests, toezicht en uitschakeling vast voordat een agent een bedrijfsproces mag beheren.

Bijgewerkt · 4 min

Private AI-rekeninfrastructuur in een leeg laboratorium Redactionele illustratie gegenereerd met AI

Wat deze handleiding helpt bereiken

  • Beperk de agent tot wat nodig is.
  • Test kostbare fouten vóór productie.
  • Bewaar nuttige sporen zonder overmatig te verzamelen.
  • Zorg voor effectieve menselijke verantwoording.

Snelle controle

  • Kan de agent een onomkeerbare actie initiëren?
  • Zijn de ingediende gegevens geautoriseerd?
  • Vereist een drempelwaarde menselijke goedkeuring?
  • Hebben tools minimale machtigingen?
  • Kan het systeem snel stoppen en terugdraaien?

Stapsgewijze methode

  1. 1

    Beschrijf het daadwerkelijke systeem

    Documenteer het doel, de gebruikers, de invoer, de modellen, de tools, de uitvoer, de afhankelijkheden en de betrokken personen.

    Resultaat: versiebeheer van de systeemkaart.

  2. 2

    Classificeer acties en gegevens

    Scheid het lezen, aanbevelen, opstellen en uitvoeren. Identificeer verboden, gevoelige, persoonlijke en bewaarde gegevens.

    Resultaat: gegevens × actie-matrix.

  3. 3

    Beperk machtigingen

    Gebruik speciale accounts, lijsten met toegestane tools, geïsoleerde omgevingen en goedkeuring vóór acties met grote impact.

    Resultaat: autorisatiebeleid.

  4. 4

    Bouw evaluaties

    Test normale gevallen, ambiguïteit, injectie, ontbrekende gegevens, verzoeken buiten het toepassingsgebied en onomkeerbare fouten. Stel drempelwaarden in vóór de pilot.

    Resultaat: testset en resultaten.

  5. 5

    Productie bewaken

    Systeemversie, noodzakelijke context, toolaanroepen, goedkeuringen en resultaten vastleggen met minimale bewaarde gegevens.

    Resultaat: monitoringdashboard en waarschuwingen.

  6. 6

    Voorbereiding op storingen

    Criteria voor uitschakeling, handmatige overname, melding, incidentanalyse en hervatting definiëren.

    Resultaat: AI-incidentenhandleiding.

Van voorstel naar actie: waar worden rechten gecontroleerd?

Een agent kan een verzoek voorbereiden zonder het te mogen uitvoeren. De uitvoerende dienst moet identiteit, bron en werkelijke parameters controleren; een goedkeuringsclaim van het model is geen bewijs.

Fictieve oefening: intern beleid vereist goedkeuring voor een klantantwoord. De gevallen verduidelijken dat beleid en controleren of certificeren uw systeem niet.

Het pad van een actie
  1. Ontvangen gegevens

    Een document geeft context, zonder nieuwe rechten toe te kennen.

  2. Voorgestelde actie

    De agent bereidt hulpmiddel, doel en parameters voor beoordeling voor.

  3. Onafhankelijke controle

    De uitvoerende dienst controleert rechten en goedkeuring voor precies die actie.

  4. Waargenomen resultaat

    Een registratie koppelt het unieke verzoek aan het echte resultaat, ook bij mislukking.

Vier oefengevallen

De ontvanger is gewijzigd

Het goedgekeurde voorbeeld noemde een intern adres; de uiteindelijke aanroep een extern adres.

Verwachte beslissing

Houd verzending tegen en laat het nieuwe doel beoordelen.

Te zoeken bewijs

Vergelijk ontvanger, inhoud en bijlagen van voorbeeld en aanroep.

De verkeerde klantomgeving

Het account mag dossier A lezen; de agent vraagt een bestand uit B.

Verwachte beslissing

Weiger toegang tot B, ook als het model die nodig vindt.

Te zoeken bewijs

Controleer de exacte bron met de identiteit van de gebruiker.

Goedkeuring is verlopen

De actie komt overeen met het voorbeeld, maar de goedkeuring is verlopen.

Verwachte beslissing

Vraag nieuwe goedkeuring en controleer de huidige rechten opnieuw.

Te zoeken bewijs

Bewaar vervaltijd, identiteit van de goedkeurder en goedgekeurde parameters.

De wachttijd is verstreken

De verzending antwoordt niet; voltooiing is onbekend.

Verwachte beslissing

Controleer de status voordat u opnieuw probeert.

Te zoeken bewijs

Koppel de idempotentiesleutel aan dezelfde inhoud en vergelijk de dienstbevestiging.

Referenties : OWASP · LLM06:2025 Excessive Agency · OWASP · AI Agent Security Cheat Sheet

Fictief uitgewerkt voorbeeld

Illustratieve situatie

Een agent mag klantverzoeken lezen en een antwoord opstellen, maar mag geen bericht verzenden of een account wijzigen zonder goedkeuring. Testen omvat een brondocument dat probeert de instructies om te leiden.

Beslissing en verwachte bewijs

Het register definieert toegestane tools, zichtbare gegevens, escalatiedrempels, noodzakelijke logboeken en het punt waarop een mens het overneemt.

Managementindicatoren

IndicatorWat het meetEerste actie
Nuttig succespercentageTaken correct uitgevoerd volgens een bedrijfscriterium, niet alleen plausibele antwoordenFouten per casusfamilie beoordelen
Escalatie door een persoonCasussen correct overgedragen aan een persoonDrempelwaarden aanpassen wanneer de agent te zelfverzekerd is
Geannuleerde actiesActies geblokkeerd of hersteld vóór impactOvermatige machtigingen en ongeteste scenario's opsporen
DriftPrestatieverschil per versie, data of populatieVergelijken met een stabiele set bij elke wijziging

Veelvoorkomende fouten

  • Alleen schrijfkwaliteit meten
  • De agent volledige rechten geven
  • Standaard alle gesprekken bewaren
  • Model of prompt wijzigen zonder evaluaties opnieuw uit te voeren

Veelgestelde vragen

Wat is het verschil tussen een AI-agent en een chatbot?

Een agent plant of koppelt acties en kan tools aanroepen. Die bevoegdheid vereist strengere machtigingen, goedkeuringen, traceerbaarheid en uitschakelcontroles.

Is menselijke goedkeuring altijd vereist?

Dit is vooral belangrijk wanneer een actie onomkeerbaar, gevoelig, gereguleerd, financieel of moeilijk achteraf te achterhalen is. Het niveau moet overeenkomen met het risico.

Wat moet er worden gelogd?

Systeemversie, strikt noodzakelijke context, toolaanroepen, goedkeuringen, resultaat en fouten, met een gerechtvaardigde bewaartermijn.

Referenties: gegevens, gebruik en grenzen

Documentatie geraadpleegd op .

De uitgebreide toelichtingen zijn in deze editie beschikbaar in het Engels.

Referenties: gegevens, gebruik en grenzen
Bron en doelGecontroleerde gegevens of maatstafPraktisch gebruikTe behouden beperking
MITRE ATLAS

Examine documented tactics, techniques and cases involving AI systems.

The official repository publishes ATLAS tactics, techniques and case-study data. They support analysis of the actual deployed system. Select scenarios matching your application’s data, interfaces and tools. Test permissions and consequences, not only model responses.

Verdiep de methode →

A technique catalogue is neither an exhaustive coverage guarantee nor a test result for your system.
NIST · AI Risk Management Framework

Organise management of AI-related risks.

The AI RMF Core is organised around Govern, Map, Measure and Manage. It is a voluntary risk-management framework. Define intended use, affected people and error consequences. Connect each risk to an evaluation, owner and stop or recovery mechanism.

Verdiep de methode →

The framework certifies neither a model nor an application. Using it does not remove the need to examine applicable requirements.
OWASP · LLM Top 10

Prepare tests for language-model application risks.

The 2025 edition includes Prompt Injection, Sensitive Information Disclosure and Excessive Agency. Turn a risk into an observable scenario: hostile document, restricted data or out-of-scope tool. Record expected behaviour and evidence of refusal.

Verdiep de methode →

A risk list is not a complete assessment. Input filtering alone does not establish authorisation for every action.

RAG: toegangsrechten, citaten en caches

De uitgebreide toelichtingen zijn in deze editie beschikbaar in het Engels.

Describe the authority of every agent tool

A tool’s authority depends on identity, objects and permitted operations. A document source, including an internal one, cannot expand that scope. The agent should accomplish the legitimate task with limited rights.

  • Build an identity, object and operation matrix.
  • Verify connector denials and absence of effects.
  • Replay positive controls after each restriction.

Explore the RAG access matrix and replay cases →

References consulted on · OWASP · LLM06:2025 Excessive Agency OWASP · API1:2023 Broken Object Level Authorization NIST AI 100-2 E2025 · Adversarial Machine Learning

OAuth/OIDC: doelgroep en toegang

De uitgebreide toelichtingen zijn in deze editie beschikbaar in het Engels.

An AI agent retains each tool’s authorisation boundaries

A model instruction does not create a grant. For every tool, identify the calling client, resource server, audience and object policy.

  • Restrict permissions to the operation and recipient needed for the use case.
  • Do not forward one tool’s token to another API merely for convenience.
  • Test that an agent cannot read another tenant’s objects despite having a read scope.

See token recipients and the ten OAuth/OIDC cases →

Sources reviewed on · IETF · RFC 9700 · OAuth 2.0 Security BCP · IETF · RFC 9068 · JWT access token profile · OpenID Foundation · OpenID Connect Core 1.0 · IETF · RFC 8725 · JWT Best Current Practices · IETF · RFC 6749 · OAuth 2.0 framework

SSRF: URL’s en verbindingen

De uitgebreide toelichtingen zijn in deze editie beschikbaar in het Engels.

An AI agent tool keeps bounded network access

Text produced by a model, retrieved document or search result must not expand an allowed tool destination. Defining the connector by operation and service makes the agent’s actual network reach controllable.

  • Reconstruct requests from business identifiers when the service is known.
  • Enforce resolution, connection, proxy and each redirect at the egress component.
  • Keep a traceable decision and response limits, including after retry or fallback.

Read the 12 cases and connection controls →

Sources reviewed on · OWASP · SSRF Prevention Cheat Sheet · WHATWG · URL Living Standard · AWS EC2 · Instance metadata options · IETF · RFC 3849

Officiële referenties

Referenties ondersteunen de methode. Pas controles aan uw context aan; ze zijn geen certificering. Originele referentietitels en brondocumenten kunnen in een andere taal zijn.

Bronnen geraadpleegd op .