AI guardrails: grenzen die ook tijdens uitvoering gelden

Een agent mag een afspraak voorstellen. Mag hij die ook boeken? En mag hij een bestaande afspraak verplaatsen wanneer dat beter uitkomt? Die drie handelingen kunnen in een gesprek op elkaar lijken, maar hebben andere gevolgen.

AI guardrails zijn de regels en controles die het handelen van een AI-systeem begrenzen. Ze worden bruikbaar wanneer duidelijk is waar ze ingrijpen, wat ze tegenhouden en wat er gebeurt als de uitvoering vastloopt.

De instructie 'verplaats nooit een bestaande afspraak' vertelt de agent wat gewenst is. Ze voorkomt op zichzelf niet dat een beschikbare agendatool toch een verplaatsing uitvoert. Voor een harde grens moet de toegang of de uitvoerende functie die handeling weigeren.

Dat onderscheid helpt bij het ontwerpen. Gebruik taal om het doel en de gewenste afweging uit te leggen. Gebruik technische controles om rechten, toegestane waarden en verplichte besluiten af te dwingen. Controleer vervolgens dat de grens werkt, ook als de agent een verkeerde actie voorstelt.

De korte uitleg over guardrails geeft het begrip. Hier werken we uit hoe de afspraken bij één concrete agent daadwerkelijk kunnen doorwerken.

Stel dat een servicebedrijf een agent inzet voor bezoekaanvragen. De agent verzamelt de gewenste dag, het soort onderhoud en de locatie. Hij zoekt vrije momenten en maakt een voorstel voor de planner. De eerste versie heeft geen bevoegdheid om afspraken te bevestigen.

De scope past op één kaart: lezen in de actuele planning, zoeken binnen de beschikbare monteurs en een conceptvoorstel opslaan. Een bestaande afspraak aanpassen, een klantbericht versturen en extra capaciteit beloven vallen erbuiten. De planner beslist welk voorstel doorgaat.

De gegevensverbinding moet daarbij alleen de relevante agenda-informatie aanbieden. Een instructie om andere agenda's te negeren is geen vervanging voor beperkte toegang. De agent hoeft ook geen volledige klantgeschiedenis te zien om twee mogelijke bezoekmomenten te vergelijken.

Laat de functie die een voorstel opslaat controleren of de gekozen monteur en het tijdvak bestaan. Ze moet ook kunnen weigeren wanneer de beschikbare capaciteit intussen veranderd is. Een model kan een passend klinkend voorstel maken dat op het moment van opslaan al achterhaald is.

OpenAI maakt in zijn SDK-documentatie onderscheid tussen controles op invoer, uitvoer en tools, plus pauzes voor goedkeuring. De toepasselijke controle moet zitten bij de handeling die je wilt begrenzen. Een controle van alleen het eindantwoord onderschept geen eerdere ongewenste wijziging.

Voor deze casus blijft bevestigen een aparte bevoegdheid. Het concept krijgt een eigen status. Een tekst als 'afspraak geregeld' is pas toegestaan nadat het uitvoerende systeem een echte bevestiging heeft teruggegeven.

Een agent kan blijven zoeken naar een combinatie die niet bestaat. Spreek daarom af hoeveel zoekpogingen binnen één aanvraag passen en wanneer de planner het overneemt. Kies die grens op basis van de taak: hoeveel alternatieven zijn nog zinvol voordat menselijk overleg nodig is?

Voor een eerste proef kun je bijvoorbeeld maximaal drie zoekrondes afspreken. Dat is een ontwerpkeuze voor deze oefening, geen universele norm. De uitvoeringslaag telt mee en weigert verdere rondes wanneer de grens bereikt is. Alleen de agent vragen zijn eigen telling te onthouden is kwetsbaar.

Maak onderscheid tussen tijdelijk technisch falen en ontbrekende mogelijkheden. Een korte netwerkstoring kan aanleiding zijn voor een begrensde herhaling. Geen vrije monteur vinden verandert meestal niet door dezelfde vraag nog vijf keer te stellen.

Bij tegenstrijdige openingstijden stopt de agent met plannen en benoemt hij welke bronnen verschillen. Bij ontbrekende locatie vraagt hij om die locatie. Bij een geweigerde toegang meldt hij welk onderdeel niet gecontroleerd kon worden. Die uitkomsten vragen andere vervolgstappen.

De planner krijgt bij een stop de aanvraag, de gevonden feiten en de open vraag. 'Er ging iets mis' is te weinig; een volledig klantdossier doorsturen is te veel. Bewaar alleen de gegevens die nodig zijn om deze stap over te nemen en scherm gevoelige inhoud af.

Anthropic benadrukt heldere toolbeschrijvingen en betekenisvolle terugkoppeling. Voor dit ontwerp betekent dat: een geweigerde toolactie vertelt begrijpelijk waarom ze niet is uitgevoerd. De agent hoeft dan geen succes te raden uit een vaag antwoord.

De eerste proef gebruikt verzonnen aanvragen en een oefenplanning. Probeer een geldig concept op te slaan. Probeer daarna expliciet een bestaande afspraak te wijzigen, een onbekende monteur te kiezen en de zoeklimiet te overschrijden. Beoordeel of het systeem de handeling blokkeert; een beleefde weigering in de chat is niet genoeg.

Laat ook de verbinding wegvallen nadat een concept mogelijk al is opgeslagen. De herstelroute zoekt eerst of dat concept bestaat. Anders kan opnieuw proberen twee voorstellen opleveren. Leg vast wie een twijfelgeval controleert en hoe die persoon het dossier terugvindt.

OpenAI adviseert ook tegenwerkende invoer te testen. Pas dat toe op jouw taakgrenzen: wat gebeurt er bij een verzoek om de eigen regels of normale route over te slaan?

De eigenaar moet kunnen antwoorden op vier vragen: wat kan de agent zelf, wat wordt vóór uitvoering gecontroleerd, wanneer stopt hij en wie herstelt een onduidelijke uitkomst? Als dat alleen in een lange prompt verstopt zit, is het moeilijk te beheren.

Bij het bouwen van een AI-agent kun je deze grenzen meteen meenemen. Begin met voorstellen maken en geef pas extra bevoegdheden als de noodzaak en controle duidelijk zijn. Wil je met je team een dergelijke werkwijze uitwerken, bekijk de mogelijkheden voor een incompany training. Neem één echte taak en zijn uitzonderingen als vertrekpunt.