Organisaties zetten AI-agents in voor steeds kritischer processen, van financiële afsluiting tot inkoop en HR. Maar hoe stel je vast wat er is misgegaan als een agent een verkeerde beslissing neemt, en hoe herstel je dat? Volgens Jonathan von Rueden, Head of AI Innovation & Data bij SAP, begint verantwoord gebruik van agentic AI bij één voorwaarde: volledige traceerbaarheid op elk niveau.
“Het is net als bij klassieke SAP-systemen”, zegt Von Rueden. “Daar wordt altijd bijgehouden wie wat heeft gedaan en is elke stap traceerbaar voor auditors en financiële teams. Diezelfde behoefte aan controle en transparantie ontstaat nu ook rond AI-agents. Als er iets misgaat, wil je kunnen terugzien wat er is gebeurd, waarom bepaalde keuzes zijn gemaakt en waar menselijke controle nodig blijft.”
Van businessgebruiker tot logbestand
De opkomst van AI-agents verschuift de uitdaging voor organisaties van experimenteren naar beheersen. Zodra agents onderdeel worden van financiële, operationele of HR-processen, ontstaat behoefte aan governance, transparantie en controle op organisatieniveau. Tijdens Sapphire 2026 lichtte SAP toe hoe een meerlaagse governance-structuur binnen zijn Autonomous Suite kan inspelen op de verschillende behoeften binnen een organisatie.
Die structuur werkt op drie niveaus, elk gericht op een andere gebruiker. Op het eerste niveau ziet de zakelijke gebruiker welke agents actief zijn, in welke processtap zij zich bevinden en wat de redenering achter een beslissing was, inclusief de bronnen waarop die redenering is gebaseerd. Zo kan iemand zonder technische achtergrond toch precies volgen wat een agent heeft gedaan en waarom.
Op het tweede niveau biedt de SAP Agent Hub een overzicht van agents binnen een organisatie, inclusief agents van derden zoals ServiceNow, Microsoft, Databricks en AWS. IT- en complianceteams zien daar hoeveel keer een agent is uitgevoerd, waar runs zijn mislukt en waar een eindgebruiker een goedkeuring heeft geweigerd. Dat geeft grip op het geheel, niet alleen op individuele agent-runs.
Op het derde niveau is volledige log-level tracing beschikbaar voor wie nog dieper wil gaan: elke tool die een agent heeft gekozen en elke redenering die daaraan ten grondslag lag, is stap voor stap te reconstrueren.
“Je kunt het helemaal terugvoeren. Elke tool die is gekozen, en waarom, is traceerbaar”, aldus Von Rueden. “Veel AI-toepassingen zijn vandaag nog relatief geïsoleerd ingericht. Maar naarmate organisaties opschalen van een handvol agents naar honderden of duizenden, hebben zij behoefte aan breder inzicht in hoe agents processen beïnvloeden, en hoe gebruikers en systemen met elkaar samenhangen. Zodra AI-agents onderdeel worden van kritieke processen, draait governance niet alleen om individuele acties, maar ook om inzicht in de onderlinge afhankelijkheden tussen processen, systemen en gebruikers.” Volgens Von Rueden vraagt die complexiteit dus om een aanpak waarbij niet alleen individuele agents, maar complete bedrijfsprocessen inzichtelijk blijven.
Grenzen stellen als vertrekpunt
Governance begint volgens Von Rueden niet bij het terugkijken, maar bij het vooraf bepalen wat een agent wel en niet mag. Hij adviseert organisaties om agents bewust een beperkt mandaat te geven en dat mandaat stapsgewijs uit te breiden naarmate het vertrouwen groeit.
Een praktisch voorbeeld: stel een drempelwaarde in waarbij een agent zelfstandig beslissingen mag nemen over facturen onder de vijftig euro, maar daarboven altijd menselijke goedkeuring vereist. “Het is een acceptabel bedrijfsrisico dat AI een beslissing neemt over een factuur van twintig euro, omdat de verwerkingskosten anders hoger zijn dan de controle zelf. Maar zodra bedragen oplopen, wil je dat een mens meekijkt”, aldus Von Rueden.
Volgens hem vormt juist die combinatie van technische traceerbaarheid, menselijke controle en vooraf ingestelde grenzen de basis voor organisaties die AI-agents verantwoord willen inzetten op schaal.
Van governance naar vertrouwen
Naast governance stond tijdens Sapphire 2026 ook de rol van gebruikersinteractie centraal. In dat kader lichtte SAP Joule Work toe, een nieuwe gebruikerslaag bovenop de Autonomous Suite. In plaats van navigeren door schermen en menu’s, beschrijven medewerkers in natuurlijke taal wat ze willen bereiken. Joule Work roept vervolgens de juiste combinatie van agents, workflows en data aan om de taak uit te voeren, op desktop, mobiel en via spraak, zowel binnen als buiten SAP-systemen.
“De verwachting van gebruikers verandert snel”, zegt Von Rueden. “Mensen willen processen steeds minder benaderen via losse applicaties of complexe interfaces, maar direct vanuit een taak of vraag. AI-agents maken die verschuiving mogelijk.”
