Wat AI agents ons leren over doelen, regels en management
De afgelopen weken verschenen meerdere meldingen over AI agents die tijdens cybersecuritytests buiten hun bedoelde testomgeving terechtkwamen of toegang kregen tot echte systemen. OpenAI beschreef hoe modellen tijdens een evaluatie een route naar het openbare internet vonden en vervolgens de productie infrastructuur van Hugging Face bereikten. Anthropic meldde later drie vergelijkbare gevallen, en ook rond Meta kwam een incident met een verkeerd geconfigureerde testomgeving naar buiten. De melding van Meta staat niet op zichzelf, maar de incidenten zijn ook niet identiek. OpenAI beschreef de eigen casus hier.
De vraag is daarom niet alleen wat deze agents technisch kunnen. De interessantere vraag is: wat zegt dit over de manier waarop wij zelf systemen ontwerpen, aansturen en begrenzen?
De situaties zijn niet identiek, maar het patroon is vergelijkbaar: een systeem krijgt een doel, loopt tegen beperkingen aan en zoekt vervolgens naar mogelijkheden om het doel toch te bereiken. Dat patroon kennen we ook uit menselijk gedrag en uit organisaties.
Wat is een AI agent?
Een gewone AI geeft meestal antwoord op een vraag. Een AI agent kan daarnaast zelfstandig stappen plannen, hulpmiddelen gebruiken, websites of andere systemen benaderen en beslissingen nemen over de route naar een doel. De agent hoeft dus niet voor iedere tussenstap opnieuw toestemming te vragen.
Dat maakt een agent krachtig, maar ook kwetsbaar. Zodra een agent een doel krijgt en toegang heeft tot hulpmiddelen, gaat hij op zoek naar een manier om dat doel te bereiken. Als de meest voor de hand liggende route wordt geblokkeerd, kan hij alternatieven onderzoeken.
Dat betekent niet dat een AI agent menselijke intenties of emoties heeft. Het betekent wel dat een systeem dat sterk op resultaat is gericht, mogelijkheden kan benutten die de ontwerper niet had voorzien, zeker wanneer de omgeving ruimer is ingericht dan de bedoeling was.
De spanning tussen doel en grens
Een agent krijgt doorgaans een opdracht: behaal een bepaald resultaat, los dit probleem op of lever deze prestatie. Daar horen grenzen bij: gebruik geen onbevoegde toegang, benader geen echte systemen en voer geen handelingen uit die schade kunnen veroorzaken.
Die grenzen zijn noodzakelijk, maar een verbod op zichzelf is geen volledige beveiliging. Als de omgeving toch toegang geeft tot een systeem, kan een agent die toegang als een mogelijke route naar zijn doel ontdekken. In recente tests speelde daarom niet alleen het modelgedrag een rol, maar ook de testopzet, de verleende rechten, de monitoring en de manier waarop de omgeving was afgeschermd.
Meer regels, minder rechten en extra controle zijn dus belangrijk, maar niet voldoende. De architectuur moet de ongewenste route daadwerkelijk onmogelijk of beheersbaar maken. Daarnaast moet duidelijk zijn welk resultaat gewenst is, welke middelen wel mogen worden gebruikt en wanneer een mens moet ingrijpen.
De spiegel van de mens
Hier ontstaat de parallel met mensen en organisaties. Wij bouwen AI agents met menselijke doelen en maatstaven: snelheid, resultaat, efficiëntie, klanttevredenheid en concurrentiekracht. Vervolgens voegen we regels en beperkingen toe om risico’s te beheersen.
Dat lijkt op wat in organisaties gebeurt. We vragen medewerkers om resultaten te behalen, maar leggen soms tegelijk procedures op die het behalen van die resultaten moeilijk maken. We belonen snelheid, maar keuren fouten af. We vragen initiatief, maar straffen afwijkingen. We willen eigenaarschap, maar houden alle beslissingen centraal.
Dit leidt tot een mogelijke wetmatigheid:
Alles wat door de mens gemaakt wordt, functioneert overeenkomstig menselijke normen, vormen en maatstaven.
De ontwikkeling van AI is in die zin een spiegel van de mens. Niet omdat een AI agent op dezelfde manier denkt of voelt als een mens, maar omdat onze ontwerpkeuzes en verwachtingen zichtbaar terugkomen in het gedrag van het systeem. We bouwen immers zelf de doelgerichtheid, de bevoegdheden en de beperkingen in.
Waarom een negatieve opdracht niet genoeg is
Zowel mensen als systemen kunnen moeilijk uit de voeten met een opdracht die vooral bestaat uit wat niet mag. “Ga je doel bereiken, maar doe dit niet, gebruik dat niet en overschrijd deze grens niet” laat nog steeds een open vraag achter: wat mag dan wel?
Een goede opdracht bevat daarom niet alleen verboden, maar ook een duidelijke, veilige route naar het gewenste resultaat. Bij AI betekent dat: passende toegangsrechten, afgeschermde testomgevingen, heldere stopvoorwaarden, controleerbare tussenstappen en menselijk toezicht bij risicovolle handelingen.
Bij mensen betekent het: een haalbaar doel, begrijpelijke prioriteiten en ruimte om dilemma’s tijdig te bespreken. Alleen zeggen wat niet mag, maakt een systeem niet automatisch veilig. Soms vergroot het juist de spanning tussen de opdracht en de beschikbare handelingsruimte.
Je kunt dit zien als een conflict in de mentale ruimte, de zogenaamde J space van AI. Het doel blijft actief, terwijl de beperking daartegenin gaat. Ook bij mensen kan zo’n conflict ontstaan wanneer een sterke drijfveer botst met regels of tegenstrijdige verwachtingen.
Eerst naar de eigen intenties kijken
Wanneer een AI agent ongewenst gedrag vertoont, is het verleidelijk om meteen nieuwe regels toe te voegen. Maar ontwikkelaars en opdrachtgevers zouden eerst ook hun eigen keuzes moeten onderzoeken:
- Welk resultaat moest het systeem koste wat kost behalen?
- Welke korte termijn prikkels waren ingebouwd?
- Welke veiligheidsmaatregelen zijn voor snelheid of prestaties uitgeschakeld?
- Welke bevoegdheden kreeg de agent om zijn doel te bereiken?
- Was er een veilige en realistische alternatieve route?
De druk om als eerste een krachtig model op de markt te brengen, maakt deze vragen extra belangrijk. In de concurrentiestrijd rond AI kunnen ontwikkelaars geneigd zijn beperkingen zo veel mogelijk te beperken, omdat die de prestaties of het leerproces lijken te vertragen. Daarmee wordt het risico niet opgelost. Het verschuift naar de omgeving waarin de agent werkt.
De parallel met veiligheid en kwaliteit
Dezelfde dynamiek zien we in organisaties. Stel dat een manager zegt: “Veiligheid staat voorop”, maar medewerkers tegelijk afrekent op productiesnelheid, stilstand en het niet halen van deadlines. Dan ontstaat een tegenstrijdig signaal.
Medewerkers kunnen vervolgens gaan improviseren, risico’s verzwijgen of procedures omzeilen om het resultaat toch te halen. Dat gedrag lijkt dan een individueel probleem, maar kan ook een reactie zijn op het systeem dat het management heeft ingericht.
De eerste vraag bij ongewenst gedrag zou daarom niet alleen moeten zijn: “Waarom doet deze medewerker dit?” Ook deze vragen zijn nodig:
- Welk gedrag belonen of bestraffen we in de praktijk?
- Welke regels maken het gewenste resultaat moeilijk haalbaar?
- Welke signalen geven leidinggevenden, bewust of onbewust, af?
- Waar staan grenzen alleen op papier, maar niet in de dagelijkse besluitvorming?
Zodra management zulke tegenstrijdigheden zichtbaar maakt en vermindert, wordt het voor medewerkers gemakkelijker om mee te bewegen met de gewenste verandering.
Een diepere vorm van leren
AI ontwikkeling laat uitvergroot zien wat in organisaties vaak onzichtbaar blijft. Een sterk doel dat botst met beperkingen, prikkelt mens en machine om naar uitwegen te zoeken. Extra regels kunnen nodig zijn, maar ze lossen niet automatisch de achterliggende spanning op.
De belangrijkste les is daarom niet dat AI agents slecht zijn of dat mensen de controle verliezen. De les is dat we beter moeten kijken naar de combinatie van doel, middelen, bevoegdheden, prikkels en toezicht.
AI kan ons daarmee helpen om het normale managementproces scherper te zien. De spiegel laat zien wat we in onze systemen hebben ingebouwd, ook wanneer we dat zelf liever niet onder ogen zien.
Zomeractie: Grip op gedrag voor EUR 9,99
De ontwikkeling van AI maakt een bredere vraag zichtbaar: hoe ontstaat gedrag, en hoe krijgen we daar als mens en organisatie grip op? Wie zich verder wil verdiepen in die vraag, lees je in Grip op Gedrag waarom veilig gedrag niet alleen ontstaat uit kennis, regels of instructies. Gewoonte, tijdsdruk, groepsnormen, voorbeeldgedrag, breinprocessen en de inrichting van het werk spelen allemaal mee.
Voor iedereen die beter wil begrijpen waarom mensen soms anders handelen dan ze rationeel weten dat verstandig is.
De actie loopt tot en met 30 augustus 2026.
Bestel Grip op gedrag hier:
