DefinitionDefinitie
What is runtime governance?
Wat is runtime governance?
In shortIn het kort
Runtime governance is the set of controls that govern an AI system while it runs — boundary rules, circuit breakers, default-deny permissions, drift and behaviour monitoring, and post-market monitoring — so a system approved at design time stays inside its approved operating envelope in production.
Runtime governance is het geheel van controls die een AI-systeem besturen terwijl het draait — boundary rules, circuit breakers, default-deny-rechten, drift- en gedragsmonitoring, en post-market monitoring — zodat een vooraf goedgekeurd systeem in productie binnen zijn goedgekeurde grenzen blijft.
Most AI governance is done once, up front: a risk classification, an impact assessment, a model choice, an approval. Then the system goes live — and keeps running, changing, and acting, often for years. Runtime governance is the part of governance that operates during that life: continuously, while the system is in production.
De meeste AI-governance gebeurt eenmalig en vooraf: een risicoclassificatie, een effectbeoordeling, een modelkeuze, een goedkeuring. Daarna gaat het systeem live — en blijft draaien, veranderen en handelen, vaak jarenlang. Runtime governance is het deel van governance dat tijdens dat leven werkt: continu, terwijl het systeem in productie is.
The discipline matters because the most consequential things an AI system does cannot all be foreseen at design time. A model drifts as the world changes. An agent is given a tool and finds an unintended use for it. A vendor updates a foundation model underneath you. Runtime governance is how an organisation keeps control after the launch, not just before it — and produces the evidence to prove it.
De discipline is belangrijk omdat de meest ingrijpende dingen die een AI-systeem doet niet allemaal vooraf te voorzien zijn. Een model drift terwijl de wereld verandert. Een agent krijgt een tool en vindt er een onbedoeld gebruik voor. Een leverancier werkt een foundation model onder u bij. Runtime governance is hoe een organisatie de controle behoudt ná de lancering, niet alleen ervoor — en het bewijs daarvoor levert.