Naar de inhoud

Regels en risico

Welke AI-governance software bestaat er en hoe kies je?

Cas Sombroek · Technology Lead bij Pilex

· 9 min lezen

AI-governance software houdt bij welke AI er in je organisatie draait, hoe riskant die is en wat ermee gebeurt. Er zijn vier soorten: GRC-platforms met een AI-module, gespecialiseerde AI-governance platforms, tooling van cloudleveranciers en een AI-gateway of beveiligde werkomgeving. Kies op dekking over alle leveranciers, logging, risicoclassificatie en de vraag wie het register bijhoudt.

Wat AI-governance software doet

AI-governance software geeft je één overzicht van alle AI in je organisatie, met de middelen om te laten zien dat je er grip op hebt. Governance betekent hier: afspreken wie waarvoor verantwoordelijk is, en kunnen controleren of die afspraken worden nageleefd.

De meeste pakketten bieden een deel van deze zes functies.

  1. Een register van AI-systemen. Eén lijst met elke AI-toepassing, de eigenaar, het doel en de leverancier.
  2. Risicoclassificatie. Per toepassing de risicoklasse volgens de AI-verordening, met de plichten die daarbij horen.
  3. Logging en audit trail. Een logboek van wat een systeem deed, wie het gebruikte en wanneer, zodat je een uitkomst achteraf kunt reconstrueren.
  4. Beleid afdwingen. Regels die het systeem zelf toepast, zoals welke gegevens naar welk model mogen.
  5. Kosten. Inzicht in wat AI kost per team, per model of per toepassing.
  6. Shadow AI. Zicht op AI-gebruik dat buiten je afspraken valt. Hoe je dat opspoort, staat in de gids over shadow AI.

Niet elk pakket biedt alle zes. Het soort aanbieder bepaalt waar de nadruk ligt, en daarom begint kiezen bij de vier soorten hieronder.

Welke AI-governance tooling bestaat er?

Er bestaan vier soorten AI-governance tooling: GRC-platforms met een AI-module, gespecialiseerde AI-governance platforms, tooling van cloudleveranciers en AI-gateways of beveiligde werkomgevingen. Ze verschillen in waar ze zitten: op papier, of in het verkeer naar het AI-model zelf.

Vier soorten AI-governance tooling, met voorbeelden uit de documentatie van de aanbieders. De volgorde zegt niets over kwaliteit.
SoortWaar de nadruk ligtVoorbeeldenVraag na
GRC-platform met een AI-moduleRegister, beoordelingen en bewijs, naast privacy en risicobeheerOneTrustHoe nieuwe AI-toepassingen in het register komen: automatisch of met de hand
Gespecialiseerd AI-governance platformRegister, risicobeoordeling en toetsing aan raamwerken, specifiek voor AICredo AI, IBM watsonx.governanceWie het register en de beoordelingen bijhoudt, en hoeveel werk dat is
Tooling van je cloudleverancierGegevensbescherming, logging en bewaartermijnen binnen het eigen platformMicrosoft PurviewWelke functies werken voor AI-apps buiten het eigen platform
AI-gateway of beveiligde werkomgevingHet verkeer zelf: logging, kosten, limieten en filters per verzoekCloudflare AI Gateway, LiteLLMWelk AI-gebruik buiten de gateway om loopt, en waar je register staat

De voorbeelden zijn bekende namen per soort. We geven geen oordeel over kwaliteit en de lijst is niet volledig. Wat hieronder over elk product staat, komt van de eigen pagina's van de aanbieder, geraadpleegd in november 2026. Wij hebben deze producten niet getest. Functies veranderen snel, dus controleer ze voor je kiest.

Je kunt twee soorten combineren: één voor het register en de beoordelingen, één voor het verkeer.

GRC-platforms en gespecialiseerde AI-governance platforms

Deze twee soorten leggen de nadruk op het dossier: wat heb je, hoe riskant is het en waar is het bewijs. GRC staat voor governance, risk en compliance, de software waarin organisaties hun risico's, controles en audits bijhouden.

Een GRC-platform met een AI-module is handig als je dat platform al gebruikt voor privacy of informatiebeveiliging. OneTrust beschrijft dat zijn AI-governance oplossing AI-systemen, modellen, agents, datasets, leveranciers, projecten en toepassingen inventariseert. Het biedt sjablonen voor de EU AI Act, het NIST AI Risk Management Framework en ISO 42001.

Gespecialiseerde platforms zijn alleen voor AI gebouwd. Credo AI noemt een register waarin elk AI-systeem, elke agent, leverancier en elk model wordt vastgelegd, met kant-en-klare beleidspakketten voor dezelfde drie raamwerken. IBM beschrijft watsonx.governance als een product om AI-risico's gedurende de hele levensduur te beoordelen en te beperken, AI-systemen doorlopend te monitoren en onbeheerd AI-gebruik te ontdekken.

Bij elk register is de invoer het aandachtspunt: het is zo goed als de gegevens die erin komen. Vraag daarom hoe het platform nieuwe AI-toepassingen vindt: automatisch, via een koppeling, of alleen als iemand een formulier invult.

Tooling van cloudleveranciers, zoals Microsoft Purview

Je cloudleverancier levert vaak al governance-functies mee, gericht op de AI binnen het eigen platform. Voor organisaties op Microsoft 365 is dat Microsoft Purview, de dienst voor gegevensbescherming en compliance.

Volgens de documentatie van Microsoft worden prompts en antwoorden van ondersteunde AI-apps vastgelegd in het centrale auditlogboek. Je kunt bewaartermijnen instellen voor die gesprekken. Op Windows-computers die bij Purview zijn aangemeld, kunnen regels tegen datalekken waarschuwen of blokkeren als iemand gevoelige gegevens deelt met een AI-site van een derde partij. En Compliance Manager biedt sjablonen om je naleving van AI-regelgeving te beoordelen.

Microsoft deelt de ondersteunde apps in drie groepen in: de eigen Copilot-diensten, zakelijke AI-apps zoals ChatGPT Enterprise, en overige AI-apps die via browseractiviteit worden herkend. Per app staat in de documentatie welke functies werken.

Het voordeel is dat Purview voortbouwt op de instellingen voor gegevensbescherming die je in Microsoft 365 al hebt. Let op de reikwijdte. Een agent die een leverancier buiten Microsoft voor je bouwde, of een lokaal model, staat er niet vanzelf in. De gids over Copilot gaat dieper in op wat Copilot en Purview wel en niet afdekken.

Een AI-gateway of beveiligde werkomgeving

Een AI-gateway is een tussenstation waar elk verzoek aan een AI-model doorheen gaat, zodat je op één plek kunt loggen, begrenzen en filteren. Waar een register beschrijft wat er hoort te gebeuren, ziet een gateway wat er werkelijk gebeurt.

Cloudflare beschrijft voor zijn AI Gateway logging van verzoeken en fouten, cijfers over aantallen verzoeken, tokens en kosten, en limieten op het aantal verzoeken. LiteLLM is een gateway die je zelf host. Volgens de documentatie biedt die één toegangspunt voor meer dan honderd modelaanbieders, budgetten per team of gebruiker, en filters op verzoeken en antwoorden, waaronder het maskeren van persoonsgegevens.

Een gateway zit tussen je eigen toepassingen en het model. Medewerkers merken er weinig van. Voor hen heb je daarbovenop een werkomgeving nodig: een chat waarin ze met goedgekeurde modellen werken en waarin de regels al zijn ingebouwd.

Let ook hier op de reikwijdte. Een gateway ziet alleen het verkeer dat erdoorheen loopt. Een medewerker met een privé-account op een telefoon valt erbuiten. Daarom hoort er detectie van shadow AI naast.

Selectiecriteria uit de AI-verordening

De AI-verordening schrijft geen software voor. Ze legt wel plichten op die je zonder goede vastlegging moeilijk nakomt. Vertaal die plichten naar vragen aan de leverancier.

Plichten uit de AI-verordening vertaald naar selectiecriteria voor AI-governance software
PlichtArtikelVraag aan de leverancier
Menselijk toezicht door bekwame mensenArtikel 26, lid 2, en artikel 14Kan ik per systeem een eigenaar en een toezichthouder vastleggen, en kan die ingrijpen?
De werking monitoren en risico's meldenArtikel 26, lid 5Krijg ik een signaal bij afwijkingen, en kan ik incidenten registreren?
Logs minstens zes maanden bewarenArtikel 26, lid 6, en artikel 12Welke gebeurtenissen worden gelogd, hoe lang, en kan ik ze exporteren?
Uitleg geven bij een besluit over een persoonArtikel 86Kan ik per uitkomst teruglezen wat het systeem aanleverde?
AI-geletterdheid ondersteunenArtikel 4Kan ik bijhouden wie met welk systeem werkt en welke instructie kreeg?

De plichten uit artikel 12, 14, 26 en 86 gelden alleen bij hoog-risicosystemen, en voor systemen uit bijlage III pas vanaf 2 december 2027. Artikel 4 geldt al voor iedereen. De data staan in de gids over het uitstel, de plichten zelf in de gids over de gebruiksverantwoordelijke.

Twee criteria staan niet in de wet en zijn toch doorslaggevend. Dekt de software alle AI, ook buiten je grootste leverancier? En waar staan de logs, die zelf ook persoonsgegevens kunnen bevatten?

Wat ISO 42001 en AI-risicobeheer van software vragen

ISO 42001, de norm voor een AI-managementsysteem, vraagt dat je werkwijze aantoonbaar is. Software kan helpen dat bewijs te verzamelen. De norm noemt geen producten. Hij vraagt een vaste cyclus: AI-systemen in beeld, risico's beoordeeld, maatregelen gekozen, en periodiek getoetst of het werkt.

Voor AI-risicobeheer betekent dat drie eisen aan je tooling. De risicobeoordeling hangt aan het systeem in het register, zodat je bij een wijziging ziet welke beoordeling opnieuw moet. Elke maatregel heeft een eigenaar en een status. En je kunt voor een interne audit of een auditor in één keer uitdraaien wat er is beoordeeld en besloten.

Hoe je zo'n beoordeling maakt, staat in de gids over de AI-risicoanalyse. Wat de norm verder vraagt, staat in de gids over ISO 42001 implementeren.

Let bij leveranciers die met raamwerken adverteren op het verschil tussen een sjabloon en een werkende functie. Een vragenlijst voor ISO 42001 is nuttig, maar levert zelf geen logging op. Vraag in een demo om het bewijs te zien dat het systeem zelf verzamelt, naast wat een mens invult.

Waar Pilex Secure in dit landschap past

Pilex Secure, het platform van Pilex, combineert twee van de vier soorten: een gespecialiseerd AI-governance platform en een beveiligde werkomgeving. Het is ons eigen product. Lees deze sectie dus als beschrijving van de maker en niet als onafhankelijk oordeel.

Aan de registerkant staat elke agent en AI-toepassing in één register met eigenaar, doel en risicoklasse. Het risicobord geeft per toepassing de classificatie volgens de EU AI Act met de actiepunten per risicoklasse. Elke run is stap voor stap terug te lezen, en de kosten zijn zichtbaar per team, per model en per agent.

Aan de verkeerskant biedt het één chat-omgeving met Claude, GPT, Gemini en lokale modellen. Persoonsgegevens worden lokaal herkend en vervangen door pseudoniemen vóór elk verzoek naar de cloud. Shadow AI wordt zichtbaar op basis van firewall- en netwerklogs.

Het platform werkt binnen en buiten Microsoft en registreert ook wat Copilot doet. Het vraagt wel een implementatietraject: koppelen, classificeren en rollen beleggen. En het werkt niet mee in je documenten zoals Copilot dat doet. De volledige beschrijving staat op de pagina over AI-governance.

Wanneer je hulp nodig hebt bij de keuze

Hulp bij de keuze heb je nodig als je niet weet welke AI er draait, of als niemand in huis de wettelijke plichten naar eisen kan vertalen. In andere gevallen kom je er zelf uit.

Gebruik je drie of vier AI-toepassingen en valt geen daarvan onder hoog risico, begin dan met een lijst en een eigenaar per toepassing. Daar heb je geen licentie voor nodig. Koop pas software als die lijst te snel verandert of als een klant of auditor om logging vraagt.

Zit je op Microsoft 365 en draait vrijwel al je AI daar, kijk dan eerst wat je met je bestaande licenties al kunt.

Schakel iemand in bij drie signalen: meerdere leveranciers en eigen agents door elkaar, een toepassing die mogelijk hoog risico is, of een certificering zoals ISO 42001 in het vooruitzicht. Dan loont het om de eisen eerst op papier te zetten en pas daarna demo's te plannen. Een adviesgesprek kan daarbij helpen, maar een ervaren compliance officer of IT-architect met kennis van de AI-verordening kan dat ook.

Veelgestelde vragen

Wat is het verschil tussen een AI-governance tool en een AI compliance platform?
In de praktijk weinig. Leveranciers gebruiken beide namen voor software die AI-systemen registreert, risico's beoordeelt en bewijs verzamelt. Een compliance platform legt de nadruk op het toetsen aan regels, een governance tool op het dagelijks beheer. Kijk naar de functies en laat de naam voor wat hij is.
Heb ik AI audit trail software nodig?
Bij een hoog-risicosysteem wel. Artikel 26 van de AI-verordening vraagt dat je de logs die onder jouw controle vallen minstens zes maanden bewaart, voor systemen uit bijlage III vanaf 2 december 2027. Ook zonder hoog risico helpt een audit trail, een logboek van wie wat deed en wanneer, om een incident of klacht te reconstrueren.
Is AI oversight software verplicht onder de AI-verordening?
Nee. De verordening verplicht bij hoog risico tot menselijk toezicht door bekwame mensen. Een softwarepakket schrijft ze niet voor. Software maakt dat toezicht wel beter uitvoerbaar: je ziet welke systemen er draaien, wie eigenaar is en wat een systeem heeft gedaan.
Kan AI-risicobeheer ook zonder software?
Ja, bij een handvol AI-toepassingen volstaat een goed bijgehouden lijst met per toepassing de eigenaar, het doel, de risicoklasse en de maatregelen. Software wordt zinvol zodra de lijst sneller verandert dan je hem kunt bijhouden, of zodra je logging en bewijs voor een auditor nodig hebt.
Dekt Microsoft Purview ook AI buiten Microsoft?
Deels. Volgens de documentatie van Microsoft ondersteunt Purview de Copilot-diensten, zakelijke AI-apps zoals ChatGPT Enterprise, en andere AI-apps die via browseractiviteit worden herkend. Welke functies per app werken, verschilt. Controleer dat per app in de documentatie voordat je erop bouwt.

Bronnen

Over de auteur

Portret van Cas Sombroek

Cas Sombroek

Technology Lead bij Pilex

Schrijft over de techniek achter veilige AI: architectuur, datastromen en wat er onder de motorkap gebeurt.

Inhoud gecontroleerd op · Cas op LinkedIn

Wil je dit voor je eigen organisatie uitzoeken?

Plan een intake van dertig minuten. We rekenen vrijblijvend één proces door en zeggen eerlijk of het de moeite waard is.

Mogen we meten hoe onze site wordt gebruikt?

Met analysecookies zien we welke pagina's helpen en van welke organisaties bezoekers komen. Zonder jouw akkoord plaatsen we ze niet. Meer hierover staat in ons privacybeleid.