Regels en risico
Hoe maak je een risicoanalyse voor AI?
Cas Sombroek · Technology Lead bij Pilex
· 10 min lezen
Een risicoanalyse voor AI maak je in zes stappen: beschrijf het systeem en het doel, bepaal de risicoklasse, loop de risico's per categorie langs, schat kans en impact, kies maatregelen en wijs per restrisico een eigenaar aan. Herhaal de analyse bij elke wijziging van model, leverancier of doel. NIST AI RMF en ISO/IEC 23894 geven houvast.
Wanneer je een AI-risicoanalyse maakt
Je maakt een AI-risicoanalyse vóórdat je een AI-toepassing in gebruik neemt, en opnieuw als er iets wezenlijks verandert. Een risicoanalyse is een gestructureerd antwoord op drie vragen: wat kan er misgaan, hoe erg is dat, en wat doe je eraan.
Vier momenten vragen om een analyse.
Een nieuwe toepassing. Doe het voor de pilot begint. In een vroeg stadium kun je het ontwerp nog aanpassen.
Een wijziging. Een ander model, een nieuwe leverancier, een nieuw doel of een nieuwe soort gegevens.
Een incident. Een fout antwoord dat schade gaf, of gegevens die op de verkeerde plek kwamen.
Een vraag van buiten. Een klant, een auditor of een toezichthouder die wil weten hoe je het hebt geregeld.
Niet elke toepassing vraagt dezelfde diepgang. Voor een tool die vergadernotities samenvat, is één pagina genoeg. Voor een systeem dat meeweegt in besluiten over mensen, is een uitgebreide analyse nodig.
Begin met een lijst van wat er draait. Zonder inventaris analyseer je de systemen die je kent en mis je de rest. Hoe je onbekend gebruik vindt, staat in de gids over shadow AI.
Het verschil met een DPIA en een FRIA
Een AI-risicoanalyse kijkt breed naar alles wat er met een AI-toepassing mis kan gaan. Een DPIA en een FRIA zijn twee wettelijke beoordelingen met elk een smallere vraag. Je hebt ze soms alle drie nodig.
Een DPIA is de gegevensbeschermingseffectbeoordeling uit artikel 35 van de AVG: een beoordeling vooraf van de risico's voor de mensen van wie je persoonsgegevens verwerkt. Een FRIA, voluit fundamental rights impact assessment, is de beoordeling van de gevolgen voor de grondrechten uit artikel 27 van de AI-verordening.
| AI-risicoanalyse | DPIA | FRIA | |
|---|---|---|---|
| Komt uit | Goed bestuur; voor aanbieders van hoog risico ook artikel 9 AI-verordening | Artikel 35 AVG | Artikel 27 AI-verordening |
| Kijkt naar | Alle risico's: voor mensen, voor je organisatie en voor de werking | Risico's voor mensen van wie je persoonsgegevens verwerkt | Gevolgen voor de grondrechten van mensen op wie het systeem wordt toegepast |
| Wanneer | Bij elke AI-toepassing, met diepgang naar risico | Bij een verwerking met waarschijnlijk hoog risico | Vóór het eerste gebruik van een hoog-risicosysteem uit bijlage III, voor een beperkte groep gebruikers |
| Geldt sinds | Geen algemene wettelijke datum | 25 mei 2018 | Vanaf 2 december 2027 |
De FRIA geldt alleen voor overheidsorganen, private partijen die openbare diensten verlenen, en wie AI inzet voor kredietwaardigheid of voor levens- en ziekteverzekeringen. De details staan in de gids over de gebruiksverantwoordelijke. Wanneer een DPIA verplicht is, staat in de gids over DPIA's.
Doe het werk één keer. De beschrijving van het systeem en een groot deel van de risico's zijn voor alle drie gelijk. Maak de brede analyse en verwijs daarin naar de DPIA en de FRIA waar die verplicht zijn.
Stap 1 en 2: het systeem beschrijven en de risicoklasse bepalen
Je begint met een beschrijving van wat het systeem doet en waarvoor, en bepaalt daarna in welke risicoklasse van de AI-verordening het valt. Zonder die twee stappen beoordeel je risico's van iets wat je niet scherp hebt.
Beschrijf in gewone taal:
- Het doel. Welke taak neemt het systeem over of ondersteunt het, en wat gebeurt er met de uitkomst.
- De gebruikers en de betrokkenen. Wie werkt ermee, en over wie gaat de uitkomst.
- De gegevens. Wat gaat erin, waar komt het vandaan, en zitten er persoonsgegevens of vertrouwelijke bedrijfsgegevens bij.
- Het model en de leverancier. Welk model, waar draait het, en welke partijen zitten erachter.
- De mate van zelfstandigheid. Geeft het systeem een advies, of voert het zelf acties uit.
Bepaal daarna de risicoklasse. De AI-verordening kent verboden toepassingen, hoog-risicosystemen, systemen met een transparantieplicht en de rest. Het beoogde doel is daarbij beslissend. Een chatassistent die offertes schrijft is geen hoog risico; dezelfde assistent die sollicitanten beoordeelt wel. De stappen staan in de gids over hoog risico.
De risicoklasse bepaalt welke wettelijke plichten gelden. Ze zegt weinig over hoe groot het risico voor jouw organisatie is. Een toepassing met minimaal risico volgens de wet kan nog steeds klantgegevens lekken. Daarom volgt stap 3.
Stap 3: de risico's van AI in kaart brengen per categorie
Je brengt de risico's van AI in kaart door zes vaste categorieën langs te lopen, zodat je niets overslaat. Stel per categorie de vraag: kan dit hier gebeuren, en bij wie komt de schade terecht.
Data en privacy. Persoonsgegevens of vertrouwelijke informatie die bij een externe partij belanden, of medewerkers die via het systeem bij gegevens komen waar ze geen recht op hebben.
Onjuiste uitkomsten. Een model dat feiten verzint of een verkeerde conclusie trekt, en een medewerker die dat overneemt. Zie de gids over AI die dingen verzint.
Bias. Uitkomsten die bepaalde groepen stelselmatig benadelen, bijvoorbeeld door eenzijdige trainingsdata. Dit weegt zwaar zodra het systeem iets zegt over mensen.
Beveiliging. Aanvallen die specifiek zijn voor AI, zoals prompt injection: verborgen instructies in een document of e-mail die het gedrag van het model veranderen. OWASP, een open beveiligingsgemeenschap, zet dit risico bovenaan haar lijst voor taalmodellen. Zie de gids over prompt injection.
Afhankelijkheid van de leverancier. Een model dat zonder aankondiging verandert, voorwaarden die wijzigen, een dienst die stopt, of gegevens die onder buitenlands recht vallen.
Menselijk toezicht. Een mens die formeel controleert maar in de praktijk alles goedkeurt, of niemand die merkt dat de kwaliteit afneemt.
Schrijf elk risico op als een concrete gebeurtenis. "Privacyrisico" is te vaag om iets mee te doen. "Een medewerker plakt een klantdossier in de chat en dat gaat naar een extern model" kun je beoordelen en beperken.
Stap 4 en 5: kans, impact en maatregelen
Per risico schat je de kans dat het gebeurt en de impact als het gebeurt, en kies je een maatregel die een van de twee verlaagt. Een schaal van laag, middel en hoog is voor de meeste organisaties genoeg.
Het voorbeeld hieronder is fictief en generiek. Het gaat om een interne assistent die vragen van medewerkers beantwoordt op basis van bedrijfsdocumenten. Jouw inschatting zal anders uitvallen.
| Risico | Kans | Impact | Maatregel |
|---|---|---|---|
| Persoonsgegevens uit documenten gaan mee naar een extern model | Middel | Hoog | Persoonsgegevens pseudonimiseren vóór verzending; gevoeligste documenten uitsluiten |
| Medewerker krijgt antwoord uit documenten waarvoor hij geen rechten heeft | Middel | Hoog | Toegangsrechten meenemen in de zoekindex |
| Antwoord klopt niet en wordt zonder controle gebruikt | Hoog | Middel | Bron tonen bij elk antwoord; instructie dat de medewerker de bron controleert |
| Verborgen instructie in een document stuurt de assistent (prompt injection) | Laag | Hoog | Assistent alleen laten lezen, geen acties laten uitvoeren zonder akkoord van een mens |
| Leverancier wijzigt het model en de kwaliteit verandert | Middel | Middel | Vaste set testvragen opnieuw draaien na elke wijziging |
| Niemand merkt dat antwoorden slechter worden | Middel | Middel | Maandelijkse steekproef door de eigenaar; meldknop voor foute antwoorden |
Kies maatregelen in een vaste volgorde. Kun je het risico wegnemen, bijvoorbeeld door bepaalde gegevens niet te gebruiken? Kun je het technisch beperken? Pas daarna komen instructies en controles door mensen. Een maatregel die afhangt van menselijke discipline is de zwakste.
Stap 6: restrisico, eigenaar en bijhouden
Wat na de maatregelen overblijft, is het restrisico, en dat moet iemand bewust aanvaarden. Een analyse zonder eigenaar en zonder besluit blijft een document.
Schat per risico opnieuw de kans en de impact, nu met de maatregelen erbij. Leg vast wie het restrisico aanvaardt. Dat is de eigenaar van de toepassing, bij een hoog restrisico de directie. Is het restrisico te hoog, dan pas je het ontwerp aan of begin je er niet aan. Ook dat is een geldige uitkomst.
Geef elke maatregel een eigenaar en een datum. Een maatregel die niemand uitvoert, verlaagt geen risico.
Houd de analyse daarna bij. Dat betekent drie dingen:
- Herzien bij wijziging. Een nieuw model, een nieuwe leverancier, een nieuw doel of nieuwe gegevens.
- Een vast moment. Loop alle analyses periodiek na, ook als er niets lijkt te zijn veranderd.
- Leren van incidenten. Elk incident is een toets van je analyse: stond het risico erin, en werkte de maatregel.
Bewaar de analyse bij het systeem in je register, naast de eigenaar en de risicoklasse. Dan zie je bij een wijziging meteen welke analyse opnieuw moet. Bij een handvol toepassingen kan dat in een gedeeld document. Wordt het meer, dan helpt software; zie de gids over AI-governance software.
Welk AI-risicobeheer raamwerk je kiest
Drie raamwerken kom je vaak tegen: het NIST AI RMF, ISO/IEC 23894 en ISO/IEC 42001. Een raamwerk is een vaste indeling van wat je bij risicobeheer hoort te regelen. Geen van de drie is wettelijk verplicht.
Het NIST AI Risk Management Framework is van het Amerikaanse standaardeninstituut NIST, verschenen op 26 januari 2023 en bedoeld voor vrijwillig gebruik. Het kent vier functies: Govern (besturen), Map (in kaart brengen), Measure (meten) en Manage (beheersen). Het is gratis. Sinds juli 2024 is er een aanvullend profiel voor generatieve AI. NIST meldt dat versie 1.0 wordt herzien.
ISO/IEC 23894 uit 2023 geeft richtlijnen voor risicomanagement specifiek bij AI. De norm sluit aan op ISO 31000, de algemene norm voor risicomanagement. Hij past goed als je organisatie al volgens ISO 31000 werkt. Je kunt er niet op certificeren.
ISO/IEC 42001 is breder: een norm voor een heel AI-managementsysteem, waar de risicobeoordeling een onderdeel van is. Op deze norm kun je wel certificeren. Zie de gids over ISO 42001 implementeren.
Voor overheidsorganisaties is er daarnaast het Impact Assessment Mensenrechten en Algoritmes, in februari 2026 geactualiseerd en in lijn gebracht met artikel 27 van de AI-verordening.
Kies op wat je al hebt en wat klanten vragen. De zes stappen uit deze gids passen in alle drie. Het raamwerk verandert vooral de indeling en de woorden.
Wanneer je hulp nodig hebt bij een AI-risicoanalyse
Hulp heb je nodig bij een toepassing die mogelijk hoog risico is, of als de analyse vastloopt op techniek die niemand in huis kan beoordelen. Een eenvoudige toepassing analyseer je zelf.
Zelf doen werkt als de toepassing overzichtelijk is, de leverancier goede documentatie geeft en je iemand hebt die privacy en beveiliging kent. Neem de zes categorieën, vul de tabel in en leg het besluit vast. Dat is beter dan wachten op een perfecte methode.
Zoek hulp in drie gevallen. De toepassing weegt mee in besluiten over mensen, zoals bij werving, krediet of toegang tot diensten. Het systeem voert zelf acties uit in andere systemen, waardoor beveiligingsrisico's moeilijker te overzien zijn. Of een klant of auditor vraagt om een analyse volgens een bepaald raamwerk.
Laat een externe partij nooit het besluit nemen. Een adviseur kan risico's aanwijzen en maatregelen voorstellen. Het restrisico aanvaarden is aan de eigenaar in je eigen organisatie.
Bij Pilex zit de risicoclassificatie in de tweede fase van het implementatietraject van Pilex Secure: daarin vullen we de AI-inventaris en het risicobord. Het platform houdt per toepassing de risicoklasse met de bijbehorende actiepunten bij en ondersteunt DPIA's per use-case. De afweging zelf blijft mensenwerk.
Veelgestelde vragen
- Is een risicoanalyse voor AI verplicht?
- Soms. Aanbieders van hoog-risicosystemen moeten volgens artikel 9 van de AI-verordening een risicobeheersysteem hebben, voor systemen uit bijlage III vanaf 2 december 2027. Verwerk je persoonsgegevens met een waarschijnlijk hoog risico, dan is een DPIA verplicht onder de AVG. Voor andere toepassingen is er geen algemene plicht. Zonder analyse weet je alleen niet welke plichten gelden.
- Is een DPIA hetzelfde als een risicoanalyse AI?
- Nee. Een DPIA kijkt alleen naar de risico's voor mensen van wie je persoonsgegevens verwerkt. Een risicoanalyse voor AI kijkt breder: ook naar onjuiste uitkomsten, beveiliging, afhankelijkheid van een leverancier en risico's voor je eigen organisatie. De twee overlappen, dus verwijs over en weer.
- Wie maakt de AI-risicoanalyse?
- De eigenaar van de toepassing, samen met iemand die het proces kent, iemand van IT of security en iemand met kennis van privacy en regelgeving. De leverancier levert informatie over het systeem, maar de afweging en het besluit blijven bij jou.
- Hoe vaak herzie je een AI-risicoanalyse?
- Bij elke wezenlijke wijziging: een ander model, een nieuwe leverancier, een nieuw doel of nieuwe gegevens. Plan daarnaast een vast moment, bijvoorbeeld jaarlijks, om alle analyses na te lopen. Ook een incident is een aanleiding.
- Welk AI-risicobeheer raamwerk past bij een mkb-bedrijf?
- Voor de meeste mkb-bedrijven volstaat een eenvoudige methode met vaste risicocategorieën, een schatting van kans en impact en een eigenaar per risico. Het NIST AI RMF is gratis en bruikbaar als checklist. ISO 42001 wordt relevant als klanten om een certificaat vragen.
Bronnen
- Verordening (EU) 2024/1689, artikel 9, 26 en 27
EUR-Lex · geraadpleegd
- Verordening (EU) 2016/679, artikel 35 over de DPIA
EUR-Lex · geraadpleegd
- AI Risk Management Framework
NIST · geraadpleegd
- ISO/IEC 23894:2023, richtlijnen voor risicomanagement bij AI
ISO · geraadpleegd
- ISO/IEC 42001, managementsysteem voor AI
ISO · geraadpleegd
- LLM01:2025 Prompt Injection
OWASP Gen AI Security Project · geraadpleegd
- Impact Assessment Mensenrechten en Algoritmes
Rijksoverheid · geraadpleegd
Over de auteur

Technology Lead bij Pilex
Schrijft over de techniek achter veilige AI: architectuur, datastromen en wat er onder de motorkap gebeurt.
Inhoud gecontroleerd op · Cas op LinkedIn
