Hoe bepaal ik of mijn AI-toepassing onder hoog risico valt?

Waarom de classificatie ertoe doet

Of een AI-toepassing hoog risico is, bepaalt welk deel van de AI-verordening op je van toepassing is. Een hoog-risicosysteem vraagt van de aanbieder onder meer een risicobeheersysteem, technische documentatie, logging, menselijk toezicht en een conformiteitsbeoordeling, en van de gebruiker de plichten uit artikel 26. Een systeem zonder hoog risico valt grotendeels buiten die eisen.

De classificatie gaat over de toepassing en niet over de techniek. Hetzelfde taalmodel kan in de ene toepassing een tekstassistent zijn en in de andere een systeem dat kandidaten beoordeelt. Wat telt, is het beoogde doel: het gebruik waarvoor de aanbieder het systeem bedoelt, zoals dat blijkt uit de gebruiksinstructies, het verkoopmateriaal en de technische documentatie (artikel 3, punt 12).

De hoog-risicoplichten gelden sinds de Digital Omnibus vanaf 2 december 2027 voor toepassingen uit bijlage III en vanaf 2 augustus 2028 voor producten uit bijlage I. Dat geeft tijd, maar een aanbieder die dan moet voldoen, begint niet in 2027.

Stap 1. Is de toepassing verboden?

Begin bij artikel 5, want een verboden toepassing hoef je niet te classificeren: je gebruikt hem niet. De verboden gelden sinds 2 februari 2025 voor iedereen.

Verboden zijn onder meer manipulatie en het uitbuiten van kwetsbaarheden met aanzienlijke schade als gevolg, social scoring, het voorspellen van strafbaar gedrag op basis van alleen profilering, het ongericht verzamelen van gezichtsbeelden, emotieherkenning op de werkplek en in het onderwijs zonder medische of veiligheidsreden, en biometrische categorisering op gevoelige kenmerken. Per 2 december 2026 komen daar twee verboden bij, op niet-consensueel intiem beeld en op materiaal van seksueel misbruik van kinderen.

Let op het verschil tussen verboden en hoog risico. Emotieherkenning bij je eigen medewerkers is verboden. Emotieherkenning in een andere context, bijvoorbeeld bij klanten, is niet verboden maar staat wel in bijlage III, punt 1, en is dan hoog risico.

Valt je toepassing hier niet onder, ga dan door naar stap 2.

Stap 2. Valt het systeem onder bijlage I?

Artikel 6, lid 1, maakt een AI-systeem hoog risico als aan twee voorwaarden tegelijk is voldaan. Het systeem is een product uit de productwetgeving van bijlage I, of een veiligheidscomponent van zo'n product. En dat product moet volgens die wetgeving door een derde partij worden gekeurd voordat het op de markt komt.

Bijlage I noemt onder meer speelgoed, liften, radioapparatuur, drukapparatuur, persoonlijke beschermingsmiddelen, gastoestellen en medische hulpmiddelen, inclusief in-vitrodiagnostiek. Voor een tweede groep, zoals luchtvaart en voertuigen, lopen de eisen via de eigen sectorwetgeving (artikel 2, lid 2). De Digital Omnibus heeft machines naar die tweede groep verplaatst.

De Omnibus verduidelijkte ook wat een veiligheidscomponent is. AI die alleen dient voor gebruikersgemak, prestatieoptimalisatie, efficiëntie, automatisering of kwaliteitscontrole, en niet voor veiligheid, telt niet als veiligheidscomponent. Brengt het falen van het systeem de gezondheid of veiligheid in gevaar, dan wel.

Voor de meeste kantoortoepassingen is deze stap snel beantwoord: ze zitten niet in een gereguleerd product.

Stap 3. Valt het doel onder bijlage III?

Bijlage III noemt acht gebieden. Valt het beoogde doel van je toepassing onder een van de beschreven gebruiksgevallen, dan is die in beginsel hoog risico (artikel 6, lid 2).

Voor bedrijven buiten de publieke sector zijn vooral punt 4 en punt 5 relevant: AI rond personeel, en AI bij krediet en verzekeringen. Systemen die financiële fraude opsporen, zijn uitdrukkelijk uitgezonderd van punt 5, onder b, over kredietwaardigheid. Bij levens- en ziekteverzekeringen (onder c) geldt die uitzondering niet.

Stap 4. Geldt een uitzondering uit artikel 6, lid 3?

Een systeem uit bijlage III is toch geen hoog risico als het geen significant risico oplevert voor de gezondheid, de veiligheid of de grondrechten van mensen, onder meer doordat het de uitkomst van een besluit niet wezenlijk beïnvloedt. Dat is het geval als het systeem bedoeld is voor een van vier dingen:

1. een beperkte procedurele taak;
2. het verbeteren van het resultaat van een eerder voltooide menselijke activiteit;
3. het opsporen van besluitvormingspatronen of afwijkingen daarvan, zonder de menselijke beoordeling te vervangen of te beïnvloeden zonder behoorlijke menselijke toetsing;
4. een voorbereidende taak voor een beoordeling uit bijlage III.

Eén regel gaat voor alles: een systeem uit bijlage III dat natuurlijke personen profileert, is altijd hoog risico. Profilering heeft hier dezelfde betekenis als in de AVG: het automatisch beoordelen van persoonlijke aspecten, zoals prestaties, gedrag of betrouwbaarheid.

Een aanbieder die zich op de uitzondering beroept, legt zijn beoordeling vast voordat het systeem op de markt komt, en registreert het in de EU-databank (artikel 6, lid 4). Toezichthouders kunnen die documentatie opvragen.

Wat telt: het beoogde doel

Omdat de classificatie aan het doel hangt, verandert hij als het doel verandert. Dat is de plek waar gebruikers zich het vaakst vergissen.

Een algemene chatassistent is meestal geen hoog-risicosysteem, zolang de aanbieder hoog-risicogebruik in zijn gebruiksinstructies, voorwaarden en verkoopmateriaal uitsluit. Volgens de conceptrichtsnoeren van de Commissie telt een breed inzetbaar systeem zonder zo'n uitsluiting ook als bedoeld voor hoog-risicogebruik. Zet jij hem in om sollicitaties te rangschikken of medewerkers te beoordelen, dan heb je het beoogde doel gewijzigd. Artikel 25, lid 1, onder c, maakt je in dat geval zelf aanbieder van een hoog-risicosysteem, met alle plichten die daarbij horen.

Hetzelfde gebeurt als je een systeem dat al hoog risico is, onder je eigen naam of merk zet, of er een substantiële wijziging in aanbrengt waarna het hoog risico blijft.

De praktische les: leg bij elke nieuwe toepassing van een bestaande tool vast waarvoor je hem gebruikt, en toets dat doel opnieuw tegen bijlage III. Wat je als gebruiker verder regelt, staat in de gids over de gebruiksverantwoordelijke.

Twijfelgevallen uit de praktijk

Een paar toepassingen komen vaak voorbij. Zo vallen ze uit, op basis van de tekst van de verordening.

Offertes, samenvattingen, concepten. Geen hoog risico: het gaat niet om een gebruiksgeval uit bijlage III.

Klantvragen beantwoorden of routeren. Meestal geen hoog risico. Wel geldt de transparantieplicht uit artikel 50.

Cv's rangschikken of kandidaten scoren. Hoog risico, punt 4, onder a. Omdat hier vrijwel altijd geprofileerd wordt, helpt de uitzondering uit artikel 6, lid 3, niet.

Prestaties van medewerkers beoordelen of taken toewijzen op basis van gedrag. Hoog risico, punt 4, onder b.

Een kredietscore van een particulier. Hoog risico, punt 5, onder b. Van een bedrijf niet, want de bepaling gaat over natuurlijke personen.

Fraudedetectie. Uitgezonderd van punt 5, onder b.

Premie en acceptatie bij levens- en ziekteverzekeringen. Hoog risico, punt 5, onder c. Zie de gids over finance en verzekeringen.

Wat hoog risico betekent voor aanbieder en gebruiker

Voor de aanbieder is hoog risico een volledig kwaliteitsregime. De eisen uit hoofdstuk III gaan over risicobeheer, de kwaliteit van trainings- en testdata, technische documentatie, automatische logging, informatie en gebruiksinstructies voor de gebruiker, menselijk toezicht, en nauwkeurigheid, weerbaarheid tegen fouten en aanvallen, en cyberbeveiliging. Daarbij komen een kwaliteitsmanagementsysteem, een conformiteitsbeoordeling, CE-markering en registratie in de EU-databank.

Voor de gebruiker is het lichter, maar niet vrijblijvend. Artikel 26 vraagt gebruik volgens de instructies, menselijk toezicht door bekwame mensen, monitoring, het bewaren van logs en het informeren van werknemers en betrokkenen. Een deel van de gebruikers voert ook een grondrechtenbeoordeling uit (artikel 27), en mensen over wie een besluit wordt genomen, krijgen recht op uitleg (artikel 86).

Kies je als gebruiker voor een hoog-risicosysteem, vraag dan vóór december 2027 bij de aanbieder na hoe hij de conformiteitsbeoordeling aanpakt en wanneer je de gebruiksinstructies krijgt. Zonder die instructies kun je artikel 26 niet naleven.

De richtsnoeren van de Europese Commissie

Artikel 6, lid 5, draagt de Commissie op om richtsnoeren te publiceren over de praktische toepassing van de classificatie, met een lijst van praktijkvoorbeelden van toepassingen die wel en geen hoog risico zijn.

Op 19 mei 2026 publiceerde de Commissie de conceptrichtsnoeren over de classificatie van hoog-risicosystemen. Op het moment van schrijven zijn het nog concepten. Ze zijn, net als de andere richtsnoeren bij de verordening, niet bindend, maar wel de beste aanwijzing hoe toezichthouders de regels gaan lezen.

Gebruik ze bij twijfelgevallen als tweede toets, na de tekst van artikel 6 en bijlage III zelf. Staat jouw toepassing als voorbeeld in de richtsnoeren, leg dan in je afweging vast op welk voorbeeld je je baseert.

Controleer bij de volgende beoordeling van je inventaris of de definitieve versie is verschenen en of die op jouw toepassingen iets verandert.

Leg je afweging vast

Een aanbieder die zich op de uitzondering van artikel 6, lid 3, beroept, moet zijn beoordeling documenteren. Voor een gebruiker is dat niet voorgeschreven, maar wel verstandig, om twee redenen.

De eerste: een toezichthouder of klant die vraagt waarom je een toepassing niet als hoog risico behandelt, krijgt dan een onderbouwing in plaats van een gevoel. De tweede: bij een wijziging in het doel zie je meteen dat de oude afweging niet meer klopt.

Leg per toepassing vast: het beoogde doel in één zin, de uitkomst van de vier stappen hierboven, het artikel of de bijlage waarop je je baseert, en de datum. Bewaar dat in dezelfde inventaris die je gebruikt voor AI-geletterdheid en voor je DPIA's.

Herzie de afweging bij elke wijziging in hoe de toepassing wordt gebruikt, en in ieder geval zodra de definitieve richtsnoeren van de Commissie er zijn. Een DPIA doe je daarnaast gewoon; die hangt aan de verwerking van persoonsgegevens, niet aan de risicoklasse. Zie de gids over DPIA's.