Wat moet ik onder de AI-verordening regelen als ik AI alleen gebruik?

Wanneer je gebruiksverantwoordelijke bent

De AI-verordening noemt je gebruiksverantwoordelijke als je een AI-systeem onder eigen verantwoordelijkheid gebruikt, behalve voor een persoonlijke activiteit buiten je beroep (artikel 3, punt 4). Dat geldt voor vrijwel elke organisatie die ChatGPT, Copilot, een AI-functie in een bestaand pakket of een agent van een leverancier inzet.

De tegenhanger is de aanbieder: de partij die een AI-systeem ontwikkelt of laat ontwikkelen en het onder eigen naam of merk op de markt brengt of in gebruik stelt (artikel 3, punt 3). Op de aanbieder rusten de zwaarste plichten, zoals de conformiteitsbeoordeling van een hoog-risicosysteem.

Het onderscheid maak je per systeem, niet per organisatie. Een bedrijf dat Copilot gebruikt, is daarvoor gebruiksverantwoordelijke. Laat hetzelfde bedrijf een eigen klantchatbot bouwen en zet het die onder eigen naam op de website, dan is het van die chatbot de aanbieder.

Leg daarom in je inventaris per systeem vast welke rol je hebt. Die rol bepaalt welke artikelen hieronder voor dat systeem gelden.

Wanneer je toch aanbieder van een hoog-risicosysteem wordt

Artikel 25 noemt drie situaties waarin een gebruiksverantwoordelijke alsnog de plichten van een aanbieder van een hoog-risicosysteem krijgt.

De eerste: je zet je naam of merk op een hoog-risicosysteem dat al op de markt is, tenzij je contractueel anders hebt afgesproken. De tweede: je brengt een substantiële wijziging aan in zo'n systeem, en het blijft daarna hoog risico.

De derde verrast organisaties het vaakst. Je wijzigt het beoogde doel van een systeem dat geen hoog risico is, ook een systeem voor algemene doeleinden, op zo'n manier dat het hoog risico wordt. Een algemene chatassistent is meestal geen hoog-risicosysteem, zolang de aanbieder hoog-risicogebruik in zijn voorwaarden uitsluit. Gebruik je hem om sollicitaties te filteren of kandidaten te beoordelen, dan valt die toepassing onder bijlage III, punt 4, en ben je voor die toepassing zelf de aanbieder.

Dat betekent onder meer een risicobeheersysteem, technische documentatie en een conformiteitsbeoordeling, en dat is een wezenlijk zwaardere rol. Toets dus bij elke nieuwe toepassing van een bestaande tool of het doel verandert. De gids over hoog risico helpt daarbij.

Wat altijd geldt: de verboden praktijken

De verboden uit artikel 5 gelden sinds 2 februari 2025 voor iedereen, aanbieder of gebruiker, ongeacht de omvang van je organisatie. Verboden zijn onder meer AI die mensen manipuleert of hun kwetsbaarheden uitbuit met aanzienlijke schade als gevolg, social scoring, het voorspellen van strafbaar gedrag op basis van alleen profilering, het aanleggen of aanvullen van databanken voor gezichtsherkenning door ongericht gezichtsbeelden van internet of camerabeelden te scrapen, en biometrische categorisering op gevoelige kenmerken zoals ras of geloof.

Voor werkgevers het meest relevant: emoties afleiden van mensen op de werkplek en in het onderwijs is verboden, tenzij het systeem om medische of veiligheidsredenen wordt ingezet. Een tool die in klantgesprekken uit stem of camerabeeld de emoties van je eigen medewerkers afleidt, valt daaronder. Het verbod gaat over emoties die uit biometrische gegevens worden afgeleid; een analyse van alleen geschreven tekst valt er volgens de richtsnoeren van de Commissie niet onder.

Met de Digital Omnibus komen er per 2 december 2026 twee verboden bij: AI die zonder toestemming realistisch intiem beeld van een herkenbaar persoon maakt, en AI die materiaal van seksueel misbruik van kinderen genereert.

De Europese Commissie werkte de verboden uit in richtsnoeren met praktijkvoorbeelden. Ze zijn niet bindend, maar wel het beste houvast bij twijfel.

Wat altijd geldt: AI-geletterdheid

Artikel 4 vraagt elke gebruiksverantwoordelijke om maatregelen te nemen die de AI-geletterdheid ondersteunen van personeel en andere mensen die namens de organisatie met AI werken. De plicht geldt sinds 2 februari 2025 en hangt niet af van de risicoklasse: ook wie alleen een chatassistent gebruikt, valt eronder.

Sinds de Omnibus hoef je geen bepaald niveau te waarborgen. Je stemt de maatregelen af op de rol van de medewerker, zijn kennis, en de systemen en mensen waarmee hij te maken heeft. Een certificaat is niet nodig; een intern overzicht van wie welke instructie kreeg, is wel de verstandigste manier om te laten zien wat je deed.

Wie hier nog niets heeft, begint met de inventaris van AI-systemen die je voor de rest van deze gids ook nodig hebt. Daaruit volgt per rol welke kennis nodig is.

Hoe je dat opzet, in vier stappen volgens de Autoriteit Persoonsgegevens, staat in de gids over AI-geletterdheid.

Transparantie: wat artikel 50 van de gebruiker vraagt

Artikel 50 geldt sinds 2 augustus 2026 en verdeelt de plichten tussen aanbieder en gebruiker. Voor de gebruiksverantwoordelijke zijn er drie.

Deepfakes. Maak je met AI beeld, geluid of video dat echt lijkt maar dat niet is, dan maak je bekend dat het kunstmatig is gegenereerd of bewerkt. Bij kennelijk artistiek, satirisch of fictief werk volstaat een melding die het werk niet verstoort.

Tekst over zaken van algemeen belang. Publiceer je door AI gegenereerde tekst om het publiek te informeren, dan maak je dat bekend. Die plicht vervalt als een mens de tekst heeft getoetst en iemand er redactionele verantwoordelijkheid voor draagt.

Emotieherkenning en biometrische categorisering. Gebruik je zo'n systeem, dan informeer je de mensen die eraan worden blootgesteld over de werking.

De melding komt uiterlijk bij de eerste interactie of blootstelling, duidelijk en herkenbaar (lid 5). De plicht om te melden dat iemand met een chatbot praat, ligt bij de aanbieder van de chatbot (lid 1). Laat je er zelf een bouwen, dan ben jij dat meestal.

Wat wanneer geldt

Niet elke plicht geldt voor elke gebruiker, en niet alles geldt al. De tabel zet op een rij wanneer welke plicht speelt en sinds of vanaf wanneer.

Voor hoog-risicosystemen in producten uit bijlage I, afdeling A, zoals medische hulpmiddelen, speelgoed of liften, gelden de hoog-risicoplichten pas vanaf 2 augustus 2028. Machines vallen sinds de Omnibus onder afdeling B; voor AI daarin lopen de eisen via de Machineverordening.

Let ook op de overgangsregel van artikel 111, lid 2. Een hoog-risicosysteem dat al vóór die datum op de markt of in gebruik was, valt pas onder de regels als het daarna aanzienlijk wijzigt. Systemen die bedoeld zijn voor overheidsinstanties moeten uiterlijk op 2 augustus 2030 voldoen.

Bij hoog risico: artikel 26

Gebruik je een hoog-risicosysteem, dan somt artikel 26 op wat je als gebruiker regelt. De belangrijkste plichten:

1. Gebruik volgens de gebruiksaanwijzing van de aanbieder, met passende technische en organisatorische maatregelen.
2. Menselijk toezicht door mensen met de nodige bekwaamheid, opleiding en autoriteit, die daarbij ondersteund worden.
3. Relevante invoerdata. Voor zover jij de invoer bepaalt, zorg je dat die relevant en voldoende representatief is voor het doel.
4. Monitoren en melden. Je volgt de werking, meldt risico's aan de aanbieder en de markttoezichthouder, en onderbreekt het gebruik als dat nodig is. Een ernstig incident meld je direct.
5. Logs bewaren, voor zover ze onder jouw controle vallen, minstens zes maanden.
6. Werknemers informeren. Vóór gebruik op de werkplek informeer je de werknemersvertegenwoordiging en de betrokken werknemers.
7. Betrokkenen informeren. Neemt het systeem beslissingen over mensen of helpt het daarbij, dan laat je die mensen weten dat het op hen wordt toegepast.

De informatie die de aanbieder je moet geven, gebruik je ook voor je DPIA (lid 9). Zie de gids over DPIA's.

De grondrechtenbeoordeling uit artikel 27

Een deel van de gebruikers van hoog-risicosystemen uit bijlage III voert vóór het eerste gebruik een beoordeling uit van de gevolgen voor de grondrechten. Dat zijn publiekrechtelijke organen, private partijen die openbare diensten verlenen, en iedereen die een systeem gebruikt voor de kredietwaardigheid van natuurlijke personen of voor risicobeoordeling en prijsstelling bij levens- en ziekteverzekeringen. Systemen voor kritieke infrastructuur (bijlage III, punt 2) vallen erbuiten.

De beoordeling beschrijft zes dingen: de processen waarin het systeem wordt gebruikt, hoe lang en hoe vaak, welke groepen mensen er gevolgen van ondervinden, de specifieke risico's voor die groepen, het menselijk toezicht, en wat je doet als de risico's zich voordoen, inclusief klachtenregeling.

De uitkomst meld je aan de markttoezichthouder, met een sjabloon dat het AI-bureau van de Europese Commissie opstelt. Heb je al een DPIA die een deel afdekt, dan mag je sinds de Omnibus daarnaar verwijzen in plaats van het werk over te doen (lid 4).

Voor de meeste bedrijven buiten de financiële sector geldt deze plicht niet. Voor banken, kredietverstrekkers en verzekeraars wel; zie de gids over finance en verzekeringen.

Recht op uitleg bij een besluit

Artikel 86 geeft mensen een eigen recht tegenover de gebruiker. Neem je een besluit over iemand op basis van de uitkomst van een hoog-risicosysteem uit bijlage III, en heeft dat besluit rechtsgevolgen of vergelijkbaar ingrijpende gevolgen, dan kan die persoon van jou een duidelijke en inhoudelijke uitleg vragen.

Die uitleg gaat over twee dingen: de rol die het AI-systeem in de besluitvorming speelde, en de belangrijkste elementen van het besluit. Kritieke infrastructuur uit punt 2 van bijlage III valt erbuiten, en het recht geldt alleen voor zover ander Unierecht er niet al in voorziet.

In de praktijk betekent dit dat je achteraf moet kunnen reconstrueren wat het systeem aanleverde en wat de mens ermee deed. Dat lukt alleen als je logt wat er gebeurde, en als het menselijk toezicht uit artikel 26 meer is dan een handtekening onder een uitkomst.

Voor besluiten die volledig geautomatiseerd zijn, geldt daarnaast artikel 22 van de AVG, met eigen voorwaarden.

Waar je begint

Begin met één lijst: alle AI-systemen die je gebruikt, met per systeem je rol, het doel en de risicoklasse. Zonder die lijst kun je geen enkele plicht uit deze gids toetsen, en voor AI-geletterdheid en je DPIA's heb je hem ook nodig.

Kijk daarna per systeem naar drie vragen. Valt het doel onder een verbod of onder bijlage III? Publiceer je er content mee die onder artikel 50 valt? En heb je van de aanbieder de gebruiksaanwijzing en de informatie die je nodig hebt?

Vraag die informatie bij hoog-risicosystemen nu al op, ook al gelden de plichten pas vanaf december 2027. Een aanbieder die dan nog geen gebruiksaanwijzing kan leveren, is een risico voor jou als gebruiker.

Wat er per datum geldt, staat in de gids over het uitstel van de AI Act. De AI Act Service Desk van de Europese Commissie beantwoordt vragen over de uitleg.