AI Act Compliance: Wat de EU AI-verordening betekent voor jouw organisatie

Wat is de EU AI Act?

De EU AI Act — voluit verordening (EU) 2024/1689 — is het juridische kader van de Europese Unie voor kunstmatige intelligentie. De verordening werd in 2024 aangenomen en vormt het sluitstuk van een jarenlang wetgevingstraject dat begon met het AI-witboek van de Europese Commissie in 2020. Het is de eerste wet ter wereld die AI op brede schaal en horizontaal reguleert: niet per sector, maar voor alle toepassingen van kunstmatige intelligentie binnen de Europese markt.

Het doel van de AI Act is tweeledig. Enerzijds wil de wetgever de fundamentele rechten, gezondheid en veiligheid van burgers beschermen tegen de risico's van AI. Anderzijds wil de EU innovatie en betrouwbare AI juist stimuleren door rechtszekerheid te bieden en een gelijk speelveld te creëren. De verordening hanteert daarvoor een risicogebaseerde benadering: hoe groter het risico dat een AI-systeem vormt, hoe zwaarder de verplichtingen.

Voor wie geldt de AI Act?

De verordening richt zich op verschillende rollen in de AI-keten. De belangrijkste zijn:

• Aanbieders (providers): partijen die een AI-systeem ontwikkelen of laten ontwikkelen en op de markt brengen onder hun eigen naam of merk.
• Gebruikers (deployers): organisaties die een AI-systeem onder eigen verantwoordelijkheid inzetten — bijvoorbeeld een bank die een AI-model gebruikt voor kredietbeoordeling.
• Importeurs en distributeurs: partijen die AI-systemen van buiten de EU op de Europese markt aanbieden of doorverkopen.

Als gebruiker (deployer) van een AI-systeem heb je dus ook eigen verplichtingen, ook al heb je het systeem zelf niet ontwikkeld. Dat raakt vrijwel elke organisatie die AI inzet voor besluitvorming, klantinteractie of bedrijfsprocessen.

Extraterritoriale werking

Net als de AVG kent de AI Act een ruime extraterritoriale werking. De verordening geldt niet alleen voor organisaties die in de EU gevestigd zijn, maar ook voor partijen daarbuiten zodra de output van een AI-systeem binnen de EU wordt gebruikt. Een Amerikaans techbedrijf dat een AI-dienst aanbiedt aan Europese klanten valt dus net zo goed onder de verordening als een Nederlandse organisatie. Dit maakt de AI Act feitelijk tot een wereldwijde standaard — een effect dat ook wel het "Brussels effect" wordt genoemd.

Tijdlijn van inwerkingtreding

De AI Act treedt niet in één keer in werking, maar gefaseerd. De verschillende verplichtingen worden over meerdere jaren uitgerold, zodat organisaties zich kunnen voorbereiden. Hieronder de belangrijkste data.

Voor de meeste organisaties is augustus 2026 de cruciale deadline: vanaf dat moment moeten high-risk systemen aan de volledige set verplichtingen voldoen. De voorbereiding daarop — inventarisatie, classificatie en documentatie — kost al snel maanden, dus uitstellen is geen optie.

De vier risicocategorieën

De kern van de AI Act is de indeling van AI-systemen in vier risicocategorieën. Elke categorie kent een eigen regime van verplichtingen, oplopend van een volledig verbod tot vrijwel geen verplichtingen.

Het overgrote deel van de AI-toepassingen valt in de categorie minimaal risico en wordt door de verordening nauwelijks geraakt. De zwaarte van de wet zit in de twee bovenste categorieën: onaanvaardbaar en hoog risico. Daar liggen de grootste compliance-uitdagingen — en de grootste boeterisico's.

Verboden AI-praktijken

Sommige AI-toepassingen worden door de EU als zo schadelijk beschouwd dat ze volledig verboden zijn. Deze verboden gelden sinds februari 2025 en kennen de hoogste boetes. Tot de verboden praktijken behoren onder meer:

• Social scoring: het beoordelen of classificeren van personen op basis van sociaal gedrag of persoonlijke kenmerken, met nadelige gevolgen in een ongerelateerde context.
• Manipulatieve en misleidende AI: systemen die onbewuste technieken gebruiken om gedrag wezenlijk te beïnvloeden en schade te veroorzaken.
• Uitbuiting van kwetsbaarheden: AI die misbruik maakt van kwetsbaarheden door leeftijd, beperking of sociale of economische situatie.
• Ongerichte gezichtsherkenning: het ongericht scrapen van gezichtsbeelden van internet of camerabeelden om databases voor gezichtsherkenning op te bouwen.
• Emotieherkenning op de werkplek en in het onderwijs: behoudens enkele uitzonderingen voor medische of veiligheidsdoeleinden.
• Real-time biometrische identificatie op afstand in openbaar toegankelijke ruimten voor rechtshandhaving, met strikt afgebakende uitzonderingen.
• Biometrische categorisering op basis van gevoelige kenmerken zoals ras, politieke opvattingen of seksuele geaardheid.

Voor organisaties is het cruciaal om vast te stellen dat geen van de gebruikte of geplande AI-systemen onder deze verboden valt. Een overtreding leidt tot de zwaarste sanctiecategorie.

High-risk AI-systemen

De categorie hoog risico vormt het zwaartepunt van de AI Act. Deze systemen mogen worden ingezet, maar alleen onder strikte voorwaarden. De verordening onderscheidt twee hoofdgroepen high-risk systemen: AI die als veiligheidscomponent van een gereguleerd product fungeert (zoals machines of medische hulpmiddelen) en AI die in een aantal specifiek benoemde domeinen wordt gebruikt.

Welke systemen vallen onder hoog risico?

Tot de high-risk domeinen behoren onder meer:

• Biometrische identificatie en categorisering van personen.
• Beheer en exploitatie van kritieke infrastructuur (energie, water, verkeer).
• Onderwijs en beroepsopleiding (bijvoorbeeld geautomatiseerde beoordeling van examens).
• Werving en personeelsbeheer (cv-screening, beoordeling van sollicitanten).
• Toegang tot essentiële particuliere en publieke diensten (kredietbeoordeling, sociale uitkeringen).
• Rechtshandhaving, migratie en grenscontrole.
• Rechtspraak en democratische processen.

Verplichtingen voor high-risk systemen

Aanbieders van high-risk AI moeten een uitgebreid pakket aan maatregelen treffen. De belangrijkste verplichtingen zijn:

• Risicomanagementsysteem: een doorlopend proces om risico's te identificeren, te beoordelen en te beperken gedurende de hele levenscyclus van het systeem.
• Datagovernance: trainingsdata, validatiedata en testdata moeten relevant, representatief en zo veel mogelijk vrij van fouten en bias zijn.
• Technische documentatie: uitgebreide documentatie waarmee toezichthouders kunnen beoordelen of het systeem aan de eisen voldoet.
• Logging en traceerbaarheid: automatische registratie van gebeurtenissen gedurende de werking van het systeem.
• Transparantie en informatieverstrekking: heldere gebruiksaanwijzingen zodat deployers het systeem correct kunnen gebruiken.
• Menselijk toezicht: het systeem moet zo zijn ontworpen dat een mens effectief toezicht kan houden en kan ingrijpen.
• Nauwkeurigheid, robuustheid en cyberbeveiliging: het systeem moet bestand zijn tegen fouten, manipulatie en aanvallen.

Voor deployers gelden aanvullende plichten, zoals het uitvoeren van een fundamentele-rechten-effectbeoordeling, het waarborgen van menselijk toezicht in de praktijk en het melden van ernstige incidenten. Deze verplichtingen vertonen sterke parallellen met de risicobeheersing die compliance-professionals al kennen uit kaders als DORA en NIS2.

Verplichtingen voor General Purpose AI (GPAI)

Naast de risicogebaseerde indeling kent de AI Act een apart regime voor general purpose AI-modellen (GPAI) — de grote, breed inzetbare modellen die de basis vormen voor talloze toepassingen, zoals de grote taalmodellen achter generatieve AI-diensten. Omdat deze modellen voor uiteenlopende doeleinden worden gebruikt, zijn ze lastig in één risicocategorie te plaatsen.

Voor alle GPAI-modellen gelden basisverplichtingen rond transparantie:

• Het opstellen en bijhouden van technische documentatie over het model.
• Het verstrekken van informatie aan downstream-aanbieders die het model integreren in hun eigen systemen.
• Het naleven van het EU-auteursrecht, inclusief een beleid om de teksten en data-mining-rechten te respecteren.
• Het publiceren van een voldoende gedetailleerde samenvatting van de gebruikte trainingsdata.

Voor GPAI-modellen met een systemisch risico — de krachtigste modellen die brede maatschappelijke impact kunnen hebben — gelden strengere eisen. Denk aan modelevaluaties, het in kaart brengen en beperken van systemische risico's, het melden van ernstige incidenten en het waarborgen van een passend niveau van cyberbeveiliging.

Transparantieverplichtingen

De categorie beperkt risico draait om transparantie. Het uitgangspunt is dat mensen moeten weten wanneer ze met AI te maken hebben. De belangrijkste transparantieverplichtingen zijn:

• Chatbots en conversational AI: gebruikers moeten geïnformeerd worden dat ze met een AI-systeem communiceren en niet met een mens, tenzij dit overduidelijk is uit de context.
• Deepfakes: AI-gegenereerde of gemanipuleerde beeld-, audio- of videobestanden die een persoon of gebeurtenis nabootsen, moeten als kunstmatig gegenereerd worden gemarkeerd.
• AI-gegenereerde content: tekst die door AI is gegenereerd en wordt gepubliceerd om het publiek te informeren over zaken van algemeen belang, moet als zodanig herkenbaar zijn.
• Emotieherkenning en biometrische categorisering: betrokkenen moeten worden geïnformeerd wanneer zij worden blootgesteld aan dergelijke systemen.

Deze verplichtingen raken veel organisaties direct, omdat chatbots en AI-gegenereerde content inmiddels gemeengoed zijn in marketing, klantenservice en communicatie.

Sancties en boetes

De AI Act kent een gelaagd boeteregime dat qua zwaarte vergelijkbaar is met — en op het hoogste niveau zelfs hoger is dan — de AVG. De maximale boetes zijn afhankelijk van het type overtreding.

Bij elke categorie geldt het hoogste van de twee bedragen voor grote ondernemingen; voor het mkb en start-ups wordt juist het laagste bedrag gehanteerd. De handhaving in Nederland wordt belegd bij aangewezen toezichthouders, waarbij de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur een centrale rol spelen.

AI Act vs. AVG: overlap en verschillen

Veel organisaties verwarren de AI Act met de AVG, maar het zijn twee verschillende wetten die elkaar aanvullen. De AVG beschermt persoonsgegevens; de AI Act reguleert AI-systemen op basis van risico. In de praktijk gelden ze vaak tegelijk: een AI-systeem dat persoonsgegevens verwerkt, moet aan beide voldoen.

De overlap is het grootst bij geautomatiseerde besluitvorming. De AVG kent al regels over geautomatiseerde individuele besluitvorming (artikel 22), terwijl de AI Act aanvullende eisen stelt aan de onderliggende AI-systemen. Voor organisaties betekent dit dat de rol van de DPO en de nieuwe AI-governance-functie nauw met elkaar samenwerken.

Wat moeten compliance- en security-professionals nu doen?

De AI Act vraagt om een gestructureerde aanpak. Wachten tot augustus 2026 is geen optie: de inventarisatie en classificatie van AI-systemen kosten tijd, en sommige verplichtingen gelden al. Dit zijn de stappen die organisaties nu moeten zetten.

1. AI-inventarisatie

Begin met een volledige inventarisatie van alle AI-systemen die de organisatie gebruikt, ontwikkelt of inkoopt. Veel organisaties onderschatten hoeveel AI er al draait — van marketingtools tot HR-software en ingebouwde AI-functies in bestaande systemen. Een actueel AI-register is de basis voor alle vervolgstappen.

2. Risicoclassificatie

Classificeer elk AI-systeem volgens de vier risicocategorieën. Stel vast welke systemen verboden zijn (en dus moeten worden uitgefaseerd), welke als hoog risico kwalificeren (en dus aan de strikte verplichtingen moeten voldoen) en welke onder de transparantieregels vallen. Deze classificatie bepaalt de prioriteiten.

3. Governance inrichten

Richt een AI-governance-structuur in met duidelijke verantwoordelijkheden. Wie is eigenaar van welk AI-systeem? Wie houdt toezicht? Hoe wordt menselijk toezicht in de praktijk geborgd? Koppel deze structuur aan bestaande risicobeheersing en compliance-processen.

4. Documentatie en monitoring

Bouw aan de technische documentatie, logging en monitoring die de verordening vereist voor high-risk systemen. Zorg dat naleving aantoonbaar is — net als bij de AVG geldt ook hier een verantwoordingsplicht (accountability). Stel daarnaast processen op voor het melden van ernstige incidenten.

5. AI-geletterdheid

De AI Act verplicht organisaties om te zorgen voor een passend niveau van AI-geletterdheid bij medewerkers die met AI-systemen werken. Investeer in training en bewustwording, zodat het personeel de risico's en verplichtingen begrijpt.

De opkomst van de AI Compliance Officer

De AI Act creëert een geheel nieuw werkterrein binnen compliance en governance. Net zoals de AVG de Functionaris Gegevensbescherming op de kaart zette, brengt de AI Act de AI Compliance Officer — ook wel AI Governance Lead, Responsible AI Officer of AI Risk Manager genoemd — tot wasdom.

Deze professional opereert op het snijvlak van compliance, security, privacy, recht en techniek. De rol vraagt om iemand die de juridische verplichtingen van de verordening kan vertalen naar concrete maatregelen, die met datateams en engineers kan praten over modelrisico's en bias, en die het bestuur kan adviseren over de strategische implicaties van AI-inzet.

De vraag naar dit profiel groeit snel. Organisaties zoeken professionals die ervaring uit aanpalende rollen — zoals de functionaris gegevensbescherming, de privacy officer of de risk manager — combineren met kennis van AI en machine learning. Voor compliance-professionals die zich willen ontwikkelen, is AI-governance een van de meest kansrijke specialisaties van dit decennium.