Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2024-2025

26 643 Informatie- en communicatietechnologie (ICT)

Nr. 1326 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 17 maart 2025

In reactie op het verzoek van de vaste Kamercommissie Digitale Zaken inzake een uitvraag naar verboden AI-systemen¹ van 5 februari jl., informeer ik u hierbij over de uitvraag met betrekking tot mogelijke verboden AI-systemen, die is gedaan bij ministeries en organisaties die vallen onder de ministeriële verantwoordelijkheid.

Verboden AI-praktijken

De Europese AI-verordening (hierna: AI-verordening) verbiedt vanaf 2 februari 2025 AI-praktijken die een onaanvaardbaar risico vormen voor fundamentele rechten, gezondheid en veiligheid, zoals manipulatieve AI en social scoring. Departementen zijn in dit stelsel zelf verantwoordelijk voor de naleving van de AI-verordening en de borging hiervan binnen de eigen organisatie.

Uitvraag vanuit CIO rijk

Begin november 2024 heeft CIO Rijk een formeel informatieverzoek (hierna: uitvraag) gedaan aan departementale Chief Information Officers (CIO’s) om informatie aan te leveren over de AI-systemen die onder de verboden AI-praktijken, zoals gedefinieerd in artikel 5 van de AI-verordening vallen (hierna: verboden AI-systemen). Ik heb zelf een coördinerende taak richting de departementen en ben daarbij kaderstellend, voorts ondersteunend, en waar nodig aanjagend. De reikwijdte van dit verzoek besloeg het gehele departement, inclusief ressorterende uitvoeringsorganisaties, agentschappen, inspecties en ZBO’s die onder de verantwoordelijkheid van het betreffende ministerie vallen.

Ter ondersteuning van de inventarisatie heeft CIO Rijk een handreiking opgesteld en verstrekt met leidraad voor het identificeren en classificeren van AI-systemen. Op basis van deze handreiking is departementaal een afweging gemaakt of er wel of niet verboden AI-systemen worden gebruikt.

In de uitvraag werden de volgende vragen gesteld:

• Hoeveel en welke AI-systemen worden er in de organisatie gebruikt die onder de verboden AI-praktijen vallen?

• Welke verboden AI-systemen waren in productie/gebruik maar zijn inmiddels uitgeschakeld?

• Welke verboden AI-systemen zijn in gebruik, maar vallen onder een van de uitzonderingsgronden? Geef een korte motivatie waarom deze AI-systemen onder de uitzonderingsgrond vallen.

• In welke bedrijfsprocessen zitten de verboden systemen? (bijvoorbeeld in de uitvoeringsketen).

Stopgezette systemen

Departementen hebben in de aangeleverde gegevens gemeld dat binnen het eigen ministerie, of binnen ressorterende organisaties die onder de ministeriële verantwoordelijkheid vallen, géén gebruik wordt gemaakt van AI-systemen die onder de verboden AI-praktijken van artikel 5 AI-verordening vallen. Daarnaast zijn er geen systemen gemeld die in gebruik waren en als gevolg van de inventarisatie zijn stopgezet.

Beperkingen in het overzicht van onderzochte AI-systemen

De uitvraag (zie opsomming hierboven) vroeg departementen alleen om verplicht informatie aan te leveren wanneer een systeem daadwerkelijk onder de verboden AI-praktijken viel of wanneer er sprake was van een uitzonderingsgrond. Aangezien uit de aangeleverde informatie bleek dat geen van de geïnventariseerde AI-systemen als verboden AI-systeem is geclassificeerd, is er geen verdere informatie over functies verzameld. Als gevolg hiervan is er geen centraal en volledig overzicht beschikbaar van alle onderzochte systemen en hun functies. Ik hoop hiermee uw Kamerverzoek beantwoord te hebben.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
F.Z. Szabó

---

1. https://www.tweedekamer.nl/downloads/document?id=2025D04633↩︎