Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2022-2023

26 643 Informatie- en communicatietechnologie (ICT)

Nr. 982 VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 15 maart 2023

De vaste commissie voor Digitale Zaken heeft op 15 februari 2023 overleg gevoerd met mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering, over:

− de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties d.d. 10 juni 2021 inzake voortgang AI en algoritmen (Kamerstuk 26 643, nr. 765);

− de brief van de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties d.d. 12 mei 2021 inzake aanbieding afschrift van de brief aan de Nationale ombudsman in reactie op het rapport De burger is geen dataset (Kamerstuk 26 643, nr. 756);

− de brief van de president van de Algemene Rekenkamer d.d. 26 januari 2021 inzake rapport Aandacht voor algoritmes (Kamerstuk 26 643, nr. 737);

− de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 26 oktober 2021 inzake reactie op het rapport «Xenophobic machines» van Amnesty International (Kamerstukken 26 643 en 31 839, nr. 799);

− de brief van de president van de Algemene Rekenkamer d.d. 18 mei 2022 inzake rapport Algoritmes getoetst. De inzet van 9 algoritmes bij de overheid (Kamerstuk 26 643, nr. 854);

− de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties d.d. 26 november 2021 inzake beantwoording vraag, gesteld tijdens het commissiedebat Telecomraad van 24 november 2021, over verplichte mensenrechtentoets bij hoogrisico-AI-systemen (Kamerstukken 26 643 en 32761, nr. 800);

− de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 4 juli 2022 inzake reactie op het onderzoeksrapport van Amnesty International getiteld Xenofobe machines (Kamerstukken 33 826 en 26 643, nr. 45);

− de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 7 oktober 2022 inzake beantwoording vragen commissie over het rapport Algoritmes getoetst. De inzet van 9 algoritmes bij de overheid (Kamerstuk 26 643, nr. 854) (Kamerstuk 26 643, nr. 923);

− de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 22 december 2022 inzake inrichtingsnota algoritmetoezichthouder (Kamerstuk 26 643, nr. 953);

− de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 21 december 2022 inzake stand van zaken Algoritmeregister (Kamerstuk 26 643, nr. 950).

Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie,
Kamminga

De griffier van de commissie,
Boeve

Voorzitter: Kamminga

Griffier: Muller

Aanwezig zijn negen leden der Kamer, te weten: Van Baarle, Bouchallikh, Dekker-Abdulaziz, Kamminga, Kathmann, Koekkoek, Leijten, Rahimi en Slootweg,

en mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering.

Aanvang 14.01 uur.

De voorzitter:

Aan de orde is het commissiedebat Inzet algoritmes en data-ethiek binnen de rijksoverheid van de vaste commissie voor Digitale Zaken. Ik heet de Staatssecretaris van harte welkom en uiteraard de leden en een mooie volle publieke tribune. Welkom allemaal en ook welkom aan de mensen die thuis of elders meekijken naar dit debat. We hebben drie uur uitgetrokken voor het debat. We zijn met vijf leden van de zijde van de Kamer, waarvan er twee ons iets eerder moeten verlaten. Overigens met goede reden, want de heer Van Baarle zit ook in het plenaire debat en de heer Slootweg moet nog naar een technische briefing over een ander onderwerp dat ook alles met digitaal te maken heeft, namelijk de digitale euro. Hij zal zich later weer bij ons voegen. Daarom zitten ze vooraan.

Ik stel aan de leden voor om drie interrupties in tweeën aan elkaar te doen. Dat betekent drie interrupties en een vervolgvraag. U mag een vraag stellen en een vervolgvraag, want ik merk toch dat dat vaak fijner werkt. We kijken even naar de tijd, maar volgens mij is het uitgangspunt prima. Dan doen we hetzelfde in de termijn van de Staatssecretaris.

Aangezien een aantal leden eerder weg moeten, wil ik de heer Van Baarle namens DENK het woord geven voor zijn inbreng.

De heer Van Baarle (DENK):

Voorzitter. Is inmiddels al bekend wat het aantal algoritmes binnen de overheid met automatische besluitvorming is? Kan de Staatssecretaris inmiddels aangeven of en, zo ja, hoeveel zelflerende algoritmes de overheid gebruikt? Een aantal maanden geleden kon de Staatssecretaris hier schriftelijk geen antwoord op geven. Dit roept vragen op. We hebben een doorlichting gedaan van de algoritmen op discriminatie, de uitvoering van de befaamde motie nr. 13, heet-ie volgens mij in het jargon. Wat is die doorlichting waard geweest, als we na die doorlichting niet weten welke algoritmen we binnen de overheid hebben? Wat is er dan precies allemaal doorgelicht? Bij die doorlichting kijk je toch naar alle algoritmen en of ze discrimineren.

Ik las in de schriftelijke beantwoording ook dat er nog geen sprake is van een geharmoniseerd toetsingskader van het Rijk. Dit verbaasde mij, want mijn impressie was dat we wel een toetsingskader hebben. Maar als dat niet zo is, waar is dan in die doorlichting aan getoetst? Is dat dan niet totale willekeur?

Als de Staatssecretaris geen antwoord kan geven op deze vragen, dan heeft de fractie van DENK ernstige twijfels bij de uitvoering van de doorlichting op discriminatie in de algoritmen. Dan herhaalt de fractie van DENK het pleidooi om deze doorlichting extern te laten toetsen. We hebben met verheuging gezien dat de Staatssecretaris dit alsnog wil laten doen, maar we willen graag vragen waarom de keuze is gemaakt om de ADR dit te laten doen; de ADR die jarenlang aan de lat stond om toezicht te houden op onder andere de Belastingdienst en nooit heeft geconstateerd dat er zoiets plaatsvond als de toeslagenmisdaad. Is het wel de juiste instantie om dit te laten doen?

Ik constateer dat de richtlijnen binnen de overheid allemaal redelijk vrijblijvend zijn. De Staatssecretaris strooit met handleidingen en spreekt heel vaak over stimuleren in plaats van verplichten. De vraag van DENK blijft, zoals we ook gevraagd hebben in een aangenomen motie: wanneer komen nou de bindende criteria? Daarbij is het steeds maar wachten op de AI Act. Dat is een beetje het ei waarop gebroed wordt en waar we volgens de Staatssecretaris alles mee gaan redden. Maar hoe concreet worden nou de antidiscriminatiecriteria in die AI Act? Er wordt alleen gesproken over het registreren van bijvoorbeeld hoogrisicoalgoritmes en dat daar de verscherpte richtlijnen voor gaan gelden. Wat is daarin de definitie van hoog risico waar we op afkoersen? Hoe sorteren we nu voor op de invoering van de AI Act? Kan de Staatssecretaris nu een antwoord geven op de vraag hoe we die nationaal gaan handhaven en wie dat gaat doen?

Dan de toezichthouder. De fractie van DENK is blij dat die toezichthouder er komt, maar is wel teleurgesteld in de rol. Want het is eigenlijk een toezichthouder die geen toezicht houdt. Je zou toch zeggen dat een toezichthouder op zijn minst toezicht moet gaan houden of we de bestaande normen goed toepassen, maar dat gaat de toezichthouder niet doen. Die gaat regie voeren en heel veel overleggen. Wat is de toegevoegde waarde van een toezichthouder die geen toezicht gaat houden, die niet als dagelijkse taak heeft om organisaties en bedrijven binnen te lopen en te zeggen: «Trek uw lades open, uw computers. We willen weten wat u daar doet. Wij gaan dat controleren»? Waarom is dat niet de primaire taakopvatting, vraag ik aan de Staatssecretaris.

De Staatssecretaris gaf in de schriftelijke behandeling ook aan dat zij geen zicht heeft op de algoritmes die overheidsinstanties hebben uitbesteed in de ontwikkeling. Mijn vraag is of de Staatssecretaris dat nu wel heeft. Want als we algoritmes uitbesteden, hebben we als overheid dus heel weinig zicht op hoe ze ontwikkeld worden. Mijn vraag is of we een overzicht kunnen krijgen van het aantal algoritmes waarvan de ontwikkeling is uitbesteed en of de Staatssecretaris bereid is om met afspraken te komen of in ieder geval een modelcontract waarin we voor de uitbesteding van algoritmes heel harde afspraken maken ten aanzien van non-discriminatie.

De voorzitter:

U zit al op meer dan meer dan vierenhalve minuut en u had vier minuten.

De heer Van Baarle (DENK):

O, o.

De voorzitter:

Ik wil u dus vragen om tot een afronding te komen.

De heer Van Baarle (DENK):

Dan rond ik af met een vraag over een motie die wij hebben aangehouden, die de regering verzoekt tot het opstellen van protocollen over hoe te handelen als men discriminatie vindt in algoritmes. Ik wil de Staatssecretaris vragen hoe zij naar dit idee kijkt.

De voorzitter:

Meneer Van Baarle, dank u wel voor uw inbreng namens DENK. Welkom aan de leden die wat later binnenkwamen. Het is wellicht goed om te weten dat ik heb gezegd dat ik drie interrupties in tweeën toesta. U heeft dus de gelegenheid om een vervolgvraag te stellen bij een interruptie. Dit geldt per termijn. Dan geef ik nu het woord aan de heer Slootweg, CDA.

De heer Slootweg (CDA):

Dank u wel, voorzitter. Een deel van de titel van dit commissiedebat kan spoedig aanleiding geven voor filosofische bespiegelingen. Data-ethiek, ethiek die betrekking heeft op datagegevens. De afbakeningen lijken gemaakt te worden door het te hebben over de inzet van algoritmes die uitgevoerd worden door de rijksoverheid. Mijn bijdrage zal ik daarom richten op drie elementen: de toezichthouder, het register en de gegevensbeveiliging bij ambtenaren.

Voorzitter. De keuze is gemaakt om de Autoriteit Persoonsgegevens uitvoerder te maken van de opdracht rijksalgoritmetoezichthouder. De Staatssecretaris managet de verwachtingen door aan te geven dat met de beschikbare middelen deze toezichthouder niet zelf alle vragen en problemen kan oplossen. Zowel door de plek als organisatieonderdeel bij de Autoriteit Persoonsgegevens als door de hierboven geformuleerde reikwijdte is de algoritmetoezichthouder misschien eerder een expertisecentrum dat de samenwerking op het algoritmetoezicht moet optimaliseren dan een alomvattende toezichthouder op alle algoritmes die invloed hebben op het maatschappelijke verkeer. Deelt de Staatssecretaris deze opvatting?

De voorzitter:

Voordat u uw betoog vervolgt, heeft mevrouw Leijten van de SP een interruptie.

Mevrouw Leijten (SP):

Welkom aan de heer Slootweg. Fijn om hem weer als collega in ons midden te hebben. Scherp als altijd, wou ik zeggen. Ik heb wel een vraag aan hem en aan het CDA. Deze scherpe analyse dat er eigenlijk helemaal geen toezichthouder is, maar hooguit een expertisecentrum, hebben wij ook gemaakt. Wat vindt het CDA daar nou van? Is dat conform de afspraken in het regeerakkoord wat het CDA betreft en is het in lijn met wat hij maatschappelijk wenselijk vindt als het gaat over de inzet van algoritmes en het toezicht daarop?

De heer Slootweg (CDA):

Ik denk dat dit zeer terechte vragen zijn van mevrouw Leijten. Ik denk dat wij nu eigenlijk in de opbouw zijn naar iets van een toezichthouder, die volgens ons veel meer invloed zal hebben. Ik kom later in mijn vragen op punten als of er niet een wettelijke grondslag moet zijn als je algoritmes gebruikt. Ik denk dat het op dit moment ook weer niet zo gek is dat dit in de zoektocht naar hoe je dit op een goede manier kan doen de eerste stappen zijn. Maar ik wil wel verkennen wat nou die reikwijdte is en hoe we die zo breed mogelijk kunnen maken daar waar sommige algoritmes zodanige gevolgen kunnen hebben dat het de rechtsbescherming van onze inwoners aantast.

Mevrouw Leijten (SP):

Ik ben het in grote lijnen eens met de heer Slootweg dat we nog in de fase van verkennen zijn, maar daarmee is eigenlijk het besluit dat genomen is om de AP maar de autoriteit te maken of het expertisecentrum – ik vind dat heel treffend, zoals ik al zei – wel problematisch. Want in de verkenning van wat we willen, welke impact het heeft op wetgeving, waar we staan, of het wenselijk is hoe we ze toepassen en hoe we uiteindelijk van alles toetsen, kan het best weleens zijn dat we bijvoorbeeld de Algemene Rekenkamer een veel logischere toezichthouder vinden vanuit de rol die die al heeft. Die kijken wel in de algoritmes. Die doen niet alleen maar: hebben we ze in beeld en kennen we misschien wat codes? En dat is misschien wel wat we zoeken. Is er dan bij het CDA ook de mogelijkheid om in die verkenning nog af te wijken van de keuzes die de Staatssecretaris nu als het ware al heeft gemaakt?

De heer Slootweg (CDA):

Ik begrijp de vraag en toch denk ik dat ik wel blij ben dat we nu deze eerste stappen maken. Ik zou het ook jammer vinden als er op dit moment veel energie gaat zitten in de vraag wat nou de plek is in plaats van dat wij de toezichthouder zo veel mogelijk tanden geven. Volgens mij ontstaat er altijd weer een natuurlijk moment in de tijd door te zeggen: moet die nou hier of moet die nou daar? In eerste instantie wil ik ervoor zorgen dat die tanden zo veel mogelijk ontwikkeld worden.

De voorzitter:

Mevrouw Leijten, deze tel ik dan wel als tweede interruptie.

Mevrouw Leijten (SP):

Voorzitter, ik ken u als heel eerlijk en rechtvaardig. Mijn lot ligt in uw handen. Ik zou tegen de heer Slootweg willen zeggen dat we ons daarmee wel weggeven. Ik weet nog dat de Kamer drie jaar geleden zei: we moeten de Uitvoeringsorganisatie Herstel Toeslagen nou echt een kans geven, want er zit zo veel energie in. Nu zijn we drie jaar verder en nu is het argument: nee, we kunnen het niet meer over een andere boeg gooien, want er zit zo veel energie in. Niks ten nadele van de mensen die bij het expertisecentrum werken en de Autoriteit Persoonsgegevens als instantie, maar de keuze om de algoritmetoezichthouder en het algoritmeregister ook op die plek neer te leggen bepaalt wel wat we straks kunnen doen. Dan is de wijziging niet meer mogelijk. Ik zou toch willen dat het CDA dat beseft.

De heer Slootweg (CDA):

Ik zie dit meer als een aansporing om het denken gewoon niet stil te zetten. Ik zal deze periode in ieder geval willen gebruiken om te kijken hoe we de functie van toezichthouder meer tanden en body kunnen geven. Ik hoop dat ik mevrouw Leijten dan ook aan mijn kant vind; dat weet ik eigenlijk wel zeker. Voor de rest zie ik het echt gewoon als aansporing om niet stil te blijven staan.

De voorzitter:

Vervolgt u uw betoog.

De heer Slootweg (CDA):

Dan kom ik eigenlijk tot mijn vragen. Die gaan over de macht, over het min of meer dwingend kunnen opleggen van regels, afspraken en het formuleren van normen. Welke doorzettingsmacht heeft de algoritmetoezichthouder om te komen tot een gezamenlijke normuitleg? Speelt hij een rol in het ontwikkelen van nieuwe normen en op welke wijze kan hij deze afdwingen? Een belangrijke voorvraag voor mijn fractie is: speelt hij een rol in het toestaan dat algoritmes sowieso gebruikt gaan worden in de uitvoering?

Voorzitter. Het CDA ziet zeer wel het nut in van technologie en digitalisering om de werking en verbanden in onze samenleving ten dienste te staan, maar de werkelijkheid is anders. Een zeer ethische vraag betreft de zorg over het eigenaarschap van data. Heb ik er eigenlijk nog wel zeggenschap over als ik deze bijvoorbeeld upload? We zien wel degelijk dat analyse en deling van gegevens door overheidsorganisaties noodzakelijk zijn om bepaalde kwaden te bestrijden. Denk aan de bestrijding van zware ondermijnende criminaliteit en weerzinwekkende delicten als mensenhandel en kinderporno. Die bestrijding schuurt met de bescherming van de persoonlijke levenssfeer. Die spanning moeten we niet alleen onder ogen zien, maar ook proberen op te lossen. Is de Staatssecretaris het met het CDA eens dat de rechtsbescherming van burgers in het bestuursrecht moet worden versterkt wanneer zij overheidsorganisaties willen aanspreken op fout gebruik van algoritmes? Heeft de wetgever niet nadrukkelijk de opdracht om in wet- en regelgeving af te wegen hoe en waar algoritmes mogen worden benut? Kan een algoritmetoezichthouder niet pas functioneren wanneer de normstelling zelf in de wet is vastgelegd in plaats van dat achteraf wordt beoordeeld of de vertaling die heeft plaatsgevonden in algoritmes, wel in orde is?

Voorzitter. De Staatssecretaris heeft aangegeven dat het algoritmeregister een belangrijke bijdrage moet leveren aan het beter uitlegbaar maken van de toepassing en de uitkomst van algoritmes. Ze heeft als uitgangspunt meegegeven dat overheidsorganisaties zelf verantwoordelijk zijn voor de inzage in algoritmes en daarmee het opstellen en het beheer van het algoritmeregister. Maar wat zijn de mogelijkheden voor de toezichthouders wanneer een overheidsorganisatie dit niet nakomt? Een van de belangrijkste doelen is het verhogen van transparantie. Is de Staatssecretaris het met ons eens dat die transparantie pas bereikt kan worden als het register ook een heldere en toegankelijke uitleg van de werking van het algoritme bevat? Wat ons betreft zou onder het kopje «toepassing» altijd een heldere omschrijving toegevoegd moeten worden. Een blik in het register leert dat deze nu vaak nog ontbreekt.

Ten slotte. Ik ben over mijn tijd heen, maar de gegevensbescherming bij ambtenaren is nog wel een punt. Voor de veiligheid is er in de Verenigde Staten voor gekozen dat men bijvoorbeeld TikTok niet meer mag gebruiken. Zouden ook wij daarin niet naïef moeten zijn, en zouden we dus bijvoorbeeld die weg van de Amerikaanse overheid volgen? Ik zou graag de opvatting van de Staatssecretaris daarover horen.

De voorzitter:

Dank u wel, meneer Slootweg van het CDA. Ik was bij de heer Van Baarle enigszins coulant, dus dat ben ik ook bij u geweest en dat zal ik ook bij anderen zijn. Maar dit is geen oproep om allemaal richting de vijf minuten te gaan, vertel ik er alvast bij. Ik vind vierenhalve minuut namelijk wel de max. U heeft nog een interruptie van mevrouw Dekker-Abdulaziz, D66.

Mevrouw Dekker-Abdulaziz (D66):

Goed om te horen dat het CDA ook overweegt om TikTok te verbieden voor ambtenaren, want dat hebben wij toevallig twee weken geleden aan de Staatssecretaris gevraagd. Hierbij sluit ik via deze vraag even bij u aan met de reflectie ...

De heer Slootweg (CDA):

Eigenlijk sluit die dus aan bij uzelf.

Mevrouw Dekker-Abdulaziz (D66):

Ja, precies. Dat wilde ik even bevestigen.

De voorzitter:

Dan gaan we verder naar de volgende spreker van de Kamer, mevrouw Bouchallikh, GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Dank u wel, voorzitter. Hoe we omgaan met het gebruik van algoritmes door de overheid staat eindelijk meer op de politieke agenda. Er is sinds kort een algoritmeregister en ook is recent de algoritmetoezichthouder van start gegaan. De eerste institutionele stappen zijn gezet en dat is goed, maar bij het lezen van de stukken voor dit debat zag ik ook hoeveel er nog moet gebeuren. Eerste stappen zijn dan helaas niet genoeg. Ook staan er nog veel vragen open.

Allereerst wil ik het hebben over het gebruik van algoritmes. We hebben het veel over regulering en controle – dat is nodig – maar we moeten ons ook afvragen wanneer de overheid überhaupt algoritmes moet gebruiken. Dat is een vraag die ook het Rathenau Instituut terecht stelt. Algoritmes lijken inmiddels soms vanzelfsprekend, maar iedere keer zou opnieuw moeten worden beoordeeld of er geen andere opties zijn om hetzelfde doel te bereiken. Is de Staatssecretaris het hiermee eens? Zo ja, hoe wordt deze proportionaliteitstoets gedaan? Als er wordt besloten om algoritmes te gebruiken om een bepaald doel te bereiken, moet ervoor worden gezorgd dat de juiste typen algoritmes zo zorgvuldig mogelijk worden ingezet, zodat discriminerende risico-indicatoren voorkomen worden.

Daarmee kom ik de op de tweede zorg die wij hebben, de registraties in het algoritmeregister. Uit de stukken blijkt dat er nog maar heel weinig algoritmes worden geregistreerd. Ook algoritmes met grote risico's, die bijvoorbeeld worden gebruikt voor fraudeopsporing, blijken nog niet geregistreerd. De rijksoverheid, waar het kabinet direct voor verantwoordelijk is, heeft nog geen 30 algoritmes geregistreerd, terwijl er minstens 86 zijn volgens de Algemene Rekenkamer. Waarom is dit nog niet gebeurd?

Wat gaat het kabinet doen om overheden ertoe te bewegen dat algoritmes zo snel mogelijk geregistreerd worden? Wat is de deadline wat de Staatssecretaris betreft? Kunnen de algoritmes die de grootste impact hebben met voorrang worden geregistreerd?

De volgende zorg die wij hebben, is de mensenrechtentoets. Tot nu toe is nog geen enkele toets uitgevoerd. Hoe kan dat? De Kamer heeft in een motie uitgesproken dat deze mensenrechtentoets verplicht moet zijn. De Staatssecretaris heeft dat ook bevestigd, maar toch gebeurt dit nog niet. Wat gaat de Staatssecretaris doen om ervoor te zorgen dat de mensenrechtentoetsen worden uitgevoerd en dat deze ook daadwerkelijk verplicht worden?

Etnisch profileren is ook een schending van mensenrechten. In de motie van mijn collega Klaver, die inmiddels twee jaar geleden is aangenomen, stond expliciet dat de regering het gebruik van nationaliteit, etniciteit en geboorteplaats als datavariabelen voor risicomodellen en -profielen volledig uit moest sluiten. Kan de Staatssecretaris aangeven hoe en of dit deel van de motie inmiddels is uitgevoerd? Zo niet, wat gaat het kabinet dan voor actie ondernemen om dit alsnog te doen? Eerder pleitten wij ook voor een verbod van etnisch profileren, zoals onder andere Amnesty en Bits of Freedom ook deden, maar de Staatssecretaris zag dit eerder niet op diezelfde manier zitten. Hoe ziet zij dit nu en wat doet zij wel om te voorkomen dat burgers via algoritmes gediscrimineerd worden? Hoe kunnen burgers daar überhaupt achter komen?

Ik heb nog kort twee andere punten over het register. Het College voor de Rechten van de Mens waarschuwt dat alleen registreren van algoritmes niet voldoende is, want systemen moeten ook continu goed worden gecontroleerd. Ook heeft het college zorgen over de transparantie en de bruikbaarheid van de informatie in het register voor burgers. Graag op beide punten een reactie van de Staatssecretaris. Kan zij uitleggen hoe zij de terechte zorgen van het college wegneemt?

Het is goed dat de algoritmetoezichthouder er eindelijk is, zoals ik eerder ook heb gezegd. Ik heb in het vorige debat ook gesteld dat capaciteit ontzettend belangrijk is. Vandaag heb ik een vraag over de doorzettingsmacht van de toezichthouder. Eerder werd die «de tanden» genoemd. Wat ons betreft moeten die zo scherp mogelijk zijn. Uiteraard hoop ik op harmonie, maar hoe ziet de escalatieladder eruit als daar geen sprake van is? Hoe wordt gegarandeerd dat de toezichthouder het laatste woord heeft en daarin ook wordt ondersteund vanuit het ministerie? Wanneer verwacht de Staatssecretaris dat de toezichthouder op volle sterkte kan opereren?

Dank u wel.

De voorzitter:

Dank u wel, mevrouw Bouchallikh. Keurig binnen de vier minuten. Complimenten daarvoor. Ik zie geen interrupties, dus dan gaan we door naar de volgende spreker van de Kamer, mevrouw Dekker-Abdulaziz namens D66.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Het gebruik van algoritmen door de overheid is een tweesnijdend zwaard. Zoals verschillende rapporten, van onder andere de Algemene Rekenkamer, laten zien, zorgt het gebruik van algoritmen enerzijds voor tijdbesparing en efficiëntie in het werk van de overheid. Anderzijds kleven er risico's aan het niet juist gebruiken van algoritmen. De voorbeelden waarbij het fout ging, kennen we hier allemaal. Het is dus van belang dat wij als politiek randvoorwaarden scheppen waarin algoritmes goed kunnen worden toegepast en dat er toezicht is op de toepassing daarvan.

Voorzitter. Ik wil het over de volgende drie zaken hebben. De toezichthouder en de AP, het Algoritmeregister en de datahonger bij de overheid.

Ten eerste, D66 is blij dat de Staatssecretaris opvolging geeft aan de afspraak uit het coalitieakkoord. Een toezichthouder op algoritmes bij de overheid kan bijdragen aan de transparantie voor burgers en de bevordering van samenwerking binnen bestaande structuren. Wij vragen ons af hoe de governance er nu precies uit komt te zien. Is de nieuwe rol van de AP meer als overlegorgaan of een uitvoerende toezichthouder? Handelt de toezichthouder reactief of kan er juist voorkomend worden gehandeld? Wij gaan ervan uit dat de nieuwe toezichthouder zich uitsluitend richt op het Rijk en niet op bedrijven en lagere overheden. Hoe verhoudt de AP zich in haar nieuwe rol tot de sectorale bestaande toezichthouders, ook qua doorzettingsmacht? In hoeverre hoort het opleggen van boetes ook bij de nieuwe rol van de AP, gelet op de drie doelen uit de inrichtingsnota? Ten slotte, voorzitter. Op welke termijn kan de Staatssecretaris de Kamer informeren of de nieuwe wet- en regelgeving nodig is en of er aansluiting gezocht wordt bij de EU-verordening?

Voorzitter, ten tweede. Er is een eerste versie van een algoritmeregister. Wat ons betreft is dat een goed beginpunt, maar daar moeten de komende tijd nog stappen op gezet worden. Wat ons betreft blijven de sectorale toezichthouders toezien op de sectorale algoritmes. Laten we voorkomen dat we door te veel hooi op onze vork te nemen, verzanden in een onoverzichtelijke hoeveelheid gegevens. Het register heeft wat ons betreft nut door de algoritmes van de rijksoverheid verplicht inzichtelijk te maken voor eenieder die ermee te maken krijgt. Kan de Staatssecretaris hierop reflecteren?

Daarnaast is het teleurstellend dat er weinig overheidsonderdelen vrijwillig meewerken aan het Algoritmeregister, zeker omdat er nog steeds verschillende hoogrisicoalgoritmen door de overheid worden gebruikt, zoals beschreven in het rapport van vorig jaar van de Algemene Rekenkamer. Welke instrumenten heeft de Staatssecretaris om het aantal algoritmen in het register te vergroten in afwachting op het verplichtende karakter?

Ten slotte, voorzitter. De overheid is een gulzige dataverzamelaar. Vaak is dat noodzakelijk voor een goede dienstverlening, maar soms worden er gegevens verzameld die niet noodzakelijk zijn voor het uitvoeren van bepaalde overheidstaken. Ik heb hier eerder al vragen over gesteld, zoals bij de begrotingsbehandeling vorig jaar. Het rapport van de Algemene Rekenkamer waar ik zojuist al naar verwees, concludeert dat er bij de politie nog steeds meer gegevens worden verzameld dan noodzakelijk zijn voor de berekeningen. De Raad van State adviseert in haar rapport Digitalisering in wetgeving: maak afspraken over datagebruik. Afgelopen maandag heeft de Minister van BZK nog de Big Brother Award mogen ontvangen. Kortom, er is ruimte voor verbetering. De VNG stelt voor om een transparantiebeginsel op te nemen in de algemene beginselen van behoorlijk bestuur. Hoe kijkt de Staatssecretaris hiernaar? Welke acties worden verder in gang gezet om orde te brengen in de verzameldrift van data van de overheid? Ten slotte wil ik me aansluiten bij de vragen van GroenLinks over de mensenrechtentoets.

Dank u, voorzitter.

De voorzitter:

Dank u wel, mevrouw Dekker-Abdulaziz namens D66. Ik kijk even rond. Ik zie geen interrupties. Dan is het woord aan de heer Rahimi, VVD.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Afgelopen jaar heb ik mij vanuit de VVD in kunnen zetten voor ons mooie midden- en kleinbedrijf. Vanaf heden mag ik mij als VVD-Kamerlid, en tevens oud-IT-ondernemer, met genoegen ook bezighouden met Digitale Zaken en Digitale Overheid. Dat is een portefeuille die zowel de veiligheid als de economische situatie van de mensen raakt. Digitale zaken gaan niet alleen over IT- en softwaresystemen. Tijdens mijn studie informatica kwamen juist veel ethiek, logica en transparantie over ICT-systemen naar voren. Het is bijvoorbeeld in gebruik van bepaalde technieken en functies verantwoord of niet binnen de IT. Dat is een heel belangrijk punt.

Voorzitter. Elke maand neemt de overheid miljoenen beslissingen, bijvoorbeeld over wie wel en wie geen huurtoeslag krijgt. Voor al die beslissingen gebruikt de overheid algoritmes. Er zitten kansen maar ook risico's aan het gebruik van deze algoritmes. Een zeer belangrijk punt hierbij is hoe we zorgen voor een eerlijke totstandkoming van de algoritmes.

Voorzitter. Zonder algoritmes zouden we namelijk ook heel veel meer ambtenaren moeten hebben om elke dag al die beslissingen die de overheid moet nemen, te realiseren. Het moet duidelijk zijn dat de inzet van algoritmes en data-analyse binnen de overheid niet leidt tot beperking van de persoonlijke vrijheid en privésfeer van burgers en ondernemers. Ik wil de Staatssecretaris vragen hoe zij dit wil verwezenlijken. Tevens wil ik weten hoe zij ervoor gaat zorgen dat deze uitkomst ethisch verantwoord en in overeenstemming met de juridische principes van onze samenleving is, zodat dit niet leidt tot ongelijke behandeling van burgers op basis van bijvoorbeeld ras, gender of socio-economische status.

Voorzitter. Ik ben blij dat er een start is gemaakt met het algoritmeregister, waarin nu inmiddels 109 algoritmes geregistreerd staan. De VVD zou graag willen dat de Staatssecretaris meerdere instanties najaagt om eerder dan eind 2024 hun algoritmes te laten registreren. Alle zbo's, provincies, gemeentes en waterschappen moeten ook op een geautomatiseerde manier het register vullen. Nu gebeurt dat niet automatisch en op verschillende manieren.

Voorzitter. Wat betreft de toetsing van algoritmes heeft de Autoriteit Persoonsgegevens dus de taak om deze uit te voeren. Er is hiervoor ook een apart team aangesteld. Daarbij heb ik wel enkele vragen. Wat is het mandaat van de Autoriteit Persoonsgegevens? Kan de Autoriteit Persoonsgegevens ook handhaven? Heeft de Autoriteit Persoonsgegevens ook genoeg kennis in huis om alles te toetsen? Test de Autoriteit Persoonsgegevens ook op pilot- en demoalgoritmes? Ik denk dat het goed is dat er getoetst wordt op zowel bestaande als nieuwe algoritmes. Daarbij is het van belang dat niet alleen getoetst wordt of deze algoritmes, maar ook of de besluiten die daaruit komen en die grote effecten hebben op het leven van mensen, aan de AVG voldoen. Gaat de Autoriteit Persoonsgegevens helpen bij het maken van onderscheid tussen het verwerken van data en de algoritmes? De werking van algoritmes uitleggen is complex. Hoe weet een burger wat het in normale taal betekent?

Voorzitter. Naast de Autoriteit Persoonsgegevens zijn er verschillende andere toezichthouders die ook toegevoegde waarde kunnen hebben. Ik wil de Staatssecretaris vragen hoe de andere toezichthouders zich verhouden tot de Autoriteit Persoonsgegevens. Waar ligt het zwaartepunt bij het toezicht? Wat is de relatie met de regelgeving die uit Brussel komt? Welke wetgeving is er in Nederland nog nodig?

We hebben de komst van een algoritmeregister in het coalitieakkoord beloofd en nu is er ook wat gedaan. Het is ook wel goed om aan te geven dat er wat gebeurt. Dat is wel een compliment waard, ook al is het nog niet gevuld. Goed dat we dat dus doen. Ik realiseer me echter wel dat we alleen met incidentele probleemaanpak bezig zijn. Een structurele oplossing mist nog. We kunnen elke keer als er een incident met een algoritme is reactief handelen. Dat is goed geweest voor het begin, maar nu moeten we het inzichtelijk maken. We weten dat het een structureel probleem is, dus we moeten het ook systematisch en structureel oppakken en oplossen, en wegblijven van incidentenpolitiek. Denk hierbij bijvoorbeeld aan het proces van de controle van een jaarrekening van de gemeente door de accountant.

Voorzitter. Tot slot. Wat de VVD betreft is het van belang dat we inzichtelijk maken wat we verzamelen en waarom, en dat we in gewonemensentaal uitleggen wat we hiermee doen. Dat is voor ons het vertrouwen terugwinnen en teruggeven. Ik vind dat we daarmee op de goede weg zijn, maar we zijn er nog niet.

De voorzitter:

Dank u wel, meneer Rahimi. U heeft allereerst een interruptie van mevrouw Leijten en daarna van mevrouw Kathmann. Mevrouw Leijten, SP.

Mevrouw Leijten (SP):

Het verhaal van de heer Rahimi over dat we geen incidentgedreven politiek moeten hebben, is me uit het hart gegrepen. Maar laten we dan ook een principieel debat voeren. Wat vindt de VVD van het gebruik van algoritmen binnen de overheid? Wanneer kan dat wel en wanneer niet?

De heer Rahimi (VVD):

Ik gaf net al aan dat algoritmes gewoon nodig zijn, anders heb je honderdduizenden ambtenaren nodig. Als je 107 rijdt en je krijgt een boete, is dat ook een algoritme. Dus ja, die algoritmes heb je nodig. De vraag is niet wanneer wel en wanneer niet. Wat ik alleen aangeef, is dat het belangrijk is dat dit inzichtelijk is en dat aan de hand daarvan duidelijk is welke beslissingen worden genomen.

De voorzitter:

Er is een vervolgvraag van mevrouw Leijten, SP.

Mevrouw Leijten (SP):

Dit debat heet natuurlijk inzet algoritmes en data-ethiek, dus het gaat ook over wat voor overheid je wil zijn en wanneer je iets toepast. Je kan wel zeggen «de techniek is er, dus we doen het», maar dat is niet hoe we kijken naar de inzet van bepaalde middelen. Als het bijvoorbeeld gaat over het geweldsspectrum of het veiligheidsspectrum, kijken we ook altijd of het wenselijk en proportioneel is. Verbetert het de dienstverlening van de overheid? Verbetert het de integriteit van de besluitvorming? Naar dat soort zaken kijken we. Daarom stel ik wel de vraag aan de VVD: waar wel en waar niet en op welke grond dan, bijvoorbeeld wat betreft automatische besluitvorming die te maken heeft met inkomen en automatische besluitvorming op basis van profilering? Gebruiken we automatische besluitvorming, of juist niet? Laten we er altijd nog een menselijke toets zijn? Doen we dat dan vanuit dienstverlening of vanuit fraudeopsporing? Wat zijn precies de ethische grondslagen voor de VVD-fractie als het gaat over de inzet van algoritmen? Want als het alleen maar is «anders draait de overheid niet», dan lopen we wel in een fuik.

De heer Rahimi (VVD):

Het enige wat ik aangeef, is dat die inzichtelijk gemaakt moeten worden, zodat we kunnen toetsen wanneer wel en wanneer niet. Nu zijn die niet inzichtelijk, maar vraagt mevrouw Leijten mij nu wel wanneer wel en wanneer niet. Dat weet ik niet.

De voorzitter:

Ik geef u nog één vervolgvraag omdat u dat de vorige keer niet gedaan heeft.

Mevrouw Leijten (SP):

Dan zijn ze op, voorzitter. Ik heb goed geteld. Nee, maar dit is volgens de SP wel precies het probleem. We zitten in een situatie waarin we heel veel toepassen omdat de techniek er was en omdat we dachten dat die techniek zou helpen. Er zijn echt situaties waarin niet overtuigend vaststaat dat er met behulp van een algoritme een beter besluit wordt genomen dan wanneer professionals dat nemen zonder algoritme. Zouden we dan niet moeten zeggen dat je daarmee bijvoorbeeld terughoudend moet zijn? De politie verzamelt veel meer data dan nodig is. Er zijn profielen in de maak die discriminerend zijn. Dan zegt de VVD: we willen niet op incidenten reageren. Dat is heel goed, want die wil je voorkomen. Maar wat is dan precies het normenkader en wat zijn nou precies de afwegingen die de VVD-fractie wil maken voor de inzet van algoritmen in het publieke domein en bij de beslissingen die de overheid neemt?

De heer Rahimi (VVD):

Ik zal proberen antwoord te geven. Met incidentenpolitiek bedoel ik het volgende. Ik geef alleen aan dat er elke zoveel tijd iets naar buiten komt van «dit werkt niet goed» of «deze data zijn verzameld». Wij hebben gewoon op verschillende vlakken oplossingen voor verschillende systemen. Ik gaf net ook al een voorbeeld. Een gemeentelijke administratie wordt bijvoorbeeld elk jaar gecheckt. Daar zijn afspraken over. Die hebben een toezichthouder, die dat controleert. Ik geef alleen aan dat er niet alleen algoritmes zijn die er nú zijn, maar dat er ook algoritmes zijn die gaan komen. We moeten nadenken over wat voor effecten die hebben op welke data, maar daarvoor moeten die inzichtelijk zijn en moeten we duidelijk hebben welke algoritmes we gebruiken en waarvoor. Kijk bijvoorbeeld naar gebruik bij verwarde personen. Een algoritme is niets dan een calculatie. Mevrouw Leijten heeft het over de techniek en IT, maar het is gewoon een calculatie. Als iemand valt die een sensor heeft, gaat er een alarm af en kan er hulp worden ingeroepen. Dat is ook een algoritme. Ik kan verder geen inhoudelijk antwoord geven op de vraag welk algoritme goed is en welk algoritme niet. Er zijn tienduizenden algoritmes.

De voorzitter:

Ik vermoed dat u het hier niet helemaal over eens wordt in dit debat, maar wellicht is er nog een keer een andere gelegenheid. Ik ga nu door naar mevrouw Kathmann namens de PvdA voor een interruptie.

Mevrouw Kathmann (PvdA):

Ik wil de heer Rahimi bedanken voor zijn bijdrage. Sowieso ben ik blij met deze VVD-woordvoerder, want er spreekt een hoop ambitie uit. Daarom zou ik de VVD graag het volgende willen vragen. Bij die ambities hoort natuurlijk ook gewoon een goede toezichthouder. Hoe kijkt de VVD ernaar dat we inderdaad, zoals het CDA het noemt, meer een expertisecentrum hebben dan een echte toezichthouder, en dat het eigenlijk ook nog een expertisecentrum zonder tanden is, aangezien expertisecentrums die doorgaans niet hebben? Kunnen we op de VVD rekenen als het gaat om het realiseren van een echte toezichthouder?

De heer Rahimi (VVD):

Ik wil echt wegblijven van fake. U zegt: een echte toezichthouder. Ik begrijp wat er gezegd wordt. Mijn punt is het volgende. De Autoriteit Persoonsgegevens controleert op de persoonsgegevens, die data, maar er zijn zo veel meer dingen. Er zijn zo veel meer toezichthouders. Er zijn toezichthouders op media en financiële toezichthouders. Al die disciplines en domeinen hebben nu inderdaad niet één toezichthouder in zich. Ik stel dus voor – dat vraag ik eigenlijk ook aan de Staatssecretaris – om te komen tot een oplossing. Het feit dat wij nu dit debat hebben, is echt belangrijk. Het is belangrijk dat we nu al structureel nadenken over de manier waarop we het in de toekomst inrichten en dat toezicht gaan vormen. Hoe exact gaan we dat doen, en is de nieuwe vorm goed of niet? Dat kan je nu niet beslissen en daarom heb ik die vraag ook gesteld. Ik heb best wel wat vragen gesteld.

Mevrouw Kathmann (PvdA):

Maar dan is er in ieder geval dus wel een toezichthouder met tanden, op welke manier dan ook, die kan handhaven en normen kan stellen.

De heer Rahimi (VVD):

Ja, want een toezichthouder zonder tanden ...

De voorzitter:

Dank u wel voor deze beantwoording. U heeft nog een aanvullende vraag van mevrouw Kathmann. Dat wordt dan wel haar tweede interruptie.

Mevrouw Kathmann (PvdA):

Ik snap dat de VVD het misschien moeilijk vond om de vraag van mevrouw Leijten van de SP te beantwoorden. Ik heb in het verlengde daarvan wel eenzelfde soort vraag aan de VVD. Die gaat over de mensenrechtentoets die wordt toegepast. De heer Van Baarle zei: we zitten allemaal op die AI Act te wachten en we kijken daar hoopvol naar uit, maar we weten eigenlijk nu al dat een aantal zaken daarvan worden uitgesloten. Ik ken de VVD als een partij die in het spanningsveld tussen veiligheid en het borgen van privacy weleens een valse tegenstelling creëert. Hoe kijkt de VVD ernaar dat die AI Act de mensenrechtentoets eigenlijk op enkele relevante gebieden uitsluit? Dan gaat het bijvoorbeeld over wetshandhaving en grensmanagement. Vindt de VVD dat dat wel zou moeten, dus dat je die mensenrechtentoets eigenlijk te allen tijde zou moeten uitvoeren als je al die ambities wilt borgen waar de heer Rahimi het over had, dus onafhankelijk van het terrein?

De heer Rahimi (VVD):

Volgens mij wordt er nu onderhandeld over de AI Act. Volgens mij is die nog niet rond. Ik heb geen inhoudelijk idee over hoe die AI Act in elkaar moet zitten. Dat is ook niet mijn woordvoerderschap, moet ik eerlijk bekennen. Maar nogmaals, bij algoritmes wil je gewoon willen uitleggen: dit is bedacht om het vertrouwen terug te winnen. Het is bedacht om te kunnen zien welke data erin gaan, wat er gebeurt, wat eruit komt en welke beslissing er genomen wordt. Dat wordt inzichtelijk gemaakt. Daar gaat het om. En daarvoor moet je niet 109 algoritmes hebben, maar alle algoritmes, over alle lagen. En tegelijkertijd wil je exact weten dat het niet alleen maar voor het algemeen belang is. Ik mag hopen dat wat wij doen als gemeente, provincie, waterschap of Tweede Kamer altijd in het algemeen belang is. Je wilt zeggen voor welke wet het algoritme wordt toegepast en waar het voor dient. Is het voor de Politiewet? Voor de Gemeentewet? Dat is volgens mij belangrijk. Er moet dus inzichtelijk gemaakt worden wat erin gaat en welk doel het dient. Op de vraag over de AI Act heb ik geen antwoord, sorry.

De voorzitter:

Dank u wel. Dan heeft u nog een interruptie van mevrouw Bouchallikh, GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Ik was echt blij toen ik de VVD hoorde spreken over twee zaken waar wij het ook vaker over hebben, namelijk het weg willen gaan van incidentele politiek en discriminerende algoritmen. Specifiek werden gender en sociaaleconomische achtergrond genoemd. Dat waren een tijd geleden, in juni 2022, precies de afwegingen die wij maakten bij het opstellen van een motie waarin we vroegen om preventief onderzoek te doen om te kijken binnen welke rijksonderdelen er nog sprake is van discriminerende algoritmen. Daarmee willen we voorkomen dat we achteraf incidenten moeten gaan organiseren en regelen. Ik zie meneer Rahimi nadenkend kijken. Hij doet ook voor het eerst mee aan dit debat, dus alle begrip daarvoor; dat meen ik. Anders wil ik op een ander moment graag weten wat de afweging is geweest. Als ik kijk naar deze motie en luister naar het betoog, verbaast mij de tegenstem namelijk.

De heer Rahimi (VVD):

Ik ga graag in op het voorstel om hier later op terug te komen – dank daarvoor overigens – want twee jaar geleden zat ik nog niet eens in de Kamer. Ik ga daar dus graag op in.

De voorzitter:

Dank u wel daarvoor. En dan wens ik u succes met dat overleg. Dan zijn we nu bij de volgende spreker. Dat is mevrouw Koekkoek namens Volt.

Mevrouw Koekkoek (Volt):

Dank, voorzitter. Wij zijn kritisch op het kabinet als het aankomt op digitalisering, omdat er de afgelopen jaren weinig bestuurlijke visie is geweest op dit onderwerp. Nou brengt deze Staatssecretaris daar verandering in en dat waardeer ik, maar het kan en moet nog ambitieuzer. Het algoritmeregister is een goede stap, maar het is nog niet af. Om te komen tot een werkend systeem is het daarom belangrijk om de komende maanden samen met de Kamer, burgers, medeoverheden en uitvoeringsorganisaties na te denken over de doorontwikkeling van het register. Mijn eerste vraag aan de Staatssecretaris is daarom wie zij betrekt bij het uitwerken van het algoritmeregister. Wat Volt betreft komen alle algoritmes die door overheden en semioverheden in Nederland worden gebruikt centraal in één algoritmeregister. Dat lukt alleen door het gebruik van het register te verplichten voor overheden, met een mogelijkheid om die verplichting te handhaven. Dat betekent een wettelijke grondslag. De Staatssecretaris heeft in het AI-debat al aangegeven daarmee aan de slag te gaan, maar wel te willen wachten tot de AI-verordening er is. Ik vind dat een gemiste kans. Daarom vraag ik de Staatssecretaris niet te wachten op de uitwerking van de AI-verordening, maar een wettelijke grondslag voor verplichting van het algoritmeregister zo snel mogelijk te verankeren in de wet. Dat kan met een kaderbepaling waarbij de daadwerkelijke invulling door middel van AMvB gebeurt. Daarmee creëren we nu snelheid en later wendbaarheid. Ik vraag de Staatssecretaris ook om een brief te sturen met de daarin de dilemma's en de afwegingen voor het komen tot een dergelijke wettelijke verplichting.

Het register bestaat uiteraard niet in een vacuüm. Je hoopt in het register terug te zien dat alleen algoritmes worden gebruikt die via een ethisch waardekader tot stand zijn gekomen, dat er geen grondrechten geschonden worden. Je hoopt dat duidelijk is voor burgers hoe een besluit tot stand is gekomen. Daar moet je dus bij het ontwikkelen van algoritmes al rekening mee houden. Als je ze inkoopt, dan moet je de toepassing ervan begrijpen. Ik vraag de Staatssecretaris of zij het idee heeft dat er nu voldoende wettelijke kaders zijn om de ethische totstandkoming van algoritmes te garanderen en ook hoe het zit met de uitvoering van de breed aangenomen motie van DENK om bij besluiten van de overheid aan te geven of sprake is geweest van het gebruik van algoritmes in die besluitvorming. Wordt dat al toegepast of moeten we ook daarvoor een verplichting opnemen in de wet?

Voorzitter. Dan nog een aantal punten over data-ethiek. Ik zeg het vaker, in deze commissies en andere commissies: er wordt door het kabinet veel wetgeving gemaakt die niet in lijn is met privacywetgeving, niet handelt in de geest van het grondrecht op de bescherming van privacy. Ik noem een paar voorbeelden: PNR-gegevens, de anti-witwaswet en de NCTV-wet. Dat doet heel erg veel afbreuk aan de geloofwaardigheid en betrouwbaarheid van de overheid en dat moet beter. Een oplossing is om als onderdeel van de subsidiariteitstoets te onderzoeken of er voor verwerkingen van persoonsgegevens technische oplossingen zijn waarin gegevensverwerking zo veel mogelijk wordt beperkt, waarbij er ook aan wordt gedacht of er vanuit de samenleving oplossingen bestaan. Ik ben daarom benieuwd hoe de Staatssecretaris hierover denkt. Wordt er al genoeg gekeken naar technische oplossingen voor dataminimalisatie en is de IT van de overheid daar dan op toegerust?

Dank u, voorzitter.

De voorzitter:

Dank u wel, mevrouw Koekkoek namens Volt. Het moet me wel van het hart dat de dames beter in staat zijn om zich aan de minuten te houden dan de heren. Ik dacht: dat is een aanmoediging voor de twee volgende dames.

Mevrouw Leijten (SP):

Voorzitter, ik zal dat gemiddelde eventjes gaan torpederen.

De voorzitter:

Het woord is aan u, mevrouw Leijten.

Mevrouw Leijten (SP):

Voorzitter. Dit commissiedebat heet Inzet algoritmes en data-ethiek binnen de rijksoverheid, maar over data-ethiek hebben we het dan eigenlijk heel erg weinig. Het gaat over een toezichthouder, maar wat gaat die toezichthouder nou precies doen? Dat is onduidelijk. Het gaat over een algoritmeregister, maar wat daarin moet worden opgenomen, wanneer en op straffe van wat is onduidelijk. Er zijn rapporten geschreven, er worden onderzoeken gedaan en er worden werkagenda's opgesteld. De bestuurlijke drukte rond de algoritmes is enorm, maar de fundamentele vraag wat wij nou vinden dat er wel mag en niet mag met de inzet van algoritmes wordt onvoldoende besproken. Welke waarborgen willen we daarbij en welk toezicht? Allemaal vragen waarop nog geen antwoord is.

Toch gaan we ondertussen gewoon door met het inzetten van algoritmes die verregaande nadelige consequenties kunnen hebben voor mensen. Vinden we bijvoorbeeld dat algoritmes mogen worden ingezet op het voorspellen of kinderen het criminele pad op gaan? Vindt de Staatssecretaris dat eigenlijk een goed idee? Welke waarborgen zou ze daar concreet bij willen hebben? Wie gaat dat in de gaten houden, als bijvoorbeeld door de politie een dergelijk algoritme wordt ontwikkeld? Wie maakt welke afweging op welk moment? Welke beperkingen stelt het kabinet eigenlijk aan het inzetten van zelflerende algoritmes? Als het gaat over de jeugdzorg in Amsterdam, het Top400-algoritme waar ik naar verwijs, is de SP eigenlijk pislink over de beantwoording. Het gaat gewoon door. Er zijn dus kinderen, niet crimineel, die in systemen komen als zijnde potentieel crimineel en die zo worden benaderd op straat.

Sorry, maar ik heb het vaker gezegd: wij willen geen datasurveillance van de Facebooks van deze wereld en niet in algoritmes van Twitter worden getrokken die giftig zijn, maar we willen ook geen staat die op deze manier surveilleert en mensen in hokjes plaatst. Daarom stelde de SP voor om een waardekader te ontwikkelen. Een waardekader, ik krijg het nauwelijks uit mijn mond. U kent mij als iemand die duidelijke taal wil spreken, maar een waardekader is wat ons betreft de inzet van het kabinet voor hoe je dingen afweegt. Is gebruiksgemak, de voorspellende waarde daaruit, het voordeel of is het privacy? Wat weegt zwaarder? Op het moment dat we zo'n afwegingskader, zo'n waardekader, hebben, kunnen wij als Tweede Kamer controleren of het goed genoeg is of dat we het anders willen. Dan kan een toezichthouder daar toezicht op houden. Nu doen we maar wat. Wat de techniek mogelijk maakt, wordt ingezet, met alle risico's van dien. De Raad van State, de Wetenschappelijke Raad voor het Regeringsbeleid, Rathenau Instituut, Amnesty en Tweede Kamer uiten zorgen op zorgen op zorgen, maar deze Staatssecretaris zegt doodleuk: nee, ik ga algoritmes niet stoppen, ook niet als we niet zeker weten of ze goed zijn, want dan staat de overheid stil. Ja, maar dan hebben we dus een probleem met die overheid! Want natuurlijk wil niemand de overheid stilzetten. Maar we willen ook niet dat mensen in een fuik van profilering lopen. Dan moeten we wachten op Europa op het punt van algoritmes, want de AI Act regelt van alles, maar die gaat niet de mensenrechtentoets die wij hebben ontwikkeld, regelen. Hoe gaan we daar dan mee om? Waarom wachten we er nou precies op?

We hebben trouwens gisteren nog gezien dat er een uitspraak van het gerechtshof is. Daar is het ook in het mondelinge vragenuurtje over gegaan. Er moet een rechter aan te pas komen om te zeggen dat je toch niet op afkomst mag selecteren. Wat gaan we daar eigenlijk mee doen, vraag ik deze Staatssecretaris. Gaan we tegen die uitspraak in cassatie? Met «we» bedoel ik «de regering». Ik hoop dat toch niet.

Er zijn moties aangenomen over het gebruik van risicoprofielen, van vervuilde data, van het opschonen daarvan. Er is een heel programma opgesteld. «Motie 21» heet dat achter de schermen. Er zijn rapporteurs op aangesteld. Daar zou het vandaag ook over gaan. Maar dat is uitgesteld. Waarom? Het is niet af. Ik kan u dit vertellen: ieder ministerie gaat er anders mee om en iedereen onderzoekt het op een andere manier en iedereen heeft een andere definitie. We weten zeker dat de definitie bij politie en justitie totaal langs het probleem heen scheert. Dus wat zijn we nou precies aan het doen?

Voorzitter. Ook dat algoritmeregister ... O nee, ik moet op de tijd letten. We krijgen een toezichthouder en een algoritmeregister, maar we hebben daarbij een uitzondering op de rechtshandhaving. Waarom is dat nou gedaan?

Tot slot, voorzitter. Er is gekozen voor de Autoriteit Persoonsgegevens. Niks ten nadele van de Autoriteit Persoonsgegevens, maar we weten dat die al jarenlang eigenlijk tegen de klippen op werk heeft en geen mensen of geen funding heeft, ondergefinancierd is. Die krijgt een nieuwe taak met het handhaven van de zwarte lijsten in de zorg. Gisteravond hebben we daar een wetsvoorstel over gehad. Ze krijgt nu een nieuwe taak voor dat register en als algoritmetoezichthouder. Hoe krijgen we dat in hemelsnaam voor elkaar en hoe voorkomen we dat we over drie jaar zeggen: we hebben het allemaal wel opgetuigd, maar we hebben feitelijk geen toezicht?

De voorzitter:

Dank u wel, mevrouw Leijten namens de SP. Ik kijk even rond. Ik zie geen interrupties. Dan is het woord aan de laatste spreker van de zijde van de Kamer. Dat is mevrouw Kathmann van de PvdA.

Mevrouw Kathmann (PvdA):

Dank u, voorzitter. We spreken al de hele tijd over algoritmes. En ik zei het net al, als we erover spreken, moeten we niet denken dat het een dingetje op zichzelf is. We kunnen niet met registers, toezichthouders of mensenrechtentoetsen de hele ethische discussie over algoritmes platslaan. Wij vinden dat altijd heel erg prettig, want dan kan je dingen in een malletje, handreiking of beleidsnotitie stoppen. Maar dat gaat gewoon niet. Neem alleen al het stellen van de vraag «wat als het algoritme het bij het verkeerde eind heeft?» Dat moeten we altijd blijven doen. Als het antwoord nou is dat het algoritme het bij het verkeerde eind had, wat doet dat dan met besluitvorming en overheidshandelen? Dat is ongelofelijk belangrijk.

Ik zei het hier al eerder: a fool with a tool is still a fool. Dat betekent niet dat wij allemaal idioten zijn; dat zeg ik hier niet mee. Maar het betekent wel dat we de discussie over data-ethiek moeten blijven voeren. In de documenten die op ons af zijn gekomen, zie je ook echt dat het pas in de kinderschoenen staat. Ik snap daarom ook zeker de frustraties van de voorgaande spreker, mevrouw Leijten van de SP.

Toch is de Partij van de Arbeid blij met de stappen die door het kabinet zijn gezet met die algoritmetoezichthouder/het expertisecentrum en ook met het algoritmeregister. Zeker de moties van Klaver en Van Baarle hebben veel goeds gedaan om die stappen te kunnen zetten. Maar ik had wel echt een groot aantal vragen. De meeste zijn gesteld, dus die ga ik niet herhalen. Ik weet dat het stevige vragen waren, maar ik sluit me toch aan bij de vragen van de heer Van Baarle over de algoritmetoezichthouder. Waar zijn de tanden nou gebleven? Het duurt namelijk echt allemaal al erg lang. Wij snappen ook dat de Staatssecretaris dat vindt. Maar als we dan iets optuigen, laten we dan haast maken en gelijk dingen optuigen met tanden.

Als het gaat over de normontwikkeling bij de toezichthouder, wil ik me graag aansluiten bij de vragen van het CDA. Als het gaat om algoritmen en besluitvorming – dat is ongelofelijk belangrijk; ik zei het net al – wil ik me heel graag aansluiten bij de vragen die daarover zijn gesteld door Volt.

Het aantal algoritmes dat is aangemeld door de overheid bij het algoritmeregister is natuurlijk heel bedroevend. Daar heeft GroenLinks scherpe vragen over gesteld. Daar wil ik me heel graag bij aansluiten. Hetzelfde geldt voor de vragen van GroenLinks over de mensenrechtentoets.

Ik kon al mijn vragen dus wegstrepen, maar ik wil de Staatssecretaris wel nog om één reflectie vragen. Dit gaat over Joris Krijger, promovendus aan de Erasmus Universiteit. Laatst was hier ook stuk over in Trouw. Hij zegt dat zo'n algoritmeregister an sich helemaal niet voldoende is. We hebben eigenlijk expertteams nodig die zich helemaal mogen ingraven in zo'n algoritme, met geheimhouding of wat dan ook, want soms geeft de overheid aan dat het anders niet kan. Zo kan het algoritme helemaal worden doorgekliefd en kan er worden gezien hoe het tot stand is gekomen, hoe het is ontwikkeld en hoe het is toegepast. Dat is dus meer dan alleen een vinkje zetten als het in het register staat.

Tot slot zou ik graag een reflectie willen van de Staatssecretaris op die expertteams. Moeten we die niet breder inzetten? Er is namelijk een commissie bij het UWV. Die heeft wel een hele andere taakomschrijving, maar misschien zou je dit daarmee samen kunnen voegen tot een soort commissie met tanden; laat ik die zo noemen.

Tot zover, voorzitter.

De voorzitter:

Dank u wel, mevrouw Kathmann. U bent keurig binnen de vier minuten gebleven. Dank daarvoor. Daarmee zijn we aan het einde gekomen van deze termijn. Ik kijk heel even naar de Staatssecretaris. Ik schors tot 15.30 uur, maar dan gaan we ook stipt om 15.30 uur beginnen. We hebben dus niet nog vijf minuutjes uitlooptijd. We gaan om 15.30 dus verder. Omdat we nog een tweede termijn willen hebben, kijk ik even naar de Staatssecretaris en via haar naar de ambtenaren erachter met de vraag of één algemene inleidende tekst dan wellicht volstaat in plaats van één per kopje.

De vergadering wordt van 14.54 uur tot 15.30 uur geschorst.

De voorzitter:

Aan de orde is het commissiedebat Inzet algoritmes en data-ethiek binnen de rijksoverheid. We hebben net de eerste termijn van de Kamer gehad en we zijn aanbeland bij de beantwoording van de gestelde vragen door de Staatssecretaris. Ik geef de Staatssecretaris het woord. Nog even ter herinnering voor de leden: drie interrupties in tweeën.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Zoals u suggereerde, heb ik een korte introductie gemaakt. Daarna zou ik de gestelde vragen willen beantwoorden in een viertal blokjes, te beginnen met het blokje over algoritmes, dan over toezicht, dan over mensenrechten en daarna nog een blokje met andere onderwerpen die niet in een van deze passen. Ik ga proberen dat zo kort mogelijk te doen.

De kern van dit debat is de aandacht die we moeten hebben voor de inzet van algoritmes en data-ethiek. De impact daarvan, weten we allemaal, is ontzettend gegroeid in de afgelopen jaren in onze hele samenleving. Dat geldt lang niet alleen voor de overheid. Op allerlei plekken in onze samenleving worden algoritmes gebruikt. We weten dat die ons fantastische dingen kunnen brengen, maar we weten ook dat er gevaren zitten aan het gebruik van algoritmes, met name als het gaat over mensenrechten en de mate waarin we nog controle hebben over ons eigen leven.

We hebben op 25 januari ook over dit onderwerp gesproken en dat doen we vandaag opnieuw. Dat is goed, omdat we vanuit het werkprogramma dat dit kabinet heeft gemaakt vooral bezig zijn met het nadenken over de vraag: hoe kunnen we algoritmes in een positieve zin brengen en stimuleren? Hoe kunnen we de maatschappelijke en economische kansen ervan zo goed mogelijk benutten? Maar vooral ook: hoe kunnen we zorgen dat er voldoende aandacht blijft voor mensenrechten, voor ethiek, niet alleen maar voor de algoritmes die er vandaag de dag al zijn, maar zeker ook voor algoritmes en nieuwe technologieën die zich in de komende tijd gaan ontwikkelen?

Vanuit de werkagenda die is opgesteld, doen we dat vanuit het kabinet op verschillende manieren. We doen dat door in Europees verband heel actief in te zetten op zorgen dat er goede verordeningen komen voor algoritmes. Die zorgen namelijk niet alleen dat we in Nederland goede afspraken maken, maar ook dat algoritmes die elders worden geproduceerd en in Nederland worden gebruikt, of dat nou door de overheid is of door private personen, voldoen aan de vereisten die wij van belang achten. Daarbij zijn fundamentele rechten, mensenrechten, privacy, transparantie – weet je nog wat er precies gebeurt met jouw data? – een belangrijke factor. Dat doen we ook door binnen de Nederlandse overheid een stap verder te zetten. Dat hebben we dan ook gedaan – we komen daar zo meteen verder over te spreken – door het opzetten van een algoritmeregister, door het inzetten van een toezichthouder en niet in de laatste plaats door afspraken te maken, vooruitlopend op de implementatie van de algoritmeverordening vanuit de EU op een manier van werken binnen de overheid die voldoet aan wat het kabinet en zeker ook uw Kamer, zoals ze in eerdere debatten heeft aangegeven, van groot belang vinden. Dat is het eerste wat ik wilde zeggen. Ik ga nu over tot het beantwoorden van de vragen in de verschillende blokjes.

Ik begin met het thema algoritmes. Dan kom ik direct bij de vragen die door de heer Van Baarle daarover gesteld zijn. Hij vroeg het volgende aan mij. We zijn bezig op allerlei manieren om inzicht te krijgen in algoritmes die de overheid op dit moment in gebruik heeft. Dat doen we op verschillende manieren. Er is het register dat we nu aan het vullen zijn, maar er zijn ook de onderzoeken die we hebben gedaan naar aanleiding van de problemen die we eerder hebben gezien, bijvoorbeeld rondom de toeslagen, om per ministerie in beeld te krijgen welke algoritmes worden gebruikt en of daarbij sprake is van onoorbare praktijken, van discriminatie of van het foute gebruik van gegevens. U vroeg in het kader van het opzetten daarvan of we precies weten hoeveel algoritmes er zijn met automatische besluitvorming. Dat klinkt als een heel logische vraag, maar is heel lastig te beantwoorden. Algoritmes met automatische besluitvorming zijn bijvoorbeeld de algoritmes die we in stoplichten gebruiken, maar ook de algoritmes die gebruikt worden bij het toekennen van verkeersboetes. Als je langs een flitser rijdt en te hard of door rood licht rijdt, krijg je ook zoiets. Het punt is dat we dat niet precies weten. Wij selecteren niet zozeer op de vraag of er sprake is van automatische besluitvorming, maar kijken vooral of algoritmes van de categorie hoog risico zijn. Hoogrisicoalgoritmes zijn algoritmes waarbij sprake is van persoonsgegevens of van impact voor mensen in die zin dat er iets met hun data en gegevens gebeurt of dat besluitvorming een grote impact heeft op hun leven. De definitie daarvoor die we ook in Europees verband gebruiken, is eigenlijk het onderscheid dat we maken. Daarbij kijken we dus niet zozeer alleen naar de vraag hoe het precies werkt, maar geven we ook aan of er sprake is van een hoog risico of niet. Op dit moment hebben we dat dus niet. We zijn eigenlijk ook vooral van plan om de registratie van algoritmes te hanteren aan de hand van het criterium wel of geen hoog risico.

De voorzitter:

Voor u vervolgt, zijn er twee interrupties. Eerst is de heer Van Baarle en daarna de heer Rahimi. Meneer Van Baarle.

De heer Van Baarle (DENK):

Dank voor de beantwoording. Dat roept voor mij wel de vraag op wat dan precies de definitie is. Wat wordt er exact gekwalificeerd als hoog risico? Weten we dan wel het antwoord op de vraag hoeveel hoogrisicoalgoritmen we als overheid hebben?

Staatssecretaris Van Huffelen:

We hebben daar natuurlijk een eerste inventarisatie van gemaakt. De definitie van hoog risico die op dit moment – in een volgende fase komen we in de triloogfase – gebruikt wordt in die Europese verordening, is dat het erom gaat dat deze algoritmes worden toegepast in situaties waarin er sprake is van systemen waarin persoonsgegevens worden omvat en waarin die algoritmes risico's zouden kunnen bieden voor fundamentele rechten, gezondheid of veiligheid. In de verordening zijn daarvoor ook lijsten en systemen gemaakt. Die algoritmes zouden we ook honderd procent in beeld moeten hebben als we het in eerste instantie over de overheid hebben. Dat zijn precies de algoritmes die in dat register een plek moeten hebben en waarvan dan ook, conform de afspraken die wij daarover eerder hebben gemaakt, niet alleen inzichtelijk moet zijn waarvoor dat algoritme wordt gebruikt, maar ook hoe het in elkaar zit, of er sprake is geweest van een voorafgaande mensenrechtencheck, enzovoorts, enzovoorts, enzovoorts. Dat is dus wat wij onder die definitie verstaan.

De heer Van Baarle (DENK):

Excuses, maar dat was geen antwoord op de vraag. De vraag was wat precies de definitie van hoog risico is. Ik hoor dan dat het gaat om persoonsgegevens. Het is arbitrair wat daar wel en niet onder valt. Het is arbitrair wat onder risico's voor fundamentele rechten valt. Wanneer spreek je van een risico voor fundamentele rechten? Is die gelijkluidende definitie overal op exact dezelfde manier en uitlegbaar toegepast?

Twee. Mijn vraag is ook: als dat de definitie is die we hanteren, weet de Staatssecretaris dan wel het antwoord op de vraag hoeveel van die algoritmen we bij de overheid hebben? Als we dat niet weten, hebben we een probleem, volgens mij.

Staatssecretaris Van Huffelen:

De helderheid over die definities is, nogmaals, dat we die hebben beschreven in die AI-verordening. Die zal in de komende tijd ook verder worden uitgewerkt. We hebben daarin namelijk opgeschreven dat het gaat over algoritmes waarbij de besluitvorming effect heeft op mensenrechten. Dat gaat noodzakelijkerwijs dus niet over algoritmes die een lift of een stoplicht aansturen. Het gaat wel over de algoritmes die bepalen of je wel of niet in aanmerking komt voor een uitkering, of die werken op het gebied van bijvoorbeeld risicoselectie en dergelijke. Overigens gaat het erom – dat is iets wat we vandaag ook wel aan de orde zullen stellen, denk ik – dat er altijd eerst een afweging gemaakt moet worden van of er überhaupt wel of niet een algoritme wordt ingezet bij de uitvoering van beleid. Als we die hoogrisicoalgoritmes gedefinieerd hebben, moeten we er natuurlijk voor zorgen dat die allemaal in het register komen. Weet ik nu al voor honderd procent hoeveel dat er zijn? Nee, dat weten we nog niet voor honderd procent. Bij de activiteiten die we doen in het kader van de motie op stuk nr. 21 – daarover hebben we u een brief gestuurd waarover we later deze maand een debat zullen voeren – is het natuurlijk de bedoeling dat we ook heel precies weten of we alle algoritmes ook daadwerkelijk in beeld hebben. Omdat ik het zo belangrijk vind dat we dit voor honderd procent in beeld krijgen, gaat het er, wat mij betreft, niet alleen om dat we aan organisaties vragen om dat te doen, maar ook dat we dat uiteindelijk gaan verplichten, zodat we daarover niet alleen in Europa afspraken maken, maar we dat ook binnen de context van de Nederlandse overheid doen. Van de hoogrisicoalgoritmes moet namelijk honderd procent in beeld zijn. Daarvan moet transparant zijn hoe ze functioneren. Die moeten voldoen aan vereisten die bijvoorbeeld gaan over dat je niet alleen maar aan het begin, bij de introductie daarvan, een keurmerk of een toets hebt, maar dat ook tijdens het gebruik daarvan in de gaten wordt gehouden of zo'n algoritme inderdaad nog doet wat het moet doen en vooral of het niet gebiased raakt of op de een of andere manier tot verkeerde uitkomsten leidt.

De voorzitter:

Dank u wel. En voor de liefhebber: de motie op stuk nr. 21 is de motie-Marijnissen/Klaver. U wilt nog een tweede interruptie, meneer Van Baarle?

De heer Van Baarle (DENK):

Ja, want we hebben drie keer een interruptie in tweeën, toch?

De voorzitter:

Ja. Dit wordt dus uw tweede interruptie.

De heer Van Baarle (DENK):

Ik ga die hier wel aan besteden, voorzitter, want ik vind de beantwoording in alle oprechtheid niet bevredigend. Ik vraag tot drie keer toe naar een definitie van een hoogrisicoalgoritme, omdat die definitie is gehanteerd bij het controleren of een algoritme discrimineert. De Staatssecretaris komt niet verder dan algemeenheden. Als die de definitie vormen bij het controleren of een algoritme discrimineert, moeten we toch op z'n minst weten hoeveel we er daarvan hebben? Het antwoord daarop komt ook niet. Mijn impressie is dus op z'n minst dat de overheid in die hele doorlichting, bij de uitvoering van de motie-Marijnissen/Klaver om te kijken of algoritmen discrimineren, niet weet welke definitie er gehanteerd wordt. Als we na afronding van het traject niet eens weten hoeveel hoogrisicoalgoritmen we hebben, dan hebben we toch niet goed naar onze algoritmen gekeken? Dus kan de Staatssecretaris nogmaals antwoord geven op die twee vragen? Anders blijf ik erbij dat ik mij als vertegenwoordiger van de fractie van DENK ernstig zorgen maak over de vraag of we dit wel goed hebben aangepakt.

Staatssecretaris Van Huffelen:

Misschien is het goed om toch even een paar dingen uit elkaar te halen. Bij het uitvoeren van de motie op stuk nr. 21 – nogmaals, we komen daar in een volgend debat verder over te spreken – hebben we aangegeven dat het er vooral om gaat dat we willen onderzoeken of er door de overheid andere algoritmes worden gebruikt waarin sprake is van discriminatie of verkeerd gebruik van persoonsgegevens. Dat is geanalyseerd. Alle departementen hebben hun werk gedaan. Ze zijn daar voor het grootste deel mee klaar, maar moeten de laatste punten nog afronden. Op basis daarvan weet u inderdaad hoeveel van deze algoritmes zij hebben onderzocht. Dat beschrijven ze ook in hun aanpak. Er is ook aangegeven of er sprake is van algoritmes die niet voldoen aan de vereisten of aan de definitie zoals we die hebben gehanteerd. Met u heb ik gezegd dat ik het belangrijk vind dat we dat ook nog een keer onafhankelijk laten toetsen. Daarom heb ik in de brief die ik naar u heb gestuurd ook geschreven dat ik ermee aan het werk ben om dat te laten doen.

De definitie die de AI Act, dus de AI-verordening, gebruikt in Europa, kan ik er nog even voor u bij pakken. Ik wil die in de tweede termijn graag even aan u voordragen. Die geeft inderdaad aan dat het niet alleen over discriminatie gaat, maar definieert ook in bredere zin de verschillende niveaus van risico's van algoritmes. Er zijn algoritmes die je überhaupt niet mag gebruiken, hoogrisicoalgoritmes, laagrisicoalgoritmes enzovoort, enzovoort. Vervolgens wordt er aangegeven welke van deze algoritmes we in kaart moeten hebben, van tevoren een keurmerk moeten hebben en aan allerlei vereisten moeten voldoen. Dat is eigenlijk hetgeen waarmee we werken. Voor een deel overlapt dat uiteraard, want de AI Act gaat ook over racisme, discriminatie, het niet verkeerd gebruiken van persoonsgegevens. Maar ik ben het zeer met u eens dat we in de Nederlandse implementatie van deze verordening – we doen dat bij de overheid dus in het implementatiekader dat we dit jaar opstellen – in ieder geval heel helder moeten stellen welke algoritmes wij definiëren als hoogrisicoalgoritmes, hoe we voor honderd procent dat register kunnen vullen en hoe de toezichthouder vervolgens ook honderd procent kans heeft om daarmee zijn werk te doen, namelijk het toezicht houden op deze algoritmes.

De heer Van Baarle (DENK):

Ik blijf deze vraag herhalen omdat de Staatssecretaris in control, coördinerend, is op dit dossier. Het is een majeure operatie om te kijken of we binnen de hele overheid algoritmen hebben die wellicht discrimineren. We hebben die hele operatie met elkaar op touw gezet om alle algoritmen te controleren op een hoog risico en op de vraag of ze wellicht discrimineren. Ik vind het onbevredigend dat aan het einde van het traject een coördinerend bewindspersoon in dit debat geen antwoord kan geven op fundamentele vragen, namelijk hoe die definitie exact luidt, of die overal op een gelijkluidende manier toegepast is en hoeveel hoogrisicoalgoritmen we dan hebben. Als die antwoorden aan het einde van dit traject nog steeds niet komen, ben ik er niet zeker van of we wellicht discriminerende algoritmen op ministeries hebben gemist. Als we niet weten hoeveel het er überhaupt zijn, ben ik er niet zeker van of we met elkaar wellicht nog van die monsters onder de motorkap hebben die mensen duperen. Dat is de kern van de vraag. Ik ben dus op zoek naar meer control. Ik zou aan de Staatssecretaris willen vragen om eraan tegemoet te komen om die zorg weg te nemen.

De voorzitter:

Dank u wel. Ik kijk even naar de Staatssecretaris met de vraag of zij na dit betoog nog iets kan toevoegen.

Staatssecretaris Van Huffelen:

Die zorg wil ik natuurlijk graag wegnemen, want volgens mij hebben we precies hetzelfde voor ogen: we willen dat er bij de overheid geen algoritmes worden gebruikt die effecten hebben die we niet willen, zeker op het gebied van discriminatie. Dat is ook precies wat de motie op stuk nr. 21 doet. Nogmaals, we gaan nog uitgebreid met elkaar spreken over de resultaten van die exercitie, van het werk dat we gedaan hebben. Ik vind het wel goed om dit uit elkaar te trekken, want het gaat daar over racisme, discriminatie en een aantal andere effecten. Dat is iets anders dan wat we in de AI-verordening hebben opgenomen. De definities die we daar gebruiken, zijn breder en gaan ook over andere effecten die onwenselijk zijn bij het gebruik van algoritmes. Ik denk dus dat het goed is dat we beide naast elkaar zetten, maar dat we in ieder geval, ook ten aanzien van de motie op stuk nr. 21, op basis van de check die we hebben gedaan, inzichtelijk hebben welke algoritmes de overheid gebruikt en of zij wel of niet voldoen aan de vereisten. We moeten er zeker van zijn dat die lijst 100% dicht is. Nogmaals, alle departementen hebben daar zeer serieus aan gewerkt. Mijn voorstel is, ook naar aanleiding van het debat dat we daar eerder over hadden, om dat nog een keer te laten toetsen, zodat we zeker weten dat er niet iets vergeten is. Het tweede punt is dat we ook verder moeten. Nogmaals, dat doen we op basis van wat we zelf bij de overheid gaan afspreken, in lijn met wat we ook in Europa afspreken. Het oogmerk blijft dus precies hetzelfde, namelijk zorgen dat we echt weten welke algoritmes gebruikt worden en in zicht brengen welke daarvan potentieel niet voldoen, want dan moeten we zorgen dat ze daar echt mee aan het werk kunnen.

De voorzitter:

U heeft een interruptie van de heer Rahimi van de VVD en daarna van mevrouw Leijten.

De heer Rahimi (VVD):

In de eerste termijn had ik het al over die snelheidsboetes. Het enige wat ik de Staatssecretaris wil vragen, is of zij het daarmee eens is. «Algoritmes» is gewoon een wiskundig begrip. De simpele beslisregels – wel of niet een boete bij 110 kilometer – zijn simpel; die snapt iedereen. Maar als je vrouw zwanger is en als je racet naar het ziekenhuis, krijg je dan ook een boete? Soms wordt dat heel moeilijk. Ik wil dus wel benadrukken dat het soms heel makkelijk lijkt om over die beslisregels een mening te hebben. Ik wil de Staatssecretaris vragen of zij mee wil nemen dat die simpele beslisregels ook goed getoetst worden. Soms kunnen ze immers complex zijn. Is de Staatssecretaris het daarmee eens?

Staatssecretaris Van Huffelen:

Ja, daar ben ik het zeer mee eens. Het is ook om die reden dat we de Algemene wet bestuursrecht aan het uitbreiden zijn, want wij vinden het heel belangrijk dat iedere beslissing die de overheid neemt of iedere soort beslissing die de overheid neemt, heel goed inzichtelijk is. Sowieso is er op dit moment al een motivatieplicht. Als je die boete krijgt, moet er dus worden uitgelegd waarom je die boete hebt gekregen, hoe je daartegen in bezwaar kan gaan, enzovoort, enzovoort. Maar ik vind het belangrijk dat gewoon op de website en/of op andere manieren voor iedereen die bijvoorbeeld iets wil aanvragen, zoals een subsidie, inzichtelijk is hoe en met welke gegevens beoordeeld zal worden of je wel of niet in aanmerking komt, bijvoorbeeld voor zo'n subsidie, en waar die gegevens vandaan komen. Dat betekent gewoon helderheid en transparantie. Natuurlijk moet ook helder worden gemaakt of er dan sprake is van algoritmische onderdelen in die besluitvorming, waarbij we ook eerder in debatten over dit onderwerp hebben gezegd dat beslissingen die een direct impactvol effect op je kunnen hebben, bijvoorbeeld de beslissing of je wel of geen subsidie krijgt of dat je belasting wordt aangepast, nooit alleen op basis van een algoritmisch besluit kunnen worden genomen. Er is altijd een menselijke tussenkomst nodig voordat dat besluit daadwerkelijk kan worden genomen.

Mevrouw Leijten (SP):

Dat laatste is nog helemaal niet geregeld. De gemeenten vragen zelfs om de omgang met algoritmes op te nemen in de algemene beginselen van behoorlijk bestuur. Dat is nogal een principiële vraag. Het is dus gewoon niet geregeld. Maar de Staatssecretaris zei zojuist dat altijd de afweging wordt gemaakt of een algoritme wel of niet wordt ingezet. Mogen wij die afwegingen weten? Welke lijn wordt er dan gehanteerd en welk afwegingskader zit daarin? Want van het waardekader waarnaar ik heb gevraagd, zegt van de Staatssecretaris: dat ga ik lekker niet maken. Die motie voert zij niet uit.

Staatssecretaris Van Huffelen:

Gelukkig doen we dat wel. Sterker nog, het waardekader en het maken daarvan zijn onderdelen van ons werkprogramma en zijn daarin opgenomen. Ik noem bijvoorbeeld de mensenrechtentoets die we hebben ingevuld. Die begint eigenlijk met de vraag of er überhaupt wel een algoritme nodig is om dit deel van het beleid of deze regel uit te voeren. En eerlijk gezegd vind ik die zelf ongelofelijk belangrijk, want de vraag is dan inderdaad of dit de beste en meest gewenste tool is om in te zetten, nog voordat je vervolgens allerlei vraagstukken behandelt over de verschillende stappen die je dan zet en of er daarin dan ook weer sprake is van het in acht nemen van alle mensenrechten die van belang zijn. Ik denk dus dat het heel goed is dat we daar scherp op zijn en dat we dat als regel nummer één opschrijven in het implementatiekader dat we maken voor de overheid. Maar dat is net zo goed van belang voor verdere vragen. Als eerste stap in het waardekader is het wat mij betreft een belangrijke factor dat je eerst de vraag stelt of een algoritme nodig is.

Mevrouw Leijten (SP):

Of je nou een brief leest van de Staatssecretaris of haar hoort antwoorden: het is altijd een brij aan verwijzingen naar agenda's, werkprogramma's en noem allemaal maar op. Het is ook altijd managementspeak: we gaan doen, we gaan doen, we gaan doen. Maar wat gebeurt er nú? Er zijn nú algoritmen die bepalen of kinderen wel of niet crimineel worden, en zo worden zij ook behandeld op straat. Dat is geen besluit of je een subsidie krijgt of niet, of je toeslag wordt stopgezet of niet, of dat je een boete krijgt of niet. Maar dat bepaalt wel heel veel over je leefomgeving. Je zal het stempel maar krijgen. En we gaan daar gewoon mee door. Welke afweging is daar nou precies gemaakt? Welke afweging wordt er nou precies gemaakt bij justitie als ze dat allemaal doen onder de Wet politiegegevens? Die valt bijvoorbeeld níét onder het toezicht van de Autoriteit Persoonsgegevens. Daar geldt de AVG ook níét. Als je het daaronder wegschrijft, mag je dus van alles doen. En hoe gaan we daar nou achter komen?

Over de uitvoering van de motie-Marijnissen/Klaver gaan we nog een uitgebreid debat over voeren, want er komt ook een duidelijke rapportage. Bij die operatie valt het ons op dat ieder ministerie een andere definitie hanteert. En dan komen we er niet. Wat voor betekenisvolle stap gaat de Staatssecretaris nou zetten, anders dan op papier, met werkprogramma's en met hele goede voornemens, waardoor er echt iets gebeurt?

Staatssecretaris Van Huffelen:

Het begint er in ieder geval mee dat we het eens moeten zijn over wat we willen bereiken. Volgens mij zijn we dat. Dan misschien toch nog even over de vragen die u heeft over de kinderen die worden gevolgd. Dat algoritme wérd inderdaad gebruikt door de gemeente Amsterdam. De burgemeester van Amsterdam heeft aangegeven dat ze vindt dat dat niet meer moet worden ingezet. Het is in juli 2016 ingezet, maar daarna is het niet meer gebruikt. Ik denk dat dat heel terecht is, want dat is precies een algoritme waarvan je niet wilt dat het ook daadwerkelijk wordt ingezet.

Ik denk dat het helder is dat grip krijgen op algoritmes geen makkelijk, eenduidig onderwerp is, want er zijn ongelofelijk veel soorten algoritmes. We hebben het dan niet alleen maar over hoge en lage risico's, over stoplichten versus besluitvorming of over de vraag of je wel of niet in aanmerking komt voor een bepaalde subsidie. We hebben het al helemaal niet over de algoritmes die socialmediaplatforms gebruiken om bepaalde soorten informatie wel of niet naar u toe te sturen. We proberen er niet een beetje, maar met heel veel kracht voor te zorgen dat we helderheid krijgen over wat er nou precies wordt gebruikt, want ik ben het met u eens dat het, zeker ook voor de overheid, heel belangrijk is dat we duidelijk hebben welke soorten algoritmes we gebruiken. Dat geldt overigens ook voor de private sector. Dat is ook de reden waarom die algoritmeverordening in Europa niet alleen gaat over de overheid, maar ook over de private sector. Zo is er transparantie. Zo weten we wat ze doen. De heer Rahimi heeft daar ook iets over gezegd. Zo kunnen we ook aangeven wat we wel en niet goed vinden. Het is niet altijd eenvoudig om dat helemaal van tevoren dicht te regelen, omdat we nog niet al die algoritmes in al hun aspecten goed kennen. Dat is ook precies waar het over gaat: helderheid krijgen over wat er gebeurt, om vervolgens verder te gaan met de stappen die we willen zetten. Daarbij staat voorop dat er een paar hele heldere kaders zijn, namelijk onze Grondwet, mensenrechten en de fundamentele rechten van burgers die we in eerste en in laatste instantie moeten beschermen.

De voorzitter:

Dank u wel, vervolgt u uw betoog.

Staatssecretaris Van Huffelen:

Graag.

De voorzitter:

En ik heb trouwens een oproep aan zowel de leden als aan u. Ik weet dat we allemaal ons best doen, maar we hebben maar drie uur voor dit overleg. Ik hoop toch om uiterlijk 16.40 uur met de tweede termijn te starten. Ik hoop daar van alle kanten uw hulp bij te krijgen, door de vragen kort te formuleren en kort te zijn in de beantwoording.

Vervolgt u uw betoog.

Staatssecretaris Van Huffelen:

Ja, ik ga door met de vragen. Ik kom bij de vraag van de heer Van Baarle of de ADR de juiste instantie is als we een extra toets willen doen op de uitvoering van de motie op stuk nr. 21. Wij hebben voor de ADR gekozen omdat die deze analyse al bij één ministerie heeft gedaan, namelijk bij het Ministerie van Sociale Zaken. We hebben gezien dat die werkt en dat die goed is. De ADR voldoet aan alle aspecten. Ze hebben genoeg kennis en ervaring en kunnen dit onderzoek goed doen. Maar ik informeer u nog over hoe we de uitvoering van dit onderzoek willen doen. Ik heb dat ook toegezegd. Ik informeer u zodanig dat u kunt meekijken, want ik hecht er vooral ook aan dat, als we dit onderzoek extern laten doen, het dan op een manier gebeurt waarvan u ook zelf zegt dat die helpt om de inzichten te krijgen die het moet opleveren.

Mevrouw Leijten (SP):

Ik zou de Staatssecretaris graag willen vragen of zij de Kamer zou willen respecteren bij het doen van dit onafhankelijke onderzoek en met ons zou willen overleggen wie dat het beste kan doen. Wij hebben rapporteurs op dit onderwerp. Het gaat om de uitvoering van Kamermoties. Wij hebben serieuze zorgen over het feit dat de ADR het doet, omdat de ADR ook een rol heeft gespeeld in het toetsen van algoritmes en de uitvoering van ICT binnen de overheid. Ik zou de Staatssecretaris eigenlijk willen vragen of zij, voordat zij zegt wie ze zelf aanwijst als zogenaamde onafhankelijke uitvoerder van de toets, met de Kamer wil bespreken of we daar gezamenlijk een besluit over kunnen nemen. Anders blijven we tegenover elkaar staan, en dat is echt niet goed op dit onderwerp. Aanvankelijk wilde de Staatssecretaris niet onafhankelijk toetsen. Ze zei later toe dat wel te gaan doen. Het is de ADR geworden. Daar hebben we vanwege die dubbelrol echt serieuze, inhoudelijke problemen mee. Is de Staatssecretaris bereid om met de Kamer te overleggen wie dat het beste kan doen?

Staatssecretaris Van Huffelen:

Ik zie die dubbelrol van de ADR eerlijk gezegd niet zo. Zij zijn de accountant van het Rijk en daarmee toetsen ze zijn werk op meerdere vlakken. Overigens spelen bij de toetsing van algoritmes ook anderen nog een rol. Maar het gaat nu over dit onderzoek. We kunnen het ook omdraaien. U kunt ook aangeven dat u denkt dat een andere organisatie dat zou moeten doen. Ik kan dat dan samen met mijn collega's meewegen in dit voorstel.

Mevrouw Leijten (SP):

Als daar ruimte voor is, zou ik die graag willen gebruiken, want de ADR heeft wel degelijk ook een adviesfunctie bij het op een goede manier aanleggen van systemen. De ADR kijkt daar dus wel degelijk bij mee. Later moet die ze weer toetsen. Om iedere mogelijke schijn van van alles te voorkomen, juist omdat het hier gaat over zo'n belangrijk punt, en juist omdat we geen incidentenpolitiek willen, om maar even met de VVD te spreken, kunnen we het volgens mij beter vooraf goed afspreken, zodat er achteraf geen andere inzichten zijn. Ik zou het echt erg op prijs stellen als de Staatssecretaris dat samen met de vaste commissie voor Digitale Zaken zou willen oppakken.

Staatssecretaris Van Huffelen:

Om het heel praktisch te houden – volgens mij moeten we niet te lang wachten met deze toets – zou ik zeggen: laat u mij als commissie weten welke partij of welke soort partij u zou willen. Dan kan ik die in de overweging meenemen.

Mevrouw Leijten (SP):

Ik zeg het niet omdat ik mezelf werk wil geven, maar dan zou ik willen voorstellen dat de rapporteurs op dit onderwerp, mevrouw Dekker-Abdulaziz en ik, daarvoor met een voorstel komen. Wij kijken namelijk ook mee met de voortgangsrapportages. Wellicht kan meneer Van Baarle ook meehelpen. Ik zou aan de Staatssecretaris willen vragen om tot die tijd nog geen stappen te zetten; dan zullen wij proberen om zo snel mogelijk ons werk te doen.

Staatssecretaris Van Huffelen:

Heel graag. Perfect.

De voorzitter:

Dan noteren we dat. Vervolgt u uw betoog.

Staatssecretaris Van Huffelen:

Ik ga door naar de vraag van de heer Van Baarle over de antidiscriminatierichtlijnen van de algoritmeverordening. Worden die ook daadwerkelijk heel concreet? Ja, die zijn heel concreet. Ze zijn opgenomen in het akkoord zoals het er op dit moment is. U weet dat het nog niet definitief is. Er zijn nog trilogen. Er staat in dat data die tot vooroordelen en discriminatie leiden, geïdentificeerd moeten worden en voorkomen moeten worden enzovoort, enzovoort. Dat is dus ook een heel belangrijke kwestie aan onze kant. Bovendien staat erin dat die mensenrechtentoetsen voorafgaand aan de inzet van algoritmes moeten worden gedaan. In mijn perspectief en dat van het kabinet is dit goed geregeld. Maar goed, we moeten natuurlijk wel zien of dat in de definitieve versie blijft bestaan. Ik hoop dat dat zo is en ik heb overigens ook geen reden om aan te nemen dat dat niet zo is.

De heer Van Baarle vroeg ook hoe we voorsorteren op die algoritmeregelgeving vanuit Europa. We doen dat vooral door vast aan het werk te gaan met de overheid en met overheidsorganisaties. We doen dat op verschillende manieren. We hebben natuurlijk al een toezichthouder en we hebben dat register opgezet. Ik kom zo meteen op de detailvragen daarover. Wij vinden het heel erg belangrijk dat wij als overheid en als overheidsorganisaties al gaan voldoen aan de verplichtingen zoals die nu zijn opgenomen, zodat we daar alvast mee kunnen oefenen, zodat we ze kunnen inrichten, maar vooral ook zodat we die dingen die wellicht nog langer gaan duren wat betreft de verordening, al eerder bij de Nederlandse overheid kunnen inzetten. Natuurlijk gaan we daarbij ook samenwerken met de toezichthouders die op dit gebied actief zullen zijn.

De voorzitter:

De heer Van Baarle, DENK.

De heer Van Baarle (DENK):

Dit is mijn een-na-laatste vraag, toch?

De voorzitter:

U heeft nog één interruptie, inderdaad.

De heer Van Baarle (DENK):

Nog één interruptie?

De voorzitter:

En een vervolgvraag.

De heer Van Baarle (DENK):

Ja, en een vervolgvraag. Over de criteria en de AI Act. De Kamer heeft een motie aangenomen waarin de Staatssecretaris en de regering de opdracht kregen om concrete antidiscriminatiebepalingen uit te onderhandelen in Europa. Mijn vraag was: wat zijn de concrete antidiscriminatiebepalingen? Ik heb het antwoord van de Staatssecretaris opgeschreven: geen verboden onderscheid, risico's identificeren en een mensenrechtentoets. Wat is verboden onderscheid? Wat is identificeren? Hoe moet je dat doen? Waar bestaat die mensenrechtentoets uit? Hoe omvattend is die? We wachten allemaal op die AI Act, want die moet alles oplossen, maar deze beantwoording, deze zin, geeft mij nog niet de zekerheid dat die concreet genoeg wordt om aan de slag te kunnen.

Staatssecretaris Van Huffelen:

Dat het concreet moet worden is natuurlijk helder en wat niet mag, staat in de wet. In onze eigen wetgeving staat dat discriminatie niet mag. Dat geldt ook in die Europese verordening. U zegt dat we niet alleen maar moeten wachten tot de regelgeving van Europa komt. Daarom gaan we op basis van dat implementatiekader alvast aan de slag binnen de Nederlandse overheid. Ik kan niet vooruitlopend daarop al dingen regelen voor de private sector, maar wel voor de Nederlandse overheid. Dat is precies wat ik aan het doen ben. Daarbij zullen we heel concreet worden over wat wel en niet mag. In Nederland mag je niet discrimineren, punt. Dat mag er dus ook niet in zitten. We zijn de teksten van dat implementatiekader aan het maken. Dat komt in de komende maanden uw kant op. Ik hoor heel duidelijk uw wens om ervoor te zorgen dat dat zo concreet mogelijk is. Dat ben ik zeer met u eens, want dat maakt het leven altijd fijner en prettiger. Dat ga ik dus voor u doen.

De heer Van Baarle (DENK):

Dit is dan mijn laatste vraag. Mijn punt is dat ik dit nu al een aantal keer heb gevraagd aan de Staatssecretaris. We hebben een Handreiking non-discriminatie by design en andere nuttige producten waarin we heel concreet hebben omschreven wat je moet doen om ervoor te zorgen dat een algoritme niet discrimineert. Voer dat gewoon in Nederland in met een wet. Het antwoord was: nee, we gaan wachten op die AI Act, want die gaat alles oplossen. In het antwoord hoor ik de concrete dingen die in die AI Act staan: geen verboden onderscheid, je moet het identificeren, mensenrechtentoets vooraf. Maar wat moet je identificeren? Welke mensenrechtentoets? Hoe dan? Dat vind ik te min. Ik zou tegen deze Staatssecretaris willen zeggen: overweeg gewoon om bijvoorbeeld die Handreiking non-discriminatie by design te formaliseren. Wacht niet op iets uit Europa wat niet concreet is en uit drie losse criteria bestaat.

Staatssecretaris Van Huffelen:

Dat is ook precies wat we gaan doen. We gaan dat opnemen in het implementatiekader. We gaan ervoor zorgen dat de Handreiking non-discriminatie by design en het IAMA bijvoorbeeld als toets worden opgenomen. Bij de uitwerking van de AI Act mogen wij, als Nederland, gewoon kiezen welke vorm van toetsing wij gaan hanteren. Dat kunnen we dus gewoon invullen. Dan kunnen we die gebruiken. Misschien dat er in de loop van de tijd nog betere mensenrechtentoetsen of ethische toetsen komen, want die ontwikkelen zich natuurlijk ook. Dat gaat gewoon gebeuren. Het blijft dus niet bij deze algemene omschrijving. Nogmaals, het is wellicht goed om nog een keertje een tekstexegese te doen van de AI Act, maar er staat precies in wat u bedoelt. Er komt een toetsing vooraf. Er komt zelfs een keurmerk voor de hoogrisicoalgoritmes. Dat betekent meer dan dat je toetst. Het moet ook aantoonbaar zijn. Er is een instantie die daarop toeziet om ervoor te zorgen dat het helder is welke toetsing vooraf is gedaan en welke voorzorgsmaatregelen er zijn om ervoor te zorgen dat een dergelijk algoritme niet discrimineert en ook anderszins voldoet aan de vereisten.

De voorzitter:

Vervolgt u uw betoog.

Staatssecretaris Van Huffelen:

Dan ga ik naar het punt over de algoritmes. De heer Slootweg vroeg – welkom bij deze commissie, overigens – om een overzicht van de algoritmes waarvan de ontwikkeling is uitbesteed en hij vroeg of ik afspraken kan maken over discriminatie. Ik heb geen totaaloverzicht van welke algoritmes wel of niet zijn uitbesteed. De algoritmes die de Nederlandse overheid gebruikt, kunnen namelijk zelf ontwikkeld zijn, maar ze kunnen ook ingekocht zijn. Voor de regelgeving die wij gaan maken in Nederland, dus dat implementatiekader, maakt het niet uit of het algoritme wordt gemaakt door iemand anders of door een overheidsorganisatie zelf. Het moet voldoen aan de eisen die wij daaraan stellen. Juist met die AI-verordening hebben wij ervoor gezorgd dat keurmerken niet alleen maar worden afgegeven door de ontwikkelaars van algoritmes. De notificatieplicht ligt dus niet alleen bij de ontwikkelaar maar ook bij de gebruiker. Ik vind dat zelf ontzettend belangrijk, want dan is altijd duidelijk wanneer een algoritme wordt toegepast, ook al ben je zelf niet de ontwikkelaar ervan. Nogmaals, dat kader gaan we dus ook hier in Nederland invoeren.

De heer Slootweg vroeg naar de ontwikkeling ... Was die motie van de heer Slootweg? Ik ben even kwijt of die van u was.

De heer Slootweg (CDA):

Kleine correctie, voorzitter. Voordat ik het idee krijg dat ik loop te pronken met de veren van een ander: ik geloof dat beide vragen door de heer Van Baarle zijn gesteld. Het maakt verder niet uit, want we zijn nog steeds zeer geïnteresseerd naar de ...

Staatssecretaris Van Huffelen:

Dat dacht ik ook. Precies, het ging even mis. Maar het gaat dus over het ontwikkelen van protocollen over hoe te handelen bij de constatering van discriminatie. Een. We gaan dus zorgen dat algoritmes op dit terrein worden gereguleerd. Op het moment dat blijkt dat er algoritmes zijn die toch niet voldoen, vind ik het vooral van belang dat we zorgen dat er zo'n soort protocol wordt ontwikkeld. Dat hebben we op dit moment namelijk niet. Ik denk dat het goed is om dit ook verder te gaan uitwerken. Ik zal zorgen dat ik u snel laat weten hoe we dat zouden kunnen doen.

Dan waren er vragen van Volt over het algoritmeregister. Misschien loopt de volgorde van de partijen nu een beetje door elkaar, maar als ik een vraag daardoor niet beantwoord, dan hoor ik dat graag. Die vraag van Volt ging over de uitwerking van het algoritmeregister. Mevrouw Koekkoek vroeg namelijk: goed dat we nu een start hebben gemaakt, maar hoe gaan we ervoor zorgen dat het algoritmeregister verder wordt gevuld? Ik ben daar hard mee aan het werk. Ik organiseer niet alleen bijeenkomsten daarover, maar ook zorg ik ervoor dat het register zelf in communities en op platforms als Pleio en GitHub verder wordt ontwikkeld. Dat doen we dus open source. We gaan ook aan het werk om te zorgen dat we zo veel mogelijk mensen daarover informeren.

Maar ik zeg u ook toe dat ik mijn collega's in het Nederlandse kabinet nog een keer goed zal aangeven dat dit register er is. Ik zal hun op het hart drukken dat zij en de uitvoeringsorganisaties die onder de respectievelijke departementen vallen, aan het werk moeten om dit register te vullen. Ik ben blij dat we het hebben. Ik weet verder ook zeker dat we het nog verder gaan ontwikkelen en dat het verder gevuld zal worden. Maar hoe meer en hoe sneller we dat doen, hoe beter en hoe liever mij dat is.

De voorzitter:

Voor u verdergaat: u heeft een interruptie van mevrouw Dekker-Abdulaziz. Daarna komen de heer Rahimi en mevrouw Kathmann.

Mevrouw Dekker-Abdulaziz (D66):

Dank aan de Staatssecretaris dat zij haar best gaat doen en het haar collega's op het hart gaat drukken. Maar D66 ziet natuurlijk liever dat wij de overheid gewoon verplichten om dat register te gebruiken. Ik denk dat dat er ook van komt bij de AI Act, maar is de Staatssecretaris bereid om het algoritmeregister eerder een verplichtend karakter te geven? Of doet zij dat, nu we toch bezig zijn, parallel aan de AI Act?

Staatssecretaris Van Huffelen:

We zijn daarmee aan het werk en ik zal uw Kamer daar ook over informeren. Het is namelijk niet noodzakelijkerwijs precies hetzelfde als wat we beogen. Maar ik zal zorgen dat we u daar wat meer informatie over geven, want het is inderdaad van belang dat het niet een vrijblijvend instrument maar een verplicht instrument wordt. Maar u weet net zo goed als ik dat wetgeving een tijdje kan duren en daarom hecht ik eraan dat we ervoor zorgen dat, zolang die verplichting er nog niet is, organisaties zo hard mogelijk aan het werk gaan. Ik vind het overigens wel fijn dat de organisaties die al meedoen, hard aan het werk zijn. En dat zijn niet alleen maar partijen binnen de landelijke overheid maar ook gemeenten. Ik vind dat heel verheugend, want dat maakt dat het instrument steeds bekender wordt.

Mevrouw Dekker-Abdulaziz (D66):

Ik ben zeker heel trots dat sommige gemeente zelfs al voorlopen. Maar heeft de Staatssecretaris ook een deadline of iets dergelijks in gedachten? Ik bedoel dat ze zegt: beste collega-ministers, voor 1 mei moet dat gebeuren en voor 1 januari dat. Anders blijft ze wachten.

Staatssecretaris Van Huffelen:

In principe hebben we gezegd, volgens mij ook in de brief, dat we willen zorgen dat het register voor het eind van het jaar gevuld is.

De heer Rahimi (VVD):

Wij hadden dezelfde vragen als mevrouw Koekkoek. Volgens mij was er een deadline en ik dacht dat die eind 2024 was. Mijn vraag is om het naar eind 2023 te halen. Maar volgens mij hoor ik nu dat dat gaat gebeuren. Dat is al fantastisch, maar ...

Staatssecretaris Van Huffelen:

Maar dan gaat het over de rijksoverheid, hè. Je kan niet voor alle gemeentes bepalen dat zij daadwerkelijk alles al vullen. Maar ik vind dat de rijksoverheid moet zorgen dat we het dit jaar rond hebben.

De heer Rahimi (VVD):

De Staatssecretaris gaf aan dat ze haar collega's gaat benaderen. Uitstekend. Daar ben ik heel blij mee, maar is er ook een deadline voor de gemeentes en de waterschappen? Is er voor hen een deadline en wat gaat de Staatssecretaris doen om te zorgen dat zij het register gaan vullen?

Staatssecretaris Van Huffelen:

Jazeker. Ik gaf net ook al aan dat we dat actief aan het doen zijn door contact op te nemen, door mensen daarbij te ondersteunen en door hen actief te vragen om het in te vullen. Nogmaals, het helpt daarbij dat gemeenteraadsleden daar vragen over stellen. Ik roep alle gemeenten en alle politieke partijen dan ook op om daar vragen over te stellen aan hun eigen lokale besturen om zo te zorgen dat het wordt gevuld.

Mevrouw Kathmann (PvdA):

Eigenlijk zijn de vragen al gesteld. Ik wilde 'm eigenlijk stellen namens mevrouw Koekkoek die helaas plenair moet debatteren. Ze probeert zo snel mogelijk terug te komen, want haar vragen gingen inderdaad niet zozeer over het vullen als wel heel expliciet over die verplichting. Ze had daar volgens mij ook een oplossing voor, nog los van een langslepend wetgevingstraject. Ze herinnerde ons verder ook nog even aan de motie-Dassen c.s. die onder die vraag om dat te doen ligt. Volgens mij is de geest van haar vraag meer: hoe krijgen we dit versneld verplicht en hoe kunnen we zo snel mogelijk recht doen aan die motie-Dassen c.s.? Volt had daar ook zelf een oplossing voor.

Staatssecretaris Van Huffelen:

En die sluit aan op iets wat ik net ook al aangaf, namelijk dat we bezig zijn met dat wetsvoorstel voor de versterking van de waarborgfunctie van de Awb, de Algemene wet bestuursrecht. De bedoeling daarvan is dat al die algoritmes – ik zei het al eerder – in kaart worden gebracht als die onderdeel zijn van besluitvorming door overheden. Die wet is nu in preconsultatie, maar die komt er dus wel aan. En dat betekent dat er zo snel mogelijk daadwerkelijk een wet is om mee te gaan werken.

Ik ga door met een vraag gesteld door de VVD. Hoe zorgen we ervoor dat het register op een geautomatiseerde manier kan worden gevuld? En gaan we dat op korte termijn doen? Ik heb al iets gezegd over dat vullen, maar ik weet niet of dat allemaal geautomatiseerd kan. Ik hoop het wel, want dat helpt ervoor te zorgen dat het een zo makkelijk mogelijk proces is om het register daadwerkelijk gevuld te krijgen.

De VVD vroeg hoe we ervoor zorgen dat de inzet van algoritmes en data-analyse niet leidt tot beperking van de persoonlijk vrijheid en de privésfeer van burgers en ondernemers. Dat is natuurlijk zeker wat we doen, want ons beleid is erop gericht om te voldoen aan alle regels die we daarvoor hebben, want die zijn natuurlijk ongelofelijk belangrijk.

Ik ga verder met een aantal vragen van mevrouw Koekkoek. Zijn er voldoende wettelijke kaders om de totstandkoming van algoritmen te garanderen? Ik denk het wel, ook al zijn al die kaders er nog niet allemaal. We zijn die voor een deel nog aan het ontwikkelen. Ik had het bijvoorbeeld al over dat implementatiekader en de AI Act. We moeten er vooral voor zorgen dat we niet alleen een algemeen kader hebben, maar ook methodes om mee te werken, bijvoorbeeld het IAMA, de mensenrechtentoets, het uitvoeren van de Code Goed Digitaal Openbaar Bestuur enzovoorts enzovoorts. We werken daar dus op verschillende manieren aan, maar klaar zijn we zeker niet, ook omdat er steeds weer nieuwe ontwikkelingen zijn op dit gebied.

Mevrouw Koekkoek vroeg ook naar de motie van DENK die van de overheid vraagt om bij besluiten aan te geven of er sprake is van het gebruik van algoritmen. Dat is precies wat we in die nieuwe aangevulde versie van de Awb gaan doen. We gaan ervoor zorgen dat helder wordt hoe besluiten worden genomen en hoe die tot stand komen. Het gaat daarbij niet alleen om de vraag of er algoritmen worden gebruikt, maar ook om welke data er worden gebruikt voor het nemen van een besluit en waar die data vandaan komen. Als er bijvoorbeeld naar iemands inkomen wordt gekeken of als er wordt gekeken of je wel of niet een subsidie krijgt, dan wordt gekeken waar die gegevens over het inkomen vandaan komen. Die kunnen bijvoorbeeld van de Belastingdienst komen, maar adresgegevens kunnen dan weer uit de BRP komen.

Dan was er nog een vraag, van de PvdA: wat kunnen burgers doen als blijkt dat algoritmes niet tot een juiste uitkomst leiden? Daarvoor gelden natuurlijk altijd bezwaar- en beroepsprocedures, maar wij hebben ook nog een keer expliciet laten opnemen in de AI-verordening dat er een mogelijkheid is om bezwaar aan te tekenen en in beroep te gaan tegen uitkomsten die door algoritmes zijn gerealiseerd. In Nederland geldt daar natuurlijk de procedure voor die we kennen.

Dan was er ook een vraag van de PvdA naar aanleiding van de reflectie van de heer Krijger: is een algoritmeregister wel voldoende? Beter gezegd: ik begrijp dat de heer Krijger vooral aangeeft dat dit niet zo is en dat er meer mogelijkheden moeten zijn voor experts om zich daarin te verdiepen. Dat is inderdaad wat wij heel graag willen. Wij maken een algoritmeregister niet alleen voor bijvoorbeeld de toezichthouder of voor burgers die weten dat er een algoritme wordt gebruikt bij het nemen van besluiten door de overheid, of vanwege transparantie over algoritmes in het privédomein, bijvoorbeeld met betrekking tot algoritmes die worden ingezet door socialmediaplatforms. Wij maken zo'n register ook juist zodat het mogelijk wordt voor onderzoekers, ngo's en belangenorganisaties om inzicht te krijgen in hoe die algoritmes eruitzien en hoe ze werken, dus om ze te kunnen onderzoeken, enzovoort, enzovoort. Alleen maar weten dat het er is, is onvoldoende om te begrijpen wat zo'n algoritme daadwerkelijk doet.

Mevrouw Kathmann (PvdA):

Voorzitter, het was een goede ingreep om eerst even de tweede vraag te laten beantwoorden, want de eerste vraag was niet zozeer wat burgers kunnen doen als het algoritme het fout heeft; het ging meer om de bredere context: wat doet dat met besluitvorming? We praten hier vooral over algoritmes en de mensenrechtentoets, maar we kunnen het daar gewoon niet mee platslaan, hoe graag we dat ook zouden willen. Er is een veel bredere kijk nodig: hoe is het ontwikkeld, hoe is het vervolgens ingezet en hoe werkt het precies? Dat was eigenlijk mijn vraag. Daarom ben ik blij met de beantwoording van de tweede vraag. Ik zou daar alleen wel een iets concreter antwoord op willen krijgen: hoe gaan we dat dan vormgeven? Komen er dan meer commissies, zoals de heer Krijger voor ogen heeft? Of krijgt zo'n commissie als het UWV nu heeft bijvoorbeeld een ander mandaat om het werk te doen dat de heer Krijger voor ogen heeft? Hoe maken we dit concreet en hoe geeft de Staatssecretaris dat aan ons terug?

Staatssecretaris Van Huffelen:

Mijn ministerie is met hem in gesprek hierover, dus ik denk dat het goed is dat ik u over de uitkomsten daarvan iets meer laat weten. Wij zeggen met betrekking tot algoritmes natuurlijk dat helder moet zijn wanneer ze gebruikt worden en hoe ze werken, dat ze transparant en open source moeten zijn, dat de codes daarvan helder moeten zijn en dat ook duidelijk moet zijn hoe ze functioneren. We hebben niet voor niets dat register én een toezichthouder die daarnaar moet kijken. Maar ik denk dat het goed is dat ik op basis van het gesprek dat we daarover hebben gevoerd, en wellicht ook op basis van andere gesprekken in dat kader, daar nog iets meer over zeg. Ik ben niet zomaar geneigd om er nog een commissie bij te doen. Ja, ik begrijp dat u dat jammer vindt, mevrouw Kathmann. Ik vind het vooral belangrijk dat we echt structureel inzicht bieden. Daarbij is het ook niet alleen maar zo dat de overheid zelf dat moet doen. We hebben juist gezien dat heel veel controles in dit werkgebied voortkomen uit de communities rondom bepaalde onderwerpen en rondom bepaalde programmatuur. Ik vind het heel belangrijk dat onderzoekers, maar ook belangenorganisaties en anderen, in staat zijn om inzicht te krijgen in hoe die algoritmes werken, zodat er meer mensen aan het werk kunnen om te ontdekken wat hier nou precies gebeurt. Ik kom daar graag op terug.

De voorzitter:

U heeft een vervolgvraag van mevrouw Kathmann. Nogmaals – ik zeg dit niet specifiek richting mevrouw Kathmann, maar in algemene zin – als we nog een tweede termijn willen, moeten we het kort houden, dus daarvoor doe ik een beroep op iedereen.

Mevrouw Kathmann (PvdA):

Toch even om het even concreet te maken. Ik ben heel blij met de toezegging dat er een terugkoppeling komt over het gesprek. Maar de crux is nou juist dat wij ook gebruikmaken van algoritmes op een aantal terreinen waarop geen inzage gegeven kan worden, omdat het geheim moet blijven of problematisch is. De commissies moeten in die gevallen juist inzicht krijgen: mensen die wel het mandaat hebben om alles te doorgronden, moeten daarin aan het werk kunnen, ook al wordt het dan niet helemaal publiekelijk toegankelijk. Ik zou wel graag zien dat dat door de Staatssecretaris wordt meegenomen in de terugkoppeling.

Staatssecretaris Van Huffelen:

Ja, maar misschien kan ik toch al direct kort antwoord geven op de opmerking dat soms niet alle algoritmes helemaal publiekelijk kunnen zijn, omdat dat bijvoorbeeld te maken heeft met de aard van het algoritme; de toezichthouder heeft altijd toegang. Het is dus niet zo dat de AP of andere toezichthouders die daar in de toekomst wellicht aan worden toegevoegd geen toegang hebben. Die kunnen altijd in de algoritmes kijken, bijvoorbeeld van de politie of van instanties, terwijl dat in het publieke domein niet zomaar kan. Dat deel is dus afgedekt. Nogmaals, ik zal er zeker ook voor zorgen dat dit een onderwerp is dat we met de heer Krijger bespreken.

De voorzitter:

De toezichthouder. Als we eraan toekomen vandaag, dan komt dat nog. Allereerst nog een interruptie? Nee. We kunnen door.

Staatssecretaris Van Huffelen:

O, ik mag verder? Oké, fijn. Dan kunnen we het inderdaad even over die toezichthouder hebben. In tegenstelling tot het beeld dat er in de eerste termijn van de Kamer leek te bestaan, is het niet zo dat de AP geen bevoegdheden heeft. De AP heeft wel degelijk bevoegdheden om op basis van algoritmes aan het werk te gaan en is ook al in staat om – en dat mag zij ook, als dat nodig is – onderzoeken te doen, boetes uit te delen, enzovoort, enzovoort. De AP heeft twee rollen, namelijk de rol van toezichthouder, met de tanden, de bevoegdheden, waar u het allemaal eerder al over had, en – dat is de tweede rol – het verder uitwerken van het normenkader en het samenwerken met andere toezichthouders. Sommige algoritmes gaan over specifieke soorten werkvelden waarop het nodig en wenselijk is, vanuit de AP, maar ook vanuit ons, om samen te werken met anderen.

Wat natuurlijk nog wel moet worden ingevuld, is welke specifieke bevoegdheden de AI-verordening de AP ook nog zal geven. Maar dat is on top of. Met de huidige bevoegdheden die de AP heeft en die in het kader van algoritmes waarmee persoonsgegevens worden verwerkt, kan zij gewoon prima aan het werk om dat te doen. Sterker nog, we weten dat ze dat ook doet, want op basis van het algoritme heeft bijvoorbeeld de Belastingdienst van de AP een boete gekregen. Het is dus niet zo dat de AP geen tanden heeft. Zij kan wel degelijk aan de gang. Om die vraag nog verder te beantwoorden: zij heeft daarvoor ook middelen gekregen en heeft inmiddels een groep mensen ingehuurd om aan het werk te gaan. De lancering daarvan was begin januari. Het wordt en blijft ook altijd heel erg belangrijk om te bezien of dat voldoende zal zijn – daarover werden ook Kamervragen gesteld – om dat werk in de komende tijd te blijven doen. Dat wordt natuurlijk extra relevant wanneer we meer inzicht krijgen in de extra taken en bevoegdheden die mogelijkerwijs door de verordening uit Europa aan de AP gegeven zullen worden.

Ik heb een aantal vragen van mevrouw Bouchallikh eigenlijk al beantwoord. Die gingen over de deadlines en die thema's. Ik ben u dus niet vergeten, maar anders val ik in herhaling. Even kijken of ik dan het toezicht behandeld heb.

De voorzitter:

We zijn nog niet bij het kopje toezicht, volgens mij.

Staatssecretaris Van Huffelen:

Nee, we zijn nog niet bij het kopje toezicht, maar dit waren al vragen over toezicht. Ik ga nu dus snel naar het kopje toezicht.

De voorzitter:

Ik zag namelijk de leden wat verward kijken. We gaan dan nu door naar het kopje toezicht.

Staatssecretaris Van Huffelen:

Ja, inderdaad. De eerste vraag was van de heer Slootweg. Die vraag gaat over de doorzettingsmacht en de mogelijkheid om dingen te doen. De AP heeft dus tanden en kan aan het werk, maar we gaan dat verder uitwerken naar aanleiding van de eventuele extra bevoegdheden. Als het gaat over de gezamenlijke normuitleg: dat kan de AP natuurlijk sowieso doen. Zij heeft ook de doorzettingsmacht op het thema van de persoonsgegevens. Voor de andere sectoren gaat de AP samenwerken met andere toezichthouders om gezamenlijk te komen tot de normuitleg. Dat is dus een ontwikkeling die we in de komende tijd zullen zien. De AP heeft ook echt de mogelijkheid om boetes op te leggen of om op andere manieren aanwijzingen te geven; zij kan in ieder geval het instrumentarium daarvoor inzetten.

Ik probeer het een beetje snel te doen.

De voorzitter:

Ik zie dat mevrouw Kathmann een vraag heeft. Ik zie dat er nog altijd een hele hoop vragen zijn. U kunt allicht uw vraag nog stellen, mevrouw Kathmann, maar het zou uw laatste interruptie zijn. Dat is uiteraard aan u. Wilt u het afwachten of wilt u nu de interruptie plaatsen? Afwachten.

Mevrouw Kathmann (PvdA):

Nee, want ik had mij juist aangesloten bij een hoop vragen van anderen om ze niet dubbel te stellen. Ik had me onder andere voor dit kopje aangesloten bij de vragen van het CDA, maar ik zou wel concreet van de Staatssecretaris willen horen welke doorzettingsmacht de algoritmetoezichthouder dan heeft om de samenwerking met colleges, markttoezichthouders en rijksinspecties te optimaliseren. Wat is dan die doorzettingsmacht? Wat als zij nou niet willen meewerken? Want daar had het CDA het juist over. Er is een heel palet aan toezichthouders en dan heb je de AP zelf ook nog, en niet alleen als algoritmetoezichthouder. Dat zit allemaal in een samenwerkingsverband. Maar wat is de escalatieladder? Wat zijn nou echt het mandaat en de doorzettingsmacht in dat geheel? Hoe zien die eruit? Wordt dat nog concreet gemaakt? Komt die escalatieladder bijvoorbeeld snel? Daar ben ik heel benieuwd naar.

Staatssecretaris Van Huffelen:

De AP kan op basis van de huidige wettelijke bevoegdheden die ze heeft, toezicht houden op algoritmes waarbij sprake is van het gebruik van persoonsgegevens. Dat kan de AP doen. Dat doet ze ook en dat gaat ze verder ook doen.

Het tweede thema in de brief die ik u heb gestuurd, gaat over het verder ontwikkelen van het toezicht op algoritmes in bredere zin. Daar is nog geen wettelijke basis voor. De toezichthouders hebben wel met elkaar afgesproken om daar een normenkader voor te ontwikkelen. Daar ben ik ook bij betrokken. Dat is onderdeel van de agenda die ik heb gemaakt. We willen namelijk zorgen dat helder wordt aan welke vereisten algoritmes moeten voldoen en hoe het toezicht daarop wordt ingericht. Maar ik vind het prima – bij een vorig debat heb ik daar ook al iets over verteld – dat ik daarover een gesprek heb met die toezichthouders. Als ik kan helpen door nog iets meer op papier te zetten over hoe dat precies loopt, wil ik dat voor u uitwerken, maar de mogelijkheid om daadwerkelijk in te grijpen is er al.

De voorzitter:

Mevrouw Leijten, voor uw derde interruptie.

Mevrouw Leijten (SP):

Er wordt hier gezegd dat het kan, terwijl de wettelijke basis er niet is. Het gaat om algoritmes bij de verwerking van persoonsgegevens, maar er kan niet gekeken worden of een algoritme veilig is, of het een mensenrechtenkader heeft of dat het door te veel mensen wordt ingezien. Dat kan allemaal niet. Daar is nu geen wettelijk kader voor. De Staatssecretaris zegt wel dat de AP dat allemaal kan, maar de analyse die wij maken is dat het gewoon niet gereed is. Niet voor niets wordt het een expertisecentrum genoemd. Ik vond dat eigenlijk een hele goede term. Maar in de fase waarin we nu zitten, vragen we niet meer om een expertisecentrum. We zijn aan het opruimen bij de overheid. Iedereen doet dat op een andere manier. We willen het register aan het einde van het jaar gevuld hebben. Er is iemand die bij die algoritmes kan; dat is bijvoorbeeld de Algemene Rekenkamer. Die doet er zes per jaar. Dat is een ontzettend grote klus. Die checkt ze op allerlei punten en daar komen altijd allemaal rode vlaggen uit. Dat kan de AP straks niet en dat mag de AP straks ook niet. Waarom blijft de Staatssecretaris nou zeggen dat dat wel geregeld is?

Staatssecretaris Van Huffelen:

Volgens mij ben ik in mijn beantwoording heel precies: de AP heeft, op basis van de huidige wettelijke bevoegdheden, de mogelijkheid om algoritmes waarin persoonsgegevens worden verwerkt, daadwerkelijk te onderzoeken en te acteren op basis van eventuele fouten die ze opmerkt, met uiteindelijk de mogelijkheid om boetes in te zetten. Ik heb aangegeven dat we ook nog de algoritmeverordening hebben, die nu in Europa wordt afgerond. Die zal waarschijnlijk, bijna wel zeker, extra bevoegdheden geven aan nationale toezichthouders. Wij werken hard aan de uitwerking daarvan. Ik heb u eerder al toegezegd dat ik daar met de verschillende toezichthouders over ga spreken. Dat ga ik ook doen. Dat gesprek zal volgende maand, in maart, plaatsvinden met de ACM, het Agentschap Telecom enzovoorts, enzovoorts. We gaan samen met hen kijken hoe we het toezicht op een veel bredere set van verordeningen, maar zeker ook op de AI-verordening, kunnen inrichten en uitwerken, zodat er daadwerkelijk een stelsel van toezicht ontstaat dat doet wat wij met elkaar graag willen dat het doet: ervoor zorgen dat er noch in het private domein, noch in het publieke domein algoritmes kunnen worden ingezet waardoor de regels, wetten en grondrechten van Nederlanders met voeten worden getreden.

De voorzitter:

Ik zie dat u een vervolgvraag wilt stellen, mevrouw Leijten.

Mevrouw Leijten (SP):

De Staatssecretaris zegt dat ze heel precies is. Ze zegt: er kunnen geen algoritmes ingezet worden die de algemene belangen die we hebben geformuleerd, schenden. Maar waar staan die belangen dan precies geformuleerd? Wat is het waardekader? Want er wordt iedere keer naar verwezen dat dat nog wordt gemaakt bij de werkagenda. Hoe wordt dat dan uit de lucht gehaald? Want dat gebeurt op dit moment. De AP kan op dit moment geen algoritmes uit de lucht halen. Dus als de Staatssecretaris dan precies is, dan wil ik ook dat ze écht precies uitlegt hoe het zit.

Staatssecretaris Van Huffelen:

Het is goed om dat nog een keer te zeggen. Ik heb aangegeven op welke wettelijke basis de AP het werk nu kan doen. Dat betekent dat de AP op dit moment geen expertisecentrum is, maar een organisatie die daadwerkelijk kan handhaven als het gaat over algoritmes. Er zijn ook nog zaken in ontwikkeling. Ik ben het met mevrouw Leijten eens dat het heel fijn zou zijn als we alles al geregeld hadden op dit gebied, maar dat is niet zo. We hebben wel met elkaar afgesproken dat we heel hard aan het werk gaan om de regulering van algoritmes verder vorm te geven. En dat gaan we ook verder doen. Maar dat betekent niet dat er nu niks kan. Dat betekent wel dat we nog veel meer willen. En dat gaan we ook inrichten.

Voorzitter. Ik heb nog een stapeltje antwoorden voor me liggen. Alle vragen over de toezichthouder heb ik al beantwoord. Er liggen nog antwoorden op vragen over de escalatie, maar volgens mij heb ik alle vragen over de toezichthouder inmiddels beantwoord.

De voorzitter:

Voordat we doorgaan met het volgende blokje, is er een aantal interrupties. Mevrouw Leijten laat zich excuseren, want zij moet naar een volgend debat. Mensen moeten dus niet denken dat ze is opgestaan, omdat ze boos is.

Staatssecretaris Van Huffelen:

Nee, zo ken ik haar ook niet.

De voorzitter:

Nee, zeker niet, maar gezien de context wilde ik het in dit geval wel even expliciet benoemen.

U heeft interrupties van mevrouw Dekker-Abdulaziz namens D66 en daarna van de heer Slootweg namens het CDA.

Mevrouw Dekker-Abdulaziz (D66):

Ik vraag mij af of al mijn vragen beantwoord zijn. Ik hoorde de Staatssecretaris het hebben over een implementatiekader. Zij sprak ook over een normenkader. Ik kan me herinneren dat we het in het wetgevingsoverleg hebben gehad over de planning van de Staatssecretaris. Er zou medio dit jaar wetgeving komen naar aanleiding van de vraag waar de toezichthouder nu precies toezicht op gaat houden. We zouden niet per se wachten op de AI-verordening. Ik hoor daar graag nog een antwoord op.

Staatssecretaris Van Huffelen:

Het spijt mij dat we soms heel veel woorden door elkaar gebruiken. Dat maakt het misschien niet altijd even helder, ook niet voor de mensen die dit debat volgen. Er is inderdaad sprake van regelgeving vanuit de EU. Die moeten we als Nederland uiteraard implementeren. Wij vinden dat heel belangrijke regelgeving. We hebben er hard aan gewerkt om ervoor te zorgen dat die goed is en dat die ook doet wat wij ermee beogen, namelijk ervoor zorgen dat algoritmes alleen maar kunnen worden gebruikt als ze voldoen aan basisgrondrechten en mensenrechten.

Om niet alleen maar te hoeven wachten, hebben we al een aantal stappen gezet. Een van die stappen is het register, het ervoor zorgen dat we dat ook verder gaan vullen. Ik noem het alvast opzetten van de autoriteit, die alvast aan het werk kan. En ik noem voorts het ervoor zorgen dat we, vooruitlopend op die Europese verordening, voor overheidsalgoritmes al aan het werk gaan met het bepalen aan welke vereisten die moeten voldoen. Er moet bijvoorbeeld zo'n privacy-by-designtoets worden uitgevoerd, er moet een mensenrechtentoets plaatsvinden enzovoorts, enzovoorts. Er moet überhaupt worden bepaald of een algoritme wel wenselijk is in die situatie. Dat noemen we het implementatiekader. Daarvan heb ik gezegd dat dat dit jaar nog komt. Dat is één.

Het tweede is dat mevrouw Leijten vroeg naar een waardekader. Zij vroeg dus niet naar een normenkader. Bij dat waardekader gaat het om de vraag hoe je in het algemeen – dus niet alleen als het gaat om algoritmes – de afweging maakt ten aanzien van de wenselijkheid van bepaalde soorten van technologie en het gebruik daarvan. Dat is een onderdeel van de agenda die ik heb gemaakt. Die heeft betrekking op de komende periode, op de komende jaren. Onderdeel daarvan is dat ik die ook ga opstellen. Daar heb ik wel iets meer tijd voor nodig, maar ik hoop u wel in de komende tijd te kunnen informeren over hoe we dat doen, ook omdat verschillende organisaties binnen de overheid in Nederland, bijvoorbeeld gemeenten, al zo'n waardekader hebben opgesteld. Maar wij willen dat dus ook opstellen voor de rijksoverheid. Dus dat is wat ik ga doen.

De heer Slootweg (CDA):

Ik denk dat de Staatssecretaris het wettelijk kader voor de Autoriteit Persoonsgegevens voor het toezicht op de persoonsgegevens duidelijk heeft uitgelegd. Er zijn veel algoritmes die in ontwikkeling zijn. Is het nou zo dat de Autoriteit Persoonsgegevens een rol heeft bij het toestaan dat dat soort algoritmes elders worden gebruikt? Of is dat niet het geval? Dat willen we graag weten. Op het moment dat nu een algoritme wordt ontwikkeld en wordt toegepast, en dan niet direct op het terrein van de AP maar in samenwerking met andere toezichthouders, moeten ze dan eerst langs de AP?

Staatssecretaris Van Huffelen:

Nee, dat moet niet. Die rol gaat de toezichthouder waarschijnlijk ook niet krijgen, want dan zou de toezichthouder eerst een soort keurmerk moeten uitdelen. Op dit moment staat dat niet in de bevoegdheden van de AP, ook niet als het gaat over andere issues op het gebied van privacy waarin de AP een rol, taak en functie heeft. Maar nogmaals, in de Europese verordening is er wel degelijk sprake van een keurmerk voordat je een algoritme mag inzetten dat onder de hoogrisicocategorie valt. Laten we er helder over zijn: in de meeste gevallen gaat het dan over algoritmes waarin persoonsgegevens worden gebruikt. Daarom is de rol van de AP nu ook al best substantieel. Dan moet dat algoritme dus wel voldoen aan een keurmerk voordat je het mag inzetten. De toezichthouders die dat gaan doen, moeten nog worden aangewezen.

De heer Slootweg (CDA):

Dat begrijp ik, en ik deel met de Staatssecretaris dat de grootste risico's op het gebied van persoonsgegevens zitten. Ik heb een vervolgvraag over de rol die de AP speelt. Vindt de Staatssecretaris het verstandig om op termijn te werken aan een wettelijke grondslag voor het ontwikkelen van algoritmes met persoonsgegevens of voor dingen die buiten persoonsgegevens vallen maar waar die toch in verwerkt worden? Is dat op termijn ook de doelstelling van de Staatssecretaris?

Staatssecretaris Van Huffelen:

Ja, en niet eens op termijn, want dat is precies wat we met die AI-verordening aan het regelen zijn. Die wetgeving heeft directe doorwerking in Nederland en stelt dat er transparantie moet zijn over algoritmes, dat helder moet zijn hoe ze worden gebruikt en welke effecten ze hebben enzovoorts, zowel in het publieke als private domein, dus bijvoorbeeld ook voor socialmediaplatforms.

De voorzitter:

Mevrouw Dekker-Abdulaziz, uw derde interruptie.

Mevrouw Dekker-Abdulaziz (D66):

Ja, ik heb ook geteld, voorzitter: mijn derde. Ik hoorde nu voor de zoveelste keer de Staatssecretaris spreken over socialmediaplatforms. Maar uit de AI-verordening en gesprekken met experts heb ik begrepen dat de aanbevelingsalgoritmes van socialmediaplatforms niet onder de hoogrisicoalgoritmes vallen, en dat er dus helemaal geen toezicht op hoeft te zijn. Ik ben heel blij dat de Staatssecretaris wel vindt dat dit zo moet zijn. Ik hoor daarom graag of ze zich in Europa verder gaat inzetten op dit gebied, want ik maakte me daar best wel zorgen over.

Staatssecretaris Van Huffelen:

Misschien even om het helder te hebben: die zitten in de DSA, dus in een andere Europese verordening. Maar daar is toezicht op, ja.

De voorzitter:

Dank u wel. Ik kijk even rond. Iemand in dit blokje? Nee? Dan gaan we door naar het derde blok: mensenrechten. Daarna volgt nog het blokje met overige onderwerpen.

Staatssecretaris Van Huffelen:

Het gaat dan vooral over de vraag, door de VVD gesteld, hoe we gaan zorgen dat algoritmes ethisch verantwoord en in overeenstemming met juridische principes worden ingezet. Ik heb daar net al iets over gezegd. Volgens mij heb ik deze vraag dus net al beantwoord; misschien zit die dubbel in mijn stuk. Het is dan maar extra helder dat het algoritmebeleid er inderdaad voor zorgt dat non-discriminatie, transparantie en een gelijke behandeling aan de voorkant worden ingericht, op de verschillende manieren die ik net al heb genoemd, met een implementatiekader voor AI-regelgeving enzovoorts.

Dan de vraag van mevrouw Bouchallikh. Zij zei: waarom is er nog geen mensenrechtentoets uitgevoerd volgens het algoritmeregister? We hebben, overigens ook op mijn verzoek, het vakje in dat register daadwerkelijk ingevuld omdat ik het belangrijk vind om dat te doen. Inmiddels zijn al een heleboel van die assessments gedaan. Voorbeelden daarvan zijn de Belastingdienst, het CJIB, gemeenten en provincies. Ook de gemeente Rotterdam heeft het al ingepast. Maar het is nog niet voor 100% ingevuld in het register. Dat gaan we in de komende tijd actualiseren, want gelukkig wordt het IAMA wel degelijk al toegepast.

De heer Slootweg vroeg of het nodig is om de rechtsbescherming van burgers te versterken als er fouten ontstaan op basis van het gebruik van algoritmes door overheidsinstanties. Wat mij betreft is de rechtsbescherming op dit gebied voldoende ingericht, zowel als het gaat om niet-algoritmegebruik als om algoritmegebruik. Maar zoals ik al eerder aangaf, gaat de Wet versterking waarborgfunctie van de Algemene wet bestuursrecht ervoor zorgen dat helder wordt wanneer een besluit wordt of is genomen met behulp van een algoritme. Zo is ook duidelijk voor mensen hoe dat een effect gehad zou kunnen hebben op het genomen besluit. Daarmee kan de motiveringsplicht aan burgers worden verbeterd en is ook helderder waartegen je in bezwaar of beroep kunt als dat aan de orde is.

De voorzitter:

Voordat u naar het laatste blok gaat, heeft u een interruptie van de heer Rahimi van de VVD. Dat is zijn derde.

De voorzitter:

Voordat u naar het laatste blok gaat, heeft u nog een interruptie van de heer Rahimi, VVD. Dat is zijn derde interruptie.

De heer Rahimi (VVD):

Mijn vraag aan de Staatssecretaris gaat over het toetsen van de algoritmes. Er wordt hier best vaak over IT gesproken. Het punt is dat dat inzicht heel belangrijk is, maar ook de vraag hoe. Een derde gaat namelijk over cultuur, organisatie, structuur en ook een stukje qua IT. Wat heel belangrijk is als dat inzichtelijk wordt, is dat allerlei maatschappelijke actoren iets kunnen vinden. Ik verwacht niet dat burgers gaan inloggen op het algoritmeregister om te kijken of ze er wel of niet in vallen, maar heel veel maatschappelijke actoren wel. Die kunnen dat doen. Als ze dat doen, bereiken we iets. Dan maken we eigenlijk gewoon inzichtelijk wat wij doen. Dat is eigenlijk wat ik bedoelde. Dat is een antwoord dat u eerder gaf. Het duidelijk neerzetten wat ze doen en wat ermee gebeurt, is heel belangrijk. Het antwoord van de Staatssecretaris was vrij kort. Neemt ze deze onderdelen mee in de inzichtelijkheid?

Staatssecretaris Van Huffelen:

Het antwoord is ja. Dat doen we natuurlijk met de aanvulling op de Algemene wet bestuursrecht en met dat register, maar dat register is niet iets wat je als niet-opgeleid persoon alleen maar goed kunt gebruiken. Het is vooral bedoeld voor onderzoekers en voor belangenorganisaties. Los daarvan wil ik dat ook voor normale burgers helder is hoe de besluitvorming van de overheid werkt. Dat gaan we dus doen met die aanvulling op de Algemene wet bestuursrecht.

Dan was er nog een vraag van de SP over de uitspraak van de Hoge Raad over etnisch profileren. Die uitspraak kwam ook gisteren aan bod in het debat met de Staatssecretaris van JenV. Hij heeft aangegeven dat die uitspraak wordt bestudeerd, dat op basis daarvan een beslissing wordt genomen en dat uw Kamer daarover wordt geïnformeerd. Ik kan daar nu verder niet op vooruitlopen.

Dan was er ook nog de vraag van D66 over het feit dat de Verenigde Staten TikTok verbieden voor ambtenaren en of dat ook van toepassing is op onze ambtenaren. Niet zomaar natuurlijk, want de VS bepalen niet wat onze ambtenaren doen, maar ik begrijp wel de zorg die er is. U heeft daar ook al eerder vragen over gesteld. Niet voor niks zijn we dat ook aan het bestuderen. De Nederlandse overheid heeft in ieder geval gezegd dat wij TikTok niet willen gebruiken voor het delen van overheidsinformatie. Daarvoor gebruiken we wel vaak andere socialmediaplatforms om mensen te informeren over nieuwe regelingen, subsidies of andere soorten informatie. Dat doen we met TikTok op dit moment niet, omdat ons te weinig duidelijk is hoe het platform precies werkt en hoe het omgaat met de data die verzameld worden. Om die reden vind ik het ook belangrijk om te onderzoeken of we dit daadwerkelijk willen gaan invoeren voor alle overheidsmedewerkers. Ik snap uw punt. Ik begrijp ook dat het niet alleen uw vraag is. Ik heb via de media begrepen dat dat gesteund wordt door een viertal partijen in totaal, dus in ieder geval alle partijen van de coalitie. Ik denk dat het inderdaad heel goed is dat we daar zo snel mogelijk een antwoord op krijgen, maar ik wil dat wel goed bestuderen voordat ik daar definitief ja of nee op zeg. Nogmaals, ik begrijp uw zorg. Ik heb dezelfde zorgen over dit medium.

De voorzitter:

Aangezien de heer Slootweg net zo galant was om te zeggen dat de vragen over een bepaald onderwerp van de heer Van Baarle waren: volgens mij had ook de heer Slootweg vragen over TikTok. Hij heeft ook nog een interruptie.

De heer Slootweg (CDA):

Daarbij gaf ik overigens aan dat mevrouw Hind, mevrouw Dekker-Abdulaziz, deze vraag ook eerder heeft gesteld. TikTok is natuurlijk één medium. Daarvan hebben we wat meer inzicht dat we geen inzicht hebben. Doet u dat onderzoek ook naar andere van dit soort applicaties, die misschien toch echt een probleem kunnen wezen door smartphonegebruik van ambtenaren? Dus is dit onderzoek beperkt tot TikTok of kijkt u in wat bredere zin of er ook andere applicaties zijn die dit gevaar met zich mee kunnen brengen?

De voorzitter:

Dit is een brede vraag. We hebben daar net een ander debat over gehad en we zijn al bijna aan het einde van dit debat. Volgens mij kunnen we hier een hele beschouwing over houden. Daarom zou ik de Staatssecretaris willen vragen het zo kort mogelijk te houden, zodat we nog door kunnen naar de tweede termijn. Ik snap de vraag heel goed en het is natuurlijk wel aanpalend, maar nogmaals, we hebben hier onlangs het bredere debat over gehad.

Staatssecretaris Van Huffelen:

Even heel kort dan. Een voorbeeld van dat we dat onderzoek hebben gedaan, is dat we een zogenaamde DPIA hebben uitgevoerd op Facebook Pages. Dat zijn de bedrijfspagina's op Facebook die door de overheid worden ingezet. We hebben de conclusie getrokken dat die volgens ons niet voldoet aan de AVG, aan de privacyvereisten. Daar heb ik u ook verder over geïnformeerd. Daarover zijn wij in onderhandeling met Facebook, met name omdat ik het van belang vind dat uiteraard alle platformen voldoen aan de vereisten voordat we er gebruik van maken. Als ze dat niet doen, is mijn algemene lijn, die ik ook graag wil volhouden, dat ik eerst met hen in overleg ga om te zorgen dat ze wel gaan voldoen aan de vereisten. Als ze dat uiteindelijk niet doen, nemen we als overheid afscheid van hun diensten.

De voorzitter:

Dank u wel. Dan zijn we daarmee aan het einde gekomen van de beantwoording in eerste termijn. Ik kijk even rond of er behoefte is aan een tweede termijn. Ik zie al een aantal leden knikken. Dan geef ik als eerste het woord aan de heer Van Baarle namens DENK.

De heer Van Baarle (DENK):

Voorzitter. Laat ik allereerst beginnen met de Staatssecretaris hartelijk te danken voor de beantwoording. Ook bedankt dat de Staatssecretaris aan de slag wil gaan met het opstellen van de protocollen voor als er discriminatie geconstateerd wordt. Mijn vraag is op welke termijn we die kunnen verwachten. Het is ook fijn om te horen dat er aan de slag wordt gegaan met onze motie om in de Algemene wet bestuursrecht de uitlegbaarheid van algoritmische besluiten mee te nemen.

Voorzitter, dat gezegd hebbende. De Staatssecretaris heeft de fractie van DENK in het verleden toegezegd onderzoek te doen naar een discriminerend risicoprofiel in de Basisregistratie Personen. Eerder heeft de Staatssecretaris aangegeven dat de resultaten van dat onderzoek in oktober van het vorige jaar zouden komen. Daarna heeft ze gezegd dat die aan het einde van het vorige jaar zouden komen. Ik heb ze nog niet. Mijn vraag is waarom. Ik maak me daar zorgen over.

Voorzitter. Mijn laatste vraag gaat over het implementatiekader van de AI Act. Wanneer kunnen we dat verwachten? Is er ook de mogelijkheid om als Kamer nog in de zwaarte van hoe wij de AI Act kunnen interpreteren mee te kijken en mee te sturen hoe we dat gaan inrichten?

Daar zou ik het graag bij willen laten, voorzitter.

De voorzitter:

Dank u wel. Dan is de volgende spreker de heer Slootweg, CDA.

De heer Slootweg (CDA):

Dank u wel, voorzitter. Allereerst bedankt voor uw geduld en dat van de collega's. Ik heb misschien een aantal dingen dubbel gedaan. Dank ook aan de Staatssecretaris voor haar antwoorden. Eigenlijk vond ik er één heel aardig. We kijken nu bij de algoritmes vooral naar het zwarte punt, de dingen die niet goed gaan. In de brief gaf ze echter ook aan dat er punten zijn waardoor algoritmes de dienstverlening zouden kunnen verbeteren. Ik vond het best moeilijk om daar vanuit de rijksoverheid voorbeelden van te vinden, maar wellicht heeft ze die wel. Ik weet wel dat die bij gemeentelijke regelingen soms worden toegepast als het gaat over niet-gebruik. Is daar ook niet een rol in om te kijken hoe die betere dienstverlening meer gedeeld kan worden? Ziet de Staatssecretaris daar ook een rol in dat algoritmes ook ten goede van mensen kunnen komen?

De voorzitter:

Dank u wel, meneer Slootweg. Dan is het woord aan mevrouw Bouchallikh, GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Dank, voorzitter. Dank ook aan de Staatssecretaris en haar team voor de beantwoording van de vragen. Het feit dat een deel van de vragen van onze commissie veel met elkaar overlappen, laat volgens mij zien dat we met z'n allen een beetje dezelfde kant op aan het duwen zijn. Het is fijn dat de Staatssecretaris volgens mij ook aan het meebewegen is.

Ik sluit me wel graag aan bij het sentiment dat we niet moeten wachten tot er vanuit de EU regels komen, maar dat we het zo veel mogelijk hier moeten inbedden. Dat was onder andere de oproep van Volt. Ik hoop dat we in die zin stappen blijven zetten. Ik heb ook vanuit hier de oproep aan onze eigen overheden: maak alsjeblieft haast. Het is namelijk een beetje gênant dat op het moment dat we eindelijk iets hebben geregeld, we moeten wachten op juridische verankering, terwijl we gewoon een gemeenschappelijke plicht hebben naar de burgers. Ik hoop dat de Staatssecretaris die boodschap ook wil overdragen.

De voorzitter:

Dank u wel. Dan is het woord aan mevrouw Dekker-Abdulaziz, D66.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Dank inderdaad aan de Staatssecretaris voor het toezeggen dat ze gaat kijken naar het TikTok-gebruik bij ambtenaren. Ik zou graag van haar willen horen wanneer ze denkt hiermee klaar te zijn. Voor een beetje haast zouden we dit wellicht nog in een tweeminutendebat kunnen doen.

Dan mijn andere vraag. Ik had een gemiste vraag over welke acties verder in gang worden gezet om orde te brengen in de dataverzameldrift van de overheid. Daar heb ik geen antwoord op gekregen.

Ten slotte ben ik heel blij om te horen dat de Algemene wet bestuursrecht versterkt wordt om algoritmes transparanter te maken. Daarbij is mijn vraag: wanneer denkt de Staatssecretaris deze naar de Kamer te sturen?

De voorzitter:

Dank u wel. Dan is het woord aan de heer Rahimi, VVD.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Wij danken de Staatssecretaris uiteraard ook voor de antwoorden. Het is goed om te horen dat zij een aantal zaken gaat oppakken, waaronder het aanjagen van zbo's, waterschappen en gemeentes om het in te vullen.

Ik ben ook blij dat ze gaat kijken naar een certificering of een keurmerk. Ik wil even meegeven dat die certificeringen er in het buitenland al zijn. Het is misschien handig om daarnaar te kijken.

Ik gaf net al aan dat het heel belangrijk is dat mensen kunnen meekijken en kunnen acteren, zeker bij de instrumenten die wij als overheid hebben, dus ons instrumentarium. Het gaat vaak over technische dingen en ik denk dat het van belang is dat de mening van filosofen, IT'ers, technici en economen is meegenomen. Dit raakt namelijk echt alles. Ik wil vooropstellen dat we op de goede weg zijn. Dat wil ik echt meegeven en daarvoor wil ik de Staatssecretaris complimenteren. Het is belangrijk dat we als overheid op een serieuze en consistente manier verslag uitbrengen over wat we doen, dus de data die erin gaan en die eruit komen en de conclusies. Laten we daar goed mee omgaan.

Ik heb nog één laatste vraag; sorry, voorzitter. In het debat werd over de normen en de kaders aangegeven dat de AP gaat praten met andere toezichthouders. Naar mijn mening is het zo dat wij de kaders stellen en dat elke toezichthouder daar gehoor aan geeft, in plaats van dat de AP dat doet.

De voorzitter:

Dank u wel. Mevrouw Kathmann, PvdA.

Mevrouw Kathmann (PvdA):

Ik wil de Staatssecretaris van harte danken voor de beantwoording. Ik ben wel blij dat het tweeminutendebat is aangevraagd, want dan kunnen we de goede stappen die zijn gezet nog een beetje verder in de goede richting brengen met moties.

Terwijl wij het hier over ethiek en data hebben, krijg ik ineens het volgende bericht binnen: «Alle iPhonegebruikers opgelet: er is een wereldwijde datahack gaande op Apple-devices.» Ik zie ze hier allemaal staan. «Advies: installeer z.s.m. de laatste software-update.»

Ik wil nog wel even doorpakken op de vragen van de VVD over transparantie en bruikbaarheid voor de burger, want dat is gewoon ongelofelijk belangrijk. Transparantie begint met: begrijpt iedereen het? Daarom stel ik de concrete vraag of het algoritmeregister voldoet aan de digitaletoegankelijkheidsvereisten die voor overheidswebsites gelden. Kan de Staatssecretaris ervoor zorgdragen dat informatie in het register die door andere overheden wordt verschaft, gecontroleerd wordt op begrijpelijkheid en laagdrempeligheid? En is de Staatssecretaris bereid om burgers actief te betrekken bij de nadere uitwerking van het algoritmeregister, bijvoorbeeld door een praktijktoets op effectiviteit?

De voorzitter:

Dank u wel. En misschien toch nog even in alle scherpte: ik had zelf gehoord dat een aantal mensen nog in afwachting waren van toezeggingen, en dat er niet per definitie een tweeminutendebat zou worden aangevraagd als er voldoende toezeggingen waren. Als u wel een tweeminutendebat wenst, is het misschien goed om even concreet te maken waarover dan.

Mevrouw Kathmann (PvdA):

Ik zou graag nog wat aansporende moties willen indienen op het stukje over het toezicht. Maar ik hoef niet per se het recht om de eerste spreker te zijn als anderen dat tweeminutendebat al eerder wilden aanvragen. Mochten anderen het niet willen aanvragen, dan zal ik het doen, maar ik wil anderen niet het gras voor de voeten wegmaaien.

De voorzitter:

Het is inderdaad goed om dat even scherp te hebben. Ik kijk eerst hoe lang de Staatssecretaris nodig heeft voor het voorbereiden van de beantwoording. Vijf minuten, hoor ik. Dan schorsen we voor vijf minuten.

De vergadering wordt van 16.56 uur tot 17.02 uur geschorst.

De voorzitter:

Aan de orde is de tweede termijn van de Staatssecretaris. Er is een aantal vragen gesteld. Wij kijken vol verwachting naar de Staatssecretaris.

Staatssecretaris Van Huffelen:

Dank u wel. Ik heb altijd de hoop dat ik aan de verwachtingen kan voldoen. Ik ga proberen het heel snel te doen.

Er was een vraag gesteld door de fractie van DENK over de motie rondom de Awb-besluiten. De vraag was of we die zouden meenemen. Wij gaan inderdaad onderzoeken hoe we dat kunnen doen.

Dan de vraag wanneer het onderzoek naar de BRP-algoritmes komt. Dat komt in april. Het implementatiekader is niet een implementatiekader van de AI Act, want die is nog niet vastgesteld. Dat zal waarschijnlijk pas aan het eind van het jaar zijn. Ons eigen implementatiekader willen we in juni aan uw Kamer toesturen.

De heer Slootweg vroeg nog terecht naar voorbeelden over hoe we ...

De voorzitter:

Voordat u verdergaat, heeft u een korte vraag van de heer Van Baarle van DENK.

De heer Van Baarle (DENK):

Om het wel even serieus te nemen: ik heb twee keer schriftelijke vragen gesteld over het onderzoek naar het discriminerende risicoprofiel in de BRP. In het antwoord op de schriftelijke vragen stond: u krijgt het in oktober. Daarna werd gezegd: u krijgt het eind dit jaar. Ik vind het voor de zuiverheid wel belangrijk dat ik u even ter verantwoording roep met de vraag waarom ik, als er staat dat ik het in oktober krijg, nu moet horen: het komt in april. Ik vind het heel serieus. Ik vind het spijtig dat ik het niet wist en dat ik erop moest wachten.

Staatssecretaris Van Huffelen:

Dat is een fair point. Wij laten dit onderzoeken door een externe onderzoeker, die meer tijd nodig blijkt te hebben om het goed te doen. Dat had ik u ook even kunnen laten weten, dus dat doe ik de volgende keer proactief. Maar wij nemen het ook ontzettend serieus, want ik wil net zo goed als u weten wat er nou precies aan de hand is geweest. Mocht het niet in april komen, wat ik niet hoop, dan zal ik ervoor zorgen dat u dat vooraf te horen krijgt.

De vraag van de heer Slootweg ging over voorbeelden van hoe je algoritmes positief kunt laten werken. Denk bijvoorbeeld aan algoritmes die gaan over het niet gebruiken van voorzieningen. Een mooie toepassing is er bijvoorbeeld in het kader van schulden. Dat doen wij vanuit de rijksoverheid via de ELSA Labs. We weten ook dat de gemeente Amsterdam dat doet. Ik ben samen met de Minister voor Armoede aan het werk om daarnaar te kijken, omdat het een belangrijk onderwerp is.

Dan was er een oproep van mevrouw Bouchallikh om haast te maken. Dat doe ik graag. Die oproep neem ik mee.

Dan was er een vraag van mevrouw Dekker over wanneer we klaar zijn met het TikTok-onderwerp. Wij proberen dat natuurlijk te doen binnen de beantwoordingstermijn van de Kamervragen. Ik hoop niet dat we daar langer voor nodig hebben, maar ergens in de komende weken zullen we u daar antwoord op geven.

U had ook nog de terechte openstaande vraag over de verzameldrift. Wij hebben als overheid beschikking over allerlei soorten data. Sterker nog, die hebben wij heel erg hard nodig. «Verzameldrift» lijkt een beetje alsof wij data aan het verzamelen zijn voor ons plezier, alsof we dat zomaar doen of doen zonder dat daar nut en noodzaak voor is. Dat beeld zou ik graag willen bestrijden. Dat laat onverlet dat wij er heel goed voor moeten zorgen dat, als wij data tot onze beschikking hebben, wij daar heel zorgvuldig mee omgaan. Daarom hebben we toegezegd dat er data officers zijn. Die zijn we aan het aannemen. We hebben de Interbestuurlijke Datastrategie, samen met lagere overheden. En we willen er juist voor zorgen dat we niet data verzamelen om het verzamelen, maar dat we heel zorgvuldig omgaan met de data waarover we beschikking hebben. Bovendien, en dat is ook op basis van Europese regelgeving, willen we data zo veel mogelijk ter beschikking stellen, zodat mensen ermee aan het werk kunnen.

De voorzitter:

Een korte vraag van mevrouw Dekker-Abdulaziz.

Mevrouw Dekker-Abdulaziz (D66):

Ja, heel kort. Het is niet zo dat ik voor de lol de overheid aan het shamen ben. Het is de Algemene Rekenkamer die constateert dat bijvoorbeeld de politie meer gegevens verzamelt dan nodig is. Er is dus wel degelijk ergens een verzameldrift bij de overheid. De vraag is of de Staatssecretaris of medebewindslieden zich hard willen maken voor het verzamelen van niet te veel gegevens.

Staatssecretaris Van Huffelen:

Dat doe ik natuurlijk graag. Daarom hebben we ook de implementatie van de data officers en de mensen die werken aan dit soort thema's. Daarom zorgen we ervoor dat het goed gaat waar data verzameld worden. We hebben er ook toezichthouders voor. Ik maak mij er dus hard voor. Ik kan niet zeggen dat het er altijd honderd procent toe leidt dat er niet ergens bij de overheid iemand is die meer data aan het verzamelen is dan nodig. Maar we doen wel ons uiterste best om de randvoorwaarden daarvoor en het toezicht daarop goed in te richten.

De heer Rahimi had het nog over de certificering en de EU. Terecht, want dat is onderdeel van de AI Act, de algoritmeverordening. Dat gaat over het certificeren van algoritmes en het ervoor zorgen dat je de hoogrisicoalgoritmes pas mag gebruiken wanneer de certificering aan de orde is.

U vroeg nog of het zo is dat ik, of wij gezamenlijk, de normen doen en de toezichthouders de uitvoering daarvan. Dat is precies wat het is. Wij zijn een beetje aan het vooruitkijken. We zien dat er heel veel Europese verordeningen op ons afkomen, heel veel Europese regulering. Daarbij spelen de toezichthouders in verschillende vormen en maten een rol. Daarom hebben de toezichthouders zich op dit onderwerp verzameld. Ik heb daar – dat vertelde ik al – met hen overleg over. Het gaat over toezicht op de uitvoering van digitale wet- en regelgeving. Dan vind ik het belangrijk dat we niet alleen kijken hoe we dat toezicht gaan invullen, maar ook hoe we ervoor gaan zorgen dat we het makkelijker maken voor organisaties, overheden of bedrijfsleven om compliant te zijn. De les die we hebben geleerd vanuit de AVG is dat het helemaal niet zo makkelijk bleek om te bedenken: hoe kan ik compliant zijn, hoe kan ik voldoen aan de vereisten en hoe kan ik het goed inrichten? Daar ga ik samen met de toezichthouders aan werken.

Dan nog even over de toegankelijkheid – dat is een vraag van mevrouw Kathmann – van het register. Binnenkort gaat ons register voldoen aan de zogenaamde A-status. Dat is de norm die we onszelf hebben opgelegd. Dat is nu nog niet honderd procent zo, maar dat doen we wel. Dan zorgen we ervoor dat we binnen een maand, zo is de bedoeling, aan die vereisten voldoen. Daar hebben we dus nog twee weken voor. We betrekken burgers er ook bij. We maken nu een ronde langs bibliotheken om aan burgers te vragen of zij input kunnen leveren voor het verbeteren van het register, voor zover zij vinden dat het onvoldoende toegankelijk is. Dat doen we dus allebei.

Dat was het, voorzitter.

De voorzitter:

Dank u wel. Ik kijk heel even rond om te zien of dit inderdaad alle vragen waren. Dan ga ik, voor ik de gewetensvraag stel aan de collega's of er nog een tweeminutendebat nodig is, even kijken naar de toezeggingenlijst. Dat is een hele lijst, dus we hebben in ieder geval ons best gedaan. De toezeggingen zijn als volgt. Ik verzoek u om even goed mee te luisteren of dit goed is. De eerste toezegging is:

− De Staatssecretaris zal bij de vormgeving van het nieuwe onderzoek naar de motie op stuk nr. 21, ook wel bekend als de motie-Marijnissen/Klaver, geen onomkeerbare stappen maken en eerst wachten op het voorstel van de rapporteurs op dit onderwerp ten aanzien van welke organisatie een onderzoek zou moeten uitvoeren. Dat is naar aanleiding van een interruptiedebat met mevrouw Leijten.

Ik kijk even rond. Klopt dat? Ja.

Dan de tweede toezegging:

− De Staatssecretaris zal de Kamer informeren over het mogelijk verplichtende karakter van het algoritmeregister, vooruitlopend op de AI Act.

Ik kijk heel even naar de Staatssecretaris. Kan daar nog een datummoment aan toegevoegd worden?

Staatssecretaris Van Huffelen:

Ergens voor de zomer. We hebben nog even tijd nodig.

De voorzitter:

Voor de zomer? Dan voegen we dat toe.

Dan de derde toezegging:

− De Kamer ontvangt spoedig het wetsvoorstel Versterking waarborgfunctie Awb.

Staatssecretaris Van Huffelen:

Dat is niet mijn wetsvoorstel, dus daar kan ik niks over zeggen.

De voorzitter:

Dan schrappen we deze toezegging. Daar zijn afspraken over gemaakt in een ander debat, dus dat doen we dan niet hier. Anders wordt het verwarrend. Dan zouden we deze Staatssecretaris houden aan iets wat zij niet kan waarmaken.

Dan de nieuwe nummer drie:

− De Staatssecretaris zal de Kamer informeren over de uitkomst van het gesprek met de heer Krijger. Dat is een toezegging aan mevrouw Kathmann.

Dan de volgende:

− De Staatssecretaris zal de Kamer informeren over de uitkomst van de gesprekken met de toezichthouders met betrekking tot de samenwerking van toezichthouders op het toezicht houden op algoritmes in de doorzettingsmacht van de AP.

Staatssecretaris Van Huffelen:

In brede zin over digitalisering, dus het wordt wel iets breder dan dat.

De voorzitter:

In brede zin op het gebied van digitalisering. Dat was een toezegging aan mevrouw Leijten en mevrouw Kathmann.

Dan de volgende toezegging:

− De Staatssecretaris zal voor juni het implementatiekader van het gebruik van algoritmes naar de Kamer sturen.

Staatssecretaris Van Huffelen:

Die toezegging is al eerder gedaan.

De voorzitter:

Vandaar dat we er nu ook niet een nieuwe naam aan toegevoegd hebben. Dit is namelijk een hernieuwde toezegging.

Dan:

− De Staatssecretaris zal de Kamer spoedig informeren over het gebruik van TikTok door ambtenaren bij de overheid. Dat is naar aanleiding van een verzoek van mevrouw Dekker-Abdulaziz.

Dat gaat via de beantwoording van de Kamervragen, als ik net goed geluisterd heb.

Staatssecretaris Van Huffelen:

Dat lijkt mij het meest logisch, als iemand daar Kamervragen over stelt.

De voorzitter:

Ja.

Dan de volgende toezegging:

− De Staatssecretaris zal de Kamer informeren over de protocollen voor het handelen bij mogelijke discriminatie bij algoritmes. Dat is een toezegging aan de heer Van Baarle.

Staatssecretaris Van Huffelen:

Eigenlijk gaat het niet om het informeren. We hebben gezegd dat we zo'n protocol willen gaan maken. Ik denk dat dat een zuiverdere ...

De voorzitter:

Oké, dus er komt een protocol. Dan is de vraag wel of er een verwachting is qua termijn.

Staatssecretaris Van Huffelen:

Ergens in het voorjaar.

De voorzitter:

Dit voorjaar. Oké. Dan gaan we die toezegging iets herformuleren en voegen we de tijdsindicatie toe.

Dan:

− De Staatssecretaris zal de Kamer in april informeren over het onderzoek naar discriminerende risicoprofielen in de BRP. Dat is ook naar aanleiding van een verzoek van de heer Van Baarle.

Daarbij was de aanvulling volgens mij: mocht het later worden, dan worden we daar in ieder geval over geïnformeerd.

Staatssecretaris Van Huffelen:

Dan krijgt u keurig een brief van mij.

De voorzitter:

Misschien moeten we dat, gelet op het verleden, toch nog even specifiek markeren.

Dan kijk ik even rond: is er, gelet op al deze toezeggingen, nog behoefte aan een tweeminutendebat? Ik zie een aantal leden knikken. Mevrouw Dekker-Abdulaziz zit als eerste in de rij. Het is gebruikelijk om dat lid dan als eerste aanvrager te noteren.

Staatssecretaris Van Huffelen:

Waarover?

De voorzitter:

De vraag is inderdaad: waarover?

Mevrouw Dekker-Abdulaziz (D66):

Op zich is TikTok redelijk gecoverd, maar just in case. Maar eigenlijk gaat het niet daarover. We hebben nog een stukje datahonger dat we willen tackelen.

De voorzitter:

Mevrouw Kathmann heeft misschien een ander onderwerp. Ik denk dat het goed is om dat te weten, zodat de Staatssecretaris en de ambtenaren zich daarop kunnen voorbereiden. Misschien is het ook voor de collega's goed om dat te weten.

Mevrouw Kathmann (PvdA):

Dat zit vooral op dat stuk van het toezicht. Het is voor mij nog steeds een beetje vaag hoe we dat gaan inrichten: wat is het mandaat en wat zijn de escalatieladders? Daar is wel een soort toezegging over gedaan, maar ik zou daar toch graag nog wat concreets over meegeven via een motie.

De voorzitter:

De reden waarom we hierop doorvragen – misschien is het ook voor de leden goed om dat te weten – is dat we met elkaar een beetje aan het kijken zijn hoe we in het debat qua toezeggingen recht doen aan elkaars overwegingen. Ik denk dat de Staatssecretaris geprobeerd heeft om dat zo ruimhartig mogelijk te doen. Dan is het ook altijd goed om met elkaar te wisselen wat er nog ontbreekt en om dat ook aan de voorkant scherp te hebben. Dat hebben we bij dezen gedaan. We geven dit door aan de Griffie plenair. Dan wordt het te zijner tijd ingepland, met als eerste spreker mevrouw Dekker-Abdulaziz.

Dank u wel. We zijn bij dezen aan het einde gekomen, met dank voor eenieders geduld, want we zijn een kwartiertje uitgelopen. Ik dank de leden. Ik dank de Staatssecretaris en haar ambtenaren en uiteraard de mensen die op de publieke tribune zijn blijven zitten en de kijkers thuis.

Sluiting 17.14 uur.