Inzet algoritmes en data-ethiek binnen de rijksoverheid

De voorzitter:

Aan de orde is het commissiedebat Inzet algoritmes en data-ethiek binnen de rijksoverheid van de vaste commissie voor Digitale Zaken. Ik heet de staatssecretaris van harte welkom en uiteraard de leden en een mooie volle publieke tribune. Welkom allemaal en ook welkom aan de mensen die thuis of elders meekijken naar dit debat. We hebben drie uur uitgetrokken voor het debat. We zijn met vijf leden van de zijde van de Kamer, waarvan er twee ons iets eerder moeten verlaten. Overigens met goede reden, want de heer Van Baarle zit ook in het plenaire debat en de heer Slootweg moet nog naar een technische briefing over een ander onderwerp dat ook alles met digitaal te maken heeft, namelijk de digitale euro. Hij zal zich later weer bij ons voegen. Daarom zitten ze vooraan.

Ik stel aan de leden voor om drie interrupties in tweeën aan elkaar te doen. Dat betekent drie interrupties en een vervolgvraag. U mag een vraag stellen en een vervolgvraag, want ik merk toch dat dat vaak fijner werkt. We kijken even naar de tijd, maar volgens mij is het uitgangspunt prima. Dan doen we hetzelfde in de termijn van de staatssecretaris.

Aangezien een aantal leden eerder weg moeten, wil ik de heer Van Baarle namens DENK het woord geven voor zijn inbreng.

De heer Van Baarle (DENK):

Voorzitter. Is inmiddels al bekend wat het aantal algoritmes binnen de overheid met automatische besluitvorming is? Kan de staatssecretaris inmiddels aangeven of en, zo ja, hoeveel zelflerende algoritmes de overheid gebruikt? Een aantal maanden geleden kon de staatssecretaris hier schriftelijk geen antwoord op geven. Dit roept vragen op. We hebben een doorlichting gedaan van de algoritmen op discriminatie, de uitvoering van de befaamde motie nr. 13, heet-ie volgens mij in het jargon. Wat is die doorlichting waard geweest, als we na die doorlichting niet weten welke algoritmen we binnen de overheid hebben? Wat is er dan precies allemaal doorgelicht? Bij die doorlichting kijk je toch naar alle algoritmen en of ze discrimineren.

Ik las in de schriftelijke beantwoording ook dat er nog geen sprake is van een geharmoniseerd toetsingskader van het Rijk. Dit verbaasde mij, want mijn impressie was dat we wel een toetsingskader hebben. Maar als dat niet zo is, waar is dan in die doorlichting aan getoetst? Is dat dan niet totale willekeur?

Als de staatssecretaris geen antwoord kan geven op deze vragen, dan heeft de fractie van DENK ernstige twijfels bij de uitvoering van de doorlichting op discriminatie in de algoritmen. Dan herhaalt de fractie van DENK het pleidooi om deze doorlichting extern te laten toetsen. We hebben met verheuging gezien dat de staatssecretaris dit alsnog wil laten doen, maar we willen graag vragen waarom de keuze is gemaakt om de ADR dit te laten doen; de ADR die jarenlang aan de lat stond om toezicht te houden op onder andere de Belastingdienst en nooit heeft geconstateerd dat er zoiets plaatsvond als de toeslagenmisdaad. Is het wel de juiste instantie om dit te laten doen?

Ik constateer dat de richtlijnen binnen de overheid allemaal redelijk vrijblijvend zijn. De staatssecretaris strooit met handleidingen en spreekt heel vaak over stimuleren in plaats van verplichten. De vraag van DENK blijft, zoals we ook gevraagd hebben in een aangenomen motie: wanneer komen nou de bindende criteria? Daarbij is het steeds maar wachten op de AI Act. Dat is een beetje het ei waarop gebroed wordt en waar we volgens de staatssecretaris alles mee gaan redden. Maar hoe concreet worden nou de antidiscriminatiecriteria in die AI Act? Er wordt alleen gesproken over het registreren van bijvoorbeeld hoogrisicoalgoritmes en dat daar de verscherpte richtlijnen voor gaan gelden. Wat is daarin de definitie van hoog risico waar we op afkoersen? Hoe sorteren we nu voor op de invoering van de AI Act? Kan de staatssecretaris nu een antwoord geven op de vraag hoe we die nationaal gaan handhaven en wie dat gaat doen?

Dan de toezichthouder. De fractie van DENK is blij dat die toezichthouder er komt, maar is wel teleurgesteld in de rol. Want het is eigenlijk een toezichthouder die geen toezicht houdt. Je zou toch zeggen dat een toezichthouder op zijn minst toezicht moet gaan houden of we de bestaande normen goed toepassen, maar dat gaat de toezichthouder niet doen. Die gaat regie voeren en heel veel overleggen. Wat is de toegevoegde waarde van een toezichthouder die geen toezicht gaat houden, die niet als dagelijkse taak heeft om organisaties en bedrijven binnen te lopen en te zeggen: "Trek uw lades open, uw computers. We willen weten wat u daar doet. Wij gaan dat controleren"? Waarom is dat niet de primaire taakopvatting, vraag ik aan de staatssecretaris.

De staatssecretaris gaf in de schriftelijke behandeling ook aan dat zij geen zicht heeft op de algoritmes die overheidsinstanties hebben uitbesteed in de ontwikkeling. Mijn vraag is of de staatssecretaris dat nu wel heeft. Want als we algoritmes uitbesteden, hebben we als overheid dus heel weinig zicht op hoe ze ontwikkeld worden. Mijn vraag is of we een overzicht kunnen krijgen van het aantal algoritmes waarvan de ontwikkeling is uitbesteed en of de staatssecretaris bereid is om met afspraken te komen of in ieder geval een modelcontract waarin we voor de uitbesteding van algoritmes heel harde afspraken maken ten aanzien van non-discriminatie.

De heer Van Baarle (DENK):

O, o.

De heer Van Baarle (DENK):

Dan rond ik af met een vraag over een motie die wij hebben aangehouden, die de regering verzoekt tot het opstellen van protocollen over hoe te handelen als men discriminatie vindt in algoritmes. Ik wil de staatssecretaris vragen hoe zij naar dit idee kijkt.

De heer Slootweg (CDA):

Dank u wel, voorzitter. Een deel van de titel van dit commissiedebat kan spoedig aanleiding geven voor filosofische bespiegelingen. Data-ethiek, ethiek die betrekking heeft op datagegevens. De afbakeningen lijken gemaakt te worden door het te hebben over de inzet van algoritmes die uitgevoerd worden door de rijksoverheid. Mijn bijdrage zal ik daarom richten op drie elementen: de toezichthouder, het register en de gegevensbeveiliging bij ambtenaren.

Voorzitter. De keuze is gemaakt om de Autoriteit Persoonsgegevens uitvoerder te maken van de opdracht rijksalgoritmetoezichthouder. De staatssecretaris managet de verwachtingen door aan te geven dat met de beschikbare middelen deze toezichthouder niet zelf alle vragen en problemen kan oplossen. Zowel door de plek als organisatieonderdeel bij de Autoriteit Persoonsgegevens als door de hierboven geformuleerde reikwijdte is de algoritmetoezichthouder misschien eerder een expertisecentrum dat de samenwerking op het algoritmetoezicht moet optimaliseren dan een alomvattende toezichthouder op alle algoritmes die invloed hebben op het maatschappelijke verkeer. Deelt de staatssecretaris deze opvatting?

De heer Slootweg (CDA):

Ik denk dat dit zeer terechte vragen zijn van mevrouw Leijten. Ik denk dat wij nu eigenlijk in de opbouw zijn naar iets van een toezichthouder, die volgens ons veel meer invloed zal hebben. Ik kom later in mijn vragen op punten als of er niet een wettelijke grondslag moet zijn als je algoritmes gebruikt. Ik denk dat het op dit moment ook weer niet zo gek is dat dit in de zoektocht naar hoe je dit op een goede manier kan doen de eerste stappen zijn. Maar ik wil wel verkennen wat nou die reikwijdte is en hoe we die zo breed mogelijk kunnen maken daar waar sommige algoritmes zodanige gevolgen kunnen hebben dat het de rechtsbescherming van onze inwoners aantast.

De heer Slootweg (CDA):

Ik begrijp de vraag en toch denk ik dat ik wel blij ben dat we nu deze eerste stappen maken. Ik zou het ook jammer vinden als er op dit moment veel energie gaat zitten in de vraag wat nou de plek is in plaats van dat wij de toezichthouder zo veel mogelijk tanden geven. Volgens mij ontstaat er altijd weer een natuurlijk moment in de tijd door te zeggen: moet die nou hier of moet die nou daar? In eerste instantie wil ik ervoor zorgen dat die tanden zo veel mogelijk ontwikkeld worden.

De heer Slootweg (CDA):

Ik zie dit meer als een aansporing om het denken gewoon niet stil te zetten. Ik zal deze periode in ieder geval willen gebruiken om te kijken hoe we de functie van toezichthouder meer tanden en body kunnen geven. Ik hoop dat ik mevrouw Leijten dan ook aan mijn kant vind; dat weet ik eigenlijk wel zeker. Voor de rest zie ik het echt gewoon als aansporing om niet stil te blijven staan.

De heer Slootweg (CDA):

Dan kom ik eigenlijk tot mijn vragen. Die gaan over de macht, over het min of meer dwingend kunnen opleggen van regels, afspraken en het formuleren van normen. Welke doorzettingsmacht heeft de algoritmetoezichthouder om te komen tot een gezamenlijke normuitleg? Speelt hij een rol in het ontwikkelen van nieuwe normen en op welke wijze kan hij deze afdwingen? Een belangrijke voorvraag voor mijn fractie is: speelt hij een rol in het toestaan dat algoritmes sowieso gebruikt gaan worden in de uitvoering?

Voorzitter. Het CDA ziet zeer wel het nut in van technologie en digitalisering om de werking en verbanden in onze samenleving ten dienste te staan, maar de werkelijkheid is anders. Een zeer ethische vraag betreft de zorg over het eigenaarschap van data. Heb ik er eigenlijk nog wel zeggenschap over als ik deze bijvoorbeeld upload? We zien wel degelijk dat analyse en deling van gegevens door overheidsorganisaties noodzakelijk zijn om bepaalde kwaden te bestrijden. Denk aan de bestrijding van zware ondermijnende criminaliteit en weerzinwekkende delicten als mensenhandel en kinderporno. Die bestrijding schuurt met de bescherming van de persoonlijke levenssfeer. Die spanning moeten we niet alleen onder ogen zien, maar ook proberen op te lossen. Is de staatssecretaris het met het CDA eens dat de rechtsbescherming van burgers in het bestuursrecht moet worden versterkt wanneer zij overheidsorganisaties willen aanspreken op fout gebruik van algoritmes? Heeft de wetgever niet nadrukkelijk de opdracht om in wet- en regelgeving af te wegen hoe en waar algoritmes mogen worden benut? Kan een algoritmetoezichthouder niet pas functioneren wanneer de normstelling zelf in de wet is vastgelegd in plaats van dat achteraf wordt beoordeeld of de vertaling die heeft plaatsgevonden in algoritmes, wel in orde is?

Voorzitter. De staatssecretaris heeft aangegeven dat het algoritmeregister een belangrijke bijdrage moet leveren aan het beter uitlegbaar maken van de toepassing en de uitkomst van algoritmes. Ze heeft als uitgangspunt meegegeven dat overheidsorganisaties zelf verantwoordelijk zijn voor de inzage in algoritmes en daarmee het opstellen en het beheer van het algoritmeregister. Maar wat zijn de mogelijkheden voor de toezichthouders wanneer een overheidsorganisatie dit niet nakomt? Een van de belangrijkste doelen is het verhogen van transparantie. Is de staatssecretaris het met ons eens dat die transparantie pas bereikt kan worden als het register ook een heldere en toegankelijke uitleg van de werking van het algoritme bevat? Wat ons betreft zou onder het kopje "toepassing" altijd een heldere omschrijving toegevoegd moeten worden. Een blik in het register leert dat deze nu vaak nog ontbreekt.

Ten slotte. Ik ben over mijn tijd heen, maar de gegevensbescherming bij ambtenaren is nog wel een punt. Voor de veiligheid is er in de Verenigde Staten voor gekozen dat men bijvoorbeeld TikTok niet meer mag gebruiken. Zouden ook wij daarin niet naïef moeten zijn, en zouden we dus bijvoorbeeld die weg van de Amerikaanse overheid volgen? Ik zou graag de opvatting van de staatssecretaris daarover horen.

De heer Slootweg (CDA):

Eigenlijk sluit die dus aan bij uzelf.

Mevrouw Bouchallikh (GroenLinks):

Dank u wel, voorzitter. Hoe we omgaan met het gebruik van algoritmes door de overheid staat eindelijk meer op de politieke agenda. Er is sinds kort een algoritmeregister en ook is recent de algoritmetoezichthouder van start gegaan. De eerste institutionele stappen zijn gezet en dat is goed, maar bij het lezen van de stukken voor dit debat zag ik ook hoeveel er nog moet gebeuren. Eerste stappen zijn dan helaas niet genoeg. Ook staan er nog veel vragen open.

Allereerst wil ik het hebben over het gebruik van algoritmes. We hebben het veel over regulering en controle — dat is nodig — maar we moeten ons ook afvragen wanneer de overheid überhaupt algoritmes moet gebruiken. Dat is een vraag die ook het Rathenau Instituut terecht stelt. Algoritmes lijken inmiddels soms vanzelfsprekend, maar iedere keer zou opnieuw moeten worden beoordeeld of er geen andere opties zijn om hetzelfde doel te bereiken. Is de staatssecretaris het hiermee eens? Zo ja, hoe wordt deze proportionaliteitstoets gedaan? Als er wordt besloten om algoritmes te gebruiken om een bepaald doel te bereiken, moet ervoor worden gezorgd dat de juiste typen algoritmes zo zorgvuldig mogelijk worden ingezet, zodat discriminerende risico-indicatoren voorkomen worden.

Daarmee kom ik de op de tweede zorg die wij hebben, de registraties in het algoritmeregister. Uit de stukken blijkt dat er nog maar heel weinig algoritmes worden geregistreerd. Ook algoritmes met grote risico's, die bijvoorbeeld worden gebruikt voor fraudeopsporing, blijken nog niet geregistreerd. De rijksoverheid, waar het kabinet direct voor verantwoordelijk is, heeft nog geen 30 algoritmes geregistreerd, terwijl er minstens 86 zijn volgens de Algemene Rekenkamer. Waarom is dit nog niet gebeurd?

Wat gaat het kabinet doen om overheden ertoe te bewegen dat algoritmes zo snel mogelijk geregistreerd worden? Wat is de deadline wat de staatssecretaris betreft? Kunnen de algoritmes die de grootste impact hebben met voorrang worden geregistreerd?

De volgende zorg die wij hebben, is de mensenrechtentoets. Tot nu toe is nog geen enkele toets uitgevoerd. Hoe kan dat? De Kamer heeft in een motie uitgesproken dat deze mensenrechtentoets verplicht moet zijn. De staatssecretaris heeft dat ook bevestigd, maar toch gebeurt dit nog niet. Wat gaat de staatssecretaris doen om ervoor te zorgen dat de mensenrechtentoetsen worden uitgevoerd en dat deze ook daadwerkelijk verplicht worden?

Etnisch profileren is ook een schending van mensenrechten. In de motie van mijn collega Klaver, die inmiddels twee jaar geleden is aangenomen, stond expliciet dat de regering het gebruik van nationaliteit, etniciteit en geboorteplaats als datavariabelen voor risicomodellen en -profielen volledig uit moest sluiten. Kan de staatssecretaris aangeven hoe en of dit deel van de motie inmiddels is uitgevoerd? Zo niet, wat gaat het kabinet dan voor actie ondernemen om dit alsnog te doen? Eerder pleitten wij ook voor een verbod van etnisch profileren, zoals onder andere Amnesty en Bits of Freedom ook deden, maar de staatssecretaris zag dit eerder niet op diezelfde manier zitten. Hoe ziet zij dit nu en wat doet zij wel om te voorkomen dat burgers via algoritmes gediscrimineerd worden? Hoe kunnen burgers daar überhaupt achter komen?

Ik heb nog kort twee andere punten over het register. Het College voor de Rechten van de Mens waarschuwt dat alleen registreren van algoritmes niet voldoende is, want systemen moeten ook continu goed worden gecontroleerd. Ook heeft het college zorgen over de transparantie en de bruikbaarheid van de informatie in het register voor burgers. Graag op beide punten een reactie van de staatssecretaris. Kan zij uitleggen hoe zij de terechte zorgen van het college wegneemt?

Het is goed dat de algoritmetoezichthouder er eindelijk is, zoals ik eerder ook heb gezegd. Ik heb in het vorige debat ook gesteld dat capaciteit ontzettend belangrijk is. Vandaag heb ik een vraag over de doorzettingsmacht van de toezichthouder. Eerder werd die "de tanden" genoemd. Wat ons betreft moeten die zo scherp mogelijk zijn. Uiteraard hoop ik op harmonie, maar hoe ziet de escalatieladder eruit als daar geen sprake van is? Hoe wordt gegarandeerd dat de toezichthouder het laatste woord heeft en daarin ook wordt ondersteund vanuit het ministerie? Wanneer verwacht de staatssecretaris dat de toezichthouder op volle sterkte kan opereren?

Dank u wel.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Het gebruik van algoritmen door de overheid is een tweesnijdend zwaard. Zoals verschillende rapporten, van onder andere de Algemene Rekenkamer, laten zien, zorgt het gebruik van algoritmen enerzijds voor tijdbesparing en efficiëntie in het werk van de overheid. Anderzijds kleven er risico's aan het niet juist gebruiken van algoritmen. De voorbeelden waarbij het fout ging, kennen we hier allemaal. Het is dus van belang dat wij als politiek randvoorwaarden scheppen waarin algoritmes goed kunnen worden toegepast en dat er toezicht is op de toepassing daarvan.

Voorzitter. Ik wil het over de volgende drie zaken hebben. De toezichthouder en de AP, het Algoritmeregister en de datahonger bij de overheid.

Ten eerste, D66 is blij dat de staatssecretaris opvolging geeft aan de afspraak uit het coalitieakkoord. Een toezichthouder op algoritmes bij de overheid kan bijdragen aan de transparantie voor burgers en de bevordering van samenwerking binnen bestaande structuren. Wij vragen ons af hoe de governance er nu precies uit komt te zien. Is de nieuwe rol van de AP meer als overlegorgaan of een uitvoerende toezichthouder? Handelt de toezichthouder reactief of kan er juist voorkomend worden gehandeld? Wij gaan ervan uit dat de nieuwe toezichthouder zich uitsluitend richt op het Rijk en niet op bedrijven en lagere overheden. Hoe verhoudt de AP zich in haar nieuwe rol tot de sectorale bestaande toezichthouders, ook qua doorzettingsmacht? In hoeverre hoort het opleggen van boetes ook bij de nieuwe rol van de AP, gelet op de drie doelen uit de inrichtingsnota? Ten slotte, voorzitter. Op welke termijn kan de staatssecretaris de Kamer informeren of de nieuwe wet- en regelgeving nodig is en of er aansluiting gezocht wordt bij de EU-verordening?

Voorzitter, ten tweede. Er is een eerste versie van een algoritmeregister. Wat ons betreft is dat een goed beginpunt, maar daar moeten de komende tijd nog stappen op gezet worden. Wat ons betreft blijven de sectorale toezichthouders toezien op de sectorale algoritmes. Laten we voorkomen dat we door te veel hooi op onze vork te nemen, verzanden in een onoverzichtelijke hoeveelheid gegevens. Het register heeft wat ons betreft nut door de algoritmes van de rijksoverheid verplicht inzichtelijk te maken voor eenieder die ermee te maken krijgt. Kan de staatssecretaris hierop reflecteren?

Daarnaast is het teleurstellend dat er weinig overheidsonderdelen vrijwillig meewerken aan het Algoritmeregister, zeker omdat er nog steeds verschillende hoogrisicoalgoritmen door de overheid worden gebruikt, zoals beschreven in het rapport van vorig jaar van de Algemene Rekenkamer. Welke instrumenten heeft de staatssecretaris om het aantal algoritmen in het register te vergroten in afwachting op het verplichtende karakter?

Ten slotte, voorzitter. De overheid is een gulzige dataverzamelaar. Vaak is dat noodzakelijk voor een goede dienstverlening, maar soms worden er gegevens verzameld die niet noodzakelijk zijn voor het uitvoeren van bepaalde overheidstaken. Ik heb hier eerder al vragen over gesteld, zoals bij de begrotingsbehandeling vorig jaar. Het rapport van de Algemene Rekenkamer waar ik zojuist al naar verwees, concludeert dat er bij de politie nog steeds meer gegevens worden verzameld dan noodzakelijk zijn voor de berekeningen. De Raad van State adviseert in haar rapport Digitalisering in wetgeving: maak afspraken over datagebruik. Afgelopen maandag heeft de minister van BZK nog de Big Brother Award mogen ontvangen. Kortom, er is ruimte voor verbetering. De VNG stelt voor om een transparantiebeginsel op te nemen in de algemene beginselen van behoorlijk bestuur. Hoe kijkt de staatssecretaris hiernaar? Welke acties worden verder in gang gezet om orde te brengen in de verzameldrift van data van de overheid? Ten slotte wil ik me aansluiten bij de vragen van GroenLinks over de mensenrechtentoets.

Dank u, voorzitter.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Afgelopen jaar heb ik mij vanuit de VVD in kunnen zetten voor ons mooie midden- en kleinbedrijf. Vanaf heden mag ik mij als VVD-Kamerlid, en tevens oud-IT-ondernemer, met genoegen ook bezighouden met Digitale Zaken en Digitale Overheid. Dat is een portefeuille die zowel de veiligheid als de economische situatie van de mensen raakt. Digitale zaken gaan niet alleen over IT- en softwaresystemen. Tijdens mijn studie informatica kwamen juist veel ethiek, logica en transparantie over ICT-systemen naar voren. Het is bijvoorbeeld in gebruik van bepaalde technieken en functies verantwoord of niet binnen de IT. Dat is een heel belangrijk punt.

Voorzitter. Elke maand neemt de overheid miljoenen beslissingen, bijvoorbeeld over wie wel en wie geen huurtoeslag krijgt. Voor al die beslissingen gebruikt de overheid algoritmes. Er zitten kansen maar ook risico's aan het gebruik van deze algoritmes. Een zeer belangrijk punt hierbij is hoe we zorgen voor een eerlijke totstandkoming van de algoritmes.

Voorzitter. Zonder algoritmes zouden we namelijk ook heel veel meer ambtenaren moeten hebben om elke dag al die beslissingen die de overheid moet nemen, te realiseren. Het moet duidelijk zijn dat de inzet van algoritmes en data-analyse binnen de overheid niet leidt tot beperking van de persoonlijke vrijheid en privésfeer van burgers en ondernemers. Ik wil de staatssecretaris vragen hoe zij dit wil verwezenlijken. Tevens wil ik weten hoe zij ervoor gaat zorgen dat deze uitkomst ethisch verantwoord en in overeenstemming met de juridische principes van onze samenleving is, zodat dit niet leidt tot ongelijke behandeling van burgers op basis van bijvoorbeeld ras, gender of socio-economische status.

Voorzitter. Ik ben blij dat er een start is gemaakt met het algoritmeregister, waarin nu inmiddels 109 algoritmes geregistreerd staan. De VVD zou graag willen dat de staatssecretaris meerdere instanties najaagt om eerder dan eind 2024 hun algoritmes te laten registreren. Alle zbo's, provincies, gemeentes en waterschappen moeten ook op een geautomatiseerde manier het register vullen. Nu gebeurt dat niet automatisch en op verschillende manieren.

Voorzitter. Wat betreft de toetsing van algoritmes heeft de Autoriteit Persoonsgegevens dus de taak om deze uit te voeren. Er is hiervoor ook een apart team aangesteld. Daarbij heb ik wel enkele vragen. Wat is het mandaat van de Autoriteit Persoonsgegevens? Kan de Autoriteit Persoonsgegevens ook handhaven? Heeft de Autoriteit Persoonsgegevens ook genoeg kennis in huis om alles te toetsen? Test de Autoriteit Persoonsgegevens ook op pilot- en demoalgoritmes? Ik denk dat het goed is dat er getoetst wordt op zowel bestaande als nieuwe algoritmes. Daarbij is het van belang dat niet alleen getoetst wordt of deze algoritmes, maar ook of de besluiten die daaruit komen en die grote effecten hebben op het leven van mensen, aan de AVG voldoen. Gaat de Autoriteit Persoonsgegevens helpen bij het maken van onderscheid tussen het verwerken van data en de algoritmes? De werking van algoritmes uitleggen is complex. Hoe weet een burger wat het in normale taal betekent?

Voorzitter. Naast de Autoriteit Persoonsgegevens zijn er verschillende andere toezichthouders die ook toegevoegde waarde kunnen hebben. Ik wil de staatssecretaris vragen hoe de andere toezichthouders zich verhouden tot de Autoriteit Persoonsgegevens. Waar ligt het zwaartepunt bij het toezicht? Wat is de relatie met de regelgeving die uit Brussel komt? Welke wetgeving is er in Nederland nog nodig?

We hebben de komst van een algoritmeregister in het coalitieakkoord beloofd en nu is er ook wat gedaan. Het is ook wel goed om aan te geven dat er wat gebeurt. Dat is wel een compliment waard, ook al is het nog niet gevuld. Goed dat we dat dus doen. Ik realiseer me echter wel dat we alleen met incidentele probleemaanpak bezig zijn. Een structurele oplossing mist nog. We kunnen elke keer als er een incident met een algoritme is reactief handelen. Dat is goed geweest voor het begin, maar nu moeten we het inzichtelijk maken. We weten dat het een structureel probleem is, dus we moeten het ook ook systematisch en structureel oppakken en oplossen, en wegblijven van incidentenpolitiek. Denk hierbij bijvoorbeeld aan het proces van de controle van een jaarrekening van de gemeente door de accountant.

Voorzitter. Tot slot. Wat de VVD betreft is het van belang dat we inzichtelijk maken wat we verzamelen en waarom, en dat we in gewonemensentaal uitleggen wat we hiermee doen. Dat is voor ons het vertrouwen terugwinnen en teruggeven. Ik vind dat we daarmee op de goede weg zijn, maar we zijn er nog niet.

De heer Rahimi (VVD):

Ik gaf net al aan dat algoritmes gewoon nodig zijn, anders heb je honderdduizenden ambtenaren nodig. Als je 107 rijdt en je krijgt een boete, is dat ook een algoritme. Dus ja, die algoritmes heb je nodig. De vraag is niet wanneer wel en wanneer niet. Wat ik alleen aangeef, is dat het belangrijk is dat dit inzichtelijk is en dat aan de hand daarvan duidelijk is welke beslissingen worden genomen.

De heer Rahimi (VVD):

Het enige wat ik aangeef, is dat die inzichtelijk gemaakt moeten worden, zodat we kunnen toetsen wanneer wel en wanneer niet. Nu zijn die niet inzichtelijk, maar vraagt mevrouw Leijten mij nu wel wanneer wel en wanneer niet. Dat weet ik niet.

De heer Rahimi (VVD):

Ik zal proberen antwoord te geven. Met incidentenpolitiek bedoel ik het volgende. Ik geef alleen aan dat er elke zoveel tijd iets naar buiten komt van "dit werkt niet goed" of "deze data zijn verzameld". Wij hebben gewoon op verschillende vlakken oplossingen voor verschillende systemen. Ik gaf net ook al een voorbeeld. Een gemeentelijke administratie wordt bijvoorbeeld elk jaar gecheckt. Daar zijn afspraken over. Die hebben een toezichthouder, die dat controleert. Ik geef alleen aan dat er niet alleen algoritmes zijn die er nú zijn, maar dat er ook algoritmes zijn die gaan komen. We moeten nadenken over wat voor effecten die hebben op welke data, maar daarvoor moeten die inzichtelijk zijn en moeten we duidelijk hebben welke algoritmes we gebruiken en waarvoor. Kijk bijvoorbeeld naar gebruik bij verwarde personen. Een algoritme is niets dan een calculatie. Mevrouw Leijten heeft het over de techniek en IT, maar het is gewoon een calculatie. Als iemand valt die een sensor heeft, gaat er een alarm af en kan er hulp worden ingeroepen. Dat is ook een algoritme. Ik kan verder geen inhoudelijk antwoord geven op de vraag welk algoritme goed is en welk algoritme niet. Er zijn tienduizenden algoritmes.

De heer Rahimi (VVD):

Ik wil echt wegblijven van fake. U zegt: een echte toezichthouder. Ik begrijp wat er gezegd wordt. Mijn punt is het volgende. De Autoriteit Persoonsgegevens controleert op de persoonsgegevens, die data, maar er zijn zo veel meer dingen. Er zijn zo veel meer toezichthouders. Er zijn toezichthouders op media en financiële toezichthouders. Al die disciplines en domeinen hebben nu inderdaad niet één toezichthouder in zich. Ik stel dus voor — dat vraag ik eigenlijk ook aan de staatssecretaris — om te komen tot een oplossing. Het feit dat wij nu dit debat hebben, is echt belangrijk. Het is belangrijk dat we nu al structureel nadenken over de manier waarop we het in de toekomst inrichten en dat toezicht gaan vormen. Hoe exact gaan we dat doen, en is de nieuwe vorm goed of niet? Dat kan je nu niet beslissen en daarom heb ik die vraag ook gesteld. Ik heb best wel wat vragen gesteld.

De heer Rahimi (VVD):

Ja, want een toezichthouder zonder tanden …

De heer Rahimi (VVD):

Volgens mij wordt er nu onderhandeld over de AI Act. Volgens mij is die nog niet rond. Ik heb geen inhoudelijk idee over hoe die AI Act in elkaar moet zitten. Dat is ook niet mijn woordvoerderschap, moet ik eerlijk bekennen. Maar nogmaals, bij algoritmes wil je gewoon willen uitleggen: dit is bedacht om het vertrouwen terug te winnen. Het is bedacht om te kunnen zien welke data erin gaan, wat er gebeurt, wat eruit komt en welke beslissing er genomen wordt. Dat wordt inzichtelijk gemaakt. Daar gaat het om. En daarvoor moet je niet 109 algoritmes hebben, maar alle algoritmes, over alle lagen. En tegelijkertijd wil je exact weten dat het niet alleen maar voor het algemeen belang is. Ik mag hopen dat wat wij doen als gemeente, provincie, waterschap of Tweede Kamer altijd in het algemeen belang is. Je wilt zeggen voor welke wet het algoritme wordt toegepast en waar het voor dient. Is het voor de Politiewet? Voor de Gemeentewet? Dat is volgens mij belangrijk. Er moet dus inzichtelijk gemaakt worden wat erin gaat en welk doel het dient. Op de vraag over de AI Act heb ik geen antwoord, sorry.

De heer Rahimi (VVD):

Ik ga graag in op het voorstel om hier later op terug te komen — dank daarvoor overigens — want twee jaar geleden zat ik nog niet eens in de Kamer. Ik ga daar dus graag op in.

Mevrouw Koekkoek (Volt):

Dank, voorzitter. Wij zijn kritisch op het kabinet als het aankomt op digitalisering, omdat er de afgelopen jaren weinig bestuurlijke visie is geweest op dit onderwerp. Nou brengt deze staatssecretaris daar verandering in en dat waardeer ik, maar het kan en moet nog ambitieuzer. Het algoritmeregister is een goede stap, maar het is nog niet af. Om te komen tot een werkend systeem is het daarom belangrijk om de komende maanden samen met de Kamer, burgers, medeoverheden en uitvoeringsorganisaties na te denken over de doorontwikkeling van het register. Mijn eerste vraag aan de staatssecretaris is daarom wie zij betrekt bij het uitwerken van het algoritmeregister. Wat Volt betreft komen alle algoritmes die door overheden en semioverheden in Nederland worden gebruikt centraal in één algoritmeregister. Dat lukt alleen door het gebruik van het register te verplichten voor overheden, met een mogelijkheid om die verplichting te handhaven. Dat betekent een wettelijke grondslag. De staatssecretaris heeft in het AI-debat al aangegeven daarmee aan de slag te gaan, maar wel te willen wachten tot de AI-verordening er is. Ik vind dat een gemiste kans. Daarom vraag ik de staatssecretaris niet te wachten op de uitwerking van de AI-verordening, maar een wettelijke grondslag voor verplichting van het algoritmeregister zo snel mogelijk te verankeren in de wet. Dat kan met een kaderbepaling waarbij de daadwerkelijke invulling door middel van AMvB gebeurt. Daarmee creëren we nu snelheid en later wendbaarheid. Ik vraag de staatssecretaris ook om een brief te sturen met de daarin de dilemma's en de afwegingen voor het komen tot een dergelijke wettelijke verplichting.

Het register bestaat uiteraard niet in een vacuüm. Je hoopt in het register terug te zien dat alleen algoritmes worden gebruikt die via een ethisch waardekader tot stand zijn gekomen, dat er geen grondrechten geschonden worden. Je hoopt dat duidelijk is voor burgers hoe een besluit tot stand is gekomen. Daar moet je dus bij het ontwikkelen van algoritmes al rekening mee houden. Als je ze inkoopt, dan moet je de toepassing ervan begrijpen. Ik vraag de staatssecretaris of zij het idee heeft dat er nu voldoende wettelijke kaders zijn om de ethische totstandkoming van algoritmes te garanderen en ook hoe het zit met de uitvoering van de breed aangenomen motie van DENK om bij besluiten van de overheid aan te geven of sprake is geweest van het gebruik van algoritmes in die besluitvorming. Wordt dat al toegepast of moeten we ook daarvoor een verplichting opnemen in de wet?

Voorzitter. Dan nog een aantal punten over data-ethiek. Ik zeg het vaker, in deze commissies en andere commissies: er wordt door het kabinet veel wetgeving gemaakt die niet in lijn is met privacywetgeving, niet handelt in de geest van het grondrecht op de bescherming van privacy. Ik noem een paar voorbeelden: PNR-gegevens, de anti-witwaswet en de NCTV-wet. Dat doet heel erg veel afbreuk aan de geloofwaardigheid en betrouwbaarheid van de overheid en dat moet beter. Een oplossing is om als onderdeel van de subsidiariteitstoets te onderzoeken of er voor verwerkingen van persoonsgegevens technische oplossingen zijn waarin gegevensverwerking zo veel mogelijk wordt beperkt, waarbij er ook aan wordt gedacht of er vanuit de samenleving oplossingen bestaan. Ik ben daarom benieuwd hoe de staatssecretaris hierover denkt. Wordt er al genoeg gekeken naar technische oplossingen voor dataminimalisatie en is de IT van de overheid daar dan op toegerust?

Dank u, voorzitter.

Mevrouw Leijten (SP):

Voorzitter. Dit commissiedebat heet Inzet algoritmes en data-ethiek binnen de rijksoverheid, maar over data-ethiek hebben we het dan eigenlijk heel erg weinig. Het gaat over een toezichthouder, maar wat gaat die toezichthouder nou precies doen? Dat is onduidelijk. Het gaat over een algoritmeregister, maar wat daarin moet worden opgenomen, wanneer en op straffe van wat is onduidelijk. Er zijn rapporten geschreven, er worden onderzoeken gedaan en er worden werkagenda's opgesteld. De bestuurlijke drukte rond de algoritmes is enorm, maar de fundamentele vraag wat wij nou vinden dat er wel mag en niet mag met de inzet van algoritmes wordt onvoldoende besproken. Welke waarborgen willen we daarbij en welk toezicht? Allemaal vragen waarop nog geen antwoord is.

Toch gaan we ondertussen gewoon door met het inzetten van algoritmes die verregaande nadelige consequenties kunnen hebben voor mensen. Vinden we bijvoorbeeld dat algoritmes mogen worden ingezet op het voorspellen of kinderen het criminele pad op gaan? Vindt de staatssecretaris dat eigenlijk een goed idee? Welke waarborgen zou ze daar concreet bij willen hebben? Wie gaat dat in de gaten houden, als bijvoorbeeld door de politie een dergelijk algoritme wordt ontwikkeld? Wie maakt welke afweging op welk moment? Welke beperkingen stelt het kabinet eigenlijk aan het inzetten van zelflerende algoritmes? Als het gaat over de jeugdzorg in Amsterdam, het Top400-algoritme waar ik naar verwijs, is de SP eigenlijk pislink over de beantwoording. Het gaat gewoon door. Er zijn dus kinderen, niet crimineel, die in systemen komen als zijnde potentieel crimineel en die zo worden benaderd op straat.

Sorry, maar ik heb het vaker gezegd: wij willen geen datasurveillance van de Facebooks van deze wereld en niet in algoritmes van Twitter worden getrokken die giftig zijn, maar we willen ook geen staat die op deze manier surveilleert en mensen in hokjes plaatst. Daarom stelde de SP voor om een waardekader te ontwikkelen. Een waardekader, ik krijg het nauwelijks uit mijn mond. U kent mij als iemand die duidelijke taal wil spreken, maar een waardekader is wat ons betreft de inzet van het kabinet voor hoe je dingen afweegt. Is gebruiksgemak, de voorspellende waarde daaruit, het voordeel of is het privacy? Wat weegt zwaarder? Op het moment dat we zo'n afwegingskader, zo'n waardekader, hebben, kunnen wij als Tweede Kamer controleren of het goed genoeg is of dat we het anders willen. Dan kan een toezichthouder daar toezicht op houden. Nu doen we maar wat. Wat de techniek mogelijk maakt, wordt ingezet, met alle risico's van dien. De Raad van State, de Wetenschappelijke Raad voor het Regeringsbeleid, Rathenau Instituut, Amnesty en Tweede Kamer uiten zorgen op zorgen op zorgen, maar deze staatssecretaris zegt doodleuk: nee, ik ga algoritmes niet stoppen, ook niet als we niet zeker weten of ze goed zijn, want dan staat de overheid stil. Ja, maar dan hebben we dus een probleem met die overheid! Want natuurlijk wil niemand de overheid stilzetten. Maar we willen ook niet dat mensen in een fuik van profilering lopen. Dan moeten we wachten op Europa op het punt van algoritmes, want de AI Act regelt van alles, maar die gaat niet de mensenrechtentoets die wij hebben ontwikkeld, regelen. Hoe gaan we daar dan mee om? Waarom wachten we er nou precies op?

We hebben trouwens gisteren nog gezien dat er een uitspraak van het gerechtshof is. Daar is het ook in het mondelinge vragenuurtje over gegaan. Er moet een rechter aan te pas komen om te zeggen dat je toch niet op afkomst mag selecteren. Wat gaan we daar eigenlijk mee doen, vraag ik deze staatssecretaris. Gaan we tegen die uitspraak in cassatie? Met "we" bedoel ik "de regering". Ik hoop dat toch niet.

Er zijn moties aangenomen over het gebruik van risicoprofielen, van vervuilde data, van het opschonen daarvan. Er is een heel programma opgesteld. "Motie 21" heet dat achter de schermen. Er zijn rapporteurs op aangesteld. Daar zou het vandaag ook over gaan. Maar dat is uitgesteld. Waarom? Het is niet af. Ik kan u dit vertellen: ieder ministerie gaat er anders mee om en iedereen onderzoekt het op een andere manier en iedereen heeft een andere definitie. We weten zeker dat de definitie bij politie en justitie totaal langs het probleem heen scheert. Dus wat zijn we nou precies aan het doen?

Voorzitter. Ook dat algoritmeregister … O nee, ik moet op de tijd letten. We krijgen een toezichthouder en een algoritmeregister, maar we hebben daarbij een uitzondering op de rechtshandhaving. Waarom is dat nou gedaan?

Tot slot, voorzitter. Er is gekozen voor de Autoriteit Persoonsgegevens. Niks ten nadele van de Autoriteit Persoonsgegevens, maar we weten dat die al jarenlang eigenlijk tegen de klippen op werk heeft en geen mensen of geen funding heeft, ondergefinancierd is. Die krijgt een nieuwe taak met het handhaven van de zwarte lijsten in de zorg. Gisteravond hebben we daar een wetsvoorstel over gehad. Ze krijgt nu een nieuwe taak voor dat register en als algoritmetoezichthouder. Hoe krijgen we dat in hemelsnaam voor elkaar en hoe voorkomen we dat we over drie jaar zeggen: we hebben het allemaal wel opgetuigd, maar we hebben feitelijk geen toezicht?

Mevrouw Kathmann (PvdA):

Dank u, voorzitter. We spreken al de hele tijd over algoritmes. En ik zei het net al, als we erover spreken, moeten we niet denken dat het een dingetje op zichzelf is. We kunnen niet met registers, toezichthouders of mensenrechtentoetsen de hele ethische discussie over algoritmes platslaan. Wij vinden dat altijd heel erg prettig, want dan kan je dingen in een malletje, handreiking of beleidsnotitie stoppen. Maar dat gaat gewoon niet. Neem alleen al het stellen van de vraag "wat als het algoritme het bij het verkeerde eind heeft?" Dat moeten we altijd blijven doen. Als het antwoord nou is dat het algoritme het bij het verkeerde eind had, wat doet dat dan met besluitvorming en overheidshandelen? Dat is ongelofelijk belangrijk.

Ik zei het hier al eerder: a fool with a tool is still a fool. Dat betekent niet dat wij allemaal idioten zijn; dat zeg ik hier niet mee. Maar het betekent wel dat we de discussie over data-ethiek moeten blijven voeren. In de documenten die op ons af zijn gekomen, zie je ook echt dat het pas in de kinderschoenen staat. Ik snap daarom ook zeker de frustraties van de voorgaande spreker, mevrouw Leijten van de SP.

Toch is de Partij van de Arbeid blij met de stappen die door het kabinet zijn gezet met die algoritmetoezichthouder/het expertisecentrum en ook met het algoritmeregister. Zeker de moties van Klaver en Van Baarle hebben veel goeds gedaan om die stappen te kunnen zetten. Maar ik had wel echt een groot aantal vragen. De meeste zijn gesteld, dus die ga ik niet herhalen. Ik weet dat het stevige vragen waren, maar ik sluit me toch aan bij de vragen van de heer Van Baarle over de algoritmetoezichthouder. Waar zijn de tanden nou gebleven? Het duurt namelijk echt allemaal al erg lang. Wij snappen ook dat de staatssecretaris dat vindt. Maar als we dan iets optuigen, laten we dan haast maken en gelijk dingen optuigen met tanden.

Als het gaat over de normontwikkeling bij de toezichthouder, wil ik me graag aansluiten bij de vragen van het CDA. Als het gaat om algoritmen en besluitvorming — dat is ongelofelijk belangrijk; ik zei het net al — wil ik me heel graag aansluiten bij de vragen die daarover zijn gesteld door Volt.

Het aantal algoritmes dat is aangemeld door de overheid bij het algoritmeregister is natuurlijk heel bedroevend. Daar heeft GroenLinks scherpe vragen over gesteld. Daar wil ik me heel graag bij aansluiten. Hetzelfde geldt voor de vragen van GroenLinks over de mensenrechtentoets.

Ik kon al mijn vragen dus wegstrepen, maar ik wil de staatssecretaris wel nog om één reflectie vragen. Dit gaat over Joris Krijger, promovendus aan de Erasmus Universiteit. Laatst was hier ook stuk over in Trouw. Hij zegt dat zo'n algoritmeregister an sich helemaal niet voldoende is. We hebben eigenlijk expertteams nodig die zich helemaal mogen ingraven in zo'n algoritme, met geheimhouding of wat dan ook, want soms geeft de overheid aan dat het anders niet kan. Zo kan het algoritme helemaal worden doorgekliefd en kan er worden gezien hoe het tot stand is gekomen, hoe het is ontwikkeld en hoe het is toegepast. Dat is dus meer dan alleen een vinkje zetten als het in het register staat.

Tot slot zou ik graag een reflectie willen van de staatssecretaris op die expertteams. Moeten we die niet breder inzetten? Er is namelijk een commissie bij het UWV. Die heeft wel een hele andere taakomschrijving, maar misschien zou je dit daarmee samen kunnen voegen tot een soort commissie met tanden; laat ik die zo noemen.

Tot zover, voorzitter.

De voorzitter:

Aan de orde is het commissiedebat Inzet algoritmes en data-ethiek binnen de rijksoverheid. We hebben net de eerste termijn van de Kamer gehad en we zijn aanbeland bij de beantwoording van de gestelde vragen door de staatssecretaris. Ik geef de staatssecretaris het woord. Nog even ter herinnering voor de leden: drie interrupties in tweeën.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Zoals u suggereerde, heb ik een korte introductie gemaakt. Daarna zou ik de gestelde vragen willen beantwoorden in een viertal blokjes, te beginnen met het blokje over algoritmes, dan over toezicht, dan over mensenrechten en daarna nog een blokje met andere onderwerpen die niet in een van deze passen. Ik ga proberen dat zo kort mogelijk te doen.

De kern van dit debat is de aandacht die we moeten hebben voor de inzet van algoritmes en data-ethiek. De impact daarvan, weten we allemaal, is ontzettend gegroeid in de afgelopen jaren in onze hele samenleving. Dat geldt lang niet alleen voor de overheid. Op allerlei plekken in onze samenleving worden algoritmes gebruikt. We weten dat die ons fantastische dingen kunnen brengen, maar we weten ook dat er gevaren zitten aan het gebruik van algoritmes, met name als het gaat over mensenrechten en de mate waarin we nog controle hebben over ons eigen leven.

We hebben op 25 januari ook over dit onderwerp gesproken en dat doen we vandaag opnieuw. Dat is goed, omdat we vanuit het werkprogramma dat dit kabinet heeft gemaakt vooral bezig zijn met het nadenken over de vraag: hoe kunnen we algoritmes in een positieve zin brengen en stimuleren? Hoe kunnen we de maatschappelijke en economische kansen ervan zo goed mogelijk benutten? Maar vooral ook: hoe kunnen we zorgen dat er voldoende aandacht blijft voor mensenrechten, voor ethiek, niet alleen maar voor de algoritmes die er vandaag de dag al zijn, maar zeker ook voor algoritmes en nieuwe technologieën die zich in de komende tijd gaan ontwikkelen?

Vanuit de werkagenda die is opgesteld, doen we dat vanuit het kabinet op verschillende manieren. We doen dat door in Europees verband heel actief in te zetten op zorgen dat er goede verordeningen komen voor algoritmes. Die zorgen namelijk niet alleen dat we in Nederland goede afspraken maken, maar ook dat algoritmes die elders worden geproduceerd en in Nederland worden gebruikt, of dat nou door de overheid is of door private personen, voldoen aan de vereisten die wij van belang achten. Daarbij zijn fundamentele rechten, mensenrechten, privacy, transparantie — weet je nog wat er precies gebeurt met jouw data? — een belangrijke factor. Dat doen we ook door binnen de Nederlandse overheid een stap verder te zetten. Dat hebben we dan ook gedaan — we komen daar zo meteen verder over te spreken — door het opzetten van een algoritmeregister, door het inzetten van een toezichthouder en niet in de laatste plaats door afspraken te maken, vooruitlopend op de implementatie van de algoritmeverordening vanuit de EU op een manier van werken binnen de overheid die voldoet aan wat het kabinet en zeker ook uw Kamer, zoals ze in eerdere debatten heeft aangegeven, van groot belang vinden. Dat is het eerste wat ik wilde zeggen. Ik ga nu over tot het beantwoorden van de vragen in de verschillende blokjes.

Ik begin met het thema algoritmes. Dan kom ik direct bij de vragen die door de heer Van Baarle daarover gesteld zijn. Hij vroeg het volgende aan mij. We zijn bezig op allerlei manieren om inzicht te krijgen in algoritmes die de overheid op dit moment in gebruik heeft. Dat doen we op verschillende manieren. Er is het register dat we nu aan het vullen zijn, maar er zijn ook de onderzoeken die we hebben gedaan naar aanleiding van de problemen die we eerder hebben gezien, bijvoorbeeld rondom de toeslagen, om per ministerie in beeld te krijgen welke algoritmes worden gebruikt en of daarbij sprake is van onoorbare praktijken, van discriminatie of van het foute gebruik van gegevens. U vroeg in het kader van het opzetten daarvan of we precies weten hoeveel algoritmes er zijn met automatische besluitvorming. Dat klinkt als een heel logische vraag, maar is heel lastig te beantwoorden. Algoritmes met automatische besluitvorming zijn bijvoorbeeld de algoritmes die we in stoplichten gebruiken, maar ook de algoritmes die gebruikt worden bij het toekennen van verkeersboetes. Als je langs een flitser rijdt en te hard of door rood licht rijdt, krijg je ook zoiets. Het punt is dat we dat niet precies weten. Wij selecteren niet zozeer op de vraag of er sprake is van automatische besluitvorming, maar kijken vooral of algoritmes van de categorie hoog risico zijn. Hoogrisicoalgoritmes zijn algoritmes waarbij sprake is van persoonsgegevens of van impact voor mensen in die zin dat er iets met hun data en gegevens gebeurt of dat besluitvorming een grote impact heeft op hun leven. De definitie daarvoor die we ook in Europees verband gebruiken, is eigenlijk het onderscheid dat we maken. Daarbij kijken we dus niet zozeer alleen naar de vraag hoe het precies werkt, maar geven we ook aan of er sprake is van een hoog risico of niet. Op dit moment hebben we dat dus niet. We zijn eigenlijk ook vooral van plan om de registratie van algoritmes te hanteren aan de hand van het criterium wel of geen hoog risico.

Staatssecretaris Van Huffelen:

We hebben daar natuurlijk een eerste inventarisatie van gemaakt. De definitie van hoog risico die op dit moment — in een volgende fase komen we in de triloogfase — gebruikt wordt in die Europese verordening, is dat het erom gaat dat deze algoritmes worden toegepast in situaties waarin er sprake is van systemen waarin persoonsgegevens worden omvat en waarin die algoritmes risico's zouden kunnen bieden voor fundamentele rechten, gezondheid of veiligheid. In de verordening zijn daarvoor ook lijsten en systemen gemaakt. Die algoritmes zouden we ook honderd procent in beeld moeten hebben als we het in eerste instantie over de overheid hebben. Dat zijn precies de algoritmes die in dat register een plek moeten hebben en waarvan dan ook, conform de afspraken die wij daarover eerder hebben gemaakt, niet alleen inzichtelijk moet zijn waarvoor dat algoritme wordt gebruikt, maar ook hoe het in elkaar zit, of er sprake is geweest van een voorafgaande mensenrechtencheck, enzovoorts, enzovoorts, enzovoorts. Dat is dus wat wij onder die definitie verstaan.

Staatssecretaris Van Huffelen:

De helderheid over die definities is, nogmaals, dat we die hebben beschreven in die AI-verordening. Die zal in de komende tijd ook verder worden uitgewerkt. We hebben daarin namelijk opgeschreven dat het gaat over algoritmes waarbij de besluitvorming effect heeft op mensenrechten. Dat gaat noodzakelijkerwijs dus niet over algoritmes die een lift of een stoplicht aansturen. Het gaat wel over de algoritmes die bepalen of je wel of niet in aanmerking komt voor een uitkering, of die werken op het gebied van bijvoorbeeld risicoselectie en dergelijke. Overigens gaat het erom — dat is iets wat we vandaag ook wel aan de orde zullen stellen, denk ik — dat er altijd eerst een afweging gemaakt moet worden van of er überhaupt wel of niet een algoritme wordt ingezet bij de uitvoering van beleid. Als we die hoogrisicoalgoritmes gedefinieerd hebben, moeten we er natuurlijk voor zorgen dat die allemaal in het register komen. Weet ik nu al voor honderd procent hoeveel dat er zijn? Nee, dat weten we nog niet voor honderd procent. Bij de activiteiten die we doen in het kader van de motie op stuk nr. 21 — daarover hebben we u een brief gestuurd waarover we later deze maand een debat zullen voeren — is het natuurlijk de bedoeling dat we ook heel precies weten of we alle algoritmes ook daadwerkelijk in beeld hebben. Omdat ik het zo belangrijk vind dat we dit voor honderd procent in beeld krijgen, gaat het er, wat mij betreft, niet alleen om dat we aan organisaties vragen om dat te doen, maar ook dat we dat uiteindelijk gaan verplichten, zodat we daarover niet alleen in Europa afspraken maken, maar we dat ook binnen de context van de Nederlandse overheid doen. Van de hoogrisicoalgoritmes moet namelijk honderd procent in beeld zijn. Daarvan moet transparant zijn hoe ze functioneren. Die moeten voldoen aan vereisten die bijvoorbeeld gaan over dat je niet alleen maar aan het begin, bij de introductie daarvan, een keurmerk of een toets hebt, maar dat ook tijdens het gebruik daarvan in de gaten wordt gehouden of zo'n algoritme inderdaad nog doet wat het moet doen en vooral of het niet gebiased raakt of op de een of andere manier tot verkeerde uitkomsten leidt.

Staatssecretaris Van Huffelen:

Misschien is het goed om toch even een paar dingen uit elkaar te halen. Bij het uitvoeren van de motie op stuk nr. 21 — nogmaals, we komen daar in een volgend debat verder over te spreken — hebben we aangegeven dat het er vooral om gaat dat we willen onderzoeken of er door de overheid andere algoritmes worden gebruikt waarin sprake is van discriminatie of verkeerd gebruik van persoonsgegevens. Dat is geanalyseerd. Alle departementen hebben hun werk gedaan. Ze zijn daar voor het grootste deel mee klaar, maar moeten de laatste punten nog afronden. Op basis daarvan weet u inderdaad hoeveel van deze algoritmes zij hebben onderzocht. Dat beschrijven ze ook in hun aanpak. Er is ook aangegeven of er sprake is van algoritmes die niet voldoen aan de vereisten of aan de definitie zoals we die hebben gehanteerd. Met u heb ik gezegd dat ik het belangrijk vind dat we dat ook nog een keer onafhankelijk laten toetsen. Daarom heb ik in de brief die ik naar u heb gestuurd ook geschreven dat ik ermee aan het werk ben om dat te laten doen.

De definitie die de AI Act, dus de AI-verordening, gebruikt in Europa, kan ik er nog even voor u bij pakken. Ik wil die in de tweede termijn graag even aan u voordragen. Die geeft inderdaad aan dat het niet alleen over discriminatie gaat, maar definieert ook in bredere zin de verschillende niveaus van risico's van algoritmes. Er zijn algoritmes die je überhaupt niet mag gebruiken, hoogrisicoalgoritmes, laagrisicoalgoritmes enzovoort, enzovoort. Vervolgens wordt er aangegeven welke van deze algoritmes we in kaart moeten hebben, van tevoren een keurmerk moeten hebben en aan allerlei vereisten moeten voldoen. Dat is eigenlijk hetgeen waarmee we werken. Voor een deel overlapt dat uiteraard, want de AI Act gaat ook over racisme, discriminatie, het niet verkeerd gebruiken van persoonsgegevens. Maar ik ben het zeer met u eens dat we in de Nederlandse implementatie van deze verordening — we doen dat bij de overheid dus in het implementatiekader dat we dit jaar opstellen — in ieder geval heel helder moeten stellen welke algoritmes wij definiëren als hoogrisicoalgoritmes, hoe we voor honderd procent dat register kunnen vullen en hoe de toezichthouder vervolgens ook honderd procent kans heeft om daarmee zijn werk te doen, namelijk het toezicht houden op deze algoritmes.

Staatssecretaris Van Huffelen:

Die zorg wil ik natuurlijk graag wegnemen, want volgens mij hebben we precies hetzelfde voor ogen: we willen dat er bij de overheid geen algoritmes worden gebruikt die effecten hebben die we niet willen, zeker op het gebied van discriminatie. Dat is ook precies wat de motie op stuk nr. 21 doet. Nogmaals, we gaan nog uitgebreid met elkaar spreken over de resultaten van die exercitie, van het werk dat we gedaan hebben. Ik vind het wel goed om dit uit elkaar te trekken, want het gaat daar over racisme, discriminatie en een aantal andere effecten. Dat is iets anders dan wat we in de AI-verordening hebben opgenomen. De definities die we daar gebruiken, zijn breder en gaan ook over andere effecten die onwenselijk zijn bij het gebruik van algoritmes. Ik denk dus dat het goed is dat we beide naast elkaar zetten, maar dat we in ieder geval, ook ten aanzien van de motie op stuk nr. 21, op basis van de check die we hebben gedaan, inzichtelijk hebben welke algoritmes de overheid gebruikt en of zij wel of niet voldoen aan de vereisten. We moeten er zeker van zijn dat die lijst 100% dicht is. Nogmaals, alle departementen hebben daar zeer serieus aan gewerkt. Mijn voorstel is, ook naar aanleiding van het debat dat we daar eerder over hadden, om dat nog een keer te laten toetsen, zodat we zeker weten dat er niet iets vergeten is. Het tweede punt is dat we ook verder moeten. Nogmaals, dat doen we op basis van wat we zelf bij de overheid gaan afspreken, in lijn met wat we ook in Europa afspreken. Het oogmerk blijft dus precies hetzelfde, namelijk zorgen dat we echt weten welke algoritmes gebruikt worden en in zicht brengen welke daarvan potentieel niet voldoen, want dan moeten we zorgen dat ze daar echt mee aan het werk kunnen.

Staatssecretaris Van Huffelen:

Ja, daar ben ik het zeer mee eens. Het is ook om die reden dat we de Algemene wet bestuursrecht aan het uitbreiden zijn, want wij vinden het heel belangrijk dat iedere beslissing die de overheid neemt of iedere soort beslissing die de overheid neemt, heel goed inzichtelijk is. Sowieso is er op dit moment al een motivatieplicht. Als je die boete krijgt, moet er dus worden uitgelegd waarom je die boete hebt gekregen, hoe je daartegen in bezwaar kan gaan, enzovoort, enzovoort. Maar ik vind het belangrijk dat gewoon op de website en/of op andere manieren voor iedereen die bijvoorbeeld iets wil aanvragen, zoals een subsidie, inzichtelijk is hoe en met welke gegevens beoordeeld zal worden of je wel of niet in aanmerking komt, bijvoorbeeld voor zo'n subsidie, en waar die gegevens vandaan komen. Dat betekent gewoon helderheid en transparantie. Natuurlijk moet ook helder worden gemaakt of er dan sprake is van algoritmische onderdelen in die besluitvorming, waarbij we ook eerder in debatten over dit onderwerp hebben gezegd dat beslissingen die een direct impactvol effect op je kunnen hebben, bijvoorbeeld de beslissing of je wel of geen subsidie krijgt of dat je belasting wordt aangepast, nooit alleen op basis van een algoritmisch besluit kunnen worden genomen. Er is altijd een menselijke tussenkomst nodig voordat dat besluit daadwerkelijk kan worden genomen.

Staatssecretaris Van Huffelen:

Gelukkig doen we dat wel. Sterker nog, het waardekader en het maken daarvan zijn onderdelen van ons werkprogramma en zijn daarin opgenomen. Ik noem bijvoorbeeld de mensenrechtentoets die we hebben ingevuld. Die begint eigenlijk met de vraag of er überhaupt wel een algoritme nodig is om dit deel van het beleid of deze regel uit te voeren. En eerlijk gezegd vind ik die zelf ongelofelijk belangrijk, want de vraag is dan inderdaad of dit de beste en meest gewenste tool is om in te zetten, nog voordat je vervolgens allerlei vraagstukken behandelt over de verschillende stappen die je dan zet en of er daarin dan ook weer sprake is van het in acht nemen van alle mensenrechten die van belang zijn. Ik denk dus dat het heel goed is dat we daar scherp op zijn en dat we dat als regel nummer één opschrijven in het implementatiekader dat we maken voor de overheid. Maar dat is net zo goed van belang voor verdere vragen. Als eerste stap in het waardekader is het wat mij betreft een belangrijke factor dat je eerst de vraag stelt of een algoritme nodig is.

Staatssecretaris Van Huffelen:

Het begint er in ieder geval mee dat we het eens moeten zijn over wat we willen bereiken. Volgens mij zijn we dat. Dan misschien toch nog even over de vragen die u heeft over de kinderen die worden gevolgd. Dat algoritme wérd inderdaad gebruikt door de gemeente Amsterdam. De burgemeester van Amsterdam heeft aangegeven dat ze vindt dat dat niet meer moet worden ingezet. Het is in juli 2016 ingezet, maar daarna is het niet meer gebruikt. Ik denk dat dat heel terecht is, want dat is precies een algoritme waarvan je niet wilt dat het ook daadwerkelijk wordt ingezet.

Ik denk dat het helder is dat grip krijgen op algoritmes geen makkelijk, eenduidig onderwerp is, want er zijn ongelofelijk veel soorten algoritmes. We hebben het dan niet alleen maar over hoge en lage risico's, over stoplichten versus besluitvorming of over de vraag of je wel of niet in aanmerking komt voor een bepaalde subsidie. We hebben het al helemaal niet over de algoritmes die socialmediaplatforms gebruiken om bepaalde soorten informatie wel of niet naar u toe te sturen. We proberen er niet een beetje, maar met heel veel kracht voor te zorgen dat we helderheid krijgen over wat er nou precies wordt gebruikt, want ik ben het met u eens dat het, zeker ook voor de overheid, heel belangrijk is dat we duidelijk hebben welke soorten algoritmes we gebruiken. Dat geldt overigens ook voor de private sector. Dat is ook de reden waarom die algoritmeverordening in Europa niet alleen gaat over de overheid, maar ook over de private sector. Zo is er transparantie. Zo weten we wat ze doen. De heer Rahimi heeft daar ook iets over gezegd. Zo kunnen we ook aangeven wat we wel en niet goed vinden. Het is niet altijd eenvoudig om dat helemaal van tevoren dicht te regelen, omdat we nog niet al die algoritmes in al hun aspecten goed kennen. Dat is ook precies waar het over gaat: helderheid krijgen over wat er gebeurt, om vervolgens verder te gaan met de stappen die we willen zetten. Daarbij staat voorop dat er een paar hele heldere kaders zijn, namelijk onze Grondwet, mensenrechten en de fundamentele rechten van burgers die we in eerste en in laatste instantie moeten beschermen.

Staatssecretaris Van Huffelen:

Graag.

Staatssecretaris Van Huffelen:

Ja, ik ga door met de vragen. Ik kom bij de vraag van de heer Van Baarle of de ADR de juiste instantie is als we een extra toets willen doen op de uitvoering van de motie op stuk nr. 21. Wij hebben voor de ADR gekozen omdat die deze analyse al bij één ministerie heeft gedaan, namelijk bij het ministerie van Sociale Zaken. We hebben gezien dat die werkt en dat die goed is. De ADR voldoet aan alle aspecten. Ze hebben genoeg kennis en ervaring en kunnen dit onderzoek goed doen. Maar ik informeer u nog over hoe we de uitvoering van dit onderzoek willen doen. Ik heb dat ook toegezegd. Ik informeer u zodanig dat u kunt meekijken, want ik hecht er vooral ook aan dat, als we dit onderzoek extern laten doen, het dan op een manier gebeurt waarvan u ook zelf zegt dat die helpt om de inzichten te krijgen die het moet opleveren.

Staatssecretaris Van Huffelen:

Ik zie die dubbelrol van de ADR eerlijk gezegd niet zo. Zij zijn de accountant van het Rijk en daarmee toetsen ze zijn werk op meerdere vlakken. Overigens spelen bij de toetsing van algoritmes ook anderen nog een rol. Maar het gaat nu over dit onderzoek. We kunnen het ook omdraaien. U kunt ook aangeven dat u denkt dat een andere organisatie dat zou moeten doen. Ik kan dat dan samen met mijn collega's meewegen in dit voorstel.

Staatssecretaris Van Huffelen:

Om het heel praktisch te houden — volgens mij moeten we niet te lang wachten met deze toets — zou ik zeggen: laat u mij als commissie weten welke partij of welke soort partij u zou willen. Dan kan ik die in de overweging meenemen.

Staatssecretaris Van Huffelen:

Heel graag. Perfect.

Staatssecretaris Van Huffelen:

Ik ga door naar de vraag van de heer Van Baarle over de antidiscriminatierichtlijnen van de algoritmeverordening. Worden die ook daadwerkelijk heel concreet? Ja, die zijn heel concreet. Ze zijn opgenomen in het akkoord zoals het er op dit moment is. U weet dat het nog niet definitief is. Er zijn nog trilogen. Er staat in dat data die tot vooroordelen en discriminatie leiden, geïdentificeerd moeten worden en voorkomen moeten worden enzovoort, enzovoort. Dat is dus ook een heel belangrijke kwestie aan onze kant. Bovendien staat erin dat die mensenrechtentoetsen voorafgaand aan de inzet van algoritmes moeten worden gedaan. In mijn perspectief en dat van het kabinet is dit goed geregeld. Maar goed, we moeten natuurlijk wel zien of dat in de definitieve versie blijft bestaan. Ik hoop dat dat zo is en ik heb overigens ook geen reden om aan te nemen dat dat niet zo is.

De heer Van Baarle vroeg ook hoe we voorsorteren op die algoritmeregelgeving vanuit Europa. We doen dat vooral door vast aan het werk te gaan met de overheid en met overheidsorganisaties. We doen dat op verschillende manieren. We hebben natuurlijk al een toezichthouder en we hebben dat register opgezet. Ik kom zo meteen op de detailvragen daarover. Wij vinden het heel erg belangrijk dat wij als overheid en als overheidsorganisaties al gaan voldoen aan de verplichtingen zoals die nu zijn opgenomen, zodat we daar alvast mee kunnen oefenen, zodat we ze kunnen inrichten, maar vooral ook zodat we die dingen die wellicht nog langer gaan duren wat betreft de verordening, al eerder bij de Nederlandse overheid kunnen inzetten. Natuurlijk gaan we daarbij ook samenwerken met de toezichthouders die op dit gebied actief zullen zijn.

Staatssecretaris Van Huffelen:

Dat het concreet moet worden is natuurlijk helder en wat niet mag, staat in de wet. In onze eigen wetgeving staat dat discriminatie niet mag. Dat geldt ook in die Europese verordening. U zegt dat we niet alleen maar moeten wachten tot de regelgeving van Europa komt. Daarom gaan we op basis van dat implementatiekader alvast aan de slag binnen de Nederlandse overheid. Ik kan niet vooruitlopend daarop al dingen regelen voor de private sector, maar wel voor de Nederlandse overheid. Dat is precies wat ik aan het doen ben. Daarbij zullen we heel concreet worden over wat wel en niet mag. In Nederland mag je niet discrimineren, punt. Dat mag er dus ook niet in zitten. We zijn de teksten van dat implementatiekader aan het maken. Dat komt in de komende maanden uw kant op. Ik hoor heel duidelijk uw wens om ervoor te zorgen dat dat zo concreet mogelijk is. Dat ben ik zeer met u eens, want dat maakt het leven altijd fijner en prettiger. Dat ga ik dus voor u doen.

Staatssecretaris Van Huffelen:

Dat is ook precies wat we gaan doen. We gaan dat opnemen in het implementatiekader. We gaan ervoor zorgen dat de Handreiking non-discriminatie by design en het IAMA bijvoorbeeld als toets worden opgenomen. Bij de uitwerking van de AI Act mogen wij, als Nederland, gewoon kiezen welke vorm van toetsing wij gaan hanteren. Dat kunnen we dus gewoon invullen. Dan kunnen we die gebruiken. Misschien dat er in de loop van de tijd nog betere mensenrechtentoetsen of ethische toetsen komen, want die ontwikkelen zich natuurlijk ook. Dat gaat gewoon gebeuren. Het blijft dus niet bij deze algemene omschrijving. Nogmaals, het is wellicht goed om nog een keertje een tekstexegese te doen van de AI Act, maar er staat precies in wat u bedoelt. Er komt een toetsing vooraf. Er komt zelfs een keurmerk voor de hoogrisicoalgoritmes. Dat betekent meer dan dat je toetst. Het moet ook aantoonbaar zijn. Er is een instantie die daarop toeziet om ervoor te zorgen dat het helder is welke toetsing vooraf is gedaan en welke voorzorgsmaatregelen er zijn om ervoor te zorgen dat een dergelijk algoritme niet discrimineert en ook anderszins voldoet aan de vereisten.

Staatssecretaris Van Huffelen:

Dan ga ik naar het punt over de algoritmes. De heer Slootweg vroeg — welkom bij deze commissie, overigens — om een overzicht van de algoritmes waarvan de ontwikkeling is uitbesteed en hij vroeg of ik afspraken kan maken over discriminatie. Ik heb geen totaaloverzicht van welke algoritmes wel of niet zijn uitbesteed. De algoritmes die de Nederlandse overheid gebruikt, kunnen namelijk zelf ontwikkeld zijn, maar ze kunnen ook ingekocht zijn. Voor de regelgeving die wij gaan maken in Nederland, dus dat implementatiekader, maakt het niet uit of het algoritme wordt gemaakt door iemand anders of door een overheidsorganisatie zelf. Het moet voldoen aan de eisen die wij daaraan stellen. Juist met die AI-verordening hebben wij ervoor gezorgd dat keurmerken niet alleen maar worden afgegeven door de ontwikkelaars van algoritmes. De notificatieplicht ligt dus niet alleen bij de ontwikkelaar maar ook bij de gebruiker. Ik vind dat zelf ontzettend belangrijk, want dan is altijd duidelijk wanneer een algoritme wordt toegepast, ook al ben je zelf niet de ontwikkelaar ervan. Nogmaals, dat kader gaan we dus ook hier in Nederland invoeren.

De heer Slootweg vroeg naar de ontwikkeling ... Was die motie van de heer Slootweg? Ik ben even kwijt of die van u was.

Staatssecretaris Van Huffelen:

Dat dacht ik ook. Precies, het ging even mis. Maar het gaat dus over het ontwikkelen van protocollen over hoe te handelen bij de constatering van discriminatie. Een. We gaan dus zorgen dat algoritmes op dit terrein worden gereguleerd. Op het moment dat blijkt dat er algoritmes zijn die toch niet voldoen, vind ik het vooral van belang dat we zorgen dat er zo'n soort protocol wordt ontwikkeld. Dat hebben we op dit moment namelijk niet. Ik denk dat het goed is om dit ook verder te gaan uitwerken. Ik zal zorgen dat ik u snel laat weten hoe we dat zouden kunnen doen.

Dan waren er vragen van Volt over het algoritmeregister. Misschien loopt de volgorde van de partijen nu een beetje door elkaar, maar als ik een vraag daardoor niet beantwoord, dan hoor ik dat graag. Die vraag van Volt ging over de uitwerking van het algoritmeregister. Mevrouw Koekkoek vroeg namelijk: goed dat we nu een start hebben gemaakt, maar hoe gaan we ervoor zorgen dat het algoritmeregister verder wordt gevuld? Ik ben daar hard mee aan het werk. Ik organiseer niet alleen bijeenkomsten daarover, maar ook zorg ik ervoor dat het register zelf in communities en op platforms als Pleio en GitHub verder wordt ontwikkeld. Dat doen we dus open source. We gaan ook aan het werk om te zorgen dat we zo veel mogelijk mensen daarover informeren.

Maar ik zeg u ook toe dat ik mijn collega's in het Nederlandse kabinet nog een keer goed zal aangeven dat dit register er is. Ik zal hun op het hart drukken dat zij en de uitvoeringsorganisaties die onder de respectievelijke departementen vallen, aan het werk moeten om dit register te vullen. Ik ben blij dat we het hebben. Ik weet verder ook zeker dat we het nog verder gaan ontwikkelen en dat het verder gevuld zal worden. Maar hoe meer en hoe sneller we dat doen, hoe beter en hoe liever mij dat is.

Staatssecretaris Van Huffelen:

We zijn daarmee aan het werk en ik zal uw Kamer daar ook over informeren. Het is namelijk niet noodzakelijkerwijs precies hetzelfde als wat we beogen. Maar ik zal zorgen dat we u daar wat meer informatie over geven, want het is inderdaad van belang dat het niet een vrijblijvend instrument maar een verplicht instrument wordt. Maar u weet net zo goed als ik dat wetgeving een tijdje kan duren en daarom hecht ik eraan dat we ervoor zorgen dat, zolang die verplichting er nog niet is, organisaties zo hard mogelijk aan het werk gaan. Ik vind het overigens wel fijn dat de organisaties die al meedoen, hard aan het werk zijn. En dat zijn niet alleen maar partijen binnen de landelijke overheid maar ook gemeenten. Ik vind dat heel verheugend, want dat maakt dat het instrument steeds bekender wordt.

Staatssecretaris Van Huffelen:

In principe hebben we gezegd, volgens mij ook in de brief, dat we willen zorgen dat het register voor het eind van het jaar gevuld is.

Staatssecretaris Van Huffelen:

Maar dan gaat het over de rijksoverheid, hè. Je kan niet voor alle gemeentes bepalen dat zij daadwerkelijk alles al vullen. Maar ik vind dat de rijksoverheid moet zorgen dat we het dit jaar rond hebben.

Staatssecretaris Van Huffelen:

Jazeker. Ik gaf net ook al aan dat we dat actief aan het doen zijn door contact op te nemen, door mensen daarbij te ondersteunen en door hen actief te vragen om het in te vullen. Nogmaals, het helpt daarbij dat gemeenteraadsleden daar vragen over stellen. Ik roep alle gemeenten en alle politieke partijen dan ook op om daar vragen over te stellen aan hun eigen lokale besturen om zo te zorgen dat het wordt gevuld.

Staatssecretaris Van Huffelen:

En die sluit aan op iets wat ik net ook al aangaf, namelijk dat we bezig zijn met dat wetsvoorstel voor de versterking van de waarborgfunctie van de Awb, de Algemene wet bestuursrecht. De bedoeling daarvan is dat al die algoritmes — ik zei het al eerder — in kaart worden gebracht als die onderdeel zijn van besluitvorming door overheden. Die wet is nu in preconsultatie, maar die komt er dus wel aan. En dat betekent dat er zo snel mogelijk daadwerkelijk een wet is om mee te gaan werken.

Ik ga door met een vraag gesteld door de VVD. Hoe zorgen we ervoor dat het register op een geautomatiseerde manier kan worden gevuld? En gaan we dat op korte termijn doen? Ik heb al iets gezegd over dat vullen, maar ik weet niet of dat allemaal geautomatiseerd kan. Ik hoop het wel, want dat helpt ervoor te zorgen dat het een zo makkelijk mogelijk proces is om het register daadwerkelijk gevuld te krijgen.

De VVD vroeg hoe we ervoor zorgen dat de inzet van algoritmes en data-analyse niet leidt tot beperking van de persoonlijk vrijheid en de privésfeer van burgers en ondernemers. Dat is natuurlijk zeker wat we doen, want ons beleid is erop gericht om te voldoen aan alle regels die we daarvoor hebben, want die zijn natuurlijk ongelofelijk belangrijk.

Ik ga verder met een aantal vragen van mevrouw Koekkoek. Zijn er voldoende wettelijke kaders om de totstandkoming van algoritmen te garanderen? Ik denk het wel, ook al zijn al die kaders er nog niet allemaal. We zijn die voor een deel nog aan het ontwikkelen. Ik had het bijvoorbeeld al over dat implementatiekader en de AI Act. We moeten er vooral voor zorgen dat we niet alleen een algemeen kader hebben, maar ook methodes om mee te werken, bijvoorbeeld het IAMA, de mensenrechtentoets, het uitvoeren van de Code Goed Digitaal Openbaar Bestuur enzovoorts enzovoorts. We werken daar dus op verschillende manieren aan, maar klaar zijn we zeker niet, ook omdat er steeds weer nieuwe ontwikkelingen zijn op dit gebied.

Mevrouw Koekkoek vroeg ook naar de motie van DENK die van de overheid vraagt om bij besluiten aan te geven of er sprake is van het gebruik van algoritmen. Dat is precies wat we in die nieuwe aangevulde versie van de Awb gaan doen. We gaan ervoor zorgen dat helder wordt hoe besluiten worden genomen en hoe die tot stand komen. Het gaat daarbij niet alleen om de vraag of er algoritmen worden gebruikt, maar ook om welke data er worden gebruikt voor het nemen van een besluit en waar die data vandaan komen. Als er bijvoorbeeld naar iemands inkomen wordt gekeken of als er wordt gekeken of je wel of niet een subsidie krijgt, dan wordt gekeken waar die gegevens over het inkomen vandaan komen. Die kunnen bijvoorbeeld van de Belastingdienst komen, maar adresgegevens kunnen dan weer uit de BRP komen.

Dan was er nog een vraag, van de PvdA: wat kunnen burgers doen als blijkt dat algoritmes niet tot een juiste uitkomst leiden? Daarvoor gelden natuurlijk altijd bezwaar- en beroepsprocedures, maar wij hebben ook nog een keer expliciet laten opnemen in de AI-verordening dat er een mogelijkheid is om bezwaar aan te tekenen en in beroep te gaan tegen uitkomsten die door algoritmes zijn gerealiseerd. In Nederland geldt daar natuurlijk de procedure voor die we kennen.

Dan was er ook een vraag van de PvdA naar aanleiding van de reflectie van de heer Krijger: is een algoritmeregister wel voldoende? Beter gezegd: ik begrijp dat de heer Krijger vooral aangeeft dat dit niet zo is en dat er meer mogelijkheden moeten zijn voor experts om zich daarin te verdiepen. Dat is inderdaad wat wij heel graag willen. Wij maken een algoritmeregister niet alleen voor bijvoorbeeld de toezichthouder of voor burgers die weten dat er een algoritme wordt gebruikt bij het nemen van besluiten door de overheid, of vanwege transparantie over algoritmes in het privédomein, bijvoorbeeld met betrekking tot algoritmes die worden ingezet door socialmediaplatforms. Wij maken zo'n register ook juist zodat het mogelijk wordt voor onderzoekers, ngo's en belangenorganisaties om inzicht te krijgen in hoe die algoritmes eruitzien en hoe ze werken, dus om ze te kunnen onderzoeken, enzovoort, enzovoort. Alleen maar weten dat het er is, is onvoldoende om te begrijpen wat zo'n algoritme daadwerkelijk doet.

Staatssecretaris Van Huffelen:

Mijn ministerie is met hem in gesprek hierover, dus ik denk dat het goed is dat ik u over de uitkomsten daarvan iets meer laat weten. Wij zeggen met betrekking tot algoritmes natuurlijk dat helder moet zijn wanneer ze gebruikt worden en hoe ze werken, dat ze transparant en open source moeten zijn, dat de codes daarvan helder moeten zijn en dat ook duidelijk moet zijn hoe ze functioneren. We hebben niet voor niets dat register én een toezichthouder die daarnaar moet kijken. Maar ik denk dat het goed is dat ik op basis van het gesprek dat we daarover hebben gevoerd, en wellicht ook op basis van andere gesprekken in dat kader, daar nog iets meer over zeg. Ik ben niet zomaar geneigd om er nog een commissie bij te doen. Ja, ik begrijp dat u dat jammer vindt, mevrouw Kathmann. Ik vind het vooral belangrijk dat we echt structureel inzicht bieden. Daarbij is het ook niet alleen maar zo dat de overheid zelf dat moet doen. We hebben juist gezien dat heel veel controles in dit werkgebied voortkomen uit de communities rondom bepaalde onderwerpen en rondom bepaalde programmatuur. Ik vind het heel belangrijk dat onderzoekers, maar ook belangenorganisaties en anderen, in staat zijn om inzicht te krijgen in hoe die algoritmes werken, zodat er meer mensen aan het werk kunnen om te ontdekken wat hier nou precies gebeurt. Ik kom daar graag op terug.

Staatssecretaris Van Huffelen:

Ja, maar misschien kan ik toch al direct kort antwoord geven op de opmerking dat soms niet alle algoritmes helemaal publiekelijk kunnen zijn, omdat dat bijvoorbeeld te maken heeft met de aard van het algoritme; de toezichthouder heeft altijd toegang. Het is dus niet zo dat de AP of andere toezichthouders die daar in de toekomst wellicht aan worden toegevoegd geen toegang hebben. Die kunnen altijd in de algoritmes kijken, bijvoorbeeld van de politie of van instanties, terwijl dat in het publieke domein niet zomaar kan. Dat deel is dus afgedekt. Nogmaals, ik zal er zeker ook voor zorgen dat dit een onderwerp is dat we met de heer Krijger bespreken.

Staatssecretaris Van Huffelen:

O, ik mag verder? Oké, fijn. Dan kunnen we het inderdaad even over die toezichthouder hebben. In tegenstelling tot het beeld dat er in de eerste termijn van de Kamer leek te bestaan, is het niet zo dat de AP geen bevoegdheden heeft. De AP heeft wel degelijk bevoegdheden om op basis van algoritmes aan het werk te gaan en is ook al in staat om — en dat mag zij ook, als dat nodig is — onderzoeken te doen, boetes uit te delen, enzovoort, enzovoort. De AP heeft twee rollen, namelijk de rol van toezichthouder, met de tanden, de bevoegdheden, waar u het allemaal eerder al over had, en — dat is de tweede rol — het verder uitwerken van het normenkader en het samenwerken met andere toezichthouders. Sommige algoritmes gaan over specifieke soorten werkvelden waarop het nodig en wenselijk is, vanuit de AP, maar ook vanuit ons, om samen te werken met anderen.

Wat natuurlijk nog wel moet worden ingevuld, is welke specifieke bevoegdheden de AI-verordening de AP ook nog zal geven. Maar dat is on top of. Met de huidige bevoegdheden die de AP heeft en die in het kader van algoritmes waarmee persoonsgegevens worden verwerkt, kan zij gewoon prima aan het werk om dat te doen. Sterker nog, we weten dat ze dat ook doet, want op basis van het algoritme heeft bijvoorbeeld de Belastingdienst van de AP een boete gekregen. Het is dus niet zo dat de AP geen tanden heeft. Zij kan wel degelijk aan de gang. Om die vraag nog verder te beantwoorden: zij heeft daarvoor ook middelen gekregen en heeft inmiddels een groep mensen ingehuurd om aan het werk te gaan. De lancering daarvan was begin januari. Het wordt en blijft ook altijd heel erg belangrijk om te bezien of dat voldoende zal zijn — daarover werden ook Kamervragen gesteld — om dat werk in de komende tijd te blijven doen. Dat wordt natuurlijk extra relevant wanneer we meer inzicht krijgen in de extra taken en bevoegdheden die mogelijkerwijs door de verordening uit Europa aan de AP gegeven zullen worden.

Ik heb een aantal vragen van mevrouw Bouchallikh eigenlijk al beantwoord. Die gingen over de deadlines en die thema's. Ik ben u dus niet vergeten, maar anders val ik in herhaling. Even kijken of ik dan het toezicht behandeld heb.

Staatssecretaris Van Huffelen:

Nee, we zijn nog niet bij het kopje toezicht, maar dit waren al vragen over toezicht. Ik ga nu dus snel naar het kopje toezicht.

Staatssecretaris Van Huffelen:

Ja, inderdaad. De eerste vraag was van de heer Slootweg. Die vraag gaat over de doorzettingsmacht en de mogelijkheid om dingen te doen. De AP heeft dus tanden en kan aan het werk, maar we gaan dat verder uitwerken naar aanleiding van de eventuele extra bevoegdheden. Als het gaat over de gezamenlijke normuitleg: dat kan de AP natuurlijk sowieso doen. Zij heeft ook de doorzettingsmacht op het thema van de persoonsgegevens. Voor de andere sectoren gaat de AP samenwerken met andere toezichthouders om gezamenlijk te komen tot de normuitleg. Dat is dus een ontwikkeling die we in de komende tijd zullen zien. De AP heeft ook echt de mogelijkheid om boetes op te leggen of om op andere manieren aanwijzingen te geven; zij kan in ieder geval het instrumentarium daarvoor inzetten.

Ik probeer het een beetje snel te doen.

Staatssecretaris Van Huffelen:

De AP kan op basis van de huidige wettelijke bevoegdheden die ze heeft, toezicht houden op algoritmes waarbij sprake is van het gebruik van persoonsgegevens. Dat kan de AP doen. Dat doet ze ook en dat gaat ze verder ook doen.

Het tweede thema in de brief die ik u heb gestuurd, gaat over het verder ontwikkelen van het toezicht op algoritmes in bredere zin. Daar is nog geen wettelijke basis voor. De toezichthouders hebben wel met elkaar afgesproken om daar een normenkader voor te ontwikkelen. Daar ben ik ook bij betrokken. Dat is onderdeel van de agenda die ik heb gemaakt. We willen namelijk zorgen dat helder wordt aan welke vereisten algoritmes moeten voldoen en hoe het toezicht daarop wordt ingericht. Maar ik vind het prima — bij een vorig debat heb ik daar ook al iets over verteld — dat ik daarover een gesprek heb met die toezichthouders. Als ik kan helpen door nog iets meer op papier te zetten over hoe dat precies loopt, wil ik dat voor u uitwerken, maar de mogelijkheid om daadwerkelijk in te grijpen is er al.

Staatssecretaris Van Huffelen:

Volgens mij ben ik in mijn beantwoording heel precies: de AP heeft, op basis van de huidige wettelijke bevoegdheden, de mogelijkheid om algoritmes waarin persoonsgegevens worden verwerkt, daadwerkelijk te onderzoeken en te acteren op basis van eventuele fouten die ze opmerkt, met uiteindelijk de mogelijkheid om boetes in te zetten. Ik heb aangegeven dat we ook nog de algoritmeverordening hebben, die nu in Europa wordt afgerond. Die zal waarschijnlijk, bijna wel zeker, extra bevoegdheden geven aan nationale toezichthouders. Wij werken hard aan de uitwerking daarvan. Ik heb u eerder al toegezegd dat ik daar met de verschillende toezichthouders over ga spreken. Dat ga ik ook doen. Dat gesprek zal volgende maand, in maart, plaatsvinden met de ACM, het Agentschap Telecom enzovoorts, enzovoorts. We gaan samen met hen kijken hoe we het toezicht op een veel bredere set van verordeningen, maar zeker ook op de AI-verordening, kunnen inrichten en uitwerken, zodat er daadwerkelijk een stelsel van toezicht ontstaat dat doet wat wij met elkaar graag willen dat het doet: ervoor zorgen dat er noch in het private domein, noch in het publieke domein algoritmes kunnen worden ingezet waardoor de regels, wetten en grondrechten van Nederlanders met voeten worden getreden.

Staatssecretaris Van Huffelen:

Het is goed om dat nog een keer te zeggen. Ik heb aangegeven op welke wettelijke basis de AP het werk nu kan doen. Dat betekent dat de AP op dit moment geen expertisecentrum is, maar een organisatie die daadwerkelijk kan handhaven als het gaat over algoritmes. Er zijn ook nog zaken in ontwikkeling. Ik ben het met mevrouw Leijten eens dat het heel fijn zou zijn als we alles al geregeld hadden op dit gebied, maar dat is niet zo. We hebben wel met elkaar afgesproken dat we heel hard aan het werk gaan om de regulering van algoritmes verder vorm te geven. En dat gaan we ook verder doen. Maar dat betekent niet dat er nu niks kan. Dat betekent wel dat we nog veel meer willen. En dat gaan we ook inrichten.

Voorzitter. Ik heb nog een stapeltje antwoorden voor me liggen. Alle vragen over de toezichthouder heb ik al beantwoord. Er liggen nog antwoorden op vragen over de escalatie, maar volgens mij heb ik alle vragen over de toezichthouder inmiddels beantwoord.

Staatssecretaris Van Huffelen:

Nee, zo ken ik haar ook niet.

Staatssecretaris Van Huffelen:

Het spijt mij dat we soms heel veel woorden door elkaar gebruiken. Dat maakt het misschien niet altijd even helder, ook niet voor de mensen die dit debat volgen. Er is inderdaad sprake van regelgeving vanuit de EU. Die moeten we als Nederland uiteraard implementeren. Wij vinden dat heel belangrijke regelgeving. We hebben er hard aan gewerkt om ervoor te zorgen dat die goed is en dat die ook doet wat wij ermee beogen, namelijk ervoor zorgen dat algoritmes alleen maar kunnen worden gebruikt als ze voldoen aan basisgrondrechten en mensenrechten.

Om niet alleen maar te hoeven wachten, hebben we al een aantal stappen gezet. Een van die stappen is het register, het ervoor zorgen dat we dat ook verder gaan vullen. Ik noem het alvast opzetten van de autoriteit, die alvast aan het werk kan. En ik noem voorts het ervoor zorgen dat we, vooruitlopend op die Europese verordening, voor overheidsalgoritmes al aan het werk gaan met het bepalen aan welke vereisten die moeten voldoen. Er moet bijvoorbeeld zo'n privacy-by-designtoets worden uitgevoerd, er moet een mensenrechtentoets plaatsvinden enzovoorts, enzovoorts. Er moet überhaupt worden bepaald of een algoritme wel wenselijk is in die situatie. Dat noemen we het implementatiekader. Daarvan heb ik gezegd dat dat dit jaar nog komt. Dat is één.

Het tweede is dat mevrouw Leijten vroeg naar een waardekader. Zij vroeg dus niet naar een normenkader. Bij dat waardekader gaat het om de vraag hoe je in het algemeen — dus niet alleen als het gaat om algoritmes — de afweging maakt ten aanzien van de wenselijkheid van bepaalde soorten van technologie en het gebruik daarvan. Dat is een onderdeel van de agenda die ik heb gemaakt. Die heeft betrekking op de komende periode, op de komende jaren. Onderdeel daarvan is dat ik die ook ga opstellen. Daar heb ik wel iets meer tijd voor nodig, maar ik hoop u wel in de komende tijd te kunnen informeren over hoe we dat doen, ook omdat verschillende organisaties binnen de overheid in Nederland, bijvoorbeeld gemeenten, al zo'n waardekader hebben opgesteld. Maar wij willen dat dus ook opstellen voor de rijksoverheid. Dus dat is wat ik ga doen.

Staatssecretaris Van Huffelen:

Nee, dat moet niet. Die rol gaat de toezichthouder waarschijnlijk ook niet krijgen, want dan zou de toezichthouder eerst een soort keurmerk moeten uitdelen. Op dit moment staat dat niet in de bevoegdheden van de AP, ook niet als het gaat over andere issues op het gebied van privacy waarin de AP een rol, taak en functie heeft. Maar nogmaals, in de Europese verordening is er wel degelijk sprake van een keurmerk voordat je een algoritme mag inzetten dat onder de hoogrisicocategorie valt. Laten we er helder over zijn: in de meeste gevallen gaat het dan over algoritmes waarin persoonsgegevens worden gebruikt. Daarom is de rol van de AP nu ook al best substantieel. Dan moet dat algoritme dus wel voldoen aan een keurmerk voordat je het mag inzetten. De toezichthouders die dat gaan doen, moeten nog worden aangewezen.

Staatssecretaris Van Huffelen:

Ja, en niet eens op termijn, want dat is precies wat we met die AI-verordening aan het regelen zijn. Die wetgeving heeft directe doorwerking in Nederland en stelt dat er transparantie moet zijn over algoritmes, dat helder moet zijn hoe ze worden gebruikt en welke effecten ze hebben enzovoorts, zowel in het publieke als private domein, dus bijvoorbeeld ook voor socialmediaplatforms.

Staatssecretaris Van Huffelen:

Misschien even om het helder te hebben: die zitten in de DSA, dus in een andere Europese verordening. Maar daar is toezicht op, ja.

Staatssecretaris Van Huffelen:

Het gaat dan vooral over de vraag, door de VVD gesteld, hoe we gaan zorgen dat algoritmes ethisch verantwoord en in overeenstemming met juridische principes worden ingezet. Ik heb daar net al iets over gezegd. Volgens mij heb ik deze vraag dus net al beantwoord; misschien zit die dubbel in mijn stuk. Het is dan maar extra helder dat het algoritmebeleid er inderdaad voor zorgt dat non-discriminatie, transparantie en een gelijke behandeling aan de voorkant worden ingericht, op de verschillende manieren die ik net al heb genoemd, met een implementatiekader voor AI-regelgeving enzovoorts.

Dan de vraag van mevrouw Bouchallikh. Zij zei: waarom is er nog geen mensenrechtentoets uitgevoerd volgens het algoritmeregister? We hebben, overigens ook op mijn verzoek, het vakje in dat register daadwerkelijk ingevuld omdat ik het belangrijk vind om dat te doen. Inmiddels zijn al een heleboel van die assessments gedaan. Voorbeelden daarvan zijn de Belastingdienst, het CJIB, gemeenten en provincies. Ook de gemeente Rotterdam heeft het al ingepast. Maar het is nog niet voor 100% ingevuld in het register. Dat gaan we in de komende tijd actualiseren, want gelukkig wordt het IAMA wel degelijk al toegepast.

De heer Slootweg vroeg of het nodig is om de rechtsbescherming van burgers te versterken als er fouten ontstaan op basis van het gebruik van algoritmes door overheidsinstanties. Wat mij betreft is de rechtsbescherming op dit gebied voldoende ingericht, zowel als het gaat om niet-algoritmegebruik als om algoritmegebruik. Maar zoals ik al eerder aangaf, gaat de Wet versterking waarborgfunctie van de Algemene wet bestuursrecht ervoor zorgen dat helder wordt wanneer een besluit wordt of is genomen met behulp van een algoritme. Zo is ook duidelijk voor mensen hoe dat een effect gehad zou kunnen hebben op het genomen besluit. Daarmee kan de motiveringsplicht aan burgers worden verbeterd en is ook helderder waartegen je in bezwaar of beroep kunt als dat aan de orde is.

Staatssecretaris Van Huffelen:

Het antwoord is ja. Dat doen we natuurlijk met de aanvulling op de Algemene wet bestuursrecht en met dat register, maar dat register is niet iets wat je als niet-opgeleid persoon alleen maar goed kunt gebruiken. Het is vooral bedoeld voor onderzoekers en voor belangenorganisaties. Los daarvan wil ik dat ook voor normale burgers helder is hoe de besluitvorming van de overheid werkt. Dat gaan we dus doen met die aanvulling op de Algemene wet bestuursrecht.

Dan was er nog een vraag van de SP over de uitspraak van de Hoge Raad over etnisch profileren. Die uitspraak kwam ook gisteren aan bod in het debat met de staatssecretaris van JenV. Hij heeft aangegeven dat die uitspraak wordt bestudeerd, dat op basis daarvan een beslissing wordt genomen en dat uw Kamer daarover wordt geïnformeerd. Ik kan daar nu verder niet op vooruitlopen.

Dan was er ook nog de vraag van D66 over het feit dat de Verenigde Staten TikTok verbieden voor ambtenaren en of dat ook van toepassing is op onze ambtenaren. Niet zomaar natuurlijk, want de VS bepalen niet wat onze ambtenaren doen, maar ik begrijp wel de zorg die er is. U heeft daar ook al eerder vragen over gesteld. Niet voor niks zijn we dat ook aan het bestuderen. De Nederlandse overheid heeft in ieder geval gezegd dat wij TikTok niet willen gebruiken voor het delen van overheidsinformatie. Daarvoor gebruiken we wel vaak andere socialmediaplatforms om mensen te informeren over nieuwe regelingen, subsidies of andere soorten informatie. Dat doen we met TikTok op dit moment niet, omdat ons te weinig duidelijk is hoe het platform precies werkt en hoe het omgaat met de data die verzameld worden. Om die reden vind ik het ook belangrijk om te onderzoeken of we dit daadwerkelijk willen gaan invoeren voor alle overheidsmedewerkers. Ik snap uw punt. Ik begrijp ook dat het niet alleen uw vraag is. Ik heb via de media begrepen dat dat gesteund wordt door een viertal partijen in totaal, dus in ieder geval alle partijen van de coalitie. Ik denk dat het inderdaad heel goed is dat we daar zo snel mogelijk een antwoord op krijgen, maar ik wil dat wel goed bestuderen voordat ik daar definitief ja of nee op zeg. Nogmaals, ik begrijp uw zorg. Ik heb dezelfde zorgen over dit medium.

Staatssecretaris Van Huffelen:

Even heel kort dan. Een voorbeeld van dat we dat onderzoek hebben gedaan, is dat we een zogenaamde DPIA hebben uitgevoerd op Facebook Pages. Dat zijn de bedrijfspagina's op Facebook die door de overheid worden ingezet. We hebben de conclusie getrokken dat die volgens ons niet voldoet aan de AVG, aan de privacyvereisten. Daar heb ik u ook verder over geïnformeerd. Daarover zijn wij in onderhandeling met Facebook, met name omdat ik het van belang vind dat uiteraard alle platformen voldoen aan de vereisten voordat we er gebruik van maken. Als ze dat niet doen, is mijn algemene lijn, die ik ook graag wil volhouden, dat ik eerst met hen in overleg ga om te zorgen dat ze wel gaan voldoen aan de vereisten. Als ze dat uiteindelijk niet doen, nemen we als overheid afscheid van hun diensten.

De heer Van Baarle (DENK):

Voorzitter. Laat ik allereerst beginnen met de staatssecretaris hartelijk te danken voor de beantwoording. Ook bedankt dat de staatssecretaris aan de slag wil gaan met het opstellen van de protocollen voor als er discriminatie geconstateerd wordt. Mijn vraag is op welke termijn we die kunnen verwachten. Het is ook fijn om te horen dat er aan de slag wordt gegaan met onze motie om in de Algemene wet bestuursrecht de uitlegbaarheid van algoritmische besluiten mee te nemen.

Voorzitter, dat gezegd hebbende. De staatssecretaris heeft de fractie van DENK in het verleden toegezegd onderzoek te doen naar een discriminerend risicoprofiel in de Basisregistratie Personen. Eerder heeft de staatssecretaris aangegeven dat de resultaten van dat onderzoek in oktober van het vorige jaar zouden komen. Daarna heeft ze gezegd dat die aan het einde van het vorige jaar zouden komen. Ik heb ze nog niet. Mijn vraag is waarom. Ik maak me daar zorgen over.

Voorzitter. Mijn laatste vraag gaat over het implementatiekader van de AI Act. Wanneer kunnen we dat verwachten? Is er ook de mogelijkheid om als Kamer nog in de zwaarte van hoe wij de AI Act kunnen interpreteren mee te kijken en mee te sturen hoe we dat gaan inrichten?

Daar zou ik het graag bij willen laten, voorzitter.

De heer Slootweg (CDA):

Dank u wel, voorzitter. Allereerst bedankt voor uw geduld en dat van de collega's. Ik heb misschien een aantal dingen dubbel gedaan. Dank ook aan de staatssecretaris voor haar antwoorden. Eigenlijk vond ik er één heel aardig. We kijken nu bij de algoritmes vooral naar het zwarte punt, de dingen die niet goed gaan. In de brief gaf ze echter ook aan dat er punten zijn waardoor algoritmes de dienstverlening zouden kunnen verbeteren. Ik vond het best moeilijk om daar vanuit de rijksoverheid voorbeelden van te vinden, maar wellicht heeft ze die wel. Ik weet wel dat die bij gemeentelijke regelingen soms worden toegepast als het gaat over niet-gebruik. Is daar ook niet een rol in om te kijken hoe die betere dienstverlening meer gedeeld kan worden? Ziet de staatssecretaris daar ook een rol in dat algoritmes ook ten goede van mensen kunnen komen?

Mevrouw Bouchallikh (GroenLinks):

Dank, voorzitter. Dank ook aan de staatssecretaris en haar team voor de beantwoording van de vragen. Het feit dat een deel van de vragen van onze commissie veel met elkaar overlappen, laat volgens mij zien dat we met z'n allen een beetje dezelfde kant op aan het duwen zijn. Het is fijn dat de staatssecretaris volgens mij ook aan het meebewegen is.

Ik sluit me wel graag aan bij het sentiment dat we niet moeten wachten tot er vanuit de EU regels komen, maar dat we het zo veel mogelijk hier moeten inbedden. Dat was onder andere de oproep van Volt. Ik hoop dat we in die zin stappen blijven zetten. Ik heb ook vanuit hier de oproep aan onze eigen overheden: maak alsjeblieft haast. Het is namelijk een beetje gênant dat op het moment dat we eindelijk iets hebben geregeld, we moeten wachten op juridische verankering, terwijl we gewoon een gemeenschappelijke plicht hebben naar de burgers. Ik hoop dat de staatssecretaris die boodschap ook wil overdragen.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Dank inderdaad aan de staatssecretaris voor het toezeggen dat ze gaat kijken naar het TikTok-gebruik bij ambtenaren. Ik zou graag van haar willen horen wanneer ze denkt hiermee klaar te zijn. Voor een beetje haast zouden we dit wellicht nog in een tweeminutendebat kunnen doen.

Dan mijn andere vraag. Ik had een gemiste vraag over welke acties verder in gang worden gezet om orde te brengen in de dataverzameldrift van de overheid. Daar heb ik geen antwoord op gekregen.

Ten slotte ben ik heel blij om te horen dat de Algemene wet bestuursrecht versterkt wordt om algoritmes transparanter te maken. Daarbij is mijn vraag: wanneer denkt de staatssecretaris deze naar de Kamer te sturen?

De heer Rahimi (VVD):

Dank u wel, voorzitter. Wij danken de staatssecretaris uiteraard ook voor de antwoorden. Het is goed om te horen dat zij een aantal zaken gaat oppakken, waaronder het aanjagen van zbo's, waterschappen en gemeentes om het in te vullen.

Ik ben ook blij dat ze gaat kijken naar een certificering of een keurmerk. Ik wil even meegeven dat die certificeringen er in het buitenland al zijn. Het is misschien handig om daarnaar te kijken.

Ik gaf net al aan dat het heel belangrijk is dat mensen kunnen meekijken en kunnen acteren, zeker bij de instrumenten die wij als overheid hebben, dus ons instrumentarium. Het gaat vaak over technische dingen en ik denk dat het van belang is dat de mening van filosofen, IT'ers, technici en economen is meegenomen. Dit raakt namelijk echt alles. Ik wil vooropstellen dat we op de goede weg zijn. Dat wil ik echt meegeven en daarvoor wil ik de staatssecretaris complimenteren. Het is belangrijk dat we als overheid op een serieuze en consistente manier verslag uitbrengen over wat we doen, dus de data die erin gaan en die eruit komen en de conclusies. Laten we daar goed mee omgaan.

Ik heb nog één laatste vraag; sorry, voorzitter. In het debat werd over de normen en de kaders aangegeven dat de AP gaat praten met andere toezichthouders. Naar mijn mening is het zo dat wij de kaders stellen en dat elke toezichthouder daar gehoor aan geeft, in plaats van dat de AP dat doet.

Mevrouw Kathmann (PvdA):

Ik wil de staatssecretaris van harte danken voor de beantwoording. Ik ben wel blij dat het tweeminutendebat is aangevraagd, want dan kunnen we de goede stappen die zijn gezet nog een beetje verder in de goede richting brengen met moties.

Terwijl wij het hier over ethiek en data hebben, krijg ik ineens het volgende bericht binnen: "Alle iPhonegebruikers opgelet: er is een wereldwijde datahack gaande op Apple-devices." Ik zie ze hier allemaal staan. "Advies: installeer z.s.m. de laatste software-update."

Ik wil nog wel even doorpakken op de vragen van de VVD over transparantie en bruikbaarheid voor de burger, want dat is gewoon ongelofelijk belangrijk. Transparantie begint met: begrijpt iedereen het? Daarom stel ik de concrete vraag of het algoritmeregister voldoet aan de digitaletoegankelijkheidsvereisten die voor overheidswebsites gelden. Kan de staatssecretaris ervoor zorgdragen dat informatie in het register die door andere overheden wordt verschaft, gecontroleerd wordt op begrijpelijkheid en laagdrempeligheid? En is de staatssecretaris bereid om burgers actief te betrekken bij de nadere uitwerking van het algoritmeregister, bijvoorbeeld door een praktijktoets op effectiviteit?

Mevrouw Kathmann (PvdA):

Ik zou graag nog wat aansporende moties willen indienen op het stukje over het toezicht. Maar ik hoef niet per se het recht om de eerste spreker te zijn als anderen dat tweeminutendebat al eerder wilden aanvragen. Mochten anderen het niet willen aanvragen, dan zal ik het doen, maar ik wil anderen niet het gras voor de voeten wegmaaien.

De voorzitter:

Aan de orde is de tweede termijn van de staatssecretaris. Er is een aantal vragen gesteld. Wij kijken vol verwachting naar de staatssecretaris.

Staatssecretaris Van Huffelen:

Dank u wel. Ik heb altijd de hoop dat ik aan de verwachtingen kan voldoen. Ik ga proberen het heel snel te doen.

Er was een vraag gesteld door de fractie van DENK over de motie rondom de Awb-besluiten. De vraag was of we die zouden meenemen. Wij gaan inderdaad onderzoeken hoe we dat kunnen doen.

Dan de vraag wanneer het onderzoek naar de BRP-algoritmes komt. Dat komt in april. Het implementatiekader is niet een implementatiekader van de AI Act, want die is nog niet vastgesteld. Dat zal waarschijnlijk pas aan het eind van het jaar zijn. Ons eigen implementatiekader willen we in juni aan uw Kamer toesturen.

De heer Slootweg vroeg nog terecht naar voorbeelden over hoe we …

Staatssecretaris Van Huffelen:

Dat is een fair point. Wij laten dit onderzoeken door een externe onderzoeker, die meer tijd nodig blijkt te hebben om het goed te doen. Dat had ik u ook even kunnen laten weten, dus dat doe ik de volgende keer proactief. Maar wij nemen het ook ontzettend serieus, want ik wil net zo goed als u weten wat er nou precies aan de hand is geweest. Mocht het niet in april komen, wat ik niet hoop, dan zal ik ervoor zorgen dat u dat vooraf te horen krijgt.

De vraag van de heer Slootweg ging over voorbeelden van hoe je algoritmes positief kunt laten werken. Denk bijvoorbeeld aan algoritmes die gaan over het niet gebruiken van voorzieningen. Een mooie toepassing is er bijvoorbeeld in het kader van schulden. Dat doen wij vanuit de rijksoverheid via de ELSA Labs. We weten ook dat de gemeente Amsterdam dat doet. Ik ben samen met de minister voor Armoede aan het werk om daarnaar te kijken, omdat het een belangrijk onderwerp is.

Dan was er een oproep van mevrouw Bouchallikh om haast te maken. Dat doe ik graag. Die oproep neem ik mee.

Dan was er een vraag van mevrouw Dekker over wanneer we klaar zijn met het TikTok-onderwerp. Wij proberen dat natuurlijk te doen binnen de beantwoordingstermijn van de Kamervragen. Ik hoop niet dat we daar langer voor nodig hebben, maar ergens in de komende weken zullen we u daar antwoord op geven.

U had ook nog de terechte openstaande vraag over de verzameldrift. Wij hebben als overheid beschikking over allerlei soorten data. Sterker nog, die hebben wij heel erg hard nodig. "Verzameldrift" lijkt een beetje alsof wij data aan het verzamelen zijn voor ons plezier, alsof we dat zomaar doen of doen zonder dat daar nut en noodzaak voor is. Dat beeld zou ik graag willen bestrijden. Dat laat onverlet dat wij er heel goed voor moeten zorgen dat, als wij data tot onze beschikking hebben, wij daar heel zorgvuldig mee omgaan. Daarom hebben we toegezegd dat er data officers zijn. Die zijn we aan het aannemen. We hebben de Interbestuurlijke Datastrategie, samen met lagere overheden. En we willen er juist voor zorgen dat we niet data verzamelen om het verzamelen, maar dat we heel zorgvuldig omgaan met de data waarover we beschikking hebben. Bovendien, en dat is ook op basis van Europese regelgeving, willen we data zo veel mogelijk ter beschikking stellen, zodat mensen ermee aan het werk kunnen.

Staatssecretaris Van Huffelen:

Dat doe ik natuurlijk graag. Daarom hebben we ook de implementatie van de data officers en de mensen die werken aan dit soort thema's. Daarom zorgen we ervoor dat het goed gaat waar data verzameld worden. We hebben er ook toezichthouders voor. Ik maak mij er dus hard voor. Ik kan niet zeggen dat het er altijd honderd procent toe leidt dat er niet ergens bij de overheid iemand is die meer data aan het verzamelen is dan nodig. Maar we doen wel ons uiterste best om de randvoorwaarden daarvoor en het toezicht daarop goed in te richten.

De heer Rahimi had het nog over de certificering en de EU. Terecht, want dat is onderdeel van de AI Act, de algoritmeverordening. Dat gaat over het certificeren van algoritmes en het ervoor zorgen dat je de hoogrisicoalgoritmes pas mag gebruiken wanneer de certificering aan de orde is.

U vroeg nog of het zo is dat ik, of wij gezamenlijk, de normen doen en de toezichthouders de uitvoering daarvan. Dat is precies wat het is. Wij zijn een beetje aan het vooruitkijken. We zien dat er heel veel Europese verordeningen op ons afkomen, heel veel Europese regulering. Daarbij spelen de toezichthouders in verschillende vormen en maten een rol. Daarom hebben de toezichthouders zich op dit onderwerp verzameld. Ik heb daar — dat vertelde ik al — met hen overleg over. Het gaat over toezicht op de uitvoering van digitale wet- en regelgeving. Dan vind ik het belangrijk dat we niet alleen kijken hoe we dat toezicht gaan invullen, maar ook hoe we ervoor gaan zorgen dat we het makkelijker maken voor organisaties, overheden of bedrijfsleven om compliant te zijn. De les die we hebben geleerd vanuit de AVG is dat het helemaal niet zo makkelijk bleek om te bedenken: hoe kan ik compliant zijn, hoe kan ik voldoen aan de vereisten en hoe kan ik het goed inrichten? Daar ga ik samen met de toezichthouders aan werken.

Dan nog even over de toegankelijkheid — dat is een vraag van mevrouw Kathmann — van het register. Binnenkort gaat ons register voldoen aan de zogenaamde A-status. Dat is de norm die we onszelf hebben opgelegd. Dat is nu nog niet honderd procent zo, maar dat doen we wel. Dan zorgen we ervoor dat we binnen een maand, zo is de bedoeling, aan die vereisten voldoen. Daar hebben we dus nog twee weken voor. We betrekken burgers er ook bij. We maken nu een ronde langs bibliotheken om aan burgers te vragen of zij input kunnen leveren voor het verbeteren van het register, voor zover zij vinden dat het onvoldoende toegankelijk is. Dat doen we dus allebei.

Dat was het, voorzitter.

Staatssecretaris Van Huffelen:

Ergens voor de zomer. We hebben nog even tijd nodig.

Staatssecretaris Van Huffelen:

Dat is niet mijn wetsvoorstel, dus daar kan ik niks over zeggen.

Staatssecretaris Van Huffelen:

In brede zin over digitalisering, dus het wordt wel iets breder dan dat.

Staatssecretaris Van Huffelen:

Die toezegging is al eerder gedaan.

Staatssecretaris Van Huffelen:

Dat lijkt mij het meest logisch, als iemand daar Kamervragen over stelt.

Staatssecretaris Van Huffelen:

Eigenlijk gaat het niet om het informeren. We hebben gezegd dat we zo'n protocol willen gaan maken. Ik denk dat dat een zuiverdere …

Staatssecretaris Van Huffelen:

Ergens in het voorjaar.

Staatssecretaris Van Huffelen:

Dan krijgt u keurig een brief van mij.

Staatssecretaris Van Huffelen:

Waarover?