Opruimen vervuilde data

De voorzitter:

Hierbij open ik de vergadering van het commissiedebat Digitale Zaken met als onderwerp Opruimen van vervuilde data. Per fractie is er vier minuten spreektijd. Ik wil drie interrupties toestaan, met vervolgvraag, wat ongeveer neerkomt op zes interrupties. Wij hebben voor deze commissie twee rapporteurs die echt heel veel werk hebben verricht. Dat zijn mevrouw Leijten en mevrouw Dekker-Abdulaziz. Hun rapportage is aan de stukken toegevoegd. Ik geloof dat het zelfs op een soort parlementair papier is afgedrukt. Deze rapporteurs verrichten heel veel werk. Dat doen ze ook voor de verschillende deelcommissies, omdat dit een horizontale commissie is. Daarom komen er, denk ik, tijdens dit debat veel verschillende ministeries en zaken aan bod. We hebben op dit moment vijf sprekers: mevrouw Leijten van de Socialistische Partij, mevrouw Dekker-Abdulaziz van D66, de heer Van Baarle van Denk, de heer Rahimi van de VVD en mevrouw Kathmann van de Partij van de Arbeid. Wellicht voeg ik ook nog iets toe, als er een vraag is gesteld waarbij het christendemocratisch perspectief niet genoeg aan bod is gekomen. Je weet maar nooit hoe dat gaat. Ik wil mevrouw Leijten nu het woord geven.

Mevrouw Leijten (SP):

Dank. Ik kijk met de griffier mee naar de tijd, zodat ik daar niet buiten kom. Dank voor uw mooie woorden voor ons werk als rapporteurs. We moeten dit wel doorgeleiden naar de mensen die ons weer ondersteunen en naar de mensen die dit op de ministeries hebben gedaan. Ik zal proberen te schetsen hoe dat is ontstaan en welke vragen de SP daar nog over heeft. Ik ga ervan uit dat de staatssecretaris de rapportages van de rapporteurs en de vragen die daarin zitten ook meeneemt in haar beantwoording. Dat hoef ik dan niet te dupliceren. Ik hoop dat dat kan; het zijn openbare verslagen.

We hadden die overheid eigenlijk wel mooi ingericht. Die maakte profielen van mensen waardoor we heel snel konden zien of iemand te goeder trouw was of niet. Je kan dan heel snel een uitkering of een toeslag toekennen, of wat extra controle uitoefenen. Op die manier hebben we een goede verzorgingsstaat waarin fraude niet loont. Dat was de gedachte. Dat is alleen ontzettend ontspoord, natuurlijk. Er zijn overal verschillende algoritmes ontstaan, profileringen zijn met elkaar gemixt, er zijn oordelen over mensen geveld die vervuild bleken, mensen werden zonder toets fraudeur gemaakt. Al die data zijn wel verspreid. Dat is een van de lessen die we hebben geleerd uit het toeslagenschandaal.

Toen het kabinet-Rutte III vlak voor de verkiezingen aftrad, was er een debat over dat aftreden. In dat debat is het volgende ter sprake gekomen. We willen dat de overheid niet zo met mensen omgaat. We willen dat de overheid anders met mensen omgaat. Hoe denkt de staatssecretaris dat het daarmee gaat? Is dat al aan het lukken? Er is ook gezegd: die vervuilde data moeten we op gaan ruimen. Die moeten niet meer gebruikt worden; mensen moeten niet nog een keer met die data geconfronteerd worden. Die data kan waar dan ook gaan zwerven: van de Belastingdienst naar jeugdzorg, van jeugdzorg naar de politie, van de politie naar de gemeente of waar dan ook.

Ik hoop dat de staatssecretaris zich realiseert dat mensen te maken hebben met één overheid. Dat de overheid vervolgens in allerlei kolommen en via verschillende ministeries is georganiseerd, waardoor je het opruimen van vervuilde data en het gebruik van nationaliteit per ministerie moet gaan oplossen, hoort voor de uitkomst geen verschil te maken. Het is organisatorische rompslomp. Het is zorgelijk dat we als rapporteurs hebben gevonden, met hulp van die uitstekende ambtenaren, dat er ontzettend verschillend wordt gedacht binnen ministeries. Dat geldt bijvoorbeeld voor wat vervuilde data en profilering is; ze gebruiken daar verschillende definities voor. Over de vragen of nationaliteit gebruiken wel of niet proportioneel is, of het mag, hoe dit vervolgens in algoritmes wordt gebruikt en of je beeldmateriaal wel of niet moet zien als algoritmische besluitvorming, wordt verschillend gedacht. Het beleidsteam dat onder Motie#21 aan de slag is gegaan vanuit Binnenlandse Zaken, waar de staatssecretaris Digitale Zaken onder valt, geeft aan: wij kunnen niets anders, als de verschillende ministeries dit verschillend oplossen. We verdaagden het vorige debat. We zouden dat een paar weken geleden hebben, maar we hadden toen gewoon nog twee departementale verslagen niet. Uit de checks van ministeries waarmee ze bekijken wat ze hebben — dit ging over Buitenlandse Zaken en Defensie — kwam best wat. Ik zou de staatssecretaris dus vooral willen vragen of zij denkt dat deze exercitie iets helpt. Of wordt dit gezien als een soort uitvoerend werk dat men laat doen, maar gaat men niet anders om met algoritmische besluitvorming met mogelijk vervuilde data vanwege profileren? Wordt hier ook van geleerd? Wat leert de staatssecretaris hiervan over haar coördinerende rol? Zou het niet beter zijn als Binnenlandse Zaken ook gewoon een wat meer aanwijzende rol zou mogen en kunnen spelen? Ook zou ik haar willen vragen welk ministerie wat haar betreft het meest notoir is als het gaat over gebrek aan inzicht.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Het is goed dat de motie op stuk nr. 21 is aangenomen in navolging van de kinderopvangtoeslagaffaire. Die motie verzoekt om binnen de gehele overheid een grote schoonmaak te houden in de verzamelde data. Dit hadden we niet kunnen doen zonder de inzet van de staf van de commissie voor Digitale Zaken. Dat zei mevrouw Leijten ook al. Vanuit hier dus een woord van dank.

Voorzitter. Er is een onderzoek verricht naar de vervuilde data bij het Rijk. In schoolse termen zou ik zeggen: een mager rapport, een bespreekgeval. Niet alle onderdelen van de overheid zijn meegenomen, de politie bijvoorbeeld niet. En beeldmateriaal is bijvoorbeeld maar helemaal buiten scope gelaten. Uitgerekend het ministerie van Buitenlandse Zaken en ook het ministerie van Defensie hebben hun rapportages veel te laat ingeleverd. Graag hoor ik een reflectie van de staatssecretaris op hoe dit proces is gelopen. Welke ruimte ziet zij voor verbetering?

Voorzitter. Dat een opruimactie binnen de overheid nodig is, hebben we onlangs kunnen zien. De Autoriteit Persoonsgegevens riep onlangs de minister van Buitenlandse Zaken op het matje. Ondanks dat er ambtelijk tegenstand was, bleef het ministerie een algoritme op basis van onder andere afkomst gebruiken voor visumaanvragen. Wat ons betreft is dat een schoolvoorbeeld van een discriminerend algoritme. Bij het beantwoorden van onze schriftelijke vragen daarover staat in de conclusie van PMP, het bureau dat de algoritmes onderzocht, het volgende. Ik citeer: "Of er bias in het algoritme zit, kunnen wij zonder statistisch validatieonderzoek niet vaststellen." Verderop staat en ik citeer weer: "Mits er geen bias blijkt te zitten in het algoritme, achten wij het IOB/KVV-proces behoorlijk in de zin van de AVG." Mijn vraag aan de staatssecretaris is of het ministerie van Buitenlandse Zaken een statistisch validatieonderzoek heeft gedaan. Zo ja, kan dit met de Kamer gedeeld worden? Zo nee, waarom niet? Is de staatssecretaris bereid deze boodschap zo snel mogelijk door te geven aan het ministerie?

De kwestie van bias, vooringenomenheid dus, die ontstaat door het gebruik van algoritmes, ook al zijn de parameters in eerste instantie onschuldig, blijft ons parten spelen. Zelfs als alle data opgeschoond zijn, kan dat nog steeds ontstaan. Als je door een algoritme alleen fraude zoekt in een bepaalde wijk, dan zul je ook alleen in die wijk iets vinden en dat versterkt de vooringenomenheid. Is het niet een idee om ook dat in de volgende opruimronde mee te nemen? Wat D66 betreft is dit hoofdstuk nog niet afgesloten. Er worden stappen gezet in de goede richting, maar wat ons betreft mag er meer sturing komen van de staatssecretaris. Graag een reflectie.

Afgelopen maandag diende ik een motie in die het voor nieuwe en hoogrisicoalgoritmes van de rijksoverheid verplicht om een mensenrechtentoets uit te voeren en die op te nemen in het register. De staatssecretaris ziet dit als een goede stap, want zodra de AI Act er is, zal die sowieso voor de gehele overheid gaan gelden. Hiermee geeft het Rijk het goede voorbeeld. Dat zijn concrete stappen om vervuilde data tegen te gaan, dus ik ga ervan uit dat mijn collega's het voorstel van D66 volgende week zullen steunen.

Voorzitter, tot slot. Als we één ding zien, is het wel dat het met deze rapportages niet zomaar is opgelost. Deelt de staatssecretaris het standpunt dat een jaarlijkse rapportage over vervuilde data en algoritmes bij elk departement standaard in het jaarverslag moet worden opgenomen?

Mevrouw Dekker-Abdulaziz (D66):

Dan ga ik hier iets puntiger antwoorden. Dank voor deze vraag. Volgens mij is besloten dat ieder departement de motie op stuk nr. 21 zelf uitvoert. En dat is gelijk het probleem. Volgens mij hebben we niet in die motie ingebouwd dat het ministerie van Binnenlandse Zaken coördinerend moet zijn. Destijds bestond er ook geen staatssecretaris voor Digitale Zaken. Daarom vraag ik aan de staatssecretaris of zij haar coördinerende rol beter zou willen oppakken, want tot nu toe is het nog niet heel erg goed gegaan. Dat komt omdat de departementen allemaal los van elkaar rapportages maken.

Mevrouw Dekker-Abdulaziz (D66):

Wellicht is het verbreden van het onderzoek ook wel een goed idee. Ik heb zelf gevraagd om de bias ook mee te nemen in de volgende ronde. Wellicht is dat heel goed.

De heer Van Baarle (DENK):

Voorzitter. Allereerst wil ik een woord van dank uitspreken richting de rapporteurs. Vieze racistische discriminerende data of algoritmen, zwarte lijsten, etnisch profileren, lijsten met afkomst, geloof en politieke voorkeur van mensen, hardnekkige vooroordelen en institutioneel racisme hebben geleid tot jarenlang discriminerend overheidshandelen. Die smerige algoritmen en ranzige databestanden moeten we daarom opsporen en opruimen. De slachtoffers moeten genoegdoening krijgen om racistische rampen in de toekomst te voorkomen.

Voorzitter. Naar aanleiding van de toeslagenmisdaad is er een opruimactie ingezet, maar die hele opruimactie is een volstrekte chaos. Waarom gebruikt elk ministerie een andere definitie? Waarom zijn niet alle definities aan ons bekendgemaakt? Hoeveel waarde heeft deze opruimactie als er zelfs binnen ministeries verschillende definities worden gebruikt? We zien dat verschillende organisaties niet worden meegenomen. Hoe kan het dat de politie en de AIVD niet worden meegenomen? Er is zelfs geen eenduidige definitie van wat een risicomodel is. Er zou een centraal toetsingskader komen, maar dat is er niet eens. Wat zijn we al die tijd aan het doen, als men niet eens weet waar we aan moeten toetsen? Wat wordt er nou precies opgeruimd als elk ministerie wat anders doet? Er is totaal geen regie van deze staatssecretaris. Wat zijn we nou eigenlijk aan het doen? Waarom gaat de overheid zo ongecoördineerd en chaotisch te werk als het gaat om mogelijk racisme?

Voorzitter. Het is niet zo dat we als Kamer niet hiervoor hebben gewaarschuwd. Ik heb dat gedaan in de richting van deze staatssecretaris. En wat zien we nu? We zien dat er totale onduidelijkheid is over wat we met elkaar hebben gedaan. Waarom is er niks met de waarschuwingen van de Kamer gedaan lopende het proces?

Voorzitter. Naar aanleiding van mijn motie gaat de opruimactie extern getoetst worden. Vanwege de chaos is dat keihard nodig. In de opdracht hiervoor lezen we echter dat er alleen gekeken wordt naar de opzet en niet naar de werking en dat het geen onderzoek is naar de mate van accuraatheid, juistheid of volledigheid. Dan is die hele externe toets toch een farce, zo vraag ik aan de staatssecretaris. Dan wordt het toch niets meer dan een procesbeschrijving? Hoe kun je nou van een toets spreken als er niet eens wordt getoetst?

Voorzitter. Wanneer er afkomstgerelateerde gegevensverwerkingen worden gevonden en deze oneigenlijk of onrechtmatig zijn, moeten de betrokkenen worden geïnformeerd. Kan de staatssecretaris ons vertellen hoeveel mensen zijn geïnformeerd? Wordt er ook altijd in kaart gebracht of er negatieve gevolgen zijn geweest? Wat zijn eigenlijk de gevolgen geweest voor mensen die een discriminerend algoritme of vervuilde data hebben opgesteld? Hoe staat het met de uitvoering van de toezegging van deze staatssecretaris om hiervoor een protocol op te stellen?

Voorzitter. Bij het ministerie van JenV is ook geïnventariseerd of er ideologie is verwerkt. Dit is inderdaad gebeurd bij de politie en bij de reclassering. Waarom is dat gedaan? Is dit een politieke voorkeur? In welk proces is dit als een risico gezien? Ook hebben we gezien dat de AIVD op een lijst stond, maar opeens niet is meegenomen in het onderzoek. Hoe kan zoiets belangrijks als de AIVD niet worden meegenomen in dit onderzoek?

Voorzitter. De staatssecretaris benadrukte steeds dat zij een coördinerende verantwoordelijkheid heeft, maar ze heeft een potje gemaakt van die coördinerende verantwoordelijkheid. Ze weet niks, want ze heeft elke keer geen antwoord op elementaire vragen over definities die worden gehanteerd. Ze doet niks, want ze wacht maar op de EU. Ze wil geen wetten maken en voert geen centrale regie. Tot dusver is mijn conclusie dan ook dat deze staatssecretaris gewoon niks kan in dit proces. Hier komt onvoldoende van terecht. Het is altijd maar wachten en we krijgen vage, nietszeggende antwoorden. Er worden onvoldoende concrete stappen gezet en de uitvoering is een flop. Ze heeft niks op orde. Zo blijven we elke keer maar weer hetzelfde gesprek voeren. DENK is gewoon zwaar, maar dan ook zwaar ontevreden over hoe dit loopt.

De heer Van Baarle (DENK):

Het niet-discrimineren moet de verantwoordelijkheid zijn van de hele overheid. Dat moet overal ingepeperd zijn. Dat is onvoldoende het geval en we moeten eraan werken dat dit meer gebeurt. Deze staatssecretaris schrijft zelf in haar stukken dat ze een coördinerende verantwoordelijkheid heeft, als het gaat om de opruimactie. We hebben haar als Kamer altijd gewezen op die coördinerende verantwoordelijkheid. Nu staan we aan het einde van het proces en zien we dat het een totale chaos is met allemaal verschillende definities en met organisaties die niet meegenomen worden. Ook weten we niet wat we doen. Dan zeg ik: deze staatssecretaris heeft haar coördinerende rol niet voldoende uitgevoerd. Is mevrouw Dekker-Abdulaziz dat met mij eens?

De heer Van Baarle (DENK):

Ik ben dat met u eens, maar er zou nog meer moeten gebeuren. We zouden met elkaar eindelijk eens een afrekenbaar, wettelijk vastgelegd toetsingskader moeten opstellen en niet heel de tijd, zoals deze staatssecretaris doet, verwijzen naar Europa en maar wachten tot er wat uit Europa komt rollen. We zouden moeten werken aan een protocol over wat we met elkaar doen als we constateren dat algoritmen en data inderdaad vooringenomen zijn. Dat is toegezegd en dat had er eigenlijk allang moeten zijn. Ik zie dus dat deze staatssecretaris op cruciale vlakken a niet coördineert en b ook niet levert. Daar is DENK zwaar ontevreden over.

De heer Van Baarle (DENK):

Dit is een zeer terechte vraag van mevrouw Leijten. Allereerst zou ik zeggen: laten we op een goede manier van dit proces gaan leren. Dat betekent dat we de externe toets niet alleen moeten laten gaan over de werking en het proces. Het moet dus geen procesbeschrijving zijn. We moeten die toets laten uitvoeren op basis van wat wij als opdrachtgever de definitie vinden van waar de overheid aan getoetst zou moeten worden. En is dit ook juist gedaan door alle ministeries? Als we alleen het proces gaan beschrijven, hebben we totaal geen idee of we dit op een goede manier hebben gedaan. Vervolgens moeten we eraan werken dat we die zaken in de wet zetten waarvan we in het proces zeggen dat ze de checks-and-balances en de definities zijn waar we mee werken. Op die manier moet iedereen daarmee werken. Ik vind het voorstel van mevrouw Dekker-Abdulaziz zeer goed: laat ministeries daar in de jaarverslagen jaarlijks verantwoording over afleggen! Ik vind dat dat de minimale stappen moeten zijn waaraan we met elkaar moeten gaan werken.

De heer Van Baarle (DENK):

Daar ben ik het helemaal mee eens, dus ik denk dat we dat als Kamer moeten doen. Laten we met elkaar samen kijken hoe we het proces in kunnen zetten. De toetsing van de ADR gaat inderdaad de diepte in, maar in de opdracht staat letterlijk dat die zich niet richt op de werking, dus het functioneren, van waarborgen. De ADR doet geen onderzoek naar de accuraatheid, juistheid en volledigheid van de departementale inventarisatie en toets. Dan zeg ik: dit is gewoon een descriptief stuk dat in de geschiedenisboeken kan opgenomen worden als "Wat hebben we gedaan?". Dit zegt niks over de vraag of we het goed hebben gedaan en díe vraag is cruciaal.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Het opruimen van data, het opruimen van je bureaublad en het opruimen van je fysieke bureau zijn allemaal dingen die belangrijk zijn om geen fouten te maken. Dat is echt iets anders dan wat er binnen de overheid aan de hand is met gegevens die verplicht geregistreerd zijn en verplicht in databases staan of met Excelbestanden die op USB-sticks staan die overal rondslingeren. Het is allereerst heel belangrijk om het hamsteren, de dataverzameldrift van overheden te beperken. Tegelijkertijd moeten we ook kijken hoe we dat wat niet goed was, kunnen opruimen. Dat moet zo snel mogelijk gebeuren, want hoe langer dat duurt, hoe langer het zo is dat daar beslissingen mee genomen worden die gevolgen hebben voor mensen die compleet verkeerd kunnen zijn. Dat hebben we in het verleden ook gezien. Daarom zeggen wij dat het ontzettend belangrijk is om die data zo snel mogelijk inzichtelijk te hebben. Ik onderken ook wat eerdere sprekers hebben gezegd. Mijn collega Dijkhoff heeft destijds dan ook de motie ondertekend om dit zo snel mogelijk te doen.

Voorzitter. Wij hebben wel een vraag: waarom duurt het eigenlijk zo lang? Het is inderdaad een aantal jaren geleden. De VVD is heel benieuwd waar het op hangt. Vaak gebruiken we techniek, algoritmes en andere dingen om zaken sneller op te lossen. Kunnen we die niet op een bepaalde manier inzetten om dit te versnellen? Die vraag stellen wij aan de staatssecretaris, want als de data eenmaal opgeruimd en schoon zijn, kun je de data die je hebt pas gebruiken om mensen eventueel te helpen. Ik gaf eergisteren, in een ander debat, de combinatie van CIZ en SVB aan. Mensen die een indicatiestelling en kinderen hebben, kunnen een tweede kinderbijslag krijgen, omdat zij daar recht op hebben. Dat zijn dingen waarmee je mensen kunt helpen in plaats van ze alleen maar aan te pakken. Daarvoor moet je inderdaad wel schone data hebben.

Voorzitter. Dan kom ik nog op de versnelling. Het is niet één database. Het is niet één bestand. Dat is hier het probleem. Dat zeg ik ook even als IT'er. Er zijn mensen die thuis gewoon USB-sticks hebben liggen. Hoe achterhaal je dat? Het is best belangrijk dat elk ministerie zelf nagaat waar wat ligt. Dat is één. Verder is het ook de verantwoordelijkheid van de mensen die die gegevens hebben, om die zo snel mogelijk in te leveren. Dan is het belangrijk om te kijken naar een realistische planning. Daar ben ik ook benieuwd naar. In plaats van dat wij alleen maar roepen "sneller, sneller, sneller", willen wij ook inzicht hebben in wanneer dit zou kunnen. We willen iets wat we kunnen waarmaken.

Voorzitter. Dan heb ik nog een vraag over de algoritmes en risicomodellen die gebruikt worden. Heeft de staatssecretaris zicht op hoe de data vanuit verschillende departementen samenhangen, zodat je altijd terug kunt naar de bron? Als je data vasthoudt zonder dat je weet wat de daadwerkelijke bron daarvan is, kun je die niet linken om te zien waar de eerste fout begonnen is. Wat mij betreft is het met alle tools die wij hebben niet meer van deze tijd om allerlei lijstjes te hebben zonder relatie met de bron. Heeft de staatssecretaris dat goed in zicht? Zo niet, hoe kunnen we dat dan wel voor elkaar krijgen? Dan starten we namelijk met het aanpakken van het probleem bij de bron.

De heer Rahimi (VVD):

Allereerst, ik heb niet de woorden "racistische troep" gebruikt. U noemt nu hele specifieke departementen en afdelingen. Daar heb ik het ook niet over gehad. Ik heb gezegd dat het van belang is dat we wel van alle data die overal verspreid zijn de bron hebben, in plaats van ons specifiek te focussen op racisme. Dat hoeft niet alleen maar om een racistisch element te gaan; het kan ook zo zijn dat die iemand beperken in een bepaald handelen of bepaalde vrijheden. Ik vind dus wel dat we daarvoor moeten uitkijken. We hebben al eerder debatten gehad over het openbaar maken van broncodes van bepaalde applicaties van de overheid. Daar vind ik ook wat van. Dat brengt ook veiligheidsrisico's met zich mee. Ik snap de vraag van de heer Van Baarle, maar je moet wel altijd in ogenschouw nemen wat we hiermee veroorzaken en waarin het veiligheidsaspect zit. Daar moet je wel rekening mee houden.

De heer Rahimi (VVD):

Ik probeer een goed antwoord te geven op de vraag van de heer Van Baarle. Ik zei net al dat de heer Dijkhoff die motie destijds ook heeft ondertekend. Ik weet waarover het gaat en ik ben het er dus ook mee eens. Maar u gaat van de toeslagenaffaire richting de AIVD. Dat vind ik gewoon best wel een grote stap, die ik niet wil maken. Nogmaals, het gaat niet alleen over racisme. Het gaat om dingen die niet goed zijn gegaan. Ik gaf net aan dat ik het belangrijk vind dat alles opgeruimd wordt en inzichtelijk wordt gemaakt. Hoe sneller, hoe beter. Ik wil dus die directe stap van de toeslagenaffaire naar de AIVD niet maken. Ik ben het niet eens met wat de heer Van Baarle zegt. Ik zie niet direct het belang van daar meteen op ingaan.

De heer Rahimi (VVD):

Nee, dat is niet wat ik zeg, dat wij voor discriminatoire algoritmes zijn. Ik zeg alleen dat wat hier wordt gevraagd een bepaald effect heeft. Het gaat meteen over de politie en de AIVD, direct. Die slag wil ik niet maken. Ik geef een heel simpel voorbeeld. Vroeger waren er tools om bestanden, zaken inzichtelijk te maken. Dat zou hier ook kunnen. Ik heb net verteld dat wij daarvoor zijn. Wij zeggen niet: wij zijn voor discriminatie en wij willen dat niet. En ja, in alle lagen van de overheid. Maar u noemt meteen één specifiek geval en wil van mij horen "daar moeten we op gaan zitten, want daar vindt discriminatie plaats". Daar wil ik niet het antwoord "ja" op geven.

De heer Rahimi (VVD):

Ik snap de strekking van wat mevrouw Leijten zegt, en zoals ik dat nu hoor, denk ik dat het ook goed is om het overal eenduidig te doen. Als ik haar goed beluister, is mevrouw Leijten van plan om met een voorstel te komen. Daar wil ik graag eerst naar kijken. Maar ik begrijp wat zij zegt en daar ben ik het ook mee eens.

De heer Rahimi (VVD):

Ik ga nu voor volgens mij de vierde keer beginnen over de politie. Of het nou de politie is of de SVB: het is allemaal overheid, dus ja, ik ben het ermee eens dat overal waar risicomodellen zijn waaruit gevaarlijke conclusies getrokken kunnen worden op basis van verkeerde data, verkeerde informatie, er moet worden opgeruimd. Misschien is het nu helder.

De heer Rahimi (VVD):

Nou wordt het antwoord weer gedraaid. Nee, dat heb ik niet gezegd.

De heer Rahimi (VVD):

Ik zei net dat ook daarnaar gekeken moet worden. Ik snap niet dat de heer Van Baarle zegt dat ik daar geen antwoord op geef. Vervolgens krijg ik een vraag waaruit blijkt dat het direct een rapportage moet zijn. U gaf net al aan dat u een oplossing had, namelijk om dit uit te besteden. Dat betekent dat er ook een andere oplossing kan komen dan per se een rapportage. Ik reageerde alleen op het punt dat het een rapportage moet zijn. Dat hoeft niet; het kan ook op andere manieren.

De heer Rahimi (VVD):

Volgens mij hebben verschillende ministeries een rapportage opgeleverd. Ik blijf zeggen dat, zoals ik net al aangaf, iedereen inzicht moet geven. Als u met "rapportage" bedoelt dat daarmee duidelijk wordt of het goed gaat of niet: dat snap ik. Ik zeg alleen: hou de veiligheid in ogenschouw. U kunt niet zomaar alles vragen. Nu haalt u weer meteen de politie en de AIVD erbij. Net ging het over de politie en nu haalt u de AIVD er weer bij.

Mevrouw Kathmann (PvdA):

Dank, voorzitter. Ook ik wil de rapporteurs bedanken. En voor iedereen die meekijkt en denkt "rapporteurs?" — dat klinkt als iets technisch achter de schermen — zeg ik dat die heel belangrijk zijn als we het hebben over vervuilde data. Dus mevrouw Leijten en mevrouw Dekker-Abdulaziz, dank daarvoor en ook voor de toevoeging om te kijken of we als commissie met een advies kunnen komen. Ik sluit me niet volledig aan bij de woorden van de heer Van Baarle, maar ik sluit me wel aan bij de vraag of we het wel goed hebben gedaan. Dat is eigenlijk de belangrijkste vraag, want dan kunnen we in het advies ook meenemen hoe het beter kan. Dus dank daarvoor. Ik sluit me ook aan bij de vragen die de rapporteurs aan de staatssecretaris gesteld hebben.

Ik zou in mijn bijdrage willen focussen op de vervuilde data bij lagere overheden en vooral bij gemeenten. Bijna twintig jaar lang gebruikten verschillende Nederlandse gemeenten de fraudescorekaart om mensen met een bijstandsuitkering te profileren op frauderisico. In maart 2022 kreeg Lighthouse Reports de complete fraudescorekaart in handen. In 2020 heeft de VNG opgeroepen om te stoppen met die fraudescorekaart, maar toch waren er tot halverwege 2022 nog een paar gemeenten in Utrecht die de zogeheten DPS-matrixmethode achter de fraudescorekaart gebruikten. Zo bleef een model van twintig jaar oud waarvan niet bekend was hoe de score werd berekend, onderdeel van het beleid. Niemand wist hoe de systemen aan de binnenkant werkten, maar het gebruik ervan was, hoe abnormaal het ook klinkt, normaal geworden. Zulke afgeleide systemen zijn een probleem. Heeft de staatssecretaris in beeld hoeveel afgeleide systemen er nog gebruikt worden? Zijn de systemen die door de jaren heen zijn afgeleid van omstreden algoritmes makkelijk in kaart te brengen? Is hier een inventaris van? Ik heb eerder, toen we het hadden over het algoritmeregister, aangegeven dat dat niet genoeg is, omdat je zo'n register moet kunnen doorgronden. Je moet bijvoorbeeld weten of een algoritme is afgeleid van bepaalde zaken waarvan we al hebben vastgesteld dat we ze niet willen.

Recent zagen we in Argos …

Mevrouw Kathmann (PvdA):

Ja. Ik had het dus over die fraudescorekaart. Recent zagen we in Argos dat men per ongeluk een zelflerend algoritme om fraude op te sporen en de bijbehorende trainingsdataset van de gemeente Rotterdam in handen heeft gekregen. Dat was echt een blik achter de schermen. Dat ding berekent een risicoscore op basis van indicatoren die het zichzelf aanleert. Een alleenstaande vrouw? Puntje erbij. Langdurig ziek? Puntje eraf. Maar je bent wel jong moeder geworden, dus dat is weer een puntje erbij. Voor je het weet word je door de gemeente op het matje geroepen omdat je veel te veel punten hebt. Meer dan 3.000 mensen werden er zo uitgepikt en financieel doorgelicht. Voor iedereen die net als ik algoritmes niet helemaal kan doorgronden: je kan die fraudescorekaart vinden en invullen. Ik heb 'm ingevuld voor mezelf en ik heb 'm ook even ingevuld voor twee buurvrouwen verderop in de straat. Ik woon in een risicogebied, in Spangen in Rotterdam. Ik ben getrouwd, heb kinderen, een vaste baan en een koophuis. Ik heb expres de data ingevuld van buurvrouwen die alleenstaand zijn, een andere opleiding hebben en ook een andere achtergrond hebben. Zij gingen het rood in. Bij de gemeente Rotterdam scoren zij vuurrood. Als je naar fraudescorekaart.lighthousereports.nl gaat, kun je de scorekaart zelf invullen en kun je ook 'ns doorgronden hoe dat werkt. Ik ben er wel van geschrokken.

Wat vindt de staatssecretaris ervan dat het journalisten zijn die dat soort problemen ontdekken? Ik ben heel blij met die journalisten, maar zij kunnen natuurlijk niet al dit werk voor ons doen. Wij moeten als overheid in charge zijn en zelf deze dingen vinden. Ik snap dat het heel moeilijk is en dat vaak juist bij lage overheden de kennis ontbreekt of dat het ontbreekt aan voldoende mensen. Ik zit zelf te denken aan een soort hulplijn voor ambtenaren. Geen meldpunt, want dat klinkt altijd naar naming-and-shaming en een schuldvraag die op tafel ligt. Een hulplijn dus, zodat je, als je een ambtenaar bent en denkt "we hebben misschien zo'n algoritme in de gelederen", …

Mevrouw Kathmann (PvdA):

Ja. Ik vroeg me dus af hoe de staatssecretaris daarover denkt.

Dan heb ik nog een heel kleine vraag: hoe gaat de overheid volgens de staatssecretaris voldoende mensen met kennis aan zich binden? Die zijn namelijk heel erg nodig om de vervuilde data op te ruimen.

De heer Slootweg (CDA):

Dank u wel, voorzitter. Ik zou eerst willen ingaan op sowieso de rol van coördinatie. In een ander debat hebben we aangegeven dat veel verantwoordelijkheden bij andere ministeries zitten. Is het punt van coördinatie eigenlijk wel op een goede manier belegd in ons staatsrecht? Of is er misschien iets anders mogelijk? Laat ik het zo zeggen, ik kan me voorstellen dat de staatssecretaris frustraties heeft over wat ze wel en niet kan. Kan ze daar even op reflecteren?

Het tweede punt. Bij vervuilde data kijken we nu naar de overheid. Soms gaat het ook over uitwisseling. Weten we nu zeker dat een aantal data waarvan we nu zeggen dat ze niet op deze manier verzameld hadden mogen worden, niet via publiek-private samenwerking terecht zijn gekomen bij andere instellingen dan overheidsinstellingen? Kunnen we daarop gerust zijn?

Mijn allerlaatste vraag, voorzitter. Zoals de heer Rahimi zei, is er ook sprake van USB-sticks en dergelijke. Vraagt dit niet om een veel centraler ingerichte overheidsomgeving, zodat dit soort informatie niet mee naar huis kan worden genomen? Welke stappen worden daar ondernomen?

Dank u wel.

De voorzitter:

Dank u wel, mevrouw Leijten. Ik kijk naar de staatssecretaris en hoop van haar te horen hoeveel tijd ze nodig denkt te hebben om het spervuur van vragen te kunnen beantwoorden. 25 minuten? Dan stel ik voor dat wij om 10.45 verdergaan.

De voorzitter:

Ik geef het woord aan de staatssecretaris.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Natuurlijk dank aan de commissie voor de gestelde vragen. We zijn hier vandaag bij elkaar om te spreken over het opruimen van vervuilde data, ofwel de uitvoering van de zogenaamde motie 21. Door het kabinet is een onderzoek uitgevoerd om onrechtmatige en discriminerende risicomodellen en gegevensverwerkingen binnen de overheid op te sporen en aan te pakken. Het is absoluut onacceptabel dat onrechtmatige, discriminerende gegevensverwerkingen op basis van afkomst hebben plaatsgevonden bij het beoordelen van de aanvragen voor de kinderopvangtoeslag en bij het opsporen van mogelijke fraude. Laat ik daar ook heel helder over zijn. Dit mag niet meer gebeuren. We willen voor altijd voorkomen dat dit binnen alle systemen en processen van de overheid opnieuw kan gebeuren. Daarom heeft het kabinet u naar aanleiding van de motie op 8 april 2021 geïnformeerd over de aanpak van dit motie 21-onderzoek: het onderzoek om door alle departementen heen te gaan en te kijken hoe we risicomodellen en andere verwerkingen kunnen onderzoeken op het onrechtmatig en onbehoorlijk gebruik van data. Samen met alle andere bewindspersonen is een plan van aanpak opgesteld om het opruimen van de discriminerende modellen gezamenlijk en rijksbreed aan te pakken.

In het begin van 2022 hebben we u geïnformeerd over de plannen van aanpak per departement. Ieder departement heeft in grove lijnen drie stappen gezet: het inventariseren, het toetsen daarna en het opruimen waar dat nodig is. Dat is gebeurd op basis van eigen onderzoek, niet alleen bij de departementen zelf maar ook bij de onderliggende organisaties. Uiteraard hebben mijn collega's u meegenomen in de uitkomsten door de rapportages aan uw Kamer toe te sturen. Ze hebben grondig en zorgvuldig werk gedaan en goede inventarisaties opgeleverd. Er is door mij regie gevoerd op de coördinatie en samenwerking tussen de departementen. We hebben gekeken naar vraagstukken als "hoe onderzoeken we het?", "welke definities gebruiken we?", en "hoe zorgen we ervoor dat er samengewerkt wordt en dat we samen afstemmen om te kijken hoe we het aanpakken?". Want het is natuurlijk wel degelijk zo dat de verschillende departementen en organisatieonderdelen op verschillende manieren werken en gebruikmaken van data en eventuele risicomodellen.

De voortgang en resultaten zijn gemonitord en geëvalueerd. Ook daarover is uw Kamer de afgelopen tijd steeds van op de hoogte gehouden. Laat ik vooropstellen, na wat mijn collega's en de Kamer hierover gemeld hebben, dat het erop lijkt dat voor de meeste gegevensverwerkingen voldoende wettelijke grondslag is. Is er dan helemaal niets gevonden? Jawel. Daarover hebben mijn collega-bewindspersonen, ikzelf en de minister van BZK u geïnformeerd. Verder laten we nog een onafhankelijk onderzoek door de ADR uitvoeren. Dat doen we op basis van een motie die weliswaar niet is aangenomen, maar die ik heb overgenomen. Dat onderzoek zal op 1 juli van dit jaar starten. Uiteraard zullen we de bevindingen daarvan aan u melden. Daarmee is het natuurlijk nog niet klaar. Ik zal dat zo meteen ook meenemen in de beantwoording van de vragen. Het onderzoek is namelijk straks weliswaar afgerond en als het goed is, zijn alle data waar nodig ook opgeruimd, maar we willen er structureel voor zorgen dat er niet opnieuw problemen zullen ontstaan. Dat maakt dat we een heleboel afspraken hebben gemaakt, ook met uw Kamer, over het gebruik van risicomodellen en data. Dat doen we op basis van Europese en nationale regelgeving.

Voorzitter. Ik heb drie blokjes voor de beantwoording. Het eerste blokje is het grootst en gaat er met name over hoe precies het opruimen van de vervuilde data is gebeurd. Hoe hebben we onderzoek gedaan? Hoe is het uitgevoerd? Het tweede gaat over regulering van algoritmes. Het derde blokje betreft vragen die niet in deze andere twee vallen. Ik heb op verzoek van de rapporteurs gekeken naar de beantwoording van de vragen die de rapporteurs hebben gesteld. Die zitten nu volgens mij ook in deze blokjes. Mocht het zo zijn dat er nog een vraag overblijft, dan hoor ik dat natuurlijk graag.

Misschien is het goed om te beginnen met de eerste vraag die gesteld is door het CDA, maar die ook door een aantal anderen aan de orde is gesteld. Die gaat over de rol die ik als staatssecretaris heb en over mijn coördinerende taak. Natuurlijk gaat het er dan over hoe we dit onderzoek hebben aangepakt. Is er gekeken naar eenduidigheid van het onderzoek rondom motie 21? In feite hebben we gezien dat de departementen een onderzoek hebben gedaan dat eenduidig heeft gekeken naar nationaliteit, etniciteit en geboorteplaats. Voor de inventarisaties is gekozen om alle afkomstgerelateerde indicatoren mee te nemen. Daarbij kan relevant gebruik van die gegevens per ministerie wel verschillen vanwege specifieke taken of wet- en regelgeving die door de departementen worden uitgevoerd. Om te kunnen sturen op dit onderzoek, hebben we steeds weer overleg met elkaar gevoerd. Dat hebben de medewerkers van de departementen gedaan met die van het ministerie van BZK. Er is goed gekeken naar de vraag hoe het onderzoek precies is verlopen en welke definities zijn gebruikt. Dat is regelmatig met elkaar gewisseld. Uiteindelijk heeft dat ertoe geleid dat de ministeries inmiddels allemaal hun rapportages hebben opgeleverd.

Een vraag die een paar van u hebben gesteld gaat wat meer in het algemeen over hoe het zit die coördinerende taak van mij als bewindspersoon. Daar kom ik zo meteen graag op terug.

Dan was er nog de vraag wat precies door de departementen bekeken is. Daar heb ik net al iets over gezegd. Er is steeds gekeken naar de verschillende persoonsgegevens. Binnen de ministeries is ook aangegeven hoe dat is aangepakt op basis van de onderzoeksvoorstellen die zijn gepubliceerd en naar u zijn gestuurd. Er is ook gekeken naar de vraagstukken die we onderling hebben besproken, zodat de ministeries zo veel mogelijk vergelijkbaar werk hebben gedaan.

Dan was er de vraag: welke ministeries hebben iets gevonden? Daar heb ik al iets over gezegd. Dat was ook aan de orde. Bij welke ministeries zijn er data of onderzoeken die hebben opgeleverd dat er dingen niet goed zijn of verder onderzoek vergen? Dat zijn in totaal — dit is naar aanleiding van de vraag van de SP — drie ministeries. Het gaat om het ministerie van BZK. Daar loopt nog een onderzoek naar het proces externe inhuur van personen, omdat nog duidelijk moet worden aangegeven of hier terecht gebruikgemaakt wordt van de persoonsgegevens. Ook zijn aanpassingen nodig voor het verwerken van het register paspoortsignalering, omdat het gebruik van afkomst daarin niet proportioneel is. Dat gaan we dan ook aanpakken. Bij het ministerie van Buitenlandse Zaken is er nog een informatieverzoek — een aantal van u noemde dat ook — van de AP naar aanleiding van het specifieke risicomodel voor de beoordeling van kortverblijfvisumaanvragen. Daar zal verder worden gekeken welke uitkomsten nog moeten worden verwerkt. Bij het ministerie van Defensie is uit het onderzoek gebleken dat de Koninklijke Marechaussee risicoprofielen gebruikt in het kader van de uitvoering van de wet politietaken. In die profielen is gebruikgemaakt van afkomstgerelateerde indicatoren, nationaliteit of geboorteplaats. Er is in de inventarisatie vastgesteld dat deze afkomstgerelateerde indicatoren in de risicoprofielen voldoen aan de toets van rechtmatigheid en behoorlijkheid. Met andere woorden, de rapportages van de andere departementen hebben geen acties opgeleverd die nog verder moeten worden uitgevoerd. Bij deze drie ministeries is er nog werk te doen.

Staatssecretaris Van Huffelen:

Ik kom inderdaad nog op die vraag. Het is zo dat u een aanvullend verzoek heeft gedaan. Ik ga met mijn collega van BZ daarover in gesprek — dat was eigenlijk uw vraag — om verder te kijken wat hier nog aan de orde is. Los daarvan loopt dus ook nog het proces met de Autoriteit Persoonsgegevens en het ministerie van BZ over dit specifieke algoritme.

Dan was er nog de vraag of er nog discriminerende of vervuilde data of algoritmes zijn gevonden die gevolgen hebben gehad voor personen. Op basis van wat er tot nu toe boven water is gekomen, zijn er geen gevolgen geweest. Van belang is dat we in het protocol dat u ook besprak, aangeven hoe we er verder mee omgaan wanneer dat mogelijk wel aan de orde is of wanneer we alsnog iets zouden vinden. Als er situaties worden gevonden bij departementen waarin discriminatie aan de orde is, is het van belang dat we die op een goede manier afwikkelen.

Dan ga ik door naar de vraag van de VVD waarom het zo lang duurt. Inmiddels heeft u alle rapportages gekregen. Ik heb gezien dat de departementen hard gewerkt hebben maar het hier en daar toch best ingewikkeld vonden om heel goed door al hun systemen en processen heen te gaan, die vaak ook bij de diensten zitten die voor hen uitvoerende taken doen. Daarom heeft het vrij lang geduurd, langer dan we in eerste instantie dachten. Ik ben wel blij dat het nu gebeurd is, dat we staan waar we staan en dat we er dus ook aan toe zijn om de onafhankelijke toets door de ADR te laten doen om daar waar nodig verder actie te ondernemen.

DENK vroeg of er op gelijke wijze is gekeken naar het gebruik van definities. Wij hebben de indicatoren die zijn aangegeven in de motie en in de brief die wij in 2021 hebben gestuurd, goed bekeken op basis van de vraag: kunnen we ervoor zorgen dat we allemaal naar dezelfde soort beelden kijken, dus naar de afkomstgerelateerde indicatoren? We hebben een methodologie gebruikt waarbij een expertteam van grondwetjuristen van BZK en AVG-juristen van JenV gewerkt hebben aan een toetsingskader en een proces. Er zijn expertsessies geweest om ervoor te zorgen dat iedereen op dezelfde manier ging kijken. De conclusie was dat onze huidige wet- en regelgeving in principe voldoende handvatten bieden om de analyses te doen, bijvoorbeeld de AVG en de wetgeving op het gebied van non-discriminatie. Daarmee konden de departementen werken om per departement goede analyses te maken. Om de horizontale coördinatie te versterken is er een ambtelijke projectgroep geweest onder coördinatie van de CIO Rijk, die maandelijks met de projectleiders heeft overlegd.

Staatssecretaris Van Huffelen:

Dan was er nog de laatste vraag, namelijk waarom de AIVD en de politie niet zijn meegenomen. De AIVD maar ook de MIVD opereren niet alleen binnen wettelijke kaders maar ook binnen de toezichtkaders van de Commissie van Toezicht op de Inlichtingen- en Veiligheidsdiensten. Zij zijn verantwoordelijk voor het toetsen van het stelsel en het gebruik van data bij en door deze diensten. In het openbaar doet de AIVD nooit uitspraken over wat zij wel en niet gebruikt voor het uitvoeren van haar wettelijke taak. De wetgeving die zij gebruikt, biedt haar wel de mogelijkheid om persoonsgegevens te verzamelen en te verwerken. De specifieke bevoegdheden die zij daarvoor heeft, staan beschreven in de Wet op de inlichtingen- en veiligheidsdiensten, inclusief hoe het toezicht daarop is geregeld.

De politie is wel degelijk meegenomen in het onderzoek van JenV. De rapportage over de motie inzake de politie is opgenomen in het rapport van de uitvoering motie 21 van het ministerie van Justitie en Veiligheid, dat u op 6 juni 2022 heeft ontvangen. Dus de politie is wel degelijk in dit onderzoek meegenomen.

Dan ben ik aan het einde van dit blokje.

Staatssecretaris Van Huffelen:

Ik heb u een brief gestuurd over hoe dat toetsingskader eruitziet. Dat is in lijn met wat ik net vertelde, namelijk dat juristen van een aantal departementen met elkaar hebben overlegd over de kaders die we precies gebruiken bij dit onderzoek. Vervolgens is dat gebruikt door de projectgroep, die aan het werk is gegaan. Op basis daarvan is het onderzoek gedaan. Ik weet niet meer precies wanneer ik die brief heb gestuurd. Ik kan dat nog even nakijken als dat nodig zou zijn, maar de kern is dat die projectgroep steeds heeft gekeken of we alles meenamen. We hebben ook een overzicht gemaakt van welke elementen van die afkomstgerelateerde indicatoren per departement zijn bekeken. Dat zijn per departement in ieder geval de indicatoren die centraal staan in de motie. Sommige departementen hebben nog een extra stap gezet en hebben niet alleen gekeken naar geboorteplaats maar ook naar geboorteland. Soms is er ook naar andere elementen gekeken om goed inzicht te krijgen in wat er precies aan de hand is als het gaat om het verzamelen en verwerken van afkomstgerelateerde indicatoren in het betreffende departement.

Staatssecretaris Van Huffelen:

Even voor de helderheid: nationaliteit, etniciteit en geboorteplaats zijn door alle ministeries meegenomen. Een aantal ministeries heeft ook gekeken naar geboorteland. Een aantal ministeries heeft op basis van hun werk gekeken naar de provincie, land van herkomst. Een aantal ministeries heeft gekeken naar het geboorteland van de ouders, woonland, registratie als niet-ingezetene, ras, afkomst, ideologie, andere nationaliteiten, land dat vertegenwoordigd wordt, voor zover dat nog geregistreerd wordt, beeldmateriaal en eventueel ID. Dus departementen hebben op z'n minst gekeken naar de drie elementen die in de motie staan en die van belang zijn. Op basis van de manier waarop er binnen departementen gewerkt wordt, is daarnaast nog gekeken naar deze hele lijst van andere afkomstgerelateerde indicatoren om te bezien of afkomst, etniciteit of anderszins inderdaad nog op andere manieren is geregistreerd.

Staatssecretaris Van Huffelen:

Dan heb ik het niet goed uitgelegd of u heeft het niet goed begrepen. Er zijn dus drie indicatoren — nationaliteit, etniciteit en geboorteplaats — die op alle ministeries zijn onderzocht. Daar is naar gekeken omdat die binnen die departementen aan de orde zijn. Binnen een aantal departementen is bijvoorbeeld ook naar geboorteland gekeken omdat dat in de verwerkingen daar aan de orde zou kunnen zijn. Maar lang niet bij alle departementen is dat aan de orde en heeft het dus een rol kunnen spelen. Bij het ministerie van Algemene Zaken is er bijvoorbeeld eerst gekeken of dat aan de orde was. Vervolgens is geconcludeerd: daar hoeven we niet verder op te zoeken, want dat registreren wij niet. Zo is er niet zozeer gekeken vanuit de vraag: hoe kunnen we een zo klein mogelijke lijst maken? Nee, er is gekeken vanuit de vraag: "Hebben wij dat überhaupt ooit verwerkt? Als dat zo is, nemen we het mee in het onderzoek. Als het niet aan de orde is, hoeven we het verder ook niet te onderzoeken." Dus het is precies omgekeerd aan wat u aangeeft. Het is niet zo dat er niet naar gekeken is. Er is wel degelijk gekeken of die indicator aan de orde is bij zo'n departement. Vervolgens is geconcludeerd of dat wel of niet zo is. Als het wel zo is — dat thema van geboorteland speelde bijvoorbeeld een rol bij BZK, mijn eigen ministerie — is het wel meegenomen.

Staatssecretaris Van Huffelen:

Een van die toetsingskaders is bijvoorbeeld de privacywetgeving. Die geldt voor alle departementen en moet ook door alle departementen worden bekeken. Bij alle departementen moet dus ook worden bekeken of verwerkingen in lijn zijn geweest met de AVG. Dat staat in de rapportages van die departementen, net zoals de andere punten die ik net noemde. Maar laten we hier helder over zijn. Dit is een heel belangrijk onderzoek, dat een heel ernstige ondergrond heeft in die zin dat we vooral willen voorkomen wat ik in het begin van mijn introductie zei, namelijk dat er überhaupt dingen gebeuren op het gebied van het verwerken van persoonsgegevens die niet mogen, die niet oké zijn. We willen geen racisme en discriminatie. We willen geen verkeerd gebruik van persoonsgegevens. Op basis daarvan is dit werk gedaan. Dat is naar eer en geweten door de departementen uitgevoerd en naar eer en geweten door mijn departement gecoördineerd.

Niet in de laatste plaats vind ik het heel erg belangrijk dat we dat onderzoek nog een keer laten bekijken door de ADR om ervoor te zorgen dat het voldoende aan de orde is geweest, om nog een keer een extra set ogen mee te laten kijken naar de uitvoering hiervan. Want mochten dingen op een of andere manier niet of onvoldoende helder zijn, dan moeten we dat boven water krijgen. Daarin verschillen wij volstrekt niet van mening. We willen waar dat aan de orde zou kunnen zijn, dat dit wordt weggenomen. Wat mij betreft gaan we gewoon door om actie te ondernemen op departementen waar verwerkingen zijn gevonden die potentieel niet oké zijn of die inderdaad niet goed zijn. Los van wat we in de toekomst allemaal nog gaan doen, lijkt het me ook van belang om de Auditdienst Rijk nog eens goed naar dit onderzoek te laten kijken zodat we zeker weten dat er zorgvuldig gewerkt is.

Staatssecretaris Van Huffelen:

Het ministerie van Justitie heeft verschillende van de onder hem ressorterende diensten meegenomen, waaronder de politie. Daar is het werk dus ook gedaan. In de rapportage die uw Kamer heeft gekregen, is de politie ook meegenomen, dus u heeft de informatie daarover ontvangen.

Staatssecretaris Van Huffelen:

De regulering van algoritmes.

Staatssecretaris Van Huffelen:

Een van de dingen waar we tegenaan zijn gelopen, is dat het voor verschillende departementen veel meer werk was. Dat heeft ertoe geleid dat de een iets eerder was en de ander later. Is dat fijn? Nee, je wil natuurlijk dat zo'n onderzoek in hoog tempo wordt uitgevoerd en zo snel mogelijk leidt tot de gewenste resultaten. Ik ben op zich blij met de manier waarop wij hebben samengewerkt. Mevrouw Leijten vraagt naar de coördinatie. Daar hebben we in een eerder debat al eens over gesproken. Ik vind dat we daar nog een keer goed op moeten reflecteren, want in het financiële domein hebben we bijvoorbeeld een Comptabiliteitswet, die bevoegdheden geeft aan het ministerie van Financiën. Die overschrijdt overigens niet volledig de bevoegdheden van departementen; ieder departement is ook nog gewoon verantwoordelijk voor zijn eigen begroting, voor het netjes uitgeven van de middelen en het afleggen van verantwoording daarover. Ik denk dat het goed is dat we daar op het domein van de informatiehuishouding en digitalisering ook nog een keer in duiken. Ik heb in het vorige debat gezegd dat we dat ook gaan doen. Dat heeft dus niet te maken met een onderzoek naar vervuilde data, want dat doe je als het goed is maar één keer. Je blijft wel goed kijken naar het gebruik van algoritmes en data. Je wil natuurlijk ook dat departementen daar jaarlijks over rapporteren en dat eventuele problemen worden weggenomen.

Staatssecretaris Van Huffelen:

We zijn het CIO-stelsel aan het evalueren en kijken hoe we dat kunnen versterken om ervoor te zorgen dat alle aandacht er is en blijft voor dit heel belangrijke onderwerp: voor de verzameling van data, het gebruik van algoritmes of andere manieren waarop we informatie verzamelen en verwerken, en vooral ook voor hoe we daarover rapporteren, hoe we mensen laten weten dat gebruik is gemaakt van een algoritme bij het maken van besluiten. Dat wil ik versterken in dat CIO-stelsel in de zin van: hoe zorgen we ervoor dat we niet alleen maar de juiste dingen doen, maar dat we daar ook goed over rapporteren, zodat er voldoende inzicht is voor iedereen, niet in de laatste plaats uw Kamer en de burgers van Nederland, in wat er moet gebeuren?

Dan ga ik naar de regulering van algoritmes. Daar zijn maar een paar vragen over gesteld, onder andere: als we gebruikmaken van algoritmen, hoe complex of weinig complex ze ook zijn, is het dan niet belangrijk dat we van tevoren goed toetsen of er vanaf het begin al een soort vooringenomenheid is? Als dat zo is, moet je ze natuurlijk niet gebruiken, maar je moet ook voorkomen dat dat tijdens het gebruik ontstaat. Heel belangrijk daarbij zijn de mensenrechtentoets en de handreiking non-discriminatie. Die hebben we nu al. We zorgen ervoor dat iedereen die kent. We hebben ook al de vraag uitgezet of de toetsingskaders die je kunt gebruiken, helder genoeg zijn. Daar komen we binnenkort op terug in een antwoord aan uw Kamer. Het is goed om te weten dat zo'n mensenrechtentoets voor het gebruik van hoogrisicoalgoritmes in de AI-verordening die gisteren door het Europees Parlement is aangenomen, verplicht wordt gesteld voor overheden.

De PvdA vroeg of systemen die afgeleide algoritmes gebruiken in kaart zijn gebracht. Ik kan niet zo heel goed in de keuken kijken van alle gemeenten. Dat scoringsinstrument is natuurlijk totaal onwenselijk, zoals u eerder opmerkte en vandaag opnieuw. Als een gemeente dat überhaupt nog gebruikt, moet het worden uitgebannen. Ik roep heel graag hierbij de gemeenten en de VNG nog een keer op om te zorgen dat dat weggehaald wordt.

Ik kan niet per gemeente helemaal overzien welke gevolgen dat heeft voor mensen. Ik vind het wel van belang, en daarover blijf ik in gesprek met de VNG, om te zorgen voor de toetsingskaders die wij op rijksniveau introduceren bij het gebruiken van algoritmes, om ze in kaart te brengen en de toetsen te doen die daarbij horen. Het is al verplicht om een privacy assessment of DPIA te doen, maar dat is nog niet in alle gevallen gebeurd. Daar moet natuurlijk op gecontroleerd worden. De mensenrechtentoets die we hebben, is heel erg belangrijk. Er zijn gemeenten die daar supergoed mee aan het werk zijn, bijvoorbeeld Utrecht en Eindhoven, maar ook daar gebeurt het nog niet overal. Het is echt heel belangrijk dat dat gebeurt.

Helaas kan ik dat niet bij iedere gemeente zelf gaan checken, maar het is wel van belang dat we samen met de VNG goed kijken naar de instrumenten die in Europa worden afgesproken en die in nationale wetgeving zitten. Die worden door de departementen gebruikt en die moeten we zo maken dat gemeenten er ook mee aan de slag kunnen. We moeten vooral goed gaan kijken hoe we die instrumenten kunnen inzetten, zoals ik nu samen met het ministerie van Sociale Zaken en de VNG aan het doen ben, om algoritmes in te zetten om mensen te helpen in plaats van om risicomodellen uit te voeren, fraude te onderzoeken enzovoorts, enzovoorts. Dat was heel vaak de eerste neiging bij het inzetten van algoritmes.

Ik ga er dus graag verder over spreken met de VNG.

Staatssecretaris Van Huffelen:

Ik zit er even over na te denken, want nogmaals, ik kan heel moeilijk alle gemeenten gaan scannen of iets dergelijks, zoals ik al zei. Als het onderzoek van ADR naar dat onderzoek voor onszelf is afgerond, zou het een idee zijn om de lessen die we daaruit leren, ook te delen met de VNG; hoe is het aangepakt, hoe kan je dit aanpakken, wat zijn de definities enzovoorts, enzovoorts. Dan kunnen gemeenten dat ook zelf inzetten om dezelfde scan te doen die wij op departementaal niveau hebben gedaan. Dan kan je nog een keer kijken of je het onderzoek als gevolg van de motie op stuk nr. 21 voor gemeenten ook kan doen, op basis van tools die dan ook werken voor gemeenten. Dan heb je een extra handreiking.

Dat laat overigens onverlet dat er bijvoorbeeld in onze Werkagenda Waardengedreven Digitaliseren ook veel inzet was op mensen meenemen in ethiekdiscussies. Wanneer zet je dingen in of niet? Wanneer zorg je ervoor dat je niet alleen voldoet aan wetten en regels, maar ook ethische vragen stelt over bijvoorbeeld monitoring met sociale media? Wat moet je daar wel en niet doen?

Toevallig had ik daarover afgelopen maandag een discussie met vertegenwoordigers, bewoners, mensen uit de ambtelijke organisatie en experts van de gemeente Eindhoven. Bij het inzetten van allerlei tools moet je niet alleen jezelf de vraag stellen of het helpt om te voldoen aan de regels, maar ook of je dit moet doen. Dezelfde discussies heb ik gehad met vertegenwoordigers in de gemeente Utrecht. Wat doen we bijvoorbeeld met bodycams? Vinden we dat wel of niet passend? Waar zetten we die dan in? Hoe werken we daarmee? Hoe zorgen we ervoor dat het voldoet aan wetten en regels? Die tools hebben we niet alleen ontwikkeld, maar die zetten we ook samen met de gemeenten in. De VNG is daarin ook heel actief.

Kort en goed, dat gaat meer over de discussies die je moet voeren voordat je iets doet en de ethische toetsing die je doet. Ik denk dat we nu al lessen hebben getrokken op grond van de motie op stuk nr. 21. Na afloop van het ADR-onderzoek zullen we die ook trekken. Die kunnen we ook heel goed delen met de gemeenten, zodat zij een vergelijkbaar onderzoek zouden kunnen inzetten.

Staatssecretaris Van Huffelen:

Die laatste vraag stellen wij natuurlijk ook. Het is van belang, niet omdat je een register wil hebben voor het register, maar omdat je wil dat mensen in kaart brengen welke algoritmes er worden gebruikt bij hun organisatie en of die voldoen aan de kwalificaties waarvan wij vinden dat ze eraan moeten voldoen; is er een privacycheck gedaan; is er een mensenrechtentoets gedaan enzovoorts, enzovoorts. Gelukkig is er een hele actieve community van mensen die hieraan werken. Die zijn al bezig om elkaar te stimuleren om het in te vullen. Dat leidt ertoe dat we zien dat het dagelijks verder wordt gevuld. Los van het verder vullen aan de kant van gemeentes hebben we hierover ook afspraken gemaakt met de departementen; dat heb ik ook met uw Kamer gedeeld. Er is al een actieve community, mensen zijn aan de slag. Ik denk dat ze het extra waarderen dat u de hele tijd kijkt, want dat laat ook zien dat ze het niet voor niks doen. Dat staat los van het feit dat het een tool is waar de Autoriteit Persoonsgegevens en de andere toezichthouders verder mee aan de slag kunnen.

Staatssecretaris Van Huffelen:

Nogmaals, wij hebben die community; die bestaat ook uit medewerkers van mijn eigen team en die helpen mensen gewoon bij het invullen. Het is niet alleen onderling delen van informatie, maar dat doen ze ook. We hebben overigens ook gezegd dat we steeds blijven kijken of dit verbeterd kan worden. Ik vind het verheugend dat het Europees Parlement ook heeft gestemd voor het inzetten van een register voor algoritmes met een hoog risico, als onderdeel van de AI-verordening. We moeten zien of dat erin blijft, maar dat hopen we wel.

Staatssecretaris Van Huffelen:

Ik vind het een iets te boude uitspraak om te zeggen dat niemand over dit onderwerp nadenkt, want dat zou het idee scheppen dat niemand die bij de rijksoverheid of bij een gemeente werkt, nadenkt over dit soort vraagstukken. In deze toetsen worden die onderwerpen meegenomen, om te zorgen dat we die instrumenten hebben. Er is ook de ethische discussie over hoe wij omgaan met algoritmes, wat voor informatie we daarin verwerken, hoe we dat doen, wat we opslaan enzovoorts, enzovoorts. Samen met wetenschappers kijken we ook heel goed hoe je die discussies goed kunt organiseren. Laat over vooringenomenheid helder zijn dat je bijna kunt zeggen dat ieder van ons een bepaald denkframe of een manier van werken heeft en dat het dus ontzettend belangrijk is dat je ook samen die toetsing doet.

Staatssecretaris Van Huffelen:

Daar ben ik zeker toe bereid. Ik vind het ook belangrijk dat we dat soort dingen onderzoeken. Dat is ook onderdeel van alles wat we inzetten in de wet- en regelgeving; niet een keertje voorafgaand, maar ook tijdens het gebruik blijven kijken naar hoe die tools werken en of er ongewild of ongewenst onderweg op een bepaalde manier een bias in komt. Het is soms best lastig om precies vast te stellen hoe dat werkt. Daar moet naar gekeken worden. Ik neem dat heel graag mee; dat zeg ik u hierbij toe.

Staatssecretaris Van Huffelen:

Voorzitter. Dan de vragen die ik nog niet had beantwoord. De VVD vroeg hoe de data van verschillende departementen samenhangen en hoe je daarnaar kunt terugkeren. Het punt is dat er niet een totaaloverzicht is van alle data die de rijksoverheid verwerkt. Eerlijk gezegd denk ik ook dat het een illusie is om dat te kunnen vaststellen, want er is natuurlijk ongelofelijk veel. Ik vind het wel van belang om te zorgen dat je het informatiebeheer en gegevensbeheer op orde krijgt. Daarom is het toch belangrijk om te zorgen dat je dat goed doet. Een belangrijk onderdeel daarvan is bijvoorbeeld het federatieve datastelsel, waarbij de data bij de bron worden opgehaald als we die toepassen en gebruiken, niet ergens anders weer worden opgeslagen. Dan weet je bijvoorbeeld als je persoonsgegevens verwerkt dat je die gegevens haalt uit de BRP zelf en niet uit kopieën daarvan. Wij vinden die inzet heel erg belangrijk. Wij blijven eraan werken om dat stelsel verder uit te breiden. In het kader van het gegevensbeheer zijn we ook bezig met het maken van een informatiewet. Dit soort elementen moeten daar ook een onderdeel van worden.

Dan was er een vraag van mevrouw Kathmann over het risicomodel en het invullen daarvan. Ik denk dat ik daarover al het een en ander heb gezegd. Ik hoop dat we als we onze lessen op grond van de motie op stuk nr. 21 kunnen delen, gemeenten kunnen helpen om voor zichzelf ook nog een keer zo'n check te doen. Zij stelde ook voor om een hulplijn te maken voor medewerkers van decentrale overheden, zoals gemeenten, provincies of waterschappen. Ik ga daarover graag in gesprek met de VNG, want ik denk dat het goed is dat er zo'n plek is waar mensen terechtkunnen om inderdaad vragen te stellen over mogelijke bias of over algoritmen waarvan je denkt dat ze niet goed functioneren. Ik denk dat het goed is dat we daar ook een aantal voorbeelden bij betrekken. Er zijn al gemeentes, zoals Amsterdam en Rotterdam, waar al adviesraden en ethical officers zijn ingesteld waar ambtenaren met hun hulpvragen naartoe kunnen.

Mevrouw Kathmann vroeg ook of er wel voldoende mensen kunnen worden gevonden die kennis hebben over data, het organiseren en opruimen van data, om te zorgen dat we data op een goede manier inzetten. Dat is een onderwerp dat we heel erg centraal hebben gesteld in onze informatiestrategie, waarvan we binnenkort een nieuwe versie naar u toe sturen. Daarin hebben we ook aangegeven dat een thema is: het zorgen dat we voldoende goede mensen hebben om met data en IT om te gaan. We zetten daar op allerlei manieren op in. We hebben traineeprogramma's, samenwerkingsverbanden met het onderwijs en allerlei soorten wervingscampagnes. Ik vind ook dat we opnieuw moeten blijven kijken hoe we jonge talenten, maar ook talenten in een verder gevorderd stadium van hun leven kunnen aantrekken om dit werk te blijven doen. De kern is dat de markt voor IT- en dataspecialisten dun is. Er zijn veel vacatures, niet alleen bij ons, maar ook in de private sector. Wij moeten met z'n allen aan het werk om te zorgen dat de overheid voldoende van deze mensen in dienst heeft.

De heer Slootweg vroeg of er op allerlei plekken nog USB-sticks zitten met data die misschien niet zijn meegenomen in het onderzoek. Hij vroeg of er niet veel meer een centrale inrichting moet zijn om dat te laten gebeuren. Gelukkig hebben we het thema USB-stick wel uitgeroeid. Je kunt ze niet meer gebruiken. Daar zijn heel veel redenen voor; niet alleen omdat je niet wil dat data op allerlei gegevensdragers rondzwerven, maar ook vanwege de veiligheid en bescherming van persoonsgegevens enzovoorts, enzovoorts. Wij willen ook niet dat er maar één plek is waar data worden verzameld. Ik zei net al dat wij het federatieve datastelsel heel erg belangrijk vinden. Dat gaat er eigenlijk vanuit dat de data bij de bron worden bewaard, of het nou gaat over socialezekerheidsdata of de BRP, het register van alle inwoners van dit land. Dan kan je op basis van wettelijke bevoegdheden, uiteraard, data combineren en dat doe je steeds door data uit de bron te raadplegen en geen kopietjes, geen gedoe met stickjes of schijven met kopieën.

De heer Van Baarle vroeg of betrokkenen geïnformeerd moeten zijn of er bij het verwerken van afkomstgerelateerde data verwerkingen zijn aangetroffen die niet kloppen. We hebben geen verwerkingen gevonden waarbij mensen schade hebben ondervonden, dus we hebben er ook niet voor gekozen om daarover te informeren. Mocht dat op basis van alle checks die we gaan doen, alsnog aan de orde zijn, dan moeten we dat natuurlijk wel doen. Op het moment dat data van mensen verkeerd zijn gebruikt, dan geldt daarvoor dat je dat die mensen moet laten weten. Dat geldt natuurlijk ook al onder de AVG.

Dan was er nog een vraag van DENK of je dat opruimen van vervuilde data standaard in een rapportage moet opnemen. Ik wil daar graag op terugkomen bij de informatiewet die we aan het ontwikkelen zijn. Of beter gezegd: de regeringscommissaris voor informatievoorziening, de heer Zuurmond, is daarnaar aan het kijken. Ik denk dat het goed is om niet alleen te kijken naar hoe die dataverwerking of het opslaan van data bij de overheid eruitziet, maar ook hoe we zorgen dat we daarover op een goede manier rapporteren. Ik denk dat het goed is om dat daarbij mee te nemen. Overigens moeten departementen nu ook al in hun jaarrapportages rapporteren over het verwerken van data.

Staatssecretaris Van Huffelen:

Het jaarverslag gaat over de begroting; dat is een financiële rapportage. Het is niet de bedoeling dat we de motie 21-exercitie ieder jaar opnieuw doen. We gaan niet iedere keer opnieuw kijken wat er aan de hand is. Je gaat wel met elkaar kijken, hopelijk op basis van die informatiewet, naar welke gegevens je precies vastlegt, hoe je daarmee omgaat, hoe het zit met dat federatieve datastelsel. Om daarbij te kijken naar die rapportage vind ik wel heel relevant. De regeringscommissaris is daar hard mee aan het werk. Zijn idee is om daar in zijn rapportage aan het eind van het jaar al meer over te kunnen zeggen. Ik zou het goed vinden als we het daar ook in opnemen.

Staatssecretaris Van Huffelen:

Sorry, ik was even niet aan het opletten. Wat wilt u voor de begroting hebben?

Staatssecretaris Van Huffelen:

Nee. Ik weet alleen dat de regeringscommissaris daarmee bezig is. Ik denk dat hij daar zeker nog dit jaar voor nodig heeft, dus voor de begroting is te snel. Even los daarvan, hij is daarover aan het nadenken en daarna moet hij nog … Nou ja, dat is een heel proces. Dat is echt niet iets wat op heel korte termijn kan.

Staatssecretaris Van Huffelen:

Ik stel voor dat we de regeringscommissaris vragen om uw Kamer over dat proces te informeren. Zullen we dat doen? Ja.

Staatssecretaris Van Huffelen:

Het is goed dat u dat onderwerp nog even naar voren brengt. We hebben het onderzoeksvoorstel van de ADR aan u toegestuurd. Het idee is dat zij wel degelijk gaan kijken naar hoe de departementen het hebben aangepakt, met welke definities, of ze alle systemen wel goed hebben doorgekeken, wat er in het proces aan de orde is. Zij zullen niet het onderzoek per departement helemaal overdoen, zoals hier bedoeld is, denk ik, maar zij gaan wel degelijk kijken of zij bewijs vinden dat de departementen het werk goed hebben aangepakt. Als zij daar dingen vinden die onduidelijk of niet voldoende zijn, dan zullen ze ook dieper gaan graven, maar ze gaan niet het hele onderzoek van de departementen opnieuw doen, zo staat in dit voorstel. Maar ze gaan wel degelijk kijken of het inderdaad goed is uitgevoerd. Eigenlijk doen ze dezelfde soort toetsen ook altijd bij de jaarlijkse controle op bijvoorbeeld de begrotingen en de jaarcijfers. Dan ga je niet de hele boekhouding opnieuw maken, maar je doet wel allerlei checks, in de zin van: is het proces goed gevolgd, zien we dat er ook evidence voor is dat het zo is enzovoorts, enzovoorts.

Maar als u zich zorgen maakt over een bepaald stuk van het onderzoek dat ze gaan doen, laat mij dat dan weten, want het is de bedoeling dat het onderzoek zo wordt gedaan dat u na afloop ook kunt zeggen dat er is gekeken naar wat u belangrijk vond om naar te kijken.

Staatssecretaris Van Huffelen:

Volgens mij is dat zo'n standaarddisclaimer die accountants altijd doen; op basis van alles wat ik weet, weet ik wat ik weet en kan ik er iets over zeggen. Ik snap het punt. Ik zal er nog even met de ADR in duiken. Ik ben het met u eens dat zij niet het hele onderzoek opnieuw gaan doen, maar dat zij wel degelijk een beeld moeten kunnen schetsen, of kunnen krijgen, of zij vinden dat de departementen het werk goed hebben gedaan en of daar nog hiaten in zitten. Ik zal nog even goed naar die ene zin kijken.

Mevrouw Leijten (SP):

Voorzitter. Ik denk dat het goed is dat we dit debat nu hebben gehad, als een soort overkoepelend debat over het opruimen van vervuilde data, maar daarmee zijn we er nog niet. Het is niet zo dat de overheid, in dit geval de verschillende ministerietorens, een eenduidige interpretatie, urgentie en beleid hebben. De staatssecretaris zegt in haar beantwoording ook dat dit nodig is en dat ze het CIO Rijk-stelsel wil herzien. Ik moedig de staatssecretaris aan om daarbij echt stevig te gaan denken vanuit dat éénoverheidsprincipe.

Het is eigenlijk te treurig om te zien dat de minister van Financiën terecht zegt "ik pik het niet als mijn medewerkers die een filmpje hebben opgenomen, racistisch worden benaderd op sociale media", maar dat we tegelijkertijd zien dat er op heel veel andere departementen een andere opvatting over de omgang met racisme is. Dan moet je één lijn trekken, anders wordt het te politiek, te moralistisch, en dat mag niet op dit onderwerp.

We hebben daar een hoop te doen; de staatssecretaris heeft daar een hoop te doen. Ik heb in eerste termijn en in interrupties al gezegd dat ik vind dat de commissie Digitale Zaken ook moet kijken naar welke rol zij daarin kan spelen als brede, horizontale commissie in de Kamer, aanjagend richting de regering. Wetende dat de staatssecretaris dat ook doet, zullen we elkaar vast versterken.

Dank u wel, voorzitter.

Mevrouw Dekker-Abdulaziz (D66):

Voorzitter. Dank voor de beantwoording van de staatssecretaris. Ik maak me nog steeds een beetje druk over die informatiewet. Mijn hoofdvraag is: hoe zorgen we ervoor dat we volgend jaar rond deze tijd weten of er wel of niet discriminatoire variabelen worden gebruikt in algoritmen? We hebben nu opgeruimd wat er is, maar komend jaar worden er weer nieuwe algoritmen in gebruik genomen. Hoe gaat de staatssecretaris daarvoor zorgen? Kan zij toezeggen dat die brief van de regeringscommissaris die met de informatiewet bezig is, voor de begroting komt?

Ik wil de staatssecretaris bedanken voor de toezegging over de bias.

Tot slot nog een vraag. De staatssecretaris gaat met de minister van Buitenlandse Zaken in gesprek over visumalgoritmen. Kan zij het resultaat van dat gesprek in een brief met de Kamer delen?

De heer Van Baarle (DENK):

Voorzitter, dank. Dank voor de beantwoording. Het klopt inderdaad dat de politie wel is meegenomen; op dat onderdeel was ik abuis, excuses daarvoor. Soms zeg ik iets wat niet zo is.

De heer Van Baarle (DENK):

Ja, dus dat zet ik bij dezen graag recht.

Ik ben blij dat de staatssecretaris toezegt nog naar de opdrachtformulering te kijken. Nog zo'n zin: "De ADR doet geen onderzoek naar de mate van accuraatheid, juistheid en volledigheid". Er staat dus expliciet dat hij daar geen onderzoek naar doet. Dit beperkt gewoon de scope van het onderzoek. Dank aan de staatssecretaris dat ze daarnaar wil kijken. Dit beperkt het gewoon.

Voorzitter. Als het gaat om de definities, kijk ik op een andere manier naar de tabel van de rapporteurs, die ik nogmaals dank voor het werk. Cruciale onderdelen van wat afkomstgerelateerd is, zijn gewoon niet door ministeries meegenomen. Ook de definitie van een risicomodel is niet centraal gehanteerd. Ik blijf er dus bij dat het in deze operatie aan coördinatie heeft geschort, ook aan de zijde van deze staatssecretaris, met name omdat zij ervoor verantwoordelijk is. Ik stel haar dus de vraag hoe we op het vlak van de coördinatie snel met elkaar helderheid krijgen over de definitie, zodat we wel op een goede manier aan de slag kunnen.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Ik wil nog even melden dat dit de heer Van Baarle siert.

Voorzitter. De staatssecretaris zei dat de heer Slootweg een vraag had over de USB-stick, maar die vraag had ik ook. Ik ben blij te horen dat dat uitgeschakeld is. Het is vrij makkelijk om een USB-stick erin te zetten of niet, maar ik wil er wel voor waarschuwen dat je ook via een drive of via de mail alsnog een zipbestandje kunt sturen, want de tekstdata zijn heel groot. Ik ga ervan uit dat ook daarnaar wordt gekeken als het gaat om het naar huis mailen van bestanden, en niet alleen naar de USB-stick. Dat was mijn gedachte.

Ik ben ook blij dat er is gesproken over de federatieve datalinks waarbij er verbanden worden gelegd. Daar zit inderdaad een stuk gevaar in.

Dan het derde punt. Mevrouw Dekker-Abdulaziz had het over de biascheck. Dat triggerde mij toch wel. Als ik goed heb geluisterd, kunt u dit af en toe checken. "Af en toe" vind ik best lastig. In welke mate is dat? Vaak vragen wij dingen als Kamer, maar als IT'er heb ik dan altijd de vraag of het technisch realiseerbaar is. Al die data vinden en bij elkaar verzamelen is al best een klus. Daar ben je een jaar mee bezig. Als we zoiets toepassen, is het dan technisch haalbaar en realistisch? De staatssecretaris zei: ik ga ernaar kijken. Dat is dus nog een vraag die ik heb.

Mevrouw Kathmann (PvdA):

Ja. Ik vind het mooi dat uit dit debat in ieder geval het voorstel van mevrouw Leijten over de advisering is voortgekomen. Ik denk dat dat een mooie rol is voor ons als commissie en dat het ook belangrijk is bij dit onderwerp.

Vooralsnog ben ik blij met de toezegging over de gesprekken die lopen met de medeoverheden. Ik vind wel dat we daar scherp op moeten zijn, omdat daar juist de crux zit en omdat daar vaak weer een journalist opduikt. Dat is voor de mensen in de praktijk echt niet fijn. Dat wil ik er wel bij gezegd hebben. We zitten nu te veel in een blaming-and-shamingcultuur, waardoor heel veel dingen die misgaan niet naar boven komen, terwijl we toe moeten naar een cultuur waarin iedereen die bij onze medeoverheden werkt en denkt "wat heb ik hier nou eigenlijk onder de motorkap; ik weet niet hoe het werkt en ik kan dit niet doorgronden", een check kan doen. Als je dan niet in twee stappen iemand kunt bereiken die dat wel kan, kun je inderdaad een hulplijntje met de VNG inzetten. Je bent dan een soort held die het meldt, want alleen zo kunnen we het gif van de foute algoritmen en dataprofilering tegengaan.

De heer Slootweg (CDA):

Dank u wel. Ik dank de staatssecretaris voor haar antwoorden. Ik wil kijken of ik één ding goed heb begrepen. Ook ik zag dat er op de verschillende ministeries op een andere manier is gekeken. Begrijp ik goed dat dit ten eerste gebeurt omdat een wettelijke grondslag soms net even iets anders is geformuleerd en ten tweede omdat er is gekeken of de uitkomst van de drie factoren nog onderdelen bevatten die tot verder onderzoek nopen? Dat was mijn vraag.

Dank u wel, voorzitter.

Staatssecretaris Van Huffelen:

Met dank. Er zijn nog een paar vragen door uw Kamer gesteld in tweede termijn.

Er was een vraag van mevrouw Dekker-Abdulaziz over de informatiewet. Dat is niet het enige wat we hier hebben. Die gaat vooral over data en de manier waarop we die verwerken, opslaan, toegankelijk maken enzovoorts. Wij hebben uw Kamer toegezegd dat wij voor algoritmes een implementatiekader gaan maken. Daarvan gaan we de eerste versie al voor de zomer aan u opleveren. Daarin staat meer over algoritmes, over hoe je die verantwoord kunt toepassen, hoe je dat kunt toetsen en natuurlijk ook hoe we daarover kunnen rapporteren. Daar is het register een onderdeel van enzovoort, enzovoort. Dus dat komt.

Dan was de vraag of de regeringscommissaris nog voor de begroting een brief kan sturen. Dat kan ik hem natuurlijk vragen, maar hij is onafhankelijk, dus hij gaat er zelf over of hij u daarover informeert.

Dan het ministerie van Buitenlandse Zaken. Mijn collega gaat zelf onderzoek doen en het gesprek voeren met de Autoriteit Persoonsgegevens. Ik zou vooral aan hem willen vragen om daarover te rapporteren. Anders krijgen we een soort van through. Dus ik denk dat het goed is dat het ministerie dat ook doet. Daar zal ik het ministerie van Buitenlandse Zaken naar vragen.

Dan de vraag van de heer Van Baarle. Onze indruk op basis van onze coördinerende taak is dat de ministeries goed hebben gekeken naar hun systemen en processen en dat ze geen andere invulling hebben gegeven aan definities of dat er hele andere soorten rapportages of andere dingen uit zijn gekomen. Ik vind niet alleen van belang wat ik vind of wat hij vindt, maar ook dat we dat nog een keertje goed laten toetsen. Ik heb al eerder toegezegd dat ik aan de ADR vraag om nog even naar hun opdracht te kijken, want het idee is dat onderdeel van hun onderzoek is of de ministeries daadwerkelijk het werk hebben gedaan dat inzicht geeft in waar afkomstgegevens worden verwerkt en of dat op een manier gebeurt die mag, waarvoor er een basis is.

Staatssecretaris Van Huffelen:

De ADR gaat op 1 juli beginnen. Dat is inderdaad over een paar weken. Ik zal nog even specifiek vragen om te kijken of er nu geen dingen gemist gaan worden. Daar ga ik nog even naar kijken. Ik zal antwoord geven op de vraag of er nog een aanvulling nodig is op de opdrachtverlening, maar wat mij betreft kunnen ze alvast aan de slag.

Dan de vraag van de heer Rahimi. Natuurlijk kijken we in het kader van alles rondom cybersecurity heel goed naar wat je wel en niet kunt doen met het gebruik van allerlei gegevensdragers, doormailen enzovoorts, enzovoorts. Daar wordt door ons en door de verschillende departementen heel goed naar gekeken.

We hadden het ook over die bias-checks. We gaan daarnaar kijken in het kader van het implementatiekader waar ik het eerder over had, maar het is nog niet eenvoudig. We zijn dus aan het kijken hoe je bias gedurende het gebruik van een algoritme precies moet onderzoeken. Hij vroeg of dat technisch mogelijk is. Het gaat hier niet alleen over de techniek maar ook over het vinden van een manier om die checks op een goede manier te blijven doen.

Mevrouw Kathmann herhaalde de vraag of het mogelijk is om even goed te kijken of er ook gebeld kan worden. Dat had ik al eerder toegezegd. Daar wil ik met de VNG graag over overleggen. Overigens hebben gemeenten al functionarissen gegevensbescherming enzovoorts, enzovoorts. Dus er zijn al plekken waar je terechtkunt als je je zorgen maakt, maar het is goed als we dit nog een keertje opnemen met de ministeries.

De heer Slootweg vroeg nog als check: klopt het dat departementen alleen op een andere manier gekeken hebben als dat het uitvloeisel is van het feit dat ze ook een andere taak hebben? Dat is ook zo. Sommige departementen zijn verder gaan graven naar afkomstgerelateerde indicatoren op basis van de verwerkingen die bij hen plaatsvinden. Op basis daarvan hebben ze sowieso naar al die basisindicatoren gekeken, maar soms hebben ze ook doorgegraven op het lijstje dat ik al eerder opnoemde, om nog beter te zien of er geen afgeleide indicatoren zijn die toch nog zouden kunnen wijzen op het gebruik van afkomst, etniciteit, geboorteplaats, nationaliteit of anderszins. Nogmaals, het werk is, voor zover ik kan overzien, echt naar eer en geweten gedaan door de departementen, maar het is goed dat we dat nog een keertje laten bekijken door de ADR. Die gaat daar vanaf 1 juli mee aan de slag. Het is ook goed en niet onbelangrijk dat we ervoor zorgen dat er niet opnieuw vervuilde data kunnen worden gevonden, zoals dat gebeurde bij de Belastingdienst. Daarom moeten we de randvoorwaarden en de vangrails goed inrichten de komende tijd. Daar zijn we hard mee bezig, niet alleen op basis van grotere internationale trajecten, zoals de invoering van die AI-verordening, maar zeker ook in Nederland door de invoering van alle toetsen die we daarvoor hebben ingezet en door dat implementatiekader, waarvan u een eerste versie voor de zomer van mij ontvangt.

Dank u wel.

Staatssecretaris Van Huffelen:

Ik ga even kijken of we dat voor 1 juli kunnen doen.