De mogelijke vooringenomenheid bij algoritmes gebruikt door de Politie
Schriftelijke vragen
Nummer: 2022D21325, datum: 2022-05-25, bijgewerkt: 2024-02-19 10:56, versie: 2
Directe link naar document (.pdf), link naar pagina op de Tweede Kamer site, officiële HTML versie (kv-tk-2022Z10386).
Gerelateerde personen:- Eerste ondertekenaar: S. Mutluer, Tweede Kamerlid (GroenLinks-PvdA)
- Mede ondertekenaar: S.R.T. van Baarle, Tweede Kamerlid (DENK)
Onderdeel van zaak 2022Z10386:
- Gericht aan: D. Yesilgöz-Zegerius, minister van Justitie en Veiligheid
- Indiener: S. Mutluer, Tweede Kamerlid
- Medeindiener: S.R.T. van Baarle, Tweede Kamerlid
- Voortouwcommissie: TK
Preview document (🔗 origineel)
| Tweede Kamer der Staten-Generaal | 2 |
| Vergaderjaar 2021-2022 | Vragen gesteld door de leden der Kamer |
2022Z10386
Vragen van het lid Mutluer (PvdA) en Van Baarle (DENK) aan de Minister van Justitie en Veiligheid over de mogelijke vooringenomenheid bij algoritmes gebruikt door de Politie (ingezonden 25 mei 2022).
Vraag 1
Bent u bekend met artikel «Rekenkamer waarschuwt voor mogelijke «vooringenomenheid» bij politie-algoritmes»1 en het desbetreffende rapport van de Algemene Rekenkamer2?
Vraag 2
Deelt u de mening dat het Criminaliteit Anticipatie Systeem (CAS) niet afdoende is gecontroleerd waardoor nu niet kan worden geconcludeerd dat geen sprake is geweest van discriminatoire gronden in de selectiecriteria? Zo ja, waarom wordt dit systeem dan nog steeds gebruikt? Hoe gaat u ervoor zorgen dat dergelijke controles in de toekomst wel worden gedaan?
Vraag 3
Hoe komt het dat bij de start van het huidige systeem geen basisvereiste van zorgvuldigheid in acht is genomen?
Vraag 4
Wat zijn de criteria op grond waarvan het lerende algoritme CAS voorspelt waar de kans groot is dat misdaden zullen worden gepleegd?
Vraag 5
Kunt u uitsluiten dat dit systeem afkomst of de samenstelling van een wijk met veel inwoners met een migratie-achtergrond als criteria gebruikt? Zo ja, waarom? Zo nee, waarom niet en welke gevolgen verbindt u hieraan?
Vraag 6
Bent u het eens met de politie dat het niet nodig is het algoritme in haar huidige vorm buiten werking te stellen? Zo ja, waarom? Zo nee, wat is uw zienswijze over hoe nu verder met het systeem?
Vraag 7
Hoe ziet de menselijk toets eruit die naast het CAS plaatsvindt? Welke criteria worden door de mens getoetst? Vindt die toets altijd plaats? Is de menselijke toets daarbij altijd doorslaggevend?
Vraag 8
Welke stappen bent u van plan te zetten om risico’s op vooringenomenheid in het algoritmesysteem van de politie weg te nemen?
Vraag 9
Bent u bereid het huidige algoritme wat wordt gebruikt door het CAS door te lichten om mogelijke vooringenomenheid te detecteren? Zo ja, op welke termijn wilt u dit onderzoek voltrekken? Zo nee, waarom niet?3
https://www.trouw.nl/politiek/rekenkamer-waarschuwt-voor-mogelijke-vooringenomenheid-bij-politie-algoritmes~bdcc1753/?referrer=https%3A%2F%2Fwww.google.com%2F↩︎
https://www.rekenkamer.nl/publicaties/rapporten/2022/05/18/algoritmes-getoetst↩︎
https://www.trouw.nl/politiek/rekenkamer-waarschuwt-voor-mogelijke-vooringenomenheid-bij-politie-algoritmes~bdcc1753/?referrer=https%3A%2F%2Fwww.google.com%2F↩︎