Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2023-2024	Aanhangsel van de Handelingen
	Vragen gesteld door de leden der Kamer, met de daarop door de regering gegeven antwoorden

221

Vragen van het lid Temmink (SP) aan de Minister van Justitie en Veiligheid over het Risicotaxatie Instrument Geweld (RTI-G) (ingezonden 24 augustus 2023).

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 13 oktober 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 3633.

Vraag 1

Bent u ermee bekend dat de politie het RTI-G gebruikt om profielen te maken van burgers om te voorspellen of zij in de toekomst misdaad zullen plegen?

Antwoord 1

De politie heeft aan mij bevestigd dat zij gebruik heeft gemaakt van het Risicotaxatie Instrument Geweld (hierna: RTI-G). De politie zet algoritmes in als ondersteuning van het politiewerk, bijvoorbeeld in toepassingen voor het doorzoeken van in beslaggenomen gegevensdragers op afbeeldingen met beeldherkenning. Het gebruik van algoritmes versnelt het werk van rechercheurs en maakt het werk effectiever en efficiënter.

Het Risico Taxatie Instrument Geweld (hierna: RTI-G) werd gebruikt om te signaleren en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan. RTI-G werd nooit op zichzelf gebruikt en werd altijd door politiemedewerkers geduid (human in the loop). Zie ook het antwoord op vraag 4.

In de periode dat het RTI-G werd gebruikt, werden rapportages opgesteld die geraadpleegd konden worden, maar niet werden vastgelegd in de politiesystemen. Het instrument leverde geen profiel op van personen in het politiesysteem, alleen een indicatie van het algemene risico op geweldpleging.

Ik vind het belangrijk dat de menselijke tussenkomst bij het gebruik van algoritmes voldoende geborgd is in de politieorganisatie, zodat risico’s zoals die in het artikel worden aangehaald gemitigeerd kunnen worden. Indien de effectiviteit van een algoritme twijfelachtig is, zou een algoritme niet gebruikt moeten worden. De politie heeft de inzet van het algoritme RTI-G recent tegen het licht gehouden. Omdat nut, noodzaak en kwaliteit hiervan onvoldoende te onderbouwen zijn, heeft de politie het gebruik van RTI-G gestopt.

Vraag 2

Hoeveel personen hebben volgens het RTI-G een «hoog risico» om in de toekomst een misdaad te plegen? Hoeveel van deze personen hebben een Antilliaanse, Marokkaanse of Somalische achtergrond?

Antwoord 2

De politie heeft geen gegevens om deze vragen te beantwoorden. Het gebruik van het RTI-G is gestopt.

In de periode dat het RTI-G werd gebruikt, werden rapportages opgesteld die geraadpleegd konden worden, maar niet werden vastgelegd in de politiesystemen.

Vraag 3

Is er een privacy-impactanalyse gemaakt over het RTI-G?

Antwoord 3

Nee, er is geen privacy impactanalyse gemaakt op het RTI-G. Bij de ontwikkeling van dit instrument in 2014 was het nog niet verplicht om een gegevensbeschermingseffectbeoordeling (GEB/DPIA) op grond van de Wet politiegegevens uit te voeren.

Vraag 4

Hoe vaak zijn personen preventief gefouilleerd, aangesproken, of onderzocht door de politie vanwege een hoge score van dit algoritme?

Antwoord 4

Het RTI-G is nooit op zichzelf staand gebruikt, maar altijd in combinatie met andere informatie. Het ging hierbij bijvoorbeeld om het aantal en het type gepleegde delicten. Ook was er altijd sprake van duiding door politiemedewerkers (human in the loop), waarbij het doel was om te signaleren- en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan. Dit kon bijvoorbeeld betekenen dat een geweldpleger na mondelinge bespreking en interpretatie door agenten van gegevens uit de systemen (systeeminformatie) in combinatie met straatinformatie voorgedragen werd voor een persoonsgerichte aanpak (PGA) binnen de keten, wat doorgaans leidde tot een plan van aanpak en communicatie met de persoon zelf.

Vraag 5

Met wie worden de profielen en gegevens die door het RTI-G zijn gemaakt/gegenereerd gedeeld en op welke wijze wordt gegarandeerd dat personen met een hoge score niet nodeloos worden achtervolgd door de inzet van dit algoritme?

Antwoord 5

Zoals toegelicht in de antwoorden op vraag 2 en 4, zijn de uitkomsten van het RTI-G werden nooit op zichzelf staand gebruikt. De uitkomsten zijn ook niet één-op-één gedeeld met ketenpartners. Er zijn geen rapportages met risico-scores opgeslagen en het gebruik van RTI-G is gestopt.

Vraag 6

Bent u van mening dat het acceptabel en wenselijk is is voor een agent om een persoon te fouilleren, aan te spreken, of te onderzoeken op basis van een hoge risico-score van een algoritme? Zou u uw antwoord kunnen toelichten?

Antwoord 6

Zoals aangegeven in diverse kamerbrieven kunnen algoritmes van grote toegevoegde waarde zijn als ondersteunend middel, maar is het niet wenselijk dat algoritmes zonder betekenisvolle menselijke tussenkomst kunnen leiden tot bijvoorbeeld het fouilleren van personen of het aanspreken van mensen. Het RTI-G is nooit op zichzelf staand gebruikt, maar altijd in combinatie met andere informatie. Het betrof dus een instrument ter ondersteuning van het werk van de politie.

Vraag 7

Kan u uitleggen waarom de politie een algoritme gebruikt dat een even hoge risico-score geeft aan een Antilliaanse achtergrond als drie geweldsdelicten in de afgelopen 12 maanden, vijf andere delicten in de afgelopen vier jaar, of illegaal wapenbezit in het afgelopen jaar?¹

Antwoord 7

Afkomst of etniciteit mag niet meewegen in een risico-taxatie gericht op geweldpleging. De factor etniciteit is in 2017 uit het algoritme gehaald. Sindsdien wordt deze variabele niet meer gebruikt. Er zijn geen rapportages met risico-scores opgeslagen en het gebruik van RTI-G is gestopt.

Vraag 8 en 9

Kan u reageren op de uitspraak van hoogleraar digitale surveillance Marc Schuilenburg in het artikel van Follow The Money, die zegt dat het gebruik van het RTI-G onhoudbaar is?

Gezien het grote risico op racisme en discriminatie, is de politie van plan om dit algoritme onmiddellijk stop te zetten?

Antwoord 8 en 9

Zoals toegelicht in het antwoord op vraag 1, heeft de politie de inzet van het algoritme RTI-G recent tegen het licht gehouden. Omdat nut, noodzaak en kwaliteit hiervan onvoldoende te onderbouwen zijn, heeft de politie het gebruik van RTI-G gestopt.

Vraag 10

Wordt het RTI-G algoritme meegenomen in de onderzoeken rondom vervuilde data zoals voorgeschreven door de moties Marijnissen en Klaver? Zult u uw uiterste best doen om al het onrechtmatige gebruik van persoonsgegevens en persoonlijke data door de politie stop te zetten?²

Antwoord 10

Zoals aangegeven in het antwoord op vraag 2, werd de risicoscore uit het RTI-G niet opgeslagen in de politiesystemen. Het RTI-G wordt niet meer gebruikt. In algemene zin vind ik het belangrijk dat de politie zich aan de geldende wet- en regelgeving houdt wanneer zij persoonsgegevens verwerkt. De Autoriteit Persoonsgegevens is de toezichthoudende autoriteit op dit gebied.

Vraag 11

Worden alle personen met een hoge score van het RTI-G algoritme hierover geïnformeerd?

Antwoord 11

Zie hiervoor ook het antwoord op vraag 4. Het RTI-G werd nooit op zichzelf staand gebruikt maar altijd in combinatie met andere informatie en met een human in the loop.Indien een hoge score mede heeft geleid tot iemands opname in een persoonsgerichte aanpak, dan is betrokkene geïnformeerd over deze persoonsgerichte aanpak.

Vraag 12

In de beantwoording op vragen van de leden Leijten, Kwint en van Nispen over de inzet van voorspellende algoritmes met betrekking tot kinderen geeft u aan dat er in december 2022 door de politie gekeken werd of het alarmeringssysteem ProKid 23- ingezet kon worden; is dat systeem nu in gebruik?³

Antwoord 12

Nee.

Vraag 13

Hebben kinderen die voorkomen op algoritmes zoals ProKid Plus, ProKid 23- en andere vergelijkbare algoritmes een hogere kans om als volwassenen een hoge score te krijgen van het RTI-G algoritme?

Antwoord 13

Prokid Plus en Prokid 23- zijn niet in gebruik.

---

1. Follow The Money, 23 augustus 2023, Dubieus algoritme van de politie «voorspelt» wie in de toekomst geweld zal plegen (www.ftm.nl/artikelen/nederlandse-politie-gebruikt-minority-report-algoritme).↩︎

2. Kamerstuk 35 510, nrs. 21 en 16.↩︎

3. Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 1177.↩︎