Toezegging commissiedebat Inzet algoritmen en data-ethiek (Schufa-arrest)
Verwerking en bescherming persoonsgegevens
Brief regering
Nummer: 2025D09176, datum: 2025-03-06, bijgewerkt: 2025-03-12 08:53, versie: 3 (versie 1, versie 2)
Directe link naar document (.pdf), link naar pagina op de Tweede Kamer site, officiële HTML versie (kst-32761-314).
Gerelateerde personen:- Eerste ondertekenaar: T.H.D. Struycken, staatssecretaris van Justitie en Veiligheid
Onderdeel van kamerstukdossier 32761 -314 Verwerking en bescherming persoonsgegevens.
Onderdeel van zaak 2025Z03981:
- Indiener: T.H.D. Struycken, staatssecretaris van Justitie en Veiligheid
- Volgcommissie: vaste commissie voor Justitie en Veiligheid
- Voortouwcommissie: vaste commissie voor Digitale Zaken
- 2025-03-11 15:45: Regeling van werkzaamheden (Regeling van werkzaamheden), TK
- 2025-03-12 11:00: Procedurevergadering (Procedurevergadering), vaste commissie voor Digitale Zaken
- 2025-03-18 17:00: Bescherming persoonsgegevens en digitale grondrechten (Commissiedebat), vaste commissie voor Digitale Zaken
- 2025-03-20 13:45: Aanvang middagvergadering: Regeling van werkzaamheden (Regeling van werkzaamheden), TK
Preview document (🔗 origineel)
| Tweede Kamer der Staten-Generaal | 2 |
| Vergaderjaar 2024-2025 |
32 761 Verwerking en bescherming persoonsgegevens
Nr. 314 BRIEF VAN DE STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID
Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 6 maart 2025
Tijdens het commissiedebat Inzet algoritmen en data-ethiek op 28 januari 2025 (Kamerstuk 26 643, nr. 1283), heeft het lid Ergin (DENK) gevraagd hoe het advies van de Autoriteit Persoonsgegevens (AP) d.d. 10 oktober 20241 zich verhoudt tot het arrest van het Hof van Justitie van de Europese Unie (HvJEU) in de zaak «Schufa».
Het lid Ergin stelde de vraag of de Europese interpretatie van de Europese regels strikter is dan de interpretatie door de AP in haar advies. De Staatssecretaris Koninkrijksrelaties en Digitalisering zegde toe hierop schriftelijk terug te komen. Met deze brief doe ik deze toezegging gestand.
Vooropgesteld dient te worden dat het HvJEU en de AP beide uitgaan van hetzelfde Europeesrechtelijk normenkader, zoals dat is vastgelegd in de Algemene Verordening Gegevensbescherming (AVG). Dat de AP dit kader minder strikt interpreteert dan het HvJEU, valt uit haar advies niet af te leiden. Graag licht ik dit toe.
Geautomatiseerde besluitvorming
Artikel 22, eerste lid, AVG verbiedt geautomatiseerde individuele besluitvorming. Dat betreft een uitsluitend op geautomatiseerde verwerking, met inbegrip van profilering, gebaseerd besluit, waaraan ofwel voor de betrokkene rechtsgevolgen zijn verbonden ofwel dat hem anderszins in aanmerkelijk mate treft. Het HvJEU oordeelde in het Schufa-arrest dat niet alleen de uiteindelijke beslissing zelf, maar ook de voorbereidende handelingen die leiden tot die beslissing gezien kunnen worden als geautomatiseerde besluitvorming.
Het Schufa-arrest
Op 7 december 2023 heeft het HvJEU twee arresten gewezen in verband met de
gegevensverwerking door het Duitse kredietinformatiebureau Schufa Holding AG, dat zijn cliënten informatie verstrekt over de kredietwaardigheid van derden. In één van deze arresten2 staat geautomatiseerde besluitvorming centraal. Daarbij ging het om de praktijk waarbij Schufa, aan de hand van persoonlijke kenmerken en een wiskundig-statistische methode, op geautomatiseerde wijze «scores» opstelde. Daaruit volgde bijvoorbeeld hoe waarschijnlijk het is dat een kredietaanvrager toekomstige betalingsverplichtingen zal nakomen. In de praktijk werd de beslissing tot kredietverlening gebaseerd op de scores. Over deze gang van zaken liet het HvJEU zich uit. Als het hoofdzakelijk van een geautomatiseerd gegenereerde waarschijnlijkheidswaarde afhangt welke beslissing wordt genomen op de aanvraag van de desbetreffende persoon, is naar het oordeel van het HvJEU sprake van «geautomatiseerde individuele besluitvorming» in de zin van artikel 22 AVG, ook al wordt de definitieve beslissing door een mens genomen.
Het AP-advies
In haar advies geeft de AP zich aantoonbaar rekenschap van het Schufa-arrest. Zij zwakt de daarin uitgesproken conclusies niet af, maar past ze toe op de aan haar voorgelegde Nederlandse uitvoeringspraktijk. In de kabinetsreactie d.d. 3 december 20243 bij het advies is nader ingegaan op het advies van de AP en de definitie van «besluit». De AP benadrukt in haar advies onder andere het belang van betekenisvolle menselijke tussenkomst bij de inzet van geautomatiseerde risicoselectie-instrumenten. Ook dit is in lijn met het oordeel van het HvJEU, dat als gezegd concludeert dat sprake is van geautomatiseerde besluitvorming wanneer een besluit weliswaar door een mens genomen wordt, maar dat besluit hoofdzakelijk afhangt van een voorgaande geautomatiseerde beoordeling zoals een waarschijnlijkheidswaarde. Dit maakt duidelijk dat menselijke tussenkomst alleen niet voldoende is: deze moet betekenisvol zijn. Om betekenisvol te zijn, moet degene die «tussenkomt» voldoende kunnen beoordelen of selectie in een bepaald geval terecht is. Dat vereist dat de behandelaar weet hoe het geautomatiseerde proces werkt en welke invloed dit heeft op het uiteindelijke besluit. De AP stelt daarnaast een vijftal andere voorwaarden waaraan geautomatiseerde risicoselectie moet voldoen, waaronder het vooraf en periodiek onderzoeken en ondervangen van discriminatoire verwerkingen en kenbaarheid voor de betrokkene.
Ik zie in het advies dan ook geen aanwijzingen dat de interpretatie van de AP van artikel 22 AVG minder strikt is dan die van het HvJEU.
De Staatssecretaris van Justitie en Veiligheid,
T.H.D. Struycken