Preview document (🔗 origineel)

---

2023D42271 INBRENG VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

Binnen de vaste commissie voor Digitale Zaken hebben enkele fracties de behoefte om enkele vragen en opmerkingen voor te leggen aan de Minister van Economische Zaken en Klimaat en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over de brieven «Geannoteerde agenda van de Telecomraad (Informeel) d.d. 23–24 oktober 2023» (Kamerstuk 21 501-33, nr. 1034) en «Antwoorden op vragen commissie over het verslag van de formele Telecomraad van 2 juni 2023 in Luxemburg» (Kamerstuk 21 501-33, nr. 1035).

De voorzitter van de commissie,

Valstar

De adjunct-griffier van de commissie,

Muller

Inhoudsopgave

I Vragen en opmerkingen vanuit de fracties

Vragen en opmerkingen van de leden van de VVD-fractie

Vragen en opmerkingen van de leden van de D66-fractie

Vragen en opmerkingen van de leden van de PVV-fractie

Vragen en opmerkingen van de leden van de SP-fractie

II Antwoord/reactie van de bewindspersoon

I Vragen en opmerkingen vanuit de fracties

Vragen en opmerkingen van de leden van de VVD-fractie

De leden van de VVD-fractie hebben met interesse kennisgenomen van de stukken over de Telecomraad (Informeel) d.d. 23–24 oktober 2023. Deze leden hebben nog enkele vragen en opmerkingen.

Het stemt de leden van de VVD-fractie positief dat Nederland het Europees Parlement wil steunen in haar positie om aanbevelingsalgoritmen als hoog risico aan te willen merken, conform de motie van de leden Rajkowski en Dekker-Abdulaziz (Kamerstuk 30 821, nr. 193). Aangezien er op 25 oktober trilogen gepland staan om akkoorden te bereiken op een aantal onderwerpen, vragen deze leden of de aanbevelingsalgoritmen een onderwerp van bespreking zullen zijn bij deze eerstvolgende onderhandeling? Hoe staan de overige lidstaten tegenover dit onderwerp? Wat is de verwachte uitkomst van de onderhandeling hierover?

De leden van de VVD-fractie zijn verheugd te lezen dat Nederland zich inzet voor een mogelijke verdergaande verplichting voor watermerken, die zich ook richt op door Artificiële Intelligentie (AI) gegenereerde tekst- of beeldmateriaal waarbij gebruik is gemaakt van auteursrechtelijk materiaal in de trainingsdata, conform de motie van de leden Dekker-Abdulaziz en Rajkowski (Kamerstuk 30 821, nr. 185).

Het is volgens de leden van de VVD-fractie cruciaal dat een gebruiker die general-purpose artificial intelligence (GPAI) wil inzetten voor een specifieke hoog-risicotoepassing toegang heeft tot de benodigde informatie om te voldoen aan de voorschriften van de AI-verordening. Deze informatie kan alleen worden verkregen als de aanbieder van GPAI deze verstrekt. Daarom is het noodzakelijk dat de AI-verordening de aanbieders van GPAI verplicht om dergelijke transparantie te bieden. Geldt er een informatieverplichting voor deze aanbieders van GPAI aan alle gebruikers of slechts aan gebruikers die GPAI gebruiken voor een specifieke hoog-risicotoepassing? Waarom is hiervoor gekozen? Welke essentiële informatie wordt hierbij gedeeld? Hoe verhoudt de Nederlandse positie met betrekking tot GPAI zich tot de posities van andere lidstaten, zoals Frankrijk en Duitsland?

De leden van de VVD-fractie vinden het essentieel dat de regels voor AI duidelijk en praktisch zijn, én toegankelijk voor kleine en/of nieuwe partijen om concurrentie te bevorderen. Ondersteuning bij de naleving van deze regels is belangrijk, vooral omdat de omvang van de nieuwe regelgeving nieuwkomers ontmoedigt. Daarnaast zien deze leden de noodzaak in de maatschappij om de afronding van de AI-verordening niet onnodig te vertragen. Welke rol zal Nederland innemen als het gaat om het bevorderen van innovatie en (het verkrijgen en behouden van) een sterke positie in AI-ontwikkelingen? Op welke maatregelen kunnen zij inzet verwachten van het kabinet in het kader van het borgen van de uitvoerbaarheid en proportionaliteit voor ondernemers en andere kleine en/of nieuwe partijen?

Vragen en opmerkingen van de leden van de D66-fractie

De leden van de D66-fractie hebben met interesse kennisgenomen van de geannoteerde agenda voor de Telecomraad (Informeel) van 23 en 24 oktober. Deze leden hebben nog enkele vragen, suggesties en opmerkingen.

Uit de geannoteerde agenda begrijpen de leden van de D66-fractie dat het in de lijn der verwachting ligt dat er nog eind dit jaar een politiek akkoord ligt over de inhoud van de AI-verordening. Er zijn nog enkele open eindjes. Zo blijkt dat het Europees Parlement (EP) de eisen voor Foundation Models direct in de verordening wil opnemen, daar waar de Raad deze separaat wil opnemen in een uitvoeringshandeling. Kunt u toelichten wat het verschil is en wat de reden is voor een separate uitvoeringshandeling?

Een ander discussiepunt blijft het gebruik van biometrische gegevens, zo merken de leden van de D66-fractie op. De Nederlandse inzet blijft gericht op het toestaan van uitzonderingen op het gebied van real-time biometrische identificatie. Kunt u aan de leden van deze fractie zo concreet mogelijk verduidelijken om welke uitzonderingen dit, volgens de Nederlandse inzet, gaat? Wat zijn precies de proportionele en effectieve uitzonderingen? Kunt u aangeven hoe «ruim» gewenst is in uw opvatting, aangezien real-time gezichtsherkenning wat deze leden betreft al te verstrekkend is.

Daarnaast lezen de leden van de D66-fractie dat het EP voorspellende algoritmes voor bijvoorbeeld de politie wilt verbieden. Deze leden staan hier volledig achter en hebben aan de Minister van Justitie & Veiligheid ook vragen hierover gesteld. Kunt u toezeggen om dit standpunt proactief kenbaar te maken in de onderhandelingen?

Wat betreft het toezicht geeft het kabinet aan dat het mogelijk moet zijn om twee of meer toezichthouders te benoemen voor de verschillende hoog-risico toepassingen in de AI-verordening. De leden van de D66-fractie willen graag van u weten wat de redenering hiervoor is en of dit er niet toe leidt dat verschillende toezichthouders naar elkaar gaan wijzen. Welke toezichthouder, behalve de Autoriteit Persoonsgegevens (AP), zou volgens u nog meer met verantwoordelijkheden op dit gebied worden belast?

Verder constateren de leden van de D66-fractie dat uit de geannoteerde agenda blijkt dat de inzet om burgers proactief te informeren bij het gebruik van een hoog-risico algoritme door een overheidsorganisatie, de Raadstekst niet heeft gehaald. In de brief schrijft de Staatssecretaris dat er wel «een bredere verplichting is voorgesteld». Kan zij toelichten welke verplichting dit dan is?

Tenslotte, de leden van de D66-fractie zijn blij om te lezen dat vier verschillende moties (mede namens D66) over de Nederlandse inzet bij de triloogonderhandelingen over de AI-verordening in de onderhandelingen zijn besproken. Wat betreft de inzet rond het watermerken van door AI gegenereerde teksten of beelden wordt aangegeven dat de verordening stelt dat het verplicht wordt voor gebruikers om te vermelden dat de content kunstmatig gegenereerd is. Hoewel dit een goede eerste stap is, is dit niet hetzelfde als een watermerk in het materiaal zelf. Want bij enkel een vermelding kan het gegenereerde materiaal door een derde partij worden gebruikt, zonder het te vermelden. In hoeverre wordt een volgende gebruiker opnieuw verplicht om kenbaar te maken dat het kunstmatig is gegenereerd? En ligt dan de schuld bij iedereen die het daarna hergebruikt of alleen bij degene die als eerste verzuimde de vermelding te maken? Kan worden toegelicht in hoeverre het kabinet het letterlijke dictum onder de aandacht gaat brengen bij de onderhandelingen? Kunt u daarbij toelichten in hoeverre creatieve makers, zoals filmmakers of schrijvers, met deze verordening beter beschermd zijn in hun werk, gelet op de stakingen die recentelijk in Hollywood plaatsvonden? Kunt u toelichten hoe deze wetgeving daarop toeziet?

De leden van de D66-fractie lezen dat in de verordening over het bestrijden van kinderpornografisch materiaal (CSAM) wordt voorgesteld om AI te benutten om chatberichten te scannen. In hoeverre is deze techniek expliciet onderdeel van de AI-verordening en in hoeverre wordt dit gekenmerkt als «hoog-risico» algoritme? Deelt u dan ook de opvatting dat er mensenrechtentoetsen moeten worden gedaan, voordat deze techniek kan worden gebruikt? Kunt u toezeggen dat zij zich middels de onderhandelingen in de AI-verordening zal inzetten voor het niet vereisen van deze vorm van AI voor overheden?

Uit fysieke en gedragsgegevens zoals oog-, hoofd- en lichaamsbewegingen en hartslag en breinactiviteit die via Extended Reality (XR)-apparaten kunnen worden verzameld, kan zeer intieme informatie worden afgeleid. De combinatie van de Algemene verordening gegevensbescherming (AVG), de AI-verordening, en de Digital Services Act (DSA), levert zeker een bescherming op tegen bepaalde typen analyse en toepassing van data. Als grootschalige dataverzameling echter voortduurt, bestaat er het risico op misbruik door doelverschuiving en manipulatie, ook als dit bij wet verboden wordt. Een optie om de privacy van XR-gebruikers beter te beschermen is om het begrip «biometrische gegevens» te herdefiniëren, zoals het EP voorstelt in de context van de AI-verordening. Deze definitie komt echter ook terug in de AVG en de daaraan gekoppelde DSA, dus het verdient aanbeveling om naar mogelijkheden te zoeken ook daar de definitie te verruimen. Hiermee zou een groter deel van de fysieke en gedragsgegevens die via XR verzameld kunnen worden, zoals pupilreflexen en neurodata, een bijzondere bescherming krijgen. Hoe kijkt het kabinet hiernaar, en stemt u toe om dit mee te nemen in de onderhandelingen in Brussel?

Vragen en opmerkingen van de leden van de PVV-fractie

De leden van de PVV-fractie hebben kennisgenomen van de stukken en hebben enkele vragen over de Nederlandse inzet bij de triloog-onderhandelingen over de AI-Act en in het bijzonder over de beoogde bepalingen aangaande GPAI en de zogeheten Foundation Models.

In de geannoteerde agenda kunnen de leden van de PVV-fractie lezen dat Nederland op bovenstaande onderwerpen actief een standpunt naar voren zal gaan brengen om de Raadspositie te beïnvloeden. Of dit een goede ontwikkeling is valt voor deze leden niet te controleren, omdat de Nederlandse standpunten niet helder worden benoemd in de brief. Enerzijds wordt er gewezen op de noodzaak tot het beperken van risico’s, anderzijds wordt het gevaar benoemd dat regulering kan leiden tot beperking van de innovatiekracht. Is het kabinet op de hoogte van de non-paper «General Purpose Artificial Intelligence (GPAI) and Foundation Models in the AI Act» dat Duitsland begin september heeft ingebracht in deze discussie? Zo ja, kunt u hierop ingaan en aangeven op welke punten u het eens bent met Duitsland en op welke punten niet? Deze leden zouden graag zien dat Nederland aansluit bij de inzet van Duitsland op het gebied van GPAI en Foundation Models. Is het kabinet daartoe bereid? Deze leden vinden het veel te vroeg om via regelgeving deze technieken te beperken en elke inperking zal onherroepelijk leiden tot een rem op innovatie en hiermee Nederlandse en Europese burgers en bedrijven op achterstand zetten ten opzichte van de rest van de wereld. Dat is voor de leden van deze fractie onwenselijk.

Vragen en opmerkingen van de leden van de SP-fractie

De leden van de SP-fractie hebben kennisgenomen van de geannoteerde agenda van de informele Telecomraad die op 23 en 24 oktober plaats zal vinden. Deze leden hebben hier enkele vragen over.

De leden van de SP-fractie lezen onder het kopje «Verordening Raamwerk voor een Europese Digitale Identiteit (herziening eIDAS-verordening)» dat de zorgen van de Kamer die tijdens het interpellatiedebat-Leijten op 16 februari jl. zijn uitgesproken de kern hebben gevormd van het standpunt dat wordt uitgedragen in Brussel. Deze uitspraak verbaast deze leden, aangezien het hoofdpunt van de interpellatie was dat de Staatssecretaris BZK de wens van de Kamer negeerde en juist instemde met het voorstel voor een Europese digitale identiteit. Hoe kan de kern van het Nederlands standpunt op dit onderwerp gebaseerd zijn op de zorgen en kritiek van de Kamer terwijl Nederland wel instemt met het voorstel? Is dat niet tegenstrijdig? Ook hebben de leden van de deze fractie een aantal vragen gebaseerd op de beantwoording van de schriftelijke inbreng over de formele Telecomraad van 2 juni 2023. Deze leden lezen dat het nog onduidelijk is of het expliciete handelsverbod in de tekst wordt opgenomen. Wanneer verwacht u hier duidelijkheid over te krijgen? Zal Nederland tegen het raamwerk voor een Europese Digitale Identiteit stemmen als er geen expliciet handelsverbod komt?

De leden van de SP-fractie lezen onder het kopje «Trilooginzet Artificial Intelligence Act (AIA) & uitvoering moties» dat het voorstel gedaan in de motie van het lid Leijten (Kamerstuk 21 501-33, nr. 987) de Raadstekst niet heeft gehaald. Dat betreuren deze leden, aangezien het van belang is dat burgers weten wanneer beslissingen die over hun gemaakt zijn door een algoritme of AI-systeem zijn gemaakt, om hiermee die beslissingen te kunnen controleren. Graag zien zij dat u zich hard maakt voor het voorstel in de motie van het lid Leijten. Kunt u dat toezeggen? Zult u de Kamer uitgebreid kunnen informeren over een compromisvoorstel wanneer daaraan gewerkt wordt? Ook lezen de leden dat de Raad tegen het voorstel van het EP is over een volledig verbod op real-time biometrische identificatie op afstand in de publieke ruimte voor de rechtshandhaving. Zou u verder kunnen toelichten waarom de Raad tegen dit voorstel is, welke uitzonderingen de Raad graag wil, en welke kritiekpunten het kabinet heeft op de argumenten van het EP en de Raad?

Verder hebben de leden van de SP-fractie een aantal vragen over de aanbevelingen in de monitor Digitale Decennium 2030. De commissie Digitale Zaken heeft de Minister verzocht om de aanbevelingen voor Nederland elk jaar met een appreciatie naar de Kamer te sturen. Wanneer kan de commissie deze appreciatie verwachten? Nederland wordt aanbevolen om de instroom van afgestudeerde ICT-specialisten en het aantal vrouwelijke ICT-specialisten te verhogen. Zijn er plannen van het kabinet om hiermee aan de slag te gaan? Zo ja, wat zijn deze plannen?

II Antwoord/reactie van de bewindspersoon