Inbreng verslag van een schriftelijk overleg over Raad van Europa verdrag over AI, mensenrechten, democratie en de rechtsstaat (Kamerstuk 21501-33-1006)
Raad voor Vervoer, Telecommunicatie en Energie
Inbreng verslag schriftelijk overleg
Nummer: 2023D14787, datum: 2023-04-06, bijgewerkt: 2024-02-19 10:56, versie: 3
Directe link naar document (.pdf), link naar pagina op de Tweede Kamer site, officiële HTML versie (nds-tk-2023D14787).
Gerelateerde personen:- Eerste ondertekenaar: R.J. Kamminga, voorzitter van de vaste commissie voor Digitale Zaken (VVD)
- Mede ondertekenaar: S.R. Muller, adjunct-griffier
Onderdeel van zaak 2023Z03825:
- Indiener: A.C. van Huffelen, staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties
- Volgcommissie: vaste commissie voor Binnenlandse Zaken
- Volgcommissie: vaste commissie voor Europese Zaken
- Voortouwcommissie: vaste commissie voor Digitale Zaken
- 2023-03-08 12:44: Aansluitend: Regeling van werkzaamheden (Regeling van werkzaamheden), TK
- 2023-03-16 14:00: Procedurevergadering - LET OP: Afwijkende dag (Procedurevergadering), vaste commissie voor Digitale Zaken
- 2023-04-06 12:00: Raad van Europa verdrag over AI, mensenrechten, democratie en de rechtsstaat - 21501-33-1006 (Inbreng schriftelijk overleg), vaste commissie voor Digitale Zaken
- 2023-10-05 13:40: Aanvang middagvergadering: Regeling van werkzaamheden (Regeling van werkzaamheden), TK
Preview document (🔗 origineel)
2023D14787 Inbreng verslag van een schriftelijk overleg
Binnen de vaste commissie voor Digitale Zaken hebben enkele fracties de behoefte om enkele vragen en opmerkingen voor te leggen aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over de brief Raad van Europa verdrag over AI, mensenrechten, democratie en de rechtsstaat (Kamerstukken 21 501-33 en 26 643, nr. 1006).
De voorzitter van de commissie,
Kamminga
Adjunct-griffier van de commissie,
Muller
Inhoudsopgave | ||
I | Vragen en opmerkingen vanuit de fracties | 2 |
Vragen en opmerkingen van de leden van de VVD-fractie | 2 | |
Vragen en opmerkingen van de leden van de D66-fractie | 3 | |
Vragen en opmerkingen van de leden van de PVV-fractie | 4 | |
Vragen en opmerkingen van de leden van de CDA-fractie | 4 | |
Vragen en opmerkingen van de leden van de SP-fractie | 5 | |
Vragen en opmerkingen van de leden van de GroenLinks-fractie | 6 | |
Vragen en opmerkingen van de leden van de Volt-fractie | 7 | |
Vragen en opmerkingen van de leden van de BBB-fractie | 8 | |
II | Antwoord / Reactie van de Staatssecretaris | 8 |
I Vragen en opmerkingen vanuit de fracties
Vragen en opmerkingen van de leden van de VVD-fractie
De leden van de VVD-fractie hebben met belangstelling kennisgenomen van de brief van de Staatssecretaris over het Verdrag van de Raad van Europa over AI, mensenrechten, democratie en rechtsstaat. Graag willen deze leden de Staatssecretaris daarover enkele vragen stellen.
De leden van de VVD-fractie hechten grote waarde aan de regulering van het gebruik van artificiële intelligentie (AI) ter bescherming van de mensenrechten, democratie en rechtsstaat.
De leden van de VVD-fractie constateren dat de Europese Commissie mandaat heeft gekregen om in het kader van de Raad van Europa namens de EU-lidstaten te onderhandelen over onderwerpen in het (kader)verdrag die onder de exclusieve bevoegdheid van de EU vallen. Daarnaast treedt Nederland op een aantal punten, zoals de bescherming van mensenrechten, extra waarborgen voor burgers en verbeterde rechtsbescherming, zelf op als onderhandelingspartner. Kan nader worden aangegeven waar het hier concreet om gaat? Nemen ook andere EU-landen zo’n positie in en op welke punten richten die landen zich bij de onderhandelingen over het AI-verdrag? Als Nederland en eventueel andere landen ook zelfstandig gaan onderhandelen, kunnen er verschillen tussen de EU-landen ontstaan. Hoe verhoudt dat zich tot de op te stellen AI-verordening van de Europese Unie? Hoe wordt voorkomen dat er verschillen tussen de EU-landen ontstaan?
De leden van de VVD-fractie vragen verder aan de Staatssecretaris welke onderdelen van het AI-verdrag niet onder de exclusieve bevoegdheid van de EU vallen. Deze leden vragen ook wat de gevolgen zijn van het AI-verdrag voor het EU-handvest van de grondrechten.
De leden van de VVD-fractie lezen dat de CAHAI (Ad hoc Committee on Artificial Intelligence) op 2 december 2021 concludeerde dat er een Raad van Europa instrument nodig is met fundamentele principes voor de bescherming van menselijke waardigheid en het respect voor mensenrechten, democratie en de rechtsstaat bij de ontwikkeling, het ontwerp en het gebruik van AI-systemen. Inmiddels zijn we 1,5 jaar verder en heeft het gebruik van (generatieve) AI-systemen een vlucht genomen. Deze leden lezen ook dat een concept-verdrag op zijn vroegst pas in het najaar van 2023 ter goedkeuring wordt voorgelegd aan het Comité van ministers. Hoe taxeert de Staatssecretaris de toevlucht van het gebruik van steeds slimmer wordende AI-systemen terwijl er nog geen regels zijn voor het gebruik van AI-systemen ter bescherming van mensenrechten, democratie en de rechtsstaat? Wordt de inhoud van het verdrag ook zodanig ingericht dat het toekomstbestendig is? Deelt de Staatssecretaris de mening dat er in de toekomst voortschrijdende acties nodig zijn om dit soort situaties te voorkomen?
De leden van de VVD-fractie concluderen dat de werking van AI-systemen geen grenzen kent. Vele AI-systemen komen van de hand van makers uit niet-EU-landen. Welke garanties kan de Staatssecretaris bieden dat de werking van dit verdrag ook voor de makers van AI-systemen uit niet-EU-landen geldt? Is de Staatssecretaris bereid om te pleiten voor hardere garanties bij de totstandkoming van het AI-verdrag?
De leden van de VVD-fractie lezen dat er in het Raadscompromis nieuwe bepalingen zijn toegevoegd om specifieker rekening te houden met generatieve AI. Zo wordt in de tekst gespecificeerd dat als de maker zich kan voorstellen dat zijn AI gebruikt gaat worden in een hoog-risico domein, hij zich aan de hoog-risico regels moet houden. Worden er voorwaarden gecreëerd voor de makers van generatieve AI waaraan zij hun verwachtingen kunnen leggen om te bepalen of zijn AI gebruikt gaat worden in een hoog-risico domein? Hoe verhoudt deze bepaling zich tot makers van generatieve AI uit niet-Europese landen? Hoe verhoudt het komende AI-verdrag zich tot bestaande AI-systemen? Dienen deze bestaande AI-systemen te voldoen aan de eisen in het AI-verdrag of geldt dit alleen voor toekomstige AI-systemen?
De leden van de VVD-fractie vragen de Staatssecretaris de Kamer te informeren over het vervolg van de onderhandelingen over het AI-verdrag van de Raad van Europa, bijvoorbeeld via de kwartaalrapportage lopende wetgevingsonderhandelingen.
Vragen en opmerkingen van de leden van de D66-fractie
De leden van de D66-fractie hebben met interesse kennisgenomen van de brief van de Staatssecretaris en de nulversie van het verdrag van de Raad van Europa. Deze leden achten het van toegevoegde waarde dat de Raad van Europa een parallel verdrag opstelt waarin de beginselen staan vervat waaraan AI-toepassingen aan moeten voldoen op het gebied van mensenrechten, democratie en de rechtstaat. Het biedt de kans om, naast de AI-verordening, fundamentele criteria op te stellen die zodoende richting geven in de uitleg van de verordening, wat deze leden betreft. De leden hebben nog enkele vragen.
De leden van de D66-fractie constateren dat uit de brief en de nulversie van het verdrag het duidelijk wordt dat de Europese Commissie (EC) gemandateerd is om namens de lidstaten te onderhandelen. Hier is voor gekozen omdat er een mogelijke overlap zit tussen de AI-verordening en het voorliggende verdrag. Het roept bij deze leden wel enige vragen op over het verdere proces en de mogelijkheid tot beïnvloeding. Uit de brief van Staatssecretaris blijkt dat de nulversie opgesteld is door de «drafting group». Kan de Staatssecretaris toelichten welke bijdrage wij als lidstaat aan die drafting group hebben gedaan? Ook staat in de beslisnota het volgende: «Pas eind 2022 is in EU verband een besluit genomen over het mandaat voor de EU, en onze inzet bij dit verdrag is daarvan afhankelijk omdat het iets zegt over de ruimte en manier die er is voor lidstaten om invloed uit te oefenen op de onderhandelingen. Omdat de EU een mandaat heeft om te onderhandelen, zal de inzet voor een deel afhankelijk zijn van wat in EU verband op dit onderwerp wordt geregeld.» Kan de Staatssecretaris toelichten hoe dit mandaat onze inzet bij dit verdrag beïnvloedt en waarom we in onze inbreng afhankelijk zijn van wat er in EU-verband wordt geregeld? Deze leden constateren dat er in april een volgende vergadering is over het verdrag, waarin een nieuwe slag wordt gemaakt. Wat zal daarin onze inbreng zijn en in hoeverre is er ruimte voor de Kamer om daar vooraf geïnformeerd over te worden? Deelt de Staatssecretaris de mening dat er ruimte moet zijn om input te leveren voor deze inbreng?
Uit de brief van de Staatssecretaris blijkt dat er is gekozen om eerst de fundamentele basis te leggen voor de nulversie, alvorens de controversiële onderwerpen worden onderhandeld en besloten. Kan zij aan de leden van de D66-fractie toelichten welke onderwerpen dit zullen zijn en hoe zij daar de Kamer in gaat meenemen? Ziet zij in de huidige nulversie al onderwerpen die als zodanig kunnen worden beschouwd, en zo ja, welke zijn dat dan?
De leden van de D66-fractie constateren dat er een andere definitie van «artificial intelligence» in het verdrag wordt gehanteerd dan in de AI-act; in de laatstgenoemde worden generatieve AI ook geïncludeerd, maar in het voorliggende verdrag niet. Kan de Staatssecretaris daarop reflecteren en vindt zij dat er een uniforme definitie gehanteerd zou moeten worden?
De leden van de D66-fractie constateren dat het definitieve verdrag zich in nationale wetgeving moet doorvertalen. Volgens de planning zou het definitieve verdrag eind 2023 gereed moeten zijn. Welke stappen kan de Staatssecretaris nu al zetten om de voorbereiding op nationale wet- en regelgeving te versnellen? In hoeverre zullen de implicaties van het verdrag al geldig zijn in Nederland, zo lang dit niet is omgezet tot nationale wetgeving?
De leden van de D66-fractie willen graag van de Staatssecretaris weten in hoeverre nu al bestaande en gebruikte AI (zowel gebruikt door bedrijven als de overheid) in retroperspectief worden doorgelicht op basis van nieuwe wetgeving, zodra deze in werking treedt.
Tenslotte, in de nulversie van het verdrag staat opgenomen dat er nationale toezichthouders worden aangesteld om de naleving te monitoren. De leden van de D66-fractie vragen of de Staatssecretaris kan toelichten welke stappen zij neemt om te onderzoeken waar deze taak het beste belegd kan worden.
Vragen en opmerkingen van de leden van de PVV-fractie
De leden van de PVV-fractie hebben kennisgenomen van de stukken en hebben daarover in dit stadium geen vragen.
Vragen en opmerkingen van de leden van de CDA-fractie
De leden van de CDA-fractie hebben enkele vragen over de brief van de Staatssecretaris over de onderhandelingen in de Raad van Europa over het AI-verdrag. Deze leden constateren dat in het coalitieakkoord staat dat Nederland in Europa het voortouw neemt om zich in te zetten voor de mensgerichte inzet van kunstmatige intelligentie: dit zijn AI-systemen die de mens dienen, veilig zijn en vertrouwd kunnen worden, die ingezet worden met respect voor publieke waarden en mensenrechten en waarbij een goede rechtsbescherming verzekerd is. Deze leden vragen hoe de Staatssecretaris dit voortouw vormgeeft, naast het EU-mandaat voor de onderhandelingen.
De leden van de CDA-fractie lezen dat er begin 2023 is besloten om naast de plenaire vergadering een «drafting» groep op te richten. Deze leden vragen wie in de drafting groep zitten. Deze leden vragen tevens of er ook een vertegenwoordiger namens Nederland lid van de drafting groep is en, zo nee, waarom niet.
De leden van de CDA-fractie lezen dat tijdens het plenaire deel van de vergadering hoofdstukken uit het conceptverdrag worden besproken, besluiten worden genomen, en dat er naast (mogelijke) verdragspartijen ook NGO’s (niet-gouvernementele organisaties) aanwezig zijn die ook tekstvoorstellen kunnen doen. Deze leden vragen welke NGO’s aanwezig zijn en mee kunnen praten.
De leden van de CDA-fractie vragen hoe geborgd wordt dat er niet alleen aandacht is voor privacy, maar dat er ook aandacht wordt besteed aan opsporing indien AI gebruikt wordt door mensen en groepen met verkeerde intenties. In dat kader vragen deze leden of er ook vertegenwoordigers van bijvoorbeeld het opsporingsapparaat en het Openbaar Ministerie meedenken en meepraten in de «drafting» groep of op een andere wijze.
De leden van de CDA-fractie constateren dat Nederland en de andere EU-lidstaten de Europese Commissie hebben gemandateerd om te onderhandelen over het AI-verdrag. Deze leden lezen dat in het uiteindelijke mandaatbesluit is afgesproken dat lidstaten zeggenschap houden over nationale bevoegdheden zoals nationale veiligheid. Zij vragen wat dit precies betekent wanneer er verschillen bestaan tussen twee lidstaten over hoe om te gaan met «mensenrechten, democratie en de rechtstaat» bij het gebruik van AI. De leden van de CDA-fractie noemen het voorbeeld dat lidstaat A meer mogelijkheden toestaat in het gebruik van AI dan lidstaat B omdat lidstaat B daar een gevaar in ziet voor het functioneren van de rechtstaat. Een inwoner van land A past AI toe binnen de wettelijke grenzen van lidstaat A, maar zet het in lidstaat B. Deze leden vragen of de acties van de inwoner van land A dan beoordeeld worden door lidstaat A of dat lidstaat B kan vragen aan lidstaat A om de inwoner uit te leveren. Zij vragen of de Staatssecretaris op dit voorbeeld wil ingaan. De leden van de CDA-fractie vragen of de Staatssecretaris wil toelichten hoe Nederland hier in de onderhandelingen over het verdrag invloed op uitoefent en hoe dit wordt vormgegeven buiten het EU-mandaat.
De leden van de CDA-fractie vragen hoe de Staatssecretaris aankijkt tegen het idee van «Ethics by design». Dit idee houdt in dat AI moet voldoen aan ethische richtlijnen bij de ontwikkeling ervan, en dat wanneer het niet aan deze richtlijnen voldoet, het niet binnen Europa kan worden toegestaan.
De leden van de CDA-fractie vragen of de Staatssecretaris wil ingaan op wat het verdrag zou moeten regelen met betrekking tot generatieve AI-systemen zoals ChatGPT, die kunnen worden gebruikt als basis voor meer gespecialiseerde AI-systemen. Deze leden vragen aan welke eisen deze systemen moeten voldoen en of de AI-verordening van de Europese Unie hier mogelijk nog op wordt aangepast. Deze leden vragen of de Staatssecretaris de positie van het kabinet en van de EU op dit punt wil toelichten.
De leden van de CDA-fractie vragen in hoeverre de EU de aanbevelingen van de European Data Protection Supervisor (EDPS) ten aanzien van biometrische identificatie en sociaal scoren overneemt, zodat de verboden hiervoor niet alleen gelden voor «realtime» biometrische identificatie en niet alleen voor overheden maar ook voor bedrijven.
Vragen en opmerkingen van de leden van de SP-fractie
De leden van de SP-fractie hebben de brief over het AI-verdrag van de Raad van Europa gelezen en hebben hierover nog enkele vragen en opmerkingen.
De leden van de SP-fractie zijn positief over de aandacht die de ontwikkeling van AI krijgt, omdat deze toepassingen ingrijpende gevolgen kunnen hebben voor het leven van mensen en voor de samenleving als geheel. Deze leden vragen in dat kader naar het uitgangspunt van dit kabinet dat alles wat digitaal kan, ook digitaal uitgevoerd wordt. Deze leden maken zich zorgen over dit principe omdat menselijke waardigheid en menselijk contact van wezensbelang zijn voor het functioneren van de samenleving. Kan de Staatssecretaris hierop reflecteren?
De leden van de SP-fractie lezen verder dat er wordt gesproken om sociale ratingsystemen te verbieden, onder andere door de Europese toezichthouder. Zij pleiten ervoor het verbod op sociaal scoren uit te breiden naar bedrijven. Deze leden vragen naar het standpunt van het kabinet hierover. De leden van de SP-fractie zien ook dat sociale scoringssystemen kunnen leiden tot uitsluiting en discriminatie en vinden een verbod wenselijk. In hoeverre zou een dergelijk verbod bijvoorbeeld ook bedrijven als Uber kunnen raken, waarbij de klant de taxichauffeur een score toebedeelt en de klant eveneens een rating ontvangt? Welke waarborgen zouden daaromtrent volgens de Staatssecretaris voor moeten gelden?
De leden van de SP-fractie lezen dat er een doeltreffend rechtsmiddel open moet staan voor getroffen actoren. Deze leden zijn hier voorstander van maar vragen ook of dit voldoende geborgd is. Rechtsmiddelen zouden laagdrempelig toegankelijk moeten zijn en zij zien dat dit nu niet het geval is. Kan de Staatssecretaris daarop ingaan?
De leden van de SP-fractie lezen voorts dat AI-systemen niet mogen discrimineren. Dat onderschrijven deze leden uiteraard volledig maar zij zien ook de gevaren dat dit vrijwel onmogelijk is om te voorkomen. Kan de Staatssecretaris daarop reflecteren? De vooroordelen van mensen worden immers ook ingebouwd in systemen en kunnen verder versterkt worden door de rekenkracht van een AI-systeem. De leden van de SP-fractie vragen in dat kader ook naar het toezicht, want welke instantie zou de toets («HUDEIRA») moeten uitvoeren en is deze instantie daar voldoende op toegerust volgens de Staatssecretaris?
Vragen en opmerkingen van de leden van de GroenLinks-fractie
De leden van de fractie van GroenLinks hebben met belangstelling kennisgenomen van de «nulversie» en de kabinetsbrief. Deze leden hebben hierover op dit moment enkele vragen.
De leden van de fractie van GroenLinks onderschrijven het belang van internationale afspraken over AI en vinden het daarom waardevol dat hier ook buiten EU-verband afspraken over worden gemaakt. Deze leden vragen wel een nadere beschouwing van het kabinet over hoe de toekomstige EU regels over AI en de regels uit het verdrag van de Raad van Europa zich straks tot elkaar verhouden en wat de concrete juridische gevolgen zijn van het voorliggende Raad van Europa verdrag voor de lidstaten. En wat gebeurt er in juridische zin als het straks onverhoopt zo is dat EU-wetgeving en het verdrag van de Raad van Europa tegenstrijdige regels kennen?
De leden van de fractie van GroenLinks constateren dat de EU onderhandelt namens de EU-lidstaten over het verdrag bij de Raad van Europa. Hiermee is de EU de grootste partij in deze onderhandelingen. Kan het kabinet, zo vragen deze leden, schetsen hoe de andere onderhandelende partijen bij dit verdrag zich tot nu toe hebben gepositioneerd ten aanzien van AI-regelgeving? En kan het kabinet ook nader ingaan op AI-regelgeving in andere werelddelen, zoals bijvoorbeeld in Amerika en Azië? Op welke wijze zet de EU en het Nederlandse kabinet zich in voor een sterke verankering van mensenrechten, democratie en rechtsstaat in mondiale regelgeving over AI?
De leden van de fractie van GroenLinks kijken met veel belangstelling naar de onderhandelingen tussen de Europese Commissie, de lidstaten en het Europees parlement over AI. Kan de Staatssecretaris hier een actuele stand van zaken over geven en kan de Staatssecretaris hierbij ook expliciet ingaan op hoe de onderhandelingen over regelgeving rondom generatieve AI zich ontwikkelen en de positie van de Nederlandse regering op dit vlak nader toelichten?
Tot slot vragen de leden van de fractie van GroenLinks hoe de Kamer geïnformeerd wordt over het verloop van de onderhandelingen.
Vragen en opmerkingen van de leden van de Volt-fractie
De leden van de Volt-fractie hebben kennisgenomen van de concept verdragstekst van het AI-verdrag van de Raad van Europa (RvE) en de bijgaande brief van de Staatssecretaris van BZK. Daarover hebben deze leden enkele vragen, die ook gaan over de huidige staat van AI-regulering in Nederland.
Het kabinet heeft haar positie in het BNC-fiche en de technische briefing kort toegelicht. Daarin stelt zij enkele doelen, waaronder: (i) Samenhang bewaken met de positie in de EU op de AI-verordening; (ii) Stevige verankering van mensenrechten met behoud van mogelijkheden voor innovatie; en (iii) Belang van mondiale werking. Kan de Staatssecretaris toelichten hoe zij voornemens is deze drie doelen te behalen? Welke concrete acties onderneemt zij daarvoor en zijn er gelijkgestemde landen waar Nederland mee op kan trekken? Welke rol kan de Tweede Kamer volgens het kabinet spelen bij het behalen van deze doelen? Als laatste: ten aanzien van de verankering van mensenrechten geeft de Staatssecretaris aan ruimte te willen houden voor innovatie. Die lijn kunnen de leden goed volgen, maar zij horen graag welke concrete grenzen het kabinet daarbij stelt.
Inhoud van het verdrag
I Scope: AI-gebruik in gevoelige contexten en essentiële gebieden
De scope van het AI-verdrag is in de concepttekst breed geformuleerd. Dat is goed, want mensenrechten en fundamentele vrijheden hebben ook een breed bereik. Kan de Staatssecretaris aangeven aan de leden van de Volt-fractie welke gebieden volgens haar niet onder de scope van het verdrag zouden moeten vallen? Waarom is dat het geval?
II en III Verplichtingen voor lidstaten
De leden van de Volt-fractie constateren dat in onderdelen II en III de verplichtingen voor de lidstaten en overheden zijn opgenomen. De Staatssecretaris heeft eerder aangegeven niet te lang te willen wachten met het nemen van bepaalde maatregelen om de risico’s voor (negatieve) impact van AI te beperken. Dan denken we aan discriminerende AI of bijvoorbeeld AI-toepassingen die een negatief effect hebben op de democratie. Kan de Staatssecretaris aangeven in hoeverre Nederland al voldoet aan de verplichtingen die in onderdelen II en III zijn opgenomen en op welke terreinen nog het meeste werk nodig is? Voldoet Nederland al aan de positieve verplichting om de rechten uit het EVRM (Europees Verdrag voor de Rechten van de Mens) – en in de toekomst dit verdrag – te beschermen?
De leden van de Volt-fractie vragen hiernaast: Welke inspanningen levert het kabinet om bijvoorbeeld ervoor te zorgen dat de individuele vrijheden, menselijke waardigheid en autonomie zoals bedoeld in art. 9; de toegang tot het publieke debat en het democratisch proces zoals bedoeld in art. 10; en het behoud van publieke gezondheidszorg en het milieu worden geborgd en beschermd tegen negatieve gevolgen van AI-toepassingen? Kan de Staatssecretaris tevens aangeven of zij alle verplichtingen uit onderdelen II en III steunt? En zo niet, welke niet en waarom niet? Stel dat bepaalde verplichtingen niet in de definitieve verdragstekst komen, maar de Staatssecretaris deze toch van belang acht. Gaat zij zich dan inspannen om die verplichtingen alsnog in Nederland door te voeren?
IV Fundamentele principes van ontwerp, ontwikkeling en toepassing van AI
Hoe verhoudt de mogelijkheid in de concepttekst om bepaalde AI-systemen een halt toe te roepen zich tot het EU-recht met betrekking tot vrijheid van ondernemerschap en de bepalingen uit de concept AI-verordening? Denkt de Staatssecretaris dat deze bepalingen juridisch houdbaar zijn?
In onderdeel IV staan fundamentele principes voor ontwerp, ontwikkeling en toepassing van AI-systemen. De Volt-fractie is benieuwd hoe de Staatssecretaris oordeelt over de tekst van artikel 12 en in hoeverre Nederland daar op dit moment aan voldoet. Het kabinet heeft immers uitgesproken de strekking van wat in dit artikel staat te ondersteunen.
Regels voor generatieve AI
De leden van de Volt-fractie achten het onwaarschijnlijk dat generatieve AI-toepassingen als ChatGPT niet onder de scope van de concepttekst zullen vallen, gelet op de (mogelijke) inbreuk die het maakt op fundamentele rechten en vrijheden zoals bedoeld in art. 4 lid 1 van de concepttekst. Hoe denkt de Staatssecretaris dat dit eventuele AI-verdrag de ontwikkeling van dergelijke toepassingen positief en/of negatief zal beïnvloeden? Denkt de Staatssecretaris dat dergelijke bestaande toepassingen onder het verdrag zullen vallen gelet op de scope zoals bedoeld in art. 4 lid 2?
Tot slot de vraag van de leden van de Volt-fractie of de Staatssecretaris de Kamer kan informeren over het vervolg van de onderhandelingen over het AI-verdrag van de Raad van Europa, telkens voorafgaand aan het moment dat er belangrijke beslissingen worden genomen.
Vragen en opmerkingen van de leden van de BBB-fractie
Het lid van de BBB-fractie heeft kennisgenomen van de toegezonden documenten met betrekking tot het verdrag van de Raad van Europa dat gaat over AI, mensenrechten, democratie en de rechtstaat.
In Europa wordt op dit moment gewerkt aan het comité voor Artificiële Intelligentie (CAI). Dit is een comité van de Raad van Europa en zij stellen een (kader) verdrag op over AI, mensenrechten, democratie en de rechtsstaat.
Het lid van de BBB-fractie leest het volgende in de brief van de Staatssecretaris: «Omdat de EU ook wetgeving op dit onderwerp voorbereidt en de EU-lidstaten gezamenlijk een belangrijke stem hebben binnen de Raad van Europa heeft de CAI een aantal keer haar werkproces en planning moeten bijstellen, zodat EU-lidstaten niet aan tegenstrijdige verplichtingen gebonden worden.» Wat is de Nederlandse visie op de wetgeving die hier gemaakt wordt?
Verder constateert het lid van de BBB-fractie dat er over de Nederlandse inzet geschetst wordt dat Nederland het voortouw neemt en dat de Staatssecretaris een aantal eisen stelt aan waar het verdrag moet voldoen. Daarbij stelt de Staatssecretaris ook dat wij de Europese Commissie een mandaat moeten verlenen en dat Nederland zich inzet voor een AI-verordening. Dit zijn in principe heldere formuleringen, maar wat is nu de langetermijnvisie van het kabinet omtrent Artificiële Intelligentie?
Het streven van de Raad van Europa is om in september de onderhandelingen in CAI af te ronden. Hierna zal het verdrag naar alle waarschijnlijkheid in werking treden. Het lid van de BBB-fractie vraagt of de Staatssecretaris heel precies kan aangeven op welke manier Nederlandse burgers te maken gaan krijgen met dit verdrag.