Kunstmatige intelligentie

De voorzitter:

Goedemiddag. Welkom bij de vaste commissie voor Digitale Zaken. Vandaag hebben we het commissiedebat Kunstmatige intelligentie. Ik heet de minister en de staatssecretaris welkom, net als de mensen op de publieke tribune. Ik heet ook de leden welkom: mevrouw Van Weerdenburg van de PVV, mevrouw Rajkowski van de VVD en, net op tijd, mevrouw Bouchallikh van GroenLinks. Ikzelf ga ook het woord voeren. We hebben één bericht van verhindering gekregen, van mevrouw Koekkoek van Volt. Die komt later in verband met een plenair debat. We hebben vijf minuten spreektijd. Omdat we niet met heel veel mensen zijn, zal ik een beetje schappelijk zijn, maar niet té. Ik wil eerst het woord geven aan mevrouw Van Weerdenburg van de PVV.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Streng maar rechtvaardig, zullen we maar zeggen. Ik ga meteen met de deur in huis vallen: ik had bij dit debat heel graag een paar inleidende opmerkingen gemaakt, want we hebben er lang op gewacht. Het is bijvoorbeeld wrang dat vandaag alle aandacht uitgaat naar de plenaire zaal, waar op dit moment een debat over het slavernijverleden bezig is, over gebeurtenissen uit een zeer ver verleden, terwijl dit debat, dat in een klein achterafzaaltje plaatsvindt met een stuk minder deelnemers, juist gaat over onze toekomst.

We staan echt aan de vooravond van een ongekende technologische revolutie. Nou ja, niet aan de vooravond, want die revolutie is er al. De afgelopen maanden heeft het grote publiek kennis kunnen maken met revolutionaire transformatiemodellen van onder meer OpenAI. Het is overal een hot topic. Ik heb er zelf ook een paar in actie gezien, zoals DALL·E, GitHub Copilot en ChatGPT, en stuk voor stuk zijn ze ontegenzeggelijk verbluffend. De mogelijkheden zijn misschien wel eindeloos. Gaat dat zien en test het uit, zou ik aan eenieder die kijkt willen meegeven. De toekomst is hier. Spring aan boord.

Ik had daar graag langer bij stil willen staan, maar dan zou ik veel te weinig spreektijd overhouden voor de geagendeerde brief, namelijk de langverwachte kabinetsreactie op het WRR-rapport over AI. De Wetenschappelijke Raad voor het Regeringsbeleid heeft op verzoek van de regering heldere wegwijzers geplaatst om te komen tot een solide inbedding van AI. Het is een rapport van 500 pagina's, die uitmonden in tien heldere aanbevelingen. Het kabinet heeft een jaar nodig gehad om met een reactie te komen op dat rapport. Als ik de brief lees, is het mij echt een raadsel waarom dat zo lang heeft geduurd, want deze kabinetsreactie is namelijk een grote ontwijkingsmanoeuvre, een soort elandproef. De brief heeft een behoorlijk defensieve toon en ademt onwil om de huidige koers bij te stellen.

De PVV is niet te spreken over de huidige koers. In Amerika zouden ze het "the fast track to nowhere" noemen; ik kon daarvoor helaas geen goed Nederlands alternatief vinden. Het kabinet loopt in kringetjes, met de staatssecretaris Digitalisering voorop. Soms versnellen ze hun pas voor de show, maar het blijven dezelfde kringetjes. Wat in deze brief wordt opgevoerd als daadkracht is louter windowdressing. Ik geef een paar concrete voorbeelden ter illustratie van wat in deze brief wordt opgevoerd als daadkracht en behaalde resultaten voor de vijf grote opgaven voor AI die door de WRR zijn geformuleerd. Op vrijwel elke concrete aanbeveling die de WRR doet, komt het kabinet met een nietszeggend antwoord zoals "het staat op de agenda", "daar zijn we mee bezig", "daar gaat Brussel over", "we voeren de dialoog", "we nemen het op in de werkagenda", "er is een actieplan gemaakt", "we gaan richtlijnen stroomlijnen in een implementatiekader en er komt ook nog een uitvoeringstoets bij", "het actieplan wordt nu uitgewerkt", "we hebben een samenwerkingsverband opgericht", "we werken aan een afsprakenstelsel" en ga zo maar door. O, laat ik deze niet vergeten: "Er is een apart hoofdstuk gewijd aan digitalisering in het coalitieakkoord. Er is zelfs een speciale hoofdlijnenbrief Digitalisering gekomen." Wat een daadkracht, poehpoeh! Opschrijven wat je belangrijk vindt en wat je van plan bent om daarmee te doen, is niet hetzelfde als daadwerkelijk iets doen, iets uitvoeren, iets tot stand brengen of iets implementeren. Dat zijn de bewindspersonen toch met mij eens?

Last but not least, voorzitter. Er is een staatssecretaris Digitalisering aangesteld. Spoiler alert: die was er in het vorige kabinet ook al, want staatssecretaris Knops had deze taken ook allemaal in zijn portefeuille. Hij had slechts de titulatuur niet. Dit alles telt toch niet serieus als actie ondernemen, als iets doen? De brief is een lege huls die is ondertekend door maar liefst zes bewindspersonen. Zes! Hoeveel ambtenaren hebben die gezamenlijk wel niet? En dan duurt het toch een jaar om tot deze achttien kantjes windowdressing te komen. Wat een ongelofelijke schoffering van de WRR en ook een schoffering van deze commissie, want we zijn heel erg geduldig geweest. We hebben dit kabinet alle ruimte gegeven voor een gedegen reactie op dit belangrijke rapport en we hebben dit commissiedebat daarom steeds uitgesteld. We hadden het idee dat er in de tussentijd daadwerkelijk iets gedaan werd, dat er daadwerkelijk nagedacht werd over de vraag: hoe gaan we wat de WRR voorstelt allemaal doen? Ik vind dat we hadden mogen verwachten dat deze brief een soort uitvoeringsplan zou bevatten, waarin staat hoe de aanbevelingen die de WRR doet zo snel mogelijk uitgevoerd gaan worden en wanneer, met een tijdpad erbij. Ik vind eigenlijk dat het kabinet zijn huiswerk opnieuw moet doen. Ik overweeg er desnoods een paar moties tegenaan te gooien om het daartoe te dwingen, maar ik geef de bewindspersonen nog de kans om er in antwoord hierop misschien nog mondeling uitwerking aan te geven. Laat ik voor nu concluderen — we hebben namelijk nog een tweede termijn — dat het geduld van de PVV in ieder geval helemaal op is.

Mevrouw Van Weerdenburg (PVV):

Dat ben ik met mevrouw Dekker eens. Dat is eigenlijk een van de minikruimeltjes die daadwerkelijk meetellen als "we hebben iets gedaan". We kunnen discussiëren over hoe goed de AP is en wat er nog allemaal bij moet, maar dat zou inderdaad het enige puntje zijn dat daadwerkelijk past bij wat wij voor ogen hebben. Misschien had ik dat eerlijkheidshalve zelf ook moeten melden. Daarvoor kunnen we eindelijk een vinkje zetten op de to-dolijst, zo van: dat is in ieder geval gedaan. Dan kunnen we monitoren of dat goed genoeg is en of er nog wat getweakt moet worden. Maar dat is wel het enige. Na al die tijd en na al dat wachten, voel ik me echt misleid.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Misleiding is inderdaad iets wat bij nieuwe technologie hoort, dus wie weet komen we er nog uit.

Voorzitter. Elke Nederlander gaat in alle facetten van het dagelijks leven te maken krijgen met kunstmatige intelligentie. Misschien zijn we al wel zover, als we bijvoorbeeld kijken naar de discussie over ChatGPT in het onderwijs. Maar ook op de werkvloer wordt het echt al door veel mensen gebruikt, zeker in de techwereld. Vandaag is er in het AD een opinieartikel te lezen dat ik samen met collega Mariëlle Paul heb ingestuurd. Het artikel is volledig door deze chatbot geschreven. Dat hebben we gedaan om te laten zien hoe geavanceerd sommige technieken al zijn en om te laten zien dat ook hier echt en nep niet van elkaar te onderscheiden zijn. Wij moeten ons bewust zijn van de mogelijkheden van AI, maar we moeten ook weerbaar zijn tegen eventuele negatieve kanten, ook in het onderwijs.

Voorzitter. Daarnaast bekleedt Nederland wereldwijd een unieke positie in AI, van waaruit het koploper kan worden op dat gebied. Dat is niet alleen iets waar we blij van kunnen worden of wat we leuk zouden moeten vinden, maar het is ook gewoon bittere noodzaak. Daarmee verzekeren we niet alleen ons toekomstige verdienvermogen, maar daarmee beschermen we ook ons mkb en onze inwoners tegen de enorme datamarktmacht van de VS en China. Zo verzekeren we onze geopolitieke, strategische positie en kunnen we zorgen voor veilige systemen voor ons allemaal. Daarvoor moeten we echter wel een aantal dingen goed regelen. Juist vanwege de politieke verantwoordelijkheid die wij voelen om ruim baan te geven aan die kansen én om Nederlanders te beschermen tegen de risico's van deze ontwikkeling, heeft de VVD dit debat aangevraagd. Ik ben dus blij dat we daar vandaag met elkaar over praten.

Voorzitter. De kansen om maatschappelijke problemen aan te pakken met AI zijn eindeloos. Neem bijvoorbeeld de zorgrobot TUG, Paro de zeehond of de sociale robot Phi. Die kunnen voor mensen die thuishulp of extra mentale steun nodig hebben bijvoorbeeld bij thuiskomst hun lievelingsliedje afspelen of een spelletje met hen doen. Soms kunnen dit soort dingen sociaal gezien al enorm helpen. Wat dit soort technologieën allemaal voor positiefs voor de samenleving gaat betekenen, weten we natuurlijk nog niet. Wat de VVD wel weet, is dat we er met deze inzichten alles aan moeten doen om deze ontwikkeling zodanig te implementeren dat we de maatschappelijke vraagstukken van deze tijd kunnen oplossen en brede welvaart kunnen creëren voor ons allemaal, ook om ons land toekomstbestendig te maken.

Voorzitter. Eén van die kansen ligt in de gezondheidszorg binnen Health~Holland; dat is een van de topsectoren van Nederland. In sommige gevallen kan AI nu namelijk al beter dan een arts een ziekte of aandoening constateren. 60% van de medicijnen wordt nu al niet meer in laboratoria gemaakt, maar in systemen. Denk aan persoonlijke medicatie. Ook hier zijn de mogelijkheden eindeloos. Maar dan moeten we wel stappen durven te zetten, ook op het gebied van datadeling, ook op dit terrein, want anders raken wij gigantisch achter. Dus mijn vraag aan de minister is: ziet de minister drempels binnen deze topsectoren? Is er daar wellicht sprake van angst om het fout te doen op het gebied van datadeling, waardoor innovatie juist geremd wordt? Wat gaat zij hieraan doen? Wij hechten natuurlijk aan de AVG, dus het gaat ons om dingen die mensen wel mogen, maar niet durven.

Voorzitter. Hoe gaat het met het inrichten van de regulatory sandboxes? Daarmee kunnen start-ups, mkb en andere bedrijven experimenteren met nieuwe vormen van AI. Kan de minister daarop reflecteren?

Voorzitter. Dan de risico's. Als deze techniek verkeerd wordt ingezet of in de verkeerde handen valt, kan dat niet alleen negatief zijn voor mensen en bedrijven maar kan ook Nederland, als land, daarvan de dupe zijn. Daarom blijft het belangrijk voor de VVD om de ethische aspecten scherp te houden. Maar dat moeten we op Europees niveau gaan regelen. Brussel is namelijk een sterke trendsetter in het stellen van wereldwijde ethische normen. Daarmee voorkomen we ook dat we in Nederland allerlei andere regels gaan bedenken die alleen in Nederland gelden. Dat zorgt weer voor bureaucratie en remt onze innovatie.

De VVD wil graag dat de minister zich in Europa voor de volgende drie spelregels gaat inzetten. Eén. Het moet altijd duidelijk zijn voor iemand dat je praat met een systeem in plaats van een echt persoon. Dat geldt niet alleen voor contacten met de overheid, maar ook op het commerciële vlak, bijvoorbeeld in de metaverse. Twee. De VVD wil dat er internationaal meer wordt samengewerkt met gelijkgestemden. Zo heb je de EU, Singapore, Japan en Canada. De WRR adviseert om in te zetten op AI-diplomatie. Hoe gaat het kabinet dit vormgeven? Drie. Dit punt is ook namens de Partij voor de Dieren. Een oplossingsrichting kan de zogenaamde "value alignment AI" zijn. Een moeilijk woord, maar daarmee kun je ervoor zorgen dat geavanceerde AI altijd blijft handelen op basis van waarden die wij in acht nemen en belangrijk vinden. Hoe kunnen we dat precies inbouwen? Dat is een belangrijke vraag. Als AI een dusdanige impact heeft op de mens, de omgeving en de maatschappij, is het voor ons, voor beide partijen, in ieder geval belangrijk dat er altijd een ethische sturing vooraf moet zijn en dat technieken niet zomaar in de markt gebruikt mogen worden.

Dan mijn laatste punt, voorzitter. De WRR stelt ook voor om te werken aan een soort AI-brevet, zoals ze dat noemen. Ik heb gesproken met twee wiskundigen, Marieke Kootte en Vandana Dwarka. Zij werken bij de TU Delft. Zij pleiten ervoor om nog een stap verder te gaan, dus niet om te werken aan een AI-brevet, maar om echt toe te werken naar een AI-engineer. Daarmee willen ze een soort beroepsgroep creëren die niet alleen handig is met codes, maar die ook opgeleid wordt en getoetst wordt op normen, waarden en mensenrechtenaspecten. Op technische universiteiten wordt hier dus al over nagedacht. De VVD onderschrijft deze ambitie. Kan de minister hierop reageren?

Mevrouw Rajkowski (VVD):

Eerlijkheidshalve had ik van tevoren bedacht om met een hele waslijst aan punten te komen. We hebben hier een debat over AI, dat ik zelf heb aangevraagd. Maar het is natuurlijk heel breed. Je kunt het hebben over de maatschappij. Je kunt het hebben over het kabinet. De mogelijkheden zijn eindeloos, dus wij hebben het een beetje moeten inkorten. Ik meen dat ik het debat in september, of misschien zelfs in het voorjaar vorig jaar heb aangevraagd. Toen wisten we wel dat AI de samenleving zou gaan veranderen, maar we wisten nog niet hoe snel het zou gaan. In de afgelopen weken zagen we steeds meer voorbeelden in de praktijk waaruit blijkt dat AI de samenleving echt aan het veranderen is. Ik kan me zomaar voorstellen dat de kabinetsreactie dan misschien nog niet ver genoeg is. Maar daar hebben we dit debat voor. We kunnen het aan het kabinet vragen. Ik ben het zeer eens met de inhoudelijke lijn, maar ik kan me voorstellen dat we misschien nog wat haast moeten maken met een aantal stappen of ambities die er zijn. Wat dat betreft ben ik misschien iets minder kritisch dan mijn collega van de PVV. Woorden als "ondermaats" zult u mij zeker niet horen zeggen.

Mevrouw Bouchallikh (GroenLinks):

Dank u wel, voorzitter. Laatst werd mij gevraagd of ik weleens mijn spreektekst heb laten maken door ChatGPT. Ik moest daar wel een beetje om lachen. Ik zal bekennen dat ik het niet heb gedaan, maar het laat wel zien hoe belangrijk dit thema is, hoe wijdverspreid het is en hoe belangrijk het is dat we hier als Kamer kritisch over blijven nadenken, en constructief.

Allereerst de mensenrechtentoets op algoritmes. Goed dat daarin ontwikkelingen gaande zijn. Ik wil van de staatssecretaris nog wel graag horen dat de mensenrechtentoets echt verplicht, bindend en transparant wordt en dat het niet, zoals de brief van 7 oktober geïnterpreteerd kan worden, slechts een adviserende toets wordt. Ook tijdens de rondetafel van vorige week bleek dat daar nog wat zorgen over zijn. Ik hoop dat de staatssecretaris ons daarover gerust kan stellen.

Naast een mensenrechtentoets vooraf, is het ook van belang dat data en algoritmes continu gemonitord worden om te voorkomen dat kunstmatige intelligentie leidt tot het schenden van mensenrechten. Goed dat daar nu via de Autoriteit Persoonsgegevens toezicht op komt. Het enthousiasme bij de aftrap vorige week was heel mooi om te zien. We zijn ook blij dat er wat budget bij komt. We maken ons er echter nog wel zorgen over of dat genoeg is. De Autoriteit Persoonsgegevens kampt namelijk al langere tijd met tekorten. Hoe gaat de staatssecretaris ervoor zorgen dat de Autoriteit Persoonsgegevens voldoende capaciteit heeft en, gezien het onderwerp van vandaag, specifiek voldoende capaciteit heeft als toezichthouder algoritmes? Hoe zit het met de bevoegdheden? In hoeverre is het voldoende wat de AP op dit moment kan? Zal dat voldoende blijken in de toekomst als het gaat om de uitvoerende taken die nog aan de orde zullen zijn?

Dan discriminatie. Dat is verboden op grond van artikel 1 van de Grondwet.

Mevrouw Bouchallikh (GroenLinks):

Ik ben blij met deze inhoudelijke toevoeging. Ik heb het tot nu toe vooral gehad over de capaciteit en de middelen, omdat ik me daar heel veel zorgen over maak. Het ging al eerder over de middelen van de AP in het algemeen. Er was al onderzoek gedaan en daaruit bleek dat ze gezien de taken die ze moeten uitvoeren eigenlijk het dubbele nodig hebben van wat ze nu krijgen. Waar ik me zorgen over maak op het moment dat wij daar nu een extra bevoegdheid neerleggen, waar we overigens wel een budget bij hebben ingekaderd, is of dat wel genoeg is. Ik hoop dan niet dat we terwijl zij bezig zijn met sectorale kennis ontwikkelen, ophalen en uitvoeren over een jaar moeten constateren: hé, er had toch wat bij gemoeten. Ik wil dus graag de inhoud naast de capaciteit en de middelen laten ontwikkelen. Ik weet nog niet of het voldoende is. Misschien wel, maar misschien ook niet. Dus ik wil graag alvast van tevoren beoordelingskaders mee krijgen.

Mevrouw Bouchallikh (GroenLinks):

Ik vind dit echt een heel goede vraag. Ik heb vorige week bij de rondetafel ook gevraagd wat de verhouding wordt ten opzichte van de Europese toezichthouders. We zijn met zijn allen een soort puzzel aan het leggen. Ik ben blij dat daar ontwikkeling in zit, maar ik ben ook aan het zoeken. Ik vermoed dat er meer middelen bij moeten, maar het kan zijn dat dat niet zo is en dat die met samenwerking op een andere manier nuttiger kunnen worden besteed. Dan is dat handig, maar ik kan het nu gewoon nog niet beoordelen. Ik ben aan het zoeken naar manieren om dat als Kamer te kunnen controleren en ik ben het benieuwd hoe het kabinet daarnaar kijkt. Misschien heeft het die afweging wel al gemaakt en heb ik dat gemist. Vandaar mijn vraag.

Mevrouw Bouchallikh (GroenLinks):

Dan gaan we terug naar de Grondwet, discriminatie. Algoritmes kunnen nog steeds zorgen voor etnisch profileren, omdat op basis van risicoprofielen wordt gewerkt. We hebben dit punt vaker gemaakt, maar wat ons betreft wordt het verboden om met algoritmes op basis van afkomst en etniciteit te werken. Ik het verleden hebben we bij het debat over het toeslagenschandaal een motie aangenomen gekregen over het volledig uitsluiten van risicomodellen op basis van etniciteit. Kan de staatssecretaris een update geven van hoe het daar op dit moment mee staat?

Dan het algoritmeregister. Dat is van belang om ervoor te zorgen dat er meer transparantie komt over de gebruikte algoritmes en over de effecten van deze algoritmes. We zijn dan ook blij met de ontwikkelingen in dezen. We vinden het nog wel zorgelijk dat er een uitzondering komt voor algoritmes die gebruikt worden voor rechtshandhaving. Daar wijst bijvoorbeeld Amnesty International op, juist ook omdat hier inperking van burgerrechten aan de orde is, terwijl volgens mij zowel de Kamer als het kabinet een manier probeert te vinden om dat te beperken. Kan het kabinet hierop reflecteren en hoe kunnen we voorkomen dat juist dit middel niet afdoende zal zijn om die burgerrechten te beschermen?

Voorzitter. Over een ander voor GroenLinks belangrijk punt heb ik in de stukken niet zo veel gelezen. Dat betreft de milieu-impact van kunstmatige intelligentie en van data in de bredere context. De ICT-sector stoot veel CO₂-uit en die uitstoot is inmiddels te vergelijken met die van de luchtvaart. In de toekomst zal dit alleen maar toenemen, want onderzoek toont bijvoorbeeld aan dat het trainen van kunstmatige intelligentie in een home assistant als Alexa of Google 300 ton CO₂ kost. Ik schrok eerlijk gezegd zelf van dit getal, maar het is dan ook absurd veel. En dan hebben we het nog niet eens gehad over de zeldzame materialen die de ICT-sector en AI nodig hebben.

Wat GroenLinks betreft worden Europa en Nederland voorlopers in duurzame technologie. Het is wat ons betreft daarom ook belangrijk dat landen gaan rapporteren over de milieu-impact van AI. Duitsland is dit gelukkig al van plan. Wat is de inzet van ons kabinet en wat kunnen we in dezen van Duitsland leren? We zouden ook graag zien dat er duurzaamheidsstandaarden voor AI komen, zodat effectief gestuurd kan worden op het terugdringen van de CO₂-uitstoot. Ook hierop graag een reactie van het kabinet.

Dank u wel, voorzitter.

Mevrouw Dekker-Abdulaziz (D66):

Dank u wel.

Voorzitter. Voor velen lijkt AI zowel een groot onderwerp als vrij ongrijpbaar, maar met ontwikkelingen als ChatGPT komt daar snel verandering in. We kunnen er niet meer omheen. Het is nu aan de politiek om keuzes te maken. Dit is het jaar van de regelgeving. Daarom is het goed dat wij dit debat voeren. Namens D66 zal ik ingaan op de kansen en bedreigingen, de Europese en internationale regelgeving, en de kabinetsreactie op het WRR-rapport.

Voorzitter. Zoals de WRR beschrijft is AI een systeemtechnologie die onze maatschappij sterk verandert en die vraagt om keuzes. Het besef begint te dagen dat ons onderwijs, onze arbeidsmarkt en ons leven binnenkort niet meer hetzelfde zijn. Volgens D66 is het een grote kans, maar ook een bedreiging voor mensenrechten, democratie en onze rechtsstaat. AI is als een groeiende golf die steeds sneller op ons af komt. Als we niet oppassen dendert die over ons heen, maar als we er op tijd klaar voor zijn, surfen we mee met de grote voordelen die het biedt. Er zijn voordelen voor de wetenschap, de ontwikkeling van onze medicijnen, voor onze bedrijven om nieuwe banen te creëren en voor Nederland als digitale koploper. Deelt de staatssecretaris de mening van D66 dat AI ook bij het onderwijs betrokken zou moeten worden? En kan de staatssecretaris uitleggen welke kansen zij ziet om AI te gebruiken om ons strategisch zelfredzamer te maken, bijvoorbeeld tegenover China?

Voorzitter. D66 ziet ook de keerzijde van kunstmatige intelligentie, bijvoorbeeld dat student Robin in coronatijd haar onlinetentamen niet kon maken, omdat ze vanwege haar huidskleur niet werd herkend door de camera. Deelt de staatssecretaris de zorgen van D66 over hoe offline ongelijkheid online terugkomt en wordt doorgezet door AI? Maakt de staatssecretaris zich ook zorgen over door AI gebruikte foto's en data zonder toestemming en over het grote energiegebruik dat daarmee gepaard gaat? Graag een reactie.

Voorzitter. Dit is het moment om keuzes te maken, om richting te geven aan welke kunstmatige intelligentie wij willen en juist niet willen. Dit is het jaar van de regelgeving met zowel de AI Act van de Europese Unie als het AI-verdrag van de Raad van Europa, waar druk aan wordt gewerkt. Dat AI-verdrag van de Raad van Europa is nog grensoverschrijdender dan de AI Act, want daarbij zijn ook Canada en de VS aangehaakt. Samen geeft dat een grote regelmacht voor bedrijven en staten.

Dank aan de staatssecretaris voor het delen van de mogelijke elementen van het verdrag met de Kamer. Deelt de staatssecretaris de visie van D66 dat dit een cruciaal moment is om platformen als Facebook en Twitter verantwoordelijk te houden voor de inhoud op het web? Op dit moment is Europa hier veel verder dan de VS en dan is het voor D66 zorgelijk dat de VS de onderhandelingen nu de deuren sluit en de onderhandelingen zonder maatschappelijke organisaties wil voeren. Wat vindt de staatssecretaris daarvan? Wanneer zal de staatssecretaris de onderhandelingen voeren? En kan de staatssecretaris de Kamer toezeggen om voorafgaand aan de onderhandelingen de kans te bieden inbreng mee te geven?

Voorzitter. Dat brengt mij bij de rol van het kabinet. Het is goed dat we nu een staatssecretaris Digitalisering hebben, dat Nederland een buitengewoon serieuze gesprekspartner is voor bedrijven en dat Nederlandse onderhandelaars bijvoorbeeld Microsoft en Google helpen steviger aan de eisen te voldoen, waar zowel wij als zij beter van worden. Er gebeurt al heel veel en dat verdient oprecht een compliment, maar de vraag is of het genoeg is. Zo is bijvoorbeeld nog niet bekend wanneer het algoritmeregister wettelijk verplicht wordt, terwijl we hebben gezien dat algoritmes grote schade toe kunnen toebrengen aan het maatschappelijke vertrouwen. Kan de staatssecretaris uitsluitsel geven over wanneer de verplichting wordt verwacht? En los van al het goede werk op de departementen zouden de krachten in onze ogen nog sterker gebundeld kunnen worden, ook met het veld. Hoe kijkt de staatssecretaris aan tegen een expertisecentrum — dat was ook een aanbeveling — waarin kennis gebundeld wordt op bijvoorbeeld economisch, sociaal, juridisch, technisch en ethisch vlak? En onderschrijft de staatssecretaris het belang van een actuele overkoepelende AI-strategie, een gecoördineerde aanpak van het kabinet?

Voorzitter, ik sluit af. Dit is het jaar van de waarheid op het gebied van AI, het jaar van keuzes, van beeld naar begrip, van techniek naar toepassing, van monoloog naar dialoog, van reactie naar regie, van natie naar netwerk, en bovenal van stilstand naar vooruitgang.

Dank je wel.

Mevrouw Dekker-Abdulaziz (D66):

Dank voor de vraag. Ik weet niet of ik met een motie ga komen. Ik wacht even op de reactie van het kabinet. Het was inderdaad een nee in de brief en daarom vragen we het nu alsnog in de hoop dat we wat beweging kunnen creëren.

De voorzitter:

Dank. Ik wilde eigenlijk de eerste termijn van de Kamer afsluiten. Maar heeft iemand nog een bericht gekregen van mevrouw Koekkoek? Ik zie dat dat niet zo is en dan zit er niks anders op dan dat we de eerste termijn nu afsluiten. We gaan zo naar de beantwoording door het kabinet luisteren. Hoeveel tijd heeft u nodig? Ik hoor dat dat een halfuur is.

De voorzitter:

Ik wil graag eerst het woord geven aan de minister van Economische Zaken.

Minister Adriaansens:

Dank u, voorzitter. We hebben twee debatten in deze periode. Ik vroeg net even na wat precies het accentverschil is. Eigenlijk was het de bedoeling om het vandaag vooral over de kansen van artificial intelligence te hebben en uiteraard aandacht te besteden aan de risico's, maar ook om die beide in balans te zien. Ik ben dan ook heel blij dat we het daarover hebben. Het is namelijk een spannende ontwikkeling. Dat is ook al door uw leden aangegeven. Maar het biedt ook heel veel kansen en heel veel potentie. Als we kijken naar de ontwikkeling van Nederland, zien we dat we het al best goed doen wat betreft onze digitale ontwikkeling. Als we kijken naar de DESI-ranking en allerlei andere lijsten waarop wordt gemeten wat wij in Nederland doen met digitalisering, dan zien we dat wij het goed doen. Maar de wereld gaat heel snel. De bewegingen gaan heel snel. Ontwikkelingen gaan snel. Dat betekent dus dat we ook heel hard bezig moeten blijven met daarin de goede dingen doen. Omdat het zo veel nieuwe technologie betreft en we een heleboel dingen nog niet doorhebben, vraagt dat veel alertheid van ons, en ook in deze samenstelling, zou ik zeggen.

Ik begin met de opmerking van mevrouw Van Weerdenburg. Ik herken dat volledig niet. Ik begrijp wel dat we heel goed moeten uitleggen wat we doen, maar we doen waanzinnig veel rond het bevorderen van artificial intelligence. Ik noem maar iets. Wat doet de overheid? De overheid stimuleert, normeert en beprijst. Het repertoire van de overheid bestaat natuurlijk vaak uit anderen stimuleren om activiteiten op te pakken en resultaten te boeken. Als je kijkt wat de overheid doet op het gebied van AI, kunstmatige intelligentie, dan zie je dat wij investeren en stimuleren. We investeren bijvoorbeeld 230 miljoen — dat is echt veel geld — in kennis, innovatie en talent op het gebied van AI in Nederland. We zorgen dat we kennis ontwikkelen.

Dat doen we bijvoorbeeld via AiNed en het Kickstart AI-programma. We hebben begin 2023 het ROBUST-langetermijnprogramma gestart voor fundamenteler onderzoek op het gebied van betrouwbare en uitlegbare AI. NWO draagt ook voor 25 miljoen bij. Daarbovenop doet Economische Zaken nog eens 7,5 miljoen. Kijk bijvoorbeeld ook naar het onderwijs. Het is heel belangrijk dat we investeren in vaardigheden. Er is het Nationaal Onderwijslab AI, het NOLAI. Dat is gestart met een investering van 80 miljoen uit het Nationaal Groeifonds. De bedoeling is — daar kom ik zo anders nog wel even over te spreken — om vooral te zorgen dat we de scholing ook op dat niveau gaan krijgen en daar bijvoorbeeld in het curriculum eisen aan te gaan stellen, zodat iedereen mee kan met deze ontwikkelingen. Dat is superbelangrijk.

Daarnaast hebben we nog Digital Europe. Wij cofinancieren met de Europese Commissie verschillende projecten die helpen bij het toepassen van AI als gebruiker en bij het bevorderen van de ontwikkeling van AI. Dat doen we onder andere via de Europese digitale innovatiehubs en de test- en experimenteerfaciliteiten.

Naast dat stimuleren en investeren hebben we natuurlijk ook de regulering. We bewandelen beide sporen. Daar hebben we al eerder over gesproken. Dat staat ook allemaal beschreven in de digitale strategie van het ministerie van Economische Zaken, maar ook in het werkprogramma dat u heeft ontvangen. Dat kijkt wat breder naar de ontwikkeling van AI. Dat is de Werkagenda Waardengedreven Digitaliseren. Over de digitale strategie, waarop wij de regie voeren, zullen we jaarlijks rapporteren aan de Kamer over de voortgang van die acties. Ik deel namelijk met mevrouw Van Weerdenburg dat we voortgang moeten maken, dat we acties moeten hebben maar ook resultaten, en dat er op enig moment daadwerkelijke wapenfeiten moeten worden bereikt. Daarover moeten we rapporteren aan uw Kamer. U kunt ons dan weer scherp houden op de voortgang daarvan.

Minister Adriaansens:

Het is altijd goed om te kijken of je met de doelen die je voor ogen hebt, nog extra activiteiten moet verrichten. Je moet dus altijd alert blijven. Daarom is het ook goed om minimaal jaarlijks daarover te rapporteren en te kijken of je doelen behaalt. Maar een van de redenen dat het misschien niet helemaal zwaluwstaarten is, is dat die trajecten gezamenlijk op zijn gegaan. Dat klopt. Er heeft ook nog een formatie plaatsgevonden. Er is een heleboel in gang gezet. Daarnaast liep de ontwikkeling van het WRR-rapport. Het zou zomaar kunnen zijn dat dat onvoldoende met elkaar in verband is gebracht. Maar ik neem in ieder geval de aanbevelingen van de WRR zeer serieus. Ik zal die ook naast onze plannen blijven leggen.

Minister Adriaansens:

Ik heb volgens mij net ook bevestigd dat wij als kabinet zeer veel belang hechten aan het WRR-rapport. Dat staat ook in de kabinetsreactie. De WRR wijst vooral op langetermijnopgaven en die moeten wij goed in de gaten houden bij de uitvoering van ons beleid en het vormgeven daarvan. Wij omarmen het WRR-rapport, maar de aanbevelingen daarin moeten wij op een bepaalde manier uitvoeren.

Mevrouw Van Weerdenburg noemt het coördinatiecentrum als voorbeeld. Wij hebben daar wel degelijk een bepaalde aanpak voor. We hebben met het Strategisch Actieplan voor AI uit 2019 de basis gelegd voor een gezamenlijke aanpak. Zoals ik net zei, hebben we in de werkagenda digitalisering — daarin heeft de staatssecretaris de lead — en in de strategie digitale economie de acties en de doelen voor AI verder uiteengezet. Om de coördinatie van de gezamenlijke aanpak te versterken, hebben we nog drie stappen gezet. We hebben een ambtelijke commissie digitalisering gestart om de samenwerking tussen de departementen te versterken. We hebben de samenwerking in het veld een boost gegeven. Die vindt met name plaats via de Nederlandse AI coalitie. Ik geloof dat inmiddels zo'n 500 partijen daarbij zijn aangesloten. Die hebben een ambitieus werkprogramma met allerlei werkgroepen waarin van alles gebeurt. Daar zijn wij nauw bij betrokken. Dat gaat dus over de samenwerking tussen het bedrijfsleven, de overheid, kennisinstellingen en maatschappelijke organisaties. De samenwerking tussen de toezichthouders wordt verstevigd via de directie Coördinatie Algoritmes bij de Autoriteit Persoonsgegevens. Die directie gaat dus de verschillende acties in de verschillende sectoren coördineren en zorgen dat we daar samenhang in krijgen. Wij hebben gemeend dat met al deze acties een apart centrum niet nodig was, omdat we het op deze manier hebben vormgegeven.

Minister Adriaansens:

Dan ga ik het herhalen. Het kabinet meent dat op deze wijze de coördinatie wordt vormgegeven. Het is natuurlijk wel zo dat de werkwijze van de directie bij de AP waar we het over hebben nog zijn beslag moet krijgen. Daar wordt aan gewerkt. Dat het dus nog niet meteen voelbaar en merkbaar is, kan ik me van alles bij voorstellen. Maar met die coördinatie menen wij dat er een hele stap is gezet, net als overigens met die ambtelijke commissie digitalisering.

Minister Adriaansens:

Een andere vraag was of ik de mening deelde dat AI bij het onderwijs betrokken zou moeten worden. Dat was een specifieke vraag van D66. Dat heb ik net eigenlijk al bevestigd. Het is ontzettend belangrijk. We willen de risico's adresseren, maar we willen ook de kansen benutten. Er is vanuit het Groeifonds bijvoorbeeld 80 miljoen euro toegekend aan het Nationaal Onderwijslab AI in het funderend onderwijs, om dat op te zetten. Dan hebben we het over p.o. en vo. Dat project wordt vormgegeven door partijen als Kennisnet, de PO-Raad, de Radboud Universiteit. Scholen zijn ook een partner in die ontwikkeling. De kern van het Nationaal Onderwijslab AI is te zorgen dat het in de onderwijspraktijk gaat werken. We hebben het over het scholen, een programma maken voor de scholing — het is eigenlijk een aanpassing van het lesprogramma — maar ook over het vernieuwen van het curriculum. Er zit nu geen digitale geletterdheid in het curriculum. Wij zijn aan het kijken of dat niet zou moeten gebeuren. We moeten ook zorgen voor onderwijsmateriaal. We moeten zorgen dat we dit een boost geven, zodat we kunnen zorgen dat alle jonge mensen mee kunnen doen in deze ontwikkeling. Dat benadrukte ik net ook al.

D66 vroeg ook welke mogelijkheid ik zie om ons strategisch zelfredzaam te maken, bijvoorbeeld richting China. De eerste stap daarin is heel goed samenwerken in Europa door te investeren, zoals ik net aangaf, en te reguleren. Europa is namelijk sterk als wij dezelfde regels in de Unie hebben en zorgen dat we die markt reguleren. Dat doen we met de AI-verordening. We moeten zorgen dat de AI-systemen van buiten de Europese Unie ook aan die regels voldoen. Op die manier kunnen wij een Europese standaard zetten. Daar kunnen we heel sterk in zijn. Daar lopen we in die zin al wel in voorop. Die regulering zorgt dan ook voor een sterke en versterkte Europese AI-markt. Dat is een heel belangrijke pijler in ons beleid. Daarnaast noemde ik net de Nederlandse investeringen, maar de Commissie investeert jaarlijks ook zo'n 1 miljard euro in artificial intelligence via Horizon Europe en Digital Europe. Er wordt geschat dat in de Europese Unie jaarlijks ongeveer 20 miljard euro wordt geïnvesteerd in AI. Als je dat gaat matchen aan Amerika en China, is de vraag altijd of dat genoeg is, maar het is in ieder geval veel voor Europese begrippen.

Minister Adriaansens:

Ik ben een groot pleitbezorger van gelijkheid in Europa. Ik denk namelijk dat hoe overtuigend wellicht een afwijkend standpunt op een deelonderwerp ook zou kunnen zijn ... Mensenrechten zijn altijd een heel nobel streven, dus je zou de neiging hebben om daar dan misschien iets meer op te doen. Dat hebben we overigens ook met klimaat. Er zijn een aantal doelstellingen waarop we met elkaar in Nederland hele hoge ambities hebben. Voor de langere termijn meen ik dat dat zeer schadelijk is voor onze positie als Nederland. We moeten ervoor waken dat we niet door onze eigen ambitie te direct onze eigen regels verzwaren. We moeten zorgen voor een gelijk speelveld. De weg is dus om te zorgen dat we in Europa een hele actieve rol vervullen om andere landen mee te nemen in die lijn.

Minister Adriaansens:

Zoals het systeem nu in elkaar zit — dat moeten we met elkaar helemaal gaan vormgeven, dus we moeten er ook kritisch op blijven of het werkt — is dat de nationale toezichthouder daarop intervenieert, maatregelen kan treffen en het ook in de AI Board kan aankaarten. In die AI Board gaat als het goed is een stuk harmonisatie en richting bepaald worden. Dat is de lijn die wij voor ogen hebben. Je zou ook naar een andere vorm kunnen kijken, maar dit is wat er nu uit de Europese overleggen is gekomen. We moeten dat heel kritisch volgen en erover blijven nadenken. Dit zou een hele goede werkwijze kunnen zijn. We moeten wel kijken of het werkt.

Minister Adriaansens:

Dan kom ik bij een vraag van de VVD. Mevrouw Rajkowski vroeg hoe het staat met de pilots op de technische universiteiten voor het ontwikkelen van gecertificeerde AI-engineers. Het klopt inderdaad dat technische universiteiten in hun reguliere programma's al vele jaren AI-specialisten kennen, maar nog geen aparte certificering hebben. Die nieuwe AI-kennis wordt ontwikkeld via een samenwerking van alle universiteiten en onderwijsinstellingen met ondernemingen en overheden, onder andere in die ELSA Labs, die ik net noemde. Vanuit de Nederlandse AI Coalitie wordt nu gewerkt aan certificering. Die certificering heet "AI for business and government". Die is bedoeld om toe te passen op professionals die in hun werkomgeving AI willen inzetten en voor mensen die beslissingen moeten nemen op het gebied van AI. Je ziet dus dat die ontwikkeling is ingezet. Ik geloof er met mevrouw Rajkowski ook in dat dit een hele belangrijke waarborg kan zijn voor de wijze waarop je omgaat met AI. De technische universiteiten zijn ook lid van de Nederlandse AI Coalitie. Ik zal ze om hun ideeën vragen. Ik ga nog even een stapje verder, want ik zal ze ook nog even expliciet vragen om hun ideeën over die certificering daar in te brengen.

De volgende vraag was van D66. Die ligt misschien een beetje in het verlengde van een eerdere vraag van mevrouw Van Weerdenburg. De vraag was: hoe kijken wij aan tegen een expertisecentrum of een stukje coördinatie, waarbij kennis op economisch, sociaal, juridisch, technisch en ethisch vlak gebundeld wordt? Dat bundelen en ontwikkelen van kennis gebeurt expliciet in die Nederlandse AI Coalitie. Zij geven dat bijvoorbeeld vorm door hun rol in die regionale AI-hubs. Daar zijn er vijf van, als ik het goed heb. Of zijn het er meer? Nou, hou het me te goede. Er zijn in ieder geval een aantal regionale AI-hubs. Die zijn ook weer verbonden aan die ELSA Labs. Die gaan met name over de normen en de aspecten van AI die u noemde, zoals ethisch, legal en societal. Wij menen dus dat daar op die manier goed invulling aan wordt gegeven. We moeten gewoon in de gaten houden hoe dat zich verder ontwikkelt.

Dan kom ik op het volgende blokje, de Europese inzet. Mevrouw Rajkowski vroeg hoe we de regulatory sandboxes goed inrichten. Wij zijn een believer in die sandboxes. We denken dat daarmee de verbinding met het mkb ook goed gemaakt kan worden. We willen met name dat ondernemers daarin kansen kunnen gaan benutten. We hebben ons tijdens de Raadsonderhandelingen ook heel erg ingezet voor aanpassingen die zorgen dat we betere lessen trekken uit die sandboxes. Zo'n sandbox is eigenlijk een afspraak tussen de toezichthouder en een ontwikkelaar van AI om er samen uit te komen op het gebied van lastige vragen over het voldoen aan de wet en aan bepaalde eisen. Het is dus eigenlijk een proefomgeving. De bedoeling is dan dat we verplichte rapportages krijgen van zo'n vraagstelling. Die delen we, zodat we een soort van body of knowledge opbouwen. Dan kunnen ook bedrijven die niet meedoen daar kennis van nemen. We zijn nu samen met de toezichthouders aan het kijken hoe we zo'n regulatory sandbox het beste kunnen inrichten.

Dan nog een vraag van de VVD en de Partij voor de Dieren: wat is onze reactie op de suggestie om de value alignment AI te zien als een oplossingsrichting? Ik moet zeggen: bedankt voor deze innovatieve suggestie. Die gaan we meenemen in de EU-besluitvorming. Ik denk namelijk dat dat een goede gedachte is. We willen met die AI-verordening natuurlijk voorwaarden scheppen om de risico's op grote negatieve gevolgen te verminderen. Ik denk dat het goed is om op die manier te kijken of je iets van een value alignment kan vinden en hoe dat dan het beste vormgegeven kan worden. Dat nemen we dus graag mee.

Dan nog de vraag van D66 of ik de visie deel dat het een cruciaal moment is om platformen als Facebook en Twitter verantwoordelijk te houden voor de inhoud op het web. Ja, maar laat ik dat nuanceren. Met de opkomst van grote platforms en gezien de macht en de data die zij hebben, is het heel erg belangrijk dat de verantwoordelijkheid van die partijen voor de inhoud en het gebruik van hun diensten wordt herzien. De Digital Services Act regelt dat ook. De DSA bevat regels over de verantwoordelijkheid en de aansprakelijkheid van online tussenpersonen voor de inhoud van de diensten. Die zal in 2024 in werking treden. De allergrootste online platforms, zoals Facebook en Twitter, zullen onder de DSA aan de zwaarste verplichtingen moeten voldoen. Daarmee zetten we dus een stap qua regulatie.

Minister Adriaansens:

Dit betreft de taakverdeling. De staatssecretaris is betrokken bij de onderhandelingen over het verdrag, dus ik denk dat het beter is als de staatssecretaris dat meeneemt, al kijk ik even of ze het daarmee eens is. Ik begrijp van wel.

Minister Adriaansens:

Dan kom ik bij de vraag van mevrouw Rajkowski van de VVD over het inzetten op AI-diplomatie. Wat doen wij, vroeg zij. Het is best een lijst. We doen best wel veel. Dat is goed, want we vinden het heel belangrijk. Zoals ik aan het begin ook zei, willen we alles eruit halen maar ook zorgen voor de borging. Dan moet je actief meedoen. We zijn eigenlijk ook constant in contact met landen buiten de EU. Over Europa hebben we het namelijk gehad, maar we hebben ook contact met landen buiten de EU, om te zorgen dat we begrip en steun krijgen voor de mensgerichte AI-benadering. Ik probeer "mensgerichte AI" altijd simpel te vertalen, want wat is dat nou, "mensgerichte AI"? Het is weer zo'n kreet, maar daarmee bedoelen we dat het uitlegbaar, duidelijk en veilig is en de rechten beschermt. Via de Europese Unie werken we aan het versterken van de relaties met Amerika op het gebied van AI. Dat doen we met name in de standaarden die we bespreken in de Trade en Technology Council. We hebben ook het Global Partnership on AI. Daarmee werken we aan het bevorderen van waardegedreven AI.

Binnen de OESO is Nederland betrokken bij de verdere invulling van de OESO-AI-principes — eigenlijk moet ik dan "KI" zeggen — over ethisch gebruik van AI-systemen. Zoals we net ook al even bespraken, werken we ook actief aan de totstandkoming van een verdrag in de Raad van Europa. Daar zal dadelijk nog iets over gezegd worden door de staatssecretaris. We hebben ook actief bijgedragen aan de aanbevelingen van UNESCO voor een mensgerichte en ethische inzet van artificial intelligence. We zijn oprichter van de internationale Freedom Online Coalition. We nemen ook deel aan de taskforce voor AI en human rights, om de bewustwording over AI en mensenrechten te bevorderen. We organiseren komende februari een internationale ministeriële conferentie over verantwoorde militaire toepassingen van kunstmatige intelligentie. We zijn ook betrokken bij het opstellen van Europese en internationale standaarden om grensoverschrijdend ondernemen te ondersteunen en daarbij AI te betrekken. Dan gaat het eigenlijk over de hele wereld.

Voorzitter. Dan iets over de risico's. GroenLinks vroeg of wij ons zorgen maken over het energiegebruik dat gepaard gaat met AI. Daar kan ik volmondig ja op zeggen. Het trainen van AI-modellen kost veel computerkracht vanuit de datacenters. Daar hebben we al eens eerder met uw Kamer over gesproken. Het kost veel energie. De datacenters zijn nu al verplicht om energiebesparende maatregelen te nemen. 94% van de elektriciteit die de ICT-sector op dit moment gebruikt, wordt groen ingekocht. Dat zegt echter nog niets over de hoeveelheid.

Vanuit de digitale sector zelf is die nationale coalitie nu met een apart programma duurzame digitalisering actief. Daar hebben ze ook een rapportage met actielijnen over gepubliceerd. Die heb ik vorig jaar in ontvangst genomen. Ze ontwikkelen ook nieuwe energiebesparende maatregelen. Het is echter niet alleen maar slecht. We gebruiken AI bijvoorbeeld ook in het kader van energie bij de klimaatopgave. We kunnen met AI ook warmtenetten efficiënter maken en bijvoorbeeld zorgen voor 20% minder warmteverlies et cetera et cetera. Maar het is wel een thema waarover we ons in brede zin zorgen moeten maken. Ik heb eerder toegezegd dat ik een onderzoek zou doen naar het duurzaamheidsaspect van digitalisering. Daar zijn we mee bezig. Ik heb in de planning om uw Kamer daar in het derde kwartaal over te informeren.

Dan heb ik nog een vraag van mevrouw Rajkowski: zijn er binnen de topsectoren drempels rondom datadelen? Ja, het is inderdaad zo dat datadelen lastig is en dat er drempels zijn. Soms is er misschien angst om te delen, maar er zijn ook daadwerkelijk drempels. Wij zetten in op het vergroten van het vertrouwen en het goed uitvoeren van de regels. We kijken ook waar men verantwoord kennis kan delen. Waar mogelijk willen we dus die drempels wegnemen. Bij het Groeifonds zijn ook al een aantal projecten of voorstellen goedgekeurd rondom datadelen in de logistiek en de zorg. Daar kunnen we ook breder lering uit trekken. Het kabinet stimuleert bedrijven dus ook om aan verantwoorde datadeling te doen, via initiatieven zoals de Data Sharing Coalition en de Nederlandse Gaia-X hub.

Een andere belangrijke drempel voor datadelen is dat vaak alleen de datahouder bepaalt wie er toegang heeft tot de data. Daardoor kunnen die data dus niet door andere partijen worden gebruikt. Daarom zetten we erop in om in de komende dataverordening te zorgen dat gebruikers van clouddiensten en internet-of-thingsproducten hun data gemakkelijker kunnen gebruiken. Dat willen we dan vooral doen door het gebruiksrecht duidelijker te maken.

Minister Adriaansens:

Dat onderschrijf ik. Ik begrijp het ook wel, want als je het niet zeker weet, is het natuurlijk heel lastig om die data te delen. Het ligt namelijk heel gevoelig. Ik kan me dus wel voorstellen dat iemand denkt: dan doe ik het liever niet, want dan heb ik het in ieder geval niet fout gedaan. Die andere doelen zijn wat meer op de langere termijn gericht. Dat is vaak ook wat minder persoonlijk, zogezegd. Ik begrijp die terughoudendheid dus wel. Maar het is zonde als het theoretisch wel kan, maar niet gebeurt. Ik hecht daar zelf ook heel erg aan. Ik denk dat we veel kansen krijgen als we daar goed mee omgaan, dus dat deel ik. Laat ik hierbij goed de vinger aan de pols houden en goed kijken wat er gebeurt met die Groeifondsprojecten die specifiek gaan over datadelen.

Ik denk ook dat het goed is om deze voorbeelden te delen met de toezichthouder. Ik denk dat die met name het comfort kan geven. Ik heb hier ook weleens met de Autoriteit Persoonsgegevens over gesproken. Zij zien die rol ook wel voor zichzelf. Zij kunnen wat meer comfort geven in wat er kan. Misschien moeten we ook kijken of we via de Nederlandse AI Coalitie nog wat meer comfort kunnen geven en wat meer kennis kunnen organiseren. Daar zijn al 500 organisaties bij betrokken, maar misschien kunnen we die groep nog groter maken. Daarmee kunnen we dit soort onrust of onzekerheid wegnemen. Het heeft dus de aandacht. Ik denk dat we gewoon goed moeten monitoren of de ontwikkelingen de goede kant opgaan.

Minister Adriaansens:

Dit valt onder de regie van mijn collega, de staatssecretaris. Maar in algemene zin is het natuurlijk wel zo dat je pas AI kan gaan gebruiken als je ook weet hoe een computer werkt, dus die twee hangen natuurlijk wel met elkaar samen. Maar ik zal de inhoudelijke beantwoording aan mijn collega overlaten.

Minister Adriaansens:

Er zijn meerdere monitoren. Ik noemde net ook de Europese monitor, DESI. Er is inderdaad ook een monitor van het CBS. Er zijn dus inderdaad monitoren die wij zullen delen met de Kamer. Wij zullen de voortgang daarvan bijhouden.

Minister Adriaansens:

Dan moet ik die zin erbij halen, voorzitter. Dan moet ik namelijk kijken welke vraag precies bedoeld wordt. Anders moet ik daar misschien in de tweede termijn op terugkomen, want dat moet ik even checken.

Minister Adriaansens:

Anders ga dat nu ter plekke zitten doen en ik denk dat dat niet handig is.

Minister Adriaansens:

D66 vroeg of ik mij zorgen maak over zonder toestemming door AI gebruikte foto's en data. We hadden het er net al even over dat voor de verwerking van persoonsgegevens een rechtsgrondslag nodig is, zoals toestemming. Dat is zo volgens de AVG. Anders is die onrechtmatig. Het gaat dus om een gerechtvaardigd belang of wettelijke grondslag op basis waarvan je die gegevens kan verwerken. De manier waarop je die gegevens verwerkt, dus of dat handmatig of geautomatiseerd gebeurt, doet er dan niet toe. Of dat een AI-aspect heeft, maakt dus niet zo veel uit. Het gaat erom dat persoonsgegevens alleen op een rechtmatige manier verwerkt kunnen worden. Dat is dus eigenlijk een algemene regel.

Minister Adriaansens:

Dat geldt gewoon, dus dat mag niet. De regels gelden ook voor ChatGPT. Maar wat betreft de vraag hoe we dat dan feitelijk gaan doen — dat is natuurlijk de achterliggende vraag die u stelt — zullen we met elkaar natuurlijk handig moeten manoeuvreren. Dit gaat namelijk snel. Kun je dit allemaal zien? Waar kan je het melden? Dus op alle ontwikkelingen, die zo snel gaan, moeten we gewoon goed inspelen. Maar het gaat er niet om dat de regels niet helder zijn; het gaat meer over hoe je die toepast.

Minister Adriaansens:

De VVD, en volgens mij ook een van de andere leden, zei dat het duidelijk moet zijn wanneer je in zo'n chatbox niet met een echt persoon praat. Dat is belangrijk. De AI-verordening regelt via transparantie-eisen dat het voor een natuurlijk persoon altijd duidelijk moet zijn als die met een AI-systeem interacteert, bijvoorbeeld in een chatbox. Die transparantie-eisen gelden niet als duidelijk uit de context blijkt dat je met AI te maken hebt. Dat is natuurlijk weer even een grijze opmerking, want: wanneer weet je dat? Ik denk dat we daar heel scherp op moeten zijn. Op het moment dat je daar zelf over twijfelt en je het gevoel hebt dat dat niet correct is, mag je in ieder geval een klacht indienen bij de toezichthouder. Dat is wel secundair, want je zou dat eigenlijk aan de voorkant willen regelen. Maar dit is nu de lijn van de verordening.

Daarmee ben ik aan het einde van de beantwoording van de vragen gekomen.

Staatssecretaris Van Huffelen:

Dank, en dank voor de gestelde vragen. Zoals de minister heeft aangegeven, zijn we inderdaad heel erg hard aan het werk met het thema van die algoritmes, wat een groot onderwerp is en waarvan de WRR ook heeft aangegeven dat het een heel grote impact kan hebben op onze samenleving. Dat gaat niet alleen maar over het stimuleren van de mooie en positieve kanten daarvan, maar natuurlijk ook over het reguleren van datgene waar we ons zorgen over maken. Daar wordt dan ook heel erg hard aan gewerkt.

Ik ga na de beantwoording van de minister vooral nog in op de onderwerpen rondom de AI Act en de Raad van Europa. Daarnaast heb ik nog een aantal verdere onderwerpen.

Dan begin ik met het verdrag van de Raad van Europa, dat AI-verdrag. Daarover wordt op dit moment namelijk onderhandeld. Het interessante daarvan is dat de leden van de Raad van Europa natuurlijk een bredere set aan partijen vertegenwoordigen dan alleen de Europese lidstaten die betrokken zijn bij de AI-verordening. De onderhandelingen zijn op dit moment lopend. Die zijn begonnen in september van vorig jaar. Er zijn ook deze maand nog gesprekken gevoerd. Als lidstaat zitten wij bij die onderhandelingen aan tafel en hebben wij dus ook ruimte om onze mening in te brengen. Overigens is ook de EU als orgaan vertegenwoordigd. De EU zal er vooral zicht op houden en voor proberen te zorgen dat datgene wat in de AI-verordening staat en daarin verder wordt ontwikkeld, aan blijft sluiten op wat er in het AI-verdrag staat. Het idee is wel dat daar waar ook de AI-verordening een component heeft die meer economisch van oorsprong is, het AI-verdrag van de Raad van Europa zich natuurlijk ook specifiek richt op het thema van de mensenrechten.

De vraag was ook: hoe kunnen wij als Tweede Kamer goed betrokken blijven bij het verloop van die onderhandelingen? Ik heb daarvoor het volgende voorstel, namelijk om een briefing te organiseren. De Raad van Europa wil heel graag hier in de Kamer vertellen hoe dat verdrag in elkaar zit op dit moment, welke stappen daarin zitten en wat er vooral inhoudelijk aan de orde is. Dat zouden we eventueel kunnen laten volgen door een schriftelijk debat, waarin u als Kamer ook nog een keer extra meegeeft van welke punten u van belang vindt dat ze in dat verdrag aan de orde komen, zodat wij dat weer kunnen meenemen in onze onderhandelingen. Nogmaals, de Raad van Europa heeft ook Nederlandstalige medewerkers die specifiek hierbij zijn betrokken en het fijn zouden vinden om alle informatie die gedeeld kan worden ook met uw Kamer te delen.

Mevrouw Dekker-Abdulaziz vroeg of het wenselijk was om platforms zoals Facebook en Twitter aan de kaak te stellen. Dan is het wel goed om te weten dat het verdrag over AI iets anders is dan de DSA. Het is niet hetzelfde, dus het regelt ook niet hetzelfde wat in de DSA zit. Natuurlijk, daar waar er links zitten, zullen die ook worden ingebracht. Ik denk dat het toch van belang is dat we in Europa beogen afspraken te maken met die platforms die een bredere werking hebben dan alleen het Europese gebied. Want als je moet modereren, dan modereer je natuurlijk ook over de grenzen van Europa heen. Bij het maken van de afspraken in het AI-verdrag zitten de partijen aan tafel, dus de Verenigde Staten en andere. Maar we hopen natuurlijk wel dat de afspraken die wij als Europa hebben over moderatie van de content — hoe zorgen we dat Twitter en Facebook illegale informatie van hun platforms af halen, hoe zorgen we dat ze monitoren op desinformatie, labelen, enzovoorts, enzovoorts, enzovoorts? — een bredere werking zullen hebben dan alleen maar Europa. Maar dat is niet 100% geregeld en dat kunnen we niet via het AI-verdrag allemaal regelen. We kunnen wel kijken hoever we kunnen komen.

Dan was er ook de vraag: kunnen wij voorafgaand aan de onderhandelingen inbreng meegeven? Daar heb ik net iets over gezegd. Ik denk dat het heel goed is om dat te doen, met misschien eerst die briefing zodat u goed op de hoogte bent van hoe het proces loopt, enzovoorts, enzovoorts, enzovoorts. Want de planning van het maken van het verdrag loopt eigenlijk ook dit jaar. Het loopt eigenlijk parallel aan de trilogen over de AI-verordening. Dat is op zich mooi, want daarmee kunnen we zorgen dat ze elkaar goed blijven aanvullen waar dat nodig is, maar in ieder geval niet tegenstrijdig zullen worden. Daar zit ook de Europese Commissie voor aan tafel in die onderhandelingen.

Dan vroeg u hoe het zat met de betrokkenheid van maatschappelijke organisaties in de onderhandelingen over dat verdrag van de Raad van Europa. De kern is dat die maatschappelijke organisaties betrokken zijn. Ze nemen deel aan de plenaire vergaderingen waarin de teksten van het verdrag worden bediscussieerd en ook besluiten worden genomen. De standpunten van deze organisaties worden natuurlijk ook door ons meegenomen. Er is naast die groep en die plenaire onderhandelingen ook een schrijfgroep. Daar zitten de verdragspartijen aan tafel om teksten te maken. Dat is een groep die zelf geen beslissingen neemt, maar wel rapporteert aan die plenaire bijeenkomsten met de maatschappelijke organisaties. Die worden dus wel degelijk ook betrokken. Ik denk dat dat belangrijk is, want er zijn veel maatschappelijke organisaties die heel goede input kunnen leveren als het over dit verdrag gaat. Ik denk dat ik dan voldoende heb gezegd over de Raad van Europa.

Dan heb ik een aantal andere thema's die u nog voorlegde. Er was een vraag van mevrouw Bouchallikh of de mensenrechtentoets voor algoritmes verplicht en bindend is. Dat is inderdaad zo. In de artikelen 9 en 10 van de huidige raadstekst worden ontwikkelaars van hoogrisico-AI-systemen verplicht de mensenrechtentoets uit te voeren ten aanzien van fundamentele rechten, veiligheid en gezondheid. Dat is echt een stevige toets die aanvullend is op de al bestaande, bijvoorbeeld privacy-assessments, die sowieso ook moeten worden gedaan.

Dan was er nog een vraag van mevrouw Dekker-Abdulaziz over wanneer er verplicht wordt deelgenomen aan het algoritmeregister. Op z'n vroegst kunnen we die verplichting invoeren in 2024. Dat hangt ook samen met de AI-verordening vanuit Europa. We moeten daarvoor nog wel een aantal keuzes maken die ook aansluiten bij wat we in Europa afspreken. Wat is de precieze definitie van de algoritmes die moeten worden opgenomen? Welke informatie moet je opnemen? We kijken natuurlijk ook naar de uitvoerbaarheid daarvan. Los daarvan zijn we wel alvast begonnen met dat register. Het is ook onze bedoeling dat met name overheidspartijen — daar is dat register in eerste instantie voor bedoeld — ervoor zorgen dat ze zo veel mogelijk van hun algoritmes registreren, met name de algoritmes die behoren tot de categorie hoog risico, bijvoorbeeld algoritmes waarin persoonsgegevens worden verwerkt of waarbij sprake is van het maken van risicoassessments door bijvoorbeeld uitvoeringsorganen van de overheid zoals UWV, Belastingdienst enzovoorts.

Dan een vraag van mevrouw Dekker-Abdulaziz over of we ons ook zorgen maken over hoe offline ongelijkheid online terugkomt en ook in AI wordt voortgezet. Ik deel natuurlijk uw zorgen, want dat is een van de belangrijkste redenen. We willen vooral zorgen dat ongelijkheid, vooroordelen maar zeker ook discriminatie niet onderwerp kunnen worden van een AI-systeem en van de datasets die daarin worden gebruikt, en ook niet van de manier waarop die AI-systemen worden getraind. Op Europees niveau zetten we daar natuurlijk op in vanwege de fundamentele rechten waarvan we willen dat ze beschermd worden. Niet in de laatste plaats is ook de toezichthouder ervoor om daar goed op te letten. Laten we er helder over zijn. Hoewel zowel het AI-verdrag als de AI-verordening nog in wording is, geldt natuurlijk al de AVG en geldt natuurlijk al non-discriminatie, enzovoorts, enzovoorts. De toezichthouder kan dus op dat gebied al aan het werk.

Dan was er nog een vraag van mevrouw Bouchallikh van GroenLinks over de uitvoering van de motie van Marijnissen en Klaver over het opruimen van afkomstgerelateerde indicatoren in risicomodellen en algoritmen, de zogenaamde motie 21. In het kader hiervan inventariseren we welke algoritmes of welke risicomodellen worden gebruikt. Ministeries doen dat ieder voor zich en ik heb daarbij een coördinerende taak. Een aantal ministeries heeft inmiddels al alle informatie opgeleverd: AZ, BZK, IenW, JenV en VWS. Overige departementen volgen eind januari, EZK, LNV en OCW, en begin februari de overige. BZ en Defensie komen ook nog in het eerste kwartaal van dit jaar. We geven een overzicht van de modellen die worden gebruikt. Er wordt ook aangegeven of er sprake is van problemen, van risico's die onoorbaar zijn. Voor het commissiedebat Inzet algoritmes en data-ethiek op 15 februari meld ik u schriftelijk nog de voortgang van hoe het staat met deze motie.

Dan was er nog de vraag over het algoritmeregister en algoritmes in de rechtshandhaving. Volgens mij heeft mijn collega daar al iets over gezegd. Het idee is dat we in principe in het register alle algoritmes van de overheid opnemen. Wanneer er sprake is van uitzonderingen omdat dat nodig is vanwege bijvoorbeeld de handhaving en defensie, is het altijd zo dat de coördinerend toezichthouder wel degelijk inzicht heeft in deze algoritmes. Dat is natuurlijk ontzettend belangrijk. Want ja, het is soms onwenselijk om ze helemaal openbaar te maken, bijvoorbeeld omdat in strijd zou zijn met opsporingsbevoegdheden of omdat algoritmes worden gebruikt bij bepaalde controles. Dan wil je niet dat iemand er misbruik van kan maken dat je precies weet hoe die algoritmes werken. Maar je wil wel zorgen dat die ook voldoen aan alle eisen die we daaraan stellen. Daarom moet de toezichthouder altijd inzicht en toegang hebben en dus ook naar die algoritmes kunnen kijken. Overigens is het idee dat de gebruikte algoritmes wel inzichtelijk zijn. Dat er een algoritme is, is wel inzichtelijk. Je kent alleen niet alle details van het algoritme.

Dan was er nog een vraag van GroenLinks, namelijk of de capaciteit van de Autoriteit Persoonsgegevens voldoende is en of er nog noodzaak is tot de aanvulling van budgetten en van kennis en kunde. Het antwoord daarop heb ik toch maar even laten voorleggen aan ChatGPT. Ik zal u vertellen wat voor antwoord die geeft: "Ik ben een computerprogramma. Ik heb geen informatie over specifieke situaties of capaciteiten van specifieke instanties, zoals de Nederlandse autoriteit voor persoonsgegevens. Het is echter wel belangrijk om te weten dat de bescherming van persoonsgegevens een belangrijke taak is en dat instanties die verantwoordelijk zijn voor deze bescherming over de juiste middelen, bevoegdheden en menskracht moeten beschikken om hun taken goed uit te voeren. Het is ook belangrijk dat deze instanties regelmatig worden geëvalueerd en dat er wordt gekeken naar de manier waarop ze hun taken uitvoeren, of er aanpassingen nodig zijn en om ervoor te zorgen dat ze hun taken goed kunnen uitvoeren." Dit zegt dus ook wel iets over wat ChatGPT wel en niet kan. Want dit antwoord is natuurlijk fantastisch, maar zegt ook helemaal niets.

Ik heb in de afgelopen tijd over dit interessante fenomeen een aantal interessante podcasts geluisterd. Eentje daarvan was een Amerikaanse podcast waarin gevraagd werd aan ChatGPT wat het gender zou zijn van the next female American president, dus het geslacht van de volgende vrouwelijke Amerikaanse president. Ook daar kwam ChatGPT niet uit. Met andere woorden, het is een heel interessante tool en er zijn allerlei dingen die mogelijk zijn, maar we moeten ook goed zien dat deze tool beperkingen kent. Om die reden is het denk ik ook altijd nog belangrijk om goed te blijven werken en nadenken, omdat politieke keuzes nu eenmaal niet door een algoritme kunnen worden gemaakt, of eigenlijk niet kunnen worden gemaakt. Dat doen wij hier.

Desalniettemin …

Staatssecretaris Van Huffelen:

Ik zei ook "desalniettemin". Daarmee wilde ik juist zeggen dat ik gewoon zelf antwoord wil geven op deze vraag. We hebben ervoor gekozen om niet alleen de toezichthoudende taak voor algoritmes aan de AP te geven en hun daarvoor dit jaar een bedrag van 1 miljoen te geven. Dat bedrag loopt volgend jaar op tot 3,6 miljoen. Op dit moment is er voor hen geen tekort om dit te kunnen doen en dat hebben we ook besproken met de AP. Maar natuurlijk moeten we goed in de gaten blijven houden of dat zo blijft. De taak is belangrijk. Die wordt ook met veel inzet opgezet door de AP. Het is altijd belangrijk om te blijven controleren of dit voldoende is, maar op dit moment is er voldoende budget en zijn er voldoende mogelijkheden voor de AP om deze taak op te zetten. We hebben voor de overige taken van de autoriteit met het coalitieakkoord overigens extra middelen gegeven aan de AP.

Staatssecretaris Van Huffelen:

Ons idee is dat we die rol van de toezichthouder jaarlijks tegen het licht houden. Ik zeg u dus toe dat we zorgen dat we ergens aan het eind van dit jaar, of beter gezegd, dat we misschien begin volgend jaar, wanneer de AP daar het eerste jaar aan heeft gewerkt, gaan kijken hoe het zit. De AP heeft in dit opzicht namelijk een multipele taak. Het gaat erom dat ze kijken vanuit hun eigen gebied, met name natuurlijk de AVG, de privacyverordeningen, hoe het werkt voor algoritmes. Ze hebben ook een coördinerende taak, omdat het de bedoeling is dat andere toezichthouders voor andere deelgebieden ook op dit gebied actief worden. Ik denk dus dat het sowieso goed is dat we scherp in de gaten blijven houden of dit echt werkt en goed gaat. We weten aan het eind van dit jaar hopelijk ook meer over hoe die AI-verordening er precies uit komt te zien en hoe die toezichtrollen op basis daarvan worden ingevuld. Dat is namelijk natuurlijk ook onderdeel van die verordening. Dat lijkt me dus altijd goed.

Staatssecretaris Van Huffelen:

Zeker, dat platform is er nog. Er zijn inderdaad meerdere toezichthouders die daarin samenwerken. Dat zijn de AP, de ACM en het Agentschap Telecom. Dat laatste heeft inmiddels een andere naam volgens mij, maar ik ben even kwijt welke dat is. Ik hoor dat dat de Rijksinspectie Digitale Infrastructuur is. Het punt is dat deze organisaties inderdaad met elkaar aan het kijken zijn hoe ze de taken in dat digitale domein moeten verdelen en inrichten. Binnenkort is daar ook overleg over met ons beide. Dat is niet alleen maar van belang in het kader van die AI-verordening, oftewel de kunstmatige intelligentie verordening, maar ook voor de verordeningen die er nog aan zitten te komen in de komende tijd. Dat zijn dus de DSA, de DMA, enzovoort, enzovoort. Want heel vaak is er toch sprake van een soort mix van toezichthouders die delen van het toezicht moeten organiseren.

Het is ontzettend belangrijk dat we dat goed doen. Ik vind dat belangrijk, omdat het niet alleen maar gaat over wie nou de toezichthouder wordt, maar ook zodat we samen met die toezichthouders heel duidelijk kunnen maken aan Nederlandse organisaties en bedrijven aan welke vereisten zij nou precies moeten voldoen als die verordeningen er straks zijn. Want een van de dingen — dat staat ook letterlijk in onze werkagenda als een van onze speerpunten — waar ik me ook echt wel zorgen over maak, is dat er nu veel verordeningen komen waarin wat mij betreft ook echt goede dingen geregeld worden die we ook zeker moeten omarmen. Ik zeg ''moeten'', maar ik bedoel dat ik het belangrijk vind dat we ze omarmen. Maar tegelijkertijd hecht ik er natuurlijk ook aan dat het implementeerbaar is en dat mensen, bedrijven, organisaties en overheden begrijpen wat zij dan moeten doen. Daar zijn we hard mee aan het werk. Die clubs zijn dus heel actief en doen dat dus ook samen met de AP.

Staatssecretaris Van Huffelen:

Dat doe ik graag. Dus zodra ik met hen heb gezeten, kan ik u daarover informeren.

Ik had nog één thema waar ik iets over wilde zeggen. Dat gaat over het delen van data en dan met name ook de AVG-problematiek, maar dan wat meer vanuit het perspectief van de overheid. De minister heeft daar namelijk ook al iets over gezegd. Ook binnen de overheid zelf herkennen we dat probleem. Ik was gisteren nog op bezoek bij gemeenten. Die gaven aan dat zij tussen de verschillende poten van de gemeente of sociale instanties zoals het UWV en DUO, de Belastingdienst en anderen, niet zomaar data kunnen delen en dat dat soms ten koste gaat van bijvoorbeeld de burger zelf. Er is dus veel niet-gebruik van voorzieningen omdat mensen dat soms niet weten.

Wij weten wel dat ze eigenlijk recht hebben op een bepaalde toeslag, uitkering of de energietegemoetkoming, enzovoort. Maar mensen weten het niet. Zij vragen het dan niet aan en komen daardoor soms in de financiële problemen, ondanks deze toeslagen er zijn. Wij zijn daar in het kader van het programma Werk aan Uitvoering sowieso aan het induiken, ook omdat we er samen met de AP naar het volgende willen kijken. Daar waar het delen van data tussen overheidsorganisaties ten gunste van burgers is, zouden we dat ook moeten kunnen en willen doen, uiteraard met de juiste waarborgen eromheen.

Niemand hoeft maar iets te vertellen over wat er mis kan gaan als je kijkt naar wat er bij de toeslagen fout is gegaan. Maar daar zijn we mee aan het werk. Voor instanties, organisaties en overheden die vragen hebben op dit gebied hebben we overigens een speciaal loket gemaakt. Dat loket heet de adviesfunctie verantwoord datagebruik, waar je ook alvast vragen kunt stellen als ''zou ik deze data nou wel mogen delen of niet?" en "ben ik dan op een goede manier bezig?'' Ik hecht daar dus ook aan.

Binnenkort ga ik overigens naar België, omdat daar een soort voorziening is gemaakt die nog een stapje verder gaat. Daar wil ik eigenlijk wel iets meer over begrijpen. Daar zit dan ook een instantie die wat meer meedenkt over hoe je op een verantwoorde manier data kunt delen wanneer dat, nogmaals, ten gunste is van burgers of bedrijven.

Dat was het wat mij betreft.

Staatssecretaris Van Huffelen:

Volgens mij moeten we als het gaat om de vraag over de monitor nog even uitzoeken of dat klopt of niet. Dat is één ding. Als het gaat over het demystificeren van AI: daar is natuurlijk veel meer aan de hand dan alleen maar het probleem oplossen dat mensen nu geen gebruikmaken van digitale voorzieningen omdat ze de vaardigheden daarvoor niet hebben. Dat is wel een heel belangrijk onderdeel van de werkagenda die we hebben. Je zou kunnen zeggen dat er eigenlijk drie hoofdlijnen zijn. Dit is nummer een, namelijk zorgen dat iedereen mee kan doen in de digitale wereld. Er zijn zo'n 4 of 5 miljoen mensen in Nederland die het niet kunnen. Soms komt dat doordat ze niet kunnen lezen en schrijven, soms doordat ze de tools niet hebben, soms omdat ze niet in staat zijn om met een computer te werken en soms omdat ze de vaardigheden niet hebben. Er zijn mensen die prima met een mobiele telefoon kunnen omgaan, maar alsnog niet kunnen zorgen dat ze daarmee een uitkering of een subsidie kunnen aanvragen, of op welke manier dan ook zaken kunnen doen met de overheid.

Ik vind het volgende heel belangrijk. Dat is natuurlijk ook een onderdeel van demystificeren, maar dat is onvoldoende. Er is veel meer wat we moeten doen. Voor een deel doen we dat op dit moment al met allerlei soorten programma's waarin we proberen uit te leggen wat AI is. Maar ik denk dat we daar gewoon mee moeten doorgaan, want het is natuurlijk elke keer van belang om dat te doen. Soms helpt het wel dat we het nu zo uitgebreid hebben over iets als ChatGPT. Je moet het elke keer even goed zeggen, anders denk je TP, maar het is PT. Dat is denk ik echt superbelangrijk, maar dat is niet het algoritme waar ik me het meest druk over maak. Natuurlijk maken mensen in het onderwijs zich er druk over, want het is natuurlijk niet de bedoeling dat je op die manier je paper gaat schrijven. Als ik een kind was, zou ik het denk ik ook doen, maar dat ben ik niet meer. We hebben ook gemerkt dat het onzinantwoorden of nietszeggende antwoorden kan opleveren. Dat is dus denk ik aan de orde.

Maar er zijn vormen van artificial intelligence waar ik me nog veel drukker over maak. We weten nu een beetje hoe ChatGPT werkt. We zien dat het gebruikt wordt. Maar er zijn natuurlijk vormen van artificial intelligence waarbij het veel onduidelijker is hoe ze werken. Dat is bijvoorbeeld het geval bij de socialmediaplatforms. Hoe komt het dat u betere, of een ander soort informatie krijgt dan ik? Hoe komt het dat je als je een vraag stelt ineens in een bubbel terechtkomt met alleen maar informatie over zo'n onderwerp op een manier die soms ook aanzet tot haat, polarisatie of iets wat je eigenlijk helemaal niet wil?

Anyways, ik wil daarover zeggen dat voor dat demystificeren veel meer nodig is dan alleen maar zorgen dat mensen goede vaardigheden hebben. Daar gaan we de komende tijd veel meer voor doen. Maar vaardigheden zijn natuurlijk wel belangrijk, omdat het er niet alleen over gaat of je om kunt gaan met de computer, maar ook of je begrijpt hoe het werkt. De minister zei er ook al iets over: we hebben in ons werkprogramma heel uitdrukkelijk gezegd dat we in het curriculum voor lagere scholen en middelbare scholen ervoor gaan zorgen dat dit allemaal veel meer aandacht krijgt. We zullen ook elke keer weer moeten ontwikkelen, want een jaar geleden was ChatGPT er nog niet. Of misschien was die er wel, maar was die voor ons niet zichtbaar. Over een maand zijn er ongetwijfeld weer andere vormen van AI die mooie dingen voor ons kunnen brengen, maar misschien ook hele nare.

Staatssecretaris Van Huffelen:

We hebben een heel breed programma. Daar gaan we ook nog verder aan werken in de komende tijd. Een van de dingen — dat staat even los van de monitorvraag die we sowieso gaan beantwoorden — die onderdeel van het werkprogramma is, is dat we veel beter willen begrijpen welke mensen welke informatie en vaardigheden precies missen als het gaat over digitalisering. We hebben nog te veel grove beelden en niet voldoende beelden die fijn genoeg zijn. We kunnen daar dus niet goed genoeg op acteren. De Universiteit van Amsterdam is in opdracht van ons aan het werk om te zorgen dat we een betere monitor krijgen voor hoe het nu precies staat met de digitale vaardigheden van Nederlanders. "Welke vaardigheden ontbreken bij welke groepen mensen? Wat is er dan nodig?" Want het gaat dus niet alleen maar over of je met een telefoon of computer om kunt gaan. Het gaat er ook om of je in staat bent om daar bepaalde activiteiten mee te doen, met name in interactie met de overheid.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Ik weet eigenlijk niet waar ik moet beginnen. Ik vind het teleurstellend, maar dat is eigenlijk waar ik helaas meestal mee begin. Ik had hier veel meer van verwacht en ik denk andere leden ook. Ik kan eigenlijk niet begrijpen waarom je een instantie als de WRR drie jaar onderzoek laat doen naar wegwijzers om te komen tot een goede inbedding van AI, terwijl je eigenlijk allang geconcludeerd hebt dat dat toch niet meer nodig is.

De adviesaanvraag is uit 2018 en de WRR is daarna drie jaar bezig geweest — drieënhalf jaar zelfs — en het rapport is in 2021 opgeleverd. U laat deze commissie dus een jaar wachten op uw reactie! Ik voel me echt ... Nou, "niet serieus genomen" is nog een understatement. We worden hier gewoon belazerd. Ik zeg het maar even zo. En dat is niet oké. Ook de mondelinge toelichting is niet genoeg, want uiteindelijk horen we hetzelfde als wat we in de brief hebben kunnen lezen. Die brief is ook al oude wijn in nieuwe zakken, want wat daarin staat, is er allemaal al. Nu net ook weer: je moet het helemaal af gaan pellen en dan blijkt het gewoon het potje voor digibetisme te zijn. Helemaal niks nieuws voor demystificatie van AI.

Ik heb sterk het vermoeden dat met die monitor word gedoeld op de CBS-monitor ICT, kennis en economie. Die bestaat al sinds 2011! Het is dus gewoon voortborduren op. Ik hoor zo meteen wel welke monitor het is, maar ik vind het redelijk vreemd dat dat niet zo opgelepeld kan worden en dat er geen linkje staat of wat dan ook.

Verder is het allemaal ... Het is gewoon niet goed genoeg. Hierbij vraag ik dan ook een tweeminutendebat aan. We moeten haast maken, want dit ligt al zoveel jaar stil. Eerlijk gezegd, deze commissie wordt echt om de tuin geleid door het kabinet. Ik kan niets anders concluderen dan dat dit, in rondjes blijven lopen, gewoon bewust beleid is. De WRR bedanken voor de wegwijzer, maar mwah: we hebben ze toch niet nodig, want we zijn best wel goed op weg met ons rondje, en nog een rondje en nog een rondje.

Ik vind het toch wel triest om te constateren dat de PVV dan weer de enige in de zaal is die durft te zeggen dat de keizer geen kleren aan heeft. Ik doe het graag, hoor, want dat is ook mijn functie als volksvertegenwoordiger. Maar liever had ik hier gepraat over wat wij, over wat de Kamer nog kan doen. Hoe komen we samen tot een bepaald resultaat en hoe komen we vooruit? Ik ga niet meelopen in de rondjes van dit kabinet, dat heb ik hierbij aangegeven.

Dus wie niet horen wil, moet maar voelen. Voorzitter, hierbij vraag ik dan ook een tweeminutendebat aan. Daarin gaan we dan zien wat de Kamer nog voor elkaar kan boksen met moties. Het is helaas niet anders.

Mevrouw Van Weerdenburg (PVV):

Voorzitter, in ieder geval op een aantal ... Ik weet niet of ik dat nu al moet zeggen, maar het wordt gewoon een tweeminutendebat over dit commissiedebat. Ik denk dat ik in ieder geval per motie een aantal aanbevelingen ga voorleggen aan de Kamer. Maar daar ben ik nog niet over uit. In ieder geval ga ik proberen om de eer van de WRR nog een beetje te redden, want ik vind dit echt een schoffering, niet alleen van de WRR maar ook van de Kamer.

Mevrouw Van Weerdenburg (PVV):

Allereerst: in ieder geval zo'n AI-coördinatiecentrum. Iedereen is het erover eens dat dat er moet komen en het kabinet zegt: dat is niet nodig. Ik heb het ook in eerste termijn gevraagd, en gezegd: u krijgt de kans om te antwoorden. En het blijft een dikke vette "nee". Ik heb niks nieuws gehoord, niks meer dan wat in de brief al staat. En ja, ik vind dat we dat op z'n minst met de Kamer moeten regelen. Verder weet ik het niet, hoor. Het is niet gebruikelijk om nu al te zeggen wat ik allemaal voor moties ga indienen, maar in ieder geval is dit niet genoeg. Het kabinet doet mijns inziens niet genoeg om dit te implementeren, dus ik vind dat wij als Kamer nu aan zet zijn.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Eigenlijk een korte tweede termijn. Ik wou gewoon complimenten geven aan het kabinet voor wat er allemaal gebeurt. Dat wou ik eigenlijk in de eerste termijn al doen, maar vanwege de tijd had ik het eruit geschrapt. Maar ik moet zeggen dat de vragen die de VVD heeft gesteld, naar tevredenheid zijn beantwoord. Er gebeurt nog veel meer dan wat we eigenlijk al zien. Sommige dingen zijn al geregeld, in de AI Act bijvoorbeeld. Ik zie ook dat er in dat AI-verdrag een hoop gebeurt, dus ook veel complimenten daarvoor.

Misschien nog een extra opmerking, want ik wist niet dat de AI Coalitie bijvoorbeeld ook al bezig was met die certificering. Het is inderdaad aanvullend. Volgens mij heeft de minister dat ook niet gezegd. Het is inderdaad goed om dingen niet dubbel te doen. Maar fijn om te horen dat er al een heleboel gebeurt en dat even goed aan elkaar te verbinden. De twee deskundigen van de TU Delft hebben daar heel goede ideeën bij, dus fijn om te horen dat daar nog extra wordt opgehaald.

Mevrouw Rajkowski (VVD):

Maar zo heb ik hem ook niet begrepen. Maar goed, ik ben ook geen bewindspersoon, dus ik ga op die manier ook niet het kabinet verdedigen. Dit moet u vooral aan de ministers vragen. Maar volgens mij lijkt dat niet raar voor een rapport dat eind 2021 over AI is opgeleverd. We zitten al aan het begin van 2023. De techniek gaat zodanig snel ... Terwijl je met computers, het internet of andere technieken jaren nodig hebt voordat er echt weer een soort verversing plaatsvindt, gebeuren er bij AI elke vier maanden weer nieuwe dingen en zijn er nieuwe innovaties, waardoor het nog sneller en nog beter wordt.

Dus als de vraag is "kunt u zich voorstellen dat er dingen verouderd zijn sinds 2021?", dan zeg ik: ja. Maar tegelijkertijd zie ik ... En daarom vroeg ik net ook even naar de moties van mevrouw Van Weerdenburg. Ik ben het niet helemaal eens met haar op een aantal punten, namelijk dat daar niks gebeurt. Kijk, "AI-coördinatiecentrum" klinkt heel goed, maar volgens mij gebeurt dat ook, in een andere vorm. Er is over ministeries heen ambtelijk topoverleg. Dat heb ik uit de stukken gehaald. Volgens mij is het hartstikke goed dat dat gebeurt. Dat is wat mij betreft ook een van de doelen voor deze commissie Digitale Zaken: dat er door kokers heen, over grenzen heen, of dat nou binnen de rijksoverheid is, het bedrijfsleven of de maatschappij, breed gesproken en nagedacht wordt over technologie.

En ik ben heel blij dat, nu kunstmatige intelligentie onze samenleving verandert, daar bij de rijksoverheid ook op bestuurlijk niveau overleg en dat soort dingen over plaatsvinden. Ben ik helemaal tevreden? Nee. Ik heb ook mijn hele tijd volgepraat met allerlei dingen die ik nog net wat beter wil. Ik maak me ook zorgen over de marktmacht van China of de VS; dat heb ik al vaker genoemd. Maar ik vind complimenten toch echt wel op hun plaats. Ik ga ze gewoon nog een keer maken, want ik onderschrijf gewoon niet de teneur die de PVV voorstelt.

Mevrouw Rajkowski (VVD):

Tuurlijk niet op alle punten, maar ik ben toch nog steeds onder de indruk van wat er wel is gebeurd. Ook als je gewoon kijkt naar de AI Act, dan heeft Nederland kunnen binnenhalen dat er een klachtenprocedure plaats kan vinden voor als het systeem niet goed functioneert, zodat je als burger of bedrijf weet waar je terechtkunt. Dat zijn allemaal waarborgen die wij als Nederland, als klein maar wel welvarend landje, allemaal op Europees niveau hebben weten binnen te halen. Vorige week hebben we als Kamer ook nog wat kunnen vinden over aansprakelijkheidsregels voor AI. Er gebeurt een hoop op internationaal niveau. Er is het AI-verdrag.

Weet je, wat mij betreft gebeurt er zo ongelofelijk veel. En nee, we zijn nog lang niet klaar. Want op sommige lijstjes staat Nederland als het gaat om AI op nummer 3 bij de koplopers in de wereld, door hoeveel we ermee doen. Maar de nummers 1 en 2 zijn China en de VS, als je kijkt naar hoeveel geld ze erin investeren. Tja, dan kan je blij zijn als je op 3 staat, maar de afstand tussen wat Nederland doet en wat China en de VS doen, is gigantisch. En dat gaan we ook nooit evenaren. Dus waar de VVD eigenlijk naar op zoek is — en dat hebben we in het debat geprobeerd, en volgens mij hebben we daar ook voorstellen voor gedaan — is juist om te kijken waar we als Nederland goed in zijn en waar we als Europa goed in zijn. En dat zijn die normen en waarden, die mensgerichte AI, dus zorgen dat we AI zodanig gaan inzetten dat ze echt problemen op de arbeidsmarkt gaat oplossen voor veel mensen, voor brede welvaart gaat zorgen. Dus dat we dat in Nederland goed gaan regelen, en Brussel kunnen overtuigen. Dan hebben we dat Brusseleffect over de hele wereld, en kunnen we volgens mij die derde positie met trots behouden.

Mevrouw Bouchallikh (GroenLinks):

Dank u wel, voorzitter, en ook aan de bewindspersonen en mijn collega's. Dit debat hier onderschrijft volgens mij precies waartoe wij hier zijn: aan de ene kant kritisch blijven kijken naar wat er allemaal niet gebeurt en wat er misgaat, en ook zien wat er allemaal wel gebeurt. En het is duidelijk dat we hier met z'n allen aan het zoeken zijn. Soms zijn we het eens en soms niet, maar ik merk wel dat de wil er is, en dat is fijn aan deze commissie.

Dan even over de bijdragen. Het is fijn dat er is toegezegd dat die algoritmetoets inderdaad bindend is, met eigenlijk dat hele lijstje aan kwalificaties, waar op een gegeven moment toch nog wat verwarring over was. Ik hoop dat we dat de volgende keer niet meer hoeven te vragen. Dat regelmatige checken van de capaciteit, daarover ben ik ook blij om te horen, juist omdat, zoals eerder ook gezegd door de collega's, de ontwikkelingen echt supersnel gaan en ik niet wil dat we elke keer achter aansluiten.

Dan het debat dat eraan gaat komen over algoritmes en discriminatie. Ik kijk uit naar de brief die daarover is toegezegd, en ook over vervuilde data en wat er in de toekomst zal worden gedaan. Ik maak me nog wel een beetje zorgen over de algoritmes bij rechtshandhaving. Goed om te horen dat dat wel bij de toezichthouders bekend is. Omdat dat precies het punt is waar het vaak misgaat, voel ik ongemak. Maar dat is vooral een gevoel; ik kan het nog niet inhoudelijk staven. En ik hoop dat het daarbij blijft. Maar ik wilde het wel even zeggen, juist omdat het daar heel vaak misgaat. Ik hoop dat we met z'n allen daar heel kritisch naar blijven kijken, zonder te zeggen dat het nu niet goed geborgd is. Maar deze vind ik gewoon ingewikkeld.

Tot slot over duurzaamheid en technologie. Fijn dat daarover vanuit EZK nog een rapportage komt in het derde kwartaal. Misschien een praktisch verzoek aan de griffie, of naar onszelf als commissie: dat we ervoor zorgen dat wij ook die rapportages krijgen en wij hierbij inderdaad over departementen heen blijven kijken. Veel dank ook aan de griffie.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Dank voor de beantwoording van het kabinet in de eerste termijn. Nogmaals, het is goed dat we dit debat voeren. Voor D66 ga ik drie vragen stellen: over het expertisecentrum AI, de AI Act en het AI-verdrag. Allereerst is het goed dat de minister ingaat op de regionale hubs van de AI Coalitie. Daarmee verbinden we verschillende puzzelstukjes: de juridische, ethische, economische en sociale aspecten, en het bedrijfsleven met de kennisinstellingen. Maar toch ziet D66 nog een missing link, en dat is die met de overheid. De ontwikkeling van AI gaat een stuk sneller dan de ontwikkeling van beleid. Is de minister bereid om nader in te gaan op de betrokkenheid van het kabinet bij deze hubs? En is de minister bereid om het gesprek aan te gaan om ook de onderlinge kennis aan elkaar te verbinden, en misschien in de toekomst te komen tot een integraal expertisecentrum?

Dan de AI Act, ten tweede. Het is positief dat de staatssecretaris overtuigd is van de verplichte mensenrechtentoets. Voor D66 blijft het van belang dat we als staten bedrijven achter de broek aan kunnen zitten om mensenrechten te beschermen. Maar ook de staten zelf moeten zich daaraan houden. Gelden de uitzonderingen voor law enforcement en border patrol ook in het geval van de mensenrechtentoets? Zou de staatssecretaris dat kunnen ophelderen? Want voor D66 is het essentieel dat juist de overheden de mensenrechten beschermen.

Tot slot. Het is fijn dat de staatssecretaris aangeeft dat de Raad van Europa bereid is de Kamer te briefen over het verdrag, opgevolgd door een schriftelijk debat. Aan welke termijn denkt de staatssecretaris dan? En als het gaat om de betrokkenheid van maatschappelijke organisaties, ontkent de staatssecretaris dan dat initieel het volledige proces open was, en dat nu de deuren gesloten zijn tijdens de schrijfsessies en het proces minder transparant is gemaakt? Hoe verhoudt dat zich tot de wens om het gebruik van kunstmatige intelligentie transparanter te maken? En als het proces al niet transparant is, wat zegt dat dan over de inhoud? Voor D66 blijft het belangrijk dat ook het veld meepraat over de toekomst van het gebruik van AI.

Dank u wel.

De voorzitter:

Dank u wel. Dan vraag ik even aan de bewindspersonen of zij behoefte hebben aan een schorsing. Ik hoor tien minuten. Dan schors ik de vergadering voor tien minuten.

De voorzitter:

Ik zie dat iedereen weer terug is, dus we gaan verder. Ik geef het woord aan de minister van Economische Zaken.

Minister Adriaansens:

Dank u, voorzitter. Ik zal twee vragen beantwoorden en de staatssecretaris zal dan de andere vragen beantwoorden. Allereerst over de ontevredenheid van mevrouw Van Weerdenburg over hoe wij omgaan met het WRR-rapport. Ik heb volgens mij heel duidelijk gezegd dat wij heel veel waarde toekennen aan de WRR. Dat hebben we ook in de brief aangegeven. De WRR geeft echter vooral richtinggevende langetermijndoelen. Wij zullen die in de voortgangsrapportages erbij halen om te laten zien hoe wij voortgang boeken op de aanbevelingen die zij soms wat abstracter doen.

Desalniettemin is het coördinatiecentrum wel een concreet voorstel en een aanbeveling van de WRR. We moeten middel en doel echter niet door elkaar halen. Het gaat om het doel dat we willen bereiken, dat we coördinatie hebben, dat we zorgen dat we de goede dingen doen, dat we dat in afstemming met elkaar doen, dat we één en één is drie maken en dat we niet versnipperd bezig zijn en dat we zorgen dat we voortgang boeken. Wij hebben dat als overheid, als kabinet, op een bepaalde manier vormgegeven. Daar is de laatste jaren echt heel veel in gebeurd, ook met de komst van de staatssecretaris en haar coördinerende rol. Er wordt veel gestructureerder samengewerkt tussen de verschillende departementen op dit thema. Je ziet nu met de stappen die gezet worden dat de toezichthouders ook veel meer samenwerken. Dat is wel degelijk een nieuwe stap. Dat gaat vruchten afwerpen. We zien ook in de Nederlandse AI Coalitie heel veel voortgang als het gaat over samenwerken en stappen zetten.

Nog een extra opmerking die ik daarbij wil plaatsen, is dat ook de keuze van het kabinet … Er zijn zo veel onderwerpen die in alle departementen en sectoren spelen en digitalisering is daar een hele belangrijke van. Het is eigenlijk veel sterker om dat in een samenwerkingsverband te doen. Er zit ook wel een keuze in. Je kunt het ook buiten je organisatie leggen. Dan verplaats je eigenlijk de verantwoordelijkheid. Wij hebben de verantwoordelijkheid zelf genomen. Er zit dus wel degelijk een inhoudelijke argumentatie achter de vorm die wij hebben gekozen om het doel dat de WRR beschrijft, namelijk goede afstemming, vorm te geven. Het is dus niet aan de kant geplaatst, maar er is op een bepaalde manier invulling aan gegeven waar wij heel erg in geloven.

Minister Adriaansens:

Ik weet niet of we hier helemaal uit gaan komen. Dat vind ik jammer, want volgens mij willen we hetzelfde. Kijk, een woord als "demystificatie" is ook een ingewikkeld woord. Dat moet je vertalen. Belangrijk voor de rol van de Kamer is dat we met elkaar hetzelfde bedoelen en aan dezelfde dingen werken. Hoe we nou precies van A naar B komen, daar kunt u wel wat van vinden, maar volgens mij bedoelt u vooral voortgang te boeken. Zo heb ik uw betoog tenminste ervaren. Dat willen wij ook. Volgens mij werken we aan hetzelfde.

De WRR zegt iets over de wijze waarop wij meer samenhang zouden moeten brengen in wat wij doen. Daar hebben we heel veel acties op ondernomen. Uiteindelijk moet dat ertoe leiden dat we betere en snellere resultaten behalen, dat we stappen zetten met AI, dat we zorgen voor beter opgeleide mensen, dat het op school een plek gaat krijgen, dat er kennis wordt ontwikkeld en dat er goede regelgeving komt. Dat is een heleboel waar we het ook over gehad hebben vanmiddag. Daar zou u ons op moeten aanspreken.

Dus belangrijk voor ons is volgens mij dat wij zorgen dat we een goede rapportage maken. Op het moment dat die rapportage niet onafhankelijk genoeg zou zijn — dat is eigenlijk wat u suggereert — dan moet u volgens mij kijken wat u nodig heeft voor het comfort op die rapportage. Ik zou bijna zeggen: geef ons de kans om te rapporteren en laten we dan kijken of die rapportage u bevalt. Ten eerste qua vorm en betrouwbaarheid, want dat is wat u suggereert, maar ten tweede ook of goede voortgang wordt behaald, want dat is volgens mij wat u bedoelt.

Minister Adriaansens:

Ik denk het ook niet. Ik denk dat we het eens zijn over wat we voor elkaar willen krijgen. Ik ben het er ook mee eens dat we in normale taal moeten praten. We hebben ook gereageerd op een rapport waar niet altijd hele duidelijke woorden in stonden. Dat is ook terecht als het een wetenschappelijke raad is. Ook daar moeten we denk ik even zoeken naar de vertaling. Dat dat concreet moet worden en dat we uiteindelijk bij de monitoring … Als dat een aanbeveling is van mevrouw Van Weerdenburg neem ik die heel graag mee om te zorgen dat we normale taal gaan gebruiken bij de rapportage, zodat duidelijk is wat er bereikt wordt en dat we oppassen dat we niet te vreemde woorden gebruiken. Daar krijg ik zelf ook puistjes van. In die zin ben ik dat met mevrouw Van Weerdenburg eens. Maar het is nou eenmaal ook een ingewikkeld onderwerp, dus we moeten leren die taal te ontwikkelen. We moeten met elkaar kijken hoe we u daar goed over kunnen informeren. Zo zal ik 'm oppakken en in de voortgang hopen we die transparantie op een goede manier te bereiken.

Minister Adriaansens:

Ik wilde naar die vraag toe gaan. Heel veel departementen zijn betrokken bij de Nederlandse AI Coalitie en bij de regionale hubs waar u over sprak. De overheden zijn dus betrokken en kijken naar de ontwikkelingen die daar plaatsvinden. Ze kijken wat dat weer betekent voor het overheidsbeleid. Dat vindt dus plaats.

Dat waren mijn vragen. Dan zijn de andere vragen voor de staatssecretaris.

Staatssecretaris Van Huffelen:

Dan ga ik even in op die specifieke vraag over de monitor. Ik wil herhalen wat ik eerder zei, namelijk dat er op dit moment door de Universiteit van Amsterdam een monitor over digitale vaardigheden wordt ontwikkeld, uitgevoerd en verder doorontwikkeld. De definitieve versie daarvan is volgend jaar klaar. Dat is dus niet hetzelfde als de CBS-monitor die ook plaatsvindt, maar een veel fijnmazigere monitor waarin we een beter en scherper beeld proberen te krijgen van hoe het staat met de digitale vaardigheden van Nederlanders.

Staatssecretaris Van Huffelen:

Ook op dit moment wordt er al een monitor uitgevoerd, maar we zijn hem verder aan het ontwikkelen. Diezelfde universiteit voert dus nu al een monitor uit en ontwikkelt hem tegelijkertijd verder door. Dan wordt die in 2024 niet alleen gepresenteerd, maar ook uitgevoerd.

Staatssecretaris Van Huffelen:

Wij brengen nog een brief uit over digitale inclusie, dus over dit onderwerp. In die brief zal ik dit meenemen. Die brief komt nog in dit kwartaal.

Dan de vraag van mevrouw Dekker of de verplichte mensenrechtentoets in de AI Act ook voor law enforcement en border patrol geldt. Dat klopt; daar geldt die ook voor.

Dan had u nog een vraag over de Raad van Europa: wanneer kan die briefing plaatsvinden? Dat is aan u, want u moet als Kamer die vraag aan de Raad van Europa stellen om zo'n briefing te komen doen.

Dan nog iets wat ik met kracht zou willen ontkennen, namelijk het idee dat het verdrag niet transparant tot stand komt, want juist in de onderhandelingen is er sprake van transparantie en zijn ook ngo's betrokken, niet alleen op dit moment maar ook in de voorbereidingen die plaats hebben gevonden voor het maken van het verdrag. Het enige wat er gebeurt, is dat er een soort schrijfgroepje is dat teksten voorbereidt en voorlegt aan de combinatie van landen, onderhandelaars en ngo's. Die zijn dus uitdrukkelijk betrokken bij het maken van de teksten. Daar hecht ik ook zelf veel belang aan, omdat het natuurlijk heel belangrijk is dat dat verdrag een goed en gedragen verdrag is. Maar dat wordt dus ook gedaan.

Staatssecretaris Van Huffelen:

Ja, voor zover er een planning is, kan ik die geven, want er zijn inderdaad momenten in de tijd afgesproken om in de loop van dit jaar met elkaar te onderhandelen, met als idee om nog dit jaar tot een uitkomst te komen. Maar goed, dat hangt natuurlijk af van hoe het gaat. Dat is dus niet zomaar te zeggen, maar daar kan ik u wel van op de hoogte stellen. Ik zou eerlijk gezegd zeggen: doet u het zo snel mogelijk als u de gelegenheid heeft, want hoe eerder u bij bent, hoe groter de kans dat eventuele dingen die u nog wil meegeven, kunnen worden meegenomen in die onderhandelingen.

Staatssecretaris Van Huffelen:

Dan zei mevrouw Bouchallikh nog dat zij het vooral van belang vindt dat de toezichthouders goed hun werk kunnen blijven doen. U zei: misschien is het een onderbuikgevoel, maar ik weet nog niet helemaal zeker of het goed gaat. Laten we vooral zorgen dat we elkaar goed op de hoogte houden, want het is voor zowel de toezichthouders als voor ons natuurlijk van belang dat zij hun werk goed kunnen doen. Daarom vind ik het ook heel belangrijk om organisaties transparantie en helderheid te bieden over de eisen waaraan zij moeten voldoen. Dat hebben we een beetje gezien bij de implementatie van de AVG: heel veel organisaties willen gewoon compliant zijn en willen dus graag voldoen aan de vereisten, maar weten gewoon niet goed wat ze moeten doen, of dat nou voetbalverenigingen, overheidsorganisaties of andere organisaties zijn.

Ik denk dus dat het ook heel erg helpt als wij samen met die toezichthouders gewoon heel helder aangeven wat de vereisten zijn en hoe het werkt voor een branche of een organisatie, zodat dat helder is. Dan blijven we met elkaar ook monitoren of vervolgens het toezicht goed geregeld is, maar je kunt nooit toezichthouders hebben die alles kunnen controleren. Zij zullen altijd moeten werken met steekproeven enzovoort, enzovoort. Het is dus ook belangrijk dat mensen weten hoe ze aan die regels moeten voldoen.

Staatssecretaris Van Huffelen:

Goed. Nogmaals, we moeten hen er ook op blijven bevragen of zij voldoende inzicht krijgen en hebben in wat er gebeurt, ook al kunnen niet alle elementen van die algoritmes openbaar worden gemaakt.

Staatssecretaris Van Huffelen:

Volgens mij wel, ja.