Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2019-2020

26 643 Informatie- en communicatietechnologie (ICT)

32 761 Verwerking en bescherming persoonsgegevens

Nr. 681 VERSLAG VAN EEN ALGEMEEN OVERLEG

Vastgesteld 13 mei 2020

De vaste commissie voor Economische Zaken en Klimaat, de vaste commissie voor Binnenlandse Zaken, de vaste commissie voor Onderwijs, Cultuur en Wetenschap, de vaste commissie voor Sociale Zaken en Werkgelegenheid, de vaste commissie voor Justitie en Veiligheid en de tijdelijke commissie Digitale toekomst hebben op 12 maart 2020 overleg gevoerd met mevrouw Keijzer, Staatssecretaris van Economische Zaken en Klimaat, over:

− de brief van de Minister van Buitenlandse Zaken d.d. 17 mei 2019 inzake fiche: Mededeling Vertrouwen kweken in de mensgerichte kunstmatige intelligentie (Kamerstuk22 112, nr. 2799);

− de brief van de Staatssecretaris van Economische Zaken en Klimaat d.d. 11 juni 2019 inzake onderzoek door Technopolis naar publieke geoormerkte investeringen in sleuteltechnologieën (Kamerstuk33 009, nr. 72);

− de brief van de Staatssecretaris van Economische Zaken en Klimaat d.d. 8 oktober 2019 inzake Strategisch Actieplan voor Artificiële Intelligentie (Kamerstuk26 643, nr. 640);

− de brief van de Staatssecretaris van Economische Zaken en Klimaat d.d. 17 februari 2020 inzake kabinetsreactie Nationale Agenda kwantum Technologie (Kamerstuk29 338, nr. 216).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de vaste commissie voor Economische Zaken en Klimaat,
Diks

De voorzitter van de vaste commissie voor Binnenlandse Zaken,
Ziengs

De voorzitter van de vaste commissie voor Onderwijs, Cultuur en Wetenschap,
Tellegen

De voorzitter van de vaste commissie voor Sociale Zaken en Werkgelegenheid,
Rog

De voorzitter van de vaste commissie voor Justitie en Veiligheid,
Van Meenen

De voorzitter van de tijdelijke commissie Digitale toekomst,
Buitenweg

De griffier van de vaste commissie voor Economische Zaken en Klimaat,
Nava

Voorzitter: Diks

Griffier: Nava

Aanwezig zijn acht leden der Kamer, te weten: Amhaouch, Buitenweg, Diks, Van Haga, Moorlag, Öztürk, Verhoeven en Wiersma,

en mevrouw Keijzer, Staatssecretaris van Economische Zaken en Klimaat.

Aanvang 14.05 uur.

De voorzitter:

Goedemiddag. Hartelijk welkom. Wat een onrust allemaal. Hoe zou dat komen? We zijn al vijf minuten over de tijd. Ik stel voor dat de Kamerleden zich ook zo langzamerhand een beetje gaan voegen om met dit algemeen overleg te beginnen. Hartelijk welkom bij dit algemeen overleg van de vaste commissie voor Economische Zaken en Klimaat. Hartelijk welkom aan de Staatssecretaris en aan haar brede ondersteuning. Hartelijk welkom aan een hele rits Kamerleden, aan de mensen op de publieke tribune en aan de mensen die thuis eventueel kijken. Dit is een overleg over kunstmatige intelligentie en sleuteltechnologieën. We hebben een spreektijd afgesproken: per fractie maximaal vijf minuten. Ik zou willen beginnen met de heer Wiersma van de VVD.

De heer Wiersma (VVD):

Voorzitter, dank. Ik ga kijken of het in vijf minuten lukt. Dank dat er zo veel mensen hier zijn en dat er misschien ook nog wel heel veel mensen meekijken. Dat is hopelijk een steun voor al die belangrijke sleuteltechnologieën. Het is een oproep aan de politiek om op dat vlak alle kansen te benutten. Want er zijn zorgrobots die jongeren met autisme kunnen helpen. Er zijn robots die files kunnen voorspellen en mijden, de oogst kunnen voorspellen in de landbouw, criminelen kunnen opsporen en de grenzen beter bewaken. De mogelijkheden van technologie kunnen eigenlijk niet op en dan specifiek die van de sleuteltechnologieën.

Voorzitter. Je kunt niet aan een nieuw hoofdstuk beginnen als je steeds het oude blijft lezen. Dat betekent dat ons innovatiebeleid alle ruimte moet bieden om op nieuwe kansen in te springen. Tegelijkertijd moet het inzicht bieden in de vraag of je het doet en dan ook goed doet. Goede bedoelingen, sterke lobby's of angst om de boot te missen helpen ons innovatiebeleid niet. Die zetten ons innovatiebeleid vast. Ze draaien dat vast en versnipperen ons innovatiebeleid zelfs.

Voorzitter. Wij willen de juiste zaadjes planten en de juiste stekjes laten groeien. Dan moeten we dus bewust kijken waar we onze pokon inzetten, een prachtige Hollandse uitvinding. Die is tientallen jaren oud, maar heel erg van toepassing op dit debat. Want we kunnen op heel veel plekken meer groeien, maar dat doen we niet door alles een druppeltje water te geven. We moeten durven kiezen voor meer en gerichte investeringen in sleuteltechnologieën, voor innovatie waar ons verdienvermogen juist mee verbetert, voor talent dat nu vaak naar het buitenland vertrekt en voor toepassingen en bedrijven die mensen helpen. Dat moet gaan vóór de regels en beperkingen die we ze nu vaak opleggen.

Voorzitter. Er zijn twee belangrijke begrippen voor mij: weten en kunnen afwegen. Als het gaat om weten, is het nu volstrekt vaag hoeveel geld van de overheid er nu eigenlijk naar iedere sleuteltechnologie gaat. We hebben een hele bups geld, meer dan 2,5 miljard of zoiets. Hoeveel gaat er nou naar die sleuteltechnologieën? Kan de Staatssecretaris dat gewoon eens uitleggen?

Voorzitter. Het is ook belangrijk dat je de middelen die we hebben, vervolgens scherp richt op waar de impact het grootst is. Hoe doen we dat nu? Ik ben benieuwd welke strategie we daarvoor hebben. De AWTI heeft daar een heel afwegingskader voor geschreven in haar rapport. In hoeverre passen we dat nu toe op die sleuteltechnologieën? Hebben we er ook een beeld van waar de impact het grootst is?

Voorzitter. Ik doe twee voorstellen, omdat ik denk dat de impact scherper kan zijn als we scherper kiezen. Binnen de Nationale Wetenschapsagenda zit bijvoorbeeld ook nog een oploop aan middelen: 22 miljoen, 18 miljoen. Dat is de grootte van die pot op dit moment, maar de bedragen verschillen een beetje. Waarom zouden we die niet alloceren en gewoon inzetten voor sleuteltechnologieën? De Kenniscoalitie zegt ook dat je dat eigenlijk meer per thema zou moeten doen, dus waar wachten we nou nog op?

Twee. We geven heel wat middelen aan onderzoek, ook via de NWO. We geven nu 100 miljoen van de 275 miljoen aan de publiek-private samenwerking. Zouden we die component niet groter moeten maken? Hoe zouden we dat kunnen doen? Want we willen toch juist bedrijven helpen met toepassingen om die groter te maken? We zien dat we goed zijn in de ontwikkeling van de kennis, maar als die toegepast moet worden, schuiven wij met een paar euro's, terwijl andere landen om ons heen met miljarden schuiven. Dan gaan die er vandoor met onze kennis, onze mensen en onze bedrijven en wordt het geld niet hier verdiend maar over de grens. Dat zien we nu. Zouden we de toeslag voor publiek-private samenwerking niet groter kunnen maken? En zouden we daar specifiek voor sleuteltechnologieën misschien een hogere toeslag van kunnen maken? Het is nu 30%. Zou je daar 50% van kunnen maken? Zou je kunnen zeggen dat we binnen die NWO-component een hekje maken voor een bepaald deel? Dat is dan de sleuteltechnologie. Daar gaan we een hogere toeslag voor maken, puur om die toepassingen en de samenwerking met het bedrijfsleven een boost te geven.

Voorzitter. Los van sleuteltechnologieën wil ik vragen wat de resultaten zijn uit het missiegedreven innovatiebeleid. Dat is eigenlijk de kerstboom waar de Staatssecretaris het hele beleid aan ophangt. Ik zeg dat het vastgedraaid en versnipperd is. Dat beweegt onvoldoende, maar dat moet ruimte en inzicht bieden in waar we vooral moeten zijn. Ik wil weten of we kunnen leren van het buitenland. Zijn er landen die erin slagen om innovaties echt goed te toetsen aan bijvoorbeeld het verdienvermogen? Hoe kunnen wij op onze lijst zowel alle missies als het topsectorenbeleid als de sleuteltechnologieën beter inzichtelijk maken, zodat de Kamer beter kan zeggen waar ze de impact wil vergroten?

Voorzitter. Ik kom aan het eind van mijn betoog. Ik wil graag de aanpak op twee belangrijke thema's horen. Eén is talent. We zien andere landen ons talent overnemen. Ik sprak een hoogleraar die zei dat in Duitsland massaal onderzoekers worden ingekocht. Zij krijgen een heel groot netwerk van promovendi om zich heen. Wat doen wij nou om die slag om het talent te winnen? Hoe kan het nou dat talent na een studie eerder uit Nederland weg wil dan dat het hier wil blijven? Waar zit dat in? Hebben we dat in beeld?

Twee. Data. Er zijn heel veel toepassingen die tegen problemen rond data aanlopen. SkinVision is een voorbeeld rond huidkanker. Dat bedrijf heeft data van patiënten nodig en die patiënten zijn daarmee geholpen. Maar het loopt vast. Zouden we een praktisch gericht interventieteam kunnen oprichten om bij dit soort toepassingen dat tegen problemen aanloopt, een uitzondering te maken, een mini-ruling of wat dan ook, alles wat helpt om op dat moment specifiek ruimte te krijgen om de toepassing voor mensen in de samenleving beschikbaar te maken?

Voorzitter, dank.

De voorzitter:

Dank u wel, meneer Wiersma. Dan gaan we naar de heer Verhoeven van de D66-fractie.

De heer Verhoeven (D66):

Bedankt, voorzitter. Een debat over kunstmatige intelligentie is natuurlijk prachtig. Het is ook geen overbodige luxe, want het is een ongelofelijk impactrijke en belangrijke technologie. Het is ook niet een van de vele technologieën. Het is echt dé technologie, de dominante technologie op dit moment, die alle onderdelen van de maatschappij raakt, die alles doorkruist en die ook alles overstijgt. Ik vergelijk kunstmatige intelligentie dus niet met een technologie als 3D-printen, een technologie die ook heel waardevol is. Kunstmatige intelligentie is echt een technologie van een veel grotere orde. Zeker in samenhang met alle big data, met de mogelijkheid om heel veel data op te slaan in de cloud en de mogelijkheid om heel veel data te verzamelen via allerlei internet-der-dingenapparaten, is het een technologie die een ongelofelijke impact en potentie heeft.

Ik begrijp dat ik zojuist – mijn excuses daarvoor – een technische briefing van de AWTI heb gemist. Dat is slordig. Maar ik was zojuist wel te gast bij de FME, de ondernemersorganisatie voor de smart industry. Die hebben opnieuw benadrukt hoe belangrijk het is dat Nederland stappen zet op het gebied van kunstmatige intelligentie. Vandaag wil ik graag drie onderdelen die ik van waarde acht, naar voren brengen.

De voorzitter:

Dat begrijp ik, maar mevrouw Buitenweg had eerst nog een interruptie voor u.

Mevrouw Buitenweg (GroenLinks):

De heer Verhoeven was afwezig. Ik weet niet of dat was in verband met zijn recente prijsuitreiking. Ik wilde hem vragen of het klopt dat hij weer de ICT-politicus van het jaar is geworden.

De heer Verhoeven (D66):

Dat is heel aardig van mevrouw Buitenweg. Daar had het niks mee te maken. Ik ben misschien wel IT-politicus, maar geen agendapoliticus. Ik had mijn agenda gewoon niet goed op orde. Mijn excuses dus aan de AWTI voor het feit dat ik er niet was, want ik had het graag wel mee willen maken.

Mevrouw Buitenweg (GroenLinks):

Mag ik dan toch mijn hartelijke felicitaties overbrengen en zeggen hoe welverdiend het was?

De heer Verhoeven (D66):

Dat vind ik heel aardig. Dank daarvoor. Ik zal proberen om daar in mijn bijdrage van vandaag enige weerslag van te laten doorklinken. Ik heb wel een aantal ideeën.

Voorzitter. Ik wil eigenlijk op drie punten ingaan. Allereerst is dat de Nederlandse en de Europese concurrentiepositie. Ten tweede ga ik in op alles wat met ethiek, waarden en mensenrechten te maken heeft. Het derde punt zijn de werkgelegenheid en de welvaart van onze toekomst.

Het eerste punt heeft betrekking op het investeren. Technologie is gewoon een machtsfactor geworden. Daar hebben we ook veel over gesproken de afgelopen tijd in de Kamer. China en de Verenigde Staten pompen ongelofelijk veel geld in kunstmatige intelligentie en dat doen ze omdat ze de machtigste speler in de wereld willen zijn. De Europese Unie stelt daar vooralsnog vooral kaders, richtlijnen, een ethische benadering en het zetten van de standaard tegenover. Dat is op zich goed. Er zijn ook mensen die zeggen dat Europa zich daar vooral op moet focussen, omdat we dan degene in de wereld zijn die op basis van de hoogste standaard dé standaard bepaalt.

Toch denk ik dat het van belang is dat we proberen voorop te lopen in technologisch en innovatief opzicht en dat we hierin ook echt investeren. Ik vind het Strategisch Actieplan voor Artificiële Intelligentie, SAPAI – zo mag je het geloof ik met een afkorting noemen – in dat opzicht tekortschieten. Het geld dat we vrijmaken – 1 miljard in zeven jaar vanuit de overheid, en daar moet het bedrijfsleven dan ook 1 miljard tegenover stellen – komt te veel uit generieke potjes, die achteraf worden toegerekend. Het komt ook uit onzekere potjes, zoals het groeifonds, waar natuurlijk wel over gesproken wordt, maar dat nog lang niet operationeel is. Hoe gaat het kabinet nou waarborgen dat Nederland echt voldoende investeert in kunstmatige intelligentie?

Mijn tweede vraag...

De heer Wiersma (VVD):

Ik ben het eens met de heer Verhoeven dat we als land zo onafhankelijk mogelijk moeten worden van supermachten, van partijen die nu juist heel veel investeren in kennis en soms zelfs onze bedrijven opkopen en daarmee misschien wel een risico vormen voor onze veiligheid, onze banen, onze werkgelegenheid. Ik hoor hem zeggen dat er geld bij moet. Ik deed net een suggestie. In de Nationale Wetenschapsagenda loopt het geld op. Dat is zo'n 22 miljoen. Is de heer Verhoeven het met me eens dat we aan de Staatssecretaris kunnen vragen om dat nu dan gewoon te alloceren voor die sleuteltechnologie? Dat is in ieder geval mooi meegenomen. Het zou van mij specifiek naar kunstmatige intelligentie mogen. Dat zou, denk ik, ook veel helpen op universiteiten om talent aan zich te binden. Kunnen we dat niet gewoon doen?

De heer Verhoeven (D66):

Dat weet ik niet. Ik ben heel erg bereid om daarnaar te kijken, maar ik weet niet precies wat de budgetten van de Nationale Wetenschapsagenda zijn, waar dat geld vandaan komt; is dat EZ-geld of is dat Onderwijsgeld? Maar ik heb alle bereidheid om daar even goed naar te kijken als de plannen van de heer Wiersma wat concreter zijn. Het klinkt me in ieder geval als muziek in de oren, maar soms zitten er nog wat addertjes onder het gras bij dit soort verschuivingen. In algemene zin ben ik positief over elk voorstel waardoor er meer geld gaat naar concrete onderzoeksprogramma's op het gebied van kunstmatige intelligentie. Met die kleine slag om de arm denk ik dat ik wel een eind met de VVD mee kan denken, maar nogmaals, ik wil even precies weten waar ik ja of nee tegen zeg.

Nog een vraag over de Europese schaal. De VVD heeft het over Nederland als land. De VVD zoekt het nationaal, maar ik zie het veel meer op Europees denkniveau. We moeten als Europa een blok vormen ten opzichte van China en de Verenigde Staten. Hoe doen we dat bijvoorbeeld met Europese dataopslag, de cloud, en hoe doen we dat met Europese databeschikbaarheid? Dat punt stipte de heer Wiersma net heel terecht aan.

Mijn tweede punt gaat over de kaders. Technologie moet menselijk blijven. Het Chinese socialekredietsysteem is misschien een schrikbeeld, maar hier in Nederland laat SyRI zien dat het echt van belang is dat we nadenken over de menselijke kant. Dan hoor je vaak woorden als «uitlegbaarheid», «inzichtelijkheid», «eerlijkheid», «betrouwbaarheid», «veiligheid», «inclusiviteit» en zo zijn er nog wel een aantal. Hoe maken we dat nou concreet? Want tot gisteren, tot een week geleden, hingen er gewoon nog gezichtsherkenningscamera's van de Jumbo in de openbare ruimte. Dat komt niet overeen met die algemene principes en waarden. Tot een paar weken geleden hadden we gewoon nog SyRI als toegestaan middel in onder andere Rotterdam. Mijn vraag is dus: als je het concreet maakt, hoe zit het dan?

Mijn derde punt is werk en welvaart. Ik denk dat dat wat verder in de toekomst ligt, maar het is wel een serieus punt. We hebben als politiek altijd de neiging om heel erg op allerlei urgente, concrete onderwerpen te duiken en de wat abstracte langeretermijnonderwerpen te laten rusten, maar de verandering van werk door kunstmatige intelligentie is wel degelijk een groot en belangrijk politiek onderwerp. Ik wil dus graag van de Staatssecretaris horen hoe zij dat ziet op de middellange termijn.

Mijn laatste punt gaat over kwantum, want...

De voorzitter:

Zie ik daar een interruptie? Nee.

De heer Verhoeven (D66):

Heb ik overigens nog tijd?

De voorzitter:

Nou, niet echt, maar de heer Wiersma ging ook iets over zijn spreektijd heen, dus...

De heer Verhoeven (D66):

Nou, twintig seconden. Kwantumtechnologie, een andere technologie. Daarin heeft Nederland een ongelofelijk goede wetenschappelijkonderzoeksuitgangspositie. Van belang is dat er langetermijngelden zijn om die positie van Nederland op het gebied van kwantumtechnologie vast te houden. Mijn verzoek zou dus zijn om niet alleen naar kunstmatige intelligentie, maar ook naar kwantum te kijken als het gaat om het groeifonds. Ik zou van de Staatssecretaris willen horen of zij dat ook zo ziet. Kwantumtechnologie gaat een ongelofelijk belangrijke volgende technologische slag worden en dit is nou een punt waarop we als Nederland nog lang niet de boot gemist hebben, dus ik hoop dat het kabinet kan zorgen dat dat zo blijft.

Veel dank.

De voorzitter:

Prima. Dan wil de heer Wiersma nu wel interrumperen.

De heer Wiersma (VVD):

Soms moet je keuzes maken om ergens in te kunnen investeren. Ziet de heer Verhoeven, net als ik, dat wat we nu doen in de loop der jaren zo is opgebouwd en soms ook zo vastzit dat het moeilijk is om daar iets uit los te trekken omdat we op een bepaald punt de trein iets sneller zouden willen laten rijden, waar we eigenlijk met meer geld en meer aandacht in zouden moeten stappen? Hij noemt kwantum. Dat zie ik ook. Hij noemt kunstmatige intelligentie. Dat zie ik ook. Tegelijkertijd zie ik dat het kabinet daarvoor soms met moeite net enkele miljoenen, tientallen miljoenen, kan vrijmaken, terwijl we er wel 2,5 miljard in hebben zitten. Zouden we daarin dan geen scherpere keuzes moeten maken? Hoe zou de heer Verhoeven het dan anders willen doen?

De heer Verhoeven (D66):

Dit is wel een panklare voorzet. Het zou niet goed zijn om het een kruistocht te noemen, maar ik ben natuurlijk al tien jaar heel kritisch over de topsectoren, als het voorbeeld, het symbool, de metafoor, de verpersoonlijking, de gestalte van versnippering en het niet maken van scherpe keuzes. Tien topsectoren hebben we, dacht ik – ik vraag het ook even aan de Staatssecretaris – die allemaal weer hun eigen organisatiebureau hebben. Er is mij door mensen uit het topsectorencircuit vaak gezegd: rustig, Kees, gooi het kind niet met het badwater weg, zoals je wel vaker hebt gedaan. De samenwerkingsstructuur die uit de topsectoren voortvloeit, met name op regionale schaal, schijnt heel goed te zijn. Dat heb ik ook gehoord en gezien; ik heb werkbezoeken afgelegd in Eindhoven, Delft, Wageningen en Leiden. De samenwerkingsstructuur die we hebben gecreëerd in de afgelopen tien jaar, die geloof ik begonnen is bij Minister Verhagen, als Minister van Economische Zaken, is goed, maar de versnippering in topsectoren met bureautjes waar een aantal voormannen van oude industrietakken bepalen hoe de grote maatschappelijke problemen worden aangepakt, is niet mijn aanpak. Ik heb twee technologieën genoemd in dit AO: ki en kwantum. Wat mij betreft houden we het daarbij. Ik vind dat we echt scherpe keuzes moeten maken. Dat durf ik hier ook wel uit te spreken, omdat ik heb gezien dat we het als Nederland ongelofelijk hebben laten verwateren.

De heer Wiersma (VVD):

Ik ben blij met dat antwoord. Je moet dan wel ruimte maken om die scherpe keuzes te kunnen maken. Voor het parlement, voor ons, is het dus belangrijk om inzicht te hebben in waar we die ruimte kunnen maken in dat hele beleid, dat relatief vastzit. Daarom vroeg ik aan de Staatssecretaris om inzichtelijk te maken wat de impact is. De AWTI heeft daar een afwegingskader voor. Dat zou je misschien op het hele innovatiebeleid kunnen toepassen, zodat we beter kunnen zien waar de impact het grootst zou zijn en wat we het meest vooruit kunnen helpen. Dat is wellicht beter dan denken: het is nou eenmaal zo gegroeid, dus we houden het dan maar zo. Want dan zijn het druppeltjes op een gloeiende plaat en dan krijgen we wat wij hier vragen niet voor elkaar. Bent u het met me eens dat we aan de Staatssecretaris het verzoek moeten doen om dat scherper aan het parlement te laten zien, zodat we die keuze ook kunnen maken?

De heer Verhoeven (D66):

U heeft dat verzoek al gedaan. Ik ben heel benieuwd naar de reactie van de Staatssecretaris. Ik vind het een logisch verzoek. Ik wil van de VVD graag een steun in de rug om te zorgen dat we ook stappen zetten naar een nieuwe structuur als het gaat om de innovatie- en onderzoekskracht van Nederland, want we hebben met z'n allen ongelofelijk veel angst om die topsectoren los te laten. We zijn nu zover dat we hebben gezegd: we moeten naar de maatschappelijke uitdagingen kijken. «Dutch solutions for global challenges» is een veelgehoord credo. Ik zou echt graag zien dat we die topsectoren, die silo's, die kokers, die verticale versnippering loslaten en dat we horizontaal doorkruisend durven gaan denken over innovatie. Kunstmatige intelligentie is daarvan een belangrijk voorbeeld, want dat is horizontaal en doorkruisend. Dat kun je met verticale topsectorsilo's dus niet op een goede manier aanpakken. Daar heb ik echt de steun van de VVD voor nodig, want anders blijven we vastzitten aan dat systeem dat niet helemaal slecht is, maar dat niet meer eigentijds is, tien jaar nadat het is opgericht.

De voorzitter:

Dank u wel. Dan is het woord aan mevrouw Buitenweg van de GroenLinksfractie.

De heer Öztürk (DENK):

Ik heb nog een vraag, voorzitter.

De voorzitter:

Neem me niet kwalijk, ik had u niet gezien.

De heer Öztürk (DENK):

Dat was een interessant coalitie-een-tweetje, een interessante fittie of hoe je het ook wilt noemen. De heer Verhoeven is best wel deskundig op dit punt. Daarom wil ik hem de volgende vraag stellen. Hij benadrukt enorm de discussie over horizontaal en verticaal, de kracht van topsectoren, multimiljonairs en al die machtige mensen. We hebben Minister Grapperhaus vorige week gevraagd waarom hij samenwerkt met een bedrijf dat min of meer clusterbommen maakt en daarnaast ook afluisterapparatuur aan Nederland heeft verkocht. Toen kwam naar voren dat de lobby best wel krachtig is als het gaat om de levering van dit soort geavanceerde apparatuur. Wij kunnen hier uiteindelijk heel wat zeggen, maar bent u niet bang dat de lobby – ik zie dat ook een aantal politici voor die lobby werken – zo krachtig is dat wij als parlement steeds minder te zeggen krijgen?

De voorzitter:

Ik stel wel voor dat de interrupties ook de kortheid van een interruptie hebben en niet een soort halve inbreng worden. De heer Verhoeven mag reageren.

De heer Verhoeven (D66):

Dank u wel, voorzitter. Op het gevaar af dat ik een beetje klink als een soort oude man: in de politiek is het wel zo dat je als Tweede Kamerlid een ongelofelijke verantwoordelijkheid hebt om geen belangenbehartiger te zijn maar een belangenafweger. Ieder Kamerlid heeft de mogelijkheid en ook de verantwoordelijkheid om te zorgen dat geen enkele lobbypartij in Nederland... Die hebben overigens het volste recht om hier te zitten, hier te zijn en ons te benaderen, want dat is hun werk. Het is ook goed dat ze dat werk doen, want ze nemen ook veel kennis mee. Het moet wel een beetje transparant zijn en gebaseerd op feiten. Het is aan elke politicus zelf om te zorgen dat er een evenwichtig beeld uit de samenleving komt en dat dat door elke politicus wordt toegelaten om een beeld te vormen van de situatie. Ik denk niet dat we bang moeten zijn dat wij als politici steeds minder te zeggen hebben en dat we machteloos zijn tegenover de lobby. Lobbyen is een goed iets, mits het Kamerlid het goed gebruikt. Als je het als Kamerlid op een verantwoordelijke, evenwichtige en gebalanceerde manier doet, dan denk ik dat het een goed systeem is.

De heer Öztürk (DENK):

Dat zagen we ook bij Uber. Een Kamerlid van de VVD ging gewoon in een managementfunctie bij Uber flink wat verdienen en een andere kreeg een nog hogere functie. Je ziet gewoon ook hier een aantal mensen, met name vanuit de VVD-hoek maar ook uit het kabinet en de ambtelijke top, ons min of meer bestoken met die krachtdadige lobby. Maar het gaat ook om uw collega-coalitiegenoten van de VVD en daardoor komt u toch in een horizontale en een verticale discussie terecht. Ik probeer u als D66'er mee te geven dat u moet nadenken over de vraag of u binnen de coalitie nog wel de nodige inbreng kunt hebben om daadkrachtig tegenover die lobby te staan.

De heer Verhoeven (D66):

Ik ben heel blij dat ik met de VVD in een coalitie zit, een coalitie waarin we elkaar in verschillende debatten in de Kamer op een openlijke, inhoudelijke en dualistische manier tegenspreken. Dat geldt overigens ook voor coalitiepartner CDA en dat geldt net zo goed voor de gewaardeerde oppositiecollega's, waaronder uzelf. Laten we nou niet doen alsof we in een soort schimmig geheel zitten, waarin het niet mogelijk is om goede democratische en integere afwegingen te maken. Zo is het niet. We leggen ook allemaal verantwoording af over ons werk. We proberen ons werk zo goed mogelijk te doen. Dat er Kamerleden zijn die misschien op een bepaald moment een bepaalde andere baan nemen, is iets wat volgens mij altijd gebeurt. Als je dat niet doet, krijg je weer een discussie over wachtgeld. Je kan het dus als politicus sowieso bijna niet goed doen. Iedereen moet op een integere manier omgaan met zijn werk en de periode daarna. Volgens mij gaat dat in Nederland helemaal zo slecht niet. Ik ben er toch minder somber over. En nogmaals, ik vind de VVD een hele prettige coalitiepartner, zeker als ze mij helpen met het moderniseren van het innovatiebeleid van Nederland.

De voorzitter:

Oké, maar we gaan van de ene uitnodiging naar de andere. We gaan namelijk naar de heer Amhaouch.

De heer Amhaouch (CDA):

Ik werd getriggerd door de heer Verhoeven, omdat hij zegt dat het hele topsectorenbeleid, dat we vorig jaar, in deze kabinetsperiode, hebben herzien, eigenlijk helemaal van tafel kan. Mevrouw Van Eijs van D66 was toen ook duidelijk aanwezig. We hebben het besproken en vastgelegd. We hebben het namelijk, zoals de heer Verhoeven het noemde, op de zwakke plekken missiegedreven gemaakt. We moeten inderdaad nieuwe spelers toegang geven tot de bestaande ecosystemen waar veel kennis zit. Hij zegt daarover: dat kan eigenlijk helemaal van tafel, want we moeten ons allemaal concentreren op de topsectoren kwantum en AI. Maar dan vraag ik aan de heer Verhoeven of hij daarmee niet echt de plank misslaat. Weet hij dan wel waar het topsectorenbeleid voor staat en dat we het vandaag hebben over sleuteltechnologieën als instrument en de kracht om deze topsectoren te positioneren? En dat vertel ik natuurlijk, met respect en waardering, op de dag dat de heer Verhoeven IT-politicus van de dag is geworden.

Mevrouw Buitenweg (GroenLinks):

Van 2019, hè, niet van 2020.

De heer Amhaouch (CDA):

Zo is het.

De heer Verhoeven (D66):

De heer Amhaouch en ik hebben vaak debatten over de economie in het algemeen, het bedrijfslevenbeleid in het algemeen en het innovatiebeleid in het algemeen. We zijn het over heel veel punten eens, maar over die topsectoren denken we wel verschillend. We hoeven ook niet te doen alsof we eigenlijk hetzelfde vinden maar dat ik het wat harder zeg. We hebben daar in het regeerakkoord een aantal mooie zinnen over opgenomen. Daarbij hebben we gezegd dat we die maatschappelijke uitdaging, die sleuteltechnologieën, centraal gaan stellen binnen het bestaande topsectorensysteem. Dat was, als D66 in 2017 het regeerakkoord had kunnen schrijven, niet dezelfde passage geweest.

Ik weet dat het CDA veel meer ziet in die topsectoren dan D66. Daar ben ik ook altijd open en eerlijk over geweest tegen u. Ik wil die topsectoren echt graag moderniseren. Daar gaan best wel wat dingen beter. Zo is er samenwerking tussen verschillende topsectoren. Maar het is nog steeds wel een ouderwets verticaal georganiseerd systeem, waar ook veel bureaucratie in zit. Ik denk dat we op regionale ecosystemen moeten inzetten. U komt zelf uit de buurt van Eindhoven. U weet hoe het daar is. Daar is een ongelofelijk sterk ecosysteem samengesteld dat veel meer aansluit bij datgene wat ik kansrijker acht in de wereldconcurrentie dan die topsectorenstructuur.

De voorzitter:

Ik snap dat alles met alles te maken heeft, maar dit is een overleg over kunstmatige intelligentie en sleuteltechnologieën. We moeten wat mij betreft niet te veel in een discussie over topsectoren belanden. De heer Amhaouch kan reageren.

De heer Amhaouch (CDA):

Heel kort, voorzitter. We zitten in een coalitie met D66 en er zijn heel veel raakvlakken. Ik kom dadelijk inderdaad terug op die regionalisering ervan. Maar het CDA vindt het inderdaad belangrijk dat we die topsectoren hebben. Juist agrofood, de hightechsystemen en water moeten we positioneren. Ik zeg dat de sleuteltechnologieën waar we vandaag over praten, het moeten ondersteunen. Die moeten we met middelen ondersteunen, maar we moeten – ik weet dat het als een cliché klinkt – het kind niet met het badwater weggooien. Ik kom uit het Noord-Limburgse, maar ik heb inderdaad twintig jaar naar Brabant gereden. Maar dat maakt niet uit, want het is dezelfde regio.

De heer Verhoeven (D66):

Ik bedoelde meer uw oude werkomgeving, want die was volgens mij wel in Veldhoven gesitueerd. Maar dat u ook in hart en nieren een Limburger bent, wist ik.

Heel kort, voorzitter. Ja, ik denk dat de topsectoren verdere herziening behoeven en dat die herziening verder moet gaan dan tot nu toe. Tot de dag dat dat gerealiseerd is, zal ik dit punt blijven aanhalen. Stel dat het een zwart-witdiscussie zou zijn en we zouden moeten kiezen tussen sectoraal of regionaal, dan denk ik dat de heer Amhaouch ook wel ziet dat de regionale aanpak... Als je kijkt naar alle succesvolle concentraties van bedrijvigheid in de wereld, zie je dat die allemaal op een regionale schaal zijn. We zullen het sectorale denken misschien wat meer moeten loslaten en het regionale denken misschien wat meer moeten omarmen.

De voorzitter:

Goed. Dan zijn we toegekomen aan mevrouw Buitenweg van GroenLinks. Gaat uw gang.

Mevrouw Buitenweg (GroenLinks):

Dank u wel, mevrouw de voorzitter. Gisteren waren we ook met elkaar in gesprek over digitalisering. Toen hadden we bijvoorbeeld een discussie over IPv6. Daarover zei de Staatssecretaris: dat is nog wel onvoldoende uitgerold in Nederland, maar vooral de bedrijven zijn hier nu aan zet. We hadden het over de zeekabels en sommigen hadden de angst dat daar op termijn onvoldoende in geïnvesteerd wordt en dat de Fransen – dit was een opmerking van de heer Verhoeven – de zeekabels op een gegeven moment bij hun aan land laten gaan. Ook daarover zei de Staatssecretaris: de bedrijven zijn aan zet. Dat zie ik ook hier bij de hele discussie over innovatie, want ook hier zijn volgens de Staatssecretaris vooral de bedrijven aan zet.

In Nederland is er vooral overheidssteun via generieke fiscale instrumenten. In Scandinavische landen gebeurt dat overigens veel meer met gerichte instrumenten. Nederland kiest er toch vooral voor om bedrijven keuzes te laten maken. Ik wil graag een citaat voorlezen van de secretaris-generaal van het ministerie Economische Zaken en Klimaat. Hij zei afgelopen januari dat het Nederlandse beleid inderdaad vooral generiek is. Verder zei hij: «Hoewel er voordelen zijn van generiek innovatiebeleid, zoals lage uitvoeringskosten en een relatief kleine kans op overheidsfalen door picking the wrong winners, brengt dit beleid ook een aantal risico's met zich mee. Zo kan er alsnog te weinig in maatschappelijk gewenste innovaties geïnvesteerd worden, omdat de investeringen met de hoogste private rendementen niet noodzakelijkerwijs de investeringen met de hoogste publieke rendementen zijn. Ook is de kans op disruptieve en baanbrekende innovaties kleiner, omdat generiek beleid vooral incrementele innovatie stimuleert.» Verder zegt hij ook: «... juist de meest gedurfde en waardevolle innovaties vaak ontstaan als gevolg van gerichte overheidsinterventies.»

Mijn vraag aan de Staatssecretaris is hoe zij tegen deze analyse van haar secretaris-generaal aankijkt. Wat zijn verder de voorstellen van het ministerie voor bijvoorbeeld dat innovatiefonds of dat investeringsfonds, dat er op termijn aan komt, om ervoor te zorgen dat juist de overheid veel meer investeert in die sleuteltechnologieën? Ik vraag dat, want ook ik maak me zorgen dat als je alles aan bedrijven overlaat, bedrijven zullen kiezen voor een veel kortere termijn en veel minder zullen denken vanuit het maatschappelijke rendement. De Staatssecretaris zei gisteren ook al dat zij er eigenlijk vooral op vertrouwde dat de grote welvaart uit het bedrijfsleven zou komen. Maar ik zou dan toch willen vragen of het niet beter is om toch meer sturing te geven als overheid om te zorgen dat juist ook de maatschappelijke rendementen worden behaald.

De Staatssecretaris zegt buiten de microfoon «niet voor alles» en er wordt inderdaad ook weleens gesproken over een missie naar de maan, maar dat laat onverlet dat het belangrijk is dat de overheid uiteenzet welke missie zij eigenlijk precies wil. Natuurlijk zullen ook bedrijven daaraan bijdragen, maar ik heb er toch wel behoefte aan dat de overheid veel meer uitspreekt waar ze heen wil. De overheid zal wat mij betreft veel meer richting moeten geven en als ik het goed lees, heeft in ieder geval de secretaris-generaal van het Ministerie van de Staatssecretaris daar ook heel veel behoefte aan.

De heer Van Haga (Van Haga):

Ik vind het wel interessant. U heeft het over het verschil tussen de korte en de lange termijn. Daar hadden we het net bij de technische briefing natuurlijk ook al even over. Bent u het dan met me eens dat het goed zou zijn om het kabinetsperiodeoverstijgend te organiseren?

Mevrouw Buitenweg (GroenLinks):

Ik vond dat wel interessant. Bij de sessie net werd gesuggereerd dat politici per definitie voor de korte termijn kiezen. Daarmee werd bijna gesuggereerd dat bedrijven, als je het bijvoorbeeld in hun handen laat, voor de lange termijn gaan. Nou, volgens mij is dat niet de ervaring. Volgens mij is de ervaring dat die vaak voor de korte termijn gaan, of in ieder geval voor de private winsten. Dat kan je ze ook niet kwalijk nemen. Dat is ook hun winstmodel. Met zo'n topsectorenbeleid en dergelijke worden natuurlijk investeringen gedaan. Zo'n investeringsfonds is natuurlijk ook niet voor een jaar. Het is wel de bedoeling dat je op een gegeven moment wat langeretermijninvesteringen gaat doen. Maar ik ben er wel voor dat de overheid goed kijkt naar welke zaken zij belangrijk vindt, om daar ook sturing aan te geven. Met zo'n Innovatiebox die er op dit moment is, geef je toch vrij generiek een soort korting aan bedrijven. Daar ben ik niet voor. Ik denk dat het heel goed is als je daar als overheid meer richting aan geeft.

De heer Van Haga (Van Haga):

Volgens mij werd net niet gesuggereerd dat bedrijven juist voor de korte termijn gaan of dat politici zich op de korte termijn storten. Integendeel, volgens mij was dat helemaal niet aan de orde. Mijn suggestie net was om dit te organiseren zoals we bijvoorbeeld destijds de Deltawerken hebben georganiseerd, met een Minister die tien jaar lang zijn vrije gang kan gaan, zonder dat politici, die toch, met alle respect, goedbedoelende leken zijn, daarop kunnen interveniëren. Het gaat erom dat de experts uiteindelijk zo'n groot issue onder hun hoede krijgen en dat dit kabinetsperiodeoverstijgend georganiseerd wordt.

Mevrouw Buitenweg (GroenLinks):

Met alle respect, wij zijn allemaal leek op heel veel terreinen, ook op het gebied van gezondheidszorg en onderwijs. Waar wij wel echt expert in horen te zijn, is in die maatschappelijke afweging. Dat zei de heer Verhoeven net ook. Daar zijn wij als het goed is geen leek in. Ik denk dat het van belang is dat je als overheid zo'n heel grote maatschappelijke ontwikkeling niet alleen aan techneuten laat, maar dat je ook gewoon kijkt welke maatschappelijke waarden er zijn. Je wilt techniek niet alleen maar laten gebeuren. Je wilt er juist ook vorm aan geven. Daar zal je als overheid wel degelijk richting aan moeten geven.

De voorzitter:

Vervolgt u uw betoog.

Mevrouw Buitenweg (GroenLinks):

De heer Wiersma had het net over het belang van talenten aantrekken. We zien dat er eigenlijk onvoldoende goede onderzoekers naar universiteiten gaan, maar dat ze naar het buitenland of naar bedrijven gaan. Ik wil van de Staatssecretaris horen wat haar idee is om te zorgen dat die mensen wel aangetrokken worden door de universiteiten in Nederland, in plaats van alleen door bedrijven. Je ziet dat steeds meer onderzoeken nu plaatsvinden in bedrijven. Daar ben ik helemaal niet op tegen. Dat is ook heel erg van belang. Maar je wilt wel zorgen dat er ook voldoende onderzoek op wetenschappelijk niveau door de universiteiten wordt gedaan, dat niet gestuurd wordt door een belang van een bedrijf.

We hebben eerder gesproken over de AI Coalitie. Ik vond het echt wel een tegenvaller dat gewoon erkend werd dat bij die AI Coalitie pas op een heel laat moment werd nagedacht over hoe je mensen van buiten erbij kunt betrekken. Eigenlijk gebeurt dat nu pas. De mensen die de briefing aan ons hebben verzorgd, zeiden dat ze eigenlijk te weinig gekeken hebben naar bijdragen van maatschappelijke organisaties en dat het vooral bestaat uit overheid, bedrijfsleven en kennisinstellingen. Waarom vind ik dat van belang? Als je aan het bouwen bent, ga je ook niet alleen maar bouwen met mensen die bouwkunde hebben gestudeerd. Je pakt ook architecten erbij, omdat je wilt dat een en ander wordt ingepast in de maatschappij. Je kijkt ook naar de samenleving. Ik hoop dat daar vanaf nu wat meer werk van wordt gemaakt om te zorgen dat het beter wordt ingepast in de samenleving, dat dus juist ook kunstenaars, ethici, filosofen hierbij worden betrokken, en niet alleen maar het bedrijfsleven en kennisinstellingen.

Dan kort nog iets over AI en het toezicht. We weten dat er veel instellingen zijn die toezicht houden op algoritmes. Maar op welke wijze is er toezicht op dat de gebruikte algoritmes bijvoorbeeld voldoen aan het non-discriminatiebeginsel? Gaat de Autoriteit Persoonsgegevens ook echt bij bedrijven kijken of die algoritmes niet discriminerend uitpakken? Ik heb het idee dat heel veel instellingen in principe wel een soort bevoegdheid hebben om die algoritmes te bekijken, maar ik zie het er in de praktijk nog niet echt aan af. Graag daar wat informatie over.

Ten slotte, mevrouw de voorzitter. Ik hoorde de collega's spreken over de concurrentie, bijvoorbeeld vanuit China. Daar maak ik me ook zorgen over. Ik denk dus dat het van belang is dat we Europees ook veel meer eigen industriepolitiek bedrijven. De Staatssecretaris heeft daar ook iets over gezegd. Ik hoor graag wat zij daar precies mee bedoelt. Maar in de praktijk zie ik dat er elke keer Europese alternatieven zijn voor bijvoorbeeld de taps van de politie, voor C2000 en voor 5G, maar dat we toch kiezen voor Chinees materiaal, omdat dat goedkoop is. Dat is natuurlijk omdat dit gestimuleerd wordt vanuit de overheid in China. Op welke wijze gaan wij zelf zorgen dat wij een Europese industrie op dit vlak houden en verder opbouwen?

Dank u wel.

De voorzitter:

Dank u wel. Dan zijn we aangeland bij de heer Van Haga. Gaat uw gang.

De heer Van Haga (Van Haga):

Dank u wel, voorzitter. De potentiële mogelijkheden van sleuteltechnologieën zoals kunstmatige intelligentie, kwantum-, nano- en biotechnologie en fotonica zijn voor gewone stervelingen zoals wij bijna onvoorstelbaar. Het is dan ook lastig voor leken zoals wij, die toevallig Kamerlid zijn, om hier iets zinnigs over te zeggen. Gelukkig nuanceerde mijn collega Buitenweg van GroenLinks dat net. Zij zei: wij zijn hier voor de maatschappelijke afweging. Dat is heel juist.

De signalen die ons bereiken over de sleuteltechnologieën zijn niet eenduidig. De een zegt dat Nederland vooroploopt en de ander luidt de noodklok. Als niet-expert op dit gebied moet ik ervan uitgaan dat alle signalen waar zijn. Onze bedrijven en onze universiteiten doen mee op het allerhoogste niveau in de wereld. Tegelijkertijd blijft de overheid achter met betrekking tot haar aandeel in de investeringen. Eerst even een paar lichtpuntjes. Het unhackable kwantum internet, dat onder leiding van de TU Delft is gebouwd, staat in de MIT Technology Review op nummer één van de top tien van breakthrough technologies in 2020. Vorig jaar werd het Microsoft kwantum Lab geopend op de TU Delft, waar het zogenaamde majoranadeeltje wordt onderzocht.

Maar bijvoorbeeld de kwantumrace lijkt inmiddels een strijd tussen China en de VS. In 2018 had China bijna twee keer zo veel patentaanvragen voor kwantumtechnologie als de Verenigde Staten en maar liefst zestien keer zo veel als Europa. Binnen Europa wordt de kopgroep gevormd door Duitsland, Groot-Brittannië en Frankrijk. Nederland doet niet echt mee. De vraag is: waarom? Klopt het dat Nederland achteropraakt als het gaat om sleuteltechnologieën? Zo ja, waarom? Kan de Staatssecretaris aangeven waar Nederland precies staat op de verschillende gebieden in vergelijking met andere Europese landen? Dan heb ik het met name over de technologieën die eerder genoemd zijn in het regeerakkoord, te weten kwantum, hightech, nano en fotonica, maar bijvoorbeeld ook ki en biotechnologie.

De AWTI zegt dat Nederland koploper is en dat Nederlands onderzoek in vrijwel alle sleuteltechnieken te typeren is als excellent tot zeer excellent. Klopt dit volgens de Staatssecretaris? Hoe verhoudt dit zich tot het feit dat Nederland op het patentenlijstje totaal niet scoort? Wat we in elk geval kunnen vaststellen, is dat Nederland onderaan bungelt als het gaat om overheidsinvesteringen in sleuteltechnologieën. Kan de Staatssecretaris aangeven of dit zo blijft? We zijn bezig met een Wiebesfonds van 50 miljard. Zou het niet een goed idee zijn om een substantieel deel hiervan te reserveren voor een Nederlands offensief richting de verschillende sleuteltechnologieën?

Ik ga nog even door op investeringen vanuit de overheid. De AWTI geeft te kennen dat de investeringen te veel versnipperd raken. Is de Staatssecretaris het met de AWTI eens dat er met meer focus meer bereikt kan worden dan met hier en daar een paar kleine investeringen? Ik zou zeggen: laten we nu kiezen voor de koploperspositie. De Staatssecretaris heeft het zelf ook al eerder gezegd. Dus aan de slag en wel nu.

Voorzitter. Privacy is belangrijk, maar er zit een groot verschil tussen het daadwerkelijk beschermen van mensen tegen een ongewenste schending van privacy en de volkomen doorgeslagen privacywetgeving, waardoor het inmiddels onmogelijk is om een klassenfoto te publiceren. Mijn punt is dat ons signalen bereiken dat het onderzoek naar AI en de technologische ontwikkeling van AI worden gefrustreerd door strenge privacywetgeving. In het FD van 23 september 2019 werd gemeld dat de privacywetgeving hindernissen opwerpt waardoor innovatie op het gebied van AI ernstig wordt beperkt. Het gaat dan met name om de kwaliteit van de datasets die gebruikt worden voor deep learning. Als wij aan de voorkant al onnodige barrières opwerpen, kun je je voorstellen dat wij onszelf goedbedoeld in de voet schieten. Mijn vraag aan de Staatssecretaris is de volgende. Is de Staatssecretaris het met mij eens dat privacy zeer zorgvuldig moet worden ingepast in het onderzoek naar en de ontwikkeling van kunstmatige intelligentie? Is zij het met mij eens dat privacy aan de achterkant van het proces van groot belang is, maar dat die aan de voorkant van het proces desastreuze gevolgen kan hebben, bijvoorbeeld voor AI? Wat gaat de Staatssecretaris hieraan doen?

Mevrouw Buitenweg (GroenLinks):

Ik wil dit vooral begrijpen. De heer Van Haga heeft het over privacy aan de achterkant, maar aan de voorkant moet het niet te ingewikkeld worden. Waar gaat het om? Als ik het goed begrijp, gaat het om de data die je inbrengt in een proces. Het is toch logisch dat die data van een bepaalde kwaliteit moet zijn, en dat je juist om het vertrouwen te houden van de samenleving in kunstmatige intelligentie er ook voor moet zorgen dat er niet allerlei informatie bij zit die niet noodzakelijk is om te verzamelen?

De heer Van Haga (Van Haga):

Ja, dat is dus precies het punt. Aan de voorkant moet die dataset volledig en schoon zijn, en wat minder gespeend van al die privacy, maar we moeten heel erg goed opletten dat aan de achterkant van het proces, wanneer de toepassing eenmaal plaatsvindt, de privacy goed gewaarborgd is. Het lijkt er nu op – althans, die signalen bereiken ons – dat het nu anders is, namelijk dat de datasets van tevoren aangepast worden, waardoor die deep learning heel anders gaat plaatsvinden.

Mevrouw Buitenweg (GroenLinks):

Aan de achterkant moet dan dus de privacy gewaarborgd worden. Wat betekent dit? Betekent dit dat er bij de toepassing van kunstmatige intelligentie volledige transparantie moet worden betracht over de vraag wat er met de gegevens is gebeurd en volgens welke codes ze werken?

De heer Van Haga (Van Haga):

Als ik u goed begrijp, zijn we het eens. Met «aan de achterkant» bedoel ik: als eenmaal de technologie wordt toegepast, als de algoritmes in werking treden. Daar moet heel zorgvuldig met de privacy worden omgegaan. Maar wanneer het onderzoek plaatsvindt, op de universiteiten en bij de instellingen, en wellicht ook bij de bedrijven, vind ik het van belang dat de privacy daar niet van tevoren een hindernis opwerpt.

De voorzitter:

Ik zie nog grote vragen.

Mevrouw Buitenweg (GroenLinks):

Dit is natuurlijk heel raar, want dat betekent dat je allerlei informatie kan gaan verzamelen; er mogen immers geen hindernissen zijn. Al die informatie moet verzameld kunnen worden. Je hebt bijvoorbeeld Magister, waarover we het eerder wel hebben gehad. Dat is een schoolsysteem met allerlei cijfers van kinderen erin. Daarbij moet er dus vooral geen privacyprobleem zijn, het moet allemaal verzameld kunnen worden, en aan het eind is er dan ineens een privacytest? Nee, ik denk dat je ook gewoon grenzen kunt stellen aan wat er allemaal van mensen gemeten en geanalyseerd wordt. Het hele idee is toch om te proberen te bereiken dat mensen niet helemaal gemanipuleerd worden en niet helemaal gereduceerd worden tot een set data.

De heer Van Haga (Van Haga):

Nu begrijp ik wat u bedoelt, maar we zijn het niet eens. Uiteindelijk gaat het erom dat bij de toepassing de privacy gewaarborgd wordt en niet bij het onderzoek. Dat is beter voor het onderzoek, denk ik.

De voorzitter:

Prima. U vervolgt uw betoog. U heeft nog goed een minuut.

De heer Van Haga (Van Haga):

Dat gaat wel lukken, denk ik.

Op 19 februari 2020 kwam uit Brussel een white paper over kunstmatige intelligentie. Zoals meestal het geval is met EU-documenten, is dit weer een nietszeggend, lethargisch verhaal, zonder kop of staart. Er wordt een beetje gelaveerd tussen privacy en datagovernance aan de ene kant en diversiteit aan de andere kant, en dat is jammer. Met zulke vrienden heb je geen vijanden meer nodig. Als dit ons moet leiden op het gebied van sleuteltechnologieën, kunnen we nu China, de VS en India alvast feliciteren met de overwinning. Is de Staatssecretaris het met me eens dat we niet op de EU moeten gaan wachten, maar moeten kiezen voor een ambitieuze Nederlandse strategie, eventueel kabinetsperiodeoverstijgend, zoals daarnet werd gezegd? Wat mij betreft gebeurt dat inderdaad enigszins los van politici en lobbyisten.

Dank u wel, voorzitter.

De voorzitter:

Helemaal goed. Dan zijn we aangeland bij de heer Moorlag, Partij van de Arbeid.

De heer Moorlag (PvdA):

Dank u wel, voorzitter. Waar gaan we op inzetten in de komende jaren als wij sleuteltechnologieën willen ontwikkelen en willen stimuleren? Wat de Partij van de Arbeid betreft, gaan we de sleuteltechnologieën koppelen aan de sleutelopgaven. Er wordt veel gesproken over het vergroten van het verdienvermogen van Nederland. Dat moeten we ook zeker doen. We moeten ook in de toekomst onze boterham kunnen blijven verdienen. Maar het gaat er ook om dat we niet alleen kijken naar winst maar vooral ook kijken naar waarde. Ik zal een voorbeeld noemen. In Noord-Nederland loopt een Healthy Ageing-programma. Daarin worden echt langjarig data verzameld om de gezondheidstoestand van burgers te monitoren en om met behulp van die data te kijken hoe de gezondheidslasten verminderd kunnen worden en hoe ook de gezondheidstoestand van de bevolking verbeterd kan worden. Dat levert voor het verdienvermogen van Nederland betrekkelijk weinig op, maar met het oog op schadebeperking is het wel een ontwikkeling die gestimuleerd moet worden. Meer geld gaan verdienen is niet het enige. Je kunt ook schade gaan beperken, in dit geval gezondheidsschade. Mijn vraag aan de Staatssecretaris is of zij die opvatting deelt en of zij bereid is om de stimuleringsmiddelen voor de sleuteltechnologieën te koppelen aan sleutelopgaven.

Ik denk bijvoorbeeld ook aan energie. Ik heb een paar jaar geleden met verbazing gekeken naar een heel geavanceerd, modern huis in Hoogkerk, waar de wasmachine was gekoppeld aan de zonneschijn een aantal kilometers verderop. Op het moment dat verwacht werd dat de zon in Hoogkerk ging schijnen, ging de wasmachine aan, zodat de eigen opgewekte zonne-energie werd gebruikt om de wasmachine te voeden. Dat gebeurt dan op het schaalniveau van één huis, maar wij moeten dat voor de hele samenleving gaan doen, omdat energieaanbod en energievraag steeds sterker gaan fluctueren. Het wordt gewoon volatieler. Moet je dan niet investeren in technieken om energiemanagementsystemen te ontwikkelen? Je kunt dat helemaal aan de markt overlaten, maar ik denk dat we ook goed moeten gaan kijken in hoeverre we de non-profitorganisaties kunnen stimuleren om sleuteltechnologieën te ontwikkelen die gekoppeld zijn aan die sleutelopgaven.

Voorzitter. Het tweede punt waarop ik de aandacht wil vestigen, zijn de mensenrechten en de grondrechten. Ik ben trouwens blij dat hieraan in spoor 3 van het Strategisch Actieplan goed aandacht wordt besteed. Dit is wel een hele grote zorg bij kunstmatige intelligentie. Voor bijvoorbeeld overheidsbesluitvorming gelden hele zware eisen. Die moet zorgvuldig zijn voorbereid, ze moet een draagkrachtige motivering hebben en ze moet reconstrueerbaar en navolgbaar zijn. Maar hoe zit het met de burgerrechten en met de grondrechten als we besluitvorming op een gegeven moment met algoritmen laten plaatsvinden? Mijn vraag aan de Staatssecretaris is of ze bereid is om zich ook te verstaan met de maatschappelijke organisaties, de ngo's, die zich bekommeren om mensenrechten en grondrechten. Ik noem bijvoorbeeld Amnesty International. De heer Öztürk kan dat misschien een lobbyorganisatie noemen, maar ik ben heel blij dat ze input leveren voor een debat over kunstmatige intelligentie. Is de Staatssecretaris bereid om zich te verstaan met de organisaties die daar expertise over hebben en die daar ook veel oog voor hebben?

Voorzitter. Het derde punt dat ik wil maken, betreft selectiviteit. Tijdens de technische briefing zijn we er toch min of meer voor gewaarschuwd – ik zeg het maar in mijn eigen woorden – om niet zonder meer achter elke bal aan te gaan rennen. Wat nu in de mode is en heel kansvol lijkt, is ook zo weer voorbij. Denk aan de buzzwords. Om blockchain bijvoorbeeld was twee jaar geleden heel veel te doen. Ik zat me tijdens de technische briefing af te vragen waar dat gebleven was. Het zal er ongetwijfeld nog wel zijn. Vandaag kan iets heel veelbelovend lijken, maar over een jaar of twee jaar kan dat iets anders zijn. Die selectiviteit is naar mijn smaak ook nodig om een andere reden. Voor de ontwikkeling van een aantal van die sleuteltechnologieën kun je wel een nationaal programma maken, maar kijk bijvoorbeeld naar de techniek voor het produceren van 5G-apparatuur, waarover we recent een debat hebben gevoerd. Daarvoor zijn er in feite maar drie producenten. Daar zit alle kennis gebundeld. Mijn vraag aan de Staatssecretaris is: hoe stemt zij dat Europees af? Gaat ieder Europees land voor zijn eigen sleuteltechnologie, of wordt daarin ook op Europees schaalniveau een keuze gemaakt?

Als laatste punt, voorzitter, als u mij toestaat: wij moeten voorkomen dat wij als overheid overvleugeld worden in kennisniveau, maar ook in macht – want kennis is macht – door hele grote bedrijven. In het verleden hebben we dat gezien met Shell, bij de gaswinning. Alle kennis van de ondergrond was veel meer aanwezig bij een bedrijf dan bij een overheid. Hoe kan de overheid een goede countervailing power zijn voor de markt, is mijn vraag aan de Staatssecretaris.

Dank u wel.

De voorzitter:

Dank u wel. Er is een interruptie voor u van de heer Öztürk.

De heer Öztürk (DENK):

Ik had het niet nodig gevonden, maar ik zie een stukje naïviteit bij de heer Moorlag. Mijn lobbypunt betrof met name de lobby vanuit de machtige bedrijven, zoals bedrijven die clusterbommen maken en aan de andere kant inlichtingenapparatuur aan ons verkopen, dat soort machtige, internationale bedrijven. Ik had het niet over Amnesty International of Humanitas. Die naïviteit van de PvdA hebben we in het vorige kabinet ook meegemaakt. Het resultaat is dat jullie van 38 naar 9 zetels zijn gegaan, omdat jullie achter de VVD aan zijn gegaan. Word nou eens wakker, en besef dat er een machtige lobby is, met name op dit soort onderwerpen. Haal die naïviteit eens een keer weg en probeer die lobby ook eens te bekritiseren.

De heer Moorlag (PvdA):

Ik zal de heer Öztürk beloven dat ik niet naïef zal zijn en dat ik ook wakker zal zijn, op de momenten dat ik niet slaap.

De voorzitter:

Met deze verzekering zijn we aangeland bij de heer Amhaouch van de CDA-fractie.

De heer Amhaouch (CDA):

Voorzitter, dank u wel. Fijn om weer te zien dat we veel collega's hebben die met AI bezig zijn. Gisteren hadden we het over digitalisering en een paar weken terug hadden we het over innovatie. Dan kun je toch niet zeggen dat de politiek niet ook een beetje expert is op het gebied van of in elk geval betrokken is bij deze thematiek.

Voorzitter. Hoe zorgen we ervoor dat kunstmatige intelligentie de wereld voor iedereen beter maakt? Dat was een mooie kop die ik bij de voorbereiding op dit AO tegenkwam in een weekblad. Volgens mij is dat de spijker op z'n kop, want hoe voorkomen we dat AI straks vooral ten goede komt aan de happy few of aan de mensen die de wind mee hebben? Hoe zorgen we ervoor dat niet alleen elke Nederlander, maar bijvoorbeeld ook mensen op het continent Afrika van de kansen van AI kunnen profiteren? Dat kan bijvoorbeeld op het terrein van de zorg, door snellere diagnoses en nieuwe medicijnen, of op het gebied van voedsel, door betere gewassen. Met die vraag aan de Staatssecretaris wil ik openen.

In de ontwikkeling van AI zijn de Verenigde Staten en China ons in Europa ver vooruit. Maar als je kijkt naar de Government AI Readiness Index, zijn zelfs alle Scandinavische landen ons voorbij. Willen we ons concurrentievermogen, onze economische groei en onze welvaart voor de toekomst veiligstellen, dan gaat dat niet vanzelf. Gelukkig heeft Nederland alles in huis om ook in de next economy een topland te blijven. In de eerste plaats dankzij een ijzersterke formule: samenwerking tussen kennisinstellingen, overheden en ondernemers. De AI Coalitie is hiervan het levende bewijs.

AI draait om algoritmes, die in grote hoeveelheden datapatronen ontdekken en zelfstandige beslissingen leren nemen. Ik heb al aangestipt welke kansen dat biedt. Laatst hoorde ik van een algoritme, ontwikkeld door het Massachusetts Institute of Technology, dat razendsnel kan zoeken naar farmaceutische verbindingen die mogelijk een vergelijkbare werking hebben als antibiotica. Dat is een algoritme dat iedereen zal verwelkomen. Tegelijkertijd zijn er ook algoritmes die bij de werving van personeel vrouwen discrimineren, bepaalde groepen mensen een hogere kans op recidive toedichten of bij het opsporen van fraude vooral personen met een migratieachtergrond selecteren, omdat zij in wijk x wonen. Dit zijn de algoritmes die we níét willen, omdat ze onze samenleving niet ten goede veranderen. Hiermee wil ik benadrukken dat de ontwikkeling van AI niet zonder ethische en juridische kaders kan. Graag krijg ik een reactie van de Staatssecretaris hierop, onder andere over de acties die op dit punt lopen.

Hoe staat zij inmiddels tegenover de algoritmewaakhond waarvoor CDA en D66 al eerder hebben gepleit? Herkent zij het beeld dat een gebrek aan diversiteit op de werkvloer een oorzaak is van discriminerende algoritmen?

Mevrouw Buitenweg (GroenLinks):

Ik ben het er helemaal mee eens dat ethische kaders heel erg belangrijk zijn. Maar gaat het niet ook om toetsing? Neem het voorbeeld van discriminatie van vrouwen. Moet een bedrijf – ik meen dat het Amazon was – dan niet zijn recruitmentselectiecriterium, dat algoritme, ook ter toetsing laten voorleggen aan een toezichthouder, zodat we zeker weten dat daar geen discriminerende bias in zit?

De heer Amhaouch (CDA):

Dit is een heel interessant punt. Waar begin je? Wat doe je als eruit komt wat we niet willen, of dat nou discriminatie is van vrouwen of van anderen? Hoe pak je de nadelige gevolgen van algoritmes, welke dat ook zijn, aan? CDA en D66 hebben eerder gezegd dat je die algoritmewaakhond als een soort toezichthouder daar een rol in kunt laten spelen, maar het begint natuurlijk altijd met de ethische waarden van de werknemers op de vloer. Hoe diverser je de werknemers op de vloer maakt – zwart, wit, man, vrouw: het maakt niet uit wat – hoe meer je een eigen balans houdt in die input. Daar zouden wij voor willen strijden en wij zouden willen daarmee beginnen bij de mensen die het programmeren, zodat ze die ethische waarden en normen meekrijgen. Als u mij vraagt hoe we dat allemaal kunnen toetsen en monitoren, dan overvraagt u mij in deze fase, maar volgens mij moeten we met dit topic in ieder geval beginnen op de werkvloer. En we hebben eerder al gezegd dat de algoritmewaakhond ons een instituut of instantie lijkt die daarin een bepaalde rol kan spelen.

Mevrouw Buitenweg (GroenLinks):

Helemaal terecht om te zeggen dat het op de werkvloer zo divers mogelijk moet zijn, maar ik zit hier toch wel mee, omdat er ook vaak gezegd wordt: ja, maar als je echt inzicht wilt geven in algoritmes, dan raak je allemaal weer aan de eigendomsverhoudingen van een bedrijf en een bedrijf hoeft die niet openbaar te maken. Dat baart mij zorgen. Ik kan me ook voorstellen dat iets niet helemaal openbaar is, maar dan denk ik dat we elkaar wel kunnen vinden op het punt dat er in ieder geval een instantie is – als ik begrijp wat u zegt over die waakhond – die dan toch echt onder de motorkap kan kijken, al dan niet onder geheimhouding. Misschien kunnen we elkaar vinden als we zeggen dat er echt een toets is onder de motorkap door een bepaalde instantie.

De heer Amhaouch (CDA):

Als we zeggen «we gaan op zoek naar iets waarmee we in elk geval de negatieve zaken vanuit AI willen bestrijden», dan ben ik partner van mevrouw Buitenweg om daar invulling aan te gaan geven. Hoe we dat precies doen, laat ik even over aan de experts. Daar wil ik graag over in discussie. Dan kom je namelijk weer op de vraag hoe je dat zou kunnen doen en welke wettelijke grondslag we gaan creëren om dat te toetsen.

Ik zie leden zwaaien, voorzitter.

De voorzitter:

Ja. Ik weet even niet wie het allereerst was, maar de heer Öztürk kan het niet houden.

De heer Öztürk (DENK):

Interessant om van het CDA te horen dat diversiteit heel belangrijk is en dat het personeel van een bedrijf heel divers moet zijn. Ik neem dat het CDA vindt dat wij als politiek ook het voorbeeld moeten geven. Maar als ik kijk naar het kabinet waar het CDA aan deelneemt, dan vraag ik mij af: is het kabinet wel divers? Geeft het kabinet wel het goede voorbeeld? En ik kijk naar de mensen hier in de zaal, van de ambtelijke ondersteuning tot de lobbyisten. Voor ons geldt, op één na, denk ik, dat je de vraag kunt stellen of wíj wel divers zijn. Maakt u zich er niet zorgen om dat het wel mooie woorden zijn die u nu zegt, maar dat dat in de praktijk niet het geval is en dat dat toezichthouderverhaal dus heel moeilijk van de grond zal komen?

De heer Amhaouch (CDA):

Nee. Je kunt vragen of het glas halfvol of halfleeg is. Ik denk dat het glas halfvol is. Ik denk dat wij hier zoals wij hier zitten heel divers zijn: man, vrouw, van allerlei afkomst. Maar daar gaat het niet om. Het gaat erom dat wij vanuit die diversiteit een bepaald thema bespreken.

De Staatssecretaris heeft het punt van diversiteit ook al vaker aangehaald als het gaat over vrouwen. Zelfs als CDA hebben we diversiteit op de vloer aangekaart. We blijven we niet vasthangen. Ook daar zie je nieuwe inzichten. We hebben gezegd dat we vrouwen naar de top een zetje moeten geven en moeten steunen. We blijven daar dus op inzetten. Ik ga even terug naar de heer Öztürk. Als hij iets optimistischer en positiever is: volgens mij werken we in de goede richting. Het glas is eerder halfvol dan halfleeg.

De heer Öztürk (DENK):

Je hebt naïeve mensen en je hebt mensen die zichzelf een beetje bedonderen. Dat zijn twee mensen die ik in deze coalitie helaas zie. Ik vraag het drie keer. Ik zeg dat het kabinet niet divers is en het goede voorbeeld niet geeft. Ik krijg geen antwoord en dan komt u met het vrouwenargument. Want daar gebeurt er gelukkig heel veel. Maar de mensen die op jou, meneer Amhaouch, en mij lijken, die zie je niet in het kabinet. Die zie je niet in de top. Die zie je niet bij de algoritmes. Daar zou u als Kamerlid van een coalitiegenoot voor moeten vechten. Dat doet u niet. U zegt: het glas is halfvol; ik heb mijn € 7.000 netto en ik ga lekker naar huis. Daar moet u zich inzetten, meneer Amhaouch. Daar gaat het om.

Mijn laatste vraag is: zouden wij een algoritmetoezichthouder moeten instellen? Dat is misschien ook een antwoord op de vraag van mevrouw Buitenweg.

De heer Amhaouch (CDA):

Bij dat laatste punt was de heer Öztürk volgens mij afgeleid. Ik heb herhaaldelijk gezegd dat CDA en D66 ingezet hebben op een algoritmewaakhond. Wij willen toetsen of dat haalbaar is. Dat is dus even de inhoud. Daarna zei de heer Öztürk nog een heleboel zaken die niet op de inhoud ingingen. Hij heeft het over mensen die op mij en op de heer Öztürk lijken. Volgens mij lijken wij echt niet op elkaar, dus ik wil dat ook toetsen hier in de zaal. Dat is echt niet aan de orde. Laten we nou eerlijk zijn; al de partijen die hier vandaag zitten, maken zich sterk voor diversiteit. Dat doen ze op allerlei terreinen, of het nou gaat om discriminatie op de arbeidsmarkt, in het mbo, op scholen; het maakt niet uit. De mensen die ik hier zie van al deze partijen maken zich er sterk voor dat er diversiteit is op allerlei terreinen.

Laten we het verder bij de inhoud houden, voorzitter.

De voorzitter:

Nou, ik zal even kijken of de heer Moorlag dat kan invullen.

De heer Moorlag (PvdA):

Ik ga mijn best doen, voorzitter. Die algoritmetoezichthouder is ook een diepe wens van de Partij van de Arbeid. Het manco daarbij is wel dat je achteraf toetst. De vraag is – dat is ook mijn vraag aan de heer Amhaouch – of je niet een vorm van toetsing vooraf zou moeten hebben. Op een doodordinair product als een telefoonstekkertje zit een CE-keurmerk, tenminste als het niet met Alibaba hiernaartoe komt en je het hier in de winkel koopt. Het is gecertificeerd. Zou je een aantal van dit type technologieën niet moeten laten certificeren? Dat kan om bedrijfsvertrouwelijke informatie gaan, maar dat is allemaal wel in te richten. Is dat een gedachte die de heer Amhaouch zou willen toelaten in zijn brein?

De heer Amhaouch (CDA):

Zelf kom ik uit het bedrijfsleven. Mijn eerste reactie is dat je goed moet kijken – daarin ga ik met de heer Van Haga mee – of je niet heel veel zaken gaat stapelen, denkend dat je alles tegen kunt houden. Daar ben ik niet van. Gisteren hadden we hier het AO Digitalisering. Het CDA heeft daarin gevraagd of we digitale grondrechten in de Grondwet moeten opnemen. De Minister van Binnenlandse Zaken, de heer Knops, zat daarbij. Hij zei dat we op een aantal punten de Grondwet hebben aangepast aan de digitalisering. Dan gaat het om het recht op telegram, telefoon en dergelijke. Als dat nodig mocht zijn, willen wij daar graag in meegaan. Maar vooraf zeggen dat we allerlei nieuwe keurmerken, certificeringen en dergelijke nodig hebben... We leven in een maatschappij waarin digitalisering en techniek ons continu een stapje voor zijn. We moeten gaan kijken waar we mechanismes kunnen inzetten. In ieder geval moeten we niet bij elke nieuwe sleuteltechnologie, of het nu gaat om AI, fotonica, nanotechnologie of kwantumtechnologie, iets nieuws bedenken. Laten we vanuit de politiek randvoorwaarden stellen en laten we met de experts kijken hoe je daaraan invulling kunt geven. Maar ook hier zijn we het met de PvdA eens: negatieve effecten van AI willen we niet en we zullen moeten zoeken naar een manier om die te bedwingen.

De heer Moorlag (PvdA):

Ik vind ook dat we daar goed naar moeten laten kijken. Dat ben ik zeer eens met de heer Amhaouch. Het is ook niet mijn intentie om hier even vanuit de heup schietend een nieuwe bureaucratie te gaan optuigen. Maar ik kan me voorstellen dat het bedrijfsleven daar ook behoefte aan heeft. Ik kan me voorstellen dat je, als je algoritmen ontwikkelt, denkt: is dit wel helemaal compliant? Ik vind dat je het bedrijfsleven het comfort zou kunnen bieden van vrijwillige of, in bepaalde gevallen, misschien verplichte certificering. Zou daar niet eens goed naar gekeken moeten worden?

De heer Amhaouch (CDA):

Ik heb twintig jaar bij een bedrijf gewerkt waar het ontwikkelen van software corebusiness was. Daar zijn veel mensen mee bezig. Ik ben bereid om daarnaar te kijken, maar alles begint bij de jongens en meisjes die op de knoppen drukken, die programmeren. Daar moet je ethische kaders neerzetten, daar moet je waarden en normen neerzetten. Natuurlijk zal dat niet altijd voldoende zijn. Ik ben bereid om met alle partijen, inclusief het bedrijfsleven, te kijken hoe je een en ander kunt inkaderen.

De voorzitter:

Vervolgt u uw betoog. U heeft nog ongeveer een minuut.

De heer Amhaouch (CDA):

Dat lijkt me sterk, maar ik ga mijn best doen.

De voorzitter:

Dan ben ik al heel genereus.

De heer Amhaouch (CDA):

Voorzitter, ik zat net in de flow.

Ik kom bij talent: een belangrijke voorwaarde, willen we van Nederland de AI-hub van Europa maken. Hoe voorkomen we dat we straks de beste wetenschappers verliezen aan landen om ons heen of heel ver weg? In het SAPAI lezen we dat een voorstel wordt ontwikkeld voor een toonaangevend AI-kenniscentrum in Nederland. Wat is hiervan de stand van zaken? Is de Staatssecretaris ook bereid in Brussel haar vinger op te steken als het om Lighthouse Centre gaat, het nieuwe, unieke EU-AI-centrum dat opgericht zou worden? Kunnen we dat naar Nederland halen? Is de Staatssecretaris bereid om daarvoor te gaan?

Over de middelen is ook al heel veel gesproken. Uit alle onderzoeken, van AWTI tot Technopolis, blijkt dat Nederland in vergelijking met andere landen te beperkt of simpelweg te weinig investeert in sleuteltechnologieën. Is de Staatssecretaris het met mij eens dat als er goede AI-plannen liggen – ik heb dat ook in het AO Innovatie gezegd – geld niet het probleem moet zijn? Neem Invest-NL. Er komt ook een investeringsfonds aan. Het kan niet zo zijn dat we te weinig geld hebben als er goede plannen liggen.

Voorzitter, ik rond af. Het CDA gelooft in de kracht van de regio, zeg ik tegen de heer Verhoeven. We hebben in Nederland sterke regionale economische clusters. Hoe kunnen we de totstandkoming van AI-ketens en specialisaties daarin bevorderen door de sterke kanten van elke regio maximaal te benutten, bijvoorbeeld op het gebied van zorg, agrofood en hightech in regio's als bijvoorbeeld Twente, Eindhoven, Amsterdam, Wageningen en Delft? Kortom: hoe bouwen we regionale AI-ecosystemen waarbij fundamenteel onderzoek, R&D en proof of concept dicht bij elkaar blijven?

Voorzitter, de rest bewaar ik voor mijn tweede termijn.

De voorzitter:

Helemaal goed, maar u heeft nog iets meer spreektijd, want de heer Wiersma heeft een vraag voor u.

De heer Wiersma (VVD):

Toezicht is heel belangrijk; daar hadden we het net over. Maar voor je het weet, gaan we het hier alleen nog maar over toezicht hebben, want dan zijn onze kennis, onze bedrijven en onze technologie in handen van de VS of China en kunnen we niet anders dan alleen maar toezicht houden. Dat moeten we voorkomen. Daarom heeft u het over geld en over middelen. Daar gaat mijn vraag ook over. Ik deel uw enthousiasme over de voorbeelden van kunstmatige intelligentie en antibiotica; helemaal eens. Ook eens dat de VS en China ons voorbijstreven. Helemaal eens over Scandinavië. Dat gaat niet vanzelf, zegt u. We hebben alles in huis, zegt u. Daar zit mijn vraag. Dit huis, waar we alles hebben, zit wel op slot. Ik stelde de Staatssecretaris net de volgende vraag. We hebben een heel pakket aan innovatiebeleid, maar we geven maar een heel beperkt deel daarvan uit aan sleuteltechnologieën. Ik kom niet verder dan enkele miljoenen. Als ik naar het actieplan AI kijk, kom ik uit op in totaal 45 miljoen per jaar als basisfinanciering van het Rijk. Maar de coalitie zegt: wij willen hier een miljard in steken, de komende zeven jaar. Dat betekent voor ons niet 45 miljoen, maar 145 miljoen. U zegt: ik hoop dat de Staatssecretaris daar geld voor vrijmaakt. Ik heb net een paar voorstellen gedaan hoe ik dat zou willen doen. Ik ben wel benieuwd of u die voorstellen steunt. Anders heeft u misschien alternatieven. We kunnen wel vragen blijven stellen, maar dat doen we al een tijdje en we moeten nu antwoorden bieden.

De heer Amhaouch (CDA):

Ik weet niet of het huis op slot zit, volgens mij bouwen we juist aan dit huis. Ik hoorde de heer Wiersma tijdens de technische briefing van de AWTI zoeken. Vandaag de dag hebben we allerlei goede instrumenten. We stimuleren een breed pakket aan innovatie. Ik geef de heer Moorlag gelijk. Een tijdje terug hebben we het gehad over de bitcoin en de blockchain en straks krijgen we weer iets anders. Een tijdje terug hebben we gekozen voor een roadmap voor fotonica. Ik wil van de Staatssecretaris graag weten of we on track zitten: halen we onze doelen? AI is iets waarvan dit huis zegt dat we die richting op moeten. Dat is niet iets voor de korte termijn. Als we vandaag al het geld dat we voor innovatie hebben, of het de Wbso is of de Innovatiebox, gaan inzetten op de sleuteltechnologie AI, is dat de verkeerde richting. Als u zegt dat er hele goede plannen liggen en dat we een schaalsprong moeten maken op AI, waar ik ook naartoe wil, dan zeg ik: in dit huis kan het niet zo zijn dat we met Invest-NL en met het investeringsfonds dat eraan komt, zeggen dat we te weinig geld hebben. Dan zou ik graag willen dat er goede plannen liggen, die we ook kunnen zien. Volgens mij maken we dan een schaalsprong en zit dit huis juist niet op slot. We trekken in deze coalitie miljarden uit voor toekomstig economisch groeivermogen en volgens mij horen daar sleuteltechnologieën bij, zoals ook in de groeibrief staat van de heer Wiebes. Die is u wel bekend.

De heer Wiersma (VVD):

Dat is een heel lang verhaal om niet te antwoorden op mijn vraag, maar het is wel precies een kenschets van het probleem: zeggen «we moeten dit doen en daarin investeren» en als ik dan zeg dat ik in allerlei puzzelstukjes in de begroting zoek hoe we dat zo snel mogelijk kunnen doen, zegt u «nee, ik ga voor het investeringsfonds». Dan zijn we een jaar of misschien wel twee jaar verder. Dat is geen antwoord. Dan vraag ik u wat u op korte termijn zou doen om meer geld vrij te maken. Ik wijs erop dat er in de Nationale Wetenschapsagenda een oploop aan middelen zit en vraag u of we die daaraan zouden kunnen besteden. Of neem de publiek-private samenwerking van NWO. Zouden we dat geld daaraan kunnen besteden? Dat zijn voorstellen die ik doe, maar u zegt: ik wacht wel af waar de Staatssecretaris mee komt. Ik hoop toch dat u als a zegt, ook echt het idee hebt om dat met b te bereiken.

De heer Amhaouch (CDA):

Laten we even realistisch zijn. Het CDA heeft er jaren voor gepleit dat innovatiemiddelen op 2,5% zouden komen. We hebben gezien dat we dat met de huidige middelen in de begroting niet gaan realiseren. In de brief van de heer Wiebes, de economische groeibrief, staat dat we weer naar 2,5% moeten. Dit kabinet heeft juist het investeringsfonds opgericht om een schaalsprong te maken. Als de heer Wiersma denkt dat hij die schaalsprong met AI kan maken met de middelen binnen de begroting, dan haal ik hem uit zijn droom: dat gaat niet lukken. We kunnen daarmee misschien wel een stapje maken, maar ik wil verder gaan. Volgens mij zeggen meer mensen dat we substantieel middelen moeten stoppen in sleuteltechnologieën om een schaalsprong te maken. Dat gaan we niet uit de reguliere begroting halen. Ik stel op mijn beurt een vraag aan de heer Wiersma: wilt u de schaalsprong met AI maken met middelen uit de reguliere begroting, of wilt u ook kijken naar Invest-NL of het investeringsfonds?

De voorzitter:

Het zou misschien ook goed zijn als de coalitie onderling eens koffie ging drinken, maar dat is maar een idee.

De heer Wiersma (VVD):

Het is en-en. Ik wil morgen beginnen en niet over een jaar. Ik zie 100 miljoen voor sleuteltechnologie op het hele bedrag van 2,8 miljard. 100 miljoen! Er zit heel veel rek in om daar meer in te investeren. Maar goed, ik stel voor dat we samen voorstellen gaan doen en dan komen we er wel uit.

De heer Amhaouch (CDA):

Laten het nou zo zijn dat meneer Wiersma en ik in dezelfde coalitie zitten en laten we dat samen waarmaken. O, en de heer Verhoeven zit daar ook bij, maar ook andere collega's. Ik meen het en ik zeg het nog één keer: als geld echt het probleem is voor goede AI of sleuteltechnologieprojecten, dan zitten we hier over een tijdje weer bij elkaar.

De voorzitter:

Oké. U gaat dit debat op een ander moment vervolgen. Het woord is aan de heer Öztürk.

De heer Öztürk (DENK):

Voorzitter, dank u wel. Kunstmatige intelligentie biedt kansen, maar er zijn ook bedreigingen. Sommigen zeggen dat slimme computers de macht kunnen overnemen, net als in de film The Terminator uit 1984 met Arnold Schwarzenegger. Anderen zeggen juist dat machines voortaan het werk gaan doen dat mensen nu doen, en dat de mensheid lekker het hele jaar op vakantie gaat. Ik vermoed dat de waarheid ergens in het midden zal liggen. De praktijk leert dat het altijd weer anders loopt dan van tevoren werd verwacht.

Voorzitter. We hebben op 8 oktober het Strategisch Actieplan gekregen. Er is een spoor 1, kort gezegd over economische kansen, een spoor 2, kort gezegd over wetenschap en innovatie, en een spoor 3, kort gezegd over mensenrechten en discriminatie. Je ziet dat een aantal partijen spoor 1 en 2 heel belangrijk vinden en daar vol op in willen zetten, maar wat DENK belangrijk vindt is spoor 3, de fundamentele rechten van de burgers en de mensenrechten. Want het kabinet schrijft zelf op 8 oktober: algoritmes zijn niet altijd neutraal – ze beginnen op mensen te lijken – en algoritmes hebben niet altijd gelijk. Nou, het kabinet ook niet. Toch zien mensen een algoritme als een soort stoplicht: als het licht groen is, kun je de straat oversteken, maar eigenlijk was het licht misschien toch wel rood. Dan kun je dus botsingen en ongelukken krijgen.

Voorzitter. De fractie van DENK vindt transparantie belangrijk bij de toepassing van AI. Daarom wil ik graag dat de Staatssecretaris ons op een aantal punten geruststelt. Is de AVG, Algemene verordening gegevensbescherming, altijd van toepassing als het gaat om AI? Zijn de AVG-transparantie-eisen altijd van toepassing, met name wanneer de overheid beslissingen neemt over de burger, zoals bij de politie? Wie bepaalt wie verdacht is en wie niet? En heeft de Belastingdienst in de zaak van de kinderopvangtoeslag ook gebruikgemaakt van algoritmes? Dit is naar onze mening voor een hele grote groep mensen uitgelopen op een drama.

In het Strategisch Actieplan staat dat AI-toepassingen controleerbaar moeten zijn. Kan de Staatssecretaris toezeggen dat de overheid geen technologie gaat inzetten die niet uit te leggen en niet te controleren is? Het fraudesysteem SyRI is door de rechter veroordeeld. Deze digitale boevenvanger bleek zelf een boef te zijn. Maar hoeveel van dit soort selectie- en detectiesystemen zijn er nog meer? En hoe kan het dat de overheid dit überhaupt in gebruik heeft genomen, terwijl de rechter achteraf heeft geoordeeld dat dit niet door de beugel kan? De overheid heeft achteraf gezien kennelijk te makkelijk gedacht over dit fraudesysteem. Het verhaal van: het glas is halfvol, laten we het maar doen. Is de Staatssecretaris bereid om alle algoritmes te onderwerpen aan een soort SyRI-toets om na te gaan of ze echt door de beugel kunnen? Ik kan me voorstellen dat alle afwegingen en criteria die door de rechter zijn toegepast op de SyRI-uitspraak, worden toegepast op alle algoritmes die nu in omloop zijn. Graag een reactie van de Staatssecretaris.

Op 8 oktober heeft de commissie voor JenV een hele reeks feitelijke vragen gesteld over de risico's van data-analyses door de overheid. Tot gisteren is daar geen antwoord op gekomen. Hoe kan dit? Hoe kan de Kamer het kabinet zo controleren? Elke macht verdient een eigen tegenmacht. De Tweede Kamer is zelf de belangrijkste tegenmacht in dit land, samen met de kiezer. Maar specifieke onderwerpen verdienen hun eigen specifieke toezichthouder. Kan de Staatssecretaris ingaan op de mogelijkheid van een aparte algoritmetoezichthouder voor AI? Want het is de vraag of de Autoriteit Persoonsgegevens dit alleen aankan. Deze algoritmetoezichthouder zou als opdracht moeten hebben de mensenrechten beschermen. Overal waar de overheid AI toepast moet deze digitale waakhond vooraf en achteraf mee kunnen kijken, want algoritmes worden uiteindelijk door de mens samengesteld, dus ligt het gevaar van impliciete of onbewuste discriminatie altijd op de loer. Het toezicht vanuit de overheid moet daarom goed op orde zijn. De fractie van DENK wil daarom dat het College voor de Rechten van de Mens en het antidiscriminatiemeldpunt voldoende middelen krijgen, zodat zij toezicht kunnen houden op algoritmes en data in AI-toepassingen, en vooroordelen en discriminatie hierin kunnen bestrijden. Graag hoor ik van de Staatssecretaris hoe zij dit gaat aanpakken.

De voorzitter:

Dank u wel. Er is een interruptie voor u van de heer Van Haga.

De heer Van Haga (Van Haga):

De heer Öztürk begon zijn betoog met: algoritmes lijken net mensen. Maar dat ligt er natuurlijk aan hoe je zo'n algoritme programmeert. Is de heer Öztürk het niet met me eens dat algoritmes ook positief geprogrammeerd kunnen worden, zodat je discriminatie juist kunt vermijden en de bescherming van mensenrechten juist kunt borgen, en dat het juist een heel positief effect kan hebben, omdat je de menselijke anomalieën of het onmenselijke menselijk gedrag eruit kunt programmeren, eventueel met een toezichthouder natuurlijk?

De heer Öztürk (DENK):

Dat ben ik volledig eens met de heer Van Haga. Maar kijk naar de resultaten op dit moment en naar het kabinet, dat niet divers is. Een aantal mensen zeggen: het kabinet is niet divers, maar het denkt wel divers. Op het moment dat dat soort mensen in de top, die gevoelig zijn voor de machtige internationale lobby die de technologie ontwikkelt en zijn machtspositie wil versterken, beslissingen nemen, dan maak ik me daar zorgen over. Maar ik ben het met u eens dat algoritmes eigenlijk gebruikt kunnen worden in de strijd tegen discriminatie. Dat ben ik met u eens.

De voorzitter:

Is dat voldoende voor de eerste termijn? Wij hebben even overlegd. Wij schorsen een kwartiertje.

De vergadering wordt van 15.23 uur tot 15.47 uur geschorst.

De voorzitter:

Het woord is om te beginnen aan de Staatssecretaris. We kwamen net tot de conclusie dat we iets later starten. We hebben nog een uur en een kwartier, dus ik stel voor om de interrupties te beperken en om de interrupties niet al te lang te maken. Dat is misschien wel handig. Het woord is aan de Staatssecretaris.

Staatssecretaris Keijzer:

Dank u wel, voorzitter. Het is wat mij betreft heel goed dat we hier vandaag weer bij elkaar zijn om te praten over het belangrijke onderwerp sleuteltechnologieën en AI, maar in het kielzog daarvan eigenlijk ook innovatie. Waarom is dat belangrijk? Niet alleen omdat het daarbij gaat over allerlei nieuwe technologieën die ons gaan helpen om maatschappelijke uitdagingen en problemen op te lossen, maar ook omdat je hier veelal te maken hebt met het verdienvermogen van de toekomst. Een aantal weken geleden hebben we een algemeen overleg Innovatie gehad. Ik weet uit eigen ervaring hoe druk het voor Kamerleden is. Ik heb dus alle begrip voor het feit dat er toen maar drie Kamerleden waren. Maar toen we gisteren spraken over digitalisering was er gelukkig een brede vertegenwoordiging uit de politiek, en dat is ook zo nu we het vandaag hebben over AI en sleuteltechnologieën. Dat is goed om te zien. Voor alle mensen die dit debat volgen, omdat ze het interessant vinden of er vanuit hun werk bij betrokken zijn, is het volgens mij ook goed om te zien.

Voorzitter. Er zijn een aantal onderwerpen die wat mij betreft in de beantwoording voorbij zullen komen. Het gaat uiteraard om AI, zowel de economische kant als de maatschappelijk-ethische kant daarvan. We gaan het ook hebben over kwantum en sleuteltechnologieën. Maar dan zal ik het automatisch ook moeten hebben over innovatie, omdat het sleuteltechnologieënbeleid nou eenmaal zo nadrukkelijk onderdeel is van ons missiegedreven topsectoren- en innovatiebeleid.

Om te beginnen doet Nederland het goed op dit vlak. Wij doen het gewoon goed. Dat blijkt overigens ook uit het vandaag veel genoemde rapport van de AWTI over sleuteltechnologieën. Daarin kunt u lezen dat ook de AWTI van mening is dat Nederland toonaangevend is op dit onderwerp, dat wij het goed doen waar het gaat om productie en vercommercialisering van kennis over dit onderwerp. Tegelijkertijd is dit geen rustig bezit, want we zien hoe alle landen om ons heen aan het investeren zijn en aan het werken zijn op dit gebied om ervoor te zorgen dat zij ook vooraan gaan lopen. We kunnen dus niet op onze lauweren rusten.

Voorzitter. Dat is ook de reden waarom dit kabinet weer gericht wil gaan investeren in sleuteltechnologieën. Zoals gezegd zijn deze onmisbaar voor het bijdragen aan het oplossen van grote maatschappelijke problemen. Juist voor die maatschappelijke uitdagingen zijn vele oplossingen te vinden in sleuteltechnologieën. Ze zorgen voor duurzaam groeivermogen en gaan steeds meer een rol spelen in de geopolitieke verhoudingen.

Tegelijkertijd moet je wel keuzes maken. Die keuzes maken we ook. Het afwegingskader dat u aantreft in het rapport van de AWTI is hetzelfde afwegingskader als u eerder ook aangetroffen heeft in de Kennis- en Innovatieagenda die wij met elkaar opgesteld hebben. Er zijn zes criteria daarvoor. Ik zal ze niet allemaal opsommen, want dat is zonde van de tijd, maar daarin ziet u hoe wij proberen daar keuzes in te maken. Die keuzes hebben wij ook al gemaakt toen we in het regeerakkoord opschreven dat wij ons wilden gaan richten op energie en klimaat, landbouw en gezonde voeding, en sleuteltechnologieën. Later hebben we daar binnen het kabinet ook gezondheid en veiligheid aan toegevoegd. Daar hebben we met de Kamer ook al meerdere keren over gedebatteerd.

De Kennis- en Innovatieagenda is vervolgens bottom-up tot stand gekomen. Is dat het resultaat van goede lobby? Ja, deels wel, maar deels hebben wij daar met elkaar ook keuzes in gemaakt. De lobby die daarbij tot stand gekomen is, koester ik op dit onderwerp. Dat is namelijk een lobby van het bedrijfsleven, dat zelf ook honderden miljoenen stopt in onze innovatie en daarmee bijdraagt aan onze economie, aan werkgelegenheid en aan economische groei. Vervolgens hebben we met elkaar het Kennis- en Innovatieconvenant getekend. Partijen hebben daarbij gezamenlijk 670 miljoen euro gereserveerd voor sleuteltechnologieën. Ik ben even op zoek naar het totaaloverzicht. Een aantal van u heeft namelijk aan mij gevraagd – de heer Wiersma vroeg daar nadrukkelijk naar, en de heer Amhaouch heeft daar ook naar gevraagd – over hoeveel geld ik het nou heb bij elkaar. De bijdragen voor sleuteltechnologieën in het Kennis- en Innovatieconvenant en de aannames die je doet vanuit de onverdeelde middelen tellen bij elkaar op tot 981 miljoen. Ik zeg daarbij wel: dit zijn deels ook aannames, omdat er nog een onverdeeld gebied in het Kennis- en Innovatieconvenant zit. Bij de Wbso nemen we op grond van een studie van de RVO aan dat 15% van de Wbso-middelen – dat is 165 miljoen per jaar – ten goede komt aan sleuteltechnologieën. Dat geld telt dan bij elkaar op tot een bedrag van ruim 1,1 miljard per jaar, dat wij in Nederland besteden aan sleuteltechnologieën.

Ik durf wel aan om op dit moment te zeggen dat dat exclusief het geld is dat straks, zoals het er nu uitziet, beschikbaar komt via het groeifonds. In de groeibrief van het kabinet, van de Minister van Economische Zaken, heeft u kunnen lezen dat innovatie en research and development nadrukkelijk een van de drie onderdelen is waarop gericht gaat worden. Omdat sleuteltechnologieën daarin nou eenmaal zo belangrijk zijn, mag je er dus van uitgaan dat straks ook weer voor sleuteltechnologieën geld ter beschikking komt. Hoeveel en waarvoor precies? Daar kan ik niet op vooruitlopen, maar u mag van mij als Staatssecretaris van Economische Zaken verwachten dat ik in de discussies die binnen het kabinet hierover gevoerd worden natuurlijk elke keer weer nadrukkelijk aandacht vraag voor sleuteltechnologieën en daarbij ook verwijs naar het door ons allen vormgegeven en vastgestelde missiegedreven topsectoren- en innovatiebeleid, het mtib, om een afkorting aan het arsenaal toe te voegen.

De heer Wiersma (VVD):

Een simpele vraag. 1,1 miljard, mooi. Hoeveel daarvan is een publieke uitgave van de overheid? Hoeveel is dat, in procenten, dan van het totaal aan publieke uitgaven van de overheid aan sleuteltechnologieën? Hoeveel van die 1,1 miljard is dus publiek? En van dat deel wil ik weten welk percentage dat is van het totale bedrag – dat is volgens mij 2,85 miljard – dat we dit jaar aan innovatie uitgeven.

Staatssecretaris Keijzer:

Ik heb hier een overzicht waarbij staat dat 567 miljoen private investeringen zijn. Daaronder zijn allerlei verschillende bedragen die gaan over TO2-instellingen, NWO, KNAW, geld dat deels vanuit EZK komt, de pps-toeslag, Horizon 2020-geld, geld uit de regio. Je kan met elkaar natuurlijk een discussie voeren over de vraag of dat publiek of privaat is. Voor mij is dat publiek geld. 567 miljoen bestaat uit private investeringen. De rest is dus publiek. Dat is 981 miljoen min 567 miljoen. Dat is 424 miljoen.

De voorzitter:

De heer Wiersma heeft een vervolgvraag.

De heer Wiersma (VVD):

Dan zijn we opeens al de helft kwijt. Daarom stelde ik natuurlijk ook die vraag. En hoeveel is dat dan weer van het totale bedrag dat de overheid uitgeeft aan sleuteltechnologieën? Hoeveel procent is dit deel dat we aan publiek geld voor sleuteltechnologieën uitgeven dan van het totaalbedrag – dat is volgens mij 2,85 miljard – dat wij hebben voor innovatiebeleid? Dit is een verduidelijkende vraag, want ik heb mijn vraag volgens mij heel helder gesteld, maar ik kreeg geen helder antwoord.

Staatssecretaris Keijzer:

Maar dan moet ik even mijn zakjapanner erbij pakken om te berekenen hoeveel 424 miljoen in procenten is van de 4,9 miljard. Ik hoop dat u mij dat vergeeft. 10%, hoor ik. Ja, misschien wel. Het is soms simpeler dan je denkt, voorzitter. Ik weet niet wat de heer Wiersma hiermee aan wil geven, maar het kan zijn dat je die 424 miljoen publiek geld die in sleuteltechnologieën wordt geïnvesteerd een klein onderdeel vindt van het totale geldbedrag dat naar het topsectoren- en innovatiebeleid gaat. Het kan zijn dat je dat weinig vindt. Als het dan ongeveer op 10% uitkomt, dan is dat minder dan de helft. Dat is correct.

De voorzitter:

De heer Wiersma, voor de laatste keer.

De heer Wiersma (VVD):

Voorzitter, dat was een verduidelijkende vraag zonet, wat mij betreft. Het komt erop neer dat het, of het nu 5% of 10% is, dus in procenten gewoon een relatief beperkt deel is van het gehele beleid dat we hebben, terwijl we het hier een paar uur over hebben, omdat er zo veel kansen zouden zijn en omdat we daarvoor alles in huis zouden hebben. Maar we hebben in dat huis blijkbaar niet alles beschikbaar om in sleuteltechnologieën te investeren. Daarom heb ik een paar suggesties gedaan. Daar komt u ongetwijfeld op terug, ik hoop enthousiast. Maar dat geeft wel precies aan dat we dus eigenlijk niet die scherpe keuze maken voor die sleuteltechnologieën. En dan zou ik willen vragen waarom we dan toch gaan voor die hele moot vastgedraaide, versnipperde keuzes in al die verschillende topsectoren, terwijl we in het regeerakkoord hebben opgeschreven in drie dingen te gaan investeren, namelijk in landbouw, energie én technologie. Als je dat gewoon even door drieën deelt en je hebt ongeveer 3 miljard aan publieke uitgaven, dan is dat per categorie een miljard. We raken die miljard op geen manier. Dat wilt u wel, want dat heeft u net geprobeerd te zeggen, maar dat is geen publieke uitgave. Mijn oproep is: maak nou van die publieke uitgave een veel groter deel en kies dus. Mijn vraag is: gaat u dat doen?

Staatssecretaris Keijzer:

Als je ter plekke gaat zitten rekenen, heeft dat een gevaar, want als je zegt dat 424 miljoen van de 981 in het KIC voor sleuteltechnologieën is, dan moet je dat natuurlijk niet afzetten tegen de 4,9 miljard die in totaal in het KIC zit. Dat is immers publiek én privaat geld. Als je kijkt naar het geld dat wij in het KIC besteden aan sleuteltechnologieën – ik zeg er nog maar een keer bij dat dat met aannames is – zit je op 981 miljoen. Het andere geld zit in andere maatschappelijke uitdagingen. We moeten hier met elkaar nou niet net doen alsof dat niet belangrijk is. We hebben juist in het regeerakkoord – daar waren we niet allemaal bij, maar daar waren in ieder geval wel vier partijen bij – met elkaar gezegd dat we dat topsectorenbeleid wilden kantelen naar maatschappelijke uitdagingen, waarbij sleuteltechnologieën een van de instrumenten zouden worden. Dat hebben we met elkaar gedaan en dat leidt dus uiteindelijk tot 981 miljoen in het KIC. Ik heb dat net ook nog voor de Wbso aangegeven.

Na alle discussies die we hierover gehad hebben en ook in eerdere debatten die er met de Kamer geweest zijn, hebben we met elkaar vastgesteld dat dat topsectoren- en innovatiebeleid ziet op maatschappelijke uitdagingen, waarbij sleuteltechnologieën een van de belangrijke onderwerpen zijn. Als u nu aan mij zou vragen om dat nu achter mij te laten en al het geld dat daarin zit, die 4,9 miljard, allemaal in sleuteltechnologieën te steken, ja, dan hebben we wel gekozen, maar dan denk ik dat u wel platgemaild gaat worden door allerlei andere betrokkenen bij dat topsectoren- en innovatiebeleid. Dat zou namelijk niet terecht zijn en dat zou ook voorbijgaan aan al het werk dat hier gedaan is.

Maar als dat is wat de Kamer wil, dan moet u daar ook maar duidelijk over zijn. Ik ben daar zelf ook duidelijk over. Dat kan je nu, in dit stadium van dat beleid, waarvan de inkt net droog is, naar mijn smaak niet meer maken. Zijn sleuteltechnologieën ongelofelijk belangrijk? Ja, absoluut. Dat ben ik volledig eens met de heer Wiersma en op dat punt ben ik dus blij met zijn pleidooi. Ik ga direct nog terugkomen op andere vragen die hij hierover gesteld heeft.

Voorzitter. Ik heb hier nog een aantal zaken staan, maar een aantal daarvan heb ik nu al aangegeven. Wel is het nog van belang om te benadrukken dat Nederland veel generiek beleid heeft – de pps-toeslag is generiek beleid en de Wbso is generiek beleid – en dat dat ons veel goeds heeft gebracht. Ik hecht eraan om dat te zeggen. We staan niet zomaar op de eerste, tweede of derde plaats in allerlei overzichten. In het buitenland wórdt ook gekeken naar hoe wij dat doen. Als ik in Europees verband bijvoorbeeld bij bijeenkomsten van Friends of Industry of bij de Raad Concurrentievermogen zit, wordt mij vaak gevraagd hoe wij dat nou doen. Juist in samenwerking met bedrijfsleven, onderwijs, kennisinstellingen en overheden stellen wij het beleid vast. Maar je moet ook kiezen. Overigens zegt ook de AWTI, volgens mij op de eerste pagina, als deze organisatie pleit voor meer geld, dat dat niet ten koste mag gaan van het generieke beleid. Daarmee wordt maar weer eens benadrukt, ook uit die hoek, dat dat goed beleid is.

Desalniettemin probeer ik die keuzes wel te maken bij de eerste stappen die ik zet, door bijvoorbeeld 23,5 miljoen uit mijn begroting te halen, die ik wil gaan richten op kwantumtechnologie. Daarmee kunnen de eerste stappen uit die actieagenda voor kwantum in ieder geval uitgevoerd worden. Ik weet het: het is niet de wereld aan geld, maar het is wel een keuze die ik daarin maak. Toen er in de Voorjaarsnota van vorig jaar extra geld beschikbaar kwam, heb ik dat niet in een soort verdelende rechtvaardigheid in het algemeen instrumentarium gezet, maar heb ik dat, gesteund door de Kamer, aangewend voor ruimtevaart.

Voorzitter. Dat gezegd hebbende, kom ik op een aantal vragen die hierover gesteld zijn. Om te beginnen vroeg de heer Wiersma mij – daar hadden we het net al even over – om meer middelen te richten. Het eerste punt dat hij daarbij noemde, is het advies van de Kenniscoalitie. De heer Wiersma pleit er bij mij voor om de oploop van 20 miljoen in het zogenaamde tweede luik van de NWA voor sleuteltechnologieën ter beschikking te stellen. Het advies is gericht aan de Minister van OCW en aan mij, dus aan ons tweeën. Wij moeten daar met z'n tweeën ook een reactie op geven, dus daar moet ik nog even pas op de plaats maken. Het mag geen verbazing wekken, aangezien ik net heb aangegeven dat ik het pleidooi van de heer Wiersma heel goed kan meemaken, dat ik dit op zichzelf best een verstandig advies vind. Maar ik ga daar niet in m'n eentje over, dus ik moet samen met de Minister van OCW bekijken hoe wij hier met elkaar uit gaan komen.

Vervolgens vroeg de heer Wiersma mij om de publiek-private gelden die bij de NWO liggen voor sleuteltechnologieën beschikbaar te stellen. Hij verzocht mij ook om het percentage van de pps-toeslag voor sleuteltechnologieën te verhogen van 30% naar 50%. Als je een liefhebber bent van sleuteltechnologieën, zou je zeggen: dat moet je doen. Alleen kost het laatste verzoek, het verhogen van de pps-toeslag van 30% naar 50%, gewoon extra geld, wat ik niet heb. En als je de 100 miljoen die voor publiek-private samenwerking bij de NWO ligt in één keer in sleuteltechnologieën stopt, zeg je dus dat je andere belangrijke onderwerpen niet meer wilt financieren. Dan moeten we dus wel heel goed met elkaar doorspreken wat de consequenties hiervan zijn. Dat kan ik nu niet overzien. Ik kan ook niet overzien in welke mate dat geld al belegd is bij de NWO, dus waar mensen al rekenen op geld of waar dat al is toegezegd. Ik weet ook niet wat de mening van de Minister van OCW hierbij is. Op zichzelf zijn dit dus twee pleidooien waar wat voor te zeggen valt, alleen, als je kiest, kies je ook altijd niet voor iets. Dat is dus wat hierachter zit. Daarbij zeg ik nog maar een keertje: het missiegedreven topsectoren- en innovatiebeleid gaat niet alleen over sleuteltechnologieën. Dat gaat juist over maatschappelijke uitdagingen, waarbij sleuteltechnologieën een instrument zijn om het voor ons allemaal beter te maken.

De heer Wiersma (VVD):

Ik heb meer een verduidelijkende vraag. Ik hoor als reactie: het is wikken en wegen; misschien wel, misschien niet; deels niet, want dan betekent het extra geld. Daar ben ik niet op uit, maar ik ben inderdaad wel uit op een andere verdeling waarbij we die 100 miljoen niet volledig op sleuteltechnologieën richten, maar bijvoorbeeld zeggen: van die 100 miljoen alloceren we 10 miljoen daarvoor, en binnen die 10 miljoen geven we de pps-toeslag een hoger gewicht, een hoger getal.

Ik kan me voorstellen dat de Staatssecretaris dit moet bekijken. Ik wil graag vragen of ze per brief aan de Kamer zou kunnen melden welke varianten hiervoor zijn en hoe ze dat zou kunnen doen. Want de zoektocht die we met elkaar hebben, is erop gericht om juist die sleuteltechnologieën te promoten waar in het bedrijfsleven vraag naar is. Daarmee laat je zien dat je dat als overheid wil aanjagen. Dat lijkt mij niet slecht.

Staatssecretaris Keijzer:

Volgens mij hebben we het nu vooral over het onderdeel van de 100 miljoen voor de publiek-private samenwerking, dat bij de NWO ligt. Een deel daarvan, ik geloof zo'n 10%, komt al terecht bij sleuteltechnologieën. Daar waar het meer is, is de vraag of die ruimte er nog is, of dat het geld al belegd is. Ik zal mij dus vervoegen bij de Minister van OCW. Ik zal hieraan ook woorden wijden in de brief waarin wij ingaan op het advies van de Kenniscoalitie, om in ieder geval duidelijkheid te verschaffen of het kan.

Voorzitter. De heer Moorlag vraagt aan mij of ik zijn opvatting deel dat je de middelen van de sleuteltechnologieën moet koppelen aan de maatschappelijke opgave. Hij noemde als voorbeelden met name energie en klimaat. Dat is nou juist de bedoeling van het nieuwe beleid. Je stopt niet zomaar ergens geld in omdat het bedrijfsleven het aantrekkelijk vindt, maar je koppelt dat juist aan de maatschappelijke uitdagingen die we met elkaar hebben. Dat is de essentie van het nieuwe topsectorenbeleid. Daarmee geef ik trouwens ook gelijk antwoord op zijn vraag of er wel een countervailing power is ten opzichte van alleen maar bedrijfsbelangen. Ja, juist doordat we elke keer weer de koppeling zoeken met het antwoord op de vraag: welk maatschappelijk probleem lossen we hiermee op?

De heer Moorlag (PvdA):

Wat de Staatssecretaris zegt, namelijk dat de innovatiemiddelen gekoppeld zijn aan de maatschappelijke opgave, is gewoon staand beleid. Maar ik heb in mijn bijdrage ook gezegd dat het heel vaak gekoppeld wordt aan verdienvermogen, dus aan winst maken en economische activiteit. Ik heb genoemd dat er aan de andere kant ook activiteiten zijn waarmee je niet direct iets verdient, maar waarmee je wel maatschappelijke schade kunt beperken, zoals investeringen in gezondheidszorg. Ik heb als voorbeeld het project Healthy Ageing genoemd. Wil de Staatssecretaris daar eens op reageren? In hoeverre is er in de middelen ruimte om dat ook te stimuleren?

Staatssecretaris Keijzer:

Als ik de heer Moorlag goed begrijp, is zijn vraag, even plat gezegd, dat het geld dat in het KIC zit, ook het publieke deel, niet alleen wordt gebruikt voor zaken waaraan verdienvermogen vastzit. Het is altijd een combinatie van. Het publieke deel zit er juist vooral ook in om in het gesprek met de verschillende partners in die agenda het evenwicht te houden tussen onderwerpen waarvoor je maatschappelijke oplossingen zoekt, in combinatie met bedrijfsleven dat mede wil investeren. Het is natuurlijk niet het enige geld dat we met elkaar besteden. Ook bij het Ministerie van VWS, om volksgezondheid maar eens te noemen, wordt natuurlijk nagedacht over nieuwe technieken die kunnen helpen in de zorg. Dat is bijvoorbeeld in het kader van digitalisering, het onderwerp waar we het gisteren over hadden. Het antwoord op de vraag van de heer Moorlag of het beleid van dit kabinet alleen maar gekoppeld is aan verdienvermogen van het bedrijfsleven, is dus: nee, dat niet. In het kennis-, topsectoren- en innovatiebeleid proberen we vaak wel de combinatie te maken met het bedrijfsleven, maar niet alleen.

De heer Moorlag (PvdA):

Het is belangrijk dat de Staatssecretaris dit zo stellig zegt, want die koppeling wordt mentaal vaak wel zo gemaakt. Bij Rijkswaterstaat kennen ze het begrip «spoorvorming» niet alleen in het asfalt, maar ook in het denken. Spoorvorming in het denken moet er niet toe leiden dat we alleen maar kijken naar verdienen, verdienvermogen en winst. Wat mij betreft moet het wat minder winstgedreven en wat meer waardegedreven zijn, en moet het dan vooral gaan om waarde voor de samenleving. Ik ben blij dat de Staatssecretaris dat onderstreept en ik hoop dat ze dat ook goed zichtbaar maakt in haar beleid.

Staatssecretaris Keijzer:

Zeker. Het is misschien goed om nog te refereren aan het overleg dat ik één of twee weken geleden gehad heb met de boegbeelden van de topsectoren. Ter geruststelling van de heer Verhoeven is het misschien goed om te vermelden dat van de tien boegbeelden er inmiddels vier vrouw zijn. Binnenkort gaat nog een man wat anders doen, zeg ik er maar gelijk bij. Ik neem uiteraard met spijt afscheid, maar het is tegelijkertijd ook weer een kans.

Wat hebben we daar met elkaar gedaan? We hebben het met elkaar gehad over wat nou de maatschappelijke impact is van het werk dat we hier doen. Waarom is het goed dat we dit beleid hebben? Hoe gaat de maatschappij erop vooruit, met alles wat wij hier doen? Ik kan volmondig tegen de heer Moorlag zeggen dat het ook bij het missiegedreven nieuwe topsectoren- en innovatiebeleid juist gaat over de vraag: wat voor goeds brengt dat ons als samenleving?

Mevrouw Buitenweg (GroenLinks):

Na al deze prachtige woorden over missiegedrevenheid en zaken die in het belang zijn van de samenleving, vraag ik me het volgende af. De Innovatiebox is natuurlijk ook een manier waardoor er minder belastinggeld binnenkomt. Mijn vraag is: op welke wijze wordt daar gegarandeerd dat de innovatie ook maatschappelijk nut heeft?

Staatssecretaris Keijzer:

We gaan nu echt een AO Innovatie doen, dus het is een beetje off-topic. Daar zitten voorwaarden aan vast die gericht zijn op innovatie. Volgens mij zit de toets waar mevrouw Buitenweg om vraagt er niet in. Maar er is op zichzelf niets mis met geld verdienen. Laten we dat ook even met elkaar vaststellen. Ik ben tenslotte Staatssecretaris van Economische Zaken. Ik hou dat hoog: hard werken en geld verdienen hebben ons altijd heel veel goeds gebracht, want dat levert namelijk ook het geld op om vervolgens goede dingen te doen.

Mevrouw Buitenweg (GroenLinks):

GroenLinks is ook een groot voorstander van geld verdienen. We vinden dat er niets mis is met geld verdienen, maar dit is geld dat je eigenlijk aan een bedrijf geeft. Normaal gesproken hoort een bedrijf namelijk belasting te betalen, namelijk vennootschapsbelasting. In dit geval geef je als overheid een korting – je zegt: u hoeft wat minder belasting te betalen – en vervolgens staan daar geen maatschappelijke baten tegenover, die je wel eist. Dat vind ik een cadeautje geven, terwijl ik juist denk dat we bij al deze innovaties, en ook bij het bevorderen van bepaalde sleuteltechnologieën, na moeten denken over wat nu in het belang is van de maatschappij. Ik vind het heel jammer dat dat niet gebeurt bij die Innovatiebox.

Staatssecretaris Keijzer:

Het is een ander instrument. Het is een instrument ter bevordering van innovatie en ter verbetering van ons internationale vestigingsklimaat, met als positief neveneffect overigens ook nog werkgelegenheid. Ik hecht daar dus toch wel aan.

Mevrouw Buitenweg (GroenLinks):

Ten slotte. Het is natuurlijk prima als zij willen innoveren. Dat kunnen ze namelijk met hun eigen geld doen, en ze kunnen daarvoor een soort korting krijgen van de overheid als dat in het belang is van wat de overheid van belang vindt. Maar het is niet nodig om een soort algemeen cadeautje te geven.

Staatssecretaris Keijzer:

Ik ben een andere mening toegedaan; daar heb ik al het een en ander over gezegd.

De heer Moorlag vroeg mij nog of er Europese afstemming is. Die is er, maar vooral bottom-up, dus van onderaf. Veel bedrijven werken intensief samen met kennisinstellingen. TNO wordt bijvoorbeeld zeer geregeld gevraagd om toe te treden tot samenwerkingsverbanden.

Wat zijn de resultaten van het MTIB, het missiegedreven Topsectoren- en Innovatiebeleid? Het gaat uiteindelijk over de vraag hoe wij ervoor zorgen dat we met elkaar, dus in samenwerking met het bedrijfsleven, met het onderwijs en kennisinstellingen en met overheden de positieve effecten bereiken en dus de maatschappelijke uitdagingen oplossen. Dat is ook wat ik met de boegbeelden besproken heb. Hoe kan je dat nou straks inzichtelijk maken? Dat is op zichzelf best ingewikkeld. Het is ook niet zonder reden dat het CPB het altijd heel lastig vindt om vast te kunnen stellen wat het uiteindelijke effect is op bijvoorbeeld werkgelegenheid en de economie van een euro die je in innovatie stopt. Maar het feit dat bedrijven mee willen doen in het KIC en daarbij 50% van de rekening pakken, vind ik een indicatie dat het goed is voor ons verdienvermogen. Anders zou het bedrijfsleven dat niet doen. Wat ik wel van belang vind – want zo beluister ik deze vraag van de heer Wiersma wel – is om toch eens te kijken of we in kaart kunnen brengen wat nou die sterke ecosystemen in Nederland zijn en hoe die bijdragen. Want bijvoorbeeld in Eindhoven hebben we er eentje. We zien dat de economische groei in Eindhoven een van de hoogste in Nederland is. We verbinden dat ook aan het ecosysteem dat daar ter plaatse is. De vraag is of je dat ook nog op andere plekken kunt doen. Ik ben ook zeker bereid om het gesprek hierover ook aan te gaan met bijvoorbeeld TNO en de RVO, om te zien of we hierin nog een slag kunnen maken.

Voorzitter. Mevrouw Buitenweg vroeg mij naar het artikel van onze secretaris-generaal Maarten Camps. Even kijken, volgens mij had ik het net ergens... Nou ja, goed. In dat artikel zei hij volgens mij, en daar ben ik het mee eens: ja, we hebben heel veel generiek beleid; blijf daar ook alsjeblieft van af want dat is goed, maar probeer ook eens wat meer te specifiek te investeren, zodat je daar wat gerichter in bent. Het is eigenlijk hetzelfde wat in het advies van de AWTI staat. Het is trouwens ook wat ik bedoelde toen ik het over de industriepolitiek had, zo zeg ik tegen mevrouw Buitenweg. Je moet daarbij wel opletten dat je niet investeert in die sectoren en bedrijven die het niet gaan maken. Je moet juist kijken waar nou dat verdienvermogen ligt van de toekomst.

Voorzitter. Dat brengt me automatisch weer bij de groeibrief en het groeifonds. De heer Van Haga vroeg aan mij of dat groeifonds straks ook gebruikt zal worden voor investeringen in sleuteltechnologieën. Daar kan ik niet op vooruitlopen, maar daar heb ik zonet ook al het een en ander over gezegd.

Dan kom ik, voorzitter, bij AI: artificiële intelligentie op z'n Vlaams, kunstmatige intelligentie op z'n Nederlands maar dan heb je een andere afkorting. Er is geen algemeen aanvaarde definitie daarvan. De Europese Commissie zegt: systemen die intelligent gedrag vertonen door hun omgeving te analyseren en met zekere mate van zelfstandigheid actie te ondernemen om specifieke doelen te bereiken. En als ze heel knap zijn, zijn ze ook nog eens een keertje zelflerend. Je hebt daarvoor drie elementen nodig. Dat zijn algoritmen – eenvoudig gezegd: een computerprogramma – data om ze te vullen en rekenkracht. AI lijkt nu een gigantische groeispurt door te maken. Het is een soort generalpurposetechnologie geworden. Het wordt overal in gebruikt. Dat maakt het tegelijkertijd lastig om één AI-waakhond of één algoritmewaakhond te hebben. Want juist omdat het een generalpurposetechnologie geworden is en op allerlei verschillende sectoren van toepassing is en daarin gebruikt wordt, moet je een soort moloch van een organisatie gaan bouwen die ook verstand heeft van de sectoren waarin dat algoritme gebruikt wordt. En wij hebben al heel veel toezichtsorganen. De Autoriteit Persoonsgegevens let op de privacy en het College voor de Rechten van de Mens let op mensenrechten en grondrechten, bijvoorbeeld antidiscriminatierechten, om er maar eens twee te noemen. Dus volgens mij is het ook heel verstandig om het op deze manier te blijven doen. In de gewone rechtspraak gaan we op een gegeven moment meemaken dat er een rechtszaak komt die gaat over de vraag of de voorschriften van schriftelijkheidsvereiste en motiveringsvereiste uit de Algemene wet bestuursrecht wel voldoende in acht genomen zijn bij een beschikking die genomen is. Zo zie je dat je op allerlei vlakken daar dat toezicht wel hebt. Maar ik zag een vinger omhooggaan, voorzitter. Ik haal even adem.

De voorzitter:

Dat lijkt me goed. Mevrouw Buitenweg heeft een interruptie.

Mevrouw Buitenweg (GroenLinks):

Ja. Het gaat mij om de stellingname dat er op het gebied van het toezicht op discriminatie al veel bestaat. En toen werden er twee instellingen genoemd: de Autoriteit Persoonsgegevens en het College voor de Rechten van de Mens. Nu heb ik bij dat laatste een tijd gewerkt. Ik heb daar ook nog contacten mee, maar het is mij niet bekend dat zij daar ook echt toezien op de algoritmes. Dat zou ik wel heel interessant vinden. Is het zo dat de Autoriteit Persoonsgegevens en het College voor de Rechten van de Mens echt kijken onder de motorkap, en dan dus ook kunnen beoordelen of er sprake is van discriminatie in algoritmes van overheid of bedrijfsleven?

Staatssecretaris Keijzer:

Ik denk dat het goed is dat we ons met elkaar niet gek laten maken. Als je kijkt naar de digitale wereld, dan geldt datgene wat in de analoge wereld geldt net zo goed als voor de digitale wereld. Het non-discriminatiebeginsel geldt in de analoge wereld dus net zoals dat geldt in de digitale wereld. Als er op een gegeven moment een klacht komt bij het College voor de Rechten van de Mens, dan kan het niet anders dan dat ze zich zullen gaan verdiepen in deze materie. Ik weet niet of het al ingepland is, maar ik ben bezig met een gesprek te plannen met Adriana van Dooijeweert, de voorzitter van het College voor de Rechten van de Mens, om juist ook op dit onderwerp door te praten. Gisteren hebben we een AO Digitalisering gehad. Mijn collega Raymond Knops, die daar toen zat, heeft toen het een en ander hierover gezegd. En zoals ik gisteren ook heb aangegeven, vind ik het juist vanuit economisch perspectief van belang dat mensen zich veilig voelen bij AI. Want een burger is een consument, en als die een technologie niet vertrouwt, gaat hij die niet gebruiken. En daarbij is bijvoorbeeld non-discriminatie van belang. Dat is waarom ik met haar het gesprek aanga, om eens met haar door te praten over hoe dat gaat in de praktijk.

Mevrouw Buitenweg (GroenLinks):

Het is heel goed dat daarover het gesprek aangegaan wordt. En ik kan mij voorstellen dat het College voor de Rechten van de Mens ernaar gaat kijken als er een klacht is, want dat werkt op basis van een klacht en dan komt er een onderzoek. Maar het punt is natuurlijk dat je vaak niet weet wat er aan de hand is. En ook is het van belang, zoals we gisteren hebben afgesproken, dat privacy niet alleen een individueel recht is, maar ook een collectief recht, dus het moet er niet alleen maar van afhangen of je individueel geraakt wordt. Er kunnen bijvoorbeeld ook gewoon biases in zitten en die moeten dan ook door bijvoorbeeld een organisatie aan de kaak kunnen worden gesteld. Dus de vraag is: wat kan er proactief om te bekijken hoe een algoritme werkt zonder dat iemand een klacht heeft omdat die zich gerealiseerd heeft dat er sprake is van discriminatie?

Staatssecretaris Keijzer:

Dat is een ongelofelijk interessante discussie. Eigenlijk alles wat mevrouw Buitenweg hier naar voren brengt, zijn van die zaken die ook door mijn hoofd heen gaan als je los van de specifieke casus nadenkt over dit onderwerp. Gisteren heeft de heer Verhoeven het gebruik van data in de autobranche aan de orde gesteld, en hoe dat er uiteindelijk toe lijkt te gaan leiden dat de aftermarket, zeg maar bijvoorbeeld de autoherstelinrichtingen – zo zeg ik volgens mij een beetje ouderwets, maar dat heeft te maken met mijn geschiedenis in het milieurecht – er zo langzamerhand niet meer aan te pas komt. En dan wordt het op een gegeven moment een collectieve discussie. Gezichtsherkenning is zo'n onderwerp. Collega Grapperhaus heeft aangegeven dat je daarbij niet meteen rücksichtslos «no way» moet zeggen, want het kan ook heel veel goede zaken brengen, zoals om maar iets te noemen vermiste personen die opeens opgespoord kunnen worden, of een crimineel. En zo heeft gezichtsherkenning nog een andere zaak: individueel moet ieder mens nadrukkelijk toestemming geven, zo staat er voor gezichtsherkenning in de Algemene Verordening Gegevensbescherming.

Dat gezegd hebbend, betekent het eigenlijk dat iemand die op straat loopt met een bril met daarin gezichtsherkenning en een algoritme, meteen kan zien wie die meneer op de publieke tribune daar is, hoe hij heet, of hij een gezin heeft, wat zijn hobby's zijn en waar hij werkt. Dat mag niet. Dat mag gewoon niet, totdat hij daar uitdrukkelijk toestemming voor geeft. Dan zou je dus met elkaar de discussie kunnen hebben of dat dan niet zou moeten betekenen dat dit soort brillen voor particulieren niet verkocht zouden mogen worden, vanuit dat collectieve belang. Nou, dat zijn precies de gesprekken die we met elkaar moeten hebben vanuit dat collectieve belang dat we zien ten aanzien van privacy.

De voorzitter:

Ik kijk heel even naar de tijd. Ik snap dat het ingewikkeld is, en dit is ook een heel belangrijk gesprek om met elkaar te voeren. Maar ik kijk ook naar het serieuze aantal mapjes dat de Staatssecretaris nog heeft. Dat zijn nog een heleboel mapjes. We willen toch ook wel proberen om het vandaag nog af te handelen. Ik denk dat dit niet de laatste keer is dat we het hierover hebben, dus we zullen het beperken en de Staatssecretaris vragen om door te gaan met de beantwoording. Ga uw gang.

Staatssecretaris Keijzer:

Dank u, voorzitter. We hebben inmiddels een Strategisch Actieplan voor AI: SAPAI. Ik vind het een mooie afkorting. De gedachte daarachter is dat we meer moeten investeren in termen van geld, tijd en energie om ervoor te zorgen dat je op een verantwoorde wijze bij gaat dragen. Dat actieplan is vele pagina's, met drie sporen: het benutten van maatschappelijke en economische kansen; juiste voorwaarden voor een vruchtbaar AI-klimaat; en het versterken van de fundamenten voor de kans om op een verantwoorde wijze het benutten daarvan rond te krijgen. Precies het debat dat ik zojuist had met mevrouw Buitenweg.

Voorzitter. Dan kom ik op een aantal vragen op dit onderwerp. Ik blader nu maar even door, gezien de tijd. Ook hier werd door VVD, D66 en CDA – in de volgorde van plaatsneming – vandaag gepleit voor meer geld hiervoor. Als je AI belangrijk vindt, en dat vinden wij allemaal, zou je dat natuurlijk het liefst zien. AI wordt gezien als een sleuteltechnologie, dus alles wat ik net gezegd heb over sleuteltechnologie geldt ook voor AI. Daarnaast kom ik terug op het groeifonds dat aanstaande is. Maar ook het bedrijfsleven doet hier goede zaken: het kickstartinitiatief dat onderdeel is van de AI-coalitie. Philips, Ahold, NS, ING en – ja, wie weet de vijfde op te lepelen? Wie het weet, mag blijven – KLM natuurlijk, hebben met elkaar de schouders onder dit onderwerp gezet en gaan ook investeren in meer hoogleraren die op dit onderwerp aan het werk gaan. Ik juich dat alleen maar toe. Er wordt dan weleens tegen mij gezegd: heeft dat consequenties voor de onafhankelijkheid? Laatst zei een rector van een universiteit in Nederland tegen mij: ze vertrouwen het ons juist toe vanwege onze onafhankelijkheid. Dat vond ik een mooie benadering.

De voorzitter:

Interrupties alleen over een fundamenteel...

De heer Amhaouch (CDA):

Voorzitter, een punt van orde. Hoeveel interrupties hebben we? Twee, of drie of een? Dan verdelen we ze.

De voorzitter:

Sommigen hebben er al twee gehad. Ik stel voor dat we het bij twee houden. Goed punt, meneer Amhaouch.

Staatssecretaris Keijzer:

Wat is de directe impact van digitalisering, en dus ook AI? Ook hierover heb ik gisteren al het een en ander gezegd. 21% van de bedrijfsinvesteringen betreft ICT en investeringen in ICT dragen een derde bij aan de groei, om maar een paar cijfers te noemen.

Voorzitter. De heer Verhoeven vroeg mij: hoe zie ik de invloed van AI op werk en welvaart op de middellange termijn? Dat is echt koffiedikkijken. Ik zou hierover best een boom kunnen opzetten, maar laat ik dat gezien de tijd niet doen. Dat onze samenleving al door AI veranderd is, is ook een feit.

Hoe zorgen we ervoor dat elke Nederlander de kans heeft om ervan te profiteren? Hiervoor geldt dat het nodig is dat iedereen eraan mee kan doen, dat digitale vaardigheden in het onderwijs een plek gaan krijgen, maar ook dat we ons realiseren dat er altijd een groep mensen zal blijven – en daaronder zouden ook wijzelf zomaar eens over 30 à 40 jaar kunnen vallen – die de volgende stap in de technologie gewoon niet meer kan bijbenen. Dus je moet je altijd realiseren dat je niet helemaal altijd alles via digitalisering kan doen.

Ik kom bij een ander belangrijk onderwerp, namelijk het weglekken van talent. Ik weet dat u ook een technische briefing heeft gehad over het onderwerp SAPAI, waar dit onderwerp nadrukkelijk aan de orde geweest is. Vandaag hebben CDA en VVD en GroenLinks dit aan de orde gesteld. Ik deel de zorgen. Je kunt er niet alles aan doen want het zijn soms ook afwegingen van individuen, promovendi, universitair docenten, die zelf het avontuur willen aangaan om naar het buitenland te gaan; dat is gewoon een feit. Tegelijkertijd moeten we er wel alles aan doen om te proberen een aantrekkelijk ecosysteem op juist dit onderwerp te organiseren, zodat het aantrekkelijk is voor mensen die in dit veld werken om hier te blijven of om vanuit het buitenland hiernaartoe te komen. Daar is instrumentarium voor. Ik wil u daarvoor verwijzen naar het beleid dat is opgenomen in de brief ten aanzien van het nieuwe start-up- en scale-upbeleid onder de noemer «Techleap».

Dan kom ik bij de vraag van de heer Van Haga: of ik van mening ben dat we niet meer moeten wachten op de EU, maar moeten kiezen voor een Nederlandse strategie. Nou, die ambitieuze Nederlandse strategie hebben we, en die heet SAPAI. Tegelijkertijd wil ik dit graag juist in combinatie met Europa. Want we zijn wel een heel grote economie in Nederland, maar in het grotere geheel zijn we de zestiende – geloof ik, zo uit mijn hoofd gezegd – en hebben we juist de kracht van die gezamenlijke Europese markt en Europese kennis en bedrijfsleven nodig, om hier echt in de voorhoede te kunnen blijven meedraaien. En net zoals onze AVG zo langzamerhand overal in de wereld of positief wordt bejegend of inmiddels gewoon overgenomen wordt – zie Amerika – ben ik ervan overtuigd dat dat ook niet anders zal kunnen zijn ten aanzien van andere technologieën, juist omdat ik het zo belangrijk vind dat «de mens centraal» binnen dat beleid zijn plek houdt.

De heer Van Haga (Van Haga):

Ik weet niet of u er nog aan toekomt, maar mijn vraag spitste zich erop toe hoe die goede positie, onze goede economie en dat alles zich verhouden tot onze verschrikkelijk lage plaats op de ranglijst van het aantal patenten.

Staatssecretaris Keijzer:

Daarop moet ik het antwoord schuldig blijven; dit is een onderwerp dat bij mijn collega Eric Wiebes blijft. In het algemeen kan ik wel zeggen: soms zit het mee, soms zit het tegen. Er zijn weer andere lijstjes waar we op nummer een, of twee of drie staan. Hierop blijkbaar laag, volgens u. Ik weet niet of dat klopt. Het is wel van belang voor ons vestigingsklimaat om daarin een goed beleid te hebben, en ik weet dat we daarin ook aan samenwerking doen met andere Europese landen.

Dan vroeg de heer Wiersma nog aan mij hoe we omgaan met data en de samenwerking daarmee in en tussen het bedrijfsleven. We hebben natuurlijk de Datadeelcoalitie, die tegenwoordig zelfs een Engelse naam gekregen heeft. We werken via het Programma digitalisering midden- en kleinbedrijf aan het helpen van het midden- en kleinbedrijf om de data te gebruiken die beschikbaar is. En inderdaad helpen veel Value Centers ondernemers in de regio om de waarde van data te benutten.

Voorzitter. Dan kom ik bij het mapje AI in relatie tot ethiek, toezicht, privacy en discriminatie. Ik heb daar al een hele hoop over gezegd, dus als u mij toestaat, ga ik ervan uit dat ik in de interrupties die ik heb gehad, mijn algemene lijn in dit onderwerp voor dit moment voldoende heb behandeld. Voor dit moment, want dit is een discussie die voortgaat.

De heer Amhaouch (CDA):

Ik heb een interruptie op het vorige blokje, dus het gaat niet over het laatste wat de Staatssecretaris zei. Ik had in mijn inbreng de vraag gesteld of de Staatssecretaris bereid is om haar vinger in Europa op te steken om Lighthouse naar Nederland te halen. Dat gaat over een uniek AI-centrum dat de Europese Commissie wil. Wij willen gaan investeren in AI. Dit zou een mooie gelegenheid zijn om talent naar Nederland te halen, voor ons ecosysteem. Dus de vraag is: is de Staatssecretaris bereid om dat te gaan doen?

Staatssecretaris Keijzer:

Dit gaat volgens mij over het center of excellence op het gebied van AI. Er loopt een call vanuit de Europese Commissie om te bekijken of we al die verschillende versnipperde centra die we nu hebben, kunnen samenvoegen tot – uit mijn hoofd gezegd – vier. Er doen er ook een aantal mee vanuit Nederland, zoals dat – hoe heet dat ook alweer? – in Den Haag. Ook de TU Delft zit daarbij. Er zijn er dus een aantal die meedoen aan deze call. En voorzitter, uiteraard steek ik mijn vinger op als het erom gaat geld in Europa naar Nederland te halen. We praten wat mij betreft soms onvoldoende in deze AO's over wat een ongelofelijke expertise wij op dit gebied in Nederland hebben. Dus uiteraard pleit ik daar altijd voor. Eind maart gaat de Europese Commissie volgens mij hierover uitsluitsel geven. Dan steken we desnoods met z'n allen samen een kaarsje op, of we duimen, net wat u wilt, om ervoor te zorgen, ervoor te pleiten en ook te hopen dat er een Nederlands centrum bij zit.

De heer Moorlag (PvdA):

Heel kort, voorzitter. Ik had gevraagd of de Staatssecretaris bereid is om gebruik te maken van de geweldige expertise die op het terrein van mensenrechten, grondrechten en privacy in Nederland aanwezig is, namelijk bij de ngo's. Is de Staatssecretaris daartoe bereid?

Staatssecretaris Keijzer:

Ik weet niet of de heer Moorlag net even buiten de zaal was, maar ik heb al aangegeven dat er ofwel een afspraak gepland is ofwel dat die gemaakt wordt met bijvoorbeeld Adriana van Dooijeweert van het College voor de Rechten van de Mens. Ik heb vorige week een gesprek gehad met Aleid Wolfsen, de voorzitter van de Autoriteit Persoonsgegevens. Ik heb gesprekken met mensen die bijvoorbeeld onderdeel zijn van de High Level Expert Group on Artificial Intelligence en zich bezighouden met ethiek. Dus ik doe dat geregeld.

Ik geloof dat het mevrouw Buitenweg was die in haar pleidooi zei dat wij in dat strategische actieplan onvoldoende gesproken hebben met bijvoorbeeld filosofen en mensen uit de geesteswetenschappen. Juist wel. Dat hebben we juist wel gedaan. De humaniora – zo heet het, geloof ik, als je heel chic wilt zijn – worden ook betrokken bij dit beleid. Als je namelijk human-centered AI wilt en je realiseert je onvoldoende dat een mens de neiging heeft om een computerprogramma te volgen en dat je dus gedragswetenschappers nodig hebt om ervoor te zorgen dat er een afweging wordt gemaakt in plaats van dat er «computer says no» wordt gezegd, dan ben je niet goed bezig.

De heer Moorlag (PvdA):

Ik hoor een aantal instanties noemen. Dat is goed, maar ik doel met name op de ngo's: Amnesty International bijvoorbeeld en andere. U hoeft het niet direct toe te zeggen, maar dit blijft toch een zaak van voortdurende zorg en voortdurende aandacht, om het maar eens in Prinsjesdagtaal te zeggen. Wilt u dus in het vervolg die organisaties er ook bij betrekken? De regel is altijd: kritiek is gratis advies. Haal dat advies op, zou ik dus willen zeggen.

Staatssecretaris Keijzer:

Het grappige is: af en toe zeggen we in Nederland dat we te veel polderen, maar dit is nou een oproep om nog een tandje bij te zetten. Ik zeg dit: bij de voorbereiding van alle plannen die wij maken, betrekken wij heel veel relevante organisaties. Ik heb nu niet paraat of Amnesty International, om er maar eens eentje te noemen, ook betrokken is bij SAPAI. Dat heb ik gewoon niet paraat. Maar we spreken niet alleen met het bedrijfsleven en met onderzoekers; we spreken met alle relevante organisaties en als ze een mening hebben, weten ze mij altijd buitengewoon goed te vinden. Maar het algemene pleidooi van de heer Moorlag om breder te kijken dan de usual suspects kan ik alleen maar ondersteunen.

Voorzitter. Tot slot wil ik nog ingaan op vragen van de heer Verhoeven en de heer Van Haga over de Nationale Agenda kwantumtechnologie. Dit is ook een voorbeeld waarbij wij gewoon top of the bill zijn. Vorige week zette MIT Technology Review het kwantuminternet uit Delft op nummer 1 van de breakthrough technologies voor 2020. Ik laat even een stilte vallen. Ik wil ermee aangeven dat er echt pareltjes bij zijn in Nederland. Zoals ik al zei in mijn inleiding heb ik 23,5 miljoen euro gereserveerd voor de komende vijf jaar om als eerste start de meest urgente acties uit deze agenda te starten.

Dan is er ook nog aan mij gevraagd hoe het nou zit met andere landen. Frankrijk en Duitsland schermen met indrukwekkende bijdragen voor kwantumonderzoek. Ik heb het eerder gezegd: Macron gaat voor Versailles staan en slingert 2 of 3 miljard de wereld in; wij doen dat op een andere manier. Wij doen dat op onze Nederlandse manier, waarbij we juist in samenwerking met onderwijs- en kennisinstellingen en universiteiten, ondernemers, overheden, provincies en regionale investeringsmaatschappijen beleid proberen vorm te geven waarin we ook oplossingen proberen te vinden voor maatschappelijke uitdagingen. Dat heeft ons al heel veel goeds gebracht; daar ben ik mee begonnen en daar sluit ik ook mee af.

De heer Wiersma (VVD):

Even over talent. Al die partijen waarvan u zegt dat ze zo blij zijn met al die samenwerkingen hebben één ding met elkaar gemeen: ze willen altijd meer geld, maar ze willen vooral de goede mensen kunnen vinden en houden. Dan is het lastig dat we soms studentenstops hebben. Maar zelfs daarvan zeggen ze: nou ja, dat is soms ingewikkeld, maar uiteindelijk studeren steeds meer mensen wel in die technische richtingen. Maar ze gaan daarna zo snel weg. Als je 's avonds laat door de bibliotheken van die universiteiten loopt, zie je daar Chinezen en soms ook Duitsers. Daarna zijn ze afgestudeerd en dan zitten ze daar niet meer, maar ook niet meer in Nederland. Het grootste deel is weg. Duitsland heeft miljarden geïnvesteerd in sleuteltechnologieën. Onderzoekers uit Twente en Amsterdam worden weggekocht om daar met vijf of zes promovendi – dat kunnen we hier niet bieden – een onderzoek te doen. Dan kun je zeggen: dat zijn individuele afwegingen. Maar dat zijn ook afwegingen, omdat ze niet de middelen hebben en niet de kansen krijgen die wij ze eigenlijk zouden moeten bieden. Dus mijn vraag is: hebben we een goed beeld van hoe aantrekkelijk we echt zijn en hebben we weleens echt goed onderzoek gedaan naar de vraag waarom een PhD'er hier daarna weggaat of zouden we dat nog eens beter in beeld kunnen brengen? Want het klinkt voor mij nu een beetje als: nou ja, kan gebeuren; we zien het wel. Dit is echt essentieel. Het is niet voor niks dat de halve rondetafel hierover ging. Ik geef u dus graag de tijd om hier iets meer woorden aan te wijden.

De voorzitter:

Maar het is aan de voorzitter om dat te doen, hè. Mevrouw Keijzer, ik geloof dat u van de leden meer tijd krijgt om hier antwoord op te geven.

Staatssecretaris Keijzer:

Ik heb hier nu niet paraat of er een keer onder PhD's, promovendi, onderzoekers, onderzoek is gedaan naar de vraag waarom ze naar het buitenland getrokken zijn. Ik heb het niet paraat. Misschien is het er; dan zou het bij het Ministerie van OCW liggen. Ik ga het voor u opzoeken.

De voorzitter:

We hebben nog een heel kwartier. Ik dacht: ik steek het positief in. We kunnen dus een korte tweede ronde doen. Ik wil u vragen om niet te veel uit te weiden en ook niet elkaar eindeloos te interrumperen. Ik wil u vragen om gewoon snel even een aantal opmerkingen te maken die ook in de interrupties nog niet aan de orde zijn gekomen.

De heer Wiersma.

De heer Wiersma (VVD):

Voorzitter, dank. Ik vraag graag een VAO aan. Het heeft voor mij geen acute haast. Er zijn wel een aantal toezeggingen gedaan over de Nationale Wetenschapsagenda, over de NWO en over publiek-private samenwerking. Daar zou ik dan graag over weten wanneer we die kunnen verwachten. Over het verdienvermogen is gezegd: we gaan inzichtelijk maken wat daar nou de impact van is. Die toezegging is echt belangrijk, vind ik, omdat we dan met elkaar met zin en onzin daarover kunnen spreken. Anders zegt de Staatssecretaris: we hebben alles nodig. En dan zeggen wij: ja, maar is er dan wel genoeg focus? En dan blijven we langs elkaar heen werken. Ik zou graag willen weten wat we kunnen verwachten en wanneer dat kan. De Staatssecretaris gaf met data aan dat er een aantal dingen lopen. Ik heb er als Kamerlid behoefte aan om in een brief te zien hoe dat er dan uitziet. Ik hoor daar zorgelijke signalen over. Blijkbaar is er heel veel. Misschien loopt het heel goed, maar ik zou daar graag een brief over willen. Dat zou ik graag ook als toezegging willen.

Voorzitter. Op het punt van talent zou ik graag de toezegging willen dat we alles bij elkaar brengen wat er aan onderzoek is gedaan. Waarom trekken mensen weg, niet alleen als PhD, maar ook als onderzoeker? Het gaat ook om de combinatie met het bedrijfsleven, dus dat je daar bijvoorbeeld drie dagen werkt en twee dagen aan de universiteit. Hoe doen wij dat nou? Zijn de arbeidsvoorwaarden minder? Zijn andere voorzieningen hier ingewikkeld? Is het de huisvesting? Welk beeld hebben we daarbij? Dan kunnen we bepalen welk onderzoek we daarnaar kunnen doen. Dat zou ik wel graag in een brief naar de Kamer zien komen. Ik hoor graag of en, zo ja, wanneer dat kan.

De voorzitter:

Prima, helemaal goed. Meneer Verhoeven, hebt u behoefte aan een tweede termijn?

De heer Verhoeven (D66):

Nee.

De voorzitter:

Nee. Mevrouw Buitenweg?

Mevrouw Buitenweg (GroenLinks):

Dank u wel. Ik ben erg blij met de toezegging over het onderzoek naar de vraag of en, zo ja, wat er dan eventueel mist bij de onderzoekers. Ik zou ook graag willen weten of wij gericht zijn in wat we ambiëren. Normaal gesproken nodig je iemand ook niet uit voor een blanco feestje. Je nodigt iemand uit, zodat diegene weet dat er wat te beleven is. Waar staat Nederland voor? Welke grote onderzoeksgroep is er, waarvan je zegt: daar wil ik bij horen? Ik hoor dus graag of dat inderdaad ook een obstakel is.

Dan de algoritmes. Ik blijf ermee zitten dat je niet altijd weet wat je niet weet. Dus op het moment dat je een vermoeden hebt van discriminatie, is het logisch dat je ergens ingaat. Maar wat gaan we nu doen om sowieso te controleren of er een probleem is met bepaalde algoritmes? Moet er bijvoorbeeld een verplichte certificering van high risks komen bij AI? We hebben bij de financiële wereld gezien dat het uiteindelijk tot grote problemen kan leiden als je niet weet hoe iets in elkaar zit.

Ten slotte de industriepolitiek en de concurrentie van China. Concurrentie is natuurlijk op zich niet altijd verkeerd. Ik zie wel dat er aan de ene kant een wens is om ook een eigen industrie op te bouwen. Tegelijkertijd blijf ik zien dat er door de overheid toch steeds voor de concurrenten in het buitenland wordt gekozen – dat zie ik bij 5G, bij C2000 en bij het tapsysteem van de politie – en dat wij niet helpen bij het zelf opbouwen van een Europese industrie. Dat betreur ik.

De voorzitter:

Dank u wel. De heer Van Haga.

De heer Van Haga (Van Haga):

Dank u wel, voorzitter. Een paar dingen toch. De privacywetgeving blijft wat mij betreft toch een zorg, als obstakel voor onderzoek. Voor wat betreft de EU: het leiderschap komt op dit gebied niet uit de EU, dus het is goed dat de Staatssecretaris aangeeft dat wij zo veel mogelijk zelf ons plan maken; natuurlijk wel binnen de EU, maar dat we die dingen gaan doen. Wat betreft het groeifonds vond ik het een beetje verwarrend. In eerste instantie zei de Staatssecretaris dat ze daar niet op vooruit kon lopen, maar volgens mij zei ze daarna dat het toch wel een grote rol gaat spelen, dus daar ben ik alleen maar blij mee.

Tot slot. De maatschappelijke afweging is prima in handen van politici, zoals in de eerste termijn werd gezegd. Maar wat mij betreft de technische afweging graag toch in handen van de experts, en wat mij betreft dan ook kabinetsperiodeoverstijgend.

De voorzitter:

De heer Moorlag heeft nog behoefte? Ga uw gang.

De heer Moorlag (PvdA):

Ja, voorzitter. Waardering voor de Staatssecretaris als ze zegt dat er heel veel expertise aan boord is als het gaat om zaken als privacy als grondrecht en mensenrecht. Ik zou de Staatssecretaris als punt van overweging willen meegeven dat Nederland een land van polderen is. Je ziet dat ook de bedrijven worstelen met allerlei dilemma's die zich voordoen. Organiseer dan ook vooral de dialoog tussen het bedrijfsleven dat kunstmatige intelligentie ontwikkelt en algoritmen toepast, en organisaties en wetenschappers die daarbij dan ook terug kunnen praten. Nederland heeft echt een polder- en dialoogtraditie, dus dat lijkt me echt een goede suggestie, naast luisteren, regulering, toezicht en preventie.

De voorzitter:

Dank u wel. Heeft de heer Amhaouch nog behoefte aan een tweede termijn?

De heer Amhaouch (CDA):

Jazeker, voorzitter. Ik zou van de Staatssecretaris nog even iets willen weten over de inzet op regionale ecosystemen. Daar hadden we het in de eerste termijn ook over: hoe kunnen we erop sturen dat elke regio tot zijn kern komt op zijn specialisatie?

Vervolgens is het CDA altijd voorstander geweest van een inzet op 2,5% investeren in R&D. Daarbij horen ook die sleuteltechnologieën. Wij zijn het niet eens met wat de VVD noemt: pik nu maar twee thema's uit de innovatiemiddelen die we hebben, en dan gaan we de innovatiegelden verdelen naar sleuteltechnologieën. Dat is een beetje een verkapte vorm van... Tja, daar komt het wel bijna op neer, want als ik dat zou doortrekken, zou het bijna betekenen dat we de Wbso de nek omdraaien, en dat is niet wat we zoeken. Wat betreft talent sluit ik me wel bij de heer Wiersma aan. We moeten daarbij wel inzicht krijgen in wat we moeten doen en wat er al loopt, en we moeten daar actief op sturen. Talent blijft niet vanzelf.

In de eerste termijn heb ik ook fotonica genoemd. We hebben namelijk de nationale road naar fotonica. Daarover had ik gevraagd: wat is de voortgang, wat dragen we bij en/of lopen we daarbij on track?

En nog één punt: we vinden het heel goed dat de Staatssecretaris toegezegd heeft zich in te zetten voor dat Europese AI-Centrum Lighthouse.

De voorzitter:

De heer Öztürk.

De heer Öztürk (DENK):

Voorzitter. Er zijn heel veel zorgen als het gaat om discriminatie en het beschermen van mensenrechten. Ik zie dat de Staatssecretaris erover aan het nadenken is, dat ze die zorgen een beetje heeft en min of meer daadkrachtig wil optreden. We hebben gevraagd naar een algoritmetoezichthouder. Dit is een nieuwe sector, en daarvoor heb je dus deskundige mensen nodig. En dan zegt de Staatssecretaris: in allerlei sectoren heb je discriminatie waar je rekening mee moet houden. Dat klopt, maar daarom heb je ook speciale toezichthouders, zoals de AFM. Je hebt heel veel toezichthouders. Dit is een nieuwe ontwikkeling, en we moeten er vanaf nu al op inzetten om de zorgen weg te nemen. Ik wil toch iets meer daadkracht van deze Staatssecretaris dan «ik geloof erin». Ik snap dat CDA'ers geloven, en ik geloof ook, maar uiteindelijk moeten we realistisch zijn en resultaten kunnen brengen. En dat kun je alleen maar doen door daadkracht, duidelijkheid en transparantie te geven. Dank u.

De voorzitter:

Ik kijk naar de Staatssecretaris. Zij wil één minuut voor het ordenen van de vragen.

De vergadering wordt enkele ogenblikken geschorst.

De voorzitter:

Het woord is weer aan de Staatssecretaris.

Staatssecretaris Keijzer:

Ja, voorzitter. Ik heb het even geordend. Er kwam toch wel weer van alles op dit gebied voorbij. Ik zal het kort aflopen. De heer Wiersma vroeg aan mij: wanneer komt die brief waarin u ingaat op het advies van de Kenniscoalitie? Ik ben daarvoor natuurlijk afhankelijk van de Minister van Onderwijs, maar ik vind echt dat we die eind april wel bij de Kamer moeten hebben. Dus: eind april. Ik ga tegelijkertijd op zoek naar wat er bij het Ministerie van OCW aan onderzoek is geweest dat ziet op de vraag waarom PhD's, onderzoekers, promovendi, universitair docenten en andere knappe koppen naar het buitenland vertrekken. Ik hoop dat voor de zomer bij u te hebben.

De heer Amhaouch vroeg aan mij: kijk je naar de kracht in de regio? De ecosystemen zijn belangrijk in het kader van het verdienvermogen. Het heeft ook al in de groeibrief gestaan, die al verstuurd is aan u, dat we moeten bekijken waar over de verschillende delen van Nederland die deskundigheid precies ligt. Er wordt op dit moment dus aan gewerkt, samen met verschillende industrieën, samen met regionale ontwikkelingsmaatschappijen.

Dan vroeg de heer Amhaouch naar Lighthouse. Heeft hij het dan over het Centre of Excellence AI, of heeft hij het over fotonica?

De heer Amhaouch (CDA):

Over AI.

Staatssecretaris Keijzer:

Over AI. Dan heb ik daar volgens mij antwoord op gegeven in eerste termijn. O, het was een compliment? Dan ga ik even rechtop zitten, voorzitter. Nou, lekker, dank u.

De heer Wiersma vroeg aan mij of inzichtelijk is te maken welke data-initiatieven er allemaal zijn. In de update van de Digitaliseringsstrategie gaan we daarop in. Daarbij komt er nog een zogenaamd BNC-fiche in reactie op het voorstel van de Europese Unie op het dataonderdeel in de plannen van de Europese Commissie. Op nederlanddigitaal.nl kunt u daar ook heel veel over vinden.

Tot slot, voorzitter. De heer Van Haga legde mij in de mond dat ik al iets gezegd zou hebben over waar straks het geld uit het groeifonds naartoe gaat. Nee; ik zeg nu even nadrukkelijk dat ik dat niet heb gezegd. Ik heb wel gezegd dat u van mij als de Staatssecretaris verantwoordelijk voor innovatie, natuurlijk mag verwachten dat de sleuteltechnologieën waar wij heel goed in zijn in de overwegingen worden meegenomen. Maar niet meer dan dat.

En de heer Moorlag vroeg nog aan mij of ik ook vind dat het goed is dat het bedrijfsleven niet alleen de dialoog voert met zichzelf en met de wetenschap, maar ook met ngo's. Mijn antwoord daarop is: ja, maar ik zie het grote bedrijfsleven dat ook doen.

De voorzitter:

Er waren nog vragen van de heer Öztürk en ook de heer Wiersma.

Staatssecretaris Keijzer:

O ja, excuses.

De heer Wiersma (VVD):

Ja, want ik was benieuwd. Ik vroeg namelijk of datatoepassingen in concrete gevallen soms oplopen tegen beperkingen in data delen. SkinVision is er zo een, met patiëntgegevens over huidkanker. Dat soort organisaties zeiden dat ze daar allerlei middelen, instrumenten en plekken voor hebben. Ik hoor van hen dat het juist onvoldoende is, dus ik zou willen vragen of u dat eens op een rij kan zetten, zodat ik daar een beter beeld van kan krijgen. Zou u dat willen doen?

De voorzitter:

Helemaal goed. Ik kijk nu even naar de heer Öztürk, want hij had volgens mij ook nog een vraag die niet beantwoord was?

De heer Öztürk (DENK):

Ja, de vragen van VVD en CDA worden uitvoerig beantwoord; het is een beetje een coalitiedingetje.

De voorzitter:

Het is bijna 17.00 uur, dus daar ga ik niet over besluiten. Het woord is aan de Staatssecretaris.

Staatssecretaris Keijzer:

Ja. Van de heer Wiersma wil ik nog even weten wat hij precies bedoelt. Ik dacht dat hij vroeg: welke prachtige data-initiatieven zijn er? Maar ik hoor nu dat hij iets anders vraagt. Wat vraagt hij dan?

De heer Wiersma (VVD):

Wat ik vraag, is eigenlijk voor als je heel mooie toepassingen hebt, bijvoorbeeld voor huidkanker. Ik noemde SkinVision: die hebben data nodig om die toepassingen te kunnen doen. Dan heb je patiëntgegevens nodig, maar die zijn van ziekenhuizen. En als patiënten dan zeggen dat ze dat wel willen, dan is het nog altijd de policy van ziekenhuizen dat dat ingewikkeld kan zijn. We hebben daar geen algemene richtlijnen voor. Maar dat hoeft ook niet, want eigenlijk wil je voor heel specifieke gevallen waarin bepaalde data nodig zijn, helpen om het mogelijk te maken, zodat we die toepassing ook echt kunnen uitrollen, en we voorkomen dat zo'n start-up denkt: nou, ik heb hier niks te zoeken in Nederland, ik ga dat ergens anders doen. Dus mijn vraag is: hoe helpen we op dit moment concrete toepassingen die aanlopen tegen data- of andere regelgeving? Hoe helpen we hen, door misschien die regels zelfs weg te halen? U zegt: daar doen we dingen voor. Dat geloof ik, maar ik geloof ook dat dat beter kan. Nou ja, ik zou graag in een overzicht zien of we dat voldoende op de korrel hebben.

Staatssecretaris Keijzer:

U kent mij niet anders dan dat ik zeer graag informatie wil geven aan Kamerleden. En hier beluister ik ook een fascinatie voor wat er allemaal kan met data. Maar tegelijkertijd is deze vraag zo breed, dat ik denk: als ik nu «ja» zeg, wat verlangt de heer Wiersma dan van mij? Als er bijvoorbeeld bedrijven in de life sciences – want daar hebben we het over – oplopen tegen het niet kunnen verzamelen van data, omdat bijvoorbeeld beweerd wordt dat er problemen zijn met privacy, dan zou ik zeggen: meld je desnoods bij mij, meld je bij het boegbeeld, meld je bij die organisatie van de topsector life sciences en health, om te kunnen beoordelen wat er nodig is. Zijn die bezwaren echt? Heel veel mensen hebben het idee dat er door de AVG niets meer kan. De AVG heeft één grote knop, en dat is «toestemming». Dus er kan juist heel veel, alleen is het vaak nodig dat mensen weten wat er kan. En ik heb net een gesprek gehad met de AP, en die zitten ook zo in de wedstrijd; die zijn zeer bereid om informatie te verschaffen.

De voorzitter:

De heer Wiersma.

De heer Wiersma (VVD):

Ik vroeg inderdaad of er een specifiek interventieteam kan komen waarbij je dan kunt aankloppen. De Staatssecretaris zegt: je kunt aankloppen bij die, die en die. Ik merk dat dat te ver weg is, dus ik vraag of er een specifiek interventieteam is. Als ze zegt dat ze dat nu niet wil doen, dan vraag ik om een overzicht van wat we nu doen, zodat ik kan afwegen of ik daarover een motie wil indienen.

Staatssecretaris Keijzer:

Ik vind dit echt heel lastig, want als ik «ja» zeg, dan wil ik ook doen wat er gevraagd wordt – zo kent u mij – en op een rijtje zetten wat er nu mogelijk is. Staat u mij toe om buiten deze vergadering helder te proberen te krijgen wat de heer Wiersma precies van mij verlangt. Ja?

De heer Wiersma (VVD):

Ik kan vanavond!

Staatssecretaris Keijzer:

Maar ik niet. Maar zo kan ik kijken of hier een belang achter zit en dat dat dan door kan gaan.

Dan richting de heer Öztürk: volgens mij heb ik antwoord gegeven, maar was de heer Öztürk toen even de zaal uit. Ik heb juist aangegeven dat, als het gaat over discriminatie, bijvoorbeeld het College voor de Rechten van de Mens zo'n organisatie is. Tot de rechtbank kun je jezelf vervoegen. Ik heb een uitgebreid gesprek gehad met mevrouw Buitenweg, waarin wij met elkaar hebben vastgesteld dat privacy niet alleen een individueel goed is, maar ook een collectief goed. Ik ben het dus eens met de heer Öztürk als hij zegt dat er discriminatie is in onze samenleving, jazeker. En eens met de heer Öztürk als hij zegt: dat zit dan ook automatisch in algoritmen. Maar vervolgens is vooral bewustzijn van belang, dus dat mensen zich dit bij het bouwen van algoritmen realiseren. Het pleidooi van de heer Amhaouch – ja, ik ga de heer Öztürk nu ter wille zijn, voorzitter – voor diversiteit van teams is daarbij belangrijk, en dat je de desbetreffende organisaties nodig hebt om mensen te faciliteren die van mening zijn dat er onrecht gedaan wordt. Want zoals ik net al zei: wat in de analoge wereld niet mag, mag in de digitale wereld ook niet.

De voorzitter:

Dat lijkt mij een mooi besluit. We gaan snel door naar de toezeggingen. Er is een aantal toezeggingen gedaan. Is het misschien handig als de leden even kijken of dit de goede toezegging is?

− In de brief over de Kenniscoalitie zal de Staatssecretaris van EZK ingaan op het pps-voorstel van het lid Wiersma met betrekking tot sleuteltechnologieën. Die brief zal eind april naar de Kamer toe komen.

Ik zie dat iedereen dit herkent.

De heer Wiersma (VVD):

Ja, en de Nationale Wetenschapsagenda. Dus zowel pps wat betreft NWO als de Wetenschapsagenda.

Staatssecretaris Keijzer:

Ja, de pps-samenwerking in de NWO-gelden. Want ten aanzien van het andere onderdeel, het laten stijgen van de pps-toeslag, kan ik heel kort zijn: daar heb ik geen dekking voor.

De heer Wiersma (VVD):

Maar...

De voorzitter:

We gaan niet eindeloos over de toezeggingen doorpraten met elkaar. U ging nog met elkaar spreken, dus dan kunt u het misschien ook nog even daarover hebben.

De tweede toezegging:

− De Staatssecretaris van EZK zal bij OCW nagaan of er onderzoek bestaat over de redenen waarom promovendi naar het buitenland vertrekken, en de Kamer daarover informeren.

Er is een VAO aangevraagd en de eerste spreker zal zijn de heer Wiersma. Dit heeft geen haast, maar dit zal wel op de regeling worden gezet.

Voldoende? Dan sluit ik nu supersnel deze vergadering. Ik dank de Staatssecretaris, de ondersteuning en de Kamerleden voor hun aanwezigheid. Dank u wel.

Sluiting 17.04 uur.