Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2023-2024

22 112 Nieuwe Commissievoorstellen en initiatieven van de lidstaten van de Europese Unie

Nr. 3942 VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

Vastgesteld 8 mei 2024

De vaste commissie voor Digitale Zaken heeft een aantal vragen en opmerkingen voorgelegd aan de Minister van Economische Zaken en Klimaat over de brieven inzake «Fiche: Mededeling stimuleren van startups en innovatie in betrouwbare AI» (Kamerstuk 22 112, nr. 3908) en «Fiche: Verordening supercomputerinitiatief kunstmatige intelligentie» (Kamerstuk 22 112, nr. 3907).

De vragen en opmerkingen zijn op 17 april 2024 aan de Minister van Economische Zaken en Klimaat voorgelegd. Bij brief van 8 mei 2024 zijn de vragen beantwoord.

De fungerend voorzitter van de commissie,
Kathmann

Adjunct-griffier van de commissie,
Muller

Inleiding

Hierbij ontvangt uw Kamer, mede namens de Minister van Onderwijs, Cultuur en Wetenschap, de antwoorden op de vragen van de vaste commissie Digitale Zaken over de brieven d.d. 01-03-2024 inzake «Fiche: Mededeling stimuleren van startups en innovatie in betrouwbare AI» (Kamerstuk 22 112, nr. 3908) en «Fiche: Verordening supercomputerinitiatief kunstmatige intelligentie» (Kamerstuk 22 112, nr. 3907).

Daarnaast ontvangt uw Kamer via deze brief een inhoudelijke beoordeling van het takenpakket van het Europese AI-bureau, zoals beloofd in het BNC-fiche «Mededeling stimuleren van startups en innovatie in betrouwbare AI» (Kamerstuk 22 112, nr. 3908).

Inhoudelijke beoordeling takenpakket Europees AI-bureau

Op 24 januari jl. presenteerde de Europese Commissie een mededeling over het stimuleren van startups en innovatie op het gebied van betrouwbare artificiële intelligentie (AI). Deze mededeling bevatte ook een besluit van de Commissie voor de oprichting van een Europees AI-bureau («AI-Office») per 21 februari 2024, volgend uit de aanname van de Europese AI-verordening.¹ Hierbij geef ik uw Kamer graag een inhoudelijke beoordeling van het takenpakket van het AI-bureau, zoals beloofd in het BNC-fiche van de mededeling over het stimuleren van startups en innovatie op het gebied van AI.²

Het Europees AI-bureau heeft als missie om de ontwikkeling en het gebruik van betrouwbare AI te ondersteunen, bescherming te bieden tegen risico’s die bij het gebruik van AI kunnen ontstaan en als centraal EU-punt te dienen voor de ontwikkeling van AI-kennis op EU-niveau. Het AI-bureau zal onderdeel uitmaken van de administratieve structuur van het Directoraat-Generaal voor Communicatienetwerken, Content en Technologie (DG CONNECT) van de Europese Commissie.

De taken van het AI-bureau komen voort uit de AI-verordening. Het AI-bureau heeft de exclusieve bevoegdheid om toezicht te houden op de naleving van de eisen aan AI-modellen voor algemene doeleinden («general purpose AI-models»), inclusief AI-modellen voor algemene doeleinden met systeemrisico’s. Daarnaast zal het AI-bureau op verschillende manieren bijdragen aan een effectieve uitvoering van de AI-verordening, onder andere door bij te dragen aan de ontwikkeling van richtsnoeren en uitvoerings-en gedelegeerde handelingen, het ontwikkelen van praktijkcodes, benchmarks en instrumenten voor naleving en het ondersteunen en bundelen van kennis uit de verschillende adviesorganen. In het oprichtingsbesluit is verder vastgelegd dat het AI-bureau bij zal dragen aan het Europese AI-innovatiebeleid en het coördineren en – met steun van de lidstaten – opzetten van internationale samenwerking op het gebied van AI. Hierbij zal het AI-bureau nauw samenwerken met de verschillende departementen binnen de Commissie, de lidstaten en belangrijke stakeholders uit onder andere de industrie, wetenschap en maatschappelijk middenveld.

Het kabinet verwelkomt de oprichting van het AI-bureau en staat positief tegenover de taken zoals beschreven in het oprichtingsbesluit. Het kabinet begrijpt en waardeert de inspanning van de Europese Commissie om schaarse AI kennis te bundelen en via een centraal gecoördineerde inzet hier optimaal gebruik van te maken. Tijdens de onderhandelingen voor de AI-verordening heeft het kabinet zich ook samen met andere landen hard gemaakt om het toezicht op AI-modellen voor algemene doeleinden op EU-niveau te realiseren. Toezicht op deze grote en complexe modellen, die impact kunnen hebben op de hele EU, vergt specialistische kennis en voldoende middelen, waarbij het nuttig is dit op EU-niveau te bundelen. Daarnaast acht het kabinet het positief dat het AI-bureau gaat bijdragen aan geharmoniseerde en effectieve implementatie van de AI-verordening in de lidstaten en middels verschillende acties en gecoördineerde kennisuitwisseling ondersteuning zal bieden aan organisaties, lidstaten en toezichthouders tijdens de implementatie. Daarbij is het positief dat de specialistische AI-kennis van het AI-bureau ook wordt ingezet voor het Europese AI-innovatiebeleid en het opzetten van internationale AI-samenwerkingen.

De oprichting van het AI-bureau doet daarbij geen afbreuk aan de bevoegdheden van nationale bevoegde autoriteiten en organen bij het toezicht op AI-systemen, zoals bepaald in de AI-verordening. Ook heeft de oprichting van het AI-bureau geen financiële gevolgen voor de Rijksbegroting. De extra financiering voor de uitbreiding en operationele aspecten van het AI-bureau komt uit de bestaande begroting van het Europese Fondsenprogramma Digital Europe, binnen de door de Raad afgesproken financiële kaders van de EU-begroting 2021–2027.

Het komende jaar wordt het AI-bureau verder opgebouwd. Het kabinet blijft de ontwikkelingen volgen en zal tijdens de implementatie van de AI-verordening via verschillende adviesorganen nauw samenwerken met het AI-bureau.

Inhoudsopgave	Blz.
I	Vragen en opmerkingen vanuit de fracties en reactie van de bewindspersoon	3
	Vragen en opmerkingen van de leden van de GroenLinks-PvdA-fractie	3
	Vragen en opmerkingen van de leden van de VVD-fractie	12
	Vragen en opmerkingen van de leden van de NSC-fractie	15
	Vragen en opmerkingen van de leden van de D66-fractie	17
	Vragen en opmerkingen van de leden van de BBB-fractie	19

I Vragen en opmerkingen vanuit de fracties en reactie van de bewindspersoon

Vragen en opmerkingen van de leden van de GroenLinks-PvdA-fractie

De leden van de GroenLinks-PvdA-fractie hebben kennisgenomen van de fiches. Deze leden onderschrijven het grote belang van de voorstellen en plannen op het gebied van kunstmatige intelligentie. De strategische autonomie moet voorop staan in het beleid van Nederland en in Europa. Ook hebben deze leden kennisgenomen van het verslag van de EU-rapporteurs Valize (PVV) en Six-Dijkstra (NSC) op het EU-pakket AI en Kwantum³. Graag ontvangen deze leden een reactie van de Minister op alle belangrijke aandachtspunten die de EU-rapporteurs noemen in hun rapport (paragraaf 2.7).

1. De EuroHPC-infrastructuur moet het mogelijk maken dat AI-modellen conform de Europese waarden worden getraind. Kunnen Europese supercomputers op tijd voldoende rekencapaciteit beschikbaar stellen zodat Europese AI-start-ups hier gebruik van kunnen maken om hun AI-modellen te trainen?

De inzet van de Europese Commissie en de European High-Performance Computing Joint Undertaking (EuroHPC JU) is om nog in 2024 op zo kort mogelijke termijn calls open te stellen voor het bouwen en beheren van de AI-fabrieken. Daarnaast wordt er al gewerkt aan speciale toegang voor de wetenschap en het bedrijfsleven tot de bestaande EuroHPC supercomputers ten behoeve van AI-toepassingen.

Wat belet deze bedrijven om dit op niet-Europese supercomputers te doen, bijvoorbeeld als dat makkelijker of goedkoper is? Hoe worden bedrijven gestimuleerd om van EuroHPC computers gebruik te maken in het belang van de Europese digitale autonomie?

Er zijn op dit moment geen beperkingen voor bedrijven om gebruik te maken van niet-Europese supercomputers, mits wordt voldaan aan regelgeving omtrent databeheer. De stimulans voor het gebruik van de EuroHPC computers zit hem in de kosten. De rekentijd op EuroHPC computers wordt beschikbaar gesteld op basis van voorstellen voor toepassingen van de bedrijven. De EuroHPC computers worden beschikbaar op basis van voorstellen. Worden deze gehonoreerd dan zal het gebruik gratis of veel goedkoper zijn dan bij een niet-Europese partij. Met name voor startups en midden- en kleinbedrijf (mkb) zijn deze kosten niet zomaar te dragen voor de ontwikkeling van AI-modellen of -systemen waar veel rekenkracht voor nodig is.

2. Hoe wordt de rekentijd verdeeld als de capaciteit van de supercomputers schaars is? Wie krijgt dan voorrang en volgens welke criteria? Op grond van welke criteria besluit EuroHPC welke bedrijven rekentijd krijgen? Is het selectieproces openbaar?

De inzet van de beschikbare Europese rekenkracht op de supercomputers wordt bepaald aan de hand van calls voor toegang. Geïnteresseerde en in aanmerking komende gebruikers (onderzoekers en (mkb-)bedrijven) kunnen voorstellen indienen die op kwaliteit worden beoordeeld en gerangschikt, hierbij zal er in de basis geen inhoudelijke selectie gemaakt worden. Ook is het mogelijk dat de Governing Board van EuroHPC een besluit neemt om speciale toegang voor specifieke toepassingen of partijen te geven. Het selectieproces en de besluiten van de EuroHPC Governing Board zijn openbaar. Voor de rekenkracht van de nationale delen op de EuroHPC supercomputers mogen de landen zelf bepalen welke voorwaarden en voorkeuren gelden voor de verdeling van de rekenkracht.

3. Is het wel mogelijk om in Nederland ook de «grondstoffen» voor AI (rekenkracht, data, algoritmen en talent) samen te brengen in een ecosysteem, zolang Nederland niet zelf de beschikking heeft over een AI-supercomputer met voldoende rekenkracht? En wat is het gevolg hiervan voor het Nederlandse AI-ecosysteem?

Het bijeenbrengen van een AI-ecosysteem is in feite mogelijk, zelfs als Nederland geen eigen AI-supercomputer heeft. Er kan namelijk toegang worden verkregen op het Europese deel van de EuroHPC supercomputers. Daarnaast kan er worden geïnvesteerd in EuroHPC-consortia om daarmee eigen rekentijd te krijgen op een AI-supercomputer in een ander Europees land. De verwachting is echter wel dat voor de onderwerpen data en talent een eigen AI-supercomputer een positieve impuls zal geven. Momenteel verkent het kabinet de meerwaarde van een nationale AI-faciliteit met rekencapaciteit en expertise voor grootschalige AI-modellen. Het gaat hierbij onder andere om de meerwaarde voor onderzoek en innovatie en hiermee een versterking van concurrentievermogen en de aanpak van maatschappelijke uitdagingen.

Verder werkt het kabinet ook al aan het bij elkaar brengen van de bouwstenen voor een sterk Nederlands AI-ecosysteem in de vorm van publiek-private samenwerking (de Nederlandse AI Coalitie) en meerjarige investeringsprogramma’s zoals AiNed via het Nationaal Groeifonds. Dat gaat onder andere over hoogwaardige kennis en kennisdelen, datagebruik en verantwoorde AI, human capital en regionaal actieve hubs om het mkb te bereiken. Het tienjarige AI-programma ROBUST zorgt ervoor dat onderzoek naar betrouwbare AI in Nederland gestimuleerd wordt, dat er nieuwe publiek-private samenwerkingslaboratoria worden opgestart en dat er vele promotieplaatsen beschikbaar komen. Dit moet talentwerving stimuleren waarmee het Nederlandse AI-ecosysteem verder wordt uitgebouwd.

4. Op welke wijze wordt gestimuleerd dat de Europese supercomputers duurzaam zijn?

Reeds in de huidige versie van de EuroHPC-verordening staat de zogenoemde «recital 49» waarin is opgenomen dat het ontwerp en de werking van de supercomputers die worden ondersteund door EuroHPC rekening moeten houden met energie-efficiëntie en duurzaamheid, door bijvoorbeeld gebruik te maken van energiezuinige technologie, energiebesparing en hergebruiktechnieken zoals geavanceerde koeling en warmteterugwinning.

5. Welke Nederlandse bedrijven zijn betrokken bij het European processor initiative (website) dat gericht is op het ontwikkelen van een energiezuinige Europese microprocessor voor supercomputers?

Er zijn geen Nederlandse bedrijven betrokken bij het European processor initiative. SURF is als enige Nederlandse partij onderdeel van het consortium, maar is een coöperatie van Nederlandse onderwijs- en onderzoeksinstellingen waarin de leden hun krachten bundelen. Binnen SURF werken universiteiten, hogescholen, mbo-instellingen, umc’s en onderzoeksinstellingen samen.

6. Hoe worden Nederlandse start-ups en scale-ups voorbereid om een aanvraag voor rekentijd te doen en eventueel in aanmerking te komen voor co-financiering door EuroHPC? Grote bedrijven kunnen iemand vrijmaken om een aanvraag te schrijven, kleine bedrijven minder. Hoe zorgt Nederland ervoor dat bedrijven weten hoe ze aanspraak kunnen maken op rekencapaciteit van supercomputers en dat ze de regels doorgronden?

De Rijksdienst voor Ondernemend Nederland (RVO) helpt Nederlandse startups en scale-ups bij het voorbereiden van een aanvraag voor rekentijd, waarmee ze in aanmerking kunnen komen voor cofinanciering door EuroHPC. De mogelijkheid tot ondersteuning door RVO staat ter beschikking aan elk bedrijf, ongeacht de bedrijfsgrootte. Bovendien publiceert RVO op regelmatige basis openbaar toegankelijke informatie over openstaande aanvraagmogelijkheden bij EuroHPC.

7. Hoe gaat EuroHPC om met aanvragen van Europese bedrijven die een moederbedrijf buiten Europa hebben en daarbij verhoudingsgewijs minder bijdragen aan de digitale autonomie van het Europese supercomputer- en AI-ecosysteem dan techbedrijven die «native» in Europa gevestigd zijn?

Het exacte toegangsbeleid wordt vastgesteld per type call voor toegang, maar het algemene beleid van EuroHPC is dat toegang zal kunnen worden verleend aan gebruikers die verblijven, gevestigd zijn of zich bevinden in een lidstaat of een derde land dat geassocieerd is met het Digital Europe Programme of met Horizon Europe.

8. Hoe toetst EuroHPC dat de start-ups en scale-ups betrouwbare data gebruiken om hun AImodellen te trainen? Dat bijvoorbeeld privacy en intellectueel eigendom worden gerespecteerd? Moet elke aanvrager ook een samenvatting inleveren over hoe hij aan de data is gekomen? En hoe toetst EuroHPC dat het AI-model waarmee de data wordt getraind uiteindelijk niet kan leiden tot hoog-risico-AI of verboden AI volgens de AI Act?

EuroHPC heeft in hun reguliere toegangsbeleid afspraken gemaakt over gebruik en misbruik van de beschikbaar gestelde rekentijd. Succesvolle aanvragers worden verplicht om een rapport in te dienen over de uitkomst van hun toegang, inclusief de resultaten van de rekenactiviteiten, problemen die ze daarbij zijn tegengekomen, en de geïmplementeerde oplossingen, evenals informatie over het energieverbruik en de koolstofvoetafdruk van het project tijdens het gebruik van de supercomputers. Misbruik van middelen omvat:

• Gebruik voor niet beoogde doeleinden zoals zijn beschreven in de originele aanvraag;

• Onethisch gedrag en met name activiteiten die niet voldoen aan de vereisten uit de AI-verordening;

• Elke andere schending van het Acceptable Use Policy.

9. Hoe zorg je ervoor dat het beschikbare durfkapitaal in Europa ook terechtkomt bij kleine kansrijke mkb-bedrijven en wie zijn dat? Hoe wordt dit durfkapitaal voor generatieve AI in Europa verdeeld? Wordt gekeken naar de top van het ecosysteem of naar een meer geografische verdeling?

Het durfkapitaal dat in EU-programma’s voor generatieve AI beschikbaar is, is onderdeel van de zogeheten Europese Innovatieraad. Dit instrument valt onder het programma Horizon Europe en geeft subsidies uit, die gekoppeld kunnen worden aan een durfkapitaalcomponent, op basis van de overkoepelende selectiecriteria excellentie en impact, zonder geografische criteria. Dat betekent dat het meeste excellente voorstel met de meeste potentiële impact de financiering krijgt. Deze financiering staat ook ter beschikking aan kansrijke mkb-bedrijven.

10. Kijkt Nederland net als de Europese Commissie en Frankrijk (n.a.v. de recente

samenwerking tussen Mistral en Microsoft) ook kritisch naar eerlijke concurrentiepraktijken van digitale bedrijven in de AI- en cloudsector en naar Big Tech-investeringen in AI-startups en scale-ups?

Het is belangrijk dat er sprake is van eerlijke, open, transparante en effectieve concurrentie in de AI- en cloudsector. Ontwikkelingen op gebied van AI en cloud worden daarom ook nauwlettend en kritisch gevolgd door toezichthouder ACM en het kabinet.

De ontwikkeling van AI wordt tot nu toe gekenmerkt door snelle innovatie, waarbij verschillende spelers de technologische grenzen verleggen en stevig met elkaar concurreren. Investeringen van grotere techbedrijven in startups en scale-ups op gebied van AI en cloud kunnen een drijvende kracht zijn achter verdere innovatie in deze sectoren. Tegelijkertijd deelt het kabinet de bezorgdheid over de huidige marktdynamiek en de ontwikkeling dat een klein aantal gevestigde technologiebedrijven een steeds belangrijkere positie inneemt in de AI-waardeketen. Vaak zijn dit dezelfde bedrijven die ook op gebied van cloud een belangrijke marktpositie hebben. Deze bedrijven beschikken over grote hoeveelheden data, computerkracht en ontwikkelcapaciteit en hebben daardoor een voorsprong op hun concurrenten. Daar is op zich niets mis mee, maar voorkomen moet worden dat bedrijven hun bestaande marktmacht als hefboom gebruiken om op gebied van AI een dominantere positie te verwerven. Bijvoorbeeld door cloud- en/of AI-diensten te integreren met (bestaande) diensten (ecosysteemvorming). Dit belemmert het gelijke speelveld en zou op termijn bedrijven en consumenten kunnen schaden, door bijvoorbeeld beperking van de keuzemogelijkheden. Deze zorgen waren destijds ook aanleiding voor de totstandkoming van de Digital Markets Act (DMA). Ook is het van belang dat toezichthouders grip hebben op overnames van innovatieve start- of scale-ups door grotere techbedrijven met als doel of gevolg de innovatie af te zwakken en/of potentiële concurrentie uit te sluiten. Het reguliere mededingingsrecht en de DMA bieden toezichthouders al instrumenten om deze dynamieken tegen te gaan.

Op het gebied van clouddiensten is er inmiddels specifieke wetgeving gericht op het beter laten functioneren van de markt: de Dataverordening biedt instrumenten om de economische afhankelijkheid (en lock-in) van cloudaanbieders te verminderen. Daarnaast zet Nederland in op Europese ontwikkeling van innovatieve clouddiensten voor diversificatie van het marktaanbod. Het «Important Project of Common European Interest on the next generation Cloud Infrastructure and Services» (IPCEI CIS) is een van de manieren waarop hier gevolg aan is gegeven, door het subsidiëren van een nieuwe generatie innovatieve, duurzame en veilige Europese cloudoplossingen. De looptijd van deze projecten, inclusief de uitrolfase, is tot met 2028 en de totale Nederlandse subsidie bedraagt ruim 71 mln euro. Ook loopt Gaia-X, een initiatief dat erop gericht is om een alternatief te ontwikkelen voor de deels gesloten ecosystemen van bestaande grote cloudspelers. Diverse Nederlandse bedrijven en organisaties zijn hierachter de drijvende kracht. Het kabinet steunt de ontwikkeling via een Nederlandse GAIA-X hub bij TNO en is vertegenwoordigd in de Governmental Advisory Board van het initiatief. Naast de reeds bestaande Europese clouddiensten zullen deze initiatieven naar verwachting het cloudaanbod aanzienlijk vergroten.

Het kabinet ziet dit als belangrijke stappen om ervoor te zorgen dat het concurrentieproces binnen de AI- en cloudsector eerlijk en transparant verloopt.

Ook over de fiches hebben de leden van deze fractie enkele opmerkingen en vragen.

De leden van de GroenLinks-PvdA-fractie onderkennen dat de toegang tot grootschalige rekencapaciteit zeer prijzig is, met name voor kleinere bedrijven zoals AI-startups. Kan de Minister aangeven of het voorgestelde strategische investeringskader hier wezenlijke verandering in gaat aanbrengen? Hoe wordt dit gecontroleerd?

De voorgestelde aanpassing van de EuroHPC-verordening beoogt de toegang van AI-startups tot rekenkracht binnen het Europese wetenschaps- en innovatie ecosysteem rondom generatieve AI-modellen en toepassingen te verbeteren. Wanneer de toegang verbetert en voorstellen van AI-startups voor rekentijd gehonoreerd worden, zijn er geen toegangskosten of verminderen die op zijn minst aanzienlijk. Controle hiervan kan plaatsvinden nadat de aanpassing van de verordening in werking treedt en de resultaten van de Europese calls gericht op toegang voor AI-startups beschikbaar worden. Naar verwachting zal dit in de loop van de komende jaren zijn.

Worden bureaucratische en financiële drempels voor AI-startups die in de toekomst gebruik willen maken van de Europese rekencapaciteit door dit strategische investeringskader weggenomen en zo ja, hoe?

Naar verwachting neemt de aanpassing van de EuroHPC-verordening financiële drempels weg voor AI-startups die in de toekomst gebruik willen maken van de Europese rekencapaciteit. Dit komt doordat verbeterde toegang voor AI-startups, zoals beoogd wordt met de aanpassing, met zich meebrengt dat toegangskosten voor hen in het geheel vervallen, of op zijn minst aanzienlijk verminderen. Daarnaast neemt de totale hoeveelheid rekenkracht toe, waardoor er meer te verdelen is. Het verminderen van bureaucratische drempels is geen onderdeel van de aanpassing van de verordening.

Kan de Minister de (mogelijke) stappen schetsen die een AI-startup zal moeten nemen om gebruik te maken van Europese rekencapaciteit wanneer het strategische investeringskader tot de gewenste beste uitkomst heeft geleid?

Om gebruik te maken van Europese rekencapaciteit zal een AI-startup een voorstel moeten indienen op een call voor toegang tot rekencapaciteit. Voorstellen moeten worden ingediend via het Funding and Tenders portal van de Europese Commissie. De binnengekomen voorstellen worden vervolgens door onafhankelijke internationale experts op de kwaliteit beoordeeld en gerangschikt. De Governing Board van de gemeenschappelijke onderneming EuroHPC moet de ranglijst accorderen, waarmee de geselecteerde projecten worden gefinancierd.

Daarnaast zijn de leden van de GroenLinks-PvdA-fractie verheugd te lezen dat de supercomputers van de gemeenschappelijke onderneming »European High Performance Computing Joint Undertaking» (EuroHPC JU) in de toekomst toegankelijk worden gemaakt voor startups en de wetenschaps- en innovatiegemeenschap die AI-modellen willen trainen. Kan de Minister aangeven of er bepaalde sectoren of organisaties zijn die in de toekomst géén gebruik kunnen maken van deze supercomputers maar dat wél graag zouden willen?

Vanuit het contact met veldpartijen dat de Minister onderhoudt is er op dit moment geen reden om aan te nemen dat er bepaalde sectoren of organisaties zijn die in de toekomst géén gebruik kunnen maken van supercomputers maar dat wél graag zouden willen.

Kunnen inlichtingen- en veiligheidsdiensten ook gebruik maken van deze supercomputers en hoe apprecieert de bewindspersoon die (on)mogelijkheid?

De inlichtingen- en veiligheidsdiensten zullen in beginsel geen gebruik maken van publiek toegankelijke, gedeelde systemen vanwege de aard en rubricering van de te verwerken gegevens. Echter kunnen er situaties zijn waarin deze openbare systemen worden ingezet. In dat geval valt de verwerving en verwerking van gegevens altijd onder de algemene waarborgen van de Wet op de inlichtingen- en veiligheidsdiensten (Wiv).

Voorziet de Minister kwetsbaarheden op het gebied van nationale veiligheid indien de inlichtingen- en veiligheidsdiensten géén gebruik kunnen maken van deze supercomputers en het Nederland ontbreekt aan eigen AI- en/of kwantum supercomputers? Kan de Minister hier in de breedste zin op reflecteren?

De inlichtingen- en veiligheidsdiensten hebben de verantwoordelijkheid om er voor te zorgen dat zij de beschikking hebben over de juiste technische infrastructuur, inclusief rekencapaciteit, om hun wettelijke taken uit te voeren. Hierbij hoort ook dat de diensten zich voldoende voorbereiden op technologische ontwikkelingen door over de juiste mensen en middelen te beschikken. Omdat het hier gaat over kostbare en schaarse middelen werken de inlichtingen-en veiligheidsdiensten op dit vlak intensief samen door zoveel mogelijk gebruik te maken van gemeenschappelijke infrastructuur. De diensten zullen de (geraamde) kosten hiervoor in hun financiële claims onderbouwd naar voren brengen zodat er door middel van een juiste afweging eventueel ruimte gemaakt voor kan worden in de rijksbegroting.

De leden van de GroenLinks-PvdA-fractie zijn het eens dat verantwoorde ontwikkelingen rondom algoritmes gestimuleerd moeten worden door financiering beschikbaar te maken voor onderzoek en ontwikkeling. Kan de Minister aangeven wat zij verstaat onder verantwoorde ontwikkelingen rondom algoritmes? Wat zijn ongewenste ontwikkelingen?

Bij verantwoorde inzet van algoritmes en AI is het van belang dat risico’s voor veiligheid, gezondheid of fundamentele rechten worden voorkomen. Bij fundamentele rechten kan gedacht worden aan privacy, non-discriminatie, autonomie en menselijke waardigheid. In de praktijk doen een aantal problemen voor. Het is 1) niet altijd duidelijke welke normen of criteria gelden voor algoritmes en AI, 2) controle en toetsing van keuzes die gemaakt worden in het ontwerp van algoritmes en AI vinden te weinig plaats en 3) controles worden bemoeilijkt omdat in sommige gevallen niet inzichtelijk is hoe algoritmes en met name AI-systemen werken. Een verantwoorde inzet wil zeggen dat algoritmes en AI voldoen aan de wettelijke normen, dat inzichtelijk en navolgbaar is hoe AI werkt en dat gedurende de levenscyclus van algoritmes en AI controles en toetsing plaatsvinden. Dit wordt door het kabinet gewaarborgd door onder andere nieuwe wettelijke eisen te stellen aan AI-systemen via de AI-verordening en het toezicht hierop. Daarnaast is het van belang dat bij financiering voor onderzoek en ontwikkeling ook bredere publieke waarden worden gerespecteerd.

Welke rol speelt Nederland bij het bepalen van de kaders van verantwoorde ontwikkelingen in Europees verband?

Op 13 maart jl. heeft het Europees Parlement de AI-verordening aangenomen, Veel van de Nederlandse voorstellen zijn tijdens de onderhandelingen overgenomen, bijvoorbeeld als het gaat om het waarborgen van fundamentele rechten en het versterken van innovatie. Op dit moment bereidt Nederland de uitvoering van de AI-verordening voor. In dezelfde maand is het AI-verdrag van de Raad van Europa afgerond. Dit verdrag verplicht verdragspartijen regels te stellen om bij de ontwikkeling en het gebruik van AI de fundamentele rechten, democratie en rechtsstaat te beschermen. Indien Nederland partij wordt bij het verdrag, zal implementatie naar verwachting via de AI-verordening van de Europese Unie plaatsvinden. Vanuit Europa is er belangstelling voor enkele initiatieven die door het Nederlandse kabinet geïnitieerd zijn. Denk aan de impact assessment mensenrechten algoritmes (IAMA), biastoetsingen en het algoritmeregister. Kennis en ervaringen met deze initiatieven zal Nederland in Europees verband delen.

Verder juichen de leden van de GroenLinks-PvdA-fractie het voornemen om Nederland te positioneren als één AI-ecosysteem toe. Wel hebben deze leden hier enkele vragen en opmerkingen over. Ten eerste willen zij nogmaals het aandachtspunt van de EU-rapporteurs benadrukken waarbij aandacht wordt gevraagd voor het gebrek van een Nederlandse AI-supercomputer. Is het voor Nederland wel mogelijk om de «grondstoffen» voor AI samen te brengen in een ecosysteem, zolang een dergelijke supercomputer ontbreekt?

Het bijeenbrengen van een AI-ecosysteem is in feite mogelijk, zelfs als Nederland geen eigen AI-supercomputer heeft. Er kan namelijk toegang worden verkregen op het Europese deel van de EuroHPC supercomputers. Daarnaast kan er worden geïnvesteerd in EuroHPC-consortia om daarmee eigen rekentijd te krijgen op een AI-supercomputer in een ander Europees land. De verwachting is echter wel dat voor de onderwerpen data en talent een eigen AI-supercomputer een positieve impuls zal geven. Momenteel verkent het kabinet de meerwaarde van een nationale AI-faciliteit met rekencapaciteit en expertise voor grootschalige AI-modellen. Het gaat hierbij onder andere om de meerwaarde voor onderzoek en innovatie, en hiermee een versterking van concurrentievermogen en de aanpak van maatschappelijke uitdagingen.

Verder werkt het kabinet ook al aan het bij elkaar brengen van de bouwstenen voor een sterk Nederlands AI-ecosysteem in de vorm van publiek-private samenwerking (de Nederlandse AI Coalitie) en meerjarige investeringsprogramma’s zoals AiNed via het Nationaal Groeifonds. Dat gaat onder andere over hoogwaardige kennis en kennisdelen, datagebruik en verantwoorde AI, human capital en regionaal actieve hubs om het mkb te bereiken. Het tienjarige AI-programma ROBUST zorgt ervoor dat onderzoek naar betrouwbare AI in Nederland gestimuleerd wordt, dat er nieuwe publiek-private samenwerkingslaboratoria worden opgestart en dat er vele promotieplaatsen beschikbaar komen. Dit moet talentwerving stimuleren waarmee het Nederlandse AI-ecosysteem verder wordt uitgebouwd.

Ten tweede vragen deze leden wat volgens de Minister de invloed is van het verouderen van hogesnelheid glasvezelkabels (zoals de onderzeekabel »Atlantic Crossing 1» of AC 1) en het gebrek aan nieuwe intercontinentale onderzeekabelaansluitingen in Nederland ten opzichte van andere Europese landen als Finland, Ierland en Denemarken, op de ambitie van Nederland op dit vlak. Wat is volgens de Minister de relatieve positie van Nederland ten opzichte van andere Europese landen? Op welke gebieden loopt Nederland voor en op welke achter? Ziet de Minister de relatieve positie op korte- en middellange termijn verbeteren of verslechteren?

De huidige positie van Nederland als knooppunt van internationaal dataverkeer is relatief goed. Het knooppunt is goed ontwikkeld en internationaal verbonden. Dit is het gevolg van een divers netwerk aan onderzeese datakabels⁴, goede connectiviteitsinfrastructuur over land en een van de meest ontwikkelde datacentermarkten van Europa.

De relatieve positie van Nederland staat in de nabije toekomst wel onder druk. Van de resterende negen actieve zeekabels is een vijftal 25 jaar of langer geleden aangelegd. Dit betekent dat de economische levensduur verlopen is en het in de lijn der verwachting ligt dat ze in de aankomende jaren worden uitgefaseerd. De resterende vier zeekabels (aangelegd tussen 2019 en 2022) gaan nog jaren mee en zijn in staat aanzienlijk meer data te vervoeren dan oudere generatie zeekabels. Nieuwe zeekabels zijn dus noodzakelijk om ten minste de uitfasering van de oudere zeekabels in de aankomende jaren op te vangen. Aanvullende zeekabelcapaciteit zou de digitale infrastructuur versterken, waarvan ook het AI ecosysteem profiteert.

Omringende landen zetten beleidsmatig fors in op het aanlanden van nieuwere generatie zeekabels om meer dataverkeer via hun land te leiden. In sommige landen zijn middelen beschikbaar voor (directe of indirecte) publieke financiering of garantstelling voor zeekabelprojecten. Zo hebben Denemarken, Ierland, Frankrijk en Spanje de laatste jaren de aanleg van nieuwe trans-Atlantische kabels gestimuleerd. Ook voeren sommige landen proactief beleid om de digital infrastructuur uit te breiden, bijvoorbeeld door met stimulerend beleid lokale datacentercapaciteit uit te breiden. Dit kan invloed hebben op de relatieve positie van Nederland op de middellange termijn. Met de Zeekabelcoalitie, een publiek-private samenwerking die inzet op het stimuleren van nieuwe zeekabelaanlandingen in Nederland, wordt nu ook in Nederland beleidsmatig strategisch samengewerkt om nieuwe zeekabels te realiseren. De inzet van de coalitie kan positief bijdragen aan de relatieve positie van Nederland.

De aantrekkelijkheid van Nederland als aanlandlocatie voor nieuwe zeekabels wordt ook door andere factoren beïnvloed. Sommige zijn geografisch en historisch bepaald, zoals de ligging aan de drukke en ondiepe Noordzee die Nederland een relatief complexe aanlandplek voor zeekabels maakt. Een andere belangrijke factor is de aanwezigheid van voldoende en hoogwaardige digitale infrastructuur waarop de zeekabels kunnen worden aangesloten, zoals datacenters, internetknooppunten en aansluitnetwerken. Partijen in de sector geven aan dat het imago van Nederland als aanlandlocatie voor zeekabels in internationaal perspectief onder druk staat.⁵ Dit is onder andere het gevolg van recent beperkend beleid op lokaal en nationaal niveau voor de ontwikkeling van nieuwe datacenters, waardoor de groei van deze markt aan banden is gelegd.

De leden van de GroenLinks-PvdA-fractie zijn blij met de beoordeling van het kabinet. Toch vragen zij of het kabinet niet een bouwsteen voor AI over het hoofd ziet. Hoe beoordeelt de Minister het belang van connectiviteit van Nederland, dat wil zeggen de (blijvende) aanwezigheid en toename van (intercontinentale) glasvezelverbindingen als bouwsteen voor AI?

Veilige, betrouwbare en hoogwaardige digitale infrastructuur is essentieel om de mogelijkheden van AI te benutten. Aandacht voor én investeringen in de Nederlandse digitale infrastructuur zijn dus van belang. Glasvezelverbindingen met andere landen, zowel over land als over zee, zijn een belangrijk onderdeel van onze digitale infrastructuur. En als zodanig zijn ze dus ook belangrijk voor nationale ambities op het gebied van AI. Nieuwe glasvezelverbindingen dragen namelijk bij aan het verbeteren van de snelheid, continuïteit en redundantie van connectiviteit, die noodzakelijk is voor het ontwikkelen van AI.

Om ambities rondom AI te realiseren is het echter belangrijk dat onze inzet niet gericht is op afzonderlijke onderdelen van de digitale infrastructuur. De digitale infrastructuur functioneert als een ecosysteem en er is oog nodig voor de samenhang tussen haar onderdelen – de sterkte van dit ecosysteem wordt bepaald door de capaciteit en kwaliteit van haar zwakste schakel. Aansluitnetwerken, zeekabels, datacentra, internetknooppunten en cloudaanbieders versterken elkaar en profiteren van elkaars aanwezigheid. Ontwikkelaars van zeekabels selecteren aanlandlocaties op plekken waar veel data wordt gegenereerd, en waar dus voldoende aanbod aanwezig is van andere onderdelen van digitale infrastructuur, zoals datacenters, aansluitnetwerken en internetknooppunten.

De leden van de GroenLinks-PvdA-fractie zijn verheugd dat zowel Europees als nationaal het belang van AI ingezien wordt. Wel benadrukken deze leden dat het gebruik van AI geen doel op zich is, maar van toegevoegde maatschappelijke waarde moet zijn. Ook hebben de leden vragen over de samenwerking die enkele grote lidstaten van de EU op het gebied van AI binnen het innovatie- en industriebeleid hebben opgezet. Welke lidstaten betreft dit?

Deze betreffen Italië, Duitsland en Frankrijk. Deze drie landen hebben in een aantal recente trilaterale bijeenkomsten de industriële samenwerking in strategische sectoren voor de Europese Unie besproken, onder andere in het kader van AI.

Hoe verhoudt deze samenwerking zich ten opzichte van de Europese plannen en schat de bewindspersoon in of dit tot (on)nodige concurrentie kan leiden?

De samenwerking benadrukt het belang van innovatie en een sterke AI-industrie om als Europese Unie mondiaal concurrerend te kunnen blijven. Het AI-innovatiepakket dat door de Europese Commissie is gelanceerd begin dit jaar bevat de concrete maatregelen om onder andere het Europese durfkapitaalecosysteem te versterken, om talent aan te trekken en om generatieve AI-adoptie te ondersteunen en versnellen in strategische industriële toepassingsgebieden. Hiermee sluiten de Europese plannen aan op de uitgangspunten van de trilaterale samenwerking. Juist door Europees op te trekken kan het Europese concurrentievermogen versterkt worden.

Kan de Minister aangeven waarom Nederland niet meedoet met deze samenwerking en wat de mogelijke kansen zijn die Nederland daardoor laat liggen?

Voor Nederland is het van belang dat er Europees wordt samengewerkt op het gebied van AI binnen het wetenschapsbeleid en het innovatie- en industriebeleid, vanwege de schaalvergroting die nodig is om mondiaal concurrerend te zijn en te kunnen blijven. Daarom verwelkomt het kabinet de maatregelen van de Europese Commissie om het AI-ecosysteem te versterken, waaronder door High-Performance-Computing toegankelijk te maken voor Europese AI-start- en scaleups.

Dat Nederland niet onderdeel was van de trilaterale bijeenkomsten betekent niet dat er geen samenwerking plaatsvindt op het gebied van AI en innovatie. Zo werkt Nederland samen met onder andere Frankrijk en Italië aan een gemeenschappelijke Europese infrastructuur in taaltechnologieën, zoals grote taalmodellen (de Alliance for Language Technologies – European Digital Infrastructure Consortium (ALT-EDIC)). Ook heeft Nederland mede-geïnvesteerd in de aankomende exascale-supercomputer Jules Verne in Frankrijk.

De leden van de GroenLinks-PvdA-fractie hebben geen aanvullende vragen ten aanzien van het fiche verordening supercomputerinitiatief kunstmatige intelligentie (Kamerstuk 22 112, nr. 3907). Wel ontvangen zij graag van de Minister een appreciatie van het fiche in lijn met de vragen die deze leden reeds hierboven hebben gesteld.

Het BNC-fiche verordening supercomputerinitiatief kunstmatige intelligentie bevat de door het kabinet opgestelde lijn in relatie tot het voorstel. De belangrijkste aandachtspunten staan hierin benoemd en worden meegenomen naar de Raad van Concurrentievermogen. Bovenstaande vragen en aandachtspunten worden hier ook in meegenomen.

Vragen en opmerkingen van de leden van de VVD-fractie

De leden van de VVD-fractie danken de Minister voor de fiches en ondersteunen de beoordeling van het kabinet als het neerkomt op de ambities beschreven in de mededeling. Deze leden wensen hierover nog enkele aanvullende vragen te stellen.

De leden van de VVD-fractie lezen dat de EU volgens de Commissie in elk van de bouwstenen van AI – data, rekenkracht, algoritmen en talent – over belangrijke troeven beschikt die benut en versterkt moeten worden. Kan de Minister specifiek ingaan op de beschikbaarheid van deze bouwstenen van AI in Nederland?

Het bevorderen van onderzoekstalent voor AI wordt op verschillende manieren bevorderd, zoals via een beurzenprogramma in het meerjarige AiNed investeringsprogramma en via tal van onderzoekslabs waarin uitdagend onderzoek wordt gedaan, veelal in samenwerking tussen onderzoekers en bedrijven. Op tal van plekken wordt gebouwd aan nieuwe AI toepassingen op basis van beschikbare data, zoals bijvoorbeeld voor het onderhoud van bruggen en tunnels. Onze ICT infrastructuur voor onderzoek en onderwijs (beheer door SURF) is van goede kwaliteit en wordt ook gebruikt voor AI-onderzoek. Maar het belang van rekenkracht neemt snel toe voor het bouwen van nieuwe en complexe AI modellen op basis van veel data. In het AI-innovatiepakket van de Europese Commissie wordt ook hierop ingezet via een impuls voor supercomputers voor AI. Momenteel wordt verkend hoe we hierop als Nederland kunnen inspelen door middel van een Nederlandse AI-faciliteit.

De leden van de VVD-fractie lezen dat het kabinet er waarde aan hecht dat de juiste randvoorwaarden worden gecreëerd om publieke en private partijen te laten investeren in AI-ontwikkeling. Hoe beoordeelt het kabinet de huidig geldende Nederlandse randvoorwaarden om dit doel te bewerkstelligen?

Het kabinet zet in op een goed werkend investeringslandschap middels specifieke financieringsregelingen en fondsen om investeringen in innovatieve startups en scale-ups, waaronder ook AI, te bewerkstelligen. Deze instrumenten richten zich op het financieringsgat en zijn aanvullend aan de markt.

Is het kabinet ook voornemens om deze randvoorwaarden specifiek voor Nederland te verbeteren?

Momenteel worden de durfkapitaalregelingen van het Ministerie van Economische Zaken en Klimaat individueel geëvalueerd. Daarnaast wordt er ook een meta-analyse uitgevoerd van deze evaluaties om een coherenter beeld te verkrijgen. Tegelijkertijd wordt het Interdepartementaal Beleidsonderzoek (IBO) Bedrijfsfinanciering uitgevoerd, waarbij het financieringsinstrumentarium van de Rijksoverheid gezamenlijk wordt onderzocht. Op basis van de resultaten van deze onderzoeken zal het kabinet waar nodig en mogelijk aanpassingen doorvoeren in het instrumentarium.

Ook vragen deze leden hoe veel Nederlandse startups actief zijn in kunstmatige intelligentie, en hoe zich dit verhoudt tot andere lidstaten?

In Nederland zijn momenteel 800 actieve AI-startups, waarvan 87 bedrijven voortkomen uit wetenschappelijk onderzoek en zelf baanbrekende AI-toepassingen ontwikkelen en implementeren Tussen 2019 en 2023 is er in totaal 2,2 miljard euro durfkapitaal geïnvesteerd in bedrijven die AI toepassen, wat overeenkomt met 15% van de totale investeringen in Nederlandse startups en scale-ups. In vergelijking daarmee werd er in dezelfde periode in Europa (EU en VS) 50,2 miljard euro geïnvesteerd in AI, wat ook 15% van de totale investeringen in Europese startups vertegenwoordigt. Daarentegen gaat in de Verenigde Staten 22% van alle investeringen naar AI-startups.

Wordt er in Nederland (en andere lidstaten) voldoende ondersteuning geboden aan AI-startups en scale-ups als het gaat om het voldoen aan alle wet- en regelgeving omtrent AI? Hoe uit dit zich?

Het kabinet werkt aan de implementatie van de AI-verordening, waar bewustwording en duidelijke voorlichting over de regels richting aanbieders en gebruiksverantwoordelijken van AI onderdeel van uitmaakt. Op deze manier kunnen ook AI-startups en scale-ups zich zo goed mogelijk voorbereiden op het van toepassing worden van de bepalingen uit de AI-verordening komende jaren.

Toezichthouders zullen vanuit de eigen sectorale expertise een belangrijke rol spelen in het informeren en ondersteunen van (mkb-)bedrijven met betrekking tot de AI-verordening. Ook zal het mogelijk zijn voor bedrijven, en andere organisaties, om deel te nemen aan regulatory sandboxes. Hierbinnen kunnen toezichthouders samen met de aanbieders van AI werken aan oplossingen voor compliance-vraagstukken. De AI verordening schrijft daarbij voor dat mkb-bedrijven prioritaire toegang moeten krijgen tot de regulatory sandboxes, voor zover ze voldoen aan de toelatingsvoorwaarden en selectiecriteria. AI-aanbieders kunnen hier hulp krijgen bij het beantwoorden van lastige vragen over de regelgeving, en toezichthouders kunnen de uitkomsten hiervan vervolgens gebruiken voor duidelijkere en effectievere toelichting over de regelgeving.

Hoe worden AI-startups en scale-ups aangemoedigd om zich in de EU te vestigen en uit te breiden?

Aan het begin van dit jaar heeft de Europese Commissie een reeks maatregelen gelanceerd om startups en het mkb te helpen bij het bevorderen van AI-ontwikkeling. Dit omvat het vrijmaken van aanzienlijke investeringen voor AI-systemen ontwikkeld door Europese bedrijven, evenals het verstrekken van toegang tot supercomputers voor startups.

Bovendien lezen de leden van de VVD-fractie dat het kabinet de benadering van de Commissie steunt om via bestaande initiatieven het mogelijk te maken om speciale AI-processorchips binnen de EU te ontwikkelen en toe te passen. Welke rol kan het sterke Nederlandse halfgeleiderecosysteem hierin spelen?

AI is een grote drijvende kracht achter de uitbreiding van de chipindustrie en de toename van de vraag naar meer rekenkracht. Het Nederlandse halfgeleiderecosysteem is met name sterk op het vlak van machinebouw bedoeld voor de productie van chips en is minder sterk gepositioneerd op chipontwerp voor een grote groeimarkt als AI. Het Nederlandse ecosysteem kent wel meerdere startups die zich specialiseren in het ontwerpen van AI-processorchips voor edge-toepassingen. Edge-AI is een opkomende trend waarbij AI direct op (consumenten)apparaten zoals Internet of Things-apparaten, beveiligingscamera’s en sensoren wordt toegepast, in plaats van dat de data op afstand wordt verwerkt in de cloud. Daarvoor worden speciale AI-processorchips ingezet om deze rekenkracht direct en zo dicht mogelijk bij de gebruiker toe te passen. Meerdere Nederlandse startups ontwikkelen speciale AI-processorchips voor dergelijke toepassingen en daar wordt vanuit de markt en bijvoorbeeld InvestNL ook in geïnvesteerd. Daarnaast zijn er meerdere Nederlandse bedrijven wiens producten in AI-toepassingen worden gebruikt, bijvoorbeeld voor machine learning taken in de automotivesector. Het Nederlandse halfgeleiderecosysteem kan op verschillende manieren een rol spelen, zowel op het vlak van ontwerp als op het vlak van toepassingen. Op welke manier dat precies kan, zal ook afhangen van de vraag welke soort AI-processorchips binnen de EU ontwikkeld en toegepast zullen worden.

Is het kabinet bereid om in gesprek te gaan met vertegenwoordigers van het halfgeleiderecosysteem om ze te wijzen op de mogelijkheden die hieruit ontstaan voor de sector? (8)

Het kabinet spreekt regelmatig met allerlei vertegenwoordigers van het halfgeleiderecosysteem, zowel met consortia als met individuele halfgeleiderbedrijven. In die gesprekken staan de uitdagingen, maar ook de kansen voor de sector veelal centraal. Waar zich mogelijkheden op het vlak van de ontwikkeling en toepassing van AI-processorchips aandienen, zal dat ook onderdeel van de gesprekken vormen.

Het stemt deze leden tevens positief dat er wordt ingezet op een veilige en privacybeschermende infrastructuur als het gaat om gemeenschappelijke Europese dataruimten. Hoe wordt ervoor gezorgd dat de digitale infrastructuur in Nederland zo is ingericht dat consumenten zeggenschap behouden over hun eigen gegevens en dat hun gegevens veilig gewaarborgd worden? (9)

Nederland heeft verschillende wet- en regelgeving die bijdragen aan een digitale infrastructuur waar consumenten zeggenschap behouden over persoonsgegevens en waar gegevens veilig gewaarborgd worden. De Algemene Verordening Gegevensbescherming (AVG) regelt de bescherming van persoonsgegevens door verplichting op te leggen aan organisaties die persoonsgegevens verwerken. Voor het veilig waarborgen van gegevens moeten organisaties adequate beveiligingsmaatregelen treffen, bijvoorbeeld het pseudonimiseren of versleutelen van gegevens. Ook geeft de AVG consumenten rechten die helpen bij het behoud van zeggenschap over eigen gegevens, zoals het recht op inzage, correctie en verwijdering. De Autoriteit Persoonsgegevens (AP) ziet toe op de naleving van de AVG, en kan boetes opleggen aan organisaties die zich niet aan de regels houden. Ook voorlichting geven over het behoud van zeggenschap over persoonsgegevens is een wettelijke taak van het AP, die wordt uitgevoerd via het Informatie- en Meldpunt Privacy.

De Dataverordening, die in september 2025 van toepassing zal zijn, geeft consumenten, als gebruikers van een verbonden product of gerelateerde dienst, bovendien het recht op toegang tot de gegevens die door hun gebruik worden gegenereerd en het recht deze gegevens te delen met derde partijen. Dit geeft consumenten controle over het gebruik van de gegevens en stelt ze in staat de gegevens te gebruiken op een voor hun waardevolle manier.

Vragen en opmerkingen van de leden van de NSC-fractie

De leden van de NSC-fractie hebben met interesse kennisgenomen van de BNC-fiches. Deze leden waarderen deze initiatieven om de innovatie van opkomende technologieën te stimuleren, Nederlandse start-ups en scale-ups te helpen groeien en de digitale autonomie van Nederland te versterken. Daarnaast hebben zij nog enkele vragen aan de Minister.

De leden van de NSC-fractie lezen dat betrouwbare AI een van de kernpunten is van dit fiche. Deze leden vragen daarbij wel aan de Minister hoe zij de term »betrouwbare AI» definieert. Welke meetbare voorwaarden zijn er bijvoorbeeld verbonden aan deze definitie?

De AI-verordening stelt eisen aan hoog-risico AI. Het doel van die eisen is dat eventuele risico’s die gebruik van die AI met zich meebrengt, gemitigeerd worden. Die eisen houden onder andere in dat er een risicomanagementsysteem en een kwaliteitsmanagementsysteem moeten worden gebruikt tijdens de ontwikkeling en dat er heldere documentatie en gebruikersinstructies moeten worden opgesteld. Ook bij het gebruik van die AI moeten de gebruiksinstructies worden opgevolgd. Doel hiervan is om te zorgen dat de uitkomsten van een AI systeem niet tot problemen voor gezondheid, veiligheid of fundamentele rechten gaat leiden. En daarmee dus betrouwbaar is. Gegeven de zeer brede gebruiksmogelijkheden voor AI, is het niet mogelijk om algemene meetbare voorwaarden aan AI te stellen.

De leden van de NSC-fractie lezen dat de EU mede-investeert in de ontwikkelingen van Europese AI omwille van het belang van de technologische soevereiniteit. Dit lezen deze leden bijvoorbeeld in de Europese Veiligheidsstrategie en de Aanbeveling Kritische Technologieën van de Commissie. Deelt de Minister deze visie met de Commissie, waarbij wij AI en technologische vooruitgang ook veel meer moeten gaan bekijken vanuit een perspectief van strategische autonomie.

Ja, het kabinet ziet het belang van kritieke technologieën in relatie tot de Europese open strategische autonomie. Dit is onder meer uiteengezet in de Agenda Digitale Open Strategische Autonomie en de Nationale Technologiestrategie. In het bijzonder is het kabinet actief in het beïnvloeden van de Europese discussies op deze thematiek, waaronder tijdens de totstandkoming van de Europese Veiligheidsstrategie en de Aanbeveling Kritische Technologieën.

En dat het daarmee dus ook onwenselijk is om steeds meer aspecten van de digitale infrastructuur, zoals AI, software en clouddiensten uit te besteden aan partijen buiten de EU?

Onder «open» strategische autonomie verstaat het kabinet dat Nederland open is waar het kan, beschermend waar het moet. Juist onze open economie heeft er de afgelopen decennia mede voor gezorgd dat de Nederlandse welvaart hoog is en Nederlandse bedrijven internationaal innovatief én concurrerend zijn. Daarbij is het belangrijk om te realiseren dat volledige uitbanning van alle risico’s en afhankelijkheden onrealistisch is. Het is daarom van belang om, op basis van een gedegen kennis van waar de kansen en risico’s zich voordoen, slimme keuzes te maken wat we wel zelf willen doen in Nederland en in EU-verband, en waar we met partnerlanden op samen willen werken. Voor het kabinet is belangrijk dat de risico’s van specifieke afhankelijkheden met de grootste impact op de nationale veiligheid, het verdienvermogen en de maatschappij op een bewuste en evenwichtige manier geadresseerd worden om de weerbaarheid te versterken.

Tevens vragen deze leden welke beoogde rol het kabinet ziet voor Nederland binnen de Europese dataruimten en van welke Nederlandse data het kabinet voorziet dat deze toegevoegd worden aan deze dataruimten.

Het kabinet heeft de afgelopen jaar ingezet op kennisopbouw rondom datadelen tussen bedrijven, onder andere via het Centre of Excellence for Data Sharing & Cloud. Ook zijn er via het Nationaal Groeifonds meerdere projecten (DMI, DIL, Health-RI) gefinancierd die bijdragen aan het effectiever uitwisselen van data, en heeft TNO als Nederlands kennisinstituut een belangrijke rol in het ondersteunen van de dataruimten, zowel in Nederland als in de EU, onder andere via het Data Spaces Support Centre. Nederlandse bedrijven en organisaties bepalen echter zelf of zij interesse hebben om deel te nemen in gemeenschappelijke Europese dataruimten. RVO kan bedrijven of organisaties hierin ondersteunen. Ook stelt het kabinet voor enkele dataruimten binnen het Digital Europe-programma een budget beschikbaar voor nationale cofinanciering. Bedrijven en organisaties kunnen deze cofinanciering alleen aanvragen als ze voor een van deze calls bij de Europese Commissie subsidie hebben aangevraagd én toegewezen hebben gekregen.

Binnen dataruimten wordt data alleen uit eigen beweging beschikbaar gesteld. Bedrijven en organisaties die deelnemen aan een dataruimte beslissen zelf wie toegang kan krijgen tot welke data en voor welke doeleinden. Wel kunnen dataruimten gebruik maken van zogenaamde specifieke hoogwaardige gegevenssets, zoals beschreven in de Open Data Richtlijn. Deze gegevenssets bevatten openbare overheidsinformatie, zoals statistieken of geografische gegevens, waarvan het hergebruik van deze data grote voordelen kan hebben voor de samenleving en de economie.

De leden van de NSC-fractie willen graag van de Minister weten of zij voorbeelden heeft van Nederlandse kennisinstellingen en start-ups/scale-ups die in het verleden met behulp van het EuroHPC-programma gunstige resultaten hebben geboekt.

Zowel op de calls voor het verkrijgen van Europese rekenkracht als bij calls voor de ontwikkeling van HPC-toepassingen zijn er voorbeelden van Nederlandse organisaties die daarbij succes hebben geboekt. Op calls voor toegang tot rekenkracht zijn dit onder andere de TU Eindhoven en de TU Delft. En als het gaat om de ontwikkeling van HPC-toepassingen zijn dit bijvoorbeeld de Universiteit Utrecht, Rijksuniversiteit Groningen en SURF.

Deze leden willen weten welke stappen de Minister voornemens is te zetten om Nederlandse consortia optimaal in stelling te brengen om effectief gebruik te maken van de AI-capaciteit van EuroHPC.

Om Nederlandse consortia optimaal in stelling te brengen om effectief gebruik te maken van de AI-capaciteit van EuroHPC biedt Nederland sinds 2023 cofinanciering voor de deelname van Nederlandse organisaties aan HPC-projecten die gefinancierd worden door de gemeenschappelijke onderneming EuroHPC⁶. Tot nu toe is er een bedrag van bijna 2,5 miljoen euro aan cofinanciering gecommitteerd.

Heeft de Minister daarnaast al weet van Nederlandse partijen die aanspraak willen maken op deze capaciteit?

Vanuit het regelmatige contact dat de Minister met Nederlandse veldpartijen onderhoudt heeft de Minister weet van hun respectievelijke intenties om aanspraak te maken op de Nederlandse cofinanciering. Omwille van bedrijfsgevoelige informatie kan de Minister geen nadere uitspraken doen over specifieke Nederlandse partijen.

Vragen en opmerkingen van de leden van de D66-fractie

De leden van de D66-fractie hebben met interesse kennisgenomen van de bovengenoemde fiches. De genoemde leden hebben hier nog enkele vragen en opmerkingen over.

In de mededeling over het stimuleren van startups en innovatie in betrouwbare AI worden maatregelen voorgesteld over Europa koploper te laten worden in betrouwbare AI-modellen. De leden van de D66-fractie verwelkomen de maatregelen die in dit kader zijn voorgesteld. In hoeverre zijn deze maatregelen in afstemming met het bedrijfsleven en het maatschappelijk veld op dit terrein opgesteld, zo vragen deze leden.

Of en in hoeverre de Europese Commissie de maatregelen uit het strategisch kader hebben opgesteld in afstemming met het bedrijfsleven en het maatschappelijk veld is niet bekend bij het kabinet. Binnen EuroHPC zelf is het bedrijfsleven wel vertegenwoordigd middels koepelorganisaties.

De leden van de D66-fractie constateren dat ook het kabinet de mening deelt van de Europese Commissie dat het aantrekken van investeringen, waaronder durfkapitaal, voor Europese AI-startups cruciaal is voor het versnellen van de inzet van AI-oplossingen en innovaties. Deze leden verwelkomen ook de financiële instrumenten die daarvoor beschikbaar zijn, zoals de European Innovation Council. Tegelijkertijd vragen deze leden in hoeverre deze instrumenten en de beschikbare middelen die nu gevonden worden kunnen concurreren met de investeringen die in andere markten worden gedaan?

De beschikbare financiële instrumenten en middelen gericht op investeringen in AI-startups geven invulling aan de noodzaak om de concurrentiepositie van Europa ten aanzien van andere markten op het gebied van AI te verbeteren. Deze instrumenten en middelen moedigen AI-startups aan hun activiteiten en dataverwerving, opslag en gebruik in Europa te ontplooien. Tevens zorgen deze instrumenten en middelen ervoor dat Europese startups minder afhankelijk worden van opslag- en rekencapaciteit en aandelenkapitaal van buiten Europa. Tegelijkertijd is de verwachting dat deze instrumenten en middelen het bestaande financieringsgat met andere markten op het gebied van durfkapitaalinvesteringen slechts beperkt verkleinen.

Wat is er nodig om de Europese markt concurrerend te krijgen en welke stappen neemt het Nederlandse kabinet hiertoe?

Om de Europese markt concurrerend te krijgen is het nodig dat Europese bedrijven en kennisinstellingen verbeterde toegang krijgen tot rekenkracht via excellente onderzoeks- en innovatiefaciliteiten en de benodigde private durfkapitaalinvesteringen. Daarnaast is een versterkte inzet op EU-industriebeleid nodig. Het Nederlandse kabinet draagt actief bij aan de Europese concurrentiepositie door onder andere nationale cofinancieringsmiddelen beschikbaar te stellen uit het fonds voor onderzoek en wetenschap en door actief in te zetten op de Europese samenwerking en een breed spectrum aan durfkapitaalinstrumenten.

Ook lezen zij dat «enkele grote lidstaten» het concurrentievermogen zien als een prioriteit voor Europees beleid. Hoe staat het kabinet hiertegenover?

In lijn met de beantwoording op de vraag van GroenLinks-PvdA vindt het kabinet het belangrijk dat er Europees wordt samengewerkt om het concurrentievermogen van de EU op het gebied van AI te versterken. Het kabinet erkent dat de snelle ontwikkelingen rondom grote AI-modellen met algemene doeleinden veelal plaatsvinden buiten de EU, door de miljardeninvesteringen aldaar. Gezien het economisch en maatschappelijk potentieel van deze technologie ziet ook het kabinet het belang dat de EU de ontwikkelingen van deze technologie beheerst en dat het in strategische sectoren wordt toegepast. Daarbij is het belangrijk dat de ontwikkelingen en toepassingen op een verantwoorde manier plaatsvinden en dat publieke belangen en waarden geborgd worden.

Voorts hebben de leden van de D66-fractie kennisgenomen van het voorstel met betrekking tot supercomputers. Vanuit de Commissie wordt er een totaalbedrag van € 2,1 miljard geïnvesteerd. Het is echter niet duidelijk ten koste waarvan deze verschuiving mogelijk is. Deze leden zien hier graag een toelichting op.

Deze € 2,1 miljard is het reeds beschikbare budget van de EuroHPC JU. De verschuiving ten gunste van de AI-fabrieken vinden plaats binnen dit bestaande budget. Er wordt voorzien om € 400 miljoen dat gereserveerd staat voor een «reguliere» post-exascale supercomputer in te zetten voor de AI-fabrieken. De reden voor deze verschuiving is dat we qua technologische voortgang nu nog erg vroeg zijn voor een post-exascale supercomputer. De Europese exascale supercomputers moeten nog worden opgeleverd en de behoefte aan AI-rekenkracht is op dit moment heel groot.

Verder zijn zij benieuwd hoe er wordt bepaald waar de supercomputers voor worden ingezet.

De inzet van de beschikbare Europese rekenkracht op de supercomputers wordt bepaald aan de hand van calls voor toegang. Geïnteresseerde en in aanmerking komende gebruikers (onderzoekers en (mkb-)bedrijven) kunnen voorstellen indienen die op kwaliteit worden beoordeeld en gerangschikt, hierbij zal geen inhoudelijke selectie gemaakt worden. Voor de rekenkracht van de nationale delen op de EuroHPC supercomputers mogen de landen zelf bepalen welke voorwaarden en voorkeuren gelden voor de verdeling van de rekenkracht.

Tenslotte lezen de leden van de D66-fractie dat Nederland investeert in de ontwikkeling van de Franse supercomputer, in ruil voor toegang tot een deel van de rekentijd op de supercomputer. Deze leden zien graag een uitleg over hoe er wordt bepaald welke berekeningen met deze supercomputer zullen worden uitgevoerd.

In navolging op de vorige vraag wordt het Europese deel van de toekomstige Jules Verne supercomputer ingezet middels calls voor toegang. De andere helft van de rekentijd wordt naar rato van inleg verdeeld tussen Frankrijk en Nederland. Voor het Nederlandse aandeel is het plan om hetzelfde model toe te passen als er nu voor het Nederlandse aandeel in LUMI (consortium onder leiding van Finland) wordt vormgegeven. Het Nederlandse aandeel van de beschikbare rekentijd wordt beschikbaar gesteld via de (jaarlijkse) Call Rekentijd Nationale Computersystemen van NWO. Nederland heeft geen invloed op welke berekeningen er op het Europese en Franse deel worden uitgevoerd.

In hoeverre is het mogelijk dat Nederland een eigen supercomputer tot stand brengt?

Nederland heeft al lange tijd een eigen nationale supercomputer die beheerd wordt door SURF. Sinds 2021 is dat Snellius. Deze supercomputer voorziet in een groot deel van de reguliere behoefte aan rekenkracht van de Nederlandse wetenschap. Daarnaast is het mogelijk dat Nederland een EuroHPC supercomputer tot stand brengt door een Nederlands consortium te laten reageren op een EuroHPC call voor de bouw en het beheer van een nieuwe (AI-)supercomputer. Hiervoor moet wel worden voorzien in de 50% cofinanciering dat EuroHPC vereist. Dit moet door het consortium bij elkaar worden gebracht en kan vanuit meerdere landen komen.

Vragen en opmerkingen van de leden van de BBB-fractie

De leden van de BBB-fractie hebben kennisgenomen van het fiche mededeling stimuleren startups en innovatie in betrouwbare AI (Kamerstuk 22 112, nr. 3908) en het fiche verordening supercomputerinitiatief kunstmatige intelligentie (Kamerstuk 22 112, nr. 3907). Deze leden hebben vragen en opmerkingen over beide documenten.

De leden van de BBB-fractie hebben vernomen dat Nederland meebetaalt via het Ministerie van Onderwijs, Cultuur en Wetenschap aan de nieuwe EuroHPC-supercomputer Jules Verne, die in Frankrijk wordt gebouwd. Deze leden vragen hoe de rekentijd wordt verdeeld van de schaarse capaciteit.

In lijn met de beantwoording op de vraag van D66 wordt het Europese deel van de toekomstige Jules Verne supercomputer ingezet middels calls voor toegang. De andere helft van de rekentijd wordt naar rato van inleg verdeeld tussen Frankrijk en Nederland. Voor het Nederlandse aandeel is het plan om hetzelfde model toe te passen als er nu voor het Nederlandse aandeel in LUMI (consortium onder leiding van Finland) wordt vormgegeven. Het Nederlandse aandeel van de beschikbare rekentijd wordt beschikbaar gesteld via de (jaarlijkse) Call Rekentijd Nationale Computersystemen van NWO. Nederland heeft geen invloed op welke berekeningen er op het Europese en Franse deel worden uitgevoerd.

De leden van de BBB-fractie vragen tevens of de Minister nader in kan gaan op het mogelijke risico voor de bescherming van persoonsgegevens en het borgen van de rechten van derden bij meer (her-)gebruik van (open) data in combinatie met AI.

Daarnaast vernemen deze leden graag welke visie het kabinet heeft op het borgen van privacy bij (her-)gebruik van open data door AI-modellen.

Het is voor de toepassing van het gegevensbeschermingskader in de AVG essentieel of de gegevens die worden verwerkt persoonsgegevens zijn, ofwel informatie over een identificeerbaar individu betreffen. Het kabinet ziet dat de vraag of sprake is van persoonsgegeven in de zin van de Algemene Verordening Gegevensbescherming (AVG) in de loop van de tijd steeds complexer is geworden, vooral in het licht van technologische ontwikkelingen, de algemene toegankelijkheid van technologieën en het streven naar meer open data. Door deze ontwikkelingen wordt het steeds makkelijker om persoonsgegevens af te leiden uit datasets die dergelijke gegevens op het eerste gezicht niet lijken te bevatten.

Tegen deze achtergrond heeft het kabinet opdracht gegeven aan het WODC om te onderzoeken welk effect huidige en toekomstige technische ontwikkelingen op het gebied van anonimisering, pseudonimisering, aggregatie en identificatie van gegevens, op het gegevensbeschermingskader en de bescherming van de verschillende soorten gegevens hebben. Dat heeft geresulteerd in het onderzoekrapport De invloed van (technische) ontwikkelingen op het begrip persoonsgegevens in relatie tot de AVG. De beleidsreactie naar aanleiding van dat onderzoek is op 8 april 2024 (Kamerstuk 32 761, nr. 296) door de Minister voor Rechtsbescherming aangeboden aan de Tweede Kamer. Daarin wordt geconcludeerd dat de AVG een robuust kader biedt om persoonsgegevensvraagstukken die opkomen met nieuwe technologische ontwikkelingen, zoals AI, te beoordelen en te reguleren. Open datasets mogen in principe geen persoonsgegevens bevatten, maar kunnen, bijvoorbeeld met behulp van nieuwe technologieën, wel worden ingezet in bewerkingen en recombinatieprocessen waaruit persoonsgegevens kunnen worden afgeleid. Dat betekent dat in voorkomende gevallen de juridische status van data volatieler wordt. Onveranderd blijft echter dat als datasets op enig moment persoonsgegevens bevatten, daarop het beschermingsregime van de AVG van toepassing is. Gerecombineerde datasets die persoonsgegevens bevatten vallen daarmee onder het AVG-regime. Daarbij verdient het te worden benadrukt dat, juist om de bescherming van persoonsgegevens in de steeds verder digitaliserende wereld optimaal in te richten, de AVG technologieneutraal is geformuleerd. De toepasselijkheid van de AVG is niet afhankelijk van de gebruikte technologieën en biedt zodoende ook een degelijke rechtsbescherming bij technologische ontwikkelingen zoals AI.

---

1. Commission Decision establishing the European Artificial Intelligence Office C(2024) 390, 24 januari 2024.↩︎

2. In het BNC-fiche was aangegeven dat dit in de geannoteerde agenda voor de formele Telecomraad van 21 mei 2024 meegenomen zou worden (Kamerstuk 21 501-33, nr. 1068).↩︎

3. Kamerstuk 22 112, nr. 3928.↩︎

4. In het vervolg naar verwezen als «zeekabels».↩︎

5. Zie pagina 3 van Position paper Stratix t.b.v. rondetafelgesprek Digitale infrastructuur en economie d.d. 18 april 2024.↩︎

6. Regeling nationale EZK- en LNV-subsidies, 3.25. High-performance computing-projecten (HPC-projecten).↩︎