Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2019-2020

35 229 Parlementair onderzoek digitale toekomst

Nr. 2 VERSLAG VAN EEN RONDETAFELGESPREK

Vastgesteld 10 oktober 2019

De tijdelijke commissie Digitale toekomst heeft op 23 september 2019 gesprekken gevoerd in het kader van een openbare kennisbijeenkomst.

Van deze gesprekken brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie,
Buitenweg

De griffier van de commissie,
Jansma

Voorzitter: Verhoeven

Griffier: Jansma

Aanwezig zijn zes leden der Kamer, te weten: Azarkan, Buitenweg, Van Dam, Middendorp, Van Otterloo en Verhoeven.

Aanvang 10.03 uur.

De voorzitter:

Goedemorgen, beste mensen. Ik wil de bijeenkomst van de tijdelijke commissie Digitale toekomst bij dezen openen. We hebben vandaag de tweede openbare kennisbijeenkomst in een serie van drie in deze prachtige maand september.

Ik heb een afmelding van mevrouw Van Weerdenburg, die er vandaag niet kan zijn. Ik verwacht zo dadelijk nog de heer Middendorp van de VVD. Mevrouw Buitenweg heeft zich voor het ochtendgedeelte moeten afmelden.

Blok 1

Gesprek met:

– de heer Haroon Sheikh en de heer Erik Schrijvers, wetenschappelijk medewerkers Wetenschappelijke Raad voor het Regeringsbeleid (WRR)

De voorzitter:

Ik ga direct door naar het programma, want we hebben hier de heren Haroon Sheikh en Erik Schrijvers te gast. Beiden zijn wetenschappelijk medewerker bij de Wetenschappelijke Raad voor het Regeringsbeleid. We doen het net als twee weken geleden: eerst vragen we een inleiding van een minuut of vijf à tien en daarna gaan we met elkaar in gesprek. Mag ik de heer Schrijvers het woord geven?

De heer Schrijvers:

Dank voor de uitnodiging. We doen het om beurten. Ik zal mezelf even voorstellen. Ik ben Erik Schrijvers, wetenschappelijk medewerker. In de afgelopen jaren ben ik betrokken geweest bij projecten over big data en governance van het internet. Het afgelopen anderhalf jaar heb ik gewerkt aan het project over digitale ontwrichting. Het rapport daarover is twee weken geleden uitgekomen; misschien heeft u dat al gezien. Ik ben ook met het onderwerp digitale overheid bezig geweest.

Ik wil vooraf twee opmerkingen maken, waarna we de meer inhoudelijke vraagstukken en de thema's waarin u geïnteresseerd bent bespreken. De eerste is de belangrijke vraag waar u de kennis vandaan kunt halen. De Kamer kan voortbouwen op bestaande voorzieningen in het kennislandschap. Een hele reeks van adviesraden heeft rapporten hierover uitgebracht; rapporten waar ook wijzelf voor ons werk naar kijken. Twee. Mocht er een commissie komen, dan zou het heel logisch zijn om een en ander langs dezelfde lijnen te doen als de departementen die nu betrokken zijn bij de digitaliseringsstrategie. Namens de WRR hebben wij daarop eerder commentaar gegeven.

Inhoudelijk is het voor ons vooral de uitdaging om de sterke gerichtheid op het nú een beetje te kunnen loslaten als het om dit vraagstuk gaat; Haroon en ik hebben dat in voorbereiding hierop met elkaar doorgesproken. Er is een enorme focus op de nieuwste trends. We hebben een Blockchain Coalitie, er zijn stukken over blockchain en er komt een AI-strategie aan. Een paar jaar geleden was ik bezig met big data en daar horen we nu eigenlijk heel weinig meer over. Onder heel veel van die vraagstukken en die technologieën liggen meer generieke vragen. In dit gesprek willen we een aantal daarvan toelichten. Dat zal Haroon zo direct doen. Dan ga ik daarna in een klein staartje nog even een paar rapporten noemen en aangeven wat we dan in die rapporten heel specifiek over die generieke vraagstukken opmerken.

De heer Sheikh:

Digitalisering is inderdaad een immens groot vraagstuk, en de opgave is hoe je dan in een kort bestek iets van een inleiding daarop zou kunnen geven. Mijn collega Erik benadrukte al dat wij menen dat het – juist vanwege het hoge tempo waarin steeds nieuwe technologieën ontstaan, waarbij steeds weer strategieën en plannen worden ontwikkeld – goed is om even een stap terug te doen en te kijken wat nou een groter kader is waarbinnen we veel trends in digitalisering kunnen begrijpen.

Laat me dat doen aan de hand van één centrale thematiek, namelijk het idee dat de wereld van digitalisering en de fysieke wereld meer en meer met elkaar verweven raken. Dat gegeven leidt tot allerlei nieuwe vraagstukken, omdat je zou moeten zeggen dat de digitale wereld en de fysieke wereld eigenlijk elk een eigen logica of een eigen architectuur hebben. Die verschillende logica's, of die verschillende architecturen, raken met elkaar verweven en dat leidt dus tot allerlei nieuwe vraagstukken.

Laat me dat doen aan de hand van drie niveaus: het niveau van de leefwereld van de burger of het microniveau, een wat breder niveau van de maatschappelijke uitdagingen die die grotere verwevenheid met zich meebrengt, en ten slotte het internationale niveau en het geopolitieke speelveld dat in het verlengde hiervan ligt.

Hoe zien we op het niveau van de leefwereld van de burger dat de digitale wereld en de fysieke wereld meer met elkaar verweven raken? Ten eerste heeft dat te maken met een groeiend aantal dingen die bronnen van data worden, waarbij de logica van dingen en de logica van data dus in elkaar overlopen. Dat wordt vaak het «internet of things» genoemd. Dan hebben we het over zaken als thermostaten in huis, maar ook over het speelgoed van de kinderen, commerciële drones, horloges in huis; eigenlijk allerlei zaken achter de voordeur die vroeger afgeronde dingen en objecten waren en nu plotseling bronnen van data zijn. Die bronnen van data trekken de directe leefwereld van burgers veel meer in het digitale domein, met alle vraagstukken die dat met zich meebrengt; bijvoorbeeld vragen over privacy, en vragen over wat voor soort persoonlijke informatie via slim speelgoed gedeeld wordt.

In de leefwereld van burgers worden niet alleen meer objecten digitaal, maar ook de aard van onze omgang met de digitale wereld verandert. Dat zou je als volgt kunnen karakteriseren. We zien eigenlijk in digitalisering een beweging naar steeds intiemere interfaces. In de loop van de tijd van digitalisering zijn interfaces steeds dichter op onze huid komen te zitten. Van de grafische interface en de muis naar de smartphone met het touchscreen, waarbij eigenlijk onze hand de digitale wereld werd ingetrokken. We zien nu een beweging naar nog veel intiemere interfaces. De meeste ontwikkelingen vinden plaats op het gebied van de stem; denk aan Siri, Alexa en Cortana en allerlei technologieën die inhaken op onze stem, en alle informatie die daarin zit, om ons met de digitale wereld te verbinden. Maar ook via het oog zijn er eigenlijk allerlei veel intiemere manieren waarop wij met de digitale wereld verbonden raken; in de vorm van VR en AR. Dit zal dus nieuwe vraagstukken met zich meebrengen, omdat deze intiemere interfaces veel intiemere informatie delen; waar mijn oog naartoe gaat als ik in VR ergens naar kijk, geeft informatie over mijn onbewuste beslissingen.

Dat wat betreft de leefwereld van burgers.

Waar zien we die groeiende verwevenheid op een breder maatschappelijk niveau terugkomen? Ik zou graag twee dingen willen benadrukken. Ten eerste hebben we in de ons bekende fysieke wereld te maken met producenten van specifieke eindproducten, die in vaste categorieën vallen en wat dat betreft redelijk onveranderlijk zijn. Voor de digitale wereld geldt eigenlijk dat geen enkel product ooit een eindproduct is. Alles blijft continu een halffabricaat, namelijk een bron van data, op basis waarvan nieuwe toepassingen en producten ontwikkeld kunnen worden. Bijvoorbeeld: wat ooit misschien een foto was die werd gedeeld op een socialmedianetwerk, wordt in een volgende fase een bron van informatie over iemands emotie, seksuele geaardheid of eventueel zelfs medische geschiedenis.

Die dynamiek van steeds groeiende lagen van kennis die bovenop oude producten worden gemaakt, brengt ons als maatschappij de uitdaging hoe we producten categoriseren en hoe we van tevoren kunnen zien wat het bereik van bepaalde producten kan zijn. Die dynamiek leidt er bovendien toe dat het voor burgers vaak een inherent onvoorspelbaar karakter heeft wat digitalisering doet. Dat heeft als gevolg dat er een groeiende angst ontstaat, en een groeiend gevoel dat er meer controle op digitalisering moet zijn, juist omdat het veel van die klassieke grenzen overschrijdt.

Laat me kort nog iets zeggen over het laatste domein, want we hebben voor de introductie een kort tijdsbestek gekregen.

Op het internationale domein zien we de invloed van de groeiende verwevenheid tussen de fysieke en de digitale wereld. Een belangrijke dynamiek daarin is volgens mij het idee dat ook het internet zelf echt een object is van geopolitieke rivaliteit; dat idee speelt in andere landen al langer en breder dan in ons land. Dat heeft verschillende consequenties. Het uit zich bijvoorbeeld in het vraagstuk rondom afhankelijkheden. Mijn collega zal daar straks nog iets specifieks over zeggen, maar ook hier geldt dat we voor heel veel zaken, van infrastructuren tot diensten, afhankelijk zijn geworden van verschillende en vaak buitenlandse leveranciers. Dat zijn private leveranciers, dan wel leveranciers in overheidshanden, bijvoorbeeld leveranciers van clouddiensten of door ons gebruikte noodzakelijke software. Dat roept vragen op over de mate waarin bijvoorbeeld ook overheidsdiensten afhankelijk zijn geworden van specifieke externe leveranciers.

Het roept daarnaast vragen op ten aanzien van investeringen. Met name doordat die digitale wereld zo diep verweven is en de leverancier of producent continu in het proces aanwezig blijft – in contrast met de voorgaande fysieke wereld – is het de vraag welke infrastructuren voor ons belangrijk zijn om zelf te overzien, om zelf eventueel controle op te houden en om bijvoorbeeld niet het object van een buitenlandse overname te laten zijn.

Ten slotte roept die internationale dimensie de vraag op in welke mate we brede geïntegreerde strategieën nodig hebben om al dan niet mee te doen in die rivaliteit. Dat is denk ik een van de dingen waarop we straks verder kunnen ingaan; bijvoorbeeld rondom het vraagstuk van AI wordt een immense hoeveelheid van strategieën ontwikkeld, van investering in onderwijs tot aan grote overheidsinvesteringen in infrastructuur. Dat stelt ons ook voor de vraag wat Nederland zelf moet doen om daarop een antwoord te geven.

De heer Schrijvers:

Nog even een korte toelichting op een aantal rapporten en stellingen hierover.

Laat ik aanhaken op dat punt van die afhankelijkheid. Twee weken geleden hebben we een rapport uitgebracht: Voorbereiden op digitale ontwrichting. Het focust heel specifiek op situaties waarin verstoring en uitval van digitale systemen een groot maatschappelijk effect heeft, doordat we er heel veel fysieke voorzieningen aan verbonden hebben. We zien het aantal incidenten toenemen en de kosten van die incidenten oplopen. Als het specifiek om aanvallen gaat, zijn die voor een deel ook een instrument in geopolitieke spanningen geworden; dat raakt dus steeds vaker de vitale infrastructuur. We zien dat dat eigenlijk nog niet voldoende op het netvlies staat. We denken als land dat we dit probleem met preventieve maatregelen eigenlijk toch wel voldoende kunnen afdekken, en Nederland is daarin zeker niet het enige land. Maar het gaat eigenlijk zo snel, dat wat ons betreft ook de vraag moet worden gesteld wat je doet als het misgaat, want daar moet je eigenlijk op voorhand al stappen in zetten. Het gaat dus om de vraag of we een plan B hebben; ik vind dat een mooie vraag om af en toe in de Kamer te stellen als het om digitalisering gaat.

Een eerder rapport ging over het internet in de volle breedte. Het wordt natuurlijk steeds drukker op het internet en er wordt steeds meer op gebouwd. Het was eerst vooral een fysieke en een technische laag. Je ziet er steeds meer partijen op komen en steeds meer toepassingen. Daar begon voor ons de vraag wat hier nu eigenlijk allemaal achter zit. Vanwege de wereldwijde grote afhankelijkheid van het internet zijn landen zich steeds meer gaan bemoeien met het beheer van het internet. Het pleidooi in het rapport, dat overigens door het kabinet is opgepakt, was om een aantal basisprotocollen te vrijwaren van statelijke bemoeienis. Ik zeg er meteen bij dat het zeker nog geen gelopen race is. Een van de dingen die daarbij hoort, is een debat over hoe diep staten wel of niet mogen ingrijpen in hard- en software om het internet te verstoren. Er is een groot debat, niet zozeer over fragmentatie van internet, als wel over de mate waarin verschillende landen proberen het internet en alles wat daarop speelt in lijn te brengen met hun eigen belangen.

Een ander rapport ging over big data, het gebruik van bigdatatechnieken en data-analyses in met name het veiligheidsdomein. We hebben daarin gewezen op het belang om niet zozeer de verzameling van gegevens te reguleren, want daarvoor is er al vrij veel, maar om vooral te kijken naar de analyse en het gebruik van die gegevens. Dat is volgens mij nog steeds een heel actueel thema, ook als het om kunstmatige intelligentie gaat. Relevante vragen zijn: wat voor soort foutmarges worden bij dat soort analyses gehanteerd? Naarmate de rechtsgevolgen van een besluit dat daaruit volgt groter zijn, moet de marge kleiner zijn. Hoe deugdelijk zijn die analyses? Zijn de correlaties waarop we ons baseren ondersteund door wetenschappelijke inzichten of niet? Zijn ze doeltreffend? Dat vind ikzelf een hele grote vraag, want we gaan bij dit soort dingen vrij hard, maar de vraag is of het nou inderdaad oplevert wat het belooft op te leveren. Even een voorbeeldje: de Belastingdienst heeft vrij grote claims over wat voor voordelen ze met dergelijke analyses kunnen halen. Het is heel lastig om dat uiteindelijk hard te maken.

Een hele belangrijke vraag is meteen een bruggetje naar het laatste rapport dat ik even kort wil noemen. Bij wie ligt de bewijslast voor de juistheid van dat soort analyses? Die analyses worden steeds complexer en voor burgers steeds lastiger te doorgronden. Hierbij moet ik het rapport iOverheid noemen. Het is al een ouder rapport, uit 2011, maar wat ons betreft nog steeds heel actueel. Twee dingen uit dat rapport. We signaleren dat bij digitaliseringsprojecten het accent heel erg ligt op het verhogen van efficiency en op veiligheidsdoeleinden, en veel minder op waarden als privacy, keuzevrijheid en kwaliteit van dienstverlening. Bij de balans daartussen kun je vragen stellen.

Het tweede punt is dat je ziet dat de overheid door die digitalisering aan de achterkant heel erg verknoopt raakt; het krijgt helemaal een soort netwerkkarakter. Het risico op wat ik maar even het «Hotel Californiasyndroom» noem, is dan heel groot: je checkt één keer in en vervolgens kom je er nooit meer uit. Het vraagstuk van de bijbehorende mechanismen is nog onvoldoende geadresseerd; de mechanismen om ervoor te zorgen dat, als het fout gaat, je als burger daartegen in 't geweer komt, en de vraag of er dan bij de overheid iemand verantwoordelijk is. Ik denk overigens dat Richard van Zwol hierop veel verder zal ingaan. Er wordt toch met een niet heel evenwichtige blik naar dit soort ontwikkelingen gekeken. Elke organisatie doet dit voor zich, maar het is eigenlijk nog heel erg de vraag wie het grotere effect van die digitalisering doorheen de hele overheid coördineert. Wie is daar nou precies verantwoordelijk voor? Wie neemt het op zich als fouten zich in dat systeem verspreiden?

Dit is onze inleiding, bij wijze van eerste aftrap. Wij zijn heel benieuwd naar uw verdere vragen.

De voorzitter:

Zeer veel dank. Wat mij betreft is dit een mooie scherpe aftrap. Mooi om te zien dat alle rapporten van het afgelopen decennium in alle gevallen eigenlijk nog heel actueel zijn.

Ik kijk naar mijn collega's ter linkerzijde. Zonder in de microfoon te spreken, geeft één collega aan dat hij dadelijk veel vragen zal stellen, maar ik begin bij de heer Azarkan.

De heer Azarkan (DENK):

Dank, voorzitter. Dank aan de heren Sheikh en Schrijvers voor hun korte intro. Ik had het idee dat het wat aan de korte kant was. We hebben nog wel even, dus u mag van mij best wat meer uitweiden, omdat u heel interessante informatie met ons te delen heeft.

Ik ben een beetje zoekende naar het grote plaatje en naar de rol van de overheid in het scheppen van een kader. Dat is misschien wat filosofisch, hoewel ik mezelf nou niet zo snel als een filosoof zou willen classificeren. Het gaat niet vanzelf goed. De samenleving ontwikkelt zich; er wordt een aantal ontwikkelingen geschetst op het gebied van de burger, van geopolitiek en van de maatschappij. De deelnemers, producenten, overheid et cetera in die samenleving, dat gaat niet vanzelf goed. Ik vraag aan beide aanwezigen: hebben we nu echt de overtuiging dat die overheid in staat is om met een soort van regels, voor zover die er niet al zijn, daarin echt iets te kunnen veranderen? Of zijn we toch afhankelijk van de grillen van een heleboel producenten die op dit moment hierin al een enorme voorsprong hebben?

De heer Sheikh:

Ik denk dat dit zeker een groot en moeilijk vraagstuk is. Het heeft volgens mij ook te maken met wat ik in de introductie al probeerde aan te geven. Er zit iets inherent onvoorspelbaars in de ontwikkeling van digitale technologie, omdat we eigenlijk gewoon niet weten wat nou het product is en wat de uitkomst is; we weten niet hoe een stukje data over iemand uiteindelijk gebruikt gaat worden. Ik denk dat het inderdaad een principieel probleem voor de overheid oplevert hoe daarmee om te gaan. Wat kan daarvoor gedaan worden? Ik denk dat er toch wel een paar dingen zijn waar het in ieder geval duidelijk is dat de overheid hierin zeker een grote rol te spelen heeft, hoe moeilijk dat ook is.

Op dit moment is de WRR bijvoorbeeld bezig met een onderzoek naar AI. We zijn nog bezig met het onderzoek, maar we komen al wel tegen dat heel veel toepassingen, met name in de private sector, in een grijs gebied plaatsvinden. Daardoor worden bepaalde groepen heel gemakkelijk uitgesloten, of komen zij op achterstand. Denk aan het gebruik van algoritmes bij de toekenning van hypotheken. Denk aan het gebruik van algoritmes bij opsporing of bij de politie. Er zijn heel veel vraagstukken, met name ook in de Verenigde Staten, waar heel veel geëxperimenteerd wordt. Ik denk dat daar al echt duidelijk is geworden wat voor kwalijke effecten daarin zitten, bijvoorbeeld ook door het gebruik van slechte data. Het lijkt me dat de overheid bij uitstek een rol heeft om voorzichtigheid te betrachten bij dit soort zaken en bij bepaalde experimenten, zeker wat betreft de cruciale zaken in het leven van burgers.

Ik denk dat in het domein van AI meer en meer de roep klinkt om de rol van de overheid. Een ander voorbeeld in dat domein is het gebruik van gezichtsherkenning. Dat is een heel moeilijk punt, want gezichtsherkenning wordt ook voor hele onschuldige zaken gebruikt. Het gegeven dat gezichtsherkenning nu heel goedkoop, heel gemakkelijk en heel breed toegepast kan worden, heeft echter als mogelijk effect dat de volledige publieke ruimte heel snel als een politiestaat ingericht zou kunnen worden. Ik denk dat dit een van de zaken is die nu duidelijk wordt. We zien bijvoorbeeld al verschillende initiatieven van AI-organisaties, maar bijvoorbeeld ook van Amerikaanse steden, die er dan ook voor pleiten dat de overheid het gebruik van gezichtsherkenning volledig verbiedt. Zonder te willen zeggen of dat de weg is, denk ik dat het wel belangrijk is dat de overheid hier scherp op is. Dit soort technologieën hebben namelijk een enorme invloed op het vermogen van burgers om zich staande te houden, en kunnen de balans tussen overheid en burger of tussen grote bedrijven en burgers zeer negatief doen uitslaan.

De voorzitter:

Normaal inventariseren we altijd eerst alle vragen uit de eerste ronde en gaan we daarna naar de antwoorden, maar dit geeft misschien best een aardige dynamiek. Dit was dus een experiment dat we misschien even voortzetten. Ik wil dit nu in twee blokjes eens even zo proberen en dan zullen we in de pauze even kort evalueren. Dus we doen nu gewoon de vraag en meteen het antwoord, om de interactie wat te vergroten. De heer Van Otterloo.

De heer Van Otterloo (50PLUS):

Dank u wel, voorzitter. Als commissie zitten wij met een vraag die niet eens voorafgegaan wordt door de of-vraag, maar meteen al de hoe-vraag is. De vraag is niet óf we iets kunnen doen. De vraag is hoe wij ons besluitvormingsproces zo inrichten dat digitalisering op de beste wijze ingevaren kan worden in ons besluitvormingsproces. En dat terwijl wij overspoeld worden door allerlei voorbeelden waarvan u er een aantal noemde en waarvan je je afvraagt: hoe doe ik dat in vredesnaam met de bestaande ontwikkelingen, laat staan met de toekomstige ontwikkelingen? Ik zou daar graag iets over willen horen, want ik hoorde toch een paar dingen waar ik aan bleef haken; misschien waren zij niet bedoeld als tussenzinnen.

Als gevolg van de moord op de advocaat in Amsterdam hebben wij hier vorige week natuurlijk vaak gehoord dat privacy nu maar ondergeschikt moest worden gemaakt aan het koppelen van allerlei bestanden, want dan zou de ondermijning door de misdaad in Nederland effectiever kunnen worden tegengegaan. Maar ik hoor de heer Schrijvers ook meteen zeggen dat de Belastingdienst daarover ideeën heeft gehad – misschien nu nog steeds – en dat het in de praktijk een stuk lastiger is. We hebben natuurlijk bij profielen van bepaalde wijken gezien dat die ook niet precies de informatie opleveren die er is.

Wat betreft de totale situatie is het natuurlijk zo dat we als burgers inderdaad in een digitale samenleving worden getrokken op een manier waarvan de consequenties niet duidelijk worden; Hotel California kun je daarmee vergelijken. Als jij informatie wilt hebben en je kunt die informatie alleen maar krijgen door een cookiebeleid te accepteren, dan zit je vervolgens vast aan die cookies. Terwijl je die informatie misschien wel of niet nodig hebt; dat is even een ander punt.

De vraag is ook wat dat nou betekent voor de plek van Nederland in de wereld. Want af en toe bekruipt mij het gevoel dat een deel van de samenleving eigenlijk heel Nederland in een grote bunker zou willen zetten; dat geldt ook als ik naar veiligheidsaspecten kijk, of naar hoe de tegenstanders van 5G hun huis inrichten om de straling van 5G tegen te gaan. Het gevoel bekruipt mij dat ze denken dat wij ons kunnen afsluiten van de rest van de wereld; alsof dat nog op de een of andere manier zou kunnen.

Mijn vraag aan u is of daar überhaupt mogelijkheden voor zijn. Of is alleen het model van China – met een eigen internet en een sterke rol van de overheid in de beslissing wat erop mag – een antwoord op die vraag en op die gedachte dat we ons in dat opzicht buiten de rest van de wereld zouden kunnen plaatsen? Overigens zou voor mij het antwoord op die vraag negatief zijn, maar dat is uit andere overwegingen.

De voorzitter:

Dat is een vraag met een aantal componenten. Laten we even kijken in hoeverre het mogelijk is om die in één keer te beantwoorden.

De heer Schrijvers:

Ik zal zeker mijn best proberen te doen. De uitruil tussen privacy en veiligheid hoorde ik u noemen, en dan vooral bij digitale gegevens. Ik hoorde volgens mij ook iets over transparantie: begrijpen we het als burger nog wel? En u noemde de meer internationale component.

In het bigdataproject hebben we vrij precies naar die uitruil gekeken en ik vind dat nog een vraag. Ik heb weinig goede voorbeelden gezien van situaties waarin het op grote schaal verzamelen van informatie over burgers tot inzichten leidt en helpt bij de opsporing. Dat zijn voorbeelden van de Amerikaanse NSA. Zij halen zulke grote hoeveelheden data binnen dat ze het niet eens kunnen analyseren. Vaak helpt het betere recherchewerk beter dan het op die manier binnenhalen van informatie. Ik denk dat de verwachtingen daar te hooggespannen zijn, en dat het dus heel belangrijk is om heel scherp te kijken naar hoe doeltreffend nou zo'n praktijk is. We bepleiten in dat project om het wel te onderzoeken, maar er bijvoorbeeld een horizonbepaling aan te verbinden. Als het om dit soort projecten gaat, evalueer dan of we daarmee inderdaad de bepaalde doelen halen. En evalueer dan of de impact op de persoonlijke levenssfeer die je door het binnenhalen van zoveel gegevens hebt, opweegt tegen de opbrengst dat je deze of gene meneer of mevrouw uiteindelijk in de kraag kunt vatten; om maar even bij dit voorbeeld te blijven. Ik vind het belangrijk om ook die vraag of het tegen elkaar opweegt te noemen. Ik denk dat het heel belangrijk is om die balans in de gaten te houden.

Het andere punt ben ik even kwijt.

De voorzitter:

Isolatie versus...

De heer Schrijvers:

Ja, precies: hoever kunnen we daarin gaan? Ik denk dat het niet mogelijk is om je te isoleren. Dat is geen optie. Voor niemand niet. Dus zelfs een land als Noord-Korea verkeert natuurlijk niet in een absoluut isolement. Ik denk dat het wel heel belangrijk is om in ieder geval in Nederland een discussie te voeren over de mate waarin je onafhankelijk wilt zijn, of eigenlijk de mate waarin je over je eigen voorzieningen wilt kunnen gaan. We hebben daarvoor een lijstje met vitale infrastructuur. Dat zijn de voorzieningen die we zo belangrijk vinden, dat we die willen beschermen en dat we er wat aan willen kunnen doen als ze omvallen. Ik denk dat je zo'n lijstje in het licht van de digitalisering opnieuw tegen het licht zult moeten gaan houden. Zijn we nog steeds in dezelfde mate in staat om te waarborgen dat de vitale infrastructuur overeind blijft?

Ik denk dat het heel lastige keuzes zijn. Er hangt ook gewoon een prijskaartje aan, want dan moet je terugvalopties gaan realiseren. Denk aan het voorbeeld van 112; misschien moet je daar naar twee providers gaan. Dat soort discussies krijg je dan. Ik zie dat we wel die kant op bewegen. Dus je krijgt overnametoetsen, en daar zijn we in Nederland heel erg laat mee. Dat debat wordt al tien à vijftien jaar gevoerd en nu zie ik een soort voorzichtige aanzet om er toch wat mee te gaan doen. Er is op dat vlak dus meer mogelijk dan wat er nu gebeurt.

Ik wil nog even een ander punt benadrukken. Er gebeurt natuurlijk heel veel in Europees verband. We hebben de AVG en de Wet beveiliging netwerk- en informatiesystemen, die als Wbni is vertaald. Ik denk dat je in ieder geval in Europees verband een aantal stappen kunt zetten en dingen kunt regelen, maar als het gaat om die voorzieningen zul je ook veel meer op Europees niveau moeten coördineren.

De voorzitter:

Dan gaan we naar de heer Van Dam.

De heer Van Dam (CDA):

Dank u wel, voorzitter. Dank aan de inleiders dat u hier bent. Nu we hier bij deze tweede kennissessie zijn en andere dingen hebben gedaan, concentreer ik me eigenlijk op de vraag die de hoofdopdracht is voor ons als commissie. Dat ga ik ook doen bij volgende sprekers. Die vraag is: hoe krijgen wij als parlement grip op dat hele thema van digitalisering en technologie? Dat is eigenlijk waar mijn vraag aan u naar uitgaat.

Ik zie dat vooral drie ministeries zich met dit onderwerp bezighouden: BZK, Economische Zaken en Justitie en Veiligheid. U bent adviseurs van de regering en ik weet niet welke vrijheid u heeft om hier in alle vrijheid iets daarover te zeggen, dus u moet zelf maar even kijken of u het fris vindt om op mijn vraag antwoord te geven. Vindt u dat we daarmee van overheidszijde voldoende grip op het thema hebben? U heeft er al iets over gezegd, maar ik stel toch nog maar even die vraag.

Wat zou uw advies aan ons zijn, om als parlement grip op die materie te krijgen? Ik verwacht niet een volledig afgespoten honderdprocentantwoord, want ik denk dat het gewoon een route is die we met elkaar moeten gaan om daar zicht op te krijgen. Ik zou bijvoorbeeld al heel blij zijn als u op hoofdlijnen een aantal thema's zou kunnen aangeven waar wij ons als parlement op zouden moeten richten. Er is bijvoorbeeld veel gezegd over een waardebenadering, over data, of over wat dan ook. Wat zouden wat u betreft lijnen en strepen in het zand zijn, die ons zouden helpen om grip te krijgen op die materie?

Dank u wel.

De voorzitter:

Een prikkelende vraag. Het is inderdaad altijd goed om even te zoeken naar waar je wel en niet antwoord op kan geven. Ik laat dat volledig aan de genodigden. U bent dus vrij om daar wel of niet in te stappen. Ik vind overigens niet dat de vraag nu zo spannend is dat deze gelijk tot begrenzing leidt, maar u kunt daarin gewoon volledig uw eigen afweging maken. Het is inderdaad openbaar, zoals hier wordt opgemerkt, maar het is nou ook weer niet zo dat we hier over verschrikkelijk ingewikkelde staatsgeheimen spreken. Het is in ieder geval een interessante vraag.

De heer Van Dam (CDA):

Voorzitter, ik wil vooral niet de indruk wekken van een of andere fishing expedition. Wat dat betreft ben ik misschien explicieter dan noodzakelijk is en hebben we er nu al veel te veel woorden aan vuilgemaakt. Maar beter dat dan een andere indruk wekken.

De voorzitter:

Heren.

De heer Sheikh:

Voor zover ik daar goed zicht op zou kunnen hebben... Mijn collega heeft er in de introductie al het een en ander over gezegd. Het is een ontzettend moeilijk vraagstuk en hiervoor is inderdaad op lange termijn meer dialoog, meer discussie en meer kennisopbouw vereist. We probeerden zonet te benadrukken dat één van onze observaties is dat, ondanks dat er bij de overheid ontzettend veel interessante belangrijke initiatieven rondom digitalisering zijn, heel veel wel heel erg hangt op de actualiteit van het moment.

De mogelijkheid is er om op digitalisering eigenlijk een langere meerjarige koers uit te zetten en niet rondom de nieuwste trend te hangen. We hebben al even benoemd hoe big data doorgeëvolueerd is naar AI, dat er blockchain is en straks kwantum computing; we zien continu dezelfde vragen terugkomen in heel verschillende contexten. De mogelijkheid is er om wat meer afstand te nemen en na te denken over een aantal van die cruciale structurele vragen. We hebben geprobeerd daarvoor een beetje een aanzet te geven met thema's als: wat voor vragen brengt de verwevenheid tussen de fysieke en de digitale wereld met zich mee? Wat betekent dat voor privacy van burgers? Wat betekent dat voor de grenzen tussen bijvoorbeeld economische sectoren en de mate waarin de overheid daarop moet ingrijpen? Wat betekent het voor onze veiligheid? Het zijn hele grote onderwerpen, maar die hebben we proberen in te brengen vanuit het idee dat het doorlopende vragen zijn die eigenlijk overal achter blijven spelen.

De heer Van Dam (CDA):

Voorzitter, mag ik even uw experiment benutten door een tussenvraag te stellen?

De voorzitter:

Zeker.

De heer Van Dam (CDA):

Bent u bekend met andere landen, in Europa of waar dan ook, die daar beter in zijn? Landen die meer de blik naar voren weten te richten en waar wij bijvoorbeeld ook ons voordeel mee zouden kunnen doen?

De heer Sheikh:

Het verschilt per domein, maar ik denk dat er de nodige voorbeelden zijn. Wat betreft een heel klein land is Estland eigenlijk bijzonder voortvarend, zeker ook op het gebied van digitale overheid en privacykwesties; als klein land is het daarin bijzonder ver.

Als we bijvoorbeeld nadenken over meer strategisch naar het internet kijken, dan is een land als Frankrijk daar al veel langer mee bezig. Neem bijvoorbeeld AI: daarvoor is Nederland nu een strategie en een aanpak aan het ontwikkelen. Dat is in Frankrijk een aantal jaren geleden gebeurd. We zijn daar geweest om met de auteurs daarvan van gedachten te wisselen.

Op verschillende domeinen zijn er een aantal andere Europese landen die al eerder met deze vragen aan de slag zijn gegaan.

De heer Van Dam (CDA):

Dat is eerder in de zin van iets vinden van gezichtsherkenning of van privacy of wat dan ook. Maar zijn er landen die eerder waren met die gecoördineerde aanpak, waarin je meer naar voren kijkt en het meer in een toekomstig perspectief zet?

De heer Sheikh:

Het is moeilijk om daar in het algemeen helemaal goed zicht op te hebben, maar mijn indruk is dat zoiets toch wel vanuit een veel meer gecoördineerde visie gebeurt. Dat blijkt in ieder geval uit wat we gezien hebben bij bijvoorbeeld de Franse AI-strategie.

De heer Schrijvers:

Ik zal nog even antwoorden op de vraag over de departementen. Daar wil ik best wat over zeggen; ik loop al een tijd mee. Kijk, met de driehoek die er nu is, ben ik heel blij als begin. Ik vind het een goed begin, omdat het een begin is, want twee jaar geleden kwamen al die plannen apart van elkaar tot stand en werd er af en toe over geruzied. Dus ik ben heel blij dat dit er nu ligt. Natuurlijk zijn er allerlei thema's te bedenken en daar hangt het vanaf. Als je het over die ontwrichting hebt, zit ook Defensie erbij. Ik zou zeggen dat IenW natuurlijk een heel belangrijk departement is, omdat het nu vooral over de harde kant van de infrastructuren gaat.

Het lijkt me dat u een lastig vraagstuk heeft voorliggen over hoe je dat nou precies indeelt. Er is wel een soort harde kern van vraagstukken en dan kom je toch een beetje bij die driehoek terecht, maar die dekt zeker niet het volledige spectrum. Als het over werk en digitalisering gaat, is SZW natuurlijk heel intensief betrokken. Dat is een beetje hoe ik ertegen aankijk.

Ik zou dus zelf ook zo'n beginnetje maken, en dan zie je wel waar het schip strandt. Dit onderwerp is nog zo erg in beweging dat het niet een-twee-drie vastligt wie er nou precies over gaat. Ik denk dat zo'n vorm van coördinatie een heel mooi begin is om er toch wat meer sturing op te hebben, in ieder geval vanuit de kant van de departementen.

Kijk, dat vooruitkijken vind ik wel een lastige, omdat je internationaal met hele verschillende politieke systemen te maken hebt. Ik kijk zelf voor onderzoek heel regelmatig naar de VS, al moet ik bekennen dat dat wel voor Trumps tijd was. President Obama heeft een aantal heel goede commissies gehad met echt topwetenschappers, toen ook al op AI-gebied. Een paar jaar geleden waren er al rapporten over AI en over big data, en waren er een soort high level groups die gewoon even een korte verkenning deden van de vraag hoe zij erin zitten. Maar binnen zo'n systeem wordt dat natuurlijk heel anders opgepakt dan hier, omdat we hier veel meer een coalitiemodel hebben. Om het maar even heel kort samen te vatten: ik denk dat we hier heel goed zijn in het verkennen van vraagstukken, en wat minder goed zijn in het vervolgens oppakken daarvan.

Als ik voor die verkenning kijk naar wat er de afgelopen jaren vanuit verschillende kanten aan onderzoek is gedaan, dan ben ik... Dat vond ik trouwens interessant in het stuk. We kijken vooral naar buiten, maar kijk ook even om u heen: het Rathenau Instituut, de Raad voor Cultuur en de AWTI hebben interessante dingen gedaan. Er is een brede waaier aan expertise, die heel gericht als doel heeft om het beleid vooruit te helpen en daarop kritisch te reflecteren.

De heer Van Dam (CDA):

Dat is juist het punt. Ik denk dat wij momenteel heel erg om ons heen kijken, want iedereen komt hier langs. Correct me if I'm wrong: mijn observatie is dat iedereen veel onderzoek doet naar hele relevante concrete thema's, maar ik zie die overkoepelende vraag van hoe we nu in den brede grip krijgen op dit onderwerp nog niet zo heel veel onderzocht en bekeken worden. Ziet u dat wel? Dat zou echt ongelofelijk helpen.

De heer Schrijvers:

Dat klopt. Ook internationaal vergelijkend ken ik niet echt een soort onderzoek dat in detail in kaart brengt hoe we dit op verschillende dossiers doen. Denemarken heeft volgens mij een soort internetcommissaris ingesteld. Er zijn dus wel verschillende figuren, maar aan de kant van de volksvertegenwoordiging heb ik er minder zicht op. Ik zou zeggen dat iedereen iets probeert.

De voorzitter:

Oké. Ik geef het woord aan de heer Middendorp.

De heer Middendorp (VVD):

Dank, voorzitter. Dank ook aan de beide heren van de WRR voor de inleiding. De vraag van de heer Van Dam zou ik natuurlijk graag willen herhalen, en dat heb ik in eerdere sessies ook weleens gepoogd. Dat is natuurlijk wel de hoofdvraag.

Ik heb net iets gehoord dat heel interessant was; dank voor het antwoord. Ik zal het van twee specifieke kanten proberen te benaderen. Het eerste is dat u zei: big data, wat levert het nu eigenlijk op? Ik zou die vraag aan u voor willen leggen. Ik denk dat dat een van die grote thema's is waar wij hier in het parlement mee worstelen: bij alle innovatie kan je niet van tevoren zeggen wat eruit komt. Die vraag is dus makkelijk gesteld, maar niet zo makkelijk beantwoord, en die verstoort politieke processen. Graag uw mening daarover.

Het tweede is dat u het had over grote investeringen in Nederland en over nieuwe regelkaders, en dat je dan in Europees verband dingen kan regelen en ook zou moeten coördineren. Ik zou daarbij graag iets meer achtergrond horen, omdat dat volgens mij een enorme kans is, maar ook een soort gevaar voor het tackelen van het aanpakken van de digitalisering in de verschillende lidstaten.

De heer Sheikh:

De eerste vraag was: het is makkelijk om kritische opmerkingen over toepassingen van technologie te maken, maar we weten van tevoren nooit hoe dat precies verloopt. Dit is inherent aan het openeindekarakter van innovatie en daar hebben we überhaupt mee te maken. Ik denk dat de voorzichtigheid die we hierin vooral proberen te benadrukken het volgende betreft. Ergens moet er een balans gevonden worden tussen een hoeveelheid van experimenteren, en tegelijkertijd moeten we zorgen dat er voldoende bescherming is wanneer het burgers op cruciale zaken treft. Dat betekent niet dat we de experimenten helemaal niet moeten doen, maar het kan wel betekenen dat we moeten kijken naar wat de zwakste groepen zijn die benadeeld kunnen worden bij bepaalde experimenten, en of we voldoende structuren gecreëerd hebben waardoor er bijvoorbeeld mogelijkheden voor protest of inzage zijn.

Dat is denk ik wat we ook internationaal bij big data of in AI-toepassingen zien. Niemand weet precies wat hierin nou uiteindelijk goede toepassingen van AI zullen zijn en wat voor data die zullen gebruiken. Als er tegenover dat experimenteren de ruimte voor burgers is om te kunnen zien welke data zijn gebruikt, hoe die zijn gebruikt en waar ze hun beklag kunnen doen als ze verkeerd bejegend zijn, dan kan dat een manier zijn waarop toch de mogelijkheid van een experiment behouden wordt, maar tegelijkertijd wel verhinderd wordt dat vooral de zwakste partijen hieronder lijden, zodat zij toch nog beschermd worden. Het zou eerder een pleidooi zijn om die twee zaken met elkaar te combineren.

De tweede vraag ging over het Europees verband. Ik weet niet of ik helemaal doorheb waarop u doelt: of de mogelijkheid tot gecoördineerde besluitvorming in Europa hier de uitdaging is? Voor een aantal dossiers lijkt het mijzelf in ieder geval relevant dat we er in Europees verband in optrekken, met name bij vraagstukken met een hele grote schaal en bij bijzonder complexe vraagstukken. Dan kunnen we het hebben over zoiets als 5G-infrastructuur en hoe moeilijk het is om van tevoren te voorspellen en te begrijpen wat daarin gaat gebeuren. Zoiets vraagt toch wel om iets van een grote massa, in een speelveld waarin met name de Verenigde Staten en China de dominante partijen zijn.

De voorzitter:

De heer Middendorp, heeft u nog een vervolgvraag?

De heer Middendorp (VVD):

Dit was ongeveer wel wat ik bedoelde met die laatste vraag, maar dan toch nog even dit. U noemt vraagstukken met een hele grote schaal en ingewikkelde vraagstukken, met als voorbeeld de 5G-infrastructuur. Maar ja, iets als het klimaat hebben we toch uiteindelijk in Nederland moeten aanpakken. Dat was natuurlijk binnen een heel kader en ik wil niet weglopen van dat kader, maar voordat we op basis van het feit dat een onderwerp een heel grote schaal heeft en grensoverschrijdend is... Dan zet ik naast 5G en infrastructuur bijvoorbeeld het klimaat, want dat hebben we toch in Nederland gedaan. Hoe kijkt u daartegen aan?

De heer Sheikh:

Het sluit niet uit dat we op al deze domeinen natuurlijk een nationale opgave hebben. Wat hierin dan misschien nog de variabele is, is dat het hier vaak gaat, bijvoorbeeld in het geval van 5G, om de onderhandelingspositie ten opzichte van andere grote blokken. Bij het klimaat hebben we natuurlijk onze eigen doelstellingen, maar als we internationaal iets willen regelen, zullen we daarvoor massa moeten creëren. Ik denk dat dat hier evengoed zo is. Op digitalisering kunnen we heel veel zelf doen, maar wanneer het gaat om onze positie ten opzichte van bijvoorbeeld de providers in de Verenigde Staten en China, dan vraagt die situatie er volgens mij om dat we ook op grotere schaal acteren.

De voorzitter:

De heer Schrijvers, heeft u nog een aanvulling?

De heer Schrijvers:

Ja, want volgens mij noemde ik op een gegeven moment de EU. Kijk, het gaat om een paar vraagstukken. Bij cybersecurity heeft iedereen last van de zwakste schakel, dus dat wil je eigenlijk op een zo hoog mogelijk niveau regelen. U heeft helemaal gelijk: als je dat tussen lidstaten gaat doen en daarin samen gaat optrekken – we gaan natuurlijk toch richting een soort Europese interne markt en Europese dienstverlening – dan wil je dat alle lidstaten hun zaakjes op orde hebben. Daar is bijvoorbeeld de NIB-richtlijn voor. Maar tegelijkertijd creëer je ook weer nieuwe afhankelijkheden. Vooral op het terrein van cybersecurity en internet zal je op internationaal niveau stappen moeten nemen. Je moet dus internationale diplomatieke inspanningen moeten verrichten – dat doet Nederland ook – om te kijken of het internet als zodanig veiliger gemaakt kan worden en of je ervoor kan zorgen dat er afspraken komen over welke handelingen staten en inlichtingendiensten wel en niet op dat internet mogen gaan doen. Je zult afspraken moeten maken over wat nu wel of niet geldt als een gewapend conflict. Mag je ziekenhuizen bijvoorbeeld raken met malware? Dat zijn dingen waarbij je op het internationale vlak last van elkaar hebt, dus dan zal je er ook internationaal uit moeten komen. Dat vergt een hele lange adem en dat regel je niet alleen hier.

Ik denk dus dat je beide zaken tegelijkertijd moet doen. Je zult jezelf hier beter moeten beschermen en een soort terugvaloptie moeten maken, maar je moet ook vooruitdenken en proberen internationaal een aantal zaken af te dekken. Dan is de EU natuurlijk wel een eerste stap, omdat die landen hier toch wel op dezelfde manier in zitten. Voor een deel kan het samen met de VS, want er zijn een aantal swing states die er op dezelfde manier in zitten en dezelfde afhankelijkheden hebben. Daarin zal je dus samen moeten optrekken. Ik denk dat er geen andere mogelijkheid is dan dat te doen.

De voorzitter:

Nog één laatste vervolgvraag, meneer Middendorp, want ik wil proberen ook de heer Azarkan en de heer Van Otterloo nog een extra vraag te geven. Gaat uw gang.

De heer Middendorp (VVD):

Oké. Denkt u dat een land als Singapore op termijn ook in zo'n blok zal opgaan? Want als ik die gedachtenlijn die u net beschreef volg, hebben ze net als Nederland eigenlijk niet echt een andere keuze.

De heer Schrijvers:

Ik heb wel behoefte aan toelichting over het blok. Het gaat...

De heer Middendorp (VVD):

Bij cybersecurity ben je afhankelijk van de zwakste schakel en moet je kunnen onderhandelen tegen grote blokken. We hebben het klimaat al gehad; dat zal ik niet herhalen. Een land als Singapore, dat toch heel erg connected is, zit niet in een blok, zoals Nederland in Europa zit. En zoals u het net uitlegt, zou dat ertoe leiden dat zo'n land, om competitief te blijven, om veilig te blijven, ook in een blok zou moeten opgaan.

De heer Schrijvers:

Ik weet te weinig van Singapore om een uitspraak te kunnen doen over wat Singapore moet doen. Maar ik denk dat je in het internationale wel je partners zult moeten kiezen. Dat kunnen soms landen zijn waar je in eerste instantie niet aan denkt. Dat is ook wat we lezen in het rapport De publieke kern van het internet. Want het gebruik van internet verschuift natuurlijk enorm van waar het ooit begon, namelijk Noordwest-Europa en de VS, naar andere delen van de wereld. Die landen worden dus invloedrijke spelers. En het is ook gewoon een machtspolitiek vraagstuk: wie kun je op welk moment winnen voor je zaak? Ik denk dat je er dus ook op die manier naar moet kijken en dan zou dit soort landen absoluut in beeld kunnen komen. Van een aantal landen is het natuurlijk heel erg duidelijk dat ze internet het liefst willen afschermen en zo veel mogelijk onder eigen beheer willen stellen. Het gaat dan om landen als Rusland, Iran, Noord-Korea en China. Die denken er echt anders over en die krijg je ook niet mee op dit punt.

De heer Sheikh:

Nog een aanvulling hierop. We hadden het net over Europese voorbeelden van landen die voortvarend op dit domein zijn. Ik denk dat Singapore internationaal een goed voorbeeld is. Het is een land dat wel degelijk heel open is, maar tegelijkertijd al heel vroeg heel strategisch omgaat met dit soort vraagstukken. Het zet zichzelf hier ook enorm voor in en maakt zich zorgen over deze dynamiek. Volgens mij zien we rondom het gebruik van Singapores Smart Nation-projecten, maar ook Singapores initiatieven in Asia, dat het juist een land is dat zich in ieder geval bewust is van hoe die openheid het land kwetsbaar maakt en dat probeert zich daartegen in ieder geval te organiseren. Of het dat in een groter verband kan doen, is, denk ik, de vraag. Dat heeft met de geopolitieke situatie van het land te maken. Het is ergens heel nauw met China verweven, maar op veiligheidsgebied heel erg met de Verenigde Staten. Volgens mij verklaart juist die gespletenheid precies Singapores enorme actieve diplomatie op het gebied van digitalisering.

De voorzitter:

Tot zover even een uitstapje naar Singapore, hoewel ik de vraag begreep. Heeft de heer Van Otterlo of de heer Azarkan nog een aanvullende vraag? Zij zijn iets minder lang aan bod gekomen. Azarkan? Is er nog een vraag?

De heer Azarkan (DENK):

Ja. Het is prima dat we in interactie vragen kunnen stellen. Dat we met elkaar informatie krijgen over en richting krijgen in hoe we verdergaan met de onderzoeksvraag, is wat mij betreft belangrijker dan dat het nou per se heel strak gelijk verdeeld moet zijn.

Ik heb een vraagje waar ik nog wel mee worstel. Dat gaat eigenlijk over heel iets anders, namelijk het virtuele vestigingsklimaat. In hoeverre zijn er nou grote spelers die zich laten afschrikken, bijvoorbeeld door strengere regelgeving, en in hoeverre kost dat Nederland en andere landen die daarin ook op die manier meegaan, economische groei of andere vormen van opbrengsten? En is dat ook daadwerkelijk aan de hand? Zijn we nu met een groep landen bezig om een en ander ook echt af te wegen? Als we eisen stellen, bijvoorbeeld dat bedrijven hun algoritmes vrijgeven of dat ze, als het om de AVG gaat, bepaalde zaken niet mogen vastleggen, vertonen ze dan ontwijkend gedrag? Wordt dat spel internationaal ook gespeeld?

De heer Schrijvers:

Dat is een interessante vraag over het vestigingsklimaat. Het is natuurlijk heel erg afhankelijk van de technologie waarnaar je kijkt. AVG: ik heb er geen zicht op of en hoe dat hier speelt, maar ik weet wel dat het internationaal ook als een voordeel wordt gezien. De bedrijven die vasthouden aan de richtlijnen die daarin vervat zijn, kunnen daaruit ook internationaal voordeel halen, ook in de VS, en daarmee vooroplopen. Het idee is namelijk dat het uiteindelijk toch die kant opgaat.

Ik wil hierbij nog even een hele andere opmerking maken over het vestigingsklimaat. Even een beetje prikkelend: misschien zijn we hier wel een beetje te liberaal als het gaat om het vestigingsklimaat. Want als ik kijk naar de herkomst van allerlei malware en cyberaanvallen en zo, staat Nederland echt hoog in de top, op de derde plek of de vierde plek, een beetje afhankelijk van het type malware. Dat komt wel hier vandaan. Nederland is in dat opzicht dus een belangrijk doorvoerland, maar misschien niet het doorvoerland dat wij willen zijn. Dat vind ik ook een discussie die het waard is om gevoerd te worden. Zijn we daarin niet te liberaal? Of, om het heel anders te framen: hebben wij dit wel voldoende in het vizier en hebben we de instrumenten wel? En dat is ook weer iets wat je internationaal zou kunnen doen. Hebben wij de instrumenten om dit soort partijen beter aan te kunnen pakken? Ik haak toch even aan op dat internationale. Ook hierbij is het wel handig als je het met wat meer landen doet, zodat ze niet bij je buren gaan zitten. Dat is natuurlijk ook niet een heel wenselijke situatie. Dus bekijk het ook even andersom. Het vestigingsklimaat heeft twee gezichten, zou ik zeggen.

De voorzitter:

De vraag of we te liberaal zijn, was ook afgelopen week een belangrijke. Ik heb zelf ook nog wel één slotvraag, als het kan. Met het oog op de tijd zou het net kunnen. Ik sluit hiermee ook een beetje aan bij Van Dam. Als je naar al die digitaliseringsverschuivingen kijkt, zie je dat die zowel het gebied van waarden als het gebied van werk, als het gebied van welvaart, als het gebied van de wereldverhoudingen raken. En daar horen eigenlijk ook weer alle ministeries in Nederland bij. Werk is Sociale Zaken en Financiën; welvaart is Economische Zaken, Infrastructuur en Onderwijs; wereldverhoudingen zijn weer meer Defensie, Europese Zaken en Buitenlandse Zaken. Dus zodra je naar de veranderingen in die blokken kijkt, worden eigenlijk alle ministeries ermee geconfronteerd en is die digitale driehoek inderdaad nog maar een begin. Eigenlijk raakt het gewoon alle ministeries. Mijn vraag is dan of je het nog wel via ministeries moet regelen, of dat er een ander soort systeem of structuur moet komen, om dit soort grote vraagstukken op hoofdlijnen in goede banen te leiden.

De heer Sheikh:

Dat is een bijzonder moeilijke vraag. Het is onomstotelijk zo dat dit alle ministeries raakt. De manier waarop we ernaar kijken, is dat we digitalisering graag beschouwen als een general purpose technology, een technologie die niet een specifiek doel heeft, maar door de hele samenleving, door de hele economie, voor allerlei zaken en doeleinden gebruikt kan worden. Dat betekent dus dat er geen domein gespaard zal blijven. Ik denk dat het in ieder geval meer gecoördineerd beleid en visie vraagt. De vraag of dat goed binnen de structuur van de huidige ministeries kan, is moeilijker te beantwoorden. Ik weet ook niet of er vanuit de WRR iets is. Vanuit de WRR zijn wij erop gericht om te proberen na te denken en mee te denken over de richting van het beleid, de grote thema's en vraagstukken. Het is, in ieder geval wat mij betreft, moeilijker om een visie te geven op de specifieke inrichting daarvan en op de vraag welke instanties daarover gaan.

De heer Schrijvers:

Ik heb toch even een heel kleine aanvulling. Dit vraagstuk komt niet alleen rondom dit punt aan de orde, maar rond verschillende thema's. Ik kan me best voorstellen dat zo'n soort figuur op termijn een goed plan zou zijn, maar ik zou er zeker niet te snel mee beginnen, omdat je het vraagstuk ook weer ontzettend enorm compliceert. U kent het Haagse waarschijnlijk beter dan ik, maar je krijgt daardoor waarschijnlijk ook weer allerlei nieuwe competentievraagstukken. Dus ik zou niet te veel haast maken met zo'n rigoureuze oplossing, maar het langzaam opbouwen en langzaam verkennen hoe en bij wie dat vraagstuk precies terecht moet komen. Ik denk dat dat begint met het inhoudelijk verkennen waar het nu precies bij digitalisering om draait. En daar bent u goed mee bezig.

De voorzitter:

Oké. Dan wil ik u beiden zeer hartelijk bedanken voor dit interactieve en interessante uur. Dan gaan wij nu even twee minuten schorsen voor de wisseling van de wacht. Wij gaan dadelijk verder, om 11.00 uur, met de heer Van Bellen. Hij is directeur van het Platform voor de InformatieSamenleving, het ECP. Zeer veel dank aan de beide heren.

De vergadering wordt van 10.57 uur tot 11.03 uur geschorst.

Blok 2

Gesprek met:

– de heer Arie van Bellen, directeur van het ECP, Platform voor de InformatieSamenleving

De voorzitter:

We gaan weer verder. Als de heer Azarkan zijn debat over Feyenoord zou willen beëindigen, dan kunnen wij naar het hoofdonderwerp van vandaag: digitalisering. We zijn toe aan het tweede blok van onze tweede kennisdag. De heer Arie van Bellen is nu bij ons te gast. Welkom. Hij is directeur van het ECP, het Platform voor de InformatieSamenleving. We gaan hetzelfde doen als in het eerste blok. We hebben een aftrap van een minuut of tien en dan een interactief vraag- en antwoordgesprek waarbij we gewoon alle kanten op kunnen binnen het kader van onze onderzoeksvraag. Ik geef u graag het woord.

De heer Van Bellen:

Dank u wel, voorzitter. Dank voor de uitnodiging. Het is ontzettend leuk om hier te zijn. Ik ben graag op de uitnodiging ingegaan, omdat ik denk dat het heel innovatief en ook heel belangrijk is dat er nu een horizontale en tijdelijke commissie Digitale toekomst is. Ik zal dat uitleggen. Ik zal even kort vertellen wat mijn club doet en wie ik ben. Dan zal ik een stukje visie op deze hele ontwikkeling geven, en met name de doorvertaling naar politiek en beleid.

Ik moest aan u denken toen ik het FD pakte, zowel vandaag als vrijdag. De voorpagina van vandaag: medische onderzoeken in het gedrang door strengere privacyregels. Vrijdag lazen we op de voorpagina van het FD: gemeenten vrezen problemen door golf van 5G-antennes. De moraal voor mij is dan: we willen medisch toponderzoek en we willen patiënten genezen, maar we willen ook een persoonlijke levenssfeer. Dan merken we dat we eigenlijk met een vork een ontwikkeling aan het eten zijn, terwijl die ontwikkeling een soep is. Ik doel op de datasamenleving en de platformsamenleving. Bij 5G is het hetzelfde verhaal. Waarschijnlijk kan 5G enorm innovatieve en gewenste toepassingen faciliteren, maar tegelijkertijd is er straling en vervuiling in steden met allemaal antennes.

De moraal voor mij is een beetje dat we het beeld van die horizontale beweging nog niet helemaal met elkaar te pakken hebben, omdat we verticaal georganiseerd zijn. Dat, terwijl het volgens mij wel de belangrijkste ontwikkeling op dit moment in onze samenleving is, omdat het echt een omslag is van de industriële samenleving naar een datasamenleving. Geopolitiek bekeken – dat hoorde ik zonet als toehoorder een beetje doorklinken – is het zeer essentieel dat wij ons als Europa realiseren dat we op plek drie staan. We stonden op plek één in de industriële samenleving. De stoommachine is door Stevenson in Engeland ontdekt en mede door de voorsprong in technologie heb je dan wereldwijd een leidende positie, ook in ethiek en moraal. Die hebben we niet meer, want het is nu: Amerika, China, Europa. Wat gaan we daaraan doen? We hebben, zo blijkt, heel veel kansen en ook een hele positieve uitgangspositie.

Mijn club is een stichting die al twintig jaar bestaat. Die heeft een missie, namelijk een betrouwbare kansrijke digitale samenleving in Nederland. De stichting heeft een bestuur en een raad van toezicht, waar trouwens onze Koning ook negen jaar in gezeten heeft. We hebben de opdracht geformuleerd om niet in een belangenpositie te verkeren, maar in een verbindingspositie. Alle bedrijven die ertoe doen zijn aangesloten, niet alleen techbedrijven maar ook gebruikers zoals de banken, Ahold en noem maar op. Ook alle departementen zijn aangesloten, terwijl wij helemaal geen overheidsclub zijn, evenals alle belangrijke koepels als VNO-NCW, de Consumentenbond en noem maar op. De wetenschap is voor een belangrijk deel aangesloten. En we hebben een aantal kernen in de samenleving georganiseerd die ons helpen in onze rol, onder andere een jongerenraad. Dat is mooi. Waarom doen die partijen dat en wat doen wij dan?

We hebben een kerncompetentie. Die noemen wij: ontmoeting, inspiratie en samenwerking. Er zijn 50 bijeenkomsten per jaar. We hebben grote programma's die deelthema's beetpakken waarop die verschillende actoren moeten samenwerken, waaronder Digivaardig, een groot programma voor digitale veiligheid en vaardigheid. Maar het gaat verder. Die kerncompetentie wordt gefinancierd door lidmaatschappen, zonder dat we onze onafhankelijkheid verliezen. Om die kerncompetentie heen zijn een aantal grote programma's in Nederland op poten gezet door mijn club, juist omdat we neutraal zijn: bijvoorbeeld de Nationale Blockchain Coalitie en de nationale AI-coalitie to be, die op 8 oktober wordt aangekondigd. Dus naast een soort geweten, denktank zijn wij ook een soort facilitator, verbinder. Dat levert ontzettend veel leuke contacten en veel inzichten op. Een belangrijke taak is ook om steeds even wat verder te denken en vooruit te denken, maar wel vanuit een neutrale positie.

Ik mag dat al twintig jaar doen. Ik heb het ooit zelf verzonnen. Het is verschrikkelijk leuk. Ik heb de leukste baan in Nederland, omdat dit onderwerp zo enorm dynamisch om ons heen draait. Ik werk met 50 mensen die zonder uitzondering allemaal open sollicitant waren. Ook de jongere generatie vindt het erg belangrijk om de kwaliteit van de digitale samenleving mede vorm te geven. Dat is allemaal mooi.

Sommigen van u ken ik ook wel uit dat speelveld. Ik moet ook waarnemer zijn in het bestuur van de ICT-branche, VNO en de departementen, die allemaal volledig in paniek zijn door dit onderwerp. Bij sommigen gaan de ogen glinsteren van de kansen, maar bij anderen worden de ogen wat dof van de enorme tsunami aan veranderingen. Wat betekent het nou voor onze politiek, voor het beleid? Wat zouden bijvoorbeeld de Kamerleden, maar ook beleidsmedewerkers, hierover moeten weten? Ik heb iets meegestuurd, dat ik heel kort zal toelichten.

Naar mijn mening is er een soort driehoek in beweging, waarbij ingrijpende technologische ontwikkelingen echt gesnapt moeten worden. Dat hoeft niet op het niveau van bits en bytes, maar het disruptieve karakter ervan moet echt gesnapt worden. Voorbeelden zijn blockchain, AI, internet of things en 5G. Bijvoorbeeld in de politieke arena mis ik een kennisniveau van wat de impact van die technologieën is op de ordening van onze economie en samenleving, met effecten als «winner takes all» of sociale onrust. Daardoor zijn we eigenlijk een stap te laat. Dat is geen verwijt, want die ontwikkeling is heel snel gegaan en we hebben vaak zelf niet de grondhouding van adaptie van dat soort kennis; ik ook niet, want ik ben jurist van oorsprong. Het gaat niet om de techniek zelf, maar om de impact ervan. Dus dat is één: disruptieve technologie beter snappen.

Twee: we moeten ons echt erin verdiepen in welke domeinen waarin wij leven die ontwikkeling een disruptieve, een veranderende en soms zeer ingrijpend veranderende impact heeft. Is dat de zorg? Is dat het onderwijs? Is dat Mobility as a Service in plaats van wat we nu doen met de trein, de auto of de fiets? Ook daar zie je dat vakmensen met een domein bezig zijn en die ontwikkeling proberen te vertalen naar hun dossier, terwijl die disruptiviteit ervoor zorgt dat ze voor een groot deel de interactie met andere domeinen al hadden moeten meenemen in de ontwikkelfase van iets als Mobility as a Service. Nu zijn domeinen natuurlijk politiek ingewikkeld, want er is bijvoorbeeld een zorgwoordvoerder en een defensiewoordvoerder. Hoe krijg je nou die horizontale kennisdeling en visiedeling? Daar kom ik zo nog even op. Maar de domeinvertaling is dus de tweede in de driehoek.

Het derde en laatste punt is het volgende. We hebben allerlei kaders, zoals een juridisch kader, een veiligheidskader, een educatief kader, een ruimtelijke ordeningskader, een politiek kader en een ethisch kader. Dat zijn kaders waar we trots op zijn en die we moeten onderhouden, maar die onder zware druk staan door deze beweging. Wij met elkaar, ook u als volksvertegenwoordiger, moeten proberen te duiden welke van die kaders onder druk staan, terwijl zij wel geënt zijn op de normen en waarden zoals we die willen hebben. Wat kunnen we daar dan mee doen? Is het kader flexibel genoeg? Moet het kader veranderen? Of moeten we robuust het kader versterken door te zeggen «dit willen wij niet»?

Het is een heel interessante wisselwerking, maar ik sta voor die driehoek. Op al die gebieden hebben wij ook allerlei werkgroepen, en noem maar op. Dus wat moet een commissie, een Kamerlid, een beleidsmedewerker of een bewindspersoon weten? Ik zou zeggen: de basis van die drie verschillende invalshoeken, in samenhang met elkaar.

Wat betekent dat politiek gezien? Ik denk dat het een hele zware maatschappelijke doorvertaling betekent naar sociale ontwrichting, naar sociale vragen en naar nieuwe sociaal buitengeslotenen. Nu noem ik allerlei negatieve kenschetsen, maar er zijn ook hele kansrijke gevolgen, sociaal-maatschappelijke maar ook economische gevolgen. De economische doorvertaling van «winner takes all» noemde ik al, maar we zien ook disruptiviteit in bijvoorbeeld de taxibranche en de hotelbranche. En er zijn allang hele andere gevolgen, bij restaurants bijvoorbeeld. Waar we voor moeten oppassen, is dat we het alleen maar framen als «o jee, we moeten ons kennelijk tegen iets verdedigen». Nee. Maatschappelijk-politiek is ook de innovatieve kans interessant, en die gaat verder dan de woordvoerder innovatie of de woordvoerder economische zaken.

Waarover ik zelf verbaasd ben, is altijd zo'n krantenkop als «medisch onderzoek in het gedrang door privacyregels». Waarom komt de nieuwe Google dan niet uit Nederland, waar de data bij de patiënt blijven en waar een ander verdienmodel achter zit? StartupDelta kreeg 60 miljoen en er is een Horizon 2020-programma in Brussel; waarom hebben we dat niet mee-georganiseerd? Wij zijn goed in mensen, en dat wordt cruciaal.

Ik rond af. Dit is voor mij de moraal: Europa, en ook Nederland, heeft wel degelijk een positie op het niveau van de andere grote blokken, namelijk vanuit dat mensdenken, en dan niet enkel via ethici en juristen, maar via innovatieve jonge bedrijven. En daar zie je dat die vork niet helemaal functioneert, dat «made in Holland or Europe» en «powered by humans» langs elkaar heen werken, want ondertussen denderen de ethische en morele veranderingen door, doordat de leidende technologie niet meer in Nederland of Europa wordt gemaakt.

Ik kan een voorbeeld noemen. Ik was in China. Ik mocht in Beijing les geven aan studenten. Ik zei: «Vinden jullie het nu leuk dat, als je op een zebrapad oversteekt en ziet dat je buurman door rood loopt, jij hem moet aangeven op je mobieltje en dat jij dan punten krijgt voor je komende baan of huis? Maar als jij dat niet doet, gaat de buurman daarnaast jou en die ander aangeven en krijgt dan dubbele punten.» Toen keek die student mij aan en zei: «Yes, we want this.» O, dacht ik, hij is hoogopgeleid; hoezo dan? Hij zei ook, even in het Nederlands vertaald: «Jullie denken nog vanuit de mier. Voor ons gaat het belang van de mierenhoop veel verder dan dat van de mier.» Nou, je eerste impuls is: abject. Of je denkt iets van: die moeten de hele verlichting nog doorlopen. Maar zij zijn nu wel leidend. Dat zette me dus aan het denken. Laten we dat humancentric niet te soft maken, maar laten we het keihard innovatief maken. Dat is ook mijn ervaring uit het hele netwerk.

Dus graag meer kennis bij u; ik doel op die driehoek. De maatschappelijk-politieke doorvertaling heeft zowel een economische, sociaal-maatschappelijke als innovatieve component. En ten slotte wat betreft de institutionele invulling: het kan absoluut, maar alsjeblieft géén bewindspersoon en wél een veel intensievere interdepartementale kracht. Je zou bijvoorbeeld wel een bewindspersoon leidend kunnen maken op een groot thema dat u de komende periode distilleert; bijvoorbeeld «hoe gaat de overheid om met data?». U zou kunnen zeggen dat daarin best een bewindspersoon leidend kan zijn en dat die het primaat krijgt. Maar dat moet dan wel op een andere manier dan nu: die bewindspersoon moet ook echt het primaat krijgen en een building block kunnen neerzetten dat iedereen dan ook gaat gebruiken. Dat is er nu niet; we gaan nu weer verticaal.

De voorzitter:

Er is onrust in de zaal. Ik zie dat even als positieve onrust, want we gaan die dadelijk vertalen naar vragen. Er wordt gezegd dat men probeert een driehoek te vinden in een cirkel, en dat dat gelukt is, en nu de propeller nog. Heel goed.

De heer Van Dam (CDA):

Voorzitter, voordat wij naar de vragen gaan: mag ik vragen om die driehoek toch nog even te specificeren?

De voorzitter:

Ja. Ik ga het als volgt doen. Ik vraag eerst de heer Van Bellen of hij door de inbreng zoals hij die voor ogen had, heen is.

De heer Van Bellen:

Ja, absoluut.

De voorzitter:

Want de driehoek disruptie, domeindenken en kaders – zo heb ik hem even voor mezelf genoteerd – vergt nog enige toelichting. Zou u die in één minuut nog even één keer strak willen neerzetten? Met name de heer Van Dam is een structuurdenker, en de heer Van Otterloo niet minder. Zij houden van een beetje overzichtelijke structuur. Ze zijn erg blauw en ze willen dus graag snappen wat er bedoeld wordt met dit soort figuren, want anders gaan ze toch twijfelen. Ik geef het woord aan de heer Van Bellen en daarna aan de leden voor de vragen.

De heer Van Bellen:

Ik hoop dat u mij niet bedoelt met één van die figuren, maar ik kom er graag op terug. U heeft het uitgebreid in het dossier, maar het is veel leuker om het boekje te hebben. Dus ik zal het boekje waar het in staat, in de zaal of bij de griffier leggen.

Propeller of driehoek: daarmee bedoel ik hetzelfde.

Eén: er zijn disruptieve technologieën. Die denderen onze samenleving binnen en die moeten we snappen. Is AI belangrijk en waarom dan? Wordt blockchain wat, of is het een hype en hoeven we er geen aandacht aan te besteden?

Twee: ze denderen domeinen binnen, maar welke domeinen staan daardoor nou op hun kop? De zorg bijvoorbeeld, of het onderwijs, of het vervoer? Het is heel anders denken. Er zitten ineens artsen aan tafel, terwijl hier techneuten aan tafel zitten. Dit is blauw en bruin, dit wordt al wat groener en geler.

Ten slotte: er zijn kaders – dan krijg je een hoog, zeg maar, Rathenau-gehalte – die daardoor onder druk komen te staan, bijvoorbeeld juridische kaders, kaders met betrekking tot veiligheid of met betrekking tot educatie. Die kaders worden vaak door kaderstellers gemaakt; ik zeg dat dat juristen zijn. En die juristen komen nu in botsing met de artsen. Die artsen zeggen: «Leuk, die privacy, maar ik denk dat deze patiënt die privacy even niet wil, want ik kan hem nu genezen met deze AI-toepassing.»

Dat is het spel. Ga er maar aan staan. Wij verwachten weer veel van u.

De voorzitter:

Dank voor de introductie en voor het addendum om de driehoek nog even toe te lichten. Dan wil ik nu naar de heer Azarkan. De heer Azarkan heeft aangegeven dat hij om 11.30 uur eventjes moet vertrekken en later, na de lunch, weer terugkeert. Dus ik wil de vragen in dezelfde volgorde laten stellen. Laten we even kijken of we de vragen iets puntiger kunnen formuleren dan zonet het geval was. Dan kunnen de antwoorden en eventueel de herhaal- of toelichtingsvragen of de tweede vragen wat makkelijker plaatsvinden. De heer Azarkan.

De heer Azarkan (DENK):

Dank, voorzitter, ik zal meteen mijn best doen. Dank ook aan de heer Van Bellen. Ik begin meteen met mijn vraag. Die is heel concreet. Het gaat over de Gedragscode artificial intelligence, uit 2018. Daarbij stond achteraan een soort aanloop qua naam, een beetje van «er komt nog meer»; het vertrekpunt stond er, dus er komt waarschijnlijk nog iets daarna. Wie zit erop te wachten? Wie past die code nou toe? En wie houdt dat nou in de gaten?

De heer Van Bellen:

Dank. Mijn club heeft die code gemaakt met een heleboel anderen uit die verschillende vijf bloedgroepen en die wordt nu gepilot. Dat zijn partijen die met AI aan de slag willen. Er loopt onder andere een pilot bij Binnenlandse Zaken met betrekking tot verantwoordelijkheden van de overheid als dienstverlener naar de burger. Maar er loopt ook een pilot bij een aantal mkb'ers. Zij zeggen: «We horen over AI en we willen er iets mee, maar we hebben geen idee hoe we dat aan moeten pakken. Wat we niet willen, is dat we iets gaan bakken waarbij we binnen de kortste keren allerlei klachten krijgen dat we het juridisch of ethisch niet goed gedaan hebben. Dus dat willen we in de ontwikkelfase al meenemen.» En daar helpt die publicatie bij: AI by design, waarin een stukje ethiek en juridisch is meegebakken, voor een partij die echt al wil, maar zelf geen toegang heeft tot de informatie van dure consultants of allerlei loketten waar hij net niet in past. Het kan ook een overheidspartij zijn.

De heer Azarkan (DENK):

Een korte aanvulling. Ik zie aan de voorzitter dat ik dat van hem mag. Nou ben ik met name geïnteresseerd in partijen met heel veel macht en heel veel geld, die tijdens verkiezingstijd informatie verzamelen over mensen – dat hebben we allemaal gezien – en met die data dingen doen die ethisch gezien waarschijnlijk niet overeenkomen met uw gedragscode en normenkader. Wat doen we met die partijen als het gaat om AI?

De heer Van Bellen:

We hebben verschillende instrumenten. De vraag is natuurlijk welk het meest effectief is. Je hebt regulering, met daarachter niet te vergeten handhaving. Je hebt coregulering, waarin je partijen meeneemt en zegt: op basis van deze code gaan we jullie publiekelijk afrekenen, zodat je je eraan houdt. Dat is een beetje naming-and-shamingachtig. Dan wordt het al zachter. Dan heb je educatie. Dan zeg je: ja, dit is wel de trend in de samenleving, maar als jullie een partij willen zijn die aan de samenleving meebouwt en die niet leegslurpt, doe dan mee in dat portfolio. Dus educatie gaat nog wat verder dan naming-and-shaming.

In Nederland is mijn opstelling altijd: doe mee in dat portfolio. En daar wordt wereldwijd best naar gekeken vanuit de googles en facebooks, die gewoon lid bij ons zijn; dat zijn de unilevers en de ministeries ook. Ze doen daaraan mee, want ze voelen natuurlijk allang dat hun businessmodellen onder zware druk komen; anders worden ze opgesplitst of anderszins.

De belangrijkste benoeming van de laatste jaren is dat mevrouw Vestager Commissaris voor digitale zaken én Commissaris voor mededinging is geworden. Dus zij gaat met een knuppel hard op de googles slaan, en aan de andere kant gaat zij Europa verder helpen om die digitale innovatie ook zelf te ontwikkelen. Maar mijn tactiek is niet de knuppel; de regelgeving en handhaving is niet aan mij. Ik wil ze meenemen in een soort coregulatief kader. Dus staat bijvoorbeeld Microsoft in die lijst van meegenomen partijen. Ik geloof daarin.

De voorzitter:

Dank. Dan de heer Van Otterloo.

De heer Van Otterloo (50PLUS):

In de pauze verzuchtte ik al even dat niemand eigenlijk antwoord kan geven op onze onderzoeksvraag, namelijk hoe we de parlementaire democratie inrichten op de huidige uitdagingen, maar daarbij vooral ook de toekomstige niet vergeten. Ik zal niet zeggen dat ik al mijn hoop op u heb gevestigd, maar u bent in ieder geval iemand die vanuit een wat hoger perspectief kijkt. U heeft niet voor niets een propeller. We zien natuurlijk veel mensen voorbijkomen die allemaal op deelterreinen weten wat goed gaat en wat niet goed gaat, maar ik heb nog even niet te pakken waar die propeller of die driehoek ons nu gaat helpen in de parlementaire democratie.

Als u het heeft over gebruikers, dan heeft u het over Albert Heijn en dat soort partijen, partijen die informatie gebruiken. Wij hebben te maken met alle Nederlanders. We hebben te maken met het buitenland en wat dat betekent.

Dus de vraag is de volgende. Wat kunt u ons vanuit uw positie bieden als het gaat om het beantwoorden van de vraag hoe wij hier het hele proces moeten invullen? Hoe richten we het in, zodat het zowel naar de toekomst gericht is, als ook alle incidenten goed aankan? Ik zal niet zeggen dat het de makke van de huidige politiek is, maar die incidenten horen er wel bij. Hoe richten we het in zodat tegelijkertijd een structuur wordt gebouwd die Nederland verder helpt?

De voorzitter:

Voordat ik de heer Van Bellen het woord geef, stel ik vast dat hij er wel iets over heeft gezegd. Hij heeft zelfs heel nadrukkelijk gezegd: geen algemene bewindspersoon, wel interdepartementale samenwerking en eventueel thematisch een bewindspersoon. Maar misschien zijn er nog meer ideeën over.

De heer Van Bellen:

Dank voor deze vraag. Natuurlijk volg ik het politieke discours al jaren. Het zit op verschillende niveaus. We hebben het over bewindspersonen – dat is natuurlijk belangrijk – met een veel meer geïntegreerde visie op digitalisering, terwijl ze wel hun eigen verantwoordelijkheden houden. Dat betekent dat uw commissie bijvoorbeeld een bijdrage kan leveren door een aantal basisthematieken te benoemen – het zullen er niet veel zijn – waarvan het zonneklaar is dat die op departementaal of eigenlijk overheidsniveau, op dezelfde manier behandeld moeten worden, omdat ze een bouwsteen zijn voor een goede digitale samenleving. Bijvoorbeeld: hoe gaat de overheid met data om? Op dit moment zijn daar zeven commissies mee bezig: bij IenW, bij VWS, bij... Snapt u? Dus die burger of mkb'er, of wie dan ook, wordt geconfronteerd met verschillende kleuringen van bepaald beleid. De normen en waarden die daaraan ten grondslag liggen, zijn wel duidelijk, maar nou de vertaling naar de samenleving nog.

Dus dat is al een bijdrage. Wat ervoor nodig is om één bewindspersoon misschien voor zo'n deelthema verantwoordelijk te maken, is wel dat bijvoorbeeld de premier bewaakt dat die doorzettingskracht krijgt op dat dossier. En we moeten iets doen aan het kennisniveau om dat dossier ook te snappen, zowel bij u als bij de departementen. Ik zal de partij niet noemen, want dat doet er niet toe, maar ik vond het heel verstandig om te zeggen dat ook Kamerleden eigenlijk wat meer versterking nodig hebben. Ik zou in de cv's van eventuele tweede medewerkers – wat een rijkdom zou dat voor u zijn – kijken naar dit dossier; kijk niet naar een diginerd, maar naar iemand die een visie betoont en van een generatie is dat hij dit onderwerp kan vertalen naar verschillende beleidsdossiers. Daar zitten we om te springen.

Ik ben helemaal niet politiek – ik vind jullie allemaal even leuk – maar denk ook aan de verkiezingen. Wie staan er op de lijsten? Dit onderwerp gaat gewoon om het volledig beheersen van de kwaliteit van onze samenleving.

Dus: op deelonderwerpen geen bewindspersoon, maar interdepartementaal sterker; benoem peers op grote blokken, deelonderwerpen die onomstreden publiek op één niveau gehanteerd moeten worden. We hebben heel veel kralen, maar we missen in Nederland vaak het touwtje van het verbindend vermogen. Hoe kan je dan een digitale ketting maken? Rond de vorige verkiezingen werd ik bijvoorbeeld erg blij van een brief van de sg's, de secretarissen-generaal. Zij zeiden: ho, ho, ho, het zit niet in het regeerakkoord, maar dit wordt wel heel belangrijk. Dus het maakt mij niet uit waar de touwtjes zitten, maar we hebben ze nog onvoldoende, op allerlei niveaus.

De heer Van Otterloo (50PLUS):

Maar u bent wel heel enthousiast over een tweede ondervoorzitter voor de EU-commissie die zich met digitalisering bezighoudt. Misschien kunt u uitleggen waarom het daar wel een goed idee is en bij ons niet?

De heer Van Bellen:

De crux voor mij was dat die Eurocommissaris de combinatie mag maken met het onderwerp mededinging, waardoor ze ineens power krijgt en tanden heeft. Want toen het alleen over digitale zaken ging... Met alle respect voor mensen als mevrouw Kroes. Zij heeft bijvoorbeeld heel veel bereikt met betrekking tot breedband in Europa en het afschaffen van roaming, maar dat is een single issue. Hartstikke leuk, maar het heeft natuurlijk niet die hele beweging, want er was een ander DG voor bijvoorbeeld skills. Nu heeft de Eurocommissaris meer body, doordat ze ook een andere stevige pet op heeft. Wij zouden het hier dus niet zo moeten organiseren, maar het in de vorm van een intensieve samenwerking met mandaat moeten doen. Dat is veel meer het Nederlandse model.

De voorzitter:

De heer Van Dam. Bent u al toe aan een vraag?

De heer Van Dam (CDA):

Ja. Ik dacht dat u vroeg of ik toe was aan een derde kopje koffie.

De voorzitter:

Dat soort vragen zou ik u nooit stellen. Dat weet u.

De heer Van Dam (CDA):

Maar de hint is begrepen. Via de voorzitter, moet ik dan zeggen.

De voorzitter:

Gaat uw gang.

De heer Van Dam (CDA):

Ik moet u zeggen dat ik u in de eerste plaats wil complimenteren met het enthousiasme en de helderheid waarmee u hier zit, en ook met al die jaren dat u kennelijk al met dit thema bezig bent. U zat net ook in de zaal, dus u weet wat mijn primaire vraag is. Dat is de vraag: hoe kunnen wij als Tweede Kamer nou ook grip krijgen op dit onderwerp? Daar heeft u volgens mij al het nodige voor aangereikt, ook met die driehoek. Je kunt bijna ook een hartje van zo'n driehoek maken, maar goed. Ik wilde u toch vragen of u nog wat meer woorden kunt besteden aan die driehoek in relatie tot ons functioneren. Dat zou mij helpen. Natuurlijk is dat, vergeleken met alles wat u te melden hebt, een beperkt deel. Maar goed, ik probeer ook maar hier een beetje lijn in te brengen. Kunt u er misschien iets meer op ingaan wat het ook voor het werk van ons als parlement zou kunnen betekenen, en misschien ook voor de opdracht van de commissie natuurlijk?

De voorzitter:

Ja. Gaat uw gang.

De heer Van Bellen:

Over de driehoek: ik denk dat het van belang wordt dat uw commissie ook keuzes maakt. Dus als ik het even bij de propeller of driehoek houd: welke technologieën zijn nu zo disruptief dat de kern van Nederland, als handelsland maar ook als sociaal-maatschappelijke samenleving zoals wij die willen, onder druk staat? Mijn keuze zou dan zijn om met name uw tanden te zetten in het onderwerp kunstmatige intelligentie, want anders komt alles langs. Natuurlijk, 5G is belangrijk en internet of things, maar overal zit toch die component in van: «Hé, wacht even, er gebeurt nu iets. Zijn we al te laat en worden we afhankelijk van anderen?» Dan kun je nog maar één ding doen, namelijk óf reguleren, óf een niche proberen te pakken, óf zelf nog een grote innovatieve sprong maken. En dan staan we natuurlijk toch redelijk op achterstand. Dus prioriteit geven aan wat Nederland met AI kan, en dan niet vanuit bedreigingen door derden, maar vanuit onze intrinsieke krachten. Denk aan bepaalde diensten, denk aan de landbouw, denk volgens mij toch ook aan de zorg. Dus dat is een keuze.

Als ik naar de domeinen kijk, is het voor een commissie moeilijk om te treden in die vork, en in een domein te zeggen: joh, we gaan er nu vol voor dat wij als commissie een aanzet willen doen zodat bijvoorbeeld de zorg met die digitalisering veel meer stappen weet te maken. Toch denk ik dat daar wel een aantal domeinkeuzes gemaakt kunnen worden, als je maar weer de vertaalslag maakt naar het gegeven dat er echt iets aan de hand is wat grote impact op Nederland heeft. Ik zie in bepaalde domeinen wel dingen gebeuren waarvan ik denk: zo.

Ik geef een voorbeeld. Willen wij in het domein infrastructuur nou leidend zijn of niet? Nou ben ik geen belangenbehartiger voor de infrastructuur, maar het is van groot belang wat onze houding en visie is op hosting, datacenters en alles daarbovenop, en de nieuwe telecom voor 5G, omdat het een enorme backbone kan zijn die binnen twee jaar weg is. Ik sprak de Amerikaanse ambassadeur, Pete Hoekstra. Die zei: «Wat doen jullie nou? Over twee jaar ben je het gewoon kwijt, die hub.» Ik denk dat men er wel iets op vindt dat ze heel veel stroom verbruiken. Maar als een regionale overheid komt met maatregelen die niet komen vanuit een visie van wat we met elkaar willen met die digitale infrastructuur, dan hebben we op hoog niveau – bijvoorbeeld vanuit deze commissie – een verscherping van onze visie op dat domein nodig. En niet van een bepaalde woordvoerder, vind ik. Het gaat verder, want rondom dat domein zit ook educatie en zit ook vestigingsklimaat, zit ook... U ziet het voor u. Ik noem nu een voorbeeld, maar het is aan u om twee of drie echte voorbeelden te noemen.

Dan die kaders. Welk kader staat nu het meest onder druk? Ik zou veruit op één zetten: educatie, educatie, educatie, educatie. En dan bedoel ik niet alleen kindertjes die coderen in de klas. Er zijn 221 initiatieven op dat gebied en dat zijn een heleboel kralen, maar zonder touwtje. Maar er is echt een mismatch hogerop in de waardeketen, tussen wat mensen kunnen die van hogescholen en universiteiten komen en wat de samenleving op datagebied van ze vraagt. Binnen educatie is dat eigenlijk veel ernstiger. Maar het gaat ook om educatie bij gewone mensen. Er zijn inclusiviteitsvraagstukken voor doelgroepen die we nog nooit hebben zien aankomen. Dat zijn echt niet meer de ouderen. Het kan in hele andere kernen zitten. Dus dat is een kader waarop we een agenda kunnen zetten die ook weer heel innovatief en niet alleen maar defensief is.

De heer Van Dam (CDA):

Het kan een beetje mijn preoccupatie zijn, maar ik hoor u nu verder niets zeggen over die molshopen en die mier. Of nee, niet molshopen, maar mierenhopen. Ja, ik heb zelf een mol in mijn tuin, dus het zal vast hiervan komen. Mocht u daar nog adviezen over hebben, dan houd ik me ook aanbevolen. Nee, maar ik wil het hebben over die mierenhoop en die mier en de hele waardendiscussie die daaraan zit. Want je kunt die mierenhoop natuurlijk... In China zal dat een overheidsmierenhoop zijn, terwijl het in Amerika misschien een marktmierenhoop is. Maar in ieder geval heb ik een vraag over dat element. Heb ik u nou horen zeggen: «Kies er maar voor om gewoon ook te focussen op de mierenhoop en laat dat hele concept van die individuele mier maar gaan? Let go, want het is toch niet meer van belang?» Want wat is daar, en moeten wij daar iets mee?

De heer Van Bellen:

Nee, dat is zeker niet mijn conclusie. Wat ik bedoelde te zeggen is dat het ook een innovatief concept is om de mier of gewoon de individuele mens en zijn vrijheden, gebaseerd op onze normen en waarden, voorop te stellen. Die individuen zijn allemaal kraaltjes. Als we daar een touwtje doorheen doen, hebben we onze hoop; geen mierenhoop, maar hoop in de zin van verwachting. Dat wordt in allerlei rapporten alleen heel defensief gepositioneerd. Zo van: wij willen dat niet, dus we moeten die Amerikanen reguleren. Of: we moeten die Chinezen niet in onze spullen willen hebben zitten. Dat zijn allemaal lastige discussies, want dit is een mondiaal speelveld.

Nee, laten we dat individuele gedachtegoed over de vrijheden van burgers innovatief vertalen naar een digitaal concept. Dat kan bijvoorbeeld met een keurmerk op een platform of website, waarbij de menskant beter beschermd wordt dan in het Amerikaanse en Chinese model. Er was op een gegeven moment een concurrent voor WhatsApp, omdat er bij WhatsApp toch dingen met je gebeuren. Maar die concurrent kwam wel van de Russen, die we ook niet wilden. Daar liggen kansen.

Ik geloof dus in de individualiseringsslag die we gemaakt hebben – in de verlichting, in gelijkheid en whatever – maar digitaal zullen we dat toch moeten verpakken in een platform. Ik noemde StartupDelta. We zijn natuurlijk een Koning in van alles en nog wat. Ik beveel u aan om in de toekomst daarbij mee te geven dat startups daar leuke dingen mogen gaan doen, maar dat we hogere doelen met elkaar hebben. Dat soort thematische deelonderwerpen moeten ze dan dus vertalen in hun innovatiebeleid, in hun gedoetje, omdat ze anders geen geld krijgen.

De voorzitter:

De heer Middendorp is toe aan zijn vragen.

De heer Middendorp (VVD):

Die is tegen een centraal geleide economie, maar dat terzijde.

Voorzitter. Ik houd het kort en ik ga een beetje risico nemen, zeker aangezien ik naast mijn zeer gewaardeerde CDA-collega zit. Dank overigens voor het betoog, waarvan een heel groot gedeelte mij bijna uit het hart gegrepen is.

U noemde niet alleen ethici en juristen, maar ook startups. Dat is iets waarmee we hier in de institutionele architectuur worstelen. Nu komt de gevaarlijke opmerking. Ik ben namelijk econoom en mag dit dus eigenlijk niet zeggen. Is de strijd tegen of discussie tussen juristen en anderen, waaronder economen, niet een van de sleutels om de digitalisering in dit parlement en ons democratisch bestel een stap voorwaarts te brengen? Is het niet de sleutel om iets te vinden waardoor we die digitalisering wat makkelijker later lopen? Dat is één.

Twee, heel kort: u gaf als suggestie om AI als centraal thema te nemen. Zou dat niet AI en algoritmen moeten zijn? Bij AI kom je vaak heel snel terecht in discussies over self-learning et cetera. De overheid heeft bijvoorbeeld al heel veel moeite met het inzetten van simpele algoritmen die niet self-learning zijn en die geen AI zijn. Dat geldt eigenlijk ook voor het bedrijfsleven.

Dank u wel.

De heer Van Bellen:

Ik begin bij uw laatste vraag. Ik wil inderdaad geen discussie over definities. Algoritmen: ja. AI en deep learning: mwah. De disruptieve impact op onze samenleving en onze economie is echt de olifant in de hoek. Die technologie in de volle breedte, met al haar deelonderwerpen, daar gaat het mij om. Het moet dan goed gedefinieerd worden. Algoritmen zijn de kern daarvan. Dat klopt. Dat is één.

Twee: ik denk dat ik al twintig jaar de leukste baan in Nederland heb, omdat ik juristen, ethici, mensen uit het bedrijfsleven en politici bij elkaar gooi. Waar je wel voor moet oppassen, is dat we een soort rondedans van overleg hebben, terwijl het onderwerp erom vraagt dat we met praktische bouwstenen komen om de ontwikkeling in goede banen te leiden. Daar moet dan wel een turbo op zitten. We hebben bijvoorbeeld het document gemaakt dat net genoemd werd. Daar hadden we heel veel overleg voor nodig. Op een gegeven moment zeg je: nu willen we het hebben en willen we het gaan toetsen. Als er procesbegeleiding bij hoort die resultaatgericht is en die u zou bewaken als dat u zou raken, dan is dat belangrijk. Maar het kan niet anders in dit concept. Ik heb wel tien vergaderingen per week waarbij ik aan het eind Shakespeare moet citeren: «We are still confused, but on a higher level.»

Die turbo is in Nederland mogelijk. We hebben op dit domein echt dingen voor elkaar gekregen. Daar zijn we goed in. iDEAL, dat betaalding, is een Nederlandse vinding. Dat werkt als een trein, maar toen ze het in Europa moesten uitventen, stootten ze hun neus. Oostenrijk en Duitsland wilden het niet. We gaan ervoor dat ze het volgende wel willen.

De voorzitter:

«We are still confused, but on a higher level» is denk ik een beetje het motto van deze kennisdagen. Deze dagen leiden tot heel veel nieuwe vragen en nieuwe inzichten. Uiteindelijk moeten we die gaan bundelen, maar we zitten nu nog in het uitwaaieren. Ik zie dat de heer Van Otterloo sowieso nog behoefte heeft aan een vraag. Die gelegenheid geef ik hem nu eerst. Gaat uw gang.

De heer Van Otterloo (50PLUS):

Ik heb even achterin het boekje gekeken. Het komt uit november 2018. Het kost ook nog enige tijd om zo'n boekje te maken. Mijn vraag is heel praktisch. Wat staat hier nu in, dat u vandaag de dag al anders zou opschrijven? Wij worden natuurlijk geconfronteerd met een speelveld waarvan de lijnen, de hoogte en de diepte veranderen.

De heer Van Bellen:

Een film kan ook heel mooie foto's opleveren. Wij hebben dit toen bevroren. Een van de belangrijkste dingen die daarna gebeurd is, is dat er een tijdelijke commissie Digitale toekomst is gekomen. Wij hebben helemaal niet de pretentie om de waarheid voor een langere periode neer te leggen. Dit is gemaakt door alle partijen samen. De bedoeling is eigenlijk om mensen die nu doorkrijgen dat digitalisering een van de belangrijkste ontwikkelingen in de samenleving is, houvast te geven in het denken daarover; om er greep op te krijgen. Daarbij is bijvoorbeeld de propeller redelijk tijdloos. We hebben keuzes gemaakt voor bepaalde thema's. We hebben de zorg wat uitvergroot en ook AI, geloof ik. Dat kan per jaar veranderen. We hebben natuurlijk een website en andere media, waaraan we onderhoud plegen.

Dit boekje doet het wel goed. We hebben het bijvoorbeeld gestuurd aan alle burgemeesters en secretarissen van gemeenten. Zo van: volgens mij gebeurt er best wel wat bij u dat dit ook kan raken. Je krijgt dan heel leuke reacties. Weliswaar komen die reacties van 2% van de doelgroep, maar dat geeft niet. Daar gaat het ons ook niet om. Af en toe moet je dit gewoon doen.

U kent wellicht allemaal een andere publicatie van ons. Die had nog het meeste effect op het dossier over digitale vaardigheid op scholen. We zaten in de VO-raad en de PO-Raad en probeerden van alles. Dat lukte natuurlijk niet. Curriculum.nu gaat nu gelukkig goed werk leveren. Dat duurt tien jaar. Dit had het meeste effect: 300.000 Digiducks laten maken, met een verhaallijn over het feit dat digi leuk is, maar dat je ook op dingen moet passen. Alle scholieren in Nederland hebben dit gekregen. Dat is leuk aan mijn club: het hoeft niet alleen om overleg te gaan. Dit helpt, en zo'n boekje ook, maar het gaat om het gedachtegoed.

De heer Van Otterloo (50PLUS):

Ik heb nog één opmerking. Van de week dacht ik dat er weer een storm zou opsteken en dat de Nederlandse Zorgautoriteit een antwoord had op de HJ Schoo-lezing van Minister Hoekstra, omdat het handenschudtarief werd afgeschaft. Dat ging niet over het handen schudden tussen de patiënt en de behandelaar, maar over het feit dat nu ook digitale en andere vormen van communicatie voldoende zouden zijn om een tarief te mogen rekenen. Terwijl we al heel lang een telefoon hebben waarmee ook telefonisch consult mogelijk is, was de tariefstructuur nog zo dat een werkelijke ontmoeting zou moeten plaatsvinden alvorens er betaald kon worden. Dat geeft aan dat er op heel veel terreinen nog iets kan gebeuren.

De heer Van Bellen:

Mijn reactie daarop is dat het helemaal niet meer de technologie zelf is die de blokkade is om grootschalig nut te kunnen ondervinden, maar systeemfalen in heel andersoortige vorm. U noemt een goed voorbeeld. Het is nog steeds zo dat bepaalde huisartsenposten liever hebben dat u naar de wachtkamer komt. De vergoeding daarvoor is namelijk € 60 en die voor het e-mailtje maar € 10. Er zijn dus huisartsen die denken: nou, laat ze maar naar de wachtkamer komen. Nou denk ik niet dat dat snel een overweging is voor een huisarts. Het is een beetje een plastisch voorbeeld, net als dat van u. Ja, de zachte kant van de technologie gaat de snelheid van implementatie en maatschappelijke adoptie bevorderen.

Dit is er misschien ook nog eentje voor u als commissie: wat ging er nou mis bij het patiëntdossier? Later had ik ook mijn twijfels over de aanpak bij rekeningrijden en de slimme meter. Bij het patiëntdossier was er vanaf het begin geen patiëntenpanel aangesloten dat steeds kon aangeven wat het buikgevoel van de doelgroep was bij de methodiek zoals die werd aangereikt. Het was: u wilt dit, dit is nuttig en zeur niet. Het living lab van mensen was er dus niet. Een grote, publieke technologische ontwikkeling kan niet meer zonder living lab, maar je ziet het toch soms nog wel gebeuren.

De voorzitter:

Ik zou zelf ook nog even een vraag willen stellen. Ik kijk daarna rond of er nog slotvragen van de collega's zijn.

Ik moet u zeggen dat ik uw driehoek, die ook hoofdstuk 2, 3 en 4 van uw boekje is, in eerste instantie wat aan de abstracte kant vond. Ik vind ook dat u die nu heel erg concreet durft te maken, met een aantal dingen die u daarover zegt. Dat vind ik heel aardig. U bent dan dus aan het vertalen, en dat is iets wat wij natuurlijk graag willen.

Bij het eerste zegt u eigenlijk: bij technologieën zou je echt heel erg naar artificial intelligence moeten kijken. Er zijn natuurlijk ook andere technologieën. Er zijn ook allerlei andere vraagstukken. Kun je nou zeggen dat AI uniek is in zijn totale doorsnijdendheid op alle vlakken? Of ziet u nog andere technologieën die datzelfde hebben? Ik zie dat bij IoT bijvoorbeeld een beetje. Ik zie het bij big data eigenlijk ook, omdat data op allerlei terreinen terugkomen. Dat kun je ook koppelen aan AI, want AI en data gaan hand in hand. IoT draait eigenlijk weer om de verzamelaars van die data. Dat zijn apparaten die heel veel dingen ophalen doordat ze van bewegingen, stemmen of wat dan ook data maken. Bij 3D en blockchain zie ik bijvoorbeeld wat meer dat het zich isoleert. Zou het feit dat dit iets beter in een al bestaande verticale structuur past, voor de commissie reden moeten zijn om zich daarover wat minder zorgen te maken?

Het is een beetje een gesloten vraag. Excuus daarvoor. Het was semiretorisch. Ik ben altijd vatbaar voor aanvulling.

De heer Van Bellen:

Ik zeg niet dat het allemaal AI is. Ik denk wel dat de maatschappelijke impact van AI groter is dan die van sommige technologieën die u noemt. Dat is belangrijk in de afweging om daar extra aandacht aan te besteden. Het voorbeeld over zorggegevens staat hier op de voorpagina. Er zijn deelonderwerpen die heel snel de persoonlijke levenssfeer raken, maar ook deelonderwerpen die markten, marktposities en «winner takes all» enorm in een versnelling brengen. Dat is bij die andere technologieën iets minder zo.

Blockchain is trouwens wel teruggekomen. Het is een soort S-curve, een hype. Het is een grote en belangrijke ontwikkeling. Die heeft ook maatschappelijk effect, maar ik denk vooral economisch, bijvoorbeeld in trustdiensten. Ik zeg dus niet: laat de rest maar zitten. Het is aan u om een afwegingsmechanisme of instrumentarium te ontwikkelen waarbij je technologieën toetst op hun maatschappelijke impact. Daarbij zeg ik: de technologie die door die toetsing heen komt en die op dit moment de meeste impact heeft, is AI. Die kun je eigenlijk gelijk al oppakken. Gooi die andere niet weg, maar lever een mechanisme waarmee je alle technologieën tegen het licht kunt houden.

Markten veranderen, onze internationale positie verandert in die markt en er is maatschappelijke onrust. Vooraf hadden we het even over het feit dat een brandweerman een stervende jongen die doodgeschoten wordt opneemt op zijn telefoontje en dat ook nog uploadt. Ik denk dan: jeetje. We zien ook disruptieve gevolgen van technologie waar we echt wat mee moeten doen. Bij deze zie ik bijvoorbeeld dat het ethische kader hoognodig met educatie publiek geadresseerd moet worden. Dit is dan horizontale privacy.

Er zijn dus afwegingsmechanismen waarin de maatschappelijke en economische relevantie eigenlijk de toetssteen is. Voor AI staat dat buiten kijf. In die generieke kaders is dat misschien wel de ethiek van de technologie, maar dan niet alleen volgens Rathenau en juristen; het is ook een kans. Die knippert volgens mij in die andere punt.

De voorzitter:

Ik kijk even naar de collega's. Zijn er nog vragen? Zo niet, dan kunnen we het gesprek beëindigen. De heer Van Otterloo.

De heer Van Otterloo (50PLUS):

Ik heb een vraag in de richting van het platform.

De voorzitter:

Gaat uw gang.

De heer Van Otterloo (50PLUS):

Dat is ook naar aanleiding van dat laatste voorbeeld. Wat voor functie verricht het platform, of kan het verrichten, om de morele kant te adresseren? U zegt dat u wat adviserende groepen heeft, zoals een jongerenpanel. Maar hoe kunt u dit soort problemen aanpakken, over hoe individuen moeten omgaan met de inbreuk op privacy van anderen? Wij kijken naar de overheid. Wij stellen hier de grens, maar vervolgens wordt er in de samenleving door individuen anders gereageerd.

De heer Van Dam (CDA):

Mag ik misschien een aanvullende vraag stellen, als de collega dat toestaat?

De voorzitter:

Eerst moet de voorzitter dat natuurlijk goedvinden, en dan de collega. U gaat een pad op waarvan ik denk dat het constructief is, dus gaat uw gang.

De heer Van Dam (CDA):

Ik zou in dat kader willen vragen of u misschien ook iets kunt zeggen over het begrip digitaal burgerschap. Als parlement kijken we daarnaar. Dat komt ook door onze opdracht. Nu dit zo gezegd wordt, en aangezien ik van top tot teen een CDA'er ben die erg bezig is met het maatschappelijk middenveld en dat soort dingen vraag ik me af of u daar nog iets over kunt zeggen. Het digitaal burgerschap is eigenlijk nog niet zo aan de orde gekomen. Dat zou ook een belangrijke waarde kunnen zijn.

De heer Van Bellen:

Wij worden weleens een oliemannetje genoemd. Ik pretendeer helemaal niet dat we een bijdrage kunnen leveren aan de normen en waarden rondom de digitale samenleving. Maar we hebben met elkaar normen en waarden. De doorvertaling naar de digitale samenleving is een heel moeilijk traject. We waren natuurlijk vrij lineair georganiseerd, maar aan het eind van de keten is iedere burger nu zelf ook digitaal actief, vaardig en zelfs productief. We noemen hem ook wel de «prosument». Hoe ga je dan toch de kwaliteit van de samenleving borgen? Dan zoek je hubs: kennisbronnen met autoriteit. In eerste instantie denk je aan educatiecohorten als scholen, maar ook beroepsopleidingen. Zit dit onderwerp erin? De valkuil zit hem in iets wat we heel lang gezegd hebben. Dat is namelijk dat mensen het moeten snappen, bijvoorbeeld moeten kunnen coderen, terwijl dit onderwerp misschien dichter bij een vak als maatschappijleer ligt. Wat is de impact hiervan en hoe moet ik me daar als mens toe verhouden? Dat zit niet in het onderwijs. Dat hebben we natuurlijk besproken met scholen en Ministers van Onderwijs. Zij zeggen: «Jullie komen met digi. Dan moet je even achteraan in de rij aansluiten, want al mijn leraren zijn overbelast, overspannen en van een bepaalde leeftijd. En er zijn anderen die hun thema ook in het onderwijs willen hebben, zoals sociale vaardigheid.» Wij zeggen dan dat het daar natuurlijk ook in zit.

Ik denk dus dat educatie cruciaal is, maar ouderschap ook. Hoe kun je tegen ouders zeggen hoe ze dingen moeten doen? Dat moeten ze zelf weten. Toch zijn zij een belangrijke hub. De overheid is dat toch ook wel, en dan niet alleen regulatief en handhavend. De grootste digitale gebruiker is niet Albert Heijn of de burger, maar de overheid. Dat is helaas een beetje ver-Eliast. Hoe zeg je dat? Het lijkt bijna een project of zo. Gezien de grondrechten ligt daar een heel andere verantwoordelijkheid. «Practise what you preach» heeft een enorm effect. Dat geldt bijvoorbeeld ook voor het gedrag van een brandweer die zoiets doet.

Ik heb hier dus geen antwoord op. Ik kan alleen wat hubs noemen die we moeten empoweren. Zij moeten dit denken op een zorgvuldig niveau verder brengen. We zijn er nog lang niet, want dit is een heel nieuwe ontwikkeling. Mijn kinderen zijn 19, 16 en 13. Zij hebben hier op school niets van meegekregen. En ik al helemaal niet. Ik heb mijn scriptie nog gewoon op een typemachine gemaakt. Het is dus heel snel gegaan.

De voorzitter:

Met een scriptie op een typemachine, de mier en de mierenhoop, de kraal en de kettingen, Shakespeare en de hogere verwarring die we ook dit uur weer hebben bereikt, wil ik onze dank uitspreken voor uw komst en uw verhaal. Daar gaan we zeker gebruik van maken. Het is ook allemaal nog na te lezen in dit boekje.

We gaan om 13.00 uur verder met deze kennisdag. Na de lunch zal de heer Van Zwol van de staatsraad hier zijn. Hij is rapporteur van het advies van de Raad van State over digitalisering.

Ik dank de heer Van Bellen en de collega's. We zien elkaar straks weer terug.

De vergadering wordt van 11.53 uur tot 13.06 uur geschorst.

Blok 3

Gesprek met:

– de heer Richard van Zwol, staatsraad en eerste rapporteur van het advies van de Raad van State over digitalisering

De voorzitter:

Dames en heren, we gaan snel beginnen aan het middagdeel van onze tweede kennisbijeenkomst. Vanochtend hebben we al een heel aardig blok gehad met de WRR en ECP. Vanmiddag doet daar zeker niet voor onder. We hebben zo dadelijk Richard van Zwol te gast. Hij was eerste rapporteur van het advies van de Raad van State over digitalisering. Ik heet ook de leden welkom. Naast de heer Middendorp en de heer Azarkan, die er vanochtend waren, is gelukkig ook mevrouw Buitenweg weer bij ons aangeschoven. Andere leden waren er vanochtend wel, maar hebben een andere Kameractiviteit die hiermee samenvalt. Ik ben blij dat we in ieder geval met z'n vieren zijn. Heel misschien komt de heer Van Dam ook nog, zodat we bijna in vol ornaat zijn. Mevrouw Van Weerdenburg heeft zich moeten afmelden. Ook de heer Van Otterloo heeft zich vanwege die Kameractiviteit voor het middagdeel moeten afmelden.

Ik wil heel snel naar de heer Richard van Zwol. Zeer veel dank dat u in ons midden wilt zijn. Als u een introductie zou willen geven over in het bijzonder het rapport van de Raad van State, maar misschien ook wel over de blik van de Raad van State op digitalisering meer in het algemeen, dan is dat zeer welkom. Dat mag wat mij betreft een minuut of tien à vijftien duren. Daarna gaan we dan interactief met elkaar in gesprek.

De heer Van Zwol:

Dank u wel. Alle waardering en lof voor dit initiatief van de Kamer. Het past in de traditie van veel aandacht van uw Kamer in de laatste paar jaar voor al deze thema's. Dat is helder.

Ik heb uw vraag zo opgevat: hoe kunnen wij als Kamer onze kennispositie op het gebied van digitalisering verstevigen, en hoe kunnen wij onze grip op deze ontwikkelingen verstevigen? In mijn introductie zal ik betogen dat ik in dat opzicht goed nieuws voor u heb. Een van uw kernfuncties, namelijk het zijn van medewetgever, maakt het volgens ons mogelijk dat u uw kennis van en grip op deze materie gaat versterken.

Het ongevraagd advies van de Raad van State van een jaar geleden is bekend. U heeft daar onlangs een Kamerdebat over gehouden. Dat advies was weliswaar ongevraagd, maar het had wel een voorgeschiedenis. Ruim een jaar geleden kregen wij ongeveer op hetzelfde moment drie uiteenlopende wetsvoorstellen voor advies op tafel. Ze hadden allemaal te maken met digitalisering. Eén ging over een aanpassing in de Algemene wet bestuursrecht om het elektronisch berichtenverkeer met burgers in te voegen. Twee was de invoeringswet voor de Omgevingswet, waarin het Digitaal Stelsel Omgevingswet werd ingevoerd. Het derde was de Wet digitale overheid, voorheen de Wet GDI. Wij zagen met die drie wetsvoorstellen aan de ene kant dat het vraagstuk van digitalisering de positie van de burger en de rol van wetgeving actueel op tafel legt. We zagen bij die drie wetten ook dat er van de kant van de wetgever werd geworsteld met het beantwoorden van de vragen. Dat was dus een concrete aanleiding om het vraagstuk meer in algemene zin te bezien.

Wij hebben het ongevraagd advies over mijnoverheid.nl, met een vraagteken achter «mijn», op twee manieren benaderd. Eén: het versterken van de positie van de burger. Twee: het versterken van de positie van de wetgever. Het versterken van de positie van de burger heeft bij ons tot drie inzichten en adviezen geleid. Het eerste is om digitaal tot stand gekomen besluiten beter te motiveren: geef de burger inzicht in de beslisregels die je als overheid hebt gehanteerd en in de algoritmen en data die je hebt gebruikt. Het tweede is om de burger een betere rechtsbescherming te bieden, met name als er sprake is van digitale besluitvorming in een keten van overheidsorganisaties. Drie is om in het kader van de beginselen van behoorlijk bestuur ook het beginsel van zinvol contact van de overheid met de burger een betere plek te geven. Dat waren de drie onderdelen bij het versterken van de positie van de burger.

We hebben ook de positie van de wetgever onder de loep genomen, ook met drie concrete invalshoeken en adviezen daarbij. Eén: we hebben vastgesteld dat veel wetten het karakter hebben van een kaderwet, of vooral van procesbeschrijvingen, maar dat ze niet de materiële normstelling richting burgers en andere belanghebbenden betreffen. Huiselijk samengevat: het algoritme dreigt een klein beetje de wet te verdringen. In dat soort wetten wordt een grondslag gegeven om zaken uit te werken in algemene maatregelen van bestuur en/of ministeriële regelingen. Om die lagere regelgeving echt uit te voeren, moet een vertaling plaatsvinden in beslisregels of algoritmen, uit te voeren door overheidsorganisaties. Maar daardoor zit de normstelling uiteindelijk in het algoritme en niet in de regelgeving, laat staan in de wet die het parlement vaststelt. Dat is het eerste punt.

Het tweede punt, daarmee samenhangend, is dat ICT nu wordt bezien op het moment dat een wet eigenlijk klaar is: o ja, in het kader van de uitvoering wordt ook gekeken naar ICT. Digitalisering en de uitvoering door ICT is van zo'n wezenlijk belang dat dit naar de voorkant van het proces moet. Bij het ontwerpen van beleid en bij het ontwerpen van de wet – ook de wet in formele zin – hoort digitalisering al te worden meegenomen.

Over het derde punt zal ik straks nog iets meer zeggen. Dat is dat digitalisering mogelijk ook iets vraagt van de inrichting van het wetgevingsproces. In alle eerlijkheid: het wetgevingsproces is in de kern eigenlijk nog het wetgevingsproces van de tweede helft van de negentiende eeuw, met zijn stappen binnen de departementen, tussen de departementen, in de ministerraad, naar beide Kamers, met schriftelijke vragen, AO's, wetgevingsoverleggen en mondelinge behandelingen. De meest interessante vernieuwing is de internetconsultatie geweest, maar daarmee is het ook opgehouden. De vraag is dus of het wetgevingsproces en hoe we dat inrichten binnen de departementen, tussen de departementen en in de Kamers nog van deze tijd is.

Wij hebben ons advies met deze twee invalshoeken – de positie van de burger en de positie van de wetgever – bewust ruim een jaar geleden afgeleverd, net voor het moment waarop het nieuw aangetreden kabinet met de nieuw aangetreden Staatssecretaris van Binnenlandse Zaken zijn digitale agenda ging opstellen: NL DIGIbeter. We zijn nu een jaar verder. Vanuit de Raad van State, Afdeling advisering, kijken we heel positief naar de agenda NL DIGIbeter en naar de voortgang die er op tal van punten is geweest.

Wat betreft de positie van de burger is er in wetgeving zichtbaar meer aandacht voor de positie van de burger, voor de rechtsbescherming en voor het goede contact van burgers met de overheid, ook bij digitale besluitvorming. Wij zien ook verbeteringen in concreet aan ons ter advisering voorgelegde wetgeving: een aanvulling op de Wdo, een aangepast Digitaal Stelsel Omgevingswet, de Bekendmakingswet over het bekendmaken van besluiten en wetgeving over het burgerservicenummer. Dat zijn allemaal voorbeelden waarbij wij in het afgelopen jaar hebben gezien dat er zichtbaar meer is gelet op de positie van de burger, en er zichtbaar stappen vooruit zijn gezet.

Ook met wat de Staatssecretaris in NL DIGIbeter aankondigt op het punt van de verhouding van digitalisering ten opzichte van de rechten – vooral grondrechten – van burgers en het vraagstuk van privacy en persoonsgegevens is er veel in gang gezet, en er komt nog veel aan. Daar is nadrukkelijk aandacht voor. Dat geldt ook bij andere kabinetsleden, zoals de Minister voor Rechtsbescherming, met zijn brieven over algoritmen en wetgeving. Dat zijn allemaal heel goede voorbeelden.

Is het daarmee op het punt van de positie van de burger allemaal klaar? Nee, natuurlijk niet. Maar dat ligt niet aan de inzet. Dat ligt denk ik gewoon aan het feit dat dit heel complexe materie is. Dat onderscheidt digitalisering misschien wel van andere belangrijke ontwikkelingen die we kennen. Ook op ander technologisch vlak gebeurt er veel. Er zijn ook andere typen economische en maatschappelijke onderwerpen die zeer van belang zijn, maar digitalisering heeft twee bijzondere aspecten. Eén: ze raakt werkelijk alle terreinen van de maatschappij. Twee, niet te onderschatten: ze raakt niet alleen de positie van de burger, maar verandert ook de positie van de overheid en de overheidsorganisatie zelf. Dat laatste is bij veel andere technologische en maatschappelijke ontwikkelingen niet per se het geval. We hebben hier dus niet alleen te maken met een opdracht voor de overheid, maar ook met een opdracht die de overheid zelf doet veranderen.

Dan kom ik aan mijn tweede punt: de positie van de wetgever. U zult niet verbaasd zijn dat mijn boodschap is dat daar eigenlijk nog de meeste winst te behalen is. In het afgelopen jaar zijn daarin nog geen nadrukkelijke stappen gezet. Hier gaat het met name om de vraag hoe we wetgeving en het wetgevingsproces beter kunnen inrichten. Een heel belangrijk vraagstuk bij wetgeving betreft de dilemma's rondom flexibiliteit en het mogelijk maken van experimenten. Er is bij veel maatschappelijke opgaven veel vraag om te kunnen experimenteren. Er is aan de kant van ministeries veel behoefte aan zogenaamde experimentwetgeving. Er is ook behoefte om te kunnen experimenteren met data en met nieuwe technologieën. Dat vraagt een benadering waarbij aan de ene kant recht wordt gedaan aan het karakter van experimenten, met flexibiliteit om nieuwe dingen te kunnen verkennen en ruimte te geven. Anderzijds moet ook recht worden gedaan aan datgene waarvoor een wet bedoeld is, namelijk het bieden van rechtszekerheid en rechtmatigheid. In de kern is dat denk ik een vraagstuk voor de wetgever, zowel aan regeringszijde als aan parlementaire zijde. Dat ligt nog vol op tafel en daar is veel vraag naar. Het is een vraag over de inhoud: hoe maken we dat type wetten op zo'n manier dat de wet zelf richting geeft en niet een soort blanco cheque is om het allemaal in lagere regelgeving te regelen, of concreet in de uitvoering, terwijl je ook ruimte laat voor vernieuwing en experimenten? Ook is er vraag naar hogere snelheden. Wetgevingstrajecten die jaren duren, verhouden zich niet tot de noodzaak van snelheid en experimenten. Zowel wat betreft de inhoud – hoe maak je zo'n wet en hoe zet je die in elkaar? – als het wetgevingsproces ligt er dus nog een grote vraag.

Hierbij moet je ook kijken naar in te zetten instrumenten aan departementale kant en in de Kamer zelf. U stelde een vraag over mogelijkheden voor kennis. De Dienst Analyse en Onderzoek probeert op een aantal terreinen alle commissies in de Kamer heel intensief te ondersteunen. Ik kan me voorstellen dat je ook op dit punt extra inzicht wenst. Dat vraagt ook het doordenken van de wetgevingsprocedures binnen een departement en tussen de departementen, en ik vermoed ook in de Kamer zelf. Hoe doe je dat nou?

Tot slot zeg ik dat hier een grote samenhang ligt met het verbeteren van de uitvoering door de overheid. Die vragen raken allemaal de digitale uitvoering. Bij de Politieke Beschouwingen heeft uw Kamer gezegd onderzoek te willen doen naar de uitvoering bij grote overheidsorganisaties. In de Miljoenennota heeft het kabinet gezegd dat er een Ministeriële Commissie Uitvoering is gekomen. De Raad van State heeft in zijn miljoenennota-advies aandacht gevraagd voor de brede maatschappelijke heroverwegingen. Praat niet alleen over wat nieuw beleid zou moeten zijn, maar ook over hoe je het zou moeten doen. Het gaat dan dus over vraagstukken van uitvoering, van transitie en van digitalisering.

Een laatste woord: ook aan de kant van de Raad van State gaat het denken voort. Samen met het Ministerie van Binnenlandse Zaken gaan we dit najaar verder onderzoek doen naar het fenomeen wetgeving en algoritmen. Binnen de Afdeling bestuursrechtspraak van de Raad van State wordt verder gestudeerd op het vraagstuk van algoritmen en besluiten door de overheid waartegen de burger in verzet kan komen. Binnen de Raad van State wordt door de Afdelingen bestuursrechtspraak en advisering in een kenniseenheid samengewerkt op het gebied van digitalisering.

De voorzitter:

Zeer veel dank. Een duidelijke inleiding, waar wij als commissie graag onze tanden in willen zetten. Mag ik weer het woord geven aan de heer Azarkan? We hebben besloten om het heen en weer te laten gaan. Het ophalen van de vragen gaf toch iets statisch. Wij gaan dus door op de weg die we vanochtend toevallig vonden, omdat een van de leden zo brutaal was om gelijk een vraag te stellen die ook gelijk beantwoord werd. Dat beviel zo goed dat we daarmee doorgaan. We doen inderdaad vraag-antwoord. Als de andere leden daar behoefte aan hebben, kunnen ze dus makkelijk inspringen. Dat beviel eigenlijk heel goed. Het woord is aan de heer Azarkan.

De heer Azarkan (DENK):

Dank, voorzitter. Dank ook aan de heer Van Zwol voor zijn overzicht en de schriftelijke kennis die hij al met ons gedeeld heeft. Ik wil kort focussen op de stelling dat ICT te veel wordt bezien als de wet al klaar is en op het feit dat we digitalisering naar de voorkant moeten halen. Hoe krijgen we dat vanuit de Kamer materieel ingericht? Hoe gaat zoiets?

De heer Van Zwol:

Het begint in alle eerlijkheid bij de inrichting op de departementen. Nu wordt een beleidsidee of politiek idee vertaald in beleid, in een nota. Dan wordt er een ontwerpfase gemaakt voor de regelgeving. Daarbij wordt vaak al wel nagedacht over wat in de wet moet en wat in lagere regelgeving kan, maar daar stopt het. Daarna krijg je het hele circuit van het interdepartementale overleg, ook u bekend. De uitvoeringstoets wordt vaak pas gedaan als men aan kabinetskant zegt: oké, het is goed zo. Wat er dan gebeurt, is heel belangrijk: wat in een wet of in een algemene maatregel van bestuur staat, moet door degenen binnen een overheidsorganisatie die dit vertalen eerst worden vertaald in beslisregels. Vervolgens moeten die beslisregels worden vertaald in een programmeertaal. Dat zijn twee verschillende stappen. U kunt zich voorstellen dat er bij elke stap vertalingsverlies kan zijn. Er kan iets verloren gaan bij het vertalen van wat de wetgever bedoelt in beslisregels. Er kan ook nog iets verloren gaan bij het vertalen van de beslisregel naar daadwerkelijke programmeertaal.

Mijn advies, of het advies van de Raad van State, aan de departementen is om de elementen van die vertalingen naar de voorkant te halen: als je bezig bent om het probleem en de mogelijke oplossing te beschrijven, ga dan ook eens nadenken over hoe je dat gaat vertalen. Je moet je er dan van bewust zijn dat de taal van regelgeving, de taal van beslisregels en programmeertaal drie verschillende talen zijn. Het bekendste voorbeeld is natuurlijk dat je in een wet kunt opschrijven dat iets richting een burger «naar billijkheid» moet worden bezien. Billijkheid in een beslisregel is heel moeilijk. In de beslisregel waarin je een definitie geeft van billijkheid krijg je een aantal beslisregels: dit is billijk, dit is billijk, dit is niet billijk en dit is ook niet billijk. Die dingen ga je dan nog in nulletjes en eentjes vertalen. Als je je daarvan bewust bent en dat al in het begin probeert te doen, ga je ook harder nadenken of het wel klopt wat je in die wet opschrijft, en of je het zo bedoeld had.

Net zo goed als een bewindspersoon aan de Kamers bij een memorie van toelichting inzicht moet geven in Europese aspecten, financiële aspecten en andere dingen, zou ik me kunnen voorstellen dat bij een ontwerpwet ook inzicht wordt gegeven in niet alleen de uitvoering, maar ook in de vertaalkant van de wet die daarbij nodig is. Het parlement kan zich daar dan zelfstandig verder over laten briefen wanneer nodig, en kan daar zelf ook een oordeel over hebben.

Mevrouw Buitenweg (GroenLinks):

Wat u zegt over billijkheid vind ik heel interessant. Ik zit daar nog even over te denken. Dat is natuurlijk typisch iets wat in wetgeving staat, omdat je ook een soort menselijke maat wilt hebben. Dat is heel erg van belang als je geen machine wilt zijn, maar een samenleving. Maar is dat mogelijk? U zegt: we halen dat dan naar de voorkant. Is het mogelijk om daar aan de voorkant invulling aan te geven? Of kom je dan tot de conclusie dat zo'n begrip niet mag gelden, terwijl dat misschien juist wel waardevol is voor de samenleving?

De heer Van Zwol:

Je kunt inderdaad tegen een grens aanlopen. In ons ongevraagd advies hebben we ook opgeschreven dat je best kunt constateren dat sommige beslissingen zo gebonden zijn aan een individuele context en zo zwaarwegend zijn voor individuele burgers – denk aan bepaalde beslissingen in het familierecht – dat je die eigenlijk per definitie nooit op een digitale manier zou moeten willen nemen. Als je een wetsvoorstel op zo'n terrein hebt en probeert om een vertaling te maken, kun je er inderdaad achter komen dat het een type onderwerp is waarbij dat niet kan.

Overigens, bij veel onderwerpen kan het uiteindelijk wel. Ook hier geldt de stelregel dat in de bulk van de beslissingen, namelijk 90% tot 95%, heel veel heel goed mogelijk blijft. Je moet je alleen bewust zijn van die onderwerpen waarbij dat niet zo is.

Ook de welbekende snelheidsovertredingen gaan digitaal. Wat we bijvoorbeeld allemaal weten, is dat in die digitale beslisregels een kleine marge wordt ingebouwd. Dat weet je. Eigenlijk zou je dat bij wetgeving altijd moeten weten: wat staat er in de wet en welk type vertaling hebben we in die beslisregels gemaakt om het uitvoerbaar te houden?

Nogmaals, ik ben ervan overtuigd dat 90% tot 95% van heel veel beslissingen goed op die manier kan worden genomen. Maar je test jezelf ook op dat kleine percentage waarbij het niet kan en/of waarvan ook de wetgever of de politiek zegt: dat willen we niet, omdat die beslissing zo ontzettend van belang is voor individuele burgers, of zo contextgebonden is.

De voorzitter:

Naast het feit dat we weten dat de heer Azarkan 103 op de snelweg rijdt: wil hij nog een vraag stellen? Dat is niet het geval. Dan mevrouw Buitenweg.

Mevrouw Buitenweg (GroenLinks):

Ik vond wat de heer Van Zwol zei over de materiële normstelling interessant. Die staat dus vaak niet in de wet, maar in een AMvB. Ik vroeg me af of hij ook een voorbeeld kan geven van iets waarbij dat echt anders moet. Hij zei net natuurlijk al dat zulke beslisregels eigenlijk ook in de wet moeten worden vervat. Tegelijkertijd zegt hij: er moet natuurlijk ruimte zijn voor experimenteren, en zo'n wet is niet zomaar aangepast. Is het nou reëel om te bedenken dat je beslisregels in de wet moet opnemen als die eigenlijk heel moeilijk kan worden aangepast?

De heer Van Zwol:

Bij die eerste vraag, namelijk op welk niveau de normstelling ligt, zijn er twee trappetjes. Je ziet heel veel wetgeving waarin de wettelijke grondslag wordt geregeld en de normstelling in een algemene maatregel van bestuur of in een ministeriële regeling staat. Dat is schering en inslag. Dat was ook onderwerp van het jaarverslag van de Raad van State: wetgever, let op uw zaak; bent u zelf nog wel voldoende aan het stuur in de normgeving?

Vervolgens voegen wij daar in dit advies eigenlijk een complicatie aan toe. Ook bij wetgeving waarbij normstelling pas bij een AMvB of een ministeriële regeling plaatsvindt, is het vaak zo dat de daadwerkelijke vertaling waar burgers mee te maken hebben niet eens daar plaatsvindt, maar nog een stapje verder weg wordt geduwd. Dat is het geval op het moment dat je een beslisregel maakt of een algoritme voor de uitvoering ontwerpt.

De stelling is niet dat alle normen in de wet in formele zin moeten staan. Onze stelling is dat je je ervan bewust moet zijn waar je wat doet. De wetgever moet zich ervan bewust zijn dat hij in veel gevallen als het ware wel de wettelijke legitimatie voor normstelling biedt, maar zelf eigenlijk niet de normstelling doet, omdat die verder weg in het proces ligt.

Bij zoiets als de Omgevingswet speelt dat een rol. In hoge mate worden daarin nieuwe processen voorgesteld en ontworpen, maar de daadwerkelijke norm komt uiteindelijk vaak terecht in de omgevingsplannen die gemeenten moeten maken. Wat nou de precieze vormgeving van de norm is waar een burger of een bedrijf mee te maken heeft, daar komt de burger eigenlijk pas achter als er een aanvraag wordt ingediend in het Digitaal Stelsel Omgevingswet. Dat is typisch zo'n voorbeeld waarin je dat getrapte karakter terugziet.

De tweede vraag gaat over het type onderwerpen waarmee je zou willen experimenteren. Daarbij zeg je: hier is het de bedoeling van de wetgever dat hij wel de politieke legitimatie geeft dát u iets gaat doen, maar bewust ruimte geeft om in de praktijk een beetje uit te zoeken wát u doet. Maar dan is het ten eerste op dat moment een bewuste keuze van de wetgever. Het is ten tweede iets waar we ook in andere adviezen bij concrete wetsvoorstellen op hebben gewezen. Bij wetten die dat karakter hebben, die experimenten mogelijk maken en waarbij bij het experimenteren niet te veel strobreedten in de weg worden gelegd, kun je als parlement of wetgever bijvoorbeeld een heel duidelijke evaluatiebepaling opnemen, of een heel duidelijke horizonbepaling. Dat houdt in dat je zegt: dit geldt voor drie jaar en daarna vervalt dit automatisch, want over drie jaar moet er uitgeëxperimenteerd zijn; komt u dan maar eens terug bij ons parlement met de opbrengst van het experimenteren, en kijk dan of we er nog zijn.

Het derde punt staat ook in ons advies. Bij dit soort wetgeving is het eens te meer van belang dat de rechtsbescherming van burgers goed geregeld is. U kunt dus als wetgever, als Tweede Kamer, een afweging maken: wij kiezen hier voor wetten die experimenten mogelijk maken, maar we zoeken de bescherming van de burgers en rechtszekerheid in evaluatie, horizon en rechtsbescherming. Dan maakt u een andere afweging, maar dat doet u dan bewust.

De heer Middendorp (VVD):

De opmerking over het wetgevingsproces sluit aan bij wat net besproken is. Die opmerking is natuurlijk voor deze commissie zeer relevant. Ik vraag me af of het in het huidige wetgevingsproces mogelijk is om structurele verandering te krijgen. Graag uw visie daarop. Ik zou een voorbeeld willen meegeven. Dat hoeft u niet te gebruiken, want u heeft ervaring genoeg. Dat voorbeeld is dat iemand – of in dit geval twee iemanden – bedenkt dat een online-identiteit een structurele verandering zou kunnen zijn waarmee de overheid in één keer een stap verder zet in de digitaliseringswereld. Is het überhaupt mogelijk om dat in zo'n wet vastgelegd te krijgen volgens het proces van AO, vragen en mondeling overleg zoals u dat beschreef? Dat is mijn eerste vraag.

Twee: de opmerking dat het algoritme de wet dreigt te verdringen, hebben we als commissie al een paar keer zien langskomen. U zet die heel scherp neer, en ik denk ook precies op de manier zoals we daarmee nu geconfronteerd worden. De vraag is of vroeger in de hoofden van mensen die de uitvoering deden niet ook al een deel gebeurde van de dingen die we met algoritmen proberen te voorkomen.

De heer Van Zwol:

Op beide vragen ga ik graag in, want ze zijn beide spot on.

De eerste vraag ging over het wetgevingsproces. In de praktijk weten de regering en beide Kamers wel te differentiëren in het wetgevingsproces. Een heel bekend voorbeeld is het jaarlijkse belastingplan. Daarbij worden in korte tijd op een gestructureerde manier veel fiscale wetsvoorstellen via een vrij rappe procedure heel geconcentreerd afgewerkt. Die procedure is inmiddels al jarenlang in het Haagse ingevoerd. Ook binnen al uw bestaande procedurele afspraken is dat mogelijk, als je zoiets inricht. Je zou je ook best kunnen voorstellen dat je eens kijkt of je niet op één moment in het jaar alle voor de burger relevante digitale aspecten op die manier in een soort verzamelwet zou willen behandelen. Ik zeg niet dat dit het ei van Columbus is, maar er zijn dus manieren om dit te doen.

In de praktijk is het ook best weleens voorgekomen dat regering en Kamers iets zo belangrijk vonden dat, ondanks alle procedures, werkelijk letterlijk in een paar dagen een hele wetgevingsprocedure werd doorlopen.

Ik onderstreep graag het belang van deze commissie, want je ziet dat dit alle ministeries en alle wetgeving raakt, en dus in de Kamer zelf ook alle commissies. De vraag is daarom hoe je hier Kamerbreed aandacht voor krijgt.

Nogmaals, met fenomenen als een verzamelwet, jaarlijks op vaste momenten geconcentreerde aandacht hebben voor een bepaald onderwerp en dat in je procedures inregelen, kun je al een heleboel dingen doen. Dat is denk ik het eerste.

Het tweede: u heeft volstrekt gelijk. Vóór de digitalisering werd binnen de uitvoeringsorganisaties natuurlijk ook met interne voorschriften gewerkt. Dat waren de voorlopers van de algoritmen. Er zijn denk ik twee redenen waarom het fenomeen algoritme nu desalniettemin nadrukkelijk aandacht krijgt. De massaliteit en de snelheid is gewoon groter, dus de impact voor burgers is heviger dan ze vroeger was. Het tweede punt is dat we in de rechtspraak hebben geleerd dat interne beleidsvoorschriften onderdeel konden worden van een procedure als een burger ergens zijn recht wilde halen. We zijn nu eigenlijk pas een paar jaar bezig om datzelfde toe te passen op algoritmen. Uw vergelijking klopt helemaal, maar ik denk dat massaliteit en snelheid redenen zijn waarom er zo veel aandacht voor is. Daarnaast is met interne beleidsvoorschriften van uitvoeringsorganisaties binnen de rechtspraak al lange tijd ervaring opgedaan, namelijk sinds de jaren vijftig of zestig. Uiteindelijk is er voor de rechtspraak aanleiding geweest voor het verder ontwikkelen van algemene beginselen van behoorlijk bestuur. Bij algoritmen zijn we daarop eigenlijk nog maar heel kort met elkaar aan het oefenen.

De voorzitter:

De heer Azarkan wil hier nog op ingaan, maar we doen eerst de heer Middendorp. Daarna komt de heer Azarkan. Gaat het over dit punt? Dat is niet het geval. Dan eerst een vervolgvraag van de heer Middendorp en dan de heer Azarkan met een nieuwe ronde.

De heer Middendorp (VVD):

Begrijp me niet verkeerd: de aandacht begrijp ik helemaal en die is ook zeer terecht. Dat er meer aandacht voor is, is helder. Het tweede punt begrijp ik ook helemaal. Als we constateren dat de impact groter is, vraag ik me af of we dan niet een weg inslaan of iets gaan proberen omdat je digitaal veel meer kunt terugzoeken en alles kunt registreren en controleren, terwijl dat voor de overheid heel lastig uit te voeren is. Ik heb het dan nog niet eens over handhaven. Het is heel lastig om überhaupt alles te gaan vastleggen wat vroeger in de hoofden van uitvoerders gebeurde, en digitaal te controleren of dat allemaal goed is gegaan. Ik denk dat het een betere weg is om de uitvoering niet gelijk te stellen aan wetgeving en de normstelling op het juiste niveau te houden.

De heer Van Zwol:

Eens. De kern is uiteindelijk dat de wetgever, en beide Kamers voorop, zich bewust is van wat hij per se in de wet wil vastleggen en waar hij ruimte wil laten. Dat is het eerste. En twee: ook hier geldt wat ik al eerder zei, namelijk dat in 90% tot 95% van de gevallen uw redenering zonder meer geldt. Door hier bewust over na te denken, zou je als wetgever ook kunnen zeggen: voor 5% à 10% van het type besluiten richting een burger zijn extra waarborgen nodig. Die hebben een grote impact op mensen en zijn erg moeilijk terug te draaien als je een verkeerde beslissing neemt. Daarvan zou je moeten zeggen: dat willen we niet automatisch laten doen, in ieder geval niet zonder meer.

U heeft dus gelijk. Er is een groot verschil tussen de bulk en het kleine percentage aan lastige gevallen.

De voorzitter:

Zoals zo vaak, denk ik. Maar daarom niet minder belangrijk. De heer Azarkan.

De heer Azarkan (DENK):

Ik wil het nog even hebben over het recht van de burger. In uw paper schrijft u over de burgerinspectie als het gaat om de kwaliteit van data. Dat deed me denken aan de thuiswerkplek die ik eind jaren negentig kreeg. Daar had ik recht op. Je kreeg een ISDN2-aansluiting thuis, een stoel en een bureau. Die moesten aan alle eisen voldoen. Toen ik met de ICT-afdeling belde, zeiden ze: uw woning bestaat niet; we kunnen dat niet doen. Ik zei dat dat me nogal sterk leek, omdat ik er al een tijdje woonde. Zij zeiden: nee, de woning staat niet in ons systeem. Daarmee bestond de woning in hun werkelijkheid dus niet. Die moest eerst worden toegevoegd. Daarna pas kon men gaan handelen.

Ik vraag mij hetzelfde af. De overheid neemt heel veel beslissingen ten aanzien van burgers. Hoe komen we nou af van het punt – voor zover dat nu zo is en dat in de toekomst zou kunnen voorkomen – dat iemand achter een desk zit en zegt: het systeem zegt nee? De uitkomst is dan nee. Dat is een ingewikkeld algoritme. Kunnen we het überhaupt zo maken dat er een soort toelichting komt, waardoor iemand weet om welke reden een keuze gemaakt is?

De heer Van Zwol:

U raakt hiermee een cruciaal punt dat we niet in ons ongevraagd advies hebben geadresseerd. Dat is het fenomeen van data en de basisregistraties. Het raakt ook een beetje aan de vraag van de heer Middendorp over elektronische identiteit. Nederland heeft een hoogontwikkeld systeem van basisregistraties, als het gaat om zowel personen en bedrijven als om – zeer cruciaal – allerlei geobasisregistraties. Wereldwijd is men jaloers op de omvang, de dekkendheid en de kwaliteit daarvan.

U raakt ook de andere kant van de medaille. Als in een basisregistratie iets verkeerd staat, ben je al snel de klos. Dat heeft dus nog helemaal niets te maken met algoritmen en besluiten. Het gaat hier om het op orde hebben van basisregistraties en op het goede gebruik van data. Ik weet dat er bij het Ministerie van BZK veel aandacht is voor de kwaliteitsverbetering en de samenwerking van basisregistraties. Daar ligt nu ook de coördinatie van basisregistraties en zitten tegenwoordig ook de heel wezenlijke geobasisregistraties. Dat is één.

Twee: we kennen allemaal de normale persoonsregistraties. Een onvermijdelijke ontwikkeling zal zijn dat ook elektronische en onlinepersoonsgegevens moeten worden ontwikkeld, waaronder het elektronisch paspoort en dergelijke. Daarna heb je twee dingen nodig. Ten eerste moet er binnen de overheid een controlesysteem voor die basisregistraties en die data zijn. Dat is er in essentie op dit moment al. Er wordt hard aan gewerkt om dat in de nieuwe tijd up-to-date te houden.

Het tweede is dat je als burger bezwaar moet kunnen maken als een geautomatiseerd besluit tot stand is gekomen dat niet klopt, terwijl je niet weet welke beslisregel daaronder ligt. Een burger moet ook kunnen zeggen: het gaat me niet eens om de beslisregel, maar om de van mij gebruikte data die niet kloppen; ze geven mij een huis dat echt niet het mijne is, of omgekeerd. Dat raakt weer een van de elementen in ons advies. Dat is het advies aan overheidsorganisaties om bij een besluit aan een burger duidelijk te maken wat de wettelijke grond was, wat voor hem de uitkomst is en hoe hij daartegen bezwaar kan maken en daarna nog beroep kan instellen. We moeten daaraan toevoegen: by the way, we hebben gebruikgemaakt van de volgende beslisregels bij de wettelijke grondslag, en de navolgende data over u zijn onderdeel geweest van dit besluit. Dan kun je als burger ook zien dat het hem niet zat in de beslisregel, maar in de data.

Mevrouw Buitenweg (GroenLinks):

Ik lees in een van de adviezen inderdaad dat in een besluit moet worden toegelicht welke beslisregels zijn gebruikt en welke gegevens zijn overgenomen. Dat is een van de algemene beginselen van behoorlijk bestuur. U zei dat net ook. Mijn vraag is: wat is een besluit? Is het bijvoorbeeld een besluit dat de overheid extra gaat controleren of u gefraudeerd heeft? Dat is het SyRI-systeem. Op basis van een besluit komen we tot de conclusie dat iemand een risico vormt en potentieel misschien meer fraudeert. Is het een besluit om te kiezen in welke wijken de politie meer gaat patrouilleren? Ik noem maar wat. Wanneer is iets een besluit?

De heer Van Zwol:

Hiermee betreedt u het heel omvangrijke terrein van de bestuursrechtspraak. Dat is niet voor niets omvangrijk, want hier gaat het inderdaad vaak om. Dat verwacht u waarschijnlijk wel. Zodra u hetzij elektronisch, hetzij schriftelijk, hetzij mondeling een op u persoonlijk toegespitst besluit van een overheidsorganisatie krijgt, is voor u glashelder dat u een besluit krijgt waar u iets tegen kunt doen. In de bestuursrechtspraak is in de afgelopen decennia een fenomeen ontwikkeld. Dat gaat over de situatie waarin u zit te wachten op een besluit en er maar niet besloten wordt. Ook dat niet-besluiten wordt uiteindelijk een voor bezwaar en beroep vatbaar besluit.

Nu krijgen we de volgende fase, waarin het niet om u als individu gaat, maar het net een systeem hoger ligt. Als men besluit dat uw postcodegebied onderdeel is van een nadere zoektocht door de vrienden van de Belastingdienst – laten we maar iemand noemen – dan heeft u nog steeds geen persoonlijk besluit gekregen. Misschien denkt u daarbij wel: er is besloten om een onderzoek te doen dat ook mij raakt; hoewel ik het persoonlijk niet uitgereikt heb gekregen of het nog geen op mij persoonlijk toegespitst gevolg heeft, vind ik toch dat ik als belanghebbende in beroep moet kunnen gaan. Dat is op dit moment denk ik onderdeel van de jurisprudentie die zich in de bestuursrechtspraak aan het ontwikkelen is.

Mevrouw Buitenweg (GroenLinks):

Als ik daar één ding aan mag toevoegen: ik zie vaak dat het standpunt van de overheid bij heel veel van zulke zaken is dat het gaat om gevoelige, veiligheidsgerelateerde zaken. Het zijn belangrijke beslissingen, die mensen uiteindelijk raken, maar daarmee worden ze categorisch uitgesloten van een nadere toelichting op hoe het besluit tot stand is gekomen.

De heer Van Zwol:

Dat fenomeen is er. Ik denk in alle eerlijkheid dat er ook wel bepaalde terreinen zijn waarvan je inderdaad kunt denken: hier is het maatschappelijk van belang om niet zomaar alles te hoeven delen. Denk aan de ondermijnende zware criminaliteit. In alle eerlijkheid: er kunnen best gegronde redenen zijn om op bepaalde terreinen uit het oogpunt van veiligheid of om andere zwaarwegende zaken als overheid terughoudendheid betrachten. De Raad van State zal altijd zeggen: spreek dat dan ook duidelijk uit in de wet, want dan heeft de wetgever dat afgewogen. Dan is het duidelijk en dan mag het ook. Daar waar dat niet gebeurt en waar de overheid dat inzicht niet geeft, moet de burger uiteindelijk bij de rechter terechtkunnen om dat nog eens op te eisen.

De voorzitter:

Ook vanwege het feit dat we iemand hebben die nu weer naar een andere gelegenheid moet, en omdat ik denk dat wij de materie met betrekking tot dit blok goed hebben afgedekt, zou ik de heer Van Zwol zeer willen danken voor het kraakhelder toelichten van het rapport en de discussie daaromtrent. Ik denk dat wij weer een heel ander vlak hebben bestreken dan vanochtend. Dat vlak hadden we als commissie nog niet zo goed in beeld, dus dat was zeer waardevol. Zeer veel dank.

We gaan direct na de wisseling door met de heren Rademaker en Stol van HCSS en het Cyber Science Center, omdat we het programma vanwege de tijd iets moeten indikken.

De heer Van Zwol:

Graag gedaan. U weet dat de Raad van State adviseur is van regering én parlement, dus meer dan graag gedaan.

De vergadering wordt enkele ogenblikken geschorst.

Blok 4

Gesprek met:

– de heer M. Rademaker, adjunct-directeur Hague Centre for Strategic Studies (HCSS)

– de heer W. Stol, lector Cybersafety, namens het Cyber Science Centre

De voorzitter:

Ik wilde gelijk beginnen. We hebben de heren Rademaker en Stol gevraagd om iets eerder aanwezig te zijn, zodat we dit blok om 14.45 uur kunnen afronden. We kunnen dan om 15.00 uur met het volgende blok beginnen. Dat is omdat we anders nog een Kamerlid hebben dat afwezig zou moeten zijn vanwege andere parlementaire activiteiten. Vandaag is een beetje een ongelukkige dag, omdat er veel verschillende parlementaire activiteiten zijn. Zeer veel dank aan de heren voor de flexibiliteit.

We gaan gelijk van start. U kunt wat mij betreft gezamenlijk dan wel apart ongeveer tien à vijftien minuten inleiden. Dat zou dan bijvoorbeeld twee keer maximaal zevenenhalve minuut zijn. Daarna kunnen we de discussie voeren. In de discussie komen meestal de meest interactieve en interessante punten naar voren. Ik zou de heer Rademaker willen vragen om van start te gaan.

De heer Rademaker:

Hartelijk dank voor de gelegenheid. Ik had ongeveer twaalf minuten, maar goed. Ik ga eens kijken of ik dat kan indikken. Mijn verhaaltje bestaat uit twee delen. Ik wil in bredere zin wat vertellen over wat we vanuit HCSS zien als bedreigingen voor de toekomst van de ICT, maar ook over wat we aan de kansenkant zien. Omwille van de tijd zal ik me niet helemaal aan mijn spreektekst houden. Die hebben jullie wel in de bundel.

In algemene zin zien we dat Nederland het goed doet in de wereld. Qua ICT-infrastructuur, in het individuele gebruik, de publieke diensten, het zakelijk gebruik en wet- en regelgeving zijn we redelijk on par. ICT is daarmee een heel belangrijke economische sector. Ze is feitelijk voorwaardenscheppend voor alle andere sectoren in Nederland. Daarmee kan ICT, denk ik, niet worden onderschat. We scheppen hiermee economische kansen, maar ook inclusie. We zijn ook een voorbeeld voor veel andere landen.

Diezelfde technologie introduceert ook allerlei kwetsbaarheden. De snelle technologische en geopolitieke ontwikkelingen dwingen ons daarom om ons voor te bereiden op de toekomst, proactief te zijn, en daar ook meer in te investeren. Dat geldt onder andere voor kunstmatige intelligentie, AI. Nederland en ook Europa lopen daarin achter op de rest van de wereld. Er zijn wel plannen. Vanaf 2021 voorziet de EU in een jaarlijkse investering van zo'n 20 miljard. Ook Nederland is bezig. Binnenkort komt het strategisch actieplan AI, SAPAI, uit. Op 8 oktober wordt het in Den Haag gelanceerd. Daarnaast is er een beoogd hoofdkantoor van CLAIRE, de Confederation of Laboratories for Artificial Intelligence Research in Europe. De hoop is dat de opgelopen achterstand met Amerika en China hiermee enigszins wordt ingelopen.

Nederland, met de stad Den Haag als voorvechter van vrede en recht, ook in de gedigitaliseerde wereld – zoals opgenomen in onze Grondwet – heeft hiervoor een perfect profiel. Normatieve AI is een onderwerp dat een belangrijk onderdeel vormt van de Europese AI-strategie die al is uitgebracht. Wij denken dat Nederland zich daarin een onderscheidende rol kan aanmeten.

Daarnaast is accountability een belangrijk opkomend thema. Dat raakt aan alle ICT-ontwikkelingen: van fake news tot de allernieuwste AI-technologie. De eerste principes rond accountability zijn ontwikkeld. Ze worden nu vertaald en ondersteund door instrumenten en tools. Op 6 en 7 november is de tweede Summit on Accountability in the Digital Age in het Vredespaleis. Daar wordt dit ook besproken. Dat is even in het kort en overall.

Als je kijkt naar bedreigingen zien we dat de westerse waarden in de wereld aan het afnemen zijn door de opkomst van autoritaire regimes met grote economische macht, andere waarden en afwijkende principes. Westerse ethiek en normen voor verantwoordelijk gedrag staan daardoor onder druk. Met de ontwikkeling en versnippering van het internet worden onderdelen binnenslands volledig gecontroleerd door regeringen, door de staat, zoals in China en in Rusland. Met de economische en geopolitieke opkomst van China, onder andere via hun Nieuwe Zijderoute-initiatief, ontstaat er een dynamiek die al een tijdje aan de gang is. Dit levert enorm veel politieke invloed op die, gecombineerd met economische marktpotentie, ook een mogelijkheid biedt voor het genereren en verzamelen van veel data op een wijze die de EU zeker niet voorstaat.

Data zijn erg belangrijke voedingsstoffen voor kunstmatige intelligentie. 5G-netwerken zijn belangrijk voor de snelle verbindingen en de grote volumes aan datatransport. Met het internet of things worden steeds nauwere verbindingen met eindgebruikers, klanten en apparaten gecreëerd. Dat genereert ook weer enorme hoeveelheden bruikbare data.

Als een land vooroploopt met AI, 5G en IoT, creëert het daarmee ook potentieel voor de ontwikkeling van nieuwe industriële standaarden, en daarmee het vermogen om de volgende economische grootmacht te worden, zoals het Verenigd Koninkrijk dat was met de stoommachine en zoals Amerika de ICT-revolutie heeft doorlopen. Dat land heeft dan tevens de potentie om de economische vaardigheid van Nederland en Europa te ondermijnen ingeval hier misbruik van wordt gemaakt. De NCTV heeft daar in 2018 al aan gerefereerd in een onderzoek naar economische vaardigheid.

Daarnaast zien we dat conflicten tussen staten nieuwe vormen aannemen. Cyberoperaties spelen daar steeds een belangrijke rol in. Terwijl sommige cybercapaciteiten zijn gereserveerd voor het slagveld – zeg maar voor de echte oorlogsvoering – en daarmee enigszins zijn gedefinieerd, is dat bij heel veel andere mogelijkheden minder duidelijk. Het gebrek aan duidelijkheid over offensieve cybercapaciteiten betekent dat het erg moeilijk is om te beschrijven wat de middelen ofwel de wapens zijn. Cyberspace biedt dan ook een sluier van anonimiteit om kwaadwillende activiteiten te ondernemen om strategische en operationele voordelen te behalen.

Terwijl attributie nog steeds moeilijk is, zien we ook dat staten die aanvallen doorstaan of onderscheppen steeds vaker een aanvaller weten te attribueren. Cyberaanvallen zijn daarmee het nieuwe normaal geworden, in aansluiting op schijnbaar alomtegenwoordige cyberspionage. Er bestaat bezorgdheid over het feit dat in cyberspace een catastrofale confrontatie tussen staten zou kunnen plaatsvinden. Die houdt verband met de huidige geopolitieke spanningen, maar heeft ook te maken met de zorg dat het vermogen van overheden om een dreiging van een groot conflict in cyber te beheersen beperkt is. Onduidelijk is welke relaties actoren hebben met de overheid. Er wordt veel uitgevoerd door niet-statelijke actoren.

Er zijn allerlei pogingen gedaan om deze ondermijnende, disruptieve activiteiten op intergouvernementeel niveau aan te pakken. In 2013 heeft de Group of Governmental Experts op ICT-gebied van de VN, een belangrijk instrument van de eerste commissie van de VN, zich hier al over uitgesproken. Het blijkt echter erg lastig te zijn om hier specifieke internationale toepassingen van wet- en regelgeving op los te laten. Dat heeft te maken met het feit dat er binnen cyberspace heel veel verschillende regimes zijn.

Daarnaast zien we een groot ideologisch verschil tussen Oost en West. We zien dat het Westen zich vooral richt op de technische veiligheid, vertrouwelijkheid, integriteit en beschikbaarheid van data en systemen. De oostelijke benadering richt zich meer op het gebruik. Oftewel: kan ik controle houden op de inhoud? Voorbeelden zijn de grote Chinese firewall en vergelijkbare Russische voorstellen. Die tonen aan dat autocratische landen dit middel vooral inzetten om dissidente en kritieke inhoud offline te houden.

De vraag is dan ook of je je er als overheid veel tegenaan moet bemoeien of niet. Een belangrijk punt is dat de internationale gemeenschap zich vooral richt op normen en op juridisch niet-bindende overeenkomsten. Dat is omdat veel van deze aspecten niet alleen door overheden worden gedaan, maar vooral ook door individuen. Zij houden zich heel netjes aan wet- en regelgeving, maar zorgen er ook voor dat het internet schaalbaar blijft en niet onder de controle van één entiteit komt. Daardoor verliest het een deel van zijn kracht, zoals je ziet in China en ook in Rusland.

Gezien dit complexe landschap is het zeer onwaarschijnlijk dat er een eenvoudige juridische oplossing komt die iets afdwingbaar maakt. Er wordt dan ook vaak gerefereerd aan het mare liberum, oftewel de wet van de high seas, zoals Hugo Grotius die heeft opgesteld. Technisch betekent dat eigenlijk het ondersteunen van open standaarden, maar politiek betekent het ook dat we ons moeten inzetten voor een proces van internationale, niet-statelijke normvorming, met regels die voor iedereen gelden. Dat is, denk ik, een belangrijk punt.

Ik sla een paar stukjes over. Wat we hebben gedaan? Het Den Haag Centrum voor Strategische Studies host het secretariaat van de Global Commission on the Stability of Cyberspace. We zijn in staat geweest om met een heel grote groep stakeholders, namelijk 28 commissioners uit de hele wereld, een aantal normen te formuleren die ook weerklank vinden bij hun achterbannen. We hebben het dan over mensen als Jeff Moss van Black Hat en de grootste hackercommunities in de wereld, tot en met academici die zich met regimecomplexe vraagstukken bij cyber bezighouden. Dat heeft er al toe geleid dat een van die normen in EU-wetgeving is doorgedrongen, namelijk de bescherming van de publieke kern van het internet. Inmiddels heeft het ook al geleid tot een verklaring van zo'n 550 gelijkgestemde staten, bedrijven en maatschappelijke organisaties in de Paris Call for Trust and Security in Cyberspace. Dat is iets wat je met een enkelvoudige wet niet zomaar regelt.

Dan het laatste. Daarna houd ik even op. Ik heb ook nog wat over AI, maar daar komen we misschien later nog wel op. De Global Commission on the Stability of Cyperspace, het Global Forum on Cyber Expertise, het programma van de Universiteit Leiden over Cyber Norms en andere initiatieven tonen dat publiek-private samenwerking van Nederlandse bodem internationaal bereik heeft. Ze zetten Nederland en Den Haag als stad van vrede en recht, ook in de gedigitaliseerde wereld, op de kaart.

Ik sla een paar pagina's over. Misschien als laatste: ik probeer met het schetsen van deze situatie duidelijk te maken dat Nederland een toekomstgerichte strategische positionering en programmering zou moeten nastreven die gericht is op grote systeemtransities die in de komende twee decennia van enorme invloed zijn op onze waarden en hoe die zich gaan vertalen in het digitale domein, op hoe we ons geld gaan verdienen en op de wijze waarop de maatschappij, de overheid en de burger samen optrekken en welvarend blijven.

Dank u wel.

De voorzitter:

Dank u wel. In één stukje had u het over twee verschillende vormen van controle, namelijk die van de meer oosters en de meer westers georiënteerde landen. Dat kon ik niet helemaal volgen.

De heer Rademaker:

In westerse, vrije maatschappijen interesseert het ons wat minder wat er inhoudelijk allemaal aan data op en neer gaat. We willen er vooral voor zorgen dat het systeem stabiel is en functioneert. Je ziet dat China en Rusland heel erg geïnteresseerd zijn in wat er aan data in hun systemen heen en weer gaat. Zij hebben heel veel behoefte aan controle op de inhoud. Neem het voorbeeld van de Falun Gong en andere partijen in China. Zij kunnen niet meer bestaan, in ieder geval digitaal niet, omdat ze gewoon weggefilterd worden. Dat is iets wat in het Westen niet gebeurt.

De voorzitter:

Helder. Dank u wel. Ik geef dan het woord aan de heer Stol voor zijn introductie.

De heer Stol:

Dank u wel voor de uitnodiging. Het Cyber Science Center is een samenwerking van onderzoekers die zich eigenlijk vooral buigen over het veiligheidsvraagstuk in relatie tot digitalisering. Ze zijn er met elkaar van overtuigd dat dit een vraagstuk is dat je niet vanuit één discipline oplost. Er is dus een samenwerking tussen mensen met een verschillende achtergrond. Met elkaar proberen zij veiligheidsvraagstukken te verhelderen en te komen tot oplossingen.

Veiligheid is eigenlijk het terugkerende thema als je het hebt over digitalisering en de vraagstukken die digitalisering voor ons heeft. Alles overziend is de controle op echtheid of echtheidskenmerken een van de basisprincipes die steeds terugkomen. We hebben net onderzoek gedaan naar internationale aankoopfraude. Een van de conclusies daaruit is dat dit een heel complex probleem is waar heel veel mensen en partijen een rol in spelen, al dan niet bewust. De vraag vanuit de politie aan ons was: hoe lossen we dat op, anders dan met opsporing? Alles overziend was een van de conclusies uit het onderzoek dat er zeer slim gebruik dan wel misbruik wordt gemaakt van allerlei dingen die echt lijken, maar niet echt zijn. Dat gaat tot nummers van de Kamer van Koophandel aan toe. Die worden gewoon gebruikt. Bedrijfsnamen worden misbruikt, websites worden nagemaakt, et cetera. Wij zijn met zijn allen niet in staat om te kijken of wat daar rondgaat allemaal wel echt is. Ook is de individuele burger eigenlijk nauwelijks nog in staat om te weten wat er uiteindelijk nog allemaal echt is. Dat kun je ook nauwelijks nog van mensen verwachten. Ook dat was een van de bevindingen. Gezien de listige kunstgrepen die oplichters toepassen, kun je iemand nauwelijks nog verwijten dat hij daar op een gegeven moment intrapt. We zijn heel lang op zoek geweest naar het profiel van degenen die steeds weer in allerlei digitale valkuilen trappen. Een dergelijk profiel hebben wij, maar ook andere onderzoekers, nog steeds niet gevonden.

Er zijn een heleboel ontwikkelingen. Die stonden ook in de stukken die uw commissie heeft verzameld. Veiligheid is voor al die ontwikkelingen de basis. Als je veiligheid goed op orde is bij kunstmatige intelligentie, dan is kunstmatige intelligentie meteen niet meer zo'n probleem. Daar hebben wij ons dus op gericht.

Een belangrijk thema waar ik zelf aandacht voor vraag is cybersafety. Daar vraag ik sinds een jaar of tien aandacht voor. Die term hebben we destijds gekozen en overgenomen uit Australië en Nieuw-Zeeland. De overtuiging van onze groep was toen dat het niet alleen maar om de technologie gaat. Waar het bij deze materie vooral om gaat, is wat mensen met de technologie doen. Dat begint natuurlijk al bij de productie en het programmeren, maar dat zit «m ook in het gebruik, de distributie en alle andere onderdelen van de digitale samenleving.

De mensen die de nadruk legden op het technologische verhaal, deden dat vaak onder de term «cybersecurity». Als je op internet gaat zoeken naar «cybersecurity», kom je ook bijna altijd bij technologieclubs uit. Maar tegenwoordig begint dat wat te verschuiven. Met de term «cybersafety» hebben we destijds aandacht gevraagd voor de human factor, ofwel de menselijke en de organisatorische kant van het verhaal. Tegenwoordig begint dat wat te schuiven, maar naar mijn idee nog lang niet genoeg. De problemen zijn niet zozeer technisch van aard. Dat wil niet zeggen dat je geen technologische oplossingen kan vinden voor de problemen waar we mee te maken hebben. Maar de problemen waarover ik hier nu ook hoor, betreffen allemaal problemen die niet zitten in een stukje technologie, maar in het gebruik, in het misbruik en in fouten die ontstaan door allerlei menselijke tekortkomingen.

Vandaar dat wij als groep de overtuiging hebben dat je deze problemen niet vanuit één discipline oplost. Je moet techneuten samenbrengen met psychologen en criminologen en misschien ook wel met economen en met nog andere disciplines, afhankelijk van de aard van het probleem. Samen moeten ze bekijken wat er echt aan de hand is en wat in dat geval de oplossingen kunnen zijn.

Ik heb u een tekst gestuurd. In die tekst schreef ik dat ik in mijn colleges over het sturen of het besturen van dit soort vraagstukken vaak het voorbeeld gebruik van het aantal verkeersslachtoffers in Nederland. Dat is ook ingegeven door het feit dat ik in de jaren tachtig werkte bij de verkeerspolitie in Amsterdam. We hadden toen te maken met het verkeersprobleem van meer dan 3.000 verkeersdoden per jaar. Dat aantal was toen al aan het afnemen, maar het was toen nog het allergrootste probleem waar we als samenleving mee te maken hadden. De criminaliteit haalde het niet bij die aantallen. En waarom zitten we nu op en heel ander niveau? Terugkijkend zie je een heel scala aan maatregelen van een groot aantal partijen. Natuurlijk gaat het ook om de technologie en natuurlijk gaat het erom dat we veiligere auto's en een veiligere infrastructuur hebben ontwikkeld. Maar er is ook een cultuurverandering. Ik hoor tegenwoordig niemand meer klagen over de gordelplicht en dat gebeurde in het begin wel. Het is tegenwoordig stoer als je de bob bent, en het was in het begin juist stoer als je met zo veel mogelijk alcohol toch nog naar huis kon komen in je auto. Er moet dus een heel scala aan maatregelen zijn waar heel veel partijen bij betrokken zijn en dat je lang vol moet houden. Het duurt tientallen jaren voordat je het tij keert.

Wat je daar onder andere voor nodig hebt, is een goede indicator. Wat maakt nou duidelijk dat we een probleem hebben? Ik ga weer terug naar de digitalisering. Is dat probleem het aantal hacks? Is dat het aantal datalekken? Is dat het aantal bedrijven dat failliet gaat doordat ze gehackt zijn? Zo kun je een heleboel criteria bedenken. Als je geen goed criterium hebt, weet je ook niet wat de omvang van het probleem is en kun je ook niet meten – voor zover dat al goed kan – wat er met de omvang van het probleem gebeurt. Wat mij betreft zijn dat een paar zaken die goed op orde moeten komen. We zetten stapjes. Er worden sinds 2012 systematisch in de veiligheidsmonitor vragen gesteld over digitaal slachtofferschap. Maar de hele linie overziend hebben we nog niet iets duidelijks als het aantal verkeersslachtoffers op verkeersgebied. We hebben niet iets waaraan we kunnen werken om het omlaag te krijgen. Ik hoop dat deze commissie daar stappen in weet te zetten.

Dank u wel.

De voorzitter:

Zeer veel dank. Dan gaan wij nu naar de zijde van de Kamer. Ik geef eerst het woord aan mevrouw Buitenweg voor haar eerste vraag dan wel vragen.

Mevrouw Buitenweg (GroenLinks):

Dank u wel, meneer de voorzitter. Een van de doelen is dat wij meer grip hebben op het onderwerp digitalisering en al die grote veranderingen. Een van de grote problemen daarbij is dat we dit in Europa niet in isolement doen. Zoals net ook gezegd werd, maken bijvoorbeeld China en Amerika ook grote ontwikkelingen door. De heer Rademaker zei net al dat daar andere ethische normen gelden. Dat brengt mij bij de vraag: hoe gaan wijzelf om met de ontwikkeling van bepaalde artificial intelligence? Bij The Hague Centre for Strategic Studies zegt men dat de huidige EU-regels bepaalde vormen van artificial intelligence ontmoedigen, en dat vindt de heer Rademaker jammer. Maar ik zit met het volgende. Gezichtsherkenning is misschien niet helemaal een goed voorbeeld, maar ik kan mij voorstellen dat je dat op een gegeven moment een onwenselijke ontwikkeling vindt. Maar als wij daar zelf niets in ontwikkelen, dan komen er andere zaken en dan worden die ethische overwegingen überhaupt niet ontwikkeld. Hoe vindt u beiden dat we daarmee om moeten gaan? Ik zit daarmee. Als je grip op een ontwikkeling wilt hebben, hoe zorg je er dan voor dat je de juiste technologie ontwikkelt, terwijl je niet meegaat in een ontwikkeling die je essentieel onwenselijk vindt?

De heer Rademaker:

Dit is een hele mooie filosofische vraag, maar hij heeft tegelijkertijd ook heel praktische kanten. We proberen in Nederland op dit moment in het Strategische actieplan Artificial Intelligence, dat op 8 oktober uitkomt, stukken aan te leveren over maatschappelijke acceptatie en inclusie. Ik ben een van de mensen die aan het plan meeschrijft, maar ook bijvoorbeeld professor Jeroen van den Hoven, een ethicus, schrijft mee. In dat plan geven we in ieder geval aan dat het wel degelijk mogelijk is om binnen economische kaders wat dingen te doen. Tegelijkertijd zie je dat andere continenten heel hard gaan en zich niet zoveel gelegen laten liggen aan de ethische vragen. Dat gaat overigens niet alleen over China en Rusland, maar ook over Amerika. Maar in Europa hebben we nog steeds een markt van zo'n 500 miljoen mensen. Als je in staat zou zijn om in Europa een soort moral highground te ontwikkelen, waar we technologieën gebruiken die hier wel rekening mee houden, en om de markt af te sluiten voor partijen die daar geen rekening mee houden, dan heb je in ieder geval een stok. Dat hebben we bij GDPR ook gezien. Ik kom af en toe in India. Iedereen wil daar iedere keer dat ik nog een keer uitleg hoe het met GDPR zit, omdat ze veel aan Europa leveren en ze niet binnenkomen als ze niet GDPR-compliant zijn.

Ik denk dat daar een deel van de vraag en het antwoord liggen. We moeten gewoon die hoge standaarden gaan eisen als onderdeel van de toegang tot de markt. En daarnaast moeten we zelf veel meer gaan investeren in AI, om goed te weten waar we mee bezig zijn. Onze investeringen zijn zwaar onder de maat als je die vergelijkt met wat er nu plaatsvindt op andere continenten. In die zin ben ik dus wel blij met de aankondiging van de EU dat vanaf 2021 20 miljard beschikbaar gaat komen. Dit gaat alle economische sectoren op allerlei manieren raken. En dan moeten we ervoor zorgen dat we dat normatieve er goed hebben ingeregeld.

De heer Stol:

Als onderzoeker zeg ik al snel: kijk ook wat er gebeurt. Er zijn natuurlijk meer voorbeelden dan gezichtsherkenning. Predictive policing is ook zo'n mooi voorbeeld in mijn vakgebied. Als ik terugkijk, zie ik dat er in het verleden altijd veel geloof werd gehecht aan nieuwe technologie. Er werden een heleboel mogelijkheden aan toegekend, die er vaak in de praktijk maar moeizaam uitkomen en die vaak in de praktijk makkelijk te frustreren zijn. Een technologie is makkelijker te frustreren dan te ontwikkelen. Ik zie ook vaak dat er onuitgesproken aannames zijn over een nieuwe technologie, bijvoorbeeld over wat je ermee zou kunnen of wat je ermee zou moeten.

Dat raakt ook meteen aan de ethische kant. Stel dat we gezichtsherkenning, predictive policing of artificial intelligence ontwikkelen zonder ons af te vragen wat we er eigenlijk van verwachten. We vragen ons niet af hoe we denken of willen dat het werkt en we zoeken vervolgens niet uit of dat ook echt zo is. Dan geven we ons over aan de toevallige ontwikkelingen. Om grip op ontwikkelingen te krijgen, helpt het om kritische vragen te stellen. Behalve dat ik een politieachtergrond heb, ben ik geschoold als socioloog. Ik bemoei me tegen die technologie aan en ik ben gewoon maar zo brutaal geweest om er kritische vragen over te stellen. Van de technologie an sich weet ik eigenlijk niets, maar ik weet wel iets van de samenleving, van de politiepraktijk en van de problemen die je in de samenleving tegenkomt. Ik stel vragen over of die technologie ons nou echt helpt. Hoe kunnen we dat zichtbaar maken? Daarin zit volgens mij een soort van terugkoppelingsmechanisme op de ontwikkeling.

Een ontwikkeling kun je niet tegenhouden. Je kunt niet zeggen: nou, wij, Nederlanders, doen even niks op dit gebied. Maar je kunt het wel op een wat andere manier doen dan anderen, juist door er zo kritisch over na te denken. Daar word je niet altijd populair van, heb ik gemerkt, want technologieprojecten zijn vaak heel interessant en mensen raken er helemaal enthousiast van en lopen erachteraan. Als je dan kritische vragen stelt, ben je een beetje de spelbreker. Maar ik denk dat je een soort critical friend moet zijn om toch weer stappen verder te komen.

De voorzitter:

Ik wil er zelf ook even een aanvullende vraag over stellen, als dat mag van de leden. Ik zie geen belemmering.

Dit is een veelvoorkomend punt. Ik ben de laatste tijd vaak door mensen benaderd, die zeiden: als Kamer hebben jullie alleen maar oog voor de gevaren van kunstmatige intelligentie. Wij zouden alleen maar bezig zijn met algoritmes en allemaal zorgen zien. We moesten er eerst maar eens voor zorgen dat Nederland vooroploopt of meedoet, want anders zijn die discussies mosterd na de maaltijd. Dan heb je helemaal geen invloed meer op de ethische keuzes, want die worden dan door anderen gemaakt. Maar u zegt nu juist weer: je kunt niet blind achter elke technologie en elke belofte aanlopen. En daar ben ik het ook mee eens en ik ga dus naar een balansvraag toe. Internet beloofde veel. Het zou de vrijheid in de hele wereld vergroten en het zou één grote enabling zijn van menselijke vrijheden. Dat is absoluut niet uitgekomen. Aan de ene kant moeten we dus kritisch zijn. Maar aan de andere kant moeten we ook meedoen. Dat is natuurlijk best een lastige balans voor politici. Hoe moeten we daar als politiek mee omgaan? Zou u daar misschien beiden – eerst meneer Stol, omdat hij de vraag aanwakkerde, en dan de heer Rademaker – nog iets over kunnen zeggen?

De heer Stol:

Ja, dat is inderdaad een lastig dilemma. Ik heb in de loop der jaren gezien dat de risico's zitten in de details. Als je als organisatie of als land zegt dat je iets heel specifieks gaat ontwikkelen, dan is de kans op mislukken groot. Maar in de basisvoorzieningen zul je mee moeten. Ik noem even een heel praktisch voorbeeld, om het handen en voeten te geven. De politie had vandaag de dag nooit kunnen zeggen: in het verleden hebben we besloten om niet met de telefonie mee te gaan. Dat is onbestaanbaar. Maar er zijn in de tussentijd ook allerlei projecten mislukt, omdat de politie dacht: wij gaan allerlei geavanceerde dingen ontwikkelen. Anderen vroegen dan of de politie wel de rol van een hightechorganisatie op zich moest nemen, maar de politie zei dan: ja, we gaan het doen, want wij kunnen dit het best. Dat zijn vaak de projecten die veel haken en ogen hadden en dus ook mislukten.

De basisfaciliteiten en de basistechnologie, zoals internet, moeten er zijn. Natuurlijk moet iedereen een internetaansluiting hebben en natuurlijk moeten we mee met de nieuwste vorm van communicatietechnologie. Maar als je het daarbinnen gaat invullen, dan kom je op het gebied waar je risico loopt op mislukkingen of op trajecten die heel anders lopen dan je had bedoeld. We kunnen niet zeggen: wij doen niks aan artificial intelligence, wij doen even niet mee. Dat kun je niet zeggen. Je moet je de basisprincipes eigen maken. Maar je moet goed nadenken over hoe en waarvoor je het dan gebruikt en over de vooronderstellingen die je hebt over het effect. Daar zitten de risico's.

De heer Rademaker:

In de basis ben ik het hiermee eens. Ik wil het benoemen aan de hand van een heel praktisch, sprekend voorbeeld. De landmacht organiseert op dit moment bij de 13de Brigade een test met een aantal verschillende autonome systemen, zoals robots. Die zijn bezig met logistiek of inlichtingenverzameling of andere dingen. Een van de grote vraagstukken bij robots is: tot hoever gaan ze en hoe autonoom kunnen ze worden? De basis daarvan heet met een mooie term «meaningful human control». Het is heel belangrijk – als metaforisch voorbeeld – dat een organisatie die de nieuwe technologie gaat inregelen de ruimte neemt om een testbed te zijn, waarbij je verdergaat dan je wilt om te weten waar het fout gaat. Als we dat doen, weet je ook wat je niet wilt. We hebben met z'n allen, in ieder geval in Nederland, een redelijk gevoel van wat we netjes en binnen de lijntjes kleuren vinden. Laten we dat als basis nemen, maar wel kijken naar hoe ver die technologie gaat, en naar wat we wel en wat we vooral niet willen. Als we daar netjes mee omgaan, geeft dat een license to operate voor heel veel organisaties die iets willen ontwikkelen wat ze graag willen verkopen. Er zijn altijd landen die spullen kopen waarvan we denken dat je die echt niet moet willen. Die keuze houden wij dan niet tegen, maar als Europa kunnen we daar wel degelijk invloed op uitoefenen.

De voorzitter:

Helder. Dank u wel. Ik ga naar de heer Middendorp. Die hebben we dit blok nog niet gehoord.

De heer Middendorp (VVD):

Mijn betoog sluit eigenlijk aan bij de laatste vraag. Het voorbeeld over de gordelplicht sprak mij eerlijk gezegd niet zo aan, vooral niet als je weet hoe penicilline is uitgevonden. We waren toen enigszins overgeleverd aan toevallige ontwikkelingen. Daarom kwam de innovatie van penicilline naar voren. Dat niemand meer over de gordelplicht klaagt, is nog geen bewijs dat de gordelplicht werkt. U zei dat je precies moet meten wat de problemen zijn en wat er gebeurt door de acties die je neemt. Daar trof u mij weer helemaal aan uw zijde, wat leidt tot twee vragen. Ten eerste: wat zouden wij als commissie of als parlement moeten gaan meten, of aan het kabinet aan informatie moeten vragen? Aan wat voor soort dingen denkt u dan? En ten tweede: hoe kijkt u aan tegen het feit dat die toevallige ontwikkelingen bij innovatie misschien weleens hele mooie gevolgen kunnen hebben?

De heer Stol:

Natuurlijk kunnen research-and-developmentafdelingen expres, maar soms ook bij toeval, enorm mooie vindingen doen. Ik word door mijn wat terughoudende opmerkingen over de succesverhalen van technologie vaak een beetje als criticaster gezien. Mensen vinden dat we dit of dat moeten doen. Ik zeg in dergelijke discussies altijd: experimenteren moet je altijd doen. Als je het idee hebt dat iets kan werken of dat er misschien iets in zit: ga het proberen, maar evalueer ook of het doet wat je wilt. Dat gebeurt vaak niet. We zouden in al dit soort projecten standaard moeten inlassen dat als je een idee hebt en denkt dat het werkt, je dan ook zorgt dat je evalueert of het werkt. Die evaluatie moet eigenlijk al beginnen voordat je iets feitelijk ontwikkelt. Je hebt vaak al een idee en het idee kun je vaak al evalueren.

Een heel simpel voorbeeldje. Ik kwam in mijn eigen onderzoek ooit tegen dat bij de politie werd geredeneerd dat als ze een computersysteem hebben, ze de laatste waarschuwing niet meer bij herhaling hoefden uit te delen. Want ze weten dan wat er de vorige keer gebeurd is en dan kunnen ze de volgende keer doorpakken. De vraag is of politiewerk zo werkt. In de praktijk van mijn onderzoek kwam ik erachter dat politiemensen niet per se willen doorpakken. Ze willen dat de wijk weer rustig wordt, zeker in de nacht, als er bij herhaling bijvoorbeeld geluidsoverlast is, en dan is doorpakken niet altijd de beste strategie. Maar in het computersysteem zat ingebakken: we gaan nu doorpakken. Dat was voor mij een leermoment: je moet dus echt goed nadenken over hoe de praktijk in elkaar zit voordat je een systeem met succes kunt ontwikkelen.

Ik ben de eerste vraag even kwijt. Er waren twee vragen.

De heer Middendorp (VVD):

Welke dingen moeten we gaan meten?

De heer Stol:

O ja, precies. Dat is cruciaal. Het moeten dingen zijn op verschillend gebied. Er zal iets technisch in moeten zitten. Hoe vaak hebben we last van technische mankementen? Want dan gaat er kennelijk in de ontwikkeling iets niet goed. Maar ook: hoe is het met de veiligheid van de burgers gesteld? Wat vinden burgers er zelf van? Voelen zij zich veilig of niet? Hoe vaak worden ze slachtoffer? En datalekken is ook nogal een item om te meten. Zo zullen er nog een paar dingen zijn die we in de gaten moeten houden, maar liefst niet te veel. Een belangrijke en ook een politieke keus is waar we de prioriteit leggen. Leggen we die bij de datalekken of bij het veiligheidsgevoel van burgers? Het hoeft lang niet altijd met elkaar in de pas te lopen. Mijn voorkeur zou uitgaan naar het meten van niet te veel dingen – ik noemde zojuist een paar voorbeelden – en dingen van verschillende aard. Dus zowel technisch als niet-technisch, en misschien zelfs ook iets internationaals, omdat we daar toch altijd mee te maken hebben als het om dit terrein gaat. Hoe vaak lopen we tegen een internationaal probleem aan? Dat moet je dan wat verder definiëren. Maar ook: hoe zit het lokaal? Hoe nemen gemeenten het voortouw op het gebied van digitale veiligheid? Zo zou je een aantal criteria kunnen ontwikkelen om te kijken of je de goede kant op gaat.

De voorzitter:

Ik heb zelf ook nog een vraag. Zijn er nog andere commissieleden met vragen? Zal ik nu even een vraag stellen?

Even over de intergouvernementele pogingen. Er wordt vaak op twee niveaus gesproken. Althans, tegen mij wordt gezegd: de Europese Unie, want met nationale maatregelen kom je er niet. Of: Nederland kan niet in zijn eentje, enzovoorts. Daar wordt door sommige partijen in dit parlement weer anders over gedacht, maar dat is de politieke kant. Die is vandaag helemaal niet aan de orde, want dit zijn kennisdagen en geen debatdagen, en dat begrijpen mevrouw Buitenweg en de heer Middendorp allebei maar al te goed. U voegde vanuit uw organisatie en uw ervaring heel nadrukkelijk een heel belangrijk derde niveau toe, namelijk de pogingen om tot non-statelijke en intergouvernementele oplossingen te komen, tot wat meer objectieve maatstaven van deskundigen. Wij willen grip krijgen op de materie. Mijn vraag is daarom: zijn die pogingen overwegend succesvol te noemen? Of wordt het geprobeerd, maar trekken heel veel landen zich er uiteindelijk niets van aan, waarna je toch weer in een soort probleemsituatie terechtkomt?

De heer Rademaker:

Laat ik beginnen met dat er ontzettend veel normen en standaarden zijn, van ICANN tot en met IEEE, IETF en al die andere. Joseph Nye noemde het wel het «regime complex». Het gaat over technische standaarden – hoe kun je twee apparaten connecten, zodat ze het ook nog doen? – tot en met de wat bredere vraagstukken. Er is dus al heel erg veel. Overheden moeten niet denken dat zij wel even een setje normen kunnen bepalen die in dat geheel nog echt het grote verschil gaan maken. Ik kan me wel voorstellen dat je als overheid – of je dat nou Europees en/of nationaal doet – de processen helpt versterken die tot die normstelling leiden. We zien dat nu in Nederland gebeuren met de Global Commission on the Stability of Cyberspace. Buitenlandse Zaken financiert dat, evenals Singapore en Frankrijk, maar ook een partij als Microsoft en een aantal andere. Daar zie je al aan dat het multistakeholder is. Als je een en ander goed inbedt en het – onder andere met dank aan Marietje Schaake, toen ze nog Member of European Parliament was – in wet- en regelgeving weet te verankeren, waardoor het in één keer verdergaande zeggingskracht heeft en je het eventueel kunt laten landen bij ENISA als toezichtsorganisatie, dan zou dat een van de slimme routes kunnen zijn, als je als overheid wat wilt doen. Dan portretteer je je als overheid niet als «we gaan het wel even regelen», maar je legt het in het amalgaam van partijen die er sowieso al mee bezig zijn en helpt het proces de goede kant op te duwen. Dat zou mijn suggestie zijn.

De voorzitter:

Ik kijk naar de leden voor een laatste vragenronde.

Mevrouw Buitenweg (GroenLinks):

Er zijn ontzettend veel inhoudelijke vragen die ik heel graag wil stellen, maar we moeten het een beetje beperken tot onze taak, die voor een groot deel institutioneel is. Hoe moeten we het als Kamer nu echt gaan aanpakken? We vinden het daarbij niet heel ernstig als er eens wat kritisch op ons gereflecteerd wordt. Daarvoor zitten we hier ook. Ik wilde u daarom allebei de gelegenheid geven om iets te zeggen over waar wij volgens u echt gaten laten vallen of waar de plank misgeslagen wordt. En om aan de andere kant een voorbeeld te geven van hoe een wetgever juist grip heeft gekregen op deze ontwikkeling. Dat kan ook een buitenlands voorbeeld zijn.

De heer Stol:

Een reactie op het bestaan van deze commissie zou ook kunnen zijn: dat is ook niks te laat. Die hoor ik regelmatig. Ik denk op landelijk niveau nog minder dan op lokaal niveau. Aangezien die niveaus niet losstaan van elkaar, kun je je afvragen hoe het dan zit met de connectie tussen landelijk en lokaal niveau. En als ik in bestuurlijke termen praat: hoe zit het met de verbinding tussen ministerie en het bestuur op gemeentelijk niveau? Bij mij viel in 2014 ergens een kwartje. Waarom zijn politie en OM zo actief? We hebben toch een driehoeksoverleg? Waarom doet de gemeente niets op digitaal niveau? Ik heb daar met burgemeesters discussies over gevoerd. Die hadden zoiets van: «Ja zeg, ik kan niet op cyberspace staan. Ik kan die grens niet zien en het gaat mij niets aan. Dat is voor de politie». Dat is inmiddels helemaal veranderd. Achteraf kun je je erover verbazen dat een van de gemeenteambtenaren zei dat ze het daar in de G40 nog nooit over hadden gehad. Ik denk dat er een verbinding zou moeten zijn tussen landelijk, G40 en lokaal bestuur. Er heeft niemand vanuit de landelijke politiek gezegd: gemeenten, wat doen jullie eigenlijk op dit vlak? En zo zullen er nog wel meer vergeten partijen zijn. Misschien is het goed om landelijk te inventariseren of we alle partijen die we als bondgenoot zouden kunnen mobiliseren, ook gemobiliseerd hebben. Als ik er in 2014 achter kom dat gemeenten het hier nog nooit over gehad hebben, dan heeft de landelijke politiek iets laten liggen wat het mobiliseren van bondgenoten betreft.

De voorzitter:

Dit riep bij de heer Middendorp instemming op, maar geen extra vraag. Mevrouw Buitenweg?

Mevrouw Buitenweg (GroenLinks):

Heeft u misschien nog een goed voorbeeld?

De heer Stol:

Als daar nog tijd voor is.

De voorzitter:

Zeker. Er is nog tijd.

Mevrouw Buitenweg (GroenLinks):

Misschien is er nog een goed voorbeeld van een ander land, waar dit op een andere manier is aangevlogen, wat meer grip gaf aan de wetgever.

De heer Stol:

Nee, wel een komisch voorbeeld. Mag dat ook?

Bij ons onderzoek naar wat gemeenten kunnen doen op het digitale vlak, kwamen we een lokale verordening uit Groot-Brussel tegen, waarbij de APV, de plaatselijke verordening, niet alleen van toepassing was verklaard op de gemeente maar ook op cyberspace. Wij hebben daarop contact opgenomen met ik meen de gemeente Jette. We zijn er niet achter gekomen wie het bedacht had. Uiteindelijk zijn we maar tot de conclusie gekomen dat het meer een soort statement was dan een praktische uitvoering. Ik vond het wel een leuk statement. Zo van: jongens, hier moeten we ook aan denken. Ik vond het wel grappig, een APV die ook van toepassing was op cyberspace.

Mevrouw Buitenweg (GroenLinks):

Dat doet me denken aan de vele gemeenten die ooit kernwapenvrij zijn verklaard.

De heer Stol:

Ja, precies.

De voorzitter:

De moties die door partijen van allerlei verschillende kleuren in gemeenteraden zijn gesteund. De heer Middendorp tot slot? Nee? Is het oké?

Ik hoor dat de heer Rademaker misschien nog iets heeft. Gaat uw gang.

De heer Rademaker:

Ik heb een goed voorbeeld en een voorbeeld dat wat mij betreft aandacht behoeft. Ik vind de GDPR, dus de AVG, echt een goed voorbeeld. Dat heeft een veel verdere uitstraling dan alleen Europa. Dat vind ik een heel mooi voorbeeld. En een voorbeeld dat ik in het begin al gaf: we moeten gaan nadenken om ICT tot een topsector te maken. Dat is het nu niet. Het zit overal een beetje doorheen, maar het verdient aandacht om als topsector as such neergezet te worden.

De voorzitter:

Mag ik daar nog een vraag over stellen? Ja dat mag u zeker, meneer Verhoeven. En neemt u daar volledig de gelegenheid toe.

Het eerste punt, over de GDPR, is wel waar. Dat maakt echt wel indruk op partijen van buiten Europa, en dat was de idee. We hadden het vanochtend bij het blokje ECB over horizontale en verticale organisatie. De topsectoren zijn in mijn ogen vrij verticaal georganiseerd, terwijl digitalisering juist een heel horizontaal karakter heeft. Zou het als topsector werken, of zou een andere manier om het een waardige positie te geven ook denkbaar zijn?

De heer Rademaker:

Mijn voorbeeld is misschien iets te organisatorisch ingestoken, maar ik denk dat de sector als zodanig dusdanig belangrijk is dat die separeerbaar moet worden.

De voorzitter:

Mooi. Ik dank de heren Rademaker en Stol zeer voor hun komst. Het was weer een prachtige toevoeging aan deze toch al rijke dag. We gaan om 15.00 uur door met het laatste blok, dus een halfuur eerder dan voorzien. Dan hebben we drie organisaties, namelijk de Open State Foundation, SETUP – dat is met mevrouw Siri Beerends, cultuursocioloog – en Bits of Freedom. Ik wil u nogmaals zeer bedanken voor uw komst en bijdragen.

De vergadering wordt van 14.43 uur tot 15.01 uur geschorst.

Blok 5

Gesprek met:

– mevrouw Wilma Haan, directeur van de Open State Foundation (OSF)

– mevrouw Siri Beerends, cultuursocioloog en schrijver, namens SETUP

– mevrouw Evelyn Austin, directeur Bits of Freedom

De voorzitter:

Welkom en welkom terug. Dat moet ik er altijd bij zeggen voor de mensen die het debat op een andere plek volgen. We zijn toe aan het laatste stukje van de tweede kennisdag van de tijdelijke commissie Digitale toekomst. Dat is het blok met drie vertegenwoordigers van een wat meer maatschappelijke invalshoek. Dat zijn in de volgorde zoals u ze ziet zitten, van dichtbij naar ver weg vanaf mij: mevrouw Austin, die vandaag is begonnen als kersverse directeur van Bits of Freedom, met een hele dikke streep eronder. Van harte met deze mooie functie en deze start hier in de Tweede Kamer. Dan Siri Beerends van SETUP, socioloog en schrijver. En Wilma Haan van de Open State Foundation.

We beginnen inderdaad een halfuur eerder dan gepland staat, omdat de heer Middendorp zich vanaf 15.30 uur moet laten verexcuseren. Dat is bij dezen gebeurd. We kunnen in ieder geval nog een halfuur van zijn aanwezigheid genieten. Ik geef hem dadelijk dan ook als eerste het woord. Ik wil de drie sprekers vragen om te proberen de inleiding iets korter te doen, zodat er nog enige interactie met het lid Middendorp mogelijk is. We hebben daarna altijd nog de mogelijkheid om uitgebreider op vragen in te gaan. Ik wil toch even proberen de tijd zo goed mogelijk te benutten.

Onze excuses ook. Er zijn in de Kamer ook andere activiteiten gepland, waardoor een aantal leden van de commissie afwezig is, namelijk Farid Azarkan, de heer Van Otterloo en de heer Van Dam. Danai van Weerdenburg heeft zich al eerder afgemeld voor de hele dag vanwege verplichtingen bij haar partijgenoten. We hebben dus helaas een iets kleinere bezetting, maar ik denk dat ik wel kan zeggen dat de harde kern er in ieder geval is. Ik wil nu snel naar mevrouw Austin voor haar introductie.

Mevrouw Austin:

Dank je wel. Geachte leden van de Tweede Kamer. Facebook loog eerder dit jaar tegen uw Kamer over de maatregelen die het bedrijf genomen zou hebben om manipulatie van verkiezingen tegen te gaan. Terecht klonk direct de roep om regulering. Een van uw collega's stelde: wat mij betreft is het moment nu aangebroken dat we de stap van zelfregulering en het vertrouwen in de belofte van bedrijven gaan inruilen voor wetgeving. Daar is Bits of Freedom het hartgrondig mee eens, mits die regulering hoofdzakelijk gericht is op de reparatie van het online-informatie-ecosysteem. Voordat ik inga op de onderzoeksvragen, schets ik graag eerst de karakteristieken van het huidige ecosysteem.

Het huidige landschap voor online-interacties kent drie bepalende kenmerken: commerciële bedrijven intermediëren vrijwel al onze online-interacties, een beperkt aantal bedrijven heeft een dominante positie, en de bedrijven maken gebruik van een uitbuitend verdienmodel. De enorme schaal waarop de machtigste techbedrijven opereren, maakt het onmogelijk om onze vrijheden te waarborgen. Eén dienst kan niet met een vrijwel «one size fits all»-architectuur een groot deel van de wereld bedienen. Zo'n architectuur miskent de grote diversiteit aan normen en waarden, verschillen in lokale wet- en regelgeving en de enorme variatie in het gebruik van de dienst. De alsmaar uitdijende hoeveelheid data die deze bedrijven vergaren, maakt dat zij disproportioneel veel invloed hebben. De grootste techbedrijven beschikken over enorm veel en gedetailleerde gegevens over ons gedrag en hebben inzicht in bestaande netwerken, zowel sociaal als in de markt, en gebruiken die gegevens om hun positie te versterken. Zo faciliteren sommige platformen een markt waar zij vervolgens zelf ook actief zijn. Deze machtige positie schaadt onze individuele en collectieve autonomie, onze samenleving en onze democratie.

De bedrijven dicteren met een technologie hoe we ons voelen, hoe we naar de wereld kijken en hoe we stemmen tijdens verkiezingen. Wij bepalen niet meer onze eigen normen en waarden of de breedte van ons publieke debat. Het zijn de bedrijven die bepalen wie er toegang heeft tot informatie en wie er onder welke voorwaarden mag publiceren. Hun dominantie geeft ze bovendien veel invloed op maatschappelijke discussies in de media, de politiek en zelfs de wetenschap. Ook de wetgever en het parlement dreigen buitenspel te worden gezet. Het verslavende van veel van dit soort platformen maakt bovendien dat wij niet meer zelf bepalen waar we onze tijd en energie aan besteden. Of al deze beïnvloeding nou bewust is of niet, de impact is enorm en onder de streep negatief. Als het makkelijk was om deze situatie te doorbreken, zaten we hier nu niet.

De dominantie die ik zojuist beschreef, maakt dat deze bedrijven bijna volledig resistent zijn tegen elke druk van buitenaf. De consument kan nauwelijks om de platformen heen. Doordat de bedrijven overmacht hebben waar het aankomt op kennis over het gedrag van gebruikers en concurrenten, maakt concurrentie nauwelijks kans. Waar concurrentie toch een bedreiging dreigt te vormen, wordt die opgekocht of wegontwikkeld. Organisaties uit het maatschappelijk middenveld kunnen met hun beperkte budgetten nauwelijks tegenwicht bieden. De grote techbedrijven hebben geen enkele stimulans om hun dominantie op te geven. Zelfregulering, zo hebben we de afgelopen jaren gezien, is niets meer dan een reeks kortetermijn-non-oplossingen die de illusie wekt van vooruitgang. Ja, regulering is hard nodig, maar de huidige aanpak is, zoals de werkgroep digitalisering ook opmerkt, te fragmentarisch en verergert onbedoeld vaak de problematiek. Bijvoorbeeld: voorstellen die we hebben gezien om bepaalde uitingen op het internet aan te pakken, vormen vaak zelf een risico voor onze vrijheden. Daarbij komt dat dit soort maatregelen nooit de kern van de problematiek raakt. Bits of Freedom ziet daarom graag een verschuiving van symptoombestrijding naar reparatie van het ecosysteem. Daarmee komen we uit bij de onderzoeksvragen die nu voorliggen. Hoe kan de Tweede Kamer de kennispositie op dit gebied versterken? En hoe krijgt de Kamer meer grip op de ontwikkelingen die samenhangen met digitalisering?

Ten eerste wil ik u meegeven dat de dominantie van de technologiebedrijven een van de belangrijkste thema's op het gebied van digitalisering is die de aandacht van de Tweede Kamer vereisen. Er zijn weinig thema's die op dezelfde wijze zo'n impact hebben op alle aspecten van onze maatschappij, of het nu gaat over onze vrijheid van meningsuiting, het onderwijs, de media, de sociale cohesie, het arbeidsrecht of zelfs onze democratische rechtsstaat. Het belang is ook af te leiden uit de prominente rol die deze bedrijven spelen in de parlementaire debatten over elk van deze onderwerpen.

Ten tweede: om beter grip te krijgen op de ontwikkelingen, is het essentieel dat de Kamer doorgrondt hoe deze bedrijven onze autonomie inperken, ook die van u als parlement. Op welke manieren dragen deze bedrijven bij aan de maatschappij die we samen voor ogen hebben? En op welke manieren zitten ze ons dwars, voorkomen ze dat we zelf onze koers kunnen bepalen? Dit vraagt om een beleidsterreinoverstijgende aanpak.

Tot slot, ten derde: het creëren van een heldere visie over het gewenste online-informatie-ecosysteem is essentieel. Om het probleem Facebook op te lossen, schreef een van mijn collega's recentelijk dat we Facebook eigenlijk even helemaal moeten vergeten. Ofwel: om de problemen op te lossen, moeten we niet primair deze bedrijven reguleren, maar het ecosysteem waarbinnen ze opereren. Hoe ziet u onze online-interacties het liefst vormgegeven? Hoe wilt u dat we online interacteren, los van de al bestaande platformen? Dit kan als basis dienen voor een inventarisatie van de beleidsopties die iets zouden kunnen betekenen voor meer diversiteit in ons digitale ecosysteem. Kortom, Bits of Freedom onderschrijft dat deze problematiek elk aspect van onze maatschappij raakt. Een meer holistische aanpak lost niet alleen de kern van het probleem op, maar leidt er ook toe dat veel van de symptomen waar we ons op dit moment dagelijks zorgen over maken zich minder prominent zullen voordoen.

Dank je wel.

De voorzitter:

Dank u wel. Ik geef het woord aan mevrouw Beerends.

Mevrouw Beerends:

Allereerst dank voor de uitnodiging. Goed om hier te zijn. Mijn naam is Siri Beerends. Ik ben cultuursocioloog, onderzoeker en schrijver bij medialab SETUP. Daarnaast ben ik buitenpromovendus aan de Universiteit Twente, waar ik onderzoek doe naar kunstmatige intelligentie en authenticiteit. SETUP is een medialab dat onderzoek doet naar de ethische implicaties van opkomende, digitale technologieën. We zien dat veel digitale technologieën – denk aan smart cities, predictive policing, algoritmische besluitvorming – heel abstract en ontoegankelijk zijn voor burgers. Mensen weten vaak niet welke belangen deze systemen behartigen en op grond van welke data welke beslissingen zijn gemaakt. Daardoor bestaan zowel binnen als buiten de wetenschap grote zorgen over surveillancetechnologie en de impact daarvan op onze autonomie, de problematiek omtrent automatisering van sociale ongelijkheid, de macht van big tech, en de oneerlijke gevolgen van het surveillancekapitalisme. Een data-economie waarin ons gedrag wordt bijgestuurd om betere gedragsvoorspellingen te kunnen verkopen aan bedrijven. Hoewel waarden als transparantie, privacy, autonomie en inclusiviteit hoog op de politieke en juridische agenda staan, zien we vaak dat regulering achter de markt aan hobbelt. Een voorbeeld is de GDPR, wat een goede wet is, maar die natuurlijk niet alle problemen kan oplossen. Wetgeving is niet zaligmakend. Daarom is het belangrijk om daarnaast ook te investeren in het creëren van een brede media-, data- en algoritmewijze groep burgers. Dat is waar we bij medialab SETUP mee bezig zijn. Dat doen we door middel van artistiek ontwerpend onderzoek. Dat betekent dat we samen met kunstenaars en experts uit verschillende disciplines installaties, beelden en vocabulaire ontwikkelen die de ethische implicaties van technologische ontwikkelingen invoelbaar maken voor een breed publiek. We vinden dat niet alleen technologie-experts moeten kunnen meepraten en meebeslissen over onze digitale toekomst, maar een bredere groep mensen. Wetenschappelijk onderzoek werkt vaak volgens gereguleerde methoden en stappenplannen, maar artistiek onderzoek biedt meer ruimte om te exploreren en inzichten te uiten in andere vormen dan tekst. Wetenschappelijk onderzoek kijkt terug. Artistiek onderzoek kijkt juist vooruit en kan daardoor vragen stellen over wat we wenselijk vinden. Zo kunnen we de digitale toekomst invoelbaar maken nog voordat die arriveert, en politiek en samenleving stimuleren om ethisch bij te sturen waar nodig. Dat ethisch bijsturen voor elkaar krijgen, kunnen we natuurlijk niet alleen. Daarvoor werken we samen met uiteenlopende partijen, zoals vmbo-scholen, universiteiten, overheidsinstellingen, gemeenten, bedrijven, journalisten, maar ook onderzoeksinstellingen, zoals het Rathenau Instituut. De meerwaarde van het artistieke onderzoek laat zich denk ik het best verwoorden door wat andere mensen daarover gezegd hebben. Barend van de Meulen bijvoorbeeld – hij is het hoofd onderzoek bij het Rathenau Instituut met wie we hebben samengewerkt – zei dat onderzoekers en wetenschappers vaak op papier schrijven over mogelijke risico's, zonder daarbij de sociotechnologische praktijk echt zichtbaar en invoelbaar te maken. Dat is waar we ons bij SETUP voor inzetten: het zichtbaar maken.

Een voorbeeld dat ik graag wil laten zien, is deze algoritmische sollicitatie-installatie. Tegenwoordig vragen bedrijven steeds vaker aan sollicitanten of ze een videosollicitatie van zichzelf willen opnemen, waarna het bedrijf de sollicitatie laat beoordelen door algoritmes; algoritmebeoordelende gelaatsuitdrukkingen van de sollicitant, het stemgebruik en de woorden. Onze sollicitatie-installatie opent de black box achter deze technologie en laat sollicitanten ervaren hoe hun woorden en gezichtsuitdrukkingen gekwantificeerd worden, en vooral hoe onbetrouwbaar en moreel beladen, hoe subjectief die metingen zijn.

Kenmerkend voor ons ontwerpende onderzoek is dat we gereedschappen ontwikkelen waarmee burgers nieuwe technologieën kunnen vieren, maar zich ook kunnen wapenen tegen de risico's ervan. Dat wapenen zag je vooral bij de sollicitatie-installatie. Zo kunnen we sollicitanten voorbereiden op deze manier van solliciteren. Maar we willen ook laten zien hoe je opkomende technologieën kunt vieren. Daarom werken we bijvoorbeeld in navolging van onze sollicitatie-installatie samen met de Nederlandse Stichting voor Psychotechniek aan de ontwerpvraag hoe kunstmatige intelligentie diversiteit op de arbeidsmarkt juist kan faciliteren in plaats van frustreren.

Een ander kenmerk van ontwerpend onderzoek is dat we de wenselijkheid van technologische toepassingen bevragen zonder het onderwerp meteen heel erg zwaar te maken. We zien dat overheden en bedrijven veel vanuit economische kaders denken: we moeten overal algoritmes en kunstmatige intelligentie in stoppen, zonder te bevragen of het gebruik van kunstmatige intelligentie in een specifieke context ook echt een verbetering is. Een voorbeeld is algoritmische besluitvorming bij de overheid, waar de Raad van State een uitgebreid adviesrapport over heeft geschreven. Bij SETUP hebben we een klaagrobot ontwikkeld, genaamd Paaltje. Daarmee hebben we het debat over de wenselijkheid van algoritmegebruik bij de overheid weer op de maatschappelijke agenda gezet, en vooral de rol van de human in the loop, en het recht op mensenlogica, waar we veel belang aan hechten. Ik heb daarover een artikel geschreven in Trouw.

Een ander belangrijk kenmerk van ontwerpend onderzoek is dat we de resultaten vertalen naar programma's voor onderwijsinstellingen, overheidsinstellingen en bedrijven. Onze sollicitatie-installatie was bijvoorbeeld ook aanwezig op bedrijfsevenementen voor hr-professionals, waardoor ook in het vakgebied zelf mensen eerst uitgedaagd worden om kritisch na te denken voordat ze dit soort systemen gaan inkopen. Ook fungeren de werken vaak als brandstof voor een ethisch debat over technologie. Er wordt regelmatig gepubliceerd over onze projecten. We proberen daarover ook in de media te spreken, om een zo breed mogelijk publiek te bereiken. Maar bijvoorbeeld ook door interessante sprekers naar Nederland te halen. Samen met SURF hebben we Virginia Eubanks voor een lezing naar Nederland gehaald, waarna ze ook door de Tweede Kamer werd uitgenodigd om te spreken over de vergroting van sociale ongelijkheid dankzij algoritmes.

Tot slot. Een belangrijke meerwaarde van ontwerpend onderzoek is dat het heel goed in staat is om blinde vlekken over technologie bloot te leggen. Een voorbeeld is de blinde vlek dat meten niet altijd gelijkstaat aan weten. Veel situaties waarin burgers verkeren zijn niet kwantificeerbaar en passen niet in een algoritmisch model. Niet elke context is even geschikt voor algoritmisering. Denk aan de problematiek omtrent predictive policing en de etnische bias daarin.

Een ander probleem, een blinde vlek ook, in het ethische debat is intellectual debts. Machinelearningsystemen zijn vooral statistische correlatiemachines. Dat betekent dat ze vooral veel antwoorden geven, zonder verklaringen. Volgens computerwetenschappers ontstaat daardoor wat zij een intellectuele schuld noemen en die ons afhankelijk maakt van digitale systemen die ons vertellen wat we moeten doen, zonder dat we begrijpen waarom.

Een andere blinde vlek is het bigdataverdienmodel, wat eigenlijk maakt dat we kunstmatige intelligentie stelselmatig overschatten en de mens stelselmatig onderschatten.

Een andere blinde vlek is dat we ons eigenlijk niet zozeer zorgen moeten maken over kunstmatige intelligentie en algoritmes die ons overnemen, maar dat het belangrijker is om te kijken hoe beide complementair zijn aan elkaar. Dus in plaats van dat vervangen, is het belangrijk om de nadruk op de complementariteit te leggen. Daarom staat ons ontwerpende onderzoek dit jaar volledig in het teken van complementaire samenwerkingen tussen mens en machine. Dat doen we door te verkennen en te verbeelden hoe die samenwerkingen er in de praktijk zouden kunnen uitzien. Een voorbeeld is het AI AI Barbie-project, in samenwerking met Waag en experts uit verschillende velden. Ons project ging over slim speelgoed en de manier waarop slim speelgoed de morele keuzes van kinderen kan beïnvloeden. Uit onderzoek blijkt dat slim speelgoed die morele keuze sterker kan beïnvloeden dan de ouders, dus dat heeft nogal veel impact. Naar aanleiding daarvan hebben we samen met Waag een hackathon georganiseerd, waarbij we programmeurs speelgoed in verschillende opvoedstijlen lieten programmeren, en vervolgens de ethische implicaties daarvan hebben besproken met verschillende experts, wat weer resulteerde in publicaties in de media over slim speelgoed.

Het is belangrijk om bij onderzoek ook te denken aan artistiek ontwerpend onderzoek. Academisch onderzoek is vooral gericht op de wetenschappelijke community en op de vraag: wat is waar? Onderzoek vanuit het bedrijfsleven is meer gericht op economisch rendement en wat praktisch mogelijk is, terwijl artistiek onderzoek meer op het publieke domein gericht is en op de vraag: wat is wenselijk? Dat is een hele belangrijke vraag, vooral nu alles zo snel gaat. Vandaar dat het goed zou zijn om een vast percentage van het geld dat naar onderzoek gaat te reserveren voor artistiek ontwerpend onderzoek. Bijvoorbeeld: 2% van het ICT-projectenbudget investeren in onderzoek naar de maatschappelijke implicaties van de impact van nieuwe ICT-systemen, nog voordat ze gebouwd gaan worden dus.

Tot slot. Vanaf vandaag staat ons Algoritmisch Historisch Museum in het Atrium hier in Den Haag. Als jullie zelf willen ervaren en zien wat de resultaten kunnen zijn van artistiek ontwerpend onderzoek, zou je dat kunnen bekijken. In het Algoritmisch Historisch Museum kun je zien hoe de geschiedenis eruit zou hebben gezien als we vroeger al algoritmes hadden gehad.

Bedankt voor jullie aandacht. Als er vragen zijn, dan beantwoord ik die graag.

De voorzitter:

Zeer veel dank. Dan gaan we naar mevrouw Haan, als derde en laatste spreker.

Mevrouw Haan:

Bedankt. Dank ook aan de hele commissie voor de uitnodiging en de mogelijkheid om hier mee te praten over dit onderwerp, over de vraag hoe de samenleving in het algemeen en de Kamer in het bijzonder meer grip kan krijgen op huidige en toekomstige digitale ontwikkelingen. Bij Open State Foundation streven we naar een open overheid, met digitale transparantie als belangrijkste middel. U heeft in de vorige bijeenkomst, en waarschijnlijk vandaag, al heel veel waardevolle adviezen gekregen voor het vervolg van uw zoektocht naar meer grip op de ontwikkelingen. Graag maak ik van deze gelegenheid gebruik om te focussen op de rol van transparantie en van open data bij de overheid zelf.

Hoewel de digitale ontwikkelingen inderdaad in hoog tempo voortgaan en daarmee de hoeveelheid digitale informatie exponentieel groeit, bevindt de digitale-informatiehuishouding van de overheid zich nog in de kinderschoenen. De broodnodige eerste stap om daadwerkelijk meer grip te krijgen op de digitale ontwikkelingen en de snel toenemende hoeveelheid en impact van data, is volgens ons een overheidsbrede transparantie-by-designvisie. Ik betoog dit niet alleen vanuit het ideële idee dat overheidsinformatie van ons allemaal is en transparantie van belang is voor een digitale democratie, omdat bijvoorbeeld open data de sleutel is naar een gelijke informatiepositie voor iedereen – een overheid hoort maximaal digitaal transparant te zijn; open, tenzij – maar we zeggen dit vooral ook omdat digitale transparantie loont. Er is economisch voordeel te behalen; maatschappelijk voordeel en democratisch voordeel. Open data bijvoorbeeld zorgt ervoor dat ambtenaren efficiënter hun werk kunnen doen en dat parlementen en bestuurders beter geïnformeerd te werk kunnen gaan. Open data maakt het immers mogelijk om analyses uit te voeren om grote hoeveelheden informatie of informatiestromen met behulp van techniek beter te ordenen en zo meer grip te krijgen. Digitale transparantie in het algemeen en open data in het bijzonder stellen bovendien aan wetenschap, bedrijfsleven of maatschappelijke organisaties de rijkdom beschikbaar die schuilgaat achter overheidsinformatie. Daarmee kunnen zij weer onderzoek doen of nieuwe toepassingen maken. Het faciliteert ook de controle op de macht door parlement, pers of betrokken burgers. Door transparant te zijn over welke informatie je opslaat, welk type data je hebt en welke toepassingen je daarop loslaat, geef je de samenleving grip op de digitale tijd en zijn ontwikkelingen. Want wie toegang heeft tot de data achter het besluitvormingsproces of van geldstromen van de overheid, kan die processen controleren en begrijpen. Wie weet welke data de overheid verzamelt, kan daar iets van vinden en desgewenst aan de bel trekken. De rol van publiek toezicht bij het krijgen van grip op digitale processen, al dan niet via organen als volksvertegenwoordiging of pers, mag niet worden onderschat.

Behalve dat transparantie hoort en loont, moet het soms ook. Zo zien wij ons in onze roep om meer en betere digitale transparantie in meer of mindere mate gesteund door bijvoorbeeld de aanstaande Wet open overheid, de Woo, en de herziene Europese PSI-richtlijn. Dat is de richtlijn inzake data en overheidsinformatie. Ik druk de commissie en de Kamer dan ook graag vanaf deze plek op het hart om de implementatie van beide wetten nauwgezet te volgen. In het adviescollege dat in het leven wordt geroepen om de uitvoering van de Woo, de Wet open overheid, in de eerste jaren te monitoren, zouden wat ons betreft niet alleen juristen en deskundigen op het gebied van bestuur, ICT en archief een plek moeten krijgen, zoals nu in het voorstel is geformuleerd, maar juist ook vertegenwoordigers en hergebruikers van overheidsdata, zoals maatschappelijke organisaties en misschien wel burgervertegenwoordiging, en zeker de journalistiek. Bij de implementatie van de PSI-richtlijn dringen we er graag op aan toe te zien op een hele brede interpretatie van de zogenaamde hoogwaardige datasets, de high value data list, in het bijzonder op de maatschappelijk enorm waardevolle categorieën mobiliteit, het Handelsregister en het UBO-register, het bedrijfseigendomregister. Kortom, openheid en digitale toegang tot informatie. De orde, de onderzoeksmogelijkheden en het publieke toezicht dat je daarmee creëert en faciliteert, zijn een belangrijke sleutel naar de gewenste grip op digitale ontwikkelingen enerzijds en gezonde, maatschappelijke en economische impact anderzijds.

Ik begon dit betoog met te zeggen dat de informatiehuishouding van de overheid nog onvolwassen is en gebaat is bij een brede transparantie-by-designvisie. Een dergelijke visie moet volgens ons minimaal de volgende zaken behelzen, in volstrekt willekeurige volgorde.

Een informatieregister, met daarin op hoofdlijnen transparantie over de aanwezige informatie en verantwoording voor eventuele gesloten datasets, zodat zowel overheid als hergebruiker grip krijgt op welke informatie er bestaat en beschikbaar is, en er rekenschap wordt afgelegd over welke type informatie niet openbaar is.

In het verlengde hiervan een duidelijke vereniging van de vrijheid om informatie te ontvangen en het recht op privacy; twee zaken met wat ons betreft evenveel belang, die overigens geen tegenpolen van elkaar zijn. Ik kan geen gelegenheid voorbij laten gaan om dat zeggen.

De ontwikkeling van striktere opendatastandaarden en toezicht daarop, bijvoorbeeld door het bestaande Forum Standaardisatie veel meer slagkracht te geven. Pas als de overheid haar open data volgens standaarden gaat opslaan en publiceren, wordt hoogwaardig hergebruik mogelijk gemaakt.

De al genoemde brede interpretatie van de high value data list, die hoort bij de Europese PSI directive, en een evenwichtig adviescollege voor de Woo, met aandacht voor de belangen van hergebruikers.

Over de hele linie moet het kennisniveau omhoog van wat een digitaal open overheid in essentie is en hoe je die bereikt. Zowel ambtenaren als politici, bestuurders en belangrijke hergebruikers zouden beter moeten worden getraind in het verzamelen, publiceren, analyseren en hergebruiken van data.

Graag sluit ik af met nog twee onderwerpen waarover de commissie in haar vervolgtraject wat ons betreft zou moeten nadenken. Het kwam zojuist al even ter sprake: in hoeverre zou dit hele betoog ook moeten gelden voor bedrijven, zeker wanneer zij data opslaan en een aanzienlijk maatschappelijke impact hebben? En ten tweede mogen in deze rondegang algoritmes en kunstmatige intelligentie niet ongenoemd blijven. Nou weet ik dat ze ook zeker niet ongenoemd zijn in deze bijeenkomsten. Ik sluit me heel graag aan bij iedereen die zegt dat er snel handvatten moeten komen en ethische kaders voor het gebruik van beslissende en voorspellende algoritmes door de overheid. Ik voeg daar graag aan toe dat het hele transparantie-by-designbetoog dat ik zojuist hield, ook van toepassing is op de techniek en het beleid van algoritmes die door de overheid worden gebruikt, en dat de overheid geen algoritmes zou moeten gebruiken die invloed hebben op de levens van mensen waarover geen verantwoording kan worden afgelegd.

Dank u wel.

De voorzitter:

Zeer veel dank. Algoritmes zijn vandaag inderdaad heel veel aan de orde gekomen en morgen stemt de Kamer ook weer over een aantal belangrijke moties op het gebied van algoritmes. Maar vandaag is vandaag, en vandaag zou vandaag niet zijn als de heer Middendorp niet een belangrijke bijdrage zou leveren aan dit laatste blok. Hij moet zo weg, dus ik geef hem nu eerst het woord, met goedkeuring van de anderen, voor een vraag of meerdere vragen aan een van onze drie gasten.

De heer Middendorp (VVD):

Dank, voorzitter. We zijn het natuurlijk eens dat er veel onderzoek gedaan moet worden naar algoritmes. Dat lijkt me evident. Ik heb gaandeweg de toespraken mijn andere meeting een beetje uitgesteld, want dit was natuurlijk food for thought. Ik weet niet waar ik moet beginnen, dus ik begin maar bij mevrouw Austin. U heeft heel veel dingen waar wij ook mee worstelen eigenlijk nog eens goed op een rijtje gezet, dus ik maak even een keuze. Dat zal de voorzitter denk ik ook willen. U zegt dat het onder de streep allemaal negatief is. Heeft u er dan helemaal geen vertrouwen in dat de maatschappij zich een beetje gaat aanpassen? Misschien komt er een kentering in de situatie dat de mensen die die mooie innovatieve diensten gebruiken en daar toestemming voor geven, daar zelf mee stoppen als het allemaal zo negatief uitpakt? Ik vraag dus eigenlijk naar de aanpassing van de maatschappij.

Ik kom bij mevrouw Beerends. Als simpele geoloog en econoom vind ik artistiek ontwerpend onderzoek machtig interessant. Het is volgens mij echt iets wat we bij het onderzoek naar algoritmes waar we hier in de Kamer mee bezig zijn, zouden kunnen gebruiken. Ik ben benieuwd naar iets wat mij heel erg aansprak in uw verhaal. Is publieke awareness eigenlijk niet het startpunt waar we nu staan? Er is heel weinig kennis en kunde, en heel veel mensen denken dat ze de oplossing al hebben voor innovatie. Eigenlijk zijn we ons als maatschappij aan het aanpassen. Ziet u dat zo? Ik hoorde dat een beetje tussen de regels door.

Tot slot. Wat is eigenlijk het verschil tussen overheid en bedrijfsleven? U maakte daar aan het eind een opmerking over, in het kader van die algoritmes. Ik vraag me af hoe de Open State Foundation dat verschil ziet, als het gaat om het gebruik van algoritmes en wat je potentieel moet doen als overheid.

De voorzitter:

Ik denk dat we in volgorde van de vragen naar onze drie gasten kunnen. Mevrouw Austin, ik geef u als eerste het woord voor de beantwoording.

Mevrouw Austin:

Dank je wel. Dank je wel ook voor de goede vragen. Er zijn heel veel positieve ontwikkelingen op het gebied van technologie. Bits of Freedom gelooft in technologie en houdt van het internet. Dat is ook waarom we hier zitten. Maar we hebben de afgelopen jaren ook gezien dat de ontwikkelingen zodanig slecht zijn dat ze aanpassing vergen. Ik denk dat de aanpassing vanuit de maatschappij die u beschrijft, er zeker komt en dat die vanuit de Tweede Kamer moet komen. Dat is waar de bijsturing op dit moment nodig is. We hebben de afgelopen jaren gezien dat zelfregulering absoluut niet en zeker niet snel genoeg gaat opleveren wat we nodig hebben. De Tweede Kamer is wat mij betreft de maatschappelijke bijsturing waar we op dit moment om verlegen zitten.

De heer Middendorp (VVD):

Daar ben ik het natuurlijk mee eens als Tweede Kamerlid, maar ik had iets anders in gedachten toen ik het had over de maatschappij. Ik zal het maar even plat zeggen: stemmen consumenten ook niet met hun voeten? Dat deel van de maatschappij bedoel ik: de mensen die die diensten gebruiken en niet diegenen die top-down vanuit de Tweede Kamer iets bijsturen.

Mevrouw Austin:

De consument heeft op dit moment eigenlijk veel te weinig macht. Het stemmen met de voeten gaat niet meer op op het moment dat we al deze diensten gratis krijgen. Dan heb je als consument te kiezen tussen een gratis dienst en geen dienst. Het consumentenwelzijn, waar een groot deel van ons mededingingsdenken op berust, is wat die allergrootste technologiebedrijven betreft, stuk. Ja, consumenten kunnen natuurlijk bepaalde diensten niet meer gebruiken. Bij de ophef rondom de app Nextdoor hebben zo'n 6.000 mensen van onze website gebruikgemaakt om hun data bij dat bedrijf weg te krijgen. Maar dat is een bedrijf waar concurrentie voor bestaat en waar je als gebruiker, als burger, een alternatief voor hebt. Voor heel veel van de grote techbedrijven waar wij het over hebben, bestaat dat alternatief niet.

Mevrouw Beerends:

Public awareness is het uitgangspunt van artistiek ontwerpend onderzoek. Dat is die data-algoritmewijze groep burgers waar ik het in het begin over had. De bedoeling is vooral om mensen te faciliteren, zodat ze weloverwogen beslissingen kunnen nemen om niet altijd maar blind achter het marketingjargon van Silicon Valley aan te lopen. Om die public awareness te creëren, moet je wel kunnen verbeelden en een interessant verhaal kunnen vertellen. De samenwerking met kunstenaars werkt daarvoor heel erg goed. Om tussen al het mediagekrakeel uit te komen, moet je iets pakkends hebben, zoals Paaltje. Dat trekt meteen de aandacht, en daarmee kun je ook zo'n complex onderwerp als algoritmische besluitvorming bij de overheid, wat uiteindelijk iedereen aangaat, veel invoelbaarder en tastbaarder maken.

De voorzitter:

En dan mevrouw Haan.

Mevrouw Haan:

U vroeg naar het verschil tussen overheid en bedrijfsleven. Voor de goede orde: ik maakte die opmerking niet per se alleen in het kader van algoritmes, maar meer in het bredere kader van transparantie. Als het dan gaat over algoritmes, is mijn betoog er niet een tegen transparantie van algoritmes bij bedrijven, maar wel een voor die bij overheden. Het gaat dan vooral om de beslissende en voorspellende algoritmes. Ik verwijs graag naar het onderzoek van de NOS van een paar maanden geleden, waarin stond dat de overheid die al op grote schaal gebruikt, en waar je als burger niet omheen kunt. Bijvoorbeeld een algoritme dat beslist of ik wel of niet een bepaalde toeslag krijg. We vinden dat er zo veel mogelijk transparantie zou moeten zijn over het beslismodel waarmee dat gebeurt. Het gaat dan, nogmaals, over algoritmes die invloed hebben op het dagelijks leven van mensen. Het valt enigszins buiten de scope van onze organisatie om het over bedrijven te hebben. Tegelijkertijd is er natuurlijk een overlap en een grijs gebied. Transparantie van algoritmes is natuurlijk heel belangrijk, maar eigenlijk in bredere zin, want ik maakte die opmerking in iets bredere zin. Met als toevoeging: wanneer het om overheidsalgoritmes gaat, gaat het vaker over algoritmes waar je gewoon niet omheen kunt. Dat is bij bedrijven misschien iets anders, hoewel ik daar ook wel weer nuances op kan bedenken.

De voorzitter:

Nuances. Dat brengt ons automatisch bij de heer Middendorp voor een vervolgvraag.

De heer Middendorp (VVD):

Ik wilde niemand op ideeën brengen, maar ik merkte op dat in het eerste antwoord duidelijk werd aangegeven dat je er bij die bedrijven ook niet omheen kunt. Ik vraag me af of dat in de vergelijking tussen Google en Duckduckgo nog steeds zo is. Maar ik onderschrijf wel dat daar voor een groot gedeelte in de huidige mededingingssituatie voor bepaalde diensten zeker sprake van is. U heeft eigenlijk helder aangegeven dat u buiten dat kader opereert, want u focust zich op de Staat, begrijp ik uit uw antwoord.

De voorzitter:

Dan geef ik graag de gelegenheid aan mevrouw Buitenweg.

Mevrouw Buitenweg (GroenLinks):

Dank u wel. Ik zal ook proberen aan iedereen snel een vraag te geven, te beginnen met mevrouw Austin. Zij zei dat ook de autonomie van de Kamers wordt ingeperkt door bedrijven en dat het van belang is dat we dat gaan doorgronden. Ik wil daar graag iets meer reflectie op. U zei dat er vaak geen alternatieven zijn. Zo zie ik het ook. Bent u dan een voorstander van EU-alternatieven? Alternatieve zoekmachines? Of hoe wilt u dat die alternatieven ontwikkeld worden?

Dan mevrouw Beerends. Ik vind het enorm leuk, dat artistiek ontwerpend onderzoek. Het gaat er inderdaad om dat je een soort idee krijgt en dat we gaan nadenken over de toekomst en over de ethische implicaties. Wanneer is er in uw visie sprake van reclame en wanneer van oneigenlijke beïnvloeding? Dat vraag ik, omdat het van belang is voor ons als politieke partijen. In de politieke besluitvorming vindt veel beïnvloeding plaats, en je doet ook aan reclame. Wanneer wordt die grens overschreden in uw ogen?

En ten slotte mevrouw Haan. U had het over privacy. Is dat in uw ogen een individueel recht, of een collectief recht? En als dat verschoven is, wat is er dan nodig om dat te kunnen realiseren?

Mevrouw Austin:

Zal ik beginnen?

De voorzitter:

Uiteraard. Gaat uw gang.

Mevrouw Austin:

Dus de vraag was: op welke manier wordt de autonomie van de Kamer verstoord? Ik denk dat dat op een aantal manieren gebeurt. Er is eigenlijk heel veel sprake van beïnvloeding van de maatschappij. Dat is op het gebied van de Kamer niet anders. We vragen ons af in hoeverre het ons als maatschappij nog lukt om zelf de koers te bepalen. In het klein, bijvoorbeeld op het gebied van technologie, kunnen we zelf nog bepalen wat we hier in Nederland willen en wat niet. Of als er zaken gebeuren, dan proberen we zo goed en kwaad als het kan bij te sturen. Het andere vlak waar we het zien, zijn de publiek-private samenwerkingen. We hebben hier heel lang tegen geageerd. Ondertussen denk ik dat we er eigenlijk niet omheen kunnen dat dit een gegeven is, eigenlijk waar mevrouw Haan het zojuist ook over had. Er zijn hele grote datasets, die over onze publieke ruimte en over onze collectieve goederen gaan, die worden beheerd door private bedrijven. Wat moet je daar als overheid mee? Het betreft bijvoorbeeld data over mobiliteit. Dat is een groot vraagstuk. Maar bijvoorbeeld ook data over het onderwijs. Op scholen wordt steeds vaker Google gebruikt. Je krijgt als kind op school een Googleprofiel. Ik chargeer enorm, maar je wordt achter je tablet gezet en er wordt van alles en nog wat over kinderen bijgehouden. Grote hoeveelheden data, die uiteindelijk leiden tot voorspellingen, nieuwe producten en innovatie. We vinden dat die eigenlijk op maatschappelijke waarden moeten rusten. Al dat soort innovatie gaat bij de grote bedrijven gebeuren. Die gaan alleen maar nog meer data verzamelen, waarmee ze nog machtiger worden. Je zou kunnen zeggen dat we rijkelijk laat zijn met hierover nadenken. Ik vind dat dat wel meevalt. Natuurlijk kunnen we daar nog heel veel in betekenen, maar als we niet de keuze maken om die macht terug te pakken, dan sta je als Kamer buitenspel.

Mevrouw Beerends:

De vraag ging over het verschil tussen reclame en oneigenlijke beïnvloeding. Reclame is zichtbaarder en duidelijker. Bij oneigenlijke beïnvloeding weten we zelf niet op welke manier kennis over ons gedrag wordt ingezet om ons gedrag te sturen. Bij algoritmes wordt het voorspellen eigenlijk meer een vorm van sturen. Algoritmes leiden allerlei informatie af uit onze data. Daarmee worden wij in hokjes geplaatst. Mensen die veel naar een bepaald muziekgenre luisteren, worden bijvoorbeeld automatisch in het hokje «politiek conservatief» geplaatst. Vervolgens krijg je in je timeline alleen nog maar informatie te zien die geassocieerd wordt met politiek conservatieve boodschappen. Dat is een oneigenlijke beïnvloeding van gedrag, want je weet niet waarom je dat te zien krijgt of waarom je in dat hokje geplaatst bent. Dat hokje hoeft ook niet te kloppen. Het hoeft helemaal niet zo te zijn dat als je naar een bepaalde vorm van muziek luistert, je dan ook politiek conservatief bent. Maar dat kun je wel worden als je alleen maar die informatie te zien krijgt. Op die manier lopen voorspellen en sturen heel erg door elkaar heen. Ik denk dat daar die oneigenlijke beïnvloeding in zit.

Mevrouw Haan:

De vraag ging over de verschuivingen die invloed hebben op het privacyvraagstuk. Transparantie kan een belangrijke beschermer zijn van privacy. Dat heeft te maken met al die veranderingen, want er zijn heel veel veranderingen. In het hele digitale domein veranderen de privacyvraagstukken. Het privacygevaar wordt ook groter. Er worden heel veel data verzameld en er is heel veel sprake van persoonsgegevens. Ik heb eigenlijk twee antwoorden op uw vraag. Aan de ene kant: zo'n transparantie-by-designvisie, waarin privacy in een vroeg stadium wordt geagendeerd en waarbij ervoor wordt gezorgd dat bij de informatieverzameling in een vroeg stadium rekening wordt gehouden met privacybezwaren op het moment dat informatie publiekelijk wordt, haalt heel veel weg. Daarbij zijn ook weer die standaarden die ik eerder noemde, van belang.

Als overheidsinformatie, of informatie überhaupt, in een vroeg stadium goed wordt gestructureerd, in parameters, die later wel of niet openbaar worden gemaakt, kun je al in een vroeg stadium bijvoorbeeld persoonsgegevens beschermen en zorgen dat er aan het einde toch sprake kan zijn van openheid, transparantie en het delen van die informatiesets. Een iets hoogdravender antwoord misschien, maar met die publieke controle, die mogelijk wordt gemaakt door transparantie, bescherm je de privacy. Als je laat zien wat je hebt en laat zien wat daarvan openbaar is, kunnen mensen aan de bel trekken als ze vinden dat er iets loos is en dat de privacy wordt gezonden. Is dat een antwoord op uw vraag?

Mevrouw Buitenweg (GroenLinks):

Het is interessant, maar de vraag was meer dat ikzelf het idee heb dat we het begrip «privacy» jarenlang gezien hebben, eigenlijk wel lang althans, als een soort individueel recht dat je individueel kunt afdwingen. Mijn vraag is: moeten we het naast een individueel recht ook als een collectief iets zien, waarbij het individueel afdwingen dus niet meer voldoet?

Mevrouw Haan:

Ik snap uw vraag. Ik denk dat het antwoord daarop «ja» is, zeker als ze naast elkaar komen te staan. Door een visie op openheid wordt je automatisch gedwongen tot een meer collectieve of brede visie op het privacyvraagstuk, en het in een vroeg by-designstadium mee te nemen en op te lossen.

De voorzitter:

Gaat uw gang.

Mevrouw Austin:

In aanvulling daarop: ik heb privacy altijd gezien als een soort beschermer van de mogelijkheid die je als individu hebt om zelf sturing te geven aan je leven. Zonder privacy ben je geen vrij mens. Ik denk dat dat voor ons als maatschappij ook geldt. Daar zou net zoiets als een collectief privacyrecht heel nuttig zijn.

De voorzitter:

Ik heb zelf ook nog een paar vragen. Ik wil gebruikmaken van uw aanwezigheid om een paar dillema's te schetsen die te maken hebben met de grip en misschien ook wel de keuzes die we als politiek op een gegeven moment zullen moeten maken. Ik begin even bij mevrouw Austin. U zei op een gegeven moment dat zelfregulering een soort maskerade is waarbij je niet echt de serieuze oplossingen vindt. U citeerde daarbij ook nog een uitspraak van mij in een Kamercommissie, waarin het ging om zelfregulering van het advertentiemodel, het verdienmodel van die bedrijven. Maar als je kijkt naar de angst voor censuur die door bepaalde wetten wel degelijk aanwezig is, hoe ga je dan om met de beperking van wetgeving? Daar wil ik graag straks wat over horen, want ik denk dat sommige wetgeving misschien wel het probleem oplost, maar ook weer nieuwe problemen creëert. Je zou dan kunnen nadenken over andere vormen van sturing dan alleen maar wetgeving.

De vraag die ik aan mevrouw Beerends heb, is als volgt. Ik snap de invalshoek van die artistieke benadering, maar hoe moeten we dat politiek vertalen? De «hum hum»-by design is heel erg populair tegenwoordig. Of het nou privacy, transparency of security of wat dan ook by design is, het klinkt altijd heel goed en je hoort het veel. Het is op congressen en bijeenkomsten heel vaak de benadering, maar ik heb altijd het gevoel: hoe moeten we dat dan vertalen? Want dan ga je als overheid vooraf bepaalde dingen zitten designen, terwijl je als overheid ook altijd wel een beetje achter de feiten aan moet lopen, omdat je anders als overheid niet meer de in-goede-banenleider bent van maatschappelijke ontwikkelingen door mens en bedrijf. Ik vind dat wel een ingewikkelde zoektocht.

Nog even inzoomend op de vraag van mevrouw Buitenweg, over de invalshoek privacy versus transparantie. Ik vind dat toch een hele moeilijke. Ik hou ook niet van de oneigenlijke tegenstelling privacy versus veiligheid, dus die hoeft ook niet te gelden voor transparantie versus privacy, maar in het KvK-dossier is het wel degelijk een vraagstuk. De Kamer van Koophandel wil aan de ene kant bepaalde data allemaal opengooien. Dat is dan goed voor de economie en die kunnen bedrijven dan benutten. Dat zou je als een vorm van openheid en transparantie kunnen beschouwen. Ik geloof dat uw organisatie daar ook voorstander van is. Maar je hoort toch ook heel veel mensen zeggen – ik maak het even concreet –: luister eens even, nu komt mijn burgerservicenummer en mijn thuiswerkadres in handen van iedereen die daar maar wat voor overheeft. En er zullen meerdere voorbeelden zijn. Ik heb eigenlijk geprobeerd u allen een dilemma te geven, omdat we als politiek geen belangenbehartigers zijn maar belangenafwegers. Als commissie moeten we de opdracht vertalen naar de vraag: hoe krijgen we nou grip op de materie om die goede afweging te maken? Misschien kunt u daar alle drie wat over zeggen.

Mevrouw Austin:

U heeft helemaal gelijk. Bij onze buurlanden, in Brussel, was er de afgelopen twee jaar een hoop wetgeving waarbij de wetgever voor heel veel inbreuk zorgt op de vrijheid van meningsuiting van burgers. We hebben daar hard tegen gevochten. We waren in die gevallen tegen wetgeving, omdat al die wetgeving eigenlijk naar symptomen kijkt. Misinformatie, copyrightschending en hate speech zijn geen nieuwe problemen. Er bestaat al wetgeving voor al deze problemen. Wat in deze tijd nieuw is en waarom deze problemen opeens zoveel groter zijn, is dat informatie-ecosysteem waarbinnen we online zijn, waarbinnen we communiceren. Daarom hameren we in ons verhaal zo op die dominantie. Als je een gezond ecosysteem hebt met een grote diversiteit aan aanbieders, waarin consumenten met hun voeten kunnen stemmen, is onze inschatting dat heel veel van deze problemen weer compleet manageable worden. Daarmee wil ik niet zeggen dat misinformatie en hate speech kleine problemen zijn. Het is verschrikkelijk wat er allemaal gebeurt. Copyrightschending is ook verschrikkelijk. Maar daar hebben we wetgeving voor. De wetgeving die nu voornamelijk in Europa wordt opgetuigd, slaat wat ons betreft de plank mis.

De voorzitter:

Bedoelt u onder andere desinformatie en wetgeving in Frankijk en Duitsland?

Mevrouw Austin:

Ja, en de nieuwe copyrightwetgeving uit Europa.

De voorzitter:

Helder. Dus u zegt eigenlijk: we zijn vooral tegen slechte wetgeving die de problemen niet oplost?

Mevrouw Buitenweg (GroenLinks):

Hoe ik het zie, is dat u zegt dat heel veel zaken waar we ons als wetgever nu mee bezighouden, zaken zijn die op zich ook al in de materiële wereld gebeuren en waar wetgeving voor is. En dat het punt van de dominantie van slechts enige marktpartijen maakt dat die problemen extra groot zijn, en dat daar te weinig aan gebeurt.

Mevrouw Austin:

Ja. Die dominantie zorgt ervoor dat het maatschappelijk middenveld niet krachtig genoeg is. De dominantie zorgt ervoor dat consumenten niet genoeg macht hebben. De dominantie zorgt ervoor dat er geen concurrentie komt. Je moet iets doen aan die dominantie. Je moet iets doen aan dat systeem waarbinnen deze verschrikkelijke zaken, waar we het allemaal mee oneens zijn, plaatsvinden. Maar we richten ons op dit moment nog veel te veel op de symptomen.

De voorzitter:

Dan bent u vast blij met de aanstelling van mevrouw Verstaren als mededingings...

Mevrouw Austin:

U bent niet de eerste die dat zegt.

De voorzitter:

Dat is natuurlijk wel de echte aanpak van de macht van die bedrijven, zou je kunnen zeggen. Maar goed, dan gaan we te veel de politieke kant op. Mevrouw Beerends.

Mevrouw Beerends:

Hoe artistiek onderzoek politiek te vertalen? Het gaat er meer om dat de politiek artistiek onderzoek zou moeten faciliteren. Bij de nationale AI-strategie zijn er volgens mij weinig maatschappelijke partners betrokken geweest. Het zou leuk zijn als er bij de betrokkenheid van maatschappelijke partijen bijvoorbeeld ook aan SETUP wordt gedacht, of aan een andere maatschappelijke organisatie die bezig is met artistiek onderzoek, omdat die zich bezighouden met die verbeelding. Maar het gaat ons meer om zo'n ontwerpvraag als: hoe kan AI diversiteit op de arbeidsmarkt bevorderen of belemmeren? Om zo'n vraag überhaupt goed te kunnen onderzoeken, heb je samenwerkingsverbanden en budget nodig om daar überhaupt mee aan de slag te kunnen gaan. Het gaat dus meer om het faciliteren van dat onderzoek.

De voorzitter:

Al die verschillende by-designbenaderingen zijn heel populair. In elk boek over technologie lees je erover. Zoals ethics by design, en ik noemde er net al een aantal. Even los van wie dat dan moet doen, is mijn vraag hoe je dat goed kunt vertalen naar een politieke invalshoek. Als je als politiek van tevoren allerlei kaders gaat stellen, kun je ook weer te vroeg zijn. Dus dan laat je het aan het bedrijf over, maar dan is het eigenlijk weer een vorm van zelfregulering.

Mevrouw Beerends:

Ja, maar ik denk niet dat het erom gaat om van tevoren al allerlei kaders te maken. Er moet eerst breder verkend worden wat die kaders kunnen zijn, omdat het anders gekaapt wordt door commerciële partijen.

De voorzitter:

Dan mevrouw Haan.

Mevrouw Haan:

Staat u mij toe ook nog iets te zeggen over het by-designvraagstuk.

De voorzitter:

Absoluut. U heeft het ook zelf in de mond genomen.

Mevrouw Haan:

Ik beken, ja. Ik denk dat er ook een soort middenweg is en dat dat het antwoord op uw vraag is. Ik begrijp heel goed dat u zegt dat we niet te ver op de troepen moeten vooruitlopen, want dan kunnen we te snel zijn. Ik denk wel dat je by design, om het toch nog één keer te zeggen, allerlei processen op de juiste manier kunt beïnvloeden. Ons stokpaardje is transparantie, maar het geldt ongetwijfeld ook voor veiligheid en zeker ook voor privacy en andere belangrijke dingen, zoals ethiek. Je moet in een vroeg stadium van allerlei processen – bij mij ging het zojuist vooral om informatieprocessen – erover nadenken dat dingen aan het einde van een bepaald proces openbaar worden. Je moet dus vroeg, by design, nadenken over privacy, transparantie en ethiek. Ik kan me zo voorstellen dat uw Kamer en de politiek richting kunnen geven aan die processen, zonder de processen dicht te timmeren, want dat is natuurlijk iets anders. By default, kun je ook zeggen.

De voorzitter:

Dat is ook weer zo'n Engelstalige term.

Mevrouw Haan:

Ik weet het. Sorry.

De voorzitter:

Ik kan er nooit zoveel mee. Maar u bedoelt dan gewoon vooraf goed nadenken. Dat is wat hiervoor ook een paar keer werd gezegd, bijvoorbeeld bij de inzet van algoritmen, toen de Raad van State hier twee uur geleden te gast was. Je kunt van tevoren niet helemaal zien hoe het uitpakt. Maar als je in ieder geval nadenkt over de kleine groep onderwerpen waarbij een algoritmebesluitvorming tot een nadelige uitkomst kan leiden, heb je een betere beginsituatie dan wanneer je er helemaal niet over nadenkt. Dat is iedereen denk ik wel met elkaar eens. Dat is overigens niet gebeurd het afgelopen jaar, dus het valt wel zeker te proberen.

Mevrouw Haan:

Jazeker. Het zijn complexe processen.

U vroeg mij iets over meer privacy versus transparantie. U noemde het een oneigenlijke tegenstelling. Daar ben ik het heel erg mee eens. U vroeg hoe dat te fixen is en gaf als voorbeeld het KvK-dossier, maar er zijn er natuurlijk heel veel denkbaar. Het antwoord is te vinden in het steeds maar weer dossierafhankelijk en onderwerpafhankelijk zoeken naar een bepaald abstractieniveau om transparant te zijn. Ik blijf even bij het KvK-dossier. Wij zijn helemaal niet geïnteresseerd in de persoonsgegevens of het bsn van allerlei individuen, maar wel in de belanghebbenden van bedrijven, of in de connecties tussen bedrijven, of de mensen met heel veel bedrijven op hun naam. Dat is een bepaalde vorm van abstractie, die ik hier nu even verzin, waarop je transparant kunt zijn. Ik denk dat dit het antwoord op al dit soort vragen is. Ook daarbij zijn weer standaarden van belang. Als je in dit geval voor de KvK, maar voor allerlei andere informatiehouders geldt hetzelfde, mooie standaarden bedenkt over waarop je transparant kunt zijn en over welke gegevens je daarvan beschermt, kom je heel ver. Dit geldt voor privacy, maar ook voor andere dingen die we tegenkomen, zoals veiligheid.

We lopen weleens bij Defensie rond. Daar hebben ze een heleboel andere redenen om dingen dicht te houden, waar we het helemaal niet mee oneens zijn. We proberen dan te zoeken naar een abstractieniveau waarop je wel transparant kunt zijn én zo veel mogelijk kunt uitleggen waarover je niet transparant bent. De KvK kan heel goed uitleggen: hier staat een bsn en dat is dus afgelakt.

Mevrouw Buitenweg (GroenLinks):

Dat vind ik sowieso soms een lastige kwestie. Aan de ene kant wil je dat er transparantie is, of dat veel data ook voor anderen beschikbaar zijn die voor één bepaalde partij beschikbaar zijn. Maar daarbij zie ik dan gelijk voor me dat partijen zoals Google en dergelijke al die gegevens ook gebruiken, en hun eigen gegevens sowieso hebben afgeschermd. En dat zij als nettoresultaat per definitie altijd over meer data beschikken en dus ook de dominante partij zijn. Is dat een probleem?

Mevrouw Haan:

Ik denk het niet. Door die transparantie bewerkstellig je een soort basis van gelijkheid, van gelijke toegang tot die informatie, en dus ook een gelijke positie op basis waarvan Google maar ook een start-up en ieder ander aan de slag kan met die informatie, en ook toepassingen kan maken. Dat Google en welke andere reus daar dan ook van profiteren. Lijkt mij geen enkele reden om niet transparant te zijn en niet ieder ander diezelfde mogelijkheden te geven.

Mevrouw Buitenweg (GroenLinks):

Mag ik daar ook de reactie van de anderen op, als zij dat willen?

Mevrouw Beerends:

Er zit nog een vraag voor: moet je alles wel in data vangen? Voor niet elk probleem is een datagedreven oplossing nodig. Je zou die vraag er nog voor moeten zetten, voordat je het gaat hebben over transparantie en het risico dat andere bedrijven ermee vandoor gaan. Dat is mijn toevoeging.

Mevrouw Austin:

Ik heb niet zozeer een antwoord, maar het deed me wel aan iets anders denken. Uw collega zei dat er voor Google toch een alternatief is, namelijk Duckduckgo. Dat is wat ons betreft een beetje te kort door de bocht en raakt eigenlijk aan wat u zojuist zei. Het gaat steeds belangrijker worden om te kijken naar bedrijven die vanuit verschillende sectoren en vanuit verschillende zusterbedrijven datasets aanleggen en vergaren, en die combineren. Om het voorbeeld van Google versus Duckduckgo te blijven gebruiken: het kan best zo zijn dat Google op het gebied van zoeken een goede concurrent heeft, maar Google kan de data die het uit de zoekresultaten verzamelt ook in andere sectoren gebruiken om daar weer een voorsprong te krijgen. Gevoelsmatig ben ik het helemaal met jou eens, maar ik vind het helemaal niet zo'n gekke gedachte dat we wel moeten opletten of die data in combinatie met andere datasets bij andere partijen misschien opeens op een heel onvoorziene manier gebruikt zouden kunnen worden.

De voorzitter:

Omdat we toch nog heel eventjes hebben, is het misschien wel aardig om u door middel van een zogenaamde frustratievraag nog iets te vragen. U bent alle drie in meer of mindere mate gericht op de overheid en op politieke partijen, waar u vaak mee te maken heeft bij het behartigen van het belang van waar uw organisatie voor staat. Of dat nou de opendata-invalshoek is, de burgerrechteninvalshoek of de invalshoek die u heeft verwoord, dat maakt niet zo veel uit. U loopt daarbij waarschijnlijk tegen allerlei beperkingen aan van de politiek dan wel de Ministers en Kamerleden en beleidsmedewerkers. We zijn op zoek naar de manier waarop we dat kunnen verbeteren, waardoor we als politiek beter met het onderwerp digitalisering en alle subthema's daaronder kunnen omgaan. Voor u is het misschien iets moeilijker, omdat u net begonnen bent, maar u weet het denk ik ook wel vanuit andere activiteiten die u verricht heeft. Wat zijn nou dingen waar de politiek echt verandering in zou moeten brengen om beter met het onderwerp om te kunnen gaan? Dat is gewoon nog even een soort open vraag aan u.

Mevrouw Austin:

Ik heb de afgelopen vier jaar in een andere hoedanigheid bij Bits of Freedom gewerkt, dus ik voel me wel op de juiste plek om de frustraties van Bits of Freedom te uiten. We hebben ontzettend veel met beleidsmedewerkers te maken en zijn daar over het algemeen ontzettend over te spreken. Het enige wat wij graag zouden zien, is dat ambtenaren tussen de verschillende departementen wat meer met elkaar zouden praten. Onze grote vraag is dan ook of het mogelijk is – of in hoeverre gebeurt het, want volgens mij zijn alle aanzetten er – om dit onderzoek interdepartementaal op te pakken. En lukt het dan ook om een inventarisatie te maken van welke verschillende beleidsopties we al hebben, dus het gereedschap dat we al hebben, en hoe verschillende beleidstools in samenspraak met elkaar zouden kunnen werken? En wat zijn daar dan de risico's en kansen voor? Dat is een kleine frustratie.

Mevrouw Beerends:

Wat zou de politiek kunnen veranderen om beter met het onderwerp digitalisering om te kunnen gaan? Ik denk misschien meer kennis over kunstmatige intelligentie en algoritmisering. Wat is kunstmatige intelligentie überhaupt? We zien vaak dat de technologie zelf als vertrekpunt wordt genomen; «we moeten iets met blockchain in de gezondheidszorg», of «we moeten iets met data in deze sector of bij deze gemeente». Dat vinden wij de verkeerde volgorde. Je zou moeten beginnen met het probleem, en dan kijken of big data daar een rol in kan spelen of niet. Daar wil ik het bij houden.

Mevrouw Haan:

Wij hebben van een paar dingen last. Een daarvan is fragmentatie, wat natuurlijk bijna inherent is aan zo veel informatie. Ik denk wel dat er inspanningen mogelijk en nodig zijn om te werken aan opendatastandaarden. Onderzoekers en hergebruikers van open data hebben veel betere standaarden nodig van de overheid. Die standaarden zouden overheidsbreed moeten worden opgepakt om de data waardevol te maken voor hergebruikers. Ik denk aan machineleesbare standaarden. Om een voorbeeld te noemen: we hebben begin dit jaar gemerkt dat het bij zelfs een vrij simpele dataset zoals verkiezingsuitslagen heel erg moeilijk is om die te analyseren, omdat ze per gemeente op een andere manier zijn gepubliceerd. Je moet in de eerste paar weken in eerste instantie 355 gemeentewebsites af om de data te verzamelen. Dat is laaghangend fruit. Het zijn op zich simpele data. Daar zou overheidsbreed verbetering in kunnen komen.

Ook merken we vaak dat we bij verschillende overheidsinstellingen en op landelijk en lokaal niveau nog iets te vaak afhankelijk zijn van individuen. Individuen die de materie snappen. Individuen die het onderwerp omarmen. Iets meer contactpersonen en commissarissen die van de open overheid zijn, of zo je wilt van de digitale transparantie, zouden de zaak vooruithelpen.

Tot slot. Het is misschien een wat meer overkoepelend antwoord, maar we zitten met enige regelmaat bij bijeenkomsten, vaak van lokale overheden, maar ook wel op landelijk niveau. Die bijeenkomsten gaan altijd over wat wij dan precies willen en wat de hergebruiker dan wil, want als ze dat goed weten, kunnen ze daarop anticiperen en datasets waar vraag naar is transparant maken. Dat is natuurlijk een nobel streven. Maar wij zouden nog veel liever zien dat de overheid gewoon open is, omdat de overheid open zou moeten zijn, de WOB eigenlijk bijna niet meer nodig is en de overheid goed uitlegt op welke gebieden er misschien geen transparantie mogelijk is. Dus die hele andere manier van denken, waarbij je echt open bent, tenzij, en dus eigenlijk niet meer op zoek bent naar wat de maatschappij en de hergebruiker dan zo graag willen. Ook dat zou denk ik de zaak verbeteren.

De voorzitter:

Mooi. Mevrouw Buitenweg nog? Nee? Nog nabranders? Dingen waarvan gevonden wordt dat ze naar voren gebracht hadden moeten worden? Waarschijnlijk zo meteen, hoor ik zeggen. Dat kan altijd inderdaad.

Ik wil u alle drie zeer danken voor het mooie sluitstuk van deze ook zeer nuttige kennisdag, mag ik wel zeggen. We hebben vandaag een aantal hele mooie verschillende invalshoeken langs zien komen, en dat allemaal samengebald in een kort tijdsbestek en met duidelijke voorbeelden en illustraties. U heeft daar ook een belangrijke bijdrage aan geleverd en daar zijn we u zeer erkentelijk voor.

Ik dank mevrouw Buitenweg in het bijzonder, want die is er tenminste nog, en de andere leden die dit voor een deel ook hebben kunnen meemaken, en die een deel misschien nog wel via de verslagen en anderszins gevolgd hebben. We hebben volgende week weer een kennisdag; de derde en laatste van de eerste fase van waarin we zitten.

Ik wil dan nu de bijeenkomst afsluiten. Veel dankzegging aan iedereen die dit mogelijk gemaakt heeft, aanwezig is geweest en dit gevolgd heeft.

Sluiting 16.07 uur.