Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2019-2020

35 229 Parlementair onderzoek digitale toekomst

Nr. 10 RAPPORT – TIJDELIJKE COMMISSIE DIGITALE TOEKOMST «UPDATE VEREIST. NAAR MEER PARLEMENTAIRE GRIP OP DIGITALISERING»

Inhoudsopgave

Woord vooraf van de commissie	1
Samenvatting	4
Inleiding	4
1	Digitale transitie: nieuwe maatschappelijke vraagstukken	7
1.1	TECHNOLOGISCHE SYSTEMEN WORDEN BETER, SNELLER EN PRECIEZER	8
1.2	TECHNOLOGIE RAAKT VERDER GEÏNTEGREERD IN ONZE SAMENLEVING	9
1.3	DE SAMENLEVING WORDT STEEDS VERDER «GEDATAFICEERD»	15
1.4	DIGITALISERING IS POLITIEK	17
2	Zelfreflectie: rol Tweede Kamer bij digitalisering	18
2.1	AANDACHT IN DE TWEEDE KAMER	18
2.2	KENNIS EN INFORMATIEPOSITIE VAN TWEEDE KAMERLEDEN	24
2.3	INTERACTIE MET DECENTRALE OVERHEDEN EN TOEZICHTHOUDERS	25
2.4	ANDERE PARLEMENTEN: MEER ERKENNING VOOR DIGITALISERING	26
2.5	LESSEN	31
3	Voorstellen voor meer grip	32
3.1	VOORAF	33
3.2	VOORSTELLEN	34
Bijlage 1 onderzoeksverantwoording	37
Bijlage 2 bronnenlijst	42

Woord vooraf van de commissie

De tijdelijke commissie Digitale toekomst (TCDT) is geboren uit een sluimerend ongemak. De afgelopen jaren is de invloed van digitalisering op de samenleving exponentieel toegenomen. Alle vaste Kamercommissies hebben ermee te maken gekregen. Van onderwijs tot volksgezondheid en van landbouw tot dienstverlening door de overheid; overal biedt digitalisering ongekende kansen. Voor de samenleving zijn er echter ook serieuze risico’s: voor onze veiligheid, democratie en autonomie. Daarmee drong de vraag zich op of in de Tweede Kamer voldoende kennis en aandacht is om de volle breedte van de ontwikkelingen te overzien en daar richting aan te geven.

Terwijl de digitale transitie als een nieuwe industriële revolutie voortraast, is aan de organisatie van de Tweede Kamer in de vaste Kamercommissies bijna niets veranderd. Alle commissies doen digitalisering «erbij», zonder gespecialiseerde ondersteuning. Veel vraagstukken komen overal enigszins aan bod, maar nergens echt uitputtend. Zo stuurde het kabinet in oktober 2019 drie verschillende brieven over kunstmatige intelligentie naar de Tweede Kamer, die ook in drie verschillende commissies, door verschillende woordvoerders, zijn behandeld. Kan de Tweede Kamer het kabinet op deze gefragmenteerde manier voldoende controleren en waar nodig voor verandering zorgen?

In de Nederlandse samenleving groeit ondertussen de kennis over digitalisering en wordt volop gediscussieerd over wensen en grenzen. Zoals tijdens het referendum over de Wet op de Inlichtingen en Veiligheidsdiensten (WIV) en ook in deze moeilijke tijd, bij de zoektocht naar digitale hulpmiddelen om de verspreiding van het Coronavirus tegen te gaan. Niet alles wat technisch mogelijk is, is ook wenselijk. En niet alles wat wenselijk is, blijkt ook technisch mogelijk. In de Tweede Kamer moeten die discussies goed gevoerd worden. Daarbij kunnen we best stevig van mening verschillen. Digitalisering is politiek: waar waarden op het spel staan, worden verschillende afwegingen gemaakt.

Om een goed beeld te krijgen van de digitale transitie en de rol die de Tweede Kamer daarin kan of moet spelen, heeft de TCDT met veel verschillende mensen gesproken, waaronder vertegenwoordigers van gemeenten en provincies, toezichthouders, mensen uit het bedrijfsleven, maatschappelijke organisaties, wetenschappers, adviescolleges, ambtenaren, Europarlementariërs en Eurocommissaris Vestager. Met de hulp van onderzoekers van de Universiteit Utrecht, de Radboud Universiteit en het Rathenau Instituut hebben we teruggeblikt op ons eigen functioneren in de afgelopen jaren en gekeken naar hoe andere parlementen omgaan met het onderwerp digitalisering. Onze bevindingen en aanbevelingen staan beschreven in dit rapport.

Voor veel leden van de commissie, waaronder ikzelf, hadden de afgelopen maanden een waarde in zichzelf. Het was leerrijk en stimulerend om ondergedompeld te worden in de technologische veranderingen die gaande zijn en die nog op ons afkomen. Al voelde het soms, in de woorden van een collega, alsof we voor een flatgebouw stonden, en met het hoofd in de nek probeerden te overzien tot waar het reikte.

Op onze tocht om een paar etages hoger te klimmen zijn we vaardig bijgestaan door een ervaren klankbordgroep met helikopterblik. Onze dank gaat uit naar Arie van Bellen, Anneke Bovens, Inald Lagendijk en Marleen Stikker voor hun kritische blik en bereidheid om mee te denken.

De grootste dank zijn wij echter verschuldigd aan de onvermoeibare staf die onze commissie inhoudelijk en praktisch heeft ondersteund: Martijn Balster, Martijn Barth, Niels Donker, Rens Jansma, Gerard van Roon, Marja Rotermundt en Amarens Veeneman.

In de afgelopen maanden hebben de commissieleden op fysieke afstand van elkaar moeten werken. Maar wel steeds verbonden in de overtuiging dat technologie dienend moet zijn aan mens en samenleving en dat de Tweede Kamer daar een belangrijke rol in te spelen heeft.

Kathalijne Buitenweg (voorzitter)

Mede namens:

Kees Verhoeven (vicevoorzitter)

Jan Middendorp

Danai van Weerdenburg

Chris van Dam

Farid Azarkan

Gerrit Jan van Otterloo

Samenvatting

Digitalisering raakt alle onderdelen van ons leven. Soms tot onze tevredenheid, soms hebben we twijfels of zijn we ertegen. De Tweede Kamer wil daarover eerder en beter debatteren en keuzes maken. Hoe pak je dat als parlement zo goed mogelijk aan? De tijdelijke commissie Digitale toekomst (TCDT) heeft onderzocht hoe parlementen van andere landen dat doen, hoe de Kamer de afgelopen jaren over digitalisering heeft gesproken en hoe zij haar kennis kan vergroten. Zij geeft de gehele Tweede Kamer ook adviezen:

– richt een vaste Tweede Kamercommissie voor Digitale Zaken op;

– bepaal als Kamer welke kennis over digitalisering je nodig hebt;

– ondersteun de andere Kamercommissies rondom digitalisering;

– zorg voor passende wetten en regels voor digitalisering in Nederland en stem goed af met de organisaties die toezicht houden op digitalisering; en

– weet wat er speelt in de Europese Unie en bepaal scherper met de regering wat Nederland daar inbrengt over digitalisering.

De digitale transitie raakt alle onderdelen van ons leven, ...

Digitale systemen worden steeds beter, sneller en preciezer. Technologieën hangen steeds meer met elkaar samen, raken met elkaar vervlochten en vormen zo één geheel. Gegevens over alles wat mensen en organisaties doen worden steeds vaker opgeslagen en gebruikt. Zo krijgt iedereen te maken met digitalisering en technologie.

...de politiek moet hier sturing aan geven, ...

Al deze veranderingen roepen de vraag op wat wij graag willen en wat we juist niet willen. Over zulke vragen moet de politiek zich buigen, niet alleen op een bepaald beleidsterrein, zoals onderwijs, zorg of in de landbouw, maar ook door al deze gebieden heen of juist in het algemeen. Welk soort samenleving heeft de politiek voor ogen? Het is de taak van de Tweede Kamer om ook hierbij de Nederlanders te vertegenwoordigen: grip krijgen op onze digitale toekomst en op die manier de meningen van de Nederlanders recht doen.

...maar dit lukt tot nu toe onvoldoende.

Tot nu toe heeft de Tweede Kamer gefragmenteerd over digitalisering gesproken. Hierdoor zijn niet altijd alle risico’s, kansen en maatschappelijke waarden aan de orde gekomen. Ook thema’s die meer commissies raken of die niet specifiek bij een bepaalde commissie horen kwamen niet of onvoldoende tot hun recht. Hoe kan dat?

– De Tweede Kamer is verdeeld in commissies. Elke commissie controleert een Minister of Staatssecretaris op haar beleidsterrein. Digitalisering past niet exclusief bij één commissie.

– Andersom is digitalisering voor de bestaande commissies maar een onderwerp uit vele andere. Dat betekent dat de meeste Kamerleden in die commissies ook maar beperkt tijd hebben om zich te verdiepen in vragen over digitalisering.

– Het onderwerp digitalisering is relatief nieuw; de Tweede Kamer heeft er nog niet veel kennis over verzameld.

– Ten slotte worden steeds meer wetten en regels op het gebied van digitalisering vastgesteld in de Europese Unie. Dat maakt het moeilijker voor de Tweede Kamer om het kabinet op het juiste moment te controleren en het vergt extra inspanning voor de Kamerleden om goed geïnformeerd te zijn.

Om de politiek beter te laten sturen is het nodig om digitale veranderingen op een andere manier te bespreken: we moeten digitale onderwerpen vaker en beter bespreken en meer aandacht besteden aan de vervlechting van deze digitale veranderingen. Het is ook nodig om goed te weten wat er in de Europese Unie gebeurt, en wat internationaal. Én wat provincies, gemeenten en waterschappen nodig hebben, die vragen om een actieve Tweede Kamer, die regels en wetten maakt. De TCDT is daarom tot de conclusie gekomen dat het nodig is om een vaste Kamercommissie voor Digitale Zaken op te richten en adviseert de Tweede Kamer het volgende.

Aanbeveling 1. Installeer een vaste commissie voor Digitale Zaken

De TCDT stelt voor om, na de Tweede Kamerverkiezingen, een vaste commissie voor Digitale Zaken in te stellen. Deze commissie krijgt de volgende taken:

– Het controleren en behandelen van wetgeving van de bewindspersoon die verantwoordelijk is voor digitalisering of, in de afwezigheid daarvan, van de bewindspersoon tot wie de commissie zich primair verhoudt;

– Het verkennen, doordenken en agenderen van huidige en toekomstige commissieoverstijgende ontwikkelingen op het gebied van digitalisering;

– Het informeren van andere commissies in de Tweede Kamer over relevante ontwikkelingen op het gebied van digitalisering;

– Het voortouw nemen bij een coherente en integrale behandeling van commissieoverstijgende digitaliseringsvraagstukken in de Tweede Kamer;

– Het fungeren als aanspreekpunt voor digitaliseringskwesties voor zowel het kabinet als maatschappelijke groepen, bedrijfsleven, wetenschap en anderen.

Aanbeveling 2. Stel een kennisagenda Digitalisering op

Het is belangrijk dat de Tweede Kamer meer kennis binnenhaalt en zelf bepaalt welke informatie zij nodig heeft, dus stelt de vaste commissie voor Digitale Zaken jaarlijks een kennisagenda Digitalisering op.

Aanbeveling 3. Bied inhoudelijke ondersteuning aan overige Kamercommissies

De vaste Kamercommissies, die allemaal in meer of mindere mate te maken krijgen met vraagstukken rondom digitalisering, moeten kunnen steunen op het werk dat gedaan wordt in de vaste commissie voor Digitale Zaken.

Aanbeveling 4. Draag zorg voor een sluitend wettelijk kader en toezicht

De vaste commissie voor Digitale Zaken zal zicht houden op de vraag of de bestaande wet- en regelgeving gezien de digitale ontwikkelingen voldoet. Zo nodig doet zij voorstellen voor aanpassing of uitbreiding ervan. De commissie laat zich regulier en in samenhang informeren over digitaliseringsvraagstukken door de toezichthouders, onder meer vanwege mogelijke hiaten of overlap in toezicht.

Aanbeveling 5. Extra aandacht voor wetgeving uit de Europese Unie

De vaste commissie voor Digitale Zaken zal in een vroegtijdig stadium geïnformeerd worden over voorstellen van de Europese Unie en de Nederlandse positie in de Europese besprekingen daarover, zodat zij beter in staat is de inzet van Nederland in de Europese Unie mede vorm te geven en te controleren.

Inleiding

Digitalisering verandert de samenleving radicaal. Nieuwe technologieën komen in hoog tempo op ons af en grijpen steeds meer in op onze fysieke, biologische en sociaal-culturele wereld. Kunstmatige intelligentie, algoritmen, Big data, Internet of Things en de cloud, kwantumcomputers en robotica: elke technologie heeft op zichzelf al de kracht om onze samenleving te veranderen, maar samengenomen veranderen ze haar fundamenteel.

Over de tijdelijke commissie Digitale toekomst

Technologische ontwikkelingen raken onvermijdelijk publieke waarden. Denk aan veiligheid, democratie, werkgelegenheid, de verhouding tussen burgers onderling, en tussen burgers en de overheid. De Tweede Kamer speelt van oudsher een belangrijke rol bij het borgen van die waarden. De Kamer heeft echter het gevoel dat zij onvoldoende grip heeft op de digitale ontwikkelingen, omdat die steeds sneller gaan, mondiaal zijn, met heel veel andere gelijktijdige veranderingen samenhangen en omdat de werking onzichtbaar is, maar wel steeds dieper ingrijpt op de samenleving. Het is van groot belang dat het parlement kaders geeft, technologische ontwikkelingen stimuleert, maar ook grenzen trekt. De Tweede Kamer wil maatschappelijke en politieke vragen die met digitalisering samenhangen eerder en beter kunnen bespreken en wil zichzelf daartoe zo goed mogelijk organiseren. Daarom is op dinsdag 2 juli 2019 de tijdelijke commissie Digitale toekomst (hierna: TCDT) ingesteld, die de opdracht kreeg om hier voorstellen voor te doen.

Onderzoeksvragen

De TCDT heeft onderzocht hoe de Tweede Kamer invulling geeft aan digitaliseringsvraagstukken en welke verbetermogelijkheden er zijn. De TCDT heeft daarbij de traditionele rollen van de Tweede Kamer – controleur van de regering, medewetgever en volksvertegenwoordiging – als uitgangspunt gehanteerd. Het onderzoek richtte zich op de volgende hoofdvraag:

Hoe kan de Tweede Kamer de kennispositie versterken op het gebied van digitalisering en op welke wijze kan de Tweede Kamer meer grip krijgen op gewenste en ongewenste ontwikkelingen samenhangend met digitalisering (controlerende en wetgevende taak)?

Om de hoofdvraag te beantwoorden heeft de TCDT drie deelvragen opgesteld:

1. Welke bovenliggende thema’s op het terrein van digitalisering – zowel voor wat betreft technologische ontwikkeling als hun impact op maatschappelijke waarden – vragen aandacht van de Tweede Kamer in de nabije toekomst en waarom?

2. Welke lessen kunnen worden getrokken uit de wijze waarop door de Tweede Kamer op dit moment naar digitaliseringsvraagstukken wordt gekeken en wat kan worden geleerd van andere landen en andere overheidslagen om dit beter aan te pakken? Welke methode of toetsingskader(s) worden daarbij gehanteerd?

3. Wat is er – zowel inhoudelijk, organisatorisch als institutioneel – nodig om de kennispositie van de Tweede Kamer te vergroten ten aanzien van digitale ontwikkelingen en over welk instrumentarium beschikt de Tweede Kamer om meer grip te krijgen op die ontwikkelingen?

Digitalisering

Digitalisering is een breed begrip. Wij gebruiken de term «digitalisering» voor de ontwikkelingen in de samenleving die te maken hebben met het toenemend gebruik van digitale informatie, data en apparaten. Door de omvang en het tempo waarin dit gebeurt blijkt digitalisering de motor achter een transitie die de samenleving radicaal verandert en nieuwe kansen en risico’s met zich meebrengt.

Aanpak

De TCDT heeft met behulp van verschillende deelonderzoeken, gesprekken, werkbezoeken en rondetafelgesprekken antwoorden gekregen op de deelvragen. Deze antwoorden vormen de bouwstenen voor de beantwoording van de hoofdvraag. In bijlage 1, Onderzoeksverantwoording, licht de TCDT haar aanpak uitgebreid toe.

Leeswijzer

In hoofdstuk 1 schetst de TCDT diverse (nieuwe) maatschappelijke vraagstukken die de digitale transitie met zich meebrengt en de aandacht vragen van de politiek. Hoofdstuk 2 gaat in op de wijze waarop de Tweede Kamer tot nu toe is omgegaan met digitaliseringsvraagstukken, hoe andere landen dat doen en welke lessen hieruit getrokken kunnen worden. Vervolgens worden deze lessen in hoofdstuk 3 vertaald naar concrete aanbevelingen voor de Tweede Kamer.

1 Digitale transitie: nieuwe maatschappelijke vraagstukken

We hoeven slechts een paar decennia terug in de tijd om te bevatten hoe ingrijpend digitalisering en technologisering onze samenleving veranderen. Het effect dat zij hebben op ons leven: hoe we werken, communiceren, omgaan met ziekte, sporten, eten, studeren en sociale contacten onderhouden. Vergelijk dit met zeventig jaar geleden toen de eerste moderne machines met computerkracht ontwikkeld werden. Of dertig jaar geleden toen het wereldwijde web ontstond. Pas in 1993 maakte de wereld kennis met de eerste webbrowser. Internet stelde ons in staat contact te hebben met mensen over de hele wereld. Daarvóór werd de computer vooral gebruikt om teksten te typen, spreadsheets te vullen of spelletjes te spelen. Wie bedenkt dat pas in 2007, dertien jaar geleden, de smartphone zijn intrede deed en dat Hyves in 2011 nog groter was dan Facebook, ziet de immense veranderingen die alleen al in het laatste decennium hebben plaatsgevonden.

Het historisch perspectief maakt duidelijk: de digitale transitie is enorm en gaat ongekend snel. De toekomst zal ongetwijfeld anders uitpakken dan we nu kunnen voorspellen. De grote veranderingen zijn, in navolging van Jamie Susskind (2018), te herleiden tot drie grote ontwikkelingen:

– Technologische systemen worden steeds beter, sneller en preciezer (zie § 1.1);

– Technologie zal nog meer dan nu integreren in onze samenleving (§ 1.2); en

– Steeds meer aspecten van onze samenleving zullen gekwantificeerd worden (§ 1.3).

Laten we de veranderingen eerst van wat dichterbij bekijken, voordat we naar de taak van de Tweede Kamer gaan om te voorzien in visie, sturing en kaders.

1.1 Technologische systemen worden beter, sneller en preciezer

Sommige technologische ontwikkelingen hebben al een grote impact op onze samenleving, zoals kunstmatige intelligentie (vaak afgekort als AI, artificiële intelligentie). Op andere¹, zoals de kwantumcomputer, moeten we ons voorbereiden.

Kunstmatige intelligentie

Kunstmatige intelligentie is niet één technologie, maar is beter te begrijpen als een systeem dat waarneemt, analyseert (denkt) en handelt, en daarvan kan leren. Diverse technologieën (sensoren, big data, robots, apps) zorgen er samen voor dat een systeem of machine in een juiste omgeving een zekere mate van intelligent gedrag vertoont. Over de mogelijkheden van dat intelligente gedrag zijn de verwachtingen hooggespannen. Volgens de opstellers van AI voor Nederland gaat kunstmatige intelligentie «als sleuteltechnologie de wereld net zo ingrijpend veranderen als de industriële revolutie dat in de 18e en 19e eeuw heeft gedaan» (AINED, 2018, p.1). Sterker nog, Googletopman Sundar Pichai stelt in januari 2018: «AI is een van de belangrijkste onderwerpen waar de mensheid aan werkt en zal meer impact hebben dan elektriciteit of vuur» (MSNBC, 2018).

Kunstmatige intelligentie is niet nieuw: al in de jaren »50 verkende een generatie wetenschappers, wiskundigen en filosofen het concept van kunstmatige intelligentie. Toch is duidelijk merkbaar dat de ontwikkeling en toepassing ervan een versnelling doormaakt. Oorzaak hiervan is de exponentiële groei in computerkracht, de verfijning van algoritmen en de explosieve groei in volume en detail van beschikbare data waar kunstmatige-intelligentiesystemen zich mee kunnen voeden (o.a. EY & Microsoft, 2018 en EC, 2018).

Veel toepassingen van kunstmatige intelligentie gebruiken we al lang. Denk aan spamfilters in je mailbox, online zoekmachines en aanbevelingen die we krijgen bij Bol.com of Netflix. In de toekomst zal kunstmatige intelligentie op nog meer terreinen worden ingezet om ons leven beter te maken. Er zijn op allerlei terreinen kansen. In de zorg bijvoorbeeld, waar artsen steeds vaker de hulp zullen inschakelen van kunstmatig-intelligente systemen die adviezen uitbrengen op basis van medische gegevens. Of in het verkeer, waar zelfrijdende voertuigen naar verwachting hun intrede zullen doen. Een andere ontwikkeling waarvan we de impact zullen merken is de opkomst van systemen die namens mensen kunnen onderhandelen met meerdere partijen om snel tot prijsafspraken te komen, bijvoorbeeld in de complexe energiemarkt. Op dit moment komt een groot deel van de beurshandel al tot stand op basis van deze technologie. Een groot verschil met andere technologieën is dat kunstmatige intelligentie autonomer wordt, waardoor we steeds meer beslissingen uit handen gaan geven.²

Kunstmatige intelligentie brengt naast kansen ook risico’s met zich mee. Zo is niet altijd na te gaan hoe bepaalde beslissingen precies tot stand zijn gekomen, of worden datasets gebruikt waarin bepaalde aannames zitten die de uitkomsten onbedoeld beïnvloeden. Amazon gebruikte bijvoorbeeld een systeem om sollicitanten automatisch te selecteren, maar dit bleek sollicitatiebrieven van vrouwen onder aan de stapel te leggen. De oorzaak: het systeem baseerde zich op historische data van de ICT-industrie, waarin meer mannen dan vrouwen werken. Het leerde zichzelf onbedoeld om geslacht als selectiecriterium te gebruiken (zie ook § 1.3). Risico’s kunnen ook zitten in onverwachte effecten. Zo moest Microsoft zijn slimme chatbot Taj binnen 24 uur stopzetten toen mensen haar racistische uitingen voerden en Taj zelf racistische en opruiende tweets ging plaatsen. Wil de samenleving dat kunstmatige intelligentie ethisch en maatschappelijk verantwoord wordt ingezet, dan is het nodig om heldere kaders te scheppen, bijvoorbeeld met betrekking tot transparantie, het tegengaan van ingebouwde vooroordelen en het voorkomen dat de computer het laatste woord heeft.

Kwantumcomputers

Naast kunstmatige intelligentie is kwantumcomputing een van de grootste innovaties die we in de nabije toekomst mee zullen maken. Een kwantumcomputer maakt gebruik van de wetten van de kwantumfysica en rekent met zogenaamde qubits. In tegenstelling tot de bits van een normale computer kunnen qubits op hetzelfde moment 0 en 1 zijn. Dat maakt het mogelijk om een berekening, die normaal gesproken uit elkaar opvolgende stappen bestaat, in één keer uit te voeren. Dat geeft een kwantumcomputer een ongekende rekensnelheid. Met de kwantumcomputer wordt het bijvoorbeeld mogelijk om marktbewegingen te analyseren die vele malen te complex zijn voor de huidige computers. Ook wordt het mogelijk om de versleuteling te kraken van beveiligde digitale communicatie die nu nog als «onkraakbaar» te boek staat. Onderzoekers richten zich daarom op de ontwikkeling van versleuteling die ook standhoudt wanneer kwantumcomputers beschikbaar zijn. Ook hier is dus sprake van grote kansen, maar ook van grote risico’s. Daarnaast is ook sprake van verwevenheid: kwantumcomputing zal de ontwikkeling van kunstmatige intelligentie alleen maar versnellen.

Naast kunstmatige intelligentie en kwantumcomputers worden ook andere technologische systemen steeds sneller, accurater en efficiënter. Deze technologieën komen in de volgende paragraaf aan bod.

1.2 Technologie raakt verder geïntegreerd in onze samenleving

Naast het feit dat er technisch meer mogelijk wordt, wordt de plek van technologie in onze samenleving steeds prominenter. Zowel in het fysieke, het biologische als het sociaal-culturele domein.³

Fysieke domein

Technologie raakt steeds meer geïntegreerd in de fysieke wereld: in de publieke ruimte, in ons huis, op ons lichaam en in de infrastructuur die hiervoor nodig is. Steeds meer apparaten zullen aangesloten zijn op het internet of andere netwerken en daardoor extra functionaliteiten krijgen (denk aan een koelkast die zelf eten besteld zodra iets op is). Er zal een wereldwijd netwerk ontstaan waarin zowel mensen als apparaten online zijn en met elkaar communiceren, oftewel het Internet of Things (IoT). We leven steeds meer in smart homes, in smart cities en met smart industries.

Publieke ruimte

De opkomst van IoT, camera’s en sensoren is vormbepalend voor de publieke ruimte. Via allerlei sensoren kunnen overheden, bedrijven en bewoners gedetailleerd inzicht krijgen in wat er gebeurt in de stad. Telecombedrijven hebben bijvoorbeeld inzicht in hoe mensen zich door steden verplaatsen, doordat zij kunnen zien met welke zendmasten mobiele telefoons verbonden zijn. Burgers kunnen met eigen sensoren meten hoe verkeersstromen de plaatselijke luchtkwaliteit beïnvloeden. Gemeenten kunnen gebruikmaken van slimme riolen, die bijhouden welke bacteriën, biomarkers of virussen aanwezig zijn.

Een bekend voorbeeld is het «Living Lab» Stratumseind in Eindhoven. Sensoren, camera’s en andere meetinstrumenten verzamelen niet-privacygevoelige gegevens over het uitgaanspubliek in dit uitgaansgebied. Vervolgens worden de data gebruikt voor slimme toepassingen, zoals armaturen met led-verlichting op lantarenpalen. Door de lampen te variëren in intensiteit, kleur, plaatsing en dynamiek hopen onderzoekers van het Intelligent Lighting Institute van de TU Eindhoven te achterhalen of ze de stemming, oriëntatie, aandacht en het zelfbewustzijn van de bezoekers aan Stratumseind kunnen beïnvloeden. Met dit experiment wil de gemeente het uitgaansgebied veiliger, levendiger en aantrekkelijker maken.

De toename van camera’s en sensoren in de publieke ruimte kent in potentie echter ook risico’s, zoals dat mensen zichzelf niet durven te zijn. Ze ervaren een «chilling effect»: de druk om te conformeren en aan zelfcensuur te doen. Een ander risico, naast de kwetsbaarheid in informatiebeveiliging, is dat verzamelde data aan elkaar gekoppeld worden zonder rekening te houden met bestaande wet- en regelgeving.

Binnenshuis

Ook binnenshuis krijgen steeds meer apparaten een internetadres. Slimme thermostaten zijn bijvoorbeeld verbonden met de energieleverancier, bieden digitaal inzicht in ons energieverbruik en kunnen dat vergelijken met dat van anderen. Een slimme televisie analyseert ons kijkgedrag en geeft ons tips voor andere programma’s die onze interesse zullen hebben. Slimme koelkasten bestellen automatisch nieuwe boodschappen en tandenborstels monitoren ons poetsgedrag. Ook Barbiepoppen hebben inmiddels een microfoon en een internetverbinding en kunnen daardoor uitgebreide gesprekken voeren met kinderen.⁴

De IoT-apparaten verzamelen continu gegevens, zonder dat iedereen zich daarvan bewust is of daarvoor (bewust) toestemming heeft gegeven. Meestal zijn deze data eigendom van de producent en niet van de gebruiker. Dit roept vragen op over privacy en eigendom van de data. Bijvoorbeeld als het gaat om verzameling van data in je eigen huis. Wie bezit de gegevens, onder welke voorwaarden mogen deze gedeeld worden, en wie is verantwoordelijk en aansprakelijk?

Op ons lichaam

Technologie zal ook meer fysiek, indringender en intiemer verbonden zijn met ons lichaam. Naar schatting houdt nu al 90% van de mensen hun smartphone 24 uur per dag binnen één meter afstand van hun lichaam (Goodman, 2019, p.59). Er bestaan daarnaast al veel smart wearables, apparaten die op het lichaam gedragen worden, zoals slimme brillen, horloges, zweetbandjes of T-shirts die continu gegevens meten en delen over bijvoorbeeld hartslag, ademhalingsfrequentie, lichaamstemperatuur en voedings- en slaappatronen. Zelfs in ons lichaam bevindt zich vaker technologie, met name voor mensen met een lichamelijke beperking. Zo wordt momenteel onderzoek gedaan naar potentiële toepassingen voor het vervangen of verbeteren van magen, nieren, harten, longen, spieren, huid, ledematen, oren en ogen (Hooijdonk, 2017).

Onderliggende infrastructuur

Minder direct zichtbaar is dat ook de vitale infrastructuur digitaliseert. Essentiële voorzieningen zoals de zorg, het betalingsverkeer, overheidsdiensten en de elektriciteitsvoorzieningen zijn steeds vaker (volledig) afhankelijk van digitale technologieën. Door automatisering verloopt het werk sneller en efficiënter en worden er minder (menselijke) fouten gemaakt. De groeiende digitalisering van onderliggende infrastructuur in ons land kent echter ook risico’s. De verstoring of uitval van digitale systemen kan namelijk leiden tot ernstige verstoringen van het (fysieke) maatschappelijk leven. Zo kan een kleine gebeurtenis steeds grotere schokgolven veroorzaken, zoals bij flash crashes op de beurs, of een hack van een relatief klein systeem dat vervolgens een internationale zeehaven lamlegt. Cyberaanvallen, maar ook menselijke fouten, kapotte servers, softwareproblemen of externe factoren als kabelbreuken of elektriciteitsstoringen kunnen zo leiden tot wat de Wetenschappelijke Raad voor het Regeringsbeleid «digitale ontwrichting» noemt (WRR, 2019).

Doordat een steeds groter deel van de samenleving digitaliseert, krijgt alles en dus ook geopolitiek, spionage, machtsvertoon en criminaliteit een digitale dimensie. Door cyberspionage kunnen gevoelige geheimen gestolen worden. Cybersabotage kan een vitale sector raken, zoals de dienstverlening van een ziekenhuis of een bank. Het MKB en de burger staan bloot aan de steeds professionelere methoden van cybercriminelen en de opkomst van het Internet of Things vergroot de kwetsbaarheid voor cyberaanvallen. Dit en meer maakt dat cybersecurity niet eerder zo belangrijk is geweest.

Biologische domein

In de afgelopen zes decennia digitaliseerde ook het biologische domein. Het is steeds beter mogelijk om het menselijk lichaam en DNA te vangen in bits en bytes, personen en emoties te herkennen via biometrie en zelfs het menselijk gedrag te sturen door technologie. Mens, natuur en techniek raken steeds verder verweven.

Menselijk lichaam

De digitalisering van het lichaam begon met de inzet van medische apparatuur om het lichaam «digitaal» te kunnen uitlezen. De eerste technieken die dit mogelijk maakten waren röntgenbeelden, CT-scans en bloedglucosemeters voor diabetici. In 1990 zorgde het Human Genome Project voor belangrijke ontwikkelingen door het in kaart brengen van de structuur van het menselijk DNA. Dit project stond aan de wieg van de technieken om het menselijk DNA aan te passen (Kool et al., 2017). Recente ontwikkelingen op dit gebied is de CRISPR-editing techniek. Hoewel wereldwijd is afgesproken dat we het menselijk DNA niet aan zullen passen, is het door deze techniek, ook wel kiembaanmodificatie genoemd, wel mogelijk. Omstreden «designerbabies» lijken hiermee een stap dichterbij. De CRISPR-techniek en andere modificatietechnieken worden overigens al wel toegepast in planten en gewassen. Deze ontwikkelingen gaan gepaard met grote uitdagingen op het vlak van waarden en ethiek (hierover meer in § 1.4).

Personen en emoties herkennen

Ook de biometrische technologie verbetert snel, met gezichtsherkenning voorop. Sommige algoritmen herkennen gezichten inmiddels net zo goed als mensen dat doen en gezichtsherkenning is inmiddels, naast de vingerafdruk, een gangbare identificatiemogelijkheid. In de toekomst bieden ook onze oorschelp, looppatroon, stemgeluid, houding, ademhaling, hartslag en zelfs de manier waarop we typen nieuwe manieren om mensen te identificeren.

Deze ontwikkelingen bieden kansen omdat mensen sneller en met meer nauwkeurigheid te identificeren zijn, maar ook dystopische toepassingen van deze technologie zijn reeds op de markt. Een recent voorbeeld is het techbedrijf Clearview, dat zo veel mogelijk data van sociale media heeft verzameld en hiermee een database heeft aangelegd van drie miljard foto’s met bijbehorende namen. Via Clearview kunnen gebruikers realtime andere personen identificeren op basis van camerabeelden (bijvoorbeeld via smartphones). Inmiddels is ook bekend dat Clearview experimenteert met slimme brillen voor politie-inzet. Een politieagent hoeft maar naar iemand te kijken en ziet dan in zijn bril alle informatie over die persoon geprojecteerd. (Verhagen, 2020) Naast vragen over verticale privacy, tussen overheid en burgen, roept dit ook vragen op over horizontale privacy: hoe beschermen we burgers tegen bedrijven en elkaar?

Gedrag beïnvloeden

Nieuwe persuasieve technologieën bieden kansen voor het meten en beïnvloeden van menselijk gedrag. De laatste jaren ontdekten wetenschappers en bedrijven dat er allerlei informatie valt af te leiden uit ons digitale surfgedrag. Niet alleen zijn er online grote hoeveelheden digitale, persoonlijke gegevens aanwezig, maar ook is er slimme software beschikbaar om die gegevens te analyseren. Websites gebruiken deze kennis om informatie voor hun bezoekers te personaliseren en de gebruikerservaring te optimaliseren. Zo personaliseren zoekmachines als Google de zoekresultaten of presenteren online media zoals RTL-nieuws een gepersonaliseerd media- en nieuwsaanbod. Dit is mogelijk, omdat, bijvoorbeeld in het geval van RTL, meerdere data (de navigatieclicks, social media posts, app downloads, etcetera van de RTL-zenders, Buienradar en Videoland) gebruikt kunnen worden om profielen van gebruikers op te stellen om hen vervolgens gepersonaliseerde content aan te bieden (Keulen et al., 2018). Een negatief voorbeeld van online beïnvloeding kennen we door Cambridge Analytica, dat in opspraak kwam doordat het zonder toestemming de gegevens van tientallen miljoenen Facebook-gebruikers inzette om gericht politiek getinte boodschappen te verspreiden onder potentiële Trump-stemmers.

Sociaal-culturele domein

Het sociaal-culturele domein verandert ook ingrijpend door digitalisering. Interacties tussen mensen onderling en tussen mensen en organisaties vinden steeds vaker plaats via digitale kanalen. Internet heeft letterlijk en figuurlijk een wereld aan nieuwe mogelijkheden opgeleverd. Shoppen, muziek luisteren, contact met vrienden, actievoeren, het vinden van dates; dit alles doen we in toenemende mate online. Pas als er iets misgaat (de laptop crasht, de smartphone is kwijt, er is een elektriciteitsstoring) beseffen we hoezeer we verweven zijn met de techniek. Maar zo lang er niets misgaat, denken we er nauwelijks over na.

Communicatie en cultuur

De opkomst van sociale media en andere online diensten heeft grote gevolgen voor onze manier van communiceren. Ter illustratie, gemiddeld zitten we dagelijks 98 minuten op sociale media, oplopend naar 143 minuten onder jongeren van 15 t/m 19 jaar (Veer et al., 2020). Ook de overheid communiceert steeds vaker digitaal met burgers, bijvoorbeeld via Mijn.overheid.nl of Mijn Belastingdienst. Sociale media verwerven een steeds belangrijkere rol in onze communicatie, cultuur en bij het vormgeven van onze identiteit. We vergroeien meer en meer met onze smartphone, waardoor het onderscheid tussen offline- en onlineleven steeds verder vervaagt.

Vaak wordt in dit verband gewezen op de verspreiding van deepfakes: video’s, spraak of tekst die met behulp van kunstmatige intelligentie gemaakt zijn en net echt lijken. Naar verwachting zal deze technologie zich de komende jaren snel ontwikkelen. Veel voorbeelden van deepfakes zijn onschuldig, zoals de toevoeging van kattenoren aan je eigen video’s. Maar er bestaan ook zorgelijke toepassingen. Minder onschuldig is de inzet van deepfake-video’s voor het verspreiden van nepnieuws. Hierdoor bestaat het risico dat mensen op basis van deepfakes van uitspraken of acties worden beschuldigd die zij in werkelijkheid nooit gezegd of gedaan hebben, of dat juist authentieke video’s als onecht worden beschouwd. De Raad voor het Openbaar Bestuur concludeert daarom dat het gebruik van deepfakes de nieuwsvoorziening en meningsvorming kan verstoren, een essentieel democratisch proces (ROB, 2019).

Ook menselijke spraak en tekst kan gesimuleerd worden door (zelflerende) algoritmes. Dit wordt momenteel veel ingezet in servicecentra. Denk hierbij aan telefonische spraakmenu’s of tekstuele chatbots die vragen van klanten beantwoorden. Er bestaat ook software die stemmen kan nabootsen. Dit kent mooie toepassingen, zoals stembehoud voor iemand die door ziekte aan spraakverlies lijdt, of een geplande speech van John F. Kennedy die hij na zijn dood alsnog heeft «uitgesproken». Er zijn tegelijkertijd ook risico’s, bijvoorbeeld als mensen zich met behulp van deze technologie voordoen als iemand anders. Een chatbot kan zich mengen in politieke discussies en zo de publieke opinie een bepaalde richting in sturen, of bijvoorbeeld ongemerkt een internetconsultatie van de overheid beïnvloeden door nepcommentaren in te sturen. Blindelings vertrouwen op dat wat onze ogen en oren waarnemen behoort tot het verleden.

Ook culturele producten en diensten digitaliseren: muziek, boeken, films en spellen zijn geheel digitaal te maken, te distribueren, te beluisteren, te lezen, te bekijken en te spelen. Niet alleen worden deze diensten omgezet van analoog naar digitaal, maar ook verandert de vorm en interactie met de gebruiker. Zo helpen slimme algoritmes door bepaalde muziek of films aan te bevelen op basis van wat de gebruiker eerder al luisterde of keek. Reuze handig, maar je wordt minder vaak verrast.

Veranderingen in het sociaal-culturele domein worden mede aangejaagd door ontwikkelingen in virtual reality (VR) en augmented reality (AR). VR is een driedimensionale, computergegenereerde omgeving waarin gebruikers zich kunnen bewegen met behulp van VR-brillen. Bij AR wordt een computergegenereerde laag met virtuele elementen aangebracht op de fysieke werkelijkheid. Naast de vele kansen die VR en AR bieden, bijvoorbeeld in de zorg, techniek of bij online spellen, brengt de technologie ook vraagstukken met zich mee. Zoals de vraag of smart glasses permanent mogen filmen en daarbij gezichtsherkenning gebruiken, of je virtueel geslachtsgemeenschap mag hebben met digitale partners die lijken op echte (bekende) mensen die daar geen toestemming voor hebben gegeven, of, in extremere voorbeelden, met de virtuele versie van mensen uit de persoonlijke omgeving, of zelfs met kinderen. Dit roept vragen op zoals waar de grens ligt tussen de vrijheid binnen de privésfeer van de eigen virtuele wereld van de een, en de privacy en veiligheid van de ander.

Organisatiemodellen

De wisselwerking tussen organisaties en consumenten verloopt ook steeds meer digitaal. Daardoor veranderen ook organisatiemodellen, bijvoorbeeld doordat fysieke winkels worden vervangen door webwinkels. Bijna drie op de vijf Nederlanders maakten in 2019 weleens gebruik van online platforms om goederen of diensten te bestellen of uit te wisselen. Mensen bestelden het vaakst maaltijden, kochten tweedehands goederen of boekten een accommodatie via een online platform, aldus het CBS (CBS, 2020).

Door digitalisering ontstaan ook wezenlijk nieuwe organisatievormen, zoals online platformen. Bekende voorbeelden zijn Airbnb en Uber, die in enkele jaren zijn uitgegroeid tot grote economische spelers die hun respectievelijke branches drastisch veranderen. De grote veranderingen die deze nieuwe, snel op te schalen verdien- en samenwerkingsmodellen hebben veroorzaakt komen onder meer doordat deze bedrijven zichzelf niet gebonden achten aan de regels die voor hun sector gelden, zoals vergunningseisen of sociale zekerheidseisen. Ze beschouwen zichzelf namelijk als techbedrijven, die vraag en aanbod in een bepaalde markt via algoritmen bij elkaar brengen. Het wettelijke kader biedt wat dat betreft vaak nog onvoldoende houvast omdat het de nieuwe rechtsverhoudingen niet gemakkelijk kan onderbrengen, waar platforms tot op heden hun voordeel mee kunnen doen.

Organisatiemodellen veranderen ook doordat bedrijven steeds vaker kiezen voor de inzet van robots, vaak in de vorm van automatiseringssoftware, om hun producten te verbeteren of het productieproces efficiënter in te richten. Met name dit laatste heeft invloed op de kwaliteit van werk. Door ontwikkelingen in zichtsystemen en sensoren kunnen robots meer menselijke taken overnemen, zoals auto’s tellen op een parkeerplaats of roestvlekken op een machine. Ook zijn er al voorbeelden waarbij spraaktechnologie taken overneemt, zoals een telefonisch menu bij servicecentra. Veel banen veranderen doordat taken (deels) worden uitgevoerd door robots. Dit vraagt om flexibiliteit van werkenden en wellicht het aanleren van nieuwe vaardigheden om aantrekkelijk te blijven op de arbeidsmarkt.

1.3 De samenleving wordt steeds verder «gedataficeerd»

De reden dat systemen steeds beter, sneller er preciezer worden (§ 1.1) en dat technologie steeds verder kan integreren in onze samenleving (§ 1.2) is dat steeds meer aspecten van onze samenleving gekwantificeerd worden, oftewel uitgedrukt in data. Deze groeiende hoeveelheid beschikbare data, inmiddels bekend als «big data», is de olie in de machine van de technologische ontwikkeling.

Sommige databronnen zijn zichtbaar, zoals de gegevens die we zelf invoeren op websites of de foto’s de we uploaden. In andere gevallen kiezen mensen ervoor om hun data af te staan in ruil voor optimalisatie van hun gebruikerservaring, bijvoorbeeld bij Google Maps. Van andere databronnen zijn we ons minder bewust, zoals documenten die we opslaan in clouddiensten of producten met sensoren die we aanschaffen en die continue in verbinding staan met het internet. Nog minder zichtbaar is het digitale beeld dat van ons geschetst wordt door de combinatie van verborgen volgsystemen die zich in apps, websites en de publieke ruimte bevinden. Camera’s, sensoren, smartphones, tablets, browsers en sociale netwerken, allemaal verzamelen ze data. Zowel overheden als bedrijven maken hier veelvuldig gebruik van.

Overheden verzamelen, koppelen en analyseren steeds vaker en steeds meer data. Dit biedt veel kansen. Zo worden allerlei overheidsdatabases met daarin identiteits-, woon- en belastinggegevens gedigitaliseerd, gekoppeld en geanalyseerd op fraude of criminele activiteiten. Naast de voordelen op het gebied van efficiëntie en veiligheid, roept het ook vragen op over bijvoorbeeld privacy en rechtmatigheid. Zo sprak de rechter (Rb Den Haag, 2020) zich in de bodemprocedure tegen de Nederlandse Staat uit over het Systeem Risico Indicatie (SyRI). De rechtbank heeft de doelen van de SyRI-wetgeving, namelijk het voorkomen en bestrijden van fraude in het belang van het economisch welzijn, afgezet tegen de inbreuk op het privéleven die de wetgeving maakt. Volgens de rechtbank voldeed de wetgeving niet aan de «eerlijke balans» die het Europees Verdrag voor de Rechten voor de Mens vereist om te kunnen spreken over een voldoende gerechtvaardigde inbreuk op het privéleven. De wetgeving bleek wat betreft de inzet van SyRI onvoldoende inzichtelijk en controleerbaar.

Ook de non-profit en de profitsector zien enorme nieuwe mogelijkheden dankzij grootschalige dataverwerking, waar de samenleving als geheel zijn vruchten van plukt.

Degenen die financieel het meest profiteren van toenemend datagebruik in de samenleving zijn de «big tech»-bedrijven, dat zijn met name Amerikaanse techreuzen als Facebook, Amazon, Apple, Google en hun Chinese evenknieën Tencent, Alibaba, Huawei en Baidu. Techbedrijven krijgen door de verzameling van persoonlijke data steeds meer macht. Dit soort bedrijven plaatsen zichzelf op onoverbrugbare afstand van nieuwkomers op de markt, geholpen door aanzienlijke netwerkeffecten (naarmate er meer gebruikers zijn, krijgt het platform meer waarde, zoals het geval is bij Facebook). De data die zij ophalen kunnen ze vervolgens inzetten voor het verbeteren van hun eigen producten of diensten. De gezichtsherkenningssoftware van bedrijven als Facebook en Google verbetert zo snel dankzij de vele foto’s die gebruikers elke dag uploaden. De opkomst van dit nieuwe type monopolisten levert nieuwe beleidsuitdagingen op, bijvoorbeeld rondom mededinging en privacy- en consumentenbescherming.

Bij veel mensen is ongemak aan het ontstaan over de groeiende macht van grote technologiebedrijven. Dat leidt tot maatschappelijk debat. Volgens Marleen Stikker draait zo ongeveer alles op het internet om het ontfutselen van data en het manipuleren van gedrag. Inmiddels kan «bijna al ons handelen aan onze persoon worden gekoppeld en nagenoeg al die data worden verhandeld» (Stikker, 2019, p.140). Zoals Evgeny Morozov het verwoordt: «wat eens speels werd omschreven als cyberspace – iets immaterieels, virtueels en vluchtigs – is uitgegroeid tot de meest kapitaalintensieve sector van de economie, verbonden door materiële datacentra, onderzeese datakabels en een sensorinfrastructuur die onze steden omspant» (Morozov, 2020). Maxim Februari spreekt in dit verband van Googlonia en Facebookistan. Niet alleen omdat zulke bedrijven een omzet hebben waarmee ze het nationaal inkomen van sommige landen evenaren, maar vooral omdat ze functies van natiestaten overnemen. Kennis, wetten en beleid worden privaat. «De techgiganten zijn gezamenlijk eigenaar van de infrastructuur, ze downloaden burgers, ze vervangen publiek geld door privaat geld, ze leggen onbekende, private normen op via de software die in huishoudens en de openbare ruimte draait» (Februari, 2019, p.251).

Data, algoritmen en technologie zijn niet neutraal

Veel experts en critici benadrukken dat zowel de productie van data als het schrijven van algoritmen geen waardevrije activiteiten zijn: wie dat doet, kiest impliciet of expliciet hoe menselijk gedrag wordt beschreven en in welke richting het bijgestuurd wordt. Data zijn geen natuurverschijnselen die simpelweg «verzameld» kunnen worden, ze worden geconstrueerd door mensen die beslissen wat wel en niet gemeten wordt. Daar komt bij dat data per definitie het verleden weerspiegelen. Ze geven weer wat tot nu toe de verhoudingen waren tussen de gemeten datapunten (bijvoorbeeld het aantal vrouwen ten opzichte van het aantal mannen in een bepaalde beroepsgroep). Algoritmen kunnen op basis van de ingevoerde data geen voorspellingen doen, maar hoogstens een statistische waarschijnlijkheid tonen die volgt uit trends uit het verleden.

In dataverzamelingen worden bepaalde groepen, zoals vrouwen, systematisch onderbelicht (zie het voorbeeld over mensen met ICT-functies in § 1.1). Vacatures, producten en diensten worden door algoritmen op basis van patronen uit het verleden aangeboden aan specifieke groepen. Hierdoor lopen andere groepen deze kansen mis en houdt het systeem de status quo in stand. Een ander voorbeeld hiervan is de inzet van voorspellende statistieken over criminaliteit door de politie (predictive policing). Dit blijkt bijvoorbeeld uit onderzoek naar de software die de Amerikaanse politie gebruikte om drugsmisdrijven te voorspellen op basis van databases van de politie van Oakland. De algoritmen «voorspelden» vooral drugsmisdrijven op plekken waar agenten in het verleden veel misdrijven hadden geregistreerd (Lum & Isaac, 2016). Deze vorm van «data mining» kan dan leiden tot overmatige politie-inzet in de ene wijk, en blinde vlekken in andere delen van de stad, waardoor de voorspelling zichzelf waarmaakt.

Kortom, besluitvorming door algoritmen kan raken aan de fundamenten van onze democratie en besluitvorming door algoritmen kan bestaande ongelijkheden in stand houden en discriminatie vergroten. Concreet gaat het bijvoorbeeld over het recht op gelijke behandeling zonder dat de statistiek mogelijk in jouw nadeel uitpakt, of het recht op een eerlijk proces, waarbij je precies weet op basis van welke data of algoritmen je verdacht of zelfs mede veroordeeld wordt.

1.4 Digitalisering is politiek

De hierboven geschetste ontwikkelingen nemen de komende jaren een vlucht, grijpen op elkaar in en veranderen de wereld om ons heen nog rigoureuzer. Systemen worden steeds beter, sneller en preciezer. Technologieën vormen steeds meer een samenhangend en geïntegreerd geheel en de samenleving wordt steeds verder vastgelegd in data. De digitale en technologische ontwikkelingen raken elke burger en organisatie.

Deze ontwikkelingen brengen grote politieke vragen met zich mee. Neem bijvoorbeeld het gebruik van gezichtsherkenningstechnologie door burgers en bedrijven. Deze technologie biedt kansen, omdat mensen sneller en met meer nauwkeurigheid zijn te identificeren. Maar zij brengt ook een breed scala aan nieuwe vraagstukken met zich mee, onder meer op het gebied van privacy. Burgers hebben namelijk geen controle over degene die data over hen verzameld of wat er gebeurd met hun foto’s en video’s. Welke garantie bestaat er dat de verzamelde gegevens uit handen blijven van derden, zoals bedrijven, overheden en inlichtingendiensten? Kunnen burgers zich straks nog identificeren zonder gezichtsherkenning? Kunnen mensen in de toekomst nog anoniem bewegen door de publieke of zelfs private ruimte? Burgers zullen moeilijker kunnen inschatten wat anderen of bedrijven over hen weten, wat potentieel leidt tot machtsverschuivingen in de onderlinge relaties (Keymolen et al., 2020).

Een ander eerdergenoemd voorbeeld is CRISPR-editing, ook wel kiembaanmodificatie genoemd. Bij kiembaanmodificatie wordt doelgericht gesleuteld aan een embryo. De aangebrachte wijzigingen in het DNA van het embryo zijn onomkeerbaar en zullen aan volgende generaties worden doorgegeven. Hoewel deze techniek kansen biedt op het gebied van gezondheid, roept het overduidelijk ook morele vragen op. Wat betekent het als ouders keuzes kunnen maken voor het genenpakket van hun kinderen die gevolgen hebben voor de daaropvolgende generaties? Welke invloed hebben mensverbeteringstechnieken op onze omgang met ziekte en tegenslag, onze diversiteit en solidariteit met anderen? Bij het gesprek over de CRISPR-editingtechnologie spelen medisch-ethische kaders een rol, maar ook internationale mensenrechten en ons beeld van het goede leven. Hoe wegen we dit af?⁵

Er zijn ook andere – minder zichtbare -niveaus waarop de politiek vragen zou moeten stellen en beantwoorden. Digitalisering kun je volgens de Waag vergelijken met een drijvende ijsberg (Waag, 2020). Technologie kent een zichtbare buitenkant voor gebruikers (topje van de ijsberg), maar onder water gaat de rest van de ijsberg schuil. Die ijsberg kent verschillende niveaus met elk verschillende digitaliseringsvraagstukken. Bijvoorbeeld, van welke infrastructuur en leveranciers is de technologie afhankelijk, waar worden de data opgeslagen en hoe kunnen toezichthouders dit alles controleren? Gaan alle betrokkenen erop vooruit, en wat is het verdienmodel? Of, in welk systeem, in welk onderliggend beleid, valt een specifieke technische oplossing of ontwikkeling? Draagt het daaraan bij, past het erin, of is het bij enig doordenken juist contraproductief? Technologie is uiteindelijk niet een gegeven, maar het product van talloze onderliggende beslissingen.

Digitalisering raakt dus alle facetten van ons leven, op steeds ingrijpender wijze. Technologische innovaties grijpen in op publieke waarden van ons individuele leven, onze samenleving en het democratisch ontwerp⁶. Ook sommige techbedrijven vragen inmiddels actief om regels die de digitale samenleving beter vormgeven. Bijvoorbeeld Brad Smith van Microsoft, die overheden oproept een actievere rol te nemen in het maken van regels voor technologiebedrijven en hun producten (Smith, 2019). Het is dan ook logisch als de politiek zich meer en meer bezighoudt met de consequenties van digitalisering. Sterker nog, het is nodig dat de politiek indringender bespreekt en bepaalt hoe zij deze digitale transitie in goede banen wil leiden. Welk soort samenleving heeft de politiek voor ogen? Vanuit die visie moeten sommige ontwikkelingen gestimuleerd worden en andere begrensd. Zo zorgen we ervoor dat niet de mens de technologie dient, maar de technologie de mens en de samenleving als geheel. Het is de taak van de Tweede Kamer om grip op dit samenspel te krijgen en zo het perspectief van de burgers te vertolken op onze digitale toekomst.

2 Zelfreflectie: rol Tweede Kamer bij digitalisering

Hoofdstuk 1 maakt duidelijk dat we midden in een digitale transitie zitten die zowel kansen en risico’s met zich meebrengt. Het is van groot belang dat vanuit de politiek sturing en kaders wordt gegeven. In dit hoofdstuk staan we stil bij hoe de Tweede Kamer tot nu toe is omgegaan met digitaliseringsvraagstukken, hoe andere landen dat doen en welke lessen hieruit getrokken kunnen worden.⁷

2.1 Aandacht in de Tweede Kamer

Opkomst van digitalisering als politiek vraagstuk

Het onderwerp digitalisering (en ICT) komt in het parlementaire debat op in de tweede helft van de jaren negentig. In het regeerakkoord van het tweede kabinet-Kok (1998–2002) is sprake van investeringen in de «digitale snelweg», te beginnen met het onderwijs. In deze periode komen deze thema’s ook voor het eerst voor in de verkiezingsprogramma’s van politieke partijen. ICT/ digitalisering wordt rond het jaar 2000 door Tweede Kamer, regering en politieke partijen geassocieerd met economische groei en de ontwikkeling van nieuwe sociale netwerken. Daarbij is aandacht voor de bescherming van privacy en digitale grondrechten en voor de noodzaak om in het onderwijs aandacht te besteden aan digitale vaardigheden. Vanaf 2004 stelt de regering periodiek een ICT-agenda op (vanaf 2011 «Digitale Agenda» genaamd). In de eerste agenda schrijft de regering dat ICT »nog veel beloftes heeft waar te maken» (Kamerstuk 26 643, nr. 47, p.1). De agenda, opgesteld door de bewindspersonen van Economische Zaken, Bestuurlijke Vernieuwing en Onderwijs, Cultuur en Wetenschap, legt de nadruk op kansen en mogelijkheden. Rond 2012 neemt de aandacht voor digitale veiligheid en cybercrime toe.

De Radboud Universiteit (Kaal & Hoetink, 2020) heeft voor de TCDT een frequentieanalyse van het parlementaire debat in de afgelopen 20 jaar uitgevoerd. Deze analyse laat een geleidelijke stijging zien van het gebruik van het begrip digitalisering (en daarmee samenhangende termen) in het plenaire debat.

De bijdragen die fracties leveren aan het debat over digitalisering is ongeveer even groot. Er is niet één fractie die er qua bijdrage aan het debat consistent bovenuit steekt. Vooral VVD, D66, GroenLinks, SP en PvdA hebben zich uitgesproken op het onderwerp. Maar het aantal Tweede Kamerleden dat zich met vraagstukken op dit gebied bezighoudt is beperkt en op een moment in de tijd vaak maar op een hand te tellen.

Verschillende betrokken bewindspersonen

Steeds meer verschillende bewindspersonen zijn betrokken bij het debat over digitaliseringsvraagstukken. Aanvankelijk, rond 2004, voeren met name bewindspersonen van Economische Zaken en Justitie hierover het woord; later volgen ook collega’s van het departement van Onderwijs. Rond 2012 wordt het beeld meer divers en treden ook de bewindspersonen op Binnenlandse Zaken nadrukkelijker naar voren, vanwege de snelle digitalisering van de overheid zelf en de bescherming van grondrechten.

In de loop der jaren raken meer ministeries betrokken bij de digitale agenda al blijft een economische benadering lang dominant. In de agenda die de coördinerende Minister van Economische Zaken in juli 2016 naar de Tweede Kamer stuurt, zet de regering uiteen «hoe Nederland optimaal kan profiteren van de kansen (nieuwe toepassingen, verdienmodellen en banen) die deze mondiale transitie biedt». (Kamerstuk 29 515, nr. 390) In 2017 treedt een verschuiving op en maken veel partijen in de verkiezingsprogramma’s een afweging van kansen (Nederland als «digitale mainport») en risico’s. Bovendien groeit de aandacht voor de ethische vraagstukken die met digitalisering verbonden zijn, bijvoorbeeld rondom robotisering.

In onderstaande figuur staat welke ministeries in de periode 1998–2017 betrokken zijn geweest bij het parlementaire debat over digitalisering.

In 2018 introduceert de regering een nieuwe aanpak van het digitaliseringsbeleid. Zij presenteert een nieuwe reeks digitale agenda’s, met naast de koepelagenda NL-DIGIbeter aparte agenda’s voor cybersecurity (Nederlandse Cybersecurity Agenda) en (big) data (NL Digitaal – Data Agenda Overheid). Bij deze agenda’s zijn verschillende ministers betrokken. De Minister van Binnenlandse Zaken en Koninkrijksrelaties is verantwoordelijk voor de digitale overheid, de Minister van Justitie en Veiligheid voor cybersecurity en de aanpak van cybercrime, de Minister voor Rechtsbescherming voor de burgerrechten in de digitale samenleving en de Staatssecretaris voor Economische Zaken en Klimaat voor de economische aspecten van digitalisering. Deze bewindspersonen stemmen onderling beleid en uitvoering af wanneer een vraagstuk meerdere terreinen raakt, bijvoorbeeld bij kunstmatige intelligentie of 5G. Zo spreken zij elkaar onder meer in een tweewekelijks overleg («de digitale driehoek»). Digitaliseringsthema’s komen ook aan bod in de Raad voor Veiligheid en Inlichtingen (RVI) (Stcrt. 2017, 74580). Dit is een onderraad van de ministerraad, die net als de ministerraad wordt voorgezeten door de Minister-President. Naast de premier nemen de ministers van Buitenlandse Zaken, Defensie, Justitie en Veiligheid, en Binnenlandse Zaken en Koninkrijksrelaties deel aan deze onderraad.

Op 11 maart 2020 heeft de vaste commissie voor Economische Zaken en Klimaat voor het eerst de drie bewindspersonen uitgenodigd voor een algemeen overleg over digitalisering. Naast de Staatssecretaris van Economische Zaken en Klimaat waren de ministers van Binnenlandse Zaken en Koninkrijksrelaties en Justitie en Veiligheid aanwezig.

Meer agenderend, nog weinig regulerend

Vanuit verschillende ministeries neemt de aandacht voor digitalisering dus toe, maar hoe gaat de Tweede Kamer met het thema om? De Tweede Kamer heeft verschillende rollen: ze is wetgever, controleur van de regering en kan kwesties van algemeen belang aankaarten en hierover het politiek-maatschappelijke debat aanjagen. In digitaliseringsvraagstukken blijkt de nadruk te liggen op dat laatste: op het agenderen. Dat loopt uiteen van schriftelijke of mondelinge vragen over een alarmerend nieuwsbericht, bijvoorbeeld over SyRI, Cambridge Analytica, Clearview of de overtreding van privacyregels door Facebook, tot initiatiefnota’s. De Tweede Kamer heeft de afgelopen jaren echter weinig gestuurd op regulering van digitalisering. Het lijkt erop dat de Tweede Kamer eerder het kabinet verzoekt om doelstellingen, actieplannen, onderzoeken en overzichten (Kaal & Hoetink, 2020). Waar zij wel een duidelijke beleidsrichting aanwijst of oproept tot regulering door middel van bijvoorbeeld moties of initiatiefnota’s gaat de implementatie daarvan tot heden langzaam.

Er zijn ook uitzonderingen waarbij de Tweede Kamer wel een meer regulerende rol heeft genomen. Dat blijkt uit het casusonderzoek dat het departement Bestuurs- en Organisatiewetenschap van de Universiteit Utrecht (USBO) heeft gedaan voor de TCDT. Daarin constateerde USBO dat de Tweede Kamer direct betrokken was bij het wetgevingstraject voor de Wet ANPR door moties en amendementen in te dienen (Meijer et al., 2020). Ook een belangrijke uitzondering vormen de voorstellen die voortvloeien uit recente initiatiefnota’s (zie kader).

– Verhoeven (2016) – Het internet der dingen. Maak apparaten veilig (Kamerstuk 34 613, nr. 2) – Oosenburg en Nijboer (2016) – Financiële sector en big data (Kamerstuk 34 616, nr. 2) – Middendorp en Verhoeven (2018) – Online identiteit en regie op persoonsgegevens (Kamerstuk 34 993, nr. 2) – Koopmans (2018) – Onderlinge privacy (Kamerstuk 34 926, nr. 2) – Middendorp (2019) – Menselijke grip op algoritmen (Kamerstuk 35 212, nr. 2) – Verhoeven (2019) – Mededinging in de digitale economie. Data, techgiganten en vrije mededinging in een vrije economie (Kamerstuk 35 134, nr. 2) – Verhoeven (2019) – Wet Zerodays Afwegingsproces (Kamerstuk 35 257, nr. 2) – Gijs van Dijk (2019) – De herovering van de platformeconomie (Kamerstuk 35 230, nr. 2)

In deze nota’s wordt bijzondere aandacht gevraagd voor de gevolgen van digitale ontwikkelingen voor publieke waarden als veiligheid, privacy en controle van de mens over technologie. Vrijwel alle initiatiefnota’s roepen regering en Tweede Kamer op om meer oog te hebben voor risico’s, maar tegelijkertijd kansen niet onbenut te laten (Kaal & Hoetink, 2020). De initiatiefnota Online identiteit en regie op persoonsgegevens (Kamerstuk 34 993, nr. 2) heeft geleid tot een amendement op de Wet digitale overheid. Dat amendement (Kamerstuk 34 972, nr. 20) zorgt ervoor dat de voorstellen over overheidsinnovatie ook materialiseren in wetgeving.

Europa: agenderend en regulerend

Veel digitaliseringskwesties overstijgen de lidstaten, bijvoorbeeld omdat er grote mondiale spelers bij betrokken zijn. De Europese Unie speelt een steeds grotere agenderende en regulerende rol op het terrein van digitalisering. Zo heeft de Europese Commissie in 2010 de eerste Europese digitale agenda gepresenteerd. De Europese Commissie speelt een grote rol in het beschermen van de online veiligheid (cybersecurity), privacy (met de Algemene Verordening Gegevensbescherming) en de interne markt. Zo heeft zij forse boetes opgelegd aan grote techbedrijven omdat ze oneerlijk concurreerden met rivalen, hun machtspositie misbruikten of te weinig belastingen betaalden. Sinds 1 december 2019 heeft de Europese Commissie een Eurocommissaris die naast mededinging nu ook digitalisering in portefeuille heeft om «Europa klaar te maken voor het digitale tijdperk». Deze Eurocommissaris, Margrethe Vestager, houdt zich bezig met vraagstukken zoals de digitalisering van de Europese interne markt, kunstmatige intelligentie, big data en cybersecurity. Op maandag 3 februari 2020 was zij, op uitnodiging van de TCDT, te gast in de Tweede Kamer. Zij bevestigde de grote impact van digitalisering, maar stelde ook dat zelfs de grootste experts niet precies weten hoe technologie onze levens zal veranderen. Op 19 februari 2020 heeft de Europese Commissie haar digitale strategie voor de komende vijf jaar aangekondigd. Deze digitale strategie bestaat uit voorstellen die ervoor moeten zorgen dat Europa wereldwijd leidend is in de digitale transformatie met respect voor de Europese waarden, een Europese datastrategie (EC, 2020a) en een witboek over kunstmatige intelligentie (EC, 2020b) om de menselijke en ethische implicaties van kunstmatige intelligentie op gecoördineerde wijze aan te pakken.

De Tweede Kamer moet zich goed positioneren ten opzichte van Europese en mondiale ontwikkelingen. Dat werd ook duidelijk uit het werkbezoek dat de TCDT bracht aan Brussel. Via het kabinet probeert de Tweede Kamer invloed uit te oefenen op Europese voorstellen, maar zij heeft nog onvoldoende zicht en grip op de Europese agenda voor digitalisering en hoe die tot stand komt. Illustratief is de motie van het lid Middendorp (Kamerstuk 35 300-VII, nr. 43). Hierin wordt de regering verzocht om, voordat de Europese Commissie de «Digital Services Act» publiceert, de positie van het Kabinet hierover naar de Kamer te sturen en daarbij ook de positie van de andere EU-lidstaten met de Kamer te delen. Immers als de Kamer een meer regulerende rol wil spelen op digitalisering, dan zal zij een beter beeld moeten hebben van de beleidsvorming in Brussel.

Debat is gefragmenteerd over commissies

Naast opmerkingen over de frequentie waarmee digitaliseringsvraagstukken aan bod komen of het aantal Kamerleden dat zich hierover uitspreekt, vallen ook nog andere zaken op met betrekking tot het debat. Het debat over digitaliseringsvraagstukken vindt verspreid over verschillende commissies plaats. Het is toe te juichen dat digitalisering in steeds meer commissies aan de orde komt. Digitalisering speelt immers inmiddels op alle beleidsterreinen een rol van betekenis. In commissievergaderingen ligt doorgaans echter vooral de nadruk op specifieke kansen, risico’s of waarden, en raken andere kansen, risico’s of waarden onderbelicht. Zo kijkt de commissie SZW bij de platformeconomie vooral naar de gevolgen voor de sociale zekerheid en de positie van ZZP-ers, terwijl er minder aandacht is voor de algoritmen die leidend zijn in de relatie tussen vraag en aanbod van goederen en diensten.

De context van een onderwerp blijkt vaak bepalend voor de kansen, risico’s en waarden die aan de orde worden gesteld. Een voorbeeld hiervan is de casus 5G, waarin onder druk van toenemende geopolitieke spanningen de discussie verschuift van het belang van de economie naar dat van veiligheid. Bij de casus ANPR richtte het debat tussen de Kamerfracties zich specifiek op de bewaartermijnen van kentekenregistraties. Vragen over de reikwijdte van het gebruik en zelfs de fundamentele vraag over de wenselijkheid van de technologie bleven buiten beeld. (Meijer et al., 2020)

Ook betrokkenheid van een bepaald ministerie of een bepaalde vaste commissie blijkt een rol te spelen bij de kansen, risico’s en waarden die in beeld zijn. Bijvoorbeeld, bij 5G wordt het debat voornamelijk gevoerd door de woordvoerders op het terrein van Economische Zaken. De woordvoerders Volksgezondheid, Welzijn en Sport waren veel minder betrokken, terwijl gezondheid ook een relevante waarde is bij dit onderwerp. (Meijer et al., 2020) Het wekt ook geen verbazing dat in de commissie voor Economische Zaken wordt gesproken over de kansen die digitalisering biedt voor economische groei, terwijl bij de commissie voor Justitie logischerwijs meer aandacht is voor rechtsbescherming en veiligheid. Illustratief is de opmerking van de Minister van Binnenlandse Zaken en Koninkrijksrelaties tijdens het algemeen overleg over digitalisering in maart 2020, waarbij ook de Staatssecretaris van Economische Zaken en Klimaat en de Minister van Justitie en Veiligheid aanwezig waren: «In de verhouding die wij onderling hebben, voelt het ook wel een beetje zo: EZK draait om het benutten van de kansen, en BZK draait om het benoemen van de risico's. Dat is nou eenmaal de rol waarin wij zitten. Ik speel die rol graag, omdat hierbij juist die checks-and-balances van belang zijn» (Kamerstuk 26 643, nr. 679, p.42)

Het risico bestaat dus dat de commissie waarin een digitaliseringsvraagstuk landt, bepaalt welke kansen, risico’s en maatschappelijke waarden worden besproken. Dit leidt tot een te nauwe focus, waardoor andere relevante kansen, risico’s en waarden niet of laat worden onderkend.

Commissieoverstijgende thema’s zijn onderbelicht

Daarbij komt dat thema’s die boven de afzonderlijke commissies uitstijgen of in meerdere commissies tegelijkertijd spelen, gesignaleerd moeten worden, en in samenhang moeten worden besproken. Denk aan de impact van het gebruik van gezichtsherkenningstechnieken door winkeliers, in de publieke ruimte en door de politie of aan de opkomst van de platformeconomie die niet alleen arbeidsrelaties maar ook hele economische sectoren verandert. Dit soort thema’s worden nog onvoldoende in samenhang besproken. Dit heeft te maken met de wijze waarop de Kamer georganiseerd is, namelijk in commissies die elk hun eigen beleidsterrein bestrijken. Onderwerpen die passen in die structuur krijgen een plek, terwijl onderwerpen die meerdere commissies raken of commissieoverstijgend zijn het risico lopen eenzijdig besproken te worden of tussen wal en schip te vallen.

Illustratief zijn de drie brieven van het kabinet over het bredere vraagstuk van kunstmatige intelligentie die op 8 oktober 2019 naar de Tweede Kamer zijn gestuurd. De eerste brief (Kamerstuk 26 643, nr. 640) was van de Staatssecretaris voor Economische Zaken en Klimaat, met daarin het strategisch actieplan artificiële intelligentie. De tweede brief (Kamerstuk 26 643, nr. 642) was van de Minister van Binnenlandse Zaken en Koninkrijksrelaties en ging over artificiële intelligentie, publieke waarden en mensenrechten. De derde brief (Kamerstuk 26 643, nr. 641) was van de Minister voor Rechtsbescherming, over waarborgen tegen risico’s van data-analyses door de overheid. De drie brieven, binnen het kabinet afgestemd, focussen op verschillende onderdelen van het brede vraagstuk van artificiële intelligentie. Deze brieven worden los van elkaar geagendeerd bij de afzonderlijke commissies met steeds andere woordvoerders. Dit vraagt dus grote oplettendheid van de leden en de ambtelijke ondersteuning om de samenhang van die brieven op te merken. Vooral ook omdat vervolgstappen per ministerie verschillen. Het gebruik van artificiële intelligentie door bedrijven wordt vooral Europees aangepakt, terwijl het gebruik van artificiële intelligentie door overheden vooral een nationale aangelegenheid is.

Digitalisering is wat dat betreft als onderwerp te vergelijken met financiën of Europees beleid: het is een specialistisch onderwerp en het speelt in iedere commissie een belangrijke rol, maar het kent ook thema’s die boven de afzonderlijke commissies uitstijgen vanwege bredere en dieperliggende vraagstukken die ergens in samenhang besproken moeten worden. Juist in de onzichtbare lagen van de ijsberg (zie § 1.4) gaan belangrijke vraagstukken schuil die gesignaleerd en besproken moeten worden in de Tweede Kamer en dat wordt nog onvoldoende gedaan. De vraag is hoe we dit voor digitalisering het beste kunnen organiseren.

2.2 Kennis en informatiepositie van Tweede Kamerleden

Weinig regie op kennisversterking

De complexiteit van de technologie en de hoge ontwikkelsnelheid in het digitale domein dragen bij aan het gevoel van de Tweede Kamer dat zij geen grip heeft. Kamerleden geven in debatten aan de materie ingewikkeld te vinden, «vreselijk technisch», en typeren thema’s als algoritmen als «uitermate lastig [...] om daar nou eens even helder over te communiceren» (Kaal & Hoetink, 2020). Het is daarom belangrijk om als Tweede Kamer je kennispositie op dit terrein te versterken. Daarbij gaat het niet alleen over kennis over de technologie, maar ook over de impact van deze technologie op de samenleving. De Tweede Kamer voert echter nog maar beperkt regie over de informatie die zij uit de verschillende informatiebronnen krijgt. Zij lijkt haar handen vaak al meer dan vol te hebben aan de verwerking van aangeboden en beschikbare informatie.

Een belangrijke informatiebron van de Tweede Kamer is het kabinet. Via brieven en mondelinge toelichting in algemene overleggen rapporteren de verschillende bewindspersonen aan de Tweede Kamer. De afgelopen jaren kreeg de Kamer steeds meer en vaker agenda’s en monitors aangeboden vanuit meerdere ministeries, adviesraden en kennisinstituten. Toch wordt het gevoel van grip daardoor niet groter. Sterker nog, de integrale belangenafweging wordt soms juist moeilijker door de omvang van de informatiestroom die op de Tweede Kamer afkomt en de soms technische materie. Tegelijkertijd mist de Kamer, zoals eerdergenoemd, informatie over de Europese agenda voor digitalisering en hoe die tot stand komt. De spanning tussen te veel en te weinig informatie doet zich met name voor in technologisch complexe of veelomvattende dossiers, zoals open data en eHealth. Hierbij ligt de nadruk op specifieke vragen over de technologie zelf en de manier waarop die wordt toegepast, maar blijven bovenliggende maatschappelijke vragen onderbelicht.

Een andere informatiebron voor de Tweede Kamer zijn maatschappelijke groepen, het bedrijfsleven en wetenschapsinstellingen. Bij digitaliseringskwesties die overduidelijk op een specifiek beleidsterrein spelen, is het voor deze partijen eenvoudig te bepalen welke woordvoerders en commissie ze kunnen benaderen. Bij beleidsterrein- of commissieoverstijgende onderwerpen merken wij dat deze partijen een duidelijk aanspreekpunt missen binnen de Tweede Kamer. Hierdoor blijft de mogelijkheid om relevante kennis van buiten naar binnen te halen soms onbenut, juist voor de overstijgende vraagstukken.

Wat te midden van de overvloed aan informatie opvalt, is dat de Tweede Kamer beperkt gebruikmaakt van haar eigen geheugen voor eerder gemaakte afwegingen en gevoerde debatten bij vergelijkbare vraagstukken (Kaal & Hoetink, 2020). De verspreide behandeling van digitalisering in de Tweede Kamer bemoeilijkt ook een gedegen kennisopbouw.

Digitalisering nauwelijks op de kennisagenda

Dat de Tweede Kamer weinig regie voert op kennisversterking, speelt overigens niet alleen bij thema’s rondom digitalisering. In 2016 kwam de Tweede Kamer naar aanleiding van het rapport «Kennis is Macht»⁸ al tot de conclusie dat zij haar kennis- en informatiepositie moet versterken en in brede zin regie moet nemen op haar informatiebehoefte. In 2017 is daarom een nieuwe werkwijze ingevoerd, onder meer door de staf rondom elke commissie uit te breiden met een kenniscoördinator en een informatiespecialist.

Een ander middel om de kennis- en informatiepositie van de commissies te versterken is de invoering van de kennisagenda per commissie. Daarin legt een commissie een aantal specifieke thema’s vast waarop zij zich inhoudelijk wil verdiepen en zij noteert hoe zij dat gaat doen. De doelstelling van deze agenda is om te komen tot een stevige gemeenschappelijke kennisbasis. Alle vaste commissies hebben hiervoor een eigen onderzoeksbudget. Commissies beschikken over verschillende instrumenten om de kennis- en informatiepositie te versterken. Naast analyse en advies door de eigen commissiestaf, kan zij bijvoorbeeld de wetenschap bevragen, onderzoek laten uitvoeren door onderzoeksbureaus of universiteiten, werkbezoeken afleggen, rondetafelgesprekken organiseren en zelf (parlementair) onderzoek doen.

Vraagstukken met een digitaliseringscomponent zijn de afgelopen jaren nog beperkt opgevoerd op de kennisagenda’s van de afzonderlijke commissies. Uitzondering zijn de commissies Binnenlandse Zaken en Koninkrijksrelaties, Economische Zaken en Klimaat, en Justitie en Veiligheid; bij die commissies staat het onderwerp wel expliciet op de kennisagenda. Logischerwijs is de invulling van die onderwerpen sterk gekleurd door het betreffende beleidsterrein. Zo focust de commissie Justitie en Veiligheid op cybersecurity en de commissie Binnenlandse Zaken op de digitale overheid. De commissie Economische Zaken en Klimaat concentreert zich weliswaar op de (economische) kansen, maar heeft ook oog voor risico’s en de verhouding tot publieke waarden. Overigens betekent het niet dat een commissie geen aandacht heeft voor digitalisering als het niet op de kennisagenda staat. Het belang, de impact en vooral de complexiteit ervan maken echter dat digitalisering een onderwerp is dat je bij uitstek zou verwachten op de verschillende kennisagenda’s. We zien wel dat afzonderlijke commissies in 2020 digitalisering vaker op de kennisagenda plaatsen. Zo heeft bijvoorbeeld de commissie Landbouw, Natuur en Visserij big data op de kennisagenda geplaatst en de commissie Sociale Zaken en Werkgelegenheid de veranderende arbeidsmarkt door de platformeconomie en robotisering.

2.3 Interactie met decentrale overheden en toezichthouders

Decentrale overheden: zoeken naar betere samenwerking

Gemeenten en provincies proberen net als de Tweede Kamer grip te krijgen op de gevolgen van digitalisering. Ook zij realiseren zich dat digitalisering en nieuwe technologieën de samenleving en het openbaar bestuur ingrijpend veranderen. Inwoners komen er dagelijks mee in aanraking. De een gaat daar sneller en gemakkelijker mee om dan de ander. Dat zie je ook terug in de gemeenteraden en de Staten.

Veel gemeenten werken met algoritmen en proberen in de uitvoering «smart» te worden. Dit vraagt om heldere kaders. Hiervoor is een breed maatschappelijk debat nodig dat verder gaat dan technologie alleen. Uit de rondetafelgesprekken die de TCDT heeft gevoerd blijkt dat dit debat binnen gemeenten en provincies langzaam op gang komt. Vooral de colleges zijn daarbij leidend in het nemen van initiatieven. In verschillende gemeenten is een coördinerende wethouder voor digitalisering aangesteld. Uit de nog beperkte discussies in gemeenteraden komen vragen voort aan het college, maar ook aan de nationale en Europese politiek.

De VNG wijst in haar position paper (Kamerstuk, 2020D08008) voor het rondetafelgesprek er op dat gemeenten rekening hebben te houden met allerlei wetten op het gebied van digitalisering, specifieker rond data(deling). De uitdaging daarbij is vaak de verhouding tussen deze wetten en de publieke waarden die ze vertegenwoordigen, zoals privacy, veiligheid, openbaarheid, duurzame toegankelijkheid. Hoe meer versnipperd het juridisch raamwerk, hoe moeilijker dat is. Hoewel er begrip is bij gemeenten voor de oorsprong van de versnippering (ontstaan vanuit de verschillende sectorale wetten onder diverse bewindslieden en diverse commissies) dringen zij aan op meer samenhang in de bestaande wetgeving.

Gemeenten en provincies verwachten van de Tweede Kamer dat zij haar verantwoordelijkheid neemt door de gevolgen van digitalisering te onderkennen en zich, gezien de dynamiek en snelle ontwikkeling, aan te passen aan de vraagstukken die op haar afkomen. Er moet extra aandacht komen voor digitalisering, omdat het in alle domeinen doorwerkt en de effecten niet altijd direct te voorzien zijn. Daarnaast zijn er digitaliseringsvraagstukken waarin het juist van belang is dat het Rijk doelen op hoofdlijnen stelt en de andere overheden of de maatschappij de ruimte geeft hoe die doelen te bereiken. Een aanpak is nodig waarbij overheden samen goed nadenken op welk niveau regelgeving en richtlijnen moeten worden vastgesteld. Daarbij komt de vraag wie over die kaders verantwoording moet afleggen, aan wie en, niet onbelangrijk, op welke wijze het toezicht is georganiseerd.

Toezichthouders: intensiever samenwerken

De impact van digitalisering op de samenleving en het openbaar bestuur heeft ook directe gevolgen voor de vele instanties die toezien op de naleving van wet- en regelgeving in hun respectievelijke domeinen. Het is essentieel dat toezichthouders het mandaat en de middelen hebben om het toezicht op een juiste manier te kunnen vervullen in alle fases van de digitalisering. Door de ingrijpende rol van digitalisering op de samenleving kunnen nieuwe vormen van toezicht (zoals intensievere samenwerking tussen toezichthouders of wellicht zelfs het instellen van een nieuwe toezichthouder) noodzakelijk zijn, bijvoorbeeld bij het gebruik van algoritmen. Hierbij is het zelfs nog de vraag op welk niveau (nationaal of Europees) het toezicht georganiseerd moet worden.

Uit gesprekken die de TCDT gevoerd heeft met toezichthouders komt naar voren dat zij zich bewust zijn van de gevolgen van digitalisering. Zij zeggen hun toezichtsactiviteiten daar ook al op aan te passen. Het is belangrijk om in de komende jaren te bezien of de bevoegdheden zo gebruikt worden dat er geen aandachtsgebieden (zoals discriminatie in algoritmen) tussen wal en schip vallen. Met de initiatiefnota «Menselijke grip op algoritmen» (Kamerstuk 35 212, nr. 2) heeft de Tweede Kamer het kabinet al opgeroepen om op het gebied van algoritmen eventuele lacunes in het huidige toezichtskader op bedrijven, overheden en andere algoritmen gebruikende instellingen te inventariseren. In reactie op deze nota stelt het kabinet dat er geen aparte toezichthouder nodig is (Kamerstuk 35 212, nr. 3).

De toezichthouders ervaren het wettelijk kader waarbinnen zij moeten opereren over het algemeen als voldoende voor het toezicht op de gevolgen van digitalisering. Dit komt doordat wet- en regelgeving vaak technologieonafhankelijk geformuleerd is. Het betekent echter wel dat toezichthouders deze regels in de praktijk soms moeten concretiseren om ze te kunnen toepassen. De vraag is of dat altijd gewenst is. Wellicht zou de wetgever bij sommige bepalingen concreter moeten worden. Toezichthouders maken zich wel zorgen over de beschikbaarheid van personeel dat verstand heeft van nieuwe technologieën en dat de naleving van bestaande wet- en regelgeving in een nieuwe context kan beoordelen.

Voor de Tweede Kamer, als (mede)wetgever, is het niet alleen belangrijk dat zij signalen ontvangt van de toezichthouders als wetten niet meer passend of onduidelijk zijn, maar ook dat zij geïnformeerd wordt over belangrijke ontwikkelingen die toezichthouders signaleren. In die context is het waardevol als toezichthouders jaarlijks, idealiter gezamenlijk, expliciet verslag doen van hun werkzaamheden in een door digitalisering veranderende wereld. Onduidelijkheden in wet- en regelgeving of andere zaken zoals hiaten of overlap in toezicht die door digitalisering aan de oppervlakte komen, kunnen daarin worden gemeld evenals trends die toezichthouders signaleren.

2.4 Andere parlementen: meer erkenning voor digitalisering

Om het wiel niet twee keer uit te vinden kijkt de TCDT ook over de landsgrenzen. Hoe krijgen andere nationale parlementen grip op digitalisering en wat kan de Tweede Kamer daarvan leren? Op verzoek van de TCDT heeft het Rathenau Instituut onderzocht hoe een aantal andere nationale parlementen zich organiseert om meer grip te hebben op de gewenste en ongewenste ontwikkelingen rondom digitalisering (Jong et al., 2020).

De landen die het Rathenau Instituut heeft onderzocht erkennen het politieke belang van de digitale transitie explicieter dan Nederland. In deze landen wordt op verschillende manieren structureel aandacht gegeven aan het onderwerp. Zo kent Duitsland een specifieke bewindspersoon met digitalisering in haar portefeuille (maar zonder een eigen ministerie), heeft het Verenigd Koninkrijk een Ministerie van Digitalisering, Cultuur, Media en Sport en kent de Verenigde Staten de White House Office of Science and Technology (OSTP) dat veel aandacht besteedt aan digitalisering.

Er zijn verschillende manieren waarop andere parlementen meer grip proberen te krijgen op digitalisering. Deze werkvormen zijn onder te verdelen op drie niveaus:

1. Niveau van de parlementaire commissies:

a) werkvormen die de grip van bestaande commissies op digitalisering proberen te versterken, of

b) het oprichten van nieuwe (tijdelijke of vaste) commissies op het gebied van digitalisering.

2. Niveau van de individuele parlementariërs: werkvormen die als functie hebben om de individuele (kennis)positie van parlementariërs te versterken.

3. Niveau van de ambtelijke ondersteuning: werkvormen die het politieke proces rondom digitaliseringsvraagstukken ondersteunen vanuit de ambtelijke staf.

Niveau van de parlementaire commissies

1a. Bestaande commissies versterken

Op commissieniveau zien we verschillende manieren die parlementen inzetten om het commissiewerk beter te laten inspelen op digitaliseringsvraagstukken. De eerste variant is het versterken van de bestaande vaste commissies op het gebied van digitalisering. Hierbij kan gedacht worden aan het:

– verruimen van de mogelijkheden voor vaste commissies om eigen onderzoek uit te (laten) voeren;

– oprichten van een subcommissie voor een specifiek thema;

– toevoegen van een speciale onderzoekstaak aan één vaste commissie.

In het Verenigd Koninkrijk is de mogelijkheid voor commissies om zelf onderzoeken uit te laten voeren een belangrijke methode om grip te krijgen op digitalisering. Het meest gebruikelijk is een inquiry. Dit past binnen de sterke onderzoekstraditie in beide Kamers van het Britse parlement en draagt er duidelijk aan bij dat commissies grip krijgen op digitalisering. Het valt hierbij op dat onderzoeksverzoeken van verschillende commissies qua onderwerp dicht tegen elkaar aan liggen. Hoewel er soms enige wrijving is tussen commissies, wordt het nuttig gevonden om vanuit verschillende domeinen en toepassingsgebieden naar digitaliseringskwesties te kijken. In het Amerikaanse Congres vormen hoorzittingen een belangrijk instrument, maar die zijn lang niet zo veelomvattend als de onderzoeken in het Britse Hoger- en Lagerhuis.

Een andere vorm waarop de bestaande vaste commissies versterkt kunnen worden is door een subcommissie in het leven te roepen, gericht op het verankeren van digitaliseringsthema’s. Subcommissies zijn een manier om meer tijd en aandacht te besteden aan een onderwerp en/of wetgeving. Ook laten ze zien dat het parlement een onderwerp extra belangrijk vindt. Een voorbeeld hiervan is het Verenigd Koninkrijk, waar de commissie voor Digital, Culture, Media and Sports (DCMS) ervoor heeft gekozen om een subcommissie voor desinformatie op te richten. Met de oprichting van de subcommissie toont de DCMS aan het onderwerp serieus te nemen. Het oprichten van subcommissies binnen vaste commissies komt ook veel voor in het Amerikaanse Congres.

Een derde vorm waarop vaste commissies hun kennisbasis op het gebied van digitalisering kunnen vergroten is het toevoegen van een speciale onderzoekstaak aan één vaste commissie. In Duitsland fungeert de Commissie Onderwijs, Wetenschap en Technology Assessment sinds 1989 als een poortwachter voor alle onderzoeksaanvragen op het terrein van wetenschap en technologie. Alle vaste commissies, en ook de fracties, kunnen voorstellen indienen. Een selectie daarvan – zo’n zes per jaar – wordt vervolgens opgepakt door het Büro für Technikfolgen–Abschätzung beim Deutschen Bundestag (TAB), een zusterorganisatie van het Rathenau Instituut. De onderzoeksprojecten worden begeleid door een vaste groep rapporteurs afkomstig uit alle fracties. De komende twee jaar gaat 80% van de TAB-rapporten over digitaliseringsvraagstukken. Het voordeel van de Duitse werkvorm is dat de rapporteurs en TAB zich ook bezighouden met de coördinatie van het onderzoek naar digitalisering (en andere technologiegebieden) en het toezicht op de kwaliteit.

1b. Oprichten nieuwe (tijdelijke of vaste) commissie

De tweede variant om op het niveau van de parlementaire commissies de grip op digitalisering te versterken, is het oprichten van nieuwe (tijdelijke of vaste) commissies specifiek voor dit onderwerp. In het buitenland zijn voorbeelden van een:

– vaste commissie «Digitalisering» of «Wetenschap & Technologie»;

– tijdelijke commissie met een onderzoekstaak;

– coördinerende commissie met een adviserende taak.

In Duitsland is in 2013, op aanbeveling van de tijdelijke studiecommissie voor Internet en Digitale Samenleving, besloten om een vaste Commissie voor de Digitale Agenda op te richten in de Bondsdag. Naar eigen zeggen vervult de Commissie voor de Digitale Agenda de rol van katalysator in het parlementaire werk over digitale beleidskwesties door andere commissies te adviseren over nationale, Europese en internationale beleidsstukken, moties, wetten en rapporten omtrent digitalisering. Die commissie houdt openbare hoorzittingen, consultaties en besloten bijeenkomsten, zoals over eHealth, open data, kwantumcomputing en startups. Zij nodigt experts uit vanuit de industrie, wetenschap en maatschappelijke organisaties en gaat regelmatig op werkbezoek in binnen en buiten Duitsland.

De Commissie voor de Digitale Agenda blijkt haar rol in de praktijk niet helemaal waar te kunnen maken. Dit komt onder andere doordat ze dankzij haar brede beleidsterrein niet verbonden is aan één ministerie, maar aan vier (van de in totaal veertien). In het sterke commissiesysteem van de Bondsdag leidt dat tot problemen. De vaste commissies die wel zijn gespiegeld aan één ministerie hebben meer status en hebben daardoor ook vaker het voortouw (federführend) bij de behandeling van belangrijke regeringsstukken zoals voorgenomen wet- en regelgeving. Naast directe gevolgen heeft het instellen van een vaste commissie voor Digitale Zaken ook indirecte gevolgen. Zo gebruiken de leden van de Commissie van de Digitale Agenda in Duitsland hun lidmaatschap van de commissie om zichzelf beter te informeren over allerlei digitale onderwerpen. Vervolgens brengen zij die kennis in bij hun fracties en ondersteunen ze hun collega’s op het onderwerp door hen te vervangen bij politieke debatten over digitalisering, of door instructies te schrijven.

Het Britse Hogerhuis en de Duitse Bondsdag kennen, net als in Nederland, de vorm van een tijdelijke onderzoekscommissie. Deze commissies zijn niet betrokken bij de dagelijkse gang van zaken in het parlement; ze hebben een duidelijk afgebakende taak voor een bepaalde tijd. In de Tweede Kamer zijn de meeste parlementaire onderzoeken gericht op het controleren van de regering, met name op dossiers waar veel fout is gegaan (ICT-projecten bij de overheid, huizenprijzen, Fyra). Voor dit soort onderzoekscommissies geldt dat hun kracht valt of staat met het vervolg dat gegeven wordt aan de uitkomsten. De opgedane kennis vloeit weg als de leden en de staf zich na de afronding van het onderzoek weer op andere dossiers richten.

De derde werkvorm die het Rathenau Instituut in andere parlementen heeft bestudeerd is een commissie voor de coördinatie van doelen, en niet specifiek van digitalisering. Een voorbeeld hiervan is de Deense werkgroep van parlementariërs op het gebied van de Sustainable Development Goals (SDG’s). Deze werkgroep valt onder de Commissie Financiën en ondersteunt enerzijds het werk van de commissies Financiën en Buitenlandse zaken bij het controleren van de regering. Anderzijds ondersteunt zij andere parlementaire commissies door ze te informeren, te adviseren en te helpen bij het bepalen van de agenda. Deze werkvorm lijkt op de vaste commissie voor Europese Zaken in de Tweede Kamer, die andere vaste commissies wijst op Europese ontwikkelingen en ze hier gevraagd en ongevraagd over adviseert.

2. Niveau van de individuele parlementariërs

Een andere manier waarop nationale parlementen grip proberen te krijgen op digitalisering is door de kennis van individuele parlementariërs over dit onderwerp te versterken. We zien in andere parlementen verschillende initiatieven die gericht zijn op het vergroten van de expertise van een aantal individuele parlementariërs of de kennis van het parlement als geheel.

Een beproefde methode om in korte tijd veel kennis op te doen over een onderwerp, zo hebben wij als leden van de TCDT zelf ook ervaren, is deelnemen aan een onderzoekscommissie of aan (internationale) werkbezoeken. Dit is een methode die goed past in de eerdergenoemde Britse onderzoekstraditie en daar veel gebruikt wordt. Inquiries vormen voor leden een manier om zich te verdiepen in een bepaald vraagstuk. Ook de Duitse variant, de studiecommissies waarin evenveel parlementariërs als externe experts deelnemen, is een typisch voorbeeld van totale onderdompeling. In de praktijk blijkt het niet altijd te lukken om de kennis uit een onderzoekscommissie op andere parlementsleden over te dragen.

Naast werkvormen die zich richten op onderdompeling zijn er ook diverse voorbeelden van groepen parlementariërs die in verschillende samenstellingen proberen tot beeld- en meningsvorming te komen. Zo zijn er de Amerikaanse caucuses en de Britse all-party parliamentary groups (APPG’s), waar parlementariërs samenkomen en vaak personen van buiten het parlement betrokken worden. Noorwegen kent een meer formele variant op de caucuses en APPG’s in de vorm van hun Teknogruppe. Deze groep kent een bestuur van zes parlementariërs van vijf verschillende partijen en streeft naar vruchtbare discussies in het parlement over de gevolgen van opkomende technologieën. De leden organiseren hiervoor vijf keer per jaar een laagdrempelige bijeenkomst voor al hun (geïnteresseerde) collega-parlementariërs. Onderwerpen die in die bijeenkomsten worden behandeld zijn bijvoorbeeld 5G, zelfrijdende auto’s en blockchain.

Er is nog een derde vorm waarin parlementen via individuele parlementariërs meer grip proberen te krijgen op digitalisering. In verschillende parlementen doen een aantal voortrekkers actief kennis op en verspreiden die onder hun collega’s. Zo ontstaan daar duidelijke woordvoerders voor digitalisering. In de Bondsdag vindt informatie-uitwisseling over digitalisering grotendeels plaats op fractieniveau. De woordvoerders voor digitalisering en hun staf schrijven bijvoorbeeld instructies voor collega’s of vervangen hen tijdens debatten als het specifiek over digitalisering gaat. Ook in de Tweede Kamer zouden voortrekkers (woordvoerders) een verbinding kunnen vormen met andere parlementariërs door als vraagbaak te functioneren, of door anderen te inspireren en informeren.

Niveau van de ambtelijke ondersteuning

Tot slot wordt in andere parlementen het politieke proces rondom digitaliseringsvraagstukken op verschillende manieren ondersteund vanuit de ambtelijke staf. De ambtelijke ondersteuning is in parlementen zoals de Bondsdag, het Britse parlement en het Amerikaanse Congres veel uitgebreider dan in de Tweede Kamer. De ondersteuning is onder te verdelen in:

– inhoudelijke ambtelijke ondersteuning voor het hele parlement (commissies en individuele parlementariërs);

– inhoudelijke en coördinerende ambtelijke ondersteuning voor de vaste commissies.

Zowel het Britse parlement (POST) en het Amerikaanse Congres (STAA en de Strategic Foresight Unit) als de Duitse Bondsdag (TAB) kennen een eigen onafhankelijk onderzoeksbureau dat het hele parlement ondersteunt met onderzoek op het gebied van wetenschap en technologie. Veel van het onderzoek bij deze bureaus gaat over digitaliseringsvraagstukken. De drie onderzoeksbureaus in Duitsland, het Verenigd Koninkrijk en de Verenigde Staten bieden niet alleen onderzoek aan, maar ook de expertise van hun medewerkers bij technische uitleggen, onderzoeken en hoorzittingen over digitalisering. De Tweede Kamer kent geen eigen onderzoeksdienst die specifiek onderzoek doet naar technologie of digitaliseringsvraagstukken. Hoewel POST, STAA en TAB alle zusterorganisaties zijn van het Rathenau Instituut, is een belangrijk verschil dat het Rathenau Instituut geen deel uitmaakt van de ambtelijke parlementaire staf. Wel is dit instituut belast met de taak om onderzoek te doen naar deze onderwerpen. Andere externe kennisbronnen voor de Tweede Kamer op het gebied van digitalisering zijn bijvoorbeeld de Wetenschappelijke Raad voor het Regeringsbeleid en de Adviesraad voor Wetenschap, Technologie en Innovatie.

2.5 Lessen

De TCDT trekt de volgende lessen uit het voorgaande.

Aandacht voor digitalisering is gefragmenteerd

De Tweede Kamer heeft de afgelopen jaren aandacht gehad voor digitalisering, maar die aanpak was gefragmenteerd. Digitalisering maakt in de huidige commissies slechts een beperkt deel uit van het totale beleidsterrein. Dat betekent dat de meeste Kamerleden in die commissies ook maar beperkt tijd hebben om zich te verdiepen in digitaliseringsvraagstukken. Vaak gaat de aandacht dan nog wel reactief uit naar het topje van de ijsberg, maar blijven veel structurele vraagstukken rondom digitalisering die zich onder water bevinden onbenoemd. Hierdoor zijn niet altijd alle risico’s, kansen en maatschappelijke waarden besproken bij de behandeling van een digitaliseringsonderwerp. Het risico bestaat zelfs dat de commissie waarin een digitaliseringsvraagstuk landt, bepaalt welke kansen, risico’s en maatschappelijke waarden worden besproken. Dit leidt tot een te nauwe focus.

Commissieoverstijgende thema’s zijn onderbelicht door huidige commissie-indeling

Ook thema’s die meerdere commissies raken of commissieoverstijgend zijn, komen niet of onvoldoende tot hun recht. Denk hierbij bijvoorbeeld aan het gebruik van gezichtsherkenningstechnieken door winkeliers, apps en Schiphol. Of de opkomst van de platformeconomie, die niet alleen arbeidsrelaties maar ook hele economische sectoren verandert. Dit soort thema’s wordt nog onvoldoende in samenhang besproken. Dat heeft te maken met de wijze waarop de Kamer georganiseerd is, namelijk in commissies die elk hun eigen beleidsterrein bestrijken. Onderwerpen die passen in die structuur krijgen een plek, terwijl onderwerpen die meerdere commissies raken of commissieoverstijgend zijn het risico lopen gefragmenteerd te worden behandeld, of tussen wal en schip te vallen. Digitalisering is zo’n onderwerp. Digitalisering is wat dat betreft te vergelijken met financiën of Europees beleid: het is een specialistisch onderwerp en het speelt in iedere commissie een belangrijke rol, maar het kent ook thema’s die boven de afzonderlijke commissies uitstijgen. Dat is vanwege bredere en dieperliggende vraagstukken die ergens in samenhang besproken moeten worden. Waar voor financiën en Europees beleid in de Tweede Kamer een commissie bestaat om dat soort vraagstukken te bespreken, ontbreekt dat voor digitalisering.

Nog beperkt kennis opgebouwd over digitalisering

Er is nog maar beperkte kennis over digitalisering opgebouwd in de Tweede Kamer. Daardoor is het lastig om goed te weten welke kansen, risico’s en waarden in het geding zijn en daarop te sturen. Dit komt doordat het onderwerp digitalisering relatief nieuw is. Onderzoek laat zien dat de Kamer desondanks weinig regie neemt om die kennis te vergroten en te verdiepen. Vraagstukken met een digitaliseringscomponent zijn de afgelopen jaren nog beperkt opgevoerd op de kennisagenda’s van de afzonderlijke commissies. We zien dat dit jaar wel veranderen.

Buitenwereld mist een duidelijk aanspreekpunt in de Tweede Kamer

We merken als TCDT dat verschillende organisaties en personen buiten de Kamer een duidelijk aanspreekpunt in de Tweede Kamer missen. Zij hebben een aanspreekpunt nodig, waarbij zij terechtkunnen met hun opvattingen en kennis over digitale ontwikkelingen en vooral als het beleidsterrein- of commissieoverstijgend is. Hierdoor blijft de mogelijkheid om relevante kennis van buiten de Tweede Kamer naar binnen te halen soms onbenut, met name voor de overstijgende vraagstukken.

Behoefte aan een sluitend wettelijk kader en toezicht

Gemeenten en provincies zoeken naar manieren om digitalisering op een verantwoorde manier in te zetten, maar lopen soms aan tegen een versnipperd juridisch raamwerk of het ontbreken van een passende wettelijke grondslag. Zij vragen de Tweede Kamer om goed zicht te houden op de vraag of de bestaande wet- en regelgeving voldoet en die indien nodig aan te passen of uit te breiden. Gemeenten en provincies verwachten van de Tweede Kamer dat zij haar verantwoordelijkheid neemt door de gevolgen van digitalisering te onderkennen en zich, gezien de dynamiek en snelle ontwikkeling, aan te passen aan de vraagstukken die op haar afkomen.

Daarbij hoort volgens de TCDT ook een dekkend toezichthoudend kader. Op dit moment zijn veel verschillende toezichthouders betrokken. De Tweede Kamer heeft nu onvoldoende zicht op de werkzaamheden van deze toezichthouders en mogelijke hiaten of overlap hierin. Zij kan dit inzicht verkrijgen door zich over digitaliseringsvraagstukken, zoals bijvoorbeeld gezichtsherkenning en kunstmatige intelligentie, regulier en in samenhang te laten informeren door de toezichthouders.

Zicht nodig op Europese agenda voor digitalisering

Veel wet- en regelgeving op het gebied van digitalisering wordt op het niveau van de Europese Unie afgesproken. Dat maakt het moeilijker voor de Tweede Kamer om op het juiste moment controle uit te oefenen op het kabinet en het vergt extra inspanning van de Kamerleden om goed geïnformeerd te zijn. Het is daarom nodig om goed en tijdig zicht te hebben op de agenda in de Europese Unie zodat de Tweede Kamer beter de Nederlandse inzet kan beïnvloeden.

Andere parlementen behandelen digitalisering meer gestructureerd

Uit de internationale vergelijking blijkt dat verschillende andere parlementen het onderwerp digitalisering meer gestructureerd aanpakken, bijvoorbeeld met vaste commissies voor digitalisering of speciale onderzoekscommissies met een eigen specifieke onderzoeksagenda.

3 Voorstellen voor meer grip

In dit hoofdstuk doen we voorstellen aan de Tweede Kamer om meer grip te krijgen op digitalisering.

3.1 Vooraf

We hebben in hoofdstuk 1 laten zien dat digitalisering alle facetten van ons leven raakt en daar een steeds grotere rol in speelt. Deze transitie zorgt daarmee voor nieuwe vraagstukken die aandacht vergen van de politiek: op een specifiek beleidsterrein, maar ook dwars door de beleidsterreinen heen of daar juist boven uitstijgend.

Grote veranderingen zijn in het verleden altijd aanleiding geweest voor politieke bemoeienis. Ook nu is het nodig dat de politiek zich uitspreekt over de brede gevolgen van digitalisering.

Welk soort samenleving heeft de politiek voor ogen? Het antwoord hierop verschilt uiteraard per politieke partij, maar de Tweede Kamer zal hier wel een breed gedragen antwoord op moeten geven. Die visie bepaalt welke digitale ontwikkelingen gestimuleerd worden en welke juist begrensd. Zo zorgen we ervoor dat niet de mens de technologie dient, maar de technologie de mens en de samenleving als geheel. Het is de taak van de Tweede Kamer om grip op dit samenspel te krijgen en op die manier het perspectief van de burgers te vertolken op onze digitale toekomst.

Dit lukt tot nu toe onvoldoende, zoals blijkt uit hoofdstuk 2. De Tweede Kamer heeft de afgelopen jaren aandacht gehad voor digitalisering, maar die aanpak was gefragmenteerd. Hierdoor zijn niet altijd alle risico’s, kansen en maatschappelijke waarden aan de orde gekomen bij de bespreking van een digitaliseringsonderwerp. Ook thema’s die meerdere commissies raken of commissieoverstijgend zijn kwamen niet of onvoldoende tot hun recht. Denk hierbij bijvoorbeeld aan het gebruik van gezichtsherkenningstechnieken door winkeliers en apps of de opkomst van de platformeconomie, die niet alleen arbeidsrelaties maar soms hele sectoren in economie en samenleving verandert.

Dit heeft allereerst te maken met de organisatie van de Tweede Kamer in commissies. Die verhouden zich tot de bewindspersonen op het beleidsterrein van die commissie. Digitalisering is zo’n onderwerp dat niet exclusief bij één commissie past. We constateren bijvoorbeeld in hoofdstuk 2 dat verschillende brieven van het kabinet over kunstmatige intelligentie en algoritmen in verschillende commissies aan de orde komen, terwijl de inhoud van die brieven gaat over brede vraagstukken rondom die technologie en niet per se over de specifieke toepassing op een bepaald beleidsterrein. In het huidige kabinet zijn maar liefst drie bewindspersonen die zich bezighouden met digitalisering. Zij stemmen hun werkzaamheden onderling af. Een vergelijkbare afstemming ontbreekt binnen de Tweede Kamer op het terrein van digitalisering.

Verder maakt digitalisering in de huidige commissies slechts een beperkt deel uit van het totale beleidsterrein. Dat betekent dat de meeste Kamerleden in die commissies ook maar beperkt tijd hebben om zich te verdiepen in digitaliseringsvraagstukken. Vaak gaat de aandacht dan nog wel reactief uit naar het topje van de ijsberg, maar blijven veel vraagstukken rondom digitalisering die zich onder water bevinden onbenoemd.

Daarbij komt dat het onderwerp digitalisering relatief nieuw is en er nog beperkte kennis is opgebouwd in de Tweede Kamer. Daardoor is niet goed bekend welke kansen, risico’s en waarden in het geding zijn en is het moeilijk daarop te sturen. Onderzoek laat zien dat de Kamer desondanks weinig regie neemt om die kennis te vergroten en te verdiepen. Er is geen kennis- of onderzoeksagenda op dit terrein. Ook merken we als TCDT dat verschillende organisaties en personen buiten de Kamer een duidelijk aanspreekpunt in de Tweede Kamer missen. Zij hebben zo’n aanspreekpunt nodig, waar zij terechtkunnen met hun opvattingen en kennis over digitale ontwikkelingen, vooral als het beleidsterrein- of commissieoverstijgend is. Hierdoor blijft de mogelijkheid om relevante kennis van buiten de Kamer naar binnen te halen soms onbenut, met name voor de overstijgende vraagstukken.

Ten slotte wordt veel wet- en regelgeving op het gebied van digitalisering op het niveau van de Europese Unie afgesproken. Dat maakt het moeilijker voor de Tweede Kamer om op het juiste moment controle uit te oefenen op het kabinet en het vergt extra inspanning voor de Kamerleden om goed geïnformeerd te zijn.

Digitale ontwikkelingen zullen dus in de breedte, in de diepte en in samenhang moeten worden besproken. Het is nodig om goed zicht te hebben op de agenda in de Europese Unie, op internationale ontwikkelingen en de noden van decentrale overheden die vragen om een actieve en kaderstellende Kamer. Om meer grip te krijgen op digitalisering is het nodig dat de Tweede Kamer zich richt op de beantwoording van die bredere vragen en daar ook proactief op is. De TCDT is daarom tot de conclusie gekomen dat het noodzakelijk is om een vaste Kamercommissie voor Digitale Zaken op te richten.

3.2 Voorstellen

Aanbeveling 1. Installeer een vaste commissie voor Digitale Zaken

De TCDT stelt voor om, na de Tweede Kamerverkiezingen, een vaste commissie voor Digitale Zaken in te stellen. Deze commissie krijgt de volgende taken:

– Het controleren en behandelen van wetgeving van de bewindspersoon die verantwoordelijk is voor digitalisering of, in de afwezigheid daarvan, van de bewindspersoon tot wie de commissie zich primair verhoudt (zie hieronder);

– Het verkennen, doordenken en agenderen van huidige en toekomstige commissieoverstijgende ontwikkelingen op het gebied van digitalisering;

– Het informeren van andere commissies in de Tweede Kamer over relevante ontwikkelingen op het gebied van digitalisering;

– Het voortouw nemen bij een coherente en integrale behandeling van commissieoverstijgende digitaliseringsvraagstukken in de Tweede Kamer;

– Het fungeren als aanspreekpunt voor digitaliseringskwesties voor zowel het kabinet als maatschappelijke groepen, bedrijfsleven, wetenschap en anderen.

De vaste commissie voor Digitale Zaken zal zich richten tot de bewindspersoon die binnen het kabinet verantwoordelijk is voor digitalisering. Mocht de verantwoordelijkheid zijn belegd bij meerdere bewindspersonen, verspreid over meerdere ministeries, dan beslist de Tweede Kamer tot welke bewindspersoon de vaste commissie zich primair zal verhouden. Uiteraard kan de vaste commissie ook andere ministers of staatssecretarissen verzoeken naar de Kamer te komen om verantwoording af te leggen wanneer dit nodig wordt geacht. Dat is immers een reeds bestaande mogelijkheid voor alle vaste Kamercommissies op basis van artikel 27 van het Reglement van Orde. Voor een goed functioneren van de vaste commissie Digitale Zaken is het nodig dat het op eenzelfde wijze wordt ingebed in de structuur van de Tweede Kamer als ieder andere vaste commissie.

Aanbeveling 2. Stel een kennisagenda Digitalisering op

Het is belangrijk dat de Tweede Kamer meer kennis binnenhaalt en zelf bepaalt welke informatie zij nodig heeft. Daartoe stelt de vaste commissie voor Digitale Zaken jaarlijks een kennisagenda Digitalisering op. Bij het samenstellen van deze kennisagenda kunnen ook andere commissies worden benaderd voor inbreng, evenals kennisinstellingen buiten de Kamer zoals de Adviesraad voor Wetenschap, Technologie en Innovatie en het Rathenau Instituut. Ook kan de commissie rekening houden met de agenda van het onderzoeksbureau van het Europees parlement (EPRS) en het panel voor de toekomst van wetenschap en technologie (STOA), dat deel uitmaakt van het EPRS. Met de inzet van verschillende instrumenten kan de commissie haar kennis- en informatiepositie versterken.

Naast analyse en advies door de eigen commissiestaf, kan zij bijvoorbeeld de wetenschap bevragen, onderzoek laten uitvoeren door onderzoeksbureaus of universiteiten, werkbezoeken afleggen, rondetafelgesprekken organiseren en zelf onderzoek doen (zie ook § 2.2). De kennisagenda en de instrumenten die daarvoor beschikbaar zijn, zijn vergelijkbaar met instrumenten die in het buitenland met succes worden toegepast (zie § 2.4). Net als andere vaste commissies, zal de vaste commissie voor Digitale Zaken beschikken over een jaarlijks onderzoeksbudget.

Aanbeveling 3. Bied inhoudelijke ondersteuning aan overige Kamercommissies

Alle vaste commissies zullen in meer of mindere mate te maken krijgen met vraagstukken rondom digitalisering. De vaste commissies moeten daarvoor kunnen steunen op het werk dat gedaan wordt in de vaste commissie voor Digitale Zaken. Daar zijn de bredere vraagstukken idealiter al doorgrond en besproken. De vaste commissies kunnen uiteraard putten uit de informatie die is opgehaald via de kennisagenda Digitalisering. Zij kunnen, zoals eerdergenoemd, zelf ook onderwerpen aandragen voor deze kennisagenda. Daarnaast zullen de griffier, de kenniscoördinator, de informatiespecialist en de EU-specialist, die samen de staf van de commissie voor Digitale Zaken zullen vormen, in de gaten houden welke digitaliseringsvraagstukken in andere commissies spelen en deze daarbij desgewenst ondersteunen.

Aanbeveling 4. Draag zorg voor een sluitend wettelijk kader en toezicht

Gemeenten en provincies zoeken naar manieren om digitalisering op een verantwoorde manier in te zetten, maar lopen soms aan tegen een versnipperd juridisch raamwerk of het ontbreken van een passende wettelijke grondslag. De Tweede Kamer heeft vanuit haar stelselverantwoordelijkheid de taak om goed zicht te houden op de vraag of de bestaande wet- en regelgeving voldoet en zo nodig voorstellen te doen voor aanpassing of uitbreiding ervan. De vaste commissie voor Digitale Zaken zal het voortouw nemen bij een coherente en integrale behandeling in de Tweede Kamer.

Daarbij hoort ook een sluitend toezicht. Op dit moment zijn veel verschillende toezichthouders betrokken, zoals de Autoriteit Financiële Markten, de Autoriteit Consument & Markt, De Nederlandsche Bank, de Autoriteit Persoonsgegevens, het Agentschap Telecom en de inspecties. Als de Tweede Kamer zich over digitaliseringsvraagstukken regulier en in samenhang laat informeren door de toezichthouders, blijken ook mogelijke hiaten of overlap in toezicht.

Aanbeveling 5. Extra aandacht voor wetgeving uit de Europese Unie

Veel wetgeving over digitalisering wordt vastgesteld binnen de Europese Unie. Omdat digitalisering een relatief nieuw beleidsterrein is, verdient deze Europese dimensie in de ogen van de TCDT extra aandacht. Op andere beleidsterreinen is al nationaal beleid ontwikkeld en dat bepaalt mede de inzet van het Nederlandse kabinet, maar op het gebied van digitalisering is dat meestal niet het geval. Als de Tweede Kamer in een vroegtijdig stadium geïnformeerd wordt over voorstellen en de Nederlandse positie in de Europese besprekingen daarover, is zij beter in staat de inzet van Nederland in de Europese Unie mede vorm te geven en te controleren. De EU-specialist in de staf van vaste commissie voor Digitale Zaken zal hier expliciet aandacht voor moeten hebben.

BIJLAGE 1 ONDERZOEKSVERANTWOORDING

Voortraject

Op dinsdag 4 juni 2019 nam de Tweede Kamer de motie-Verhoeven c.s. (Kamerstuk 26 643, nr. 611) aan. De motie spreekt uit dat het wenselijk is dat de Tweede Kamer zelf onderzoek doet naar concrete mogelijkheden om de nodige kennis op te bouwen en meer politieke grip te krijgen op het thema digitalisering. Om dit te bewerkstelligen verzoekt de motie het presidium voor het zomerreces 2019 een voorstel te doen voor een tijdelijke onderzoekscommissie die hier werk van maakt. In juni 2019 heeft een werkgroep, bestaande uit de leden Jan Middendorp (VVD), Chris van Dam (CDA), Kees Verhoeven (D66) en Kathalijne Buitenweg (GroenLinks), een voorstel gedaan voor een tijdelijke onderzoekscommissie en een onderzoeksopzet uitgewerkt.

Op 26 juni 2019 is dit onderzoeksvoorstel door het presidium besproken en goedgekeurd. Op dinsdag 2 juli 2019 heeft de Kamer met het onderzoeksvoorstel (Kamerstuk 35 229, nr. 1) ingestemd, de tijdelijke commissie Digitale toekomst (TCDT) ingesteld en de leden Jan Middendorp (VVD), Danai van Weerdenburg (PVV), Chris van Dam (CDA), Kees Verhoeven (D66), Kathalijne Buitenweg (GroenLinks), Gerrit Jan van Otterloo (50Plus) en Farid Azarkan (DENK) benoemd tot lid van de commissie.

Op woensdag 3 juli vond de constituerende vergadering van de TCDT plaats. In deze vergadering zijn het lid Buitenweg tot voorzitter en het lid Verhoeven tot ondervoorzitter van de commissie gekozen.

De onderzoeksstaf bestond uit Rens Jansma (griffier), Niels Donker en Martijn Balster (onderzoekscoördinatoren gedurende verschillende fasen van het onderzoek), Amarens Veeneman (onderzoeker), Martijn Barth (informatiespecialist), Marja Rotermundt (commissie-assistent) en Gerard van Roon (communicatieadviseur).

De commissie heeft een klankbordgroep ingesteld die de commissie op verschillende momenten heeft geadviseerd. De klankbordgroep bestond uit de heer A. van Bellen (directeur ECP platform voor de Informatie Samenleving), mevrouw mr. J.J.G. Bovens (secretaris Adviesraad voor Wetenschap, Technologie en Innovatie), de heer prof. dr. ir. R.L. Lagendijk (Hoogleraar Computing-based Society TU Delft) en mevrouw M. Stikker (directeur Waag). De commissie en de klankbordgroep kwamen bijeen op donderdag 17 oktober 2019 en maandag 27 januari 2020. De klankbordgroep heeft schriftelijk gereageerd en advies gegeven op de conceptrapporten van het Rathenau Instituut, de Radboud Universiteit en USBO Advies en heeft daarnaast feedback op het conceptrapport van de commissie gegeven.

Onderzoeksopdracht van de commissie

Het onderzoek van de TCDT richtte zich op de volgende hoofdvraag:

Hoe kan de Tweede Kamer de kennispositie versterken op het gebied van digitalisering (informatierecht) en op welke wijze kan de Tweede Kamer meer grip krijgen op gewenste en ongewenste ontwikkelingen samenhangend met digitalisering (controlerende en wetgevende taak)?

Om de hoofdvraag te beantwoorden zijn er drie deelvragen opgesteld:

1. Welke bovenliggende thema’s op het terrein van digitalisering – zowel voor wat betreft technologische ontwikkeling als hun impact op maatschappelijke waarden – vragen aandacht van de Tweede Kamer in de nabije toekomst en waarom?

2. Welke lessen kunnen worden getrokken uit de wijze waarop door de Tweede Kamer op dit moment naar digitaliseringsvraagstukken wordt gekeken en wat kan worden geleerd van andere landen en andere overheidslagen om dit beter aan te pakken? Welke methode of toetsingskader(s) worden daarbij gehanteerd?

3. Wat is er – zowel inhoudelijk, organisatorisch als institutioneel – nodig om de kennispositie van de Tweede Kamer te vergroten ten aanzien van digitale ontwikkelingen en over welk instrumentarium beschikt de Tweede Kamer om meer grip te krijgen op die ontwikkelingen?

Onderzoeksaanpak

Voor de beantwoording van de onderzoeksvragen liet de commissie drie onderzoeken uitvoeren, werden diverse (rondetafel-)gesprekken gevoerd en bracht de commissie een werkbezoek aan Brussel. Verder werden diverse interne en externe bronnen geraadpleegd. Ook organiseerde de commissie een symposium met Eurocommissaris Vestager als hoofdgast.

Onderzoeken

Internationale vergelijking

De TCDT heeft het Rathenau Instituut gevraagd een internationale vergelijking te maken. De vraag hierbij was hoe andere landen omgaan met digitaliseringsvraagstukken, in het bijzonder hun parlementen en in mindere mate ook hun kabinetten. Gekeken is welke werkwijze of eventuele toetsingskaders er in andere landen worden gehanteerd. Aan de hand van deskresearch zijn er in de eerste fase van het onderzoek tien landen geanalyseerd. In de tweede fase zijn hieruit vijf landen (Duitsland, Verenigd Koninkrijk, Verenigde Staten, Denemarken en Noorwegen) geselecteerd. Aan de hand van interviews en werkbezoeken heeft het Rathenau Instituut verdiepend onderzoek gedaan naar werkwijzen.

Het definitieve onderzoeksrapport van het Rathenau Instituut werd op maandag 9 maart 2020 aangeboden en besproken met de commissie. Het rapport is als separate bijlage opgenomen⁹.

Parlementaire analyse

Na een aanbesteding heeft de commissie aan de Radboud Universiteit gevraagd onderzoek te doen naar het debat over digitaliseringsvraagstukken in de periode 2009–2019. De Radboud Universiteit onderzocht welke lessen de Tweede Kamer kan trekken uit de manier waarop zij de afgelopen jaren invulling heeft gegeven aan haar controlerende, wetgevende en volksvertegenwoordigende taak rondom deze vraagstukken. Tevens maakte het Radboud aan de hand van de resultaten een beoordelingskader dat de Tweede Kamer kan helpen om vroegtijdiger haar eigen positie te bepalen en dat kan bijdragen aan een grondige doordenking van digitaliseringsvraagstukken.

Het definitieve onderzoeksrapport werd op maandag 17 februari 2020 aangeboden en besproken met de commissie. Ook dit rapport is als separate bijlage opgenomen¹⁰.

Casusonderzoek

Middels een aanbesteding heeft de commissie aan USBO Advies van de Universiteit van Utrecht gevraagd een casusonderzoek te doen. Centraal in het onderzoek stond de vraag welke lessen er kunnen worden getrokken over de kennispositie van de Tweede Kamer die nodig is voor het borgen van maatschappelijke waarden rondom digitalisering.

Het definitieve onderzoeksrapport werd op maandag 9 maart 2020 aangeboden en besproken met de commissie. Het rapport is eveneens als separate bijlage opgenomen¹¹.

Onderzoek Algemene Rekenkamer

In de procedurevergadering van 31 oktober 2019 heeft de commissie ingestemd met het aanbod van de Algemene Rekenkamer voor een onderzoek. In dit onderzoek is gekeken naar thema’s op het gebied van digitalisering in eigen eerdere onderzoeken van de AR. Het verslag verscheen in de vorm van een factsheet op 18 maart 2020 (Kamerstuk, 35 229, nr. 6).

Routekaart

In het overleg van maandag 27 januari 2020 tussen de klankbordgroep en de commissie heeft de klankbordgroep aangeboden een routekaart te maken, met daarin weergegeven het veranderende digitaliseringslandschap en routes die gevolgd kunnen worden. De commissie heeft dit aanbod aangenomen. De routekaart is door Waag gemaakt en op vrijdag 10 april aan de commissie aangeboden. De routekaart is na publicatie van dit rapport te vinden op de website van Waag.

Gesprekken

Als voorbereiding op het onderzoek heeft de commissie een aantal besloten gesprekken gevoerd om zich te oriënteren op de thematiek. Op maandag 8 juli 2019 sprak de commissie met onderzoekers van het Rathenau Instituut en een aantal wetenschappers die verbonden zijn aan het programma Digital Society van de Vereniging van Universiteiten (VSNU). Op woensdag 10 juli 2019 spraken de commissieleden met onderzoekers van TNO.

Op maandag 20 januari 2020 sprak de commissie met de voorzitter en onderzoekers van de Algemene Rekenkamer. Op donderdag 30 januari 2020 sprak de commissie in een besloten gesprek informeel met Staatssecretaris Keijzer van Economische Zaken en Klimaat. Van dit gesprek is geen verslag gemaakt.

Geplande (informele) gesprekken in maart 2020 met Minister Knops van Binnenlandse Zaken en Koninkrijksrelaties en Minister Grapperhaus van Justitie & Veiligheid konden door de Corona-crisis helaas niet plaatsvinden

Openbare Rondetafelgesprekken

De commissie heeft op verschillende momenten openbare rondetafelgesprekken georganiseerd. Om zich verder te oriënteren en te informeren sprak de commissie in september en oktober met verschillende adviesraden, onderzoeks- en kennisinstellingen, belangenorganisaties en universiteiten.

– Op maandag 9 september 2019 sprak de commissie met vertegenwoordigers van Waag, De Raad voor Openbaar Bestuur, de Autoriteit Persoonsgegevens en Sociaal Cultureel Planbureau. Van het rondetafelgesprek is een openbaar verslag gemaakt (Kamerstuk 35 229, nr. 3).

– Op maandag 23 september 2019 sprak de commissie met vertegenwoordigers van de Wetenschappelijke Raad voor Regeringsbeleid (WRR), ECP platform voor de Informatiesamenleving, Raad van State, het Hague Centre for Strategic Studies, het Cyber Science Centre, de Open State Foundation, Setup en Bits of Freedom. Van het rondetafelgesprek is een openbaar verslag gemaakt (Kamerstuk 35 229, nr. 2).

– Op maandag 30 september 2019 sprak de commissie met de Nationale ombudsman en vertegenwoordigers van de Adviesraad voor Wetenschap, Technologie en Innovatie, de Autoriteit Consument & Markt, de Autoriteit Financiële Markten, de Alliance for Artificial Intelligence en het programma Digital Society van de VSNU. Van het rondetafelgesprek is een openbaar verslag gemaakt (Kamerstuk 35 229, nr. 4).

In februari en maart 2020 organiseerde de commissie een aantal verdiepende rondetafelgesprekken en sprak zij met stakeholders, toezichthouders en instituties.

– Op maandag 17 februari 2020 sprak commissie over het wettelijk kader en toezicht met vertegenwoordigers van de Raad van State, Tilburg University, Autoriteit Persoonsgegevens, Autoriteit Consument & Markt, Autoriteit Financiële Markten, De Nederlandsche Bank, Inspectie Justitie en Veiligheid en Agentschap Telecom. Van het rondetafelgesprek is een openbaar verslag gemaakt (Kamerstuk 35 229, nr. 5).

– Op maandag 2 maart 2020 ging de commissie in gesprek met stakeholders. Aanwezig waren vertegenwoordigers van TechLeap, FME, NLdigital, Ipoort en de FNV (Kamerstuk, 35 229, nr. 8).

– Op dezelfde dag sprak de commissie ook met verschillende vertegenwoordigers van de decentrale overheden. Gesprekspartners waren van de Commissie informatiesamenleving van de Vereniging Nederlandse Gemeenten, de gemeenten Amsterdam en Den Haag, de gemeenteraad van Amsterdam, de Future City Foundation, het Interprovinciaal Overleg, de provincies Brabant en Zuid-Holland (Kamerstuk, 35 229, nr. 7).

Werkbezoek Brussel

Op maandag 2 december 2019 bracht een delegatie van de commissie een werkbezoek aan Brussel. Doel van het bezoek was om meer inzicht te krijgen in hoe het Europees parlement en de Europese Commissie omgaan met vraagstukken op het gebied van digitalisering. Tijdens het werkbezoek spraken de leden met medewerkers van de Nederlandse Permanente Vertegenwoordiging bij de EU, het European Political Strategy Centre, het Office for Scientific and Technological Option Assessment en drie Nederlandse Europarlementariërs.

Raadpleging bronnen

De commissie raadpleegde diverse bestaande openbare (advies)rapporten en publicaties van adviesorganen, kennisinstellingen en maatschappelijke organisaties op het gebied van nieuwe technologie en digitalisering. Bronnen die voor het rapport zijn gebruikt, zijn in de bronnenlijst in bijlage 2 opgenomen.

Via het samenwerkingsverband parlement en Wetenschap heeft de commissie verzocht om twee factsheets. In het verzoek is gevraagd om in te gaan op de volgende twee vragen: 1) welke technologische en digitaliseringsontwikkelingen komen op ons af? En 2) welke publieke waarden worden daar mogelijk door beïnvloed? De commissie ontving uiteindelijk drie factsheets: van professor dr. Liesbet van Zoonen (Erasmus Universiteit), professor dr. Jos Baeten (universiteit van Amsterdam) en van Esther Smit (directeur Innovation Center Artificial Intelligence) en professor dr. Maarten de Rijke (Universiteit van Amsterdam).¹²

Symposium

Op maandag 3 februari 2020 organiseerde de commissie een symposium. Op het symposium sprak vicevoorzitter van de Europese Commissie en Eurocommissaris voor Mededinging en Digitalisering Margrethe Vestager over het digitaliseringsbeleid van de EU. Voor de hoofdlezing van Eurocommissaris Vestager hield Staatssecretaris Mona Keijzer van Economische Zaken en Klimaat een toespraak. Na de hoofdlezing was er een vraag-en-antwoordsessie met de Eurocommissaris. Het symposium was openbaar en is terug te zien via DebatGemist.¹³ Voorafgaand aan het symposium sprak de commissie in beslotenheid met Eurocommissaris Vestager en een aantal medewerkers van haar kabinet.

Beantwoording onderzoeksvragen

Voor de beantwoording van de onderzoeksvragen verwijst de commissie naar de rapporten van het Rathenau Instituut, de Radboud Universiteit en USBO Advies van de Universiteit van Utrecht. De rapporten zijn als separate bijlagen opgenomen.

Eindrapport

Na afronding van de rondetafelgesprekken is in maart 2020 gestart met het opstellen van het eindrapport. Conceptversies van het rapport zijn op vijf momenten door de commissie besproken. Het voorliggende rapport is op donderdag 14 mei 2020 door de TCDT vastgesteld.

BIJLAGE 2 BRONNENLIJST

Literatuur

AINED (2018). AI Voor Nederland: Vergroten versnellen en verbinden.

CBS (5-4-2020). Bijna 3 op de 5 Nederlanders maakte in 2019 gebruik van online platforms. Geraadpleegd op 7 april 2020. https://www.cbs.nl/nl-nl/nieuws/2020/14/bijna-3-op-de-5-nederlanders-maakte-in-2019-gebruik-van-online-platforms

Europese Commissie (EC) (2018). Outlook for 2019 and Beyond The Netherlands, Jaarlijkse groeianalyse 2019: Voor een sterker Europa bij mondiale onzekerheid (770). Brussel: EC.

Europese Commissie (EC) (2020a). Een Europese datastrategie (66). Brussel: EC.

Europese Commissie (EC) (2020b). White paper – On Artificial Intelligence – A European approach to excellence and trust (65). Brussel: EC

EY & Microsoft (2018). Artificial Intelligence in Europe: How 277 Major Companies Benefit from AI.

Februari, M. (2019). De onbetrouwbare verteller. Amsterdam: Prometheus.

Goodman, M. (2015). Future Crimes: a journey to the dark side of Technology – and how to survive it. London: Bantam Press.

Hooijdonk, R. van (14-04-2017). 10 technologieën waarmee we op een dag allemaal een beetje cyborg worden. Geraadpleegd op 21 april 2020. https://www.richardvanhooijdonk.com/blog/10-technologieen-waarmee-we-op-een-dag-allemaal-een-beetje-cyborg-worden

Jong, R. de, Keulen, I. van, Hove, L. van & Munnichs, G. (2020). Meer grip op digitalisering – Een internationale vergelijking van parlementaire werkvormen. Den Haag: Rathenau Instituut.

Kaal, H & Hoetink, C. (2020). Doordacht digitaliseren. Digitalisering doordacht. Resultaten van een onderzoek naar het parlementaire debat over digitaliseringsvraagstukken, 2009–2019. Nijmegen: Radboud Universiteit.

Keulen, I. van, Korthagen, I., Diederen, P. & Boheemen, P. van (2018). Digitalisering van het nieuws – Online nieuwsgedrag, desinformatie en personalisatie in Nederland. Den Haag: Rathenau Instituut.

Keymolen, E., Noorman, M., Sloot, B. van der, Cuijpers, C., Koops, B-J. & Zhao, B. (2020). Een verkenning van gezichtsherkenning en privacyrisico’s in horizontale relaties. Tilburg: Tilburg Institute for Law, Technology, and Society.

Kool, L., Timmer, J., Royakkers, L. & Est, R. van (2017). Opwaarderen – Borgen van publieke waarden in de digitale samenleving. Den Haag: Rathenau Instituut.

Lum, K. & Isaac, W. (7–10- 2016). To predict and serve?. The Royal Statistical Society. doi.org/10.1111/j.1740–9713.2016.00960.x

Meijer, A., Ruijer, E. & Dekker, R. (2020). Navigatiestrategie – Lessen uit drie casusstudies over de kennispositie van de Tweede Kamer op het gebied van digitalisering. Utrecht: USBO Advies van de Universiteit Utrecht.

Morozov, E. (5-4-2020). De illusie van het ooit vrije internet. Geraadpleegd op 8 april 2020. https://www.nrc.nl/nieuws/2019/04/05/de-illusie-van-het-ooit-vrije-internet-a3955956

MSNBC (19-1-2018). Google CEO Sundar Pichai on A.I. being more important technology than electricity. Geraadpleegd op 24 maart 2020.

https://www.msnbc.com/msnbc/watch/google-ceo-sundar-pichai-on-a-i-being-more-important-technology-than-electricity-1141130819762

Raad voor het openbaar bestuur (ROB) (2019). Zoeken naar waarheid – Over waarheidsvinding in de democratie in het digitale tijdperk. Den Haag: ROB.

Smith, B. (9-9-2019). Tech Firms Need More Regulation – The industry must cooperate to solve problems but government must take a more active role as well. Geraadpleegd op 6 mei 2020. https://www.theatlantic.com/ideas/archive/2019/09/please-regulate-us/597613/

Stikker, M. (2019). Het internet is stuk, maar we kunnen het repareren. Amsterdam: De Geus.

Susskind, J. (2018). Future politics – Living Together in a World Transformed by Tech. Oxford: Oxford University Press.

Veer, N. van der, Boekee, S. & Hoekstra, H. (2020). Nationaal Social Media Onderzoek 2020. Enschede/Amsterdam: Newcom Research & Consultancy.

Verhagen, L. (6-3-2020). Griezelig, die enorme database met profielfoto’s van Clearview AI. Geraadpleegd op 9 april 2020. https://www.volkskrant.nl/wetenschap/griezelig-die-enorme-database-met-profielfoto-s-van-clearview-ai~bd4c390c/

Waag (2020). Routekaart digitale toekomst. Amsterdam: Waag

Wetenschappelijke Raad voor het Regeringsbeleid (WRR) (2019). Voorbereiden op digitale ontwrichting (WRR-rapport nr. 101). Den Haag: WRR.

Kamerstukken

Kamerstuk 26 643, nr. 47. Brief van de ministers van Economische Zaken en voor Bestuurlijke Vernieuwing en Koninkrijksrelaties en de staatsecretaris van Onderwijs, Cultuur en Wetenschap, De rijksbrede ICT-agenda.

Kamerstuk 29 515, nr. 390. Brief van de Minister van Economische Zaken, De nieuwe digitale agenda.

Kamerstuk 34 613, nr. 2. Initiatiefnota van het lid Verhoeven, Het internet der dingen. Maak apparaten veilig.

Kamerstuk 34 616, nr. 2. Initiatiefnota van de leden Oosenburg en Nijboer, Financiële sector en big data.

Kamerstuk 34 926, nr. 2. Initiatiefnota van het lid Koopmans, Onderlinge privacy.

Kamerstuk 34 993, nr. 2. Initiatiefnota van de leden Middendorp en Verhoeven, Online identiteit en regie op persoonsgegevens.

Kamerstuk 26 643, nr. 611. Motie van het lid Verhoeven c.s., Het instellen van een onderzoekscommissie.

Kamerstuk 35 134, nr. 2. Initiatiefnota van het lid Verhoeven, Mededinging in de digitale economie. Data, techgiganten en vrije mededinging in een vrije economie.

Kamerstuk 35 212, nr. 2. Initiatiefnota van het lid Middendorp, Menselijke grip op algoritmen.

Kamerstuk 35 229, nr. 1. Brief van het presidium, Een voorstel voor een tijdelijke commissie digitale toekomst.

Kamerstuk 35 230, nr. 2. Initiatiefnota van het lid van Dijk, De herovering van de platformeconomie.

Kamerstuk 35 257, nr. 2. Voorstel van wet van het lid Verhoeven houdende een regeling voor een afwegingsproces voor het gebruik van kwetsbaarheden in geautomatiseerde werken door de overheid (Wet Zerodays Afwegingsproces).

Kamerstuk 35 300-VII, nr. 43. Gewijzigde motie van het lid Middendorp, De Nederlandse positie ten opzichte van de Digital Services Act (t.v.v. Kamerstuk 35 300-VII, nr. 12 ).

Kamerstuk 26 643, nr. 640. Brief van de Staatssecretaris van Economische Zaken en Klimaat, Strategisch Actieplan voor Artificiële Intelligentie.

Kamerstuk 26 643, nr. 641. Brief van de Minister voor Rechtsbescherming, Waarborgen tegen risico’s van data-analyses door de overheid.

Kamerstuk 26 643, nr. 642. Brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties, AI, publieke waarden en mensenrechten.

Kamerstuk 26 643, nr. 679. Verslag van een Algemeen Overleg gehouden op 11 maart 2020, Digitalisering.

Kamerstuk 34 972, nr. 20. Gewijzigd amendement van de leden Middendorp en Verhoeven tvv nr. 16, Een online identiteit.

2020D08008. Position Paper VNG t.b.v. het rondetafelgesprek «Instituties» van de Tijdelijke Commissie Digitale Toekomst dd. 2 maart 2020.

Kamerstuk 35 212, nr. 3. Brief van de Minister Rechtsbescherming, Reactie op Initiatiefnota van het lid Middendorp: Menselijke grip op algoritmen (Kamerstuk 35 212, nr.2 ).

Kamerstuk 35 229, nr. 2. Verslag van een rondetafelgesprek, gehouden op 23 september 2019, in het kader van een openbare kennisbijeenkomst.

Kamerstuk 35 229, nr. 3. Verslag van een rondetafelgesprek, gehouden op 9 september 2019, in het kader van een openbare kennisbijeenkomst.

Kamerstuk 35 229, nr. 4. Verslag van een rondetafelgesprek, gehouden op 30 september 2019, in het kader van een openbare kennisbijeenkomst.

Kamerstuk 35 229, nr. 5. Verslag van een rondetafelgesprek, gehouden op 17 februari 2020, «Wettelijk kader en toezicht».

Kamerstuk 35 229, nr. 6. Publicatie Grip op digitalisering: rode draden uit tien jaar Rekenkameronderzoek.

Kamerstuk 35 229, nr. 7. Verslag van een rondetafelgesprek, gehouden op 2 maart 2020, Instituties.

Kamerstuk 35 229, nr. 8. Verslag van een rondetafelgesprek, gehouden op 2 maart 2020, Stakeholders.

Jurisprudentie

Rb Den Haag, 5 februari 2020, CLI:NL:RBDHA:2020:865

Besluiten

Stcrt. 2017, nr. 74580, Overzicht stelsel van onderraden en ministeriële commissies, Ministerie van Algemene Zaken

---

1. Zie ook het factsheet dat professor dr. Jos Baeten (universiteit van Amsterdam) heeft opgesteld hierover op verzoek van TCDT. Raadpleegbaar via www.tweedekamer.nl.↩︎

2. Stichting Toekomst de Techniek publiceerde onlangs vier scenario’s voor de toekomst van AI in Nederland, zie https://detoekomstvanai.nl/↩︎

3. Deze indeling is ontleend van het rapport Opwaarderen (2017) van het Rathenau Instituut.↩︎

4. Vanuit deze vragen begonnen SETUP en Waag met een gedeeld onderzoek naar slim speelgoed – AI AI Barbie: https://waag.org/nl/article/slim-speelgoed-wat-ons-antwoord↩︎

5. In de rapporten In Regels voor het mensenpark (2017) en Regel het digitale mensenpark beter (2017) doet het Rathenau Instituut hiertoe een aanzet.↩︎

6. Zie hiervoor ook het factsheet dat prof. dr. Liesbet van Zoonen opstelde op verzoek van TCDT. Raadpleegbaar via www.tweedekamer.nl↩︎

7. De Radboud Universiteit, de Universiteit Utrecht en het Rathenau Instituut hebben onderzoek gedaan voor de TCDT. In dit hoofdstuk steunen we op deze onderzoeken. De drie onderzoeken zijn raadpleegbaar via www.tweedekamer.nl.↩︎

8. Kennis is macht, rapport Klankbordgroep Versterking Kennis- en Onderzoeksfunctie Tweede Kamer (KVKO), november 2016.↩︎

9. Raadpleegbaar via www.tweedekamer.nl↩︎

10. Raadpleegbaar via www.tweedekamer.nl↩︎

11. Raadpleegbaar via www.tweedekamer.nl↩︎

12. Raadpleegbaar via www.tweedekamer.nl↩︎

13. https://debatgemist.tweedekamer.nl/debatten/symposium-met-eurocommissaris-margrethe-vestager↩︎