Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2020-2021

26 643 Informatie- en communicatietechnologie (ICT)

Nr. 720 BRIEF VAN DE STAATSSECRETARIS VAN ECONOMISCHE ZAKEN EN KLIMAAT

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 3 december 2020

Hierbij ontvangt u, mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties (BZK) en de Minister voor Rechtsbescherming, de reactie op het rapport «Verantwoord virtueel; bescherm consumenten in virtual reality» van het Rathenau Instituut.

In het najaar van 2019 publiceerde het Rathenau Instituut het onderzoeksrapport «Verantwoord Virtueel; bescherm consumenten in virtual reality»¹. Dit onderzoek past in een reeks onderzoeken naar nieuwe technologieën die de interactie met de computer en de digitale wereld veranderen en die immersief zijn (technologieën waarin we worden ondergedompeld). In dit kader zijn onlangs ook onderzoeken verschenen over augmented reality en spraaktechnologie. In het eerste deel van deze brief wordt een overzicht gegeven van de belangrijkste uitkomsten en aanbevelingen van het onderzoek. Het tweede deel bevat de kabinetsreactie op de conclusies en beleidsadviezen. Deze reactie heeft enige tijd op zich laten wachten in verband met de noodzakelijke interdepartementale afstemming.

Rapport «Verantwoord Virtueel; bescherm consumenten in virtual reality»

Met Virtual Reality (VR) kan een mens zich verplaatsen in een virtuele driedimensionale omgeving. Met behulp van een VR-bril en andere accessoires kunnen gebruikers zich vrijelijk door een door computers gegenereerde omgeving bewegen en interacties aangaan met elkaar en met objecten in deze virtuele wereld. VR vertoont gelijkenissen met bestaande mediatechnologie, zoals gaming en sociale media, maar VR onderscheidt zich op twee belangrijke aspecten van bestaande mediatechnologie. Ten eerste is VR een immersieve technologie die VR-gebruikers volledig onderdompelt in de door computers gegenereerde omgeving. VR-sets sluiten de zintuigen van gebruikers af van de buitenwereld. Daardoor wordt de suggestie versterkt dat men daadwerkelijk in de virtuele wereld aanwezig is. Ten tweede is VR een intieme technologie. Via sensoren in VR-brillen kunnen tal van persoonlijke biometrische data worden verzameld. Het meten van de motoriek van gebruikers, inclusief hoofd- en lichaamsbewegingen, oogbewegingen, gezichtsuitdrukkingen en gebaren, kan aldus de onderzoekers verregaande inzichten geven in iemands persoonlijkheid en voorkeuren. Volgens hen is bij VR de versmelting tussen mens en computer haast volledig.

Het rapport schetst een reeks zorgen en vraagstukken bij het toenemende gebruik door consumenten van VR. Er worden vier groepen van risico’s onderscheiden:

1. lichamelijke en mentale risico’s;

2. sociale risico’s;

3. machtsmisbruik, waaronder misbruik marktmacht;

4. juridische risico’s zoals privacy schendingen.

In het rapport worden als lichamelijke en mentale risico’s, verslaving, het verdwijnen van de grens tussen de reële en de virtuele wereld of een overmatige betrokkenheid genoemd. Deze risico’s kunnen leiden tot sociale vervreemding. Naast deze vervreemding worden ook sociale risico’s gezien die verbonden zijn aan extreme content, zoals seksuele en/of agressieve beelden die kunnen leiden tot grensoverschrijdend gedrag in de fysieke wereld. De vraag of je bijvoorbeeld moord en ander – in de fysieke wereld – onrechtmatig gedrag moet toestaan in VR, dient volgens de onderzoekers serieus genomen te worden vanwege het immersieve karakter van VR.

Bij machtsmisbruik gaat het om het verzamelen van intieme en biometrische persoonlijke data en de mogelijkheid van ontwikkelaars en aanbieders om virtuele werelden, objecten en avatars te manipuleren – zonder dat de gebruiker het merkt en zonder toestemming – om zo het gedrag van gebruikers te beïnvloeden. Zowel de hardware, de software, de content, als de infrastructuur van de virtuele wereld wordt ontwikkeld door een klein aantal grote techbedrijven, wat volgens de onderzoekers leidt tot een ongewenste machtsconcentratie. VR bevindt zich volgens hen in een grijs gebied waarin een aantal juridische en rechtsfilosofische vraagstukken samenkomt en waaraan een aantal juridische risico’s kleeft, met name op het gebied van privacy of de status van virtuele entiteiten. De onderzoekers vragen zich bijvoorbeeld af wat privacy betekent in de virtuele wereld en of schade aan virtuele entiteiten gelijk kan worden gesteld aan schade aan echte entiteiten, en zo ja, in welke mate?

Daarnaast worden in het rapport een aantal bevindingen en beleidsadviezen gepresenteerd. Op de eerste plaats wordt gesignaleerd dat er momenteel sprake is van een groeiende kloof tussen enerzijds het gebrek aan politieke aandacht en anderzijds de noodzaak van de tijdige ontwikkeling van kaders om deze technologie in te bedden. Om de maatschappelijke en persoonlijke risico’s van VR te kunnen begrenzen, stellen de onderzoekers de volgende vier maatregelen voor:

1. Breng (inter)nationaal debat op gang over ethiek van VR

2. Stel kaders op voor de maatschappelijke inbedding van VR

3. Informeer en bescherm VR-consumenten goed

4. Verricht onderzoek naar de (langetermijn)effecten van VR

Om het debat over VR op gang te brengen wordt gewezen op de noodzaak consumenten te informeren en een politiek discussie te voeren over thema’s als machtsmisbruik en de lichamelijke, mentale, en sociale risico’s van VR. Daarnaast wordt de oproep gedaan te verhelderen wat de bestaande reguleringskaders betekenen voor VR en in hoeverre VR om nieuwe specifieke kaders vraagt. Denk aan het reguleren van het delen van specifieke biometrische data die via VR beschikbaar komen. Het goed informeren over en het beschermen van de consument tegen mogelijke schadelijke gevolgen van VR is volgens de onderzoekers essentieel. Mensen geven in VR hun meest intieme data af en worden kwetsbaar ten opzichte van marktpartijen, maar ook ten opzichte van andere mensen. Het is nodig om consumenten voor te lichten over de persoonlijke en intieme data die zij genereren in VR en de manier waarop dit een inbreuk kan vormen op hun privacy en autonomie. VR-platforms zijn geen privéruimtes in het publieke domein maar zijn markten waarin wordt betaald of geruild met geld en data. Voorts wordt de aanbeveling gedaan meer onderzoek te verrichten naar de (langetermijn)effecten van VR. Zo bestaan er volgens de onderzoekers kennislacunes over de effecten van onderdompeling in VR, of over de vraag welke VR-ervaringen verstorende en negatieve effecten hebben op gebruikers.

Kabinetsreactie

Het kabinet is gevoelig voor de zorgen en de in het rapport gesignaleerde vraagstukken bij het toenemende gebruik door consumenten van VR. Aandacht voor de maatschappelijke vraagstukken bij technologie is een voorwaarde voor het succesvol benutten van de kansen van technologie. In onder andere de Nederlandse Digitaliseringstrategie besteedt het kabinet aandacht aan grondrechten en ethische vraagstukken in de digitale tijd.² Digitale toepassingen bieden kansen, maar zijn zelden zonder risico’s. Daarom zet het kabinet in op het beschermen van fundamentele rechten en het vergroten van de digitale weerbaarheid van burgers en bedrijven, om Nederland de ruimte te bieden voor het benutten van de kansen die digitalisering biedt.

VR is geen nieuw technologie. Zoals in het rapport wordt aangegeven bestaat de fascinatie voor VR al sinds de jaren vijftig. De onderzoekers verwachten dat de snelle ontwikkelingen van de afgelopen jaren zich voort zullen zetten. Hoewel de markt voor VR, aldus het rapport nog klein is en weinig gebruikers bereid zijn te betalen voor VR content, wordt in het rapport de verwachting uitgesproken dat de markt de komende jaren snel zal groeien. De motivering hiervoor is dat goedkopere en meer comfortabele VR-headsets op de markt komen. Het kabinet wijst er op dat naast de consumententoepassingen van VR, waar dit onderzoek zich op richt, ook niet-commerciële toepassingen in publieke sectoren zoals zorg en onderwijs betekenisvol kunnen zijn. Een recente nieuwe toepassing is er bijvoorbeeld in het medische domein, waar een longchirurg met behulp van een VR-bril tijdens de operatie driedimensionaal kan zien waar de tumor zich bevindt.

De zorgen rondom VR zijn niet nieuw. De in het rapport gesignaleerde risico’s en ethische en sociale vraagstukken op het gebied van privacy, autonomie, fysieke en mentale integriteit, toegang tot technologie, en de vereisten die gesteld worden aan consumententechnologie, bestaan ook voor andere digitale toepassingen of (digitale) spelvormen. Als gevolg van het vooralsnog beperkte gebruik van VR zijn de risico’s en problemen die hieraan zijn verbonden in kwantitatieve zin nog beperkt. Het kabinet heeft aandacht en zorg voor de risico’s, naast de eigen verantwoordelijkheid hiervoor van bedrijven en consumenten. Het kabinet zet bij de aanpak van gameverslaving in op preventie en voorlichting, adequate behandeling en handhaving van bestaande regelgeving. Hierover bent u door de Minister voor Rechtsbescherming geïnformeerd in zijn reactie op het bericht «Verbied verslavende games voor minderjarigen»³. Daarnaast wordt in opdracht van het Ministerie van BZK een Code voor Bescherming van Kinderrechten Online ontwikkeld. Dit om ervoor te zorgen dat deze kwetsbare groep beter beschermd wordt tegen online risico’s. Verder laat het Ministerie van BZK door het Trimbos Instituut onderzoek doen naar manipulatie van gedrag in mediaproducten en games. Het beoogde doel daarvan is meer inzicht te krijgen in de gedragsbeïnvloeding in games en mediaproducten, zodat een taxonomie en een onderzoeks- en beleidsagenda vastgesteld kunnen worden.

Dit is urgent omdat het de wereld buiten de industrie van mediaproducten niet duidelijk is waarop de ontwerpkeuzes van leveranciers zijn gebaseerd. Er ontbreekt een gemeenschappelijke taal.

Voor het misbruik van marktmacht of privacy-schendingen geldt dat er in wetgeving normatieve kaders zijn, die voor economische activiteiten in brede zin gelden. Producenten van VR en degenen die VR toepassen dienen, voor zover het gaat om de verwerking van persoonsgegevens, in overeenstemming te handelen met de Algemene verordening gegevensbescherming, de Uitvoeringswet AVG en eventuele sectorale privacyregelgeving. Zo is een producent van VR gehouden het ontwerp van een VR-applicatie zo in te richten dat aan de gegevensbeschermingsbeginselen wordt voldaan ter bescherming van betrokkenen (privacy by design). Onder andere in de Nederlandse Digitaliseringsstrategie zijn acties opgenomen die er op gericht zijn om de privacy van mensen te beschermen, niet alleen in de relatie tussen overheid en burgers, maar ook tussen burgers en bedrijven, en dat ze grip hebben op hun persoonsgegevens. Ook zet het kabinet zich actief in voor de totstandkoming en implementatie van een ambitieuze Europese e-privacy verordening. Met de motie van de leden Van der Staaij en Van de Graaf⁴ wordt de regering verzocht te onderzoeken of de verwachte doorbraak van virtuele technologie tot aanpassingen moet leiden van de bestaande reguleringskaders en wettelijke voorschriften. Met het oog op deze motie heeft de Minister voor Rechtsbescherming aan uw Kamer gemeld⁵, dat het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) een onderzoek start naar de mogelijke maatschappelijke gevolgen van immersieve technologie, toegespitst op de vraag of het huidige reguleringskader en de huidige regelgeving voldoen. Na afronding van dit onderzoek zal uw Kamer hierover worden geïnformeerd.

Een concrete vraag die in het rapport wordt opgeworpen is de vraag in hoeverre VR als een biomedische technologie moet worden gezien en gereguleerd. De afgelopen jaren zijn stap voor stap VR-zelfhulpapplicaties beschikbaar gekomen, bijvoorbeeld om mensen te helpen hun post-traumatische stress, spinnenfobie of sociale angststoornis te overwinnen. Volgens de onderzoekers omzeilen bedrijven het dure en tijdrovende proces van medisch onderzoek, en brengen zij steeds vaker simpele varianten van de als medische toepassing ontwikkelde VR op de consumentenmarkt. Het kabinet wijst er op dat VR met een medisch doel dient te voldoen aan de wet- en regelgeving die van toepassing is op medische hulpmiddelen. Hier hoort bij dat gebruikers de benodigde veiligheidsinformatie (waarschuwingen/voorzorgsmaatregelen/contra-indicaties) ontvangen. Vanaf 26 mei 2021 is de nieuwe Europese Verordening Medische hulpmiddelen van toepassing. Met deze verordening worden de regels die gelden voor software (waaronder VR) met een medisch doel aangescherpt. Zo moet er meer klinisch bewijs zijn over de prestaties van de software en beoordeelt een aangewezen instantie of de software aan de regels voor medische hulpmiddelen voldoet. In het rapport worden echter met name voorbeelden aangehaald zonder medisch doel, zoals meditatie applicaties of applicaties voor het overwinnen van spreekangst. De wet- en regelgeving voor medische hulpmiddelen is daarop niet van toepassing. Mocht in de toekomst blijken dat VR in brede zin een gevaar oplevert voor de gezondheid of veiligheid van gebruikers of voor de volksgezondheid, dan biedt de Europese Verordening Medische hulpmiddelen de mogelijkheid om bepaalde regels die gelden voor medische hulpmiddelen ook van toepassing te verklaren op VR zonder medisch doel.

Om de maatschappelijke en persoonlijke risico’s van VR te kunnen beheersen stelt het Rathenau Instituut vier maatregelen voor. Ten eerste wordt geadviseerd een (inter)nationaal debat op gang te brengen over de ethiek van VR. Dit is in lijn met het kabinetsbeleid om dialogen over technologische ontwikkelingen te organiseren en te stimuleren. In de Nederlandse Digitaliseringsstrategie wordt de wenselijkheid van een brede maatschappelijke dialoog over nieuwe ethische vraagstukken onderschreven. Er zijn in 2019 reeds verschillende «burgerdialogen» over de kansen en risico’s van technologie georganiseerd, waarin een gevarieerde groep burgers met elkaar in gesprek is gegaan over wat zij verwachten van technologieën en wat zij (on)wenselijke ontwikkelingen vinden. De weerslag van deze dialogen kan input zijn voor de kaders voor de maatschappelijke inbedding van VR, waartoe het Rathenau Instituut oproept. ECP, het onafhankelijke platform voor de informatiesamenleving waaraan ook de overheid deelneemt, heeft een model ontwikkeld op het gebied van begeleidingsethiek. Dat model is geschikt voor alle verschillende innovatieve en disruptieve technologieën. Momenteel wordt de werking getoetst bij verschillende organisaties. In het Rathenau-rapport wordt ook voorgesteld VR consumenten te informeren en te beschermen. Het kabinet merkt hierover op dat bescherming en het informeren van consumenten staand beleid is. Onder andere via het dilemmaspel «Tech Twijfels» dat momenteel ontwikkeld wordt, en waarin onder meer middelbare scholieren worden uitgedaagd na te nadenken over de kansen en risico’s van nieuwe technologieën voor mensenrechten, zet het kabinet actief in op voorlichting over de effecten van technologieën op publieke waarden en grondrechten. Voor kinderen van basisscholen was er in 2019 een speciale editie van Donald Duck met een lespakket over technologie en grondrechten. Tot slot wordt in het rapport geadviseerd onderzoek te verrichten naar de (langetermijn)effecten van VR. Naar dergelijke effecten zal deels worden gekeken in het eerder genoemde WODC onderzoek, waar het effecten betreft die aanleiding geven voor aanvullende regelgeving met betrekking tot immersieve technologie. Na afronding van dit onderzoek zal uw Kamer hierover worden geïnformeerd door de Minister voor Rechtsbescherming.

De Staatssecretaris van Economische Zaken en Klimaat,
M.C.G. Keijzer

---

1. https://www.rathenau.nl/nl/digitale-samenleving/verantwoord-virtueel↩︎

2. Kamerstuk 26 643, nr. 709.↩︎

3. Kamerstuk 24 557, nr. 170.↩︎

4. Kamerstuk 35 300 VI, nr. 73.↩︎

5. Kamerstuk 26 643, nr. 689↩︎