Preview document (🔗 origineel)

---

Bijlage bij de Kabinetsreactie AIV Advies Regulering van Online Content.

In deze bijlage worden de individuele adviezen van de AIV naast de beleidspraktijk gelegd.

1. Herijk het Nederlandse internetbeleid

De AIV stelt dat het huidige Nederlandse internetbeleid traditioneel leunt op zelfregulering door de internetsector. Dit draagt het risico met zich mee dat internetplatforms, hosting- en tech bedrijven een te grote zeggenschap krijgen over zowel regelgeving als handhaving en toezicht. Om dit tegen te gaan, adviseert de AIV een herijking van het Nederlandse internetbeleid, waarbij een verschuiving plaatsvindt van zelfregulering naar vormen van co-regulering en een actieve rol voor de overheid.

De inzet van het Nederlandse internetbeleid is de afgelopen jaren altijd een open, vrij en veilig internet geweest. Naar aanleiding van het AIV advies ziet het kabinet dat binnen deze inzet twee onderdelen beter gearticuleerd moeten worden, overigens zonder dat daarmee wordt afgeweken van het bestaande beleid. Het betreft het onderscheid tussen regulering van het internet en regulering op het internet. Als het gaat om regulering van het internet, doelt het kabinet op het internet als wereldwijde communicatie-infrastructuur. Inzet is dat deze open, vrij en wereldwijd verbonden moet blijven. Met regulering op het internet doelt het kabinet op de notie dat de rechten en plichten die offline gelden, ook online van toepassing zijn. Zo is bijvoorbeeld content die offline verboden is, online ook.

Het internet als wereldwijde communicatie-infrastructuur, regulering van het internet.

Het kabinet wil het internet als wereldwijde open communicatie-infrastructuur behouden. Het gaat dan over de standaarden, protocollen en procedures voor de kernfunctionaliteit van het internet: wat nodig is om veilig communicatie plaats te laten hebben vanaf ieder willekeurige internetaansluiting naar ieder gewenste internetaansluiting. Zo zet het kabinet in op behoud van de gedecentraliseerde structuur van het internet en de besturing daarvan via multi-stakeholder processen en multilaterale instellingen. Het kabinet onderstreept het belang van het open, vrij en veilig blijven van deze technische kern, die geen geopolitieke speelbal of strijdtoneel mag worden. Bij het vormgeven van deze technische kern moeten multi-stakeholder organisaties zoals bijvoorbeeld ICANN¹, IETF² en IEEE³ aan zet blijven. Deze wereldwijde technische infrastructuur is een noodzakelijke voorwaarde voor het goed functioneren van de verbindingen tussen en met alle toepassingen en content op het internet.

Nederland heeft zich de afgelopen jaren op verschillende wijzen ingezet voor een vrij, veilig en open internet. Zo maakte Nederland zich sterk in de VN om de kern van het internet te beschermen, en sinds afgelopen jaar is door de VN aangenomen dat deze kritieke infrastructuur niet aangevallen mag worden met hack-aanvallen.⁴ Ook heeft de mensenrechtenraad bevestigd dat toegang tot het internet als een mensenrecht moet worden gezien, mensenrechten offline ook online gelden en de toegang tot het internet niet door staten bemoeilijkt zou mogen worden. ⁵

Online rechten en regels: regulering op het internet

De afgelopen jaren zijn de zorgen over de impact van online content flink gegroeid. Dit komt onder meer door de inzet van dergelijke content bij het beïnvloeden van democratische verkiezingen, de verspreiding van terroristische online content, hate speech en desinformatie. Nieuwe Europese voorstellen (Digital Services Act en de nieuwe gedragscode ter bestrijding van desinformatie) markeren een accentverschuiving van zelfregulering naar een samenspel van regels die Europese normen en waarden centraal stellen en meer verantwoordelijkheid eisen van online platformen.

Het blijft voor het kabinet van belang dat deze wetsvoorstellen geen afbreuk doen aan fundamentele rechten zoals de vrijheid van meningsuiting, maar die juist waarborgen. Overheidsingrijpen moet bijdragen aan een open, vrij, veilig én democratischer internet.

In een kamerbrief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties is onlangs uiteengezet wat de randvoorwaarden zijn voor platformen om zelf te bepalen welke content zij op hun diensten toestaan en hoe zij dat modereren. Ook is het toepasselijk juridisch kader beschreven en uitgelegd welke rol de overheid speelt. Verder besteedt de brief aandacht aan de noodzakelijke verschillen in aanpak van illegale content enerzijds en die van overige vormen van ongewenste content⁶ anderzijds.

Zoals ook in die brief is beschreven stelt de Digital Services Act (DSA) nieuwe kaders voor de wijze waarop online platformen om moeten gaan met hun verantwoordelijkheid voor de uitoefening van grondrechten op hun diensten. Zo bepaalt het voorgestelde artikel 12 van de DSA dat online platformen bij het toepassen van hun gebruiksvoorwaarden gepaste aandacht moeten hebben voor de rechten en gewettigde belangen van alle betrokken partijen, waaronder de van toepassing zijnde, in het Handvest verankerde, grondrechten van de afnemers van de dienst.

Verder verplicht de DSA zeer grote online platforms om te onderzoeken of hun dienstverlening bepaalde systemische risico’s in zich heeft, en zo ja, daar maatregelen tegen te nemen. Als automatische content-moderatie door deze ondernemingen bijvoorbeeld een negatief effect heeft op de uitoefening van de grondrechten, de vrijheid van meningsuiting en van informatie en non-discriminatie, dan moeten deze ondernemingen maatregelen nemen om dit te adresseren. Het kabinet steunt deze benadering.

Tenslotte wordt er in de Digital Services Act een verdere basis gelegd voor meer co-regulering van deze platformen. Het kabinet ziet daarin mogelijkheden om samen met internetbedrijven normen en standaarden te blijven ontwikkelen om het open en vrije internet te blijven waarborgen.

2. Verdedig en bevorder het open en vrije karakter van het internet op basis van democratische en rechtsstatelijke waarden

De AIV stelt dat het open en vrije karakter van het internet onder druk staat door pogingen van landen om het nationale internet af te schermen of los te koppelen van de rest van de wereld. Nederland zou in moeten zetten op het verdedigen en bevorderen van het open en vrije karakter van het internet, maar dat moet wel plaatsvinden binnen de grenzen van democratische en rechtsstatelijke waarden (waaronder in het bijzonder de bescherming van mensenrechten). ⁷

Hierboven, in reactie op de eerste aanbeveling, is het kabinet ingegaan op hoe het de democratische en rechtsstatelijke waarden binnen Europa wil blijven beschermen. In die Europese context (met name de Digital Services Act) gaat het voornamelijk om regulering op het internet. Echter, de organisatie van het internet zou idealiter ook moeten voldoen aan democratische, rechtsstatelijke en mensenrechtelijke waarden.

Dat het van belang is dat de organisatie van het internet - dus op het niveau van protocollen en beheer van de fysieke infrastructuur - hieraan voldoet, komt duidelijk naar voren wanneer men ziet dat het internet ook gebruikt wordt door antidemocratische en anti-rechtsstatelijke actoren om hun doelen na te streven. Zie bijvoorbeeld de toename van het aantal internet shutdowns⁸ en het aantal overheden dat Internet Service Providers verplicht om de bandbreedte zodanig in te perken dat het internet niet praktisch meer functioneert, of het monitoren van het surfgedrag van het internet gebruikers.

Daarbij is het onwenselijk wanneer onbetrouwbare, autoritaire staten technologie in handen krijgen die van groot belang is voor de veiligheid van Nederland en de EU, zoals cybersurveillancegoederen en -technologieën. Bovendien is het van belang om geen technologie te verhandelen met autoritaire staten, die gebruikt kan worden om het vrije internet verder te ondermijnen. Nederland spant zich internationaal in om aanvullend cybersurveillancegoederen in relatie tot mensenrechtenschendingen onder exportcontrole te brengen.

3. Versterk de Nederlandse vertegenwoordiging in internationale internetorganisaties.

De AIV beschrijft dat Nederland sterker kan worden vertegenwoordigd bij organisaties als de Internet Corporation for Assigned Names and Numbers (ICANN), de Internet Engineering Task Force (IETF), het Internet Governance Forum (IGF) en de International Telecommunications Union (ITU). Omdat internet governance van grote invloed is op de online content die beschikbaar is, is het van groot belang dat Nederland invloed uit blijft oefenen op internet governance, om zo een vrij, open en veilig internet te beschermen.

Dankzij de verdere digitalisering van de wereld, neemt ook het (geopolitieke) belang van deze internationale internetorganisaties toe. Onderhandelingen over de technische inrichting van het internet zijn meer en meer onderdeel van het geopolitieke spel geworden. Deze ontwikkeling maakt regulering van het internet kwetsbaarder voor een (te) grote rol van overheden.

Nederland moet hierin niet naïef zijn, en zal in besprekingen in de ITU naast de beleidsmatige en technische kant ook het geopolitieke perspectief moeten meewegen. Hierbij moet goed in beeld blijven wat de internationaal (mensen)rechtelijke risico’s zijn ten aanzien van nieuwe protocollen of standaarden.

Nederland zal samen met gelijkgezinde landen tegenwicht blijven bieden in organisaties als ITU om te voorkomen dat stappen in de richting van centralisatie van het internet gezet worden. Overheden moeten de kernfunctionaliteit van het internet beschermen, juist door afspraken te maken dat zij zich niet vanuit de invalshoek “statelijke controle” mengen in het technisch beheer en de besturing van het internet. Het gedeelde publieke belang wordt het best geborgd in het multi-stakeholder model dat ipso facto recht doet aan de belangen van alle betrokkene partijen, publiek en privaat.

Zoals in de brief beschreven, zal het kabinet zich bij het uitwerken van de nieuwe internationale cyberstrategie ook buigen over een mogelijke versterking van Nederlandse vertegenwoordiging in deze internationale internetorganisaties. Hierbij zal ook gekeken worden naar het stimuleren van deelname door Nederlandse non profit organisaties of het Nederlandse bedrijfsleven.

4. Stimuleer internationale normstelling voor de aanpak van schadelijke online content met een stevige verankering in bestaande mensenrechtenstandaarden.

De AIV adviseert dat er internationale normen moeten komen voor de aanpak van schadelijke content online, met een stevige verankering in bestaande mensenrechtenstandaarden. Ten eerste zou Nederland dit op Europees niveau moeten propageren, en daarnaast ook nog in de Raad van Europa of de VN mensenrechtenraad.

Het kabinet is voor duidelijke internationale normen in de aanpak van schadelijke content online en onderschrijft het belang dat deze verankerd zijn in mensenrechtenstandaarden. De Europese Unie heeft hierin een belangrijke functie en geeft daar bijvoorbeeld invulling aan met de voorgestelde Digital Services Act. De steun van het kabinet voor dat voorstel diende mede ter uitvoering van deze aanbeveling.

Internationale normstelling voor de aanpak van schadelijke online content is vooral een uitdaging wanneer het gaat om ongewenste, maar niet illegale content. Dit is een ingewikkelde afweging omdat de vrijheid van meningsuiting het uitgangspunt is en bijzonder zwaar weegt, maar ook omdat tech platformen in beginsel veel vrijheid hebben om zelf te bepalen wat de gebruiksvoorwaarden van hun diensten zijn.

Zoals de Minister van Binnenlandse Zaken en Koninkrijksrelaties in de bovengenoemde kamerbrief schreef : “Een komend kabinet moet de spanning tussen de vrijheid van meningsuiting en de bewegingsruimte en veiligheid van burgers online, en de rol van de overheid daarbij verder onderzoeken. Wat in ieder geval van belang is, is dat gebruiksvoorwaarden, en vooral ook de toepassing ervan, de grondrechten van gebruikers niet ontoelaatbaar beperkt. Daarom is het positief dat in artikel 12 van de DSA wordt geregeld dat online platformen bij het toepassen van hun gebruiksvoorwaarden gepaste aandacht moeten hebben voor de rechten en gewettigde belangen van alle betrokken partijen, waaronder de van toepassing zijnde, in het Handvest verankerde, grondrechten van de afnemers van de dienst.”⁹

Vanwege de reikwijdte van het internet en de verschillende online platforms is het van belang dat de platforms en tech bedrijven betrokken zijn bij het vormgeven van internationale normen rondom content-moderatie en internet governance. Alleen met hun ondersteuning kan ervoor gezorgd worden dat aanpak van schadelijke content ook technisch mogelijk, uitvoerbaar, en handhaafbaar is. Daarbij doen verschillende maatschappelijke organisaties en onderzoekers onderzoek naar de (onbedoelde) effecten van dergelijk beleid. Deze Nederlandse multi-stakeholder aanpak moet er voor zorgen dat er duidelijke normen gesteld worden die zowel technisch haalbaar, uitvoerbaar en handhaafbaar zijn, en aan bestaande mensenrechtenstandaarden voldoen. Nederland acht de inbreng van onafhankelijke onderzoekers onmisbaar bij de vormgeving van dit soort normen en zet zich ervoor in dat hen ook toegang tot platformdata gegeven wordt.

5. Initieer maatregelen gericht op transparantie en toezicht

Cruciaal in deze beoogde normstelling is de bepaling welke online content wanneer gerechtvaardigd door wie verwijderd mag worden. De AIV merkt in zijn advies terecht op dat het moeilijk is om hier een duidelijke lijn te trekken. Wanneer content illegaal is, is dit relatief eenvoudig: zo is discriminatie, het verspreiden van online terroristische content of kindermisbruik altijd illegaal. Hier gaan de online en offline wereld gelijk op. Daar waar platformen ongewenste, maar niet illegale- content op basis van hun gebruiksvoorwaarden verwijderen of op andere wijze modereren, moet dit transparant gebeuren en er bezwaar gemaakt kunnen worden.

De AIV stelt dat platformen verplicht moeten worden om transparantierapporten op te stellen. Dit is onderdeel van de DSA. Deze transparantierapporten moeten duidelijkheid verschaffen in de aanpak van onrechtmatige en schadelijke content. Ook moeten zij inzicht geven in de gebruikte advertentiesystemen. Verder moeten online platformen onder de DSA hun beslissingen om bijvoorbeeld informatie te verwijderen duidelijk motiveren. Dat leidt tot meer transparantie. Gebruikers moeten verder de mogelijkheid hebben om tegen die beslissingen in beroep te gaan. Onder de DSA moet het modereren van informatie gebeuren op grond van voorwaarden die publiekelijk kenbaar en begrijpelijk zijn. Er moet verantwoording over worden afgelegd en het moet voor mensen makkelijk zijn tegen deze beslissingen in beroep te gaan. Op de naleving van deze verplichting zal onafhankelijk toezicht moeten worden gehouden. Ter uitvoering van deze aanbeveling steunt het kabinet de DSA op deze onderdelen.

6. Stimuleer value sensitive design en digital commons

De AIV stelt voor om middelen beschikbaar te stellen voor onderzoek naar value sensitive design en deze te investeren in alternatieven voor internetdiensten. Nederland zet zich in voor naleving van de United Nations Guiding Principles on Business and Human Rights door tech bedrijven. Ook bestaan er tal van Nederlandse en Europese initiatieven en duurzame alternatieven voor bestaande private internetdiensten, die value sensitive design, privacy by design en digital commons al implementeren.

Op Europees niveau zou wet- en regelgeving die interoperabiliteit tussen platformen afdwingt ook een verschil kunnen maken. Veel gebruikers willen wel overstappen naar duurzame alternatieven voor bestaande internetdiensten, maar ervaren het probleem dat al hun contacten mee zouden moeten overstappen. Op deze wijze zijn de gebruikers ingesloten bij een bepaalde aanbieder. Door interoperabiliteit te stimuleren of verplicht te maken, krijgen duurzame alternatieven voor bestaande internet diensten een kans.

7. Betrek onafhankelijke nationale expertorganen bij de beoordeling van schadelijke online content

De AIV stelt terecht dat de beoordeling of content illegaal of schadelijk is, afhankelijk is van de context waarin die uitlatingen zijn gedaan. De AIV raadt aan dat onafhankelijke expertorganen een rol kunnen spelen bij het bepalen van de criteria voor de beoordeling en verwijdering schadelijke content die tevens illegaal is.

Het tegengaan van illegale/onrechtmatige content ligt enerzijds bij internetdiensten zelf en anderzijds bij bevoegde toezichthouders. Zij zullen adequaat en transparant op moeten treden, met heldere (beroeps)procedures voor de gebruikers wier content verwijderd is.

Het kabinet is inmiddels in een vergaand stadium om een autoriteit op te richten die erop zal toezien dat evident strafbare content wordt verwijderd: de Autoriteit Online Terroristisch en Kinderpornografische Materiaal (ATKM). Deze autoriteit zal inzetten op twee taken: de bestrijding van online kinderpornografisch materiaal én de bestrijding van verspreiding van online terroristisch materiaal. ¹⁰ Gelet op de waarborgen die mensenrechtenverdragen en de Grondwet bieden met betrekking tot (beperking van) de vrijheid van meningsuiting is gekozen voor een zelfstandig bestuursorgaan, waarmee het op grote afstand van de regering staat.

Bij andere schadelijke, maar niet illegale content, ligt het initiatief bij de online platformen. Zij kunnen hun gebruiksvoorwaarden zo formuleren en toepassen dat zij content die zij onwenselijk vinden kunnen tegengaan. Bij het toepassen hiervan zullen deze partijen aandacht moeten hebben voor de (fundamentele) rechten en gewettigde belangen van alle betrokken belanghebbenden, waaronder de gebruikers van de dienst. Hier valt de vrijheid van meningsuiting ook onder.

8. Pleit voor een zorgplicht voor internetplatformen, onder duidelijke randvoorwaarden

De AIV stelt voor dat Nederland zich inspant om duidelijke regels te ontwikkelen in het vormgeven van de zorgplicht van internet platformen. Bij het opstellen van de deze regels voor zorgplicht en aansprakelijkheid dient volgens de AIV rekening gehouden te worden met de aard, omvang en markmacht van de internetplatformen. Ook moet er nadrukkelijk rekening worden gehouden met neveneffecten zoals (zelf)censuur. Het kabinet heeft dit ook overwogen in reactie op een rapport van de Radboud Universiteit over de bestrijding van illegale inhoud online.¹¹ Naar aanleiding hiervan zijn er voorstellen gedaan tijdens de onderhandelingen over de DSA en is het draagvlak bij andere lidstaten onderzocht. Uw kamer is hierover geïnformeerd via de geannoteerde agenda’s voor de Raad voor Concurrentievermogen van 27-28 mei en 25-26 november en de Commissiedebatten daarover.¹²

9. Maak de gebruikersvoorwaarden van internetplatformen mensenrechten-inclusief

De AIV stelt dat internetplatformen via hun gebruiksvoorwaarden in belangrijke mate bepalen in hoeverre en in welke situaties online content verwijderd kan worden. Hierbij hebben zij een ruimte discretionaire bevoegdheid. Nederland zet zich in voor naleving van de United Nations Guiding Principles on Business and Human Rights door tech bedrijven. Zo is bij de onderhandelingen over de DSA in de Raad voorgesteld om duidelijk te maken dat bedrijven bij het uitvoering geven aan het eerder genoemde artikel 12 hier gebruik van kunnen maken. In de tekst die de Raad voor Concurrentievermogen op 25 november 2021 heeft vastgesteld is dit geborgd.

10. Vergroot de digitale weerbaarheid van internetgebruikers

De AIV wijst op het belang van het vergroten van de digitale weerbaarheid van internetgebruikers. Voor hen is het immers niet altijd eenvoudig om schadelijke content te herkennen of de gevolgen van bepaalde content te overzien. Het kabinet zet in op onderwijs en voorlichting om burgers digitaal weerbaarder te maken. Zo werkt het Ministerie van Binnenlandse Zaken samen met het Netwerk Mediawijsheid om burgers te informeren over de werking van mis- en desinformatie en hoe je kan herkennen of een bericht betrouwbaar is, onder meer via de website www.isdatechtzo.nl. Ook werkt de Curriculumcommissie op verzoek van het ministerie van Onderwijs Cultuur en Wetenschap aan een herziening van het curriculum voor het onderwijs; hierin krijgen digitale geletterdheid en mediawijsheid een prominente rol.

[Ondertekenaar 3]	[Ondertekenaar 4]

---

1. Internet Corporation for Assigned Names and Numbers↩︎

2. Internet Engineering Task Force↩︎

3. Institute of Electrical and Electronics Engineers↩︎

4. A/RES/76/19, Developments in the field of information and telecommunications in the context of international security↩︎

5. A/HRC/RES/20/8, The promotion, protection and enjoyment of human rights on the Internet↩︎

6. Kamerstukken II 2020/21, 26643 nr. 782↩︎

7. AIV, Regulering van online content, p11↩︎

8. Zie bijvoorbeeld de website Internet Shutdowns van Internet Society (https://pulse.internetsociety.org/shutdowns)↩︎

9. Kamerstukken II 2020/21, 26643 nr. 782↩︎

10. Kamerstukken II 2020/21, 31 015, nr. 208↩︎

11. Kamerstukken II 2020/21, 22 112 nr. 3141, blg-988746.↩︎

12. Kamerstukken II 2020/21, 21 501-30, nr. 533 & Kamerstukken II 2021/22, 21 501-20, nr. 542.↩︎