Preview document (🔗 origineel)

---

Hierbij bied ik uw Kamer het onderzoek ‘Schimmige scheidslijnen:

Juridische, ethische, en praktische uitdagingen bij het detecteren en modereren van terroristische, extremistische en impliciet extremistische content, met respect voor de vrijheid van meningsuiting’ aan. Dit onderzoek is op verzoek van de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV) uitgevoerd door het International Centre for Counter-Terrorism (ICCT), in opdracht van het Wetenschappelijk Onderzoek- en Datacentrum (WODC). Het onderzoek richt zich op de vraag of het haalbaar is een duidingskader voor terroristische, extremistische en in het bijzonder borderline content te ontwikkelen, zonder dat dat ten koste gaat van de vrijheid van meningsuiting.¹ Hoewel borderline content geen strikt terroristisch karakter heeft en niet per definitie tot geweld hoeft te leiden, kan zij wel de veiligheid van burgers en instituties ondermijnen. Dit kan bijvoorbeeld doordat dergelijke uitingen aanzetten tot haat of opruiing, of doordat extremistisch gedachtengoed erdoor wordt genormaliseerd. Dit soort type content vind ik zeer zorgelijk, in het bijzonder vanwege de impact die het kan hebben op jongeren.

Bevindingen en aanbevelingen

Het onderzoek concludeert dat de ontwikkeling van een universeel, betrouwbaar duidingskader voor de detectie van terroristische, illegale en borderline content niet haalbaar is gezien de huidige juridische, technische en ethische omstandigheden. Volgens de onderzoekers zijn er verschillende fundamentele uitdagingen bij het ontwikkelen van een duidingskader voor borderline content. Zo is er geen eenduidige definitie van ‘extremistische content’ en maken extremistische actoren gebruik van steeds veranderende uitdrukkingsvormen en tactieken. Het gebrek aan definities, een grote afhankelijkheid van persoonlijke interpretatie, en vooroordelen van menselijke moderatoren kunnen bovendien leiden tot onjuiste classificatie van content. Indien er op basis van die interpretatie moderatiebeslissingen volgen die de content beperken of verwijderen, vindt een mogelijke inperking van de vrijheid van meningsuiting plaats.

De onderzoekers constateren dat er wel handelingsperspectieven zijn en doen achttien aanbevelingen. Deze zijn gericht aan online platformen, beleidsmakers en coördinerende overheidsactoren, zoals de NCTV en Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM).² Een groot aantal van de aanbevelingen is gericht aan online platformen. Deze aanbevelingen staan in het teken van het doorvoeren van verbeteringen van het detectie- en moderatiebeleid. Het gaat onder andere om het ontwikkelen van duidelijkere definities en referentiekaders voor typen van schadelijke content en het gebruik maken van hybride AI-menselijke moderatiemodellen.

Beleidsmakers wordt aanbevolen om een ‘multistakeholdergroep’ op te richten bestaande uit onder andere deskundigen, gebruikersgroepen en platforms om onder andere te reflecteren op de indicatoren van terroristische en borderline content en hierover publiekelijk te rapporteren. Daarnaast wordt onder meer aanbevolen om het publieke debat te bevorderen over welke schadelijke content als rechtvaardig of als niet-rechtvaardig kan worden gezien en over de autonomie die online platformen mogen hebben bij de moderatie van online content.³ Ook wordt beleidsmakers aanbevolen de digitale weerbaarheid van gebruikers te vergroten door middel van ondersteuning van preventieprogramma’s op onder andere scholen en jongerenorganisaties.

De coördinerende overheidsactoren, zoals de NCTV en de ATKM, wordt onder andere aanbevolen om transparante samenwerking met de online platformen te zoeken en met hen een open discussie te voeren over de gebruikte indicatoren voor het duiden van online content. Ook wordt aanbevolen om een lijst met veelgebruikte uitdrukkingen, specifiek taalgebruik en codetaal – die kenmerkend zijn voor extremistische groepen die online content in Nederland plaatsen – met online platforms te delen. Verder adviseren de onderzoekers om in dialoog met andere Europese lidstaten en de Europese Commissie in te zetten op verdere versterking van Europese regelgevingskaders en in samenwerking met de sector een sector-brede gedragscode te ontwikkelen.

Beleidsreactie

Ik onderschrijf de uitdagingen die de onderzoekers noemen bij het ontwikkelen van een duidingskader. De conclusie, dat de ontwikkeling van een universeel en betrouwbaar duidingskader voor borderline content op dit moment niet haalbaar is, onderken ik.

Dialoog met platformen

Voor het optreden tegen content die zeer onwenselijk is, maar net niet de lat van strafbaarheid haalt, is de overheid grotendeels afhankelijk van de internetsector. Deze sector is in eerste instantie aan zet om te zorgen dat hun gebruikers online veilig zijn. Ik zal het rapport en de daarin gedane aanbevelingen gericht aan deze online platformen daarom actief betrekken in mijn structurele dialoog met de platformen. In deze dialoog zal ik aandacht vragen voor de wijze waarop de aanbevelingen opgevolgd moeten worden. Door de platformen in de dialoog aan te spreken op hun verantwoordelijkheden, zet ik me blijvend in voor het stimuleren van de verantwoordelijkheid van de platformen om een veiligere online omgeving te creëren en te onderhouden. Ik onderschrijf hierbij ook het belang van voldoende menselijke contentmoderatie, waarvan de noodzaak door de onderzoekers in het rapport wordt benadrukt. Daarnaast werk ik aan effectieve interventiemogelijkheden die online radicalisering tegen kunnen gaan, en zoek ik nadrukkelijk de samenwerking met de sector op. Een concreet voorbeeld is de pilot met de ReDirect-methode met Meta, waarbij gebruikers die online zoeken naar terroristische of extremistische content met een informatieveld worden doorgeleid naar online hulp.

De aanbeveling om een ‘multistakeholdergroep’ op te richten, heb ik gedeeld met betrokken partijen, zoals de ATKM en de internetsector. Hierbij ligt de focus vooral op het inzichtelijk maken van zowel de (on)mogelijkheden als de potentiële bijdrage van een dergelijke groep. Over de ontwikkelingen hieromtrent zal ik uw Kamer in de volgende voortgangsbrief over de Versterkte Aanpak Online in het voorjaar van 2026 informeren.

Internationale samenwerking en gedragscode

De onderzoekers pleiten voor Europese samenwerking en het ontwikkelen van een gedragscode met de sector. Ik erken dat internationale samenwerking een belangrijk instrument is in het tegengaan van online extremisme en terrorisme. In dit licht neemt Nederland een actieve rol binnen de Europese Unie en zal op korte termijn, samen met gelijkgezinde lidstaten, de Europese Commissie oproepen om onder meer samen met online platforms een vrijwillige gedragscode op te stellen om hen beter in staat te stellen om verspreiding van illegale content tegen te gaan.

Een belangrijk aanvullend EU-instrument is het EU Internet Forum (EUIF), waar lidstaten, EU-instellingen en online platformen samenwerken om terroristische en onwenselijke online content (bijvoorbeeld borderline content) te bestrijden. Het EUIF heeft onder andere een handboek borderline content ontwikkeld, waarin definities, casestudies en concrete voorbeelden worden beschreven die online platformen en contentmoderatoren helpen contentmoderatie aan te scherpen. Het EUIF is ook het forum waar Nederland in samenspraak met gelijkgezinde landen de platformen wijst op hun eigen verantwoordelijkheid ten aanzien van deze problematiek en waar draagvlak wordt gecreëerd voor aanvullende maatregelen. Onder andere hier zal ik dan ook de aanbevelingen onder de aandacht brengen en mij inspannen voor verdere versterking van Europese regelgevingskaders.

In dit licht ga ik kijken naar de wenselijkheid en haalbaarheid van een zorgplicht voor online platformen in Europees verband. Over de ontwikkelingen hieromtrent zal ik uw Kamer in de volgende voortgangsbrief over de Versterkte Aanpak Online in het voorjaar van 2026 informeren.

Contentmoderatie

Ik deel de constatering van de onderzoekers dat de normalisering van extremistisch gedachtegoed via impliciet taalgebruik en memes op online platformen zorgelijk en onwenselijk is. Ik acht het van groot belang dat contentmoderatie op peil blijft om deze tendens tegen te gaan en dat daar waar mogelijk bruikbare handvatten zijn om terroristische, illegale en borderline content te detecteren en te kwalificeren. Daarom bekijk ik, conform de motie van het lid Michon-Derkzen (VVD), de mogelijkheden om te komen tot een werkbare definitie van extremistische content.⁴ Dit kan online platformen ondersteunen bij het detecteren en identificeren van online content dat zorgelijk en onwenselijk is.

Een dergelijke definitie kan bijdragen aan een meer gedeeld beeld van dit type content en de risico’s daarvan. Passend bij de strekking van de motie en in lijn met de oproep in een aantal van de aanbevelingen om te komen tot een meer gezamenlijke inzet, kan de sector betrokken worden bij de uitwerking hiervan, met name waar het gaat om een toets in hoeverre zo’n definitie ook daadwerkelijk werkbaar en toepasbaar is. Ook de samenwerking met de ATKM wordt opgezocht. Bij haar detectie- en beoordelingswerkzaamheden komt de ATKM ook materiaal tegen dat niet als terroristisch kan worden beoordeeld, maar wel als zorgelijk en onwenselijk kan worden gezien. De ervaring hiermee kan tevens input vormen om tot een definitie van extremistische content te kunnen komen. Vanzelfsprekend zal ik uw Kamer in het voorjaar van 2026 informeren over de voortgang middels de voortgangsbrief Versterkte Aanpak Online.

Preventieprogramma’s en bevorderen publiek debat

Wat betreft de aanbevelingen inzake het versterken van preventieprogramma’s en digitale weerbaarheid kan ik uw Kamer melden dat reeds meerdere geëvalueerde lesprogramma’s beschikbaar zijn, die breder kunnen worden ingezet om de online weerbaarheid en mediawijsheid van met name jongeren te vergroten. Hierover heb ik u nader geïnformeerd in de recente Kamerbrieven die ingaan op de Versterkte Aanpak Online.⁵ De aanbeveling om het publieke debat te stimuleren over welke vormen van schadelijke content als rechtvaardig of niet-rechtvaardig kunnen worden beschouwd, heb ik gedeeld met de minister van Binnenlandse Zaken en Koninkrijksrelaties, die zorg zal dragen voor de verdere opvolging. Zo vindt in 2026, in het kader van digitale burgerschapsvorming, een landelijk gesprek over online discriminatie en haatspraak plaats. Het doel is door middel van interactie tussen burgers bewustwording te creëren over onwenselijke online content (bijvoorbeeld borderline content) en samen tot normering te komen. Daarbij wordt ook gevraagd naar de rollen die men ziet voor de overheid, sociale mediaplatformen en Nederlandse burgers zelf in het veiliger maken van de digitale publieke ruimte.

Tot slot

Terroristische en extremistische groeperingen misbruiken online platforms om propaganda te verspreiden, activiteiten te coördineren en tot geweld aan te zetten. Het kabinet zal zich onverminderd blijven inzetten om online extremisme en terrorisme aan te pakken. Naast de aanpak van terroristische content en illegale content moet er oog zijn voor borderline content, omdat deze content kan bijdragen aan het online radicaliseringsproces en aan de normalisering van extremistisch gedachtegoed. Het bewaken van fundamentele rechten, zoals de vrijheid van meningsuiting blijft hierbij van groot belang, maar het vraagt om een zorgvuldige balans met maatregelen die online radicalisering tegengaan en de veiligheid bevorderen. Nog dit jaar zal ik in de voortgangsbrief Versterkte Aanpak Online extremisme en terrorisme nader ingaan op de ontwikkelingen in de aanpak.

De Minister van Justitie en Veiligheid,

Foort van Oosten

---

1. In het onderzoek is gekozen voor de term impliciete extremistische inhoud om materiaal te beschrijven dat door zijn verhullende aard niet direct als terroristisch of illegaal herkenbaar is, maar wel schadelijk kan zijn en potentieel kan bijdragen aan radicalisering. In deze Kamerbrief hanteer ik de veelgebruikte term borderline content, met dezelfde betekenis.↩︎

2. Het totaal aan aanbevelingen is onderdeel van het onderzoeksrapport dat als bijlage bij deze brief is gevoegd.↩︎

3. De onderzoekers classificeren schadelijke content als content dat ernstige schade kan toebrengen aan een individu, een groep mensen, instellingen of de democratische rechtsorde, en dat deze niet wordt beschermd door internationale mensenrechtenrechten.↩︎

4. Kamerstukken 2025/2026, 29754, nr. 758.↩︎

5. Kamerstukken II 2023/2024, 29754 nr. 708; Kamerstukken II 2024/2025, 29754, nr. 735; Kamerstukken II 2024/2025, 29754, nr. 751.↩︎