Voortzetting commissiedebat Desinformatie en onlineplatformen d.d. 14 juni 2023

De voorzitter:

Ik open deze vergadering en heet u allen van harte welkom bij de vaste commissie voor Digitale Zaken. Aan de orde is de voortzetting van het commissiedebat Desinformatie en onlineplatformen, dat op 14 juni 2023 heeft plaatsgevonden. Dit is dus een derde termijn. Dat betekent dat er geen vierde termijn is. Het betekent dat we straks het woord aan de Tweede Kamerleden gaan geven en vervolgens aan de staatssecretaris voor de beantwoording. We hebben later vandaag een tweeminutendebat. Dat is aangevraagd door mevrouw Dekker-Abdulaziz. Voordat ik nog wat andere opmerkingen ga maken, wil ik zeggen dat het kan zijn dat er vandaag wat Kamerleden in en uit gaan lopen, omdat er plenair ook tweeminutendebatten gaande zijn. Datzelfde geldt voor deze voorzitter. Ik moet even over twaalf in de plenaire zaal zijn, dus dan ga ik het voorzitterschap overdragen aan de ondervoorzitter van deze commissie, mevrouw Dekker-Abdulaziz.

Er is een schriftelijke beantwoording van het vorige debat geweest. Daar heeft u allemaal kennis van kunnen nemen. Die is ook geagendeerd voor dit debat. Ik ga toch voor de zekerheid even aantekenen dat u de vorige keer ook toestemming heeft verleend aan mevrouw Gündoğan, die geen lid is van deze commissie. Ik ga er gemakshalve van uit dat u dat dit keer ook doet. Dat is het geval. Dan ga ik haar bijna het woord geven, maar niet voordat ik heb aangegeven dat ik de interrupties ga maximeren tot twee keer twee in de eerste termijn. Ik zeg erbij: hoe minder interrupties u bij elkaar doet, hoe meer tijd u overhoudt voor de termijn van de staatssecretaris. Dat is geen open invitatie; ik teken het alleen aan.

Dan ga ik allereerst het woord aan mevrouw Gündoğan geven. U heeft allen vier minuten. Mevrouw Gündoğan.

Mevrouw Gündoğan (Lid Gündoğan):

Dank u wel, voorzitter. Ik maakte net al een gekscherende grap dat ik mijn inbreng toch had moeten uitschrijven, maar ik doe het even uit het blote hoofd. Ik denk dat er de afgelopen periode ontzettend veel aandacht is voor sociale media. Deze week was dat ook weer het geval, zowel op tv als in The Economist. De strijd is losgebarsten tussen Elon Musk aan de ene kant en Mark Zuckerberg aan de andere kant over wie nu een nieuwe Twitter gaat beginnen. Süeda Isik van NRC laat op TikTok zien hoe de algoritmes werken en hoe je als je je voordoet als een jongen van 16, in een hele misogyne omgeving terechtkomt. Ik denk dat er ontzettend veel signalen zijn om ons zorgen te maken over sociale media. Aan de ene kant is er hun hypercommerciële inslag, waarmee ze data kapitaliseren voor hun eigen gewin en soms zelfs ten koste van onze eigen democratieën. In kwetsbaardere landen wordt het gewelddadig. Daarom wil ik heel even stilstaan bij de beantwoording van de staatssecretaris van de vorige keer. Als ik het even mag samenvatten, zegt de staatssecretaris dat de veiligheidsdiensten behoorlijk goede instrumenten hebben. Dat is niet mijn ervaring. Ik heb het de vorige keer bewust bij mezelf gehouden, omdat ik daardoor zeker weet dat ik geen dingen zeg die onwaar zijn of waarop kan worden afgedongen. Bij de doodsbedreigingen die ik heb gekregen, met name via sociale media, liepen onze veiligheidsdiensten vast. Die waren onvindbaar vanwege anonimiteit. Daarom wil ik even doorgaan op anonimiteit.

Ik ben niet tegen anonimiteit an sich. Ik ben tegen onvindbaarheid die gekoppeld is aan anonimiteit. Ik zou toch heel graag, nu de DSA eraan zit te komen, de staatssecretaris willen vragen naar de juridische mogelijkheden om onvindbaarheid tegen te gaan. Zelf zit ik eraan te denken — maar misschien zijn er ook andere oplossingen — dat als je onder andere op Twitter of op Instagram een geverifieerd account wil hebben, je een kopie van je paspoort moet inleveren. Maar er zijn ook mildere vormen. Ik denk bijvoorbeeld aan de Ajax-app. Die heb ik zelf. Daarbij moet je allerlei gegevens invullen, waardoor je echt traceerbaar bent. Wanneer inlichtingendiensten behoefte hebben om te weten wie er achter een account zit, zijn er vele manieren om dat uit te vinden. Dan is het principe dus dat het prima is als iemand als buurvrouw123 anoniem door het leven wil gaan vanwege werk of andere redenen. Denk bijvoorbeeld aan privéredenen, omdat hij of zij niet wil dat de familie weet welke geaardheid of gedachten hij of zij heeft. Die vrijheid moeten we ook borgen en geven. We gaan nog steeds uit van het goede van de mens. Maar du moment dat buurvrouw123 je vertelt dat zij of hij je kind bij het schoolplein staat op te wachten om vol te spuiten omdat je coronawoordvoerder bent, hebben we echt met een ander niveau te maken. Nogmaals, ik ben me ervan bewust dat wat ik heb meegemaakt, nog maar het topje van de ijsberg is van wat sommige bewindspersonen of journalisten over zich heen krijgen. Door het feit dat Nederland nu niet meer in de top tien staat van de meest veilige persvrije landen, denk ik dat er echt urgentie is om te onderzoeken wat we nog meer zouden kunnen doen.

Ik heb de tijd niet in de gaten gehouden. Ik hoor dat ik nog 30 seconden heb. Nogmaals, dit is niet een cri de coeur om de vrijheid van meningsuiting te gaan. Dit is een cri de coeur om bedreigingen en onveiligheid tegen te gaan. Daar wil ik het bij laten.

Dank u wel.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Ik denk dat ik ook even ga inzoomen op anonimiteit. Daar ging de beantwoording grotendeels over. In het debat dat tot nu toe gevoerd is, zie je een beetje een beweging van meerdere partijen naar de vraag of we de anonimiteit moeten opheffen. De PVV vindt dat in ieder geval een heel erg slecht idee. Overigens is het natuurlijk wel redelijk hypocriet dat een aantal mensen aan de linkerkant van het politieke spectrum het hardst schreeuwden dat Elon Musk geen geld mag vragen voor verificatie, terwijl je daarmee eigenlijk ook een soort van gegevens mee vastlegt. In die zin heft dat de anonimiteit juist deels op. Laat ik het even bij de feiten houden. Ik ben heel erg blij dat de staatssecretaris antwoordt dat het opheffen van de anonimiteit niet direct een goed idee is. Ik maak me wel een beetje zorgen over de formulering, want daar spreekt een beetje twijfel uit. Het is niet direct een goed idee, maar het is niet helemaal van tafel. Ik zou nog wel eventjes wat uitgebreider willen horen wat ze ermee bedoelt dat het niet direct een goed idee is.

Collega Gündoğan had het net over buurvrouw123. Dat je anoniem bent met je naam, avatar of het plaatje dat erbij staat, is één ding. Maar het is iets anders als de politie bij een overtreding moet kunnen achterhalen wie of wat het is. Laten we heel duidelijk zeggen waar we voorstander van zijn en waarvan niet. Volgens mij schetste de staatssecretaris ook al dat het op dit moment al zo is dat anonieme accounts vervolgd kunnen worden. Qua politiecapaciteit kunnen we daar nog een heel eind in groeien.

Mevrouw Van Weerdenburg (PVV):

Veel dank, voorzitter. Ik zei dat het nu al zo is dat anonieme accounts opgespoord kunnen worden, indien nodig. Ik denk dat dat goed is. Ik denk dat dat voldoende is. Ik ben het wel eens met de voorgaande spreker dat we qua politiecapaciteit en effectiviteit nog een stuk kunnen groeien. Mijn fractievoorzitter kan daar ook over meepraten.

Ik wil tot slot nog één dingetje uit de beantwoording noemen. Daarin staat heel duidelijk dat de overheid niet bepaalt wat desinformatie is. Ik ben blij met dat antwoord van de staatssecretaris. Ik zou haar ook willen vragen om dan heel duidelijk te zeggen dat niet alleen de Nederlandse overheid dat niet bepaalt, maar dat het ook niet in Brussel wordt bepaald door de Europese Commissie, het Parlement of wat dan ook. Daar is wel een hele beweging gaande van wat allemaal wel en niet gezegd mag worden en wat allemaal onder haat en nog wat vage termen valt. Dat gaat steeds breder. Dat wordt een glijdende schaal. Ik zou dus graag van deze staatssecretaris nog heel duidelijk willen horen dat óók Brussel, dus ook de Europese overheid, niet bepaalt wat desinformatie is. Als zij dat kan toezeggen en kan doen, ben ik voorlopig tevreden.

Dank u.

Mevrouw Kathmann (PvdA):

Dank, voorzitter. Ik heb ook een aantal vervolgvragen over de beantwoording van de eerdere vragen. De eerste vraag gaat over een vraag die ik stelde over het keurmerk voor de verdere ontwikkeling van AI. Ik had daarbij specifiek gevraagd welke rol de regionale publieke omroepen daarin zouden kunnen spelen. De staatssecretaris geeft gelukkig heel fijn aan dat ze zich aan het oriënteren is op het ontwikkelen van een keurmerk. Ik zou daar toch iets meer feeling bij willen krijgen. Kan de staatssecretaris erop ingaan wanneer zij de Kamer daarover gaat informeren? Kunnen we misschien iets van een tijdlijn krijgen, of informatie over hoe de oriëntatie eruitziet? Worden de regionale publieke omroepen daarbij betrokken?

Ook had ik een aantal vragen gesteld over het crisis response mechanism. Ik pak ze er even bij. De meeste vragen zijn wel beantwoord, maar niet de vraag over de rol die Nederland daarin heeft. Als het mechanisme in werking treedt, heeft een lidstaat straks nieuwe, eigen bevoegdheden, omdat die aangemerkt is als trusted flagger. Kan de staatssecretaris aangeven of er van tevoren kaders zijn opgesteld, dus hoe die bevoegdheid door Nederland ingevuld gaat worden en hoe die nationaal mogelijk gebruikt gaat worden?

Dat waren mijn aanvullende vragen.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Vandaag spreken we voor de tweede keer in korte tijd over desinformatie. Vooraf is het goed om duidelijk te stellen waar we het over hebben. Desinformatie is het moedwillig verspreiden van foutieve informatie om maatschappelijke schade aan te richten. Per ongeluk onzin rondbazuinen is dus niet hetzelfde. Het is het voeden van complottheorieën, onwaarheden over instanties verspreiden enzovoort.

Bij het vorige debat hebben we het kort gehad over anonimiteit online. Zolang niemand online rekenschap hoeft af te leggen, blijven grote platformen zoals Twitter of Facebook een wildwestgebied, waar iedereen maar doet waar hij zin in heeft. Wat D66 betreft zijn er oplossingen denkbaar waarmee online anonimiteit bewaard kan blijven, maar er ook rekenschap kan worden gegeven van strafbare uitlatingen. D66 wil inzetten op pseudonimiteit op de grote platformen. Ik snap dat dat vragen oproept. Het is een beetje zoals op een gemaskerd bal. Iedereen houdt zijn masker, zijn anonimiteit, maar heeft een uniek token in de hand. Dat token is bijvoorbeeld op basis van jouw e-mail, telefoonnummer of IP-adres. Op het moment dat je aantoonbaar de regels overtreedt, kan een platform optreden. Dan moet je je token inleveren en wordt je account geblokkeerd. Omdat je een token hebt moeten inleveren, kan je niet zo gemakkelijk als nu een nieuw account aanmaken en van vooraf aan beginnen.

D66 vindt het een groot goed dat iedereen online kan zijn wie hij of zij wil. Dat moet veilig gebeuren, maar het internet en met name de grote platformen zijn allang geen prettige omgevingen meer. Naast alle desinformatie is het een open riool voor racisme en hatespeech. Met deze pseudonimiteit verhogen we de verantwoordelijkheid bij gebruikers en platformen om de regels te handhaven. Zelfs Twitter maakt nu al een stap naar een verificatieplicht voor de dienst TweetDeck. Dat is volgens mij een helder signaal dat hierin stappen gezet moeten worden. Ik wil graag van de staatssecretaris weten hoe zij hiernaar kijkt. Is zij bereid om deze mogelijkheden te onderzoeken en hiervoor te pleiten in Brussel?

Tot slot. In het eerdere debat heb ik een punt gemaakt over de invloed van AI op desinformatie. Ik denk dan vooral aan het onjuist citeren van nieuwsmedia. Daarom bereid ik samen met mijn collega van de VVD een motie voor over een watermerk voor door AI gegenereerde teksten.

Tot slot. We moeten als samenleving omgaan met desinformatie. Dat vraagt iets van ons als individuen, maar ook van de overheid. Wij zien bijvoorbeeld dat Denemarken succes heeft met een bottom-up approach. Daar zijn we van gecharmeerd. Daarom lijkt het mij verstandig dat de aanpak van desinformatie ook een vast onderdeel wordt van de cybersecurity oefeningsdag, zoals ISIDOOR. Graag een toezegging hierop. Dat scheelt weer een motie vanavond.

Dank u wel.

Mevrouw Dekker-Abdulaziz (D66):

Dank voor de vraag. Volgens mij heeft de staatssecretaris in haar schriftelijke beantwoording ook laten zien dat er voor strafbare feiten het een en ander bestaat, maar dat het niet altijd al gebeurt. Ik heb het over zaken als hatespeech en discriminatie. Dat is wel het overtreden van de regels van de platformen zelf, maar daar wordt op dit moment niet op gehandhaafd. Daar doel ik op.

Mevrouw Dekker-Abdulaziz (D66):

Ik hoor hier geen vraag, maar het gaat D66 om desinformatie. Ik heb aan het begin van mijn betoog gezegd wat de officiële definitie van "desinformatie" is, namelijk het moedwillig verspreiden van foutieve informatie om maatschappelijke schade aan te richten. Daartegen moet je acteren. Je kunt jezelf daarvoor afsluiten door ergens in een digitale kelder te zitten, maar het gaat natuurlijk om de maatschappelijke gevolgen van desinformatie. Daar gaat het ons om.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Een zeer korte inbreng van mijn kant. Het belangrijkste punt is — daarom heeft de VVD het debat over desinformatie en socialemediaplatforms ook aangevraagd — dat wij graag een verbod willen op algoritmen die mensen bewust doen radicaliseren. De diensten waarschuwen ook dat de stap naar het plegen van geweld steeds kleiner wordt en dat het een gevaar is voor onze democratische rechtsstaat. Daar wil de VVD wat aan doen. De beantwoording tijdens het eerdere debat en de schriftelijke beantwoording waren voor ons helder. De staatssecretaris onderschrijft het probleem en geeft inderdaad aan dat er nu wettelijk niets gedaan kan worden. Toezichthouders gaan kijken naar algoritmen, maar we hebben nog niet geregeld waar ze naar kijken. Daarom gaat de VVD straks bij het tweeminutendebat een motie hierover indienen.

Mevrouw Rajkowski (VVD):

Dan is er de vorige keer miscommunicatie ontstaan, denk ik. Wij zijn niet tegen aanbevelingsalgoritmes an sich. Ik denk dat het heel prettig kan zijn dat als jij het heel fijn vindt om bepaalde content te zien, jij daar meer van ziet. Of de content dan links, rechts of whatever is, maakt mij eerlijk gezegd niet zo veel uit. Het punt dat we in het vorige debat hebben proberen te maken, is het volgende. We hebben een gesprekje gehad met een klokkenluider, wetenschappers en journalisten. Die hebben onderzoek gedaan. Zij zien dat als je een clean browser hebt en een account aanmaakt, de volgende video die dan wordt aanbevolen net iets extremer is dan wat je tot dan toe hebt gezien. Binnen zes stappen hoor je dan dus dat je de overheid niet moet vertrouwen en dat niks klopt. Het is dus juist steeds bedoeld voor manipulatie en radicalisering. Daarvan dacht de VVD altijd: onze samenleving is weerbaar genoeg om dat zo te laten; dat kunnen we allemaal aan. Nu zien we dat ook de diensten ervoor waarschuwen dat het niet goed gaat en dat dit op lange termijn een gevaar is voor onze democratische rechtsstaat. Dan vinden wij dat we nu moeten ingrijpen. Wij willen dat toezichthouders en wetenschappers gaan kijken naar die algoritmen. Als dit element, waar big tech aan verdient maar waardoor onze samenleving afgebroken wordt, er bewust in zit, willen we dat dat element eruit gehaald wordt en verboden wordt.

Mevrouw Rajkowski (VVD):

Dat heeft u zeker verkeerd begrepen, want gezond wantrouwen jegens de overheid is prima. Het is zelfs prima als je de overheid haat. Dat moeten mensen allemaal zelf weten. Ik kan me ook voorstellen dat je alles wat met de overheid en politiek te maken heeft niet vertrouwt, en misschien ook nooit meer gaat vertrouwen, als je door de overheid kapot bent gemaakt in de toeslagenaffaire, in Groningen of op een andere manier. Ik ben blij dat we in een samenleving leven waarin dat mag en moet kunnen. Dat is volgens mij wat een democratische rechtsstaat is. Ik ben dat net vergeten te zeggen, maar die motie ga ik inderdaad samen met D66 indienen.

Dan had ze nog een vraag, voorzitter. Ik moet even ... Wat was het begin van de interruptie?

Mevrouw Rajkowski (VVD):

Nu heb ik 'm weer, voorzitter. Kijk, ik denk dat er veel dingen in onze samenleving gebeuren waarvan we als democratie hebben gezegd: wij laten dit vrij omdat wij een democratie zijn. Daar ben ik het tot op zekere hoogte mee eens. Toch zie ik dat er aan een aantal randen van die democratie geschaafd wordt. Dat kan bijvoorbeeld zo zijn in sommige vormen van informeel onderwijs. Daar gebeurt misschien niets letterlijk strafbaars maar ik vind ze toch zeer onwenselijk, omdat kinderen daar worden opgevoed om met de rug naar de samenleving te staan. Dat kan bijvoorbeeld ook zo zijn bij algoritmen die bewust als doel hebben om mensen te laten radicaliseren, omdat big tech daar haar geld mee verdient. Van dat soort dingen hebben we nog niet met elkaar afgesproken ... Daarom vind ik het goed dat we dit soort debatten voeren. Ik vind dat onwenselijk en vind dat we dit moeten verbieden, en wel op Europees niveau. Daar ga ik de staatssecretaris toe oproepen.

Mevrouw Rajkowski (VVD):

Nou, niet zomaar elk algoritme van sociale media.

Mevrouw Rajkowski (VVD):

Van mij hoeft het aanbevelingsalgoritme zelf niet per se zo gezien te worden. Het gaat me om de elementen die erin zitten. Daar zit het 'm voor mij in. Ik denk dat aanbevelingsalgoritmen het Nederlandse mkb juist ook geholpen hebben om hun lokale producten bij de juiste personen onder de aandacht te brengen. Ik zou aanbevelingsalgoritmen dus niet in hun geheel aanmerken als een hoog risico. Dat hoeft denk ik ook niet.

Mevrouw Rajkowski (VVD):

Nu ga ik meer de kant van mevrouw Van Weerdenburg op leunen. Ik ben toch nog niet overtuigd, omdat ik alleen het deel uit die aanbevelingsalgoritmen wil hebben dat een gevaar is voor onze democratische rechtsstaat. Van de rest zou ik echt af willen blijven. Daar zit, denk ik, het verschil tussen ons en D66. Wij zitten tussen u en de PVV in. Als het een haakje zou kunnen bieden om tot een oplossing te komen voor zo'n verbod, wil ik er zeker naar kijken. Maar ik ben er wel voorzichtig mee.

De voorzitter:

Ik geef bij dezen het woord aan de staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties voor de beantwoording in de derde termijn.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Fijn dat we vandaag nog kunnen spreken over dit toch belangrijke onderwerp. Het is een thema waarover we ook al in de eerste twee termijnen met elkaar hebben gesproken. De bestrijding van desinformatie is inderdaad heel relevant. Tegelijkertijd moeten we ervoor zorgen dat we de vrijheid van meningsuiting in dit land, een groot goed, ook blijven bewaken. Ik ga door met de beantwoording van de vragen. Ik doe dat op volgorde van de partijen.

Ik begin met de inbreng van mevrouw Gündoğan. Zij vroeg: wat kunnen opsporingsdiensten nou eigenlijk doen tegen anonieme bedreigingen, waaronder doodsbedreigingen, op onlineplatforms? Ze vroeg ook naar de vindbaarheid van de bedreigers. Mensen die online strafbare uitingen doen, kunnen worden opgepakt. Er zijn mogelijkheden voor opsporing en vervolging. Opsporingsdiensten kunnen informatie vorderen bij tussenhandelsdiensten zoals de onlineplatforms. Op het moment dat er bijvoorbeeld sprake is van doodsbedreigingen, of andere vormen van bedreigingen, kunnen opsporingsdiensten daar terecht. Zij zullen proberen te achterhalen welke gebruikersgegevens zijn opgegeven bij het aanmaken van het account, welk e-mailadres en welk telefoonnummer eventueel aan dat account zijn gekoppeld, welk IP-adres is gebruikt bij het aanmaken van het account, welk IP-adres is gebruikt bij het plaatsen van het bedreigende bericht en op welke andere IP-adressen dit account het laatst is gebruikt. Indien de identiteit van de feitelijke verzender van dat strafbare bericht kan worden vastgesteld, zal in beginsel ook tot vervolging worden overgegaan. Dat is belangrijk om te weten: er zijn mogelijkheden om dit te doen.

Bij bedreigingen is anonimiteit in heel veel gevallen niet het grootste thema. Heel vaak worden de bedreigingen gedaan door mensen die wel degelijk bekend zijn. Zij maken zichzelf bekend of plaatsen dergelijke berichten onder hun eigen naam. Maar soms is er alsnog een probleem om het aan te pakken, ook bij mensen wier identiteit bekend is. Dat is bijvoorbeeld zo als iemand in een ander land verblijft of als er sprake is van uitleveringskwesties. Ook kan het schenden van voorwaarden voor eerdere voorwaardelijke vrijlating een obstakel zijn. Om die reden zijn we van plan om met de minister van Justitie en Veiligheid vlak na de zomer een brief te sturen. Daarin gaan we kijken naar een versterkte aanpak online. We gaan met name kijken hoe we de verbeterde samenwerking met de platforms kunnen inrichten. Zo willen we zorgen dat het makkelijker wordt om mensen te kunnen opsporen wanneer er sprake is van strafbare feiten. Maar de bevoegdheid is er en in de meeste gevallen lukt het ook om de relevante persoon te vinden.

Staatssecretaris Van Huffelen:

Veiligheids- en inlichtingendiensten zijn natuurlijk geen opsporingsdiensten. Ik denk dat het goed is om dat onderscheid te maken. Nogmaals: de bevoegdheden zijn er, evenals de mogelijkheden om data op te vragen bij en te vorderen van de platforms. De samenwerking met de platforms kan in sommige opzichten beter, dus daar willen we met elkaar naar kijken. Ik vind het ingewikkeld om te reageren op de casuïstiek die u naar voren brengt, omdat ik daar natuurlijk niet alle feiten van en inzichten in ken. Maar het is misschien goed om er nog een keer met elkaar over te spreken, om te zien of uw voorbeelden voldoende terugkomen in de brief. Daar ben ik zeer toe bereid. De kern is dat de politie- en opsporingsorganisaties, naar wij begrijpen, in de meeste gevallen in staat zijn om zulke mensen te vinden. Anonimiteit is niet altijd een thema, maar er kunnen andere redenen zijn die het moeilijk maken om iemand te vervolgen voor dit soort informatie. In de brief die we na de zomer zullen sturen, kijken we graag nog een keer naar de specifieke voorbeelden die u heeft opgebracht. Daar kunnen we dan nog een keer induiken.

Staatssecretaris Van Huffelen:

De PVV en D66 stelden een vraag over anonimiteit en het opheffen daarvan. Het is een beetje een discussie. Laat ik eerst de vraag van D66 beantwoorden, namelijk of het wenselijk zou zijn om de anonimiteit op te heffen door gebruik te maken van iets als een token. Hoewel ik de ernst van de desinformatieproblematiek zeker niet wil onderschatten — sterker nog, die is een reden waarom we dit debat voeren — vind ik het opheffen van anonimiteit wel een onwenselijke en disproportionele inbreuk op het recht op privacy. Op straat loop je ook niet rond met een naambadge of je telefoonnummer. Anonimiteit, ook op het internet, is een groot goed. Het behoort tot het recht op zelfbeschikking en het recht op privacy. Het bekendmaken van iemands naam is daarnaast natuurlijk niet zomaar een oplossing voor online haatzaaien of bedreigen. Bovendien zijn er, zoals ik net aangaf, al veel mogelijkheden om de identiteit van mensen die een strafbaar feit plegen daadwerkelijk te herleiden. Als iemand zich op het web anoniem voordoet en er strafbare feiten worden gepleegd, kan diens anonimiteit al wel degelijk worden opgeheven.

Er was ook een vraag over pseudonimiteit. Dat betekent dat een gebruiker weliswaar niet met zijn eigen naam actief is op het internet, maar dat diens identiteit toch te herleiden is. Dat vind ik eerlijk gezegd ook ingewikkeld. Dat betekent namelijk dat een platform wel degelijk weet wie jij bent. Sterker nog, zoals ik de voorstelling ervan begrijp, zou een platform een hele administratie moeten bijhouden van de personen die erop actief zijn, onder welk pseudoniem dan ook. We vinden het juist zo belangrijk dat wereldwijd werkende platforms niet verplicht worden om gevoelige persoonsgegevens, zoals je naam, e-mailadres of andere gegevens, te verzamelen. Ik zie eigenlijk geen mogelijkheden voor het uitwerken van uw ideeën over het opheffen van anonimiteit of het creëren van een pseudoniem op een manier dat mensen daadwerkelijk beschermd blijven in hun privacy. Nogmaals, bij het oplossen van strafbare feiten is het probleem eigenlijk veel minder groot dan u wellicht denkt. In de meeste gevallen kunnen we namelijk wel degelijk achterhalen welke personen erachter zitten.

Dat naar aanleiding van de vragen die daarover gesteld zijn.

Staatssecretaris Van Huffelen:

Ik vind het ingewikkeld, want dan gaan we toch aan een platform vragen om de identiteit van iemand bij te houden, al dan niet gekoppeld aan een token. Ik ben dus gewoon heel erg benieuwd hoe u het voor zich ziet dat dat werkt. Het punt is namelijk dat ik denk dat je niet wilt dat de overheid dit gaat doen. Ook denk ik dat je niet wilt dat een platform dat gaat doen, want dat zou betekenen dat een platform, zelfs als u onder de naam X activiteiten uitvoert, toch weet wie u bent, want als u zich dan onder de naam Y meldt, weet een platform nog steeds dat ú het kennelijk bent die die informatie deelt of verspreidt of op dat platform actief is. Nogmaals, ik heb er heel veel moeite mee als aan platforms wordt gevraagd om te registreren wie de gebruikers zijn, zeker als het gaat om mensen die zich heel graag op het platform begeven maar niet voor hun hele omgeving bekend willen maken wie ze zijn, wat hun identiteit is, wat ze willen, welke mening ze hebben enzovoorts, enzovoorts.

Staatssecretaris Van Huffelen:

Ik weet niet over welke onlineplatforms u het heeft waarop je daadwerkelijk je rijbewijs of je paspoort moet laten zien. Ikzelf in ieder geval ken die platforms niet direct. Ook in het geval van zo'n telefoonnummer geldt dat je het kunt veranderen of dat je het nummer van iemand anders kunt invoeren, enzovoort, enzovoort. Wat meer fundamenteel gaat het, dus even los van de precieze technische oplossing, over het volgende. Ook al kan iemand naar buiten toe een pseudoniem hebben, maar als een platform moet weten wie jij bent — want dat moet een platform weten als je wil bereiken wat u wil bereiken — dan betekent dat dat grote socialmediaplatform de identiteitsgegevens van u of van iedereen die daarvan gebruikmaakt, ook daadwerkelijk moet registreren. Dat vind ik niet wenselijk, want dat betekent dat zij niet alleen hier in Nederland, maar wereldwijd, want die platforms werken allemaal wereldwijd, databases moeten bijhouden van dit soort toch heel gevoelige persoonsgegevens. Ik zie daar niet direct een oplossing voor, omdat je, hoewel je dan naar buiten toe anoniem kunt zijn, bij het platform nog steeds heel veel informatie, gevoelige persoonlijke informatie, registreert.

Staatssecretaris Van Huffelen:

Ik zou de laatste willen zijn om het niet met u eens te zijn dat dit een heel groot thema is. Eigenlijk gaat mijn hele agenda Waardengedreven Digitaliseren over dit onderwerp. Niet in de laatste plaats gaat eigenlijk alle regelgeving, ook de Europese, over dit thema. Denk daarbij aan de DSA en de AI Act. Die regelgeving gaat erover hoe we ervoor kunnen zorgen dat de onlinewereld een net zo veilige en net zo gereguleerde wereld wordt als onze offlinewereld, hoe we ervoor kunnen zorgen dat mensen zich daarin op een veilige manier kunnen begeven, hoe we ervoor kunnen zorgen dat we desinformatie kunnen aanpakken, waar het debat van vandaag natuurlijk over gaat, en hoe we ervoor kunnen zorgen dat strafbaar gedrag ook kan worden aangepakt. Wat mij betreft is dat de kern van wat we willen bereiken. Het punt is alleen dat de instrumenten die we daartoe inzetten, instrumenten moeten zijn die niet alleen effectief zijn, maar ook weer voldoen aan andere grondrechten en waarden die we in onze democratie hebben, zoals privacy, zelfbeschikking enzovoorts, enzovoorts. De kern is dat ik het zeer met u eens ben, net als met de meeste inbrengen in deze Kamer, en dat ik het relevant vind om de excessen aan te pakken, om zo te zorgen dat de onlinewereld veilig is. Tegelijkertijd zou ik niet overboord willen gaan door bijvoorbeeld aan socialmediaplatforms te vragen om een registratie bij te houden, bij wijze van spreken een kopie van de BRP, waarbij er allerlei gegevens van jou daar worden bewaard. Dat zei ik ook in het antwoord aan mevrouw Dekker-Abdulaziz. Nogmaals, anonimiteit is — dat is misschien nog een ander argument — in de meeste gevallen niet het probleem als het gaat over het aanpakken van strafbare feiten. U zegt gevallen te kennen waarin dat wel zo is, maar daar moeten we dan nog een keer induiken. Maar in de meeste gevallen is het goed mogelijk, met behulp van de socialmediaplatforms, die verplicht zijn om mee te werken aan de opsporing door opsporingsdiensten, om daadwerkelijk de informatie boven water te krijgen over wie het gaat en om, als dat nodig is, vervolging in te stellen.

Staatssecretaris Van Huffelen:

Dan had ik de vraag van mevrouw Van Weerdenburg: als de overheid niet bepaalt wat desinformatie is, bepaalt de EU dat dan ook niet? Het korte antwoord daarop is dat dit inderdaad zo is. Het is niet aan de EU om te bepalen wat desinformatie is. Ook de Europese benadering van de aanpak is gefocust op vrijheid van meningsuiting en andere rechten die zijn vastgelegd in het EU-Handvest voor de fundamentele rechten. De focus ligt dus veel meer op transparantie en zorgen dat je platforms verantwoordelijk maakt voor het zorgen voor en creëren van een veilige onlineomgeving. De praktijkcode tegen desinformatie — die is een specifieke praktijkcode die onderdeel wordt van de DSA — is dan ook gemaakt. Daarin zijn afspraken gemaakt om bijvoorbeeld met name onafhankelijke factcheckers hun werk te laten doen.

Dan de vraag van mevrouw Kathmann, die ging over het keurmerk voor AI. De kern is eigenlijk dat het maken van een keurmerk onderdeel is van de AI-verordening. Die is nog niet helemaal afgerond, maar die werkt op basis van dat je technische eisen stelt aan hoogrisico-AI-systemen en dat je een keurmerk moet hebben voordat je dat systeem op de markt brengt of, in geval van overheden, gebruikt. Er komen eisen die te maken hebben met bijvoorbeeld de manier waarop er met data wordt omgegaan en de noodzaak van menselijk toezicht. Dat keurmerk is een zogenaamde CE-markering. Dat is een keurmerk dat ervoor zorgt dat je weet dat het AI-systeem daadwerkelijk voldoet aan de eisen.

De vraag van mevrouw Kathmann was ook wat de rol van publieke omroepen daarin is. Die spelen daar geen rol in. Ik zat even door te denken toen de vraag werd gesteld, maar misschien bedoelt mevrouw Kathmann ook iets anders. Er is natuurlijk wel degelijk iets, bijvoorbeeld waar het gaat om meer een soort van classificatiesystemen. Dergelijke systemen kennen we bijvoorbeeld bij games en bij films, waarbij dan bijvoorbeeld wordt gezegd: deze film is geschikt voor iemand van boven de 12 of boven de 16. Die classificaties zijn er ook, maar dat zijn niet de daadwerkelijke keurmerken zoals die in de AI-verordening zitten.

Staatssecretaris Van Huffelen:

Een aantal publieke omroepen heeft daar zelf al een soort keurmerk voor gemaakt: de "Spoelkeuken", heet dat. Dat maakt het ook mogelijk om daar iets mee te doen. Het is meer zelfregulering, zou je kunnen zeggen. Maar meer in het algemeen hebben we in het kader van de aanpak van desinformatie al gezegd — en dat hebben we ook in de brief die we eerder naar u hebben gestuurd al gezegd — dat we het belangrijk vinden dat er de mogelijkheid is voor een divers en publiek medialandschap, dat ook kan bestaan uit sociale media, waarin publieke omroepen een rol kunnen blijven spelen. En het andere is natuurlijk dat we ook hebben aangegeven dat wij het belangrijk vinden om alternatieven te creëren, alternatieve socialmediaplatforms, die mensen dan ook kunnen gebruiken, en die niet noodzakelijkerwijs op basis van een commercieel oogmerk hun werk doen.

Dan was er ook de vraag van mevrouw Kathmann over het crisis response mechanism. Dat is inderdaad een onderdeel van die DSA, de inmiddels aangenomen en in werking tredende wet die gericht is op het reguleren van socialmediaplatforms, onder andere de Digital Services Act. Het is zo dat bij dat mechanisme een rol speelt dat de digitaledienstencoördinatoren gezamenlijk de Europese Commissie kunnen oproepen om in geval van nood, een crisis beter gezegd, een mechanisme op te roepen. Dat mechanisme maakt het mogelijk om aanvullende risicoassessments te doen. Dat moeten socialmediaplatforms jaarlijks doen, maar dat wordt dan als een extra zaak ingebracht. En de Commissie kan op basis daarvan dan ook ingrijpen als dat nodig zou blijken te zijn. Aan dat mechanisme doen wij mee omdat van die digitaledienstencoördinatoren, onze ACM een beoogde coördinator is; dat moet ik daarbij zeggen, wat ze is nog niet officieel aangewezen. Die kan daar dus ook aan meedoen, en Nederland doet dan mee in een combinatie met andere toezichthouders.

Staatssecretaris Van Huffelen:

De DSA is natuurlijk nog — om het zo te zeggen — in an early stage, dus we weten het nog niet precies. De kern is dat een crisis ook daadwerkelijk wel een crisis moet zijn; er moet wel iets heel ernstigs aan de hand zijn voordat je het mechanisme gaat inroepen. Wat dan overigens ook nog waarborgen heeft, dus het gaat eerst over onderzoek doen, en dan pas over ingrijpen. Er zijn niet nu al allerlei kaders en ideeën over hoe dat er dan precies uit moet komen te zien, en het is hopelijk ook niet dat dit op korte termijn nodig of noodzakelijk is. Het is wel iets anders dan de "trusted flagger"-status. Dus een deel van de Nederlandse departementen heeft een "trusted flagger"-status bij een aantal socialmediaplatforms. Zo is bijvoorbeeld mijn eigen departement gespecialiseerd in verkiezingen. We hebben dat al eens eerder gedaan: als er een bericht komt op sociale media dat zegt dat het een goed idee is om twee vakjes in te vullen op je kiesbiljet of stembiljet, dat we dan aangeven dat dat niet zo handig is, omdat dat dan natuurlijk ook betekent dat je biljet dan ongeldig wordt verklaard. Om die reden hebben wij dat een keer aangegeven. Die "trusted flagger"-status kunnen we niet zelf opleggen; dat is iets wat je eventueel kunt aanvragen, en daar moet een socialmediaplatform dan toestemming voor geven. Het tweede is dat je als trusted flagger opmerkingen maakt; iets wat iedereen kan doen maar onder de DSA is dat nog beter geregeld. Dus dat, als je problemen hebt met wat er op een platform staat, daarvoor dan een ingang moet zijn, en dat je klacht moet worden opgepakt. Maar het is altijd weer aan het platform zelf om dan wel of niet in te grijpen. Overigens, als ze dat niet doen en er sprake zou zijn van een strafrechtelijk feit, dan is een platform daarna wel verantwoordelijk.

Staatssecretaris Van Huffelen:

Maar ik kan u dus niet helpen met een hele precieze omschrijving van wat voor crisis het precies zou moeten zijn en hoe we dan gaan handelen, want terughoudendheid is hier natuurlijk ook van belang; je gaat niet zomaar een crisis uitroepen en niet zomaar ingrijpen in dit soort platforms.

Staatssecretaris Van Huffelen:

Ik zal voor u uitzoeken hoe dat precies gaat lopen in de komende tijd, en dan kom ik daar schriftelijk op terug. Is dat goed? Want dan zal ik uitleggen hoe de EU of onze nog te benoemen coördinatoren, dus in ons geval de beoogde coördinator maar de nog niet benoemde coördinator, waarbij de ACM een rol zal spelen ... Ik zal u de timing van deze stappen dan wat meer toelichten.

Dan was er de vraag van D66 over desinformatie toevoegen aan de cybersecurityoefening ISIDOR. Eigenlijk is ons idee dat we dat ook willen doen, maar niet noodzakelijkerwijs in deze cybersecurityoefening. We hebben namelijk een eerdere oefening gehouden voorafgaande aan de verkiezingen voor de Provinciale Staten en waterschappen op het gebied van desinformatie. Daar komt een evaluatie van, en in het kader van die evaluatie, die we uiteraard naar u toe sturen, zou ik willen kijken naar de vraag hoe je kunt oefenen met situaties waarin er sprake is van desinformatie. Dat zou eventueel samen kunnen met die cybersecurityoefening, of misschien apart daarvan, maar het lijkt mij goed als we dat daarin meenemen. Ik zou daar dus positief op willen antwoorden, maar dus niet dat dat noodzakelijkerwijs in het ISIDOR-platform moet, maar wel om in ieder geval te kijken hoe we bij grootschalige of minder grootschalige desinformatiesituaties zouden kunnen acteren.

Dan is er nog de vraag vanuit de VVD over het verbod op algoritmes die mensen doen radicaliseren. Mevrouw Rajkowski gaf aan dat daar wettelijk eigenlijk niets aan gedaan kan worden. Dat laatste ben ik overigens niet met haar eens, maar ik wil wel even iets meer vertellen over wat we nu hebben. Want de zorgen over algoritmen die ervoor kunnen zorgen dat je heel eenzijdig geïnformeerd wordt, die zijn er. Dat is ook een van de basiselementen die worden meegenomen in die Digital Services Act, want die moet ervoor zorgen dat je openbaar en transparant moet maken hoe die algoritmes werken, zodat die algoritmes kunnen worden onderzocht, kunnen worden bekeken, kunnen worden bekritiseerd door wetenschappers of ngo's die op dit gebied actief zijn. Wij voeren daarnaast ook gesprekken met de internetsector om die algoritmes niet alleen kenbaar te maken, maar ook te zorgen dat die algoritmes juist niet het mechanisme hebben dat ze heel sterk leiden tot alleen maar één soort informatie. Maar de DSA moet de werking van deze algoritmes dus kenbaar maken, duidelijk maken, de data moeten worden gedeeld met onderzoekers enzovoort, enzovoort, enzovoort. De DSA gaat in op 25 augustus. En, en dat is volgens mij niet onbelangrijk, de DSA regelt ook dat jij als gebruiker van een socialmediaplatform niet alleen maar kunt klagen over zo'n algoritme of, als je dat zou willen, over de inhoud van wat er wordt verspreid, maar ook dat je dat algoritme kunt uitzetten. Dus aanbevelingsalgoritmes moeten conform de DSA transparant worden gemaakt, zodat onderzocht en bekeken kan worden hoe ze werken, door de gebruikers maar ook door de wetenschappers en door ngo's of door mensen die zich bijvoorbeeld bezighouden op het gebied van privacy, maar tegelijkertijd is het ook zo dat de DSA bepaalt dat platforms de mogelijkheid moeten bieden aan hun gebruikers om aanbevelingsalgoritmes uit te zetten. In het kader van de vraag die door de VVD werd gesteld, denk ik dat het van belang is dat we eerst kijken wat het effect van de DSA is voordat we nog verdergaande verboden maken op die algoritmes. Daarvoor moeten we eerst de DSA in werking laten treden. Dat gaat gebeuren. De grote platforms zijn inmiddels aangewezen. Voor hen gaat die wet op 25 augustus in. Daarmee heb ik volgens mij ook een antwoord gegeven op de vraag van mevrouw Rajkowski.

Staatssecretaris Van Huffelen:

Misschien is het goed om er even iets meer over te zeggen. Kijk, de DSA zegt ook dat een platform moet zorgen dat de omgeving waar het verantwoordelijk voor is op social media een veilige plek is waar je je mening en je informatie kan delen, waar je je informatie vandaan kunt halen en waar een fair debat mogelijk is. Dat moet dus gereguleerd worden. Aanbevelingsalgoritmes moeten door platforms transparant gemaakt worden, maar dat is niet hetzelfde als zeggen: we willen alleen maar algoritmes die eenzijdige informatie aangeven. Ze moeten transparant maken hoe het algoritme werkt. Ze moeten hun risico's inventariseren die samenhangen met de vraag of het algoritme een eenzijdige kant heeft. Het zou dus heel goed kunnen zijn dat een algoritme dat heel erg eenzijdig werkt te veel wordt gezien als een hoogrisicoalgoritme, als een algoritme dat ook daadwerkelijk moet worden gereguleerd en moet worden aangepakt. Het kan dus best zijn dat een toezichthouder zegt: wij vinden dat het algoritme dat u gebruikt niet past bij de manier waarop een algoritme volgens ons moet werken. Maar de kern is dus dat een aanbevelingsalgoritme transparant moet zijn. Ze moeten gewoon aangeven hoe het werkt. En als je als gebruiker vindt dat dat een algoritme is dat je niet graag wil gebruiken, moet je het kunnen uitzetten.

Staatssecretaris Van Huffelen:

Dat gaat inderdaad wat meer over de systeemrisico's die erachter zitten. Dus als u heel graag alleen maar kattenplaatjes wil hebben, kan een socialmediaplatform u dat aanbieden. Dat mag ook gewoon volgens de DSA. Hetzelfde geldt voor meer extreme informatie die u zoekt of andere dingen die u wil. Maar het kan dus. Er is vrijheid van meningsuiting. Alles wat binnen de vrijheid van meningsuiting past, mag ook door een socialmediaplatform worden doorgegeven. U mag ook kiezen welke informatie u verkiest, maar het moet wel transparant zijn hoe het algoritme werkt.

Staatssecretaris Van Huffelen:

Ik denk dat transparantie wel helpt. U had het in het debat met mevrouw Rajkowski ook over die fabeltjesfuik. Het wordt wel duidelijk hoe een algoritme in elkaar zit en werkt. Dan gaat het niet over de vraag of u met name de informatie krijgt die u zelf wilt, maar om de vraag of het algoritme werkt in termen van het oplieren of groter maken van een debat. Wanneer er sprake van is dat dit soort situaties kunnen ontstaan, dan moet dat vallen binnen die risicoassessments die socialmediaplatforms moeten doen; daar is de DSA natuurlijk wél voor. Het Europees Parlement heeft overigens in de AI Act die nu voorligt — die is dus nog niet aangenomen — een punt opgenomen om dit risico ook aan te pakken, door die algoritmes inderdaad te zien als hoogrisicoalgoritmes. Maar de kern is dat de DSA ook al helpt om dit soort risico's in kaart te brengen en inzichtelijk te maken, en om de toezichthouders ook daadwerkelijk hun werk te laten doen als die risico's te extreem worden. Er wordt dus al wel degelijk een mogelijkheid gecreëerd om dit soort algoritmes niet alleen inzichtelijk te maken, maar om die ook aan te pakken wanneer die het effect hebben dat er niet meer een veilig en open debat kan worden gevoerd.

Staatssecretaris Van Huffelen:

Ik wil daar heel graag nog op terugkomen, omdat ik namelijk ook wil kijken hoe de interferentie tussen de DSA en de AI Act is op dit gebied. Ik kom daar dus bij u op terug. De kern is dat we niet alleen willen dat dit risico inzichtelijk wordt, maar dat dat ook kan worden aangepakt. Dit is een heel technisch antwoord, maar we moeten daarvoor wel even goed kijken naar die samenloop tussen de twee wetten.

Voorzitter, als u het goedvindt, kom ik nog even terug op één punt. Want ik heb wat nadere informatie kunnen verzamelen over het punt dat door mevrouw Kathmann werd gemaakt over de toezichthouders en de manier waarop er kan worden gemerkt in situaties van dat crisis mechanism. De toezichthouders, die dus nog benoemd moeten worden, kunnen dit kader gaan opstellen. Dat hebben ze nu nog niet gedaan, want ze moeten nog voor de eerste keer bij elkaar komen. Een aantal van die kaders zijn al wel in artikel 36 van de DSA opgenomen, maar de toezichthouders moeten dus nog starten met het opzetten van dit kader. We kunnen u wel de komende tijd verder informeren over de manier waarop dit vorm gaat krijgen.

Staatssecretaris Van Huffelen:

Dat is een beetje moeilijk te zeggen, want het is een Europese activiteit. De toezichthouders moeten eerst bij elkaar gaan komen. Ik denk dus dat het goed is dat we dit even op de lijst zetten van dingen die we niet morgen kunnen vertellen, omdat we dan nog niet iets te vertellen hebben. Maar we kunnen dat misschien wel over een jaar of zoiets dergelijks vertellen. Als het eerder kan, dan doen we het eerder, maar …

Staatssecretaris Van Huffelen:

Ik denk dat het wel goed is dat we daar een gesprek over hebben in het kader van de privacy en dat we bekijken wat haar voorbeelden zouden betekenen voor het beleid, maar ik vind het niet goed en prettig om létterlijk op deze voorbeelden in te gaan. Maar het punt dat mevrouw Gündoğan maakte was het volgende. Ik gaf aan: wij zien eigenlijk in de feitelijke situatie weinig problemen bij het vinden van mensen die online strafbare feiten plegen. Mevrouw Gündoğan zei: ik heb een aantal voorbeelden waarin ik zie dat dat wél lastig is. We moeten die natuurlijk meewegen om te zien of die iets betekenen voor ons beleid. Het lijkt me dus heel goed dat we die voorbeelden met elkaar delen en dat we die in de brief meewegen. Dat zou een mooier onderwerp zijn in plaats van het letterlijk verwerken van die voorbeelden.

Staatssecretaris Van Huffelen:

Nee, hoewel ik niet weet wat de status op dat moment is, heb ik toegezegd dat ik in ieder geval een update zal geven over het punt dat mevrouw Kathmann maakte, namelijk dat ze wil weten of er dan meer helder is over hoe dat kader eruitziet voor dat crisis response mechanism.

Staatssecretaris Van Huffelen:

Nee, want de vraag was of ik het daarin wilde stoppen, maar ik gaf aan dat we al een keer hebben geoefend met dit onderwerp, dat we die oefening aan het evalueren zijn en dat we in die evaluatie meenemen hoe we het verder oefenen op dit gebied willen vormgeven. Dat zou kunnen in het kader van de ISIDOOR-oefeningen, maar het kan ook op een andere manier. Daarover informeer ik de Kamer in het kader van die evaluatie.