Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2025-2026	Aanhangsel van de Handelingen
	Vragen gesteld door de leden der Kamer, met de daarop door de regering gegeven antwoorden

1349

Vragen van het lid Kathmann (GroenLinks-PvdA) aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties en de Minister van Justitie en Veiligheid over een verbod op de AI-chatbot van X (ingezonden 16 januari 2026).

Antwoord van Minister Van Weel (Justitie en Veiligheid) en van Staatssecretaris Aerdts (Economische Zaken en Klimaat) (ontvangen 17 maart 2026). Zie ook Aanhangsel Handelingen, vergaderjaar 2025–2026, nr. 1037.

Vraag 1

Bent u bekend met de berichten «X komt met nieuwe beperkingen voor gebruik Grok, maar mensen uitkleden blijft simpel»¹, «Politie en instanties slaan alarm om AI-app Grok: BN’ers digitaal uitgekleed, verbod in Nederland op tafel»² en «Topoverleg tussen OM en Minister over uitkleed-app Grok, topman Musk komt beloftes niet na met nieuwe update»³?

Antwoord 1

Ja.

Vraag 2

Is het bij u bekend dat de AI-chatbot Grok van xAI wordt gebruikt om seksuele deepfakes te maken op X? Wat is daarop uw reactie?

Antwoord 2

Ja, wij vinden het onacceptabel dat met de AI-chatbot Grok op grote schaal deepnudes (seksueel getinte nepafbeeldingen of -video’s) zijn gegenereerd. Het bericht dat zoveel mensen slachtoffer zijn geworden vinden wij zeer zorgwekkend. De slachtoffers zijn met name vrouwen en minderjarigen, maar deepnudes kunnen in potentie van iedereen gemaakt worden. De impact en de gevolgen van deepnudes voor slachtoffers en hun omgeving zijn enorm, mede omdat het maken van deepnudes steeds geavanceerder wordt en daarmee deepnudes steeds realistischer worden. Daarnaast zijn deze beelden ook schadelijk voor de samenleving, omdat iedereen, specifiek jongeren, ze online tegen kunnen komen.

Het vervaardigen van seksueel beeldmateriaal van minderjarigen, of van personen zonder toestemming, is strafbaar, ook als het materiaal met AI is gegenereerd.

Vraag 3

Welke conclusies trekt u op basis van de berichtgeving? Vindt u dat X en xAI verantwoord handelen? Zo niet, welke maatregelen kunt u zowel nationaal als Europees nemen om misbruik van xAI tegen te gaan?

Antwoord 3

Zoals ook bij vraag 2 beantwoord, vinden wij het bericht dat mensen, met name vrouwen en kinderen, slachtoffer worden van deepnudes zeer zorgwekkend.

De GROK AI tool is geen zelfstandig platform, maar een onderdeel van X waarlangs de verspreiding plaatsvindt. X is onder de Digital Service Act (DSA) een zeer groot online platform. De Europese Commissie (EC) houdt hier toezicht op en is inmiddels een onderzoek gestart in het kader van de DSA.⁴ Het is aan de EC om te beoordelen of X aan de wettelijke verplichtingen heeft voldaan. Nederland heeft in de lopende onderzoeken tegen X geen specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling.

Vraag 4

Wat heeft u met het Openbaar Ministerie besproken in het overleg van 15 januari 2026, waarover het AD bericht heeft? Kunt u de uitkomsten met de Kamer delen?

Antwoord 4

Het gesprek waarnaar wordt verwezen in het AD, betreft een gesprek op werkniveau tussen medewerkers van het Ministerie van Justitie en Veiligheid en medewerkers van de politie en het Openbaar Ministerie (OM). Binnen het Ministerie van Justitie en Veiligheid wordt gekeken naar de mogelijkheden om het gebruik van nudify-applicaties verder tegen te gaan. Ondanks de mogelijkheid om gebruikers van de applicaties strafrechtelijk te vervolgen (via de artikelen 252 en 254ba Sr) en de mogelijkheid om elk illegaal beeld te laten verwijderen, blijft het maatschappelijke probleem rondom deepnudes, zich in grote mate voordoen. Om die reden wordt bezien of het wenselijk en haalbaar is het aanbieden van de applicaties zelf te verbieden, nationaal dan wel Europees. In dat kader hebben met verschillende stakeholders en experts, waaronder ook medewerkers van de politie en het OM, gesprekken plaatsgevonden. Voordat een inhoudelijke positie bepaald wordt, is verdere studie nodig.

In de voortgangsbrief aanpak seksuele misdrijven, die twee keer per jaar wordt verstuurd, zal de Minister van Justitie en Veiligheid uw Kamer informeren over de stand van zaken van deze verkenning.

Vraag 5

Zijn uitkleedapps en -tools verboden in Nederland? Hoe wordt hierop gehandhaafd, en welke gevolgen heeft het voor X dat het platform het genereren van seksuele deepfakes standaard aanbiedt via Grok?

Antwoord 5

Zie het antwoord op vraag 4. Welke gevolgen het heeft voor X dat het platform het generen van deepnudes standaard aanbiedt via GROK, zal moeten blijken uit het onderzoek dat door de Europese Commissie is ingesteld.

Vraag 6

Welke mogelijkheden bent u aan het verkennen om op te treden tegen uitkleedapps en -tools? Hoe bent u dit aan het onderzoeken en op welke termijn gaat u de uitkomsten met de Kamer delen?⁵ Hoe snel zou u aanvullende maatregelen kunnen nemen?

Antwoord 6

Zie het antwoord op vraag 4.

Vraag 7

Vindt u de maatregelen die X heeft aangekondigd voldoende, namelijk een geoblokkade voor de AI-functie om seksuele deepfakes te genereren in landen die daar wetten tegen hebben? Wat betekent dit voor Nederlandse slachtoffers?

Antwoord 7

Wij zullen de effectiviteit van de door X genomen maatregelen moeten afwachten. Wij houden dat nauwlettend in de gaten.

Vraag 8

Deelt u de zorgen van de indiener dat deze geoblokkade gemakkelijk te omzeilen is en geen recht doet aan het leed van slachtoffers die ongewenst seksueel zijn afgebeeld?

Antwoord 8

Ja, wij delen deze zorgen, maar zoals eerder geantwoord zullen wij de effectiviteit van de getroffen maatregelen moeten afwachten.

Vraag 9

Onder welke voorwaarden vindt u het acceptabel dat Grok beschikbaar blijft op X? Bent u, ook na de technische aanpassingen van de chatbot, van mening dat deze niet langer beschikbaar moet zijn?

Antwoord 9

Zoals geantwoord bij vraag 4, wordt binnen het Ministerie van Justitie en Veiligheid gekeken naar de mogelijkheden om het gebruik van nudify applicaties verder tegen te gaan.

Vraag 10

Bent u bereid om, net als in België en het Verenigd Koninkrijk, over te gaan tot het blokkeren van de AI-chatbot Grok? Welke andere ingrijpen heeft u tot uw beschikking?

Antwoord 10

De DSA harmoniseert de regels die van toepassing zijn op tussenhandeldiensten op de interne markt volledig. De lidstaten mogen derhalve geen aanvullende nationale eisen stellen of in stand houden die verband houden met aangelegenheden die binnen het toepassingsgebied van de verordening vallen, tenzij daarin uitdrukkelijk is voorzien in de verordening. Vanuit België is een oproep geweest aan de EC om op te treden, maar daar is Grok momenteel niet verboden.

De EC is inmiddels een onderzoek gestart naar de AI chatbot Grok. Bij constatering van schending van de DSA staan de EC verschillende middelen ter beschikking; één daarvan is de toegang tot een dienst beperken.

In het Verenigd Koninkrijk is andere wetgeving op digitale diensten van toepassing dan in de Europese Unie.

Vraag 11

Steunt u de oproep van de Europese Commissie dat alle interne documenten en data gerelateerd aan de chatbot Grok moet worden vrijgegeven in het lopende onderzoek naar de contentmoderatie van X?⁶

Antwoord 11

Het is niet aan ons als bewindspersonen om deze oproep van de EC te beoordelen. Zoals ook bij vraag 3 beantwoord, houdt primair de EC toezicht op X en op Grok, als onderdeel van X. In het onderzoek, dat is gestart door de EC, heeft Nederland geen specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling.

Vraag 12

Kunt u de relevante toezichthouders, in dit geval de Autoriteit Consument & Markt en de Autoriteit Persoonsgegevens, vragen om hun reactie? Hebben zij voldoende mogelijkheden om toezicht te houden en te handhaven?

Antwoord 12

De ACM en AP hebben aangegeven op dit moment samen met andere partijen en toezichthouders te verkennen wat de mogelijkheden zijn om dit soort applicaties aan te pakken en hoe zij elkaar daarin kunnen versterken.

Als het gaat om specifiek de bevoegdheden van de ACM, heeft de ACM de volgende reactie gegeven:

«De ACM houdt in Nederland toezicht op de DSA. De DSA gaat niet over welke online inhoud illegaal is. Dat bepalen wetten zoals het strafrecht of privacywetgeving. Wat de DSA wél regelt, is welke processen de online platforms moeten hebben ingericht op het voorkomen van illegale inhoud. Bijvoorbeeld, hoe online platforms moeten omgaan met meldingen over illegale inhoud. Dit betekent dat de ACM niet kan optreden tegen de illegale content zelf, zoals bijvoorbeeld de seksuele beelden die zonder toestemming zijn verspreid. De ACM komt bij deze problematiek enkel in beeld als er sprake is van een onlineplatform (of een hosting provider) die een rol speelt in de verspreiding/hosting van de content en zoals hiervoor genoemd de processen niet op orde heeft.

De ACM kan optreden wanneer de aanbieders van deze diensten in Nederland gevestigd zijn. De allergrootste platforms vallen primair onder toezicht van de EC. Zo heeft de EC een DSA-onderzoek geopend tegen het platform X, in verband met de rol dat dat platform speelt in het verspreiden van content door middel van Grok. Nationale toezichthouders kunnen wel bijstand verlenen bij onderzoeken als de EC daarom vraagt. Ook kunnen Nederlandse gebruikers meldingen van mogelijke DSA-overtredingen bij de ACM indienen. De ACM zorgt er dan voor dat deze bij de juiste instanties terechtkomen.»

Als het gaat om specifiek de bevoegdheden van de AP, heeft de AP de volgende reactie gegeven:

«Het genereren en/of verspreiden van seksuele deepfakes is in dit geval een verwerking van persoonsgegevens die aan de Algemene verordening gegevensbescherming (AVG) moet voldoen. De AP kan onderzoek instellen naar personen of organisaties die verantwoordelijk zijn voor het (mogelijk) maken en verspreiden van dit soort materiaal. Dit kan op basis van klachten, maar ook op eigen initiatief. Als uit dat onderzoek blijkt dat de AVG wordt overtreden, kan de AP optreden, bijvoorbeeld door het opleggen van boetes en het laten verwijderen van content.

Wanneer het hoofdkantoor van een organisatie in een andere lidstaat is gevestigd, zoals het geval bij X (het Europese hoofdkantoor is namelijk gevestigd in Ierland), dan stelt de gegevensbeschermingsautoriteit van het betreffende land onderzoek in. De AP houdt nauw contact met deze collega-toezichthouders.

De AP merkt op dat wat deepnudes betreft er zowel praktische als juridische complicaties zijn als het gaat om bewijsvergaring en handhaving. Zo is het vaak lastig te achterhalen wie de deepfakes heeft gemaakt of verspreid, zijn de eigenaren van platforms vaak moeilijk vindbaar of bevinden deze zich in het buitenland (veelal buiten de EU). Ook sluit wetgeving niet altijd naadloos aan op dit soort situaties.»

Een complicerende factor is ook dat de illegaliteit van de content telkens van individueel geval tot geval moet worden beoordeeld en bewezen en het is niet goed mogelijk dit in generieke zin te doen. Voor een effectieve aanpak van dit probleem bevelen de ACM en AP aan dat onderzoek wordt gedaan naar manieren om de drempel voor de illegaliteit van deze problematiek te verlagen, of om vast te stellen of een nieuwe strafbaarstelling van meerwaarde is. Dan kan het probleem bij de bron worden aangepakt, in plaats van incidentbestrijding.

Vraag 13

Hoeveel klachten en meldingen zijn er gedaan door slachtoffers van seksuele deepfakes door Grok? Hoe wordt hier opvolging aan gegeven? Gebeurt dit altijd tijdig?

Antwoord 13

Slachtoffers kunnen bij verschillende organisaties, zoals Slachtofferhulp Nederland (SHN), Centrum Seksueel Geweld (CSG) en Offlimits, terecht voor hulp. Als het slachtoffer overweegt een melding te maken of aangifte te doen, kan deze terecht bij de politie. Genoemde hulporganisaties kunnen slachtoffers hierover informeren of hierbij ondersteunen.

Bij bovengenoemde hulporganisaties is niet bekend of er ook Nederlanders zijn die slachtoffer zijn geworden van de AI-naaktbeelden, die specifiek met de AI-Chatbot Grok zijn gegenereerd. Dit komt omdat bij meldingen die door slachtoffers worden gedaan bij SHN en CSG, in de registratie geen onderscheid wordt gemaakt naar misbruik van echt dan wel met AI-gegenereerd beeldmateriaal. Bij meldingen die door slachtoffers worden gedaan bij Offlimits, wordt in de registratie wel onderscheid gemaakt tussen echt en AI-gegenereerd beeldmateriaal, maar wordt niet geregistreerd met welke specifieke AI-applicatie, zoals bijvoorbeeld de AI-chatbot Grok, de afbeeldingen zijn gegenereerd.

De politie heeft in de afgelopen twee maanden wel een toename gezien in de hoeveelheid meldingen die vanuit platforms worden gedaan over uploads naar AI-chatbot Grok. Mogelijk zijn er ook slachtoffers die zelf melding hebben gedaan bij de politie, maar dit is niet goed uit de registratie te halen, omdat de melding onder verschillende delictsoorten kan worden geregistreerd.

Vraag 14

Hoe is uw contact met X? Heeft u de zorgen over deepfakes al met X besproken? Zo ja, wanneer is dat gebeurd en wat waren de uitkomsten van deze gesprekken? Zo niet, kunt u dit zo spoedig mogelijk alsnog doen?

Antwoord 14

Nee, dit hebben wij niet met X besproken. De EC heeft inmiddels een onderzoek ingesteld. Wij zullen de ontwikkeling rondom dit onderzoek volgen.

Vraag 15

Voldoen X en xAI naar uw weten aan de ethische- en transparantieverplichtingen van Nederlandse en Europese wet- en regelgeving? Welke gevolgen heeft het als dit niet het geval is?

Antwoord 15

Zoals ook bij de vragen 3 en 11 aan de orde is gekomen, is het aan de EC, een onafhankelijke toezichthouder, om hier toezicht op te houden. De EC is inmiddels een onderzoek gestart in het kader van de DSA. Het is aan de EC om te beoordelen of X aan de wettelijke verplichtingen heeft voldaan. Nederland heeft in de lopende onderzoeken tegen X geen specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling. Als de toezichthouder vaststelt dat sprake is van het niet nakomen verplichtingen, kan zij sancties opleggen.

Vraag 16

Behoren het verbieden van X of het vertrekken van overheidsorganisaties van de dienst tot de mogelijkheden als X stelselmatig de nationale en Europese wet- en regelgeving blijft overtreden?

Antwoord 16

Het kabinet beraadt zich op dit moment over de wenselijkheid en mogelijkheid van een verbod op bepaalde applicaties. Het verbieden van X als geheel is niet aan de orde.

Vraag 17

Kunt u deze vragen afzonderlijk van elkaar en zo snel mogelijk beantwoorden?

Antwoord 17

Ja.

---

1. NRC, 15 januari 2026; X komt met nieuwe beperkingen voor gebruik Grok, maar mensen uitkleden blijft simpel↩︎

2. AD, 15 januari 2026; Politie en instanties slaan alarm om AI-app Grok: BN’ers digitaal uitgekleed, verbod in Nederland op tafel↩︎

3. AD, 15 januari 2026↩︎

4. Persbericht Europese Commissie 26 januari 2026↩︎

5. Uit uw reactie in het AD: «Als Ministerie van JenV bezien we momenteel hoe we ook aan de kant van de aanbieders van de apps dan wel tools, waarmee deze afbeeldingen worden gemaakt, kunnen optreden en slachtoffers kunnen beschermen.»↩︎

6. Politico, 12 januari 2026, «Unthinkable behavior»: Von der Leyen slams Musk’s AI for undressing photos of women↩︎