Chatcontrol: Of de Amerikanen onze WhatsApp foto's willen melden bij Europol

Posted on

In het kort: onder leiding van Denemarken pleiten veel EU-lidstaten er (weer) voor om WhatsApp/Signal/etc te dwingen al onze foto’s en links te inspecteren met behulp van AI. Als de AI ook maar enige “twijfel” heeft of iets kinderpornografie zou kunnen zijn, worden je foto, locatie, telefoonnummer en andere gegevens doorgestuurd naar Europol en de lokale politie.

Wat er daarna gebeurt staat niet precies in het voorstel, maar je vakantie op Cyprus zou zomaar kunnen eindigen met een gesprek op het lokale politiebureau om je foto’s uit te leggen. In het Grieks.

Here in English. Und hier auf Deutsch 🇩🇪🇦🇹🇧🇪. Et ici en français 🇫🇷 🇧🇪🇱🇺. Y aquí en castellano 🇪🇸, og her på dansk 🇩🇰, E qui in italiano 🇮🇹. Și aici în română 🇷🇴.

Er zijn talloze manieren waarop dit mis kan gaan. In het bijzonder moet deze AI worden gebouwd door WhatsApp/Meta/Facebook, zodat zij ons namens de EU kunnen monitoren (!!). De ontwerptekst zegt dat alles moet worden gemeld, tenzij de melding “manifest ongegrond” is - een zeer lage drempel. Het wordt hoe dan ook geen fijne tijd zijn om er jong uit te zien, of überhaupt kinderen te hebben. Let op: alle foto’s zullen worden gescand, er is geen enkele specifieke verdenking nodig.

Zelfs als de politie bepaalt dat je foto “legaal” is, blijft er toch een kopie in de database, omdat deze later misschien nog van pas komt. Wie weet.

Als deze verordening wordt aangenomen, zal WhatsApp je vragen toestemming te geven om al je foto’s en links door hun AI te laten analyseren, namens de EU. Als je die toestemming niet geeft, verlies je de mogelijkheid om afbeeldingen en links te versturen. Signal heeft aangegeven de EU te zullen verlaten als ze gedwongen worden zo’n scanner in te voeren.

Eerdere versies van het voorstel bevatten geen AI; dit is pas recent weer toegevoegd. Tegen de zin van Nederland overigens.

Ondertussen zeggen politiediensten en echte experts in de bestrijding van kinderporno dat zij nu al overspoeld worden met meldingen. Politici zeggen vaak dat ze alles zullen doen “voor de kinderen”. Maar dit leidt zelden tot méér middelen voor de zedenpolitie, betere training of verbeterde internationale samenwerking.

In plaats daarvan krijgen we een gigantisch surveillancesysteem, gerund door Amerikanen (!). En de geschiedenis leert dat zodra er een surveillance-mogelijkheid bestaat, die al snel voor andere doeleinden wordt gebruikt. Blijkbaar zijn overheden zich hiervan bewust, want hun eigen politie, leger en veiligheidsdiensten zijn uitgezonderd van deze nieuwe wet!

Het lijkt erop dat de Duitse regering dit voorstel gaat steunen. In dat geval kan het zomaar wet worden. Andere regeringen, die beter zouden moeten weten, lijken ook voorstander te zijn:

Van chatcontrol.eu

Ik roep iedereen, vooral Duitsers, op om hun politici te contacteren en luid van zich te laten horen.

De positie van de Nederlandse regering is en was dat dit scannen met AI onacceptabel is, en dat is op 21 juli nog bevestigd. Op zich zitten wij goed dus, maar het blijft spannend. Het is verkiezingstijd.

Afsluitend, de EU heeft een heel programma opgetuigd om in bredere zin politie meer toegang te geven tot onze communicatie, onder de paraplu van de ProtectEU strategie. Specifiek wil men nieuwe regels voor het afluisteren van specifieke berichten. Men zoekt nog experts om hierover mee te denken, en ik begrijp dat dit een oprechte oproep is. Hier schrijf ik hoe je je tot 1 september nog aan kunt melden, en ook waarom ik zelf niet meedoe.

Hier zijn nuttige links om meer te leren: