En bref, sous l’impulsion du Danemark, de nombreux États membres de l’UE demandent que les messageries comme WhatsApp/Signal/etc. soient contraintes d’inspecter toutes nos photos et tous nos liens en utilisant de l’IA. Si l’IA a le moindre “doute” quant à la possibilité qu’il s’agisse de pédopornographie, votre photo, votre localisation, votre numéro de téléphone ainsi que d’autres détails sont signalés à Europol et aux forces de police locales.

La suite n’est pas précisée, mais vos vacances à Chypre pourraient se vite se terminer par l’obligation d’expliquer vos photos au poste de police local. En grec.

Und hier auf Deutsch, et en Anglais. Si vous traduisez cette page en (disons) espagnol ou italien (ce qui sera très utile), vous pouvez m’en informer (bert@hubertnet.nl) afin que je puisse créer un lien vers votre travail ou l’héberger sur mon site. Ici l’original Markdown. Merci !

Il y a de nombreuses façons dont cela pourrait mal tourner. En particulier, cette IA devra être développée par WhatsApp/Meta pour qu’ils puissent nous surveiller, au nom de l’UE (!!). Le projet stipule que tout doit être signalé, sauf si le signalement est “manifestement infondé”, ce qui est un seuil très bas. En tout état de cause, ce n’est pas le moment d’être un jeune à la recherche d’un emploi, ni d’avoir des enfants en général. Notez que les photos de tout le monde seront scannées, pas de place pour les soupçons.

Même si les autorités décident que votre photo est “légale”, une copie sera de toute façon conservée dans la base de données, car qui sait, elle pourrait toujours servir plus tard.

Un jour bientôt, si cette réglementation est adoptée, WhatsApp vous demandera la permission de faire analyser toutes vos photos et tous vos liens par son IA. Si vous ne donnez pas cette autorisation, vous perdrez la possibilité de partager des images et des liens. Signal a également déclaré qu’il quitterait l’UE si cette loi était adoptée.

Les versions antérieures de la proposition n’incluaient pas l’IA, qui n’est apparue que récemment.

Pendant ce temps-là, les forces de police et les experts en matière de prévention de l’exploitation des enfants se disent déjà sous l’eau, débordés de travail. Les hommes politiques affirment souvent qu’ils feront tout pour les enfants. Mais ils finissent rarement par donner à la police des mœurs plus de ressources, une meilleure formation et une meilleure coopération internationale.

Au lieu de ça, nous obtenons un gigantesque centre de surveillance, contrôlé par les Américains (!). Et l’histoire a montré qu’une fois qu’une capacité de surveillance existe, elle est rapidement utilisée à d’autres fins. Apparemment, les gouvernements en sont conscients, puisqu’ils ont exempté leur police, leur armée et leur personnel de sécurité nationale de cette nouvelle loi !

Il semble que le gouvernement allemand soit sur le point de soutenir cette proposition, qui pourrait alors devenir une loi. D’autres gouvernements, qui devraient être mieux informés, semblent également la soutenir :

J’invite tout le monde, en particulier les Allemands, à contacter leurs responsables politiques et à crier haut et fort.

Autres links (en Anglais)

• Chatcontrol.eu
• Item on Dutch TV EenVandaag
• Dutch Intelligence Agency weighs in and recommends against CSAM bulk scanning because of national security reasons
• Fight Chat Control, including buttons to contact European members of parliament.
• Latest version of the proposal