Surveillance des échanges privés : quand l'UE prend Google en modèle

Un nouveau projet de règlement dit « CSA », pour Child Sex abuse Regulation, est examiné par le Parlement Européen. Il cherche à créer une obligation légale pour les fournisseurs de service (Whatsapp, Messenger, etc.) de scanner toutes les communications électroniques entre utilisateurs. En inscrivant dans la loi ce mécanisme, le Parlement Européen entérinerait un régime de surveillance produit par les grands monopoles du numérique.

Les portiques de détection numériques

La nouvelle paraît en août 2021 : Apple  partage publiquement son nouveau projet consistant à scanner les messages sur son application afin de contrôler les images et les messages qui s'échangent ou se stockent sur les iPhones ou sur l'iCloud, ceci pour « identifier » des violences sur mineurs. La lettre publique d'une coalition très large d'opposants explique :

« La technique que propose Apple fonctionne en contrôlant en continu les photos sauvegardées ou partagées sur les iPhones, iPads ou Macs des utilisateurs.

Si un premier système détecte un certain nombre de photos douteuses dans le système de stockage de l'iCloud, il alerte les autorités. Un autre notifie les parents de l'enfant si iMessage est utilisé pour envoyer ou recevoir des photos qu'un algorithme d'apprentissage-machine considère qu'il contient de la nudité. »

La méthode est la suivante : chaque image peut être convertie en « hash », une série de caractères uniques qui en restituent un certain nombre de caractéristiques. L' image scannée est ensuite comparée à une base d images identifiée préalablement. La proposition initiale d'Apple étant de s'appuyer sur un répertoire créé par une association américaine d'aide à l'enfance, le NCMEC (National Center for Missing and Exploited Children).