Chat Control : entre protection légitime et dérive autoritaire

Chat Control, une proposition de règlement qui fait polémique

Avec la montée du nombre de contenus pédopornographiques et d’occurrences de sollicitations de mineurs via les médias sociaux, l’Union européenne s’est finalement mise en mouvement. En mai 2022, la Commission soumettait une proposition de règlement intitulée CSAR (Child Sexual Abuse Regulation) – qui vise à prévenir et combattre les CSAM (Child Sexual Abuse Material) : contenu d’abus sexuel sur les enfants.

Personne ne peut contester la nécessité de protéger les enfants contre les abus sexuels en ligne, il serait même incompréhensible de remettre en cause la légitimité d’une telle démarche. Pourtant, cette initiative, plus connue sous le nom de Chat Control par ses opposants, soulève de vives inquiétudes quant aux moyens envisagés.

Le principe de Chat Control est que les plateformes numériques seraient légalement obligées d’identifier les contenus illégaux. Malgré cette noble aspiration se cache un inquiétant mécanisme, dont la mise en œuvre technique suscite des préoccupations considérables. L’amélioration des conditions pour la protection des enfants est vue par certains comme un cheval de Troie, car on craint qu’il puisse représenter un nouveau mode de surveillance universelle.

La proposition préconise que les plateformes cessent de se borner à signaler volontairement les contenus inopportuns. En vertu de la loi, elles seraient aussi responsables d’un repérage actif, qu’il s’agisse d’images, de vidéos ou de liens suspects. Tout devrait être passé au peigne fin. Pour ce faire, l’Union européenne promeut une technologie connue sous le nom de “Client-Side Scanning”. Cela signifie qu’au lieu de procéder à une analyse post-transférentielle des fichiers, le système le ferait à même l’appareil de l’usager, avant qu’ils soient chiffrés.

Pour être clair, cela signifie qu’avec Chat Control une photographie, une vidéo ou un lien pourrait être inspecté par un logiciel intégré dans votre téléphone ou votre ordinateur. Ce logiciel comparerait vos fichiers à une base de données contenant des références de contenus pédopornographiques connus. Si un de vos contenus correspond à un contenu connu, un signalement serait généré et envoyé à un centre européen, puis éventuellement aux autorités, selon l’état concerné. On assure que seuls les messages visuels et les URL seraient concernés, tandis que les messages texte et audio seraient exclus de toute inspection.

On dit aussi que le consentement explicite permettant l’activation de Chat Control serait nécessaire dans le cadre de l’utilisation de messagerie chiffrées : si l’utilisateur refuse le scan, l’envoi de son fichier serait alors simplement bloqué. Mais le principe du consentement s’accompagne généralement de quatre notions, un consentement doit être libre, spécifique, éclairé et univoque. Ce blocage remet en question cette notion de liberté. En effet, pour que l’on puisse considérer qu’un consentement est libre, ce dernier ne doit pas être contraint ni influencé, l’utilisateur doit se voir offrir un choix réel, sans avoir à subir de conséquences négatives en cas de refus.

Chat Control, un mécanisme informatique, imaginé par des juristes ?

Et ce n’est pas le seul problème. Il y a aussi le problème d’exigences technologiques. Pour fonctionner, Chat control aurait besoin d’une puissance de calcul suffisante, de stockage local pour la base de données s’il a vocation à fonctionner hors-ligne sans parler des mises à jour de nouveaux contenus identifiés. Ce qui engendre des obstacles, surtout pour les appareils anciens ou peu performants. Sans parler du risque de faux signalements : une photo mal interprétée ou pire encore le risque que des contenus ou des conversations réellement dangereux ne soient pas détectés à temps.

Mais cela n’est rien à côté des dangers pour le chiffrement End-to-End Encryption (E2EE). En effet un fichier doit être scanné en clair. Cela revient donc à installer un backdoor dans tous les systèmes de messagerie sécurisée. Dès qu’il est ouvert, comment garantir qu’il ne sera pas exploité à d’autres fins ? Une polémique qui enfle depuis des mois. De nombreux chercheurs, ONG et acteurs du numérique tirent la sonnette d’alarme. Des pétitions ont récolté des dizaines de milliers de signatures. Et sur TikTok, le hashtag #StopChatControl contient plus de 15 millions de vidéos.

Des applications comme Signal, Proton ou Threema menacent de quitter le marché européen si le texte est adopté, dénonçant une atteinte à la sécurité, à la confiance et à la vie privée. Et bien sûr, le comble est que le texte envisage d’exempter du système certains utilisateurs notamment les responsables politiques..

Chat Control, un projet de surveillance de masse

Les représentants des gouvernements des États membres de l’UE, devait se prononcer le 14 octobre sur ce projet de règlement. Ce vote a finalement été repoussé à la dernière minute. Ces derniers mois, les pays ont pris officiellement position sur le texte. Certains s’y sont opposés, comme l’Allemagne ou l’Autriche. D’autres sont pour, ou se sont abstenus. Selon l’association française La Quadrature du Net, la France, après avoir été contre le texte puis s’être abstenue, risque désormais de voter en faveur du règlement.

Ce n’est pas la première fois que le combat contre le mal justifie des dispositifs intrusifs. En France, l’article 8ter de la loi contre le narcotrafic ouvrait déjà la porte à une surveillance massive sous prétexte de lutte contre le trafic de drogues, cet article avait heureusement été retiré du texte. Aujourd’hui, c’est Chat Control. Demain, ce sera un autre danger. À chaque fois, la tentation d’utiliser la technologie pour contrôler plutôt que pour protéger. Et les opposants ne sont pas pris au sérieux. Certains les considèrent comme des défenseurs de criminels, leur reprochant de ne pas souhaiter protéger les enfants.

Pourtant, leur combat est simple : ils ne veulent pas que la réponse à la violence soit une autre violence. Ils ne veulent pas protéger les plus faibles en sacrifiant les libertés du plus grand nombre. La pédocriminalité est un mal qui doit être éradiqué de cette terre. Cela ne signifie pas que tout le monde doit être mis sur écoute. Hier, c’était le projet de loi contre le narcotrafic. Aujourd’hui, c’est la proposition de règlement intitulée CSAR. Demain, ce sera une autre bataille. Mais à chaque fois, il faut rester vigilant. Quand la lutte contre le mal est utilisée comme prétexte pour surveiller tout le monde.

Chat Control devra encore franchir plusieurs étapes législatives. « Il n’a même pas encore atteint le stade des négociations finales et il est possible qu’il n’y arrive même pas », pointe l’EDRi. Car « le droit européen prévoit une série de contre-pouvoirs visant à garantir que les projets de loi soient examinés démocratiquement, et bon nombre de nos législateurs sont heureusement à l’écoute des arguments qui sont avancés ».