Drapher, voix off : Toutes nos vies sont sur les smartphones, particulièrement sur les messageries qui permettent d’échanger énormément, beaucoup plus que les mails. En fait, on se retrouve avec une Stasi en IA qui, en permanence, regarde, compare, scrute ce qu’on fait, notre intimité, donc nos photos, nos vidéos.
Voix off : Les Éclaireurs du Numérique, le podcast qui décrypte les enjeux cachés d’Internet.
Damien Douani : Bonjour à toutes et à tous et bienvenue dans cette septième saison, oui déjà septième saison des Éclaireurs du Numérique. Nous sommes toujours là. J’ai reçu des messages inquiets de certaines gens qui me demandaient : « Où êtes-vous ? Qu’est-ce qui se passe ? On a vu sortir un épisode récemment, puis un autre un peu avant. Est-ce que vous êtes toujours d’actualité ? Est-ce que vous êtes toujours, on va dire, en fonction, en activité ? ». Oui, la réponse est oui. On avait juste besoin de se poser un tout petit peu, de prendre le temps, de réfléchir, de prendre du recul parce que, vous le savez, la tech est un combat de société et ce combat est parfois compliqué et fatigant. Nous avions donc besoin, avec Fabrice, de nous reposer un peu, de recharger nos batteries et puis aussi de chercher de nouveaux combattants et vous allez en découvrir un ce soir à nos côtés.
Nous sommes heureux de vous accueillir. D’abord, je vous l’ai dit, Fabrice est là. Bonsoir Fabrice.
Fabrice Epelboin : Bonsoir.
Damien Douani : Bonjour ou bonsoir, selon le moment où vous écoutez. Pour tout vous dire, cet enregistrement est fait le soir où on n’a pas dit bonsoir mais bonjour, pour ceux qui nous écoutent peut-être.
Comment vas-tu Fabrice ?
Fabrice Epelboin : Ça va. On ne peut pas se plaindre. Ce ne sont pas les causes qui manquent. En ce moment, les libertés fondamentales sont mises à mal. On a de quoi travailler pendant encore de nombreuses années, si tant est qu’on nous laisse prendre la parole. Pour l’instant, profitons-en, on peut.
Damien Douani : On va effectivement continuer à le faire et on va en profiter.
Nous avons un petit nouveau autour de la table, il s’appelle Drapher. Bonjour Drapher.
Drapher : Bonjour à tous.
Damien Douani : Salut Drapher. Drapher est un vieux de la vieille du numérique, il connaît bien tous ses arcanes et il va nous accompagner sur plusieurs émissions justement pour nous aider à décrypter ce qui est en train de se passer, à comprendre un peu les impacts du numérique sur la société, comme d’habitude, j’ai envie de vous dire. Et là, on va parler d’un sujet particulier qui, à ma grande surprise, est un peu apparu dans les grands médias, les médias mainstream, qui est apparu et qui est reparti aussi vite, mais j’étais quand même surpris de le voir apparaître dans des médias comme Le Parisien, RTL, dans des trucs où, d’habitude, à part ChatGPT, on ne voit pas trop apparaître la tech. Il s’agit de Chat Control [1].
Chat Control n’est pas un nouveau produit lancé par Meta, quoique, qui serait un Messenger version plus plus de WhatsApp, non, c’est tout autre chose. Qui aurait envie, en deux mots, de nous raconter ce qu’est Chat Control, en très simple, en bref.
Drapher : Vas-y Fabrice.
Fabrice Epelboin : Pour faire bref, ça consiste à faire un petit update dans toutes les applications de messagerie qu’on utilise en Europe – WhatsApp, Signal, Telegram –, tous ces systèmes de messagerie, de façon à y intégrer un petit logiciel qui va scanner vos contenus, avant que vous les envoyiez, de façon à voir si, par hasard, ça ne serait pas des contenus pédopornographiques et, si c’est le cas, le rapporter aux autorités. C’est donc un update européen pour tous les systèmes de messagerie qui va permettre de mettre en place un système de surveillance de l’ensemble de la population européenne, dans un premier temps pour la pédopornographie. Le système consiste à comparer ce que vous envoyez avec des bases de données préétablies de contenus, aujourd’hui c’est la pédopornographie, demain ça sera le terrorisme, après-demain ça sera Dieu sait quoi. C’est vraiment le pied dans la porte d’une surveillance de masse qui, pour une fois, ne se cache pas. On n’est pas en train d’installer en loucedé, disons, des systèmes de surveillance pour regarder la population européenne, mettre sous surveillance des populations tout entières. Là c’est assumé sous la forme d’une loi, avec évidemment, comme inconvénient, qu’il faut que les fabricants, les développeurs de systèmes de messagerie se conforme aux desiderata de l’Europe et intègrent, dans leurs propres logiciels, des mouchards, ce à quoi Signal a répondu que si Chat Control passait, il quitterait le territoire européen. Apparemment, les autres ont l’intention de s’y conformer.
Damien Douani : Ou attendent de voir comment ça va se passer. Récemment, on a vu que Apple essayait de torpiller le DMA [Digital Markets Act] [2] de contourner un peu tout ça.
Déjà on va faire un petit un petit résumé, un petit retour en arrière. C’est une proposition qui a été faite par la commissaire Ylva Johansson en mai 2022, ce n’est pas nouveau, quand même, avec un vote qui est prévu le 14 octobre 2025, donc dans pas longtemps, au Conseil européen. Comme tu le disais, Fabrice, l’argument numéro 1, c’est de dire que c’est pour lutter contre la pédopornographie ; en 2021, il y aurait eu 85 millions de signalements de contenus pédopornographiques. C’est un chiffre qui est contesté, c’est bien sûr énorme. Nous sommes très clairs sur le sujet de la pédopornographie, c’est quelque chose de dégueulasse et de totalement illégal. On peut discuter du chiffre, en tout cas c’est l’argument numéro 1 qui est mis en avant.
Drapher : Ce n’est pas un argument récent.
Il est important de bien savoir et de bien comprendre qu’il y a eu une première loi européenne, il y a bientôt plus de dix ans, elle a été abandonnée en 2012, et qui s’appelait INDECT [Intelligent information system supporting observation, searching and detection for security of citizens in urban environment]. C’était un règlement européen avec une technologie, avec des groupes qui s’étaient constitués pour travailler au niveau du continent, afin de mettre en place des systèmes de surveillance très avancés pour pouvoir scanner tout le réseau, des systèmes de caméras de surveillance aussi, pour pouvoir lutter contre la cybercriminalité, en particulier la pédopornographie. C’est donc quelque chose qui existe déjà. Cette idée européenne de mettre en place des outils de surveillance de la population, c’est pareil, c’est quelque chose qui n’est pas récent. On avait travaillé, à l’époque, sur les boîtes noires que Sarkozy avait potentiellement fait mettre en place en 2009. Ça a été officialisé en 2015 avec les boîtes noires du renseignement. Il y avait eu la loi de programmation militaire qui mettait aussi en place une surveillance du réseau. En fait, c’est quelque chose qui revient.
Damien Douani : C’est quelque chose qui revient, qui n’est d’ailleurs pas propre à l’Europe puisque, on le sait, les États-Unis, notamment avec la NSA, bien sûr, avaient mis en place le réseau ECHELON [3] pour pouvoir, pareil, contrôler toute la population.
En France et en Europe, il y a la volonté de se battre sur la question, qui est légitime, de la pédopornographie.
Comme le précisait Fabrice, on va mettre des mouchards, on va créer une sorte de backdoor. Alors qu’aujourd’hui les arguments de tous les acteurs du marché GAFAM sont « vos messages sont cryptés de bout en bout. » Chiffrés, attention, je vais me faire taper dessus. Je vais la refaire sinon je vais me faire taper dessus !
Le point intéressant à voir c’est que, aujourd’hui, tous les acteurs GAFAM mettent en avant le fait que leurs messageries sont chiffrées de bout en bout, que soit du iMessage, du WhatsApp, du Messenger, ce que vous voulez. Lorsque vous envoyez un message avec WhatsApp, vous pouvez voir « chiffré de bout en bout » apparaître à l’écran. Là, ce qui est intéressant c’est que, finalement, ce système-là contourne ce chiffrement dans le sens où il agit avant même que soit envoyé le message, qu’il soit validé et parte dans le tunnel de chiffrement ; c’est là qu’on va vérifier son empreinte digitale, quelque part.
Drapher : C’est ce qui a été appelé le CSS, c’est rigolo pour les développeurs web, ils apprécieront, Client-Side-Scanning. C’est le fait de scanner le smartphone avant même que le message soit parti, c’est-à-dire qu’en fait c’est une backdoor. De ce que j’ai compris et de ce qu’on en sait, ce seraient des IA qui scruteraient, donc qui feraient des comparaisons avec des tags et qui regarderaient les contenus, surtout vidéos et photos évidemment, des smartphones de tout un chacun.
Damien Douani : Donc des IA qui scanneraient à partir d’une base de connaissances, notamment via PhotoDNA [4] qui est fourni par Microsoft et il y en a d’autres par Google, par Thorn [5]. Ils font de l’analyse. Comme on est sur des IA, il y a, bien sûr, une capacité d’extrapolation de ce qui est vu dans le message qui est envoyé pour, ensuite, dire « c’est un message qui est, à priori, fautif ou non fautif, litigieux ou non litigieux. »
Il n’y a pas si longtemps de cela, je n’ai pas la date exacte, une personne a envoyé à son médecin une photo de son enfant, sur la demande de ce médecin, en téléconsultation, pour vérifier quelque chose et le compte de cette personne a été suspendu par Google qui avait certainement déjà mis des premiers systèmes pour vérifier ce type d’infraction. Cette personne a dû expliquer, et ça a duré des mois, que non, ce n’était pas un échange de photos pédopornographiques, qu’elle répondait juste à la demande d’un médecin.
Est-ce que ça voudrait dire qu’il y a quand même un risque assez fort de faux positifs ?
Fabrice Epelboin : C’est probable. On va quand même attendre qu’ils mettent en place cette technologie, qu’ils l’éclaircissent parce que, pour l’instant, elle relève plutôt d’une vague intention faite par des juristes, ce n’est pas encore très sérieusement construit d’un point de vue technique. Mais dans la mesure où, on ne va pas se cacher, on sait que la finalité n’est absolument pas de choper des pédophiles, c’est une surveillance des citoyens, il y a fort à parier que dans ce qu’ils cherchent à surveiller il y ait effectivement des contours qui sont assez flous.
Je reviens sur les exemples que je donnais au début. Si vous commencez à surveiller les terroristes, la frontière est extrêmement floue. Les types qui manifestent contre les mégabassines sont qualifiés aujourd’hui de terroristes par pas mal de gens qui, typiquement, sont ministres de l’Intérieur. Ça représente donc beaucoup de monde, potentiellement demain encore plus, et, à un moment, à peu près tout le monde. Les pédophiles, c’est vraiment le pied dans la porte.
Drapher : Je repense à la loi Renseignement où il était stipulé que ça touchait « la sécurité nationale, les intérêts essentiels scientifiques, économiques, le terrorisme, la délinquance, les violences collectives en groupe ». Voilà !
Fabrice Epelboin : Si on le dit autrement, ça veut dire que n’importe quelle personne qui est cliente du fameux Uber Shit, et je ne sais pas combien de millions de personnes ça représente en France, mais vraiment beaucoup de monde, est potentiellement mise sous surveillance, ainsi, évidemment, que les dealers, on ne va pas se gêner et potentiellement leur premier cercle auquel ils pourraient éventuellement revendre à leur tour ou redistribuer à leur tour. C’est complètement fou comme perspective.
Drapher : Ce qui est très surprenant, c’est que ça soit en Europe. En fait, au niveau de la Commission des droits de l’homme, des constitutions européennes, de la constitution française en l’occurrence, le droit à la vie privée est inscrit en dur dedans. Là, on a quand même une impression qu’on revient à ce qui se passait avec la Stasi dans les années 50, 60 surtout. En préparant l’émission, j’ai repensé au film La Vie des autres où un type de la Stasi est forcé, par son boulot, d’écouter l’intimité des gens, là c’est avec des micros, à travers des murs, et il écoute tout ce qui se passe chez les gens.
Comme maintenant toutes nos vies sont sur les smartphones, et particulièrement les messageries qui permettent d’échanger énormément, beaucoup plus que les mails, en fait on se retrouve avec une Stasi en IA qui, en permanence, regarde, compare, scrute ce qu’on fait, notre intimité, donc nos photos, nos vidéos. Au niveau vie privée, je ne vois pas trop comment l’Europe a pu imaginer ça.
Damien Douani : Ce que tu pointes du doigt, Drapher, est intéressant, je vais laisser la parole à Fabrice après, c’est qu’on est sur quelque chose qui est antagoniste avec la philosophie même, une des philosophies de fondation de l’Europe, pour aller vers une logique plus chinoise d’un contrôle social. Comment a-t-on pu en arriver là ?
Fabrice Epelboin : On s’est déjà assis sur le concept de liberté d’expression tel qu’il est défini dans la Convention européenne des droits de l’homme, c’est l’article 10 si je ne m’abuse. Très clairement, le DSA [Digital Services Act] [6] outrepasse cet article et va beaucoup plus loin. Là on est en train de s’attaquer à l’article 8, je crois, la vie privée. Pas mal de trucs fondamentaux, dans les droits de l’homme, ont déjà été mis à mal. Ce n’est pas le premier coup de canif dans le contrat qu’on appelle les valeurs européennes et fondamentalement c’est vrai que, objectivement, on est en train de s’asseoir dessus.
Damien Douani : Est-ce que ça veut dire qu’on préfigure une sorte d’Europ Control by design ? Autrement dit, ce qui n’était pas le cas par défaut jusqu’à présent, va devenir le cas désormais, au-delà du fait que les Européens sont très forts dans tout ce qui est réglementation du numérique, en plus de ça, dans cette réglementation, ils vont ajouter une couche de contrôle.
Drapher : C’est ça. C’est effectivement le control by design. Il y a eu encore d’autres tentatives. Des portiques avaient été installés pour les aéroports aux frontières de l’Europe, je ne sais si vous en aviez entendu parler, je ne me souviens plus, là tout de suite, le nom de ces portiques, qui étaient aussi traités par IA avec reconnaissance faciale. Donc soit les gens se mettaient dans une file et ça durait un temps infini.
Damien Douani : Si je dis pas de bêtise, c’est un système basé sur le système PARAFE [Passage Automatisé Rapide Aux Frontières Extérieures].
Drapher : Ils mettaient leur visage et leurs données biométriques de visage étaient traitées en direct et étaient comparées avec des bases, etc. Évidemment, ça a été très contesté parce que c’est un énorme problème, il n’y a pas plus privé que la donnée biométrique, c’est ce qui nous appartient, c’est notre corps, notre visage en l’occurrence.
Après, technologiquement, il y a aussi un petit problème quand même. Quand on achète de la technologie, quand on achète du logiciel, on achète aussi de la sécurité. Quand on prend une messagerie qui vend son produit, même s’il est gratuit, en tout cas quand on nous demande de le télécharger on nous dit que nos messages seront chiffrés, donc qu’il y a une sécurité, c’est-à-dire qu’on nous garantit une sécurité. Apple le fait aussi énormément sur ses machines. Donc là, d’un seul coup ça pète aussi commercialement quelque chose, ça veut dire qu’on achète des technologies et des États outrepassent, quelque part, le marketing, hyper important qui est vendu avec.
Damien Douani : Même si, on ne va pas se mentir, si je prends le cas de Meta avec WhatsApp, même Messenger, qui est en train d’intégrer Meta AI dans tous les fils de discussion, en clair il est en train de mettre, lui aussi, une sorte de mouchard dans les conversations, puisqu’on peut invoquer Meta AI dans une conversation et rien ne nous dit que ce Meta AI n’est pas capable d’extirper des données d’une conversation qui est chiffrée.
Damien Douani : Sachant qu’on peut ne pas prendre WhatsApp.
Drapher : Ou on peut ne pas utiliser Meta AI, ce que je fais.
Fabrice Epelboin : Alors que ne pas utiliser la France comme pays de nationalité, c’est compliqué.
Drapher : C’est ça et ne pas avoir le choix parce que toutes les messageries sont plombées, ont une backdoor, là on est dans autre chose.
Damien Douani : Justement, Fabrice, tu dis qu’on ne peut pas choisir d’être Français ou autre. Tout cela n’est-il pas anticonstitutionnel au niveau des pays, si l’Europe décide qu’il doit y avoir une adaptation au niveau des différents pays européens ?
Fabrice Epelboin : L’Europe surpasse les constitutions locales, mais de toute façon, au niveau européen il y a la Convention européenne des droits de l’homme et non, ce n’est pas constitutionnel. Le problème, c’est qu’il est extrêmement compliqué et coûteux d’intenter une action judiciaire contre cela et, pour l’instant, personne ne le fait. Je n’ai pas entendu beaucoup de politiques se lever contre ça, hurler contre Chat Control, j’ai pu passer à côté de quelque chose, mais tout le monde semble regarder ailleurs ou ne pas considérer que c’est important. Dans l’écosystème des ONG, La Quadrature s’est fendue d’un communiqué [7] je ne sais pas si elle va intenter derrière des recours juridiques et, à ma connaissance, c’est tout, en tout cas en France.
Damien Douani : Ce n’est pas un sujet qui préoccupe. Il y a l’argument vrai ou faux, cet argument dont on parlait au début qui est la chasse aux pédophiles, l’argument sur lequel personne ne peut dire « je ne suis pas pour ». La question de fond c’est : est-ce que cet argument est vrai ? On va être un peu violent : est-ce que, quelque part, c’est un faux-nez ? Est-ce que ça part d’une vraie bonne idée qui, d’un seul coup, est dérivée. Quel est le truc ?
Drapher : Damien, il faut remettre les choses dans la réalité. Il y a un certain nombre de pédophiles, mais c’est une poignée, c’est un petit pourcentage de la population, c’est très grave, mais ces gens-là ont des logements, ils sont chez eux, ils ont une vie, etc. Si vraiment on prend comme présupposé qu’il faut à tout prix tous les arrêter, il faut effectivement installer des caméras chez les gens, vérifier en direct ce qu’ils font pour savoir s’ils ne sont pas pédophiles. Vous voyez ce que je veux dire : c’est à peu près le même niveau d’argument qui dit qu’on va contrôler toutes les messageries de tout le monde en partant du présupposé que tout le monde est potentiellement pédophile. Il y a un énorme problème.
Fabrice Epelboin : À côté de ça, il faut quand même préciser un peu ce que sont les deux facettes du pédophile. J’ai eu, j’allais dire la chance, en fait pas du tout, c’était assez effrayant comme expérience, j’ai fait une investigation en 2008 sur le trafic de pédopornographie sur Internet, avec tout un historique basé sur des documents qui étaient vraiment totalement inédits à l’époque. Concrètement, pour faire la chasse aux pédophiles, il y a des unités spécialisées de la police et de la Gendarmerie qui font de l’infiltration, qui font des recoupements, des enquêtes qui peuvent durer très longtemps, qui collectionnent des photos de façon à reconstituer des réseaux, des trafics, des machins et des trucs, qui, au final, arrivent souvent à des arrestations. Le problème, c’est que ces gens-là sont très peu nombreux, on ne met pas du tout les moyens là-dessus, mais il faut être très clair sur les ressources technologiques qu’on a aujourd’hui, en 2025. La France dispose de systèmes tout à fait équivalent à Pegasus. Une fois qu’on a repéré un Jo-le-pédophile, il est tout à fait faisable, techniquement, de le mettre sous écoute pour repérer Billy, son pote pédophile, avec qui il trafique, le mettre à nouveau sous écoute et, comme ça, remonter une filière. On n’a pas besoin de mettre la population entière sous écoute pour ça.
Drapher : Il y a une question que personne ne pose, mais qui est quand même amusante, on ne croit quand même pas que les pédophiles ne vont pas être au courant de l’info ! Imaginons ! Ils savent tous que leurs messageries vont être scannées et ils vont mettre leurs photos et leurs vidéos sur leur messagerie ?
Fabrice Epelboin : L’un des trucs les plus intéressants que j’avais appris dans cette enquête, qui date de 2008, donc d’avant les réseaux sociaux, c’était l’incroyable capacité que les pédophiles ont à se saisir de technologies souvent pointues et parfois complexes, typiquement des VM [virtual machine] chiffrées, louées à l’étranger, dans lesquelles il y avait de la data, des trucs comme ça ; le dark web, évidemment, et toutes ces conneries, ce qui fait que, de toute façon, la chasse aux pédophiles se passe dans ces espaces-là depuis belle lurette, ça fait des décennies.
Drapher : Ils ont mis un certain temps à choper des gens de Daesh qui, en fait, se réunissaient sur des vidéos en ligne, dans des univers en ligne de jeux vidéo, ils avaient leurs micros, etc., ils se faisaient des vidéos.
Damien Douani : Exact. Je me souviens de ce truc.
Drapher : Évidemment, les mecs improvisent quand ils savent qu’ils peuvent être surveillés sur leurs propres des outils, etc., il y a plein de solutions pour détourner. Après, il y a les attentats de novembre, les horribles attentats du 13 novembre 2015, les types utilisaient des téléphones classiques, jetables, etc., ils ne sont pas passés par des smartphones.
Fabrice Epelboin : Avec des SMS, ils n’utilisaient même pas de systèmes de messagerie chiffrée.
Damien Douani : Outre le fait que « faites attention à votre Nokia 33 qui, d’un seul coup, peut avoir une valeur inestimable pour certains », j’entends, quelque part, qu’il y a une volonté de faire du technosolutionnisme en se disant « on va fliquer tout le monde et ceux qui auront quelque chose à se reprocher tomberont dans nos filets », plutôt que de mettre des moyens sur des unités spécifiques qui, elles seraient à même de pouvoir les chasser, qui existent déjà mais qui sont sous-staffées. On est vraiment un peu dans la logique d’une sorte de terrorisme prédictif.
Fabrice Epelboin : Ça pourrait effectivement arriver. Le jour où on arrête avec les pédophiles et qu’on assume de surveiller pour le terrorisme, par exemple, ou pour la drogue, le trafic de drogue. Pour le terrorisme, si on se met effectivement à surveiller au sens le plus large qu’on puisse imaginer – rappelons-nous les écolos sont des terroristes depuis belle lurette, ça date de François Hollande, ce n’est pas une innovation de l’ère Macron –, donc le terrorisme aujourd’hui concerne énormément de monde, énormément de courants politiques divers et variés.
Drapher : Les Gilets jaunes tombent totalement dans les catégories de la loi anti-terroriste.
Fabrice Epelboin : Il y a des millions de personnes, en France, qui pourraient tomber sous le qualificatif de terroristes, ou proches du terrorisme, justifiant une mise sous surveillance. Ajoutez à ça les consommateurs de drogue et nécessairement leurs fournisseurs, vous rajoutez encore des millions de personnes. Ça veut dire que très rapidement de tels dispositifs peuvent, sur un simple petit update législatif, s’étendre à une large partie de la population française qui va être scrutée dans tout ce qu’elle raconte de façon à essayer de comprendre et d’anticiper. Si ce ne sont pas les prémisses d’une société de contrôle !
Drapher : C’est très intéressant, parce que déjà il y a dix ans, par erreur Facebook avait sorti une étude qu’ils avaient faite sur 600 000 personnes en Angleterre pour essayer de faire du prédictif et faire du contrôle social, donc pour les services policiers, renseignement, etc. En fait, à chaque fois il y a un prétexte, que ça soit la pédophilie, la pédopornographie, que ça soit le terrorisme, la criminalité, ce que vous voulez, la volonté politique c’est toujours de contrôler entièrement et de mettre sous surveillance et sous écoute générale la population. C’est quand même quelque chose qui est inhérent au fonctionnement depuis à peu près une vingtaine d’années. Ce qui est drôle aussi, ce qui est étonnant, c’est quand même que quand on a eu l’affaire Snowden [8] et que tout le monde, dont Hollande, s’est écrié « oh là, là, c’est horrible, ils nous écoutent, ce n’est pas normal, etc. », il a fait passer sa loi de programmation militaire six mois après, avec l’idée de faire pareil chez nous.
Fabrice Epelboin : Plus exactement, on va légaliser le fait qu’on fait déjà pareil depuis un bout de temps !
Drapher : Oui, parce qu’il y avait déjà des trucs en place et les boîtes noires étaient déjà là aussi, c’était une façon de légalisation, dans l’idée quand même de ce contrôle. Avec les IA, c’est aujourd’hui beaucoup plus intéressant pour un pouvoir politique, parce qu’il y a une impression de maîtrise dans le sens où ils peuvent profiler très facilement des catégories de population, automatiser la chose, et effectivement pouvoir faire du prédictif parce que c’est cela qui va les intéresser : savoir quand va se monter le prochain mouvement social, la prochaine émeute, etc. Une fois qu’on a énormément d’informations traitées par IA sur la population et, j’entends bien, de la data privée, ça peut permettre aussi de savoir comment faire voter les gens, que leur proposer, comment diriger pour que la population soit docile. Il y a quand même une idée à la 1984 là-dedans qui me semble importante.
Damien Douani : Oui clairement. En préparant cette émission, je suis allé me balader sur pas mal de forums et vous avez la fameuse phrase qui revient tout le temps qui est « si je n’ai rien à me reprocher, de quoi ai-je peur ? ». Le problème principal c’est que, aujourd’hui, j’ai la sensation que tout un chacun ne se rend pas compte qu’il a forcément quelque chose à se reprocher, d’une manière ou d’une autre, quoi que ce soit, ou que quelque chose qu’il fait aujourd’hui pourrait lui être reproché demain.
Fabrice Epelboin : Il y a cet aspect-là, mais honnêtement, depuis quelques années, avec la vague de la cancel culture qui a démarré, tout le monde est bien conscient qu’une connerie qu’il a pu dire en 2005 peut lui retomber sur la gueule en 2025 et qu’Internet n’oublie pas. Je pense que cet aspect-là a été assez intégré dans la société, pas forcément de façon très saine, mais à force de voir ressurgir des tweets incriminant des gens qui, 15 ans plus tard, ont des comptes à rendre sur une connerie qu’ils ont dite à 14 ans, cette dimension-là a été intégrée.
Par contre, dans la logique de « je n’ai rien à cacher », il y a quelque chose que, fondamentalement, les gens n’ont pas compris, c’est que, nécessairement, on a à cacher son intimité parce que, dans son intimité, il y a des petits bouts de l’intimité d’autres personnes. Ces autres personnes nous ont confié un bout de leur intimité parce qu’elles nous font confiance et si on détruit ce petit bout d’intimité qu’on nous a confiée, on va détruire la relation avec cette personne. Si on vous enferme dans un univers où vous ne pouvez pas garder un secret, parce que vous êtes sous auscultation permanente de systèmes espions, vous n’allez pas pouvoir créer cette intimité et vous allez profondément altérer la société.
Drapher : La Convention européenne de sauvegarde des droits de l’homme et des libertés fondamentales, article 8, prévoit que toute personne a droit au respect de sa vie privée et familiale, de son domicile et de sa correspondance.
Ce que je voulais dire aussi sur l’histoire de rien à cacher, énormément de gens n’ont pas rien à cacher, mais ils font des trucs et ils n’ont pas obligatoirement envie qu’on sache qu’ils les font, par exemple le cybersexe. Il y a des gens qui ont des jeux sexuels de toutes sortes. À quel moment cela peut-il être interprété par une IA comme quelque chose qui serait de l’ordre de la pédopornographie parce qu’un des acteurs, par exemple, joue le rôle d’une petite fille dans le délire sexuel du couple, ce genre de chose. C’est quand même très difficile d’arriver à maintenir, aujourd’hui, cette idée de « je n’ai rien à cacher », sachant que, dans ce cas-là, il faut accepter que les services de l’État peuvent rentrer à n’importe quel moment chez soi, ouvrir ses tiroirs, fouiller sa chambre, dans ce cas-là, allons jusqu’au bout !
Damien Douani : En fait, c’est vraiment la destruction de l’intimité et du cœur du lien social.
Pour finir cette émission, je vais vous demander de deviner qui a dit cette phrase, je cite : « Si j’observe attentivement vos messages et votre situation, que j’utilise un système d’intelligence artificielle, je peux prédire où vous allez. S’il y a quelque chose que vous voulez que personne ne sache, peut-être que vous ne devriez tout simplement pas le faire. » C’est une phrase d’octobre 2010. À votre avis, de qui pourrait-elle être ?
Fabrice Epelboin : C’est Eric Schmitt, patron de Google.
Damien Douani : Oui, c’est ça. À l’époque, Eric Schmitt était le patron de Google et il a été le premier, un des premiers grands patrons de GAFAM à dire ouvertement « la vie privée, c’est fini ! ». Les réseaux sociaux commençaient à peine à se lancer, on n’avait pas des réseaux sociaux aussi omniprésents qu’aujourd’hui dans nos vies et déjà à l’époque, par la puissance des algos de Google, par lequel 90 % des gens passent pour chercher une information sur Internet, il était capable de faire des extrapolations et de pouvoir dire « je sais ce que vous cherchez, où vous voulez aller, etc. ». Est-ce qu’on est au bout du bout de ça, quelque part, de ce numérique comme nouvelle camisole collective ?
Drapher : Ça mène tout droit, entre autres, à l’auto-censure et on n’en parle pas assez puisqu’on parle beaucoup de censures qui sont exercées par des réseaux sociaux via des gouvernements ou autres. On parlait des Twitter Files, il n’y a pas longtemps, avec Fabrice. Là, on est dans en plein dans l’auto-censure, c’est peut-être encore pire, c’est-à-dire que les gens, sachant qu’ils sont écoutés à tous les étages, avec leurs devices numériques – tout le monde en a et tout le monde fait passer tout par ça –, ils vont commencer à réfléchir à ce qu’ils postent, à ce qu’ils disent, à ce qu’ils prennent comme images, sur quels sites ils se connectent, etc.
Fabrice Epelboin : Ça veut dire que, d’un seul coup, tu altères la relation aux autres, tu altères la relation à l’autorité, tu altères la relation à l’État et on change vraiment de société.
Drapher : Et tu n’as plus ta liberté de faire un peu ce que tu veux, comme on dit sur un réseau, tu l’as de moins en moins et tu vas de moins en moins te l’offrir. Et ce n’est pas une liberté de faire n’importe quoi, c’est une liberté de sortir les propos que tu as envie, de pouvoir t’amuser, de délirer, etc. Et là, il y a un moment où tu vas dire « attention. Si je commence à dire un truc qui est mal interprété, je peux partir en taule ! »
Damien Douani : Avec ce que vous dites, ça veut dire aussi que tout ce qui est lanceur d’alerte, journaliste, activiste, etc., ça passe à la poubelle.
Fabrice Epelboin : Là aussi, c’est déjà plus ou moins le cas, il faut être honnête. Les lois sur le la protection des lanceurs d’alerte en France, c’est un gag. La réalité, quand tu regardes l’historique des lanceurs d’alerte en France, dans 99 % des cas, ce sont des gens qui ont complètement bousillé leur vie pour avoir fait ça. Malheureusement, c’est derrière nous. Si on veut protéger les lanceurs d’alerte, c’est un lourd combat qu’il faut mener maintenant.
Damien Douani : Le vote aura lieu le 14 octobre à la Commission européenne. Quelle est la chance que cela ne soit pas adopté ? Il y a une bascule, il y a des pays qui, aujourd’hui, peuvent avoir du poids dans cette décision.
Fabrice Epelboin : Oui. L’Allemagne s’est souvenue de son histoire proche avec la Stasi et, au final, a décidé que non, elle ne voterait pas ça [9] . Donc, à priori, ce n’est pas cette fois-ci que ça passera, mais ça reviendra, c’est déjà la deuxième fois qu’on a cette loi, elle reviendra l’année prochaine ou dans deux ans parce que la volonté est là. Il y a une indéniable volonté de mettre les populations sous surveillance, c’est quelque chose qu’on peut remonter à 20 ans d’un point de vue strictement technologique, c’est de plus en plus fort, de plus en plus pointu parce que les technologies s’améliorent. Clairement, cette volonté est très forte non seulement en France, la France est l’un des leaders en Europe pour pousser ce genre de truc, mais elle est très largement partagée en Europe. Pour l’instant ça ne passe pas, mais ça finira par basculer. Mon pronostic, c’est probablement parce qu’on aura un attentat atroce qui fera que la prochaine mouture de la loi ce sera pour détecter les terroristes, tout le monde sera sous le coup de l’émotion parce que l’attentat a eu lieu il y a quelques semaines et paf, la loi passe.
Drapher : Il faut bien voir que, de toute façon, il y a quand même une idée aussi du crédit social chinois version européenne. Pour arriver à faire un crédit social, il faut pouvoir avoir accès aux terminaux des gens. On ne peut pas se contenter des données qui circulent, des flux de données qui circulent sur le réseau. Et c’est vraiment le plan, le CSS, on scanne côté client.
Fabrice Epelboin : C’est très dystopique, on va prendre du temps avant d’en arriver là, mais je pense qu’il faudrait une émission dédiée au crédit social.
Drapher : Beaucoup de parlementaires et autres sont allés en Chine, sont revenus et n’étaient pas outrés par le crédit social. Ils trouvaient qu’il y avait des choses intéressantes. On a eu des retours assez surprenants là-dessus.
Damien Douani : C’est clair que c’est une solution technologique. Il y a pas mal de problèmes aujourd’hui. Quand on voit les derniers chiffres du ministère de l’Intérieur qui indiquent qu’il y a une hausse massive, globale, de tous les types de délits, il faut soit payer encore plus de fonctionnaires, les descendre dans la rue, soit dire « peut-être que les technologies peuvent nous aider à ça, parce qu’il n’y a plus d’argent, ma pauvre dame ! ». C’est un vrai questionnement.
Pour finir, est-ce qu’il y a des exemples d’autres pays de pays qui ont peut-être d’autres pratiques ou d’autres approches vis-à-vis de ces questions relatives notamment à la pédopornographie ?
Drapher : Il y a des pays qui ont plus de moyens pour lutter, des pays un peu riches, je pense à la Norvège qui a des équipes cyber au niveau pédocriminalité beaucoup plus dimensionnées par rapport à la population et tout ça. C’est une histoire de moyens.
Fabrice Epelboin : C’est aussi une histoire de culture parce que, quand on regarde par exemple les États-Unis, là-bas ça ne rigole pas du tout avec la pédophilie.
Drapher : Alors qu’en France on en avait à la télé dans les années 80.
Fabrice Epelboin : Non seulement, il y en avait à la télé dans les années 80, des personnalités célèbres l’assumaient parfaitement. Quand je pense à cette investigation qu’a fait Libération, il y a un an ou deux, qui a révélé un réseau pédophile de la rue du Bac. Ils ont fait six articles, il n’y a pas eu la moindre reprise où que ce soit alors qu’il y avait des noms, du lourd, qui étaient sortis dans l’article, clairement il n’y a absolument aucune volonté de lutter contre la pédophilie en France, absolument aucune.
Drapher : Dans les pays développés, pour l’instant, de ce que j’en sais, nous sommes les seuls à se dire « tiens si on mettait tout le monde sous écoute, qu’on scannait les terminaux des gens, de tout le monde, pour choper juste comme ça, dans le grand filet, quelques pédophiles. »
Fabrice Epelboin : Il faut insister là-dessus. Dans l’histoire, les pédophiles c’est le pied dans la porte. Ils n’ont absolument rien à faire des pédophiles.
Damien Douani : On joue sur l’émotion publique.
Drapher : Bien sûr, et les gens peuvent y croire dans le sens où c’est un argument choc, c’est-à-dire que, en gros, c’est comme Bush qui disait « si vous n’êtes pas avec nous, vous êtes contre nous. ». Là, tu es contre une loi qui est faite pour faire choper les terroristes ou les pédophiles…
Fabrice Epelboin : Il faut être honnête, ça fait un bout de temps que je dis tout le mal que je pense de Chat Control, à ce stade je n’ai pas croisé qui que ce soit qui m’oppose l’argument « tu es pour les pédophiles ». J’ai fait une grosse investigation là-dessus, ce serait donc difficile.
Damien Douani : C’est l’idée derrière.
Fabrice Epelboin : Je pense que la pédophilie c’est vraiment le niveau zéro. Tu n’as absolument rien pour justifier, donc on va prendre les pédophiles par défaut, parce que, manque de bol, il n’y a pas eu un attentat sanglant récemment qui permettrait de récolter toute cette émotion et d’en profiter, donc, par défaut, on va prendre les pédophiles. Je pense vraiment qu’il suffira d’un épisode sanglant d’attentat pour basculer toute une partie de la société dans « je suis prêt à sacrifier des libertés fondamentales pour lutter contre ces odieux terroristes ». Les pédophiles, c’est quand même le niveau zéro.
Drapher : Tu parlais de Pegasus. J’avais trouvé aussi, dans les documents Snowden, un logiciel qui s’appelait Smurfs, des services de renseignement anglais et pareil, c’était un soft disant qu’il suffisait d’envoyer un texto, pas besoin de cliquer sur le lien du texto ni quoi que ce soit, directement il y avait un contrôle total, à distance, sur le smartphone.
Damien Douani : Smurfs, comme les Schtroumpfs.
Drapher : Comme les Schtroumpfs.
Fabrice Epelboin : : Tout ça pour dire que si on veut chasser du pédophile, ce genre d’outil depuis belle lurette.
Drapher : Il suffit d’enquêter un peu.
Fabrice Epelboin : Il faut rendre hommage aux gens qui font ça, c’est un métier hyper dur, ils le font, ils sont sous-équipés. Honnêtement je ne connais pas vraiment leur situation, je n’ai pas regardé cela de près depuis plus de dix ans, mais je suis convaincu que, comme il y a dix ans, ils sont sous-équipés, sous-financés, mais ils sont là et régulièrement il y a des gros réseaux qui tombent, c’est très régulé. Plusieurs fois par an, il y a des coopérations internationales parce que, la plupart du temps, ce sont problématiques internationales quand c’est de la pédopornographie et plein de réseaux tombent. C’est une lutte sans fin parce que, pour autant, ils ne vont pas arrêter le problème.
Drapher : Au niveau technologique et numérique, ils bougent. Quand ils voient que quelque chose est trop sous surveillance, ils passent par d’autres d’autres systèmes.
Fabrice Epelboin : Je suis convaincu qu’il y a des couillons qui utilisent des messageries chiffrées pour échanger des contenus, mais soyez sûr que, de toute façon, au premier coup de filet ils vont tous aller je ne sais où, dans le dark web, et ce n’est pas comme ça qu’on va les attraper.
Damien Douani : Dans tous les cas de figure, le vote aura lieu le 14 octobre 2025. Aujourd’hui il y a une pétition en ligne sur stopchatcontrol.eu, que vous pouvez trouver, qui, malheureusement, se remplit bien moins, en termes de nombre de suffrages, par exemple que la loi Duplomb, on en est loin. On constate que, pour la loi Duplomb, on arrive à décrocher plusieurs centaines de milliers de signatures.
Drapher : Plus de deux millions, 2,3 millions. C’est normal, entre sauver les insectes ou l’intimité, la vie privée des gens, tu sauves quoi, toi ?
Fabrice Epelboin : Moi je sauve les insectes, c’est normal !
Damien Douani : Parce que les abeilles c’est notre avenir. Dans tous les cas de figure, vous pouvez même aller voter.
Fabrice Epelboin : Pas voter, signer la pétition ! Voter ça ne sert à rien !
Damien Douani : Excuse-moi, j’ai eu un éclair de déférence l’espace d’un instant, je suis désolé.
Fabrice Epelboin : Un éclair utopique de démocratie, où tu pourrais voter !
Damien Douani : C’est ça !
Les informations sont trouvables sur https://stopchatcontrol.eu/. Vous avez aussi un député européen, Patrick Breyer, qui suit de manière très fine, sur son blog, la position des différents États, vous pouvez aller voir ça sur son blog [10] . Il y a aussi pas mal de campagnes citoyennes qui existent. Bref, vous ne pourrez pas dire que vous ne saviez pas, que vous n’étiez pas au courant. On va voir comment les choses vont se mobiliser, peut-être dans les semaines à venir, vis-à-vis de cette loi-là. Peut-être que certains pays, tu parlais de l’Allemagne Fabrice, vont se rappeler de leur passé, vont se rendre compte que ce n’était pas si bien à l’époque et que, finalement, la question de l’intimité, du libre arbitre et la libre vie de chacun est quelque chose qui est aussi important, malgré le fait que, aujourd’hui, il y a des salopards qu’il faut arriver à bloquer et à choper. On verra ça dans les semaines à venir.
Dans tous les cas de figure, on va faire d’autres épisodes, tu as raison Fabrice, sur tout ce qui est surveillance, identité numérique, contrôle social et crédit social, ce sont des sujets qui sont aussi extrêmement intéressants à creuser. On y viendra dans les semaines à venir avec Fabrice, Drapher et d’autres personnes qui vont nous rejoindre au fil de ces différentes émissions. Ça m’a fait plaisir de vous parler.
Je vous dis à très bientôt. Salut.
Fabrice Epelboin : Salut.
Drapher : Salut.
Voix off : Les Éclaireurs du Numérique, un podcast de Bertrand Lenôtre, Damien Douani et Fabrice Epelboin. Vous avez aimé ce podcast ? Retrouvez-nous sur leseclaireursdunumerique.fr.