Cyrille Chaudoit : Je suis hyper-content qu’on reçoive Louis de Diesbach, déjà pour qu’il nous explique comment on prononce son nom.

Mick Levy : Je crois que tu as bon !

Cyrille Chaudoit : On va parler d’un sujet qui m’est cher, qui est cette question de la servitude volontaire. Ça fait évidemment référence à Étienne de la Boétie [1] qui était à peine plus jeune que lui d’ailleurs quand il a écrit.

Thibaut le Masne : Son livre est super intéressant pour avoir pu le lire en grande partie avant l’émission. Effectivement, la notion de « liker cette servitude » et voir quelles sont les mécaniques qui nous enclenchent dans cet écosystème-là est un peu plus compliqué.

Mick Levy : Ça va être une belle rencontre d’autant qu’il vient au studio les gars, il faut qu’on y aille sinon il va nous attendre.

Voix off, extrait de Matrix :
—  Tu as le regard d’un homme prêt à croire tout ce qu’il voit parce qu’il s’attend à s’éveiller à tout moment. Et paradoxalement, ce n’est pas tout à fait faux.
—  Crois-tu en la destinée, Néo ?
—  Non.
—  Et pourquoi ?
—  Parce que je n’aime pas l’idée de ne pas être aux commandes de ma vie.
—  Bien sûr. Et je suis fait pour te comprendre.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Thibaut le Masne : Bienvenue dans Trench Tech, le podcast qui aiguise votre esprit critique sur les impacts de la tech dans notre société. Thibaut, pour vous accueillir. Salut Mick.

Mick Levy : Salut Thibaut. Salut Cyrille.

Cyrille Chaudoit : Salut Mick. Salut Thibaut. Ça va bien.

Thibaut le Masne : « Être aux commandes de sa vie ». Cette réponse de Neo dans Matrix en 1999 semble aujourd’hui trouver un écho tout particulier. Oui, à l’heure des réseaux sociaux, de l’IA, des smartphones, des IoT [Internet">of Things], bref !, du tout connecté, nous pouvons nous poser la question : est-ce que encore le numérique qui nous sert ? Ou sommes-nous asservis au numérique ?
Nous vous proposons aujourd’hui de plonger dans les mécaniques de notre servitude avec Louis de Diesbach. Avec lui, nous allons d’abord essayer de comprendre notre servitude en la définissant. Ensuite, nous questionnerons le dilemme qui se pose à nous face à nos propres choix et enfin, pour reprendre l’expression de John Rawls, nous irons voir derrière le voile de l’ignorance en essayant de proposer des pistes de réflexion pour nous libérer de cette servitude.
Bien entendu, durant cet épisode, nous n’oublierons pas de prendre une pilule bleue et une pilule rouge, avec deux chroniques, car deux pilules valent mieux qu’une. Et comme d’habitude, nous conclurons cet épisode en prenant le temps, juste entre vous et nous, pour rassembler les idées clefs de cet épisode.
Mick, Cyrille, je crois qu’il est temps d’accueillir Louis qui vient d’arriver dans nos studios.

Mick Levy : On l’a avec nous Louis. Salut Louis.

Louis de Diesbach : Bonjour.

Thibaut le Masne : Bonjour.

Cyrille Chaudoit : Bonjour.

Thibaut le Masne : Louis, comme avec tous nos invités, on se tutoie ?

Louis de Diesbach : On se tutoie.

Thibaut le Masne : Super.

Mick Levy : Il faut dire que là on fait semblant. On a déjeuné ensemble avant, donc ça fait déjà deux heures qu’on se tutoie. Vous êtes d’accord, tant mieux ?

Thibaut le Masne : Ça nous rassure. On aurait dû le poser il y a deux heures.

Louis de Diesbach : Et là, je dis on se vouvoie !

Mick Levy : Et ça casse tout le podcast ! Qui est Louis, Thibaut ?

Thibaut le Masne : Louis, tu es titulaire d’un master en sciences de gestion et d’un master en éthique et philosophie, major de sa promotion, s’il vous plaît.

Cyrille Chaudoit : Bravo !

Thibaut le Masne : En éthique, parce qu’en sciences de gestion pas du tout.

Cyrille Chaudoit : Major. On s’arrête là.

Thibaut le Masne : Tu rejoins Boston Consulting Group, le grand BCG en 2022, et tu travailles notamment dans la gestion de l’éthique de données. Tu publies très régulièrement des tribunes dans La Libre Belgique et L’Écho. Tu participes également à des conférences sur la technologie, l’IA et, bien entendu, sur l’éthique, et tu as publié récemment Liker sa servitude. Pourquoi acceptons-nous de nous soumettre au numérique ? aux Éditions FYP. Tout est juste ?

Louis de Diesbach : Tout est parfait.

Thibaut le Masne : Top ! Lançons-nous dans la première séquence, comprendre notre servitude.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Comprendre notre servitude

Mick Levy : Louis, effectivement, on a parfois un petit peu tous l’impression d’avoir une certaine servitude à nos outils numériques, certains parlent même de féodalisation, c’est un terme qu’on entend de plus en plus vis-à-vis du numérique. Finalement, c’est quoi cette servitude ? Est-ce que tu peux un peu nous la définir ?

Louis de Diesbach : Il y a vraiment plein de choses dont on pourrait parler. La servitude, c’est juste le fait de s’asservir, tout simplement, donc d’accepter une domination, une soumission.
Ce qui m’intéressait beaucoup, en fait, c’était de me rendre compte : on sait tous très bien que les réseaux sociaux ce n’est pas bien, ils pompent nos données, c’est maltraité, etc., on le sait et pourtant on reste dessus. C’est vraiment ça la question de base : pourquoi ?

Mick Levy : Et alors pourquoi ? On va avoir une heure ensemble pour l’éclairer, mais donne nous les premières pistes.

Louis de Diesbach : Ce qui m’intéressait c’était justement d’essayer d’avoir une approche un peu plus holistique et pas juste regarder les utilisateurs ou juste les plateformes ou juste les gouvernements ou juste les annonceurs, etc., mais essayer de regarder un petit peu tout le monde ensemble. C’est un peu ce côté sciences de gestion et éthique, essayer un peu de combiner ça. Beaucoup de philosophes oublient parfois un peu qu’on est au sein d’un marché et beaucoup de gens dans un marché oublient un peu l’éthique, peut-être un peu trop.
Je voulais un prendre ça. Une des premières constatations, quelque chose que beaucoup de gens oublient, c’est que les entreprises se comportent exactement comme on pourrait s’y attendre. J’aime bien cette phrase, très utilisée aux États-Unis, qui dit Don’t Hate the Player, Hate the Game. Aujourd’hui blâmer les réseaux sociaux parce qu’ils pompent nos données, etc., c’est un peu comme quand Mbappé joue la montre en demi-finale de la coupe de monde, en Belgique on râle beaucoup là-dessus.

Mick Levy : Il met les Belges aussi là-dessus.

Louis de Diesbach : Je n’aime pas le foot, donc je peux en parler facilement.

Mick Levy : Là on a perdu trois auditeurs.

Louis de Diesbach : Plein de Belges qui avaient le seum et pourtant Mbappé respecte les règles, il joue le jeu, c’est comme ça. Si vraiment on ne voulait pas que ça existe, on met de nouvelles règles, on dit qu’on ne peut pas jouer la montre. Don’t Hate the Player, Hate the Game, c’est un gros truc sur lequel je suis parti.

Thibaut le Masne : Donc il ne faudrait pas se rebeller contre Mbappé qui a joué la montre, c’est le fonctionnement du jeu.

Louis de Diesbach : Mbappé est payé des millions pour faire ça, il fait ça très bien.

Thibaut le Masne : Sur les réseaux et le numérique, comment transposes-tu ce que veut dire cette expression Don’t Hate the Player, Hate the Game globalement ?

Louis de Diesbach : Pour moi, Facebook, Google, YouTube, etc., ne font que suivre les règles d’un marché néolibéral, d’une économie néolibérale, où l’objectif c’est juste que se faire un paquet de pognon pour satisfaire des actionnaires dans une entreprise qui est globalement assez dérégulée. En fait, ils respectent juste les règles. Brad Smith, qui est le président de Microsoft, a publié un article dans The Economist, il y a quelques années, qui disait « s’il vous plaît, régulez-nous. » Régulez-nous ! Une façon de dire « après, ne nous cassez plus les pieds, on est certain qu’on est OK. Donnez-nous les règles du jeu et après on fait ce qu’on veut. »
Pourquoi font-ils ça ? En fait, c’est parce que tout ça s’intègre. L’éthique de la Silicon Valley est une éthique utilitariste, profondément utilitariste. Juste rapidement, les puristes me pardonneront parce que je vais aller un peu vite, il y a deux grandes catégories d’éthique : les éthiques conséquentialistes et les éthiques non conséquentialistes.
Les éthiques conséquentialistes ça veut dire qu’on va regarder les conséquences des actions pour savoir si elles sont bonnes ou pas bonnes.
Les éthiques non conséquentialistes, on ne regarde pas les conséquences de l’action, on va juste regarder si l’acte en lui-même est bon ou mauvais en soi.
Philippa Foot a publié un papier, en 1967, qui s’appelle « Le dilemme du tramway » [2] dont pas mal de gens ont déjà entendu parler. Pour rappeler : un tramway va à toute vitesse sur des rails, les freins sont pétés, il n’y a plus de conducteur, on ne peut pas faire grand-chose, et il va en direction de cinq personnes qui sont ligotées su les rails. Il y a un aiguillage juste avant qui pourrait permettre au tramway de dévier et d’aller sur des rails où il n’y a qu’une seule personne qui est ligotée. On pose la question : est-ce que vous actionnez l’aiguillage pour faire changer le tramway, pour qu’il aille vers une personne plutôt que vers cinq ? Vous, que feriez-vous ?

Mick Levy : Moi, je vais vers une personne, c’est sûr. Ça n’amène pas de dégâts sur le train ou sur les passagers du train ?

Louis de Diesbach : Non, c’est juste une personne ou cinq personnes. Là on va vers cinq personnes, est-ce que tu changes ?

Mick Levy : Une, sauf si c’est ma mère.

Louis de Diesbach : C’est hyper-intéressant. On part du principe que ce sont des gens que tu ne connais pas. Ce sont les mêmes questions qu’on pose pour les bagnoles autonomes : est-ce que c’est un enfant, est-ce que c’est un vieillard, etc. ? Toi tu choisis cinq, c’est ce que tu m’as dit. S’ils sont plus, c’est mieux aussi.

Cyrille Chaudoit : C’est mon chiffre fétiche.

Mick Levy : Pour moi un, clairement.

Louis de Diesbach : Mick, je voudrais te proposer de sortir du studio parce qu’il y a une ambulance qui t’attend. En fait, il y a des gens qui ont besoin d’un cœur, des poumons, deux reins et un foie. Tu as l’air d’être en très bonne santé, on a bouffé ensemble, je sais que tu es plutôt en bonne santé. On va te prendre ces organes-là. Ça paraît très bien, ce sont cinq personnes à qui on va sauver la vie contre toi, grand animateur.

Mick Levy : Attends, la personne c’est contre moi : est-ce que j’accepte de... ; je n’ai pas compris.

Louis de Diesbach : Si tu pousses un peu cette éthique et que tu la rends cohérente, si tu es OK de tuer une personne plutôt que cinq, que tu veux sauver la vie à cinq personnes, si tu pousses un peu cette éthique-là, si tu es un minimum cohérent, tu fais ça. Et là, les utilitaristes sont un peu « oui, mais non, je ne l’avais pas vu comme ça. »
C’est ce qui me fait dire que l’utilitarisme est une mauvaise théorie, ce n’est pas terrible. Je suis beaucoup plus, je promeus beaucoup plus une éthique kantienne. Emmanuel Kant, qui est le mec le moins fun de toute la philosophie, disait que les actions sont bonnes ou mauvaises en soi et que les gens devaient, entre guillemets, « obéir à une loi qu’ils se donnaient à eux-mêmes », qu’ils devaient respecter ce qu’il appelle l’impératif catégorique [3]. Il a formulé l’impératif catégorique de plusieurs façons, la principale c’est : agis de telle sorte que la maxime de ton action puisse toujours, en même temps, servir de principe à une législation universelle.

Mick Levy : L’exemplarité finalement.

Louis de Diesbach : Exactement. traduction : on pourrait prendre ce que tu fais et on va en faire une loi, ça va être toujours comme ça. Par exemple ne mens pas et tu ne mens jamais.
Emmanuel Kant caricature un peu. Il disait « si jamais des gens veulent me tuer, je me cache chez toi, les gens arrivent et demandent : est-ce que Emmanuel Kant est chez vous ?, tu es obligé de dire oui, tu ne mens jamais, le mensonge est mauvais en soi.
À côté de ça, il y a ce qu’on appelle la deuxième formulation de cet impératif, que je trouve beaucoup plus forte qui dit « agis de telle sorte que tu traites l’humanité, dans ta propre personne comme dans celle d’autrui, toujours en étant comme un fin, jamais simplement comme un moyen ». Je trouve que c’est très fort de dire qu’on va traiter les gens, les personnes vraiment au sens kantien, comme des fins en soi et pas comme des moyens.
Typiquement, si on revient à nos copains de la Silicon Valley, en fait tu es traité comme un moyen, c’est-à-dire que tu vas être traité comme un moyen de s’enrichir, de faire plaisir aux actionnaires, de faire plus de fric et de monopoliser un « contrôle », entre guillemets, sur le Web. Donc eux ne sont pas du tout dans une éthique kantienne, ils sont dans une éthique très utilitaristes : à la fin tout le monde est content, le plus grand bonheur du plus grand nombre, on s’en lave les mains et basta.

Cyrille Chaudoit : Si on revient à ce que tu dis de Kant quand il dit « toute action est bonne ou mauvaise intrinsèquement en soi », il y a un sujet qui revient très souvent dans ce podcast et en général : la technique est-elle bonne ou mauvaise en elle-même ? Et le sujet juste connexe c’est, en général, « il ne faut pas s‘intéresser à l’outil mais à l’usage que l’on en fait ». Quelle est ta position sur cette question-là ? Est-ce que toute technique est bonne ou mauvaise en soi ou c’est l’usage que l’on en fait et, à ce moment-là, est-ce que l’usage que les primaux accédants feront d’une techno, quelle qu’elle soit – on parlait des IA dans les automobiles autonomes tout à l’heure –, doit faire loi au sens kantien du terme, ou pas ?

Louis de Diesbach : De nouveau, moi je suis très kantien, donc je pars du principe que ce n’est pas l’utilisation qu’on va en faire qui va changer. Les gens qui utilisent ce raisonnement me font beaucoup penser à la NRA [National Rifle Association], l’association des armes, les lobbies des armes des États-Unis qui a ce slogan Guns don’t kill people, people kill people, en mode « ce ne sont pas les armes qui font quelque chose de pas bien ». Franchement, tu pourrais utiliser une arme, d’ailleurs je ne sais pas pour quoi d’autre. En fait ce sont les gens, donc il ne faut pas réguler les armes, il faut éduquer les gens. Certes éduquer les gens, mais c’est surtout le gros argument lobby.
Je pense que la technique n’est pas neutre. Je pense que la neutralité, en tant que telle, n’existe pas. Typiquement même, et c’est marrant parce qu’on en parle beaucoup avec Geoffrey Hinton, le docteur en IA qui vient de démissionner de Google, il a dit « je ne veux pas que le nouvel Oppenheimer ». Je pense effectivement que quand tu crées une bombe atomique, il n’y a pas de bons usages, je pense que c’est intrinsèquement mauvais en soi.

Cyrille Chaudoit : Tu veux dire qu’il faut se poser les questions éthiques avant et pas après.

Louis de Diesbach : Bien sûr, profondément. Là-dessus j’ai un super exemple, c’est toujours marrant parce que le mec est beaucoup plus balaise que moi : Yann Le Cun, le Chief AI Scientist de Meta, qui est quand même récipiendaire du prix Alan Turing, etc., le mec qui est carrément un ponte, a dit « non, il faut régler après parce que tu ne peux pas inventer la ceinture de sécurité avant d’avoir inventé la voiture ». Je suis d’accord avec lui sur ça. En revanche, tu peux dire « on ne commercialise pas de voitures tant qu’il n’y a pas de ceintures de sécurité ». Je pense que ce n’est pas exactement ce qu’il dit. Avec tout le respect que j’ai vraiment pour lui, il a une sorte de fuite en avant : on va pousser l’IA, mais on oublie un peu de se réguler.
Moi je pense qu’il faut vraiment une éthique by design : tu ne commercialises pas si tu n’es pas certain que tu ne vas pas faire une connerie.

Mick Levy : C’est hyper-compliqué. On est en train de découvrir les effets de l’IA. Là où je vais à fond dans ton sens, par contre, c’est quand on découvre, avec les Facebook Files, que Facebook savait pertinemment le mal qu’il était en train de faire, notamment sur Insta, aux adolescentes, aux jeunes filles, etc. Ils avaient eux-mêmes fait des études qui montraient que ça faisait du mal, ils ont mis l’étude sous le tapis, ils ont continué comme si de rien n’était.

Thibaut le Masne : C’est là où je veux revenir. En fait, on est en train de se dire qu’il faut les réguler, ils demandent à être régulés, ils demandent mais ça nous arrange de ne pas le faire ! Joëlle Toledano, dans un précédent épisode [4], nous disait qu’il n’y a pas de marché sans régulation. Mais là, ce dont on parle, ce n’est pas de régulation, c’est juste d’éthique. On n’a pas besoin de réguler l’éthique ! « Tu l’as ou pas », entre guillemets. Tu es conscient, un peu comme disait Facebook : je suis conscient que je fais du mal.

Louis de Diesbach : Pour moi il y a deux choses : soit tu es conscient que tu fais du mal. Si on est d’accord sur le fait que tu fais du mal, tu es condamné pour et, à ce moment-là, que les gouvernements fassent leur boulot. On parlera peut-être après du rôle des gouvernements, je trouve que c’est important. Après, de nouveau, est-ce qu’une personne morale, une société comme Facebook, est censée avoir un jugement éthique ?

Thibaut le Masne : C’est ce que tu disais tout à l’heure, business is business, et les entreprises font ce l’on pense d’elles, en tout cas ce qu’elles doivent faire.

Louis de Diesbach : C’est une chose que je développe beaucoup dans mon livre. Typiquement lorsqu’on aborde la question des entreprises, le chapitre s’appelle Business is business. Arrêtons naïvement de se dire « ils vont faire la bonne chose », ils ne vont pas faire la bonne chose, ça fait dix ans qu’on attend !

Cyrille Chaudoit : Louis, tu comprends quand même que certains ou certaines puissent avoir cette idée-là. Ils nous vendent quand même tout ce storytelling de « on change le monde », avec ce côté chevalier blanc « on va faire les choses pour un monde meilleur », etc. Alors que c’est l’écran de fumée, pour reprendre le titre de The Social Dilemma, ou tout type de voile, on va dire, je sais que tout à l’heure on fera référence à La danse des mille voiles.
Si on revient à notre sujet qui est la servitude, parce que l’éthique by design par rapport à une techno, par rapport à l’usage qu’on va en avoir, là, finalement, si on recroise avec la notion de servitude, c’est que, by design, ces outils nés du numérique sont là, sont designés précisément pour nous asservir. L’utilisation de neuroscientifiques, de designers, de psychologues, de machins, etc., pour le scroll infini, pour le like, pour le machin, etc., c’est fait précisément pour nous asservir.
Là on est à la croisée des deux chemins, c’est-à-dire que leur volonté de faire du business vient clairement bafouer toute éthique, mais tu nous dis, à la limite, why not, business is business, ce n’est pas à eux de prendre les devants, c’est plus au politique et à la régulation de s’assurer que…, mais le temps politique, on le sait, n’est pas le temps de l’innovation, donc comment fait-on ?

Louis de Diesbach : C’est exactement ça, pour moi c’est vraiment ça la problématique. Je pense que les plateformes ne veulent pas nous asservir, elles veulent faire de l’argent et la meilleure façon de faire de l’argent c’est d’asservir. C’est vraiment la finalité.

Cyrille Chaudoit : C’est important ce que tu dis : ce n’est pas intentionnel de nous asservir, ce ne sont pas des grands méchants, on n’est pas dans un film avec des méchants qui veulent nous asservir pour devenir maîtres du monde. Ils veulent faire du business et la meilleure façon de faire du business c’est de nous asservir.

Mick Levy : D’où la réflexion conséquentialiste, du coup, c’est intéressant de réfléchir sur les conséquences de ce qu’ils font.

Louis de Diesbach : C’est exactement ça. Et je pense qu’aujourd’hui la façon la plus facile, la plus certaine de faire du gros cash c’est s’asservir les gens et de s’assurer que les gens restent rivés.

Thibaut le Masne : Ça toujours été le cas. Tout type de pouvoir, « du pain des jeux ».

Louis de Diesbach : Tout à fait. Exactement. Hans Jonas [5], le philosophe allemand, a une phrase que j’aime beaucoup, il parle des forces grandissantes de la technique et je pense qu’aujourd’hui on démultiplie tout ça. La technique, aujourd’hui, n’a pas forcément réinventé les grandes questions qu’on se pose : quand on parle de chambre d’écho, ça existait déjà, quand on parle de polarisation de l’information, ça existait déjà. Je pense qu’aujourd’hui on a juste démultiplié, mais en démultipliant on aggrave énormément.

Cyrille Chaudoit : J’ai une autre version, entre guillemets. Günther Anders [6], le philosophe allemand, dit qu’on est toujours dépendant deux fois de notre technique : d’abord il nous la faut une première fois pour pouvoir avancer, évoluer, ensuite il faut se maintenir au niveau de cette technique et systématiquement, continuellement l’améliorer. Quelque part, on est asservi par le business que ces entreprises mettent en place, mais on est aussi, quelque part, asservi par notre objet technique qui est la production humaine, tout simplement, depuis la nuit des temps

Louis de Diesbach : Je n’ai bien lu Günther Anders, ça va être difficile pour moi de rebondir complètement.

Cyrille Chaudoit : Ça y est je l’ai eu !

Mick Levy : C’est tout ce qu’il attendait, les philosophes !

Louis de Diesbach : Je pense que c’est certain. Mon propos, justement ce que j’essaye, c’est de ne pas tomber dans une techno-phobie aiguë qui est de dire qu’il faut tout arrêter. Il y a des techniques qui sont géniales, même typiquement sur Facebook, il y a des fonctionnalités – don de sang, don d’organes – que je trouve super. Il y a plein de choses qui sont vraiment géniales, il y a des groupes de parents d’élèves qui se retrouvent, etc., c’est génial. La question, en revanche, c’est plutôt : que fait-on de tout ce qui n’est pas si génial ? Je pense qu’il y a moyen de trouver des modèles économiques et des modèles sociétaux ; on a des réseaux sociaux qui sont cool.

Mick Levy : C’est parfait c’est ce qu’on va explorer sur la suite de notre entretien. Je vous propose avant d’ouvrir une petite parenthèse avec la Philo Tech.

Voix off : De la philo, de la tech, c’est Philo Tech.

Philo Tech d’Emmanuel Goffi « Le Japon, l’IA et l’éthique »

Mick Levy : Emmanuel, tu poursuis ton étude des différentes cultures autour de l’éthique de l’IA. Aujourd’hui tu nous fais voyager, tu nous emmènes au Japon.

Emmanuel Goffi : L’approche japonaise de l’intelligence artificielle est très différente de la nôtre. Pendant que tout le monde s’agite pour réguler ou stopper la régulation de l’intelligence artificielle, je pense que c’est intéressant de comprendre que nos angoisses, comme nos espoirs, voire notre philosophie vis-à-vis de l’IA, ne sont pas universelles. Du coup nos perceptions sont différentes et, avec elles, notre relation à la technologie et nos réactions à son encontre.
Ce qui est intéressant avec le Japon c’est que le rapport à la technologie y est conditionné par au moins deux facteurs différenciants.
On a d’un côté la pensée shinto [7] et, de l’autre, une culture populaire spécifique. Ces deux éléments modèlent les perceptions japonaises sur la technologie en général et sur l’IA en particulier et ils conditionnent les comportements.
Dans une étude sur les impacts de la culture en milieu professionnel, le sociologue néerlandais Geert Hofstede soulignait que la culture c’est le produit d’une programmation mentale collective. Si on adhère à cette idée, on peut considérer que le rapport que nous entretenons avec les objets techniques est lié à des perceptions qui sont le produit d’une programmation mentale spécifique. Ce qui veut dire que la perception des enjeux liés à l’IA et, par suite, les moyens de les aborder, va varier selon les cultures, d’autant que nos approches de l’IA tournent autour de questionnements éthiques qui reposent sur des valeurs et des idées traditionnelles que, d’ailleurs, les anthropologues américains Alfred Kroeber et Clyde Kluckhohn placent au cœur des cultures. En bref, éthique, technologie et culture sont étroitement liées.

Mick Levy : Le Japon semble être un pays hyper-technologique avec un formidable développement de la robotique. Tu as évoqué la sagesse shinto et la culture populaire. En quoi toutes ces idées sont-elles liées et comment ces deux cultures ont-elles influencé ce formidable développement de la robotique ?

Emmanuel Goffi : Si on prend, dans l’ordre, la sagesse shinto est une approche animiste spécifiquement japonaise. Animiste ça veut dire qu’elle tend à considérer que les êtres vivants, comme les objets, sont traversés par ce qu’on appelle improprement une âme. En fait, il s’agit d’une multitude d’esprits, appelés kamis, qui habitent êtres vivants et objets, ce qui questionne, d’ailleurs, la différence que nous faisons en Occident entre « êtres animés » et « objets inanimés ».
Pour les Japonais, les objets ont une vie et il arrive même qu’ils soient baptisés et bénéficient d’un rituel lorsque l’on s’en sépare. Ils sont respectés pour ce qu’ils sont alors que chez nous ils sont considérés comme un moyen, un simple outil que l’on jette lorsqu’il est devenu inutile.
En fait, le Japon entretient une relation aux objets en général et aux automates en particulier qui est quasi unique dans le monde et directement liée à l’approche intégrative du shintoïsme. Les humains et les objets font partie d’un même univers. Ils coexistent sans la hiérarchie à l’œuvre en Occident, on en a déjà parlé, où l’humain est au sommet de la pyramide et contrôle son environnement pour le plier à ses besoins, dans une approche purement instrumentale aux objets.
En ce qui concerne l’autre versant, la culture populaire, je pense que la meilleure illustration c’est l’opposition entre Terminator et Astro Boy. Au Japon, la relation particulière entre l’humain et la technologie est ancrée dans une approche de bienveillance réciproque. La technologie n’est pas soumise à l’humain, elle l’accompagne et elle le complète. C‘est ce qu’illustre Astro Boy, ce petit robot, personnage de manga apparu au début des années 50, qui vient au secours de l’humanité, qui s’inscrit également dans la culture kawaï, c’est-à-dire de ce qui est mignon. Astro Boy est un gentil robot, mignon, pendant que Terminator est, au moins initialement, tout sauf gentil et, à mon sens en tout cas, pas particulièrement mignon. On a, d’un côté, un objet technique qui aide l’humain et, de l’autre, un qui le menace.
En fait, ce sont deux visions antagonistes qui correspondent à deux cultures. Ça s’explique notamment par notre désir de contrôle occidental, encore une fois, or, si on perd le contrôle, alors on est menacé et, là où il y a crainte, il y a besoin de plus de contrôle. Au Japon, cette notion de contrôle est absente puisque la technologie est juste là pour aider et qu’elle est habitée, par ailleurs, par des kamis.
Arisa Ema, qui est professeur associée à l’Université de Tokyo et chercheuse en sciences et technologie, souligne, je la cite, que le Japon est riche en contenus d’animation et en bandes-dessinées qui considèrent que l’IA et les robots font partie de la société, ce qui a généré, ajoute-t-elle, des discussions uniques sur l’intelligence artificielle.

Mick Levy : L’IA et les robots au cœur de la société. Mais comment est-ce que ces éléments culturels profonds, comme tu l’indiques ici, se traduisent-ils dans le quotidien des Japonais ?

Emmanuel Goffi : Ça se traduit par une philosophie qui est très différente de la nôtre, une philosophie inclusive de la technologie qui est vue comme bénéfique à la société.
En début d’année j’étais en Arabie saoudite et j’ai eu la chance de rencontrer le professeur Hiroshi Ishiguro [8], qui est le directeur du Laboratoire de robotique intelligente à l’université d’Osaka et qui présentait son avatar robotique Geminoid. En assistant à sa présentation, j’ai été frappé de voir à quel point il abordait un futur fait d’avatars de manière totalement décomplexée et sereine. Il envisageait et promouvait d’ailleurs un monde où chaque individu aurait un avatar robotisé qui pourrait prendre sa place pour accomplir des tâches que l’humain ne pourrait pas accomplir lui-même pour tout un tas de raisons. Son idée c’est qu’en 2050 il faudra une société dans laquelle, je le cite, « les humains seront libérés des contraintes de leur corps, de leur cerveau, de l’espace et du temps », grâce, justement, à ces avatars.
C’est une vision un peu inquiétante pour un Français, évidemment, mais qui est tout à fait normale pour un Japonais. D’ailleurs, le gouvernement japonais a développé une politique toute tournée vers la technologie comme alternative à des problématiques socio-économiques telles que le vieillissement de la population ou le manque de main-d’œuvre. C’est une vision, celle de la société 5.0, qui a été proposée en 2015, qui offre donc un contexte dans lequel on comprend mieux la perspective du professeur Ishiguro et son idée de développer des avatars.

Au final, on comprend que la culture est essentielle à la compréhension des enjeux liés à l’IA et que ce qui vaut pour nous ne vaut pas nécessairement pour tout le monde. Je pense que le Japon en est une excellente illustration et que son approche ne peut que nourrir notre esprit critique.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Dilemme face à nos propres choix

Mick Levy : Sympa ce petit tour au Japon.
Louis, revenons à nos histoires et à nos maux. Il y a effectivement les mots, par exemple le FOMO of missing out [9], cette fameuse peur de manquer une information, ou la nomophobie [10], cette peur excessive à l’idée d’être séparé ou de ne plus pouvoir se servir de son téléphone. Il y a aussi nos paradoxes, par exemple celui de la vie privée, celui qui fait qu’on crie au scandale lors de l’installation de compteurs Linky mais qu’on accepte de donner toutes nos informations aux réseaux sociaux. Il y a aussi les sondages, par exemple celui des 72 % des jeunes âgés entre de 20 et 25 ans qui déclarent avoir une relation nocive, voire toxique, avec leur téléphone portable. Si on essaye de regarder un peu ce que nous dit la philosophie et qu’on écoute un peu Étienne de la Boétie [1] qui nous disait « les tyrans ne sont grands parce que nous sommes à genoux » alors Louis, pourquoi est-ce si difficile de ne pas plier le genou dans le numérique ?

Louis de Diesbach : Il y a pas mal de choses. Je commencerais par deux aspects.
Le premier c’est un peu le biais du statu quo, ce biais cognitif qui fait que c’est quand mieux quand les choses ne changent pas trop. Olivier Sibony qui a pas mal bossé sur les biais cognitifs, qui m’a d’ailleurs fait l’honneur de préfacer mon livre, travaille énormément sur le fait que, d’une part, on aime bien quand ça ne change pas et, d’autre part, on a tous beaucoup tendance à se croire bien meilleurs que ce qu’on est. Pas mal d’études ont été menées et tu remarqueras que les gens disent souvent : « Je sais bien que pas mal de gens sont asservis au numérique mais moi pas ». En fait, on pense que ça ne nous affecte pas. D’une part, je pense qu’il y a beaucoup ça.
Une deuxième raison, pour revenir un peu sur cette question utilitariste, même si on était vraiment dans une démarche utilitariste, dans la démarche utilitariste, pour savoir si quelque chose est bien ou pas bien, en fait on le fait sous forme de calcul. Sept critères ont été posés par Jeremy Bentham [11]. Il dit, pour une action : quelle est l’intensité de la peine ou du plaisir ? Quelle est sa durée ? Quelle est sa portée ? Combien de gens ça va toucher ?, etc. Je pose dans mon livre que ce calcul utilitariste, du côté des utilisateurs, est en fait mal posé. On se dit « je donne quelques données personnelles et, en échange, j’ai un super service gratuit, j’ai plein de trucs, etc. ». Tu pourrais dire « en fait ce n’est pas si mal », mais comme ça a été montré par énormément d’auteurs – là-dessus je recommande vraiment la lecture de « L’Âge du capitalisme de surveillance de Shoshana Zuboff [12] qui est professeur à Harvard. Elle explique qu’on ne donne pas juste deux ou trois données, en fait on corrompt directement tous ses comportements futurs. Elle parle vraiment du vol de nos comportements futurs justement par tous les surplus comportementaux qu’on laisse en ligne.
Quand on regarde la question comme ça, le calcul utilitariste, « j’ai accès à un service gratuit en échange de mes comportements futurs », même dans une éthique utilitariste qui, rappelons-le, selon moi, ça n’engage que moi, n’est pas terrible, même dans cette éthique-là on se rend vite compte que ça ne marche pas du tout.

Cyrille Chaudoit : Justement ce qui me semble intéressant d’aller étudier maintenant, on a évoqué La Boétie [1], évidemment, dès lors qu’on parle de servitude, forcément, tout son travail c’était de partir de la question : comment un peuple tout entier peut ployer, finalement, sous le joug d’un seul homme qui n’a pourtant ni force ni superbe en particulier. Comment applique-t-on cela à des personnes morales que sont les entreprises et les Big Tech en particulier ? Est-ce qu’il y a un rôle de la figure tutélaire de ces entrepreneurs, les Zuckerberg, les Elon Musk, etc., comme, par le passé, les gens de pouvoir, ou pas du tout ?

Louis de Diesbach : C’est difficile, mais je pense que oui, il y a pas de mal de bouquins, notamment des documentaires, qui sont sortis sur ces entrepreneurs-là, leur vision et comment ils sont arrivés jusque-là. Il y a notamment un documentaire qui est sorti il n’y a pas si longtemps sur Zuckerberg. Il n’est pas net, au-delà de son ego, il a quand même une volonté d’emprise. On explique notamment, dans le documentaire, qu’il se voit comme un nouvel Auguste, comme un empereur.

Thibaut le Masne : Il a d’ailleurs nommé ses enfants !

Louis de Diesbach : Exactement ! Il y a quand même un moment où, en termes d’ego, c’est quand même un peu compliqué à gérer. Pour moi, qu’il y ait des gens mégalos, il y en a toujours eu, déjà Auguste, très bien, mais, entre Auguste et Mark Zuckerberg, je ne veux pas croire qu’il n’y a pas eu un seul mégalo, je pense qu’il y en a eu d’autres, et beaucoup ! Il ne faut pas attendre des mégalos qu’eux-mêmes changent. Je pense qu’il y a des choses qui doivent venir un petit peu de l’extérieur. Pour moi, les acteurs du changement, ça ne doit jamais être les entreprises, c’est soit les gouvernements soit les individus.
Si on prend les individus, quelque chose m’intéresse beaucoup. Dans ce calcul utilitariste, qu’est-ce qu’on promet aux gens pour leur dire de ployer ? On leur promet des trucs rapides, on leur promet des trucs gratuits, on leur permet quelque chose qui n’a pas mal été développé, le confort, c’est ce confort absolu.

Mick Levy : Des super pouvoirs, quelque part.

Louis de Diesbach : Tout à fait. On peut être à plusieurs endroits en même temps, on peut parler à plein de gens en même temps, etc., et, en fait, j’ai l’impression qu’on nous promet une vie sans effort – ça a un côté un peu métaphysique, on se fait un peu mousser –, mais est-ce que cette vie sans effort a vraiment de l’intérêt ?
Il y a une expérience de pensée que j’aime beaucoup, du philosophe Robert Nozick, un philosophe en plus ultra-libéral, quand même, américain, au 20e siècle. Il développe dans son expérience de pensée une expérience qui s’appelle la machine à expérience [13]. Il dit, et on fait un peu le lien avec Matrix qu’on entendait au début : « Je te propose de te brancher à une machine et tu peux vivre, tu vis avec cette machine les plus belles expériences de ta vie : tu peux manger dans les meilleurs restaurants, tu peux séduire les plus belles personnes, tu peux voler, tu peux imaginer tout ce que tu veux, mais ce n’est pas réel et tu ne t’en rendras jamais compte » ; Inception a un peu repris ce truc-là, « tu es branché à une machine, tu ne vis pas quelque chose de réel, mais tu ne le sais pas ». Il pose ensuite la question aux gens : « Est-ce que vous voudriez vous connecter à cette machine, être branchés, ou bien est-ce que vous préférez vivre votre vie ? ». En fait, une grande, très grande majorité des gens répond « en fait, je préférerais vivre ma vie et elle est chiante ! » Ce matin j’étais à Nantes, je suis venu de la guerre de Nantes jusqu’à ici, il pleuvait, c’était chiant !

Thibaut le Masne : Il n’a plu que ce matin à Nantes !

Louis de Diesbach : C’est vrai !

Mick Levy : pas toute la matinée ! Un quart d’heure ! On est à Nantes !

Louis de Diesbach : En fait, je trouve que c’est aussi ça qui fait le plaisir de la vie. Toutes ces quêtes, je digresse un tout petit peu, mais quand on parle de toutes les questions du transhumanisme, etc., se dire qu’on va être immortel. Je ne vois pas l’intérêt de la vie, au sens vraiment très large – comme je dis on se fait un petit mousser, ce sont de grandes questions métaphysiques –, à partir du moment où il n’y a pas de fin, il n’y a pas de finitude, il n’y a pas d’effort. Je trouve que là-dessus, ce qu’on nous promet, en fait ce n’est pas tellement vendeur ; c’est vendeur à l’instant t, c’est ce qu’on appelle le biais pour le présent, là, tout de suite tu dis « OK, c’est cool », mais sur du long terme, tu ne le vois pas du tout.

Cyrille Chaudoit : D’ailleurs, en parlant de ça, je pense qu’on a question de notre précédente Invitée, Charleyne Biondi, une question pour toi.

Thibaut le Masne : Quand tu parles de « servitude volontaire », est-ce que tu penses que le numérique, aujourd’hui, est en train de renforcer cette espèce de tyrannie des plaisirs privés à la Tocqueville où on se renferme sur soi-même simplement, donc on se désintéresse du public ? Ou est-ce que tu penses qu’il y a une autre transformation qui est à l’œuvre, que finalement le désir même de liberté ne serait plus le même du fait de la transformation numérique ?

Louis de Diesbach : Je vais essayer de faire une réponse pas trop longue, mais on pourrait faire un épisode juste sur cette question. C’est une super bonne question.
Je pense que qu’il y a carrément une tyrannie des plaisirs privés. D’ailleurs Olivier Babeau [14]. vient de sortir un ouvrage qui s’appelle La Tyrannie du divertissement, super intéressant aussi là-dessus. Donc oui, je pense qu’on s’enferme un petit peu dans quelque chose et c’est quelque chose que le marketing nous vend beaucoup : pas d’effort, des choses rapides, tout va vite. Pourquoi Amazon ça marche ? Parce qu’on peut commander un truc, on l’a le lendemain dans sa boîte aux lettres, voire le soir même. On est arrivé à un niveau où on va s’acheter un bouquin sur la méditation et il nous le faut le soir même. Il y a un moment où c’est un tout petit peu paradoxal.

Thibaut le Masne : Une injonction contradictoire : toujours plus vite pour ralentir, la slow-live.

Louis de Diesbach : Tout à fait, et ça n’a absolument aucun sens. Je pense que ça se fait un peu au détriment de l’expérience de la vie humaine. Un philosophe, Clark, a pensé ce qu’on appelle la transparence de la technique, du fait que la technique devient de plus en plus transparente, pas au sens où on comprend ce qu’il y a dedans, mais au sens juste que tu ne la ressens pas, que c’est tellement facile aujourd’hui. Comme quand on dit que ton téléphone c’est un peu l’extension de ton bras, tu ne te rends même pas que tu es sur ton téléphone.

Thibaut le Masne : Plus l’extension de ton cerveau, comme disait Michel Serres, que de ton bras. L’auteur de science-fiction, Arthur C. Clarke, disait qu’on ne doit plus pouvoir distinguer toute technologie suffisamment avancée de la magie. C’est de la magie.

Louis de Diesbach : Exactement. Tout à fait. Je pense qu’aujourd’hui, pour revenir sur la question, oui, on est un peu dans cette tyrannie : au-delà du plaisir privé, juste de la facilité, juste « on ne va pas faire d’effort », c’est ce qu’on nous vend dans les pubs, tout est facile.

Mick Levy : Certains parlent d’ailleurs d’« économie de la flemme » quand on parle en particulier des livreurs, des livraisons de courses et livraisons de repas, type Deliverro, Uber et compagnie, on ne peut pas tous les citer là, on parle d’économie de la flemme. Bien souvent, on n’est pas tant tenté par un bon repas qu’on se fait livrer chez soi, finalement c’est la flemme de faire à manger ou d’aller faire ses courses, c’est ça qui est derrière.

Thibaut le Masne : C’est toute cette paresse intellectuelle, ça parait un peu dur de le dire, et physique, physiologique, de faire le moindre effort, parce qu’on nous vend ça.

Louis de Diesbach : Tout à fait. Même si on dit – et ce que tu disais juste là, c’est un peu ce côté absurde – que faire tout cela c’est pour pouvoir avoir du temps, pour pouvoir faire des choses qui comptent vraiment. En fait aujourd’hui, moi en tout cas, j’ai l’impression que les gens qui sont en mode slow-live au top passent plus de temps à mater des trucs stupides à la télévision qu’à lire Emmanuel Kant. Après, ce n’est pas forcément un plaisir, ce n’est pas toujours facile de lire Emmanuel Kant, ce n’est pas toujours marrant.

Mick Levy : Ou un plaisir pour tout le monde ! Ça dépend !

Louis de Diesbach : Je pense que c’est un peu ce truc-là. Si jamais on veut que les choses soient plus faciles, OK, mais c’est pour quoi derrière ? Si c’est juste facile pour facile, je ne vois pas l’intérêt.

Cyrille Chaudoit : Je reviens à cette introduction de Matrix, puisque tu en a fait mention toi-même juste à l’instant. Ça commence par « tu as le regard d’un homme prêt à croire tout ce qu’il voit, car il s’attend à s’éveiller à tout moment ». Ça rejoint un petit peu ce que tu nous rappelais tout à l’heure sur « vous allez vivre une vie extraordinaire, mais ce n’est pas la vraie vie. Est-ce que tu choisis de t’éveiller ou de ne pas t’éveiller ? ». Héraclite disait « éveillés, ils dorment ! ». C’est un petit peu la même chose, c’est-à-dire qu’on est éveillé, pour autant on ne voit pas du tout ce qui se trame ou ce qui se passe. Est-ce qu’il est encore possible, totalement asservi, de s’éveiller à un moment donné ? Pour faire référence plutôt à Platon vouloir sortir de la caverne et aller voir ce qui se passe exactement, selon toi ?

Louis de Diesbach : J’espère que oui. Je suis papa de deux jeunes enfants. Si aujourd’hui il n’y a plus moyen, on s’arrête là, ce n’est pas grave, on met la clef sous la porte et tant pis. J’espère qu’il y a moyen de se réveiller.

Cyrille Chaudoit : On espère tous, mais est-ce que c’est vraiment faisable ou pas ?

Louis de Diesbach : Je pense que oui, parce qu’il y a quand même pas mal de choses, mais il faut mettre des choses en place. Je pense qu’on pourra en parler, pour moi c’est l’œuvre des gouvernements. Je ne m’attends pas à ce que les sociétés changent, je ne m’attends pas à ce que les individus changent parce que je pense qu’ils sont trop facilement manipulables. En revanche, j’ai une croyance parfois un peu naïve et idéaliste, j’en suis bien conscient, dans le politique. Je pense que c’est un petit peu là-dessus. On a parlé pas mal de bouquins aujourd’hui. « Les Lumières à l’ère du numérique » [15] de Gérald Bronner et d’un collectif qui y a travaillé termine par 30 recommandations, notamment pour permettre aux lumières, au sens le plus noble du terme, de continuer à vivre à l’heure du numérique. Je pense que ce sont les quatre ou cinq dernières où on parle notamment d’éducation à l’informatique, à l’information, à l’esprit critique : qu’est-ce qui se passe dans les écoles, de quoi parle-t-on ? Etc. Aujourd’hui comment se fait-il que des gens arrivent avec le bac et ne comprennent pas comment fonctionne un algorithme ? Je ne parle pas d’un point de vue ingénierie, technique, techno, je dis juste comment, aujourd’hui, ne peut-on pas comprendre ? Aujourd’hui on ne fait qu’utiliser ça tout le temps, je trouve que c’est capital d’apprendre ça.

Thibaut le Masne : Savoir comment ça marche.

Louis de Diesbach : Je ne vais pas refaire le boulot du ministre de l’Éducation.

Mick Levy : Tu prêches des convaincus puisque c’est la raison même d’être de Trench Tech.

Thibaut le Masne : C’est donc bien le moment de prendre un petit peu notre souffle et de passer à une chronique.

On refait la tech de Gérald Holubowicz « IA ou artiste : qui est le plus créatif ? »

Thibaut le Masne : Nous avons une tendance systématique à comparer l’homme à la machine. Depuis l’avènement de l’IA, cette question est partout. Alors, quand, en plus elle arrive à battre des champions d’échecs, de go et même à gagner des premiers prix d’art, là on s’emballe.
Aujourd’hui, Gérald, tu nous proposes de revenir sur une question brûlante : l’IA s’inspire-t-elle des artistes comme les autres créateurs peuvent le faire ?

Gérald Holubowicz : C’est le point Godvin des discussions entre créatifs et les tech-enthousiastes. Comment penser que les artistes puissent avoir quelque chose en commun avec les IA. L’inspiration est sacrée et l’algorithme ne peut que copier. Voilà le résumé, mais, en vrai, qu’est-ce que ça veut dire vraiment ?

Du côté des IA génératives, la création d’une image fait appel à ce qu’on appelle l’espace latent. Attention, c’est complexe, suivez-moi. Il s’agit, en fait, d’un regroupement de représentations d’objets, consignées dans une base de données, où ceux qui se ressemblent beaucoup sont placés très proches les uns des autres, par exemple on va retrouver les chats, les lions et tous les félins pas très loin les uns des autres. Leur position dans la base de données est déterminée à l’entraînement par un ensemble de variables, des coordonnées en quelque sorte. Quand on tape un prompt, une commande dans midjourney [16], on écrit en réalité une adresse où l’algorithme va se rendre et trouver les informations dont il a besoin pour créer l’image demandée. Un peu comme quand on demande à un enfant de fabriquer un château en Lego, pour le faire il doit se rendre sans sa chambre où il va trouver des briques appartenant à la même famille de Lego.

Thibaut le Masne : OK. L’espace latent c’est un peu la mémoire de l’IA et c’est là qu’elle trouve les briques qui lui permettent de créer une image. Du coup, quelle est la différence avec notre mémoire ?

Gérald Holubowicz : La mémoire humaine ne fonctionne pas du tout comme ça. En réalité, le cerveau ne stocke pas des informations comme sur un disque dur d’ordinateur. Pour former un souvenir, nous mobilisons différentes formes de mémoire qui agissent de concert en fonction d’un contexte et selon que la situation requiert des informations issues de la mémoire sémantique ou épisodique, implicite ou explicite, et tout cela évolue avec le temps, au gré des expériences, et en fonction de l’importance émotionnelle qu’on y attache.
Par exemple, je me souviens très bien de ma grand-mère et de l’odeur des pâtes fraîches le dimanche matin, quand j’étais petit. En revanche, je n’ai qu’un souvenir très vague de mon prof de SVT en première.
Pour résumer, l’espace latent du modèle de machine learnig est fixé à l’apprentissage, il est stable, il est inerte et doit être refabriqué entièrement pour évoluer vers une version plus sophistiquée. C’est d’ailleurs pour cela qu’on a des versions de midjourney qui évoluent.
Quand on mobilise cet espace il ne fait appel à aucune émotion. Toutes les infos qu’il contient sont disponibles de façon égale, quant au contraire notre mémoire évolue, elle s’enrichit, elle interprète, elle modifie le poids de chaque information en fonction du temps, de notre âge, du contexte, de l’intention et évidement des émotions qu’on y attache.

Thibaut le Masne : D’accord. Finalement, les images créées sont tout aussi impressionnantes, non ?

Gérald Holubowicz : Oui, peut-être. Mais l’argument qui vise à rapprocher l’artiste de l’IA n’est pas totalement neutre. Le but c’est de faire naître chez les gens l’idée que la créativité des IA repose sur les mêmes mécanismes que la créativité humaine. D’un point de vue juridique, la question qui se pose est de savoir si les images collectées pour entraîner une IA équivalent à la mémoire d’un artiste qui puise dans ses propres références. Si on répond oui, alors les bases de données sont considérées comme des souvenirs et elles échappent au droit. Si on répond non, alors les procédures pour violation du droit à la propriété intellectuelle ont vraiment de beaux jours devant elles.
En l’occurrence, il va falloir attendre les décisions de justice à venir. Mais dites-vous qu’à chaque apprentissage, à chaque technique maîtrisée, à chaque expérience, à chaque échec ou succès, l’artiste va modifier le poids de ses souvenirs de façon unique et personnelle, inimitable, et ne retenir que quelques brides pour les remixer à nouveau ensemble et s’en servir à travers un prisme de lecture qui sera politique, idéologique, culturel et personnel, mais toujours singulier. Rien à voir avec la mobilisation d’items dans un espace latent. Nous sommes des nains sur les épaules de géants et l’IA ne leur arrive décidément pas à la cheville !

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Lever le voile de l’ignorance - Pistes de réflexion

Thibaut le Masne : Je crois qu’on connaît tous, maintenant, l’adage « si c’est gratuit c’est toi le produit », qui est né avec le numérique, on peut le dire comme ça. Lorsqu’on creuse un peu, ce qui se cache derrière, il y a les travailleurs du clic, les travailleurs clandestins, les désastres écologiques, etc., bref ! On s’aperçoit bien que tout cela n’est pas totalement gratuit. Il y a vrai retour sur investissement qui n’est pas forcément celui que l’on attend, en tout le cas on le subit un peu plus que ce qu’on veut véritablement. Question simple : dans le numérique, c’est quoi le juste prix ?

Louis de Diesbach : D’abord, je voudrais juste reprendre quelque chose. On dit souvent « si c’est gratuit c’est toi le produit », une phrase que j’aime bien, en fait, pour moi, nous ne sommes pas le produit non plus. Pour moi le produit ce sont les data. En fait, nous sommes plutôt une source de matière première plutôt que le produit. Bruno Patino, que je cite dans mon livre – je me la pète un peu je sors l’ouvrage comme ça.

Thibaut le Masne : On rappelle que Bruno Patino est le patron d’Arte, ancien journaliste qui a écrit notamment La civilisation du poisson rouge.

Louis de Diesbach : Dont est extraite justement la citation. Il dit que nous sommes, je cite, « des mines à ciel ouvert que forent les outils numériques à chaque fois que nous les utilisons ». D’une part il parle de forer, ce qui est vraiment génial, aujourd’hui on parle beaucoup de data mining, c’est exactement ça. Aujourd’hui nous sommes des mines à ciel ouvert, nous ne sommes même pas le produit : dans la chaîne alimentaire du truc, tu n’es même pas le produit, tu es en dessous du produit, tu es vraiment que dalle ! Pour moi, c’est déjà un peu une première question.
Après, au-delà de ça, d’un point de vue économique — de nouveau les puristes me pardonneront un peu — il y a souvent deux façons d’établir les prix de quelque chose : soit combien ça coûte à produire, soit combien les gens sont prêts à le payer. Typiquement, un tableau de Warhol ça n’a sûrement pas coûté des dizaines de millions et pourtant les gens sont prêts à les payer, donc ça vaut des dizaines de millions. À côté de ça, c’est combien est-ce que ça coûte à produire ? Produire des réseaux sociaux, en fait ça ne coûte pas grand-chose, finalement c’est un algorithme dont une société est propriétaire, un bon programme, ça tourne bien, et après il y a des serveurs, de l’électricité, etc.

Mick Levy : C’est quelques milliards d’investissement pour une plateforme quand même. Pardon, tout est relatif. Par rapport aux gains, on est d’accord que c’est trois fois rien.

Cyrille Chaudoit : Pour aller dans le sens de Louis, la fameuse plateformisation du Web où tu ne possèdes rien si ce n’est un site web qui met en relation, ça coûte beaucoup moins cher que d’avoir des chambres d’hôtel ; si on compare à Accor quand on parle d’Airbnb, même si là on était plutôt sur les réseaux sociaux, les proportions ne sont pas du tout les mêmes.

Louis de Diesbach : Effectivement. Les coûts fixes, à la base, sont assez minimes. Après, en termes de coûts variables, plus tu as d’utilisateurs, plus tu as de serveurs, plus tu as de machines. On est d’accord, Mick, je ne dis pas que ça ne coûte rien, à produire ça coûte.
Il y a deux façons de voir : soit on se dit quel serait le juste prix ? Un chiffre dont je repars souvent : en 2020, Meta, donc Facebook et les autres, c’est 86 milliards de dollars de chiffre d’affaires, donc d’argent qui rentre, pour environ deux milliards d’utilisateurs actifs. On fait le calcul rapidement, ça veut dire que ça fait 43 dollars par personne par an. Aujourd’hui, payer 43 dollars par an pour tous ces outils, donc pour Facebook, Instagram, Messenger, WhatsApp, est-ce que c’est excessif ? C’est moins de quatre dollars par mois. On pourrait imaginer un super package dans lequel on aurait Google, Twitter, Facebook, Instagram, etc., on paierait entre 10 et 15 euros par mois. Aujourd’hui si on fait ça, si on change de modèle,Facebook s’effondre demain en bourse. Ce qui m’intéresse c’est purquoi ça s’effondre ? Cela m’intéresse beaucoup.

Cyrille Chaudoit : Ce qui m’intéresse : on connaît le prix de ce que nous coûte notre asservissement, quel serait le prix à payer pour rester libres, pour redevenir libres ? Et je ne parle pas des quatre dollars par jour ou par mois. Quel serait le vrai prix à payer ?

Louis de Diesbach : C’est hyper-compliqué. Il faudrait déjà définir la liberté. Au-delà de ça, je pense qu’il faudrait vraiment changer la façon dont ces plateformes fonctionnent, il faudrait probablement changer des trucs, ça va sûrement coûter une fortune, ça coûterait cher.
Je dis souvent que je n’ai pas vraiment de problème à ce que Facebook pompe mes données tant qu’il les garde. S’ils veulent juste garder nos données pour qu’on ait une meilleure expérience en ligne, ce n’est pas du tout quelque chose qui me dérange. On sait très bien qu’Internet sans la personnalisation c’est l’enfer, c’est un océan dans lequel tu es censé trouver des trucs, c’est hyper-compliqué. Ce que je trouve difficile, c’est que Facebook prend tes données et les vend ensuite à des data brokers, les vend à telle ou telle entreprise pour un peu manipuler tes comportements futurs ; je trouve ça très compliqué.
Quel serait le prix à payer pour récupérer notre liberté ? Je pense que c’est, d’une part, l’éveil à l’esprit critique, on sait que c’est quand même assez compliqué et, d’autre part, juste de se mettre dans cette dynamique de dire « je suis prêt à payer ».
Juste pour peut-être clôturer un petit peu là-dessus, aujourd’hui j’essaye, mais c’est très compliqué : j’ai quitté tous les Facebook, Instagram, etc., je garde WhatsApp parce que, malheureusement, tout le monde est sur WhatsApp, même d’un point de vue pro c’est très compliqué de le quitter, mais je suis sur Signal. Je paye donc cinq euros par mois à Signal parce que je pars du principe que j’utilise un service et, naturellement, je paye ce service. Toutes les personnes avec lesquelles je parle sur Signal sont également sur WhatsApp, c’est vraiment de l’argent jeté par la fenêtre !

Thibaut le Masne : On s’est parlé, je ne suis pas sur WhatsApp.

Louis de Diesbach : C’est vrai. Ne prenez pas de conseils économiques de ma part, ça ne vaut vraiment rien ! En revanche, plus sérieusement, c’est un peu mon geste citoyen. Je trouve que c’est hyper-important de me dire que je paye Signal parce que je considère que les choses ne sont pas gratuites dans la vie, parce que c’est une chose importante et aussi parce que j’ai la chance d’avoir les moyens, c’est une deuxième question.

Thibaut le Masne : Ce qui est assez intéressant. J’ai une question qui va plutôt se profiler en affirmation pour avoir ton point de vue sur ce côté-là. On a eu la chance de recevoir Joëlle Toledano [4] qui parlait de beaucoup de choses, notamment de la régulation. Elle disait – et ça rejoint un peu ce que tu dis – qu’à un moment il faudrait qu’on impose aussi un changement de business modèle à ces Big Tech. Pour toi, est-ce que ce changement de business modèle passerait par : on arrête la gratuité et on impose le paiement ?

Louis de Diesbach : C’est évident ! Je ne comprends pas comment on pourrait avoir autre chose que ça.
Je trouve que quand tu es dans une dynamique où on fait société – j’aime bien cette expression –,tu fais partie de la société un peu comme – c’est un peu caricatural parce que ce n’était pas vraiment une démocratie – au sens athénien où tu faisais partie de la société, oui, tu payes parce que sinon ! On en parlait quand on déjeunait : un t-shirt à un euro c’est un non-sens, quand tu réfléchis 30 secondes tu sais très bien que c’est non-sens, tu sais très bien que ça va coûter hyper-cher probablement à des enfants en Asie du Sud-Est qui vont devoir bosser dessus, etc. Pour moi le fait de payer, donc de changer de business modèle, de passer vers un business modèle d’abonnement, par exemple, je trouve que ça a beaucoup de sens.

Thibaut le Masne : Pour moi, avec ce concept-là, on change la philosophie. Il faut quand même se souvenir qu’à l’origine la philosophie d’Internet, etc., était l’accès à l’information pour tous. Donc là-derrière, avec la notion de faire payer quelque chose, les plus pauvres vont forcément dire « c’est gentil, mais ... ».

Cyrille Chaudoit : Avant Internet tu payais l’accès à l’information et Internet à 20 ans, 25 ans.

Thibaut le Masne : Certes.

Louis de Diesbach : Et puis je ne suis même pas si sûr tu peux discriminer par les prix. J’ai de la chance, j’ai bac + 5, je travaille dans le conseil, je suis ultra-privilégié, ça ne me choquerait pas qu’on discrimine parfois par les prix, qu’on dise que les mecs comme Louis, au lieu d’être sur 10 euros par mois, ils en payeront 30. Et des gens qui ne vivent peut-être pas en Europe, qui ont peut-être moins de chance, qui ont peut-être moins de moyens, etc., soit ils auront accès gratuitement, soit ils auront accès pour deux euros par mois ; il y a vraiment moyen. Je pense que les idéaux d’Internet c’est superbe, mais c’est comme le libéralisme, je suis très libéral, juste je ne suis pas ultralibéral ou néolibéral ; pour reprendre cette phase dans Kaamelott « en un mot, merde ».

Thibaut le Masne : Ça parle à Mick qui a une question pour toi.

Mick Levy : Tu nous parles de grands philosophes. J’en ai un qui a pas mal réfléchi à la question, c’est Francis Lalanne.

Louis de Diesbach : Grand philosophe s’il en est.

Mick Levy : N’est-ce pas ! Je ne suis pas du tout d’accord avec toutes ses idées, je tiens à vous le préciser d’emblée, néanmoins il a eu un acte qui me fait assez réfléchir. Il attaque Twitter aux prud’hommes en voulant requalifier son contrat d’utilisation de Twitter en contrat de travail, parce qu’il dit qu’en fait on travaille finalement tous pour ces plateformes, à chaque fois qu’on twitte, à chaque fois qu’on like, à chaque qu’on lit un tweet, ça donne des informations à la plateforme dont elle se ressert ensuite pour faire de la pub, notamment, et optimiser ses services. Il considère donc qu’il travaille et qu’on travaille tous pour Twitter. C’est un peu radical comme vision.

Cyrille Chaudoit : Francis Lalanne, clicworker chanteur.

Louis de Diesbach : C’est hyper-intéressant, c’est ce qu’on appelle le digital labor. Même en France il y a des super penseurs qui ont travaillé là-dessus, je pense à Dominique Cardon [17] et Antonio Casilli [18], c’est super intéressant. Ce n’est pas forcément le domaine dans lequel je suis ultra-spécialiste surtout que Twitter, ces derniers temps, ça part vraiment dans tous les sens, c’est compliqué à suivre, en tout cas c’est intéressant. Je pense que ça ne va jamais passer et je ne pense pas que Twitter sera poursuivi, mais, en fait, il nous force à penser.

Thibaut le Masne : Ce serait une grande première pour lui !

Louis de Diesbach : Je ne m’engagerais pas là-dessus, mais j’aime beaucoup. Ma pièce de théâtre préférée c’est Caligula d’Albert Camus, où Caligula part complètement en vrille et, à un moment, tu as les autres qui se font un peu victimiser, qui disent « on ne pourra pas lui retirer quelque chose : il nous force à penser ». Est-ce que Caligula et Francis Lalanne ?, l’histoire ne le dit pas. Ça force à penser avec tous ces petits évènements, parce qu’il y a plein de choses. On disait notamment que les travailleurs kényans qui ont travaillé énormément sur ChatGPT [19], on le sait, ils ont fait beaucoup de fact-checking, de data-checking, ils se sont syndiqués, si j’ai bien compris. En fait, ça force à penser. Après, je pense que c’est quelque chose dont certains groupes de personnes doivent s’emparer. Je suis très pro tout ce qui est comité d’éthique, je trouve d’ailleurs que la France, là-dessus, est vraiment en avance par rapport à la Belgique, vous avez un Comité national pilote d’éthique du numérique [20], je trouve que c’est super intéressant. On n’a pas ça en Belgique, je pense qu’il le faudrait vraiment.

Mick Levy : Il y a aussi plusieurs associations très influentes sur ce sujet-là.

Louis de Diesbach : Tout à fait. Même la CNIL [Commission nationale de l’informatique et des libertés] est beaucoup plus puissante que l’Autorité de protection des données de Belgique ; un groupe de personnes doit donc s’emparer de ça. Est-ce que ça peut être une convention citoyenne, on l’a vu sur le climat, je trouve que l’exemple de la France, là-dessus, est absolument admirable.

Mick Levy : Ces actes citoyens c’est intéressant, c’est aussi cela qu’il y a derrière ce que fait Francis Lalanne : il y a un acte citoyen qui éveille un peu les consciences, qui fait réfléchir.

Cyrille Chaudoit : Ce sont les actes citoyens qui font bouger les politiques. Ceci dit, à l’échelle européenne, ça bouge quand même pas mal.

Louis de Diesbach : AI Act [21], DSA, DMA [22].

Mick Levy : Justement. Je voulais qu’on revienne quelques secondes sur la réglementation.

Thibaut le Masne : Régulation ! Régulation ou réglementation ?

Mick Levy : On va pouvoir en parler. J’ai l’impression que tout ce qui commence par « reg » et qui finit par « lation » en tous les cas, c’est un peu tarte à la crème, je m’excuse Louis. Il y a énormément d’invités qui disent qu’il faut réguler, il faut qu’il y ait plus de réglementation, sans quoi le numérique ne peut fonctionner, à commencer par Joëlle Toledano [4] que tu as rappelée, Thibaut, tout à l’heure. Super. On voit que la réglementation n’est pas du tout sur le même timing que l’innovation, elle ne le peut pas. À chaque fois qu’il y a une réglementation, de toute façon, les acteurs trouvent toujours le moyen de la contourner. Regardons ce qui s’est passé avec le RGPD [23], qui a plein de bonnes choses, mais qui n’a pas permis d’affaiblir les plateformes des Big Tech.

Louis de Diesbach : Le comment, quand tu poses la question du comment, tu es toujours un peu sur ta faim, « il faudrait ça », c’est toujours très compliqué parce que, comme tu le dis, ça va prendre du temps, c’est difficile à mettre en place, c’est aussi changer beaucoup d’habitudes, etc. Néanmoins, même si le RGPD n’a pas forcément eu les finalités attendues et les gens ont réussi à le contourner, etc., on a progressé : DSA, DMA ; le MIT Technology Review a publié encore un article il y a quelques semaines qui disait « DSA et DMA font énormément pour tous les utilisateurs dans le monde, y compris aux États-Unis », alors qu’ils ne sont même pas Européens.

Thibaut le Masne : Ils veulent s’en inspirer.

Louis de Diesbach : Exactement. Et Biden recevait hier ou avant-hier, à la Maison-Blanche, le big boss de Google, de OpenAi [24], de Microsoft et encore une quatrième personne, comme quoi on commence à se poser des questions. Après, il y a plein de choses. Je propose pas mal de choses dans mon ouvrage en disant qu’il y a plein de trucs qu’on peut faire. Une des choses, là-dessus, que pas mal de gens ont reprise en disant « tiens, c’est intéressant », je dis aujourd’hui : pourquoi ne traite-t-on pas les réseaux sociaux comme on traite le tabac par exemple ?, c’est toujours un peu provocateur, mais c’est nocif pour les jeunes, on le sait, ça a été prouvé.

Cyrille Chaudoit : Tu veux qu’on mette une petite étiquette quand on arrive sur Facebook et sur Instagram ?

Louis de Diesbach : De façon caricaturale, pourquoi pas ?, en mode « c’est dangereux », etc.

Thibaut le Masne : Tu le ferais sur plein de produits alimentaires, tu le ferais sur les voitures.

Louis de Diesbach : Carrément !

Mick Levy : Oh ! La vie va devenir d’un triste ! Je ne suis pas fumeur et je suis bien content de ne pas m’exposer à toutes ces photos qui sont flippantes quand même !

Louis de Diesbach : Parce que tu n’es pas fumeur.

Cyrille Chaudoit : Laissons Louis nous dire ce qu’il faut faire. On a effectivement beaucoup parlé de notre servitude, de cette difficulté à se relever quand on a plié le genou, etc. Louis quels sont les tips que tu peux nous donner ?

Louis de Diesbach : Je peux donner des tips après, « laissons Louis dire ce qu’il faut faire » !

Mick Levy : Je vote Louis pour la présidence de la République.

Louis de Diesbach : Toutes proportions gardées. Un truc que j’aimerais beaucoup c’est, d’une part, qu’on travaille sur le business modèle des plateformes. On sait que l’argent c’est le nerf de la guerre, il faut frapper au portefeuille, toutes ces phrases que tout le monde connaît, OK, faisons-le. Il y a plein de choses à faire, on y va. On a quand même certains hommes et femmes politiques qui ont vraiment fait des choses remarquables, notamment la commissaire à la concurrence, Margrethe Vestager, qui travaille notamment énormément à réguler un peu les réseaux sociaux, je trouve que c’est super. Les amendes à Apple, Google, c’est elle derrière, je trouve ça remarquable. Je pense que quand elle quittera son poste ils seront tous très contents, d’une part.
Après, en fait, ce sont toutes les actions citoyennes. Pour moi il en a deux importantes.
La première. Si le politique est censé nous aider il faut quand même qu’on l’élise. Si demain les gens font compagne et les gens décident d’élire des gens qui vont promouvoir plutôt un programme anti-immigration et, je ne sais pas très bien, pro-libéralisation du marché de l’énergie, on ne va pas aller très loin. Si, en face, on décide d’élire des gens pour qui le numérique et la gestion du numérique c’est important, c’est une première action citoyenne ; réfléchissons un peu : pour qui vote-t-on ? Première chose.
Deuxième chose. Je pense qu’il y a plein de petites initiatives qu’on peut faire. Je reviens sur cette idée du tabac : j’aimerais trop qu’il y ait des restaurants interdits de téléphone : tu ne peux pas avoir de téléphone à table. Quand tu regardes c’est hallucinant ! Je terminerai peut-être juste là-dessus : la sociologue Sherry Turkle a fait une étude, elle dit « quand tu es à table avec quelqu’un, si tu as ton téléphone sur la table, même pas l’écran vers le ciel, juste posé, ça altère quand même le niveau de la relation parce que tu es toujours en train de penser : peut-être j’ai reçu une notif, peut-être que quelqu’un pense à moi », FOMO [9] dont tu parlais, Thibaut, c’est exactement ça.

Thibaut le Masne : Rappelons-le, les neuroscientifiques ont également prouvé que lorsque tu es étudiant et que tu travailles avec ton téléphone, même éteint à côté de toi, tu ne travailles pas aussi bien que lorsqu’il est dans une autre pièce. Quant au fait d’interdire les téléphones au restaurant, souvenons-nous que Florence Foresti avait voulu interdire son spectacle à des spectateurs avec téléphone, ça avait fait un tollé monumental. Ça doit effectivement passer par là, y compris pour le bien d’un couple. Combien de couples voit-on en tête en tête avec le nez sur le téléphone ?

Louis de Diesbach : C’est dramatique.

Thibaut le Masne : Peut-être sur WhatsApp, peut-être sur Tinder. On ne saura jamais, on demandera à Laurent, il est calé sur le sujet.
Merci beaucoup, Louis, d’avoir passé cet épisode avec nous, qui pourrait durer encore des heures et des heures. Mais, vous qui nous écoutez, restez avec nous, car nous restons ensemble pour débriefer lors de ces cinq dernières minutes.

Mick Levy : Merci Louis. À Bientôt.

Louis de Diesbach : Merci à vous Au revoir.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Le debrief

Mick Levy : Pon Pon Pon ! On ressort encore avec un bel épisode avec Louis de Diesbach. J’adore parce que ce sont toujours de belles rencontres qu’on fait sur Trench Tech. Qu’en avez-vous retenu messieurs, Thibaut ?

Thibaut le Masne : Ta sortie Francis Lalanne.

Mick Levy : J’avoue. Il y avait un niveau de philosophie ! On a cité un nombre de philosophes dans cet épisode ! Incroyable ! Il fallait revenir à des choses plus populaires.

Thibaut le Masne : C’est beaucoup plus populaire ! En fait, si j’avais vraiment un élément clef à retenir, il ne l’a pas sorti comme ça, mais ce que j’ai beaucoup apprécié c’est la contraposée de « si c’est gratuit c’est toi qui es le produit » et j’aime bien ce qu’il dit : « Si c’est gratuit, quelqu’un en paye le prix. » Ça conscientise ce que l’on fait et ça nous permet aussi d’essayer de prendre conscience que la gratuité brute n’existe pas et qu’il y a forcément quelque chose qui paye.

Mick Levy : Réflexion aussi de dire que l’expression « si c’est gratuit c’est toi le produit » n’est finalement pas très juste. Si c’est gratuit ce sont les données le produit et nous sommes les producteurs de ces données, nous sommes les mines à ciel ouvert, comme il le disait, de ces données. C’est vrai que c’est une réflexion intéressante, peut-être un peu moins percutante que le vieil adage « si c’est gratuit c’est toi le produit ».

Thibaut le Masne : Ça dé-conscientise ce côté-là.

Mick Levy : Effectivement, mais c’est plus juste, nous sommes un peu tous, finalement, ces mines à ciel ouvert de nos données.

Thibaut le Masne : C’est sûr qu’on n‘a pas envie de se représenter nous-mêmes comme des mines à ciel ouvert.

Mick Levy : Ni comme un produit, d’ailleurs !

Cyrille Chaudoit : Encore moins comme une matière première exploitée, pour le coup le parallèle avec Matrix est totalement juste.
Je retiens qu’il nous a dit un truc qui ne fait forcément plaisir à entendre pour qui que ce soit, c’est, je cite : « Je ne crois pas que les gens changent d’eux-mêmes, puissent changer d’eux-mêmes, car ils sont, nous sommes, trop manipulables pour ça ». Ça appellerait un épisode sur les biais cognitifs, peut-être un jour avec Olivier Sibony qui a d’ailleurs préfacé son lire. Donc dire « puisque je crois que les gens ne changeront pas d’eux-mêmes parce que nous sommes trop manipulables, il faut une politique volontariste, ça doit donc venir du politique ». On revient à ces questions de réglementation, de régulation et, pour faire le parallèle encore une fois avec l’épisode avec Joëlle Toledano [4], c’est au business modèle qu’il faut toucher, il dit qu’il faut qu’on paye ces opérateurs-là et ça remet tout en question.

Thibaut le Masne : Plus ou moins 60 minutes viennent de s’écouler et normalement votre vision sur les mécaniques de notre servitude au monde numérique n’est plus tout à fait la même.
Merci à vous d’être de plus en plus nombreuses et nombreux à prendre le temps d’exercer votre esprit critique à nos côtés. Que nous soyons les concepteurs, les commanditaires ou les usagers du monde technologique dans lequel nous baignons, nous avons le droit, et même la responsabilité, de faire preuve de sens critique sur les sujets. Soyons acteurs plutôt que spectateurs.

Trench Tech c’est fini pour aujourd’hui, mais vous pouvez nous écouter ou nous réécouter sur votre plateforme de podcast préférée. Profitez-en pour nous laisser un commentaire et nous mettre des étoiles, ça fait toujours plaisir et vous contribuerez comme ça à propager l’esprit critique pour une tech éthique. Comme l’a dit le penseur et magistrat Alexis de Tocqueville : « Il dépend des nations que l’égalité les conduise à la servitude ou à la liberté, aux lumières ou à la barbarie, à la prospérité ou aux misères ».

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.