Ronan Sy : Bonjour à toutes, bonjour à tous pour ce webinaire Data for Good. Aujourd’hui, nous accueillons Antonio Casilli et Henri Poulin. Bonjour Antonio, bonjour Henri.

Henri Poulain : Bonjour.

Antonio Casilli : Bonjour.

Ronan Sy : Avec vous nous allons parler de digital labor. Je ne vais pas tout de suite spoiler ce qui va arriver.
Avant toute chose, je vais revenir un peu sur le Livre blanc de Data for Good [1]. Pourquoi ? Parce que nous allons beaucoup parler de machine learning et d’IA générative aujourd’hui. Je ne sais pas si tout le monde est au courant, dans la communauté de Data for Good, que nous avons écrit un Livre blanc sur les grands défis de l’IA générative il y a maintenant deux ans, qui se concentrait beaucoup sur l’usage de ces outils, notamment sur les biais, l’écologie, la fiabilité de l’IA générative. En fait, on abordait finalement assez peu les problématiques sociétales, même s’il y a eu un très beau jeu de société cocréé entre Latitudes et Data for Good, qui s’appelle La Bataille de l’IA [2], dans lequel on a abordé ces questions, notamment faut-il boycotter l’IA générative dans l’enseignement ? Craignez-vous que votre métier soit remplacé par une IA ? Aujourd’hui, avec Antonio et Henri, nous allons nous concentrer finalement plus sur ces questions sociétales, nous allons essayer d’approfondir un peu le sujet.
Antonio, vous avez écrit En attendant les robots – Enquête sur le travail du clic. Qu’est-ce que le digital labor ?
Henri, vous avez créé des documentaires, notamment Démocratie(s) ? et Invisibles, les travailleurs du clic.
Pour commencer, je voulais vous demander de prendre deux/trois minutes pour vous présenter, notamment, comment vous vous êtes rencontrés. Est-ce que, par exemple, le documentaire Invisibles, les travailleurs du clic était déjà une première collaboration ? Henri, par exemple, si vous voulez.

Antonio Casilli : Vas-y, Henri.

Henri Poulain : Nous nous sommes rencontrés, je crois, en 2012/2013, dans le cadre d’une émission qui s’appelait Le Vinvinteur, sur France 5 à l’époque, et qui était consacrée au numérique dans sa globalité. Nous nous sommes rencontrés à l’occasion d’un épisode de ce Le Vinvinteur. Nous nous sommes effectivement retrouvés, avec beaucoup plus d’intensité, pour produire, écrire, penser la série documentaire Invisibles, les travailleurs du clic en 2018, je crois. C’est une série documentaire qui est sortie deux ans plus tard. D’ailleurs, vous ne l’avez pas mentionné, mais on vient de sortir un documentaire ensemble qui s’appelle Les sacrifiés de l’IA, qui a été diffusé avant-hier sur France 2 et qui est en ligne sur France.tv actuellement et pour au moins six mois, en accès libre sur le service public français.

Ronan Sy : Tout à fait. On en aurait évidemment reparlé.

Henri Poulain :Je le dis parce que c’est notre actualité chaude. Antonio, tu peux préciser les conditions de notre rencontre.

Antonio Casilli : Ça fait en effet dix ans que nous nous connaissons. Je dirais que c’est presque par hasard que nous avons effectivement commencé à travailler ensemble. Il y avait évidemment l’intention de travailler sur ce sujet, et nous avons déjà fait deux documentaires ensemble : la série de 2020 et celle de 2025. À chaque fois c’est un plaisir, mais c’est aussi un boulot infernal, donc vivement le troisième volet de cette trilogie, je le dis comme ça, voilà !

Ronan Sy : J’ai hâte d’en entendre parler plus ! Henri, vous étiez un habitué du format vidéo, finalement, mais, Antonio, pourquoi partir sur des documentaires ? Qu’est-ce que ça apporte à votre travail théorique ?

Antonio Casilli : La question est que ma manière de travailler dans le contexte universitaire est un peu spéciale. Je me considère comme ce qu’on appellerait un intellectuel public, c’est-à-dire je fais aussi tout un travail d’accompagnement des décideurs politiques, d’accompagnement de la société civile, donc aussi d’associations d’où l’intérêt effectivement de cet échange avec Data For Good. Je cherche donc à sortir de la tour d’ivoire ou plutôt du campus perdu dans la banlieue parisienne dans lequel je me trouve, parce que je suis professeur à l’Institut Polytechnique de Paris qui, comme vous le savez, est à quelques dizaines de kilomètres du centre-ville, dans un endroit qui est fait exprès pour que les gens ne se regardent pas, ne se parlent pas. Donc, pour rencontrer des gens, pour se parler, pour lancer aussi des débats intéressants, il faut chercher ailleurs, il faut aller ailleurs, et c’est pour cela qu’une partie de mon travail c’est aussi de travailler avec Henri, avec Julien Goetz et avec tous les gens merveilleux de la boîte de production qui s’appelle Story Circus, France Télévisions, donc voilà, j’ai fait les créditsde notre travail ensemble.

Ronan Sy : Parfait. Nous sommes contents de vous servir de tribune. Pour ceux qui ne le savent pas encore, Data for Good [3] est une association, mais c’est aussi une communauté de 6 000 développeurs. On a tout un forum, tout un slack. Pour ceux qui ne l’ont pas encore fait n’hésitez pas à nous rejoindre pour participer aux projets qui sont développés par Data for Good.
Vous nous avez parlé de Les sacrifiés de l’IA, un documentaire qui est sorti mardi soir, nous avons mis la bande annonce sur LinkedIn. Dans ce documentaire on parle beaucoup d’intelligence artificielle et, avant d’attaquer vraiment le fond du documentaire, je voulais savoir si le terme « intelligence artificielle » est quelque chose qui vous parle ? Est-ce que c’est quelque chose qui vous paraît adéquat quand on voit, aujourd’hui, que ChatGPT ou n’importe quel chatbot peut se tromper assez facilement ? Qu’est-ce que vous pouvez nous dire sur ce thème ? Peut-être Henri, pour commencer.

Henri Poulain : Je vais écouter le professeur Antonio Casilli nous répondre, parce que c’est Antonio l’expert, il faut savoir que c’est son domaine d’expertise, moi, je suis un faiseur de films. Évidemment, au contact d’Antonio, j’apprends des choses depuis quelques années avec les sujets qu’on creuse, mais l’expert reste Antonio, il sera plus précis que je ne le serais. Antonio, à toi !

Antonio Casilli : J’accepte volontiers le défi, évidemment, si on pose la question de cette manière. Je sais que dans la communauté il y a quand même des voix qui se lèvent pour dire que le label « intelligence artificielle » n’est pas adapté à ce qui se passe en réalité. Soyons clairs, il y a un élément de marketing derrière l’utilisation de cette expression, parce qu’on sait très bien que l’intelligence est tout à fait relative. Il n’est pas question, comme le veulent certains grands investisseurs de la Silicon Valley, de créer une super intelligence, une intelligence au niveau humain. À la différence des produits qui existaient il y a une trentaine, une quarantaine d’années, qui étaient basés sur des règles, donc un code établissait les règles, on est en train, grosso modo, de mettre en place des produits informatiques qui sont aujourd’hui basés plutôt sur des données, des jeux de données, lesquels, par une sorte de frottement statistique, déterminent ce qu’on appelle l’apprentissage automatique. Mais pour l’instant, franchement, c’est complètement abuser de parler d’intelligence artificielle. Nous le faisons justement parce qu’on s’attaque avec un point de vue, avec une approche critique à cette idée. Il faut effectivement prendre le taureau par les cornes et montrer, comme le dit Kate Crawford [4] , que ce n’est pas intelligent et que ce n’est pas artificiel non plus.
Ces cinq dernières années, voire plus, notre travail a consisté à montrer qu’il faut relativiser surtout la partie artificielle, parce que derrière les prétendues prouesses techniques, on a un problème sérieux d’une présence humaine qui est largement invisibilisée. Donc elle n’est pas artificielle, elle est, encore aujourd’hui, faite à la main. Et j’ajoute une petite stimulation pour une conversation à venir : il y a une responsabilité des développeurs, des data scientists, des ingénieurs qui, pendant longtemps, trop longtemps hélas, ont eux-mêmes fermé les yeux sur cette force de travail énorme de personnes qui font l’intelligence artificielle. Ces personnes sont, comme on le dit dans ce documentaire, les sacrifiées de l’IA, mais ont aussi les non regardées, les oubliées de l’IA. Les développeurs, au lieu de créer aujourd’hui une solidarité avec ces personnes qui, grosso modo, s’occupent de générer, annoter, labelliser, trier les données, donc au lieu de les reconnaître en tant que collègues ont plutôt tendance à les laisser de côté pour se mettre un peu à l’abri de tous les risques qui sont liés à leur travail. Ces personnes travaillent dans des conditions décidément incomparablement pires que celles des ingénieurs et des développeurs aujourd’hui, surtout dans le Nord du monde.

Ronan Sy : Merci Antonio. Effectivement, vous l’avez dit, « intelligence artificielle » est un terme qu’on utilise depuis longtemps, 1955 je crois, c’est donc le moment de s’y mettre et vous avez bien fait de nous responsabiliser un peu, nous les développeurs. Pour une bonne transition avec ce que vous venez de dire sur les invisibles, on réutilisera beaucoup le terme « invisibles » aujourd’hui, on va vous montrer normalement un petit extrait vidéo. J’attends la régie. Théo, notre président, le président de Data for Good, se démène en régie pour nous passer un extrait. Est-ce que c’est bon, mon cher Théo ?

Théo Alves Da Costa : C’est la beauté du live. J’étais en train de développer un script Python pour convertir le fichier d’extrait entre ces 10 minutes d’intro. Normalement, c’est bon. On va voir si, effectivement, l’extrait va fonctionner. C’est à la fois la beauté du live et la beauté d’être dans un webinaire avec des geeks. On va essayer de passer cet extrait.

Ronan Sy : Pour ceux qui sont en train de nous écouter, on va sortir une vidéo.

Théo Alves Da Costa :Exactement. Est-ce que ça fonctionne ?

Extrait du documentaire Les sacrifiés de l’IA, Faustine Makira, voix off de la traductrice : Je m’appelle Faustine Makira. J’ai travaillé pour des IA pendant plus de trois ans. Au début, je ne voyais pas ça comme quelque chose de pénible, mais, avec le temps, je me suis rendu compte que je faisais des cauchemars, surtout quand je visionnais des affaires de meurtres ou des affaires de viols, plus particulièrement de viols sur des mineurs ou des enfants. Aujourd’hui, j’ai encore des séquelles de ce stress post-traumatique et je suis toujours en thérapie. Pour combattre l’anxiété, je reste la plupart du temps à l’intérieur. Quand je vais dehors, je me sens encore en détresse. Peut-on faire une pause, s’il vous plaît ? [Malika pleure et s’éloigne un instant, NdT]. C’est bon, on peut reprendre.

Ronan Sy : Nous allons prendre cinq secondes pour digérer un peu cet extrait qui n’est pas facile.
Antonio, vous nous parliez juste avant de ces invisibles de l’IA générative. Vous appeliez à une responsabilisation parce que, finalement, en tant qu’acteurs mais aussi en tant que consommateurs de l’IA générative et des intelligences artificielles, d’une certaine manière nous sommes responsables de cette situation. Le terme que vous avez développé, la notion que vous avez développée pendant votre travail, s’appelle le digital labor, notamment dans vos précédents ouvrages. Est-ce que vous pourriez repréciser rapidement ce que vous entendez par digital labor ?

Antonio Casilli : Tout d’abord établissons un lien entre cette notion, que je vais définir dans un instant, et ce que nous venons de voir. Nous venons de voir un témoignage particulièrement fort d’une femme, au Kenya, qui est recrutée pour effectuer un travail important, un travail que désormais nous classons plutôt comme du data work, du travail de la donnée, qui est parfois connu dans les médias généralistes, surtout dans cette partie du monde, en réalité aussi au Kenya, comme de la modération. On parle donc, par exemple, de modération sur Facebook, sur YouTube, et là tout le monde voit, grosso modo, de quoi il est question. Mais cette modération est aussi, en réalité, quelque chose de fondamental pour développer des intelligences artificielles, parce qu’il faut, grosso modo, apprendre aux machines à voir certaines choses, mais aussi à ne pas voir certaines choses, c’est-à-dire à ne pas reconnaître ou à ne pas prendre en compte des messages qui seraient violents ou problématiques pour une raison ou pour une autre. Mais cela a un poids sur la santé, la santé mentale des personnes qui sont payées, très faiblement, pour effectuer ce travail de tri et d’apprentissage qui, grosso modo, sert à désapprendre. C’est la base. Après, comment ce travail sur la donnée, qui est, grosso modo, un travail d’annotation et de filtre, de labellisation de données, est-il lié à cette notion plus large de digital labor ?
Le digital labor, comme le nom l’indique, c’est le travail fait avec un doigt, digital au sens latin du terme, c’est-à-dire un travail du clic, un travail qui sert à la production des données, qui est fait à travers des plateformes, qui est fait à travers, en réalité, un ensemble de systèmes de matching algorithmiques. C’est le cas aussi pour cette personne. ce qu’on ne le voit pas dans cet extrait c’est qu’elle travaille sur une plateforme à distance et son travail consiste à reconnaître et classer certaines réponses données par des LLM, par des Large Language Models. C’est aussi un travail de filtrage, c’est un travail de modération, mais c’est aussi un digital labor. De ce point de vue-là, le digital labor est une notion plus vaste, parce qu’il y a énormément de travailleurs du digital. On pourrait même dire que les chauffeurs Uber font du digital labor, ou les livreurs Deliveroo, dans la mesure où, eux aussi, passent un temps énorme sur des apps, sur des applis, en train de produire de la donnée qui est utilisée après pour l’appariement algorithmique, pour la tarification de leurs courses ou de leurs livraisons. C’est donc quelque chose de plus vaste de ce qu’on voit là, mais là on se concentre vraiment sur les digital laborers qui font ce travail de préparation de la donnée.

Ronan Sy : Merci. Vous avez bien fait de recontextualiser. Il est vrai que nous sommes dans une communauté très technique, la notion d’annotation est assez connue, mais, aujourd’hui, nous sommes sur un webinaire sur lequel il y a plus de monde qu’habituellement, donc, à priori, il faut que je recontextualise un peu plus, vous avez bien fait.
Néanmoins, j’ai une petite question sur le digital labor. Dans vos précédents ouvrages, vous parlez aussi beaucoup d’automation. Est-ce que c’est vraiment le digital labor focalisé sur l’intelligence artificielle, le machine learning ? Ou est-ce que, par exemple, quand je vais faire mes courses et que je dois scanner moi-même, via des caisses automatiques, mes produits, je suis déjà, finalement, dans une sorte de digital labor ?

Antonio Casilli : Les deux en réalité. La réponse est oui, bien sûr. Lorsqu’on utilise ce type de service, dans lequel le travail du consommateur est sollicité, on est dans une situation de digital labor, c’est pour cela que je disais que c’est beaucoup plus vaste. C’est un spectre, si l’on veut, d’activités, un continuum d’activités :
il y a des personnes qui sont visibles et rémunérées, comme les chauffeurs Uber ;
il y a des personnes qui sont beaucoup moins visibles et très faiblement rémunérées, comme les gens qui se trouvent à l’autre bout du monde par rapport à nous et qui réalisent ce travail micro payé ;
et après, il y a des personnes qui ne sont pas du tout payées, comme la plupart des consommateurs et des citoyens du monde d’aujourd’hui, dans la mesure où une quantité énorme de services se sont automatisés, mais c’est une automatisation qui s’appuie largement sur une contribution non reconnue et non rémunérée des consommateurs.
Je vous donne deux exemples.
Vous avez déjà cité les caisses automatiques avec lesquelles, finalement, nous devenons nos propres caissiers, mais depuis 30 ans, voire plus, il y a des guichets automatiques dans les banques dans lesquelles nous devenons nos propres banquiers. Ou alors dans n’importe quelle gare ou aéroport, vous avez des distributeurs de billets en self-service, dans les cantines des entreprises vous avez des scanners pour votre plateau repas. Ce sont toutes des activités qui, dans les dernières décennies, se déplacent progressivement de travailleurs encadrés, rémunérés et formalisés vers les consommateurs eux-mêmes par le biais de systèmes automatisés. Donc de ce point de vue-là nous faisons partie, même quand nous consommons, de ce système de digital labor.

Ronan Sy : D’accord. Donc on déplace une partie du travail, de l’effort vers le consommateur sans le rémunérer, c’est très intéressant. Aujourd’hui on parle de l’IA générative en général, je l’ai déjà un peu dit en parlant de notre livre blanc, on parle beaucoup des problématiques sur les données personnelles ; c’est quelque chose, notamment avec le RGPD [Règlement général sur la protection des données], dont on parle tout le temps. Maintenant on parle des biais, etc., on parle de beaucoup de choses, mais on parle finalement assez peu de cette invisibilisation.
Cette invisibilisation, ce déplacement vers le consommateur ou vers d’autres personnes qui sont cachées derrière la plateforme, est-ce vraiment spécifique au numérique ? Parce que quand j’achète un produit, n’importe lequel, il y a toute une chaîne de production qui invisibilise les personnes qui vont l’extraire. Finalement, n’est-on pas dans une économie assez logique par rapport à ce que l’on connaît depuis longtemps maintenant ?

Antonio Casilli : En réalité, c’est clair qu’il y a une continuité avec, si vous voulez, le jeu même du capitalisme. Il n’est pas nécessaire de lire Marx pour savoir que, justement, le principe du capitalisme est basé sur ne pas rémunérer l’entièreté du travail effectué, c’est la base. Et dans le métier de n’importe quel développeur, vous savez très bien que seulement une petite partie, souvent très petite, est effectivement rémunérée, et qu’il y a tout un travail de préparation, de formation, de prospection qui n’est pas pris en compte. C’est vrai, dans les métiers comme le métier de développeur, c’est vrai aussi dans la consommation. Il y a toujours eu une partie de la consommation qui, effectivement, n’a pas été prise en compte ou plutôt qui a été déléguée aux consommateurs. La différence, aujourd’hui, c’est que cela s’articule aussi avec des systèmes automatiques que le consommateur entraîne : quand je suis en train de me servir d’une caisse automatique, je ne suis pas exclusivement en train de faire mes achats et de produire un minimum de travail qui sert pour ma propre transaction, je suis en train de faire aussi, par exemple, du reinforcement learning sur le système de reconnaissance des scans par exemple sur les balances automatiques de Monoprix ou des caisses automatiques parce que, à chaque fois que la machine plante et que nous appelons une personne pour intervenir, nous sommes en train grosso modo de faire, si vous voulez, du reinforcement learning sur ce même système. Nous sommes donc en train, effectivement, de contribuer, comme d’autres personnes le font et sont payées pour le faire, même si, on est d’accord, très faiblement rémunérées.

Ronan Sy : D’accord. Si je comprends bien, il y a effectivement cette continuité et puis, finalement, il y a un côté un peu insidieux qui est introduit par ces technologies et qui accentue leurs effets.

Antonio Casilli : Ces technologies sont exclusivement basées sur un feedback humain. N’importe quel LLM vous demande, à la fin, de mettre le pouce pour indiquer, par un oui ou un non, si la réponse est alignée avec ce que vous recherchiez. De cette manière-là, vous êtes en train de labelliser à nouveau les données qui sont dans la base plus vaste de l’entreprise qui développe le LLM.

Ronan Sy : Oui, tout à fait. Outre nos jeux de données initiales qui peuvent être récupérées sur Internet, il y a effectivement ce côté annotation en continu. On le voit de plus en plus avec les systèmes interactifs, ce qui était moins le cas, évidemment, il y a quelques années. Mais maintenant, chaque fois qu’on pianote sur notre téléphone, finalement, c’est enregistré. Comme nous sommes en live, nous avons une petite question.

Henri Poulain : Je voudrais juste rajouter un truc concernant ce travail des data workers invisibilisés, des travailleurs dans le Sud global qui font nos t-shirts, nos sweats, etc. Quand on achète un t-shirt, on sait qu’il a été fait. On ne sait pas qui, on ne sait pas comment, mais on sait qu’il a été fait par quelqu’un, probablement un mineur. La main-d’œuvre est active, on le sait. Là il y a une différence notable, c’est qu’il y a une mythologie de l’IA aux yeux du grand public et cette mythologie se nourrit de l’idée qu’elle est totalement autonome, totalement dégagée du réel, hors-sol, et qu’elle se suffirait à elle-même. Il suffit de creuser un peu le sujet, de lire des études notamment de la Banque mondiale, qui n’est pas une officine marxiste, pour apprendre qu’il y a des centaines de millions de data workers, des centaines de millions ! L’estimation de la Banque mondiale, c’est entre 130 et 440 millions de travailleurs, de data workers. 430 millions ! 12 % du travail mondial. Le chiffre est à relativiser, je vois Antonio sourire à demi parce que c’est extrêmement compliqué de compiler l’ensemble de ces sources parce que, de surcroît, il y a une volonté délibérée d’opacifier. Certains sites veulent, au contraire, laisser croire qu’ils ont beaucoup de travailleurs. D’autres, au contraire, les minorent. Ça reste une estimation avec une fourchette très large. Toujours est-il qu’il y a des millions et des millions de data workers payés en moyenne moins d’un dollar de l’heure dans les pays du Sud.
Le premier élément de sidération sur le travail des data workers c’est qu’ils existent. On sait que des ouvriers du textile existent, on sait que des mineurs existent. On ne sait pas qu’il y a des data workers. Et là, c’est quand même un coup de génie extraordinaire du libéralisme : pourquoi penser à du travail s’il n’y a pas de travailleurs ? Il n’y a pas de travail ! C’est donc une sorte d’échec et mat ultime à la question du droit du travail.

Ronan Sy : Oui, c’est vrai. En tant que professionnels du numérique, ce sont des choses dont nous, chez Data For Good, avons souvent conscience, mais c’est vrai que dans le grand public c’est quelque chose d’assez méconnu, je l’ai appris en préparant ce webinaire et ça m’a étonné. C’est vrai que nous vivons dans une bulle aussi en tant que développeurs du machine learning. J’ai travaillé personnellement sur des outils de reconnaissance de piétons, notamment par les voitures automobiles il y a longtemps de cela. Nous vivons effectivement dans une bulle et, en fait, nous ne nous rendons pas compte que le grand public n’est pas conscient de cela. J’ai notamment appris, en préparant ce webinaire, que cette économie avait un impact sur des économies comme celle de l’Inde, je trouve cela extrêmement intéressant. Après, j’ai l’impression que c’est aussi un mythe qui commence à s’écrouler tout doucement, notamment avec l’arrivée des LLM. On entend énormément parler en ce moment – et j’ai presque envie de dire merci à monsieur Trump – des effets néfastes de l’IA générative, en France évidemment, j’imagine que ce n’est pas le même discours aux États-Unis, et peut-être que vous pouvez nous parler de la différence, notamment des data centers qui commencent à pousser partout, comme des champignons, des centrales électriques qui vont devoir être créées pour alimenter ces LLM. Donc ce côté immatériel du machine learning et de l’IA générative, n’est-il pas un peu en train de s’effacer pour laisser apparaître cette réalité ?

Henri Poulain : La dimension environnementale est effectivement maintenant relativement fréquemment abordée. C’est nouveau mais c’est assez présent. La dimension sociale l’est encore très peu. Et cette mythologie a un sens. C’est-à-dire que nos politiques, dans les démocraties occidentales, réagissent à l’opinion publique. Si le grand public ignore un sujet, le sujet n’arrive jamais sur la table des politiques, seraient-ils même au courant, peu importe. C’est fondamentalement politique. Je crois qu’il y a un gros travail, et c’est très bien, des activistes environnementaux sur la question des data centers. Il faut croire que c’est plus délicat, plus difficile pour plein de raisons structurelles. Les travailleurs eux-mêmes, également dans les pays du Sud, ne se considèrent pas légitimes à revendiquer le droit de se revendiquer comme travailleurs. Il y a également des NDA qui sont signés. Il faut savoir que pour être payé un dollar de l’heure, il faut signer un accord de non-divulgation qui interdit même de parler du fait qu’on fait ce travail.
Les processus d’invisibilisation structurelle sont très forts, sont délibérés et ce n’est pas pour rien. C’est juste parce qu’il ne faut surtout pas qu’il y ait une conscience de classe qui émerge, et que les opinions publiques aient conscience du fait qu’il y a un coût social et un coût humain absolument dramatiques. La dimension environnementale surgit, dans le film on l’aborde, mais effectivement d’ailleurs moins longuement qu’on ne le fait pour la question sociale, parce qu’on sait que c’est un enjeu aujourd’hui que cette face cachée, encore très fortement cachée.

Ronan Sy : C’est vrai qu’il faut séparer les deux, qu’il faut informer sur les deux sujets. Il y a peut-être aussi ce côté théorème de la distance, on a parfois l’impression que ce sont des choses qui n’arrivent qu’aux Indiens, qu’aux Africains. En fait, ce n’est pas le cas, il existe aussi des plateformes qui fonctionnent aux États-Unis sur le même système, dans des pays occidentaux finalement.

Antonio Casilli : En Europe aussi, beaucoup.

Ronan Sy : Et en Europe, je ne le savais pas.

Antonio Casilli : Soyons clairs. On est face à une force de travail de plusieurs dizaines de personnes et, à mon avis, on dépasse les 100 millions de personnes. J’ai des problèmes avec l’estimation de la Banque mondiale parce que c’est difficile de faire des estimations. Nous-mêmes à une époque, en 2019, c’est-à-dire moi et mon équipe de recherche, qui s’appelle DeepLab, à l’Institut Polytechnique de Paris, nous sommes prêtés à ce jeu-là et nous avons estimé qu’en France on a quand même 260 000 personnes qui font ce type de travail, du moins occasionnellement. En plus, nous avons continué nos recherches dans plusieurs pays. Ce que vous voyez dans le documentaire est le résultat de ces recherches qui ont été conduites dans plus de 30 pays du monde, surtout dans des pays du Sud. Mais l’année passée avec le Parlement européen, nous avons aussi fait une enquête sur l’Europe de l’Ouest en particulier, les pays considérés normalement riches et, dans ces pays, nous avons effectivement interviewé des milliers de personnes qui faisaient ce type de travail dans plusieurs pays. Donc, surprise ! Il y a énormément de travailleurs de la data en Europe et ça ne s’estompe pas, au contraire, on a besoin autant de personnes du Sud que de personnes du monde. C’est clair que c’est incomparable parce que les personnes du Nord coûtent beaucoup plus cher, tout simplement aussi pour une question de coût de la vie dans chaque pays. Mais, surprise, ce ne sont pas les personnes qui sont les mieux placées sur le marché du travail qui font ça, ce sont souvent des personnes issues de l’immigration et, de manière pas surprenante du tout, en Europe c’est selon des trajectoires migratoires très établies.
En France, ce sont des personnes qui viennent d’Afrique francophone, qui travaillaient déjà peut-être, quand elles étaient en Afrique – Cameroun, Madagascar, Côte d’Ivoire – sur ce type de plateforme pour produire de la data pour l’intelligence artificielle, qui s’installent en Europe et continuent de faire le même métier.
En Allemagne, ce sont des personnes qui viennent de Turquie.
En Espagne, au Portugal, ce sont des personnes qui viennent d’Amérique du Sud.
On voit donc vraiment une continuité entre ces trajectoires migratoires et ces formes de marginalisation de ces populations et, encore une fois, c’est une mauvaise nouvelle pour les marchés du travail de tout le monde, je veux dire de toute la planète, parce qu’on se retrouve face à une véritable armée de réserve qui produit de la data pour des coûts très faibles, malgré le fait que certaines de ces plateformes, lorsqu’elles s’installent aux États-Unis, en Europe, ou dans le contexte du Japon, par exemple, se présentent comme des trucs qui s’adressent surtout à des étudiants qui pourraient faire ça à part-time. Vous avez certainement vu passer la pub de Outlier. Outlier entraîne l’intelligence artificielle pour ChatGPT, pour OpenAI et, sous prétexte de vous donner la possibilité de mettre à l’épreuve vos skills en mathématiques et de gagner un peu d’argent, en réalité on vous fait entraîner ChatGPT comme les personnes qu’on interviewe dans le documentaire et qui sont dans des conditions beaucoup plus extrêmes, en Afrique en l’occurrence.

Ronan Sy : D’accord. Je ne savais pas. On a deux questions LinkedIn.
La première. Les jeunes ont leur téléphone greffé sur la main. À partir de quel âge peut-on les informer sur ces sujets, sur les travailleurs sacrifiés ? Est-ce qu’il y a vraiment un âge pour cela ?

Henri Poulain : À partir de l’âge de raison. Je pense qu’il n’y a pas d’âge pour être informé sur le fait que ces travailleurs existent, qu’il y a un scandale environnemental et social derrière les IA, derrière l’utilisation un peu irraisonnée de ChatGPT ou d’autres IA génératives.

Ronan Sy : S’ils ont l’âge d’avoir un téléphone, ils ont sûrement l’âge d’être informés. Ma fille, qui a quatre ans n’a pas de téléphone, donc elle n’est pas encore informée, mais, si un jour elle en a un, je l’informerai.
Comment résister pour ne pas participer à l’exploitation des data workers sans être retenu comme anti-techno ? C’est effectivement toujours le même débat : dès qu’on prend une position, quelque part on est un peu traité d’extrémiste, etc. Je ne sais pas s’il y a des arguments spécifiques pour contrer ça.

Antonio Casilli : Vous arrive-t-il, en tant que dev, ingénieur, d’être traités d’anti-techno ?

Ronan Sy : Non. On prend les deux, on dit qu’on est techno-lucide.

Antonio Casilli : C’est une belle manière. Personnellement, ce type de clivage entre pro et anti-techno m’insupporte depuis longtemps, on va dire comme cela. Comment résister pour ne pas participer à cette exploitation ? La réponse est systémique et la réponse est collective. Malheureusement, il n’y a pas de réflexe individuel. Ce n’est pas un refusant de l’usage, c’est d’ailleurs le piège classique de nous mettre face à « tu n’aimes pas comment c’est produit ? Tu n’as qu’à ne pas l’utiliser ! ». Cela est complètement débile, parce que, de cette manière-là, on renonce à notre prérogative politique de citoyen dans des contextes qui se disent encore, pendant quelques minutes je crois, démocratiques, on renonce à notre pouvoir d’influencer les politiques publiques et les politiques publiques doivent intervenir. Il nous faut une réponse systémique. Et quand je dis politiques publiques, il y en a, par exemple, pour la protection des droits des travailleurs. En Europe, on a la directive européenne sur le travail des plateformes. Il y en a aussi qui permettent de suivre et de défendre les droits tout au long de la chaîne de production. Il y a une récente directive européenne sur le devoir de vigilance. Si vous êtes une entreprise, que vous développez aujourd’hui de l’intelligence artificielle, vous avez un devoir de vigilance sur ces travailleurs du clic et sur leurs conditions de travail, et toute entreprise qui se soustrait à ce devoir et qui, dans son plan de vigilance, ne prend pas cela en compte, est en train de faire quelque chose de vraiment grave parce qu’elle contribue à ce type de système inégalitaire et injuste. Il faut surtout empêcher que l’entreprise, qui est responsable, balance la responsabilité, transfère la responsabilité sur les utilisateurs. C’est justement le piège idéologique auquel nous sommes exposés depuis longtemps.

Ronan Sy : Vous avez bien fait de le dire, il y a des réponses collectives qui peuvent être politiques. C’est marrant, parce qu’hier, sur LinkedIn, j’ai vu passer un message expliquant qu’il y avait une proposition de résolution, au Sénat, sur les conditions de travail des travailleurs des plateformes numériques. Apparemment la personne critiquait le fait que la France était beaucoup plus en retard sur ces sujets-là que le reste de l’Europe. Il est vrai que j’avais une image de la France qui n’était pas du tout celle-là. On parle beaucoup de la CNIL qui est une référence, du RGPD qui a été conduit par la France, etc., mais à priori, sur le droit des travailleurs des plateformes, nous ne sommes vraiment pas à jour.

Antonio Casilli : La France n’est pas un retard. Le gouvernement français, l’exécutif français a ramé contre toutes ces directives. Il a ramé contre et a finalement canardé complètement l’AI Act [5]. Il a tué presque complètement d’autres directives et il rame, même après son adoption, contre la directive européenne sur les plateformes, parce qu’il continue à ignorer désormais la doctrine européenne qui dit que ces personnes doivent être considérées comme des salariés et doivent être protégées comme des salariés, donc les travailleurs des plateformes, y compris les travailleurs de la donnée, parce que c’est quand même un spectre très large. Vous avez les livreurs, vous avez aussi les micro-travailleurs, les data-travailleurs, etc., qui rentrent dans cette définition européenne. Selon la France, ces gens-là sont des free-lances, des auto-entrepreneurs ou des micro-entrepreneurs, donc ils n’ont pas droit à la protection sociale dont jouissent les personnes qui sont formellement salariées et c’est quelque chose qui est scandaleux. Ce n’est pas un retard, c’est un scandale politique d’un gouvernement qui a des problèmes sérieux. Je commence à penser que ce sont vraiment des problèmes sérieux de fragilité, même de leur sensibilité politique. Ces gens ne savent vraiment pas ce qu’ils sont en train de faire !

Henri Poulain : Sans compter le poids des lobbies en face. Le camp des Big Tech est très organisé et, face à des politiques un peu faibles ou paresseux ou au contraire idéologiquement très proches de l’ultralibéralisme, ces lobbies ont un tapis rouge.

Ronan Sy : Effectivement, dit comme ça, je ne suis pas étonné. Je vais néanmoins passer à un second sujet.
Dans vos précédents ouvrages, vous parlez du digital labor , vous avez énoncé différentes catégories. On a parlé de labellisation, ce que vous appelez le micro-travail, Uber, de l’uberisation, le travail à la demande et du travail social en réseau. Ça fait déjà plus de 30 minutes que nous sommes sur ce premier extrait, il en reste deux, néanmoins ce sujet m’intéresse particulièrement parce que, chez Data for Good, nous sommes une communauté de bénévoles. Nous demandons à des ingénieurs de passer de leur temps gratuitement, donc de leur valeur, de leur force de travail, pour aider des associations qui n’ont pas les moyens de développer des outils numériques. Nous avons obtenu de beaux résultats. Je ne sais pas si vous connaissez notamment les « Bombes carbone », dont on a parlé sur Le Monde [6], où on essaye de montrer un peu la politique de Total vis-à-vis des « Bombes carbone », des émissions de CO₂. Nous sommes assez contents de cela. Par rapport au sujet qui nous intéresse, par rapport au digital labor, n’est-on pas finalement en plein dedans ?

Antonio Casilli : Je ne crois pas comprendre pas exactement le sens de la question. Si, en tant qu’association de bénévoles, la question est « est-ce que nous sommes en train de faire aussi du digital labor nous-mêmes », la réponse est non. Ce n’est pas parce qu’on fait du bénévolat, ou du travail gratuit, qu’on est forcément en train de faire du digital labor. En l’occurrence, c’est vraiment un travail que je fais depuis longtemps, de théorisation dans le livre et aussi dans sa nouvelle version mise à jour que je montre ici, c’est la version américaine qui s’appelle Waiting for Robots, si j’arrive à la montrer. J’ai fait un travail de théorisation beaucoup plus fin que ça pour dire que ce n’est pas du travail gratuit, c’est du travail non rémunéré lorsque vous avez affaire à Google, à OpenAI, à Tesla et compagnie. Le travail non rémunéré veut dire que les entreprises sont capables d’extraire de la valeur de ce travail, de la valeur qui est évidemment orientée vers le profit et vers la rémunération du capital, et qu’elles cherchent aussi à utiliser toutes les possibilités, toutes les occasions pour produire du travail gratuit. De ce point de vue-là il y a des cas assez connus, comme le reCAPTCHA. Le reCAPTCHA est, à ma connaissance, la plus grande expérience humaine de travail gratuit, du moins en nombre de personnes impliquées depuis 2008. Certaines estimations de 2023 nous parlent de 800 milliards de dollars qui auraient dû être payés aux gens pour le travail qu’ils ont fait d’annotation des données pour Google Books, Waymo et compagnie.
À part cela, on a aussi une logique particulièrement perverse de ces grandes entreprises qui sont capables, elles, de s’approprier le travail des bénévoles, je pense par exemple à Wikipédia. Wikipédia est une énorme expérience humaine de contribution à une base de savoir sans précédent. Par contre, Wikipédia est aussi la principale source d’information pour les premiers résultats de Google en l’occurrence, donc elle s’est fait capter depuis 2015. Je ne veux pas dire que c’est la tragédie des commons, l’idée selon laquelle on participe au bien commun et après il y a toujours un salaud qui est capable de se l’approprier pour ses propres finalités. Ce n’est pas une question de tragédie des commons, c’est tout simplement un problème de manque de régulation sur ce que les entreprises du numérique et de l’intelligence artificielle peuvent faire avec les biens communs numériques qui sont produits partout et par n’importe qui sur Internet.

Ronan Sy : D’accord. Merci beaucoup, ça me rassure, j’espérais quand même un peu cette réponse.

Antonio Casilli : Il ne faut pas se sentir menacé par un pauvre sociologue !

Ronan Sy : Je rassure aussi notre communauté, nous n’en sommes pas à 800 milliards de force de travail pour Data For Good. Notamment dans En attendant les robots, Waiting for Robots, on apprend que Facebook, par exemple, s’autorise à sous-licencier les contenus qui sont créés par la communauté. Beaucoup de pratiques, comme cela, sont explicitées dans le livre, qui sont très intéressantes. Chez Data For Good, on n’en est pas du tout là, d’ailleurs on n’en sera jamais là. Donc, merci pour cette réponse.
Théo, si tu es toujours avec nous, est-ce qu’on pourrait passer le second extrait, s’il te plaît ?

Extrait du documentaire Les sacrifiés de l’IA, Emile Torres, voix off du traducteur : On ne fait pas d’omelettes sans casser des œufs. La souffrance dans les pays du Sud, c’est mal. Ce n’est pas bien que des personnes subissent des troubles de stress post-traumatique, mais tout est relatif. Et leur souffrance ne représente qu’une molécule d’une goutte d’eau dans l’océan. C’est insignifiant comparé à l’énorme et insondable vertu de l’avenir. Cet aspect utopique du long-termisme permet à certains de justifier moralement l’exploitation des populations du Sud global. Ils se donnent bonne conscience et c’est en cela, entre autres, que l’idéologie du long-termisme est si dangereuse.

Ronan Sy : C’est un sacré extrait encore une fois. Il est vrai que quand je l’ai vu, j’avoue que j’ai été un peu interloqué. Encore une fois, c’est peut-être encore ce phénomène de bulle. Est-ce que vous avez vraiment rencontré des gens qui vous ont parlé de cela très honnêtement, en croyant sincèrement, du fond du cœur, que l’IA allait nous mener vers le paradis ?

Henri Poulain : Non, je n’ai rencontré personne qui m’ait raconté ça, parce qu’on n’a pas tendu le micro à ces gens-là, d’ailleurs, si on l’avait fait, ils n’auraient pas voulu nous parler.
De qui s’agit-il ? Il y a un corpus universitaire, philosophique, dont MacAskill, par exemple, est l’un des auteurs. Il a publié un livre dont le nom m’échappe à l’instant [What We Owe The Future], je pense que la mémoire d’Antonio est plus fraîche que la mienne sur les livres, qui est une sorte de Bible sur le long-termisme [7], qui est lui-même issu d’un mouvement philosophique qui avait pensé l’altruisme efficace et qui puise ses racines dans un mouvement transhumaniste. C’est un mouvement qui est très jeune, qui a une dizaine d’années, 10/15 ans à peu près, le long-termisme a une dizaine d’années, qui stipule exactement ce qu’on raconte dans le film, à savoir que l’essentiel aujourd’hui c’est de se préoccuper des menaces existentielles auxquelles l’humanité est confrontée. Ces philosophes distinguent cinq menaces existentielles, parmi les cinq, spoiler alert, il n’y a pas le réchauffement climatique, puisque ce n’est pas problématique, puisque la solution, pour échapper aux risques nucléaires, bactériologiques, viraux, révolutionnaires et que sais-je encore, sera de développer une super IA, une IA générale, au cœur de laquelle on trouve une sorte de super-intelligence, super-intelligence à laquelle on va déléguer la tâche de nous augmenter technologiquement, enfin nous, quelques élus, pour pouvoir ensuite aller coloniser l’univers inconnu et si la terre est asséchée, brûlée, cramée, ce n’est pas grave puisqu’on trouvera d’autres terres ailleurs. C’est ce délire-là qui est stipulé noir sur blanc. Et, lorsque MacAskill sort son livre, il bénéficie de 10 millions de dollars de promotion payés par Elon Musk et Elon Musk dit tout de suite « voilà une philosophie à laquelle j’adhère ». Sam Altman, les créateurs d’Antropic issus d’OpenAI, font de ce corpus idéologique, de manière très officielle, non prosélyte parce qu’ils n’ont pas besoin de recruter, ce n’est pas une utopie, ce ne sont pas des idéologies qui nécessitent l’adhésion des masses, ça reste dans ce petit cocon ultra réactionnaire de la Silicon Valley et qui a une double fonction :
la fonction de donner du sens à ce qu’ils font, peut-être pour mieux dormir la nuit, parce que ces gens-là savent, les grands patrons de ces grandes Big Tech savent exactement ce que produisent, en souffrance humaine et en désastre écologique, les technologies qu’ils développent toujours davantage, ils le savent, ils ont les données, c’est bon, ils sont au courant. Nous autres, nous ne dormirions pas très bien la nuit, eux, dorment mieux. Je pense que considérer qu’on est le prophète d’une nouvelle humanité à venir, à naître dans les millénaires qui viennent, ça aide déjà ;
deux, ça permet aussi de bâtir un mythe, un récit qui permet à des investisseurs de venir mettre régulièrement quelques milliards. La dernière levée de fonds d’OpenAI, officiellement, c’était sept milliards de dollars. On trouve des milliards facilement.
C’est ce que nous explique Émile Torres qui est un critique de ces idéologies, d’ailleurs il est bien placé pour critiquer parce qu’il en a fait partie un temps, c’est un repenti de ce mouvement-là. Lui-même philosophe américain, il a été très séduit par le mouvement de l’altruisme efficace puis du long-termisme, il va se rendre compte qu’il y avait quand même un vrai problème moral et éthique, il a donc basculé dans le camp de la critique, il élabore une critique.
Il y a donc, effectivement, le récit à la fois utopique et en même temps apocalyptique, c’est-à-dire que cette super IA, cette super intelligence serait le pur produit des LLM d’aujourd’hui. Vous qui êtes dans la technique bien plus que je le suis, vous savez que c’est du bullshit, ce n’est pas possible, ça ne fonctionnera pas. Ce n’est pas ChatGPT qui va faire naître une super intelligence totalement autonome, capable d’augmenter l’humanité et de permettre à cette humanité augmentée de conquérir l’univers inconnu dans les 10 000 ans qui viennent. Ce sont des conneries. Si une véritable intelligence réellement artificielle devait naître, elle ne viendrait pas d’ici, tous les spécialistes s’accordent à le dire. Mais ça permet de nourrir financièrement ce truc dont on pressent quand même déjà les limites techniques.
Il y a une sorte de fonction à la fois marketing, mythologique et, en même temps, une manière de se rassurer.

Ronan Sy : Oui, c’est vraiment cela qui me questionnait, c’est-à-dire la limite entre « on y croit vraiment » et « c’est tellement pratique d’y croire que croyons-y ». J’ai tendance à croire, pareil, que c’était un peu plus la seconde que la première.

Henri Poulain : Oui, probablement.

Ronan Sy : Antonio, est-ce que vous voulez commenter l’extrait ?

Antonio Casilli : Dans l’extrait, on entend la voix, quoique doublée, d’Émile Torres, le deuxième philosophe, le bon philosophe qu’Henri a cité. On n’entend pas la voix de William McAskill, qui est l’inventeur de cet altruisme efficace.
Il faut d’abord préciser que j’en ai croisé pas mal, en réalité, parce qu’il y a deux types de personnes qui tombent dans ce type de pensée long-termiste, qui, en réalité, qui est aussi liée à certains autres mouvements accessoires comme le transhumanisme, comme l’altruisme efficace. En fait, c’est un faisceau de croyances et un faisceau d’idéologies qui s’articulent, grosso modo, autour de l’idée qu’il faut être moralement correct vis-à-vis de l’humanité future jusqu’à en oublier l’humanité présente. C’est ça l’idée.
Qui sont ces personnes-là ?
Certaines sont ce qu’on appelle des transhumanistes, ceux qui cherchent à augmenter l’expérience humaine en réalisant des extensions de la durée de la vie. Ils sont très pro-implants et brain chips comme ceux que développe l’autre personnage redoutable, Elon Musk.
D’autres personnes sont décidément plus des philosophes. William MaacAskill est véritablement un philosophe d’Oxford. Ce sont des personnes dont on voit des traces dans le milieu universitaire, en réalité très éloignées de la tech et, en même temps, elles sont très influentes. Ils sont très influents sur les investisseurs de la Silicon Valley, ils sont très influents sur les startupers parce qu’ils produisent du prêt-à-penser et ce prêt-à-penser est finalement particulièrement efficace lorsqu’il est utilisé pour justifier les pires excès d’une industrie qui non seulement est déjà dérégulée, mais qui peut être encore plus dérégulée et finalement sans contrepoids. Ce ne sont certainement pas ces philosophes-là qui vont produire ce contrepoids. William MacAskill est la personne qui est derrière le plus grand désastre et la plus grosse arnaque de cryptomonnaie des dernières années. Le grand ami intellectuel de William MacAskill et de l’altruisme effectif, c’était Sam Bankman-Fried [Homme d’affaires et investisseur américain, NdT]. Comme vous le savez, la seule chose long terme qu’il a eue, c’est sa condamnation à plusieurs années. Il a même risqué 125 ans de prison. C’est du long-termisme !
Après, effectivement, la question est dans le documentaire, et c’était, si mon souvenir est bon, une idée plutôt d’Henri d’enchaîner sur ce deuxième volet pour montrer comment on se retrouve à exploiter la majorité du monde et sur la base de quelle idéologie on réalise cette extraction phénoménale et terrible de ressources humaines et de ressources matérielles. Comment on la justifie ? On la justifie en disant que dans cinq siècles l’humanité nous remerciera.

Henri Poulain : C’est une question politique, vous l’aviez abordée tout à l’heure. Il ne s’agit pas d’avoir ou non un smartphone, d’être ou non relié à la fibre avec son ordinateur. Est-ce qu’on doit faire ce choix-là ? Non. En tant que citoyen il faut qu’on aille sur la scène politique et poser la question politique de l’émergence, du développement, de l’explosion de ces nouvelles technologies. Pour ceux qui la promeuvent, pour ceux qui ont investi, pour les patrons des Big Tech, c’est une question politique aussi. Il faut que ce le soit pour nous qui allons évidemment, au pire, en subir les conséquences ou, au mieux, en profiter, et l’un et l’autre. C’est dialectique, c’est complexe, c’est multiple, c’est paradoxal, mais pour que le paradoxe aille à son terme, il faut que ce soit une question politique et c’est une question politique.

Ronan Sy : Oui, bien sûr, merci. Vous parliez, Antonio, de prêt-à-penser. Quand il y a une idéologie comme celle-là, qui a des atomes crochus avec le libéralisme, forcément autant en profiter. Derrière, les solutions vont être sur le terrain politique. Je pense que c’est une très bonne transition pour le troisième extrait que nous allons écouter maintenant.

Extrait du documentaire Les sacrifiés de l’IA, voix off du traducteur : Je pense qu’on n’a jamais vu une société ou un ensemble de sociétés détenir autant de pouvoirs, d’argent et d’influence que certains des géants de la tech d’aujourd’hui. Ils ont un pouvoir colossal qui leur garantit l’argent et les ressources nécessaires pour influer sur le cours de la politique. On se retrouve aujourd’hui avec un Elon Musk qui est chargé d’une sorte de ministère de l’efficacité, où il a les mains libres pour supprimer certaines réglementations touchant aux droits du travail, des réglementations qui ont amélioré les conditions de vie des individus, y compris aux États-Unis.
Est-ce qu’il pourrait en être autrement ? Oui, les entreprises de la tech ont largement les moyens de payer correctement les travailleurs, mais elles choisissent de ne pas le faire et elles savent qu’elles peuvent se le permettre parce que les gens ne sont pas assez informés pour savoir exactement ce qu’elles font et ce qui se passe réellement.

Ronan Sy : Cet extrait, Henri, illustre bien ce que vous nous disiez : le politique peut faire et peut défaire. Néanmoins, pour ma prochaine question, j’aimerais bien qu’on sépare un peu la critique systémique autour du niveau de technologie et finalement ce mouvement qu’on pourrait qualifier de réactionnaire, qui apparaît un peu partout dans le monde et en Europe aussi, qui est symbolisé par l’élection de Trump. Pour la prochaine réponse il y a un petit jeu : vous n’avez pas le droit de dire les mots « Trump » et « Elon Musk », ce sera peut-être un peu difficile.
Dans l’extrait, on parle d’une concentration de pouvoirs jamais vue auparavant. Je trouve que c’est intéressant parce qu’on a toujours tendance à se référer au passé. Pour que ce soit plus parlant pour tout le monde, je pense notamment au techno-féodalisme, une notion aussi assez récente, mais au moins on sait qu’on parle de féodalisme. En quoi la situation aujourd’hui, est-elle unique par rapport à d’autres mouvements réactionnaires qu’on a pu voir par le passé ?

Henri Poulain : Je laisse Antonio ouvrir le bal, il y a mille raisons, il y a mille réponses possibles.

Antonio Casilli : En quoi la situation actuelle est-elle unique ? J’ai toujours tendance à dire qu’il y a plus de continuité que de nouveauté dans ce type de mouvement réactionnaire, et je n’hésite pas à le définir fasciste. Finalement, c’est vraiment l’internationale fasciste et l’internationale autoritaire qui se sont installées là.
Ces deux personnes que l’on ne peut pas citer, on va dire le monsieur Orange et l’autre monsieur, qui a donné une mauvaise réputation à la kétamine, sont quand même un couple très visible. En même temps, la question est qu’ils représentent, si vous voulez, la partie émergée d’un écosystème de fascistes qui sont tout aussi redoutables qu’eux et tout aussi extrémistes qu’eux, sauf que, pour l’instant, ils ne sont pas encore au pouvoir. Je pense par exemple aux grands investisseurs de la Silicon Valley comme Marc Andreessen, je pense à Peter Thiel ou à d’autres personnages plus ou moins connus qui portent des idées qui sont vraiment des idées fascistes, des idées d’eugénisme, des idées d’extermination, de discrimination et de marginalisation de pans entiers de l’humanité pour faire quoi ? Et c’est, à mon avis, la question qui est toujours le centre de tous les fascismes, c’est que le fascisme est un très grand ami de l’industrie, surtout de l’industrie capitaliste. La question est que finalement les entreprises aujourd’hui, on parle des entreprises de la tech, mais en réalité toutes les entreprises, cherchent à réaliser une augmentation de la productivité quand elles adoptent ces technologies.
Qu’est-ce que la productivité ? Je parle en économiste parce que j’étais économiste dans ma vie précédente. Si on veut être rapide, on peut dire que la productivité est ce qui vous reste lorsque vous avez payé le capital et le travail.
Il y a ce qu’on appelle justement la partie travail, c’est donc tout ce que vous devez payer pour rémunérer vos salariés et tout le travail nécessaire.
Après il y a la partie des capitalistes, ce sont les investisseurs, ce sont les différentes parties prenantes, lesquelles, aussi, veulent être rémunérées.
Il y a un petit problème qui est que les capitalistes n’acceptent pas du tout que la partie du capital soit réduite. Donc, si on veut faire de la productivité, si on veut montrer de la productivité, quelque part il faut aller récupérer cet argent et c’est toujours sur le dos des travailleurs. La ruse des entreprises actuelles par rapport à celles du passé, et c’est la nouveauté d’aujourd’hui, c’est qu’elles ont trouvé une manière d’exclure une partie toujours croissante de la force de travail de la force de travail, c’est-à-dire qu’on a des masses de travailleurs qui ne sont pas encadrés en tant que travailleurs et ne sont pas rémunérés en tant que travailleurs. C’est pour cela qu’on fait de l’externalisation, de l’off-shoring à l’autre bout du monde, parce que, dans ces pays, on n’a pas besoin de payer les cotisations salariales et celles qu’ils s’obstinent à appeler « les charges patronales », non, c’est une partie du salaire qui est payée en différé.
Une autre manière c’est effectivement ce qu’on a dit à propos du travail non rémunéré des consommateurs même.
Donc on cherche de mille manières à gratter, à enlever et à éroder la partie du salaire pour montrer qu’il y a de la productivité grâce à ces nouvelles technologies. Dans ce contexte-là, la logique capitaliste et la logique fasciste s’articulent vraiment très bien !

Henri Poulain : En fait, le corpus idéologique et les fondamentaux idéologiques sont les mêmes dans ce techno-fascisme, ce techno-ultra-libéralisme. Il peut y avoir du nouveau, de mon point de vue, ils peuvent changer quand même. On a vu émerger des espèces de pseudo-espaces publics qui ont été transformés peu à peu en espaces de propagande au profit de ces promoteurs de l’ultralibéralisme, au profit des marchands et des fascistes. Ces places publiques telle que Facebook, telle que Netflix, telle que Twitter, sur lesquelles on conversait tous plus ou moins librement au tout début, sont devenues des endroits où on nous vend des trucs, pas terribles, et où on nous raconte des saloperies en permanence et cela aux quatre coins de la planète, pour des milliards d’individus quand même, l’espace est considérable. Il y a toujours eu un rapport de force entre l’intérêt général, l’intérêt collectif, l’espace public et les intérêts privés. L’histoire de la politique depuis deux/trois siècles, c’est ce rapport de force-là. Et là, aujourd’hui, le rapport de force est très considérablement en défaveur de l’intérêt général et de l’espace politique, puisque l’espace public est devenu privé, a été privatisé en quelque sorte. De surcroît nos représentants, nos élus, ceux qui sont censés représenter les intérêts collectifs, les intérêts de la population, pour ne pas dire du peuple, sont de plus en plus des promoteurs même de ces industriels, de ces ultralibéraux qui profitent directement de l’exploitation.
Cette vieille histoire de la lutte des classes a eu lieu et on l’a perdue. Le temps de la modernité, c’est le temps du triomphe absolu de ceux qui ont un pouvoir financier et politique, l’un nourrissant l’autre en permanence, une espèce d’entremêlement absolument sordide, avec toujours une sorte de vénération pour l’objet, pour la machine, pour la technologie, au détriment de tout. On revient au fétichisme de la marchandise, c’est le fétichisme de la technologie. Ils nous font voir effectivement l’écran et pas ce qu’il y a derrière. On peut designer facilement l’écran. Le réel, en revanche, et la réalité sociale, humaine et environnementale semblent tout à fait secondaires pour ces gens auxquels nous sommes tous confrontés.
On parlait de démocratie, tu l’as citée au début. C’est une question éminemment démocratique. La démocratie ce sont des décisions qui sont prises par le peuple pour le peuple, c’est sa définition pure et dure. On en est très loin !

Ronan Sy : C’est parfait, c’est exactement où je voulais arriver, dans le sens où on a parlé d’exploitation, de nouvelle exploitation des travailleurs, vous parliez de rapport de force. J’ai l’impression qu’on a voulu aller jusqu’au bout de l’individualisme, on a réussi à isoler maintenant, même le travailleur à la chaîne, pour moi, est isolé, finalement, par rapport à cette nouveauté-là.
Tels que je perçois les communs numériques, j’ai du mal encore à les voir comme une vraie solution, comme un vrai rapport de force qui pourrait se créer. Qu’en pensez-vous ? Est-ce que cette notion de communs numériques peut ici, dans ce cadre-là, pour les invisibles de la data, les sacrifiés de la data, être un outil ?

Antonio Casilli : J’ose me lancer, ouvrir le bal. Pour moi la réponse, d’une manière directe, est oui, ils peuvent être la solution dans la mesure où on apprendrait à re-territorialiser les communs numériques. On a un problème et c’est un problème qui est souvent très présent justement dans des communautés comme celle de Data for Good en l’occurrence qui est de penser les communs numériques comme quelque chose qui existerait seulement dans un espace désincarné. La réalité est qu’il n’y a pas de communs s’il n’y a pas une communauté de personnes qui se sert de cette ressource commune. Et quand je parle de communauté, c’est aussi une communauté qui est enracinée dans un territoire.
Je pense en particulier à des expériences de création de communs numériques qui ne viennent pas d’Europe, ce sont des exemples et des cas que j’ai croisés dans le cadre de mes terrains d’enquête surtout en Amérique du Sud en réalité, qui seraient des communs créés par des communautés locales. L’exemple que je peux vous donner, ce sont ceux qui non seulement s’opposent par exemple à la mise en place d’un data center de Google au Chili, mais, en même temps, développent leur propre réseau de télécommunications et d’échange de données alternatives.
Une autre idée : imaginons un modèle de communs numériques qui s’articulerait véritablement avec les communs environnementaux et naturels. Imaginons, que sais-je, des communautés qui produisent leur propre lithium pour les batteries et, en même temps, produisent leurs propres données et qui contractent ou alors négocient directement avec les grandes entreprises, lorsqu’il s’agit de mettre ces mêmes ressources en circulation dans une chaîne d’approvisionnement globale. On n’en est pas là, on n’est pas dans cette situation. Par contre, c’est à mon sens la solution possible pour envisager des communs numériques qui non seulement fonctionnent, mais qui, en plus, ne soient pas exposés à des dynamiques très dangereuses d’appropriation des communs par les entreprises privées.
Ce que je vous disais à propos de Wikipédia arrive autant avec les communs numériques qu’avec les communs naturels. L’équivalent, l’homologue des communs naturels, c’est le centre de données, le data center qui s’installe en Espagne, c’est un cas que nous avions commencé à traiter pour ce documentaire et qui n’a pas été retenu à la fin. Donc, en Espagne, la création d’un centre de données qui est en train d’assécher littéralement toute une région de ce pays européen parce que, tout simplement, il se sert de l’eau, qui est un bien commun, sans se soucier des conséquences sur la communauté locale.

Ronan Sy : Donc les communs raccrochés au local sont une piste, merci beaucoup.
J’ai vu qu’on avait dépassé l’heure, désolé pour les personnes qui nous regardent et qui sont peut-être pressées de retourner au travail. Est-ce que, Antonio, Henri, on a encore dix minutes ou moins ?

Antonio Casilli : Disons cinq minutes, comme ça tout le monde est d’accord.Henri, tu as beaucoup plus de temps.

Henri Poulain : Non, je vais partir avec toi Antonio.

Ronan Sy : Ma dernière question est un peu tournée, parce que j’ai lu récemment un livre de Jacques Ellul [8] qui explique que le système technicien, la technique en soi, est presque autonome, finalement, de la politique et du système économique. Ça ne correspond pas vraiment à ce qu’on vient de voir en termes d’extraits et de réflexion, mais ma question, c’est un peu ça. Là, on voit un Elon Musk qui fait le show avec une certaine virilité qu’on ne voyait pas avant. Avant le Messie c’était Steve Jobs . Avant Steve Jobs, il y avait les geeks. Et là, d’un seul coup, on passe à des choses extrêmement viriles. Est-ce que cette mise en scène est dictée par la politique ou est-ce qu’il y a des choses un peu dans le système technicien, dans la technologie, qui font qu’on arrive aujourd’hui assez naturellement à cette situation-là ?

Henri Poulain : Je ne sais pas répondre à cette question-là, je n’ai pas l’impression que la machine, la technologie induisent des comportements, je pense qu’elle est plutôt le reflet pour les interactions probablement. En fait, quand on étudie l’histoire de la Révolution française, par exemple, l’émergence de ce qu’on a appelé les Lumières, il faut la relativiser, il faut critiquer et déconstruire. Néanmoins, on a vu surgir des idées d’égalité, de liberté, qui ont mis un terme à l’Ancien Régime et à la domination qui était instituée comme incontournables. Au même instant où, par exemple, naissait dans ce mouvement des Lumières la critique de l’esclavage, il y avait des contre-Lumières qui, par souci d’équilibre, naissaient aussi ; souci d’équilibre, ce n’était pas ainsi, ce n’était pas le souhait, mais mécaniquement quelque chose de cet ordre-là, une réaction émergeait simultanément.
On pourrait considérer qu’on est dans un temps un peu particulier, critique, où il y a eu effectivement des avancées majeures sur les droits LGBT, sur la déconstruction de la virilité, des avancées sur le féminisme, le féminisme nous a appris que tout est politique, l’intime y compris. Et mécaniquement peut-être, à l’échelle de nos mouvements collectifs, sont nés des mouvements contraires, anti-féministes, masculinistes, anti-égalitaires, pro-discriminatoires. Le problème, c’est que dans cet univers, dans cet espace ultra où la technologie est un moyen pour occuper ces espaces mentaux, pour diffuser du récit et de la mythologie, je pense aux réseaux sociaux, je pense à l’intégralité des nouvelles plateformes qui ont émergé il y a 10, 15, 20 ans, ces technologies-là sont aux mains de ceux qui ne sont pas tout à fait, quand même, du côté de la société, qui tirent leur essence même du privilège, de la domination. Ils dominent leur entreprise, mécaniquement. Ce sont, soi-disant, les meilleurs d’entre tous. Ce sont des chefs d’entreprise, certes, mais chefs quand même, majoritairement des mecs, on n’a pas vu beaucoup de nanas émerger dans ce monde-là, comme par hasard, quelque chose de l’ordre, encore une fois, de la brutalité de la domination.
Et là, aujourd’hui, on a des moyens de propagande. Le monde est aussi le récit qu’on en fait, et le récit que ces gens-là nous font du monde est vraiment problématique.
Je ne sais pas si je réponds à ta question. Je ne crois pas, je vais peut-être un peu ailleurs !

Ronan Sy : Si, si, c’était très clair. La technologie en elle-même n’induit pas ce genre de comportement.

Henri Poulain : En revanche, elle propose une domination. Aujourd’hui, on pense effectivement que la surface médiatique de Meta, X, Google et j’en passe quelques-uns, est absolument délirante. Il n’y a pas d’équivalent, donc leur récit est omniprésent.

Ronan Sy : Elle entretient les effets de domination.
Antonio, le mot de la fin ?

Antonio Casilli : Le mot de la fin. De ma part, c’est le plaisir d’avoir participé à ce deuxième projet avec Henri, avec Julien Goetz, avec toute l’équipe de Stormy Circus. Et surtout, c’est un travail dans lequel nous avons été particulièrement efficaces pour faire entendre la voix des travailleuses et des travailleurs de cette intelligence prétendument artificielle.
Il y a aussi, et c’est une manière de les remercier, vraiment la générosité et le temps mis à disposition par nos collègues universitaires. Il y a, bien sûr, beaucoup la parole des travailleuses et des travailleurs, mais il y a aussi toute une communauté de jeunes universitaires, décidément plus jeunes que moi, hélas, qui ont accepté de participer et c’était vraiment très beau. C’était pour accompagner les travailleurs et pour aider l’organisation des travailleurs qu’on l’a fait et qu’ils ont participé. C’est aussi une manière de les remercier.

Ronan Sy : Merci beaucoup à tous les deux.
Nous invitons évidemment notre communauté à partager ce live, mais aussi à aller regarder le documentaire et à le partager au sein de leurs familles. Le tonton raciste, peut-être, sera très content d’avoir accès à ce documentaire.
Peut-être à une prochaine fois. Du coup, Henri, Antonio, ce sera un plaisir et ce fut un plaisir aujourd’hui.

Henri Poulain : Pour le troisième volet.

Ronan Sy : Exactement, j’ai hâte de voir ça. Merci beaucoup.

Antonio Casilli : Et prospérité à tout le monde. Au revoir.

Ronan Sy : Merci beaucoup. Bonne journée.

Ronan Sy : Théo, je te laisse le dernier mot de la fin du coup.

Théo Alves Da Costa : C’était génial, surtout d’avoir entendu ça après ces six jours de Sommet de l’IA [9] qui était absolument déprimant du point de vue notamment de la société civile, des citoyens et des organisations non gouvernementales. Ça fait du bien de voir cela, d’entendre ces messages. Donc, merci à Henri, à Antonio et à Ronan pour ce nouveau format de webinaire qu’on va ensuite perpétuer parce que c’était vraiment très bien fait.
Est-ce qu’on met maintenant la bande annonce pour inviter tout le monde à regarder le documentaire ?

Ronan Sy : Allez, parfait.

Théo : Comme ça on finira là-dessus.

Ronan Sy : Merci à tous de nous avoir regardés et bonne bande annonce.

[Bande annonce du documentaire Les sacrifiés de l’IA]