Hugo Pompougnac : Bonjour à toutes et à tous.
Nous sommes réunis aujourd’hui pour un grand entretien avec Antonio Casilli.
Avant cela, je voudrais vous dire qu’avec Espaces Marx [1], nous sommes très heureux de lancer ce nouveau podcast Cyber Révolution. Le titre est inspiré du livre Cyber-révolution et Révolution sociale d’Ivan Lavallée, qui a inspiré toute une génération d’ingénieurs marxistes, la mienne. On a voulu lui rendre hommage avec ce titre-là. On veut parler de l’impact politique et social de la révolution numérique qu’on est en train de traverser et puis aussi, éventuellement et évidemment, on voudrait mettre en avant les opportunités stratégiques qu’elle offre. Karl Marx nous disait que la bourgeoisie crée ses propres fossoyeurs. On va essayer de rencontrer les fossoyeurs en question pour voir avec eux comment on peut les aider.
On a vraiment voulu commencer la série par les bases matérielles de l’édifice et, en réalité, de tous les édifices, la question du travail et des travailleurs. Nous sommes très heureux de recevoir aujourd’hui Antonio Casilli, qui est professeur à l’Institut Polytechnique de Paris. C’est un chercheur central dans le domaine du travail numérique et des plateformes. Ses travaux ont permis de mettre en lumière le concept du digital labour dont vous avez sans doute entendu parler, qui sera évidemment au cœur de notre discussion aujourd’hui.
Bonjour Antonio.
Antonio Casilli, fossoyeur de la bourgeoisie ?
Antonio Casilli : Bonjour Hugo. J’ai tout de suite une question : suis-je parmi les fossoyeurs de la bourgeoisie ?
Hugo Pompougnac : J’espère, en tout cas c’est l’image que j’ai de toi, donc j’espère qu’on va pouvoir la vérifier.
Antonio Casilli : Déjà, il faut préciser que je ne sors pas de la bourgeoisie comme classe d’origine, je suis plutôt quelqu’un de classe populaire à la base.
Hugo Pompougnac : C’est vrai, quelle est ton origine ?
Antonio Casilli : Je suis né dans un milieu populaire, en Italie comme on peut le deviner à mon accent. C’est justement parce que j’étais impliqué dans les premiers usages de l’informatique que j’ai commencé à me former et cela a déterminé après aussi mes recherches, certes avec une tournure plus sociale, mais à la base j’étais parmi les bricoleurs de la micro-informatique d’abord, après du Web et du Web social. Un long parcours pour en être là.
Hugo Pompougnac : Comment en es-tu venu aux sciences humaines en commençant par le bricolage micro-informatique ?
Antonio Casilli : Parce que, à la base je suis économiste, ce qui n’est pas exactement une science humaine pour tout dire. Les économistes eux-mêmes tiennent à prendre leur distance avec les sciences humaines et sociales. À la base je suis un économiste et j’étais profondément déçu de la formation que j’avais reçue en économie. J’ai commencé à m’intéresser de plus en plus à des questions sociales et philosophiques, après j’en suis venu à apprendre vraiment les bases du métier de l’enquête de terrain, de l’ethnographie des usages numériques. Je me retrouve maintenant à être au centre de plusieurs initiatives de recherche qui regardent vraiment la matérialité derrière les discours, les mythes et le marketing de l’intelligence artificielle et, plus généralement, du numérique.
Hugo Pompougnac : À quel moment t’es-tu dit pour la première fois qu’il y avait une différence entre les discours, les mythes et le réel ? À quel moment t’es-tu dit « tiens, il faudrait creuser ici, il faudrait vérifier si c’est vrai » ? Quelle est la scène qui t’a fait prendre conscience de cela ?
Antonio Casilli : S’il s’agit de l’intelligence artificielle en particulier, c’est quelque chose de relativement récent. J’en parle dans un livre que j’ai publié en France il y a quelques années, le titre de ce livre était En attendant les robots. En attendant les robots est un ouvrage qui, après, a eu sa vie. Il a été publié dans plusieurs langues et mis à jour parce que les choses changent, mais la chose qui ne change pas c’est vraiment mon étonnement lorsque j’ai interviewé la première personne qui travaillait derrière une intelligence artificielle. Il s’agissait en réalité d’un stagiaire français qui avait travaillé entre la France et Madagascar pour faire semblant d’être une intelligence artificielle. C’était un jeune homme qui avait été recruté par une entreprise innovante, par une start-up française qui vendait un service un peu particulier, un service de recommandations personnalisées basées sur une intelligence artificielle, je parle de la moitié des années 10 de ce siècle. Très vite, il s’est rendu compte que son métier consistait à faire à la main ce que l’intelligence artificielle aurait dû faire et, lorsqu’il a interpellé les patrons de cette start-up, ils ont dit « oui, bien sûr, il faudrait développer un algo – à l’époque, on ne parlait pas de modèle, on parlait d’algo –, mais, finalement, il faut savoir s’il y a un marché et on n’a pas assez de liquidités pour le faire. Donc, pour l’instant, c’est moins cher de le faire à la main. » Il n’y avait pas que lui qui faisait ça à la main, il y avait tout un bataillon de personnes dans plusieurs pays d’Afrique, notamment qui travaillaient à Madagascar. C’est donc à ce moment-là que je me suis dit qu’il fallait vraiment lancer une enquête d’envergure sur cette question pour voir dans quelle mesure il y a un décalage important entre les performances prétendues de ces intelligences artificielles et ce qui est nécessaire pour les faire fonctionner. Et, ce qui est nécessaire pour les faire fonctionner, ce sont énormément d’efforts humains, de contributions humaines.
L’IA fait-elle disparaître le travail humain ?
Hugo Pompougnac : Tu dirais que les intelligences artificielles ne font pas vraiment disparaître le travail alors.
Antonio Casilli : Oui ! Si tu veux c’est ma thèse principale. On a eu toute une vague de personnes, de théoriciens, parfois de consultants, parfois d’économistes, qui ont été un peu rapides, on va dire comme cela, quand ils ont sonné le tocsin du travail. Par exemple, quand j’étais économiste à la fin du siècle passé, le livre qui était cité tout le temps c’était La fin du travail de Jeremy Rifkin, un livre qui a été publié à la fin des années 90. Dans cet ouvrage-là, on disait déjà que les technologies numériques – on citait déjà les premières intelligences artificielles et la robotique – allaient faire disparaître tout le travail humain.
Après on a eu même des questions qui ont cherché à chiffrer combien de travail humain, et on a eu des exemples comme une célèbre étude, qu’on appelle désormais seulement l’étude de Oxford, qui a été publiée en 2013. Le titre anglais était The Future of Employment : How susceptible are jobs to computerisation ?, donc Le futur de l’emploi, qui estimait qu’en 2030, aux États-Unis, on aurait perdu 47 % des postes de travail. Nous sommes presque en 2030, lorsqu’on enregistre ce podcast, il manque moins de quatre ans à 2030 et je suis navré, pour mes collègues de Oxford, de dire qu’on n’est pas du tout dans cette situation-là. Malgré les annonces toujours un peu apocalyptiques de vagues de licenciements, etc., les chiffres ne semblent pas du tout indiquer que même les États-Unis sont en train de perdre de l’emploi salarié, si on parle seulement de celui-là. Malgré le Covid, malgré la crise climatique, malgré les guerres à répétition, l’emploi tient bon. D’ailleurs, si on regarde les chiffres dans le monde, on n’a jamais eu, dans l’histoire humaine enregistrée, autant de personnes employées formellement et de personnes employées de manière informelle. C’est vraiment quelque chose d’important. Les deux formes de travail, celle salariée protégée par un contrat de travail et toutes les tutelles qui vont avec, et celle qui est, par contre, complètement laissée à la bonne volonté des individus, continuent de progresser toutes les deux pour des raisons évidentes de nature démographique, mais aussi parce que cette idée selon laquelle les technologies sont conçues pour remplacer le travail humain, comme toutes les théories du grand remplacement, ce sont des mensonges !
Hugo Pompougnac : C’est hyper intéressant. Je suis informaticien et c’est vrai que quand on a vu débarquer des choses comme ChatGPT dans mon boulot, on a immédiatement eu cette impression-là, non théorisée, tout le monde s’est demandé « mais que va devenir notre métier ? ». Des copains musiciens se sont dit la même chose, des copines secrétaires se sont dit la même chose. Nous avons tous l’impression que notre emploi va disparaître, mais l’emploi ne disparaîtrait pas. Sais-tu expliquer pourquoi ?
Antonio Casilli : Je précise de manière assez significative que l’emploi formel peut disparaître, c’est-à-dire que le travail défini comme typique ou classique est vraiment sous le feu, il est ciblé systématiquement par des politiques néolibérales ou, plus récemment, des politiques fascistes qui cherchent à saper les protections sociales associées au travail salarié. De ce point de vue-là, oui, ce risque-là est bien présent. Mais soyons clairs, les personnes qui déterminent la fin ou plutôt la baisse de la qualité ou de la quantité du travail salarié ce ne sont pas des intelligences artificielles, ces entités un peu abstraites, ce sont, en réalité, les personnes qui possèdent, produisent et profitent des intelligences artificielles. Pour faire court, celui qui te vire c’est toujours le patron, ce n’est pas l’intelligence artificielle. Après les intelligence artificielles, d’ailleurs comme toute technologie depuis plusieurs siècles, presque trois siècles, sont effectivement des prétextes très utiles pour ces mêmes capitalistes, investisseurs et patrons qui peuvent se servir de cela comme un prétexte pour dire, « ce n’est pas moi, moi je t’aime bien, cher travailleur, mais c’est la machine, c’est l’intelligence artificielle, c’est la machine à vapeur, etc », alors qu’en réalité, historiquement, on a toujours eu besoin d’êtres humains pour faire fonctionner ces mêmes machines. D’ailleurs l’intelligence artificielle est faite, conçue, non pas pour remplacer l’être humain, mais pour aider l’être humain, pour assister l’être humain, pour travailler avec l’être humain.
Une journée type dans la fabrique de l’IA
Hugo Pompougnac : Tout à l’heure, tu as donné une intuition de la manière dont se passe la journée de quelqu’un qui se fait passer pour une intelligence artificielle. Tu sais aussi, je crois que tu as beaucoup travaillé sur la manière dont se passe la journée de quelqu’un qui fabrique une intelligence artificielle. Est-ce que tu peux nous dire un petit peu à quoi ça ressemble ?
Antonio Casilli : D’abord, je dirais que j’ai beaucoup travaillé sur les deux parce que, finalement, ce sont les mêmes personnes qui font autant ce qu’on appelle désormais le pré-entraînement d’une intelligence artificielle que la vérification de l’intelligence artificielle, donc vérifier, par exemple, que ChatGPT n’hallucine pas, ne débloque pas, ne soit pas complètement biaisé. Finalement lorsque, parfois, il faut intervenir de manière directe et rapide pour corriger des erreurs, on se fait passer pour des intelligences artificielles. Ce n’est pas toujours une question de fraude, même s’il y a beaucoup de fraude dans ce contexte-là. C’est comme cela que j’ai commencé à m’intéresser à ceux qu’on connaît désormais en France comme les travailleurs du clic. C’est une définition, c’est une expression qui est née d’un compromis avec mon éditeur français.
Personnellement, en 2026, j’ai tendance à parler de moins en moins de travailleurs du clic et à parler de plus en plus d’ouvriers des données, d’ouvriers de la data. Ouvriers des données, c’est aussi pour dire que ces personnes s’inscrivent dans la longue tradition des luttes ouvrières et de la classe ouvrière, il y a plusieurs éléments qui les rapprochent des ouvriers des manufactures et de l’industrie 1.0. Par contre, ils font un type de métier qui n’existait pas au début de l’industrialisation, pas dans cette forme-là, c’est-à-dire produire et préparer des données de qualité pour que les modèles ou les algorithmes, comme on les appelait à une époque, ou tout simplement les logiciels que nous utilisons, puissent fonctionner.
La plupart des intelligences artificielles que nous utilisons aujourd’hui, j’ai presque envie de dire la presque totalité des intelligences que nous utilisons aujourd’hui, sont basées sur des approches de machine learning [2], grosso modo. Cela signifie qu’il faut vraiment donner à la machine pour lui apprendre – c’est pour cela qu’on parle de machine learning, d’apprentissage automatique –, énormément d’exemples et ces exemples ce sont les données. On montre au modèle d’intelligence artificielle des textes en différentes langues, on montre comment on traduit d’une langue à l’autre, on montre des images pour que la machine apprenne à reproduire des images, on montre des modèles de vidéos pour qu’elle génère des vidéos. Ce travail-là, préparer ces données, nourrir ces bases de données qui sont utilisées pour l’entraînement et pour les tests, etc., est fait par des personnes qui ne sont pas celles qu’on imagine comme les producteurs de l’intelligence artificielle. Pour faire court, ne prends pas ça pour toi, ce ne sont pas tes collègues, ce ne sont pas des data scientists, ce ne sont pas des informaticiens, ce ne sont pas des ingénieurs système, ce ne sont pas des codeurs, des développeurs. Ces personnes-là, les data scientists et compagnie, font partie d’une espèce de classe moyenne qui a ses propres problèmes, même dans sa survie, qui est menacée dans ses emplois et dans ses conditions de travail, de rémunération, mais elles constituent une partie assez minoritaire de la grande masse, non pas des tech workers, des travailleurs de la tech, mais des ouvriers des données. Si on fait une estimation un peu rapide, on parle de quelques dizaines de millions de personnes qui font le métier qui est le tien. Mais si on parle des personnes qui font ce travail d’ouvrier des données, selon des estimations de la Banque mondiale, qui ne sont pas les plus marxistes du monde, on parle de plusieurs centaines de millions. La Banque mondiale a fait une estimation qui, à mon avis, est une catastrophe du point de vue de la façon dont ils l’ont faite, parce que, en plus, ils ont une fourchette énorme, mais ils parlent de 150 à 435 millions de personnes dans le monde. Personnellement je ne crois pas à la fourchette haute parce que ça ferait 12 % de la force de travail mondiale et on n’en est pas là, mais il est indéniable que tous mes collègues qui travaillent sur les ouvriers de la data et moi voyons que ce phénomène devient de plus en plus important au cours des années, malgré le fait que ces soi-disant intelligences artificielles génératives pré-entraînées à la ChatGPT ou Claude existent depuis bientôt cinq ans et normalement, une fois qu’on les a entraînées, on devrait pouvoir se débarrasser de ces personnes. Or, on ne fait que rencontrer des personnes. Qui sont-elles ?
D’abord, on va dire que ce sont des travailleurs pauvres de l’intelligence artificielle. Quand je dis « pauvres », c’est-à-dire qu’ils sont faiblement, très faiblement rémunérés. J’ai rencontré des personnes qui entraînaient ChatGPT qui gagnaient 1,34 dollar par heure. J’ai rencontré des personnes qui gagnaient l’équivalent de 100 euros par mois à Madagascar et même des personnes qui étaient payées avec un produit de première nécessité, un produit alimentaire, riz, sucre, haricots et ainsi de suite, donc des conditions vraiment extrêmes. Je ne parle pas de l’encadrement salarial, je ne parle pas des conditions hygiéniques, je ne parle pas du respect de certains droits de base. Si je suis une femme ouvrière des données et que je suis enceinte, je n’ai pas un permis adéquat pour pouvoir d’abord accoucher, m’occuper de mes enfants et ensuite continuer à gagner ma vie. La plupart de ces personnes sont payées au lance-pierre, parfois à la pièce, parfois avec des contrats complètement loufoques, complètement déstructurés et atypiques.
Ce qu’elles font c’est, d’une part, préparer l’intelligence artificielle, je te donne quelques exemples. Elles travaillent sur des images, par exemple pour étiqueter des images, un exemple parmi d’autres : une voiture autonome. Tesla, qui a un système de conduite soi-disant autonome, doit pouvoir enregistrer ce qui se passe autour du véhicule et savoir interpréter que là c’est un feu de circulation, là c’est un piéton qui traverse la rue, là c’est une autre voiture qui progresse à une certaine vitesse. Pour ce faire, énormément de personnes, dans le passé et encore aujourd’hui, ont été payées pour passer du temps à regarder des vidéos, bloquer des photogrammes et dessiner par exemple des carreaux autour d’une voiture, un véhicule autonome et ajouter une étiquette, un label, un hashtag « voiture », « feu de circulation », etc. De cette manière-là, on permet le véritable apprentissage, ce qu’on appellerait, dans ce contexte-là, un apprentissage supervisé, mais on sait très bien que le non supervisé demande quand même beaucoup de supervision a posteriori. Si on n’ajoute pas les étiquettes au début, il faut quand même bien vérifier que la machine ait interprété d’une manière qui a une signification pour les êtres humains, le fait d’avoir classé telle chose dans la même classe que telle autre chose. Par exemple, si elle classe tous les feux de circulation rouges et toutes les voitures rouges dans la même classe, c’est non supervisé, c’est la couleur qu’elle a considérée comme vraiment importante et à nous, êtres humains, ceci ne nous intéresse pas. Il faut corriger et vérifier que cet apprentissage a eu lieu. C’est pour dire que l’apprentissage ne se termine jamais et ces personnes le savent bien, malgré la précarité de leur emploi.
J’ai à l’esprit une personne très haute en couleur, un syndicaliste kényan qui est un ouvrier des données, qui s’appelle Ephantus Kanyugi [3] qu’on a invité en Europe pour un colloque qu’on a organisé. Dans le trajet entre l’aéroport et le lieu du colloque, il était dans une Tesla et il était super excité parce qu’il a dit « depuis 2018 je fais ça, je faisais ce travail de dessiner des carreaux autour des voitures et je ne suis jamais monté sur une voiture qui utilise exactement le modèle auquel moi-même j’ai contribué. » On pourrait parler d’aliénation, on pourrait parler de tout un tas de catégories vraiment classiques, de dépossession des ouvriers qui ne voient presque jamais le résultat de leur travail parce que, justement, ils ne sont pas impliqués. Ils sont au bout de la chaîne de production, au bout de la chaîne de valeur et le travail qu’on leur demande, quand je dis « du clic », c’est un travail qui doit être, d’une certaine manière, machinique, automatisé parce que mécanisé, parce qu’on les oblige à être les plus rapides pour des questions de rémunération. S’ils sont rapides, ils passent moins de temps, donc, comme ils sont payés à l’heure ou à la tâche, on les paye moins. Et de l’autre côté, il y a peu de possibilités pour eux de progresser dans leur connaissance. Ils ne développent pas un savoir-faire ou alors, s’ils le développent, c’est un savoir-faire qui concerne ce qu’ils ont appris eux-mêmes pour parfois se faire mieux payer ou faire respecter certains droits de base, mais ce n’est pas quelque chose qui est mobilisable, ce n’est pas ce qu’on appellerait une compétence transférable. Ils ont très peu de perspectives de carrière, surtout les femmes qui font ce métier-là. Elles ont encore moins de perspectives de carrière que les hommes selon nos propres enquêtes.
Les luttes des ouvrier·es de la donnée
Hugo Pompougnac : Tu parlais d’un syndicaliste, tu parlais de luttes ouvrières. Quelles sont les luttes ouvrières de ces ouvriers de la donnée ? Pourquoi se battent-ils ?
Antonio Casilli : Excellente question.
Aujourd’hui, il y a deux modalités pour faire respecter les droits de ces travailleurs. Précision importante, je l’ai déjà suggéré mais je le dis, c’est un travail qu’on rencontre partout. Il y a des travailleurs en Europe. Il y a deux ans, nous avons fait une enquête pour le Parlement européen dans neuf pays européens, dans les pays plus riches d’Europe – l’Allemagne, la France, l’Angleterre – il y en a beaucoup. C’est vrai que parmi ces nombreuses personnes dans ces pays européens, il y a une proportion importante de personnes migrantes qui viennent de pays qui, en plus, sont liés à des trajectoires linguistiques, culturelles, de dépendance coloniale ou postcoloniale ou néocoloniale, comme tu préfères. Finalement ce sont des personnes d’Afrique francophone qui viennent en Europe et qui travaillent pour entraîner des intelligences artificielles, il y a des personnes issues de la migration et la diaspora turque qui s’installent en Allemagne, il y a des personnes sud-américaines, hispanophones ou lusophones, qui s’installent au Portugal ou en Espagne. Mais il est vrai qu’on trouve la vaste majorité de ces personnes dans le Sud global. Nous passons notre temps, parce que nous nous sommes spécialisés sur l’Afrique et l’Amérique latine, à des endroits comme l’Égypte, le Kenya, Madagascar ou alors le Venezuela, l’Argentine, la Colombie. Ce sont des pays, chacun pour des raisons différentes, en plus avec un encadrement d’un point de vue légal et des situations économiques fort différentes, qui sont particulièrement riches d’abord en êtres humains, le nombre d’êtres humains est toujours important, on pourrait presque dire la biomasse, mais c’est une biomasse de personnes jeunes et surtout très diplômées et c’est quelque chose d’assez important. Malgré le fait que leurs compétences ne sont pas reconnues et que leur métier est décrit comme un métier de tâcheron, en plus payé comme un métier de tâcheron, ce sont des personnes qui sont entre 20 et 35 ans, donc la fleur de l’âge, et, en plus, qui ont systématiquement des diplômes. On rencontre des personnes avec des masters, on rencontre des personnes avec des doctorats, pas toujours dans un métier lié au STEM [Sciences, Technologie, Ingénierie et Mathématiques], donc aux matières techniques. Ce sont des personnes qui ont un très haut niveau et systématiquement, dans chaque pays, un niveau beaucoup plus important par rapport au niveau moyen de leur pays.
Ça veut dire quoi ? Ça veut dire qu’on est en train de gâcher une quantité énorme de capital humain, si tu crois à cette catégorie. Le capital humain, normalement, serait fait par les personnes qui sont les mieux éduquées, donc les plus compétentes, donc les plus performantes, qui, selon un autre mythe néolibéral, devraient trouver, sur le marché du travail, les meilleures positions, les plus protégées, les mieux rémunérées et ceci n’est pas du tout le cas. Elles sont payées peanuts, elles sont payées en haricots et en riz ou elles sont payées quelques dizaines de dollars ou d’euros. En plus, c’est un travail précaire, c’est un travail abrutissant. Dans la meilleure des hypothèses c’est un travail répétitif, qui ne représente pas l’aboutissement d’une vie, ce n’est pas une vocation, pour ainsi dire. Dans certains cas c’est carrément un travail traumatisant qui provoque des problèmes psychologiques très sérieux chez de ces personnes-là. Donc, elles s’organisent. Elles s’organisent, d’une part, pour lancer des actions en justice. On en a eu en France, on a eu au Brésil, en Afrique. Pour cela, clairement, il faut avoir un système légal de protection du travail qui permette de lancer des actions en justice comme cela. Il y en a eu aussi aux États-Unis. Aux États-Unis, ce sont plutôt des travailleurs individuels qui montent une action en justice contre leur ancien employeur, Scale AI, une plateforme d’annotation de données, de travail de la donnée, qui a été récemment rachetée par Facebook/Meta. Elle a payé cher, 15 milliards, pour dire que ce n’est pas une activité à faible valeur pour ces grandes entreprises de la tech. Elle s’est retrouvée au centre de plusieurs actions à justice d’ex-ouvriers de la data qui considèrent encore, parce que les actions sont toujours en cours, qu’ils ont subi ce qu’on appelle un vol de salaire, wage theft, tout simplement ils n’ont pas été payés à leur juste valeur. Dans d’autres contextes, en Europe, en France notamment, et au Brésil, on a même tenté de requalifier ces personnes, plutôt reclassifier ces personnes de travailleurs freelance, parce que liés par des contrats ou, disons, par des non-contrats. Parfois, c’était tout simplement qu’elles disaient oui à des conditions générales d’usage, donc on a cherché à les faire reclassifier en salariés. Au Brésil, ça a marché. Une entreprise qui faisait ce type d’annotation pour des solutions automatiques de ce type, qui avait plusieurs centaines de travailleurs, d’ouvriers de la donnée. En France, une entreprise qui s’appelait Click & Walk qui, en 2020, a subi une action en justice et elle a perdu [4] c’est-à-dire que l’entreprise a été condamnée. Au début, elle déclarait avoir 400 000 utilisateurs/travailleurs. Elle aurait dû systématiquement proposer à 400 000 personnes prétendues un contrat de travail, mais à la fin, la Cour de cassation a renversé cette décision [5], donc elle est sortie tranquille.
Dans d’autres contextes, on a des actions en justice qui, par contre, se conjuguent avec des nouveaux syndicats ou des anciens syndicats qui commencent à s’y mettre, donc des nouveaux syndicats qui ont des normes qui peuvent varier. Par exemple, aux États-Unis, la AWU qui signifie Alphabet Workers Union est un syndicat très actif, c’est ce qu’on appelle un syndicat cross-collar, donc trans-catégories, cross-catégories. On a les ingénieurs payés genre 500 000 euros par an et des personnes qui sont freelancers payés plutôt, je ne sais pas, 40 000, 20 000 euros par an, mais aussi les ouvriers de la donnée qui sont parfois payés aux États-Unis quelques milliers d’euros par an et ailleurs beaucoup moins que ça.
Donc le fait de chercher à créer des syndicats qui dépassent les catégories salariales classiques, même les statuts classiques, permet de voir de nouvelles perspectives. Dans d’autres cas, je pense au Kenya en particulier, il y a des syndicats qui sont vraiment spécialisés. Par exemple, il y a le syndicat pour les annotateurs, le Data Labellers Association. Il y a le syndicat pour les modérateurs de contenu, le African Content Moderators Union. Le nom change mais c’est toujours le même métier. Les modérateurs de contenu, même si on les imagine comme les censeurs d’Internet, en réalité ce sont des personnes qui entraînent des intelligences artificielles, qui vont filtrer ou proposer certains contenus. Ils font partie de la même catégorie, mais ils sont parfois fragmentés. Après, il y a tout un discours à faire, un débat à avoir sur le rôle des syndicats classiques, traditionnels, avec lesquels on travaille, mais on va dire que c’est un peu plus difficile.
Un usage émancipateur de l’IA ?
Hugo Pompougnac : C’est hyper intéressant cette comparaison que tu fais avec la classe ouvrière industrielle traditionnelle et l’industrialisation, disons, des siècles derniers, parce que j’ai le même type d’ambiguïté dans le rapport avec l’IA. Je partage évidemment la critique très forte des rapports de domination que tu fais, des rapports de production qui permettent de faire émerger et en même temps, dans ma vie, l’IA c’est un livre qui répond aux questions qu’on lui pose, ça règle plein de problèmes et ça me donne l’intuition que ça pourrait en régler plein d’autres. Dans les siècles derniers, on disait de l’usine la même chose : à la fois, c’est horrible parce que ce sont des rapports de production capitalistes, etc., mais si, demain, l’usine était dirigée par les travailleurs, ça changerait tout, on pourrait la mettre au service de l’humanité, etc. Penses-tu que c’est vrai aussi de l’IA, qu’il y a un usage de l’IA émancipateur, une promesse progressiste autour de l’IA ?
Antonio Casilli : D’abord, je tiens à préciser que moi aussi je suis dans la même situation. Je ne le conçois pas forcément comme une question d’ambiguïté. Je remercie la première personne qui a inventé l’anesthésie ou quelqu’un qui a introduit une innovation. Je préfère qu’on m’enlève une dent sous anesthésie, plutôt que sans anesthésie. En même temps, je ne veux pas non plus me retrouver face à des risques suite à la manière dont l’anesthésie est produite, la substance anesthésiante est produite. Je ne veux pas, par exemple, avoir un risque de surdosage qui, par exemple, me mette dans le coma. Ou alors, je ne veux pas non plus que les personnes qui produisent cette substance ou ce médicament doivent le faire dans des situations qui les mettent en danger, parce que, par exemple, le lieu dans lequel cette production a lieu provoque des contaminations, etc. C’est la même chose, le point de départ, c’est ça. Le point de départ nous permet aussi d’envisager des issues possibles. Pour moi, il y a au moins trois catégories d’issues possibles. Ce ne sont même pas des utopies concrètes ou les outils que nous avons à notre disposition. Il y a des outils à notre disposition pour chercher à contrer cette situation, donc ces rapports de domination.
Il y a des lois et il faudrait les appliquer. Il faudrait surtout ne pas les revoir à la baisse comme le font systématiquement le Parlement européen et la Commission européenne.
Il y a des institutions, par exemple les corps intermédiaires, les partenaires sociaux, les syndicats ou d’autres, par exemple les institutions qui s’occupent effectivement de réaliser l’inspection du travail et ainsi de suite.
Il y a donc des outils qu’il faudrait utiliser systématiquement même, par exemple, lorsque l’intelligence artificielle est déployée d’une manière assez sauvage dans nos lieux de travail. Dans le contexte universitaire, en France comme ailleurs, on se retrouve souvent avec une injonction d’usage du type « notre université a passé un deal avec Mistral ou, je ne sais pas, Microsoft, vous êtes donc priés d’utiliser cette intelligence artificielle-là », mais on ne m’a pas interpellé. On n’a pas sollicité le conseil d’entreprise ou plutôt le conseil de l’école, les syndicats n’ont pas été impliqués et ainsi de suite. C’est donc d’abord cela : il y a des outils, il y a des moyens, il faut s’en servir.
Deuxième catégorie de solutions et d’issues possibles, c’est effectivement regarder les grandes expériences qui, encore une fois, sont strictement liées à l’histoire des mouvements ouvriers. Tu as cité l’idée des travailleurs qui pourraient être les propriétaires de ces intelligences artificielles. C’est le cas de ce qu’on appelle le mouvement coopérativiste des plateformes [6] et coopérativiste de l’intelligence artificielle. L’année passée, on a eu, à Istanbul, cette grande conférence sur Cooperative AI [7] et cette année, à Bangkok, on aura un autre colloque sur Solidarity AI [8]. Je suis relativement proche de ces initiatives parce que, après, il y a aussi des tas de compromis qui me laissent toujours un peu froid parce que parfois, on voit aussi les grands groupes industriels qui disent « c’est vachement intéressant, il faut, moi aussi, que je m’invite à ces colloques-là, à ces consortiums ou à ces initiatives. » À mon avis, il faut aussi travailler sur le côté antagoniste de ces mouvements coopératifs et mutualistes qui, encore une fois, sont issus de la tradition du coopérativisme et du mutualisme qui fut, et qui est encore, une partie importante des mouvements ouvriers.
Après, il y a quand même des initiatives qui sont un peu plus des moon shots, ça veut dire, en anglais, quelque chose qui relève d’une tentative, d’une réflexion qui est pour l’instant plus abstraite, qu’on définirait véritablement une utopie, mais une utopie réalisable. Par exemple utiliser – et c’est très controversé, mais c’est l’une de mes positions –, des dispositifs de rémunération collective, par exemple des revenus universels numériques, pour payer non pas les individus et non pas à la donnée, c’est-à-dire non pas pour qu’ils réalisent des données, mais par le fait même de se retrouver à être utilisateur-producteur, parce que n’importe quel utilisateur, même de ces outils, même quand on utilise ChatGPT, a toujours une sollicitation à donner un feedback – thumb up, thumb down – ou alors à écrire un commentaire, et tout ceci est utilisé pour faire du reinforcement learning, donc, encore une fois, pour faire une partie du travail d’amélioration.
Il y a d’autres réflexions en cours, des réflexions sur les communs environnementaux et numériques, ou alors sur le numérique communautaire et sur l’intelligence artificielle communautaire. Quand on dit communautaire en France c’est évidemment un gros mot. Communautaire c’est toujours associé à quelque chose qui est contre le vivre ensemble, contre le lien social. Ailleurs, je pense à l’Amérique latine, parce qu’on travaille souvent avec l’Amérique latine, souvent avec des peuples autochtones, communauté c’est tout simplement un grouCardonpe territorial, parfois culturel, de personnes qui ont des intérêts communs et qui donc, par exemple, ont intérêt à ne pas se faire bouffer par Antropic, Microsoft, Amazon, etc., parce que, du jour au lendemain, ils ont décidé d’ouvrir un centre de données qui va pomper toute l’eau de la communauté et du territoire, ou d’ouvrir une centrale nucléaire qui sert pour faire fonctionner le centre de données. C’est une manière un peu plus holistique de réfléchir aux intelligences artificielles.
Hugo Pompougnac : Tu as mentionné rapidement, en parlant, le fait que les usagers sont aussi des producteurs ou des coproducteurs des modèles d’intelligence artificielle. Dans quelle mesure est-ce encore vrai à l’heure de l’expansion des ouvriers de la data, etc. ? Est-ce que c’est encore vrai ?
Antonio Casilli : C’est encore vrai. Je précise que j’ai passé la deuxième moitié des années 2010 à me disputer avec la moitié de la France sur cette question-là, qui, pour moi, relevait de l’évidence. Là, c’est le moment où, effectivement, je m’avère être beaucoup plus rital, beaucoup plus italien que français. Je sors d’un milieu de réflexion, encore une fois antagoniste, qu’on appelle le marxisme autonome. Dans ce milieu-là, il était assez accepté que le capitalisme actuel ne se base plus exclusivement sur la production de valeur à des endroits précis comme les usines, les manufactures, les bureaux, mais que n’importe qui, dans n’importe quel contexte, est en train de produire de la valeur pour le capitalisme. Donc même, que sais-je, un consommateur, dans la mesure où les consommateurs sont de plus en plus impliqués aussi dans la production – pensez à Ikea, pensez aux caisses automatiques au supermarché –, nous réalisons tout un tas de tâches qui, normalement, auraient dû être réalisées par des personnes rémunérées. En plus, parfois, les usages mêmes s’avèrent vraiment des éléments importants de la production. Pensez, si vous êtes un joueur de jeux vidéo, aux moments dans lesquels vous êtes testeur du moteur de jeu ou de l’interface de jeu, ou alors que vous passez du temps à personnaliser, à faire des skins, à faire des mods. Bref, avec ceux qui jouent, on se comprend.
À un certain moment, je me suis dit que si on regarde, par exemple, surtout ce qu’on a appelé, à une époque, le web social, donc tous les médias sociaux – Facebook, YouTube et compagnie, etc. –, c’était entièrement basé sur l’idée selon laquelle ces plateformes allaient être nourries par des contenus produits par les usagers. Malgré le fait que déjà, à cette époque, on avait une micro-élite de personnes à la, je ne sais pas, Joe Rogan ou Mister Beast, c’est vrai que la presque totalité des utilisateurs, des milliards littéralement, étaient des personnes qui le faisaient de manière non rémunérée. Et pourtant, eux aussi mettaient en ligne des photos, mettaient en ligne des vidéos, commentaient, participaient, faisaient circuler l’information.
C’était une époque, un moment important dans lequel on s’est dit que tout ce travail social, en réseau, doit être reconnu en tant que travail. Je disais que j’ai passé la moitié des années 2010 à me disputer parce qu’en 2015, avec un collègue qui s’appelle Dominique Cardon [9], nous avons publié un livre qui s’intitulait, à moitié en français, Qu’est-ce que le Digital labor ?, c’est quoi le travail digital, du doigt ? C’était un livre écrit en deux parties, la thèse et l’antithèse. Ma thèse était qu’il faut faire encore un effort, en France, pour reconnaître ce travail comme un véritable travail. Ce n’est pas une métaphore, c’est vraiment un travail parce qu’il produit de la valeur, parce qu’il prend du temps, parce qu’il demande des compétences, etc. Dominique Cardon était d’un avis complètement différent. Après, dans les années, j’ai vu que sa position s’est un peu calmée. Ma position est devenue un peu plus sophistiquée dans la mesure où, après, dans plusieurs écrits suivants, j’ai dit « attention à ne pas confondre ce travail des usagers avec le travail gratuit. » En réalité, il y a une continuité entre le travail que nous réalisons sur ces plateformes et des formes de travail qui sont les mêmes et qui sont, par contre, rémunérées, mal, mais rémunérées. On vient de les citer : les personnes qui gèrent les données, les modérateurs de contenu, même parfois les gens qui créent des fraudes aux faux clics, aux faux visionnages sur les vidéos. Ce sont des personnes qui sont payées très faiblement, qui sont payées moins de un centime. Plus on s’éloigne des pays à haut revenu, moins ces gens sont payés. Ma question de base est quelle est la différence entre une personne qui partage une vidéo ou qui produit une vidéo et qui est payée zéro et une personne qui est payée 0,0001 centime ? La question est que pour nous, dans notre perspective de pays riches, c’est clair que la différence est infinitésimale, il n’y a presque pas de différence. Pour elles, par contre, il y a une différence importante. Parfois, le fait de gagner quelques centimes dans des pays comme le Venezuela, dans lequel, à un certain moment, le salaire minimum était de 6 dollars par mois pendant le Covid, le fait de gagner quelques centimes peut faire la différence.
Cette question du travail des usagers est donc encore vraie, est encore plus vraie aujourd’hui. Parce que la généralisation des intelligences artificielles génératives nous met systématiquement dans des conditions d’usager-travailleur, d’usager-entraîneur. Peut-être ne sommes-nous pas des pré-entraîneurs, mais des post-entraîneurs, certainement.
Les travailleur·ses du clic à travers le globe
Hugo Pompougnac : Tu parlais du Venezuela. J’avais vu un dossier dans Fakir, je pense que c’était l’été dernier ou l’été d’avant, je ne sais plus, qui expliquait Amazon Mechanical Turk [10] et toutes les plateformes qui distribuent le travail à ces travailleurs du clic que tu décris. Quelle est la différence entre un travailleur du clic en France et un travailleur du clic au Venezuela ? Vivent-ils pareil ? Font-ils pareil ? Sont-ils payés pareil ? Comment ça marche ?
Antonio Casilli : Ils sont pareils parce que, de plus en plus, ils sont jeunes et diplômés, c’est une tendance des dernières années même dans le Nord global, et de plus en plus d’hommes par rapport aux femmes. Au début, ce n’était pas comme ça. On a fait une première enquête en France et dans d’autres pays du Nord, je pense aux États-Unis et en Allemagne, à cette époque, avant le Covid, c’était presque 50-50. En France, c’était 56 % de femmes versus 44 % d’hommes. Or aujourd’hui, du point de vue sociodémographique, on commence à voir des tendances globales.
La différence fondamentale, c’est effectivement le contexte économique de ces pays. Par exemple, le fait d’être ouvrier de la donnée en France ou en Allemagne ou en Espagne ce n’est pas la même chose qu’au Venezuela, d’ailleurs, au Venezuela ce n’est pas comme à Madagascar ou en Égypte, chacun a ses spécificités. Le fait que ce travail-là soit un revenu primaire ou secondaire change complètement la donne. En France, typiquement, c’est un revenu de complément, c’est un travail à côté. Si on a un travail, si on est chômeur qu’on touche le chômage, le RSA ou un type d’aide, ce travail sert à compléter, à permettre d’arriver à la fin du mois. C’est donc un travail qui est occasionnel, qui parfois peut occuper une portion assez importante de la journée, plusieurs heures par jour, mais ce n’est pas une activité principale, parce que, tout simplement, on n’arriverait pas à gagner sa vie en faisant ce travail-là. Même si dans le Nord c’est mieux payé, en proportion, ce n’est pas suffisant pour pouvoir vivre de manière correcte.
Après, si on va dans d’autres contextes, je donne l’exemple du Kenya et de Madagascar.
À Madagascar, pour des questions d’infrastructure, ce ne sont pas des personnes qui travaillent depuis chez elles, connectées à une plateforme comme Amazon Mechanical Turk. D’ailleurs Amazon Mechanical Turk existe depuis 20 ans, mais désormais c’est un peu une maison vide, une maison hantée. Bref, elles ne sont pas forcément connectées à une plateforme, il y en a quelques-unes, mais la plupart travaillent depuis des bureaux qui sont de vraies entreprises ou qui sont des maisons transformées en usines à clics, pour faire court. Ceci est dû au fait qu’il y a des problèmes d’infrastructures, il y a des problèmes de connexion à Internet qui coûte super cher. Il y a des problèmes de courant électrique, il y a souvent des black-outs, il faut avoir un générateur pour pouvoir continuer à travailler. C’est déjà une situation différente et, pour pouvoir fidéliser ces personnes, il faut leur proposer quelque chose de relativement plus stable. Mais si c’est plus stable, il y a, si l’on veut, une mauvaise nouvelle, c’est moins bien payé. Comme je le disais, on a trouvé des personnes qui étaient payées à hauteur de 90 euros par mois, d’autres qui arrivaient jusqu’à 110, 120 euros par mois, ce qui n’est pas suffisant du tout pour une grande ville comme Antananarive ou Fianarantsoa, deux grandes villes du centre du pays,des villes chères.
Si on va, par exemple, au Kenya ou en Égypte, la situation est différente. Il y a une infrastructure, on a la possibilité de travailler depuis chez soi, on a donc des personnes qui travaillent depuis chez elles. Nous venons de terminer un rapport sur l’Égypte il y a quelques mois, énormément de personnes sont des travailleurs complètement freelance, qui se connectent à une plateforme et qui travaillent depuis chez elles. Mais là encore, parce que c’est un pays qui a un revenu moyen beaucoup moins important que celui de la France, elles peuvent faire cela comme activité principale.
Je termine ce tour du monde avec le Venezuela, une autre question encore plus complexe, d’autant plus pour moi parce qu’une partie de ma famille est vénézuélienne. D’abord, c’est un pays extrêmement pauvre, 80 % de la population est en dessous du seuil de pauvreté, mais c’est un pays de personnes hautement équipées, mais mal équipées. Déjà à l’époque Chavez on avait lancé un programme d’ordinateurs pour les enfants et ces mêmes ordinateurs, ces vieilles bécanes d’il y a 15 ans, sont encore là. Il y a des maisons qui sont équipées ce qui permet de travailler depuis chez soi, mais, pour pouvoir assurer une activité importante et, en plus, travailler sur plusieurs fuseaux horaires parce que parfois les clients sont en Russie ou en Espagne, il y a un décalage horaire, il faut travailler toute la journée, il y a donc des tours qui sont parfois générationnels. Le matin, c’est la maman ou le papa, l’après-midi, ce sont les enfants quand ils rentrent de l’école, le soir ce sont les grands-pères dans des familles élargies. C’est d’ailleurs le seul endroit au monde dans lequel, lors de nos enquêtes, on a rencontré du travail d’enfants, parce que, tout simplement, ces enfants travaillent dans le cadre de leur famille.
Que faire ?
Hugo Pompougnac : Je te remercie beaucoup pour tout ce tour d’horizon. On est en train de s’acheminer doucement vers la fin de l’heure qu’on avait à passer ensemble. Je pense que c’est extrêmement important. La présentation que tu as faite permet de toucher du doigt comment les choses se passent concrètement, parce qu’on nous donne des mots – lecloud, le nuage –, tout est très abstrait et tout est très poétique, mais il y a quand même une matérialité dans ce qu’on fait et dans ce qu’on dit. Il y a des gens qui travaillent, il y a des gens qui produisent ce que d’autres consomment. Je crois que c’est assez essentiel de les visibiliser, de donner à voir que c’est le travail et c’est la classe ouvrière qui fait jaillir toute la prospérité humaine. Ce que tu fais et ce que tu nous as dit là permet, je crois, de le mesurer. J’invite évidemment celles et ceux qui nous écoutent à aller lire ton travail, à aller creuser davantage, puisque, à priori, on y sera confronté de plus en plus. Il ne faut pas utiliser de manière trop arrogante le futur dans ces domaines-là, puisqu’on ne sait jamais trop ce que nous réserve le futur. Peut-être pour conclure, une toute dernière question à te poser : que faire ?
Antonio Casilli : Que faire ? Vaste question, dirait l’autre. Que faire ? Je pense qu’il y a énormément de choses que nous faisons déjà.
Encore une fois, travailler avec les outils à notre disposition, oui, il faut le faire.
Ne pas se priver de se protéger et de se mettre en sécurité face non pas à un prétendu risque technologique qui serait tout le temps là. D’ailleurs, je pense qu’avec l’intelligence artificielle le risque technologique a été parfois élevé comme argument marketing. On nous présente ces machines comme beaucoup plus dangereuses qu’elles sont, parce que, comme cela, on est poussé à penser qu’elles sont beaucoup plus efficaces et performantes qu’elles ne le sont.
On a des outils, il faut s’en servir systématiquement et ne pas céder à l’idée selon laquelle ces machines font quelque chose à la société. Ce ne sont pas les machines, ce ne sont pas les modèles, ce ne sont pas les intelligences artificielles qui font quelque chose à la société, ce sont les personnes qui détiennent ces brevets, ces actifs immatériels, qui, pour faire court, détiennent le capital qu’il faut cibler dans nos démarches et je suis vraiment très direct sur ce sujet.
Ce n’est jamais l’intelligence artificielle qui te vire, c’est le patron qui te vire en utilisant l’intelligence artificielle comme prétexte, parce que, bêtement, c’est un prétexte qui est très simple à mobiliser. Tout le monde sait, on a désormais intériorisé cela, que les machines détruisent l’emploi, ce qui n’est pas démontré du tout. Les machines transforment l’emploi, mais les seules entités, les seuls groupes, les seuls agents de la destruction de l’emploi, ce ne sont pas les machines, ce sont les détenteurs du capital. Il faut d’abord revenir à de véritables politiques qui regardent dans la bonne direction et qui ne cèdent pas à cette démarche de renoncement presque spontané que certains syndicats, certains partis politiques, certains décideurs politiques semblent adopter comme une espèce de deuxième nature. « L’intelligence artificielle générative est arrivée, je laisse tout tomber, je n’ai plus rien à faire, je ne peux rien, de toute façon c’est le progrès, on n’arrête pas le progrès. » D’abord ce n’est pas le progrès, après on arrête tout ce qu’on veut arrêter, parce que, en l’occurrence, ce n’est pas une question de progrès, c’est une question de domination, c’est, finalement, une question de capital qui cherche à se substituer au travail.
Hugo Pompougnac : Merci Antonio.
Antonio Casilli : Merci Hugo.