Table ronde

Ophélie Coelho : Je suis vraiment très heureuse d’avoir avec moi Anne Alombert et Mathilde Saliou.
Anne Alombert, tu me dis si je me trompe, tu es maîtresse de conférences à Paris 8, c’est bien ça, autrice de Schizophrénie numérique et également De la bêtise artificielle aux éditions Allia.
Mathilde Saliou, journaliste sur les sujets sociotechniques, est autrice d’un premier livre, au départ chez Grasset, Technoféminisme, il y a quelques années, et L’envers de la tech : Ce que la tech fait au monde paru aux éditions Les Peregrines.
J’ai souhaité vous inviter parce que c’est effectivement très intéressant. Je trouve que les travaux qu’on aborde sont très compatibles et se complètent assez bien.
Dans un premier temps, je voulais vous demander – je lis les questions parce que la fatigue, tout ça, c’est plus facile, je me repose après la présentation [1] – ce qui vous a conduit, chacune, à travailler sur les technologies numériques et sur vos sujets respectifs et à en faire un objet central de vos recherches ou de vos enquêtes, pour toi Mathilde.

Mathilde Saliou : Je commence. Merci beaucoup pour cette invitation et pour cette très belle présentation, même si j’en connaissais certains éléments, c’est toujours un plaisir, Ophélie, de t’entendre présenter ton travail.
Qu’est-ce qui m’a lancée dans le numérique ? Eh bien des profs hyper intéressants, un prof en particulier qui se trouve être journaliste, qui s’appelle Xavier de la Porte, vous connaissez peut-être son podcast Le code a changé, qui a montré à la classe dans laquelle j’étais à l’époque que le numérique est une matière dans laquelle on peut entrer par plein de portes différentes. Après, il y a côté opportunités professionnelles. On nous disait que dans le journalisme économique il y a plus de travail, sauf que la tech est très souvent traitée comme un sujet économique par la presse, on pourrait même faire une critique de cette focalisation permanente qui, parfois, empêche d’aborder ses autres impacts, notamment les impacts sociaux, sociétaux, environnementaux, etc. Bref, il y a eu ça.
Et puis au début de ma carrière, assez tôt, je me suis mobilisée dans une association qui s’appelle Prenons la Une [2], qui vise à une meilleure représentation des femmes dans les médias et dans les rédactions, parce que l’un impacte l’autre. Cela m’a fait réaliser deux choses : déjà, à cette époque-là, le cyber-harcèlement montait contre les journalistes, je voyais beaucoup de cas, je voyais qu’il y avait un sujet de liberté d’expression, de bon fonctionnement de l’information. Ils se retrouvaient attaqués très directement, très concrètement par le moyen d’outils numériques et, à l’époque, il y avait assez peu de réactions. Depuis, ça c’est quand même amélioré, mais, à l’époque, les rédactions ne savaient pas quoi faire donc les journalistes étaient laissés seuls, hommes et femmes, mais les femmes sont plus victimes ou sont victimes un peu différemment, notamment, tout de suite, ça part en attaques sexualisantes, ce genre de chose. Bref, tout cela explique que j’ai écrit Technoféminisme assez vite et ça m’a poussée aussi à me dire, encore une fois, qu’il y avait un nouvel axe de travail, que je continue d’essayer de creuser, en tant que journaliste, toutes les questions que tu soulèves : pourquoi Microsoft y a–t-il dans l’Éducation nationale ? Pourquoi pousse-t-on les outils numériques de certains pays et pas tellement de France et d’Europe dans nos processus personnels et professionnels ? Ce sont des questions qu’on devrait peut-être se poser un peu plus dans les médias et qui, à mon sens, alimenteraient aussi nos réflexions en tant que sujets.
Bref, tous ces points d’entrée font que je me suis complètement focalisée sur le sujet jusqu’à, plus récemment, m’intéresser aux impacts concrets au sens matériel, en tout cas environnementaux de cette vaste industrie, cette vaste méta-industrie comme l’appelle le sociologue Olivier Alexandre et, à priori, je n’ai toujours pas fini, donc continuons d’en discuter.

Ophélie Coelho : Super. Même question : qu’est-ce qui t’a amenée à travailler sur ce sujet ?

Anne Alombert : Merci beaucoup. Même remerciements à toi, Ophélie, pour ton invitation. C’est tout de même important de le dire parce que j’ai vraiment appris énormément en lisant le livre [Géopolitique du numérique – L’impérialisme à pas de géants ] et je voulais te remercier. Beaucoup de lectures s’accumulent, j’ai des listes de livres à lire à n’en plus finir, le livre était donc dans ma liste, mais le fait que tu proposes qu’on discute ensemble, etc., m’a mise au travail et c’était vraiment un plaisir, un enrichissement très important pour moi.
Je viens de la philosophie. Je suis plus, disons, dans des questions conceptuelles, parfois un petit peu abstraites, c’est donc très important, pour moi, de pouvoir avoir accès à des travaux comme ceux d’Ophélie ou comme ceux de Mathilde qui remettent ces questions technologiques dans la matérialité, dans les dimensions infrastructurelles, industrielles, politiques aussi, évidemment. Ce sont des travaux qui sont extrêmement importants, qui sont extrêmement sérieux, qui sont extrêmement rigoureux et ce n’est pas le cas de tous les travaux sur le numérique. Je voulais simplement insister là-dessus.

Ophélie Coelho : Merci beaucoup.

Anne Alombert : Je viens effectivement de la philosophie et c’est aussi un professeur, d’une certaine manière, qui m’a poussée vers ces sujets du numérique, le philosophe Bernard Stiegler [3] que certains d’entre vous connaissent peut-être, que tu cites brièvement dans le livre, je sais, Ophélie, que tu connais un petit peu son travail. Par ailleurs, dans ma thèse de philosophie j’avais travaillé sur deux penseurs, Gilbert Simondon [4] et Jacques Derrida [5], qui sont des philosophes contemporains, qui ont écrit à la fin des années 50, au début des années 60, qui publient leurs œuvres à ce moment-là, mais qui continuent ensuite d’écrire, bien sûr, jusque dans les années 80. Ces deux penseurs se sont beaucoup intéressés l’un à la question de la technique, l’autre à la question de l’écriture et le numérique, aujourd’hui, est à la fois une révolution industrielle, technologique, etc., c’est aussi une transformation des systèmes d’écriture. Ces deux penseurs-là ont vraiment écrit dans le contexte de l’émergence de ces technologies avec l’informatique, la cybernétique, les sciences cognitives, les débuts de l’intelligence artificielle, et de manière, on va dire, assez critique, non pas au sens négatif de la critique. Il s’agit, par exemple pour Simondon, pour Derrida, de déconstruire un petit peu les postulats épistémologiques qui sont sous-jacents à des sciences comme la cybernétique, le cognitivisme, etc.
J’avais un peu ce regard-là, un petit philosophique ou épistémologique sur ces technosciences, et évidemment ce paradigme technoscientifique continue à se déployer dans les idéologies contemporaines de l’intelligence artificielle. On est toujours en train de comparer le cerveau à l’ordinateur, l’intelligence à un programme, etc., et, philosophiquement, c’est évidemment absolument très problématique, c’est aussi très problématique politiquement, parce que ce sont des discours qui ont pour but d’affirmer un certain pouvoir, faire croire aux gens qu’ils sont des machines donc qu’ils sont remplaçables par des machines, etc.
Disons que toutes ces réflexions philosophiques résonnaient énormément avec un certain nombre de problématiques contemporaines et c’est plus ou moins pour cela que j’ai décidé de m’intéresser à cette question des technologies numériques. J’ai aussi fait partie d’un certain nombre de collectifs dont l’association Ars Industrialis [6] d’abord, le Conseil national du numérique [7] ensuite, des collectifs qui essayaient de faire des propositions politiques au sujet de l’avenir des technologies numériques pour les rendre plus compatibles avec les intérêts des populations.

Ophélie Coelho : Super.
J’ai une question d’abord pour toi, Anne. Les plateformes organisent des flux d’information continue, donc de l’information qui passe en continu sur les fils de discussion dans des médias, dans des interfaces qui sont conçues pour capter notre attention. Pour toi, quels effets cela produit-il sur notre manière de voir mais aussi de penser ?

Anne Alombert : C’est un aspect très important, tu l’as évoqué un petit peu dans ta conclusion, les enjeux de ces fonctionnalités technologiques numériques pour nos santés mentales, nos santés psychiques, aussi pour nos relations sociales, puisque, de toute façon, nos santés mentales, psychiques sont liées aussi aux relations que nous entretenons les uns avec les autres.
Il y a cette économie de l’attention, je pense que, pour la plupart des personnes, ce dont on parle est assez clair. Peut-être simplement rappeler qu’on désigne par économie de l’attention certains modèles d’affaires des entreprises numériques, notamment les réseaux sociaux commerciaux, qui ont fait de l’attention des utilisateurs une ressource qu’il s’agit de capter pour la revendre à des entreprises qui vont ensuite cibler ces mêmes utilisateurs avec de la publicité. On collecte donc les données, mais on essaye aussi de capter les attentions ce qui a des effets évidemment néfastes pour les attentions des individus, parce que l’attention n’est pas une ressource illimitée, c’est quelque chose qui se forme et qui se déforme et qui, évidemment, peut être exploité d’une certaine manière. D’ailleurs, à un moment dans le livre, tu décris le fait que toutes sortes de fonctionnalités sont développées, notamment par cette discipline qu’on appelle le design comportemental ou le design d’expérience. Cela consiste à concevoir et à développer des fonctionnalités numériques qui vont servir, en fait, à conditionner nos comportements, à capter nos esprits, par exemple le défilement infini sur les réseaux sociaux qui permet de faire défiler, à l’infini, toutes sortes de vidéos. Du coup, comme on n’a jamais à changer de page, à rafraîchir la page, à cliquer ailleurs, cela permet de nous maintenir connectés. C’est une fonctionnalité qui a été conçue expressément pour nous maintenir connectés. Le problème c’est que sur le long terme ça a évidemment des effets parce que les attentions, par exemple, vont être de plus en plus dispersées, fragmentées, etc. On sollicite surtout des réflexes un petit peu compulsifs, on va vous inciter à réagir et pas forcément à réfléchir, il y a donc des effets psychiques, c’est là la première chose. On parle parfois d’hyper-attention pour désigner justement ce régime attentionnel un peu fragmenté et dispersé, le fait d’avoir besoin d’être sollicité constamment, ne plus être capable de se concentrer longtemps dans une tâche spécifique, etc., ne plus de plus être patient aussi envers les autres et tout ça.
La deuxième chose, je ne développerai pas, mais c’est important de le dire aussi, comme tu disais, en fait il s’agit aussi, à travers ces algorithmes de recommandation et ces technologies persuasives, d’organiser des flux informationnels, donc de valoriser certains contenus informationnels et d’en dévaloriser d’autres, autrement dit, de gérer ce qui est visible et ce qui est invisible sur telle ou telle plateforme. Or, cette capacité de décider ce que vous pouvez voir et ce que vous ne pouvez pas voir, ce choix-là qui est, en fait, un choix éditorial par excellence, a été délégué complètement à un certain nombre d’entreprises privées qui sont celles qui possèdent ces réseaux sociaux commerciaux et ces plateformes, alors même que leur statut juridique n’est pas un statut d’éditeur mais un statut d’hébergeur de contenu. Autrement dit, elles n’ont pas de responsabilité sur les contenus qui circulent sur leurs plateformes alors même que ce sont elles qui font le tri entre les contenus qui seront vus et les contenus qui ne seront pas vus. Autrement dit, vous pouvez poster un contenu, si personne ne le voit ça n’a aucune importance. En fait, ce qui compte c’est l’algorithme de recommandation qui va décider ce que vous voyez ou pas. Là, on a un véritable problème et enjeu démocratique aussi, me semble-t-il, parce que la démocratie suppose précisément qu’il y ait une pluralité de contenus qui puissent être rendus visibles et pas qu’un algorithme ou quelques algorithmes opaques décident de ce que les citoyens vont pouvoir voir en fait.

Ophélie Coelho : D’accord. On a parlé de l’effet des flux d’informations, il y a aussi quelque chose de très présent dans notre façon de voir la technologie qui est l’immatérialité, on a vraiment l’impression que tout est effectivement immatériel. J’ai une question pour Mathilde : le fait de penser les choses de manière immatérielle, est-ce que ça implique une certaine manière de percevoir, de penser le numérique en tant que société ?

Mathilde Saliou : Cela implique une cécité tout à fait cultivée par les principaux concernés sur les effets concrets au sens matériel, même rien que sur les infrastructures matérielles qui permettent de créer la supposée immatérialité qu’on a mise en place depuis 20 ans.
Par exemple, dire qu’il fallait numériser toute l’administration, qu’il serait plus efficace de tout faire depuis un ordinateur, point, c’est la force d’un des discours. C’est invisibiliser le fait que, par exemple, il a déjà fallu que vous vous équipiez d’un ordinateur, tout le monde n’en a pas les moyens. Une fois que vous avez un ordinateur, tout le monde n’a pas la capacité à s’en servir dans la langue française, si je reste mon exemple administratif – désolée, l’administration va s’en prendre plein la tête pendant les cinq prochaines minutes, j’aurais pu prendre autre chose !
C’est ne pas rendre visibles toutes les infrastructures au sens des câbles, capteurs, réseaux, centres de données, juste avant les serveurs et, dans les serveurs, toutes les puces et, dans les puces, toutes les ressources qui sont nécessaires pour mettre en place tous les systèmes informatiques de l’État, mais aussi pour permettre aux citoyens et citoyennes de les atteindre.
En fait, l’immatérialité a été un très bon slogan pour les entreprises de la tech, ça recommence, mais on se recomposant un peu avec la question de l’intelligence artificielle où, encore une fois, on nous parle de quelque chose qui viendrait du royaume de l’esprit, qui serait artificiel, c’est-à-dire, encore une fois, qui serait non matériel, non concret. C’était une manière, pour eux, de nous convaincre que c’était plus intelligent, plus efficace, plus productif, car l’essentiel de leur communication est aussi vraiment faite sous l’angle business, on ne parle pas du tout de votre épanouissement personnel. C’était donc une manière de vous convaincre que c’était une bonne idée de leur fournir vos données, de passer par eux pour communiquer avec vos proches, communiquer avec vos employeurs, communiquer avec l’État, bref, vous connaissez l’histoire. Ça a été une manière de nous convaincre pour en arriver là où nous en sommes aujourd’hui.
Je pense, notamment en tant que journaliste mais aussi grâce aux travaux de chercheuses et chercheurs, grâce aux travaux d’associations, de représentants de la société civile, grâce aux travaux d’autant de gens que possible, qu’une des grandes urgences du moment – il aurait été bien qu’on le fasse tous collectivement plus tôt – c’est vraiment de rendre tout ça visible, je précède un peu les questions qui vont arriver, mais l’intelligence artificielle change quand même un peu certaines des dynamiques qui préexistaient.
En gros, nous sommes encore en train de constater et de regretter que nous n’avons pas eu suffisamment notre mot à dire en tant que société, en tant que démocratie, sur la manière dont le numérique s’est développé et étendu dans nos vies et puis, par-dessus, pour les dix dernières années, sur la manière dont les réseaux sociaux, en particulier, se sont étendus, déployés dans nos vies et ont influé sur la manière qu’on a d’échanger, sur le degré de violence qu’il y a dans les oppositions entre divers éléments de la société, etc.
Vu que là on sait qu’il y a une nouvelle grande évolution, peut-être que c’est une révolution au sens, cette fois-ci, de retour au point de départ, qu’il y a ce grand chambardement avec l’intelligence artificielle, il faudrait que, cette fois-ci, dans un monde parfait, on arrive, en tirant les leçons des erreurs passées, à rendre plus évidents tous ces éléments cachés à dessein, principalement dans un but de marketing par les entreprises constructrices des principaux outils qu’on utilise tous et toutes.

Ophélie Coelho : J’aime bien cette idée de révolution non pas comme rupture, comme on a tendance à l’employer, mais vraiment comme revenir à son point de départ, donc on repose systématiquement les mêmes questions, avec, généralement, des solutions qui se cherchent aussi dans l’affaire.
Pour toi, Anne, pareil, même question : le mythe de l’immatérialité ne participe-t-il pas un petit peu à une forme de désencrage de la pensée en rendant, du coup, plus difficile la perception des chaînes matérielles mais aussi des dépendances qui sous-tendent ces technologies, donc des mécanismes qui les sous-tendent aussi ?

Anne Alombert : Complètement. C’est ce que disait Mathilde. Ce qui s’est déjà passé à l’époque de la numérisation des sociétés se rejoue effectivement, aujourd’hui, à l’époque de l’intelligence artificielle générative. Quand on dématérialise ces technologies, en fait, après, on peut raconter tout et n’importe quoi. C’est la raison pour laquelle c’est très important de lire ce type de livre. Tous ces débats à n’en plus finir sur la conscience des machines, est-ce que les machines comprennent, est-ce qu’elles ont des intentions, est-ce qu’elles ont des émotions. Les machines, d’accord, mais de quoi parle-t-on ? Qui a des émotions ou une conscience ? C’est le câble ? C’est le centre de données ? Il faut absolument réancrer tous ces discours dans des logiques matérielles, infrastructurelles, industrielles, sans quoi on ne sait plus de quoi on parle et, surtout, on ne sait plus qui produit quoi et quels sont les acteurs. C’est la raison pour laquelle je critique beaucoup le terme « intelligence artificielle », c’est ce que disait Mathilde à l’instant : on masque complètement le fonctionnement technologique, les mécanismes technologiques qui sont à l’œuvre et les humains qui en portent aussi la responsabilité. Gilbert Simondon, le philosophe dont je parlais tout à l’heure, disait toujours que cette manière que nous avons d’anthropomorphiser les machines, de les prendre pour des robots, est liée au fait que nous ne comprenons pas comment elles fonctionnent et si nous comprenions comment tel ou tel dispositif fonctionne, quels sont les dynamiques, les calculs algorithmiques, comment les modèles ont été entraînés, quels sont les jeux de données, etc., nous ne serions pas en train de parler des machines comme de doubles de l’humain.
Je pense donc que ce retour vers cet ancrage matériel et aussi logiciel, puisque les deux vont ensemble, c’est-à-dire comprendre aussi quels sont les modèles technologiques qui fonctionnent et qui se cachent derrière les technologies, devrait être une espèce de culture technique ou technologique partagée par les citoyens, c’est absolument essentiel aujourd’hui,ça pose aussi la question du rôle de l’éducation, etc., sinon je crois qu’on reste dans un rapport complètement magique à la technologie qui est extrêmement nocif parce qu’on peut nous faire croire un peu tout et n’importe quoi.

Ophélie Coelho : Je n’avais pas forcément prévu cette question. Quand on parle justement de cet anthropomorphisme, c’est quelque chose qui est aussi expliqué, véhiculé parfois par les propres créateurs de ces technologies. Est-ce que c’est quelque chose qui, de leur part, est volontaire ou est-ce que, eux-mêmes, ont du mal à prendre du recul ? C’est une question ouverte. À votre avis, est-ce qu’ils ont du mal à prendre du recul vis-à-vis de leurs propres créations ?

Mathilde Saliou : Je pense que ça dépend de quel créateur on parle.
La journaliste Karen Hao [8] a eu un super accès à OpenAI pendant ses premières années. Elle dit que Sam Altman a plus ou moins consciemment tenté de créer une nouvelle religion qui lui permet, au minimum, de faire travailler énormément les employés d’OpenAI parce qu’ils sont complètement fanatiques – c’est moi qui le dis et je grossis le trait, mais, en gros, c’est un peu l’idée –,ils sont tellement convaincus qu’ils vont réussir à faire naître une nouvelle intelligence ! Littéralement c’est le retour de plein de mythologies sur l’homme qui devient Dieu, l’homme qui crée sa propre création, tous ces rêves de puissance et de surpuissance que, peut-être, la philosophe expliquerait mieux que moi.
Il y en a d’autres, et là je citerais peut-être Elon Musk, qui ont un rapport aux humains, vous et moi, qui est tout à fait problématique, en tout cas à mes yeux, et là on parle vraiment d’enjeux politiques : est-ce que le but c’est de faire avancer le commun des mortels ou est-ce que c’est ne faire avancer qu’une certaine petite partie de la population ? Musk n’est pas du tout le seul, c’est juste l’un des plus visibles. Il y en a pas mal qui, quand ils baignent vraiment beaucoup dans toutes les théories proches du transhumanisme, ce courant dont on parlait un peu plus en 2022/2023, le long-termisme, l’altruisme efficace, en fait ils cherchent tellement à dépasser l’humain – d’ailleurs ce n’est pas l’humain qu’ils cherchent à dépasser, c’est eux-mêmes qu’ils cherchent à augmenter et eux-mêmes se considèrent déjà comme au-dessus d’une forme de hiérarchie de tous les êtres. On oublie évidemment complètement ce qui est nature, environnement, etc., c’est juste de la ressource tout en bas de la hiérarchie, et puis, quand on remonte, ce sont toutes les questions de racisme, de sexisme et de misogynie, etc. C’est une petite poignée d’hommes blonds, très riches, je n’ai pas regardé aujourd’hui, mais en général, dans les dix personnes les plus riches du monde, il y en a au moins sept ou huit, depuis bien deux, trois, quatre ans, qui viennent de l’industrie de la tech, qui sont américains et qui ont une fortune désormais vraiment inimaginable, les chiffres ne veulent rien dire. Ce sont donc des hommes blancs issus de la tech américaine et qui cherchent encore à attirer des ressources, etc., bref, pour ne servir qu’eux-mêmes.
Pour Elon Musk, cela se traduit à la fois dans ses activités entrepreneuriales, on pourra détailler plus longuement si besoin, mais ça se traduit aussi très directement dans son comportement. Je ne sais pas si vous savez, mais l’un de ses loisirs c’est d’aller approcher sur X des jeunes femmes plutôt MAGA, plutôt extrême droite, et de leur proposer de les inséminer, parce qu’il voudrait fabriquer sa légion d’êtres, c’est comme cela qu’il en parle, en faisant des références à l’empire romain. Pourquoi veut-il faire ça ? Parce qu’il considère que son capital génétique est le meilleur et que ces futurs êtres pourront être augmentés grâce aux technologies qui auront encore progressé dans une génération. On est vraiment dans des idées très problématiques ! On est au fond du fond !

Ophélie Coelho : Un tout petit peu ! Juste un peu ! C’est effectivement assez nauséabond.
Tu veux réagir là-dessus ?

Anne Alombert : Juste en deux mots, très rapidement. En fait, ça met aussi au jour les idéologies eugénistes qui sont derrière le discours transhumaniste et je pense c’est important de le souligner. À mon avis, c’est un vrai enjeu. Ophélie, tu fais un tout petit peu référence, je crois, à la question des neurotechnologies mais aussi des biotechnologies. On sait que ces Big Tech ont toutes leurs filiales dans la Silicon Valley qui travaillent à trouver comment lutter contre le gène du vieillissement, etc. Il y a, là aussi, toute une idéologie qui est liée. De même que l’idée du cerveau-machine est complètement exacerbée dans les discours transhumanistes d’aujourd’hui, qui croient qu’ils vont recréer de l’intelligence avec des circuits électroniques, est liée au paradigme cognitiviste dans les sciences cognitives, de même cette idéologie eugéniste, l’idée qu’on va pouvoir trouver le gène du vieillissement et ensuite lutter contre, est liée aussi au paradigme de la biologie moléculaire. La question qu’il faut vraiment se poser c’est comment des paradigmes technoscientifiques sont complètement sortis des limites de leur champ pour devenir, en fait, des programmes idéologiques et politiques.

Mathilde Saliou : Si je peux tirer un dernier fil, de l’autre côté. Pour certains, on cherche à augmenter la vie. De l’autre côté, l’entreprise génocidaire à Gaza a été notamment équipée par les outils technologiques, et qui construit ces outils technologiques ? Qui sont les entreprises concernées ? Toujours les mêmes. Il y a notamment pas mal Palantir, l’argent de Peter Thiel, mais il y a aussi des technologies d’IA construites par Microsoft, si je ne fais pas d’erreur.

Ophélie Coelho : De toute façon, ils sont dans la chaîne à chaque fois !

Mathilde Saliou : Il y a énormément de données de surveillance de la population palestinienne qui sont stockées dans des centres de données européens. Tout est absolument lié.

Ophélie Coelho : Absolument. De même que Claude et Amodei a beau dire, de toute façon Claude fait partie du Maven Smart System, intégré à Palantir. Par ailleurs, dans le secteur de la défense, ils n’ont pas refusé l’utilisation de leur technologie, ils ont juste mis une forme de blocage sur les armes autonomes et sur la surveillance de masse, mais, pour le reste, ils vont continuer, ils veulent signer des contrats militaires, il n’y a pas de problème.
Sur cette partie de l’eugénisme et des biotechnologies, quand je parlais de l’empilement technologique et de la transsectorialité, on a quand même aussi quelque chose qui est intéressant de la part de ces entreprises, des Big Tech, qui financent elles-mêmes des entreprises de biotechnologies dans le vivant. Et In-Q-Tel, le fameux fond qui a vraiment beaucoup financé, après 2001, des entreprises sur la surveillance, oriente aujourd’hui ses financements, de plus en plus, vers des technologies qui touchent le vivant, les biotechnologies, donc la génétique, et également, évidemment, l’extraction de minerais rares. Voir quelles sont les pistes d’investissement de ces grands fonds, pour le coup lié à la CIA, mais il y a aussi des fonds privés qui font un peu ce même travail, c’est très intéressant parce qu’ils nous montrent quelles sont leurs problématiques actuelles et pour l’avenir, pour les prochaines 25/30 prochaines années.
On continue un petit peu sur le fil.
Pour Mathilde, ces interfaces cachent un coût cognitif important, mais aussi des dimensions dont on parle de plus en plus, celles de l’extraction des ressources, de la consommation énergétique et des impacts environnementaux associés aux infrastructures numériques, que tu documentes dans L’envers de la tech : Ce que la tech fait au monde, mais aussi, de manière générale, dans ton travail de journaliste. Pourquoi ce sujet prend-il, pour toi, de plus en plus d’importance aujourd’hui quand tu regardes sur tes terrains ?

Mathilde Saliou : Nous sommes en situation d’urgence climatique, je pense que c’est assez évident vu le lieu où nous sommes, donc, déjà, il y a cela.
Il y a aussi le fait que la tech, au début des années 2020, il n’y a donc pas si longtemps, avait pris pas mal d’engagements pour limiter ses émissions carbone. Ces engagements pouvaient quand même être critiquables, la manière dont ils étaient faits était sujette à caution, il y avait beaucoup cette histoire qu’on rachète de quoi compenser, mais on a quand même émis à la base. Mais, depuis la sortie de ce merveilleux outil qu’est ChatGPT d’OpenAI, depuis la lancée vraiment très rapide dans cette course à la fourniture d’IA génératives au grand public, d’une part ces discours ont complètement disparu et, d’autre part, on a vu émerger d’autres types de prises de parole beaucoup plus inquiétantes, type Sam Altman, notamment, qui se met à rêver qu’il y a des datacenters partout sur la planète, littéralement, sans tellement se préoccuper de la question de l’énergie, qui dit ensuite, assez ouvertement, que d’ici peu, on ne sait jamais – ce sont toujours des affirmations assez floues, ça fait plus d’effet, mais du coup, pour moi journaliste, ça permet de bien retracer l’évolution de la pensée – d’ici quelques années, une large part de l’énergie produite sur Terre sera allouée à l’IA. Ça faisait longtemps qu’on n’avait pas parlé d’espace, tout récemment Elon Musk a dit qu’on allait mettre des datacenters en dehors de la planète Terre, sans jamais de considérations, de façon vraiment concrète et sérieuse, sur les enjeux économiques et même techniques que ça poserait.

Ophélie Coelho : Tu veux dire sur le réalisme de la proposition ?

Mathilde Saliou : On est de nouveau dans du récit, du marketing poussé, avec les potards [potentiomètres volumétriques] à fond, mais, derrière, il y a quand même des choses concrètes qui se passent. De fait, depuis l’explosion de l’intelligence artificielle, il y a quand même aussi, derrière, une frénésie pour l’industrie des datacenters qui viendra mettre en place les bâtiments et, dedans, tous les serveurs qui permettent de faire tourner ces outils. Il se trouve que, par exemple depuis 2022, deux tiers des projets qui ont été annoncés et lancés l’ont été avant tout dans des zones de stress hydrique à l’échelle de la planète. Ce n’est pas le cas pour la France, je le dis d’avance, mais les modèles de centres de données portés par les acteurs américains fonctionnent le plus souvent sur un système de refroidissement à l’eau. Je raconte le truc à l’envers.
Nos ordinateurs, mais aussi pour les IA, les serveurs calculent énormément, ils chauffent, donc il faut les refroidir. En France, on a plutôt tendance à utiliser des technologies de refroidissement à l’air, quoi que ça évolue tout doucement et de manière un peu moins inquiétante qu’ailleurs. Aux États-Unis, Meta notamment, mais je suppose que Google aussi, recourent assez largement à de l’eau. Si je suis en train de vous dire que, de plus en plus, ils vont construire leurs datacenters dans des zones où il y a déjà des situations de stress hydrique, en fait tout de suite on voit venir les grandes questions de conflits d’usage : à qui donne-t-on la priorité sur l’eau entre le centre de données et le champ d’à côté ou, parfois, le centre de données et, directement, les habitants d’à côté ? Le Chili, par exemple, a vu le sujet émerger peut-être un peu avant nous, parce qu’ils avaient déjà une culture de lutte sur ces questions précises. Par exemple, un projet de centre de données de Google a été freiné, dès 2022, et finalement stoppé dans une ville dont le nom m’échappe ce soir [Cerrillos, NdT] ; ça a été le fait de toute la mobilisation citoyenne sur place pour alerter, protester. Mais, pour qu’il y ait mobilisation citoyenne, il faut qu’il y ait diffusion de l’information : quels sont ces projets ? Où est-ce qu’ils vont se lancer ? Qu’est-ce qu’ils impliquent concrètement ? Je vous ai cité le cas de l’eau, mais il y a aussi le cas de l’énergie qu’il faut mettre dedans. Aux États-Unis, pour reprendre ce seul exemple, deux tiers de l’électricité restent fabriqués à partir d’énergies fossiles, de charbon et d’autres joyeuses ressources de ce type. Donc, ce qui est en train de se passer aussi en sous-main, c’est une accélération vers plus d’émissions de CO2 plutôt que la promesse d’égaliser, voire de réduire, à 2030, ce qui était formulé il y a à peine cinq ans, y compris par Microsoft, par Amazon, même si, certes c’était sous la pression de leurs employés. Ils avaient pris des engagements qu’ils ont complètement abandonnés en deux/trois ans.
Bref, si nous voulons, collectivement, continuer de nous occuper de cette urgence climatique, je pense que c’est vraiment un sujet très actuel. D’ailleurs, il y a plein d’endroits locaux, je pourrais y revenir si on a le temps, où des conflits émergent. Là je vous ai donné les grandes masses, mais, dans des endroits locaux, ça crée à chaque fois des enjeux très spécifiques soit sur le réseau électrique soit sur la qualité de l’air soit sur l’accès à l’eau par exemple. Je ne l’ai pas dit, mais, parfois, c’est sur le foncier, construire un datacenter ça veut dire occuper l’espace qui aurait pu être alloué à autre chose, à un autre projet d’intérêt pour la ville locale.

Ophélie Coelho : Il y a effectivement de plus en plus de controverses, même en Europe, c’est vrai que ça monte beaucoup.
Donc, d’un côté, il y a ces problématiques physiques, sur le territoire. On peut parler aussi des effets cognitifs de l’intelligence artificielle générative. On parle souvent des médias sociaux, mais on parle peu des effets cognitifs de l’intelligence artificielle générative. En quoi ces outils prolongent-ils un phénomène déjà lié à l’automatisation ?, chose que tu abordes aussi dans ton livre. Est-ce qu’ils accentuent ou accélèrent, du coup, les effets cognitifs qu’on avait pu déjà observer auparavant ?

Anne Alombert : En fait, c’est assez frappant de remarquer qu’il y a de plus en plus de réflexions concernant les réseaux sociaux commerciaux. Je précise toujours « commerciaux » parce qu’on veut interdire tous les réseaux sociaux à tout le monde, le problème c’est qu’il y a un réseau social et réseau antisocial, il faut les distinguer, c’est important. Certains s’étonnent, d’autres constatent, d’autres s’inquiètent de la manière dont les réseaux sociaux, les algorithmes de recommandation affectent nos capacités psychiques et nos relations sociales. En revanche, quand il s’agit des intelligences artificielles génératives, on a l’impression que ces questionnements ne sont pas présents, en tout cas pas assez présents dans le débat public actuellement. Je suis frappée de cela, peut-être parce que c’est une question qui me préoccupe, peut-être que c’est simplement une lubie personnelle, je ne sais pas, mais je trouve qu’il y a quand même un écart. On en a déjà parlé ensemble, Ophélie, et je sais que tu es un peu d’accord avec moi sur ce point, alors qu’il y a une véritable continuité entre la manière dont fonctionnent les algorithmes de recommandation sur les réseaux sociaux commerciaux et la manière, si je puis dire, dont fonctionnent les algorithmes de génération dans les chatbots, notamment quand on s’intéresse à ce qu’on appelle les dark patterns, ces fonctionnalités trompeuses, persuasives qui cherchent un petit peu à nous manipuler ou à nous conditionner, autrement dit à produire des comportements à notre insu, à nous faire nous comporter de telle ou telle manière.
Je donne des exemples pour que ce soit plus clair.
Tout d’abord, le fait que tous ces chatbots parlent à la première personne du singulier est une manière qui va nous inciter à les anthropomorphiser. On pourrait peut-être imaginer que ce ne soit pas le cas et que, du coup, certains adolescents ne soient pas incités à se confier à leur chatbot si le dispositif ne parlait pas à la première personne du singulier.
Le fait que la plupart de ces dispositifs vont vous relancer en permanence, vous demander « n’as-tu pas une autre question à me poser ? Veux-tu plus de précisions sur ce sujet, etc. ? ». C’est un petit peu l’équivalent du défilement infini. C’est une technique, une fonctionnalité qui vous incite à rester connecté, à demander encore autre chose, à aller plus loin, etc.
Le fait aussi que ces systèmes nous confirment le plus souvent dans nos opinions en nous disant que notre question est vraiment formidable, que tout ce qu’on a demandé est très intéressant, c’est tout à fait passionnant, etc., c’est un peu l’équivalent de ce qu’on avait vu sur les réseaux sociaux avec les bulles informationnelles. Ce fameux phénomène des bulles de filtres ou des chambres d’écho, etc., qui fait qu’on nous recommande toujours les contenus qui sont censés nous plaire, donc, en fait, on nous enferme dans une sorte de boucle de rétroaction avec nous-même et nous-même. Là c’est un petit peu la même chose, c’est-à-dire que le chatbot va nous confirmer dans nos opinions et le problème c’est qu’on va être beaucoup moins confronté à des opinions potentiellement différentes des nôtres, qui rentrent peut-être en contradiction avec les nôtres, etc. Vous me direz « je peux le programmer pour lui dire de me dire des choses avec lesquelles je ne suis pas d’accord ». Le problème c’est que, dans les relations sociales et humaines, en général ce n’est pas vous qui décidez quand l’autre n’est pas d’accord avec vous et ce n’est pas vous qui lui avez demandé d’être gentil, d’être méchant. Ce serait peut-être plus facile, mais disons que ça n’a rien à voir.
Je pense que là il y a un vrai enjeu. Les interactions que nous avons avec ces systèmes vont conditionner aussi, petit à petit, nos manières de nous rapporter aux autres. Je rappelle simplement que ce sont des systèmes auxquels, la plupart du temps, nous pouvons poser toutes sortes de questions, mais nous leur donnons plus ou moins des ordres. Même quand nous leur posons une question, en fait nous sommes en train de dire « réponds à ma question maintenant, tout de suite ! ». Même si nous ne donnons pas un ordre, c’est quand même, on va dire, une modalité d’interaction impérative avec un système qui est présent 24 heures sur 24, sept jours sur sept. Nous sommes incités à croire que ces systèmes sont d’autres personnes, donc si nous commençons à nous comporter, les uns aux autres, en nous donnant des ordres et en attendant que les autres répondent à nos ordres 24 heures sur 24, sept jours sur sept, en termes de relations sociales ça peut devenir très vite très problématique.
Je ne dis pas que toutes les intelligences artificielles génératives fonctionnent nécessairement comme cela. Je dis simplement qu’un certain nombre de fonctionnalités, dans ces systèmes-là, me semblent assez problématiques.
Tu parlais d’automatisation, sans compter le fait que nous allons progressivement déléguer de plus en plus d’activités cognitives, intellectuelles, psychiques, quel que soit le terme qu’on utilise ici, à des mécanismes de calcul algorithmique. Donc, si nous leur déléguons nos capacités à écrire, nos capacités à synthétiser, nos capacités à parler, en fait nous allons perdre ces capacités-là. Quand nous nous exprimons, il y a un certain nombre de facultés psychiques très fondamentales, comme la mémoire et l’imagination, qui sont à l’œuvre et, si nous ne les pratiquons plus, tout simplement il y a un risque de perdre nos capacités intellectuelles ou psychiques. Par exemple si vous jouez au tennis, que vous arrêtez de jouer pendant très longtemps, vous allez tout simplement perdre vos capacités gestuelles, manuelles.
À mon avis, il y a de nombreux risques dont on devrait se préoccuper un petit peu plus.

Ophélie Coelho : Merci beaucoup.
Justement, qu’est-ce qui, aujourd’hui, empêche de rendre ces effets, que ce soient les effets sur les ressources, sur le matériel, sur le monde et sur l’esprit, plus visibles et plus discutés dans le débat public, finalement ? C’est une question pour vous deux.

Mathilde Saliou : L’argent ? Le lobbying des Big Tech, au niveau européen, était le plus gros – il faudrait vérifier l’année, je crois que c’était en 2023 au moment de la sortie de Technoféminisme –, en nombre d’euros dépensés que celui du monde bancaire qui, pourtant, a beaucoup d’argent, à priori, à placer. Cela fait longtemps qu’il y a une poussée financière pour pousser les intérêts des entreprises numériques auprès des régulateurs partout sur la planète, je cite l’Europe parce que nous y sommes, mais ça a évidemment lieu un peu partout ailleurs et peut-être que c’est devenu particulièrement éclatant. Il s’agit de questions d’argent, mais aussi de questions de réseaux, de pouvoir, etc., depuis le retour de Donald Trump au pouvoir et depuis ce grand virement, cette fois-ci assez assumé, des entreprises de la tech pour le suivre alors qu’elles avaient plutôt été moins ouvertement derrière Trump pendant son premier mandat et puis, globalement, elles cherchaient surtout et avant tout, et ça reste le cas encore aujourd’hui, à avancer leur idée numéro un qui était « régulez-nous le moins possible ».
Aujourd’hui, outre un enjeu de lobbying – aller voir les régulateurs en permanence –, c’est devenu carrément un enjeu géopolitique. Quand il y a des luttes sur les taxes douanières, ce sujet apparaît aussi dans les bras de fer.
Donc, forcément, face à ces vastes poches pleines de finances et ces relations très bien cultivées, les citoyens peuvent se sentir un peu démunis. Heureusement, ceux dont on parle depuis tout à l’heure, c’est quand même une petite poignée d’acteurs.
L’Europe aurait pu faire autrement, comme tu le disais en fin de présentation, et puis Internet tel qu’il est fabriqué techniquement, n’était pas forcé d’évoluer de cette manière, avec cette captation, au final, à la fois d’utilisateurs, à la fois de finances, à la fois de multiples points de dépendance.

Ophélie Coelho : Il y avait effectivement d’autres modèles technologiques, en réalité. On a l’impression que la big technology est la seule qui existe, d’une certaine manière, alors qu’il y a bien d’autres façons de faire. L’un des exemples qui est intéressant c’est ne serait-ce que la décentralisation des réseaux, de base, qui distribue par défaut le pouvoir sur une multitude d’acteurs. Au final, le Web aurait pu aussi être sur ce type de modèle, ce qui n’a pas été le cas, comme tu le disais. La captation créée, derrière, des monopoles ou quasi-monopoles et effectivement une concentration de richesses et de moyens d’action.

Mathilde Saliou : Si je peux enchaîner. On n’entend pas parler de cette partie-là à la fois par manque d’argent et aussi par manque de moyens d’accès à l’information. Cette fois-ci, ce sont à la fois les médias au sens traditionnel du terme. On pourrait débattre de la concentration des médias en France qui est un enjeu à part entière, de même que la concentration des maisons d’édition qui a été évoquée au début. Je trouve que ce qui est assez rarement analysé avec des yeux journalistiques au sens connaissance du fonctionnement des médias, par mes collègues journalistes, c’est la concentration des réseaux sociaux qui est aussi un enjeu d’accès à l’information. Au final, quand on est tous coincés, si je le dis très grossièrement, sur TikTok, X et Instagram, vu la tendance politique, démontrée par énormément d’études scientifiques, que X a vraiment un biais très marqué vers l’extrême-droite, assumée un peu plus ouvertement, même si, à priori, un peu moins marquée côté Meta mais pareil, ne serait-ce qu’en supprimant toutes les logiques de modération qui existaient, dès le retour de Donald Trump, en fait ça donne de nouveau plus de souffle aux voix les plus virulentes, donc assez vite à un bord politique plus violent qu’à d’autres, c’est comme si nous étions tous en train de lire Le JDD en permanence, c’est un peu grossier, mais c’est la même logique qui s’applique côté réseaux sociaux. Là aussi, il y a tout un travail, toute une logique de mobilisation à faire monter, à la fois sur les questions techniques, donc faire émerger d’autres modèles de réseaux sociaux, des modèles européens, etc., mais aussi, et c’est un grand enjeu auquel je m’emploie avec toutes les autres personnes qui font de la vulgarisation, d’une manière ou d’une autre, dans leur profession, faire comprendre au public qu’il a quand même un peu plus le choix que ce qu’il pense, qu’il peut changer de plateforme, quel intérêt il aurait à changer de plateforme, mais c’est une tâche hyper complexe. Par exemple, ça fait 15 ans qu’on parle de la simple question de protection de la vie privée, et en fait c’est hyper dur de rendre ces enjeux évidents au public, en tout cas il faut lutter face à des plateformes qui sont fabriquées de manière tellement simple pour les utilisateurs, là ce sont à nouveau toutes les questions de design addictif, juste de plaisir esthétique.

Ophélie Coelho : C’est le don’t make me think des années 2020 pour les designers.

Mathilde Saliou : Et encore aujourd’hui.

Anne Alombert : Je n’ai pas grand-chose à dire de plus. Je crois que Mathilde a fait le tour. J’ai pensé à une chose en t’écoutant, mais peut-être que j’ai oublié déjà.

Ophélie Coelho : C’est la fatigue du retour du Canada.

Anne Alombert : C’est ça ! Pourquoi n’en parle-t-on pas ? Je voulais quand même dire une chose : la technique, traditionnellement, et le numérique aussi ont mis un peu de temps à devenir une question politique à part entière. Je sais que c’est peut-être un peu idiot de dire les choses comme ça, mais on est quand même dans une phase de transition, ça fait très naïf de dire ça, mais en réalité c’est vrai. Ce sont des technologies qui transforment énormément d’aspects à la fois au niveau économique, industriel, géopolitique, mais aussi psychique, social, etc., c’est une véritable révolution en ce sens. Et les savoirs qui permettent de penser ces transformations arrivent toujours dans l’après-coup.
Je pense qu’il y a aussi cet effet-là et puis il y a évidemment l’effet du lobbying et du marketing avec des entreprises qui ont vraiment des stratégies marketing extrêmement puissantes, d’immenses moyens pour financer ces stratégies, et puis avec des médias dominants, même si tous les médias ne se valent pas, qui accompagnent ces stratégies. Par exemple, dans le cas de ChatGPT, vous avez tous entendu, dans les deux semaines qui ont suivi le lancement du produit ChatGPT, parler de ChatGPT sur toutes les chaînes de télévision et que vous disaient toutes les chaînes de télévision ? Que tous les individus se précipitaient sur ChatGPT, qu’ils allaient adopter en masse ChatGPT. Oui, mais au moment vous le dites, vous le faites si je puis dire. C’est la dimension performative du discours médiatique, c’est la prophétie auto-réalisatrice : on vous annonce qu’une technologie a été adoptée par tout le monde, mais s’ils ne l’avaient pas tous annoncé en même temps, tout le monde ne l’aurait peut-être pas adoptée, vous voyez ce que je veux dire.
Il y a donc cet enjeu-là qui est très important, de même ce collier gadget, Friend, dont on a vu des publicités dans le métro parisien pendant assez longtemps. Je dis ça parce que, bien souvent, on nous dit « regardez, les gens adorent, ils se sont tous jetés sur telle ou telle technologie. » Oui, mais regardez aussi les budgets de ces entreprises en termes de marketing et de publicité. Je ne sais pas si ces mouvements de population sont si spontanés, même si ces technologies, bien sûr, sont ergonomiques, sont pratiques, etc. Mais si on nous parlait aussi de Mastodon [9] au Journal de 20 heures Mastodon est un logiciel de microblogage libre tous les soirs, peut-être y aurait-il plus de personnes qui iraient sur un réseau social décentralisé, distribué, qui ne vous vole pas vos données, qui n’exploite pas votre attention, qui vous permet de vous relier de manière beaucoup plus saine à différents individus, différents groupes.

Ophélie Coelho : C’est clair. Effectivement. Du coup c’est bien, parce que ça fait une excellente transition vers ce qu’on peut apporter comme solutions à toutes ces problématiques de part et d’autre. Je vous pose la question : quelles sont les solutions que vous voyez face aux soucis, aux phénomènes que vous observez dans vos domaines respectifs ?

Mathilde Saliou : Dans le fond, je pense qu’un des grands problèmes c’est qu’on ne sait pas comment, collectivement, parler de numérique et on ne sait pas comment, justement, faire en sorte de reprendre du pouvoir en tant que groupe. À ce titre j’ai trouvé l’initiative de tout un jeu d’associations qui ont lancé un site manifeste qui s’appelle Désescalade numérique [10], en amont des municipales, assez intéressant. Dedans elles font 10 blocs de propositions, de toute manière on n’est pas obligé d’être d’accord avec tout, on n’est pas obligé de tout prendre, mais ça donne 10 points d’entrée différents dans le sujet.
Par exemple, ça peut être aller demander à son candidat, du coup désormais à son maire, des comptes sur le déploiement de caméras de surveillance, si on est plutôt intéressé par ces questions-là ;
ça peut être aller discuter de la diffusion d’intelligence artificielle soit chez les petits, soit dans les relations à la mairie, parce qu’il y a des mairies, en 2022/2023, qui offraient un accès à ChatGPT, donc peut-être aller demander des comptes là-dessus si on considère que ce n’est pas de l’argent public bien dépensé ;
ça peut être, du coup, essayer de poser des questions si jamais on entend parler de projets de datacenters autour de chez soi, qui les portent, dans quelles conditions ça va être construit, est-ce qu’on peut protester, demander des adaptations, etc.
Je pense que type d’initiative qui montre de nouveau la variété de points d’entrée possibles est intéressant parce que ça permet à chacun de s’emparer de la question par le sujet qui l’intéresse le plus.
Après, il y a aussi tout le côté vulgarisation. Je parle parce que je suis là en tant que journaliste, je fais ma journaliste. Si on arrive à faire mieux circuler l’info sur la variété des contre-propositions qui existent, à priori ce serait positif pour tout le monde, mais il faut que soient soutenus les médias indépendants , il faut militer pour qu’on garde un service public médiatique, c’est très important.
Je pense que c’est surtout vous qui allez porter les solutions. Il y a énormément d’entreprises très fortes sur toute la chaîne de dépendance ou chaîne de valeur numérique en Europe, donc leur permettre d’éclore plutôt que chercher à faire émerger un champion français ou européen, ce qui est assez illogique dans le sens où, si on fait ça, on va se retrouver dans le même type de problématique que les États-Unis avec leurs grandes entreprises, ça peut être des pistes.
Je pense que nous allons avoir beaucoup de réponses communes. J’ai envie de vous passer le micro.

Anne Alombert : J’aimerais bien t’entendre aussi, Ophélie, sur cette question.
Pour dire deux mots, je pense effectivement que cette logique d’imitation de la compétition n’est pas la bonne. S’il faut parler d’empires, je pense que nous ne sommes pas à la hauteur des empires américains ou chinois en termes simplement quantitatifs. Ce n’est peut-être pas la stratégie qu’il faut adopter. Peut-être qu’il faut plutôt se dire qu’on va faire les choses différemment, qu’on va proposer justement des modèles technologiques, industriels, qui ne sont pas les mêmes. Il faut soutenir ces modèles-là en particulier dans le contexte actuel. Si on ne veut pas se retrouver soumis, en tant qu’Européens, à un impérialisme ou à un autre, il y faut aussi qu’on puisse promouvoir des alternatives.
Sur les deux technologies sur lesquelles j’ai un peu plus travaillé, les algorithmes de recommandation sur les réseaux sociaux et les IA génératives, je peux peut-être donner deux exemples d’alternatives qui me semblent intéressantes.
Sur les algorithmes de recommandation, c’est le principe de la recommandation collaborative telle que la propose l’association Tournesol [11], qui développe un algorithme de recommandation collaboratif, qui permet aux individus, aux citoyens de voter ou d’évaluer, disons de comparer, de noter des vidéos et l’algorithme s’appuie sur les jugements des citoyens pour recommander les contenus. C’est un principe très intéressant, on pourrait imaginer d’autres algorithmes de recommandation collaboratifs qui se développent, avec des communautés de pairs qui recommandent, en amont, certains contenus et l’algorithme se base là-dessus, sachant que c’est très intéressant aussi dans le domaine culturel. Quand YouTube vous recommande une vidéo de jazz, par exemple, il ne juge pas la qualité du morceau de jazz, il regarde simplement quantitativement le nombre de vues ou d’autres critères. Alors que là on peut avoir des recommandations vraiment qualitatives sur le contenu. Ça me semble une alternative extrêmement intéressante. Bien sûr, il faut qu’elle s’accompagne, et c’est le cas de toutes les alternatives technologiques, d’un certain nombre de prises de position politiques et aussi, potentiellement, de régulation. Il faudrait peut-être qu’on se dise que ce serait bien de demander ou d’exiger, de la part des réseaux sociaux commerciaux, de diversifier leurs algorithmes de recommandation, de s’ouvrir à des algorithmes de recommandation différents, etc., parce qu’on a beaucoup été, en termes de régulation, dans une logique de punition, si je puis dire, au sens où on va partir à la chasse à la mauvaise information, mais le problème fondamental c’est qui recommande, d’une certaine manière. Il faudrait peut-être déjà ouvrir les recommandations plutôt que de laisser une personne ou une entité recommander et ensuite faire le tri.
Toutes ces questions-là qui me semblent intéressantes à creuser.
Après, sur la question de l’intelligence artificielle générative, je me demande déjà, premièrement, si ces grands modèles généraux, ces agents conversationnels, ces super intelligences générales sont le seul avenir technologique et industriel, je n’en suis pas sûre et là je pense, Ophélie, que tu pourras compléter peut-être un peu. Est-ce qu’on n’a pas plutôt intérêt à développer des modèles spécifiques, spécialisés, dont on contrôle un peu les jeux de données, dont on sait un petit peu comment ils fonctionnent et dont on sait qu’on peut les utiliser de manière fiable et sécurisée pour telle ou telle fonction. Sachant aussi, pour les raisons évoquées par Mathilde, qu’on n’est pas du tout sûr que chaque citoyen ait ChatGPT dans sa poche. Est-ce que ce sera encore possible dans 10 ans, dans 20 ans, vu les coûts écologiques, les coûts environnementaux, Ce n’est peut-être pas du tout dans cette direction-là qu’il faut aller.

Ophélie Coelho : De très bonnes pistes. De mon côté, c’est vrai que j’ai une approche très politique industrielle, d’une part, et, de l’autre, disons produit dans le sens cohérence technique. Le modèle technologique est effectivement quelque chose qui me parle beaucoup parce que ce qui pose réellement problème, en réalité, c’est cette idée de la big technology qui a, derrière, des conséquences systémiques, alors qu’on peut tout à fait faire autrement. La technologie est une matière plastique, en fait, on peut en faire ce qu’on veut, en réalité c’est nous qui sommes aux commandes de ce qu’on en fait.
Le numérique peut être centralisé comme il peut être totalement décentralisé, il peut être capté à distance comme il peut être portable, en fait c’est un choix technique, c’est un choix technologique, quand on parle de technologie, d’ensemble cohérent.
Là, en l’occurrence, il faut effectivement qu’on se pose la question : quel numérique veut-on pour l’avenir, après 20 ans, 25 ans passés à regarder ce qui se passait, quelles étaient les conséquences de la captation privée ? C’est un peu comme à l’époque l’Empire britannique qui se rend compte que ses compagnies à charte font n’importe quoi en Inde, je pense qu’à un moment donné il faut aussi se poser la question : oui, c’est bien d’avoir fait la course aux profits et d’avoir les plus hautes capitalisations, d’avoir rendu addictif tout le monde sur les systèmes numériques, maintenant comment fait-on pour rendre plus sain ce système numérique, en fait le lui redonner sa place d’outil, tout simplement ? Pour cela, oui, il faut effectivement de l’argent, il faut des investissements mais en fait, quand on veut, il y a des investissements : on peut créer de la monnaie quand on veut vraiment le faire, on peut le faire, on a une banque centrale au niveau européen, certes ce n’est plus national, il faut discuter, parlementer, etc., mais on peut le faire.
Il y a donc des choses à faire, ça ne va pas casser le marché de créer de la monnaie pour financer des projets, mais il faut le faire intelligemment. Ce que j’observe et qui me sidère un petit peu au niveau européen, c’est qu’il y a une multitude de projets européens qui sont sortis ces dernières années, c’est très bien : il y en a un sur l’identité numérique, par exemple ; il y a plusieurs EDIC [European Digital Infrastructure Consortium] sur des projets comme les digital commons, les communs numériques ; il y en a d’autres sur les super conducteurs. Il y a plein de choses très différentes, très intéressantes. Maintenant le problème est que ces projets ne travaillent pas ensemble, sont parcellaires, ont tendance, parfois, à refaire la roue systématiquement, ils n’ont parfois d’européen que le financement puisqu’ils sont souvent associés au pays où ils sont mis en place. Donc, à mon sens, c’est de l’argent balancé par la fenêtre, pour dire les choses comme il faut, très honnêtement c’est vrai, et on fait ça depuis des années alors même qu’il y a urgence à agir de manière cohérente.
En face on a une logique extrêmement bien ficelée, on a vraiment quelque chose de très logique, une approche quasi-militaire de la chose où on va mettre en place à la fois le marketing mais également la recherche des investisseurs, la recherche des structures, et c’est toute une chaîne qui, derrière, suit l’ordre de bataille des Big Tech, en l’occurrence, quand on parle des grands monopoles, des quasi-monopoles.
De l’autre côté on a, par exemple, une Europe qui, de temps en temps, lance des petits projets par-ci par-là, sans aucune cohérence, sans aucun suivi, et, ce sont souvent des projets, du coup, qui ne passent pas à l’échelle et qui meurent de leur mort naturelle, quasiment, et qu’on oublie. Ce n’est pas possible, à notre époque, de fonctionner de cette manière-là, c’est une première chose.
Sur le modèle technologique, on a quand même un atout en Europe en plus. Certes, on n’a pas de Big Tech, mais on a un grand maillage, un maillage de PME, d’entreprises plus petites et c’est bien d’avoir des entreprises plus petites parce que, justement, ça évite la captation de trop de valeur donc de trop de pouvoir politique, au final, dans la main de quelques-uns et ce n’est pas mal quand même. Quand on voit ce qui se passe notamment dans les médias et dans la presse, dans le monde de l’édition, on se dit qu’au moins en Europe, au niveau du numérique, on peut rester sur un maillage d’acteurs relativement petits si on s’y prend bien. Ce serait pas mal de profiter de ce qu’on peut considérer comme un avantage et d’y placer une forme de cohérence, mais de cohérence pensée, réfléchie. Je me demande presque, parfois, s’il ne faudrait pas une sorte de CERN du numérique, quelque chose qui fasse ensemble, qui permette de créer une stratégie d’ensemble, qui ne soit pas forcément dépendant de l’Union européenne en soi, qui soit peut-être plutôt un ensemble de pays qui souhaitent travailler ensemble avec des instituts de recherche, des industries et des États, des forces publiques, et puis peut-être aussi un conseil de citoyens, ça ne ferait pas de mal à l’orientation de la technologie et qu’on puisse créer une cohérence sans oublier le confort des utilisateurs. Ce qui nous pose problème aujourd’hui, on le voit bien, c’est que nous sommes fatigués, il y a beaucoup trop d’informations, beaucoup trop d’outils. Ce qui nous facilite la vie c’est d’avoir, par exemple, ce fameux connecteur, ce compte unique de chez Google ou de chez Microsoft, ce que vous voulez, en général c’est ça, Meta a un peu planté son coup sur le sur le connecteur unique, mais effectivement c’est ça, c’est cette passerelle qui fait qu’à un moment donné on s’inscrit dans ces usages et on a du mal à s’en défaire.
C’est donc quelque chose qu’il faut travailler pour créer des passerelles qui soient transversales sur des plateformes européennes, mais qui soient, pourquoi pas, tokenisées, anonymisées. Il existe des solutions techniques, une portabilité de l’identité numérique, ce sont des choses qu’on peut faire.
Ensuite, il existe aussi des choses dont on ne parle pas assez, donc j’en parle quand je peux, le fait d’avoir, par exemple, des OS, que ce soient les environnements techniques de vos téléphones ou de vos ordinateurs, qui soient sur du Linux, Ubuntu ou ce que vous voulez, j’aime bien Ubuntu, mais je ne force personne à l’utiliser. Un autre OS que j’aime beaucoup c’est /e/OS [12], que vous pouvez installer sur n’importe quel téléphone, qui a été créé par Gaël Duval, le créateur aussi de Mandrake à l’époque. Vous pouvez acheter un téléphone, pour ne pas avoir à l’installer, sur lequel est déjà installé /e/OS via Murena [13]. Je pourrais aussi vous parler du Fairphone [14], que vous connaissez déjà, nous sommes à l’Académie du climat. Il y a des avantages et des inconvénients à ce téléphone, mais, globalement, je trouve que c’est plutôt une bonne chose, un bon geste d’avoir un FairPhone avec /e/OS dessus, ou un équivalent, peu importe, il y a d’autres OS mobiles, en tout cas ça permet de gérer un petit peu mieux sa vie privée.
Il y a donc pas mal de choses à faire, mais, à un moment donné, il faut effectivement que ce soit confortable, il faut que ces outils nous correspondent dans nos usages parce que nous sommes des utilisateurs fatigués.
Sur le cognitif, tout à l’heure je mettais une note sur le fait qu’il serait effectivement intéressant qu’on prenne ça comme un problème de santé publique. Je pense donc qu’il faut qu’on finance plus d’études sur les effets cognitifs, quand je dis cognitifs, sur les neurotransmetteurs. Des études, justement, ont été faites sur les impacts des usages numériques sur les neurotransmetteurs, que ce soit le système dopaminergique et la dopamine n’est pas la seule. J’en parle un petit peu dans mon bouquin, je ne suis pas une spécialiste du sujet, mais forcément, quand je m’intéresse aux différents leviers de pouvoir, je suis obligée de travailler là-dessus aussi, d’aborder la partie cognitive et je pense qu’il nous manque effectivement énormément de recherche. Il faut qu’on finance des projets de recherche afin de savoir, de comprendre exactement ce que ça fait à notre cerveau.
À une époque, on servait du vin, aux enfants, à la cantine, on trouvait ça normal. À une époque, dans la rue, des enfants fumaient à 12 ans ; mon père a commencé à fumer à 12 ans au Portugal à l’époque.
Aujourd’hui, je pense qu’on peut effectivement se poser la question de ce que font ces objets, qui nous paraissent tout à fait communs, à notre cerveau, ce qu’ils font à notre capacité de penser et, in fine, à la démocratie. Ce n’est pas Elon Musk, tout seul, qui fait du mal à la démocratie, en fait c’est l’ensemble, c’est la manière dont ils sont conçus, d’une manière ou d’une autre.
Je pense qu’on a pas mal de pistes.
Je pourrais parler très longtemps de la politique industrielle, de cette instrumentalisation de l’interdépendance, mais je vais vous perdre un petit peu et je pense que je vais me perdre moi-même aussi, à cette heure-ci. Je vous propose de passer aux questions de la salle et, du coup, on pourra aussi approfondir les solutions ensemble si vous le souhaitez.
On va faire passer un micro. Je vais peut-être demander à Camille si elle se sent de faire passer le micro.

Questions du public et réponses

Public : J’ai deux questions à propos de la présentation initiale du livre.
La première. Vous n’avez pas défini ce qu’est un datacenter, un centre de données. En gros, le Raspberry Pi qui est connecté à la box Orange est-il considéré comme un datacenter ou pas ? La baie de serveurs qui est dans une université ou dans une association est-elle un centre de données ?
Une deuxième, sur la question de l’Afrique, un sujet qui m’intéresse. Si jamais, un jour, un État africain décidait d’arrêter de faire n’importe. Quand vous parlez d’une coupure de câble, vous avez dit « il n’y a plus d’Internet », ce n’est pas vrai, il y a toujours Internet. Par contre, effectivement, il n’y a plus la connexion externe. Dans quelle mesure serait-il possible, sans violer la neutralité du Net, serait-il possible d’encadrer ces violations de la neutralité du Net, de bloquer tous les trafics à haute-consommation comme la vidéo, qui, effectivement, ne peuvent pas passer si on coupe les câbles extérieurs, et de maintenir le small Web ou les échanges en textes qui eux, en réalité, pourraient passer, même si c’était un peu compliqué ?

Ophélie Coelho : Question très intéressante.
La première chose sur le centre de données. C’est vrai que je ne l’ai pas défini. Par ailleurs, j’ai tendance à me concentrer, c’est un peu un biais, plutôt sur les grosses infrastructures que sur les petites. Et pourtant, par exemple quand je compte le nombre de centres de données, je me confronte à cette problématique. Il y a des tout petits centres de données, qui sont comptabilisés néanmoins comme centre de données, et puis il y a les très gros. Du coup, comptabiliser les centres de données, in fine ça ne veut pas dire grand-chose. Ça donne une indication, mais en termes de capacité de calcul et, de manière générale, de taille, ça ne veut rien dire. D’ailleurs très souvent j’utilise plutôt des logiciels cartographiques qui me permettent d’aller regarder la surface, c’est la seule manière que j’ai trouvée pour essayer de considérer le poids de l’infrastructure. C’est une petite parenthèse mais, effectivement, on peut avoir des centres de données de plein de tailles différentes.
Pour faire très simple, les baies de serveurs sont des machines dans lesquelles on va avoir de l’hébergement de données de base, des logiciels qui traînent et du traitement de données d’une manière ou d’une autre. Quand on parle de traitement de données, donc de calculs, c’est là où la question de l’IA a un poids assez important, le développement de l’IA a un poids assez important dans l’implantation de centres de données en capacité de produire beaucoup de calculs, donc de faire beaucoup de traitements d’informations parce que l’intelligence artificielle générative en a besoin.
Après il y a plusieurs écoles : telle puce consomme moins qu’une autre, peu importe. En tout cas, on a effectivement un vrai sujet sur les centres de données.
Ensuite, il y a plusieurs typologies de centres de données.
Il y a le centre de données qui appartient à une Big Tech, généralement pour stocker ses propres logiciels. Il y a aussi une question de droit, de secret industriel et intellectuel dans cette affaire, bien sûr.
Il y a les sociétés disons traditionnelles de centre de données qui ont leurs clients, c’est une entreprise qui a des clients en direct.
Et puis il y a les acteurs de la colocation : en gros ils ont des murs, potentiellement avec des baies déjà installées, donc des machines déjà installées mais pas toujours, et ils vont louer des serveurs, des capacités de serveurs, en gros des locaux aussi, à des tiers du coup. Très souvent, cela représente à minima 30 % de l’activité des Big Tech quand elles implantent un centre de données quelque part, ce qui explique que ce sont des partenaires directs et privilégiés. C’est-à-dire que très généralement, quand on regarde la cartographie des câbles sous-marins des Big Tech, que ce soit Meta ou Google, pas très loin de la station d’atterrissement, il va y avoir un centre de données Equinix ou Digital Realty, qui sont les géants de la colocation de serveurs. En fait, quand ils mettent en place ces projets de câbles sous-marins et de centres de données, je me demande s’ils ne le pensent pas ensemble. Pour le centre de données de colocation c’est tellement logique, même techniquement, que forcément ils s’implantent ensemble. Ces grands centres de données, ces grands centres de colocation de serveurs vont servir justement très souvent de comptoir technique. Donc ça pour centres de données.
Ensuite sur l’Afrique. Oui, effectivement, c’est trop facile de dire que ça coupe Internet. D’ailleurs, j’ai envie de dire que je me tape un peu sur les doigts, j’explique souvent quelque chose : ce n’est pas parce qu’on coupe un câble quelque part que ça coupe Internet. En fait, on pourrait considérer qu’Internet n’est pas forcément un Internet global, on peut créer un Internet continental si on le veut, c’est une question de choix politique, c’est une question de réseaux interconnectés, d’ailleurs Internet c’est Interconnected Network au départ, ce sont donc des réseaux qu’on choisit d’interconnecter, c’est un choix politique. On peut couper l’interconnexion, on peut la maintenir ; un système peut rester tout à fait viable, on peut avoir un Web qui fonctionne au niveau continental si on le souhaite.
Maintenant ce qui fait qu’on ne va pas avoir accès à un grand nombre de services, c’est que, souvent, on est dépendant de l’extérieur, ce qui n’est pas forcément un mal, c’est bien de pouvoir communiquer avec l’extérieur, sauf quand ces dépendances sont technologiques au point où, en fait, cette coupure pose un réel problème de fonctionnement. C’est pour cela que le câble sous-marin est si « vital », entre guillemets, pour les économies modernes aujourd’hui, parce qu’il y a beaucoup d’interdépendances transcontinentales.
Ensuite, pour l’Afrique il y a des éléments sur lesquels je ne reviendrai pas dans votre manière de proposer les choses. En revanche, je pense que le fait d’avoir des centres de données qui intégreraient, au fur et à mesure, des technologies africaines, parce qu’il y a des entreprises africaines qui émergent avec un savoir-faire et aussi vraiment une volonté de créer de l’indépendance technologique et si ça reste justement sur le territoire, c’est comme pour nous, il y a moins de dépendance aux câbles. Donc, dans tous les cas, ça fonctionnerait de mieux en mieux si, effectivement, ils ont, sur leur territoire, les ressources.
Ensuite petite note sur la vidéo, pour ceux qui ne savent pas, il y a quand même des caches. Ce qu’on appelle un cache c’est une mémoire, en quelque sorte, des contenus. Par exemple si, à un moment donné, mettons que tous les câbles se coupent, on va quand même continuer à pouvoir regarder certaines vidéos YouTube, en tout cas pendant un certain temps, parce qu’il y a un cache sur le territoire, les CDN, Content Delivery Network – merci à Stéphane Bortzmeyer là-bas – ça permet aussi de redistribuer du contenu, c’est une forme de cache.
Tout cela est très complexe, en tout cas on a compris que tout est très territorial dans cette idée. D’ailleurs j’ai un vrai problème et, heureusement, on commence à en sortir depuis quelque temps, la pédagogie sur ce sujet s’accélère et ça me fait plaisir quand même, on parle moins de village global, parce que, à un moment donné, il faut arrêter avec l’Internet comme village global. Tout n’est que frontières et choix territorial d’une certaine manière. D’ailleurs une entreprise qui veut, à un moment donné, s’étendre, une entreprise qui veut travailler dans un pays va contractualiser avec les opérateurs de ce pays, ça passe par du contrat, ça passe par de l’acceptation.
Autre chose. On prend l’exemple de l’Afrique, mais c’est aussi, bien sûr, le cas dans d’autres pays. Les pays qui ont le plus facilement accès aux réseaux transcontinentaux vont être ceux qui ont « la chance », entre guillemets, d’avoir un littoral, donc l’accès aux câbles. Qu’est ce qui se passe quand un pays n’a pas accès au littoral, quand il est enclavé ? Eh bien là encore, ce n’est pas un village global. Il y a des négociations à faire avec les pays frontaliers. Il vaut donc mieux s’entendre avec ses pays voisins qui eux ont le pouvoir et éventuellement vont dire « non, on ne veut pas que ça passe par chez nous, on ne peut pas se connecter à ton réseau. »
Voilà pour cette réponse.

Public : Bonsoir. Merci beaucoup à toutes les trois pour tous ces éléments.
Comme beaucoup de personnes, je pense, je suis assez effaré par la fuite en avant technologique à laquelle on assiste et tout ce que ça révèle de nos sociétés. J’ai l’impression, et c’est quelque chose qui est largement renforcé par le numérique, notamment l’intelligence artificielle, qu’on est dans des sociétés qui supportent de moins en moins l’imprédictibilité et l’anormalité au sens d’être en dehors de la norme. Je donne très rapidement deux exemples qui me viennent en tête : la vidéosurveillance algorithmique. On a des algorithmes qui vont détecter des démarches suspectes, mais qu’est-ce que c’est qu’une démarche suspecte ? C’est une démarche qui est identifiée comme étant en dehors d’une norme associée à la majorité on va dire, et puis les LLM [Large Language Models], ChatGPT et consorts, qui sont basés sur des modèles statistiques et qui vont tendre à produire des contenus très homogènes.
Du coup, mes questions : qu’est-ce que, selon vous, cela révèle de la société ? Et finalement, n’est-on pas en train d’assister à une forme de tyrannie de la norme quelque part ?

Mathilde Saliou : Pour moi ce modèle est poussé par les entreprises qu’on critique depuis tout à l’heure, ce n’est pas forcément le modèle auquel tout le monde souscrit. Le fait, notamment, de pousser de la collecte de données partout qui, ensuite, permet par-dessus de faire ces systèmes probabilistes, donc de réfléchir en fonction d’une norme et de ce qui sort de la norme, c’est le résultat de ce que Shoshana Zuboff [15] appelle le capitalisme de surveillance, c’est l’étape suivante, l’IA générative. Tout cela c’est aussi le résultat de cette vision très business, fruit du système économique néolibéral orienté productivité, productivité comprise comme quelque chose qui se calcule, qui se vérifie par les chiffres, qui déteste effectivement l’instabilité donc essaye de prévoir ce qui va arriver et, encore une fois, c’est super d’avoir plein de données pour tenter de prévoir, quand bien même les prévisions s’avéreraient fausses après coup.
Pour moi, la surveillance algorithmique c’est vraiment aussi ça, je n’ai pas l’impression que les citoyens soient venus demander des caméras sur lesquelles mettre des systèmes algorithmiques. J’ai plutôt l’impression que c’est un marché qui s’est construit par étapes. Il y a d’abord eu le marché des caméras, de la surveillance tout court. Il y a tout l’argumentaire qui s’est déployé en fonction des grandes vagues de terreur, typiquement, aux États-Unis, 2001 a aidé ; en France, l’attaque du Bataclan et de Charlie Hebdo ont aidé, ce sont des moments de crise. Tu parlais de la façon dont les crises permettent de pousser encore des technologies, ce sont des moments qui ont permis de pousser encore plus vers plus de caméras, donc la partie ressources. Pareil j’aimerais bien qu’on discute, parfois, du nombre de ressources qu’il a fallu utiliser pour construire ces multiples caméras. Et puis une fois qu’on a mis ces systèmes en place, pourquoi pas, comme d’habitude un peu partout dans la tech, mettre l’étape suivante, et là on pourrait reprendre le schéma d’Ophélie, la partie logicielle, on est en train de mettre des algorithmes dessus sachant, en plus, qu’il y a énormément de questions sociales et politiques, derrière, dans le fond, sur le fonctionnement exact de ces technos. Elles sont vendues par leurs fabricants comme permettant plus d’efficacité, permettant d’être plus productif, tout ce qu’on veut, dans les faits ce sont des machines à reproduire, voire à aggraver les discriminations préexistantes.
Il y a quelques semaines, en décembre dernier, une femme qui habitait dans l’état du Tennessee, me semble-t-il, est sortie de prison après cinq mois, quasiment sans accès à un avocat avant qu’elle arrive dans un état à 2000 kilomètres de là où elle habitait. Tout ce micmac, que j’ai moi-même du mal à raconter dans le bon ordre, c’était notamment à cause d’un officier de police qui s’appuie sur les résultats d’une reconnaissance algorithmique envoyée par ses collègues, qui considère que ces résultats sont valables et qui lance les choses pour qu’on aille arrêter cette femme. Il a d’abord fallu qu’on lui donne accès à ses droits, c’est-à-dire à un avocat, que l’avocat puisse avoir accès au raisonnement qui a fini par la mettre derrière les barreaux pour ensuite pouvoir contester. Tout cela pour dire que c’est vendu comme de la productivité, mais, très souvent, en fait, ce sont des machines à irresponsabilité de ceux qui les construisent et de ceux qui, comme dans le cas présent, les exploitent, les diffusent. Ce sont donc aussi des machines à compliquer le fonctionnement démocratique. Avec mon exemple de femme emprisonnée sans raison, c’est assez clair, ça attaque directement les droits humains, les droits des citoyens de vivre et de profiter de leurs divers droits.
Tout cela pour dire que productivité, plein de données et chercher la norme en permanence, en tout cas à mes yeux, c’est plus une direction économique qu’un souhait social.
Après, par contre, si on cherche d’autres exemples, qu’on se met à réfléchir à cela quand on regarde les réseaux sociaux, etc., ce qu’on disait tout à l’heure, ça finit peut-être par avoir des impacts sur la manière dont on pense, mais ce ne serait pas la première fois qu’on déciderait qu’une norme est plus intéressante que tout le reste. Politiquement ça se retrouve dans plein d’endroits de l’histoire.

Public : J’avais une question concernant le lobbying des Big Tech. J’ai l’impression que, pendant un temps, le but c’était vraiment d’essayer d’échapper à la régulation et que, du coup, ça a pris la forme d’investissements par exemple dans tout ce qui va être le lobbying dans la science et avec tout ce champ de l’IA éthique, etc., de « circulez, il n’y a rien à voir, on gère, on va faire des petits ajustements, etc. ». Maintenant que nous sommes rentrés dans la phase de régulation, je me demandais de quelle manière s’est reconfiguré le lobbying des Big Tech, notamment dans le champ des datacenters. En gros, quelle forme prend le lobbying des Big Tech sur le champ des datacenters à la fois aux États-Unis et en Europe, en France, etc.
Je voulais quand même me permettre de dire un truc sur la manière dont le monsieur a posé la phrase. Je pense, comme vous le dites, que les États africains arrêteront de faire n’importe quoi quand nos États impérialistes et nos entreprises capitalistes arrêteront de les piller et de faire de l’ingérence.

Ophélie Coelho : J’ai tiqué aussi, mais j’ai évité de répondre directement.
Sur la question du lobbying, que ce soit sur les centres de données, que ce soit sur l’IA, que ce soit sur la politique antitrust qui ré-émerge un petit peu, ils luttent par tous les moyens, un peu toujours de la même manière. Il y a beaucoup d’argent, depuis des années, à Bruxelles et partout. On peut regarder le nombre de rendez-vous qu’ils ont en regardant la Haute Autorité pour la transparence de la vie publique, il y a un peu la même chose pour Bruxelles. Il y a beaucoup de rendez-vous formels et il y a beaucoup de rendez-vous informels. Je ne sais pas si vous avez remarqué, dans vos différentes activités, qu’ils sont très présents dès qu’il y a un événement, soit ils sont invités soit ils organisent. Ils participent à beaucoup de financements de rapports de think tank, à tel point que, très souvent, ils se permettent aussi de choisir qui participe à la rédaction des rapports. Personnellement, j’en ai fait les frais dans un des projets, Google a dit que ce n’était pas très cool que je sois dans l’équipe. En réalité, c’est comme cela qu’ils fonctionnent. Et en même temps, il y a quelques années, quand ils ne savaient pas vraiment ce que j’écrivais, ils m’invitaient à déjeuner parce que j’avais fait partie, à un moment donné, d’un laboratoire d’idées, donc pour nous acheter, en quelque sorte, ils nous invitaient à déjeuner. Ils ne nous ont pas payés, je le dis, on y allait par curiosité et effectivement ça valait quand même le détour.
En fait, tout se fait comme cela dans ce type d’ingérence, d’une certaine manière. C’est aussi pour cela que les élites politiques sont, de toute façon, déjà clairement acquises aux logiciels transatlantiques. Je n’ai rien contre les États-Unis à la base, ce n’est pas du tout le sujet, j’ai un problème contre l’impérialisme quel qu’il soit en fait, c’est-à-dire la volonté de contrôle et de domination qui, par ailleurs généralement, est portée par des personnalités qui sont dominatrices et qui pensent être mieux que les autres. J’ai beaucoup de mal avec cet esprit-là, pour faire simple. Il y a aussi un problème humain, derrière, d’ailleurs c’est pour cela, souvent, qu’on en revient au jugement des personnalités, parce qu’il y a une forme de continuité logique là-dedans.
Pour les lobbyings, quel que soit le sujet et sur les centres de données c’est effectivement assez agressif. Ils ont leurs partenaires sur le terrain, par exemple, en France, il y a France Datacenter [16], en France, qui a des intérêts déjà dans l’industrie, mais qui clairement, quelque part, est déjà partenaire des Big Tech, quoi qu’il en soit, quoi qu’ils disent sur la pseudo-souveraineté numérique que vont apporter, que pourraient, selon eux, apporter les centres de données. Franchement c’est totalement absurde, c’est l’inverse, pour le coup c’est orwellien comme discours, c’est vraiment orwellien. Si on lit ce qu’écrit France Datacenter, en réalité il y a beaucoup d’exagération dans tout ce qu’ils mettent comme chiffres, en général, que ce soit de l’emploi à la valeur que ça va générer, c’est assez aberrant et sous couvert d’un discours, au contraire, très scientifique, qui viendrait d’ingénieurs, donc on fait confiance.
N’oublions pas qu’il y a quand même une responsabilité aussi de nos élites politiques. C’est toujours une invitation en grande pompe des acteurs de la tech, ils ne font pas la même chose avec les acteurs européens de la tech, il y a vraiment un traitement totalement différent et ça marque, encore une fois, la place d’ambassadeur qu’ont ces entreprises, ces grands acteurs. Je dis « les acteurs de la tech », mais c’est la même chose quand c’est un acteur de la Big Pharma ou un acteur de la Big Oil, c’est l’idée de la multinationale en tant qu’ambassadeur de son pays d’origine, mais ça crée une relation d’allégeance en fait, qui est volontaire, qui est acceptée. On se réveille avec Trump alors que l’impérialisme est là depuis le début, depuis la fin de la Seconde Guerre mondiale il s’est accéléré, il a commencé au début du 20^e et, après la fin de la Seconde Guerre mondiale, montée en puissance totale et on l’a accepté. C’est pour cela que je ne parle pas de colonie numérique, je ne parle pas de colonialisme pour l’Europe. J’ai envie de dire que nous sommes un petit peu responsables de nos actes, en plus de ça nous sommes tous plus ou moins éduqués, en tant que citoyens nous avons quand même les moyens d’agir en vrai.
J’arrête là parce que je me suis un peu égarée.

Public : Merci beaucoup.
Vous avez dit, à un moment, que d’autres choix politiques auraient pu être faits, le numérique aurait pu être implémenté différemment. Ça me fait penser à ce qu’a dit un penseur, Langdon Winner, sur les artefacts. Il dit que certains objets sont politiques par leur technique, quand même, et même sans forcément parler de cela, un penseur que je maîtrise moins, Illitch, pose la question de l’utilité de la technique. Ma question : de toute façon, des éléments du numérique n’auraient-ils pas été comme cela, quelque part ?

Ophélie Coelho : Avant de reprendre le micro, je ne sais pas si j’ai bien compris la question. Des éléments du numérique qui auraient été comme cela. À quoi pensez-vous, par exemple ?

Public : L’exemple typique c’est l’IA. Est-ce qu’on aurait pu faire l’IA générative avec d’autres modèles qui ne soient pas hyper centralisés avec la quantité de données, la puissance de calcul, c’est l’exemple un peu facile. Est-ce qu’il ne serait pas possible de l’étendre à d’autres secteurs du numérique ?

Ophélie Coelho : OK. C’est une éternelle question : est-ce qu’on aurait pu faire la technologie autrement ? Moi je pense que oui, toujours, je pense toujours qu’on peut le faire.
Après, c’est toujours pareil, c’est la logique du bulldozer d’aller plus vite par de l’exploitation intensive. Je vais vous donner juste une petite anecdote. Il se trouve qu’à côté de mon activité de recherche, je suis professionnelle du numérique depuis à peu près 2009. J’ai travaillé pour des entreprises, j’ai travaillé pour des start-ups, j’ai travaillé pour des agences en tant que développeuse front-end à l’époque, à créer des sites d’e-commerce en particulier. Et, plus récemment, j’ai travaillé pour des administrations et dans le cadre de la DINUM, la Direction interministérielle du Numérique. Il y a quelques années on m’avait missionnée sur PIAF [17], Pour une Intelligence Artificielle Francophone. PIAF était plutôt un projet de recherche et développement, on va dire les choses comme ça, et on a essayé, justement, à partir d’un modèle BERT [Bidirectional Encoder Representations from Transformers], donc avant l’IA générative, qui est du traitement automatique des langues. Il y a plusieurs façons de faire du traitement automatique des langues, mais il faut beaucoup d’annotations de textes, et généralement, pour faire cette annotation de textes, les grandes sociétés, les grandes multinationales du numérique, qu’on peut appeler les Big Tech, font appel à Amazon Mechanical Turk, c’est-à-dire un service d’Amazon, de la constellation Amazon, qui, en fait, externalise l’annotation généralement en Asie de l’Est, en Afrique, dans plusieurs pays du monde, en Inde, ça a été beaucoup en Inde pendant un temps. Ils font une annotation des textes, des images, ce qui permet aujourd’hui la reconnaissance d’images. Pour ceux qui ne connaissent pas, ce sont des petites mains. On parle de plus en plus, grâce à Antonio Casilli [18] et à d’autres chercheurs, de ces travailleurs du clic, de ces travailleurs de l’annotation. Il y a donc cette façon de faire, c’est-à-dire qu’on exploite effectivement une main-d’œuvre pas chère à l’extérieur, donc on peut avancer très vite avec une masse d’individus.
La méthode PIAF était de se dire : on va entraîner un modèle de traitement automatique des langues mais en sollicitant des citoyens volontaires. C’est ce qu’on a fait. Tous les jeudis, pendant une période, on a mis en place des ateliers d’annotation avec des citoyens volontaires, vous imaginez bien que parfois on avait 30 personnes, parfois 10 personnes, parfois 50. Au final on a quand même eu, au total, plus de 2000 participations, ce qui était bien. L’avantage de ce système c’est que, du coup, au bout d’un moment, ils pouvaient annoter à distance parce qu’on avait créé un produit pour annoter à distance. C’était une réflexion. Bref. Tout ça pour dire qu’au final PIAF est resté un projet de recherche en développement. On aurait pu le faire monter, clairement, si on avait eu les budgets. La méthode était intéressante parce qu’elle a fonctionné. Au final, on a quand même réussi à créer ce qu’on voulait faire, c’est-à-dire un outil de traitement automatique des langues, à partir d’articles, d’un corpus qui était à ce moment-là Wikipédia, on s’était accordé pour pouvoir le faire. On n’a pas fait l’étape suivante. C’est beaucoup plus long. À partir de là jusqu’à l’IA générative, le chemin aurait été beaucoup plus long, mais on aurait pu prendre un chemin plus éthique, en quelque sorte, pour avoir progressivement des outils sur des corpus qu’on aurait maîtrisés en reprenant des techniques. On n’a pas le lab de R&D de Google qui a sorti les Transformers, mais on aurait pu s’en inspirer, c’est toujours pareil, on peut s’en inspirer.
Il y a donc des chemins pour faire autrement, il y a plusieurs façons de faire. On n’est pas obligé de suivre le même chemin que ces technologies-là, d’ailleurs pas pour faire forcément les mêmes choses non plus, c’est un choix, en fait le produit est un choix. En intégrant le citoyen dans cette discussion, je trouve que PIAF était quand même une expérimentation super intéressante là-dessus. En plus de ça, il y avait effectivement la participation citoyenne. Je pense, à priori, qu’aucun de vous n’en a entendu parler. Vous regarderez. Si ce n’est plus en ligne, sur Archive on doit pouvoir retrouver le projet PIAF. Ça a existé pour de vrai et c’était une initiative intéressante de ce point de vue-là.

Anne Alombert : Pour aller dans ton sens, je pense que c’est très important de se défaire de l’idée d’une fatalité technologique. En réalité, ce ne sont que des choix politiques. On peut vraiment reprendre exactement le discours d’Ophélie pour l’appliquer à l’algorithme de recommandation collaborative de Tournesol dont je parlais tout à l’heure, c’est une technologie qu’on pourrait très bien faire monter en puissance, qu’on pourrait soutenir financièrement, et ce sont des choix politiques. L’IA générative telle qu’on la connaît aujourd’hui ne s’est pas imposée toute seule. On a dit d’accord. On aurait très bien pu se dire, collectivement, que ce n’était pas ce modèle-là qu’on voulait, donc légiférer à ce sujet. Vous voyez bien, aujourd’hui, que des pays, tout d’un coup, interdisent les réseaux sociaux à tel ou tel type de population, peu importe ce qu’on en pense, mais ils le font. Après, comment vont-ils appliquer ces lois, etc., bien sûr qu’il y a des problèmes ?
Ce que je veux dire c’est qu’il y a toujours des choix en amont et, parfois, on croit que les technologies se développent hors du droit, mais c’est parce qu’il y a des avocats qui ont très bien travaillé pour faire en sorte que notre droit devienne compatible avec ces technologies alors qu’il ne l’était pas au départ. Ce sont toujours des questions de volonté politique en réalité.
Bien sûr, quand on dit qu’une fois que la technologie est configurée comme cela, elle conditionne, dans une certaine manière, un certain nombre de rapports sociaux, etc., oui, mais elle a été configurée comme cela, par qui, comment, etc. Ça va toujours dans les deux sens, c’est un cycle le social, la technologie, le social, la technologie, etc., il n’y a pas d’origine mais disons que ça se co-constitue et ça évolue et je pense qu’il ne faut vraiment pas l’oublier en ce moment.

Animatrice : Je propose qu’on prenne deux dernières questions, il est 9 heures moins 10. Ça te va, Ophélie ?

Ophélie Coelho : On essaye d’arrêter à 9 heures, comme ça on aura un peu de temps pour le buffet, pour ouvrir les bouteilles.

Public : Bonsoir. J’ai à nouveau une question pour vous, Ophélie. Déjà merci pour vos interventions vraiment intéressantes.
Je voulais revenir sur la fin de votre intervention où vous avez évoqué cette idée de stratégie de résistance qui m’interroge. Vous avez notamment développé cette idée qu’il fallait élaborer des stratégies de résistance à l’échelle de la communauté européenne qui est pourvoyeuse d’actions qui peuvent avoir un certain poids. Mais vous avez aussi cité l’agressivité des empires, chinois et américain. Vous avez rappelé l’illégalité et la férocité extrême de leurs moyens d’action pour étendre leur pouvoir et leur hégémonie et cela se fait notamment dans un contexte très critique de démantèlement du droit international et des institutions internationales, ce qui laisse advenir, aujourd’hui, une situation de nouvelle guerre mondiale, on le voit avec ce qui se passe au Moyen-Orient.
Je me demandais, de manière un peu provocatrice, si vous pensez vraiment que la communauté européenne, telle qu’elle est organisée aujourd’hui, pourrait suffire, en tant qu’organe de résistance, face à l’agressivité extrême des empires qui nous écrasent aujourd’hui – l’empire américain d’un côté et l’empire chinois ? Sinon, ne pensez-vous pas qu’il faudrait peut-être, à ce moment-là, revoir nos conceptions et nos incarnations du pouvoir pour essayer de créer une structure politique qui ne consiste pas en une communauté transnationale, qui ne consiste pas, peut-être non plus, en un nouvel empire, mais qui serait peut-être une catégorie intermédiaire qui aurait la capacité non pas seulement de résister mais de faire face aux attaques dont elles feront bientôt l’objet et qu’une seule résistance ne pourrait pas parvenir à elle seule à contrer ? Ça c’est la première question que j’avais envie de vous poser.
La deuxième. J’observe, depuis un an et demi, des stratégies de partenariat importantes entre l’Europe et l’Inde, l’Inde qui est aujourd’hui en train d’advenir sur la scène internationale comme un acteur de premier rang par rapport aux stratégies d’intelligence artificielle. Est-ce que vous pensez que les partenariats qui sont en train d’être construits entre l’Inde et l’Europe pourraient permettre la création d’une puissance numérique et d’une puissance, en matière d’intelligence artificielle, qui soit capable d’apporter une alternative à la puissance techno-politique chinoise et américaine ?

Ophélie Coelho : Deux sujets.
De manière très courte, l’Union européenne est une structure très intéressante sur un certain nombre de choses.
Le premier intérêt c’est qu’il y a une banque centrale, au niveau européen, c’est quand même bien, et qu’il y a effectivement des possibilités de créer de la monnaie pour des intérêts communs, pour des projets d’intérêt commun. Donc utilisons-le ! Quand il y a vraiment des besoins on le fait.
Mais, au-delà de ça, il ne faut pas faire l’économie de partenariats plus petits entre pays ou entre consortiums, instituts de recherche. Je parlais de CERN, mais ce n’est pas le bon mot, en tout cas des ensembles qui ne demandent pas l’adhésion de tous les membres, mais qui permettent d’avancer en collectif. Du coup, une fois qu’on arrive à convaincre justement sur la viabilité du projet, les autres viennent. Ce qui pose souvent problème, c’est le réalisme, en quelque sorte, le fait de se dire « ce n’est pas possible, on ne va pas perdre du temps et de l’énergie là-dessus. » En fait on avance, on arrive à convaincre déjà peut-être deux au départ, trois, quatre, cinq, dix, et c’est comme cela qu’on fait marcher un projet. C’est une première chose.
Ensuite sur l’Inde et l’Europe. Dans l’histoire de l’intelligence artificielle, il y a beaucoup de compétences en ingénierie en Inde. D’ailleurs, je parle dans un des chapitres de son histoire de back-office. Tout à l’heure, j’ai parlé d’Amazon Mechanical Turk. À l’époque, il y avait beaucoup de travailleurs du clic et de l’annotation en Inde et puis, progressivement, lié à une politique d’enseignement vers les sciences et les technologies, il y a beaucoup d’ingénieurs indiens aujourd’hui. Du coup, en Inde, il y a une sorte de back-office, un back-office de haute qualité, on va dire, de haute compétence, du coup ça reste un nœud, mais un nœud de comptoir technique malgré tout. Ils créent peu de technologies, même s’ils en ont au niveau national qui sont très intéressantes, notamment au niveau de la gestion de l’identité, notamment au niveau des technologies mobiles, certes.
Aujourd’hui, je vois plutôt la collaboration entre l’Europe et l’Inde, désolée, mais plutôt comme des suiveurs des grandes technologies multinationales. Leur collaboration, aujourd’hui, n’est pas dans une optique qu’on pourrait appeler vraiment d’indépendance. En tout cas, il y a un écart entre le discours et la réalité. Après, j’attends de voir.

Public : Déjà merci à vous trois, à l’organisation, pour la conférence qui est vraiment passionnante et enrichissante.
Une question qui va avec l’actualité mais aussi les solutions notamment sur l’arsenal juridique. Il y a quelques jours, Meta et Google ont été condamnées, notamment pour négligence concernant une adolescente qui avait porté plainte aux États-Unis. Pensez-vous que se servir de l’arsenal judiciaire puisse faire partie des solutions ? Ou est-ce que ça va aussi dans le pendant volonté politique que vous avez abordé avant, pour justement considérer l’impact des réseaux sociaux et autres technologies sur les impacts cognitifs et tout ça ?

Mathilde Saliou : Comme ça a été dit, je pense que tous les outils sont bons, y compris ceux qui sont en face. En l’occurrence, la décision dont vous parlez est quand même assez intéressante puisque c’est notamment la première fois que Meta se voit déclarée responsable de contenus qui ont été diffusés sur ses plateformes, ce qui est le nerf de la guerre des problématiques des réseaux sociaux. Quand on disait, tout à l’heure, qu’ils ont réussi à éviter d’être considérés comme décisionnaires éditoriaux alors que, en fait, vous m’avez déjà entendu le faire à des fins de vulgarisation, de plus en plus je les compare à des médias, parce que, finalement c’est ça l’enjeu. Ils ont des lignes éditoriales, ils font des choix dans ce qui est plus visible et moins visible, etc. C’est intéressant. Après, tout cela se passe aux États-Unis. Historiquement, on a vu des décisions judiciaires être transformées, être portées et servir à faire avancer des grands sujets politiques, parfois aboutir à des changements de lois, mais ce sont des combats de long terme. Je ne sais pas, vu l’ambiance actuelle aux États-Unis, si cette modification est la première chose qui arrivera, notamment du coup la sortie des réseaux sociaux d’être liés à cet article 230, je ne sais plus exactement la dénomination, bref. Ils ont réussi à se faire glisser dans un petit endroit du texte qui fait qu’ils sont hébergeurs et non éditeurs. Peut-être que si cette décision judiciaire, et d’autres qui suivent, vont dans la tendance qui cherche à montrer que ce n’est pas du tout le cas, peut-être que, à terme, ça permettrait de faire évoluer le droit américain. Mais pour nous Européens, nous Français, tout cela est un peu lointain, on n’a pas tellement la main dessus. Il vaut mieux demander des évolutions et peut-être, pourquoi pas, recourir à l’outil juridique en France, en Europe et à ce titre faire évoluer les lois pour la protection des citoyens européens en France, en Europe. En réalité, on a déjà de bons outils : le Digital Services Act est plutôt un très bon outil, avant lui, le RGPD [Règlement général sur la protections des données] a été un si bon outil qu’on nous l’a imité, on aime critiquer la régulation européenne, mais quand même, on nous imite. Cela demande aussi des grands débats politiques. En ce moment, au niveau européen, il y a tout un projet dit de simplification sur plein de sujets, donc aussi sur les questions numériques. Le projet Omnibus numérique et le projet d’adaptation de l’AI Act qui est en cours d’entrée en vigueur, ce sont des endroits où il y a aussi de fortes tensions et la manière dont ils sont orientés, pour l’instant, peut paraître inquiétante.
Oui, pourquoi ne pas utiliser les outils juridiques parmi d’autres outils. Par contre, vu depuis Paris, peut-être se focaliser d’abord sur la France et l’Europe.

Ophélie Coelho : Merci à tous pour vos questions, votre présence.

[Applaudissements]