Nadia Taïbi : Nous arrivons à notre troisième conférence de cycle « La Machine » et nous avons la joie et la chance d’avoir avec nous Olivier Ertzscheid qui va nous parler de l’intelligence artificielle et de ses enjeux. Olivier est maître de conférence à l’université de Nantes, d’ailleurs plus précisément à l’IUT de la Roche-sur-Yon – eh oui, nous avons des gens très bien à la Roche-sur-Yon ! – en sciences de l’information et de la communication.
Le titre est très large, « Les enjeux de l’intelligence artificielle », ce qui signifie, en somme, que tu vas nous expliquer ce qu’est cette chose dont nous parlons tous et dont, d’ailleurs, nous ne savons pas trop ce que c’est.

Olivier Ertzscheid : Nous allons essayer de brasser un peu large.

Nadia Taïbi : Avant de laisser la parole à Olivier, je vous indique qu’un nouveau programme a été publié. Il y aura un cycle de conférences aux dates prévues, simplement la conférencière qui devait venir en avril ne vient pas, nous aurons un autre conférencier qui nous parlera aussi des enjeux du numérique, pas de l’intelligence artificielle mais de la place du numérique et de l’image. Vous verrez que c’est passionnant. Ce ne sera pas Anne Alombert, ce sera Laurent Neyssensas, tout à fait bien. Ça sera au mois d’avril. Je vous laisse avec Olivier.

Olivier Ertzscheid : Merci. Bonsoir tout le monde. Merci à Nadia et à l’équipe des Universités Populaires pour l’invitation.
Je suis chercheur en sciences de l’information, je ne suis pas informaticien, je m’intéresse surtout aux usages de l’intelligence artificielle, à ces générateurs de textes et d’images et à ce que ça change dans notre rapport à l’information, aux autres et au monde. C’est de cela dont je vais essayer de vous parler ce soir, à la suite d’un bouquin [Les IA à l’assaut du cyberespace – Vers un web synthétique ] que j’avais écrit il y a maintenant trois ans, alors que nous étions en plein dans le haut de la vague de la hype autour de ChatGPT. Tout le monde parlait de ça, personne ne savait trop vers où ça allait nous mener, il s’agissait donc de prendre un petit peu de recul et d’analyse par rapport à tous ces outils.
Je vais essayer de tenir les 40 minutes indiquées, surtout pour qu’on ait le temps d’échanger après.
Je ne vous connais pas, vous ne me connaissez pas, s’il y a des choses qui ne sont pas claires, ou si vous avez des questions, n’hésitez pas à m’interrompre pour me faire préciser.

Quelques chiffres

Je démarre avec juste quelques petits chiffres très rapidement.
Une étude du CRÉDOC [Centre de recherche pour l’étude et l’observation des conditions de vie]est sortie récemment [1].
Grosso modo, il y a trois idées :
en France, la moitié de la population utilise les outils d’intelligence artificielle générative, donc ChatGPT et ses amis ;
ce sont essentiellement des jeunes, les jeunes, ça va jusqu’à 40 ans, après, tant pis, c’est perdu, en tout cas pour le CRÉDOC, moi-même j’en suis navré. Donc essentiellement des jeunes avec un très fort décrochage chez des populations un petit peu plus âgées ;
et puis, il y a un outil, parce qu’il y a plein d’outils d’intelligence artificielle, mais il y en a vraiment un qui écrase tous les autres, qui est massivement utilisé et cet outil c’est effectivement ChatGPT, qui est la propriété d’une société qui s’appelle OpenAI et qui permet de faire plein de choses : générer du texte, générer des images et tout un tas d’autres choses.
Il y a 900 millions d’utilisateurs hebdomadaires de ChatGPT, c’est-à-dire que, par semaine, 900 millions de personnes différentes, ça peut être les mêmes, se connectent plusieurs fois, qui font essentiellement trois choses :
d’abord elles cherchent des informations, c’est la majorité des gens ;
ensuite, elles rédigent ou traduisent des textes, la partie traduction est très importante dans ces outils ;
et puis un petit peu moins, mais elles s’en servent aussi, on s’en sert aussi pour essayer de générer des nouvelles idées. On va voir jusqu’à quelle limite une machine ou un programme informatique est en capacité soit de nous assister pour produire ces idées-là, soit, à l’inverse, de nous leurrer un petit peu sur ses capacités.

La dernière petite image indique que même pas une moitié des gens qui utilisent ces outils estiment que l’IA a un impact environnemental plus important que quand on fait une recherche classique sur Internet. Il y en a même un certain nombre qui pensent que l’impact de ces outils-là est beaucoup moins important qu’avec ceux qu’on a l’habitude d’utiliser. Alors qu’un des premiers enjeux de ces outils d’IA, c’est que pour les alimenter, pour les faire tourner, pour être en capacité de gérer des usages aussi massifs que ce qu’ils sont aujourd’hui en France et dans le monde, derrière on a besoin d’une puissance énergétique absolument colossale et on voit que toutes les industries qui développent ces outils se mettent soit à racheter des centrales nucléaires – c’est le cas de Microsoft, il y a trois ans, qui a racheté, pour alimenter ses datacenters qui servent à générer ses outils d’IA, une centrale qui, en plus, a une histoire un peu particulière : il y avait eu un incident nucléaire très important sur cette centrale - et puis récemment, au tout début janvier, on apprend que Meta, le groupe de Zuckerberg auquel appartient Facebook, a passé un accord avec Bill Gates, qui entre-temps, quand il ne s’occupe pas de philanthropie, fabrique, construit et il vend maintenant aussi des centrales nucléaires après avoir vendu des ordinateurs. Donc il vient de s’associer avec Meta et de passer un accord qui est un des plus gros accords énergétiques pour faire tourner tous les outils d’IA de la galaxie Meta, c’est-à-dire, entre autres, Facebook, Instagram, WhatsApp, etc.
Après tout, des choses qui consomment de l’énergie, pourquoi pas ! La question, c’est qu’on a quand même un petit sujet environnemental, en ce moment, sur la question de la sobriété énergétique, donc, est-ce que tout cela est vraiment nécessaire ? Et ensuite, la question de la proportionnalité d’usages. C’est-à-dire, après tout, pourquoi pas développer des centrales nucléaires pour alimenter des usages, mais lesquels ? À quoi cela va-t-il servir ? Et au détriment de quels autres usages cela va-t-il se faire, parce que, malheureusement, on ne va pas pouvoir tout faire ?

Sur le temps de ce soir, sans spoiler, je vais essentiellement vous expliquer que ces outils-là posent quand même un certain nombre de soucis et génèrent des préoccupations. Pour autant, cela ne veut pas dire qu’il faut masquer ou oublier tous les apports qu’ils peuvent apporter. Je vais donner juste un exemple, mais il y en a plein d’autres : on sait que dans le domaine médical, ces outils d’IA permettent de faire du dépistage très précoce, que ce soit dans le domaine des cancers, mais aussi, récemment, dans le domaine de la maladie d’Alzheimer. C’est effectivement un argument qui est très souvent, et à raison, mis en avant par les gens qui développent ces outils-là. Pour autant, en admettant qu’on puisse un jour améliorer la prise en charge ou la détection précoce de ces pathologies, il faudra aussi, derrière, se poser la question des structures en capacité d’accueillir ces gens-là, de la destination de toutes les données qui sont collectées, parce que, pour l’instant, quand on collecte des données pour faire de la détection précoce, ça tombe dans l’escarcelle de sociétés privées. On sait, par exemple, qu’un certain nombre de ces données sont extrêmement sensibles et on a malheureusement déjà pu documenter le fait que certaines sociétés, qui opèrent ces technologies d’intelligence artificielle, sont en partenariat avec des banques, avec des assurances, et on voit bien ce que le secteur bancaire ou le secteur assurantiel peut faire de données en lien avec la détection précoce de tous types de maladies.

De quoi parle-t-on exactement ?

Comme je suis universitaire et, à l’université, notre travail c’est d’essayer de mettre des mots sur des réalités qui sont parfois riches, complexes et émergentes, une des premières questions que je me suis posée quand j’ai découvert ces outils-là, c’était : on dit que ce sont des outils d’intelligence artificielle, ce sont des générateurs de texte, mais est-ce qu’il y a de l’intelligence artificielle ? La notion même d’intelligence est très discutée, il y a plein de manières de la caractériser. Du coup, j’ai proposé un truc qui n’est pas très joli à l’oreille, j’ai proposé de qualifier ces outils « d’artefacts génératifs » pour amener deux idées.
La première, c’est que ce sont bien des artefacts, c’est-à-dire qu’avec ces technologies on a l’impression qu’on discute avec des abstractions, des programmes ou des logiciels, mais ce sont bien des êtres humains qui ont fabriqué tout ça et, on va le voir, derrière on discute aussi avec des catégories de population auxquelles on n’a pourtant pas l’impression de s’adresser.
Et puis, il y a ce côté génératif qui est effectivement bluffant. J’imagine que certains, parmi vous ici, avez essayé, testé peut-être différents types de ces outils. C’est vrai que la première fois qu’on les utilise, il y a à la fois une simplicité d’usage et puis une espèce d’effet waouh, on est assez rapidement étonné de la capacité de ces outils à générer très facilement des images très réalistes, des vidéos, des textes qui tiennent tout à fait la route et qui sont tout à fait cohérents, y compris sur des domaines assez compliqués.
Donc des artefacts génératifs avec derrière, on en parle beaucoup aujourd’hui, la manière dont ces outils-là servent aussi à fabriquer des fausses réalités, des fake news, des fausses images qui circulent, je vous en donnerai quelques exemples. Souvent, ces outils sont critiqués essentiellement sous cet angle-là, c’est-à-dire qu’on dit « oh là, là, les outils d’IA, ChatGPT, tout ça, c’est pénible parce que ça génère beaucoup de fake news. » Certes, mais on oublie, en disant cela, que dès qu’on a inventé la photographie, dès qu’on a inventé le cinéma, dès que, à chaque époque, on a inventé des nouvelles technologies, sont arrivées quasi simultanément, d’ailleurs y compris avec la peinture, les questions de retouche, les questions de trucage, et aussi la question de la manière dont on pouvait dissimuler le fait qu’on avait retouché une peinture, une photographie, etc.
Donc ce sujet-là est consubstantiel, finalement, à chaque nouvelle avancée dans le champ social, artistique ou autre.

Une image a beaucoup tourné, au tout début, une des premières fois que, dans le débat public, s’est posé la question à savoir « est-ce que ces intelligences supposément artificielles, est-ce que ces générateurs de textes sont capables d’avoir une créativité propre ? » Ce tableau [Théâtre d’opéra spatial] [2] a été proposé par un auteur qui s’appelle Jason Michael Allen au concours des Beaux-arts de la Colorado State Fair et a gagné le premier prix. On s’est aperçu, il l’a dit, qu’il avait utilisé un outil d’IA pour générer cette image-là. On l’a donc accusé de mille maux en expliquant qu’il n’était pas un artiste, qu’il n’était pas un auteur, qu’il avait délégué à la machine sa puissance et sa capacité de création et qu’il avait leurré tout le monde en gagnant le premier prix. Il a expliqué dans différents entretiens qu’il a travaillé l’image, celle qui a remporté ce concours, et que, pour la travailler, il a posé tout un tas de scripts, tout un tas de prompts à un outil générateur d’images, que 800 fois, 900 fois, il a réitéré, il a reproduit ce processus, il a amélioré ses prompts jusqu’à arriver à une image qui le satisfasse à peu près. Et, à la suite de ça, il a fait ce que font les artistes numériques, c’est-à-dire qu’il a utilisé les outils classiques de retouche d’image où sa patte d’artiste a pu s’exprimer. Et à la fin, donc après 80 heures de travail et tout un tas d’images, il a effectivement choisi et soumis cette image qui a gagné ce concours.
En parallèle, je vous ai mis à côté des exemples assez célèbres et documentés de dérives de ces outils d’IA qui, parfois en termes de générateurs de textes, donnent l’impression d’une intelligence quasiment humaine et qui parfois, sur des questions auxquelles un enfant de CP est capable de répondre, se font attraper. Donc, typiquement : quelle différence y a-t-il entre un œuf de poule et un œuf de mouton ? Eh bien, ChatGPT ou les autres vont doctement vous répondre sur un certain nombre de points, alors que, nous sommes bien d’accord, à priori, les moutons ne pondent pas d’œufs !

Tout cela pour dire deux choses.br/>
La première caractéristique de tous ces outils, c’est qu’ils sont excellents dans deux domaines.
Le premier domaine, c’est celui de la dissimulation d’expertise, c’est-à-dire que nous sommes tous confrontés à des images, à des textes qui sont générés par des outils d’IA et qui masquent, en fait, la réalité du travail d’êtres humains, d’artistes, de professeurs, d’enseignants, d’étudiants ou d’élèves derrière.
L’autre force de ces outils, c’est qu’ils sont aussi excellents dans le fait de simuler une expertise, puisqu’ils sont capables y compris de vous expliquer que les moutons pondent des œufs, sauf quand vous leur rappelez, à un moment donné, que la nature n’avait pas imaginé ce scénario-là.

Qu’est-ce qui change fondamentalement aujourd’hui ?

Plusieurs choses changent fondamentalement, aujourd’hui en 2025, pour tous ces outils-là.

La première, c’est d’abord la massification de ces outils. Ils ont été adoptés très vite et en trois ans, ce qui n’est pas trop la norme pour des technologies. À l’échelle de la planète entière, en tout cas d’une certaine partie de la planète, tout le monde, ou à peu près, utilise ces outils-là. Je vous ai mis des chiffres. Encore une fois, ce sont des 2,5 milliards de requêtes par jour rien que pour ChatGPT et, par point de comparaison, pour le moteur de recherche Google c’est autour de 9 milliards de requêtes par jour et le gap, le fossé, se restreint de manière assez rapide.

L’autre particularité de ces outils, c’est que, aujourd’hui, ils sont capables de multimodalité. Cela veut dire que, à ces outils, vous donnez du texte en entrée et, en sortie, ils peuvent vous générer des images ou de la vidéo. De la même manière, vous leur donnez des images et ils peuvent vous générer du texte ou de la vidéo ; vous leur donnez de la vidéo et ils peuvent vous générer des images, du texte, etc., de l’audio aussi. Ils sont capables de cette étendue-là.

L’autre particularité, c’est leur dissémination dans le champ social, c’est-à-dire que, aujourd’hui, on retrouve ces outils-là absolument partout, dans le domaine politique, dans le domaine publicitaire, dans le domaine de l’éducation, dans l’ensemble des industries culturelles. On sait, par exemple, que Netflix utilise ces outils pour développer des programmes, des séries, des contenus qui, pour le coup, ne font intervenir quasiment aucun scénariste, mais qui, simplement, s’appuient sur une base de données, de scripts, de scénarios déjà établis et qu’ils génèrent, comme on le faisait avant dans certaines maisons d’édition dans le domaine de la littérature où on générait des collections entières de ce qu’on appelait littérature rose ou littérature de gare, il suffit d’avoir quelques scripts, quelques romans. À l’époque, on avait des outils qui n’étaient pas d’IA, des outils informatiques qui permettaient aussi de générer rapidement tout un tas de choses.

Et puis quelque chose est en train de se jouer dans le hiatus, dans la différence entre le fait que le coût d’accès à ces outils, aujourd’hui, soit quasiment nul. On peut accéder gratuitement à la plupart de ces outils d’IA. Pour avoir accès à quelques fonctionnalités premium il faut effectivement sortir la carte bleue, mais, pour l’essentiel, l’accès se fait aujourd’hui de manière gratuite.
Le coût cognitif, qui est une des clés pour comprendre comment fonctionnent les écosystèmes numériques, c’est-à-dire ce que ça nous demande comme capacité de réflexion, d’analyse, de distance pour utiliser ces outils-là, est quasiment nul. C’est-à-dire que n’importe qui, de n’importe quel âge, est effectivement en capacité de rédiger ce qu’on appelle un prompt, c’est-à-dire une simple phrase qui va dire « génère-moi une photo d’une salle remplie devant une conférence sur l’IA », ça se fait automatiquement et c’est effectivement très réaliste.

À l’inverse, on a des coûts de production et de maintenance de ces outils qui, eux, sont exponentiels pour alimenter ces usines-là, parce que ce ne sont rien d’autre que des usines, même si, à l’intérieur, il y a des données, des serveurs, des disques durs, etc. Le coût de maintenance et de production est exponentiel et, là, le fossé est tellement creusé qu’il y a un moment où, effectivement, ces sociétés-là vont devoir se faire payer parce que, sinon, ce modèle-là ne sera plus viable.

Un autre changement important. Pour la première fois depuis 2/3 ans, on a la fusion de deux imaginaires qui, jusqu’à maintenant, relevaient plutôt de la science-fiction, c’est-à-dire que, d’un côté, on a des assistants conversationnels, des trucs qui nous parlent et, en même temps, on voit se développer des robots humanoïdes avec beaucoup de fakes, parce que, là aussi, il faut se méfier du marketing, surtout quand c’est Elon Musk ou des gens comme ça qui en font. Tout un tas de démonstrations ont beaucoup circulé en ligne où on voyait des robots humanoïdes capables de couper un fruit, de vider un lave-vaisselle, etc. On se disait « waouh, quand même, ça va vite ! » Et on s’est aperçu que, derrière, c’étaient des scripts de commande qui étaient tout à fait inscrits et que, à l’instar du marionnettiste, des gens avaient un petit joystick et manipulaient ces trucs-là. Ça n’enlève rien aux immenses progrès qui sont faits en termes de robotique, c’est effectivement de l’ordre de la maquette. Pour autant, effectivement, il y a quelque chose qui se joue. Nous avons quand même tous été plus ou moins nourris intellectuellement à ces imaginaires de science-fiction, donc, dans le fait de voir qu’on a aujourd’hui des robots humanoïdes en capacité de nous parler et de réaliser des tâches courantes, il y a quelque chose qui se joue à la fois dans notre rapport au réel et puis, peut-être, dans nos enthousiasmes ou dans nos craintes, selon la manière dont on se positionne.

It’s a kind of magic ?

Je vous avais mis quelques petits films, mais je ne vais pas vous les passer là, ça n’a pas grand intérêt, notamment une démonstration de robots humanoïde déployés par une société qui appartient à Elon Musk où il a pu être démontré qu’en fait, derrière, il y avait des gens qui avaient un petit joystick, qui faisaient faire des trucs, alors qu’on présentait ça comme des robots humanoïdes tout à fait autonomes et libres !
Juste pour l’anecdote ou l’exemple, ça renvoie à deux choses.

Il y a cette idée d’un écrivain de science-fiction [Arthur Charles Clarke] qui disait « Toute technologie suffisamment avancée est indiscernable de la magie ». Effectivement, avec ces outils-là, hier les assistants générateurs de textes, aujourd’hui les robots humanoïdes, on a un petit peu cet effet magique.
Mais il ne faut pas oublier que si c’est de la magie, c’est bien qu’il y a un truc derrière, comme souvent dans l’histoire des technologies. Un des exemples les plus célèbres c’est le Turc mécanique ou l’automate joueur d’échecs [3]. À la fin du 18^e c’était effectivement une attraction qu’on baladait un petit peu partout dans le monde. On avait l’impression qu’un automate jouait aux échecs et, en fait, il y avait un manipulateur caché dans la petite boîte, dessous, qui le faisait jouer devant toutes les cours européennes et même ailleurs.
Aujourd’hui on est exactement dans un rapport de cet ordre-là, c’est-à-dire qu’il y a une part délibérée et claire de trucage et, en même temps, ça produit un effet. On a quand même des outils qui sont capables de réaliser des choses assez étonnantes.

Quel est LE grand enjeu de ces techonologies ?

Parmi les grands enjeux de ces technologies, il y a le fait de savoir qui est aux commandes. Quand on veut mesurer, comprendre l’impact d’une technologie sur la société, il faut, parmi tout un tas d’autres questions, essayer de se demander si on est, par rapport à cette technologie, plutôt sur le siège du conducteur ou plutôt sur le siège du passager. En l’occurrence, si on est sur le siège du passager, si on a une position de spectateur du monde, il faut essayer de regarder qui est assis au volant. Le problème c’est que souvent, on va le voir, les gens qui sont assis au volant, au pilotage de ces technologies, n’ont pas vraiment d’intérêt philanthropique et ne veulent pas spécialement l’apaisement du monde.
De la même manière que dans tout un tas d’événements dans l’histoire de l’humanité, aujourd’hui, face à ces technologies, on a une conscience à peu près claire que nos sens ou que notre intellect peut être trompé. On sait que quand on discute avec ChatGPT, on ne discute pas vraiment avec quelqu’un qui est aussi brillant en philosophie qu’en astrophysique ou qu’en mathématiques. Pour autant, on lui accorde une forme de confiance, une valeur de preuve qui est remise en question ou pas. Donc l’enjeu, avec les mêmes débats qui se sont posés à l’époque de l’invention du cinéma, de la photographie, etc., c’est de savoir s’il y a une régulation possible de ces outils-là dans la manière qu’ils ont de modifier notre rapport au réel et notre rapport à la preuve.
Quelques exemples célèbres avec, malheureusement, un certain nombre d’acteurs qui reviennent assez souvent.
Ici, on a des photos qui avaient été postées par l’équipe de campagne de Donald Trump, à l’occasion de la campagne, où il s’affichait avec des communautés qui, historiquement, ne votent pas pour lui et ces photos sont entièrement fabriquées avec des outils d’intelligence artificielle.
Une fois qu’on a dit ça, reste à savoir comment on prouve que ces photos sont des produits d’outils d’IA. Parce que, photographiquement, on est aujourd’hui à des niveaux de rendu hyper réaliste. Il y a 2/3 ans, les mains étaient mal fichues, parfois il manquait la moitié d’un œil. Aujourd’hui, plus rien ne nous permet de dire, sauf exception, que c’est un faux. C’est d’autant plus troublant qu’il y a également de vraies photos où le vrai Donald Trump pose avec de vraies communautés afro-américaines, hispaniques, etc.
L’un des sujets, c’est de déplacer le curseur et de se dire que ce n’est pas tellement la faute de ces outils. Souvent on dit que c’est la faute de ces outils d’IA qui modifient notre rapport à la vérité, etc. Le problème vient surtout de l’écosystème informationnel dans lequel ces outils d’IA s’inscrivent. C’est-à-dire qu’il y a toujours eu, dans toutes les sociétés, des gens qui, pour plein de raisons, y compris des artistes, ont truqué, falsifié le réel, etc. La question, c’est qui a la capacité de dire le vrai ? Est-ce que ce sont ceux que Umberto Eco appelait les corporations du filtre ? Est-ce que ce sont les journalistes ? Est-ce que ce sont les éditeurs ? Et quels sont les outils à disposition de ces gens-là pour établir que cette photo-là est un trucage ?
Au-delà de dire que c’est le problème de ChatGPT ou des fake news, le premier problème c’est surtout celui de la résonance de ces images auprès de tous les médias et de tous les corps constitués qui vont s’en emparer et leur donner une valeur de vérité.
Je vous ai mis une citation qui, maintenant, tellement elle a été repérée et brandie en manif, finit plutôt par être une espèce de marronnier, qui est la citation d’Hanna Arendt, mais très sincèrement, à chaque fois qu’on aborde ces sujets-là, c’est difficile de trouver plus clair. Elle écrivait : « Quand tout le monde vous ment en permanence, le résultat n’est pas que vous croyez ces mensonges, mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d’agir mais aussi de sa capacité de penser et de juger. Et avec un tel peuple – poursuivait-elle –, vous pouvez faire ce qu’il vous plaît. » C’est très exactement la situation dans laquelle nous sommes aujourd’hui, ce qui est particulièrement visible dans des espaces comme les États-Unis ou d’autres pays où la démocratie est relativement chancelante.

Je vous ai mis quelques autres exemples sur l’intentionnalité qu’il y a derrière ces générations de faux.
Par exemple ces images, qui circulent beaucoup, reprennent l’imagerie des camps de la mort. Celle-là a été produite par des jeunes gens qui sont au Pakistan, au Sri Lanka, et s’appuie simplement sur la régie publicitaire de Facebook qui donne une prime aux créateurs de contenu dès lors que ces contenus-là sont en capacité de générer de l’interaction parce qu’ils sont extrêmement viraux, parce qu’ils jouent sur des émotions. On a donc une explosion de ce type d’image, simplement parce que des jeunes gens, à l’autre bout de la planète, ont une logique de rendement publicitaire qui est permise, qui est poussée par ces plateformes-là.
Autre exemple assez troublant, cette fois-ci c’est le SIG, le Service d’Information du Gouvernement, qui, à l’occasion d’une commémoration, l’année dernière ou il y a deux ans, a produit une vidéo générée avec des outils d’IA sur la Libération et il a dit, il a rapporté, assumé le fait qu’il utilisait ces outils-là, ce qui était probablement un gage de modernité. Le problème c’est que, dans la vidéo, on voit un soldat allemand en train de manifester, lors de la Libération de Paris, aux côtés de résistants et d’habitants de Paris [4]. Encore une fois, la génération dépend de ce qu’on lui donne à manger au départ, et dépend de ce qu’on vérifie ensuite, une fois que la génération est faite. Donc là, manifestement, ils n’avaient pas tout vérifié. Heureusement, ou malheureusement pour eux, ils se sont fait rattraper, donc ils ont été un petit peu moqués. La seule réponse a été de retirer la vidéo. Évidemment, il fallait retirer la vidéo, s’excuser, mais peut-être aurait-il été intéressant d’expliquer aussi pourquoi cette bêtise avait été faite et les résultats que ça avait produit ?
Il y a évidemment pléthore d’exemples, mais, ce qui est très frappant, c’est que, si j’ose dire, les dérives tombent toujours un petit peu sur les mêmes communautés qui sont déjà passablement stigmatisées. Là vous avez un article récent d’un chercheur qui travaille, toujours pareil, sur la génération de vidéos, là sur TikTok, où on va effectivement générer des vidéos qui mettent en scène des personnes migrantes qui accostent sur les côtes de différents pays pour, là aussi, installer une forme qui n’est plus uniquement une forme d’imaginaire, ces vidéos donnent un effet de réel, cette idée de l’extrême droite qu’il y aurait des invasions migratoires qui seraient en cours.
On a aussi, sur d’autres réseaux sociaux, avec Veo3 AI, un outil de génération de vidéos de Google, un certain nombre de communautés, d’influenceurs, d’hommes et de femmes politiques d’extrême droite, qui ont généré des vidéos racistes, où les personnes noires étaient assimilées à des singes et à des primates, avec une violence absolument folle. Même chose pour un certain nombre de personnalités juives, asiatiques, arabes, etc.
Et puis on a toujours Trump, pour le coup, avec la célèbre vidéo dans laquelle il se met en scène sur son projet de transformer Gaza en Riviera. Là aussi, ce qui est extrêmement troublant, au-delà de la folie et de la démesure de ce qu’il peut raconter, c’est que ça installe quelque chose. C’est-à-dire que dans le champ médiatique, dès lors que cette vidéo est produite, le débat change. On commence évidemment par condamner, par moquer, par accabler ce brave homme et puis, très vite, on s’aperçoit que finalement, puisque les images existent, puisque le scénario, puisque le script est établi, ce qui était un impensable devient quelque chose de probable, de possible, de pourquoi pas, et si on en discutait, et si, et si ! On a une espèce de principe de fenêtre d’Overton [5], c’est-à-dire qu’on installe dans le champ du débat public des idées qui, jusque-là, n’y avaient pas leur place.
Je compare tout cela au phénomène d’artificialisation des sols. Le phénomène d’artificialisation c’est le fait qu’à force d’exploiter, de mettre tout un tas de produits divers et variés, de surexploiter les sols et les terres agricoles, on finit par produire des phénomènes d’artificialisation, c’est-à-dire qu’on finit par les appauvrir, ces sols finissent par perdre leur capacité à produire des récoltes en nombre suffisant. C’est exactement la même chose qui est en train de se passer, si on regarde le côté à moitié vide du verre, à l’échelle non seulement de nos représentations, de nos imaginaires, mais aussi des discours qu’on peut tenir sur tout un tas de sujets dans la société aujourd’hui.

Propos de comptoir

Quelques rapides propos, non pas de comptoir, mais de débat public et ce qu’on peut essayer d’en penser ou en discuter ce soir.
On entend très souvent l’idée que l’IA, en général, va nous remplacer dans notre travail, dans nos activités, etc. La réalité, pour autant qu’elle soit uniforme, c’est qu’elle ne va pas supprimer le travail, par contre, elle va faire deux choses, et c’est déjà documenté.
Ces technologies créent davantage de travailleurs pauvres, c’est-à-dire qu’il y a effectivement des métiers qui perdent en compétences ou qui sont délégués dans des régions, dans des pays du monde où il n’y a pas de salaire minimum, où il n’y a pas de droit du travail. Vous avez un très bon papier, récemment dans L’Humanité, d’un collègue qui s’appelle Antonio Casilli, qui travaille beaucoup sur ces sujets [6]. Il expliquait qu’à l’occasion d’un plan de licenciement annoncé par la société Capgemini, juste avant qu’elle se fasse attraper, parce qu’en plus elle collaborait aussi avec ICE [United States Immigration and Customs Enforcement], la police de Trump, sous couvert de déployer des technologies d’IA au sein de Capgemini, elle s’en servait comme prétexte pour mettre des gens à la porte et effectuer un des plus grands plans de licenciement de son histoire. C’est commode de dire qu’on va mettre de l’IA alors que, en réalité, c’est un prétexte pour virer des gens.

L’autre hypothèse, qui est aussi dans nos imaginaires, c’est l’IA exterminatrice de l’humanité, cette idée que les machines vont se retourner contre les humains. Pour l’instant, on n’y est pas du tout. L’hypothèse selon laquelle des IA s’auto-alimenteraient, seraient capables, même si on les débranche, de se rebrancher et fourbiraient des projets secrets pour exterminer l’humanité reste de la science-fiction.

Pour autant, derrière ces technologies, il y a des enjeux de pouvoir.
Vous avez déjà rempli ce qu’on appelle des petits captchas. Quand vous voulez accéder à des contenus, on vous demande de repérer dans des images de vélos, de passages piétons, etc., On a pu documenter, il y a quelques années déjà, que quand vous faisiez ça sur tous les sites qui étaient gérés par Google, Google avait un partenariat avec le ministère des Armées américain et, en fait, vous étiez en train d’entraîner, sans le savoir, des technologies de reconnaissance visuelle pour des drones qui, ensuite, opéraient sur des terrains militaires et qui avaient besoin d’apprendre à distinguer des voitures, des vélos, y compris dans des zones un petit peu floues. Ce projet-là avait fait scandale à l’époque, je vous parle d’une affaire qui date de 2018. Les salariés de Google s’étaient émus quand ils avaient découvert, eux-mêmes n’étaient pas au courant, quel était l’usage propre de ces technologies, ils l’avaient dénoncé et Google avait officiellement dû dénoncer son partenariat avec le ministère des Armées américain en jurant que plus jamais il n’utiliserait ces technologies pour les revendre, en tout cas pour les distribuer à l’armée. Personne, évidemment, n’a pu établir qu’ils avaient réellement arrêté de le faire. Du coup, vous aurez ça en tête la prochaine fois que vous reconnaîtrez un vélo ou autre chose.

L’IA, c’est de moins en moins gratuit, j’en ai parlé tout à l’heure, mais les coûts explosent. On est sur deux stratégies ou sur deux hypothèses.
La première hypothèse, c’est celle que je vous ai présentée tout à l’heure. Il y a bien un moment où, même avec la trésorerie de Facebook, même avec la trésorerie de Google ou de Microsoft, il va bien falloir quand même, un jour ou l’autre, rentrer dans ses frais.
Et en même temps, je vous le dirai tout à l’heure, ces entreprises ont une telle masse de trésorerie qu’elles n’hésitent pas à investir des centaines de millions de dollars sur une technologie – récemment, c’était le métavers de Mark Zuckerberg – pour, un an ou deux ans après, considérer que, finalement, ces centaines de millions de dollars, voire plus, qui avaient été investis, tant pis, on arrête tout, on arrête le projet et on passe à un autre projet. Je ne sais pas s’il y aura une bulle de l’IA, si elle va exploser et si, demain, il faudra payer pour tous ces usages, en tout cas, pour l’instant, la question se pose.

Sur le rapport au réel et au trucage, j’en ai déjà parlé, je vais passer rapidement.

ChatGPT est [con comme ] un lave-linge

Et puis, derrière ces technologies, il y a une illusion de complexité. Je me suis permis de résumer en langage un petit peu amène, mais souvent, effectivement, on nous explique, et on a raison, que c’est compliqué de réguler tout ça parce que derrière, vous n’imaginez pas, il y a tout un tas de technologies qui s’entrecroisent et qui sont inaccessibles au commun des mortels, ce qui est vrai, puisque derrière, il y a effectivement tout un tas de réseaux de neurones, de choses comme ça, etc. Et pour autant, ça a beau être aussi complexe qu’on le veut, ça n’empêche pas, et ça ne doit surtout pas empêcher de poser la question aux gens qui fabriquent ces technologies-là : quelle est votre part de responsabilité ? Parce que si ChatGPT, pour filer la métaphore, est un lave-linge, un lave-linge n’est pas responsable des bourrages qui sont faits par les humains qui l’alimentent ; il n’est pas responsable, si vous lui mettez de l’huile au lieu de lui mettre de la lessive, de produire les effets qui sont commandés par l’opérateur qu’il y a derrière. Et puis un lave-linge se fiche de savoir si le linge est propre en sortie, c’est une préoccupation qui lui échappe totalement.
De la même manière, ChatGPT ne se préoccupe pas de savoir si ce qu’il vous donne est vrai, est faux, à moitié vrai, à moitié faux, etc. Par contre, les gens qui sont derrière ont une responsabilité. Donc quelles sont les garanties, quand on utilise ces outils, qu’ils ne vont pas se tromper ou qu’ils ne vont pas nous tromper ? Quelles sont les garanties que, quand ils utilisent des images pour en produire de nouvelles, les auteurs ou les autrices qui ont produit ces images ont bien été identifiées et rémunérées, puisque, sinon, ça s’appelle du travail gratuit et, à priori, ce n’est pas autorisé, etc.

Se méfier du marketing technologique

Se méfier aussi du marketing technologique. Ces sociétés-là sont très fortes pour nous vendre, c’est le concept même du marketing, des choses qui n’ont que très peu de chances de se produire. Si on reprend tous les discours un petit peu techno-futuristes, ça fait 20-30 ans qu’on nous explique que nous aurions tous déjà dû avoir, dans nos cuisines, des frigos qui parlent – certains frigos parlent mais la conversation est assez limitée –, des voitures volantes, des voitures totalement autonomes, on a des voitures qui sont semi-autonomes sur certains aspects.
On nous avait annoncé aussi la fameuse théorie de la singularité où les machines, les ordinateurs, les programmes deviendraient plus intelligents que la capacité de raisonnement de l’esprit humain, on n’y est toujours pas.
On nous avait annoncé, Elon Musk notamment, qu’en 2030, on aurait tous des colonies martiennes dans lesquelles on pourra aller se balader comme on va passer un week-end dans le Perche. On n’y est pas tout à fait non plus.
Et puis, Mark Zuckerberg nous avait annoncé, il y a cinq ans, que nous serions tous, depuis normalement deux ans déjà, dans le métavers, en train de vivre nos vies virtuelles. Le fait est que ça n’a tellement pas marché qu’en janvier 2026 il a annoncé qu’il arrêtait, qu’il passait à autre chose, et que les millions, même les milliards d’investissements dans cette technologie-là, il allait désormais les mettre dans des technologies d’IA.

Prendre la sémantique à revers

Je démarre par la petite image humoristique.
« Ce champignon est-il comestible ? — Oui ! »
Étape suivante, malheureusement non ! [Requiescat in pace].
Et le même assistant intelligent répond : « Vous avez raison, ce champignon était toxique. Je suis désolé pour la confusion. Voulez-vous en savoir plus sur les champignons toxiques ? ».
Si vous avez l’habitude d’utiliser ces outils, vous savez qu’ils vont toujours, en première intention, vous donner raison. Vous pouvez leur poser n’importe quelle question, affirmer n’importe quelle contre-vérité, ils vont toujours, systématiquement, parce qu’ils sont programmés pour cela, commencer par vous donner raison. Et quand vous les mettez devant ce qui, à vos yeux, est un mensonge, une réalité, ils vont s’excuser et dire « oui, tu avais raison, les moutons ne pondent pas d’œufs, donc, effectivement, tu ne peux pas faire une omelette aux œufs de mouton ou tu as eu tort de manger ce champignon. »

Tout cela pour dire que ces outils d’IA sont saturés de biais. Je vous en donne juste quelques-uns.

Le premier biais, c’est un biais de disponibilité et de conformité. C’est-à-dire qu’ils renvoient toujours des réponses stéréotypiques, quelles que soient les questions qu’on pose, quels que soient les gens qui posent les questions. Et, pour répondre à nos interrogations, ils s’appuient sur les informations qui sont, pour eux, le plus immédiatement et le plus gratuitement disponibles. Et souvent, ces informations-là ne sont pas des informations de qualité. Souvent, ce sont des collections de black Carambar [sucrerie publicitaire contenant des blagues pour adultes, NdT] que ces IA interprètent comme des phénomènes réels.
Aujourd’hui, on a un problème. Elon Musk, par exemple, a décidé de lancer un projet qui s’appelle Grokipedia, qui est l’équivalent de Wikipédia, mais version extrême droite conservatrice et bourrée de fake news. Donc dans Grokipedia, l’encyclopédie d’Elon Musk, vous pouvez lire tout un tas de contre-vérités ahurissantes qui sont exactement dans l’air du temps étasunien en ce moment et qui relaient des éléments du discours trumpiste. Le problème, c’est que toutes les IA, y compris ChatGPT, vont se nourrir au robinet de Grokpedia aujourd’hui et ça donne des choses assez surréalistes et assez problématiques.

Ensuite, il y a le biais de confirmation. On a un exemple ici. Elles vont toujours confirmer ce que vous dites.

Et puis, il y a le biais de sur-confiance. C’est-à-dire que les personnes les moins qualifiées d’un groupe ont toujours tendance à surestimer leurs propres compétences dans un domaine et ces outils d’IA renforcent notre propre biais de sur-confiance.

Autre élément. Quand vous discutez avec ces outils d’IA, quand vous leur posez des questions, ils sont réglés par des gens qu’on ne voit pas, qui sont souvent des travailleurs pauvres et exploités, dont je vais vous parler juste après. Et ils sont réglés sur trois paramètres. On leur dit qu’il faut que les réponses soient utiles, honnêtes, et qu’elles ne fassent de tort ou de mal à personne, c’est-à-dire qu’il y a des éléments de langage qui sont paramétrés pour faire en sorte que, dans les réponses qui vont vous être données, ces trois critères-là soient respectés pour plein de raisons. Effectivement si une IA, un assistant conversationnel, se met à faire de l’ironie, à faire de la provocation, à affirmer des éléments polémiques, à ce moment-là, les sociétés qui développent ces outils ont peur de perdre en termes d’image, elles ont peur des polémiques qui seront suscitées par la suite. Preuve en est que ça ne marche pas puisqu’il y a à peu près une polémique toutes les semaines.
En tout cas, il faut toujours réfléchir et se dire, puisque, aujourd’hui, il y a un effectivement un certain nombre de gens qui ont recours à ces outils, y compris en termes de réassurance, pour sortir d’une forme de solitude, que, derrière, une société dans laquelle toute interaction langagière serait réglée pour être utile, honnête et ne surtout jamais blesser personne, serait d’abord une société profondément chiante, triste à mourir, et surtout une société où un certain nombre de dérives pourraient également se produire.

Problemos ! L’extractivisme et la pollution

Sur le problème écologique, les métaphores valent ce qu’elles veulent, je n’en ai pas parlé. Ces immenses usines consomment de l’énergie et comme il faut refroidir, consomment également beaucoup d’eau. Si on veut se représenter, en termes de consommation : quand vous discutez une vingtaine de fois avec ChatGPT, c’est comme si vous aviez consommé à peu près un demi-litre d’eau. Donc à l’échelle de la planète, à l’échelle des volumes que je vous ai indiqué tout à l’heure, on est sur des consommations absolument colossales et on a déjà, dans certains pays, ce qu’on appelle des guerres de l’eau, qui là aussi relèvent d’un imaginaire de science-fiction et ce ne sont pas des pays de la Corne de l’Afrique, c’est le Mexique, ce sont beaucoup de pays d’Amérique du Sud, c’est l’Espagne. En Espagne, Google a bâti des énormes datacenters en Andalousie. Des populations font des manifs, elles disent à Google « avoir des mails, un moteur de recherche, c’est sympa, mais on aimerait bien avoir de l’eau au robinet. Et là, en ce moment, tu es en train de capter toutes les ressources hydriques. »

Il y a le problème des travailleurs pauvres qui sont derrière. On a découvert, au tout début du lancement de ChatGPT, que, derrière, ça se passait effectivement au Kenya,. Des gens étaient exploités, bossaient 12 heures par jour dans des usines à la chaîne, à qui on proposait des blocs de textes sur tout un tas de sujets extrêmement violents, des descriptions de viols, des choses horribles. Ces opérateurs-là étaient payés justement pour modérer ces conversations, pour dire à ChatGPT « non, tu ne donnes pas cette description de viol, etc. », afin que les utilisateurs nord-européens comme nous, ou américains, puissent avoir une expérience aussi légère que possible de ces outils-là. Mais la réalité qui est masquée derrière, c’est celle-ci, ce sont des dizaines de milliers de travailleurs pauvres qui sont concernés. Heureusement, quelques universitaires et journalistes ont été en capacité d’enquêter et de démontrer ces réalités-là.

Ces outils doivent être entraînés sur d’immenses corpus. Il y a des corpus. Ici, vous avez, par exemple, un site. On appelle ça des jeux de données. Donc, pour être capable de produire des images, il faut être en capacité d’aller absorber des bases de données où des centaines de millions d’images ont été étiquetées à la main par des gens comme vous et moi. Donc des gens qui voient défiler des photos de chiens, puis il y a un chat et ils doivent dire « chien, chat », ils appuient sur un bouton. Ils font ça pour des salaires de misère et en France, ça a été d’ailleurs documenté, ce sont souvent plutôt des jeunes femmes pauvres, isolées ou mères célibataires, qui font ça en plus de leur autre travail, le soir, pour des salaires de misère.

Une fois qu’on a toutes ces bases de données, c’est tellement massif que plus personne n’est en capacité d’aller vérifier ce qu’il y a vraiment à l’intérieur. Et de temps en temps, on a des sorties de route extrêmement graves puisque, dans ces bases de données utilisées pour générer des images, des journalistes, des universitaires ont retrouvé tout un tas de sites et d’images pédopornographiques qui étaient là, on ne sait pas trop comment, parce qu’à force de tout attraper sans jamais rien vérifier, on finit effectivement par tomber sur ces contenus-là. La masse est tellement énorme que, y compris les gens qui développent ces bases de données-là n’ont plus la capacité d’aller ausculter pour voir si, à l’intérieur, il n’y a pas des choses problématiques qui se cachent.

Et je termine avec trois exemples, puisque ces outils ne sont finalement que le reflet de notre humanité, c’est-à-dire qu’ils reproduisent nos propres biais sociaux, racistes, sexistes, etc. Par exemple, quand on va demander à un outil de génération d’images – on travaille sur les métiers, vous avez ici la couleur de peau qui est associée à l’image – de générer une image d’architecte, en termes de colorimétrie, c’est plutôt ça qui sort [nuancier rose pâle, NdT]. Il y a très peu d’images générées par IA où on voit un architecte de peau noire.
Et puis, il n’y a pas besoin de faire de longues démonstrations de sociologie, plus les boulots sont pauvres, mal payés et bas dans l’échelle sociale, et plus les images générées automatiquement, sans qu’on ait demandé quoi que ce soit, reproduisent un certain nombre à la fois de réalités sociales, mais aussi de biais, de stéréotypes racistes.
De la même manière, quand on fait la même chose mais qu’on raisonne à l’échelle de la question du sexisme, on donne des noms de métiers et on regarde si, ce qui sort, ce sont des hommes ou des femmes, eh bien là aussi, étrangement, les architectes sont essentiellement des hommes et les travailleuses sociales et enseignantes sont essentiellement des femmes. Ce qui, là aussi, ne dit pas grand-chose de ChatGPT ou de ces générateurs d’images, mais dit beaucoup, pour le coup, de l’image en miroir que nous renvoient ces outils-là.

Les gens qui développent ces outils-là ont été tellement critiqués là-dessus qu’ils ont dit « OK, vous nous cassez les pieds en nous accusant de racisme, de sexisme, donc on va corriger les biais. On va remettre des femmes puisque que vous nous dites qu’il n’y en a pas assez, on va remettre des hommes noirs, puisque que vous nous dites qu’il n’y en a pas assez, et résultat, quand on leur demande de générer des images de soldats nazis, voilà [hommes et femmes noirs, NdT], il y a tous types de sexe, d’origine, etc.
La question, du coup, là, c’est celle des publics destinataires de ces images. C’est-à-dire que si c’est vous et moi, à priori les gens dans cette salle sont en capacité de documenter le fait qu’il y a un problème dans cette image-là. Par contre, il n’est pas exclu qu’un certain nombre d’autres publics, et pas par ignorance ou par bêtise, simplement parce que ces codes culturels-là ne sont pas installés, soient en capacité de ne rien déceler de choquant ou d’étonnant sur cette image.

Conclusion

J’avais promis d’être rapide et je ne l’ai pas été. C’est donc un échec. Je conclus avec une phrase d’une chercheuse qui s’appelle Kate Crawford [7], qui a beaucoup travaillé sur l’évolution de ces technologies d’IA et qui dit des choses essentielles, c’est-à-dire que ce n’est ni intelligent ni artificiel, par contre c’est une industrie extractiviste du calcul. C’est-à-dire que ça va creuser partout là où ça peut pour choper des tonnes de données sans aucun égard, ni pour les gens auprès de qui on les collecte ni pour les environnements dans lesquels se déploie leur traitement. Dans le cas de l’IA, il n’y a pas de boîte noire unique à ouvrir, pas de secrets à révéler, mais des systèmes de pouvoir entrelacés.
Et là aussi, malheureusement, chaque fois qu’on ouvre la télé, qu’on lit le journal sur ce qui se passe, ce n’est pas un hasard si ce sont plutôt des régimes autoritaires ou illibéraux qui sont les premiers à se saisir de ces technologies, à les déployer massivement et à s’en servir parce qu’elles sont au service d’un agenda politique et idéologique.
Donc, pour comprendre la place de ces outils-là, il faut d’abord nous intéresser aux architectures matérielles qui sont derrière. Et quand on a compris qu’à l’échelle des États-Unis, ce sont Zuckerberg, Musk, Gates, Bezos et quelques autres patrons de la tech américaine qui disposent à eux seuls 90 % des infrastructures de calcul, quand on voit les photos d’intronisation de la présidence de Trump, pour son second mandat, avec toutes ces personnalités en première ligne, on comprend que ce qui est une logique de pouvoirs entrelacés est extrêmement problématique.
Je suis désolé, j’ai dépassé.
Merci de votre attention.

[Applaudissements]