Bonjour. Comme vous n’êtes pas nombreux aujourd’hui, on devrait pouvoir s’entendre comme ça.
Merci pour la présentation. Oui, effectivement, ce petit bouquin a été fait par les étudiants, en édition, ici, de l’université. C’est une conférence que j’ai donnée il y a deux ans, et cela a eu comme conséquence que je ne pouvais pas refaire la même cette année. C’est donc une conférence complètement nouvelle, en fait presque tout est nouveau, comme ça je risque de me planter en direct/live, et ce n’est pas mal.

Elle est intitulée « Paniques morales », mais il y a une deuxième partie sur l’intelligence artificielle où on se demandera, justement, si nous ne sommes pas en train de vivre une panique morale, ou bien s’il y a un réel changement dans la société, un basculement du même ordre et du même type que celui qui a eu lieu il y a maintenant 25 ans autour du passage de l’Internet grand public.

Mods & Rockers

L’idée de « Paniques morales » est née il y a 50 ans quand un sociologue anglais, Stanley Cohen, va faire une étude sur deux groupes de jeunes, deux bandes rivales qui existaient dans les années 60, qu’on appelait les Mods & Rockers, les Rockers étaient tout habillés de cuir et les Mods étaient habillés de vestons italiens, pratiquaient les scooters et non pas la moto, ce qui entraînait entre eux des bagarres, des agressions, des choses comme ça, donc des phénomènes de bandes comme il en existait en France, on appelait ça les blousons noirs, etc. La société anglaise, d’un seul coup, s’est mise à paniquer, a créé une réaction disproportionnée face à ces jeunes qui étaient considérés comme marginaux ou déviants, qui ne se comportaient pas comme la bonne société british. On a donc appelé ça des paniques morales [1].

Trois éléments

En fait, cela se développe avec trois éléments essentiels. Pour qu’il existe une panique morale, il faut :

• d’abord qu’il y ait un comportement qui menace l’ordre établi, les habitudes, les manières de vivre des gens, de la société traditionnelle ;
• une forte médiatisation. Il faut que les médias s’en emparent, montent le sujet en mayonnaise, etc., et jamais sur l’ordre des faits, mais sur un modèle associatif : que se passerait-il si, au lieu d’être quelques bandes de jeunes, c’était tous les jeunes qui, d’un seul coup, devenaient soit Mods soit Rockers et que ça soit la guerre mondiale entre groupes à Brighton ? Ce phénomène-là est nécessaire et on va voir plus loin le rôle essentiel des médias ;
• enfin, il faut qu’il y ait des « entrepreneurs de morale » [2], terme qu’on doit à Howard Becker, un grand sociologue qui vient de disparaître, qui désigne par là les gens qui vont édicter des normes, qui vont se trouver les moyens de dire : la vie correcte, ça doit être comme ça. Ce sont donc les religieux, les politiques, les éditorialistes, toutes ces catégories de gens qui sont des entrepreneurs de morale. Ils y jouent aussi leur carrière, leur raison d’être, ce sont donc bien des entrepreneurs, ils prennent le risque, etc.

Démesure

Le rôle essentiel est celui de la démesure des médias. Il s’agit de présenter une question avec démesure.
J’ai deux petits exemples autour du jeu auquel vous avez dû jouer, vu votre âge, qui s’appelle Pokémon Go, j’en vois qui rigolent. Dès que Pokémon Go est sorti, sans que, jamais, il n’y ait eu d’événement, le message a été « les enfants qui jouent à Pokémon Go deviennent des proies pour les prédateurs sexuels qui vont les traquer, les chercher, les faire rentrer chez eux pour découvrir des Pokémon, etc. » Il n’y a jamais eu ni avant ni après.

[Projection d’une partie d’un journal télévisé américain]

La police de Miami fait des vidéos et la télévision ici... j’arrête. Le New York Post traite de Pokémon Go : « Les enfants sont près des maisons des prédateurs sexuels ». À l’époque, il y avait une série télé qui s’appelait The Predator, une espèce de jeu où il fallait dénoncer un prédateur, c’était donc à la mode de parler des prédateurs sexuels vis-à-vis des enfants, ça va servir pour dénoncer les médias sociaux, toute une série de paniques morales autour de ce sujet-là.
L’enjeu, bien sûr, c’est de susciter des peurs, pas tant chez les enfants eux-mêmes qui jouent à Pokémon Go, comme vous, mais chez leurs parents. Bilan : on va revenir à des valeurs, c’est-à-dire que cette nouveauté provoque un bouleversement tel qu’il vaut mieux revenir à des valeurs.

Extension du concept

En sciences de l’information et de la communication, on a tendance à élargir cette notion qui a été créée dans un concept sociologique précis, mais les concepts sont faits pour servir, donc on élargit la boîte.
Grosso modo, en sciences d’information, l’idée c’est qu’à chaque fois qu’il y a une nouveauté technique il y a des gens qui veulent revenir en arrière, empêcher cette nouveauté technique. Ça a commencé avec Socrate qui disait que l’écriture allait nous faire perdre la mémoire ; au 19e siècle, quand on a eu un développement des romans, que ça allait, bien sûr, détourner les femmes de leur rôle, les femmes, les enfants, les gens fragiles ! C’est le thème de Madame Bovary que vous connaissez bien ; quand le walkman est apparu, on a dit « les jeunes vont aller dans la rue avec leur musique dans les oreilles, ça va complètement les isoler, ils ne vont plus être dans le même monde que nous, etc. » ; quand la bande dessinée s’est développée, on a écrit une loi, la loi de 49, pour imposer aux revues et aux journaux de bande dessinée d’avoir la moitié de texte écrit, on ne pouvait pas penser que les petits Le journal de Mickey c’était de la littérature ; quand le rock est apparu, vous le savez très bien, surtout le rock psychédélique, que c’est un danger pour la jeunesse ! Voilà ! Je ne veux pas parler des jeux vidéo puisque nous avons eu, très récemment, un avis hautement autorisé de monsieur notre président de la République qui a expliqué que c’était à cause des jeux vidéo qu’il y avait des émeutes dans les quartiers !

Un bon outil

Les paniques morales, c’est intéressant parce que c’est un bon outil pour essayer de se poser la question : est-ce que nous sommes face à une vraie nouveauté, à quelque chose qui existe, avec des faits qui viennent le confirmer, ou est-ce que nous sommes face, à nouveau, à une espèce d’immense exagération, une roue qui tourne toute seule et ainsi de suite ?
Dans ce cadre-là, le rôle de la presse est essentiel. Avec le selfie, vous savez tous que vous êtes le produit d’une déferlante narcissique [3], ça se voit ! Les journaux ont tendance à créer de la peur.
En revanche, il ne faut pas appeler panique morale tout ce qui ne nous plaît pas, il y a toujours ce danger-là, il ne faut pas l’oublier.

Le rôle des médias

Le rôle des médias, en général.
La fonction des médias, c’est de mettre les choses à l’agenda, c’est-à-dire à l’ordre du jour, faire que tout le monde pense à une chose en même temps, de manière à focaliser l’attention publique et faire en sorte soit que des décisions soient prises, soit des événements qui vont focaliser l’attention et qui vont permettre d’avoir des nouveautés législatives, c’est devenu à la mode depuis une vingtaine d’années : dès qu’il y a un fait divers, on fait une loi. C’est le rôle des médias de mettre les choses à l’agenda, après, secondairement seulement, de donner de l’information. C’est plus la Une des médias qui est importante que l’information qui va être donnée, qui est souvent de très bonne qualité, parfois même contraire au titre qui sera donné, parce que le journaliste écrit l’article, mais le titre dépend de la rédaction et on sait très bien que les médias sont des entreprises économiques, y compris des entreprises économiques très concentrées et elles ont besoin, en permanence, d’attirer leur public. S’il y a une chose qui marche bien c’est la peur.

Voix off : TF1, 20 heures, avec Roger Gicquel.

Roger Gicquel, voix off : Bonsoir. La France a peur. Je crois qu’on peut le dire aussi nettement. La France connaît la panique depuis qu’hier soir, une vingtaine de minutes après la fin de ce journal, on lui a appris cette horreur : un enfant est mort.

Hervé Le Crosnier : « La France a peur ». C’est resté un symbole de la manière dont les médias participent effectivement de la création de cette peur parce qu’on veut savoir pourquoi la France a peur. Moi, je n’ai pas peur, comment se fait-il que les autres aient peur ? Il y a une espèce d’intérêt en permanence.

Et des médias sociaux

En est-il de même pour les médias sociaux ?
Je pense que l’algorithme des médias sociaux fonctionne de la même manière, c’est-à-dire qu’il va sélectionner parmi la masse d’informations, c’est-à—dire la masse des choses qui auront été déposées par vous, vos voisins, vos amis, celles que vous allez voir, que chacun d’entre vous va voir. C’est donc un processus d’éditorialisation : je sélectionne ce qui va être mis à l’agenda, non plus avec les médias sociaux, à l’agenda collectif — ce que leur reprochent, par exemple, les médias qui disent « là ce n’est pas assez collectif », qui, par ailleurs, recherchent en permanence dans les groupes des médias sociaux des tendances pour pouvoir les exploiter à nouveau dans les médias diffusés. Chut !
Donc les médias sociaux mettent des choses en avant, mais au service de qui ? Pas forcément à votre service. On prétend qu’en laissant vos données, on va vous montrer ce qui va être le plus intéressant pour vous. En réalité, les médias sociaux montrent ce qui provoque le plus d’engagement, c’est-à-dire où vous allez répondre, vous allez critiquer, vous allez tempêter, vous n’allez pas être content, vous allez faire un like. Quel que soit l’engagement, c’est cela qui fait qu’on reste sur le média social, qui permet donc au média social de vendre sa publicité.
On est donc dans un phénomène d’éditorialisation au service du média social. On n’est plus dans la logique de base d’espace public des médias sociaux.

Qu’est-ce qui marche dans ce cadre-là ? La peur sur Internet, directement sur un média social, un peu moins, par contre le complotisme, c’est super ! Vous expliquez que des Illuminati dirigent le monde, ça marche à tous les coups. Vous trouvez partout des solutions, des réponses. En fait, développer le cynisme, dire « ouais, tout ça, c’est pourri » et provoquer des attaques en meute aussi.

L’intérêt qu’ont les médias sociaux à créer de l’engagement, donc à vous faire venir et revenir, exploite en fait des bas instincts chez tout un chacun d’entre nous et c’est pour cela qu’ils deviennent dangereux parce qu’ils vont détourner les gens de la vie collective. Le complotisme, très clairement, c’est le dernier allié des pouvoirs en place : « Vu que c’est un complot, on n’y peut rien parce qu’il y aura un autre complot derrière ». Bref !

Régulation

Dans cette situation, comment fait-on de la régulation ?
Ça aussi, c’est un problème essentiel qui est posé : on a une situation qui se développe, il y a des gens qui profitent des paniques morales, y compris les médias sociaux, pas seulement les médias organisés, comment va-t-on pouvoir les réguler ? Je pense, et je ne suis pas le seul, qu’il faut s’en prendre à leur modèle économique.

Au moment du développement des médias sociaux, parce que c’était nouveau, que la sphère politique a toujours besoin de dire « hou là, on va regarder ce qui se passe avant de prendre une décision », on a accordé à ces plateformes le statut d’hébergeur, c’est-à-dire qu’ils n’étaient pas considérés comme des éditeurs. S’ils avaient été des éditeurs, éditeurs de journal par exemple, il aurait fallu que le rédacteur en chef soit responsable du contenu, or, le contenu est versé par tout un chacun, par tous les gens qui peuvent se connecter. Il y a donc effectivement un risque, pour l’éditeur, de dire : « Je ne peux pas lire les millions de vidéos qui sont téléchargées toutes les minutes, je ne peux pas lire tous les posts qui sont mis sur Twitter, je suis donc l’hébergeur de la parole de quelqu’un d’autre. » C’était assez crédible tant qu’il n’y avait pas les algorithmes. Mais, à partir du moment où il y a les algorithmes qui sélectionnent, ils sélectionnent en promouvant et ils promeuvent donc des contenus dangereux, des contenus d’appel au terrorisme, à la violence, au cyber-harcèlement, je vais en parler tout à l’heure, donc les médias sociaux font la promotion de ces choses-là, on ne peut plus tout à fait penser qu’ils ne sont pas éditeurs.
Il y a donc besoin de réfléchir à cette question-là, revenir en arrière, ce qui voudra dire qu’on n’aura plus un média social avec trois milliards d’utilisateurs comme Facebook : si on veut se comporter comme un éditeur qui regarde un peu ce qui est publié dans l’édition de son média, il faudra que ce soit des formes plus petites, il faudra créer de l’emploi. C’est un élément important, donc, ça veut dire qu’il faudra détruire les monopoles.
Il faut quand même se rendre compte que ces grandes plateformes numériques ont une vingtaine d’années et, en 20 ans, elles sont devenues plus riches et plus puissantes que la plupart des États de la planète. Il faut mesurer ce qui s’est passé et se demander si ça peut continuer.

Une jeune fille, mon héroïne actuelle, s’appelle Lina Khan [4]. Elle a fait sa thèse sur pourquoi Amazon est un monopole. C’est compliqué parce que, dans la logique traditionnelle des monopoles, celle qui a été élaborée dans les années 20 autour des monopoles du pétrole, on disait « une fois que j’ai une position de monopole, je fais payer plus cher l’utilisateur ; j’augmente les prix, j’ai un surcoût de monopole puisque, de toute façon, les gens sont obligés de passer par moi ». Chez Amazon, ce n’est pas vrai puisque, au contraire, leur monopole est acquis en baissant sans arrêt les prix pour leurs usagers, en pressurant, par contre, les collègues qui appartiennent à la Marketplace d’Amazon, qui vendent grâce au système commercial d’Amazon et qui, eux, sont pressurés chaque jour de plus en plus. Mais Amazon fait baisser les prix.
Lina Khan démontre qu’il faut tenir compte d’un autre aspect qui est l’impact sur la société : quand un entrepôt Amazon se crée quelque part, s’il crée 500 emplois, il en détruit 1000. C’est là qu’il y a cette contradiction : tout le monde parle des 500 qui sont créés et pas des 1000 qui sont détruits.
On a donc cette logique-là : voir quel est l’impact rendu obligatoire auprès de la société et auprès des concurrents. Si on pressure les gens qui appartiennent à la plateforme du Marketplace, à partir de ce moment-là, ils ne vont plus pouvoir faire une concurrence par les prix, donc, au final, c’est Amazon qui va capter l’ensemble de l’argent et imposer, en fait, sa propre loi à ses utilisateurs.
Lina Khan a fait sa thèse là-dessus. Elle a été nommée à la direction de la Federal Trade Commission, la FTC, l’agence qui gère le commerce aux États-Unis et elle est la cible des grandes plateformes de l’Internet et elle est la cible des Google, Amazon, Facebook, etc., qui la considèrent comme leur ennemi numéro 1. Autant dire qu’elle doit bien résister et la semaine dernière, sans se démonter, elle a porté plainte contre Amazon au nom de ces arguments-là. C’est parti pour une rude bataille juridique et, comme c’est mon héroïne, j’espère qu’elle va gagner !

Il se passe un peu la même chose en Europe. Deux règlements qui ont été adoptés l’année dernière et qui entrent en œuvre maintenant, le Digital Markets Act [5], et le Digital Services Act [6], deux règlements qui concernent principalement les grandes plateformes, donc, grosso modo, qui vise 14 plateformes qui sont les acteurs majeurs du marché et des services numériques sur Internet.
La logique est un peu la même, c’est-à-dire qu’il faut que ces acteurs prouvent qu’ils se sont réellement donné les moyens de contrôler ce qui est diffusé, qu’ils protègent bien les données privées des usagers – c’est l’ancien règlement qui s’appelait le RGPD, le Règlement général sur la protection des données<ref<RGPD - Règlement général sur la protection des données]]. Ça a permis à la CNIL, en France, de demander plus d’un milliard à Meta, à Facebook. Là, on n’est plus dans des amendes rigolotes, on est sur de vraies amendes sérieuses, pas si énormes que ça à l’échelle de ces grands opérateurs, mais qui a quand même tendance à avoir un impact énorme.
Donc là aussi, bien comprendre que face à ces entreprises la régulation, le rôle du politique, le rôle des choix politiques est quelque chose d’absolument essentiel.

Le « devenir merdique »

Cory Doctorow [7], excellent auteur de science-fiction, a utilisé un très beau mot. En anglais, c’est enshittification que j’ai traduit poliment par « devenir merdique », qui veut dire « emmerdification des plateformes ». C’est un phénomène en quatre temps.
Premier temps, la plateforme sert ses usagers, donc elle va baisser les prix, elle va rendre service, elle va faire aller beaucoup plus vite la livraison ; elle sert l’usager.
Quand elle a beaucoup d’usagers, elle se tourne vers le client, je distingue bien l’usager du client : l’usager, c’est celui qui s’en sert, le client, c’est celui qui paye et celui qui paye, c’est celui qui fait de la publicité, c’est celui qui laisse un pourcentage à chaque fois qu’il dépose ses produits sur un Marketplace qui les vendra et Amazon va capter, à chaque fois, 40 à 50 % du marché qui est là. Comme je suis éditeur, que nous avons des livres sur Amazon — dès qu’on ne les a plus sur Amazon, c’est marqué qu’ils ne sont plus disponibles, c’est embêtant —, à chaque fois qu’on vend un livre, Amazon en prend à peu près la moitié, ce qui est bien plus que tous les libraires. Donc, elle se tourne vers le client et elle fait payer le client.
Après, comme elles ont beaucoup d’usagers, elles demandent encore plus aux clients, c’est-à-dire que non seulement il faut payer, mais, maintenant, en plus, on a un abonnement à Amazon, sans arrêt, elles réclament quelque chose en plus. Donc c’est la dégringolade.
Les médias sociaux mettent de plus en plus de publicité puisqu’ils ont besoin que les clients viennent, surtout que les clients commencent à se dire « la publicité sur Facebook, sur les médias sociaux, ça ne marche pas si bien que ça ; elle est soi-disant ciblée, mais, en réalité, elle ne l’est pas du tout ; que je n’ai aucun contrôle sur le résultat », donc il y a de plus en plus de publicité. Bilan, les usagers disent : « Ça va la publicité ! Je suis noyé, comme c’est inséré au milieu de mon flux, je ne sais plus ce qui est de l’ordre de la publicité et de l’ordre de l’échange », et les usagers se désespèrent par rapport aux médias sociaux. Je ne sais pas si c’est votre cas, mais, statistiquement, il semblerait que ça provoque vraiment une espèce de dégoût, d’ennui avec les médias sociaux.

Le crétin digital

Ça, c’est vous [Article d’un journal « C’est la première génération dont le QI sera inférieur à la précédente », NdT], moi ça va, je suis trop vieux, j’ai réussi à m’en sortir. Vous vous rendez compte que le QI de votre génération sera inférieur au mien, pour la première fois dans le monde, dans la planète, dans l’histoire de l’humanité ! Typiquement, pour moi, ça c’est une panique morale : on a un entrepreneur de morale qui définit ce qui est bien et mal aujourd’hui, c’est le QI qui devient son moteur. Mais, en psychologie, tout le monde dit « hou là, là, le QI ne signifie pas grand-chose », surtout que le QI est adapté à certaines compétences qui étaient peut-être des compétences du passé. Sont-elles toutes les compétences qu’on a aujourd’hui ? Ça se discute sérieusement.
En même temps, et c’est ce qui est intéressant, même si je pense que c’est une panique morale, puisqu’une vraie étude sociologique disait que le niveau monte globalement, pas le niveau des plus compétents, le niveau moyen de la société, et c’est important : quand des gens disent « ils sont tous en train de devenir crétins », c’est parce que, avant, ils ne pensaient qu’à ceux qui allaient déjà à la fac, à ceux qui lisaient beaucoup, ils ne pensaient pas à l’immense majorité qui regardait la télévision plutôt que de lire, enfin !
Il y a des réalités en face qui sont la baisse, par exemple, de la lecture imprimée, des choses imprimées. Pour un éditeur de livres, vous comprenez que c’est ennuyeux. Je préférerais que vous lisiez beaucoup plus, je suis sûr que vous achèteriez mes livres, ils sont tellement bons !

Le problème, c’est qu’on a de plus en plus des activités où on est désinsérés : on se sert de notre téléphone au milieu d’autres activités pour lesquelles on n’aurait pas forcément le temps, l’énergie pour ouvrir un livre, etc. On a donc beaucoup d’activités qui sont passées sur Internet. On nous dit qu’on est tout le temps devant nos écrans, mais les gens lisent aussi le journal, ils accèdent à des informations. On n’est pas devant l’écran de la même manière quand on s’ennuie et qu’on regarde Instagram, en passant, comme ça, au fur et à mesure, sans même lire, ou quand on est en train de lire quelque chose, de faire une recherche sur Wikipédia ou je ne sais quoi.

Une autre réalité, c’est la baisse du temps de sommeil qui est effectivement problématique, notamment chez les ados occupés, la nuit, à jouer, à échanger, à chatter sur leur téléphone, etc., c’est une baisse du temps de sommeil, c’est une réalité.

L’autre réalité, c’est que les médias sociaux sont des outils de coordination et, pour les pouvoirs qui pensent que la jeunesse est une classe dangereuse, qu’elle est prête à faire des émeutes, le fait d’avoir un outil de coordination des émeutiers, forcément, et non pas d’information, surtout pas d’information sur les manquements ou les exagérations du pouvoir, mais un outil de coordination, à ce moment-là, on va dénoncer l’outil de coordination lui-même.

C’est vrai aussi qu’il y a des moments familiaux qui sont plus difficiles quand les ados sortent leur téléphone à table, ou les grands-parents !

Nouvelles pratiques

Face à ça, il faut quand même qu’on regarde le côté soleil de l’affaire : il y a des nouvelles pratiques, il y a des tas de nouvelles pratiques, peut-être que les gens lisent moins, mais ils font beaucoup plus d’images. On a donc une culture de l’image qui s’est développée et qui n’est pas du tout prise en compte dans le calcul du QI par exemple.
On donne une capacité d’expression à tout le monde, une forme de liberté d’expression et c’est à la portée, y compris des jeunes et des adolescents. C’est donc vraiment un plus qu’il faudrait mesurer.
OK, parfois l’expression est douteuse, vous avez été adolescents, moi aussi, mais, pour autant, c’est une capacité d’expression. En plus, un des problèmes des médias sociaux, c’est qu’on croit, quand on fait une vanne douteuse, qu’on s’adresse uniquement à ses amis, mais, en réalité, le cercle est beaucoup plus large que ça et ça peut être rediffusé par d’autres qui ne sont pas membres de son cercle, donc, le caractère douteux devient un outil contre soi-même.

La place à l’information de type news, de type médiatique, est renouvelée ; elle est différente, mais elle existe toujours. Je suppose que vous regardez toujours, d’une manière ou d’une autre, les informations, vous suivez le monde tel qu’il vit et tel qu’il se représente dans les médias globaux, les médias diffusés.

Il y a des accès fabuleux à tous les savoir-faire : vous avez besoin de réparer quelque chose, vous allez sur YouTube et on vous montre comment faire. Vous ne faites pas ça ? Moi, je fais ça tout le temps : quand il y a quelque chose que je ne sais pas faire, je sais qu’il y a un tutoriel sur YouTube. Ce sont quand même des éléments nouveaux, de nouvelles pratiques.

Les médias sociaux permettent aussi de constituer des groupes de soutien aux gens, et c’est particulièrement important par exemple pour les minorités sexuelles qui peuvent se retrouver ensemble pour s’informer, se protéger, etc. Là aussi ça crée des paniques morales, bien sûr, mais c’est une réalité, une nouvelle pratique.

Interroger/enquêter

J’ai mis en illustration un des premiers livres qui parlait de ces nouvelles pratiques, Grandir informés, que j’ai eu l’honneur et l’avantage de publier. Anne Cordier en a fait un deuxième : elle a continué à enquêter sur les jeunes, à les écouter. Un des éléments des paniques morales, c’est qu’on n’écoute pas les personnes concernées puisque ce sont les entrepreneurs de morale qui sont le plus important, donc on n’écoute pas la personne concernée. Elle a fait un très beau travail parce que, pendant 12 ans, elle a suivi des jeunes. Tous les ans, parfois plusieurs fois par an, elle allait discuter avec eux, voir comment ils évoluaient, voir comment leurs pratiques évoluaient. Et effectivement, quand les ados de 11 ans atteignaient 20 ans, ce n’était plus pareil, ils avaient fini avec un certain nombre de pratiques qui pouvaient être non pas dangereuses, mais qui n’était pas les meilleures pratiques du monde vis-à-vis de l’information. Ils avaient changé, ils étaient devenus beaucoup plus attachés, par exemple, à vérifier l’information.

La conclusion, c’est qu’il faut développer l’éducation aux médias et à l’information. Mais là, on a un problème : la majeure partie des cours d’EMI, éducation aux médias et à l’information, est basée sur la peur. Au lieu de partir des pratiques des gens et leur demander : « Qu’est-ce que tu fais ? Comment tu t’en sers ? — Ah oui, c’est une bonne idée, comment pourrait-on améliorer », au lieu de partir des pratiques, on distille le fait qu’il y a une peur et la peur principale est de reproduire une fausse nouvelle, surtout à l’école. Imaginez que vous ayez lu un article de Wikipédia, l’ennemi sacré de l’école — l’ancien ennemi sacré parce que le nouveau s’appelle l’intelligence artificielle, on va y revenir —, donc l’ennemi sacré de l’école, Wikipédia, avait fait pour vous tout le boulot et vous vous retrouvez à répéter une erreur parce qu’il y aurait des erreurs dans Wikipédia. On a même connu des profs qui mettaient volontairement des erreurs pour piéger les élèves ! Donc non, l’éducation aux médias doit partir des usages des médias. Ils sont là, ils sont tout autour de nous, c’est un monde persavif, il faut donc qu’on parte ces usages-là.

Sans nier les problèmes

Ça ne veut pas dire qu’il faut nier les problèmes, comme je disais tout à l’heure, ce n’est pas bien de dire que c’est « paniques morales » à chaque fois que ce sont les autres, qu’on n’est pas d’accord. Il y a de vrais problèmes, le principal étant le cyberharcèlement. On a une volonté de régulation qui vient du gouvernement et qui est, à mon avis, tout à fait souhaitable : on ne peut pas accepter que certains, par méchanceté ou par bêtise, détruisent la vie des autres. Il y a ceux qui sont poussés au suicide, mais il y a tous ceux qui ont honte de leur corps, qui n’osent plus se regarder dans la glace, qui ne sont pas bien, qui marchent tout penauds à l’école, qui ne se font plus d’amis. Il y a des gens détruits, quand même ! Les droits de l’homme passent avant les bénéfices des médias sociaux et il faut, effectivement, condamner non seulement les harceleurs, mais se poser la question des témoins silencieux, des témoins qui ne vont pas aider la personne harcelée. Dans ce cadre-là, une des mesures qui a été proposée est de faire des cours sur l’empathie. C’est quoi l’empathie ? Ça signifie quoi ? Qu’est-ce que ça veut développer en nous de développer l’empathie ? Ça me semble une excellente mesure, c’est celle qui était proposée par Serge Tisseron [8], un psychiatre qui travaille beaucoup sur l’impact des écrans : avoir des cours sur l’empathie, des pièces de théâtre, des choses comme ça où on va développer cette logique de l’empathie.
Accessoirement, on s’est aperçu que la lecture de romans développe l’empathie, c’est-à-dire qu’on se met dans la peau d’un personnage, donc on va avoir des idées, des sources, au point que dans les facs de médecine des universités des États-Unis, on fait des cours de littérature pour faire en sorte que les futurs médecins cultivent leur empathie par la lecture de romans. C’est récent.

L’autre problème ce sont les attaques et le hameçonnage, toutes les arnaques. J’aurais tendance à dire : ces fameux médias sociaux ne sont-ils pas un peu responsables du phishing, du hameçonnage, de tout ça ?
Quand vous recevez un mail un peu douteux, il suffit des fois de regarder le lien pour s’apercevoir que ça ne va pas du tout chez Crédit agricole, mais chez « je suis là au Nigeria pour t’arnaquer » et c’est complètement différent. Sauf que, maintenant, la plupart des navigateurs masquent ça, les lecteurs de courrier, à part le logiciel libre Thunderbird, cachent le lien, donc ça incite les gens à cliquer. Bien sûr, Google dit : « Il n’y a pas d’arnaque chez moi ! J’ai tout corrigé avant, j’ai empêché ». Oui, bien sûr ! On a donc là un problème de complicité dans l’interface, c’est ce qu’on appelle les dark patterns, les choses qui ne sont pas claires dans l’interface et qui vont empêcher les gens d’apprendre. Quand on regarde une URL, on apprend quelque chose sur le fonctionnement : d’où ça vient, qui, quelle est l’autorité qui a distribué une information, il y a plein de choses à apprendre rien qu’à regarder l’URL. Mais quand elle vous est masquée, vous n’apprenez pas, donc vous devenez suiviste.

Le problème du sexisme sur Internet.
Les atteintes aux personnes, principalement les attaques contre les femmes, les homosexuels et les transgenres. C’est une réalité. Il y a les attaques directes, personnelles, mais il y a aussi les messages globaux, ce qu’on appelle le viriliste ou le masculinisme aujourd’hui, qui créent, par exemple, un mépris global des femmes et des minorités sexuelles.

Il y a la porno-divulgation, c’est-à-dire que je demande à mon petit copain ou ma petite amie de me donner des photos un peu dénudées et puis je me venge en les redistribuant sur Internet.

Ce sont des réalités. On n’en fait pas des paniques morales, ça ne sert à rien ! Ce qu’il faut, c’est trouver des solutions de régulation, oser s’affronter politiquement, faire de la politique par rapport à ces pratiques-là, donc contre celui qui est le vecteur de ces pratiques, c’est-à-dire, aujourd’hui, principalement les médias sociaux.

Mettre en contexte

Ensuite, il faut quand même qu’on mette les choses en contexte. Pourquoi passe-t-on autant de temps sur les médias sociaux ? Quels sont les autres endroits pour socialiser ? Est-ce qu’on a une culture de la chambre, comme on disait chez les ados, ou est-ce qu’on est enfermé dans sa chambre ? Le sport ! Quand j’étais jeune, dans mon village, on faisait tous du sport parce qu’il n’y avait que ça à faire, maintenant le sport, c’est le sport d’élite, il n’y a plus cette logique du sport juste pour se bouger, être ensemble et rigoler. Les lieux de sociabilité ont diminué, très largement diminué, et c’est encore pire aux États-Unis. Aux États-Unis, les parents qui laissent leurs enfants aller tout seuls à l’école se retrouvent interpellés par la police.
Il faut mesurer où nous mène cette idée de l’enfermement individuel, donc les médias sociaux sont aussi une échappatoire à cet enfermement individuel. Comme disait Danah Boyd [9] : « Les gens ne sont pas accros à leur mobile, mais à leurs amis », et comme c’est leur moyen de connexion, eh bien, ils s’en servent ! Voilà !

Intelligence artificielle

On va aborder les choses sérieuses.
Est-ce que ce qui se passe avec l’intelligence artificielle aujourd’hui est une panique morale ? Un journal très sérieux, une revue comme Philosophie Magazine parle de l’IA-anxiété.
Êtes-vous anxieux ? Êtes-vous anxieuses ? Ça vous fait peur ? Le monde est en train de s’écrouler, n’est-ce pas, à cause de l’IA, il y a peut-être d’autres raisons, mais, de celles-là, on ne parle pas !
Surtout depuis la mise en ligne de ChatGPT, il n’y a pas un jour sans qu’on parle de l’IA, dans les journaux, à la télé, etc. Il y a toujours quelque chose qui se passe dans le monde de l’IA.
On est obligé de se poser plusieurs questions : est-ce que c’est vrai ? Eh bien oui, tous les jours quelque chose se passe.
Est-ce qu’on est en train de revivre un basculement de l’économie du numérique comme on a connu dans les années 2000, c’est-à-dire un nouveau moteur économique qui est en train d’émerger et il ne faudrait pas rater le train. Il y a aussi, comme IA-anxiété, l’idée qu’on va rater le train.

On dit aussi que l’IA va tout changer, notamment qu’elle va changer le monde du travail, de l’évaluation scolaire, développer les fake news à qui mieux mieux et pratiquer l’usage démesuré des données personnelles.

Même si je pense qu’on a une nouvelle forme de panique morale, c’est exact qu’il y a de vraies questions qui méritent d’être posées, mais est-ce qu’il faut les poser sur la base de la panique ou est-ce qu’il faut les poser sur la base de la régulation : qu’est-ce qu’on peut faire ? Qu’est-ce qu’on doit faire et comment va-t-on régler ?

Définition - 1

D’abord, parce que c’est quand même un cours, pas seulement une conférence, on va passer aux définitions.

Dans la presse, on a souvent tendance à traiter d’intelligence artificielle à peu près tout ce qui est de l’informatique un peu évoluée.

Plus modestement, on parle d’intelligence artificielle quand il s’agit de simuler – le verbe simuler est très important – simuler l’intelligence humaine, c’est-à-dire apprendre à prédire des choses. On va essayer de penser au futur.
Une des caractéristiques associée aux humains en général, c’est leur capacité de prédiction. Des grands singes peuvent prendre un bâton pour aller chasser quand ils voient la proie ; les hommes prennent le bâton même s’ils ne voient pas la proie et disent « on va chasser ». C’est un peu une des barrières, en tout cas traditionnelles, parce qu’elles sont remises en cause, j’y reviendrai, mais c’est une des barrières, comme ça, qui définit un peu l’humain par sa capacité de projection dans le futur. À partir du moment où des machines vont le faire !

Quand on simule des activités humaines, on va se retrouver avec la capacité à prendre des décisions, prendre des décisions à la place de… Avoir un appareil technique créé et exploité par un tiers, par une de ces grandes plateformes dont on a vu qu’elles étaient complètement désintéressées et qu’elles ne pensaient qu’à notre bien personnel, c’est quand même quelque chose de dangereux pour notre liberté individuelle : ces grandes plateformes vont gérer des intelligences qui vont agir à notre place, remplir notre réfrigérateur parce que nous n’aurions plus de lait – oui, mais on a décidé d’arrêter le lait ! C’est dommage !

Et enfin, percevoir le monde environnant. Là aussi, une des forces de l’intelligence artificielle, c’est la perception, ce n’est qu’une partie seulement, bien sûr, de nos capacités humaines, mais nous avons des tas de capteurs – les yeux, l’odorat –, tous nos sens nous servent à percevoir le monde environnant et nous le percevons non pas directement, nous ne sommes pas un capteur chimique, mais un capteur intelligent : ce que nous voyons est réinterprété par notre cerveau, ce que nous sentons est réinterprété par notre cerveau, nous sommes capables de mettre un mot dessus, éventuellement de dire « hou, là, là, ça sent le gaz, c’est dangereux ! » Vous savez, bien sûr, que le gaz n’a pas d’odeur, qu’on rajoute du produit pour qu’il ait une odeur.

C’est une des définitions, c’est l’IA en général.
Mais on voit apparaître, et c’est ça qui crée aujourd’hui un peu l’émulsion, c’est l’intelligence artificielle générative. Elle est générative parce qu’elle va créer des choses qui, auparavant, étaient créées principalement par les humains, c’est-à-dire des textes, des images, des sons et même des vidéos. Elle crée des contenus. Elle crée des contenus qui ne sont pas de l’ordre de la re-copie, elle ne recopie pas des contenus, elle rajoute quelque chose. Ce sont, par exemple, des systèmes qui font des résumés de textes ; créer un résumé, c’est quand même quelque chose d’assez complexe. Donc là, on est dans un système d’intelligence artificielle.
Vous avez bien sûr tous expérimenté, je pense, des IA génératives comme ChatGPT qui sont capables de produire des textes à partir de quelques mots que vous lui suggérez. Même chose avec les images, on va y revenir, j’ai des démonstrations et des choses comme ça.

En fait, les intelligences artificielles génératives le font à partir d’un phénomène : elles ont été entraînées auparavant et c’est vraiment l’élément important. On a des données d’entraînement et les IA génératives vont pomper à droite et à gauche dans leurs données d’entraînement pour générer le texte, l’image ou les choses comme ça. Je vais y revenir.

GPT — non ce n’est pas la blague qu’on vous a faite quand vous étiez au CP pour expliquer les consonnes d’Égypte, ce n’est pas ça —, ça veut dire Generative Pre-trained Transformer, c’est donc un transformer de vecteurs. Je vais y revenir, j’ai une explication un peu plus technique après.

Définition - 2

Toujours dans la logique des définitions, pour le Parlement européen, c’est une machine qui appelle à » reproduire les comportements liés aux humains tels que le raisonnement, la planification et la créativité » et il distingue des types : l’IA logicielle et l’IA incarnée, qui va se retrouver à l’intérieur d’un objet technique, par exemple une voiture. Ah, la voiture autonome !
Si vous regardez bien, l’article date de 2015, la voiture autonome nous a sacrément bouleversés ! Hou, là, là, tout est changé ! Vous le voyez tous les jours ! Donc, là aussi, il faut se méfier de ce monde qui prévoit, et c’est une réalité de l’intelligence artificielle depuis les années 60. Tous les gens qui ont travaillé dans ce domaine-là ont dit : « D’ici Noël, j’aurai inventé un truc qui va être capable de produire du texte, de résumer, de parler, de comprendre le langage, tout ça. » On est dans cette science des promesses qui est devenue un peu dangereuse.
Accessoirement, personne ne se pose la question : croyez-vous qu’une voiture autonome bardée d’électronique, de lidar [détection et estimation de la distance par la lumière], de terres rares qui sont utilisés pour ça, de caméras, pour transporter très peu de monde, avec des batteries qui pèsent très lourd, que tout ça c’est la transition écologique ? Pas moi ! Là aussi, la voiture autonome, c’est un mythe complet d’intelligence artificielle qui ne vise, en fait, qu’à reproduire le monde existant : c’est-à-dire développer les routes, construire des autoroutes, faire tout ce qui se passe.

Simuler, prédire

Simuler et prédire, c’est aussi être capable de commencer par reconnaître les schémas à l’intérieur des données.
Toute la phase d’entraînement consiste à dire à la machine quels sont les schémas qui se répètent, les phrases – sujet, verbe, complément. On a un schéma, ce schéma se répète très souvent en français ; en anglais l’adjectif est avant le nom et ainsi de suite, en français, c’est souvent le contraire. On a des schémas et la machine doit les reconnaître. Pour reconnaître ces schémas, elle va analyser un énorme lot de données. Plus le lot de données d’analyse est important et plus on a des chances qu’elle détecte les schémas et qu’elle les enregistre à l’intérieur de sa mémoire, si on peut appeler ça une mémoire, puisqu’elle n’est pas fixe. Ce sont ses propres schémas qu’elle va exploiter ensuite quand elle va être dans l’ordre de la production, production de nouveaux textes, dans la génération.

Le problème, c’est que pour arriver à ces grands lots de données, il faut qu’ils soient étiquetés, il faut qu’on soit capable de dire à la machine : je te présente une photo, est-ce que c’est un chat ou pas un chat ? Mais, pour apprendre à la machine, il va falloir que quelqu’un, avant, ait dit « oui, c’est un chat ». On va donc avoir ce qu’on appelle les travailleurs du clic, c’est-à-dire des gens sous-payés, qui font des boulots sans grand intérêt qui consistent à étiqueter les lots d’entraînement. Comme c’est un gros boulot et que les grandes plateformes n’ont pas beaucoup d’argent, n’est-ce pas, on le fait faire dans les pays en voie de développement. Les gens font ça le soir, chez eux, en plus de leur travail, parce que c’est dur de vivre, et quand on a un bon plan, il n’y a pas de secret : au Kenya, on accepte le sous-paiement de OpenAI, l’entreprise qui a créé ChatGPT. On a donc, aujourd’hui, un néodata colonialisme, on ne va plus chercher du pétrole, mais du pétrole gris.
C’est tout l’entraînement supervisé : quelque part le lot d’entraînement est déjà étiqueté, on sait ce qu’il y a dedans, on va donc pouvoir faire que la machine apprenne, je vais dire un peu après comment.
Puis on se dit que le mieux serait de faire un entraînement non supervisé, c’est-à-dire où la machine s’auto-entraîne. Cela est possible quand l’univers, le monde, est clos, par exemple le jeu de go. Avant ces méthodes d’intelligence artificielle on était incapable de jouer au go contre des bons joueurs – ils me battaient tout le temps, mais c’est autre chose – parce qu’il y a un graphe beaucoup trop élevé pour savoir quel est le prochain coup qu’il faut jouer. Il est réduit par des espèces de règles qu’on appelle des joseki en go, mais ça ne fait que réduire un espace qui reste toujours trop important pour que ce soit calculé, à la différence des échecs, par exemple. Aux échecs, avec la force brute du calcul de tous les cas possibles, on peut déterminer quel est le meilleur ; au go ce n’était pas possible, donc il fallait une autre méthode qui a consisté à analyser des parties et dire « ce coup-là est un coup gagnant, ce coup-là est un coup gagnant, etc. » Alphago a réussi, comme ça, à battre le champion du monde de go, Coréen. Il y a d’ailleurs une série Netflix là-dessus.
C’est donc uniquement dans les règles finies, sauf si nos travailleurs du clic qui, comme tous les travailleurs, ne sont pas bêtes, et se demandent comment maximiser leur temps passé. Je vais demander à une IA de répondre à ma place. On risque donc d’avoir un phénomène d’auto-entraînement des IA par ce que les IA ont déjà numéroté, ont déjà étiqueté elles-mêmes, c’est-à-dire les patterns, les schémas qu’elles ont reconnus dans le lot de données.
Comment en est-on arrivé là ? Je vais vous le raconter après une petite pause.