Jean-Lou Fourquet, voix off : quoi qu’on dise, quoi qu’on pense, ce qu’on fait et ce qu’on devient est impacté par la diète informationnelle.

Daphnée Lucenet : Bienvenue dans IA Éthique Insider, le podcast qui explore les tensions, les dilemmes et les opportunités d’une intelligence artificielle au service du vivant et du bien commun. Aujourd’hui, nous allons parler de la dictature algorithmique et informationnelle avec Jean-Lou Fourquet.

Jean-Lou Fourquet : Bonjour.

Daphnée Lucenet : Merci Jean-Lou d’être ici.
Nous sommes plus de cinq milliards d’utilisateurs des réseaux sociaux aujourd’hui, soit 62,3 % de la population mondiale, on se rend compte que tout cela a un impact sur notre démocratie et sur notre rapport à l’information. Je te reçois aujourd’hui parce que ton métier c’est vraiment de parler de cela en long, en large en travers, de contribuer, tu es vraiment très actif dans la sphère. Tu as aussi coécrit, avec Lê Nguyên HOANG, La Dictature des Algorithmes – Une transition numérique démocratique est possible. Peux-tu te présenter, en quelques mots, parler de ton parcours ?

Parcours : du climat à l’économie de l’attention

Jean-Lou Fourquet : Tu as dit ce que je fais. Nous essayons effectivement, avec Lê et avec Tournesol [1], de vraiment pousser l’importance qu’ont les mécanismes qui distribuent l’information dans nos sociétés aujourd’hui, massivement sur les réseaux sociaux ou les plateformes. C’est ce que je fais.
Pourquoi je suis venu, c’est peut-être la manière de me présenter la plus logique. À la base, je suis vraiment sur le changement climatique, la transition énergétique, ce sont les thématiques qui me touchent et en fait, au bout d’un moment, on se rend compte que ça fait très longtemps qu’on ne manque pas d’informations pertinentes, agréables à regarder, de la bonne vulgarisation notamment dans le domaine francophone sur le climat ou sur les réseaux. Ça existe. Le problème n’est pas si ça existe ou pas, le problème c’est que ce n’est pas forcément cette information-là qui est massivement diffusée, massivement regardée aujourd’hui. À un moment, on se rend compte que si on veut avancer sur des thématiques comme le changement climatique, que soit l’atténuation ou l’adaptation au changement climatique, ce qui va compter beaucoup c’est quelles sont informations on choisit d’amplifier et de distribuer. Quand tu t’intéresses à cela, tu te rends compte que les vulgarisateurs ou les vulgarisateurices, tous les créateurs de contenu, sur Internet ou médiatiques, sont soumis à des forces et à des structures informationnelles que sont aujourd’hui, par exemple, les algorithmes de recommandation ou les IA de recommandation. Et quelque part, si tu crées un contenu super nuancé, super vulgarisé, etc., potentiellement les algorithmes ne vont pas pousser celui-là, il y a plutôt des logiques inverses, on va pousser le truc qui va générer le plus d’engagement, qui ne va pas forcément être de meilleure qualité. Je me suis intéressé à ces mécanismes. Qui choisit ce qui va être massivement amplifié ? Comment on choisit ? Qui a intérêt à amplifier tel type de contenu ? En fait, on tombe vite sur ces algorithmes de recommandation et les plateformes qui, aujourd’hui, décident, de par leur IA de recommandation, ce qui va être massivement amplifié.
Je suis tombé sur cela, j’ai commencé à beaucoup m’intéresser à cela ça et à faire de la vulgarisation. J’ai eu aussi la chance, pendant trois ans, de faire une chronique sur le site Arrêt sur images qui s’appelait « Votre attention s’il vous plaît ». Sur les médias, on a parlé de cela, on a parlé de l’impact de l’économie de l’attention, comme on l’appelle, ou des algorithmes de recommandation sur la façon dont les médias s’approprient aujourd’hui de ces sujets et lesquels ? Pourquoi parle-t-on de tel sujet ? Pourquoi avec cet angle-là ? Pourquoi cet angle-là fonctionne-t-il plus et quel impact cela a-t-il sur les médias et le journalisme aujourd’hui ? C’est le même sujet et c’est hyper intéressant de comprendre.

Daphnée Lucenet : C’est fascinant. Juste avant qu’on commence à enregistrer, tu m’expliquais qu’à la base ta cause c’est vraiment l’environnement et tu t’es rendu compte, si je reformule, que, pour vaincre le changement climatique, il faut s’attaquer à la sphère informationnelle, parce que si on ne résout pas l’un, on ne résoudra pas l’autre. C’est un peu ça finalement ?

On devient ce qu’on regarde : la diète informationnelle

Jean-Lou Fourquet : C’est carrément ça. Après, il faut pas tomber dans une sorte de réductionnisme informationnel ou, en fait, il n’y a que ça qui compte. Par contre, c’est clairement un levier hyper important. Je pense effectivement qu’on ne résoudra pas ou on n’avancera pas sur une cause comme le changement climatique sans s’attaquer à la structure informationnelle. Pour cela il faut juste se rendre compte que quoi qu’on dise, quoi qu’on pense, ce qu’on fait et ce qu’on devient est impacté par la diète informationnelle. Vous avez beau vous dire « j’ai mon idéologie », si vous mangez petit-déjeuner, midi et soir une diète informationnelle qui va dans un sens, si vous avez par exemple tout le temps des discours libéraux dans la tête, vous irez vers cette idéologie-là. Si, au contraire, vous avez d’autres discours qui vont dans d’autres sens, vous irez dans ce sens-là.
Ça ne veut pas dire qu’à la base on n’a pas une idéologie. Ça veut dire qu’il va y avoir une boucle de rétroaction : plus on va consommer du contenu par exemple libéral plus on a de chances de devenir libéral, etc. Sur cela, il y a un truc que j’aime bien, je ne sais plus qui disait, en gros, qu’on devient comme ses cinq meilleurs amis. Et c’est la même chose. Quand on est dans un environnement où toutes les blagues, tous les discours vont dans un sens, par effet de mimétisme et par effet de « c’est la normalité », on va développer ça et c’est normal. Du coup, il y a une stratégie à avoir pour choisir ses cinq meilleurs amis, qu’ils ne soient pas trop connards pour ne pas devenir un connard. Là c’est pareil. Aujourd’hui on devient un peu les contenus qu’on regarde. Les gens peuvent aller voir un jeu que j’adore, d’une vulgarisatrice qui s’appelle Nicky Case [2], le site c’est ncase.me, qui fait des super projets où, en gros, elle essaie de rendre intelligibles des choses un peu complexes. Elle en a fait un dont le sous-titre est We Become What We Behold, « On devient ce qu’on regarde ». C’est un tout petit jeu : on prend une photo d’un événement et comme cet événement va être amplifié et montré à tout le monde, cette amplification a un impact sur ce que les gens vont faire après et cela a toujours été l’histoire des médias. L’histoire des médias c’est on met la focale sur un endroit et si on met tout le temps la focale sur un endroit, forcément ça va avoir un impact sur la société.
Si on fait un journal qui est massivement reconnu partout dans le monde où on va mettre en avant tous les crimes qui vont être causés par les gens qui font moins d’un mètre quarante, on va développer une société où les gens détestent les gens de moins d’un mètre quarante, parce qu’ils voient tout le temps des crimes qui ont été faits par eux. C’est un vrai truc. Ça ne veut pas dire qu’il ne faut pas essayer d’avoir un rendu sur ce que se passe. Ça veut dire qu’en tant que média, on a le pouvoir de sélectionner ce qui va être mis en avant dans la réalité. Avant c’étaient les médias avec tout un tas de règles qu’on a mises en place pour pas qu’ils ne fassent n’importe quoi et, aujourd’hui, ce sont les Big Tech et les plateformes qui le font et, pour l’instant, on n’a mis aucune règle pour qu’ils ne mettent pas en avant des trucs qui détruisent nos sociétés.

Algorithmes vs médias traditionnels : quelle différence ?

Daphnée Lucenet : On pourra en parler dans la partie solutions.
C’est intéressant parce que ce sujet sur les médias c’est effectivement quelque chose qui est connu, on s’est plus ou moins emparé du sujet. Ce qui diffère un petit peu avec les réseaux sociaux et l’intelligence artificielle, de ce que je constate, c’est le côté plus subtil quelque part, parce que c’est hyper systémique, c’est hyper impactant et, quelque part, ce sont des mécaniques qui sont quand même hyper subtiles, finalement c’est même plus « qu’on devient ce qu’on consomme », en fait ce sont ces algorithmes choisissent pour nous. Tinder va peut-être choisir la personne que tu vas épouser, ça choisit ce qu’on regarde, ça choisit l’usage de notre temps, le temps qu’on accorde à nos enfants, la façon dont on se nourrit. D’ailleurs, dans le livre, tu parles de ce pouvoir des algorithmes de recommandation : pour Amazon, 30 % des pages visitées proviennent de la recommandation, Netflix c’est plus de 80 %. Perso, je ne vais jamais faire de recherche, je ne suis que les recommandations, donc moi c’est 100 % et YouTube c’est 70 %.

Jean-Lou Fourquet : La dernière fois qu’ils ont en parlé c’était 70 %, depuis ça a augmenté.

Daphnée Lucenet : Ça a sûrement augmenté. La façon dont ces mécaniques prennent carrément le contrôle sur nos vies est assez impressionnante et, ce qui est fou, c’est que ça fait quand même un petit moment que c’est le cas. J’ai l’impression, je veux bien ton opinion là-dessus, qu’on commence à s’en emparer un petit peu plus parce qu’avec l’IA c’est encore plus subtil : on nous pousse des choses sous un prisme de lecture avec de l’information pré-mâchée, ce n’est même plus toi qui cliques, on te fournit l’information comme ça. Est-ce que tu peux expliquer un peu plus les mécaniques à l’œuvre et leur impact aujourd’hui ?

Jean-Lou Fourquet : La première chose à dire, vu qu’on est partis des médias, je pense qu’il est intéressant de réaliser que souvent, sur ces innovations, on fait deux erreurs :

• la première erreur c’est de penser que c’est pareil qu’avant, que ça se rejoue et des gens disent « de toute façon, vous dites ça sur l’IA et c’était pareil avec les médias, il n’y a aucune différence, etc. ». La première erreur, c’est de dire que tout est pareil ;
• l’autre erreur c’est de dire que c’est radicalement nouveau, ça n’a rien à voir.

Ce sont les deux en même temps : à la fois il y a des choses où c’est un peu pareil. Quand il y a eu les médias ou même quand il y a eu l’imprimerie, au tout début, on crée une innovation technique qui change la manière dont les humains communiquent, ça génère des impacts, positifs, négatifs, et après, derrière, on tente de réguler pour faire en sorte de maximiser les impacts positifs et de minimiser les négatifs.
On en parle dans le livre, à la fin du 19^e siècle il y a eu une époque de la presse qui s’est appelée la « presse jaune », parce qu’elle était imprimée sur du papier de mauvaise qualité. C’était une presse hyper sensationnaliste, etc., ça a causé plein de problèmes, du coup on a régulé, c’est là aussi où il y a eu les droits de réponse, la diffamation, etc. C’est vrai qu’on a eu cette époque-là, il y a une révolution et la régulation a mis beaucoup de temps à venir.
Ce qui change c’est la vitesse à laquelle ces bouleversements opèrent et aussi, aujourd’hui, le pouvoir qu’ont acquis ces plateformes pour faire du lobbying et, parallèlement aussi, dans une sorte de période où le courage politique n’est pas non plus incroyable. Donc, dans ce bras de fer où on devrait se battre collectivement, politiquement pour qu’il y ait une régulation de ces plateformes, on perd encore plus peut-être qu’avant parce que, justement, il y a aujourd’hui cette perte de confiance, en tout cas de courage politique. Ça fait 20 ans qu’il a commencé à y avoir des algorithmes de recommandation partout, qui décident de la diète informationnelle du monde, et on en est à l’embryon de régulation. Il y a la régulation européenne, le Digital Services Act [3] et le AI Act [4], c’est bien, ça va dans le bon sens, mais, pour l’instant, il n’y a pas encore assez d’argent investi dans l’application de ces lois, etc. Il y a ces deux trucs.
Tu as employé l’expression « c’est plus subtil », je vois ce que tu veux dire. Moi j’ai tendance à dire que c’est plus pernicieux, parce que je suis un peu négatif, pernicieux dans le sens où la grande différence aujourd’hui c’est la capacité technique à individualiser les flux. Les médias avaient quand même cette contrainte de devoir faire le même contenu pour une assez large audience. Au final, l’économie de l’attention et le modèle économique des Big Tech, c’est la même chose que ce que Patrick Le Lay, de TF1, disait : « Le modèle économique de TF1 c’est de vendre à Coca-Cola des secondes de cerveau humain disponible. » Ce que font Facebook, Instagram, TikTok c’est la même chose. Par contre, là où TF1 devait faire un samedi soir pour tout le monde, ils sont capables de faire le flux, le feed du samedi soir différent pour tout le monde, en tout cas personnalisé pour tes goûts, tes couleurs, etc. Du coup, ça génère quelque chose qui est que mon flux me correspond bien et, du coup, c’est plus pernicieux. Quel est le problème politique qu’il y aurait à me faire un feed qui me va bien ?

Daphnée Lucenet : Quand tu dis « me va bien », qu’est-ce que bien aller ? En fait, ce qui crée de l’engagement avec moi et qui captive mon attention.

L’économie de l’engagement et ses dérives

Jean-Lou Fourquet : Tu as totalement raison et c’est un gros axe de travail qu’on a. Les gens, moi le premier je viens de le faire, on le fait souvent, on va dire « du contenu intéressant pour toi ». Qu’est-ce qui est intéressant ? On pourra y revenir. Je peux cliquer sur quelque chose, ne pas pouvoir m’empêcher de regarder un contenu et, à posteriori, une semaine après, me dire que ce contenu n’était pas si incroyablement intéressant que ça. Les algorithmes ou les IA de recommandation sont effectivement vraiment optimisés pour faire réagir cette partie de toi qui ne pourra pas s’empêcher de cliquer.
En tout cas la grosse différence, aujourd’hui, qu’il faut arriver prendre en compte, c’est vraiment cette individualisation, cette capacité technique à individualiser les flux et qui génère un problème qui est d’autant plus difficile à détecter qu’il est difficile d’anticiper les conséquences collectives de ces flux individualisés.
S’il y a un programme qui, je n’en sais rien, incite à la haine et qui est diffusé à un million de personnes, il y a un problème, ce contenu incite à la haine un million de personnes. Si on envoie des flux différents à chacun, on n’a même pas besoin qu’ils incitent à la haine, qui vont juste conforter les gens dans ce biais-là ou cette vision un petit peu caricaturale, et, dans le même temps, on va faire la même chose avec des gens qui étaient déjà un petit peu opposés, en fait on va juste aggraver des différences qui existaient, il est difficile de dire ce que cet algorithme a fait de mal : il a recommandé des trucs un peu plus de gauche à des gens de gauche et des trucs un peu plus de droite à des gens de droite, il n’a rien fait de mal. Mais, en faisant ça, on aggrave, on augmente des différences qui étaient là, qui ont lieu d’être, etc., et ce sont des choses très difficiles à toucher du doigt.

Daphnée Lucenet : En fait, il faut caractériser la provenance.

Jean-Lou Fourquet : Ce sont des phénomènes émergents et on ne peut pas les voir. Maintenant on peut les voir, on a des études sur la polarisation émotionnelle qui s’aggrave, à quel point les gens n’aiment pas les gens qui sont opposés à eux idéologiquement.
Pour arriver à dire que ce sont les algorithmes de recommandation qui le font c’est très difficile. Déjà techniquement c’est difficile et, en plus, les plateformes ne sont pas transparentes quant à leurs données, donc on est incapable ou c’est très dur de faire des études sur ce genre de phénomène parce qu’elles ne veulent pas partager leurs données et elles ont intérêt à ne pas partager leurs données.

Daphnée Lucenet : Il y a beaucoup de choses dans ce que tu dis. La première sur laquelle j’aimerais bien qu’on revienne qui est faire appel à cette partie assez instinctive et finalement très primaire en chacun de nous pour juste capturer notre attention. Ça me fait penser aux casinos à Las Vegas, c’est pareil. On met des machines qui clignotent, on a toujours la lumière comme ça on ne sait pas s’il fait jour ou s’il fait nuit, on a des boissons à volonté et on ne voit pas le temps qui passe. On met juste des pièces dans la machine, finalement c’est pareil. Tu expliques, dans ton livre notamment, qu’on a chacun, qu’on a tous deux facettes de notre personnalité, j’aime bien l’exemple que tu prends : celui qui a envie de manger des Dragibus en regardant Netflix et la partie de toi qui a envie de lire les prix Nobel. En quoi le business modèle des Big Tech c’est vraiment de faire appel à cela, à nous abrutir finalement ? Peux-tu expliquer un petit peu ?

Jean-Lou Fourquet : En tout cas, ne pas nous tirer vers le haut. On a fait un gros travail, notamment à Tournesol. Une partie de ce travail et de cette réflexion vient d’un bug que j’ai eu en écoutant le CEO [Chief Executive Officer] de TikTok qui a dit : « Sur TikTok, les gens votent avec les doigts », parce que c’est vrai : sur TikTok tu vas swiper et ce swip va être intégré à la recommandation que tu vas faire pour toi mais aussi peut-être à la recommandation qui va être faite à d’autres. Je me suis demandé « comment se fait-il que moi qui suis en train de dire qu’il faut faire des algorithmes plus démocratiques alors qu’au final ils sont peut-être déjà plus démocratiques, vu que, effectivement, on sollicite mon avis ? »
Plein de choses font la différence. Quand tu y réfléchis, tu dis « il va dans un terrain qui est intéressant, qui sert son discours et qui est totalement faux ». En fait, ce n’est pas si évident de dire pourquoi c’est faux et une des raisons pour lesquelles c’est faux, qui est pour moi l’une des plus importantes, c’est que quand tu fais une démocratie, quand tu appelles les gens à voter, tu vas leur dire « allez voter » et tu vas essayer de faire appel à l’avis réfléchi des gens. C’est pour cela qu’il y a la trêve médiatique à partir du vendredi soir, pour éviter qu’on vote sous le coup de l’émotion. On sait bien qu’il vaut mieux avoir un petit peu réfléchi pour voter en son âme et conscience, etc.
Le modèle économique, le modèle d’affaires des plateformes est plus efficace s’il ne se base pas sur cette partie réfléchie de toi, mais sur la partie la plus instinctive. C’est d’ailleurs pour cela que je m’intéresse à ce sujet : quand je vais me coucher le soir, j’ai vraiment un plan pour le lendemain qui est hyper cadré. Je me dis toujours « demain matin tu te réveilles, déjà première chose, tu prends un bouquin, tu lis une demi-heure, après tu vas boire une petite tisane bio parce qu’il ne faut pas abuser du café, tu vas faire des pompes, après tu te mets hyper concentré à bosser sur un script et, après tout ça, tu sors du mode avion et tu réponds juste aux mails les plus urgents et importants ». C’est ce que je me dis le soir et, quand je me réveille, je fais absolument n’importe quoi. Je me réveille, je vais voir sur des Shorts sur YouTube, je bois 12 cafés et si je tombe sur des Dragibus dans le frigo je mange des Dragibus.
Ces deux personnes coexistent et les deux sont intéressantes.
Le prix dit Nobel d’économie, qui s’appelle Kahneman, a fait un truc sur les deux systèmes de la pensée, Thinking, Fast and Slow [5] et il a plusieurs exemples.
Un exemple que je trouve assez instinctif : je te pose une devinette, tu as plein d’autres choses à faire en même temps, mais je veux que tu répondes hyper vite, tu es dans une course, il y a la pression, il fait chaud, etc. : tu dépasses la deuxième, en quelle position es-tu ?

Daphnée Lucenet : Première ?

Jean-Lou Fourquet : Eh bien non, tu dépasses la deuxième, en quelle position es-tu après l’avoir dépassée ? Si tu dépasses la deuxième tu es aussi deuxième, tu prends sa position, mais il y a un bout de ton cerveau qui dit « première » . Tu vas vite interpréter, si je dépasse la deuxième… C’est juste une illustration du fait qu’on veut répondre vite, du coup on prend un raccourci qui est parfois mauvais.
Kahneman dit qu’on a deux mécanismes, c’est vulgarisé : on a deux manières de réfléchir, une qui va vite et qui se trompe parfois, en tout cas on peut exploiter cette manière de fonctionner pour que les gens se trompent, même si souvent ils ont juste, c’est-à-dire que nos raccourcis de la pensée sont souvent justes, mais ils peuvent être exploités pour être faux si on a envie qu’ils soient faux. Et après, la pensée un peu rationnelle, réfléchie qui, elle, si tu prends les éléments, peut ne pas se tromper dans ce genre de cas.
En fait, aujourd’hui, les réseaux sociaux ont compris que pour arriver à générer le plus d’engagement, il fallait qu’ils donnent du pouvoir à nos parties court terme. C’est cela qui explique que les Shorts sur-performent aujourd’hui, parce que les shorts sont des contenus qui font vraiment appel à ce côté instinctif et irrésistible. En fait, c’est vrai de dire que les réseaux sociaux ont donné du pouvoir aux gens, mais ils ont donné du pouvoir à la partie la plus instinctive de chacun de nous. La démocratie c’est quelque part la sagesse des foules et les réseaux sociaux extraient la débilité des foules, qui est en chacun de nous, qui est ce truc court terme qui, dans plein de cas est hyper intéressant, si on n’avait pas ces mécanismes-là, on mourrait de faim.

Daphnée Lucenet : C’est aussi le mécanisme de survie, mais ça peut aussi être une faiblesse si c’est exploité.

Jean-Lou Fourquet : Exactement. Et aujourd’hui les plateformes ont tellement de données sur ce qui va leur permettre de court-circuiter cette partie-là de nous-mêmes qu’ils extraient un filon attentionnel, donc financier, de cette faiblesse cognitive, de cette caractéristique cognitive qui est une faiblesse si on sait comment l’exploiter.

Daphnée Lucenet : Pour avoir vécu dans la Silicon Valley, finalement c’est là-bas que tout cela est designé. On est quand même allé chercher les meilleurs cerveaux du monde sur tout un tas de disciplines, les neurosciences, etc., on les a mis autour de la table en disant « l’objectif ce n’est pas de résoudre la crise climatique, c’est de faire en sorte de faire cliquer des gens sur des liens débiles », c’est comme cela qu’on en est arrivé là. Il y a d’ailleurs ce film qui s’appelle Don’t Look Up : Déni cosmique, un peu la bible là-dessus, qui détaille exactement à quel point on est manipulé avec ces shoots de dopamine dès qu’on a une notification, ça devient addictif et c’est hyper dur même quand on conscientise. J’ai lu plein de trucs dessus, mais je tombe quand même. Tu tombes dessus, c’est irrésistible. On met les mecs les plus brillants de la Terre pour faire cela plutôt que résoudre les vrais problèmes de société. C’est complètement problématique !

Jean-Lou Fourquet : Oui. Complètement. On met les mecs et on leur donne de l’argent, beaucoup d’argent. Aujourd’hui, plein de gens voudraient plutôt faire autre chose, mais on ne met pas les fonds pour pouvoir le faire, parce qu’il en faut. Mais là on rentre dans le problème de nos systèmes, les régimes politiques dans lesquels on est. Les gens vont dire « c’est le capitalisme », oui, mais avant même de dire ça, il y a aussi ce problème : on met des gens à essayer d’exploiter ces faiblesses cognitives pour faire de l’argent, en soi pourquoi pas, OK, ils veulent faire un modèle économique efficace, le but du système actuel c’est faire des entreprises qui ont un modèle économique rentable, qu’ils le fassent, pourquoi pas ! Mais après, la puissance publique doit arriver pour dire « OK, mais on ne t’autorise pas à faire de l’argent quelles qu’en soient les conséquences. » Là où pour moi on a bugué, avant même de dire qu’il ne faudrait pas que ces gens-là fassent des applis mais qu’ils soient peut-être plutôt en train de résoudre le climat, avant même de dire ça, tu peux déjà dire « on leur laisse faire ça, mais on les régule. »

Daphnée Lucenet : Ce qu’on essaye quand même de faire en Europe, mais c’est vrai que ça va tellement vite, c’est complexe.

Jean-Lou Fourquet : Ça va vite, c’est complexe. Le lobbying marche extrêmement bien et il y a quand même un manque de volonté, de courage et d’investissement politique fort qui fait qu’on est dépassé et aussi le fait que ce sont des trucs qui se passent à l’échelle mondiale et c’est le même sujet que pour le climat. Il y a des trucs pour lesquels on n’a pas de mécanismes de régulation mondiaux très efficaces. Nous interdisons ça là. Il y a le marché européen, c’est déjà énorme, n’empêche que ces plateformes sont aux États-Unis, on ne les régule pas aussi facilement que si c’étaient des plateformes européennes et même les plateformes européennes. On va voir comment on arrive à réguler un truc comme Mistral, par exemple, je ne suis pas sûr que nous allons être plus efficaces sur ça. Mais déjà se dire qu’on pourrait essayer de voir s’il n’y a pas des conséquences négatives à ce qu’ils font.
Tu n’interdis pas à Airbus de prendre la science qui existe aujourd’hui pour faire les avions les plus efficaces, les plus stables, où les gens se sentiront confortables dans la cabine, pour qu’ils aient envie de revenir avec la compagnie qui a ce type d’avion, tu ne leur interdis pas ça. Par contre, tu leur interdis d’avoir un modèle économique où ils optimisent la porte de l’avion sur le risque d’accident, « faites ce que vous voulez, mais il n’y a pas d’accident. » Et aujourd’hui, on n’arrive pas à dire aux Big Tech « faites ce que vous voulez, mais on ne veut pas que vos IA de recommandation génèrent tel type de conséquence » parce que c’est aussi là où c’est difficile, c’est là où on retombe sur un truc subtil, c’est très difficile de comprendre les conséquences de changements informationnels de cette ampleur-là. Ce sont des phénomènes extrêmement complexes, bien plus complexes qu’un avion qui s’écrase.

Daphnée Lucenet : Je trouve que, pour l’instant, on affiche quand même une volonté intéressante, même si on a toujours ce lobbying qui finit par prendre le dessus. Par exemple, on sait qu’on va alléger l’AI Act, il y a toujours ce bras de fer constant. On sait maintenant que le numérique c’est géopolitique, on parle même de guerre cognitive, j’en parle souvent parce que c’est très grave, et, en même temps, on a l’impression que la prise de conscience n’est pas tout à fait là. Est-ce qu’on n’a pas suffisamment conscience de tout cela alors que, à côté, on voit quand même les ingérences, ce qui s’est passé avec les élections en Roumanie via Facebook, on sait qu’en mettant quelques centaines de milliers d’euros en pub, on peut faire basculer les élections sur un pays ? On voit tout ça, on le sait, et, en même temps, est-ce que c’est historique, on a un manque de courage politique parce que échéance court terme, etc. ? Ou est-ce que vraiment on ne saisit pas encore l’ampleur, la gravité de la chose ?

La disparition du socle commun d’information

Jean-Lou Fourquet : Il y a plusieurs trucs.
Je pense qu’individuellement on a des infos sur le changement climatique, etc., des choses qu’il faudrait que je fasse individuellement, d’autres que je fasse moins. J’ai changé des choses, mais je n’ai pas tout changé. Il y a encore des trucs pour lesquels je me dis « non, je ne devrais pas le faire ». Ou alors l’exemple que tu as pris tout à l’heure, qui est plus sur les réseaux sociaux : tu sais comment ça marche, tu sais que tu te fais avoir, pourtant tu te fais avoir ! Et ce n’est pas banal. Ce n’est pas parce que, individuellement, on sait des choses qu’on est capable d’aligner tous nos comportements sur cette connaissance. Qui dit connaissance ne dit pas forcément action alignée et c’est vrai à un niveau individuel mais c’est aussi vrai à un niveau collectif. Ce n’est pas parce que la société sait qu’elle risque ci et ça qu’elle est capable de se mettre en ordre de marche pour faire en sorte de ne pas le vivre. Il y a une sorte de retard à l’allumage, il y a notamment toujours un retard à l’allumage quand ce sont des situations que tu n’as jamais vraiment vécues, pour lesquelles tu n’es pas prêt.
Je prends toujours cet exemple : une société sait se mettre en économie de guerre en cas de guerre. Historiquement, il y a eu des guerres, du coup on sait, on a une sorte de conscience collective de ce problème. C’est aussi intégré dans les institutions qui fait que tout ce truc se met en branle. Dans notre histoire, dans nos cultures, dans nos institutions, on n’a pas d’économie de guerre climatique, ça n’existe pas. Pareil pour les réseaux sociaux ou les problèmes informationnels, algorithmiques à l’échelle mondiale.
Pour moi, ce retard à l’allumage vient de là, il vient du fait que ce sont quand même des sujets qui sont à une échelle et sur des techniques qui sont inconnues, on réagit à quelque chose qui est inconnu, c’est donc abstrait. Tu as beau le savoir, tu ne le ressens pas. Et tant que collectivement et individuellement on ne ressent pas ça, on n’agit pas en fonction de la menace qu’on connaît. On connaît la menace, plein de gens s’y intéressent : pourquoi n’arrive-t-on pas à réagir à la hauteur, quels sont les freins ? Il y a plein de théories : c’est loin, c’est abstrait, il n’y a pas d’actionnable, etc.
Grosso modo, je le résume souvent ainsi : on n’a jamais vécu ces trucs-là, on n’arrive pas à vraiment identifier quelles sont les conséquences, etc., parce que c’est la première fois qu’on vit ça.

Daphnée Lucenet : C’est vrai que le problème de la crise environnementale est abstrait, c’est lointain, le film Don’t Look Up : Déni cosmique auquel tu faisais allusion en est une très belle illustration.
Sur l’IA, il y a quand même une trame de fond : on sent la menace planer notamment en entreprise où des gens se disent « peut-être que demain je perds mon job », c’est beaucoup plus immédiat, c’est beaucoup plus concret et beaucoup plus palpable. C’est pour cela que j’ai la conviction, dans un premier temps, qu’on peut quand même activer beaucoup plus la prise de conscience et, dans un second temps, le passage à l’action, parce qu’avec l’IA ça va tellement vite et les conséquences vont être immédiates. On voit déjà les réductions d’effectifs dans les entreprises. Il y a à la fois un petit peu cet immobilisme et, en même temps, des entreprises qui vont très fort, genre Microsoft qui fait des économies de 500 millions et qui, en même temps vire 9 000 personnes rien que cette année. On a vraiment ça et après on a aussi des choses qu’on peut commencer à caractériser, et c’est simplement une question de sensibilisation, comme la relation à l’autre. On a ces sujets, par exemple avec l’étude de l’Insee en 2023 où on sait que 34 % des internautes français de 15 à 74 ans déclarent ressentir au moins un effet néfaste lié à l’usage des écrans [6], ça peut être l’isolement, l’utilisation compulsive des réseaux sociaux, dégradation de la santé mentale, cyber-harcèlement, etc., et chez les jeunes, entre 15 et 19 ans, c’est 57 %, c’est donc énorme. Ce sont des choses qui sont quand même immédiates, à un moment on peut se dire « je ne me sens pas bien, peut-être que le problème vient de là. »
La deuxième chose, tu en as parlé un petit peu tout à l’heure, c’est la relation à l’autre et la polarisation des idéaux. En fait, on n’est plus capable de débattre en face à face. Sur les réseaux sociaux, on est caché derrière des écrans, on a donc des trolls, etc., mais on a ce phénomène. Tu m’avais partagé cette étude : on n’est même plus capable de débattre d’idées parce que la polarisation est tellement forte que finalement ça nous isole en tant qu’humains, au-delà même des écrans. Est-ce que tu peux parler un petit peu de cela, de cette conséquence et de l’impact que ça a sur notre démocratie ?

Jean-Lou Fourquet : Tu espères ou tu penses que nous allons être plus capables de réagir à l’arrivée des IA génératives, notamment parce qu’on va sentir qu’on va potentiellement être menacés dans l’emploi, etc. Je suis assez d’accord avec toi et je pense qu’on ne va pas mal réagir à ça, aussi parce qu’on l’a déjà vécu. Dans la société, le fait que des gens se soient fait massivement remplacer à cause de l’automatisation, etc., que ces gens-là aient dû se trouver un autre emploi et étaient en galère pendant x temps, on l’a déjà vécu.

Daphnée Lucenet : Mais ce n’étaient pas les cols blancs, donc les cols blancs se gardent bien de dire des choses dessus.

Jean-Lou Fourquet : Pas les cols blancs. Mais aujourd’hui, il y a tellement de cols blancs que des gens argumentent sur le fait que les cols blancs ce sont les ouvriers d’aujourd’hui dans le sens où de plus en plus de gens sont des ouvriers de l’ordinateur. Je ne sais pas si les cols blancs d’aujourd’hui sont si supérieurs en termes de classe ; en termes de confort de vie, etc., bien sûr .

Daphnée Lucenet : C’est plutôt par nature de la fonction exercée, une fonction cognitive.

Jean-Lou Fourquet : Clairement, tout à fait, les fonctions cognitives. Une vidéo hyper intéressante disait qu’il y a les métiers physiques/cognitifs, routiniers/non routiniers. Il y avait un cadran qui disait, en gros, que les premiers boulots qui ont été remplacés ce sont les métiers physiques et routiniers, c’est la première vague d’automatisation.
Et après les non routiniers et physiques, par exemple les métiers où tu fais des charpentes, etc., toutes les charpentes sont différentes dont c’est physique mais c’est non routinier.
Il y a les routiniers et cognitifs, ce sont les gens qui font toujours les mêmes tâches, qui sont cognitives mais toujours les mêmes.
Après les physiques et cognitifs et qui sont non routiniers, par exemple archéologue qui est physique, cognitif et non routinier.
Par contre, on a été dans une sorte d’illusion de penser que les physiques et non routiniers allaient être remplacés avant les cognitifs et routiniers. Eh bien non. Aujourd’hui, avec les LLM [Large Language Model], ce sont les cognitifs et routiniers, en fait, tout ce qui est assez routinier pour qu’un LLM ou une intelligence générative puisse le faire, par exemple la traduction. Ce n’est pas si routinier que ça, mais c’est assez routinier, dans les grandes masses, pour que ça fonctionne, donc les cols blancs. Par contre, je pense que notre capacité à réagir est quand même aussi liée au fait qu’il y ait des institutions et une culture qui nous rendent capables de réagir à ça. Par exemple les syndicats, qu’on soit dans un syndicat ou pas, sont quand même une force qui sait ce qui se passe quand on remplace beaucoup de gens d’un coup, qui sait comment réagir face à l’envie du patronat d’optimiser, de faire des sous et de créer de la détresse sociale comme chez Microsoft où ils n’ont pas du tout besoin de virer les gens mais ils cherchent juste à optimiser.
C’est juste pour renforcer cela. Je pense que c’est aussi une manière de voir ce qui se passe et de regarder quels sont les endroits où la société est le plus habituée à réagir. Je pense que c’est aussi une manière de cadrer nos messages pour faire réagir. Plus tu parles de quelque chose, d’un sujet pour lequel tu sais qu’il y a zéro institution, zéro culture qui va permettre de réagir face à ça, plus tu sais que tout le monde va dire « oui, ton message est intéressant », mais personne ne va réagir.
Alors que si tu appuies sur des points pour lesquels tu sais qu’il y a déjà des structures et une culture qui fait réagir, ça va susciter une réaction, pas forcément pour les bonnes raisons.
Je viens à l’autre partie de ta question qui était plus sur la dégradation de la santé mentale. Là aussi il y a une structure : s’il y a des gens qui sont capables de réagir et de dire qu’il faut faire quelque chose, ce sont bien les parents des enfants.

Daphnée Lucenet : Mais c’est dur, ça leur échappe.

Jean-Lou Fourquet : Oui, ça leur échappe, mais ils vont vouloir que ça réagisse. Ce n’est pas un discours abstrait. C’est une vraie préoccupation, c’est une préoccupation culturelle, il y a plein de cadres et d’institutions qui sont là pour faire en sorte que l’éducation se passe bien, etc., il faut donc en profiter.
Par contre il va y avoir l’autre débat : plein de gens disent « on ne sait encore rien sur la dégradation mentale », tout ce débat scientifique qui est un vrai débat. Aujourd’hui on est incapable de savoir exactement quelles sont les conséquences sur la santé mentale, notamment des enfants, de la consommation et de la présence sur les plateformes.
Je pense que le problème n’est pas de dire que ce sont les écrans. Tu peux donner ta tablette avec Dostoïevski dessus à ton enfant, il ne lui arrivera rien d’autre que le fait d’être traumatisé par Dostoïevski, mais c’est tout. Il faut bannir de notre langage et de notre manière de voir les risques les écrans.

Daphnée Lucenet : Les contenus des écrans.

Jean-Lou Fourquet : Les logiques qui te distribuent les contenus. Si tu avais une tablette avec un écran noir, un short, un écran noir, aucun souci. Tu vas regarder un short, tu vas le trouver un peu nase, tu vas passer à autre chose. Ce qui est vraiment problématique, ce sont les mécaniques algorithmiques et même, plus largement, toutes les mécaniques qui sont là pour rendre la consommation de ces contenus obsessionnelle, pour faire en sorte de maximiser le temps que tu vas y passer. C’est ça qui est toxique. Ce n’est pas le contenu ni même le support en lui-même. Mais il y a quand même aujourd’hui beaucoup de gens qui, consciemment ou inconsciemment, disent « on n’est pas sûr, etc. ». De la même manière, aujourd’hui le GIEC dit : « On a un taux de confiance dans le fait que le changement climatique soit d’origine anthropique de 99,9 % », tu pourrais toujours dire « on n’est pas sûr ». La question n’est pas « on est sûr », la question c’est à quel point le risque en vaut la chandelle, à quel point le faisceau d’indices montre qu’il y a un sujet ou pas. Je fais partie des gens qui disent que de plus en plus, étude après étude, il y en a une qui vient de sortir – je pourrai t’envoyer le lien, tu pourras le mettre –, qui a demandé à 100 000 personnes qui consomment, un peu dans le sens de ce que tu viens dire, et en fait, oui, il y a de plus en plus une présomption qu’il y a des phénomènes négatifs que ce soit en termes de polarisation émotionnelle, dégradation de la santé mentale, sédentarisation, qu’importe, de ces plateformes. À un moment, est-ce que tu vas attendre d’être sûr que c’est tel médicament qui a provoqué telle vague avant de l’interdire ? Tu vas te poser la question, OK, il y a une corrélation, ce médicament est sorti à ce moment-là, six mois après on a une épidémie de…, d’autres éléments permettent de dire que c’est potentiellement le médicament, on va le retirer de la vente, on va analyser pour voir si c’est ça. Je voudrais avoir un débat avec les gens qui me disent que ce n’est pas OK et je m’opposerais, mais aujourd’hui on est quand même au stade où on est en droit de demander aux plateformes de nous donner les données qui nous permettent de savoir les conséquences des réseaux sociaux ou des plateformes. Au moins ça.

Daphnée Lucenet : Le problème c’est la transparence. D’ailleurs, c’est ce qui est demandé dans l’AI Act, d’apporter de la transparence là-dessus.

Jean-Lou Fourquet : Récemment, la France a demandé à X d’ouvrir son algorithme de recommandation pour la période de janvier parce qu’on pense qu’il y a eu des ingérences. X a répondu sur X au travers d’un compte qui s’appelle Global Government Affairs, c’est le service de X qui parle un peu de son lien avec les gouvernements. En gros, on nous fait tout un post pour dire que c’est une atteinte à la liberté d’expression de demander à la plateforme d’ouvrir son algorithme. Comment ça ? On ne te demande pas d’interdire aux gens de parler, on te demande d’être transparent sur les logiques qui motivent ton amplification de certains messages. C’est un vrai truc : il faut faire la différence entre liberté d’expression – ma liberté d’expression, moi qui ai envie de tweeter tout et n’importe quoi –, et le droit à l’amplification des grandes plateformes au détriment de n’importe quelle conséquence. Je pourrais très bien parler sur X et X choisir de ne pas massivement me recommander à 10 millions de personnes, d’ailleurs il le fait tous les jours et c’est très bien. Je peux aller voir ton compte Twitter, tu as la liberté d’expression, sur ton compte Twitter il y a tout ce que tu as écrit, par contre c’est autre chose d’amplifier ton message et de le répandre partout.
Ce n’est parce que tu défends la liberté d’expression que tu dois défendre ta liberté en tant que plateforme à répandre n’importe quel message au détriment des conséquences sociétales et c’est clairement ce qu’ils font. Du coup, sur ces conséquences-là, il faudrait qu’on arrive, politiquement, à réclamer l’ouverture au moins aux chercheurs pour analyser les conséquences. As-tu lu Les Marchands de doute [7] ?

Daphnée Lucenet : Non, pas encore.

Jean-Lou Fourquet : Il y a un peu cette logique-là. Tant qu’on a des doutes ou tant que les Big Tech arrivent à nous vendre l’idée selon laquelle on ne sait pas vraiment et qu’on a des doutes quant aux conséquences des plateformes, il n’y a pas de régulation.

Solutions alternatives : Tournesol et recommandations collaboratives

Daphnée Lucenet : Sur la partie données, je parlais avec un chercheur qui explore justement le cadre de la lutte contre la manipulation de l’information. Il m’expliquait qu’on peut avoir accès à des données, ça fait partie de la réglementation, mais aujourd’hui on joue sur la durée des process et c’est tellement long qu’au final la donnée devient obsolète avant même qu’on arrive à l’obtenir. Il y a toujours cette volonté, mais on court après l’innovation dans le cadre de la réglementation. La réglementation est nécessaire mais ce n’est pas le seul moteur.
Je voulais qu’on revienne un peu sur ce sujet : en quoi cela nuit à la démocratie finalement ? Quelles sont les conséquences et comment en vient-on à être aussi polarisé qu’on n’arrive plus à avoir les vrais débats démocratiques et que ça nous touche dans notre quotidien ?

Jean-Lou Fourquet : Je vais revenir sur les débats démocratiques, mais je voulais dire un truc que je pense intéressant. Effectivement, la régulation n’est pas suffisante, il y a ce truc de vitesse. Quand tu régules les médicaments ou les avions, tu n’autorises pas sur le marché un médicament ou un avion après avoir regardé combien d’avions sont tombés et combien de gens sont malades ! Tu dis : « Prouvez–nous que vous avez fait en sorte que ce médicament, etc. ». Il y a un retournement de la charge de la preuve. Aujourd’hui, effectivement, on est dans ce système-là : on veut réguler à posteriori. C’est-à-dire que les algorithmess de recommandation sortent, on voit des conséquences négatives, on leur demande les données pour pouvoir voir si c’est bien cela qui est responsable et là on va réguler. Mais tu as raison, c’est effectivement trop tard, le truc est déjà arrivé, le génocide des Rohingyas au Myanmar s’est déjà déroulé, c’est donc trop tard !
À Tournesol, on se bat plutôt pour dire comment peut-on faire pour que la régulation demande aux plateformes de montrer en amont du déploiement d’une nouvelle IA que celle-ci a été pensée pour au moins optimiser les effets positifs, augmenter les effets positifs, et réduire les effets négatifs. C’est à eux de prouver ou de donner des éléments qui nous permettent de penser qu’ils y ont au moins pensé.
Ce retournement de la charge de la preuve est assez important. Ça te permet au moins de ne pas courir après ce truc-là.
Sur la polarisation émotionnelle, un truc important à dire c’est que tout n’est pas la faute des IA de recommandation aujourd’hui. Tout n’est pas la faute des Big Tech. Les Big Tech n’ont pas créé le changement climatique, les Big Tech n’ont pas créé la dégradation des démocraties, ils n’en sont pas les seuls responsables. Ce sont des phénomènes qui ont pas mal de leviers et de causes. La dégradation, en tout cas l’appropriation du pouvoir informationnel par les Big Tech, aggrave la situation actuelle. Pourquoi l’aggrave-t-elle ? Une manière assez simple de se le représenter – je pourrai aussi t’envoyer une vidéo qui vulgarise bien le concept –, on a tous vu, par exemple si on est allé sur Twitter à une époque ou même encore maintenant, qu’on est beaucoup exposé : on a beaucoup décrié la notion de bulle de filtre parce que c’est vrai qu’elle donne une fausse image, mais ce n’est pas juste une bulle de filtre.
Quand tu vas sur Linkedin ou sur Twitter, tu vois des choses avec lesquelles tu n’es pas d’accord, tu en vois beaucoup. Par contre, tu vas sûrement voir la pire des versions de la position adverse parce que c’est cette version-là qui va générer le plus d’engagement.
La personne qui est peut-être un peu plus nuancée, un peu plus réfléchie, ne va faire réagir personne. Du coup, ce n’est pas celle-là que tu vas voir.
En tant que société, on est habitué à voir les discours les plus caricaturaux avec lesquels on n’est pas d’accord. À l’inverse ou le camp d’en face, les gens qui ne sont pas d’accord avec toi, sont plutôt habitués à voir la caricature des discours de ton camp ou de ta cause. En fait, tu ne fais pas une démocratie entre caricatures. Je n’ai aucune envie de construire un pays avec la caricature des idées qui déjà ne me parlent pas. Aujourd’hui, on est en train de fabriquer des sortes d’épouvantails idéologiques, pas nous, c’est le système informationnel qui met en avant, met en exergue des sortes de caricatures idéologiques avec lesquelles tu ne veux pas construire une société. Sur cela, il y a un papier de Petter Törnberg, de mémoire : quand tu fais des clans idéologiques sur des espaces numériques, tu fais des clans idéologiques qui sont hyper uniformes aussi et qui, du coup, sont beaucoup moins nuancés que des clans idéologiques qui intégreraient une variable locale. Ce sont des modèles mathématiques. Par exemple, il explique que si je me sens de tel parti, mettons que je suis écolo, j’ai déjà parlé du changement climatique, donc OK, je suis écolo, mais j’aime la campagne, du coup je connais et j’ai des rapports affectifs avec des gens qui sont chasseurs. Du coup, je vais me positionner en tant qu’écolo, mais avec une fibre avec laquelle j’ai plus de facilité à comprendre les oppositions des gens qui se réclament de la chasse, même les agriculteurs, parce que j’en vois, j’ai grandi avec des gens autour de moi qui faisaient ça. Et ça, multiplié par plein de gens qui se positionnent et qui ont, du coup, une manière idéologique de penser qui est à la fois au global et à la fois au local, cela crée un tissu idéologique qui est plus nuancé que si les gens ne fabriquent leur idéologie que sur les réseaux sociaux. Là, ils sont vraiment dans des bulles idéologiques où tout le monde a la même check-list, ils pensent tous la même chose sur tous les sujets et qui, en fait, ne sont jamais confrontés aux autres idées que par leurs caricatures. Quand je me confronte aux agriculteurs de chez moi, où que j’ai grandi, avec des gens qui ont fait ci et ça, ce n’est pas une caricature que je vois, c’est juste l’agriculteur ou le chasseur du coin. Alors que sur les réseaux sociaux, quelqu’un qui n’a pas eu la chance de grandir avec un chasseur va voir la caricature du chasseur, le mec qui tire partout, qui s’en fiche, qui est là juste pour tuer des animaux, etc., parce ça existe. C’est la même chose à l’inverse : le chasseur va voir la caricature de mec qui se colle les mains au bitume pour empêcher des gens, à quatre heures du matin, d’aller faire leur boulot, parce que c’est un gros événement, c’est ça qui va faire les médias, alors qu’il y a des gens qui font des trucs peut-être plus efficaces d’un point de vue idéologique, par exemple en allant faire du vélo là où il y a des jets privés qui, pour moi, est un peu plus marquant qu’empêcher les gens d’aller travailler à quatre heures du matin. Pas pour dire que c’est bien ou pas bien, c’est juste cette caricature.
L’univers informationnel et le fait qu’on ne soit que dans ces bulles-là et pas forcément en interaction avec les gens dans le réel, fait qu’on est capable de n’être en interaction qu’avec les caricatures idéologiques des autres.

Daphnée Lucenet : C’est dramatique.

Jean-Lou Fourquet : C’est dur de faire de la démocratie avec des caricatures.

Daphnée Lucenet : Et surtout, on perd mécaniquement les capacités à débattre et à échanger parce qu’on le pratique de moins en moins, parce qu’on est de plus en plus sur la sphère émotionnelle.

Jean-Lou Fourquet : Sur Internet, tu ne parles qu’à des caricatures. Dès que tu vas parler à quelqu’un, même s’il a des propos plus raisonnés, dans ta tête tu vas avoir l’image de la caricature de ce qu’il défend. Je le vois, j’ai des discussions où j’ai vraiment l’impression que la personne est en train de répondre à la caricature que j’incarne pour lui, et je le fais moi aussi. Je vais dire « la personne est comme ça », du coup je vais répondre à toutes les dingueries que j’attribue à son camp au lieu de répondre à elle et à ses arguments.

Daphnée Lucenet : Quel est le projet de Tournesol ? Quelle est la vision derrière et les challenges ?

Jean-Lou Fourquet : En gros, le principe de Tournesol c’est de dire qu’aujourd’hui, encore une fois, ce sont les plateformes qui décident les IA de recommandation. Et aujourd’hui, comme on ne veut pas choisir, politiquement, quel est le contenu qu’il vaut mieux amplifier sur les réseaux sociaux, on laisse cette responsabilité uniquement aux plateformes et les plateformes le font uniquement avec un objectif financier et sans aucune régulation quant aux conséquences négatives. OK ! Mais si vous vouliez amplifier ou choisir quel contenu va être recommandé par l’IA de recommandation, comment choisiriez-vous ? En fait, c’est une question abyssale. Si on ne prend pas en compte juste l’engagement, quels critères prend-on en compte ? Qui choisit ? On retombe sur le gros argument, il y a des gens qui ont peur de ça quand je parle de Tournesol, qui disent « ce que tu veux faire c’est l’ORTF ! Tu veux recréer une sorte de ministère de l’information où il y a quelqu’un décide qu’il faudrait que tous les Français et les Françaises regardent cette vidéo. » Ce n’est pas cela qu’on veut faire. La question qu’on se pose c’est comment pourrait-on avoir une gouvernance plus démocratique des algorithmes ? C’est-à-dire comment pourrait-on décider, tous ensemble, de la façon dont fonctionnent ces algorithmes et ces IA de recommandation dont notre fonctionnement collectif dépend ? Encore une fois, je pense que si tu fais des vidéos pour que les uns et les autres soient contents, potentiellement tu crées un système où les gens sont très contents de ce qu’ils regardent, mais ne sont plus capables de vivre ensemble. Comment fait-on ? Qui décide ?
Vous pouvez aller voir le projet Tournesol sur la plateforme, tournesol.app. C’est une plateforme de recherche/action où on essaye de voir comment on peut créer des algorithmes de recommandation les plus robustes possible en partant de l’avis de la partie réfléchie des gens qui votent et c’est un gros truc. Pour ne pas reproduire TikTok, il faut qu’on fasse des choses différentes de TikTok.
La plate-forme Tournesol marche avec toutes les vidéos YouTube. On demande à la communauté, aux gens qui veulent participer et qui participent à l’association et au projet, de comparer les vidéos. La question qui est posée aux gens c’est : entre les deux vidéos qui sont là, à droite et à gauche, pas idéologiquement mais de manière visuelle, qu’elle est celle, selon toi, qu’il faudrait le plus recommander, recommander le plus largement possible ? Si tu avais la liberté de choisir ce que l’algorithme recommande, qu’est-ce que tu voudrais plutôt recommander ? Les gens mettent un curseur, etc., mais ce n’est pas comme un like. Pourquoi n’est-ce pas comme un like ? Parce qu’on pose très clairement la question. La question n’est pas : « Est-ce que cette vidéo t’a fait craquer et tu la likes parce qu’elle t’a fait rigoler ? ». La question est vraiment claire :« Qu’est-ce que tu voudrais voir le plus recommandé ? » Ce qui fait la différence c’est qu’on essaye de parler à la partie réfléchie des gens, il y a notamment un curseur, tu ne peux pas le faire en un clic, justement pour que tu ne puisses pas le faire rapidement, pour que ça ne puisse être ta partie instinctive qui dit « j’aime bien celle-là ». Il faut vraiment se poser la question. Cela ne génère pas de friction et fait que la plateforme Tournesol ne sera jamais aussi addictive que YouTube et c’est là où tu te dis que ce genre de plateforme ne sera jamais répandu s’il n’y a pas une forme de régulation.
La différence est aussi que notre code, qui fait que l’algorithme donne une évaluation aux vidéos en fonction des différentes comparaisons, est open source donc tout le monde peut aller vérifier et voir comment ça marche. Nos données sont en open source, donc tout le monde peut voir comment cette vidéo a été notée, etc.
Ce projet consiste à dire que si un jour on a le courage politique, parce que peut-être dans cinq ans après deux guerres civiles dans des pays notamment à cause d’algorithmes de recommandation, les gens, la société est assez intelligente pour dire « on régule », ça sera intéressant que Tournesol ait déjà pensé un projet, il n’y a pas que Tournesol, mais qu’un projet comme Tournesol y ait déjà pensé : si on veut gouverner démocratiquement des algorithmes pour qu’ils recommandent des choses qui soient considérées d’intérêt général par les gens, par les citoyens par exemple, comment fait-on ? Nous planchons sur cette question-là : comment pourrait-on faire des algorithmes de recommandation où Musk ne décide pas de tout, que ce soit fait démocratiquement et où ce n’est pas non plus le ministère de l’information français qui décide.

Daphnée Lucenet : Tu n’as pas utilisé l’expression cette fois, tu m’expliquais aussi cette notion de communs informationnels pour que chacun puisse savoir. Cette notion est quand même importante dans le projet.

Jean-Lou Fourquet : Carrément. On est en train de faire notamment un manifeste. J’ai dit que le CEO de TikTok disait que TikTok est une démocratie avec les pouces. En fait, on est en train de construire un discours où il y a vraiment quatre principes, ma prochaine vidéo est sur ça, allez la voir, elle sortira en septembre sur ma chaîne. Les quatre piliers d’un numérique vraiment démocratique, sont le contraire de ce que font TikTok, Twitter et les autres :

• le premier, dont on a parlé, la transparence du processus ;
• le deuxième, dont on a aussi parlé, la robustesse des algorithmes, c’est-à-dire que les algorithmes ne peuvent pas être détournés massivement de leur usage avec par exemple de l’ingérence sur telle ou telle élection. Il y a plein de comptes qui vont manipuler le fait que telle vidéo soit recommandée à tout le monde, du coup on manipule l’algorithme ;
• le troisième c’est de faire appel au côté avis réfléchi des gens plutôt que l’avis instinctif ;
• et le quatrième, qui est le plus délicat à faire passer, c’est celui dont tu parles, de commun informationnel.

Plein de gens sont d’accord avec les trois premiers, disent « c’est vrai, tu as raison », et pensent que les trois premiers seraient suffisants. En fait laisser le pouvoir à chacun de nous de décider de sa propre diète informationnelle par sa partie réfléchie : je ne vois plus de Shorts des plus gros et de trucs qui sont hyper addictifs pour moi, je ne vois que des trucs que je trouve intelligents. Plein de gens pensent, notamment des militants, que ça suffirait. Moi je pense que ça ne suffit pas parce que tu es quand même confronté au fait qu’il faut toujours, dans n’importe quelle société, un socle informationnel commun quel qu’il soit. Après, on pourra débattre : à quel point faut-il qu’il y ait un socle commun ? Quelle largeur donner à ce socle informationnel commun ? Un exemple : on ne fait pas société si on n’a pas une langue commune. Dans la plupart des sociétés, il y a l’Éducation nationale ou un système d’éducation au niveau de l’État avec un programme commun. On va se battre pour savoir ce qu’il y a dans ce programme commun, mais personne ne va dire « non, il faut zéro programme commun » ; tout le monde va dire « c’est vrai qu’il faut un tronc commun pour faire société ensemble » et c’est intéressant.
Aujourd’hui, dans la manière dont se construit le monde, une part grandissante de l’information avec laquelle on se construit et avec laquelle on développe sa vision du monde, ce n’est plus l’Éducation nationale, ce ne sont plus les parents, ce n’est plus l’entourage, c’est l’info qu’on va consommer sur les grandes plateformes. Donc une partie grandissante de la manière dont se fait une vision du monde vient d’une source qui n’a aucun intérêt à fabriquer un socle informationnel commun.
Aujourd’hui, si l’Éducation nationale, qui a ce socle commun, est en train de baisser et les grands médias publics sont en train de baisser, la partie de socle informationnel commun qu’on a tous et toutes s’érode. On essaye de dire comment faire pour qu’il y ait une partie commune. Je ne suis pas en train de dire que Daphnée et Jean-Lou doivent avoir exactement le même feed, il faut bien sûr qu’il y ait du pluralisme si tu es intéressée par ça, etc., mais il faut qu’il y ait une partie commune. L’exemple touchant : imagine un monde où chaque fois qu’on va sur Wikipédia, qu’on met « Charles De Gaulle », toi et moi ayons des biographies différentes de Charles De Gaulle ! Ça ne va pas !
Aujourd’hui, et encore plus peut-être avec les LLM, etc., on va vivre dans des espaces informationnels qui n’ont potentiellement rien à voir avec l’espace informationnel de l’autre.

Pourquoi un socle commun est indispensable

Daphnée Lucenet : En fait, on n’a plus vraiment de réalité partagée et c’est impossible de faire démocratie si on n’a pas une réalité partagée avec un socle minimum.

Jean-Lou Fourquet : Exactement. Il est obligatoire d’avoir un socle, ne serait-ce qu’un socle pour dire « est-ce que vous êtes tous d’accord pour que cette loi soit appliquée », peu importe, mais il faut un socle. Or, aujourd’hui on va vers la disparition de ce socle et rien n’est fait pour éviter la disparition de ce socle parce que ce socle n’est pas rentable. Le fait qu’il n’y ait pas de socle c’est ce qui va faire que je vais m’engager plus sur YouTube parce que rien ne me fait sortir de ce que je pense, de ce que je crois et de ce que j’ai envie de voir. Or, ce socle informationnel nécessite qu’individuellement on se fasse un peu violence, qu’on pense un peu contre soi-même. C’est à cela qu’on essaie de penser, donc dans Tournesol, par exemple, on essaie de faire en sorte que les scores Tournesol soient les mêmes quel que soit ton avis. C’est-à-dire que tout le monde voit la vidéo et tout le monde voit le même score. Le score ne sera pas 42 pour toi et 38 pour moi parce que j’aime moins le climat que toi.

Daphnée Lucenet : OK. Hyper intéressant. L’épisode touche à sa fin. Je pense qu’on pourrait encore creuser pas mal ce sujet, c’est peut-être l’objet d’une future discussion sur la façon dont on fait émerger ces modèles-là avec un challenge sur les financements. Malheureusement, je pense que ça prendrait pas mal de temps à développer.
Si tu as un mot de la fin : quelles solutions et est-ce qu’on peut être un peu optimiste avec un message d’espoir de fin ?

Message d’espoir : préparer les outils de demain

Jean-Lou Fourquet : Message d’espoir de fin, j’ai fait une vidéo qui s’appelle « Guide pratique pour militants désespérés » [8].
Sur toutes ces thématiques, je pense qu’on est parti sur une période assez compliquée, complexe. Aujourd’hui, dans le contexte actuel, avec les solutions que je promeus avec Tournesol ou qu’une autre plateforme pol.is [9], promeut, il y a plein de trucs intéressants, Agora [10] aussi, je pense qu’on aura du mal à passer à l’échelle. J’aime beaucoup dire qu’on ne se rend pas compte à quel point nous serons collectivement capables de faire des choses qu’aujourd’hui nous sommes incapables de faire. Par exemple, en janvier 2020, on a dit aux gens qu’il faut mettre des masques quand on est malade, personne ne le fait. Après le Covid, on se dit « ah oui, OK ». Nous devenons collectivement capables de faire des choses dont nous n’étions pas capables.
La manière dont je vois mon implication c’est de dire que ce n’est pas grave si ce que je suis en train de faire ne pourra pas se diffuser, je sais pertinemment que, dans le contexte actuel ça ne pourra pas se diffuser. Je sais que si on a raison de faire une plateforme comme Tournesol et de réfléchir à ces questions-là, c’est qu’il va sûrement se passer des choses dans l’avenir qui vont nous donner encore plus raison et qui vont faire que, collectivement, nous allons devenir capables de faire ça.
Je ne sais pas si tu connais le plan de transformation l’économie française du Shift Project, qui a aussi été pensé comme ça, Jancovici l’a déjà défendu comme ça en disant « on s’aperçoit, avec le Covid, que quand il y a une crise tu sors un plan d’urgence qui est déjà réalisé », tu n’écris pas le plan d’urgence dans l’urgence, tu récupères un plan. Il y a aussi un truc comme ça, tu dis « OK, je suis triste – ça rejoint la conversation qu’on a eue tout à l’heure – qu’on n’arrive pas à appliquer les choses préventivement, en fait on est toujours un peu à en réaction quelque part. N’empêche qu’une réaction dont le plan est déjà écrit, déjà pensé, a bien plus de chances d’être pertinente que la réaction ou rien n’a été pensé avant.
Mon message d’espoir c’est qu’on sait qu’on va avoir des problèmes avec les IA de recommandation et les conséquences des IA de recommandation. Donc déjà arriver aujourd’hui, comme avec Tournesol, comme avec pol.is, Agora Citizen et aussi un autre qui s’appelle Open Source Politics [11] qui essaie de développer ce genre de pratique et de plateforme, avec tous ces gens-là qui fabriquent une boîte à outils dont on n’est pas capable de s’emparer collectivement, à grande échelle, aujourd’hui, mais qui, si ces gens-là ont raison de fabriquer ces outils, serviront demain, après-demain, dans cinq ans.

Daphnée Lucenet : On a passé en revue de façon assez dense et riche parce que c’est un sujet qui est quand même dense et riche, mine de rien. En résumé, je dirais que l’idée à garder c’est qu’on est l’information qu’on consomme et qu’on a intérêt à chercher, à aller voir un petit peu plus loin, à faire l’effort, à fournir l’effort cognitif pour pouvoir faire société.

Jean-Lou Fourquet : Je pense qu’il faut sortir de ce truc individuel. Ce n’est pas à toi, en tant qu’individu à le faire. On devient ce que collectivement on regarde, du coup il faut commencer à s’intéresser aux mécaniques qui font que collectivement on regarde tel message plutôt que d’autres et aujourd’hui ce sont des milliardaires et des grandes plateformes qui n’ont aucun contre-pouvoir démocratique qui ont ces mécaniques et ce pouvoir-là. C’est essentiel qu’on s’intéresse à ça.

Daphnée Lucenet : Merci beaucoup de nous avoir éclairés sur ce sujet.

Jean-Lou Fourquet : De rien. Salut.