Voix off : Next, Next, Next, Next.

Mathilde Saliou : Salut je suis Mathilde Saliou et vous écoutez Entre la chaise et le clavier.

Épisode 11. Face au tsunami d’infos générées par IA avec Jean-Marc Manach

Jean-Marc Manach, voix off : Je suis journaliste d’investigation sur Internet depuis la fin des années 90. Je n’ai pas fait d’école de journalisme, j’ai découvert Internet comme une sorte de Far West, c’était juste hallucinant, avant j’étais en cinéma expérimental, rien à voir. Quand j’ai découvert Internet, j’ai découvert que c’était une mine d’or en termes d’informations, puisque j’ai eu la chance, en 1998, d’être recruté dans une rédaction qui avait un accès à Internet à haut débit, alors qu’à l’époque on avait des Minitel + +. Quand j’ai découvert Internet avec un accès haut débit, c’était waouh, tout ce que je trouvais ! Et très, rapidement, je me suis retrouvé, presque par hasard, à faire du fact-checking et de l’investigation.

Mathilde Saliou : Pour ce dernier épisode avant l’été, je vous propose un format un peu particulier. Cette fois-ci, mon invité est aussi mon collègue, c’est un membre de la rédaction de Next. Vous venez de l’entendre se présenter, ce collègue c’est Jean-Marc Manach.
Si je voulais vous le faire écouter c’est parce que, depuis bientôt deux ans, il enquête, sans relâche, sur un phénomène qui pose autant de questions aux internautes qu’aux fabricants de l’information que nous sommes en tant que journalistes. Ce phénomène, c’est celui de l’information de faible qualité générée par IA.
Dans certains cas, il s’agit simplement de se faire passer pour un média numérique fiable afin de remonter dans les classements de Google.
Dans d’autres, il s’agit clairement de tromper, mais je le laisse vous raconter.
Comme il fait référence à plusieurs moments de l’actualité, je précise que nous avons enregistré le 9 juin 2026.

Jean-Marc Manach : Fin 2023, j’ai failli envoyer en rédaction un article qui se basait sur un article que je trouvais vachement bien, sauf que je ne connaissais pas le site. J’ai eu la curiosité de chercher qui était derrière et j’ai vu que la photo du bonhomme était générée par IA, que le bonhomme n’existait pas sur les réseaux sociaux et, en fait, que son article était une traduction en français d’un article de The Washington Post, chose qu’il ne précisait pas. J’avais donc face à moi un site d’information généré par IA, qui faisait du plagiat, qui mentait, qui prenait le lecteur pour un… J’ai donc commencé à le recenser dans un fichier texte, parce que je fais tout en fichiers textes.
Au printemps 2024, j’avais identifié un peu moins de 70 sites via des Google Alertes. En fait, quand je recevais des Google Alertes, avec des noms de domaine un peu exotiques que je ne connaissais pas, je vérifiais. J’ai profité d’un atelier dans une école de journalisme, avec des étudiants, pour qu’on crowdsource les vérifications. On a découvert que plus de 25 % faisaient du plagiat. J’ai continué à recenser les sites d’info générés par IA. En septembre ou en octobre, j’en avais 250. J’ai donc demandé de l’aide à CheckNews parce que j’estimais qu’à 250 sites je ne pourrais pas enquêter tout seul là-dessus.

Mathilde Saliou : CheckNews, c’est Libération.

Jean-Marc Manach : C’est le service de fact-checking de Libération.
En décembre, j’en avais 500 et quand on a enfin publié les premiers papiers, en février, j’en avais identifié 1000 et, aujourd’hui, un an et demi après, j’approche les 15 000, rien qu’en français.

Mathilde Saliou : Pendant tout cet entretien, on va essayer de déplier un peu tous les enjeux que ça pose.
Est-ce que tu peux décrire, plus précisément, la méthodologie qui te permet à la fois de les repérer et ensuite de les classer tel que tu les classes ?

Jean-Marc Manach : Dans mon travail de journaliste d’investigation, je n’ai pas fait les services de renseignement, mais je travaille beaucoup sur les services de renseignement et, dans les formations que je fais par ailleurs au fact-checking et à l’OSINT, l’Open Source INTelligence [1] le renseignement d’origine sources ouvertes, j’explique aux gens que je forme que je travaille probablement beaucoup plus comme les policiers de la police technique et scientifique, ou comme des analystes des services de renseignement, que comme un journaliste lambda. Quand ils se posent une question, la majeure partie des journalistes vont poser la question à quelqu’un qui sait. Moi, en règle générale, quand je pose la question à quelqu’un, j’ai déjà la réponse, je l’ai cherchée, je l’ai trouvée, je fais donc tout en renseignement d’origine sources ouvertes.
Or, comme les gens ne parlent pas en clair au téléphone ou dans un mail – rendez-vous place de la République à 14 heures pour livrer la cocaïne – les officiers de police judiciaire ou les analystes de renseignement, quand ils travaillent sur du narcotrafic ou sur du terrorisme, s’intéressent énormément aux métadonnées, moi c’est pareil. Je n’utilise aucun détecteur de contenu généré par IA, parce que je sais qu’il y a trop de faux positifs et de faux négatifs, donc je ne fais pas confiance, par contre, les métadonnées ne trahissent pas. Par exemple, un site a été blacklisté la semaine dernière sur MSN, jusqu’à l’année dernière, les rédactrices du site publiaient en moyenne cinq articles par jour ; depuis novembre, ce sont 500 articles par jour. Ce n’est pas possible, pour un être humain, de publier 500 articles par jour. Un des critères c’est le nombre d’articles, à quelle régularité. Il y a des sites qui vont publier un article à 8 heures, 9 heures, 10 heures, 11 heures, midi, 13 heures ! C’est n’importe quoi !

Mathilde Saliou : C’est trop robotique pour être humain !

Jean-Marc Manach : Sept jours sur sept, 24 heures sur 24, le 1^er mai, le 25 décembre. Il y a donc ça.
Les directeurs de publication. Normalement, un média a un directeur de publication, il y en a plein qui n’en ont pas ou il y en a plein qui ont des directeurs de publication fictifs.
Est-ce ce que le journaliste a un nom ? Souvent c’est un prénom, juste un prénom, il n’y a pas de photo ou la photo est générée par IA. Quand il y a un nom et un prénom, de temps en temps il y a un profil LinkedIn, sauf que le profil LinkedIn est faux. En fait, je m’aperçois que la majeure partie de ceux qui ont un nom et un prénom n’ont pas de compte sur LinkedIn, n’ont pas de compte sur les réseaux sociaux, n’ont pas de traces numériques, la seule trace numérique qu’ils ont c’est sur ce site-là en particulier.
Donc plein de choses, comme cela, qui sont incohérentes. J’ai donc développé toute une grille d’analyse, ce qui fait qu’en m’intéressant aux métadonnées, au contenant et pas au contenu, j’arrive à avoir un faisceau d’indices me permettant de savoir si oui ou non c’est généré par IA ou si c’est un être humain.
Il y a aussi le cas où ce sont des journalistes qui sont augmentés par IA. J’ai le cas d’un professionnel du SEO, Search Engine Optimization, les professionnels du référencement, les gens dont le métier, depuis des années, est de trouver des failles dans le système de Google et des autres moteurs de recherche pour arriver à faire remonter les résultats de leurs clients ou de leurs sites web dans ce qu’on appelle les SERP [search engine results page], c’est-à-dire les pages de recherche des moteurs de recherche. Là, depuis que l’IA générative est arrivée, c’est open bar. Avant, ils payaient des gens à Madagascar ou au Sénégal pour écrire des articles, ça leur coûtait cinq euros, il leur fallait trois jours pour avoir un article qui n’était pas forcément génial, alors qu’aujourd’hui, a fortiori depuis un an, ça leur coûte quelques centimes avec ChatGPT d’OpenAI, ou d’autres générateurs, de bien meilleure qualité, donc ils sont capables de produire des centaines voire des milliers d’articles par jour. J’ai vu certains professionnels du référencement qui sont capables de publier plusieurs milliers d’articles par jour et le mec travaille à mi-temps !
Il y a donc aussi l’hypothèse que ce sont rédacteurs ou des journalistes augmentés. J’ai le cas d’un journaliste, dont je tairai le nom, qui est capable de publier 50 articles par jour ! Le mec existe vraiment, il est connu sur la place. Ce n’est pas possible d’écrire 50 articles par jour, il n’aurait pas le temps de lire 50 informations, encore moins de les écrire, de faire des articles, c’est donc forcément généré par IA !

Il y a eu plusieurs vagues. La première vague c’était des professionnels du SEO qui ont découvert, par hasard, que Discover – l’algorithme de recommandation des contenus Google, que tu as sur Android, que tu as sur téléphone portable, qui fait que, quand tu lances la page de Google, tu as plein de contenus d’articles qui sont recommandés, aujourd’hui aussi des vidéos sur les réseaux sociaux, des posts – est devenu, depuis quelques années, la principale source de trafic de la presse. Donc toute la presse, notamment la PQR [presse quotidienne régionale], cherche impérativement à être recommandée par Discover. Pourquoi ? Parce que ça se traduit en dizaines de milliers voire centaines de milliers de visites par jour, c’est donc massif. Un jour, il y a trois/quatre ans, un professionnel du référencement a découvert un matin que l’un de ses articles avait eu des dizaines de milliers de pages vues, alors que, d’ordinaire, c’était quelques dizaines, voire quelques centaines par jour. C’est là qu’il a découvert Discover : il a gagné beaucoup d’argent avec ça, donc il a arrêté ce qu’il faisait jusqu’à présent pour améliorer son référencement dans Google, le moteur de recherche, pour essayer d’arriver à poper dans Discover, comme on dit, arriver à être recommandé par Discover. Il a gagné tellement d’argent qu’il a commencé à faire des formations pour ses copains professionnels du SEO, il en a formé des centaines, ce qui fait que nous avons été confrontés, à partir de 2023/2024, à une déferlante de nouveaux sites d’information, générés par IA, par des professionnels du SEO, qui voulaient gagner de l’argent sur Discover. Certains d’entre eux le qualifient de drogue. Pourquoi ? Parce que quand tu te réveilles le matin et que tu as déjà gagné 5 000 euros, que tu es auto-entrepreneur ou solo-entrepreneur, c’est un jack-pot ! Cinq mille euros, ce n’est rien pour un type de PQR ! Quand tu es tout seul, c’est énorme ! Ce type-là est devenu millionnaire, en trois mois, grâce à Discover. Il a évangélisé énormément de professionnels du SEO en France, c’est pourquoi la France est pionnière en la matière.
Cela a été la première salve qui s’est tarie, on va dire, en octobre.

Mathilde Saliou : Ça veut dire que depuis quatre ans, là où on va chercher de l’information au milieu des sites d’information au sens légitime du terme, fabriqués par les pros de l’info, il y a de plus en plus des sites qui sont construits par des gens qui se fichent de la qualité du contenu diffusé, qui sont là uniquement pour faire monter leur site et récupérer de l’argent grâce à la publicité exposée.

Jean-Marc Manach : Quand j’ai sorti mon premier papier en février 2024, un professionnel du SEO m’a répondu : « Pourquoi veux-tu nous empêcher de vendre de la merde ? Les gens veulent de la merde, on leur file de la merde, donc arrête, c’est notre business ! »

Mathilde Saliou : C’est assez descriptif de leur point de vue. À l’inverse, si je me mets du point de vue des internautes – je ne sais pas de qui je porte la voix, je ne porte la voix de personne –, j’ai plutôt l’impression qu’on va tous sur Google parce qu’on a tous l’habitude d’aller chercher cette entreprise-là pour accéder à tout type d’information, information au sens actualité, parfois information au sens divertissement, parfois pour répondre à une question de la vie quotidienne, etc., et on ne cherche pas forcément de la merde, on cherche, normalement, l’outil qui va nous permettre de trouver la meilleure réponse le plus vite possible.

Jean-Marc Manach : Sauf que Google a beaucoup changé ces dernières années. Jusqu’à il y a quelques années, pour arriver à être référencé dans Google Actualités, Google News, il fallait qu’il y ait une validation humaine qui certifie que le contenu était fait par des journalistes et que, ce média-là produisait de la bonne information, vérifiée. Il y a quelques années, tout le monde a été viré, ce qui fait qu’aujourd’hui, sur Google News, ce sont aussi bien des articles journalistiques que des communiqués de presse que des posts Instagram, Facebook, TikTok, il y a tout et n’importe quoi.
Cela été la première salve de destruction de l’actualité par Google.

Mathilde Saliou : Un autre truc continue à ne pas être très clair pour moi : quelle est la différence entre Google News et Google Discover ?

Jean-Marc Manach : Google Discover n’a pas du tout le même fonctionnement.
Sur Google News, tu rentres un mot clé et Google va te renvoyer les articles qui correspondent à ce mot clé dans le moteur de recherche de Google Actualités.

Mathilde Saliou : Donc moteur de recherche classique.

Jean-Marc Manach : Discover n’a rien à voir. Tu n’as rien rentré comme mot clé : tu as ouvert la page Discover et l’algorithme de Discover, en fonction de ton cookie, en fonction de l’historique de ta navigation, si tu as accepté de personnaliser Discover, va regarder si tu es une femme, si tu es un homme, si tu as 25 ans, si tu en as 50, si tu es un enfant, si tu es un adulte, si tu aimes le foot ou si tu aimes le rugby, et va personnaliser le contenu en fonction de ton historique Google. C’est presque de la police prédictive, c’est de l’information prédictive : tu n’as rien demandé et il t’envoie du contenu.

Mathilde Saliou : Tout ce fonctionnement se fait en s’appuyant sur la surveillance des internautes, on personnalise au maximum.

Jean-Marc Manach : Capitalisme de surveillance. Sauf que Discover va rajouter plusieurs couches supplémentaires dans son algorithme qui est vraiment une boîte noire, qui est très complexe à comprendre. De ce que j’en ai compris, Google s’intéresse aux interactions que tu as avec ton téléphone : est-ce que tu scrolles, est-ce que tu t’arrêtes sur telle image, est-ce que tu hésites à appuyer, est-ce que tu reviens ?
Si jamais tu hésites et que tu reviens, c’est que ça t’intéresse.
Si jamais tu cliques sur le lien, à priori ça t’intéresse, donc là tu as un point supplémentaire.
Si jamais tu restes longtemps, ça veut dire que tu as lu le papier ; si tu ne restes pas longtemps, c’est que ça ne t’intéresse pas.
En fait, il ne s’intéresse pas au contenu, il s’intéresse au contenant ce qui fait qu’on a vu, recommandés sur Discover, des articles où il y avait un titre, une image et pas de texte ! Pourtant Discover l’a recommandé. Pourquoi parce que des gens ont cliqué !
Le mec est devenu millionnaire sur Discover. En fait, il avait fait un papier : « Combien de pas faut-il marcher par jour pour rester en bonne santé ? ». Le papier était illustré par une femme dans un parc avec ce qui semblait ressembler à une cigarette slim. Sauf que ce n’était pas une cigarette slim, c’était le cordon de son casque ! La photo était de tellement mauvaise qualité que plein de gens ont pensé que c’était une cigarette slim » et sont allés se plaindre via le formulaire de contact : « Pourquoi fais-tu un papier pour rester en bonne santé avec quelqu’un qui fume une cigarette ? ». La deuxième erreur, c’est que les articles étaient des articles traduits en anglais depuis des contenus en français. Les prix étaient en euros, alors que le site visait la population américaine, donc les gens se sont également plaints : « Pourquoi les prix sont-ils en euros et pas en dollars ? ». Google a cru, à tort, que les gens aimaient le contenu parce que les gens restaient longtemps.

Mathilde Saliou : Chaque plainte égale un clic.

Jean-Marc Manach : Ils ont gagné deux millions de dollars en trois mois grâce à cette erreur-là de Discover.
Donc Discover ne jauge pas la qualité de l’article, Discover jauge en quelle mesure les gens ont cliqué.
Ce professionnel du SEO qui me disait « pourquoi veux-tu nous empêcher de balancer de la merde ? », en fait, quand il parle de merde, c’est juste en quelle mesure ils font du putaclic. Donc pendant des mois, en 2024, on a eu des articles putaclics qui ont halluciné : il y a eu plein de fermetures de magasins qui n’existaient pas, plein de hausses ou de baisses de la retraite ce qui n’existaient pas, plein de ventes de viande cancérigène dans les supermarchés qui n’existaient pas. Pourquoi ? Parce que c’était putaclic : les gens cliquaient, donc ça fonctionnait.
Google a mis un terme à cela en octobre de l’année dernière, 2025, avec un truc qui m’a halluciné : une conférence à Vienne où le numéro 2 de Google Safety qui, devant des professionnels du SEO, pour illustrer le problème du spam dans Discover, a montré une slide dans laquelle, en fait, il avait traduit en anglais deux de mes articles. Donc Google ne répondait pas à mes questions, mais là, avec cette slide, j’avais la preuve qu’il prenait en considération ce que j’essayais de dénoncer. Le fait est que depuis octobre ou novembre, il n’y a plus eu de spam parce qu’ils ont coupé le robinet. Maintenant, sur Discover, ne figurent plus que des médias qui sont connus depuis des années et plus tous les nouveaux entrants, tous ces professionnels du SEO qui rachetaient des noms de domaine expirés. Un nom de domaine expiré est un nom de domaine qui n’a pas été renouvelé, qui est vendu aux enchères au premier venu, donc plein de professionnels du SEO rachetaient des noms de domaine expirés pour profiter de la réputation de ce nom de domaine-là dans Google, qui avait une réputation du temps où il existait.

Mathilde Saliou : Oui, parce que parmi les multiples données sur lesquelles il s’appuie pour estimer la qualité d’un site web, il y a notamment le fait qu’il soit actif depuis longtemps. Donc récupérer un vieux nom de domaine c’est, d’une certaine manière, récupérer l’historique.

Jean-Marc Manach : Non seulement qu’il soit actif depuis longtemps, mais qu’il ait produit du contenu de qualité. Plein de sites produisaient du contenu de qualité, dont le nom de domaine n’a pas été renouvelé, donc des professionnels du SEO les rachètent et balancent tout et n’importe quoi. C’est ce pourquoi j’en suis arrivé, tout seul dans mon grenier, en un an et demi, à identifier 15 000 sites, parce que des professionnels du SEO rachètent des centaines et des milliers de sites et je sais qu’il y en a encore des milliers d’autres que je n’ai pas identifiés.

Mathilde Saliou : Juste pour qu’on se mette d’accord. Tu étais en train de dire qu’en octobre 2025 Google a fait évoluer le fonctionnement de Discover et est revenu sur une logique de ne pousser, avec cette technologie-là, que des sites d’information connus de manière historique. Est-ce que, pour autant, le phénomène des sites générés par IA a disparu ?

Jean-Marc Manach : Non. Il y a eu une deuxième salve. Plein de professionnels du SEO ont été recrutés par des rédactions, j’ai notamment le cas de Ouest-France et de 20 minutes, qui ont sous-traité des verticales dédiées au jardinage, dédiées aux animaux, dédiées au bricolage, dédiées à la silver économie, aux personnes âgées, etc., tout cela pour gonfler leurs statistiques : ils n’ont pas besoin de payer des journalistes, ils sous-traitent à des boîtes de SEO et, comme tout cela c’est dans les sous-domaines machin.bidule.ouestfrance.fr, en fait c’est comptabilisé par Médiamétrie comme étant un trafic Ouest-France. Ça permet à Ouest-France, 20 minutes et aux autres de figurer en tête du classement.

Mathilde Saliou : À quoi cela sert-il de figurer en tête du classement ?

Jean-Marc Manach : Tu peux négocier plus cher des tarifs publicitaires.
Le problème, c’est qu’un certain nombre de ces professionnels du SEO, quand ils ont vu arriver l’IA générative, plutôt que de continuer à payer des rédacteurs professionnels en France – là ils ne faisaient pas payer des rédacteurs à Madagascar ou au Sénégal, c’étaient des rédacteurs humains –, pas des journalistes, des gens qui sont juste payés pour pisser de la copie sans vérifier les infos, ils les ont remplacés par des IA. Et encore aujourd’hui, 20 à 25 % du contenu que je vois passer dans Discover émane de verticales ou de sites d’information qui ont remplacé ou dopé leurs rédacteurs à l’IA.
Quand j’avais confronté Ouest-France à cela, nous lui avions demandé de nous montrer les fiches de paye de ses rédacteurs. Effectivement, ils ont des rédacteurs, sauf que c’est une boîte où il y a quatre rédacteurs et 35 sites. Ce n’est pas possible, à quatre rédacteurs, d’alimenter 35 sites à raison de 10 articles par site. Quand on lit les contenus, ils sont relativement fiables, sauf qu’on ne sait même pas s’ils ont été relus, en tout cas ils ont été générés par IA, majoritairement générés par IA. Cela a été la première salve.

Mathilde Saliou : Par ailleurs, il y a des sujets sur lesquels « relativement fiable » ça ne pardonne pas ! Par exemple en santé, un truc « relativement fiable » peut vite devenir dangereux !

Jean-Marc Manach : Ce à quoi, en février, les professionnels du SEO me faisaient remarquer qu’il y a plein de journalistes qui commettent des erreurs. Oui, effectivement, plein de journalistes commettent des erreurs, mais ce n’est pas parce que plein de journalistes commettent des erreurs que vous êtes obligés d’en rajouter encore plus avec des IA génératives ! On ne peut pas empêcher une IA générative d’halluciner une information qui n’existe pas. Tu poses une question à une IA, elle est obligée de te répondre, elle ne peut pas te dire « je ne sais pas » parce qu’elle ne sait pas.

Mathilde Saliou : Tant qu’on n’a pas programmé le robot à dire « je ne sais pas » quand il n’a pas la réponse, il va toujours produire une réponse, parce que c’est un robot, il est construit comme ça.

Jean-Marc Manach : Et le robot ne peut pas vérifier une information d’un point de vue journalistique. Si c’est du code informatique, c’est plus simple. Je donne un exemple.
Il y a quelques mois, j’ai documenté le fait que, sur un site de bulletins météo, comme c’était le printemps, et qu’il commençait à faire chaud, un article disait que des médecins disent qu’il n’est pas recommandé d’ouvrir les fenêtres entre 10 heures et 16 heures, parce qu’il y a du pollen et, avec la chaleur, le pollen a plus de probabilités d’entrer dans votre appartement, donc il vaut mieux ouvrir la fenêtre avant 8 heures ou après 21 heures. Cela confié une IA générative, elle a dit : « Il est interdit d’ouvrir les fenêtres entre 10 heures et 16 heures. » ; une autre a dit : « La mairie a interdit d’ouvrir les fenêtres entre 10 heures et 16 heures. » Ça a été repris par des dizaines de sites qui ont tous halluciné. Pourquoi ? Parce qu’une IA ne comprend pas ce qu’est le pollen, elle ne comprend pas ce qu’est une allergie. Par contre, elle a vu qu’il ne fallait pas ouvrir les fenêtres, elle a changé « il ne fallait pas » par « il est interdit », parce que ce sont des probabilités statistiques. Le problème c’est que ces contenus ne sont pas faits par des journalistes, ils sont faits par des rédacteurs, qu’on ne leur demande pas de vérifier l’information et je ne sais même pas s’ils relisent les papiers.
La deuxième salve que j’ai vue c’est à partir d’octobre, quand des boîtes comme Reworld [Premier groupe de presse magazine français en nombre de journaux détenus, NdT] et Prisma [Numéro 1 de la presse magazine, de la vidéo en ligne et de l’audience digitale quotidienne, NdT] ont commencé à se lancer massivement dans l’IA générative pour deux raisons.
La première c’est qu’elles ont perdu tellement d’argent à cause de tous les spammeurs qui avaient envahi Discover à partir de 2024 qu’elles se sont dits « on va faire pareil, on va doper nos journalistes pour que, au lieu de publier cinq articles par jour, ils en publient 20. » C’est la première raison.
La deuxième raison c’est qu’elles se sont mises au GIO, Generative Engine Optimization, c’est l’évolution du SEO, pour arriver à avoir la marque de ton client mentionnée par ChatGPT, par Gemini, par Claude. Là, on a découvert que pour les clients ça va coûter 10 000 euros l’article.

Mathilde Saliou : Au lieu de faire apparaître les résultats de ta marque dans Google Search, les faire apparaître directement dans les robots d’IA qu’on utilise.

Jean-Marc Manach : Les faire apparaître dans les LLM pour qu’ensuite ça apparaisse dans les réponses de ChatGPT et des autres chatbots d’IA générative.
Ils se sont donc lancés massivement là-dessus parce que c’est une manne financière colossale, ce ne sont pas du tout les mêmes budgets publicitaires, et c’est là où des dizaines de sites de grands groupes, dont Reworld et Prisma, se sont mis à doper, voire remplacer leurs journalistes et rédacteurs par des IA. Quand je dis remplacer, il n’y a pas très longtemps, on a eu le cas de Prisma qui a annoncé qu’il allait licencier 40 % de ses salariés, ce n’est pas 40 % des journalistes, sachant que c’était la troisième salve de licenciements depuis que Prisma a été racheté par Bolloré et que c’est un véritable carnage au niveau de Prisma. Les enquêtes qu’on a faites avec Marianne, que j’ai vérifiées par ailleurs, ont montré que, dans certaines rédactions, 40 % des contenus étaient générés par IA et 50 % de la rédaction était composée de journalistes qui n’existent pas.
J’ai aussi vu le cas, il n’y a pas très longtemps, d’un journaliste qui a bossé pendant un an pour une boîte, sauf que, depuis sept ans, cette boîte-là continue à publier, sous son nom, des articles qui sont vraisemblablement générés par IA, en tout cas depuis 2024. Il y a donc plein d’usurpations d’identité. J’ai contacté trois ou quatre journalistes pour leur demander : « C’est encore vous qui écrivez ? – Eh bien non ! »

Mathilde Saliou : Est-ce légal de récupérer le nom de quelqu’un, comme cela, et de se faire passer pour lui ?

Jean-Marc Manach : Non, évidemment, ce n’est pas légal, sauf que tu ne vas pas porter plainte contre Reworld ! C’est compliqué. Je cite Reworld parce que c’est le plus connu et le plus gros, mais ce n’est pas le seul. Dans ma base de données, j’ai une dizaine de groupes de médias qui génèrent des millions de pages vues.

Mathilde Saliou : Toujours uniquement en français.

Jean-Marc Manach : Toujours uniquement en français et dont certains ont un numéro de CPPAP [Commission paritaire des publications et agences de presse], c’est-à-dire qu’ils ont des aides de l’État. Donc non, ce n’est pas légal, d’autant que c’est aussi du plagiat, parce qu’il faut bien que ces articles générés par IA soient entraînés sur des articles qui ont réellement été écrits par des journalistes, sauf que tous ces sites générés par IA ne payent pas de droits d’auteur.
La semaine dernière, à Marseille, il y avait le grand salon mondial de tous les patrons de presse. Il y a un texte passionnant : le patron du New York Times a fait un discours qui a beaucoup fait parler de lui où il expliquait que l’IA générative ce sont des datacenters – ils investissent des centaines de milliards –, ce sont des ingénieurs – ils investissent des dizaines de millions de dollars en salaires –, c’est de l’électricité – ils investissent des centaines de millions de dollars –, et c’est de la donnée d’entraînement – ils investissent au mieux 0,5 %. En l’espèce, le New York Times a négocié des accords pour être payé, mais Next n’est payé par personne, par aucune boîte, la majeure partie des médias ne sont pas payés, alors que nos papiers servent à entraîner toutes ces IA génératives. C’est donc est un véritable pillage de richesse, une destruction de richesse.
En France, depuis un an, des dizaines de journalistes sont effectivement en train de perdre leur travail, pas uniquement à cause de l’IA. Le groupe Infopro Digital [Groupe technologique et de médias français, conçoit de l’information, des données et des technologies à destination des professionnels, NdT] a annoncé que les 19 secrétaires de rédaction vont être licenciés pour être remplacés par des IA. Les secrétaires de rédaction sont censés relire ton papier pour vérifier qu’il est bien, qu’il n’y a pas d’erreurs, vérifier les faits, vérifier la syntaxe, la grammaire, l’orthographe, que le papier se tient.

Mathilde Saliou : Je me permets de faire une incise. Dire que des travailleurs, quelle que soit leur profession, sont remplacés par IA, chez Next, dans tous les articles qu’on a faits, c’est quelque chose qu’on a un peu eu tendance à critiquer. En soi la presse va mal depuis avant la sortie de ChatGPT, Claude et le reste !

Jean-Marc Manach : Bien sûr ! Ça va mal parce que Google et Facebook ont capté la quasi-totalité de la manne publicitaire qui, auparavant, était captée par les médias

Mathilde Saliou : C’est juste l’évolution, encore une fois.

Jean-Marc Manach : C’est une évolution techno-solutionniste où on se dit qu’on va poser la question à un algorithme et l’algorithme va répondre. Non ! Quand on regarde le fonctionnement de Discover et même celui de Google News, aujourd’hui ils ne cherchent plus à vérifier si l’information qui est renvoyée est de qualité. C’est juste « est-ce que les gens vont cliquer ? », donc est-ce que c’est putaclic ?
Quant à l’information, comme les IA génératives ne peuvent pas vérifier une information, il m’est arrivé d’interroger une IA générative et la quasi-totalité des sources qui sont mentionnées dans les réponses sont des sites générés par IA, parce qu’il y a plein de sites qui payent des vrais journalistes, qui refusent, tant qu’ils n’ont pas de contrepartie financière, d’être indexés par les IA génératives. Au contraire, tous les sites de SEO, tous les sites qui font du GIO veulent être mentionnés par ChatGPT et les LLM, ils ouvrent donc grand les vannes aux robots d’indexation des IA génératives. Donc, de plus en plus, les LLM, les grands modèles de langage qui servent de base de données aux chatbots des IA génératives, sont pollués par des contenus générés par IA.
On en revient à la raison pour laquelle j’ai commencé cette enquête. Cette enquête avait commencé parce que j’ai failli me faire avoir par un article qui, en fait, avait été générée par IA, je me suis dit « je vais essayer de les recenser pour essayer d’aider les autres ». C’est là que Sébastien Gavois, le rédacteur en chef de Next, a dit « à partir de ta base de données on peut développer une extension qui fait qu’on va afficher un message d’alerte quand les gens tombent sur un des sites que tu as identifiés comme étant généré par IA », d’autant plus que l’AI Act, le règlement européen sur l’intelligence artificielle, va rentrer en application, normalement c’était en août 2026, il est possible que ce soit reporté en décembre prochain. Son article 50 [2] va obliger tous les contenus générés par IA à être identifiables comme tels. Donc les générateurs d’IA type Google, OpenAI, Claude, vont devoir mettre un filigrane invisible, un tatouage indélébile, qui permettra à des robots d’identifier que c’est bien généré par IA – que ce soit un texte, une image, du son ou une vidéo – et les éditeurs, à savoir ceux qui vont utiliser des contenus générés par l’IA pour les mettre sur leur site web, vont eux aussi devoir le mentionner, au premier coup d’œil, tout de suite sauf – et c’est encore en négociation encore – s’il y a eu une supervision humaine.

Mathilde Saliou : Ce qui pose toute la question, de cette sous-catégorie, dont on a parlé tout à l’heure, des journalistes augmentés par IA.

Jean-Marc Manach : Quand j’ai découvert que Reworld faisait une utilisation massive de l’IA générative, j’ai appelé la responsable communication qui m’a dit : « Je vous jure, je vous certifie que nos contenus sont vérifiés avant publication. » J’ai dit « je vous crois pas ». Elle était choquée. « Si je dis que je ne vous crois pas, c’est que je sais. Je ne dis pas que vous mentez. En tout cas, les gens que vous payez ne vérifient pas les contenus avant publication. »

Mathilde Saliou : Tu ne la croyais pas, notamment parce qu’il y en avait trop.

Jean-Marc Manach : C’est là qu’elle m’a mis en contact avec Jérémy Parola, le responsable numérique de Reworld, j’ai eu une discussion passionnante avec lui pendant trois quarts d’heure, et pareil lui aussi m’a certifié « que ce soit à nos employés ou à nos sous-traitants – il y a beaucoup de sous-traitants Reworld –, on fait signer une charte selon laquelle ils doivent vérifier les contenus. » À quoi j’ai répondu : « Regardez, j’ai des dizaines de captures d’écran d’articles que vous avez publiés, où il y a uniquement un bras cassé, une main, une tête, des jambes sans corps, qui servent d’illustration à vos articles, c’est juste pas possible, où par ailleurs, dans le titre, il y a « témoignage exclusif de Barbara », sauf que Barbara n’apparaît pas dans l’article, donc c’est n’importe quoi ! » En plus, une bonne partie des employés de Reworld ne sont pas des journalistes. Reworld rachète-t-il des titres de presse qui ne vont pas bien, vire les journalistes et les remplace par des rédacteurs ?

Mathilde Saliou : Quelle est la différence entre un rédacteur et un journaliste en termes de production d’information ?

Jean-Marc Manach : Un rédacteur est là pour faire du remplissage, il est là pour remplir des cases, pour faire des articles, que l’article soit bien écrit, soit bien référencé, il n’est pas là pour dire que l’information est vraie.
Un journaliste, normalement, est là pour comprendre une information, la contextualiser, la vérifier et la vulgariser de telle sorte à pouvoir informer le lecteur.
Ce ne sont pas du tout les mêmes compétences, ce n’est pas du tout le même objectif. Le rédacteur est là pour satisfaire aux directives de son patron quand bien même son patron lui demanderait d’écrire n’importe quoi. Un journaliste est là pour dire à son patron « non, je vais pas écrire ça parce que c’est faux ! »

Mathilde Saliou : Je sais que tu as trouvé énormément de copies de médias de la presse régionale française. Qu’est-ce que ça crée comme problèmes notamment pour les citoyens, les lecteurs, pas que pour les médias quoi, pour ceux qui ont besoin de l’accès à l’information ?

Jean-Marc Manach : Le premier problème c’est qu’aujourd’hui, avec les IA génératives, on ne peut plus croire ce qu’on voit, on ne peut plus croire ce qu’on lit, on ne peut plus croire ce qu’on entend. Elles ont fait de tels progrès ces deux dernières années, notamment depuis un an, qu’il devient de plus en plus difficile, aujourd’hui, d’arriver à identifier si une photo est une vraie photo ou une photo générée par IA. Pareil pour un texte. C’est un premier problème.
Deuxième problème. Il y a de plus en plus de contenu généré par IA, même et y compris sur des sites d’information qui sont censés être des médias, même et y compris sur des sites qui ont un numéro de CPPAP qui, normalement, certifie qu’ils sont bien des professionnels des médias, donc ça pose des problèmes.
Par ailleurs, on a une défiance croissante envers la presse depuis des années.
Petite incise. Je précise que depuis le lancement de l’extension en février 2025, j’ai eu cinq demandes de retrait de la base de données. Sur les cinq demandes de retrait de la base de données, j’en ai accepté trois où effectivement la personne a réussi à me démontrer que j’avais cru à un faisceau d’indices de contenu généré par IA. En fait soit elle avait mis fin à ce qui était une expérimentation à un moment donné, soit c’était tout simplement parce qu’elle avait fait 70 corrections orthographiques dans la journée et que le système de gestion de son site web, au lieu de dire « mis à jour le… » avait dit « publié le… », ce qui fait que j’avais 70 articles publiés le même jour, ce qui n’est pas possible.

Mathilde Saliou : Sur combien de liens actuellement de ta base de données ?

Jean-Marc Manach : On est à 14 700 depuis le week-end dernier. Donc cinq demandes de retrait, dont trois que j’ai acceptées. Après, peut-être que plein ne sont pas au courant qu’ils sont dans la base de données, plein qui s’en foutent et puis d’autres qui redoutent l’effet Streisand : ils aimeraient bien ne plus figurer dans la base de données, mais ils ne veulent pas me le demander parce qu’ils ont peur, si jamais ils me le demandent, que je fasse un papier pour démontrer ce pourquoi je les ai mis dans la base de données.

Mathilde Saliou : Ce que tu serais tout à fait capable de faire, car ce serait une information.

Jean-Marc Manach : C’est ce que j’ai dû faire avec Ouest-France. Quand un utilisateur de l’extension a découvert que des sous-domaines, dans le domaine Ouest-France, étaient signalés par l’extension, je n’avais pas eu le temps d’écrire un article à ce sujet-là, qu’il a balancé sur Bluesky « scandale », il a fallu que j’explique pourquoi, parce que c’est Ouest-France, c’est le premier groupe de médias en France, ce n’est pas anodin. Je précise que ce ne sont pas des journalistes de Ouest-France, ce sont bien des sous-domaines qui ont été confiés à des boîtes de SEO pour faire des verticales thématiques, et plein de verticales thématiques continuent à payer des gens par ailleurs.

Mathilde Saliou : En fait, ce qui rend le sujet à la fois intéressant et vertigineux, c’est qu’il y a plein de briques entremêlées. Le journalisme, on l’a dit tout à l’heure, va mal. Pour se financer, ça fait longtemps qu’il repose sur plusieurs pieds.
Dans le modèle idéal, on est parfaitement indépendant, on ne repose que sur les abonnements, de fait, on a des difficultés. Tous les médias, en France et ailleurs dans le monde, ont des difficultés à ne vivre que de ce modèle, donc ça fait très longtemps qu’il s’appuie notamment sur la publicité.
Les revenus publicitaires ont chuté d’abord avec l’arrivée de Google puis des grands réseaux sociaux. Là on a une deuxième vague qui fait qu’avec l’IA générative, encore une fois des revenus sont tirés, c’est notamment ce qu’essayent de faire tous les produits SEO en allant choper l’argent de Google en mettant des sites plus sexy, plus clickbaits, plus piégeux pour les internautes, donc récupérer l’argent de la publicité qui sera exposée de cette manière-là.
Du coup, quand tu disais que parmi les problèmes que ça créée, il y a la difficulté de reconnaître le vrai du faux, il y a tous les enjeux de confiance de toute façon déjà malmenée dans le phénomène de l’information, l’IA générative rajoute encore plus de bazar !

Jean-Marc Manach : Je n’ai pas exactement en tête la phrase de Hannah Arendt, on pourra la retrouver, qui dit que le totalitarisme va poindre là où les gens ne seront plus capables de savoir ce qui est vrai de ce qui est faux, parce que là on peut balancer n’importe quoi. C’est exactement ce qu’on est en train de vivre en ce moment. L’actualité est tellement anxiogène depuis le Covid, la guerre en Ukraine, ce qui se passe à Gaza, que de moins en moins de gens s’informent, en tout cas de plus en plus de gens ne s’informent plus. Tu rajoutes à cela une couche supplémentaire d’IA générative qui va halluciner énormément d’informations approximatives, voire d’informations fausses, c’est un truc de malade !
Une caisse de retraite m’a demandé de venir les former parce que 85 % des informations qui étaient recommandées par Discover l’été dernier, concernant les régimes de retraite, étaient des informations fausses. Or, d’après Médiamétrie, 75 % des gens qui sont confrontés aux sites d’information générés par IA ont plus de 50 ans. Ça veut dire que 75 % des gens de plus de 50 ans vont être confrontés à des informations majoritairement fausses sur la Caisse de retraite. On est à un an de la Présidentielle, what could possibly go wrong !. Qu’est-ce qui peut mal se passer à partir du moment où, alors qu’il y a de plus en plus de défiance envers les médias, des médias balancent de plus en plus d’informations erronées. Bien évidemment que j’ai envie de me battre contre ça, parce que ce n’est pas juste. Ce n’est pas rendre service à la fois aux personnes de plus de 50 ans, ni même à la démocratie dans son ensemble ! Je renvoie à Arendt. On est dans une phase de proto-totalitarisme au sens où les gens ne croient plus en rien et le fait est, il suffit de regarder ce qui se passe avec les montées de Trump, de Milei, Orban vient d’être battu, on ne sait pas ce qu’il va se passer avec Bardella l’année prochaine. Il y a une montée de dirigeants populistes qui ont la haine des médias parce que notre job c’est de vérifier si ce qu’ils disent est vrai ou pas. On a eu le cas encore hier : Trump a fini par insulter une journaliste de CNBC [Consumer News and Business Channel] parce qu’elle ne prêtait pas voix au fait que les élections ont été truquées. C’est faux ! Les élections n’ont pas été truquées, mais pour lui si. Il veut croire que les élections ont été truquées donc, au moment où la journaliste en face lui dit que c’est faux, il l’insulte, il écrase le micro et il se casse.

Mathilde Saliou : Est-ce que tu vois quand même des pistes d’espoir quelque part ? On a un peu parlé du fait que l’AI Act allait imposer de nouvelles obligations. Y a-t-il, par exemple, des pistes de réglementation qui te semblent intéressantes à des niveaux nationaux, internationaux ?

Jean-Marc Manach : On attend l’article 50 de l’AI Act [2] : est-ce que, oui ou non, ils vont revenir sur cette histoire de contenu vérifié par un être humain – j’ai démontré par A plus B que c’est faux. En tout cas, l’article 50 est un signe d’espoir au sens où, de toute façon, les contenus auront normalement un tatouage indélébile qui permettra de vérifier, quand bien même l’éditeur ne mentionnerait pas que le contenu a été généré par IA. Normalement, mon travail d’arriver à vérifier si le contenu a été généré par IA sera facilité et, après, de pouvoir éventuellement saisir les autorités parce que, en cas de violation de l’AI Act, des amendes pourront être délivrées par les autorités.

Mathilde Saliou : Du coup, penses-tu qu’il sera facile à mettre en œuvre ?

Jean-Marc Manach : Non. Pourquoi ? Parce que ce sera soit la DGCCRF [Direction générale de la Concurrence, de la Consommation et de la Répression des fraudes], donc la répression des fraudes, soit la CNIL qui vont être chargées du boulot, ce n’est pas comme si la DGCCRF et la CNIL n’étaient pas débordées ! Elles sont déjà débordées. D’un côté c’est positif parce que le cadre légal va exister et, normalement, les contenus générés par IA, qui ne sont pas transparents, pourront être sanctionnés. Dans les faits, j’attends avec impatience la mise en application de cela.
Je voulais aussi faire une petite incise. J’ai fait une erreur monumentale, enfin, pas seulement moi. Au début, j’ai voulu être prudent. On avait utilisé l’expression « contenu en tout ou partie généré par IA ». Pourquoi ? Parce que ça visait notamment une rédaction, Économie Matin, où il y a réellement des journalistes qui sont salariés, c’est juste que le directeur de publication paye un abonnement à ChatGPT à tous ses journalistes et une bonne partie des contenus de ce groupe de presse, d’une dizaine de sites, sont en tout ou partie générés par IA au sens où il y a quand même des êtres humains. Mais impossible de savoir, sauf à être derrière eux, dans quelle mesure ils ont vérifié. J’ai documenté un certain nombre de cas où j’avais vu que ce n’était pas vérifié, que c’était du plagiat, qu’il y avait des informations hallucinées qui n’existent pas, donc j’étais resté prudent en mettant « en tout ou partie généré par IA ». Sauf que, bien évidemment, la quasi-totalité des 15 000 sites dans la base de données ce n’est pas « en tout ou partie généré par IA », c’est majoritairement généré par IA, voire full IA. J’ai tellement de boulot avec cette enquête que je ne l’ai compris que la semaine dernière.

Mathilde Saliou : Donc tu te dis que tu as fait une erreur de marketing dans ton enquête ?

Jean-Marc Manach : Le fait d’avoir été prudent en mettant « tout ou partie » et de ne pas avoir, depuis, pris la mesure que de plus en plus de gens, voire quasiment tout le monde, utilise l’IA, « tout ou partie » ne veut rien dire. En fait, pour moi, c’est vraiment majoritairement généré par IA.

Mathilde Saliou : Quand tu dis que tu as fait une erreur c’est parce que tu regrettes, du coup, que l’enquête n’aie pas plus d’écho ?

Jean-Marc Manach : Quand je parle d’erreur, c’est que c’est la seule explication que j’ai réussie à avoir aujourd’hui quant au fait que, depuis qu’on a lancé l’extension, il y a un an et demi, je n’ai été invité à aucun des colloques, aucune des rencontres officielles consacrées à l’impact de l’IA sur le journalisme. Ce n’est pas comme s’il n’y en avait pas eu, il y en a eu plein depuis un an. Aucune ne m’a invité, aucune émission de radio, de télévision, qui a parlé de cela ne m’a invité,aucune des chaînes, aucun des sites de fact-checking n’a fait d’article sur mon extension. Soit je suis complètement dans un monde parallèle et je n’ai absolument rien compris au problème, soit je l’ai mal expliqué et je pense que je l’ai mal expliqué. Avec cette expression, « tout ou partie », je pense que plein de gens ont considéré que je devais être un taliban de l’IA, que j’étais contre l’IA. À partir du moment où je repérais que quelqu’un avait reformulé un titre ou mis une liste à puces pour faire un chapô avec l’IA, donc avait un petit peu utilisé l’IA, je le rajoutais dans ma base de données, ce qui expliquerait que j’en arrive à 15 000 parce que je mets tout le monde et n’importe qui à l’intérieur, alors que non ! Je mets uniquement les sites web qui vont poser problème ou qui ont posé problème parce qu’il n’y a pas de supervision, il n’y a pas de vérification, il n’y a pas de relecture, c’est du full IA, c’est du plagiat, c’est plein d’hallucinations. Ce sont ces sites-là que je mets parce qu’à la base, avec l’extension, je voulais effectivement aider le lecteur à ne pas se faire avoir comme je m’étais fait avoir initialement.
Pour répondre à ta question, est-ce qu’il y a des choses positives ? Je pense, et c’est un peu ce que dit d’ailleurs le patron du New York Times dans son intervention à Marseille, c’est que nous sommes tellement envahis, c’est une telle déferlante de contenus générés par IA, que les 20 % de personnes qui sont prêtes à payer, aujourd’hui, pour s’informer, et qui ont un vrai besoin d’information, vont se tourner de plus en plus vers des gens comme nous, vers des gens qui, s’ils ont un recours à l’IA, c’est un recours qui est validé, vérifié, contextualisé et explicité, où c’est transparent. En tout cas, de plus en plus, les gens vont se détourner de tous ceux qui, par facilité, ont un recours à l’IA générative pour faire du remplissage et non pas du journalisme. C’est donc un boulevard pour les sites d’information indépendants, pour les sites d’information de qualité, pour les sites d’information qui reposent sur du vrai travail journalistique.

Mathilde Saliou : En un sens, la dévaluation de l’information, le fait que tout soit flou, naze, pourri, permettrait de refaire comprendre l’importance d’avoir des médias d’information « traditionnels ».

Jean-Marc Manach : Des médias professionnels, dont c’est le boulot. Quand je fais des formations, j’explique que nous sommes les médecins de l’info, on est là pour identifier ce qui est un problème dans cette information-là et, s’il y a un problème, exposer le problème et, s’il n’y a pas de problème, on n’en parle pas, circulez il n’y a rien à voir. Ce sont les communicants qui parlent des choses qui vont bien, les journalistes parlent les choses qui vont mal parce qu’ils ont identifié un problème. Les médecins sont là pour soigner les malades. S’il n’y a pas de maladie, rentre chez toi et puis c’est bon ! Nous sommes les médecins de l’info, nous sommes là pour soigner le monde, en tout cas soigner la représentation du monde, de telle sorte à expliquer : là il y a un problème, là il n’y en a pas.
Les gens qui ont un vrai besoin ou une vraie envie de s’informer avec de l’information de qualité vont se tourner de plus en plus vers des gens comme nous, à priori ! Par contre, les gens qui s’en foutent, qui veulent du putaclic, qui sont crédules, qui ne font pas l’effort d’essayer de s’informer auprès de sources fiables, vont être complètement contaminés par cette à AI slop, comme on dit, « bouillie d’IA », avec des contenus de plus en plus digestes parce que, aujourd’hui, les contenus générés par IA générative sont effectivement de plus en plus crédibles, pas fiables. Ça parait clean, c’est comme les photos, ça a le goût, l’odeur, mais ça n’existe pas.

Mathilde Saliou : C’est synthétique. D’ailleurs, on utilise le terme « synthétique » pour dire « généré par IA ».
Tu disais que 20 % des gens sont prêts à payer pour l’information parce que, effectivement, la fabriquer ça veut dire la vérifier, l’analyser, expliquer les phénomènes complexes, etc., ça demande du temps, donc ça demande de l’argent – oui, je suis en train de défendre mon job ! En tout cas, si on veut défendre l’intérêt général, si on veut défendre le bon fonctionnement de la démocratie, etc., tous les autres, normalement, ont aussi besoin d’accéder à l’information, c’est un peu ce que tu as évoqué en citant Hannah Arendt. Peut-être y a-t-il des travaux particuliers à faire pour les sensibiliser ?

Jean-Marc Manach : J’en reviens à l’erreur dont je parlais tout à l’heure. Aujourd’hui, un peu plus de 30 000 personnes ont la carte de presse en France. Je pensais naïvement, en lançant l’extension, non pas que les 30 000 journalistes utiliseraient l’extension, en tout cas que des milliers de journalistes utiliseraient l’extension parce que je leur facilite la tâche : éviter qu’un journaliste ne reprenne une information hallucinée par une IA et la republie dans son média. En fait, non. J’ai l’impression que la profession journalistique, et pas que la profession journalistique, mais la profession journalistique, comme les autres, est un peu comme un renard, la nuit, avec les phares d’une voiture qui arrive. Cette déferlante d’IA génératives va tellement vite qu’avant d’arriver à comprendre ce dont il retourne, quel est le problème, comment on fait par rapport à ça, en fait c’est compliqué, les journées ne comptent que huit heures de boulot et, en face, c’est un rouleau compresseur.
Cette question de confiance va devenir un actif économique et politique majeur. Dans quelle mesure puis-je avoir confiance en mon interlocuteur ? En quelle mesure puis-je avoir confiance en ce média ?
Si on prend l’exemple de l’hôpital, si on prend l’exemple d’un magasin, aujourd’hui on a des lois qui font qu’on ne vend pas n’importe quel médicament, n’importe qui ne peut pas être médecin. Quand on va sur un marché ou dans un magasin, n’importe quel produit ne peut pas être vendu, alors que là, en matière d’information, n’importe qui peut faire n’importe quoi ! Il n’y a rien ! Effectivement, on ne peut pas faire une loi qui dit que le gouvernement va vérifier l’information, ce n’est pas possible.

Mathilde Saliou : Ça deviendrait aussi une forme de propagande.

Jean-Marc Manach : Oui. Et dès qu’on parle de labelliser l’information, tout de suite on voit des complotistes ou l’extrême-droite qui dit « Macron va certifier si l’information est fiable ou pas ! ». Je ne sais pas comment, légalement parlant, ça va évoluer, magnus AI Act, en attendant cette histoire de confiance va devenir cruciale, ce n’est pas que ça va devenir, c’est crucial aujourd’hui. C’est un tsunami auquel je suis confronté, au sens où je le vis en pleine figure parce que je vois le nombre de sites !

Mathilde Saliou : Nous le sommes tous.

Jean-Marc Manach : J’ai fait appel à des étudiants parce que j’avais identifié 67 sites. J’avais besoin d’aide avec 67 sites ! C’est ouf ! Jamais je n’aurais imaginé qu’on en serait là aujourd’hui et, de plus en plus, c’est pareil dans plein d’autres pays, même si la France est en pointe en la matière.

Mathilde Saliou : Quel est le dernier bug auquel tu as été confronté ?

Jean-Marc Manach : Pour le coup, le GPS tout à l’heure. Je ne connais pas le quartier, donc j’ai demandé comment faire pour venir ici, dans cet appartement, il m’a fait prendre un trajet ! Et pourtant j’étais en mode piéton. Je ne comprends pas parce que ça ne m’est jamais arrivé avec Google Maps. Je ne comprends pas et c’est arrivé aujourd’hui.

Mathilde Saliou : Google Maps t’a perdu. Comment as-tu contourné ton bug ?

Jean-Marc Manach : À un moment, je ne comprenais pas, ce n’était pas cohérent parce que ça faisait plus de cinq minutes que j’étais à dix minutes de chez toi. Normalement, je suis à cinq minutes ! J’ai arrêté, j’ai recommencé. Je me suis aperçu que deux minutes avant il m’avait demandé de tourner à droite et, maintenant, il me demandait de tourner à gauche. Je me suis dit « là il y a une hallucination », ce n’est pas logique, soit c’est à droite soit c’est à gauche ! En fait, il a changé de version. J’ai relancé l’adresse et là il m’a indiqué le chemin, mais, quand j’ai relancé l’adresse, le chemin qu’il m’a indiqué n’était pas du tout le chemin qu’il m’avait indiqué quand j’étais sorti du métro. Il a fallu que ça arrive aujourd’hui pour venir chez toi ! C’est bizarre !

Mathilde Saliou : OK. Il faut donc qu’on aille vérifier si Google Maps continue de bien fonctionner !

Jean-Marc Manach : C’est une hallucination. La bonne nouvelle également c’est que les hallucinations sont quand même la partie émergée de l’iceberg. La majeure partie du temps les IA ne vont pas raconter n’importe quoi, elles vont raconter des choses qui sont crédibles, plausibles, et la majeure partie du temps ça tient, parce que ça ne tient pas sur des petits détails, ça ne relève pas de l’information au sens du fact-checking. La majeure partie des sites qui font de l’information générée par l’IA c’est de l’information ever green, c’est à quelle saison il faut planter les tomates, ce genre de chose.
Par contre, quand tu es asthmatique ou quand tu es allergique, qu’un article te dit qu’il est interdit d’ouvrir les fenêtres entre… et c’est juste un des cas d’hallucinations que j’ai pu documenter. J’en ai vu pas mal.
Exemple assez rigolo : l’année dernière, juste après la publication de mon enquête, un papier, qui a été repris par plein de médias, disait que toutes les personnes de plus de 65 ans allaient devoir repasser leur permis tous les ans. Je me suis permis de rentrer dans le lard des professionnels du SEO en disant « regardez tous ces journalistes qui racontent n’importe quoi ! ». J’ai remonté la chaîne et, à la base, c’était une interview, dans la presse allemande, au sujet d’une proposition dans un Land, en Allemagne, qui n’était pas encore validée par le Land. C’est mentionné par un journaliste, en France, comme étant une proposition dans un Land en Allemagne. Sauf que, ensuite, c’est repris par des sites d’information générés par IA qui disent qu’en France, à partir de l’année prochaine, le gouvernement a décidé que tous les plus de 65 ans vont devoir repasser le permis ! Mais c’est une IA qui a halluciné l’information qui ensuite, effectivement, a été reprise par des vrais journalistes, « vrais » entre guillemets, au sens de vrais humains, mais qui n’ont pas vérifié l’information, qui ont donc repris l’information hallucinée par une IA. Pour moi, c’était la démonstration de la raison pour laquelle j’ai fait cette extension, j’ai fait cette enquête et ce pourquoi on ne peut pas faire confiance à l’IA générative pour s’informer. Une IA générative ce sont des calculs de probabilité, ce n’est pas de la vérification.
Le nombre d’histoires que je pourrais encore raconter est hallucinant, combien j’ai pu voir d’hallucinations ou de problèmes à partir de tous les sites que j’ai identifiés. C’est juste que les journées ne font que 24 heures et que je n’ai pas assez de temps. J’en suis à une cinquantaine d’articles.

Mathilde Saliou : Tu en as d’autres en stock.

Jean-Marc Manach : J’ai au moins cinq/six enquêtes en stock et des trucs assez crunchy.

Mathilde Saliou : Et on a hâte de les lire ! En tout cas moi, qui prends régulièrement la casquette de secrétaire de rédaction pour faire certaines relectures des travaux de Jean-Marc, j’ai hâte d’en savoir plus. Et vous, qu’avez-vous tiré de ces explications ? Qu’est-ce que le travail de Jean-Marc vous a permis de mieux comprendre sur les effets de l’IA générative sur l’information ? Et aussi, quelles sont les questions qu’il vous reste ? Dites-nous tout en commentaire. En tant que journalistes, nous nous faisons un avis tiré de notre expérience quotidienne de ce que l’IA fait à l’information, mais pour voir comment cela impacte le public, c’est-à-dire vous, nous avons aussi vraiment besoin de vos retours.
Je glisse le récapitulatif des enquêtes de Jean-Marc Manach [3], sur le tsunami de pseudo-sites d’information généré par IA en commentaires de la page dédiée à cet épisode.
Comme d’habitude, si cette discussion vous a intéressé, faites-le savoir à vos proches, qu’ils et elles soient technophiles ou techno-critiques. Au passage, vous leur rappellerez qu’entre la chaise et le clavier, comme devant la tablette ou l’écran du smartphone, il y a plein de gens prêts à faire évoluer nos mondes connectés.
N’oubliez pas non plus de vous abonner à Next. Votre soutien financier est essentiel pour que nous puissions continuer de réaliser nos enquêtes au quotidien.
Entre la chaise et le clavier est un podcast écrit et tourné par moi, Mathilde Saliou. Il a été réalisé par Clarice Horn et est produit par Next.
À très vite.