Voix off : Sud Radio – Le numérique pour tous  – Vanessa Perez.

Vanessa Perez : Bonjour et bienvenue dans Le numérique pour tous , l’émission dédiée au numérique, à l’innovation et à la tech responsable.
Et si l’intelligence artificielle était en train de révolutionner les services publics de votre commune ? Entre optimisation des démarches administratives, tri des déchets, économies d’énergie ou assistants virtuels, peut-être avez-vous observé plus de fluidité et d’efficacité dans certains de vos services publics ? Eh bien aujourd’hui, preuves à l’appui avec nos invités, nous tenterons de comprendre comment l’IA peut aider les collectivités à mieux se développer, quel est son impact écologique et nous décrypterons également un phénomène naissant, l’hallucination de certaines intelligences artificielles. Mais je ne vous en dis pas plus.

Le numérique pour tous spécial IA et territoires c’est tout de suite et c’est sur Sud Radio.

Voix off : Sud Radio – Le numérique pour tous  – Vanessa Perez.

Vanessa Perez : Pour commencer cette émission, j’ai le plaisir d’accueillir un expert qui travaille dans le domaine de l’intelligence artificielle depuis plus de 20 ans, j’ai nommé Mick Levy. Bonjour Mick.

Mick Levy : Bonjour.

Vanessa Perez : Vous êtes directeur stratégie et innovation chez Orange Business [2] et vous animez de nombreuses conférences sur le thème de l’IA et de la data. Mick, on entend partout parler de cette intelligence artificielle. Dites-nous pourquoi ça bouscule autant les mœurs ?

Mick Levy : Ce n’est pas faux, tout le monde en parle, même moi j’ai eu des discussions sur l’IA avec ma grand-mère, autour d’un poulet frites un dimanche, c’est dire à quel point tout le monde en parle, depuis une journée qui est très datée, le 30 novembre 2022 et la sortie publique de ChatGPT. ChatGPT n’est pas la seule IA, on va en parler, mais est un peu le porte-étendard de cette intelligence artificielle générative. On en parle beaucoup parce que, en fait, c’est allé très vite, ça fait partie du marketing des grandes plateformes de l’intelligence artificielle, on appelle ça la stratégie du choc : mettre en place une innovation, la livrer pour le grand public, qu’elle se diffuse extrêmement rapidement, ce qui donne à tout le monde quasiment un sentiment d’insécurité, ça fait partie de la stratégie autour de ces IA qui sont très importantes. Ce marketing a marché puisque c’est quasiment un million d’utilisateurs de ChatGPT en cinq jours, 100 millions d’utilisateurs à travers le monde en seulement deux mois, tous les records de diffusion ont explosé et les dernières annonces c’est 400 millions d’utilisateurs actifs, mais ça a certainement encore beaucoup augmenté ces dernières semaines avec de nouvelles applications, de nouveaux usages qui se sont développés avec ces IA.

Vanessa Perez : Justement, on va parler des usages. On sait qu’on utilise beaucoup l’intelligence artificielle pour lui poser des questions très personnelles, mais on n’est pas là pour parler de ça aujourd’hui, on va parler de l’IA et des collectivités. Donnez-nous très concrètement des usages qui sont dans notre quotidien depuis très longtemps, peut-être qu’on ne voit même plus et on ne sait pas s’ils sont attribués à l’IA ?

Mick Levy : L’IA est effectivement omniprésente, en réalité depuis une bonne vingtaine d’années dans nos vies quotidiennes. Ce qui a changé avec l’IA générative c’est qu’elle nous parle, c’est qu’elle est tonitruante, c’est qu’elle est très présente. Mais l’intelligence artificielle prédictive, elle, était là depuis très longtemps. Il faut donner des exemples concrets pour comprendre.

Vanessa Perez : Des exemples très concrets et très visuels. Allez-y.

Mick Levy : Par exemple, chez Orange Business on a accompagné une grande métropole pour mettre en place une application afin de choisir les meilleurs points pour positionner des points d’apport volontaires de déchets sur la métropole. La métropole dispose donc maintenant d’un outil qui compile plein de données de la métropole, mais aussi parfois des données externes, pour bien contextualiser et comprendre comment gérer les déchets à l’échelle de la métropole, optimiser cette gestion des déchets en mettant les points d’apport volontaires les plus efficaces, au plus près des personnes qui vont réellement en avoir besoin.

Vanessa Perez : D’accord, c’est l’exemple numéro 1.

Mick Levy : Et on n’est pas dans l’IA générative, on est là dans une IA qui vient modéliser des phénomènes complexes à l’échelle de la collectivité et puis prédire quels sont les meilleurs endroits. Premier usage.
Deuxième usage. On met en place, pour les agents des collectivités, un outil de chez Orange Business, qui s’appelle LiveAgent Buisiness, qui leur permet d’avoir un compagnon au quotidien. Ils peuvent ainsi accéder à différents algorithmes d’intelligence artificielle générative pour les utiliser dans leurs opérations au quotidien : rédiger plus rapidement des comptes-rendus, améliorer ou bien compiler les délibérations qu’il y aurait eu dans la collectivité, parvenir à mieux gérer des plannings, tous les usages qu’on peut avoir au quotidien.
Autre exemple. Beaucoup de collectivités, dans leur fonction support, déploient aujourd’hui des assistants qui sont dédiés à certains métiers de la collectivité. On en voit notamment dans le domaine des RH ou dans le domaine de la direction des systèmes d’information où des agents de la collectivité viennent poser beaucoup de questions, au hasard : « Je reviens de vacances, j’ai perdu mon mot de passe, je n’ai plus accès aux applications, comment je fais ? ». Plutôt que ce soit un agent de la direction des systèmes d’information qui passe du temps avec la personne, ça pourrait être une IA qui va donner la réponse en se basant directement sur les documents de la collectivité. Là c’est vraiment pour aider les agents eux-mêmes.
Et puis dernier exemple : avec l’IA générative, un chatbot va être mis en place pour les citoyens.

Vanessa Perez : Vous allez nous dire en quoi consiste un chatbot. On peut aller sur le site de la SNCF, par exemple.

Mick Levy : On va aller sur le site de la métropole en l’occurrence. On pourra poser des questions : « Je dois renouveler ma carte d’identité, comment je m’y prends ? Je veux me marier, quelles sont les démarches à effectuer ? Je veux aller d’un point A à un point B quel est le meilleur chemin ? ». On pourra le faire non seulement en tapant sur le site habituel de la collectivité mais aussi par téléphone où c’est un robot, avec une voix synthétisée humaine, qui va pouvoir répondre à toutes les questions des citoyens.

Vanessa Perez : On y voit plus clair. Donc, en fait, cette IA est à peu près partout.
Éclairez-moi, Mick, parce qu’on connaît Orange en tant qu’opérateur télécoms, mais on vous sent très impliqué dans ce domaine de la transition de l’intelligence artificielle. C’est un nouveau métier ?

Mick Levy : Ce n’est pas nouveau métier. Orange Business accompagne de longue date les organisations, publiques ou privées, dans leur transformation digitale et en particulier sur le déploiement de l’IA. Nous sommes 4000 collaborateurs en France, 7000 en Europe, à accompagner les organisations sur leur transformation digitale, notamment aujourd’hui sur l’IA. Nous sommes extrêmement actifs parce que c’est un domaine qu’on connaît très bien.

Vanessa Perez : Justement il y a une phrase et je sais, suite à la préparation, que cette phrase vous fait bondir, donc je vais vous faire bondir. Vous n’aimez surtout pas entendre « ce n’est pas l’intelligence artificielle qui va vous remplacer, c’est quelqu’un qui sait s’en servir. » Pourquoi cette phrase vous fait-elle bondir ?

Mick Levy : C’est une phrase de m…, si je peux me permettre, ce n’est pas possible d’entendre des phrases comme ça.

Vanessa Perez : On parle bien ici !

Mick Levy : Ni une IA ni personne ne va vous remplacer. Cette phrase est horrible parce qu’elle va opposer les générations, elle va opposer les utilisateurs dans les organisations et ce n’est absolument pas ce qu’il faut chercher à faire. Il faut absolument que toutes les organisations comprennent que c’est un nouvel outil, qui n’est pas neutre, qui va amener beaucoup de chamboulements dans l’organisation du travail et qu’il faut surtout et avant tout trouver une voie harmonieuse pour l’intégrer. Si on commence par opposer des personnes qui veulent l’utiliser d’une manière ou d’une autre à certains qui ne voudront pas l’utiliser parce qu’ils sont très seniors et qu’ils n’ont pas besoin d’une IA pour rédiger un mail, pour prendre un exemple trivial, laissons-les rédiger leurs mails sans IA, ça va marcher aussi.

Vanessa Perez : Vous avez raison d’être inclusif, c’est assez important.
Mick, autre chose. Aujourd’hui on est arrivé à un stade, pour les gens qui utilisent justement beaucoup cette intelligence artificielle, où certains commencent à observer des hallucinations. Expliquez-nous concrètement ce qu’est une hallucination et comment s’en méfier.

Mick Levy : Une hallucination, c’est un phénomène bien connu dans les intelligences artificielles génératives, donc ChatGPT et toutes ces intelligences artificielles qui nous parlent, finalement, qui décrit toutes les petites ou grandes erreurs qui vont se glisser dans les réponses que nous donnent les IA génératives.

Vanessa Perez : Concrètement ?

Mick Levy : Concrètement, ça peut inventer des faits, concrètement ça peut donner une date erronée, concrètement ça peut inventer des personnages, concrètement ça eut se tromper dans la réponse.

Vanessa Perez : Mettre six doigts à une figurine.

Mick Levy : Ça peut être six doigts. Des IA génératives de vidéos qui vont vous montrer un skieur qui descend la pente et qui, ensuite la remonte aussi vite qu’il l’a descendue, comme si la gravité n’existait plus. Tout cela c’est ce qu’on appelle les hallucinations dans ces IA génératives. Elles sont fortes selon les benchmarks, elles ne s’améliorent pas vraiment malgré ce qu’on veut nous faire croire, elles ne s’améliorent pas vraiment au fil des versions des IA génératives. Il faut donc avoir un point de méfiance extrême face à ça, parce que, du coup, si on fait trop confiance à l’IA générative, elle pourrait nous amener à prendre de mauvaises décisions, elle pourrait nous induire vraiment en erreur de par les erreurs que, elle-même, transmet dans ses réponses.

Vanessa Perez : Vous dites également que ces intelligences sont en train de plafonner. On pourrait penser qu’à force d’être entraînées elles augmentent leurs capacités, mais, en fait, on est en train d’atteindre un seuil sur certaines questions ?

Mick Levy : Oui. C’est ce que montrent les benchmarks. On gagne toujours en « intelligence », je mets vraiment entre guillemets le mot intelligence pour une IA, ça avance un petit peu, mais on n’a plus des grands progrès comme on en a eu au début de l’IA générative. Les progrès sont en train de se porter sur d’autres choses, ce qu’on appelle de nouvelles modalités, les IA deviennent encore meilleures maintenant sur la vidéo, il y a notamment eu des annonces de Google, la semaine dernière, qui montrent des progrès époustouflants sur la génération de vidéos avec de la voix et tout est superbement synchronisé.
On va avoir peu à peu des IA qui sauront détecter notre vidéo, donc on pourra appeler, c’est l’exemple que je donne souvent : appeler une IA par WhatsApp, comme j’appelle ma mère sur WhatsApp, le week-end, pour lui montrer les enfants, échanger avec elle et elle va voir tout notre environnement vidéo en plus de ce qu’on lui dit. On pourra lui dire « j’ai perdu mon crayon, tu ne l’aurais pas vu ? » et l’IA pourra nous répondre « oui, tu l’as posé il y a 43 secondes sur ton bureau entre le pot de fleurs et l’ordinateur », parce qu’elle l’aura vu sur l’environnement. Je vous donne un exemple bête, mais ça va être hyper utile quand on fera des opérations de maintenance sur le terrain, le technicien pourra être aidé, assisté directement par une IA qui percevra aussi, par vidéo, tout l’environnement qui sera présent.

Vanessa Perez : Il faut comprendre que cette intelligence artificielle fonctionne sur tous nos appareils, on les donc fait tourner de plus en plus. J’ai quand même envie de vous demander si on n’est pas en train d’assister à une bombe écologique à retardement avec tous ces serveurs qui vont être hyper agités.

Mick Levy : Même pas à retardement. On est en train de vivre la bombe écologique et ça doit être un point d’attention vraiment extrêmement fort sur l’IA. À chaque fois qu’on fait appel à une IA, on lance effectivement des calculs qui se situent dans des centres de données qui peuvent être sur le territoire ou qui peuvent être ailleurs, c’est une autre question, et ces centres de données consomment effectivement énormément d’énergie, parfois consomment aussi de l’eau et ils ont beaucoup de cartes graphiques, de serveurs, etc., qui eux-mêmes ont consommé beaucoup de minerais, qui ont été extraits de la terre, pour fonctionner. Tout cela amène une empreinte écologique vraiment pas neutre. Les grands acteurs du secteur que sont Google ou Microsoft ont annoncé eux-mêmes avoir augmenté leur empreinte carbone de l’ordre de 40 % en trois à quatre ans, c’est donc vraiment notable. Il y a un vrai point d’attention à avoir sur un usage raisonné de l’IA, sur un déploiement raisonné de l’IA dans les collectivités et dans les entreprises et puis, peu à peu, aller sur des concepts qu’on appelle l’IA frugale [1] pour permettre de faire des IA qui vont consommer moins d’énergie dans des usages qui sont raisonnés et raisonnables.

Vanessa Perez : Mais vous savez, comme moi, que c’est de la bien-pensance et tant qu’on a besoin d’utiliser ou de poser une question, on ne va pas se poser la question des serveurs qu’on fait tourner derrière.

Mick Levy : Au quotidien oui, c’est pour cela, à mon avis, qu’il ne faut pas tant taper finalement sur les utilisateurs, mais sur ceux qui conçoivent ces grandes IA au niveau mondial, donc OpenAI, Microsoft, Google. Il faut effectivement travailler à des réglementations qui sont en train d’arriver sur le sujet. Il faut exiger de leur part qu’ils aient beaucoup plus de transparence sur ces sujets et qu’ensuite on puisse trouver des voies communes aussi dans la diffusion, notamment dans les entreprises pour, plutôt que d’utiliser constamment ces grandes IA qui consomment énormément d’énergie, parvenir à faire des IA plus petites, qui vont avoir moins d’hallucinations par ailleurs et qui vont consommer moins d’énergie parce qu’elles seront dédiées à un usage uniquement et pas au fait de répondre à toutes les questions qu’on peut tous avoir.

Vanessa Perez : Mick, pour conclure en 30 secondes, vous qui êtes au cœur du système et qui voyez toutes ces données qui circulent, dans quelle société va-t-on être dans quelques mois ou dans quelques années ?

Mick Levy : C’est une vaste question. Je pense qu’on est en train de vivre une époque passionnante, qui amène ses risques, qui amènent ses craintes, mais je suis sûr qu’il va en sortir quelque chose de vraiment puissant et intéressant aussi pour l’humanité. Il y a une allégorie que j’aime bien faire, celle de Platon, c’était il y a 2500 ans. Platon a vécu la naissance et la généralisation de l’écriture dont il se méfiait beaucoup, il disait que si on écrivait, on n’aurait plus à exercer sa mémoire, donc qu’on allait perdre en mémoire et, si on perdait en mémoire, on y perdrait en humanité. Aujourd’hui, 2500 ans après, je crois que personne ne blâme l’invention de l’écriture, je regarde sur le plateau.

Vanessa Perez : En même temps nous sommes cinq !

Mick Levy : Je pense que c’est un peu la même chose avec l’IA. On est en train de vivre la révolution, donc ça nous pose énormément de questions, ça nous bouscule beaucoup, mais quand on aura du recul dessus, je suis persuadé qu’on va trouver un chemin pour l’intégrer de façon harmonieuse et qu’elle crée de la valeur pour la société, les entreprises et les collectivités.

Vanessa Perez : Merci Mick Levy. Je rappelle que vous êtes directeur stratégie et innovation chez Orange Business [2].
Restez avec nous dans quelques instants nous aurons le plaisir d’accueillir l’adjoint au maire de Montpellier qui nous dira comment il offre des services de qualité à ses administrés grâce à l’intelligence artificielle.
Le numérique pour tous , spécial IA et collectivités continue dans quelques instants et c’est sur Sud Radio.

Voix off : Sud Radio – Le numérique pour tous  – Vanessa Perez.

Vanessa Perez : Pour continuer cette émission, j’ai le plaisir d’accueillir Manu Reynaud. Bonjour Manu.

Manu Reynaud : Bonjour.

Vanessa Perez : Vous êtes adjoint au maire de Montpellier et à Montpellier on dit que les administrés sont très contents parce que vous avez intégré l’IA pour leur plus grand bien. C’est vrai ça ?

Manu Reynaud : On parle d’IA tout le temps et partout et à Montpellier on en a fait un marqueur. Savez-vous comment on a commencé ? On a commencé par interdire ChatGPT, voilà comment on a commencé. On est en mars 2023 et on se dit « il y a une nouvelle technologie et c’est la première fois – je vous le fais court – qu’on peut parler à la machine en langage naturel, c’est-à-dire comme on se parle là et elle peut répondre ! ». C’est la première fois. Vous imaginez ! On a inventé les machines pour faire les choses à notre place, plus vite, surtout à notre place, et d’un coup ça s’adresse à l’intelligence humaine.
On est en mars 2023. ChatGPT vient d’arriver, tout le monde s’intéresse à l’IA. Il y a plein d’IA, on verra des cas d’usage, mais l’IA générative vous parle, elle vous répond, c’est fantastique ! Mais elle vous dit parfois, et même souvent, n’importe quoi. Nous pensons que les machines, quand on s’adresse à elles, ne doivent jamais se tromper. Et là, c’est une machine, quand on s’adresse à elle, cette machine a de grandes chances de se tromper, il faut tout vérifier. C’est un peu traumatisant.

Vanessa Perez : Donc, vous l’avez interdit.

Manu Reynaud : On l’a interdit, tout simplement par principe de précaution.
Depuis, on a commencé à en débattre, commencé à associer des chercheurs, tous ceux qui voulaient en discuter, le tissu économique parce que, derrière, il y a aussi beaucoup de choses à développer et puis on a essayé de définir des caps, des lignes, on a fait une convention citoyenne. On a réuni des citoyens et des citoyennes qui nous ont dit qu’il faudrait d’abord une IA utile, il faut mesurer son impact et il faut former les gens. Nous avons été la première collectivité à interdire ChatGPT et aujourd’hui nous sommes la première collectivité à former plus de 1000 agents autour de ces technologies parce que, à moment donné, le plus important c’est de former les gens, c’est de les acculturer. On parle beaucoup d’esprit critique, mais, au-delà de l’esprit critique, il faut savoir pourquoi on fait les choses et comment on les fait.

Vanessa Perez : Tout à fait d’accord, donner du sens aux choses.
Parmi les usages, Manu, décrivez-nous peut-être deux/trois cas d’usage.

Manu Reynaud : Il y a des usages qui sont peu connus, mais qui sont quand même les plus importants, ce sont les intelligences artificielles autour des services, que vous ne voyez pas en direct : ceux qui vont s’occuper de l’éclairage, des déchets, des mobilités, qui vont s’occuper de vos parcours, comme quand vous utilisez un GPS. Et puis il y a ce qu’on voit, ce que voient les agents, ce que peuvent voir les administrés, ce sont les IA génératives, c’est-à-dire quand on échange et quand on discute. Ça peut aider à résumer, ça peut aider à produire du contenu, ça peut aider, tout simplement, à répondre aux agents.
Dans un premier temps, pour les quelques mois qui viennent, on a choisi de ne pas mettre de chatbots à destination du public parce qu’il faut d’abord les expérimenter. Par contre, on a des chatbots pour aider nos agents, qui vont permettre de mieux répondre au public parce qu’ils sont sollicités. Dans une mairie et dans une métropole, on reçoit beaucoup de courriers, beaucoup d’appels et beaucoup de mails de gens et d’administrés qui s’interrogent sur les choses, donc oui, pour aller plus vite, pour être plus efficaces. Et surtout, ce qui est le plus important et qu’on oublie toujours de dire, c’est que ces IA génératives accèdent aux données de l’entreprise. Vous savez que ChatGPT accède à tout ce qui a été brassé sur Internet, mais là ça va derrière et c’est le plus important, c’est la plus-value, c’est accéder à des données de la collectivité là où elles sont. C’est très important.

Vanessa Perez : Vous m’emmenez sur un territoire, Manu, j’ai envie de vous demander si vos agents sont devenus encore plus efficaces grâce à l’intelligence artificielle.

Manu Reynaud : Pour l’instant, nos agents se forment, ils vont voir. Une machine et l’IA générative, quelque chose qui peut tout, on peut parfois se demander si ça peut ne rien valoir.
La question c’est toujours celle des cas d’usage : qu’est-ce qu’on va aller chercher. Dans un premier temps, on a dit qu’on allait aider les gens. D’abord ils vont expérimenter, tester, expérimenter. On va définir ensemble, on va faire des prompts parties, ils vont se réunir pour définir comment on peut faire les choses et, à un moment donné, on va partager les expériences, on va voir ce qui se décide. Aujourd’hui ça sert, comme à tout un chacun dans la vie, d’abord comme moteur de recherche et il faut vérifier les choses, ça sert aussi à résumer, ça sert à produire du contenu, à faire des comptes-rendus et à répondre aux administrés.

Vanessa Perez : J’ai envie de vous poser une question, justement en tant qu’élu, c’est un passage obligé : avez-vous les moyens de sélectionner l’IA la plus luxueuse que vous voulez, avec tous les services, ou alors ce sont des arbitrages par rapport à d’autres dépenses que la collectivité aurait ?

Manu Reynaud : Vous posez un vrai sujet, le problème économique. Une collectivité, comme une entreprise, ce sont effectivement des services informatiques et aujourd’hui on ne connaît pas, à l’échelle mondiale, le modèle économique de l’IA, c’est-à-dire que quand Microsoft, OpenAI développent des solutions, elles le font aujourd’hui à fonds perdus. Elles investissent beaucoup d’argent, mais elles ne rentrent pas d’argent. Aujourd’hui, Copilot, le ChatGPT de Microsoft pour la bureautique, a été vendu et si on l’avait acheté pour la collectivité, si on l’avait pris, ça nous aurait coûté deux millions d’euros par an, ça n’est pas possible dans ces circonstances-là. Donc, on cherche à avoir une ligne, d’abord avoir des solutions souveraines, une IA éthique, responsable et souveraine, des solutions souveraines, des solutions françaises ou européennes, cette question est très importante surtout dans les circonstances géopolitiques, la trajectoire d’indépendance européenne, c’est fondamental, donc éthique, souveraine et responsable, c’est la sobriété. Pour tout cela, il y a des choix et il y a des solutions, des solutions en France, d’ailleurs Orange a des solutions par rapport à ça sur des LLM, des larges modèles de langage, par exemple Mistral [3], et il y a plein d’autres exemples. On peut citer aujourd’hui un certain nombre d’exemples, on travaille aussi avec l’université sur des solutions. Il faut absolument assurer la sécurité et la confidentialité des données et former nos agents à ce que peut être et ce que peut produire l’IA générative.

Vanessa Perez : Et vous y croyez vraiment cette sécurité des données ? J’entends choisir une solution souveraine, je suis d’accord avec vous. Concernant la circulation des données, on sait très bien que les données circulent aujourd’hui, n’est-ce pas un vœu pieux ?

Manu Reynaud : Quand vous êtes dans le monde professionnel, vous avez des devoirs, vous avez des responsabilités, c’est le plus important. On a besoin d’une sécurité juridique, c’est à nous de l’assurer par contrat et on doit aussi s’assurer de façon technologique. Nous sommes tous face à cette difficulté : voir où sont les serveurs, comment ça circule et effectivement le cloud, le nuage, c’est un sujet, un vrai sujet que l’IA nous permet aussi de redécouvrir.

Vanessa Perez : Donc vos serveurs sont basés en France.

Manu Reynaud : À la métropole, nous utilisons nos propres serveurs, c’est un choix que nous avons fait. Il y a d’autres solutions, effectivement, en tout cas ce sont les choix que nous avons faits pour l’instant.

Vanessa Perez : Vous aimez bien dire, Manu, que l’intelligence artificielle peut entrer en conflit avec la démocratie, c’est hautement philosophique. Expliquez-nous, pourquoi justement, ce conflit.

Manu Reynaud : Je crois qu’on l’avait perçu. Quand ChatGPT est arrivé, on nous a prédit la fin de la démocratie et la fin de l’emploi. On a un deux ans de recul, c’est intéressant, on commence maintenant à voir les choses un peu autrement. Par contre, il y a une vraie réalité qu’on découvre réellement aujourd’hui avec la vidéo. C’était le cas pour les images jusqu’à maintenant, c’est la réalité aujourd’hui pour la vidéo : quand on ne peut pas distinguer la réalité de ce qui ne l’est pas, comment existe-t-on dans une société ? Que ce soit à l’échelle locale, nationale ou internationale, la société a besoin de faits qu’on puisse vérifier, elle a besoin de vérité, elle est basée sur la confiance, c’est le plus important dans la chose. Et quand on ne sait plus faire la différence entre la vérité et le mensonge, quand on n’a plus d’éléments de référence, là on a un problème de démocratie.

Vanessa Perez : Exemple ?

Manu Reynaud : Typiquement, on a eu à faire face en Europe, parce qu’en Europe on n’est pas en Chine, on n’est pas aux États-Unis, à l’annulation du premier tour d’une élection en Roumanie suite à un certain nombre d’attaques sur des réseaux sociaux et d’ingérences étrangères, purement et simplement, qui ont utilisé les capacités à la fois des réseaux sociaux mais aussi de l’IA générative pour produire de la fausse information, de la propagande, ce qui a eu des impacts directs sur un scrutin. On est en Europe, l’Europe nous a mis en place des dispositifs et des règles – l’IA Act [4] – il va falloir être très clair. À un moment donné, quand on ne sait pas différencier le mensonge de la vérité, il faut poser des règles. On est au début d’une nouvelle ère, il va falloir l’appréhender, mais il faut le faire toujours avec les mêmes lignes. On vit en société, la vie c’est le monde réel. On est dans ce studio, on se parle, là on sait que nous sommes réels, on peut se toucher. Il faut qu’on soit très clairs : il va nous falloir des règles pour pouvoir distinguer la vérité, le réel, de ce qui ne l’est pas.

Vanessa Perez : Donc nous sommes dans une zone grise, Manu, aujourd’hui.

Manu Reynaud : On est au début de quelque chose. Vous savez comment fonctionne la politique : en général on attend les catastrophes, on légifère après.

Vanessa Perez : En France surtout !

Manu Reynaud : C’est vrai partout, je vous rassure ! Je pense que là on la sent venir et, à un moment donné, il faut prendre les mesures. À l’échelle européenne, avec l’IA Act, des choses sont déjà mises en place avec des degrés de criticité, c’est-à-dire que certains types d’IA sont strictement interdits parce qu’il y a trop de risques, mais il va falloir qu’on s’attaque à la question des réseaux sociaux. Il y a peut-être des sources d’espoir. Figurez-vous que l’IA générative peut aussi servir à vérifier des informations, peut-être peut-on faire une petite alliance là-dessus et peut-être qu’il y a des soucis. La technologie a certains atouts, mais il faut faire vraiment attention. Notre choix, c’est, collectivement, quelles sont les règles qu’on se met face à la réalité et au mensonge ?

Vanessa Perez : Manu, on sait que 30 % de la population française est quand même éloignée du numérique. À Montpellier, faites-vous quelque chose pour essayer, justement, de ne pas laisser ces personnes loin de l’information, de la culture ?

Manu Reynaud : J’allais dire que c’est notre objectif, on parle d’inclusion numérique.

Vanessa Perez : Mais concrètement ? C’est un joli mot.

Manu Reynaud : Ça part de l’école, à travers tout ce qu’on peut faire au niveau de l’école, depuis discuter avec les enfants, du codage et appréhender des choses sur le périscolaire ; c’est aussi tout ce qu’on fait avec nos Maisons pour tous, avec la culture, avec tous les outils qu’on peut avoir d’appropriation et, à un moment donné, avoir une vraie politique publique sur ces sujets. C’est quelque chose qu’on doit mette au cœur.
Est-ce que l’IA générative va réinterroger le fait qu’on puisse parler en direct avec la machine ? Est-ce qu’elle va réinterroger notre rapport au numérique ? C’est une vraie question et, pour moi, il faut se projeter directement dans cette dimension-là, ne pas passer par la case d’avant, parce que cette case-là existe déjà quand on peut discuter en direct de ce qu’est l’inclusion et il faut la reposer à l’aune de cette nouvelle perspective.

Vanessa Perez : À Montpellier, avez-vous l’impression d’être un rôle modèle en termes de pilotage avec de l’IA et dans votre gestion au quotidien ?

Manu Reynaud : Ça serait prétentieux de dire modèle. On veut juste participer au débat et dire qu’à un moment donné on a fait tout ce qu’on pouvait faire. Quand on est élu local, on fait ce qu’on peut faire à son échelle. On essaye de participer au débat, de pointer ce qui va, ce qui ne va pas, surtout de le faire ensemble, de partager. C’est ce qu’on fait avec les universités, c’est ce qu’on fait avec les entreprises, parce qu’il y a du débat, il faut du débat, il faut des controverses. À un moment donné, il faut qu’on fasse des choix, mais il faut les faire ensemble et de façon très transparente, c’est ça la garantie de la démocratie.

Vanessa Perez : Merci Manu Reynaud.
Le mot de la fin. Mick Levy, où en est-on en termes de productivité, parce qu’on entend beaucoup de bruit ? Remettons un petit peu l’église au centre du jardin. Est-ce qu’on a vraiment gagné en productivité ?

Mick Levy : Sujet passionnant. Il y a des grands débats. Les économistes s’écharpent régulièrement sur le sujet. Au niveau macroéconomique, on pense ça va être très compliqué, par contre, au niveau microéconomique, entreprise par entreprise, certaines vont tirer plus leur épingle du jeu. Il faut regarder aussi du côté du futur proche de l’IA, ce qu’on appelle les agents [5], cette fois on ne parle pas des agents des collectivités, mais bien d’IA, qui vont avoir la capacité d’automatiser des actions et pas juste de la génération, qui vont pouvoir réaliser des actions, réaliser des processus complexes de façon autonome. Par exemple, on va pouvoir demander à un agent de gérer complètement le stock d’une entreprise, donc l’IA va à la fois se connecter à la prédiction des ventes, va à la fois se connecter aux stocks qu’il y a, à la fois aux fournisseurs pour pouvoir ensuite parvenir à régler tout le stock de l’entreprise de façon automatisée.

Vanessa Perez : On est plus productifs qu’on ne l’imaginait ? Ou y a-t-il encore un peu de travail à faire ?

Mick Levy : Il y a encore des gains qui vont arriver, c’est sûr. On voit déjà, pour les entreprises qui s’en servent le mieux, les premiers gains de productivité, notamment chez les développeurs informatiques qui sont les premiers, pour l’instant, à profiter des gains de productivité.

Vanessa Perez : Merci beaucoup Manu Reynaud et Mick Levy pour vos interventions et votre éclairage.
Le numérique pour tous, c’est fini pour aujourd’hui. Je rappelle que vous pouvez retrouver toutes nos émissions en podcast sur l’application Sud Radio et sur vos réseaux sociaux préférés.
Il est temps pour moi de vous souhaiter une excellente fin de week-end et de vous dire à la semaine prochaine.