Thierry Weber : Le point météo de la journée parce que, effectivement, il vous le faut à chaque Cominmag Live. Victoria, on le disait hors micro, l’hiver n’a pas commencé, il est déjà entamé.

Victoria Marchand : On est dans l’hiver, on est vraiment sous la neige dans nos montagnes.

Thierry Weber : C’est pour cela qu’il y a l’ambiance chalet derrière toi, tu as décidé de ne pas venir en luge, ni en ski, ni en surf.

Victoria Marchand : Je ne veux même pas sortir de chez moi. C’est simple.

Thierry Weber : Vous l’aurez compris, ce sera à distance. Bonjour Victoria.

Victoria Marchand : Salut Thierry.

Thierry Weber : Pour revenir, pour faire un petit peu une pique sur l’histoire de la météo, j’aime bien dire à Victoria que c’est souvent de la neige de cinéma, mais là, ça n’en est pas, elle n’a même pas été créée artificiellement sans canon à neige ni intelligence artificielle. C’est de la vraie.

Victoria Marchand : C’est le dérèglement climatique, les tempêtes sur l’Atlantique nous tombent dessus.

Thierry Weber : Exactement. Ce qui est vrai aussi c’est le logo en bas à droite du « Meilleur du Podcast ». On vous a déjà parlé du meilleur de la pub, mais ça y est, « Le meilleur du podcast », on peut aussi en dire quelque chose Victoria.

Victoria Marchand : C’est la deuxième édition [1]. On l’avait dit, on l’avait promis, on veut que ce soit un évènement récurrent, la date c’est le 16 avril, à La Datcha, toujours.

Thierry Weber : Exactement, qu’on adore et pour les curieux, vous l’aurez peut-être remarqué, si vous allez sur « Le meilleur du podcast », les soumissions de podcasts sont ouvertes et puis, bien évidemment, le programme va arriver, vous verrez, ne vous inquiétez pas. On est en train de travailler.

Victoria Marchand : Sur le même modèle des tables-rondes, des discussions. On veut créer une émulation. Il faut vraiment qu’on parle du podcast.

Thierry Weber : Aujourd’hui, je crois qu’on parle d’intelligence artificielle.

Victoria Marchand : Eh oui, un grand thème. On reçoit Bruno Giussani, très connu en Suisse romande comme auteur, curateur, podcasteur. On le reçoit parce qu’il vient de publier un livre, je vous le montre, Manuel de résistance à l’emprise technologique aux éditions Des Équateurs.

Thierry Weber : En papier !

Victoria Marchand : Je pense que c’est un livre qui a vraiment été écrit. Il est très intéressant. Dans ce livre, il analyse les technologies d’influence, les plateformes et l’intelligence artificielle qui ne se contentent plus d’organiser de l’information, mais elles modulent de plus en plus notre attention, nos perceptions et notre cerveau. Je crois que là, on est au cœur du sujet.

Thierry Weber : Belle intro.

Victoria Marchand : Bienvenue Bruno.

Bruno Giussani : Bonjour.

Thierry Weber : Un livre, effectivement sur un thème hautement passionnant. Je vous laisse en débattre, je suis très curieux de ce qu’il va en sortir.

L’interview - Victoria Marchand

Victoria Marchand : Cher Bruno, ça fait des années qu’on se connaît et quand j’ai vu que tu te présentes comme résistant technologique, je me suis dit « ce n’est pas possible, c’est un acte de contrition ! » Qu’est-ce que c’est que ça ? Tu a été un des manitous qui a amené les gens sur le digital et maintenant tu es en train de nous faire des warnings. Qu’est-ce qui se passe ?

Bruno Giussani : Il faut comprendre le mot résistance pour ce qu’il est, notamment pour la façon dont nous l’utilisons dans le livre.
C’est vrai que je m’occupe de ce domaine depuis très longtemps. J’ai commencé au milieu des années 90, cela fait donc plus de 30 ans, et ça ne serait pas complètement erroné de penser que, dans les années 90, début des années 2000, j’étais un peu un évangéliste de l’Internet. Je pense que ceux qui suivaient ce que j’écrivais dans L’Hebdo et dans d’autres journaux le savent. Mais j’ai toujours été un peu un évangéliste sceptique, avec une certaine distance critique. Par exemple, j’ai écrit des dizaines d’articles, déjà au milieu des années 90, en expliquant un petit peu ce nouveau monde qui venait vers nous, le Web et les développements ultérieurs, mais toujours en étant un peu dans la position de celui qui essaye de contrer un petit peu ce discours qui était très fort et qui se développait très rapidement sur le fait que cet espace, le cyberespace, devait rester quelque part sans règle, c’était différent de l’espace de la vie physique. Il y a eu la célèbre Déclaration d’indépendance du cyberespace [2], en 1996, à Davos, par John Perry Barlow et puis les décisions de Bill Clinton dans sa célèbre section 230 d’une loi américaine [3] qui, quelque part, exonère les entreprises de technologie de toute responsabilité, etc. Avec d’autres aussi, nous étions un peu dans la position de se dire « c’est une technologie qui a un potentiel incroyable de circulation de l’info, d’ouverture, de liberté, de créativité, toutes les choses qu’on sait, mais ça ne peut pas se faire sans qu’on pose quelques règles, quelques garde-rails, quelques éléments qui cadrent un peu cet espace.
Ça ne s’est pas fait et, dans les années, on a vu que cet espace, et là j’utilise un peu un mot qui résume, qui s’amplifie, cet espace de liberté, d’espoir et d’opportunités, a progressivement été capturé, contrôlé par des grosses entreprises commerciales, ce qu’on appelle aujourd’hui les Big Tech. Donc, quelque part, le livre naît de ce constat, naît du fait qu’il y a eu ce cheminement qui a amené à une situation dans laquelle aujourd’hui l’infrastructure digitale qui sous-tend nos sociétés, nos économies, nos vies privées, nos vies sociales est contrôlée par un petit nombre d’acteurs, surtout américains, et ce n’est pas n’importe quelle technologie parce que c’est une technologie qui donne un pouvoir incroyable de contrôle, de surveillance et d’influence à ces entreprises, d’où la question de la résistance.
Dans le livre, j’utilise le mot « résistance », inspiré par un sociologue américain des années 90, Neil Postman [4], pas dans le sens de refus de la technologie, mais dans le sens d’un engagement conscient, lucide, avec une distance critique, avec clairvoyance. Ne pas uniquement l’adopter et apprendre comment l’utiliser de façon efficace pour faire de l’argent, pour économiser du temps, toutes ces choses qu’on sait, mais apprendre aussi à la comprendre pour ce qu’elle est, en comprendre la nature, comprendre les raisons pour lesquelles elle existe de la façon dont elle existe, quels sont les systèmes de pouvoir économique qui lui tournent autour, qui lui ont donné naissance.

Victoria Marchand : À un moment, tu parles d’hypnocratie et c’est vrai qu’on est dans une espèce d’hallucination. Dès qu’on met le mot « technologie », les êtres humains deviennent fous, ne réfléchissent plus et cherchent toujours ce bouton magique qui va faire en sorte que tout va être fait automatiquement. Ces types-là, avant, voulaient nous faire parler et gagner de l’argent en nous faisant travailler, obtenir du contenu gratuit pour que des gens mettent de la pub et gagnent de l’argent.

Bruno Giussani : C’était la période des réseaux sociaux

Victoria Marchand : On résume comme cela. Mais là, on est passé à un niveau où c’est totalement autre chose et là c’est vraiment le contrôle du cerveau. Explique-nous ce qu’on doit comprendre. Je fréquente plein de gens, je suis aussi invitée dans plein de débats, c’est dangereux, pas dangereux, qu’est-ce qu’on doit dire ? Alors c’est dangereux ou ce n’est pas dangereux ?

Bruno Giussani : C’est très dangereux, mais ça ne signifie pas qu’il n’y a pas des opportunités.
Tout d’abord le mot « hypnocratie » n’est pas de moi. C’est un mot qui vient d’un livre paru l’année passée en Italie, prétendument écrit par un jeune philosophe chinois, et puis on a découvert que le philosophe chinois n’existe pas.

Victoria Marchand : C’était une IA.

Bruno Giussani : C’était une sorte de création esthétique, artistique de l’éditeur italien, mais ça n’enlève pas la valeur de ce mot pour décrire le moment dans lequel on est aujourd’hui, c’est-à-dire une société qui, dans les réactions à la réalité, dans la capacité de lire la réalité, est modulée algorithmiquement, quelque part, par le type d’informations qui lui arrivent et qui sont évidemment choisies, même de plus en plus inventées et créées par des algorithmes.
La question que tu as soulevée avant est vraiment liée à ce fait : nous sommes tous convaincus, quelque part, que notre esprit, notre cerveau est une sorte de forteresse impossible à conquérir, que nous sommes assez forts pour tenir tête à cette avalanche de fake news, à la bouillie d’IA, c’est-à-dire à tous ces contenus générés par l’IA qui n’ont aucune importance, aucun intérêt, etc., que, quelque part, notre cerveau fonctionne comme un filtre, donc n’est pas impacté par cette quantité de désinformation et par toute cette panoplie de bruits cognitifs qui nous tombent dessus, seconde après seconde – notification des réseaux sociaux, ce que le chatbot dit, etc. –, et ce n’est pas vrai. En fait, on est dans une époque de grande fracturation de l’attention. Notre attention se casse en miettes par rapport à toutes ces sollicitations, donc incapacité de se concentrer sur quelque chose et de comprendre vraiment quelque chose, problème numéro 1.
Problème numéro 2 : la meilleure façon pour empêcher quelqu’un de penser lucidement, c’est de le submerger de bruit, notamment de bruit cognitif, d’une surcharge informationnelle constante.
La combinaison de ces deux choses-là et le fait que ces deux choses-là, quelque part, sont en partie intentionnelles, c’est-à-dire que les chatbots, comme les réseaux sociaux, ne sont pas neutres mais sont programmés pour faire certaines choses dans l’intérêt commercial des entreprises ou, maintenant, dans l’intérêt politique et idéologique de certaines personnes souvent alignées avec le pouvoir américain en place, c’est vraiment un gros problème. Nous sommes de plus en plus entourés de machines qui rendent de plus en plus difficile, pour nous, de comprendre les réalités et de décider en autonomie et de façon lucide comment réagir aux circonstances de la réalité.

Victoria Marchand : Donc l’être humain a cru qu’il était tellement unique qu’il ne pourrait pas être copié ; on l’avait déjà dit avec le marketing automation. Finalement, on fait tous 10 à 15 choses en fonction de sa vie, mais tout le monde fait la même chose, donc nous ne sommes pas originaux du tout. Finalement, nous pensons tous de la même manière, nous nous faisons tous manipuler de la même façon. Tu dis même, à un moment, qu’on ne retient que sept informations, mais on produit, maintenant, des mégas, des gigaoctets de news. Bref, nous sommes effectivement envahis. Dans ce contexte-là, vu que ces outils vont faire eux-mêmes les news, est-ce qu’on peut dire que la mort des médias est programmée, parce que, de toute façon vu qu’on va recevoir une information tellement personnalisée qu’il n’y aura plus de marque de média, on voit bien déjà avec toute la page de Google, tous ces trucs, ces moteurs de recherche n’auront bientôt plus aucun sens. Est-ce qu’on peut dire que toute l’information qu’on va recevoir sera synthétique ? Je pense que ce mot est mieux que de parler d’IA ? Est-ce que, finalement, la messe est dite ?

Bruno Giussani : Il y a au moins quatre réponses à ce que tu dis.

Victoria Marchand : Parce que j’ai posé des tas de questions !

Bruno Giussani : Dans le livre, j’utilise le mot « synthétique » justement pour cette raison-là.
La première réponse sur le point de la personnalisation. On essaye de nous vendre, depuis des années, l’idée qu’on aura des flux d’informations personnalisées et, moi-même, dans les années 90, j’ai écrit des articles où je disais que, quelque part, on allait en direction d’un journal personnalisé. Le développement des technologies n’est jamais inévitable, ce sont toujours des choix conscients de faire la technologie d’une façon ou d’une autre. Aujourd’hui on se rend compte que la façon dont le développement de la personnalisation a été fait n’amène pas à une vraie personnalisation par rapport à l’information que toi, Victoria, tu désires et dont tu as besoin. C’est une sélection de l’information moins pour une personnalisation que pour un ciblage spécifique qui fait que tu es un target soit de marketing, donc commercial, soit de manipulation cognitive, c’est-à-dire politique et sociale.

Victoria Marchand : C’était le one to one dont on parlait à l’époque, tu recevais ce dont tu avais besoin.

Bruno Giussani : Oui, c’est finalement le journal pour une seule personne, mais ça ne touche pas que la presse, ça ne touche pas que l’information, ça touche le commerce, le divertissement et tout le reste. C’est très pernicieux. Ce mécanisme de ciblage pourrait être vraiment intéressant, pourrait nous aider à comprendre mieux, à décider mieux, etc., par contre il est utilisé pour nous garder devant l’écran le plus longtemps possible, ensuite pour nous mettre sous les yeux le plus possible de pubs et, troisièmement, pour nous inviter à acheter des choses dont on n’a pas nécessairement besoin, pour nous canaliser dans des bulles informationnelles qui, quelque part, exploitent nos émotions, exploitent nos vulnérabilités, exploitent nos espoirs et nos désespoirs. C’est donc un mécanisme extrêmement dangereux.
Maintenant si la question est : est-ce que la presse a un avenir ?, moi je pense que oui.

Victoria Marchand : Les médias.

Bruno Giussani : Je pense que oui exactement parce qu’on entre maintenant dans une situation dans laquelle il devient extrêmement difficile, pour l’individu seul devant son écran, donc en situation de vulnérabilité totale et de manipulabilité absolue, de se faire une idée claire du monde : qu’est-ce qui distingue la photo une de la photo deux ; la une est manipulée, l’autre pas, mais je ne sais pas. Ça devient donc presque impossible de se fier à une information en tant qu’information. Pour se fier, on doit revenir à la source, donc les médias vont redevenir cette source, en tout cas pour une partie des gens qui ont besoin d’informations fiables. Il y en a qui s’en foutent, il y en a que ça n’intéresse pas ou qui ne pensent pas que c’est un problème, très bien, mais clairement pour pouvoir fonctionner dans leur travail, dans les choix quotidiens, dans le débat politique et autre chose, un certain nombre de personnes, et pas deux ou trois, c’est une grosse partie de la population, ont besoin d’informations fiables. Puisque l’information, en soi, n’est plus un élément de fiabilité, la source va devenir le garant de cette fiabilité. Il faut donc reconstruire, quelque part, la dynamique des médias autour de cette notion-là.

Victoria Marchand : L’information, évidemment, a toujours été le nerf de la guerre, c’est clair, mais on voit que les gens vont, de plus en plus, céder leurs actions à des agents d’IA. L’autre jour, j’étais chez Coca, ils s’attendent à ce que 80 % des acheteurs soient des acheteurs synthétiques, ils ne parleront plus à des gens, tout sera fait automatiquement, parce qu’une fois qu’on aura pris le pli d’avoir formaté son propre bot, qui fait tout le travail à notre place, tu penses bien que les gens ne vont pas aller chercher qui est la vraie personne qui a écrit telle chose ou qui a dit telle chose. On va tellement s’habituer à avoir « une personne » qui va nous parler, on lui pose une question, elle va nous répondre, là on sera dans une hallucination totale, comment pourra-t-on se dire « peut-être que c’est faux ! » ? C’est tellement à moi qu’on parlera que j’aurai l’impression qu’il n’y a plus que moi sur cette terre.

Bruno Giussani : C’est l’élément le plus pernicieux de ces nouvelles technologies, notamment de l’IA générative, des chatbots comme ChatGPT et les autres, et des agents d’IA qui sont en train de se pointer, c’est-à-dire comme un élément d’autonomie du système par rapport à ce qu’on utilise aujourd’hui. C’est l’élément le plus pernicieux parce que ce qu’un chatbot offre est presque irrésistible. Le chatbot offre l’opportunité de déléguer à une machine l’effort de penser, rechercher, apprendre, écrire, décider. C’est une offre incroyable et souvent, elle est même gratuite. Résister à cela demande vraiment un effort presque actif, un effort conscient. Mais c’est justement l’effort qu’on doit tous accomplir tant dans notre rôle de citoyen que dans notre rôle de travailleur que dans notre rôle de consommateur que dans tous nos autres rôles. Ce qui risque de se passer n’est pas uniquement le fait qu’on va déplacer des grands pans de l’économie vers des systèmes synthétiques, totalement automatisés, comme tu le décrivais avant, mais c’est une perte de capacité cognitive profonde. Plus on délègue à la machine la pensée, la recherche, l’apprentissage, l’écriture et la décision, moins on sera capable de penser, de décider, d’apprendre et d’écrire.

Victoria Marchand : On aura un cerveau en bouillie, c’est ça !

Bruno Giussani : Aujourd’hui, on utilise la notion de « dé-cognitif » a été élaborée par un groupe de scientifiques et de chercheurs l’année passée : les avantages à court terme, le fait que je puisse me mettre devant mon ordinateur et, en 12 secondes, avoir le brouillon d’un e-mail, va être payé par des coûts à moyen terme ou à long terme, c’est-à-dire une perte de capacité de faire ces choses-là. Le cerveau est un muscle, si on ne l’utilise pas, on le délègue, on le dépose sur la machine et, peu à peu, on perd ces capacités-là.

Victoria Marchand : On voit donc bien qu’il devrait y avoir un contrôle. Il y a cette phrase de Yoshua Bengio [5] qui dit qu’un sandwich est aujourd’hui plus réglementé que l’IA.

Bruno Giussani : Aux États-Unis.

Victoria Marchand : Aux États-Unis, mais ChatGPT est en train d’arriver. Ils se demandent si mettre de la pub, ils essayent, ils se demandent comment faire, c’est exactement le même processus qu’on a eu avec Google : au début ils disent « vous comprenez, ça coûte tellement cher pour faire toutes ces technologies, il nous faut de l’argent, on va vous mettre de la pub, mais ne vous en faites pas, ça ne va pas vous gêner, vous ne la verrez pas ». On ne sait pas comment les marques vont payer pour être visibles ou pas. On est tout le temps dans le même process, on est dans une espèce de flou artistique, mais, comme tu dis, ça a l’air très simple, très frictionless, on va y aller et personne, aucun État ne contrôle. On voit bien l’état du monde : qui va contrôler ? En Chine, le système n’a pas les mêmes outils que dans le monde occidental, en Russie aussi ils ont leurs propres trucs et l’Europe ne fait rien, on est là, on attend ! Qu’est-ce qu’on doit faire ?

Bruno Giussani : L’europe fait des choses.
Cette question sur l’Europe est intéressante. On entend souvent que, quelque part, l’Europe n’a pas d’alternatives aux géants de la tech et c’est vrai, on a une grande dépendance par rapport aux géants de la tech. Ça dépend des études, de ce qu’elles mesurent exactement, mais, comme ordre de grandeur, on peut dire que deux tiers des technologies numériques que nous utilisons dans les entreprises, dans les administrations et individuellement, sont américaines, sont états-uniennes. Cette dépendance est une question énorme. Ces dépendances peuvent être transformées en beaucoup de choses, notamment en chantage, c’est ce que fait le président américain, mais aussi en soumission. Quelque part, nous sommes en position de vassalité, c’est ce que nous vivons un peu aujourd’hui.
Quand on soulève la question, on entend souvent « on n’a pas d’alternatives aux géants de la tech » et je suis toujours surpris. Quand les gens disent cette phrase-là, ce qu’ils disent, en réalité, c’est « on n’a pas de géants de la tech, c’est-à-dire qu’on n’a pas de Google et de géants européens. » Ce qui est vrai et c’est un problème, mais on ne regarde jamais la question des alternatives. En réalité, on a beaucoup d’alternatives en Europe, on a des alternatives pour énormément de choses, notamment au niveau logiciel, des suites bureautiques aux VPN aux systèmes de vidéoconférence, etc., mais elles sont petites, elles sont nationales, elles ne sont peut-être pas parfaites. Il faut les faire croître ! Quelque part, il faut trouver des mécanismes pour les faire croître, par exemple en les privilégiant au moins en partie dans la commande publique, c’est ce que font les Américains et les Chinois avec leurs entreprises.

Victoria Marchand : Ce n’est pas ce que fait l’État suisse.

Bruno Giussani : À égalité, ou presque, de qualité, pourquoi ne pourrait-on pas le faire aussi plutôt que d’envoyer littéralement des dizaines, des centaines de milliards d’euros au-delà de l’Atlantique, chaque année, qui finissent par financer les investissements de ces boîtes-là, l’innovation de ces boîtes-là, plutôt que la croissance et l’innovation de nos boîtes, leur capacité de retenir des talents, la dynamisation de nos marchés technologiques, etc.? Il faut vraiment qu’on révise ce type d’approche.

Thierry Weber : C’est tellement vrai que la Suisse est dans le top 5 des plus gros clients de Microsoft, histoire d’appuyer ! Et puis il faut rebondir sur ce qui a été dit, qui est très intéressant, je vous invite vraiment à vous jeter sur ce livre : l’État français se fait taper sur les doigts, je ne sais pas si vous connaissez, tous les deux, LaSuite [6] ? Cela ne vous dit rien ? C’est une suite bureautique qui a été faite pour l’État et pour l’administration française, mais, là où ça coince, c’est que c’est l’État lui-même qui a développé cet outil, ils ne sont pas allés chercher des outils open source, ils ont créé eux-mêmes [à partir de briques libres, NdT, cf. [7]], c’est devenu un éditeur de logiciels.

Victoria Marchand : Je pense que Bruno voulait dire que, dans le fond, on se plaint qu’on n’a pas d’outils européens, mais ces outils européens font la même chose que les autres outils. La question n’est plus par qui on est contrôlé mais est-ce qu’on peut, un jour, imaginer qu’on redeviendra libre de toutes ces technologies ?

Bruno Giussani : Libre de toutes, non. Il n’est évidemment pas question de passer sur les technologies chinoises ni d’essayer d’être autarciques. Le milieu technologique, l’infrastructure technologique n’est pas un espace dans lequel on peut devenir autarcique, même les États-Unis ne peuvent pas, ils ont besoin des technologies européennes, chinoises, japonaises et autres. Par contre, il s’agit de regagner un certain niveau de choix, d’autonomie et de contrôle que, quelque part, on a un peu perdu pour toute une série de raisons : naïveté géopolitique, opportunisme commercial, un peu de confort aussi, etc., mais ces technologies existent.
Il y a évidemment le choix individuel : on peut choisir de ne pas utiliser Facebook, on peut choisir d’utiliser kMeet [8] à la place de Zoom, mais il y a aussi les choix structurels, c’est-à-dire quels choix technologiques fait l’entreprise dans laquelle on bosse ? Quels choix technologiques font les administrations qui gèrent nos sociétés et nos gouvernements ? Et là il faut vraiment se poser la question : quels sont les points où notre système informatique touche les États-Unis, où est-ce qu’on peut continuer à garder les choses comme ça et où est-ce que, par contre, on doit se protéger d’une potentielle situation de chantage ou pire, qui peut aller jusqu’à éteindre le système, ne plus nous donner accès au système ?

La chronique de Thierry Weber et son pote AI !

Thierry Weber : On va justement parler, mais sous un autre angle.
Il est temps pour moi de vous dire que Thierry n’est pas là puisque, effectivement, c’est son double synthétique qui anime cette rubrique et qui fait donc ce live sans être ici physiquement.
Plus sérieusement, j’ai demandé à mon stagiaire, comme j’aime l’appeler, je ne sais pas si tu connais cette expression Bruno, « le stagiaire bourré ». Cette expression n’est pas de moi, c’est un ami podcasteur belge qui me l’a soufflée à l’oreille, c’est à son stagiaire IA que j’ai demandé de nous préparer aujourd’hui un QCM sur les risques et les opportunités de l’IA. Il n’y a pas d’enjeu, il n’y a pas de points, on va quand même essayer de s’amuser avec.

Quel est aujourd’hui l’un des principaux risques liés à l’IA générative :

1. qu’elle développe un goût pour la raclette, si elle est valaisanne je pense
2. la désinformation et les deepfakes
3. qu’elle remplace les plantes vertes en open space
4. une pénurie mondiale de claviers, ce n’est pas mal ça

Bruno Giussani : Est-ce que c’est le clavier du piano ou le clavier de l’ordinateur ?
Je pense que la raclette est absolument centrale, on ne peut pas faire sans. Je suis totalement partial pour la raclette.

Victoria Marchand : Oui, parce que tout cela pourrait être pour bon. Disons que c’est peut-être le 2, mais espérons que ce soit le 1.

Bruno Giussani : Je ne veux pas entrer dans le conflit éternel et très profond entre la raclette et la fondue, je n’y peux rien, j’aime la raclette.

Thierry Weber : J’aime les deux, c’est simple, de toute façon ce sont des produits suisses.

Bruno Giussani : On n’est pas très consensuel.

Thierry Weber : Malheureusement c’est la désinformation, les deepfakes, on en a largement parlé.

Dans le monde professionnel, l’IA est surtout perçue comme

1. un stagiaire silencieux
2. un outil d’automatisation et d’optimisation des tâches
3. une menace pour les machines à café
4. un nouveau réseau social

Bruno Giussani : Clairement un outil d’optimisation, mais j’aimerais aussi préciser qu’on commence à voir de l’IA installée aussi dans les machines à café. Je me suis toujours demandé quel est le but d’installer une IA dans une machine à café, quel est le but raisonnable. Il y a plein de buts non raisonnables, par exemple pouvoir capturer des données, peut-être mettre des capteurs ou des micros qui écoutent ce qui se passe autour de la machine à café, etc. On commence à en voir apparaître aussi dans ce type d’appareil.

Victoria Marchand : Il y a cinq ans, au Cannes Lions, une conférence expliquait qu’on aurait des voies de drones en fonction de son pouvoir d’achat et que, chaque fois qu’on commanderait quelque chose, ce serait apporté et on verrait si on boit trop de café. En fonction de son assurance maladie – tout est connecté –, peut-être que celle-ci sera beaucoup plus élevée parce qu’on risque d’avoir des problèmes cardiovasculaires. Tu vois quel est le sens de tout cela.

Bruno Giussani : Ce que tu dis est intéressant pour 1000 raisons : une c’est que tout est connecté, toutes ces choses-là sont totalement connectées et vont s’influencer. On a l’impression que ce n’est pas grave si cette information-là est capturée par quelqu’un qui, de toute façon il ne saura pas comment l’utiliser, mais quand on la met avec d’autres informations, ça crée toute une série de potentiels effets en cascade.
La question des drones est aussi super intéressante parce que, moi aussi, je vois beaucoup d’entreprises qui présentent des avenirs fantastiques où il a des drones partout dans le ciel qui transportent des pizzas, des médicaments et des lettres d’amour et je me suis toujours demandé « quel esprit pense que remplir le ciel de machines qui buzzent ici et là est une bonne chose, une chose qui va être intéressante socialement, culturellement, émotionnellement, romantiquement ? ». Cet enthousiasme pour ces choses me dépasse complètement.

Thierry Weber : Il y a à peine un mois j’étais encore au CES à Las Vegas et j’ai vu de l’IA dans les machines à café. Naïvement, je le prends comme une aide pour mesurer le grainage, le poids, la densité du café.

Bruno Giussani : Tu as bien lu le communiqué de presse !

Thierry Weber : Exactement. Pour la petite histoire, sachez qu’en Chine il existe un service de livraison de café par drone, on commande son Starbucks et on attend à côté d’une borne, c’est une réalité.

Bruno Giussani : Cela semble une évolution vers la prochaine étape de la civilisation !

Thierry Weber : J’ai peur que le café soit un peu froid, en fait !

Qu’est-ce qu’un deepfake ?

1. un faux profil Linkedin très crédible
2. une erreur excel difficile à corriger
3. une vidéo ou un audio manipulé grâce à l’IA pour imiter quelqu’un, comme c’est le cas maintenant
4. un bug dans un jeu vidéo

Bruno Giussani : C’est un excellent deepfake, 3 évidemment.

Thierry Weber : L’audio et la vidéo trafiquées et, comme tu le disais, ça va être de plus en plus compliqué de voir le vrai du faux. Des petits malins mettent maintenant une mention « réalisé sans trucage » pour montrer que c’est une vraie vidéo.

Victoria Marchand : C’est une question, Bruno. Comment va-t-on faire pour voir que c’est vrai quand on aura une image ?

Bruno Giussani : Je n’ai pas de réponse non plus, parce que c’est devenu vraiment hyper réaliste et, en plus, ça va dans les deux sens. Ce n’est pas juste une acceptation de photos ou de vidéos, en tout cas d’images réalisées par l’IA qui sont prises pour bonnes, et ça se passe de plus en plus même si quelques éléments font encore douter, mais aussi l’inverse, c’est-à-dire des vraies images qui sont trop parfaites pour l’histoire qu’elles racontent et les gens, toujours dans cette logique qu’il faut être sceptique, commencent à penser qu’elles sont générées par l’IA. Si vous vous souvenez, l’année passée il y a eu de grosses inondations en Espagne, dans la région de Valence. Un photo d’un petit village circulait beaucoup : une rue assez étroite avec les voitures empilées les unes sur les autres le long de toute la rue, transportées par l’inondation. De premier abord, beaucoup de gens ont vu cette image et se sont dit « elle est générée par l’IA » parce qu’elle était trop parfaite par rapport à l’histoire qu’elle racontait, pourtant elle était absolument vraie.

Thierry Weber : Oui. Je vous invite à aller voir cette fameuse vidéo où on voit Brad Pitt qui se bat contre Tom Cruise, qui a été faite par un jeune cinéaste, qui a rendu cette séquence mondialement célèbre, qui est bluffante de réalisme avec le son, avec les dialogues. L’industrie du cinéma commence à avoir un peu chaud aux fesses pour parler de cela

Bruno Giussani : Parce qu’elle met en cause Brad Pitt, mais c’est la même chose pour tout secteur qui produit de la vidéo.

Thierry Weber : On est bien d’accord.

L’un des risques économiques majeurs de l’IA pour les entreprises est :

1. une surcharge d’électricité dans les bureaux
2. la disparition des e-mails – ah si seulement
3. une dépendance excessive à des fournisseurs technologiques
4. une baisse de la consommation de café, on y revient

Victoria Marchand : Un, deux et trois.

Bruno Giussani : C’est intéressant, on dirait que tu as un sponsor pour cette émission !
C’est la 3, bien évidemment, mais je suis intéressé par la 1, c’est-à-dire la surcharge d’électricité dans les bureaux. Je pense qu’un des risques, c’est le manque d’électricité. Plus on électrifie tout et plus on numérise tout, c’est-à-dire plus on passe sur des systèmes qui dépendent de l’électricité, plus la fourniture d’électricité et la production d’électricité deviennent un enjeu majeur de stabilité de tout le système, pas uniquement du réseau électrique, mais absolument de tout.

Thierry Weber : Exactement, on le sait, on n’aura jamais assez de quoi produire d’énergie si on met tout cela en place et ce n’est pas moi qui le dis, ce sont des géants comme les constructeurs de puces électroniques qui ont lâché ce genre d’info.

Quels secteurs bénéficient déjà massivement des opportunités offertes par l’IA ?

1. la fabrication des trombones
2. les clubs de pétanque connectés, je pense qu’il en existe
3. les élevages de licornes
4. la santé pour le diagnostic assisté, l’imagerie médicale et la recherche

Je n’ai pas besoin de vous demander.

Victoria Marchand : Ça a commencé il y a très longtemps, le Watson IBM.

Bruno Giussani : Là, les choix sont des jokes, donc, évidemment, c’est la santé. Mais est-ce qu’on est sûr que la santé bénéficie déjà de façon significative l’IA ? C’est une question qu’il faudrait poser. Bien évidemment, dans le domaine de la santé, il y a des choses qui bénéficient de machines qui peuvent repérer par exemple les patterns, par exemple la lecture des images radiologiques.

Victoria Marchand : Pour la prévision.

Bruno Giussani : Mais, dans beaucoup d’autres domaines, ce n’est pas si évident que l’IA confère un avantage direct, y compris dans la recherche scientifique. Il y a quelques exemples qui sont extrêmement intéressants, mais on revient toujours au même exemple : on raconte cette histoire, AlphaFold [9], un produit de DeepMind, c’est-à-dire à dire d’Alphabet, qui permet de définir la forme de protéines, mais ça fait quand même six ans, sept ans qu’il est là et on continue de le montrer, de le citer comme premier exemple. J’attends toujours le deuxième grand exemple, mais il ne vient pas.

Thierry Weber : Il existe, c’est en Suède, il faut se replonger sur Google parce qu’il y a encore des moteurs de recherche en 2026, c’est de la radiologie assistée par IA. Il faut savoir que non seulement ça n’a pas dézingué des postes d’emploi, au contraire, il y a plus de radiologues qui sont venus se greffer sur cette façon de faire, ça leur permet d’être beaucoup plus efficaces puisque, effectivement, il y a toujours le regard humain, mais il y a un plus grand traitement, aisé et rapide, grâce à l’IA pour venir assister, déceler justement des choses. Donc oui, il y en a, mais, comme tu le dis, on en est aux balbutiements.

Victoria Marchand : On attend des médicaments miracles et tout ça, on ne les a pas encore vus.

Bruno Giussani : Pour l’instant, on ne les a pas encore vus.

Thierry Weber : On attend les nanobots.

Pourquoi parle-t-on souvent de biais dans l’IA ?

1. parce qu’elle a des opinions politiques
2. parce qu’elle vote en secret
3. parce qu’elle peut reproduire les biais présents dans les données d’entraînement
4. parce qu’elle préfère certains serveurs aux autres

Bruno Giussani : C’est le 3, évidemment, mais je pense que le 1 est absolument vrai aussi, je pense que l’IA a des opinions politiques, c’est ce que j’ai essayé de dire au début de la discussion avec Victoria. On considère, puisque ce sont des machines, puisque qu’elles sont entraînées sur des grandes quantités de données, etc., que, quelque part, les IA génératives sont neutres, mais, en réalité, elles ne le sont absolument pas. Il y a des règles spécifiques, encodées dans leur code, qui leur disent ce qu’elles peuvent dire ou ne pas dire et comment le dire, ce qui fait qu’une IA chinoise n’émettra jamais une réponse critique, d’une façon ou d’une autre, sur le gouvernement chinois ou même ne mettra jamais sur la table des éléments historiques, même factuels, qui peuvent être embarrassants pour le gouvernement chinois, et une IA américaine aura l’équivalent de l’autre côté. Par exemple, on sait très bien que l’IA de X, Grok, est constamment retravaillée pour refléter les opinions politiques de son patron, Elon Musk. On a des dizaines d’exemples de cela. Donc l’IA n’est pas neutre, les chatbots ne sont pas neutres, message fondamental.

Thierry Weber : Oui, et puis allez voir, parce que je ne veux pas dire de bêtises, mais c’est affolant, je vais dire les deux chiffres parce que je ne me souviens plus, mais les deux sont, de toute façon, affolants : il suffirait de 250 documents pour simplement insuffler un autre avis à un large modèle de langage, pour qu’il puisse être infecté [10], c’est ce que s’amusent à faire certains de nos pays voisins, par exemple pour truquer, justement, et amener du biais dans la réflexion des LLM. Ça fait un peu peur.

L’IA peut être un atout stratégique pour une PME, car elle permet

1. de supprimer toute forme de management
2. d’améliorer la prise de décision grâce à l’analyse de données
3. d’imprimer plus vite des cartes de visite
4. de remplacer la comptabilité par une intuition numérique

C’est vrai que là il y aurait plusieurs réponses possibles.

Victoria Marchand : C’est ce fameux bouton magique que tout le monde veut. C’est pour cela que tout le monde est contaminé.

Bruno Giussani : Il y a plusieurs réponses possibles.

Thierry Weber : Exactement. Vous l’aurez compris, il va falloir être très vigilant et là je me fais du souci pour nos amis qui travaillent dans la comptabilité, parce que ça peut être une piste.

Quel est l’un des débats éthiques majeurs autour de l’IA ?

1. faut-il lui donner un prénom
2. doit-elle payer des impôts
3. peut-elle rêver
4. la responsabilité en cas d’erreur ou de décision automatisée

Victoria Marchand : Moi je suis pour les impôts.

Bruno Giussani : C’est une réponse possible, tout à fait.

Thierry Weber : C’est vrai que les impôts ça revient : faire payer.

Victoria Marchand : Ce serait bien qu’ils redonnent à la société tout ce qu’ils volent de manière tellement indue ou à l’insu de notre plein gré, comme on dirait, mais oui, je pense que ça ne serait pas mal.

Thierry Weber : Notre invité, Bruno, tu as cité kMeet de chez Infomaniak. Allez faire un tour du côté de leur intelligence artificielle éthique et, en plus, écologique puisqu’elle sert à chauffer des ménages, elle n’a pas de parti pris, elle est gratuite et ça fait plaisir de voir qu’on en parle en dehors des frontières. C’est peut-être une piste, c’est peut-être une solution.
Avant-dernière question.

L’IA générative peut représenter une opportunité pour les créateurs de contenu, car elle

1. écrit toujours mieux qu’un humain
2. supprime toute créativité humaine
3. accélère la production et stimule l’idéation
4. interdit les fautes d’orthographe pour toujours, mon rêve !

Bruno Giussani : Pour toujours, je ne saurais pas !

Thierry Weber : On fait tellement de fautes.

Bruno Giussani : Elle facilite, certainement, mais est-ce qu’elle stimule la créativité ? Je ne sais pas. Je dirais 3 mais que la première moitié de la réponse, pas la deuxième moitié.

Thierry Weber : OK. Victoria ?

Victoria Marchand : On voit que c’est un humain qui l’a faite. Quand toutes les choses seront mal faites, on parle même de publicités moches, on va arriver sur des trucs moches, avec des fautes d’orthographe et les gens diront « ça c’est un humain ! ». Ce sera tellement bien fait que la spécificité humaine ce sera l’erreur.

Thierry Weber : Un livre de science-fiction parle de cela : tous les gens sont parfaits, sont beaux et tout, et quelqu’un rencontre un moche et ça devient l’être aimé.

Victoria Marchand : C’est Le Meilleur des mondes.

Bruno Giussani : Comme dit Victoria, ce sera facile de reprogrammer l’IA pour qu’elle fasse des erreurs. L’IA produit une image parfaite, mais on peut lui faire produire une image un peu style polaroid.

Victoria Marchand : Je pense qu’il va falloir trouver quelque chose qui dise que c’est human made.

Thierry Weber : Pour la créativité je dirais un truc, quand on enseigne on le dit toujours, « on ne peut pas vous enseigner la curiosité ». J’ai passé le week-end avec OpenClaw [11], qui a changé trois fois de nom, un projet qui est en train de cartonner sur les réseaux. C’est une intelligence artificielle qui gère des intelligences artificielles, mais qui devient votre Jarvis, ça y est, on y est, c’est passionnant parce que ça donne effectivement des idées pour créer des nouveaux process. Il y a même des gens qui ont monté des usines à gaz.

Victoria Marchand : Tu vois si on est contaminé !

Bruno Giussani : Non seulement il passe les jours en semaine, mais, en plus, le week-end, et, pour la faire fonctionner, il a donné à la machine accès à toute une série de données personnelles ! Mots de passe, comptes, cartes de crédit, etc. ! On sait que c’est un avatar qui parle mais s’il te plaît, dis à Thierry…

Thierry Weber : J’essaierai d’oublier cette information pour ne pas lui transmettre.
Question numéro 10, la dernière.

Le principal enjeu pour tirer parti de l’IA tout en limitant les risques est

1. installer plus de RAM
2. interdire l’accès aux stagiaires
3. l’utiliser uniquement la nuit
4. mettre en place une gouvernance claire et des règles d’usage responsable

Victoria Marchand : C’est peut-être cela qu’il faudrait.

Bruno Giussani : C’est peut-être cela, une gouvernance mais, évidemment, non pas seulement comme loi. Il faut entendre « Gouvernance » comme pratique à l’intérieur d’une entreprise. Je suis toujours épaté par les entreprises qui n’ont pas, aujourd’hui, de politique claire pour la gestion des IA, donc leurs employés l’utilisent simplement parce que c’est pratique, commode, cela accélère le travail et tout. Ils prennent le rapport de 50 pages qui décrit le futur produit de l’entreprise, ils n’ont pas envie de le lire, ils le mettent sur ChatGPT, ils se font faire un résumé et ils ne se rendent pas compte qu’ils sont en train de donner les données de l’entreprise à OpenAI. On est vraiment dans ce genre de situation-là en ce moment : quelque part il y a un enthousiasme un peu aveugle par rapport à ces technologies et une incapacité à les prendre avec du scepticisme et du recul.

Victoria Marchand : Parce que c’est toujours le même pattern. Il y a une innovation technologique, on ne sait pas comment la développer, c’est le Far-West, tout le monde y va de son truc. Il y en a un qui trouve un moyen, tout le monde le copie, on bloque, monopole, on rachète tout le monde et qu’est qui se passe ? Pendant dix ans il ne se passe rien et on attend le prochain truc. C’est toujours la même histoire

Thierry Weber : Sauf que là les enjeux financiers sont un peu plus hauts. Beaucoup de gens se plaisent à dire qu’OpenAI ne va jamais fermer, ne va jamais couler. OpenAI ne gagne pas d’argent, en perd beaucoup, mais les sommes engagées sont tellement grandes qu’ils ne peuvent pas laisser tomber.

Victoria Marchand : On verra.

Bruno Giussani : Il n’y a pas que les sommes. C’est le fait que c’est en train de devenir imbriqué dans tout, c’est-à-dire que c’est adopté et intégré dans les systèmes d’entreprise, dans les systèmes qui gèrent certains secteurs de l’armée américaine, etc. Ce n’est donc pas tellement la question de la dimension financière, bien sûr que c’est un problème. Il y a un choc de la bourse remarquable et une perte de valeur de beaucoup d’entreprises, mais, en peu d’années, ils ont réussi à injecter ChatGPT et d’autres versions de leur technologie dans beaucoup de systèmes qui, quelque part, seraient rendus vulnérables, sans moyens efficaces, ou auraient des problèmes si OpenAI devait fermer.

Thierry Weber : C’est ça. Bruno, Victoria, vous avez entre huit et dix bonnes réponses.

Bruno Giussani : Ce n’est pas mal.

Thierry Weber : La conclusion du stagiaire dit que soit vous travaillez déjà dans l’IA soit c’est elle qui a répondu à votre place !

Bruno Giussani : C’est fort probable. J’aimerais dire encore une chose, deux choses si vous me permettez.
La première. Victoria a montré mon nouveau livre, Manuel de résistance à l’emprise technologique. Il y en a un autre [Moins d’Amérique dans nos vies] qui est paru il y a trois mois chez Georg éditeur à Genève. Je le cite parce que c’est un roman qui pose l’argument, justement, pour moins d’Amérique, moins d’États-Unis technologiques quelque part dans nos vies.
Si les gens sont arrivés jusqu’ici, clairement, ils ont au moins trouvé la discussion passionnante. La deuxième chose que j’aimerais dire : si quelqu’un, après cette discussion, aimerait acheter le livre ou un des deux livres, j’aimerais l’inviter à le faire non pas online, mais dans une librairie, parce que l’existence des librairies et des libraires est un des nombreux éléments de cette résistance contre l’emprise technologique sur nos vies.

Victoria Marchand : C’est ce que j’ai fait !

Thierry Weber : Très bien. Victoria a bravé la neige, elle est effectivement descendue en plaine chercher le livre.
Merci à toi Bruno, c’était hautement passionnant.

Victoria Marchand : On attend la suite, le prochain livre que tu vas écrire.

Bruno Giussani : Il va arriver, ne t’inquiète pas, à la fin de l’année.

Thierry Weber : On te souhaite le meilleur pour la suite et tu reviens quand tu veux, c’est passionnant à très bientôt.

Bruno Giussani : Merci beaucoup. À vous aussi. À bientôt.

Victoria Marchand : Ciao Bruno.

Thierry Weber : On rappelle que vous retrouvez tout ce contenu également podcast audio sur les bonnes plateformes. Là je fais un pied de nez à nos amis genevois d’Infomaniak : il n’y a pas encore de plateforme suisse pour héberger les podcasts, donc malheureusement vous allez nous trouver sur Spotify, sur Apple Podcasts, sur Google Podcasts alias YouTube. Et puis vous avez le droit de vous abonner, de partager parce que c’était super intéressant et je pense que ça peut peut-être éveiller les consciences, Victoria.

Victoria Marchand : Je pense que c’est un sujet qu’il faut qu’on traite, qu’on traite partout et dans ses différents aspects pour que les gens se rendent compte. Je me rappelle du choc au début, avec les réseaux sociaux, quand les gens n’avaient pas compris qu’on ne voyait pas forcément les mêmes publicités, les mêmes textes, mais alors là ! C’est youpi !

Thierry Weber : Pour terminer sur la note du podcast, c’est « Le meilleur du Podcast ».

Victoria Marchand : On sera là en réel, comme de vrais êtres humains. Venez nous voir !

Thierry Weber : Entre humains et avec des bonnes choses à boire et à manger et c’est sympa, à La Datcha, on adore, on vous attend nombreux et nombreuses. Et si vous êtes producteur de contenu, producteur de podcasts, podcasteur comme notre invité, vous avez aussi le droit de venir déposer votre podcast pour concourir à cette deuxième édition du « Meilleur du Podcast ».
Victoria, on se dit à mercredi prochain.

Victoria Marchand : Ciao.