Philippine de Saint Pierre : Bonjour à tous et bienvenue, si vous nous rejoignez à l’instant, au jour de la publication par Léon XIV de sa première encyclique Magnifica Humanitas, magnifique humanité, sous-titrée « La protection de la personne humaine à l’ère de l’intelligence artificielle » [1], un texte signé le 15 mai dernier, pile au 135e anniversaire de la publication, en 1891, par Léon XIII de l’encyclique Rerum Novarum, texte que l’on dit fondateur de l’enseignement social de l’église.
L’encyclique de Léon XIV est construite en cinq chapitres, 245 paragraphes, près de 50 000 mots, bref un long texte. Quelle continuité avec les enseignements précédents de la doctrine sociale ? Quels points nouveaux abordés ? Bref, que dit ce texte ? On va essayer de donner quelques premières clés de lecture avec nos deux invités qui nous ont fait l’amitié de nous rejoindre pour ce programme en partenariat avec le Collège des Bernardins qui nous accueille.
Laurence Devillers, bonjour.
Laurence Devillers : Bonjour.
Philippine de Saint Pierre : Merci beaucoup d’être avec nous, de nous avoir rejoints. Vous êtes professeur en intelligence artificielle à Sorbonne Université, chercheuse au CNRS. Merci d’être là et puis aussi avec nous le père Augustin Bourgue, bonjour.
Augustin Bourgue : Bonjour.
Philippine de Saint Pierre : Vous jouez à domicile, ici, puisque vous êtes codirecteur du pôle Politique et religions dans ce Collège des Bernardins. Merci à vous aussi d’avoir pris un moment, aujourd’hui, pour lire cette encyclique et venir partager une première impression.
Justement, première impression, Laurence Devillers, quand vous avez découvert ce texte.
Laurence Devillers : D’abord, c’est un texte qui était nécessaire. J’ai beaucoup apprécié de le lire et de voir à quel point ça rebondissait sur l’actualité de l’IA, du manque de formation à l’école, etc.. J’ai aussi beaucoup aimé certains pitchs qui sont dans ce texte, par exemple « désarmer l’IA » et « la logique de compétition ». Faire que l’humain, demain, soit grandi grâce à l’IA, peut-être sauvé de maladies et, en même temps, qu’on ne fasse pas régresser les relations sociales, les relations émotionnelles, l’amour entre tous, l’altérité. J’ai trouvé ça très fort, très bien écrit, très facile à comprendre.
Philippine de Saint Pierre : Très facile, c’est une première chose qu’on peut dire, parce que ça peut faire peur. Vous êtes professeur en intelligence artificielle, on n’a pas besoin d’être spécialiste pour comprendre ce texte.
Laurence Devillers : Aucune relation aux mathématiques et aux statistiques. C’est vraiment que fait-on, d’un point de vue social, de cette IA qui arrive et comment peut-on mieux la maîtriser ? Il y a aussi tout un aspect sur la guerre qui est extrêmement intéressant.
Philippine de Saint Pierre : Père Augustin Bourgue, quelle est votre première impression ?
Augustin Bourgue : Je trouve que c’est un texte qui donne des bonnes clés, qui donne une boussole. On vit des temps où il est difficile de s’y retrouver, difficile de voir quel chemin prendre, donc avoir un texte qui donne des orientations, qui donne des critères, je trouve que ça donne envie de travailler, ça donne envie de le reprendre. Il y a plein d’images, de passage pour lesquels on dit « il faut que j’y retourne, il faut que j’aille voir » et surtout, c’est un texte qui concerne tout le monde. Ça revient plusieurs fois et c’est en lien avec l’idée de coresponsabilité que développe le pape : il s’adresse à tout le monde, à plusieurs reprises, et parfois à des catégories précises : les enseignants, les chercheurs, les entreprises, les institutions, les simples citoyens, tout le monde est concerné. Pour moi, c’est un texte qui est quand même traversé par un souffle. À plusieurs reprises « Je demande, j’invite », il y a un appel à un sursaut collectif de conscience.
Philippine de Saint Pierre : et un engagement fort de l’auteur, du pape Léon XIV. On retrouve, un an après, l’intention annoncée avec le choix de son nom de pape, il l’a dit plusieurs fois : la révolution industrielle, le remplacement de l’homme par la machine au 19e siècle, c’est un bouleversement considérable et lui dit que ce qu’on vit aujourd’hui, c’est à nouveau un bouleversement considérable.
Augustin Bourgue : Exactement. Dès le début, on avait compris que c’est un pape qui a conscience des bouleversements que génère la technique, des bouleversements sociaux, même anthropologiques, philosophiques, et, comme à la fin du 19e, on a besoin de repères, on a besoin de faire descendre la vision chrétienne de l’Homme et du bien dans le champ de l’activité humaine et dans le discernement politique.
Philippine de Saint Pierre : Une chose qui revient à plusieurs reprises dans le texte c’est « on n’est pas là pour dire "attention la technologie c’est mal" ». La technologie n’est ni bonne ni mauvaise, elle peut être précieuse, en tout cas elle n’est pas neutre et il faut qu’il y ait des repères éthiques, je caricature un peu Laurence.
Laurence Devillers : Non, pas du tout. C’est tout à fait juste, l’IA n’est pas neutre. Elle est faite par un certain nombre de personnes à partir de données d’autres personnes, avec des paramètres à l’intérieur qui sont décidés par des ingénieurs, avec une évaluation qui est faite plus ou moins bien et même nous, chercheurs, nous ne pouvons pas aller voir à l’intérieur de tout. On a des systèmes qui sont en open source, on fait beaucoup de travaux pour essayer de creuser et comprendre comment la machine, évidemment, a des émergences d’abstraction intéressantes. Elle n’a pas du tout une intelligence artificielle générale. Ce qu’on nous raconte est aussi, quelque part, un discours très marketing. C’est difficile, pour tous les citoyens aujourd’hui, de faire la part de ce qui est marketing, de ce qui est scientifique, parce qu’il n’y a pas cette transparence, en tout cas il n’y a pas suffisamment d’ouverture de ces systèmes pour qu’on comprenne réellement ce qu’ils sont en train de faire. Et les acteurs, comme Anthropic, disent eux-mêmes qu’ils ne comprennent pas non plus.
Il est vrai que ces systèmes sont complexes, mais on peut quand même avoir plus de transparence, on peut expliquer un certain nombre de niveaux qui ne sont pas expliqués et c’est tout à fait dommage que ce ne soit pas le cas. Il faut pousser les géants du numérique à être beaucoup plus transparents.
Philippine de Saint Pierre : Avec avec cette posture de l’église qui est ni diaboliser la technique en disant « oh, là, là, on ne va pas dans cette direction », une sorte d’anti-croissance idéologique, ni de tout accueillir de façon béate.
Augustin Bourgue : C’est ça. Et puis ne pas réduire la question que pose l’IA à la question de l’usage. Il y a plusieurs façons de se rapporter à l’IA et la plus spontanée c’est de dire que c’est un outil. C’est vrai, c’est un outil et, dans ce cas-là, la question c’est bien utiliser, mal l’utiliser, c’est une question qui est réelle, mais c’est loin d’être la seule question. L’IA n’est pas qu’un outil. On parle de technique, c’est quelque chose qui entend perfectionner l’activité humaine et qui est à la fois un remède et un poison. Il faut donc montrer comment, finalement très vite, on se rend compte que l’Homme devient l’esclave de la machine.
Philippine de Saint Pierre : Et vous parliez de la solennité du pape qui nous dit « là on est à un carrefour, il faut choisir le chemin qu’on va prendre » et il commence par deux récits bibliques.
Augustin Bourgue : Tout à fait. C’est intéressant et je pense qu’il faudra y revenir dans la suite. Le pape, tout au long de l’encyclique, propose deux modèles on pourrait dire, le premier c’est la construction de la Tour de Babel, en Genèse 11, et le deuxième c’est la reconstruction de Jérusalem, après l’exil, conduite par Néhémie.
Le premier type de construction c’est, on pourrait dire, une idolâtrie du profit, de l’efficacité, une volonté de puissance qui s’exprime dans une tour qui est construite explicitement, volontairement sans Dieu et avec une logique d’uniformisation : une seule langue, une seule technique, une seule technologie, la brique, une seule direction. Il y a là comme une volonté totalisante qui s’exprime dans le langage et le pape a cette remarque intéressante, il dit : « Le langage numérique a la prétention de pouvoir tout traduire, y compris le mystère de la personne humaine, en données, en data. »
Philippine de Saint Pierre : Sauf que dans l’histoire de Babel, si je me souviens bien, à la fin personne ne se comprend.
Augustin Bourgue : Exactement, ça se finit mal, ça finit par la dispersion, par la division.
De l’autre côté, il y a la reconstruction de Jérusalem. Là c’est le contraire, ce n’est pas une volonté de puissance. C’est la reconnaissance d’un échec, on est devant des ruines, mais on ne reste pas les bras croisés devant des ruines, on est interpellé par la situation et que fait Néhémie ? Il prie, il jeûne, il intercède et, nous dit le pape « il va voir les gens avant de poser les pierres, il reconstruit les liens avant de poser les pierres » et il le fait en sollicitant toutes les familles, en confiant à chacune une partie du mur.
Philippine de Saint Pierre : Il y a une contribution de tout le monde.
Augustin Bourgue : Exactement.
Philippine de Saint Pierre : Laurence, cette contribution.
Laurence Devillers : C’est effectivement collectivement qu’on doit travailler sur ce sujet de l’intelligence artificielle à tout niveau. Chaque citoyen, en fait, est lui-même un acteur de ce qui va se passer demain, pour ses enfants notamment, s’il a des enfants.
Ces images sont fantastiques je les ai déjà entendues un certain nombre de fois.
Par contre, j’insiste plus sur le fait qu’il n’a effectivement pas diabolisé l’IA dans son écrit. Il a dit que ça apporte beaucoup, peut-être pour calmer des souffrances, etc. Je pense qu’il faut aller encore plus loin pour dire que ça nous permet de mieux comprendre le monde si on sait l’utiliser et, pour cela il faut éduquer en grandeur toute la population.
Philippine de Saint Pierre : Il y a un chapitre sur l’école.
Laurence Devillers : Oui. Il faut vraiment que ce soit un message que tout le monde entende et aujourd’hui ce n’est pas le cas. On a des Cafés IA [2], on parle à droite à gauche, mais ce n’est pas suffisant. Les voix sont très mélangées, aujourd’hui tout le monde parle d’IA avec des propos qui vont dans tous les sens, je ne sais pas comment on peut se repérer, c’est en cela que ce texte est essentiel.
C’est aussi essentiel de réfléchir collectivement, parce que c’est collectivement – la maïeutique de Socrate – qu’on arrivera à délibérer réellement, à trouver la vraie place de cet objet que je dis être plutôt un outil pour les experts, mais qui est, paradoxalement, très anthropomorphisé par les citoyens qui ne savent pas du tout comment c’est fait, puisque cette machine parle comme un humain.
Philippine de Saint Pierre : D’ailleurs on croit que c’est comme un être humain.
Laurence Devillers : Et on lui prête des connaissances qu’elle n’a pas.
Philippine de Saint Pierre : Même des sentiments aujourd’hui.
Laurence Devillers : On lui prête des émotions qu’elle n’a pas et on lui prête même des intentions morales. C’est très dangereux. Ces trois niveaux-là sont présents dans les données qu’elle utilise pour l’apprentissage et dans la façon dont on a élaboré l’apprentissage de cette machine, qui n’a rien d’un apprentissage humain. C’est donc vraiment important de reprendre cela.
Pour moi « désarmer l’IA » c’est aussi dire que l’intelligence artificielle n’est pas du tout humaine, elle n’a rien à voir avec une super intelligence humaine, elle est autre chose. C’est une sorte d’intelligence livresque, livrée à ses données, et qui, si elle était bien construite, serait extrêmement intéressante, est extrêmement intéressante. Je suis aussi plutôt très positive, comme ce texte qui, finalement, dit « on va y arriver, on va trouver des solutions, on va tous être acteurs de ces solutions », mais il est essentiel, aujourd’hui que la vérité revienne sur le devant de la scène.
Augustin Bourgue : Je reviens sur la notion d’outil, quand je dis « c’est plus qu’un outil », c’est un système, c’est un environnement, le pape parle d’environnement. Dans les différentes approches de l’IA ou du numérique en général et de la technique, il y a cette dimension environnementale, on vit dedans. Ce n’est pas un média, ce n’est pas le virtuel, c’est notre monde en fait. D’ailleurs, nous configurons nos outils informatiques, nous sommes chez nous, c’est notre monde. Donc, le rapport au numérique et à l’IA, ce n’est pas juste celui du rapport à un outil. J’allais dire que c’est comme dans la crise environnementale, on fait partie d’un ensemble, et là c’est un peu de cet ordre-là. Je cite deux choses pour le montrer. Le pape dit : « Dans l’IA sont à l’œuvre des rapports de pouvoir, il faut les cartographier et ce n’est pas normal que ce pouvoir immense soit dans la main de quelques-uns. » Je pense que c’est un trait marquant de ce texte, je ne l’avais jamais lu avant dans des encycliques, il dit « des acteurs privés ». « Ce n’est pas normal qu’un pouvoir si grand soit dans la main de quelques acteurs privés. »
Et puis il y a la question écologique. Je n’ai plus les mots exacts en tête, mais le pape dit, en gros, « il faut tracer la carte de ces dépendances, notamment du coût énergétique », et quand on dit tout ça on se rend compte que ce n’est pas simplement utiliser bien ou mal, c’est se poser la question « en fait, qu’est-ce qu’on cherche ? Quelle est la finalité ? ». Pour les concepteurs d’IA, il n’y a pas de problème d’éthique, pour eux il faut concevoir, il faut travailler, mais on a droit de demander : « Pourquoi faites-vous ça ? Qu’est-ce que vous cherchez ? Quelle est votre finalité ? »
Laurence Devillers : C’est encore pire que cela. Ils ont quand même une finalité qui est celle de garder votre attention le plus longtemps possible pour collecter vos données et vous manipuler avec des publicités et autres pour des achats possibles. Donc la liberté dont tout le monde parle, la liberté humaine, excusez-moi ! Quand vous êtes pris par ces machines et que vous arrivez à être sept heures de suite, comme le sont mes étudiants à la Sorbonne, devant un portable à chatter ou à voir je ne sais quoi sur les réseaux sociaux, je pense qu’il n’y a plus de liberté. Vous ne vous rendez pas compte à quel point cette main invisible vous capture. On parle de dopamine. J’ai travaillé sur des capsules éthique du numérique [3] à la Fondation Blaise Pascal, dont je suis actuellement présidente, pour pousser l’école très tôt, à partir de l’école élémentaire, à expliquer aux enfants qu’il y a là un piège. Que lorsque on est devant cette machine et qu’on est pris au piège, il y a effectivement de la dopamine dans notre corps, l’hormone du bonheur dit-on, qui fait qu’on est bien et qu’on se sent frustré lorsque la maman arrive en disant « stop, ça suffit, j’éteins ce portable ou ce jeu. » C’est donc important que le monde entier, qu’on soit enfant, adolescent ou adulte, se rende compte de cette mystification en fait. Je pense que ce n’est pas neutre, du tout, qu’on soit attiré par ces machines. On risque d’en dépendre beaucoup et on voit des aspects très délétères. Il est essentiel, le pape le dit aussi, de donner un code éthique. Il a aussi dit qu’il fallait pouvoir, finalement, faire un jeûne de l’IA, j’ai trouvé que c’est un très bon pitch pour expliquer.
Philippine de Saint Pierre : Pour éviter les addictions.
Laurence Devillers : Bien sûr. Chez nos enfants, les addictions sont faramineuses, on parle de problèmes de santé mentale, de désapprentissage, cette machine nous donne les solutions directement. Pour les adultes et tous les experts, il y a des problèmes pour le travail, sans doute de remplacement, et encore, je pense qu’on pourra en reparler aussi, c’est un des sujets importants. Pour les enfants, il est essentiel de dire partout où on le peut « attention » et que l’école s’empare des moyens pour expliquer réellement.
Philippine de Saint Pierre : Il faut apprendre à domestiquer ? Il faut rester maître ?
Laurence Devillers : Il faut challenger.
Philippine de Saint Pierre : Il ne faut pas dire « pas d’écran avant 20 ans. »
Laurence Devillers : Pas du tout, ce n’est pas du tout ça. Il ne faut pas interdire, parce que c’est aussi une mine de connaissances si on sait les lire. Ce ne sont pas des connaissances en tant que telles, mais on est capable d’appréhender des choses qu’on n’aurait pas pu voir, pas pu lire, comme en radiologie pour détecter les cancers précoces, ces machines voient autre chose.
Philippine de Saint Pierre : Comme on prend l’habitude que les machines répondent tellement vite à nos questions, on a à peine le temps de formuler la question, ça peut tuer la curiosité et pour toute l’humanité c’est très dangereux.
Laurence Devillers : Bien sûr. C’est très intéressant. Il y a, derrière, la théorie de Kahneman, un économiste, prix Nobel en 2002, qui parle de système 1 et de système 2 [4] :
le système 1 c’est la voie rapide, l’intuition pour les humains, très émotionnel ;
le système 2, c’est cognitif, je réfléchis, je regarde mon passé, mon éducation.
Ces machines sont système 1, sans intuition. Ce ne sont pas des émotions, c’est un calcul sur les données qu’elles ont avalées. Vous décidez très vite derrière, c’est système 1 sur système 1, personne n’a réfléchi.
Augustin Bourgue : C’est aussi une difficulté. Comment la liberté est-elle touchée ? Il y a effectivement cette dépendance, cette relation biaisée, parce que, comme vous le disiez, si l’intention économique c’est d’exploiter les pulsions de l’Homme pour en faire de l’argent, c’est une intention qui est inique, non seulement l’outil n’est pas neutre, mais il est mal orienté.
Il y a plusieurs autres questions par rapport à la liberté. Il y a celle d’avoir la capacité d’engager sa propre liberté dans la recherche, de croire qu’il suffit de poser une question pour savoir, non, ce n’est pas comme cela que ça marche et puis il y a la question de la délégation de la décision. Ce qui est spécifique à l’Homme, c’est qu’il est un être libre, fait pour la relation. Le pape revient à plusieurs reprises là-dessus.
Philippine de Saint Pierre : Même la vérité est relation, il l’explique bien. Si on pousse ce que vous venez de dire, on arrive au chapitre 5 sur le danger que l’intelligence artificielle fait courir notamment en matière de guerre. Ce n’est pas uniquement qu’on aurait des armes plus efficaces, c’est surtout qu’on délègue des décisions qui deviennent en apparence indolores et qui peuvent tuer des milliers de gens.
Augustin Bourgue : La guerre est l’exemple type. Le fait d’avoir mis la guerre un peu à la fin est intéressant, d’avoir montré aussi comment l’IA, en matière de guerre, change la donne. Ça montre qu’en déléguant notre capacité de décision, alors qu’on se dit qu’il y a toujours un homme au bout, c’est en fait hypocrite. Puisque le but c’est de produire, je ne sais pas, 1 000 cibles par jour et qu’on est incapable de le faire humainement, l’homme clique. L’homme qui est au bout est esclave de la machine, il clique, il est incapable de vérifier la façon dont les cibles ont été désignées, le pourquoi, le comment, donc, en fait, il ne décide rien du tout, il ne valide rien du tout.
C’est grave parce que ce sont des décisions prise avec cette distance. En fait, comme personne ne décide, on a dilué la responsabilité, on l’a fait disparaître et on tue des gens.
Philippine de Saint Pierre : Et ça paraît indolore. C’est mécanique.
Augustin Bourgue : Exactement. On démolit des immeubles, on tire sur des immeubles, parce que l’IA, si vous voulez, abaisse le seuil de la violence tolérable. On le voit à l’échelle d’une vie humaine : en cinq ans, en dix ans la façon dont une même nation fait la guerre a changé de façon dramatique. L’IA n’est pas la seule cause mais clairement elle participe.
Philippine de Saint Pierre : UN bouleversement culturel, avec une autre intention, dans le texte, qui est aussi de souligner l’iniquité Nord/Sud notamment, qui est très présente dans cette révolution. À plusieurs reprises le pape insiste non seulement parce qu’il y a des petits enfants qui vont chercher des minerais rares pour fabriquer toutes ces machines dont eux ne bénéficient pas, mais aussi parce que, précisément, les effets positifs sont au Nord et les effets délétères plus facilement au Sud.
Laurence Devillers : Il n’y a pas que Nord/Sud. Il va y avoir des inégalités encore plus fortes dans nos démocraties. Au Nord on va avoir des clivages monstrueux si on continue ce qu’on est en train de faire, c’est-à-dire mettre dans les mains des gens un outil qu’ils ne maîtrisent pas du tout et qui les aide à décider, qui décide à leur place, sans les former, sans former tout le monde.
Philippine de Saint Pierre : Les nouvelles fractures sociales.
Laurence Devillers : Totalement. Qui va voter demain en demandant à ChatGPT ou à Claude pour qui voter ?
Augustin Bourgue : Et c’est pareil dans la vie affective.
Laurence Devillers : Dans la vie affective : si mon mari me trompe, je fais quoi ?
Augustin Bourgue : Exactement.
Laurence Devillers : C’est absolument dingue !
Je rajouterais quelque chose à ce que vous avez dit tout à l’heure : l’IA, aujourd’hui, est totalement hors-sol, c’est-à-dire en dehors de l’espace dans lequel nous vivons. Vous avez dit « c’est un objet sur lequel nous sommes totalement présents », je suis d’accord, mais la modélisation qui est faite par l’IA est non spatiale, non chronologique et finalement sans modèles du monde, ce qui fait qu’elle ne peut pas réagir par rapport aux modèles du monde. L’humain est tellement divers : je peux choisir quelque chose qui est très peu probable, que la machine ne choisira pas, et je le choisirai par conviction morale, ce que cette machine ne peut absolument pas faire. En plus, quand elle vous dit de sauter d’un tabouret, c’est la même chose, pour elle, que vous dire de sauter par la fenêtre. Il n’y a pas de rapport au monde réel. Quand elle vous donne des conseils matrimoniaux ou de vie, c’est dramatique !
Augustin Bourgue : Tout à fait. Vous touchez un des points essentiels. En face on n’a pas une personne libre qui engage son histoire et son existence dans sa parole ou dans son acte ; vous le disiez « il n’y a personne en face ».
Laurence Devillers : Il n’y a pas d’altérité.
Augustin Bourgue : Exactement. Donc on délègue à quelque chose qui n’a pas la capacité de décider au fond, au sens de la décision profonde qui est d’engager sa liberté.
Philippine de Saint Pierre : C’est là où il faut revenir au sens du texte qui est précisément de souligner que l’être humain, cette « magnifique humanité », a la liberté, la capacité de décider, c’est sa responsabilité et c’est maintenant.
Laurence Devillers : « Chaque personne est unique et irremplaçable, sujet libre et intelligent doté d’une conscience capable de chercher, de servir le prochain, de chercher Dieu, de faire vivre notre communauté », c’est ce qu’il dit et c’est très fort. Ces machines n’ont rien d’altérité, elles ont pas de qualia, vous voyez ce que sont les qualia [5] ? C’est l’expérience de vie, c’est l’expérience du sentir, de l’émotion, du bleu, du rouge, de tout ce qui est autour de nous. Nous ressentons, nous imaginons des choses, ce que la machine ne peut pas du tout ni en raisonnement ni de façon interne dans une quelconque modélisation. Aujourd’hui les LLM, dont tout le monde dit que c’est extraordinaire, qu’on va arriver à l’intelligence artificielle générale, c’est du bluff ! Peut-être qu’on y arrivera avec d’autres systèmes, Yann Le Cun propose d’autres modèles, des world models [6] et des systèmes plus complexes qui sont des avancées pour aller dans un sens de conscience artificielle. Est-ce qu’on veut aller vers ça ?
Augustin Bourgue : C’est toute la question de la finalité.
Philippine de Saint Pierre : On veut que le robot ait une conscience.
Laurence Devillers : En fait, pour qu’il soit vraiment utile dans notre environnement en 3D, il vaut mieux suivre le système que va faire Yann Le Cun que les LLM.
Philippine de Saint Pierre : LLM, pardon, pour ceux qui nous regardent ?
Laurence Devillers : Large Language Models. IA générative, ChatGPT, Claude, tout cela contient des LLM, d’ailleurs ils vont travailler la plupart du temps sur des datacenters aux États-Unis, sur des clouds américains qui utilisent des énergies fossiles, du gaz.
Philippine de Saint Pierre : Merci pour cette transition. Il y a une chose qui est très frappante dans ce texte très long, très ample, on l’a dit, avec énormément d’entrées, c’est que tout est lié, pour reprendre une expression qu’on a beaucoup entendue dans le pontificat précédent, mais c’est flagrant dans ce texte, que l’on parle des migrations, de nos systèmes économiques, de la santé de nos sociétés, de la guerre, des relations entre les États, de la famille et du couple, de la protection de la vie humaine, il y a aussi de nombreux paragraphes de sa conception à sa fin naturelle, de la famille et du couple, etc.
Augustin Bourgue : Tout à fait. C’est pour cela que le modèle environnemental qui considère le numérique comme faisant partie de notre environnement, d’ailleurs on lui donne des noms – le nuage, le cloud –, même s’il est plus difficile à appréhender, savoir que faire dans ce genre d’approche, me semble mieux correspondre que juste dire que c’est un outil. C’est plus qu’un outil, ça fait partie de notre environnement.
La deuxième chose, la question qui est posée derrière par le pape et là Léon XIV s’inscrit dans la lignée de Paul VI avec Populorum progressio et de Benoît XVI avec Caritas in veritate, c’est la question du progrès. Qu’est-ce que c’est en vrai ? Et il donne des critères. Je pense que rarement, dans une encyclique, on a eu autant de critères sur ce qu’est le progrès véritable, il faudra revenir dessus.
Philippine de Saint Pierre : Ça rejoint le développement humain intégral et non pas la mesure technologique ou économique du progrès.
Augustin Bourgue : Exactement. Qu’est-ce que le progrès ? Une société plus avancée, c’est quoi ? Est-ce que c’est parce qu’elle est plus puissante, qu’elle a plus de moyens pour des « fins rachitiques », comme dit le pape François, ou est-ce que c’est qu’elle a une conscience plus vive de ce qu’est la finalité de l’existence ou de ce qu’est une vie proprement humaine ?
Philippine de Saint Pierre : En tout cas, il écrit : « On ne peut pas mesurer le développement au produit intérieur brut. »
Augustin Bourgue : C’est un de ces passages.
Laurence Devillers : C’est vraiment important de le dire parce que nous le racontons tout le temps, les chercheurs sont en général des voix qui essaient de porter sur cette dimension, mais nous sommes très peu écoutés. De la même façon que quand j’entends qu’une nouvelle start-up vient de lever x millions, voire milliards, je veux savoir pourquoi, pour quoi faire, à quoi ça va servir dans la société, mais jamais on ne me le dit ! Ça n’intéresse personne ! Je crois qu’il faut arrêter de jouer à cela. C’est aussicela désarmer l’IA, c’est désarmer cette compétitivité complètement folle, à coup de milliards, pour aller vers où ? Je pense qu’il y a un sujet énorme à côté de ça qui est la dénatalité. On envoie à nos enfants des visions, des imaginaires extrêmement négatifs et c’est cela qu’il faut changer extrêmement vite. C’est en cela que ce texte est très bien parce qu’il est aussi positif.
Augustin Bourgue : Tout à fait. C’est très juste. Je voulais en dire un mot. À plusieurs reprises le pape dit : « Le but ce n’est pas d’être des spectateurs résignés, de contempler les ruines, mais d’être comme Néhémie qui passe à l’action. » À un moment il dit même qu’il faut se salir les mains sur le chantier de la construction de la cité terrestre, en donnant aussi justement cette boussole pour savoir ce qui est proprement humain, ce qui construit un monde plus humain, en tout cas tout le monde est concerné.
Philippine de Saint Pierre : Et c’est possible de substituer la logique de l’amour à la logique du pouvoir qui règne actuellement.
Augustin Bourgue : Exactement. La condition, peut-être, c’est de ne pas rejeter la limite, la fragilité, la faiblesse parce que l’IA c’est ça, c’est la prétention, c’est le transhumanisme, le post-humanisme.
Laurence Devillers : C’est faux, ce sont des stories qui viennent des États-Unis.
Philippine de Saint Pierre : C’est un mythe contemporain.
Augustin Bourgue : Peu importe, ce sont des récits qui accompagnent la présentation du produit.
Laurence Devillers : Mais nous ne sommes pas tant fragiles que ça ! D’accord, nous sommes mortels, mais on s’adapte à une vitesse extraordinaire, on apprend très vite, on peut avoir des idées incroyables, c’est nous qui avons fait tous ces systèmes. Dire que nous sommes fragiles et pauvres et que l’IA est là, tellement géniale...
Philippine de Saint Pierre : En fait c’est accepter la limite.
Augustin Bourgue : C’est consentir, c’est la condition pour en faire quelque chose. La plus grande pauvreté, c’est la solitude. C’est d’ailleurs un des passages, la simulation de relation n’est pas une relation.
Laurence Devillers : Justement, il y a cinq piliers de l’intelligence émotionnelle qui ne sont pas présents dans l’IA, du tout :
- la conscience de soi, si elle fait de la métacognition sur deux petits bouts, ce n’est pas grand-chose
- la maîtrise de soi
- la motivation, il n’y a pas de motivation dans tout ça
- l’empathie, c’est de l’artificiel. J’en faisais, je peux vous dire que ça n’a rien du tout de génial
- les aptitudes sociales, rien de cela.
L’humain est tellement plus fort et tellement plus armé pour vivre collectivement, affectivement et construire des choses incroyables pour du progrès demain, qu’il me semble qu’il faut vraiment remettre les pendules à l’heure et ne pas toujours dire que nous sommes très fragiles face ces machines.
Philippine de Saint Pierre : Remettre les pendules à l’heure, c’est ce que fait en grande partie ce texte.
Laurence Devillers : Tout à fait.
Philippine de Saint Pierre : Donc on ne peut que conseiller, maintenant, de retourner au texte, d’aller le lire, il est disponible depuis aujourd’hui.
Si vous voulez en savoir plus, Savoir-vivre avec l’IA, Laurence Devillers, chez Denoël dans la collection Masterclass.
Merci beaucoup d’être venus sur ce plateau.
Laurence Devillers : Merci à vous.
Philippine de Saint Pierre : Merci père Augustin Bourgue, de nous avoir reçus.
Augustin Bourgue : Avec joie.
Philippine de Saint Pierre : Et merci au Collège des Bernardins. On n’a pas fini de parler de cette magnifique humanité ni de l’humanité elle-même ni du texte, bien sûr.
Laurence Devillers : Et désarmons l’IA !