Data science, IA : le mythe du solutionnisme technologique - Romain Boucher

Emmanuel Macron en off : Je pense en particulier à Facebook, Google, Samsung, DeepMind que je remercie pour leur confiance parce qu’ils ont permis de fertiliser cet écosystème. C’est à cette excellence que nous devons les annonces d’implantation de ce jour. Les centres de recherche de Samsung, Fujitsu, IBM, DeepMind, venant rejoindre ceux de Google ou Facebook, vont contribuer à créer en France un maillage de compétence, de laboratoires, d’expérimentation au meilleur niveau mondial, ce qui est un atout formidable.

Mathilde Wateau : Salut Romain.

Romain Boucher : Salut.

Mathilde Wateau : Tu nous as transmis un rapport [1] très fourni sur les raisons de ta démission d’un poste prestigieux en data science. On entend partout qu’un data scientist exerce le métier le plus sexy du 21e siècle, peux-tu nous expliquer pourquoi ?

Romain Boucher : C’est vrai qu’il y a eu un véritable essor de ces nouvelles disciplines que sont les data sciences, l’intelligence artificielle, le big data, au cours de ces dernières années, tout simplement parce que c’est devenu techniquement possible grâce à l’accélération en matière de calcul informatique et de stockage d’informations. Il y a un nouveau langage très marketing qui s’est instauré au fur et à mesure. On parle beaucoup du data scientist qui est l’expert de la donnée, de l’intelligence artificielle dès lors qu’il y a automatisation d’une forme de prise de décision. Pourtant, ce ne sont pas des choses qui sont radicalement nouvelles, ce sont des choses qui ont été théorisées il y a 40/50 ans. C’est vrai que ces dernières années il y a un véritable effet de mode, notamment chez les jeunes ingénieurs.

Mathilde Wateau : Tu as passé trois ans à travailler comme data scientist pour le cabinet de conseil Sia Partners. Malgré un début de carrière très prometteur tu as décidé de démissionner. Peux-tu nous expliquer pourquoi et quel bilan en tires-tu ?

Romain Boucher : En sortie d’école d’ingénieurs, j’ai essayé de mettre mes connaissances scientifiques au service de l’intérêt général. Ça a été à la fois un succès et un échec.
Dans un premier temps, après quelques mois dans le secteur de l’énergie, j’ai réussi à être en charge des missions de data science dans le secteur public et techniquement c’était hyper satisfaisant. Mais c’était aussi un échec parce que j’ai vite réalisé que l’impact de mes missions serait au mieux largement insuffisant pour améliorer le service public, au pire préparait le terrain à des coupes budgétaires. Suite à quoi j’ai dressé un petit bilan de l’impact des data sciences sur la société, que j’expose dans le rapport, en matière de qualité de vie, d’environnement et en termes de démocratie et de libertés qui était assez déplorable, donc j’ai décidé de quitter le navire.

Jérémy Désir : En quelques décennies, le numérique a pris une place centrale dans nos vies personnelles, professionnelles. Comment ça s’illustre dans le monde du travail ?

Romain Boucher : Il faut voir que c’est devenu quasi impératif pour les entreprises de maîtriser les derniers outils du numérique, l’intelligence artificielle, de montrer qu’elles ont un agent conversationnel, qu’elles ont une infrastructure cloud, ce genre de choses. On est vraiment sur une question d’image pour rassurer les clients, les investisseurs, voire sa propre hiérarchie et les cabinets de conseil, là-dedans, jouent un véritable rôle de catalyseur et en tirent des bénéfices assez fructueux.
Oui, il y a vraiment un effet d’auto-entraînement, une auto-conviction au mythe de la machine, des algorithmes qui viendraient nous délivrer de notre travail alors qu’ils nous asservissent tous les jours un petit peu plus.

Mathilde Wateau : Qu’est-ce que tu entends par la mainmise des GAFAM ?

Romain Boucher : Les multinationales de la tech, plus largement, se sont emparées de l’écosystème informatique en quatre temps. D’abord de tous les services qui sont massivement utilisés par des milliards de gens en prenant possession des données des utilisateurs, en prenant possession des infrastructures sur lesquelles reposent ces services et, plus récemment, de l’état de l’art de la recherche, notamment en intelligence artificielle, en y attribuant des budgets complètement inégalables.

Mathilde Wateau : À quelle logique répond l’engouement pour la technologie ?

Romain Boucher : Vraiment une dynamique, une logique libérale classique, c’est-à-dire : c’est devenu techniquement possible de le faire, ça rapporte énormément d’argent et, en plus, ça consolide les structures de pouvoir en place, donc on y va vraiment sans hésiter.

Mathilde Wateau : Qui sont les premiers bénéficiaires ?

Romain Boucher : Dans les premiers bénéficiaires on trouve évidemment les multinationales de la tech, on trouve le secteur banque/assurances et on trouve aussi le marketing et la pub qui investissent très fortement dans l’intelligence artificielle et c’est d’ailleurs là qu’on va trouver énormément d’offres d’emplois pour les jeunes data scientists.

Jérémy Désir : On constate que l’éloge du progrès technologique précède la réflexion sur les usages. Est-ce que tu pourrais nous en dire plus ?

Romain Boucher : Dans les États comme la France, il y a eu une inquiétude grandissante quant à la souveraineté numérique en face des géants américains et chinois. C’est pourquoi on s’est empressé, dès le début des années 2010, à essayer de rattraper notre retard en matière d’intelligence artificielle en mettant au pas l’éducation supérieure et la recherche sans vraiment se poser la question des champs d’application. C’est vraiment sur le tard, en 2017/2018 à peu près, qu’on a commencé à se poser la question des usages et à quoi ça pourrait bien nous servir.

Jérémy Désir : Quels sont les champs d’application pour l’État français ?

Romain Boucher : Le rapport Villani [2] de 2018 fait état de quatre champs d’application, deux champs qui traitent un petit peu de la souveraineté de l’État qui sont la défense et les transports ; le troisième, qui est très mis en avant, c’est la santé qui sert souvent de caution à tous les progrès technologiques. C’est vrai qu’avec les dernières avancées en intelligence artificielle on peut établir des diagnostics qui permettent aux plus aisés de mieux vivre un petit peu plus longtemps, mais, souvent, les budgets qui y sont consacrés sont amputés aux budgets de santé publique. On voit que même en 2020, pendant une pandémie, on continue de supprimer des moyens et des lits. Ce n’est pas forcément quelque chose qui est toujours très philanthropique. On se souvient de Microsoft qui, depuis 2019, héberge les données de santé en France malgré toutes les alertes qu’a pu soulever la CNIL.

Mathilde Wateau : On entend souvent que l’IA est dématérialisée. Tu es d’accord ?

Romain Boucher : On dit souvent que l’IA, l’intelligence artificielle, le numérique, sont des choses complètement dématérialisées. C’est une jolie fable sur laquelle repose toute une partie du modèle économique occidental. Pour resituer le débat, la consommation de papier, par exemple, continue d’augmenter de 1 % par an dans le monde et, en France, c’est à peu près de 3 %. Il faut se rappeler que le numérique c’est aussi plus d’un million de kilomètres de câbles sous les océans, des centaines de millions de serveurs et de datacenters un petit peu partout à la surface du globe, donc on est sur des choses qui sont on ne peut plus matérielles.

Mathilde Wateau : L’IA est pourtant souvent présentée comme un levier pour résoudre la crise écologique. Qu’en penses-tu ?

Romain Boucher : L’environnement c’est d’ailleurs le quatrième axe du rapport Villani de 2018. Là on ne sait plus vraiment s’il faut rire ou pleurer de ce genre de choses. Pour dire quelques mots de l’industrie du numérique, c’est d’abord un bilan énergétique énorme, c’est 4 % des émissions de CO2 actuellement, ça pourrait être amené à doubler d’ici 2030 si on ne fait rien. C’est l’extraction massive de terres rares, de métaux, d’éléments chimiques en tout genre jusqu’à l’épuisement et sans considération aucune pour les écosystèmes ou sans considération sociale, d’ailleurs ce sont des dizaines de milliers d’enfants qui continuent à travailler dans les mines de cobalt. Et puis, aussi, toutes les pseudo-solutions à base d’intelligence artificielle qui viendraient nous sauver comme une agriculture 4.0, des bilans énergétiques plus performants, ou même une optimisation des chaînes d’approvisionnement. Au mieux elles sont insuffisantes, au pire elles sont aggravantes, en fait, parce qu’elles traitent tout le temps en surface des conséquences mais jamais des causes de la crise écologique.

Jérémy Désir : Qu’est-ce que le data for good, est-ce que le reste c’est des data for bad ?

Romain Boucher : On parle beaucoup de data for good, de for good en général ces dernières années, dans mon entreprise c’était le consulting for good. Il y a un vrai problème de dissonance cognitive chez beaucoup de jeunes diplômés, de jeunes ingénieurs notamment. Il y a vraiment une tendance à se réapproprier positivement les choses, la technique. Par contre, ce sont des choses qui restent pas rentables, donc dans lesquelles on investit très peu, donc qui restent vraiment minoritaires. Par contre, on les met beaucoup en avant parce que c’est une belle caution de tout le reste.

Mathilde Wateau : Tu mentionnes un tournant dans la fonction sociale de l’IA.

Romain Boucher : Avec l’IA on a assisté à un vrai tournant des technologies de l’information dans leur rôle social et sociétal. On est passé de quelque chose de très consultatif, d’aide à la décision, à quelque chose de plus en plus incitatif avec l’omniprésence d’algorithmes de personnalisation, de suggestion, de recommandation. Plus récemment on est passé à des modes carrément injonctifs avec des algorithmes qui peuvent dicter la marche à suivre dans certains entrepôts comme ceux d’Amazon. Là, on arrive aussi à des modes coercitifs même avec des États dits démocratiques comme la France qui installent des outils de surveillance de masse, de reconnaissance faciale, ce genre de choses. Alors que dans le même temps on pourrait utiliser ces techniques d’intelligence artificielle ou autres au service de la démocratie. L’occasion était présente pour l’analyse des données du grand débat [3] à laquelle j’ai pris part. Mais dans ces cas-là on se contente de mandater un cabinet de conseil sans appel d’offres, de rédiger une petite synthèse et de refermer la boîte de Pandore.

Jérémy Désir : Qu’est-ce que tu suggères pour combattre cette aliénation et comment vois-tu le rôle des ingénieurs ?

Romain Boucher : Il y a des choses auxquelles il faut pallier de façon assez cruciale. D’abord un enseignement critique de la technique qui n’est quasiment pas dispensé en école d’ingénieurs ou dans les cursus scientifiques. On a très peu de sociologie, de philosophie, d’histoire, d’anthropologie des sciences, donc il faudrait y remédier. Il faudrait aussi former beaucoup plus à des techniques douces et démocratiques dans le sens où elles sont appropriables par le plus grand nombre.

Mathilde Wateau : Quelles sont tes perspectives depuis ta démission ?

Romain Boucher : Mon combat c’est de remettre de la politique dans le monde technoscientifique en combattant notamment les fausses solutions, toutes les solutions qu’on peut imaginer à base d’intelligence artificielle ou autre. C’est aussi de participer à l’émergence de nouveaux contre-pouvoirs en consolidant les réseaux d’entraide entre militants, activistes, médias indépendants.

Mathilde Wateau : Merci Romain.

Jérémy Désir : Merci et sache que tu n’es pas seul.

Romain Boucher : Merci à vous.