Titre :

Intelligence artificielle en Chine : surveiller et punir

Intervenant :

Charles Thibout

Lieu :

Paris Open Source Summit

Date :

décembre 2019

Durée :

21 min 55

Visualiser la vidéo

Diaporama support de la présentation

Licence de la transcription :

Verbatim

Illustration :

capture d’écran de la vidéo

Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l’April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Bonjour à tous. Désolé pour mon état de fatigue qui est fort avancé. J’espère que je vais rester en bonne forme tout le long de cette présentation.

Aujourd’hui je vais vous parler d’intelligence artificielle en Chine avec ce sous-titre « Surveiller et punir », parce que je ne crois pas me tromper en disant que quand on pense comme ça d’instinct, ensemble, l’intelligence artificielle et la Chine, c’est l’image d’une société entièrement contrôlée qui nous vient en tête, l’image d’une société entièrement quadrillée par des logiciels de reconnaissance faciale, des logiciels d’analyse de big data et j’en passe et des meilleurs. Finalement l’image d’une population qui serait en état d’assujettissement total et qui serait dans l’incapacité totale également de se rebeller contre ce qui représente pour nous, de notre point de vue d’Occidentaux, une atteinte extrêmement grave aux libertés les plus élémentaires. Et très sincèrement, on n’aurait pas tort de penser cela.
Un petit point sur l’intelligence artificielle en Chine.

Sachons déjà qu’il y a 176 millions de caméras de vidéosurveillance, uniquement de vidéosurveillance, en Chine à l’heure actuelle. 29 % des, appelons-les comme ça, appareils de reconnaissance faciale produits sur la planète se trouvent actuellement en Chine. 29 %. Et cette part devrait passer à 45 % d’ici 2023. Et la Chine utilise la reconnaissance faciale, l’intelligence artificielle au sens large du terme, pour tout un tas de raisons. Celle qui va nous intéresser plus spécialement aujourd’hui, c’est à des fins sécuritaires.
Où en est-on exactement ?

Les autorités chinoises ont recours aux caméras équipées de reconnaissance faciale pour surveiller les allées et venues au niveau des frontières, à la douane, pour faire surveiller, repérer un piéton qui traverserait en dehors des passages cloutés, pour identifier un étudiant dans une salle de classe qui serait un petit peu dissipé. Bref ! Ces caméras sont partout. Elles sont aussi sur les lunettes des forces de l’ordre, notamment à Zhengzhou. Des lunettes qui ont été conçues par l’entreprise SenseTime, dont on reparlera un petit peu tout à l’heure, pour repérer des délinquants dans la rue, les gares, les aéroports et j’en passe.

On sait ce que ça donne ensuite : les images sont comparées à des bases de données, de grandes bases de données nationales, notamment celles qui contiennent les profils des personnes recherchées par les forces de l’ordre. Et la prochaine étape, c’est de développer des algorithmes capables de repérer non seulement ces personnes recherchées, mais aussi de repérer des personnes aux agissements criminels, voire simplement suspects. On a donc aujourd’hui la police qui teste des logiciels de reconnaissance faciale avec des caméras posées sur des drones pour les déployer au-dessus d’une foule de manifestants, par exemple pour identifier des fauteurs de troubles. Et cela va sans doute devenir de plus en plus efficace. Aujourd’hui il y a une caméra pour huit habitants en Chine, et les autorités ont ceci de particulier qu’elles mettent à disposition des entreprises qui développent ces logiciels de reconnaissance faciale des quantités phénoménales de données et notamment les documents d’identité de la quasi-totalité de la population, à savoir 1,4 milliard d’habitants. Or, vous le savez, en théorie du moins, plus les algorithmes de reconnaissance faciale sont alimentés en images, plus ils deviennent précis. En théorie.
Maintenant, après ce tout petit tour d’horizon, il est peut-être intéressant de comprendre comment on en est arrivé là. Retour en arrière. On est en mars 2016. Et que se passe-t-il en mars 2016 ? Un évènement extrêmement important pour l’intelligence artificielle en Chine : c’est le Coréen Lee Sedol, l’un des meilleurs joueurs de go au monde qui est battu à plate couture par une machine, AlphaGo, une machine qui a été conçue par DeepMind, la filiale britannique de Google. Jusqu’alors, les responsables chinois s’intéressaient à l’intelligence artificielle, bien sûr, mais pas autant qu’aujourd’hui ; ils étaient surtout poussés par leurs géants nationaux que sont Baidu, Alibaba, Tencent, Huawei et les autres. Néanmoins, c’est précisément à partir de cette confrontation - et je vais peser tous mes mots à partir de maintenant - qui avait vraiment à la fois un côté fabuleux et sacrilège pour les autorités chinoises, que le temps s’est accéléré pour le développement de l’intelligence artificielle en Chine. Et c’est d’ailleurs à dessein qu’on parle très communément de « moment Spoutnik », par comparaison avec l’effet qu’a pu avoir le lancement du satellite russe en 1957 sur l’opinion publique américaine et sur les autorités américaines. C’est d’ailleurs cela qui a véritablement lancé le programme spatial américain.

À partir de ce moment-là, à partir de la victoire d’AlphaGo sur Lee Sedol, on a vu l’armée multiplier les colloques et les séminaires sur le sujet de l’intelligence artificielle. On a vu Google, qui est pourtant une sorte de symbole post-moderne par excellence de l’impérialisme américain, revenir d’un seul coup, en partie du moins, dans les bonnes grâces de Pékin, alors qu’il avait été bouté hors de Chine quelque six ans auparavant. Et puis c’est Xi Jinping qui peut déclarer fièrement que son livre de chevet porte sur le machine learning.
Qu’est-ce qui s’est passé ?

Eh bien, il s’est produit une manière de choc culturel, une rencontre traumatique où, pour employer un concept du psychanalyste Jacques Lacan – on va essayer de faire un peu pédant aujourd’hui –, la survenue du Réel, au sens paradoxal où il l’entend, c’est-à-dire, en fait, une rencontre avec le hors-sens mêlée, en l’occurrence, d’une forme d’horreur sacrée. Pour le dire autrement, c’est que la religion de la supériorité de l’homme, le côté sacré de la supériorité de l’homme venait d’un seul coup d’être anéanti par l’œuvre même de l’homme, à savoir par une machine. Et, toujours dans le vocabulaire lacanien, cette béance dans la chaîne signifiante, pour le dire plus simplement, ce vide de l’intelligible, pour être comblé, exigeait la construction de cette fiction particulière qu’on connaît tous, qui s’appelle le fantasme. C’est ainsi que, par contrecoup immédiat, l’intelligence artificielle, en Chine, fut parée des atours d’une espérance prométhéenne. Ce qui est très propre d’ailleurs à la Chine contemporaine, qui assimile volontiers la modernité occidentale, en particulier la modernité américaine et sur son versant principalement technologique, à un horizon d’attente, à un but nécessaire pour redonner à la Chine éternelle la place politique, voire cosmique – oui, on en est là – censée lui revenir de droit, comme un juste retour à l’ordre naturel des choses.

Il ne faut jamais oublier que nous avons à faire ici à une culture, à une civilisation totalement différente de la nôtre, avec ses propres croyances, ses rituels, ses modes d’être, ses modes de pensée. Et son histoire aussi. N’oublions pas que, jusqu’à la fin du XVIIIe siècle, la Chine était sans conteste la première puissance mondiale, avant que la révolution industrielle et technologique occidentale ne mette l’Europe en avant, au point d’ailleurs que les Européens ont pu vaincre la Chine militairement sur son territoire et plusieurs fois d’affilée, au XIXe siècle ; c’était les guerres de l’opium.

Aujourd’hui, la Chine a tout simplement pour ambition de retrouver cette prépondérance mondiale, grâce à quoi ? je vous le donne en mille : grâce à l’intelligence artificielle.
Comment ça s’est mis en place ?

Après le choc de la victoire d’AlphaGo, le Parti communiste, l’État chinois, se sont dit que vraiment, là, ils étaient en train de se faire distancer par les Américains et que ça posait un sérieux problème. Ce qui fait qu’en juillet 2017, le gouvernement central, qu’on appelle aussi le Conseil des affaires de l’État chinois, a dévoilé un grand plan de développement de la nouvelle génération d’intelligence artificielle, c’est le titre complet, qui est censé accompagner la montée en puissance technologique de la Chine d’ici 2030, année où le pays doit devenir normalement, grâce à ce plan, le premier centre d’innovation mondial. Pour y parvenir, les autorités chinoises ne font pas les choses à moitié, d’abord parce qu’elles y consacrent un budget colossal : c’est 20 milliards de dollars par an d’ici l’année prochaine ; 59 milliards par an d’ici 2025. Mais il se trouve que, peut-être déjà, les budgets ont explosé. C’est-à-dire que d’après le renseignement militaire américain - pourtant ce n’est pas tellement son genre de faire les louanges des progrès chinois - d’ici l’an prochain les Chinois devraient déjà dépenser, en termes de fonds publics, plus de 70 milliards de dollars par an dans le développement de l’intelligence artificielle. Par comparaison, on peut estimer le budget fédéral américain en IA autour de 4 milliards de dollars : c’est le deuxième plus gros budget au monde.

L’objectif final de ce grand plan, eh bien c’est Xi Jinping qui l’a donné lui-même en octobre 2017 en expliquant que le but est de faire de nouveau de la Chine la première puissance mondiale d’ici 2049, soit pour le centenaire de la République populaire.
Mais au-delà des financements formidables dont bénéficie le plan chinois, il y a aussi, derrière, toute une organisation extrêmement solide qui est très dirigiste et qui montre tout son potentiel.
L’idée des Chinois c’est de bâtir ce que j’ai appelé dans un article récent un « complexe techno-partidaire ». Grosso modo, c’est une stratégie de développement de l’intelligence artificielle au centre de laquelle se trouve le Parti communiste qui fixe les grands objectifs, les grandes orientations nationales en matière d’intelligence artificielle et qu’ensuite les BATX – Baidu, Alibaba, Tencent, Xiaomi, etc. – toutes les grandes firmes chinoises du numérique et les universités, doivent mettre en application. Donc les autorités chinoises ont l’intention d’obliger ceux qu’on appelle ces BATX, donc Baidu, Alibaba, Tencent, Xiaomi, auxquels il faut ajouter Huawei, ZTE, Megvii, SenseTime, iFlytek, etc., à développer des technologies duales, autrement dit, des technologies qui sont autant applicables au secteur commercial et civil qu’aux secteurs militaire et policier. Et, pour que cela fonctionne, eh bien, les dirigeants chinois ont un avantage de poids, c’est que ces dirigeants d’entreprise sont tous membres du Parti communiste. Vous me direz, rien d’étonnant jusque-là, c’est le cas de 88 millions de Chinois ! Sauf que ce ne sont pas des membres du Parti communiste comme les autres. Par exemple Robin Li, le PDG de Baidu, est aussi membre de la Conférence consultative du peuple chinois ; c’est l’équivalent de notre Sénat, ni plus ni moins. Lui et deux autres patrons de la tech chinoise, je pense à Jack Ma, le patron d’Alibaba, l’ex-patron d’Alibaba, et Pony Ma de Tencent, ont été nommés vice-présidents d’une fédération des sociétés de l’Internet chinois par le PCC, fédération dont le but est, je cite, « de nettoyer le cyberespace, de protéger la sécurité et la souveraineté du pays sur l’Internet et de soutenir les valeurs centrales du socialisme ». Autant dire que c’est euphémisme quand on dit que les entreprises chinoises collaborent activement avec les autorités de Pékin.

Et ce n’est pas tout puisque ces firmes sont aussi directement impliquées dans le grand plan de développement de l’intelligence artificielle chinois. Le gouvernement les a affectées chacune à un secteur particulier de développement : Baidu est chargé des véhicules autonomes. Je dis bien des véhicules, d’accord, pas seulement les voitures, donc les véhicules militaires également, les véhicules policiers aussi. Alibaba est chargé des smart cities, ce qui tombe plutôt à pic puisque c’est aussi l’un des plus grands pourvoyeurs de capitaux et de technologies de l’État pour la mise en place du système de crédit social. Et Tencent est chargé des questions d’imagerie médicale. Je passe sur les autres, mais le but de tout cela c’est bien de constituer un écosystème efficace, un écosystème extrêmement intégré et qui est capable de transférer du privé au public toutes les innovations idoines, toutes les innovations nécessaires, pertinentes pour l’État et en particulier dans deux domaines donc, le militaire et le policier.
C’est ici qu’on retourne sur notre sujet, « L’intelligence artificielle en Chine : surveiller et punir », parce que ces innovations ont pour beaucoup une vocation régulatrice, ce qui veut dire, en clair, une vocation coercitive et répressive. Par exemple, une entreprise comme YaTrans a développé un outil de traduction automatique, fondé sur du machine learning, de la reconnaissance vocale, qui est aujourd’hui utilisé par des structures clés de l’État. J’en donne quatre : la première c’est le ministère de la Sécurité de l’État, un petit ministère qui est chargé de choses anodines comme le renseignement extérieur, le contre-espionnage, les gardes-frontières et la lutte contre les opposants politiques. L’outil de YaTrans est aussi utilisé par le gouvernement de la région militaire du Shenyang qui est la région au nord-est qui borde la frontière nord-coréenne – on comprend bien l’intérêt d’un outil de traduction automatique dans cette région-là –, mais il est également utilisé par les gouvernements provinciaux du Xinjiang et du Tibet, deux régions sujettes, si l’on peut dire, à des soubresauts sociaux ou carrément à des tensions séparatistes et insurrectionnelles qui, là aussi, expliquent l’intervention de cette entreprise, sachant qu’il y aune grosse minorité de personnes qui ne parlent pas le mandarin.

On peut prendre un autre exemple, qui est encore plus éloquent peut-être, c’est celui de SenseTime. SenseTime est l’une des principales entreprises de reconnaissance faciale du pays. Depuis l’an passé elle est valorisée à plus de 4,5 milliards de dollars. Elle possède une technologie qui est assez avancée : ses algorithmes se fondent sur 240 points de repère pour identifier un visage, par exemple, et la reconnaissance faciale fonctionne en calculant les distances entre une série de marqueurs sur le visage qui est censée permettre, normalement, d’appliquer un code unique à chaque individu qui serait scanné par ce type de logiciel. Et SenseTime dit d’ailleurs que ses outils de reconnaissance faciale sont capables de repérer un visage sur cent millions.

La force de SenseTime, comme toutes ces entreprises d’ailleurs, il n’y a pas de privilégiés dans ce cas, c’est qu’elle est fortement soutenue par les autorités : 40 % des revenus de SenseTime lui viennent du gouvernement chinois, du gouvernement central. À côté de cela, elle est aussi financée en grande partie par les autorités municipales, elle fournit ses outils d’analyse d’images filmées par les caméras de surveillance à 40 municipalités et puis, dans le cadre de développement du grand plan IA chinois, elle est chargée de coordonner le pôle « reconnaissance faciale ». Donc c’est une entreprise extrêmement intégrée aux structures de l’État.
Mais alors pourquoi peut-on parler d’utilisation de la technologie de l’intelligence artificielle à des fins de contrôle social ?

Le meilleur exemple c’est ce qui se passe au Xinjiang. Au Xinjiang, vous avez une communauté musulmane ouïgoure extrêmement importante et, dans les villes du Xinjiang, vous avez des barrages policiers tous les 200 mètres, avec des caméras de reconnaissance faciale sur ces barrages. Vous avez aussi des caméras de reconnaissance faciale un peu partout : dans les bazars, dans les mosquées, dans les stations-service et ainsi de suite. Et chaque citoyen a l’obligation, à partir de 12 ans, de faire scanner son visage en 3D pour faciliter le travail des caméras.
Cette surveillance de masse, pourquoi existe-t-elle ?

Officiellement, pour prévenir les actes de terrorisme, notamment pour repérer tous les comportements suspects définis comme extrémistes. Je vais vous donner trois types de comportements suspects dits extrémistes : s’éloigner de 300 mètres de son domicile, se rendre trop souvent à la mosquée ou même faire le plein de son véhicule plusieurs fois par semaine. Ceux qui se font prendre risquent d’être envoyés en camps de rééducation ; vous savez, les camps de rééducation c’est ce que nous, nous appelions il y a encore quelques années, des camps de concentration, ce qui serait donc déjà le cas de un, voire deux millions de Ouïgours. On peut s’étonner quand même que la Chine renferme sur son territoire entre un et deux millions de terroristes ; je crois qu’on ne parlerait pas de stabilité sociale ni politique pour ce pays si tel était le cas. Et tout cela s’échafaude, bien évidemment, sur fond d’élaboration du système de crédit social. En deux mots, le système de crédit social, c’est un système de notation personnelle des individus et des entreprises, y compris des entreprises étrangères, qui est censé redonner confiance aux citoyens ; c’est quelque chose d’assez compliqué, je ne rentre pas les détails. L’étape ultime de ce système c’est d’automatiser ces notations à l’aide de l’intelligence artificielle, précisément.
Pourquoi les autorités sont-elles en train de mettre en œuvre ce système de surveillance généralisée, de contrôle de la population ? Et puis, plus généralement, pourquoi la Chine met-elle autant d’ardeur à développer l’intelligence artificielle ?

Il y a deux raisons principales à cela : d’une part, pour prendre la tête du système international. Bon ! Il ne faut pas sous-estimer le nationalisme du Parti communiste ni son esprit de revanche. Pour les autorités chinoises, les deux derniers siècles qui ont vu l’Europe puis les États-Unis dominer le monde à peu près dans tous les secteurs, c’est un accident de l’histoire. Pour les autorités chinoises c’est un accident de l’histoire regrettable, bien évidemment, une atteinte à l’ordre cosmique qui a fait de la Chine l’Empire du Milieu et l’hêgemôn suprême. Il faut donc y remédier.

Et puis n’oubliez pas ceci : le régime chinois, quoi qu’on en dise, est un régime totalitaire. Comme tout régime totalitaire, il est mû par une visée révolutionnaire. Comme toute visée révolutionnaire, l’objectif c’est le retour à un âge d’or mythifié, mythique, dont l’intelligence artificielle, en l’occurrence, doit précipiter l’avènement, doit précipiter le millénium, pour emprunter un vocable théologique qui est fort à propos dans ces circonstances. Et comme tout régime totalitaire, ça c’est la deuxième raison qui explique cette effervescence du PCC autour de l’IA, il a besoin de garder la population sous contrôle pour survivre. Le régime totalitaire ce n’est pas un régime autoritaire, ça n’a strictement rien à voir. Le régime autoritaire, lui, se contente de faire régner la terreur, si je puis dire, dans la population pour gagner son silence et son assujettissement. Alors que le régime totalitaire, lui, attend de sa population qu’elle consente à son asservissement, qu’elle y participe activement, qu’elle accepte et même qu’elle désire la domination sans partage de ses dirigeants. Or, contrairement à ce que véhicule trop souvent un topos médiatique, eh bien la société chinoise n’est pas une société passive, ce n’est pas une société qui accepterait sans broncher la sécurité au prix de la liberté, quel qu’en soit le prix. Non ! Ce n’est pas ça. La société chinoise est parcourue par des mouvements séditieux, des mouvements insurrectionnels, des mouvements séparatistes. Rien que l’an dernier, pensez que dans un pays avec un régime aussi répressif, il y a eu plus de 1700 grèves en Chine. Chaque année on compte en moyenne 180 000 manifestations écologistes dans le pays.

Donc l’intelligence artificielle en effet, en Chine en tout cas, sert avant tout à surveiller et à punir, pour reprendre le titre du célèbre ouvrage de Michel Foucault. Elle fait fonction de répertoire technologique de contrôle social tel un immense panoptique étendu à l’ensemble de la société où tout le monde est surveillé, où le surveillant est invisible mais redoutablement efficace, puisqu’il n’est plus simplement humain, il est aussi algorithmique.

Je vous remercie.
[Applaudissements]