Luc : Décryptualité. Semaine 5. Salut Manu.

Manu : Salut Mag.

Mag : Salut Luc.

Luc : Mag pour la deuxième semaine consécutive. Youpi ! Quel est le sommaire ?

Mag : On commence par l’Humanité.fr, « Alternatives. « Nous sommes les amap du numérique ! » ».

Manu : C’est une interview de notre cher chef de Framasoft [1].

Mag : Pierre-Yves Gosset.

Manu : Ouais.

Luc : Le chef !

Manu : Le Big boss, le grand boss.

Mag : Je suis sûr qu’il détesterait que tu dises ça.

Manu : Mais il est grand, ça rentre, ça passe !

Mag : Non, c’est toi qui es petit !

Manu : Je ne vois pas de quoi tu parles. Bref ! C’est une super interview où il parle de Frama, des chatons [2] et des services qui peuvent être utilisés pour arrêter d’utiliser les services des GAFAM.

Mag : EconomieMatin, « Covid-19 : Oxfam plaide pour des vaccins « open source » ».

Manu : Bonne chance, parce que faire en sorte que les vaccins deviennent open source, je pense que ça va être très compliqué, ça va être une bataille d’enfer.

Luc : Tu veux me piquer mon bénéfice ! C’est ça ?

Manu : Exactement. Et là il y a du bénéfice en vue.

Mag : Les laboratoires vont être contre.

Manu : Beaucoup de gens sont contre. Plaider pour que la formule des vaccins soit distribuée au monde entier, ça va être compliqué.

Luc : Ça va être compliqué, mais dans le principe c’est ça qui devrait être le cas, on est là pour sauver des vies et il y a des choses qui ne devraient pas être privatisées.

Mag : Le Monde Informatique, « Rémunérer les contributeurs à l’open source : l’idée fait son chemin », par Maryse Gros.

Manu : Oui, effectivement, ce serait bien qu’on rémunère les gens qui bossent sur les logiciels libres importants. On se rend compte que ça peut causer des problèmes parce que, parfois, des projets phares ou nécessaires aux infrastructures d’Internet sont libres et il n’y a que un, ou même pas tout à fait un, développeur qui est dessus. Ça peut créer des problèmes quand il y a des bugs, quand on se rend compte qu’il y a une faille par exemple.

Luc : Oui. Et après si on veut que ces gens-là continuent à travailler et continuer à participer à ce bien commun, à un moment ce serait peut-être bien de mettre un peu d’argent, surtout qu’on ne peut pas dire que les acteurs de la branche soient vraiment pauvres.

Manu : Ça reste compliqué à mettre en place, mais ça n’empêche, c’est intéressant comme idée.

Mag : ZDNet France, « Wikipédia se dote d’un code de conduite universel ».

Manu : C’est la Wikimidedia Foundation, c’est une association internationale qui regroupe pas mal de pans nationaux qui, eux-mêmes, regroupent, comment ça s’appelle les regroupements régionaux ?

Luc : Les chapitres, je crois.

Manu : Les chapitres, il me semble. Donc il y a finalement tout un système assez complexe. Effectivement, ils se sont mis d’accord sur les manières de se conduire en société. Ça ne fait jamais de mal de le mettre à plat parce que quand on se rend compte qu’il y a des problèmes et régulièrement il y a des problèmes parce que c’est humain, pouvoir se référer à des règles ça simplifie un petit peu ces tractations.

Mag : ZDNet France, « Open source : Google veut de nouvelles règles pour les développeurs travaillant sur des projets critiques, par Liam Tung.

Manu : Effectivement, on parlait des projets critiques justement du point de vue économique et financement. Ça reste intéressant de les mettre en avant. Allez jeter un œil, c’est vrai qu’il faut s’assurer que les briques importantes qui font fonctionner la société soient bien mises en place, bien maintenues.
De quoi on parle cette semaine ?

Luc : On va parler d’oracles.

Manu : Oracle, l’entreprise ? Larry Ellison, un des hommes les plus riches du monde et un mec pas sympathique, c’est ça ?

Mag : Non ! Moi je ne viens plus si vous parlez d’Oracle.

Luc : Non ! On va parler des nouveaux oracles.

Manu : Les nouveaux oracles ?

Luc : C’est une sorte de théorie qu’on a.

Mag : Ah bon ?

Manu : Longuement, avec de l’alcool, des drogues.

Luc : Ça se saurait.

Mag : Une soupe, des croûtons et une salade ?

Luc : On peut y aller là ?
C’est cette idée que toute période, toute époque a ses oracles, ces choses auxquelles on croit et dont on pense que c’est la vérité. Et ça change en fonction des périodes. Cette idée nous est venue suite à un article que tu as remonté, Manu, dont tu peux peut-être nous parler.

Manu : Oui. Qui parle d’une personne accusée d’un meurtre et qui, dans ce cadre-là, a eu son ADN testé avec des prélèvements. L’ADN a montré que c’était lui le coupable, c’était une correspondance parfaite d’après les systèmes techniques.

Luc : Donc ce n’est pas l’ADN qui a montré, c’est le système informatique d’analyse de l’ADN qui a dit « c’est toi le coupable ».

Manu : Et justement, un système informatique, eh bien on peut imaginer que ça a été fait par des humains et les humains sont imparfaits, il y a des bugs, donc il demande à pouvoir regarder comment ça marche.

Luc : Le code est fermé, « nous on veut voir », avec ses avocats, « on veut que le code soit ouvert pour que n’importe qui puisse vérifier ». Évidemment l’éditeur dit : « Non, non, c’est notre propriété intellectuelle, secret des affaires, tout ça, il est hors de question qu’on ouvre ces éléments ». Donc ça renvoie à ce sujet qu’on a évoqué très régulièrement, connu depuis longtemps, qui est Code is Law, formalisé par Lawrence Lessig [3] il y a de ça quelques décennies maintenant je pense.

Manu : Dont on reparle régulièrement, mais dont les journalistes s’emparent. C’est un sujet qui revient maintenant un petit peu dans les médias. Code is Law, on se rend compte qu’on est entourés de ces règles qui nous font fonctionner.

Luc : En bon français, Code is Law ?

Mag : Le code c’est la loi.

Luc : Ça veut dire que tu peux faire toutes les lois que tu veux, si le système qui est complètement opaque te dit « ça c’est la vérité », de fait tu suis ce que dit le système et, finalement, c’est lui qui décide.

Mag : La différence, c’est qu’on peut lire les lois qui sont votées et acceptées, il y a des livres de droit pénal, de droit civil et ainsi de suite, alors que les livres de droit informatique…

Manu : Le code source, en fait.

Mag : Le code source n’existe pas forcément.

Luc : On peut les lire et on peut aussi les interpréter. La base de la base de toute l’institution judiciaire, elle est critiquable à bien des égards, mais le principe même c’est que l’institution elle-même a intégré le fait qu’un code de loi n’est pas univoque et qu’il faut des institutions avec des gens qui se foutent sur la gueule, verbalement, dans l’interprétation de ces codes-là.
Dans l’informatique c’est différent puisqu’il y a une interprétation par différentes machines et on arrive, normalement, à quelque chose de beaucoup plus homogène que dans le droit en tout cas.

Manu : La problématique c’est que ce sont des éléments qui sont particulièrement techniques, comme tu dis il faut passer par des experts, mais les experts n’ont pas le temps d’analyser ligne par ligne tout ce que font les programmes informatiques en question. En plus de ça, c’est bien gentil, on a des algorithmes qui, certes, sont fonctionnels, sont logiques, froids, calculateurs et impartiaux, mais, en fait, il faut se rendre compte que ce ne sont pas juste des algorithmes, du code. C’est un ensemble beaucoup plus complet, qui inclut des choix dans les règles à appliquer, des biais qui vont venir des données qui ont été initialement choisies, au départ, pour lancer le système et toutes ces choses-là ce sont le résultat de choix humains qui vont faire en sorte que le système n’est pas du tout objectif en fait. Il n’est pas froid et calculateur, ce n’est pas juste le résultat d’un algorithme impartial et objectif. Non ! C’est le résultat de processus humains et de choix humains.
On se rend compte que régulièrement il y a des soucis et dans ces algorithmes de tests d’ADN, il remonte justement des possibilités d’orienter les décisions pour aller plus vers une culpabilité ou plus vers une innocence en fonction de certains critères et que ces critères sont à définir.
On pourrait dire la même chose par exemple pour les sondages. Les sondages sont effectivement, pour moi, des oracles. Les mecs s’appuient sur des règles bien strictes, logiques, calculées. Ils ont des algorithmes et des manières de le faire, ils ont des données initiales et puis, finalement, quand on creuse un peu, on se rend compte que non, ils font du redressage. C’est-à-dire qu’une fois qu’ils ont appliqué tous les calculs, ils redressent parce qu’ils se rendent compte qu’il y avait des différences dans le passé, ils appliquent les mêmes différences à l’heure actuelle et les sondages, en fait, ne sont pas du tout objectifs et froids.

Luc : Il y a énormément de choses qui font changer les sondages, ne serait-ce que la façon dont la question est posée. Quand j’étais étudiant, il y a longtemps, une prof nous avait sorti un sondage lié au bombardement de la Libye par les États-Unis et les Anglais, en 1986, je crois, c’était déjà du passé à l’époque, je ne suis pas si vieux que ça ! Ce qui était intéressant c’est qu’à l’époque elle avait réussi à trouver toute une série de sondages dans différents magazines avec à chaque fois des formulations de questions qui changeaient. Ça allait de « est-ce que vous êtes pour l’action américaine contre Kadhafi ? », le truc le plus impersonnel, et, dans un magazine catho je crois, c’est « est-ce que vous êtes pour le bombardement par les forces américaines des villes de machin et machin ? ». Du coup c’est beaucoup meurtrier, etc. Donc on inversait complètement la tendance. Dans la version a plus distante, on va dire, on était 60 % pour, 40 % contre. Dans la version la plus imagée, on était à 60 % contre et 40 % contre. Rien que ça change complètement les choses. Il y a eu beaucoup de critiques sur les sondages. Moi je pense à un film dont j’ai déjà parlé, un excellent film qui s’appelle Zodiac, un film tiré d’une histoire vraie avec un tueur qu’on n’a jamais retrouvé, qui avait laissé des lettres avec un code, ça remonte aux années 70. Ce code a d’ailleurs été déchiffré il n’y a pas très longtemps par des gens qui ont continué à bosser dessus. Le film est vraiment intéressant parce qu’on voit qu’à l’époque l’analyse graphologique a un poids prépondérant. Il y a plein de preuves qui s’accumulent contre quelqu’un mais, en gros, la justice a dit : « L’analyse graphologique ne concorde pas, du coup on ne va rien faire ».

Manu : Ça avait été appliqué à une autre affaire, l’affaire du petit Grégory, où les analyses des lettres, des enveloppes, avaient été poussées très loin et ils avaient eu beaucoup de difficultés à cibler des gens et à obtenir des coupables. Bien plus tard, aujourd’hui, on n’a toujours rien découvert alors que pourtant on s’appuyait sur des techniques qui étaient imparables à l’époque.

Luc : On croit toujours en différentes choses. Quand on a commencé dans le monde professionnel, la lettre de motivation manuscrite, pour qu’il y ait analyse graphologique, se faisait encore. Aujourd’hui ça fait rigoler tout le monde. C’est complètement débile !

Mag : En tout cas chez les informaticiens.

Luc : Ça se fait encore ailleurs ?

Mag : En librairie, j’aime bien savoir si ma collègue sera lisible ou pas.

Luc : Savoir si c’est la personne est lisible c’est un point de vue pratique. Essayer de déduire la personnalité de quelqu’un par rapport à ses lettres…

Mag : Tu disais que ça ne se faisait plus. Si, si, ça se fait encore.

Luc : Ce n’est pas une analyse graphologique. Tu vérifies si la personne sait écrire.

Mag : Tu parlais des lettres de motivation manuscrites.

Luc : D’accord.

Manu : Il n’y a pas si longtemps on aurait fait ça avec la date de naissance, le lieu de naissance et on faisait l’analyse astrologique de la personne, ça fonctionnait très bien !

Luc : Oui, oui, ça marche très bien !

Manu : On a fait ça avec les bosses sur la tête.

Luc : Oui. La phrénologie, la craniologie, tout ça.

Mag : Et si on revenait un peu aux oracles de notre époque !

Luc : Les oracles informatiques notamment, qu’est-ce qu‘on a d’autres comme oracles informatiques, en émergence actuellement ?

Mag : Les influenceurs, les youtubeurs, ceux qui nous font du contenu.

Luc : Effectivement, on a les oracles humains. Il y a eu les médias, la télévision, etc. Aujourd’hui, effectivement, on aura plus tendance à faire confiance à des gens qui ont l’air amateurs, plus sincères, qu’à des gros médias.

Manu : Ce qui est assez rigolo parce que, effectivement, on est tombé sur une tendance : l’incapacité à avoir vraiment une sophistication technique. On va faire plus confiance aux gens qui sont amateurs, avec un mauvais éclairage, qui balbutient, qui vont faire un montage un peu bizarre. Ils sont comme nous, ils reflètent un peu petit peu ce que nous on apporte.

Mag : C’est surtout qu’ils ont passionnés. On sait qu’ils ont contribué, qu’ils ont mis du temps pour préparer leur sujet.

Manu : On l’imagine en tout cas.

Mag : On l’espère. C’est intéressant, c’est vivant. Je pense à deux personnes que je suis qui sont le l’Odieux Connard, NotaBene et Cuicui alias Max Bird.

Manu : Donc c’est trois.

Mag : Ça en fait trois, ça me revient au fur et à mesure. En fait j’aime bien les écouter, j’aime bien aller voir ce qu’ils disent, ce qu’ils pensent ; je ne les considère par comme des oracles, mais j’apprends énormément de choses avec eux.

Luc : On a les chroniqueurs dans les émissions de télé qu’on aime bien critiquer. D’un point de vue informatique, on a les IA artificielle.

Manu : On est en plein dedans en ce moment.

Luc : Je pense que ce n’est pas encore tout à fait installé, mais il y a cette idée que l’IA va voir des choses que le commun des mortels n’est pas capable de voir, parce qu’on n’est pas capable de brasser autant d’informations, toute cette idée. Les IA ont été utilisées dans la médecine en disant « oui, on peut mieux détecter les cancers avec une IA qu’avec des humains ».

Manu : Pour détecter les mensonges, les IA auraient soi-disant des capacités cachées que les humains n’auraient pas, pour aller voir les micros signes, les micros expressions faciales, être capables de corréler les muscles qui vont bien et les humains pas du tout. Alors que non, pas du tout, les IA, en tout cas pour l’instant, n’ont pas ces capacités hors du commun de déduire ce que les humains ne font pas bien d’habitude.

Luc : Il y a tout l’aspect prédictif, notamment dans le big data, c’était une des premières utilisations du big data, avec un traitement statistique. Ça avait été fait notamment pour la criminologie, pour anticiper les lieux où il allait y avoir des crimes : on va dire on sait qu’en moyenne il y a des crimes à tel et tel endroit. On avait parlé, il y a quelques mois, d’un cas comme ça, où ils avaient utilisé ce système-là pour faire de la police prédictive, donc envoyer plus de forces de police dans les quartiers où il y avait plus de délinquance.

Manu : Il faut envoyer Tom Cruise. Dans Minority Report, il est super bon, forcément.

Luc : C’est ça ! Il y a eu des effets pas tout à fait anticipés, parce que, en envoyant plus de policiers, on a effectivement trouvé plus de crimes puisqu’ils étaient là en plus grand nombre. Du coup, ça n’a fait que renforcer cette sur-représentation du quartier dans les statistiques de crimes. On peut imaginer aussi que les biais racistes ou sociaux qu’il peut y avoir dans la police, comme c’est elle qui va générer les statistiques, peuvent complètement renforcer ce système-là et on peut se retrouver à avoir une population totalement sur-représenter. Derrière ce sont des maths, ce sont des algorithmes, c’est du sérieux, mais tout ce qui est en entrée est quand même passé par une moulinette humaine.

Manu : Ce sont des prédictions auto-réalisatrices, il n’y a rien de tel. On n’en sort pas, ça fait 2 500 ans, depuis les Grecs anciens, qu’on émet des suppositions sur l’avenir et, en fait, on s’arrange ou on fait en sorte qu’elles se réalisent parce que, justement, on a voulu suivre nos prédictions ou les empêcher ou mettre en place quelque chose autour. Eh bien non !

Luc : Je pense que l’oracle ultime chez les informations c’est le log.

Manu : Le log ?

Luc : Le log c’est un fichier dans lequel un logiciel qui tourne va enregistrer des informations au fur et à mesure que les choses se déroulent. Quand les choses se déroulent mal, on espère trouver des traces dans les logs. S’il y a quoi que ce soit, un utilisateur qui s’est trompé, on va le voir dans les logs, etc. Du coup l’informaticien a une foi sans faille pour ses logs. Si c’est dans le log, c’est vrai et si ce n’est pas dedans ça n’est jamais arrivé.

Manu : Effectivement, il y a une faille là-dessus, c’est que le hacker sophistiqué efface ses traces dans les logs, ce n’est pas forcément aisé à faire, mais ça se fait, et on sait que les logs peuvent mentir.

Luc : Tu peux aussi avoir un bug qui fait que certaines informations ne sont pas rapportées dans les logs ou mal rapportées et tu peux, comme ça, perdre beaucoup de temps à dire non, non, il n’y a aucun problème, ce n’est pas dans les logs.

Mag : Là vous m’avez perdue avec vos logs !

Manu : Dans la confiance aveugle qu’on a, moi j’aime bien l’exemple qu’on a rencontré ces derniers temps dans les médias, ce sont les gens qui font confiance à leur véhicule automatique. On sait qu’il y a des voitures Tesla qui proposent une conduite automatique, mais jusqu’à un certain point, et qui vous proposent de prendre en charge la conduite du véhicule.

Mag : Google aussi fait des voitures...

Manu : Oui et ces véhicules-là, quand on rentre dedans, on pose les mains sur le volant et, en gros, on sent le volant qui prend les courbes pour soi, on sent l’accélérateur, le frein qui se mettent en place, ça conduit pour nous, à notre place et ça fonctionne plutôt bien. Mais il y a eu certaines personnes qui ont eu beaucoup trop confiance dans le véhicule et qui se sont endormies au volant ou qui ont été chopées en train de regarder la télé, lire des bouquins. Ça cause des problèmes parce que ces véhicules ont, certes, une forme d’autonomie, mais ils ne sont pas autonomes à 100 %, en tout cas pas au-delà des capacités d’un humain. Derrière ça peut créer des accidents et, en attendant, ça a créé quoi ?, des PV parce que quand ils se sont fait choper ce n’est pas passé auprès des autorités.

Luc : Les oracles me disent qu’on va se retrouver la semaine prochaine.

Manu : On va essayer. À la semaine prochaine.

Mag : Pas sûr ! Salut.

Luc : Salut. On sacrifiera un lapin !