De l’argile au Code, intelligence artificielle fantasme d’auto-engendrement chez les informaticiens

L’histoire occidentale est remplie d’une longue série de mythes parlant de créatures artificielles et, dans certains cas, d’humains tentant d’usurper la place de Dieu en se lançant dans le processus de création. Il y a 20 ans, quand j’ai commencé à travailler sur les questions de genre en informatique, je me suis intéressée aux créatures artificielles, car il m’est apparu l’ordinateur avait été rêvé comme faisant partie de cette grande famille. Quand ils ont conçu l’ENIAC, les pères de l’informatique ne cherchaient pas réellement à produire une grosse machine à calcul, même si c’est ce qu’ils ont fait. L’ordinateur des années 1950, qui était pourtant très loin des performances de ChatGPT, était vu comme une étape vers le but ultime de la science : une duplication du cerveau humain.
Si je relie ces fantasmes à la question « Genre », c’est parce que tous les créateurs de créatures artificielles sont des hommes et que tous trouvent une solution pour créer un être nouveau sans passer par la reproduction sexuée, c’est-à-dire sans l’aide des femmes. Ces fantasmes se prolongent dans la littérature de science-fiction : après les robots, est-ce qu’on ne serait pas plutôt en train de créer un Dieu artificiel ?

Merci beaucoup pour cette invitation. Quand j’ai reçu l’invitation, j’étais un peu perplexe parce que je vais partir en congé scientifique pour travailler sur les questions de genre et d’intelligence artificielle dans l’éducation, mais dans le futur, donc, évidemment, je ne pouvais pas vous parler de ça, ce n’est pas encore fait. Et puis, j’étais venue il y a deux ans pour parler déjà de biais de genre dans l’intelligence artificielle, il ne fallait pas non plus que je vous fasse la même chose, donc j’étais un peu coincée entre ce que j’avais déjà fait, ce que je n’avais pas encore fait, et je me suis dit que j’allais vous faire la suite, comme ça, en même temps, je fais de la pub pour les conférences Piaget précédentes. Je vous fais la suite, d’ailleurs, je me suis aperçue que j’en aurais encore un bout, donc je reviendrai une troisième fois pour faire le troisième tome.

Je vais vous raconter des histoires, ce qui n’est pas forcément si courant quand on est sociologue ou quand on est dans ce type de conférence. Je vais raconter des mythes, des récits de science-fiction, des nouvelles en lien avec ces questions des premiers rêves portés par les informaticiens des années 50 ou des années 80. Comme ma spécialité ce sont les questions de genre vous allez voir que je vais évidemment faire un lien avec les questions de genre.
Je vais commencer par cette image [1], je vais avoir plus d’images que de textes sur ma présentation vu que j’ai décidé de vous raconter des histoires.

Les créatures artificielles : un vieux fantasme

Les créatures artificielles, c’est un vieux fantasme de l’humanité et je vais être modeste, je vais rester en Occident et encore ça fait déjà pas mal. Je ne vais pas vous parler de toutes sortes de créatures artificielles, sinon c’est plus d’une heure dont j’aurais eu besoin, je vais partir, en gros, de l’Antiquité jusqu’aux cybernéticiens, je vais faire des allers-retours pour vous montrer comment ces mythes et ces histoires répondent aux fantasmes qu’avaient les cybernéticiens des années 50 jusqu’à 80 et quels fantasmes de création ils avaient, des créations qui n’avaient pas besoin de passer par les femmes.
Pour commencer, puisque je vais vous faire une présentation vraiment dépourvue de femmes en quelque sorte, je voulais vous présenter l’ENIAC, Electronic Numerical Integrator And Computer, un des premiers ordinateurs électriques – on se bat pour savoir qui est le premier –, en 1945, qui était programmé par six mathématiciennes dont vous avez le nom [Jean Bartik, Betty Holberton, Kathleen McNulty, Marlyn Meltzer, Ruth Teitelbaum et Frances Spence]. Là, vous les voyez en train de programmer, ça a beaucoup changé depuis. Le mur avec les fils c’est l’ordinateur et elles sont en train de le programmer.
À cette époque la programmation étant vue comme un sous-produit de l’informatique, mal payé, peu considéré et, surtout, pour lequel il n’y avait pas de formation dans les universités, on apprenait la programmation en la faisant, des mathématiciennes, autodidactes, par définition, en programmation et considérées comme sous-qualifiées, faisaient bien l’affaire sur des machines construites par des ingénieurs qui, eux, avaient évidemment une reconnaissance parce que c’était dans la filiation de l’électronique, de l’ingénierie. On surnomme ces six personnes les ENIAC six [2]. Un de mes collègues, en histoire des technologies, les présente comme étant des petites mains possédant des savoirs ouvriers, ce qui prouve qu’on a encore besoin de faire sortir de l’ombre par exemple des mathématiciennes.

Les cybernéticiens des années 1950 se demandent ce qu’est l’intelligence

Je vais commencer par mes trois pères fondateurs préférés de l’informatique, dont j’avais déjà parlé il y a deux ans mais pour d’autres dimensions, qui sont Norbert Wiener [3], John von Neuman [4] et Alan Turing [5], trois personnes qui ont commencé à penser, à rêver des ordinateurs à peu près à la même époque, autour des années 50. Il est intéressant de savoir, dans leur cas, c’est que même s’ils ont construit des calculateurs, même s’ils ont construit des machines permettant de faire des statistiques, des machines permettant de faire du calcul balistique pendant la guerre, ce n’est pas ça qu’ils voulaient faire. Ils ne voulaient pas créer des machines qui, plus tard, allaient pouvoir faire de la compta ou des calculs. Ils voulaient dupliquer le cerveau humain ; ils voulaient inventer l’intelligence. Ils n’en avaient pas les moyens techniques, mais c’était bien ça qu’ils avaient en ligne de mire.

Wiener et la cybernétique(1948)

Le premier de ces messieurs, Norbert Wiener, fonde la science cybernétique en 1948.
Très rapidement ce qu’il entend par là, mais ça va nous servir par la suite, ce qui intéresse Wiener ce n’est pas la constitution des entités, ce n’est pas ce dont les entités sont faites, pas la matière, pas la structure, pas si c’est du métal, du fer, etc., ce qui l’intéresse, c’est le comportement de ces entités par rapport à l’environnement, le comportement assez basique. Par exemple le comportement de ce piano, à côté de moi, c’est d’avoir une relation avec le sol, là où il appuie sur le sol, il occupe une certaine place dans l’espace, c’est un comportement très simple, qui n’est pas très différent du comportement de cette chaise. C’est à cela que Wiener s’intéresse quand il s’intéresse aux différentes entités et pas au fait que ce piano est en bois alors que cette table est en métal, par exemple.
À partir du moment où il s’intéresse au comportement et non plus à la matière, pour lui peu importe que la créature soit artificielle ou non, ou que l’entité soit artificielle ou non. Quand il va chercher à reproduire le vivant, en fait il ne va pas chercher à reproduire la matière vivante, il va essayer de reproduire ou de réfléchir à ce que ça donnerait de reproduire le comportement du vivant, que ce soit à partir de substances biologiques ou de substances artificielles, minérales, peu importe, ce n’est pas ça qui est pertinent.
Dans un livre au titre hautement évocateur qui s’appelle God and Golem, Inc. – Sur quelques points de collision entre cybernétique et religion, il écrit : « L’homme fait l’homme à son image ». On comprend la phrase à laquelle il se réfère, d’ordinaire on lit « Dieu a fait l’homme à son image », mais là ce n’est pas ce dont il parle. Si on était complètement rigoureux, il veut dire, normalement, « les humains font les humains à leur image », il emploie « homme » comme terme générique. Vous allez voir, par la suite, que ce n’est pas si générique que ça, mais je peux lui accorder qu’à ce moment-là il voulait dire « les humains font les humains à leur image », mais c’est quoi l’image ? Qu’est-ce qu’on entend par « faire à son image » ? Wiener va parler de deux types d’images qui vont nous guider le long de cette présentation : l’image picturale et l’image opérante.
L’image picturale, c’est à quoi on ressemble, en quelque sorte c’est la matière, ce qui nous constitue, donc pas ce qui l’intéresse, vous avez bien compris.
L’image opérante, c’est le comportement. Il va nous expliquer que ce qui va l’intéresser c’est comment sont faites ces images opérantes.
Je comprends que ce soit un peu abstrait, vous allez voir où je veux en venir.

Galatée et Pygmalion - Ovide 1ersiècle

Wiener était très intéressé et se référait beaucoup au mythe de Galatée et de Pygmalion. Il utilisait ce mythe pour expliquer cette histoire d’image picturale et d’image opérante.
Je vous avais dit que je vous raconterais des histoires, je vous raconte rapidement le mythe de Galatée et de Pygmalion. En plus, c’est un vrai plaisir pour moi parce que l’effet Pygmalion, qu’on appelle aussi, plutôt en langue anglo-saxonne, effet Golem, vous voyez qu’on n’est pas loin, est quelque chose dont on parle en sciences de l’éducation : l’effet Pygmalion, c’est quand les élèves deviennent tels que l’enseignant/l’enseignante pensent qu’ils sont et c’est tout à fait bien représenté et vécu aussi comme ça par Wiener. Donc, quelle est cette histoire de Galatée et de Pygmalion ?
Pygmalion, tel qu’on le lit dans les Métamorphoses d’Ovide, au 1ersiècle, était un jeune roi de Chypre déçu par la légèreté des mœurs des femmes de Chypre. Il fait le vœu de rester célibataire parce que vraiment il ne trouve pas son compte dans les femmes autour de lui et, comme c’était un sculpteur de grand talent, il sculpte une femme superbe, en ivoire, qu’il nomme Galatée, dont il tombe amoureux. Il a fait une image picturale. Il va au temple d’Aphrodite prier pour que Galatée prenne vie. Aphrodite est touchée par les prières de Pygmalion et donne vie à Galatée, lui donne le souffle de vie et voilà, nous obtenons l’image opérante, Galatée s’anime.
Ce parallèle image opérante/image picturale, Pygmalion et Galatée, c’est Wiener qui le fait pour nous faire comprendre ce qu’il veut dire par là.
Sachez que c’est une histoire de créature artificielle qui finit bien, je le souligne parce que beaucoup d’histoires de créatures artificielles, on en verra plus tard, finissent mal. Là ça se passe bien, Pygmalion va épouser Galatée qui reste la femme vertueuse et parfaite telle qu’il la voulait et il aura même des enfants avec Galatée, donc une histoire dans laquelle tout se passe bien. On trouve, dans cette histoire, des grands thèmes qu’on va retrouver par la suite, c’est-à-dire l’imperfection des femmes qu’il faut pallier et qui pallie cette imperfection ? Eh bien un homme qui va fabriquer tout seul l’être féminin dont il a besoin et, là, une divinité va s’en mêler.
Ce mythe de Pygmalion était très vivant dans l’histoire personnelle de Wiener qui, lui aussi, fait directement le lien. Wiener était un enfant prodige, il a écrit un livre qui s’appelle « ancien prodige », Ex-Prodigy : My Childhood and Youth. Le père de Wiener était lui-même une personne d’une grande érudition, il parlait une trentaine de langues, il était également scientifique et il a décidé de prendre en main l’éducation de ses enfants, un garçon et deux filles. À un an et demi Wiener lisait et écrivait, en tout cas lisait parfaitement. Leo Wiener l’a tout de suite retiré de l’école parce qu’il voyait bien que l’école n’en ferait pas grand-chose. Quand Wiener est retourné à l’école, à 7 ans, c’était pour entrer au secondaire et il a eu son doctorat à Harvard à 18 ans.
En termes de socialisation, évidemment, ce n’était pas super, vous vous rendez compte du décalage. Par contre son père, Leo Wiener, était absolument satisfait de ce qu’il avait fait et, dans un article intitulé « Quelques idées nouvelles sur l’éducation des enfants », il explique : « C’est un non-sens de dire, comme le font certaines personnes, que Norbert, Constance et Bertha sont des enfants exceptionnellement doués, il n’en est rien. S’ils en savent plus que les enfants de leur âge c’est parce qu’ils ont été entraînés différemment. » Incontestablement, ils ont été entraînés différemment, on sent bien aussi que Leo Wiener a plutôt mis le paquet sur son fils qui dira par la suite de son père qui, pourtant, était à priori un être aimant, « les échecs de ma vie étaient les miens et mes succès étaient, en fait, les succès de mon père ». Il fait un parallèle très net entre les mythes de Pygmalion et de Galatée avec sa propre vie. Somme toute, sa mère a produit l’image picturale, cette chose qui ne sert pas à grand-chose, finalement, dans la cybernétique, et son père a produit l’image opérante de Norbert.

Dans ces histoires de création, que ce soit celle de Galatée, mais que ce soit d’ailleurs la création symbolique de Norbert, ce sont des histoires qui n’incluent pas réellement les femmes et même qui les excluent du processus créatif, en tout cas du processus créatif qui importe, la création de l’image opérante.

John von Neuman (1945)

Autre cybernéticien, John von Neuman.
John von Neuman est la personne qui a conçu un ordinateur de papier qui s’appelle l’EDVAC [Electronic Discrete Variable Automatic Computer], qui, par la suite, est devenu un ordinateur pas du tout de papier. L’architecture qu’a conçue von Neuman a un peu évolué, mais, pendant longtemps j’ai pu dire « nos ordinateurs sont des ordinateurs à l’architecture von Neuman », dont vous avez l’architecture globalement symbolisée ici [6].
Neuman a dit très clairement qu’il considérait que l’aboutissement ultime de la science c’était la description du cerveau en langage formel. Il s’est donc collé à réussir à modéliser le cerveau en langage formel et logique. Finalement, il a estimé que le cerveau humain était tellement compliqué que la modélisation du cerveau serait un cerveau lui-même, qu’on ne pouvait pas le simplifier en quelque sorte, il a donc essayé de construire un cerveau, électrique à l’époque, avec les moyens techniques qu’il avait, et le cerveau qu’il a pris en exemple, c’était le sien.
John von Neuman était un juif hongrois, dont la famille s’était réfugiée aux États-Unis. Il parlait, lui aussi, un grand nombre de langues à la naissance et il avait une mémoire eidétique. La légende dit – c’est quelque chose sur lequel je me suis toujours interrogée – qu’il était capable de lire un texte et de le répéter sans erreur même des années plus tard, en tout cas, au minimum, il avait une mémoire assez fabuleuse, il considérait donc que la mémoire était le centre de l’intelligence et qu’une pensée arithmétique et logique était également le centre de l’intelligence. Et quand il conçoit son architecture, il se base – je ne dis pas qu’il s’est trompé dans sa façon de faire, évidemment –, en fait il cherche en fait à dupliquer son propre cerveau.
Par ailleurs, nous avons toute une collection de propos diversement misogynes que von Neuman pouvaient émettre dans son quotidien, vous allez me dire « peut-être pas pire que ses collègues », je l’entends, mais il est certain que le cerveau qu’il cherchait à dupliquer c’était avant tout le sien, c’était lui qu’il cherchait à recréer dans ses machines artificielles. Je m’interroge sur ce qu’il aurait fait s’il a eu la puissance de calcul qu’on a aujourd’hui.

Alan Turing (1950)

Et probablement le plus célèbre des trois, Alan Turing. Tout ça, ce sont les mêmes années, les années 45/50, c’est juste après guerre.
Alan Turing détient le premier article où on met côte à côte les questions d’ordinateur et d’intelligence, il a écrit un article célèbre qui s’appelle Computing Machinery and Intelligence où il parle des ordinateurs qui vont devenir intelligents. Je ne vais pas vous reparler en détail de cet article, regardez la vidéo d’il y a deux ans, mais il y a des éléments tout à fait intéressants dans cet article, surtout pour ensuite, que je puisse vous parler d’autres mythes ou d’autres travaux littéraires.
Au début de cet article, il se pose une question que vous vous êtes beaucoup posée dans ce séminaire et particulièrement dans le séminaire précédent, ou peut-être celui juste avant, je ne sais plus : qu’est-ce que l’intelligence ? De quelle intelligence parle-t-on ? Et Turing, de façon assez pragmatique, avec, aussi, un fond d’ironie, quand on lit son article on comprend qu’il n’est pas intégralement sérieux, se demande : « Est-ce que l’homme est intelligent ou est-ce que son comportement nous donne à penser que l’homme est intelligent ? ». En tout cas, il estime qu’il y a pas de raison qu’on fasse un double standard par rapport aux machines, puisqu’un homme qui se comporte d’une manière d’ordinaire considérée comme intelligente est appelé intelligent, eh bien une machine qui fait de même le sera aussi. On voit bien la pensée cybernétique derrière : du moment que le comportement est identique on ne va pas pinailler sur en quoi sont faites les entités.
Puisqu’il va se demander à partir de quand une machine est intelligente, il faut qu’il définisse ce qu’est une machine avant de définir ce que c’est qu’être intelligent. Il commence à dire : « Nous souhaitons exclure de la catégorie des machines, les hommes nés de la manière habituelle. » On est bien d’accord que la manière habituelle, c’est la différence des sexes. Donc, la manière habituelle, c’est la participation d’un homme et d’une femme et même au sens très large vu qu’il va dire « pour qu’il n’y ait pas "triche", entre guillemets, on pourrait par exemple requérir que les ingénieurs soient tous de même sexe, mais cela ne serait pas vraiment satisfaisant. » Je pense que dans sa vision, Turing n’imaginait pas un groupe de femmes ingénieures en train de manufacturer une machine, mais il signale bien que la machine dont on va parler ne peut pas être issue de la différence des sexes, ça doit se produire différemment.
Turing était une personne homosexuelle dans une Angleterre homophobe et misogyne. Ne regardez pas le film avec Benedict Cumberbatch [Imitation Game – Le Jeu de l’Imitation] en vous disant que vous allez avoir une bonne idée de la biographie Turing, vous verrez un joli film qui raconte, de loin, une histoire qui ressemble un peu à celle de Turing. Il ne dissimulait pas réellement son homosexualité sans en faire nécessairement complètement état. En tout cas, on ne le voyait jamais entouré de femmes et beaucoup de ses collègues estimaient que c’était par misogynie. Quand il s’exprimait auprès de ses collègues, il disait : « Le problème, avec les femmes, c’est qu’il faut leur parler. Quand tu sors avec une fille, tu dois discuter avec elle et trop souvent, quand une femme parle, j’ai l’impression qu’une grenouille jaillit de sa bouche. » Vous allez voir que cette histoire de discuter avec quelqu’un dont la conversation est intéressante, et ce ne sont plutôt pas des femmes, on va la retrouver dans l’histoire que je vais vous raconter juste après.

On peut dire que Turing cherche à recréer l’esprit du jeune garçon dont il était amoureux quand il était adolescent et qui est mort trop jeune, à créer un être artificiel, une entité intelligente, supérieure, qui serait dégagée des contingences du corps et, en particulier, des contingences de la sexualité avec laquelle il faut se débattre. C’est vers cette intelligence-là que Turing essaie de tendre et quand il va décrire, ensuite, dans son « Jeu de l’Imitation » [7] l’intelligence dont on parle, on voit très bien que l’intelligence supérieure, désincarnée qu’il imagine est une intelligence masculine.

Hadaly (1886) et la création entre hommes d’une femme parfaite

Je vais vous faire un parallèle avec une nouvelle de science-fiction de 1886, écrite par un auteur qui s’appelle Villiers de l’Isle-Adam, qui s’appelle L’Ève future où on crée un personnage qui s’appelle Hadaly. Je ne pense pas que Turing ait connaissance de cette histoire, mais j’imagine qu’il s’y serait lui-même parfaitement reconnu.
Histoire de L’Ève future.
Lord Ewald est amoureux d’une actrice qui s’appelle Alicia Clary. Cette actrice a un corps superbe, image picturale, mais est d’une grande sottise, l’image opérante n’a pas bien marché. Il est profondément désolé, désespéré, qu’une personne aussi belle puisse être aussi stupide. On est dans des contes romantiques, tragiques du 19e siècle, donc ça le pousse pratiquement au suicide tellement il est navré de la vacuité de ses rencontres féminines – ça vous rappelle normalement Pygmalion. Et là, il rencontre un scientifique qui s’appelle Edison, nommé Edison évidemment en hommage au savant américain, et Edison lui propose de fabriquer un être artificiel qui ressemble en tout point à Alicia Clary, de l’animer, et, par la force de son amour, en gros Lord Ewald va transmettre la vie à cet être artificiel appelé Hadaly. On peut dire qu’il a un peu plagié Galatée et Pygmalion.
C’est donc ce qui va se passer, Edison crée cet être artificiel et, quand il le crée, il s’explique, il va justifier sa démarche de la façon suivante, il dit : « Il y a deux types de femmes : il y a les femmes assainies, consacrées et justifiées par la dignité persistante du devoir, de l’abnégation, du noble dévouement, et puis il y a celles qui ressemblent à Alicia Clary, plus proches de l’espèce animale que de l’espèce humaine. L’homme a le droit de haute et basse justice sur ce genre d’être féminin, comme il l’a sur les animaux » et il se proclame l’assassin de l’animalité triomphante de la femme. C’est pratique pour Villiers de l’Isle-Adam, ce n’est pas lui qui dit ça, c’est Edison, lui, son héros c’est Lord Ewald.
Comment Edison va-t-il animer Hadaly ? Eh bien, il va lui-même enregistrer des films sonores et tous les mots que Hadaly va prononcer ce sont des enregistrements et des phrases qu’Edison avait dites précédemment.
On peut quand même se demander ce qui se passe dans ce trio entre Edison, Lord Ewald et la discussion amoureuse que Ewald a avec Hadaly, sachant qu’elle ne fait que répéter les mots d’Edison. Ça me rappelle évidemment quand Turing dit qu’il ne faudrait pas que cette machine artificielle, cet être artificiel soit issu de la différence des sexes et peut-être faudrait-il que tous les ingénieurs soient du même sexe. Ça veut quand même dire assez littéralement que l’être créé est perçu, au moins symboliquement, comme l’enfant des ingénieurs. Là on est quand même sur un trio assez étonnant où Edison crée une image picturale et l’amour de Lord Ewald va la rendre, je ne sais pas on peut dire vivante, en tout cas opérante, avec les phrases préenregistrées par Edison.
Après, il faut quand même que la morale soit sauve, parce que les lecteurs de l’époque ne sont pas complètement stupides, en lisant cette nouvelle ils voient bien les soubassements d’homosexualité qui se tricotent dans cette histoire. Lord Ewald revient, rapatrie le corps d’Hadaly en bateau, le bateau fait naufrage, le sarcophage coule et Ewald prend le deuil d’Hadaly.
On voit très bien, là encore dans cette histoire, que les femmes sont désespérément imparfaites, on ne peut pas s’en satisfaire, ce sont des hommes entre eux qui créent un être parfait féminin, qui pourra être animé par la volonté des hommes. C’est encore une reproduction, un auto-engendrement dans le cas d’Edison, sans passer par les femmes. Mais là, comme je vous disais, cette fois ça finit mal parce qu’il n’y a pas une divinité qui s’en est mêlée. Villiers de l’Isle-Adam a estimé nécessaire, pour la morale de son texte, de supprimer Hadaly et rendre Ewald désespéré.

Frankenstein : la création sans mère et sans amour (Mary Shelley, 1818)

La créature artificielle suivante dont je vais vous parler, je pense que vous imaginiez que j’allais bien y venir, c’est Frankenstein. C’est d’autant plus intéressant de parler de Frankenstein à Genève parce que c’est une histoire genevoise. L’autre jour j’étais à Plainpalais, je suis tombée sur la statue de Frankenstein, elle a été mise là en 2014, je ne l’avais jamais vue, je m’en suis voulu de ne l’avoir jamais croisée, j’en ai apporté une photo [8]. Le docteur Frankenstein est genevois et si la créature est sur Plainpalais, c’est parce qu’un des meurtres qu’il commet, il le commet sur la plaine de Plainpalais.
Pourquoi je vous parle de Frankenstein ? C’est un peu le symbole même de la créature artificielle qui se retourne contre son créateur, mais en fait ce n’est pas ça que Mary Shelley, l’autrice de Frankenstein [9], a voulu raconter.
Mary Shelley explique qu’elle écrit un roman familial – je pense que vous n’avez jamais vu Frankenstein comme un roman familial –, elle l’écrit dans l’intro, c’est très clair, et quand on a cette grille de lecture et qu’on lit Frankenstein, on comprend pourquoi Mary Shelley dit qu’elle écrit un roman familial.
Je vous raconte un subset de Frankenstein pour vous expliquer où je veux en venir.

Victor Frankenstein est un médecin dont la mère décède et qu’il ne peut pas sauver. Il s’enferme, il se désespère, il décide de vaincre la mort et il songe à animer un cadavre avec la puissance de l’énergie électrique, de l’énergie de la foudre, ce qu’il fait et il ramène à la vie un cadavre qui n’aura pas de nom, qui est la créature de Frankenstein. Quand la créature s’anime, Frankenstein prend peur et la chasse. Sa créature va le confronter un peu plus tard et va lui dire, en substance, que quand elle est née, elle était bonne – on sent une inspiration Rousseau, une bonté naturelle et spontanée –, mais comme son père l’a repoussée et qu’elle n’avait pas de mère, c’est encore un auto-engendrement sans mère, eh bien abandonnée de tous, repoussée ensuite par la famille, qu’il prendra en modèle, et qui est terrifiée par son apparence, elle va devenir mauvaise, elle va commencer à tuer tout le monde autour du docteur Frankenstein.
Pour Mary Shelley, si ça se passe mal, si cette créature se retourne contre son créateur, ce n’est pas tant parce que Frankenstein a volé un secret divin, ce n’est pas tant parce qu’il a su animer un cadavre et a vaincu la mort, c’est parce qu’il a créé un enfant, seul, sans mère et sans s’en occuper, et il l’a renié, on va dire qu’il n’a pas assumé sa responsabilité paternelle.
Évidemment, ça parle aussi de sa vie. Mary Shelley [10] est née Mary Wollstonecraft, elle était la fille du philosophe anglais William Godwin et de la féministe anglaise et philosophe Mary Wollstonecraft. Mary Wollstonecraft meurt quelques jours après la naissance de sa fille. Son père est assez inconsolable, il va apprendre à la petite Mary à lire sur la tombe de sa mère – après, vous vous étonnez qu’on écrive des contes gothiques ! Il l’entoure des grands esprits de l’époque ; elle a une éducation hors du commun pour une fille de son époque, même pour un garçon de son époque, par contre, côté amour familial, William Godwin est un homme de son époque, il ne sait pas trop faire et, comme elle n’a pas de mère non plus, qu’elle est un peu élevée dans la culpabilité du décès de sa mère, ce n’est pas si simple. Parmi les personnes invitées par son père, il y a le poète Percy Shelley, poète romantique, marié contre son gré, et Mary Shelley, à 16 ans, va se sauver avec Percy Shelley. Ça va être un monstrueux scandale, ils vont fuir de place en place, elle va perdre un premier enfant et puis finalement, un autre poète sulfureux, Lord Byron, grand ami de Shelley, va les accueillir à la villa Diodati, que je rêve de pouvoir visiter, qui se trouve à Cologny, je suis allée la voir, mais je suis juste restée devant la porte, qu’il loue avec son ami/amant et souffre-douleur John Polidori, il leur propose de passer des vacances avec eux. Et, là, va se passer la plus célèbre partie littéraire du 19 siècle. Les quatre personnes lisent des contes gothiques allemands, se racontent des histoires et décident d’écrire chacun une nouvelle. Ce sont les deux amateurs qui vont finir leur travail, les deux grands poètes n’arrivent pas au bout, John Polidori va écrire une nouvelle qui s’appelle Le vampire qui met en scène Lord Ruthven. C’est, en fait, une parodie et une façon de se venger de Lord Byron et Bram Stoker va piquer la nouvelle de Polidori pour créer le comte Dracula, donc le comte Dracula, c’est en fait Lord Byron, mais ce n’est pas de cette histoire-là dont je vais vous parler.
Mary Wollstonecraft à l’époque, plus tard, au décès de sa femme, elle va épouser Shelley, va écrire Frankenstein et vous voyez comment son histoire personnelle va imprégner son récit. Elle est enceinte au moment où elle écrit Frankenstein. Vivre l’amour libre, se sauver, vivre dans un univers romantique, au 19 siècle, c’est quand même plus facile pour les mecs que pour les femmes. Elle se demande ce que va devenir son enfant à naître, donc elle écrit cette histoire.
La vie de Mary Shelley ne va pas être très drôle parce que, finalement, Shelley va se suicider. Elle va se débrouiller, elle n’a qu’un seul enfant qui va vivre. Elle écrira un peu toute sa vie, mais obligée aussi de vivre de son écriture, elle n’est jamais devenue une autrice particulièrement célèbre. Pour le coup, sa créature, son médecin est plus célèbre qu’elle.
L’histoire de Frankenstein est donc typiquement l’histoire qui finit mal. Frankenstein est puni d’avoir tenté un auto-engendrement sans femme et sans assumer sa paternité.

Asimov et les robots gentils

Cette image de Frankenstein a été beaucoup reprise dans la science-fiction de l’époque âge d’or dans les années 50 aux États-Unis, cette science-fiction a accompagné l’essor de tout un tas d’éléments technologiques, l’informatique mais aussi la conquête spatiale par exemple, c’est le volet informatique qui va m’intéresser. Asimov [11] parle du complexe de Frankenstein dans les récits mais aussi dans la façon de considérer les machines. En 1950, on est toujours dans cette même époque au moment où les cybernéticiens pensent aux premiers ordinateurs, au moment, ça doit être 1952, de la première occurrence du terme « intelligence artificielle » suite à la conférence de Dartmouth [12] c’est vraiment à cette même époque qu’Asimov écrit : « Le savoir a ses dangers, sans doute, mais faut-il pour autant fuir la connaissance ? En d’autres termes, Faust doit affronter Méphistophélès, mais il ne doit pas nécessairement être vaincu par lui. » Par la suite, il va partir en guerre contre le complexe de Frankenstein en imaginant des machines qui vont faire le bien de l’humanité.

Là-dessus, par exemple, Wiener n’était pas si sûr. Wiener écrit que l’homme du 20e siècle est l’homme de Bergen-Belsen et Hiroshima. On sent qu’il n’a pas forcément complètement foi dans l’humanité, mais s’il crée la cybernétique qui est la science de la régulation et de l’information, c’est pour réguler l’entropie du monde qui lui semble inévitable et, au moins, on va donner aux humains la capacité de réguler cette entropie avec des machines.

Asimov et beaucoup des auteurs de science-fiction de l’âge d’or de cette époque sont des scientifiques qui ont foi en une science bonne. OK, ça n’a pas très bien marché pendant la Deuxième Guerre mondiale, mais ce n’est pas la science le problème, ce sont les politiciens, c’est vraiment un thème qui revient de manière récurrente dans toute cette littérature de science-fiction écrite par des scientifiques : ce n’est pas la science le problème, la science pourrait être fondamentalement bonne, les scientifiques veulent faire le bien, ce sont les politiciens qui ont tout gâché.
Il écrit une première nouvelle en réponse au complexe de Frankenstein qui s’appelle Robbie [13]. C’est une des toutes premières nouvelles d’Asimov et il reconnaît lui-même, par la suite, qu’elle est pas terrible, il dit « quand je l’ai écrite, j’étais puceau, je ne connaissais rien à la famille, je m’entendais bien avec mon père, ça me suffisait pour écrire des histoires familiales. » Il reconnaît que ce n’était pas formidable, et qu’est-ce qu’il écrit ? Il parle d’une nounou qui s’appelle Robbie, qui est un robot utilisé pour s’occuper d’une petite fille qui s’appelle Gloria. La nouvelle s’appelle Robbie, la petite fille s’appelle Gloria. Robbie est la nounou idéale que peut avoir Gloria et, quand il raconte la relation entre Gloria et sa nounou robot, on voit un peu le rêve de tout nerd, de tout gamin comme il va se décrire lui-même, maigrichon, scientifique, en butte aux railleries de ses camarades. Encore un thème extrêmement récurrent dans les nouvelles de science-fiction mais aussi dans les interviews des informaticiens que j’ai pu mener - je n’ai pas dit informaticiennes parce qu’il n’y en avait pas tant que ça ! Cet être qui est votre compagnon, qui vous veut du bien, qui vous comprend, qui a une conversation suffisamment intelligente pour la partager avec vous et surtout qui ne vous veut pas de mal. Le père de Gloria va donc décrire les avantages d’un robot nounou de la manière suivante : « Un robot est infiniment plus digne de confiance qu’une bonne d’enfant humaine. Ce robot n’a été construit, en réalité, que dans le but unique de servir de compagnon à un petit enfant. Il ne peut faire autrement que d’être aimant et gentil. C’est une machine faite ainsi, c’est plus qu’on peut en dire pour beaucoup d’humains. »
Et puis il y a la mère de Gloria, qui représente le volet obscurantiste, qui essaie d’expliquer pourquoi ce n’est pas une bonne idée et ses arguments sont assez pauvres. Elle propose : « Un enfant n’est pas fait pour être gardé par un être de métal. Un incident pourrait se produire » ou « que vont dire les voisins ? » Ce n’est pas très étayé, alors qu’il y a des tas de raisons. Si on n’a je ne vais même pas dire deux sous de connaissances en sciences de l’éducation, juste deux sous de connaissances plus que le jeune Asimov de 19 ans, un robot qui est toujours entièrement d’accord et qui, finalement, n’est que le reflet de la discussion de Gloria, est-ce que c’est vraiment la bonne façon d’élever un enfant ? C’est une question de rhétorique, mais, pour Asimov, ça semble très bien.
Finalement, à force de tanner son mari, le père accepte que Robbie soit retiré, la gamine est très triste, la gamine dépérit, et puis, à un moment, alors qu’elle va avoir un accident grave, soudain Robbie sort d’on ne sait où, sauve la gamine et la mère comprend qu’elle se fourvoie depuis le début et que les scientifiques ont raison, en substance.
C’est donc une histoire qui finit bien parce que Asimov a foi dans la science. Il a inventé ce qu’il appelle les trois lois de la robotique pour cadrer la manière dont les robots vont se comporter. Il y a, en parallèle, à la même époque un certain nombre de récits – vous lisez Bradbury, ça n’a pas du tout le même goût – de machines où ça se passe plutôt mal, qui contrôlent l’humanité, qui essaient de vivre en parallèle des humains mais sans beaucoup d’empathie pour eux. Chez les scientifiques auteurs, notamment chez Asimov, les robots sauvent l’humanité.

Par contre, c’est quand même formidable dans ses écrits et évidemment je pense qu’il n’y a aucune stratégie de sa part, mais on est tous et toutes imprégnées de cette culture occidentale de créatures artificielles, que ça se passe bien ou mal, dans sa création de Robots, au moment où son univers va se développer plus en plus, les parents de ces robots sont Alfred Lanning qui construit les robots eux-mêmes, image picturale, et Susan Calvin qui est un des tout premiers personnages féminins de science-fiction, un personnage positif, intéressant, intelligent et avec de l’épaisseur, je rends hommage à Asimov de l’avoir mise dedans, et pas seulement soit des épouses soit des filles qui crient pour qu’on vienne les sauver. Susan Calvin est psychologue pour robots et va s’occuper de lune image opérante. C’est-à-dire que les robots positifs d’Asimov, qui vont sauver l’humanité, s’ils échappent au complexe de Frankenstein c’est parce qu’ils ont un père une mère qui vont s’occuper d’eux.

J’ai demandé à l’IA de me dessiner des robots gentils. En fait l’image que l’IA a elle-même des robots fout la trouille, c’est assez amusant, mais elle sait dessiner des robots gentils. Je pense qu’Asimov n’aurait pas désavoué mes robots gentils.

Auto-engendrement

Maintenant, qu’est-ce qu’on trouve dans les discours des informaticiens ? Je suis allée discuter, dans les années 2000, avec des informaticiens qui n’ont pas connu les années 50, quand même, mais qui ont connu l’arrivée du micro-ordinateur, soit chez moi, soit dans des ouvrages de l’époque.
La première citation vient de mes propres entretiens : « J’ai rêvé de créer mon propre robot, de lui donner mon intelligence, de le faire mien, de lui donner mon esprit, de me voir en lui depuis que je suis tout petit. ». Vous voyez ce que je veux dire quand je parle d’auto-engendrement.

Chez Sherry Turkle [Les Enfants de l’ordinateur ], on tape sur le clou, on est très clair : « Les hommes ne peuvent pas avoir d’enfants, c’est pourquoi ils essaient d’en avoir par l’intermédiaire de la machine. Les femmes n’ont pas besoin d’ordinateur, elles peuvent avoir des enfants d’une autre manière. » Personnellement, je pense que j’ai besoin d’un ordinateur, même si j’ai des enfants d’une autre manière. Ce que je veux dire, c’est que ce n’est pas profondément lié à l’essence même d’être un homme ou d’être une femme, c’est évidemment la représentation genrée, en tout cas c’est comme ça que cet informateur l’exprime.

Et puis un hacker que j’ai interviewé [L’informatique a-t-elle un sexe ?, Isabelle Collet, 2006], on est à l’étape d’après. La citation de Turkle c’est dans les années 80, on se représente encore pas mal les robots, les machines, le support c’est important, on a encore besoin de l’image picturale. Au début des années 2000, l’image opérante suffit, on n’a plus besoin du support, le comportement suffit, le logiciel suffit. J’interviewe ce hacker, qui crée des virus, qui me dit bien, attention : « Je ne crée pas des virus pour infecter les machines, non ! Moi, j’ai une éthique hacker, pas de blague » – hacker, Chaos Computer Club [14], il fait partie de la noblesse d’épée des hackers, attention, il me dit : « Je programme des virus, ce n’est pas pour les relâcher mais c’est parce que c’étaient des petits programmes intelligents, des petites créatures. » Il avait trouvé le moyen de créer de manière logicielle des petites créatures.

Un privilège des femmes

Là, c’est le moment je vais redevenir sociologue, je vais parler de Françoise Héritier [15].
Françoise Héritier est une grande anthropologue française qui a écrit un certain nombre d’ouvrages sur le plan masculin/féminin, se posant la question du féminin et du masculin dans les sociétés humaines. Elle est africaniste, elle n’a pas une connaissance étendue de toutes les sociétés humaines, probablement que si elle avait un peu plus travaillé sur les cultures d’Asie, elle n’aurait pas tout à fait émis les mêmes propos. En gros, elle explique qu’elle constate tant dans les sociétés d’Afrique que dans les sociétés occidentales qu’il y a des mythes des origines et, dans ces mythes des origines, soit on a des êtres asexués ou androgynes, qui se reproduisent eux-mêmes. Adam, par exemple est créé androgyne, c’est un golem, à l’origine, je ne parlerai pas des golems, ça me prendrait trop de temps, mais il est considéré comme étant un golem, c’est-à-dire un être sans conscience, il est créé androgyne ; dans certains textes, il est imaginé homme et femme se tournant le dos et puis il sera séparé pour créer homme et femme séparément.
Dans beaucoup de cultures africaines que Françoise étudie, elle voit des hommes qui vivent dans un endroit, des femmes qui vivent dans un autre endroit, parfois dans des îles séparées, des territoires séparés, et les femmes font leurs filles et les hommes font leurs fils. Et puis, à un moment, les hommes et les femmes se rencontrent, ont un rapport sexuel, ça déplaît aux dieux et ils punissent les hommes plus durement que les femmes parce qu’ils estiment que c’est l’homme qui a imposé, en tout cas initié le rapport sexuel. Les femmes vont continuer à garder ce pouvoir totalement incroyable, inexplicable, injuste pour les hommes et exorbitant, de reproduire leurs semblables : elles font leurs filles, mais elles reproduisent aussi les fils des hommes. C’est-à-dire, quels que soient les fantasmes des pouvoirs de puissance que les hommes peuvent mobiliser, s’ils veulent assurer leur postérité, s’ils veulent assurer leur éternité, ils doivent passer par les femmes, parce que les femmes enceintes ne se demandent pas si leur enfant est d’elles, si vous voyez ce que je veux dire. Pour que les hommes soient certains de leur filiation, il faut qu’ils s’assurent de la possession absolue du corps des femmes, de sorte qu’ils soient certains que leurs fils sont bien leurs fils.
Françoise Héritier estime que ça fonde la domination masculine. Je n’irai pas sur ce terrain, c’est controversé, mais c’est une proposition qui existe. En tout cas, ce sur quoi elle insiste, c’est sur ce privilège exorbitant qui font que les femmes font leurs filles et les fils des hommes. Certes, quand on a compris les gamètes, tout ça, on sait bien que si on n’est pas les deux il n’y a rien qui marche, mais symboliquement. D’ailleurs, quand on dit « les femmes font des enfants », ça n’a pas de sens, il faut être deux pour faire des enfants. Je suis toujours fascinée que, quand on calcule les taux de fécondité, on calcule le nombre d’enfants par femme. Là encore, on n’est pas parthénogénétique, ça n’a pas de sens de calculer ça par femme, bref ! Symboliquement ce sont les femmes qui font les enfants et qui font les filles et les fils des hommes.
La cybernétique, l’auto-engendrement, la création à travers les machines, ma foi c’est une solution pour contourner ce privilège exorbitant.

De HAL à Joshua : la machine laissée à elle-même

La dernière histoire que je vais vous raconter, je ne sais pas si vous avez reconnu HAL 9000, l’ordinateur tueur de 2001, l’Odyssée de l’espace. Là encore, la manière dont je vais vous raconter l’histoire n’est pas forcément la manière dont vous l’avez vue, dont vous l’avez imaginée en regardant le film de Kubrick même si ça s’y trouve, c’est beaucoup plus clair quand vous lisez le roman d’Arthur Clarke [16]. Arthur Clarke est un scientifique, de l’âge d’or de la science-fiction, qui pense que la science est fondamentalement bonne. Vous allez me demander comment un scientifique qui pense que la science est fondamentalement bonne a pu créer l’archétype du robot tueur ? Parce que, quand vous lisez Clark, vous vous rendez compte que le pauvre HAL 9000 n’avait pas le choix.
Je vous raconte rapidement le début de 2001, l’Odyssée de l’espace. Un monolithe est découvert sur la face cachée de la lune, il envoie un signal dans l’espace, l’humanité met en place un vaisseau, qui s’appelle Discovery, pour aller suivre et trouver la destination de ce signal, c’est du côté de Jupiter. Son équipage est composé de plusieurs astronautes et scientifiques qui ont dormi le temps du voyage et de HAL 9000, un ordinateur HAL – c’est IBM en décalant les lettres de - 1, le « i » devient un « h », vous avez compris –, une intelligence artificielle qui va s’occuper du voyage. Et puis, en fait, HAL va se mettre à assassiner tous les membres de l’équipage. Le seul qui va lui échapper c’est David Bowman qui finalement, dans une scène célèbre du film, va débrancher HAL, et au fur et à mesure qu’il le débranche, HAL retombe en enfance. On l’entend régresser et, à la fin, il récite une des toutes premières comptines qu’il a apprise dans son enfance de cerveau informatique et puis, finalement, il est débranché.
Pourquoi HAL fait-il ça ? En fait, il est pris dans un piège dont il n’arrive pas à se sortir. Celui qui va mettre au jour le problème c’est son père, Chandra, l’informaticien qui a créé HAL, qui a toujours eu foi dans le fait que ce n’était pas possible que HAL se soit transformé en tueur et qui, dans 2010 : Odyssée deux [17], va innocenter, clarifier totalement la situation. Clark dit très clairement : « Le docteur Chandra portait uniquement le deuil de son enfant perdu, HAL 9000 », c’est très clair. De même que cette comptine que va réciter Hal dans 2001, c’est la comptine que son père lui a apprise.
Que s’est-il passé ? HAL, en soi, n’a aucune hostilité envers les humains et, a fortiori, envers l’humanité en général. Il a été placé dans une situation insolite : on lui a demandé de réussir la mission, avant tout, de la garder secrète, de tenir secrets les véritables intérêts de la mission, et surtout de ne jamais en parler aux humains, mais de leur dire la vérité. Eh bien, il ne s’en sort pas ! Si, sa seule solution, c’est de supprimer les humains : plus d’humains, plus de problèmes, il peut mener à bien sa mission et la garder secrète. C’est donc pour cela qu’il va éliminer tout le monde.
Le point de vue de Clark est très clair : c’est la bêtise tragique des politiciens, je vous disais que c’était un thème récurrent, qui provoque la mort des humains et pas HAL qui n’avait pas d’autre choix tel qu’il a été programmé. D’ailleurs David Bowman va s’allier avec HAL pour la suite de l’histoire, on ne lui en -veut pas dans ces histoires.

HAL est représenté uniquement de cette façon-là [18] , sa structure est éparpillée dans le vaisseau. Là encore on n’a plus vraiment besoin d’image picturale, ce n’est plus que du logiciel, c’est une image opérante.
Le sommet qui, pour moi, fonde à la fois les représentations geeks, la représentation de l’ordinateur dans la pop culture qui va durablement marquer et impressionner les représentations qu’on a aujourd’hui, les représentations en termes d’Imagerie d’Épinal, les prototypes des informaticiens, vous l’avez dans le film Wargames [19] de 1983. Si vous ne l’avez jamais vu, voyez Wargames c’est absolument fascinant, je suis indéfiniment fascinée par Wargames.

Dans Wargames il y a un ordinateur, au NORAD [North American Aerospace Defense Command ], qui s’occupe de la riposte nucléaire. Il a été programmé par un informaticien qui s’appelle Stephen Falken, qui a perdu son fils. Il a nommé cet ordinateur Joshua du nom de son fils, normalement ça vous rappelle des trucs. Ensuite, il s’est complètement désintéressé de la vie de l’informatique, de tout ça, il a laissé Joshua vivre sa vie au NORAD à piloter la riposte nucléaire.
En parallèle, aujourd’hui on dirait un jeune geek ou un jeune hacker, plutôt brillant mais un peu inconscient ou inconséquent, qui ne se rend pas compte de ce qu’il fait, qui incarne déjà tout un tas des stéréotypes de l’informaticien : il est brillant, il ne sait pas nager, il n’est pas sportif. Le seul truc qu’il a, pour la nécessité du film, c’est qu’il est séduisant, qu’il arrive à séduire une fille et à s’en faire une copine, à part ça, il coche les autres cases du stéréotype. Ce jeune garçon, qui s’appelle David Lightman – il s’appelle David évidemment en hommage à David Bowman –, pirate par mégarde, sans le faire exprès, l’ordinateur du NORAD, le fameux Joshua, et commence à vouloir jouer avec lui. Au début, ils jouent au morpion et, finalement, ils jouent à la Troisième Guerre mondiale et Joshua démarre la Troisième Guerre mondiale.
À la fin, on se retrouve avec le père de Joshua qui débarque dans la salle du NORA alors qu’on est à deux doigts de la Troisième Guerre mondiale, qui s’adresse à son fils virtuel en lui disant « mon Dieu, Joshua, mais qu’est-ce que tu as fait ! » et David Lightman qui est, quelque part, le grand frère de Joshua, va discuter avec lui et va arrêter la catastrophe. En fait, il va montrer à l’ordinateur qu’il n’y a pas de solution pour gagner : si on simule toutes les parties, la seule façon de gagner la Troisième Guerre mondiale c’est de ne jamais la commencer. Donc, finalement, l’ordinateur s’éteint et propose une partie de morpion, ce qui est quand même beaucoup plus inoffensif.
Là, on a vraiment l’arrivée du geek comme nouveau héros, c’est-à-dire qu’on est capable de programmer l’ordinateur qui va lancer la Troisième Guerre mondiale, mais on est aussi capable d’être celui qui va arrêter l’ordinateur qui va lancer la Troisième Guerre mondiale.

Toutes ces histoires que je vous raconte depuis le début, c’est une espèce de poursuite de créations, d’auto-engendrements qui se passent bien ou mal, selon les cas, mais qui se passent entre scientifiques et entre hommes.

Je vais citer un historien des sciences qui s’appelle David Noble [20]. Il explique, ça se voit notamment avec les technologies reproductives mais aussi avec les créatures artificielles qui font partie des technologies reproductives, certes d’une manière plus symbolique, depuis un millier d’années, la poursuite scientifique obsessionnelle de la création d’un enfant sans mère, c’est-à-dire enfin cette bonne science qui se fait nécessairement entre hommes.
Je pourrais vous citer un certain nombre de remarques de scientifiques au cours du temps, par exemple ceux qui n’ont pas voulu accepter parmi eux Emmy Noether [21], une grande algébriste, non pas parce qu’on doutait de ses compétences, mais parce que, justement, disaient-ils, la bonne science se fait entre hommes.

J’arrive à la fin. Je voulais encore vous donner quelques citations d’informaticiens pour vous montrer que je ne plane pas uniquement dans des récits déconnectés de propos, même d’informaticiens.

La première vient d’Alan Kay [22], qui a été chercheur au Xerox PARC Center, un grand centre d’innovation informatique qui a créé et fondé bien des éléments qui sont notre quotidien comme la souris, les environnements graphiques avec des fenêtres, etc., qui dit : « L’informatique met la science à l’envers. Dans la science normale, on vous donne un monde et votre travail est de trouver les règles qui s’appliquent. Dans l’informatique, vous donnez les règles à l’ordinateur et il crée le monde. » Là, je fais quasiment un teaser pour la conférence que je vais faire dans deux ans. C’est-à-dire qu’il ne suffit pas de créer, de s’auto-engendrer, on passe à l’étape d’après, c’est-à-dire que maintenant on est dans la création de mondes, on va remplacer Dieu. Les légendes autour du Golem sont tout à fait là-dedans. Le premier golem créé qu’on trouve dans des textes de la kabbale, le premier golem est créé par Jérémie et est associé à la phrase « Dieu est mort », c’est ce qu’écrit le golem. Le premier ordinateur israélien dédié au vote a été appelé Golem. Vous voyez que le fantasme prend des proportions encore plus importantes.

Dans mes propres interviews, j’ai eu : « Bon maintenant qu’on est entre nous, on peut se dire la vérité. Alors deux choses : d’abord on a gagné, on est les maîtres du monde ; on est partout et nos programmes contrôlent tout. Et ensuite, maintenant qu’on contrôle tout, il va falloir commencer à écrire des programmes qui marchent. » Il raconte ça au début des années 2000, ça fait rire. Ça, dans la parole des gens qui contrôlent les GAFAM, ça me fait beaucoup moins rire aujourd’hui. J’imagine des gens comme Musk le dire sans une once d’ironie.

Un autre, Jacques qui, lui, a regardé Wargames, il en a des souvenirs flous parce qu’il y a des éléments qu’il va me raconter et ce n’est pas tout à fait ça. Il me dit : « Dans Wargames, l’ordinateur était capable de tout faire. Quand je voyais Wargames, le mec pouvait tout faire devant son ordinateur. L’ordinateur c’est l’outil qu’il fallait avoir, c’était le pouvoir ou plutôt la puissance. » On est en 86. À l’époque, les ordinateurs ce n’était pas vraiment le pouvoir et la puissance, mais la capacité de fantasme dégagée par ces machines, oui, c’était le pouvoir et la puissance et franchement Jacques, je signe avec lui, c’est pour ça que j’ai commencé dans l’informatique.

Vers un monde sans femmes ?

J’arrive à la fin. Ça c’est encore une image que j’ai demandée à l’IA de me créer : si on mélangeait, en gros, Dieu et l’ordinateur, qu’est-ce que ça donne ? Vous voyez que l’IA a des idées, elle est prête, mais sans aller jusque-là, ce monde numérique fantasmé est un monde sans femmes. Dans la réalité, ce n’est pas faux. En informatique, on a environ 15 % de femmes, c’est-à-dire 85 % d’hommes haut la main et encore je ne pinaille pas dans les sous-rubriques de l’informatique.
L’étymologie du mot ordinateur, telle qu’elle a été écrite par Jacques Perret en 1955 [23] : « L’ordinateur c’est la machine qui, à l’instar de Dieu, met de l’ordre dans le monde, c’est ce que veut dire le mot ordinateur. Une cérémonie d’ordination, c’est un évêque qui sacre des prêtres. C’est un peu tombé en désuétude, mais quand Perret a créé le mot ordinateur, c’est de là qu’il le tire : « L’ordinateur c’est la machine qui, à l’instar de Dieu, met de l’ordre dans le monde », alors que penser de la personne qui programme la machine qui, à l’instar de Dieu met de l’ordre dans le monde ? Quand on est à un tel niveau de fantasme et qu’on est au niveau d’une société qui ressemble par exemple à une GAFAM, qui génère des IA qui sont quand même ces images opérantes, qui n’ont plus besoin de l’image picturale de créatures artificielles, franchement quel serait l’intérêt d’y intégrer les femmes ? Et quand Zuckerberg dit que, à son avis, ça manque d’énergie masculine dans le numérique, c’est vrai que 85 %, c’est encore un peu court, et il exprime de manière très littérale.
Je vous remercie.

[Applaudissements]