Delphine Sabattier : C’est parti pour le grand débrief de l’actu tech. Il est 10 heures 45, Vous nous regardez en direct sur la chaîne B-Smart.
Aujourd’hui autour de la table, pour commenter cette actualité effervescente, j’ai le grand plaisir de recevoir My-Kim Chikli. Bonjour My-Kim.

My-Kim Chikli : Bonjour Delphine.

Delphine Sabattier : Conseillère de dirigeants. Vous êtes une experte en stratégie tech et data.
En face de vous, Julien Pillot. Bonjour Julien.

Julien Pillot : Bonjour Delphine.

Delphine Sabattier : Très heureuse aussi. Enseignant-chercheur en économie à l’Inssec [Institut des hautes études économiques et commerciales].
Et Georgie Courtois. Bonjour Georgie.

Georgie Courtois : Bonjour Delphine.

Delphine Sabattier : Très heureuse également de vous accueillir. Il n’y aura aucune exception aujourd’hui, je vous aime tous !
Georgie vous êtes avocat.
Nous allons confronter nos points de vue sur ce petit village gaulois, la Direction interministérielle du numérique qui adore visiblement la BD d’Astérix puisque elle a décidé de lancer Sécurix et Bureautix comme des solutions pour remplacer Windows.
On va parler aussi de Mark Zuckerberg qui a envie d’avoir son avatar CEO [Chief Executive Officer], un patron IA qui l’aiderait à prendre ses décisions mais aussi à communiquer avec ses équipes. Qu’en pense-t-on ? Un peu mégalo ? Un peu dangereux ?
On va aussi s’interroger sur la dangerosité, puisque Anthropic a décidé de reporter son nouveau modèle de langage Mythos, en nous disant que c’était trop dangereux, alors Mythos, mito, bref, vous avez compris mito pas mito !
On va aussi parler du gouvernement britannique qui resserre la vis autour des plateformes puisque désormais les Big Tech seront menacées de peines de prison pour la diffusion d’images intimes non consenties.

Réseau social Bulle

Delphine Sabattier : On commence avec un contre-modèle, justement, de réseau social. Il est français, il s’appelle Bulle [1], il se veut une réponse aux TikTok et Instagram. Pour lancer cette discussion, nous sommes connectés avec Clément Étoré. Bonjour Clément.

Clément Étoré : Bonjour. Bonjour à tous. Merci de me recevoir.

Delphine Sabattier : Avec grand plaisir. Vous êtes le fondateur et président de Bulle, dont la maison-mère est Shabon, si j’ai bien noté.

Clément Étoré : Oui, shabon veut dire « bulle de savon » en japonais.

Delphine Sabattier : Ah ! Très bien. N’est-ce pas un peu présomptueux de lancer un réseau social français pour s’attaquer à des TikTok et Instagram ?

Clément Étoré : Oui. Tout à fait. C’est pour cela que ce n’est pas tout à fait un réseau social. C’est vraiment différent. On aborde la chose de manière totalement différente. C’est un média plutôt qu’un réseau social, c’est à mi-chemin entre un réseau social et la télévision, c’est pour renouer avec un socle informationnel un peu sain. Nous ne nous attaquons pas aux réseaux sociaux, nous proposons autre chose.

Delphine Sabattier : L’idée, c’est comme cela que vous le vendez sur votre site, c’est quand même une autre de proposer une autre façon d’être connecté avec ses pairs, ses camarades et puis même, pourquoi pas, son réseau professionnel. Comment vous y prenez-vous pour être différent ?

Clément Étoré : Justement pas tellement, c’est-à-dire qu’il ne faut pas le voir comme les réseaux sociaux d’il y a 20 ans. Il faut le voir comme ce que sont devenus les réseaux sociaux aujourd’hui. Par exemple, aujourd’hui, 70 % des jeunes ne se servent pas de TikTok et d’Instagram pour poster des choses, en fait ils s’en servent pour consommer de l’information, par exemple regarder des médias ou des créateurs de contenu qui leur font apprendre des choses. Nous avons pris ce positionnement qui est de dire : vous n’allez pas sur Bulle pour discuter avec vos amis, pour poster des choses, vous ne pouvez pas poster des choses. Les seules personnes qui peuvent poster des choses sont des créateurs de contenu et des journalistes qui respectent une charte de déontologie stricte. C’est donc comme cela qu’on mettra fin, finalement, au cyber-harcèlement, à la désinformation, etc.
Par contre, sur la forme, ça ressemble exactement à TikTok et Instagram. Ça permet d’assainir ces modèles-là, mais ce n’est pas un réseau social communautaire comme on a pu le voir il y a 20 ans, comme média social.

Delphine Sabattier : C’est plutôt quoi ? Un YouTube qui aurait la forme d’un TikTok ?

Clément Étoré : Oui. On peut effectivement le voir comme ça. C’est ça. Moi, je le vois comme un TikTok sur lequel il n’y a pas de contenu dangereux pour les enfants, sur lequel il n’y a pas de pseudo-médecins qui vous expliquent qu’il faut mettre fin à votre traitement sans avoir fait les études pour. C’est plutôt un TikTok assaini, c’est comme cela que je le vois.

Delphine Sabattier : D’accord. Vous dites que c’est pour protéger contre la désinformation, qu’il y aura donc des créateurs de contenu habilités à poster. Comment allez-vous faire pour les sélectionner ? Comment garantissez-vous que l’information sera fiable et qu’on pourra vraiment être dans un espace de confiance ?

Clément Étoré : L’objectif n’est pas de faire un ministère de la vérité qui sélectionnerait simplement les personnes qui nous arrangent. L’idée c’est de pouvoir laisser rentrer tout le monde tant que ça reste dans notre charte de déontologie [2]. Cette charte de déontologie est publique. Elle se base sur la Charte de Munich [3], celle des journalistes, qui fixe justement un cadre clair sur la désinformation, ne pas faire d’appels à la haine, ne pas faire de cyberharcèlement. Tout créateur doit donc se soumettre à cette charte de déontologie, c’est comme cela qu’on garantit qu’on a un espace sain, il doit d’abord postuler pour rentrer. Nous faisons une sélection en amont sur le créateur, on ne vérifie pas tous les contenus, il y aura une modération à posteriori, mais ça nous permet, comme cela, de pouvoir réagir si jamais un contenu sort de cette charte de déontologie.

Delphine Sabattier : Ça c’est pour la partie confiance. Il y a la partie modèle économique, parce que si vous faites référence aux médias, aujourd’hui c’est quand même un sacré défi de trouver le bon modèle économique. J’imagine que vous n’êtes pas sur le modèle de l’attention.

Clément Étoré : On est sur le modèle de l’attention.

Delphine Sabattier : Attention avec le modèle de l’attention, cher ami !

Clément Étoré : Il faut bien comprendre que le problème des GAFAM c’est qu’ils ont poussé à l’extrême ce modèle de l’attention pour chercher à maximiser leurs revenus. Il faut bien comprendre qu’il y a des pubs à la télévision, comme chez vous, il y a des pubs partout, nous avons donc un modèle de publicité, mais ce n’est pas pour autant qu’on est obligé de faire sombrer les gens dans une addiction profonde et de leur faire passer quatre heures sur Bulle, on peut très bien avoir un modèle viable sans ça. Il faut faire attention et ne pas croire qu’on est obligé de rendre un réseau social toxique pour le rendre rentable, non, il faut le rendre toxique pour le rendre « hyper rentable », entre guillemets, et faire des super profits, mais ce n’est pas l’objectif de Bulle. Il y a aussi des comptes premium, bien sûr, il y a un modèle économique parallèle.

Delphine Sabattier : Sur les médias, en l’occurrence, vous parlez de la publicité, oui c’est un modèle, mais il y a aussi le modèle payant qui permet d’avoir justement une certaine indépendance vis-à-vis de cette économie de l’attention, donc vous ferez aussi du premium.
Une première réaction autour de la table ? Julien.

Julien Pillot : Bonne chance, parce qu’il faut réussir là où d’autres ont échoué, peut-être avec moins de volonté de rompre réellement avec les algorithmes addictifs, je pense à Mastodon [4], je pense à Bluesky, par exemple, qui n’ont pas réussi à se frayer un chemin face à X, ou, à un degré moindre, Snap, TikTok et Instagram. Et puis le fait d’avoir des comptes d’abonnement payants n’est pas un obstacle à la mise en place d’algorithmes qui seraient extrêmement addictifs. On le voit d’ailleurs avec X, le fait d’avoir la petite coche bleue qui est désormais payante n’empêche pas du tout la direction de X d’avoir une gouvernance qui est complètement propice à la diffusion de ce type d’algorithme. C’est là, chez Bulle, qu’il faudra que vous soyez vigilants au niveau de votre gouvernance, faire attention à ce que vos bonnes intentions de départ ne s’effacent pas au gré des pressions actionnariales.

Delphine Sabattier : Réponse là-dessus.

Clément Étoré : Je tiens à préciser que ça risque d’être assez facile parce que nos algorithmes sont transparents. La formule mathématique est sur le site, c’est la première fois que des gens découvrent ce qu’est un algorithme. Il y a même un simulateur, sur le site, pour les gens qui sont moins à l’aise avec les mathématiques. Nous faisons le pari de dire que nos algorithmes sont complètement transparents. Si jamais on décide de rompre un jour avec ce modèle pour des raisons business, on va dire, je pense qu’on perdra toute crédibilité et toute la confiance des utilisateurs qui seront venus sur Bulle. Je tiens à préciser qu’aujourd’hui ces algorithmes-là, qui ne sont pas du tout conçus pour être addictifs, qui sont conçus pour lutter contre la désinformation et surtout contre les clivages, fonctionnent très bien, on voit très bien que les centaines et milliers d’utilisateurs qui sont sur Bulle passent du temps dessus, passent un bon moment, apprennent des choses.

Delphine Sabattier : C’est quoi cet algorithme ? Est-ce quand même de la recommandation en fonction de ce que j’ai déjà regardé ?

Clément Étoré : Pas du tout.

Delphine Sabattier : Quelle est la règle, en fait, que vous avez décidé d’imposer ?

Clément Étoré : C’est très important. L’objectif de Bulle, au singulier, pas comme les bulles au pluriel qui nous enferment dans nos modes de pensée, c’est d’avoir un socle commun d’informations. Si aujourd’hui nous sommes capables de faire société, je suis convaincu que ce n’est pas à cause des réseaux sociaux, malheureusement, c’est surtout parce que, pendant longtemps, nous avons eu et nous avons toujours le même Journal de 20 heures. C’est très important d’avoir un socle informationnel commun pour faire société. Les algorithmes recommandent donc exactement la même chose à tout le monde. Le seul moyen de personnaliser son algorithme c’est de le faire soi-même en déclarant des centres d’intérêt : par exemple, si vous aimez le bricolage, vous pouvez dire « j’aime le bricolage » et vous aurez un filtre possible sur le bricolage. Vous pouvez aussi vous abonner à des créateurs, des créatrices ou des médias. Vous pouvez donc personnaliser votre algorithme vous-même, par contre ce n’est pas votre usage qui va vous enfermer dans ce que vous pensez. Il y a un seul algorithme qui est centré sur l’utilisateur comme cela et qui dépend de l’usage, c’est l’algorithme contradictoire que vous pouvez sélectionner pour avoir accès à la contradiction finalement, c’est-à-dire voir l’inverse de ce que vous avez l’habitude de penser ou de voir.

Delphine Sabattier : C’est sympa comme idée.

Clément Étoré : C’est l’anti-TikTok ou l’anti-Instagram, si vous voulez, et ça fonctionne très bien.

Delphine Sabattier : C’est comme cela que j’ai commencé, mais vous m’avez dit « pas du tout ». Là on est d’accord. Merci d’être d’accord avec moi à la fin !
My-Kim.

My-Kim Chikli : Bravo et merci. Je trouve que c’est une très jolie initiative. De ce que j’entends et de ce que je comprends, Clément, j’ai l’impression que vous avez pris le meilleur de tous les tests qu’ont fait ces grands de ce monde dans la tech avec la Privacy Sandbox de Google sur le cookieless.

Delphine Sabattier : Pas de collecte de données personnelles, limitée.

My-Kim Chikli : Tout à fait. En fait, toutes ces initiatives pour essayer de faire quelque chose de beaucoup plus vertueux, sans chercher à être parfait parce que, à ce moment-là, vous allez certainement être confrontés à la problématique de la taille, de scalability, pour que votre business soit rentable.
Donc vraiment bravo et merci de cette initiative.

Delphine Sabattier : Georgie.

Georgie Courtois : Je trouve ça très intéressant. Vous savez qu’aux États-Unis Meta été condamnée en raison de l’addiction que son modèle a créée sur une utilisatrice. C’est donc vraiment dans la mouvance du contrôle serein des médias dans une ligne éditoriale, c’est donc plutôt intéressant. Après, il faut voir que TikTok en Chine n’est pas du tout le TikTok qu’on a en Europe. TikTok en Chine pousse du contenu qui est plutôt censé apprendre des choses intéressantes aux utilisateurs. C’est peut-être, finalement, un TikTok chinois à la française !

[Rires]

Delphine Sabattier : On aura vraiment fait le tour de toutes les similarités.

Julien Pillot : Peut-on savoir où sont stockées les données ?

Delphine Sabattier : Où sont stockées les données ?

Clément Étoré : Les données sont stockées chez nous, sur nos serveurs, à Paris. Actuellement, on a une partie sur OVH [5], on a une partie sur AWS [Amazon Web Services], on ne s’en cache pas. Aujourd’hui, on essaye de travailler avec Scaleway [6] pour migrer nos données. J’en profite pour leur lancer un appel.

Delphine Sabattier : Ils nous écoutent. Scaleway nous aime bien, il n’y a pas de problème.

Clément Étoré : Je serai ravi de travailler avec eux.
Je tiens à préciser une chose : on a une protection des mineurs par défaut, peu importe l’âge que vous déclarez, vous aurez une limite d’usage à une heure trente par jour et un couvre-feu la nuit, finalement. On renverse un peu les choses pour recoller avec le DSA [Digital Services Act] directement, c’est très important pour nous. Le seul moyen de faire tomber le couvre-feu et la limite d’usage c’est de vérifier son identité, mais on peut rester parfaitement anonyme sur Bulle en rentrant sur le réseau, parce que, par défaut, tout le monde est considéré comme mineur pour les protéger.

Delphine Sabattier : À tester et bonne chance. On a envie de vous souhaiter bonne chance, je suis d’accord, parce qu’il va falloir convaincre et puis faire migrer des gens d’une plateforme à une autre c’est très dur.
Merci beaucoup Clément Étoré, je rappelle que vous êtes le fondateur et président de Bulle.

Souveraineté numérique : l’État se libère de Windows

Delphine Sabattier : On s’intéresse maintenant à la DINUM, la Direction interministérielle du Numérique, qui lance Sécurix, Bureautix pour remplacer Windows, visiblement ce sont des grands fans de la BD Astérix.
Pour être tout à fait précise, la DINUM a choisi de lancer son propre distribution Linux pour remplacer le système d’exploitation de Microsoft sur les postes de ses agents [7] . On n’est pas en train de parler d’une migration de l’ensemble de l’État ou de l’administration. Ce sont 234 postes qui sont concernés, Sécurix pour la partie OS sécurisée et Bureautix pour les postes de travail.
Que dites-vous de cette initiative ? Déjà sortez-vous un carton rouge ou un carton vert à cette initiative ?
Oh, là, là, super, génial. Presque consensus [quatre cartons verts et un carton rouge]. Qui commence ? Georgie.

Georgie Courtois : Ce qui est intéressant, dans cette démarche, c’est qu’on voit, encore une fois, l’impact des tensions avec les États-Unis, un impact aussi sur l’informatique et sur la souveraineté avec une prise de conscience, notamment de l’État français, de ne pas rester potentiellement soumis à des acteurs américains. On est dans cette mouvance-là, c’est très intéressant. Après, voyons comment ça va être appliqué dans les faits et si jamais après c’est déployé sur l’ensemble des postes, parce que, actuellement effectivement, c’est juste sur les postes de la DINUM. L’objectif, à terme, ce serait éventuellement de le déployer dans toute l’administration française.

Julien Pillot : Des groupes de travail ont été lancés en ce sens, des groupes de réflexion.

Delphine Sabattier : Cet été, normalement, il devrait y avoir une grande réunion pour que cette initiative puisse s’élargir aux autres administrations. Cela dit, il y en a qui ont déjà franchi le pas, la DINUM n’est pas forcément toute seule, aujourd’hui, à avoir chassé Windows de ses postes de travail.

Julien Pillot : On est encore très loin de couvrir les millions d’agents de l’État, à la différence des administrations.

Delphine Sabattier : Vous avez mis des cartons verts donc vous êtes tous d’accord. Avez-vous des choses à ajouter par rapport à ce qu’a dit Georgie.

Julien Pillot : C’est plutôt intéressant et on voit effectivement comment les tensions géopolitiques internationales amènent à des réactions qui sont conformes à la préservation de nos intérêts. Encore faut-il que les solutions en question soient opérantes, qu’elles soient performantes, qu’elles soient interopérables avec d’autres types de systèmes d’exploitation ou d’autres types de fichiers, parfaitement interopérables. Ça posera aussi, de toute façon, des questions de sécurité des données.
Et puis effectivement, il ne faudrait pas qu’on se retrouve bloqués comme le village gaulois, pour filer la métaphore avec Astérix, dans un monde qui évoluerait en partageant en fait des interfaces, des logiciels, etc., qui ne soient pas parfaitement compatibles avec les nôtres parce qu’on se retrouverait effectivement avec des problématiques d’économies d’échelle, on se retrouverait avec des solutions plus coûteuses, pas forcément plus performantes, et ça nous enfermerait dans un modèle qui, je pense, ne serait pas souhaitable sur le long terme.
J’ai mis un carton vert pour la démarche, maintenant je reste vigilant sur la question économique.

Delphine Sabattier : Comme moi. Il y a quand même un petit rouge.

My-Kim Chikli : Oui. Il y a à nouveau la problématique de la taille. Comment va-t-on pouvoir diffuser plus largement cette pratique ? Ce que je trouve assez intéressant c’est que c’est vraiment en concordance avec l’AI Act, le No Go sur les données ultrasensibles : il faut vraiment protéger au maximum ces informations et l’État possède la majorité de nos informations en tant que citoyens.

Delphine Sabattier : Absolument. J’ai quand même mis un petit rouge, parce que cette tendance de la DINUM, à tout faire soi-même, en énerve certains, et je comprends, au sein de l’écosystème tech et des PME en particulier. Et puis surtout sur la question de l’interopérabilité. Il y a d’autres administrations, par exemple la Gendarmerie nationale [8] qui a fait ce switch, qui a créé une autre distribution en fait, qui n’a pas utilisé non plus le même noyau, ça rentre un petit peu dans la technique.]]
Je voulais reprendre une question de Loïc Duval, un confrère que j’apprécie beaucoup depuis de longues années, avec qui j’ai même travaillé. Il a écrit dans Informatique News : « N’aurait-il pas été préférable, finalement, de commencer par officialiser un vrai Linux européen ? », parce qu’on sait qu’il y a une attente, aujourd’hui, pour avoir une direction commune au niveau européen pour les États et les administrations et là, on risque de se retrouver avec une mosaïque de distributions qui ne vont pas être compatibles entre elles au sein même de l’État français et entre les États membres.

Georgie Courtois : Et le code est sur GitHub qui appartient à Microsoft !

[Rires]

Delphine Sabattier : That’s Life !

La revue de presse

Delphine Sabattier : On enchaîne avec la revue de presse.
Je voulais citer Les Echos cette fois : « Un "robot CEO" : Mark Zuckerberg veut son clone IA pour parler aux salariés de Meta », c’est le titre des Echos. C’est quand même en cours de construction, en cours de développement nous dit le Financial Times. Vous mettez un carton rouge ou un carton vert à cette nouvelle idée de Mark Zuckerberg ?
Ah ! Je commence par le vert quand même. Julien.

Julien Pillot : En fait, c’est la résurrection du métaverse sous une autre forme qui est, de toute façon, un concept très évolutif. C’est un concept que, personnellement, je regarde plutôt avec des yeux assez bienveillants par rapport à l’économie que ça peut créer derrière. J’ai mis un carton vert parce que si ça apporte la démonstration qu’on peut se passer de certains CEO aussi toxiques que Mark Zuckerberg, allons-y à fond !

Delphine Sabattier : Son apprentissage va reposer sur qui est Mark Zuckerberg !

Julien Pillot : Il va surtout, potentiellement, apporter la démonstration qu’on peut se passer de lui, donc allons-y.

Delphine Sabattier : OK. Très confiant dans l’IA, Julien.
Une réaction plus mitigée chez My-Kim.

My-Kim Chikli : Gros carton rouge sur l’approche et la mégalomanie de l’individu, bref, je n’ai pas besoin de commenter.

Delphine Sabattier : En tout cas, si j’avais une équipe à ma disposition pour créer mon avatar IA qui m’aide à mes côtés, je serais plus d’accord.

My-Kim Chikli : D’où mon carton vert. C’est ça le point.
Je finis juste sur le rouge. Ce qui fait que nous sommes des humains et que nous allons cohabiter avec cette IA, c’est le lien, c’est la proximité, c’est ressentir les émotions, bref, vous avez compris, je ne vais pas aller développer sur ce terrain-là.
En revanche, vert, parce qu’on va pas pouvoir lutter contre. Il donne le ton, il donne le la, il trace un sillon. Aujourd’hui je travaille avec pas mal de boîtes qui sont en train de développer des assistants IA CEO où les CEO donnent accès à l’ensemble de leurs données et l’assistant gère au mieux l’ensemble des informations. Ça va de prises de rendez-vous avec la banque, parce que les données bancaires sont accessibles, ça se passe bien sûr aux États-Unis où il n’y a pas forcément le RGPD [Règlement général sur la protection des données personnelles] et toutes les contraintes que l’on peut avoir. Mais pourquoi se priver de se faciliter la vie ? Je retourne quelques années en arrière : on ne va pas laver son linge sale à la main, on est content d’avoir une machine à laver et un sèche-linge. Après la question c’est comment, autour de ce progrès, cette innovation, cette révolution, on s’organise, on se structure, parce qu’on ne peut pas lutter contre.
Donc rouge contre Zuckerberg, mais vert parce que c’est le sens de l’histoire, il faut s’adapter.

Delphine Sabattier : OK. Très bien. Georgie. Nous avons choisi rouge tous les deux.

Georgie Courtois : Je suis rouge pour le côté mégalomaniaque de Zuckerberg, là je suis d’accord avec My-Kim. Le problème ce n’est pas tant l’utilisation des agents IA qui va devenir quelque chose d’obligatoire dans la gestion, dans la productivité, c’est super. En revanche, il va jusqu’à créer un avatar vidéo réaliste, avec sa voix, ses intonations, etc., il se crée un vrai jumeau numérique et en fait ça fait un peu complexe divin, je ne sais pas, qui va donner la bonne parole à ses utilisateurs.

Delphine Sabattier : Il a peut-être raison, toujours disponible.

Georgie Courtois : C’est plutôt cela qui me gêne. En revanche, je suis totalement favorable à l’utilisation des agents d’IA, c’est nécessaire.
C’est plutôt le côté mégalomaniaque qui me pose problème.

Julien Pillot : Les 79 000 employés de Facebook attendaient la parole divine de Mark Zuckerberg pour prendre des décisions au jour le jour.

Delphine Sabattier : Ils sont tous à frapper à sa porte « tu ne veux pas nous répondre ? ».
J’ai mis un carton rouge, oui, je suis d’accord avec My-Kim, on a quand même un risque de déshumanisation aujourd’hui dans les entreprises. Un confrère, qui appartient à un groupe américain, me racontait que ses entretiens annuels sont des cases à cocher, c’est un formulaire. Il ne rencontre personne, il n’a aucun retour sur cet entretien, c’est quand même lunaire. Donc premier carton rouge. Ensuite sur l’aide à la décision. C’est vrai qu’on nous dit que ces IA sont des aides pour prendre des décisions. Mais quand on est Mark Zuckerberg ! Les boîtes de la tech, aujourd’hui, sont hyper incarnées, ça vaut pour Elon Musk, ça vaut pour Apple, pour Google, c’est très incarné par des patrons. Qui peut croire que Mark Zuckerberg va suivre une décision d’IA ? Mark Zuckerberg va être Mark Zuckerberg à la tête de Meta, basta.

Autre info. On passe à France Info qui titre : « La start-up Anthropic reporte la sortie de sa nouvelle IA Claude Mythos, jugée trop dangereuse pour la cybersécurité actuelle ». En fait, c’est une IA qui apporte une nouveauté dans la cybersécurité, elle va chercher elle-même les failles dans les logiciels. Elle en aurait trouvé tellement que ce serait tellement dangereux qu’il ne faudrait pas la mettre entre toutes les mains. Qu’en pensez-vous ? Carton vert, carton rouge pour ce report, qu’en dites-vous ?
Très partagé, encore. Tout le monde est d’accord, sauf moi.

Julien Pillot : Tu fais cavalier seul.

Delphine Sabattier : Merci de votre soutien !
Pourquoi êtes-vous tous d’accord ?

Georgie Courtois : Il y a aussi du storytelling et c’est hyper important. Quand ils ont eu le report, ils ont expliqué que Claude Mythos était extrêmement dangereuse parce qu’elle avait réussi à s’échapper elle-même d’un environnement sécurisé. C’est du storytelling un peu particulier.

Delphine Sabattier : Ce storytelling est énorme !

Georgie Courtois : Après, il y a quand même une initiative, Glasswing, qui réunit tous les acteurs de la tech pour contrôler l’utilisation de ces IA qui permettent notamment de détecter des failles zero-day. C’est effectivement important. Si on met ça sur le marché sans contrôle et qu’on découvre tout un tas de failles qu’on n’est pas capable de combler, on a un risque systémique dans l’IT.
Donc vert pour cette prise de conscience et je pense d’ailleurs que c’est une position, un positionnement d’Anthropic versus OpenAI d’être vraiment dans l’éthique.

Delphine Sabattier : C’est de la com’.

Georgie Courtois : Totalement. C’est de la com’, mais si la com’, parfois, peut apporter quelque chose de bien !

Delphine Sabattier : Sur les actes. OK.

My-Kim Chikli : La com’, ça marche. Ils ont une posture et c’est pour cela que je mets ce vert, ils ont lancé leur constitution avec cette fameuse philosophe écossaise [Amanda Askell], je trouve que c’est bien, c’est vraiment conscientiser un tout petit peu ce qu’il y a derrière. Peut-être que je pourrais te rejoindre un chouïa sur le rouge, c’est-à-dire qu’on est déjà, on va dire, dans un état d’esprit anxiogène, de façon générale, contre l’IA, donc ça n’arrange pas, mais, en même temps, l’idée c’est plus de la prévention des risques et de montrer qu’on peut être responsable et qu’on peut faire confiance à certaines IA.

Delphine Sabattier : OK. Julien ?

Julien Pillot : En deux mots, si c’est un coup marketing, il est effectivement réussi parce que tout le monde en parle. Mais si ça ne l’est pas, et il y a quand même deux/trois éléments qui laissent à penser que tout n’est pas complètement bullshit, marketing dans tout ça, c’est plutôt très intéressant comme démarche de mettre le principe de précaution peut-être au service de la communication, mais aussi au service d’autre chose. Si Mythos est capable de faire ce qu’on lui prête, ça créerait un énorme déséquilibre tel qu’on ne peut pas l’imaginer entre des personnes qui auraient des intentions malveillantes et qui auraient accès à des armes nucléaires qui leur permettraient de faire des attaques zero-day un peu partout, de façon systémique, comme on le disait.

Delphine Sabattier : Trouver des failles qu’on n’avait jamais identifiées auparavant.

Julien Pillot : Exactement et mettre en défaut l’ensemble de nos systèmes électroniques de communication, de défense, etc., versus des personnes qui jouent en défense et qui sont complètement désarmées vis-à-vis de ce type d’outil. Donc oui, si Mythos est effectivement capable de faire ce qu’il prétend pouvoir faire, le mettre actuellement en quarantaine, sous surveillance, je pense que c’est vraiment la seule bonne décision à prendre.

Delphine Sabattier : Je trouve que vous êtes vraiment tous des victimes de la communication, parce que Mithos n’est pas sous surveillance en fait. C’est un outil nouveau qui permet de chercher des failles, de trouver des failles en toute autonomie, OK, c’est intéressant pour augmenter la cybersécurité, je suis tout à fait d’accord avec vous. Mais aujourd’hui, c’est entre les mains de gens responsables qui travaillent sur ces sujets, c’est juste ça. C’est donc de la com, pourquoi, parce que ça fait des années que ça marche comme ça dans la cybersécurité : on a des outils, on a des experts, on a des équipes de recherche qui vont travailler sur la recherche de zero-days, de failles dans les logiciels, elles gardent ces informations pour elles, elles se les communiquent entre elles entre des groupes importants, on va dire à Microsoft « attention il y a une faille zero-day dans ton Windows », Microsoft va la corriger et ensuite le rendre public. C est juste normal en fait, ça se passe comme ça aujourd’hui dans la cybersécurité. Il n’y a pas de mise sous surveillance, c’est simplement qu’ils respectent les règles et c’est le minimum qu’on puisse attendre.

My-Kim Chikli : Ça va mieux en le disant.

Delphine Sabattier : Il n’y a même pas besoin de le dire. C’est comme cela que ça fonctionne.

My-Kim Chikli : Pour le grand public, il a besoin de le dire.

Delphine Sabattier : Il serait le premier à se tirer une balle dans le pied à sortir un truc qui communique des failles zero-day sur ses propres logiciels. En plus, sur le nombre de failles que, soi-disant, Mithos aurait trouvées, on ne sait pas combien il y a de faux positifs, personne n’a regardé exactement ce qu’il y a avait l’intérieur. En fait, ce qui me contrarie, c’est ce discours permanent d’Anthropic à chaque fois : « on a un truc super dangereux, donc c’est super puissant, mais avec nous, avec nos IA, ce sera tranquille, vous pouvez venir chez nous, il n’y a aucun souci. »

Julien Pillot : Le principe de précaution au service de la com’.

My-Kim Chikli : C’est très bien, tant mieux !

Delphine Sabattier : On a le temps de parler de Libération, très vite fait, qui titre « Deepfakes sexuels : au Royaume-Uni le gouvernement veut des peines de prison pour les patrons de la tech ». C’est un amendement qui a été déposé par l’exécutif. Vous dites « bravo » ou alors « ça va trop loin » ?
Pourquoi ça va trop loin ? Georgie, l’avocat.

Georgie Courtois : À l’origine, ça vient de l’utilisation de deepfakes par Grok, donc Elon Musk, qui a effectivement permis la diffusion de contenus pornographiques, en tout cas de personnes dénudées et là-dessus il y a déjà des contrôles, il y a déjà des lois, il y a déjà une réglementation qui encadre ça, en tout cas en France. En Angleterre ils font ça, c’est très bien, mais encore une fois pour le coup, c’est un peu un effet d’annonce. Vous n’allez pas mettre Elon Musk en prison, au bout d’un moment, il y a ça aussi.

Delphine Sabattier : C’est moi qui suis tombée dans le piège de la com’ !

Georgie Courtois : Qu’on contrôle et qu’on sanctionne, évidemment, il faut une lutte totale contre les deepfakes.

Delphine Sabattier : Est-ce que ça peut être dissuasif, quand même, de mettre en responsabilité en fait les hauts dirigeants des entreprises ?

Georgie Courtois : Ça peut, mais, encore une fois, je doute de l’applicabilité de ce type de mesure.

Delphine Sabattier : Julien.

Julien Pillot : Il y a des modèles en économie du droit, notamment les modèles dérivés des travaux de Gary Becker [9], etc., qui mettent justement en parallèle la mise en place de mesures extrêmement dures, parfois même au pénal, et c’est de cela dont on est en train de parler sur les incitations et les comportements des entreprises. On voit que ça marche mais jusqu’à un certain point. Se pose la question du contrôle, se pose aussi, derrière, la question de la bonne foi des plaignants, parce qu’on peut aussi imaginer des jeux à plusieurs bandes où on utiliserait ce type de texte pour pouvoir nuire à quelqu’un en particulier. Et en fait, où va-t-on s’arrêter ? On commence par ce genre de chose, on peut effectivement être d’accord avec la cause, mais après c’est quoi ? Ce sont des messages politiques qui ne vont pas dans le sens de la doxa ?

Delphine Sabattier : Nous allons nous arrêter là parce que c’est la fin du débrief. Nous avions dit « bravo », My-Kim.
Merci beaucoup, à vous tous, d’avoir été avec moi pour ce grand débrief de la tech. On se donne rendez-vous jeudi prochain, à 10 heures 45 en direct et puis lundi pour de nouvelles discussions sur la tech sur la chaîne B-Smart.