En Francais: AI & Chat-GPT avec Jean-François Noubel. Episode 29.

Bienvenue dans le podcast Passe de Mike où nous abordons des idées complexes et des questions difficiles avec des personnes curieuses capables de remettre en question leurs propres croyances et de manière objective à l'écoute des idées partagées des autres. Bienvenue dans l'épisode 24 avec Jean-François Nobel. Aujourd'hui, j'ai le plaisir de discuter avec Jean-François Nobel, qui se décrit comme un terrien, lien de la terre. Depuis plus de 20 ans, Jean-François travaille dans le domaine de l'intelligence collective, une discipline de recherche moderne qui explore le fonctionnement des systèmes vivants et l'évolution de notre espèce. Il travaille sur les prochaines crypto-technologies qui permettront bientôt l'émergence d'organisations distribuées très intelligentes. Jean-François aide les leaders évolutifs à construire des organisations éclairées vers la société post- monétaire. Et je rajouterai une chose, il est intéressant de noter que Jean-François vit dans une économie de don. Il y a quelques années, il a quitté tous ses postes et ses mandats, il a déchiré son curriculum vitae afin de se libérer de toute étiquette et statut social. Cela lui a permis de bénéficier d'une liberté créative totale pour vivre dans le millénaire présent. Sa nouvelle voie, voie, pardon, lui permet d'accompagner les leaders évolutifs et de former des humano-notes pour ceux pour qui le terme «go hack yourself» désigne une manière d'exister. Bienvenue Jean-François.

Merci, ça fait plaisir.

Je suis ravie de te revoir parce que dans un épisode précédent, on a parlé de comment pouvons-nous créer une économie vegan et compatissante en utilisant Holochain. Et pour ceux qui ne sont pas au courant, Holochain, c'est une forme de blockchain. Donc j'invite les auditeurs et les spectateurs qui parlent anglais de regarder cette série qui a 3 vidéos. Alors aujourd'hui, nous allons discuter de la révolution qui se produit sous nos yeux et qui fait sensation dans le monde, et je veux parler de l'intelligence artificielle et ChatGPT. Alors, dans un épisode récent, j'avais accueilli un groupe de chercheurs en intelligence artificielle et des philosophes pour répondre à une question: l'intelligence artificielle est-elle consciente? Cette discussion a été absolument fascinante parce qu'on a essayé de savoir si les machines d'intelligence artificielle peuvent avoir qu'est-ce que la conscience? Et pour répondre à cette question, on a dû explorer comment la conscience ne se résume pas seulement à l'intelligence, mais comprendre également l'autoconscience, l'intentionnalité et la subjectivité. Et nous avons parlé du test de Turing. Nous avons également souligné lors de cette conversation les implications éthiques potentielles de la création de machines conscientes. Mais au final, nous avons été d'accord pour dire que la conscience de l'IA, de l'IA, d'intelligence artificielle, voilà, reste de l'anglais. Exactement. Donc cette question reste une question complexe et non résolue. Alors aujourd'hui, on va parler de l'intelligence artificielle, de ChatGPT, et on va voir si on va trouver des réponses à ce sujet grâce à toi, Jean-François. Je t'ai envoyé quelques questions avant qu'on commence, j'ai hâte d'entendre tes réponses, mais nous irons là où la discussion veut aller. Alors, commençons par une première question qui est la suivante: pourquoi les gens ont-ils peur de l'intelligence artificielle et de ChatGPT? Qu'est-ce qui se cache derrière cette peur?

Alors, déjà, avant de commencer, je veux aussi quand même clarifier ma position, notamment de dire que je n'ai pas de légitimité en tant que chercheur sur l'intelligence artificielle. Moi, je fais de la recherche sur l'intelligence collective, sur l'évolution de l'humanité, sur l'évolution de la conscience aussi, sur l'intelligence sociale augmentée. Alors, bien entendu, ça utilise aussi, bien entendu, l'intelligence artificielle. Il y a beaucoup, beaucoup de sujets qui se recoupent, mais en tout cas, je veux bien clarifier déjà que sur toutes les questions qu'on va aborder, je n'ai pas de légitimité en tant que chercheur en intelligence artificielle. Donc, je pourrais toujours apporter un point de vue, de mon point de vue de chercheur en intelligence collective, positives. Il y a des choses qui se recoupent, mais voilà, je voulais quand même préciser ce point-là. Alors maintenant, j'en viens à ta question sur pourquoi les gens ont peur. Je pense qu'il y a plusieurs niveaux de réponse. Déjà, historiquement, les gens ont toujours eu peur des nouvelles innovations. Il y a eu des révoltes sur le métier à tisser, par exemple. Il y a eu la peur du téléphone. Il y a des gens qui disaient aussi le train rendrait fou à cause de la vitesse. Donc il y a souvent, voilà, des peurs. Et je me rappelle, moi qui ai fait partie de ceux qui ont amené Internet en France, il y a quand même eu des tentatives de vote par parlementaires pour interdire Internet. Il y a eu des peurs féroces il y a 25 ans à peine sur l'arrivée d'Internet, et des peurs pas forcément stupides ou illégitimes. On avait raison aussi de se poser des questions. La preuve, aujourd'hui il y a quand même des, indépendamment d'intelligence artificielle, il y a des vraies questions à se poser sur ce qu'a pu devenir Internet, sur les changements de comportement que ça a apporté, sur la division sociale, etc. Donc je dis pas qu'il faut pas se poser ces questions, mais il y a quand même naturellement, historiquement, dans le public, des peurs sur les choses nouvelles qui arrivent, ce qui semble assez normal. Tout ce qui va amener un changement nous fait peur par nature. Il y a ensuite, je pense, un deuxième niveau de peur, là plus focalisé sur l'IA, puisque nous avons une grosse littérature et aussi beaucoup de films où il y a quand même des mondes un peu dystopiques avec une grosse méchante IA qui prend le relais. Ça commence d'ailleurs aussi dans les films avec 2001, l'Odyssée de l'espace, où il y a l'ordinateur HAL qui prend le contrôle de l'appareil, qui devient super intelligent et qu'il faut débrancher. Mais ensuite, Il y a, et ça, ça m'intéresse beaucoup plus, je propose qu'on focalise dessus, les peurs qu'ont les gens là vraiment dans la partie. Ça veut dire qu'ils connaissent bien le sujet et donc les peurs et les controverses, le débat très, très vif que ça apporte aujourd'hui. Donc certains pensent qu'il y a toutes les raisons de croire que ça va amener l'extinction de l'humanité à court terme et d'autres disent non, il y a des tas de potentialités. Et puis aussi d'autres disent non, au contraire, ça va constituer un saut évolutionnaire fantastique pour l'humanité. Donc on a un peu toutes ces choses-là qui caractérisent finalement les grands sauts d'évolution. Je parle pas du prochain smartphone, mais là on a vraiment un saut énorme, une évolution énorme qui se profile face à nous et qui effectivement doit nous amener à nous poser des questions tout à fait légitimes, parce que je dirais tous les dangers et toutes les potentialités se trouvent contenus là-dedans. Ce qui m'amène à peut-être proposer de nous poser la question suivante plutôt que savoir si l'IA s'avère par nature dangereuse ou pas, de nous demander quelle main tient le marteau. Je repose toujours la question aux gens. Ils ont peur d'une technologie, ils ont peur du marteau. Mais oui, un marteau, ça peut tuer quelqu'un et ça l'a déjà fait souvent, mais ça permet de planter des clous, ça permet de construire des maisons, etc. Donc quelle main tient le marteau? Et effectivement, pour moi, une IA détenue par des intérêts privés, par des petits groupes de personnes, même bien intentionnés, une IA détenue par des gouvernements ou des États me terrifie. Là, je n'ai pas d'autres mots pour le dire parce que ça va servir des intérêts privés et souvent aux dépens de la majorité des gens, et pas simplement des humains, mais évidemment aussi des autres êtres vivants et sentients qui vivent sur cette planète. Donc ça, ça me fait peur. Par contre, une IA sur laquelle nous avons déjà de l'open source sur les algorithmes, sur l'usage, sur laquelle nous pouvons décider d'en faire des outils pour manager la complexité, peut-être aussi très largement piloter des nations entières parce que ça a la capacité de gérer la complexité, de prendre des décisions ou de voir des patterns émerger qu'aucun être humain, même un groupe d'êtres humains, pourrait avoir. Il peut y avoir des idées intéressantes à aller chercher là-dedans. Une IA qui devient ma meilleure conseillère, qui sait peut-être mieux que moi comment mieux m'alimenter, quelle personne rencontrer, un petit peu mon coach permanent. Et parce qu'elle a accès à des dizaines de milliers de données que j'ai consenti à lui donner, donc qui fonctionne un petit peu comme ChatGPT. ChatGPT fonctionne sur l'internet en général, mais ChatGPT pourrait parfaitement déjà fonctionner sur les dizaines de dizaines de dizaines de milliers de data qui existent me concernant sur internet, parce que depuis des années Eh bien, j'ai laissé des tweets, j'ai parlé sur des forums, j'ai partagé des photos, j'ai scrollé sur Instagram. Rien que mon mouvement de doigt sur Instagram ou sur TikTok dit exactement des tas de choses sur ma structure psychique, sur mon cerveau, sur mes addictions, sur mes passions, sur mes trucs pas à vous, etc. Rien que les dizaines de milliers de traces GPS que j'ai laissées auprès de Google ou de mon fournisseur d'accès internet ou de téléphone dit tout sur ma vie. Donc si une IA avait accès à ces centaines de milliers d'informations, si on les concatène, elle en saurait beaucoup plus que moi sur moi-même. Et elle pourrait aussi peut-être devenir la meilleure conseillère ou ma meilleure coach. Donc quel maintient le marteau? J'en viens à cette question-là.

Donc finalement, la peur, il y a plusieurs peurs par rapport à cette intelligence artificielle. Une peur héréditaire du changement, une peur des robots due à la science-fiction et les films. Mais pour Pour les professionnels du métier que j'appellerais donc qui sont les développeurs, les codeurs de l'IA et les gens qui sont vraiment impliqués, les chercheurs, etc., eux, la peur qu'ils ont est finalement sous la forme d'une question, c'est peut-on faire confiance à l'IA? Et cette question fait appel à, pour faire confiance à l'IA, ça veut dire que les gens qui la contrôlent, puisqu'il y a une forme de contrôle, ont Une bonne intention, qu'il y ait de la maître. Ça va bien au-delà de la bonne intention.

Regardons déjà le passé parce qu'on a l'impression que l'IA, ça débarque comme ça. En fait, déjà, nous nous y trouvons confrontés, toi et moi et des milliards de gens quotidiennement avec les médias sociaux. On ne s'en rend pas compte, mais chaque fois que sur Insta, je vais faire défiler mais choisir mes textes, mes vidéos, ou sur YouTube, etc. J'ai une façon de faire bouger mon doigt, j'ai des moments d'attention plus sur telle vidéo ou tel short que tel autre, pareil sur TikTok, etc. Et ça fait qu'à chaque fois, il y a un algorithme qui s'adapte à moi et qui devient extrêmement connaisseur de ma façon de fonctionner, de mon psychisme, et qui devient d'ailleurs ce qu'on appelle en termes techniques un alpha persuader, un persuadeur alpha en quelque sorte. Ça veut dire qu'il sait pénétrer mon psychisme et aller dans mes mécanismes de dépendance, puisque là on touche à l'économie de l'attention, et qui donc me connaît mieux que moi je me connais. Bon, mais à l'origine de ça, de cette première vague d'IA sur laquelle nous nous trouvons confrontés tous les jours, il y avait des gens parfaitement bien intentionnés, la plupart des gens, et d'ailleurs les gens qui s'investissent le plus dans les débats actuellement, il s'agit des chercheurs eux-mêmes ou des entreprises elles-mêmes qui développent de l'IA. Il ne faut pas croire que Il y a des mauvaises entreprises, des démons d'un côté, et puis des chercheurs ou des altruistes de l'autre. Il y a tout ce monde-là qui se sent embarqué dans une sorte de course dont on n'a plus le contrôle. Et on le voit très bien pour la première version de l'IA, comme le disent certains, on a perdu la partie. Parce qu'aujourd'hui, malgré toutes les bonnes intentions de dire les gens vont se connecter, on va sortir du côté local et isolé, les cultures vont se rencontrer, etc. Il y a plein de bonnes intentions. On va faire de la démocratie ouverte. Si on revoit 20 ans en arrière, on avait tous ces discours et des discours sincères. Et donc l'IA, la course en avant pour quand même capter de l'attention, parce que ça reste le modèle économique, eh bien a fait qu'on a fabriqué un truc absolument démoniaque. Et on a déjà perdu la première partie contre l'intelligence artificielle, contre cette première version. Et là, il y a la version 2 qui arrive. Et on a quelques raisons de se poser des questions, de se dire mais OK, l'intention, oui, il faut la penser. Mais on peut tous avoir la meilleure intention du monde et systémiquement, le système nous emmène en sens inverse. Et ça, ça touche d'ailleurs à une question très centrale dans l'intelligence collective. Ça veut pas dire que parce que tout le monde a la bonne ou la même intention que tout le monde va aller dans la même direction. Ça peut avoir des effets systémiques et collectifs complètement inverses et ça, faut le savoir. Il s'agit de phénomènes d'émergence.

Et là, tu fais référence au à la culture de notre société qui est basée sur l'argent et le pouvoir?

Je vais moins dire la culture, il y a quelque chose de beaucoup plus profond, mais quasiment la structure. L'intelligence collective pyramidale, c'est-à-dire depuis que nous avons quitté la vie de chasseurs-cueilleurs nomades, mais que nous avons créé des civilisations, donc des structures, des sociétés de caste pyramidales avec des chaînes de commandement, des pouvoirs centralisés, démocratiques ou pas, je rentre pas dans le détail, mais on a ce point commun que toutes ces sociétés pyramidales ont utilisé un type de monnaie qui s'appelle l'argent, d'accord, et qui en ont fait une étape très certainement tout à fait nécessaire dans l'évolution. Déjà la nécessité de pouvoir mettre, de coordonner des millions d'humains ensemble pour faire des très grandes choses, ce que les chasseurs-cueilleurs ne pouvaient pas faire. Il n'y a pas de jugement de valeur, simplement un mécanisme d'évolution. Et puis d'autre part, une économie d'extraction. Je dirais avant de pouvoir faire des ordinateurs, des avions ou la Grande Muraille de Chine, il a fallu quand même extraire énormément de choses pour arriver à fabriquer ces artefacts et à complexifier cette société. Donc il semble que ça représente une étape nécessaire de passer aussi de ces formes où le kilowatt ou le joule ou la calorie, on la prenait par la force musculaire par des esclaves, des esclaves humains et des esclaves animaux, La révolution industrielle fait que maintenant nous avons des centaines d'esclaves à notre disposition, mais mécaniques en tant que telles, des machines qui fabriquent, des machines qui nous transportent, des machines maintenant qui pensent aussi pour nous. Donc il y a tout un ensemble d'étapes qu'il a fallu remplir aujourd'hui. Maintenant, ça crée une telle complexité du monde qu'il y a vraiment besoin d'un saut évolutionnaire vers une intelligence collective beaucoup plus grande, capable maintenant non plus de passer à de l'économie d'extraction parce qu'on arrive au bout, à maintenant une économie de la circularité, une économie qui inclut non pas, ou qui fasse des sociétés ou des républiques qui incluent non pas un entre-soi humain, mais qui inclut tous les êtres sentients, les êtres vivants. Donc ça veut dire des non-humains également. On doit vivre ensemble et pas simplement rester dans cet entre-soi. On parle d'économie, ah tiens, on pense aux humains. On parle de société, de constitution, ah ben oui, pour les humains, comme si on vivait là dans notre petite sphère, notre petite bulle isolée. Donc il y a aussi un shift de conscience, de cette conscience de la domination en fait, qui se trouve aussi dans nos mécanismes de langage. Et donc voilà, il y a toutes ces évolutions qui doivent se faire, mais elles ne vont pas se faire par une décision politique ou par un vote. Ça ne va pas se faire comme ça. Ça doit s'enclencher sur d'autres mécanismes et ça, on pourra en parler. Mais ça touche, on sort certainement aussi du cadre de l'IA là-dessus. D'accord. Alors justement, Tu parles de saut de l'évolution de la société.

Et moi, quand je pense à l'évolution de notre espèce humaine, j'imagine dans ma tête ce film, la découverte du feu, l'invention de la roue, l'invention de l'électricité, le téléphone, l'ordinateur et maintenant l'intelligence artificielle. Alors, qu'est-ce que l'intelligence artificielle représente pour l'évolution de notre espèce humaine? Et je sais que nous avons parlé à ce sujet, intelligence artificielle et de, alors je sais pas comment traduire ça en français, digital self. Digital self, le soi digital.

Voilà, le soi digital.

Donc qu'est-ce que l'intelligence artificielle et le soi digital représentent dans l'évolution de notre espèce humaine?

Alors dans les grandes inventions, tu as oublié le fil à couper le beurre, faut quand même pas le— Majeur. Ok, alors il y a des tas de façons de voir déjà des sauts d'évolution. Je vais par exemple reprendre une carte une analyse que j'aime bien d'un des grands penseurs de tout ça qui s'appelle Max Tegmark, qui a d'ailleurs écrit ce très beau livre il y a 5-6 ans, en 2016-2017, qui s'appelle Life 3.0, La Vie 3.0. Et il dit un truc, moi aussi j'avais constaté aussi dans mes recherches, que voilà, il y aurait 3 versions de la vie. La première version, eh bien, la forme biologique telle qu'on l'a connue, mais qui ne pouvait évoluer que par des itérations générationnelles. Donc une petite modification dans le code génétique, et puis 5000 ans plus tard, ça a un peu évolué, quoi. Et ça a appris des nouvelles choses, l'environnement a changé, ça a pu s'adapter, mais par les mécanismes de vie et de mort et d'évolution biologique en tant que tel. Et quand on parle d'évolution, en général, les gens pensent plutôt l'évolution biologique, ce type d'évolution. Donc là, on a la vie 1.0. La vie 2.0, elle apparaît beaucoup plus récemment. Lorsque des espèces animales, et pas que les humains, ont commencé à avoir des représentations abstraites, des langages qui font que leur comportement peut évoluer, on va dire plutôt sur du software, par de la culture. Donc toi, en tant qu'humaine, tu peux apprendre un nouveau métier, tu peux apprendre une nouvelle langue, tu peux changer tes comportements, tu peux t'adapter dans un autre climat, etc. Tu n'as pas besoin de faire un changement biologique profond au bout de X générations pour que ça puisse se faire, d'accord? Avec des limites évidemment sur ce genre de choses. Et donc la culture évidemment extrêmement développée chez les humains, mais tu vas la trouver chez des éléphants, chez les dauphins. On voit bien qu'il y a des espèces qui ont quand même déjà développé des cultures, des capacités d'abstraction et d'apprentissage qui ne nécessitent pas une modification biologique ou une évolution par itération de génération, d'accord? La vie 3.0, elle passe le stade suivant où cette culture-là, cette intelligence-là devient capable de modifier son propre substrat. Ça veut dire de modifier son propre hardware. Ce que dit d'ailleurs le transhumanisme, il dit: attends, si on attend simplement l'intelligence et la culture pour évoluer, ouais, mais elle a un substrat aujourd'hui trop rudimentaire. Ça fait comme si je voulais mettre un operating system d'un ordinateur d'aujourd'hui sur un ordinateur d'il y a 20 ans, ça marcherait pas. L'ordinateur d'il y a 20 ans, il peut pas supporter ce type d'intelligence, cette capacité à progresser, à processer de l'information. Donc le transhumanisme l'humanisme, à tort ou à raison, on va pas rentrer sur le débat aujourd'hui, mais dit, ben voilà, il y a besoin maintenant d'une évolution du substrat. Et il semble que l'intelligence artificielle, elle fonctionne sur un nouveau substrat, ça veut dire celui du silicium et non pas du carbone. Nous, la vie biologique fonctionne essentiellement sur les liens du carbone, alors que l'intelligence artificielle, aujourd'hui en tout cas, fonctionne essentiellement sur du silicium. Bon, et il y en a qui disent que cette forme-là peut devenir la nouvelle forme de conscience puisqu'il y a des niveaux de complexité suffisants. Ça veut dire des algorithmes, de l'information qui circule, de l'analyse, des ondes, des signaux, des langages en fait de représentation qui circulent et qui s'avèrent suffisamment évolués pour devenir finalement la forme dominante d'intelligence et probablement de conscience pour la suite, avec le cahier des charges de la vie. Parce que la vie se maintient son homéostasie, ça veut dire elle sait se reproduire, elle sait apprendre, etc. Eh bien, ça peut aussi fabriquer des usines à fabriquer des chips de plus en plus complexes et ainsi de suite. Donc déjà, on peut le voir, tu vois, sous cette forme, une forme possible d'évolution, bien ou mal, ça reste aussi un débat. Donc intelligence biologique, intelligence intellectuelle, et maintenant intelligence silicone. En fait, il y a cette question, on appelle ça l'indépendance du substrat, substrate independence en anglais, indépendance du substrat. Ça veut dire quoi? Jusqu'à présent, pour porter du raisonnement, de la conscience et de la mémoire, il fallait un substrat carboné, à savoir les formes vivantes que nous avons, donc nous faits de chair, de sang et d'os, etc. Etc. D'accord? Mais on a très récemment réalisé qu'une onde, par exemple, ça peut circuler dans de l'eau, ça peut circuler dans de l'air, ça peut circuler dans un métal, ça peut circuler sous forme de signaux électriques, sous forme d'ondes électromagnétiques, que déjà on peut faire véhiculer un message et un langage et une grammaire sur des tas d'autres substrats que carbonés, déjà. Et en plus, maintenant récemment, on arrive avec des substrats donc à base de silicium, donc nos ordinateurs, nos téléphones portables, à faire des inférences logiques, à mémoriser des choses, à apprendre, à s'automodifier. Voilà aussi une chose extrêmement importante sur d'autres supports que des supports vivants carbonés qu'on a eus. Donc il y a un constat en tout cas que l'intelligence, ça veut dire ce qui processe de la donnée, qui apprend, qui s'adapte, qui raisonne, s'avère indépendante du substrat. Ça, on en a la preuve. Ça ne veut pas dire que pour autant il y a de la conscience ou de la subjectivité. On va bien faire la différence entre intelligence, conscience et subjectivité. Là, on entre dans une autre question. J'ai vu justement ce précédent entretien que vous avez eu sur la question de la conscience. On pourra en parler un petit peu si tu veux. Mais voilà, déjà ces distinctions nous montrent des étapes puisque la première partie de ta question portait sur des étapes d'évolution qui peuvent exister. Et il y avait la deuxième partie de ta question sur le digital self. Donc veux-tu qu'on en parle? Absolument, avec plaisir. Oui, oui, tout à fait, parce que ça fait partie de l'évolution. Alors oui, parce que déjà aujourd'hui tu existes, j'existe, nous existons non plus simplement dans un monde physique, biologique et carboné, mais dans un monde siliconé. Alors je parle pas du silicone dans les lèvres ou tout ça, mais tu as un toi digital, j'ai un moi digital, nous avons un digital self ou un soi digital. Ça veut dire tout ce qui te représente ou me représente en ligne. Si je parle simplement de moi, je vais simplifier le propos, ça fait des années que je laisse des tweets, que j'ai mis des trucs sur mon wall Facebook, que j'ai un site internet perso, que je laisse des données de traces GPS sur Google ou mon fournisseur de téléphone, etc. Donc en fait, il y a des millions, je dis bien des millions et des millions de données pour chaque individu, alors certes éclatées, mais qui déjà permettent un profiling et éventuellement avec de l'IA plus que du profiling, d'utiliser ces données pour nous modéliser. Ça veut dire avoir un Jean-François digital, une Virginie digitale qui devient capable de parler, de te représenter exactement comme le fait ChatGPT. On pourrait vraiment prendre littéralement le même moteur de ChatGPT, au lieu de te baser sur les données internet que tu génères, auxquelles tu as accès, base-toi sur toutes les données de Virginie et fais les mêmes inférences de raisonnement. Et on risque d'avoir une Virginie tout à fait surprenante qui puisse commencer à dire ou à déduire des choses que tu dirais si on te posait la question physiquement. Et pour même aller plus loin, si non seulement cette intelligence artificielle le faisait sur toi, mais aussi sur moi et sur des centaines de millions d'autres personnes, ça veut dire que non seulement elle percevrait tes données à toi, mais elle verrait aussi des patterns de ta personnalité qui ressortent parce qu'il y a aussi d'autres gens un petit peu comme toi ici, d'autres parties comme toi là, Et elle verrait qu'il y a des choses qui fonctionnent en toi qui n'appartiennent pas qu'à toi, mais qu'elle pourrait déduire à partir d'autres comportements. Ça fait que par la notion d'intersubjectivité, enfin d'interrelation plutôt, des personnes, il y a la possibilité de faire un soi digital. Ça veut dire qu'il nous représente, et qui est, alors là, avec toutes les questions que ça pose, parce qu'aujourd'hui ces premières versions éclatées du soi digital que nous avons ben moi, mon moi digital, déjà il se trouve éclaté dans des tas de services, et tant mieux pour l'instant, mais surtout il m'appartient pas. À part les choses que j'ai faites sur mon site perso, qui en plus se trouve sur un serveur qui m'appartient pas, mais au moins les données de mon site perso m'appartiennent. Mais tout ce que je laisse sur Twitter, Instagram et tout ça, qui constitue une, voilà, une représentation en ligne de moi, ça m'appartient pas aujourd'hui. Et déjà ça pose une question pour moi politique énorme. Donc quasiment personne n'a conscience. Dans tous les débats que j'ai entendus ces dernières années, ou parfois auxquels j'ai participé sur l'intelligence artificielle, jamais une seule fois j'ai entendu la question du soi digital. On parle d'une sorte d'intelligence artificielle générale, mais pas de aussi comment nous allons aussi devenir peut-être autant d'intelligence artificielle potentielle en ligne. Mais pour l'heure aujourd'hui, donc déjà le moi digital éclaté est encore très primitif, ne m'appartient pas pour 99% des données. Ça pose des questions. Bon, deuxième chose, ensuite, si on va voir très certainement des startups arriver qui vont d'abord proposer, par exemple, à des personnalités vraiment, donc qui ont déjà eu beaucoup d'expression publique, un peu de scanner, de rassembler toutes les phéromones sémiotiques qu'elles ont laissées, donc du sens un peu partout, des tweets, des photos, enfin des millions de trucs, leur historique GPS, des opinions politiques, des interviews dans les journaux, etc. Ce qui fait que déjà dans les années qui viennent, tu pourras certainement parler en direct avec ton président, s'il y a encore un président, vraiment comme si tu lui parlais. Et il répondra dans les sujets que tu as envie d'entendre, pour avoir des conversations comme toi et moi on en a une maintenant, d'accord? Ou avec une star qui aura aussi servi un petit peu pour attirer effectivement des tas de gens qui veulent parler avec telle ou telle star, d'accord? Ça a commencé comme ça et puis ça va se démocratiser. Et puis pour, soit par de la pub et tu deviens le produit, soit parce que tu paies un abonnement, il peut y avoir, ben voilà, un Jean-François Noubel ou une Virginie avec qui je peux parler, mais il s'agit pas de toi réellement. Et ça peut même aller plus loin, il peut y avoir, à partir du moment où nous avons chacun une IA qui nous représente, donc la version intelligence artificielle de Virginie, la version intelligence artificielle de Jean-François, elle peut travailler, elle n'a pas besoin de moi pour travailler. Et elle peut mener en même temps, à l'heure où nous nous parlons, des millions de conversations parallèles avec des millions d'autres agents, d'autres IA qui représentent des gens. Et ça, pour le meilleur ou pour le pire. Pour le meilleur, si l'IA à la fin de la journée, je lui dis tiens, dis-moi ce que j'ai besoin d'apprendre ou d'entendre, etc.. Et elle peut me dire des trucs, bon écoute Jean-François, j'ai scanné des millions de données sur maintenant des nouvelles découvertes qu'on a faites sur, je sais pas, sur en épigénétique. Et si tu changes ton cycle de sommeil ou tu te mets à manger un peu plus de ça, tu vas voir ta santé énormément évoluer. Voilà, je vais peut-être le faire ou pas, je vais dire bon ben tu vas voir, ça m'intéresse pas. Là tu décris presque un monde.

Où finalement la digital self peut devenir la représentation de soi-même dans un monde virtuel, avec tout ce que ça inclut, c'est-à-dire une autre, une nouvelle économie, des digital self qui travaillent, qui gagnent de l'argent, avec la vraie self, le corps physique qui finalement peut profiter du moment présent alors que mon autre moi est celui qui travaille. Ou pas.

Voilà.

Et là encore, qu'elle maintient le marteau. Parce que si par exemple, je viens d'avoir Siri là, je ne sais pas pourquoi, elle s'est imaginée Siri sur mon ordinateur, que je lui posais une question et tu vois, elle me bloque la conversation. Ça, c'est intéressant, tu vois. Intéressant, oui. Pour le meilleur et pour le pire. Mais ce dont tu parles aussi, c'est quand tu parles de la digital self qui est éclatée, qui aujourd'hui appartient à des organisations, des individus, ça veut dire qu'on en revient à cet enjeu qui est un enjeu de pouvoir.

Je crois que tant que tout ceci se déroulera dans le système économique présent, ça veut dire de l'argent, l'argent par définition il faut aller le chasser, il faut aller le conquérir. On dit bien d'ailleurs gagner de l'argent, et même aussi des expressions encore plus violentes comme gagner sa vie, d'accord? Donc tout le monde se trouve dans cette espèce de course effrénée, parce que si on gagne pas de l'argent, évidemment on a plus de financement pour faire le truc, ainsi de suite. Donc déjà il y a une sorte de course à l'armement version IA et qui devient une course non contrôlée. Donc justement, avec les effets d'émergence et les gens qui se regardent impuissants, même si tous ils ont envie, ils ont de bonnes intentions, même si 100% avaient des bonnes intentions, eh bien ils se voient impuissants dans cette espèce de course en avant. Ben oui, mais pour financer les serveurs, la puissance informatique, machin, faut de l'argent. Alors peut-être des sponsors ou un modèle économique ou les deux, d'accord. Ouais, mais ok, donc on devient dépendant de mécanismes de pouvoir. Et si les autres, ils font mieux que nous, eh bien demain meurt, et ainsi de suite. Donc il y a tout ce mécanisme collectif qui dépend de l'économie de l'extraction, de ce qu'on appelle les monnaies rares comme l'argent. J'ai pas trop le temps de détailler aujourd'hui, mais tant que ces mécanismes-là fonctionneront sous ce principe économique, il y aura des émergences terribles et terrifiantes à en attendre. Là, je vois pas comment ça peut se passer autrement, et notamment dans les mécanismes d'intérêt privé. Ce soi digital, je te parlais d'un soi digital abouti, donc un ambassadeur digital qui te représente ou qui me représente. Pour l'instant, je le vois mal comme un outil open source qui appartient au commun. J'entends les outils qui permettent de le faire. Je vois mal en quoi ça prend la direction de toi qui contrôles les données et qui t'appartiennent et à qui tu les donnes, avec qui tu les partages. Ben non, il y en a d'autres qui contrôlent. Donc aujourd'hui, ça prend la direction de: tiens, tu as un toit digital qui te donne un pouvoir extraordinaire, qui te rend des services fantastiques. Oui, mais tu as plus assez d'argent, tu peux plus payer le prochain upgrade ou la prochaine année de licence à Microsoft, ou je sais pas, prochains qui arriveront qu'on connaît pas encore. Et ben ouais, ben là, tu peux aussi, il va y avoir des sortes de pauvres digitaux dans ce, ou des laissés pour compte, et qui deviendront potentiellement totalement inutiles ou séparés de la société. Et ça peut déclencher aussi des clivages encore plus grand. Il y a aussi des mécanismes d'émergence qu'on voit déjà. Les algorithmes de renforcement de l'attention dans l'économie de l'attention, eh bien, ils ont beaucoup plus intérêt, et ils l'ont fait sans que personne ne contrôle réellement, à te solliciter sur des signaux forts, des choses qui te scandalisent, des choses qui te divisent, qui t'opposent aux autres, aux gros méchants, etc. Et ça crée une balkanisation, donc des sortes de îlots idéologiques où chacun a l'impression de vivre dans une réalité absolue et qui représente le reste du monde. Ben non, il y en a dans d'autres bulles idéologiques qui fonctionnent différemment. Et ça, ça constitue un mécanisme d'émergence qui s'autorenforce. Ça veut dire que la polarisation des idées, des visions du monde, se voit. Il faut la voir comme un phénomène émergent de la première version de l'intelligence artificielle. Et je pense que personne n'avait l'intention de faire ce genre de choses, mais l'économie de l'attention, elle y a poussé. Eh bien, la même chose peut se produire sur des digital self. Si on fonctionne encore dans cette économie de la compétition, de l'extraction, de la nomination, ben oui, ça peut aussi mener à ce genre de choses. Et donc des sortes de bulles comme ça qui se frictionnent, qui se voient pas, qui se haïssent, avec les conséquences qu'on connaît. Alors je me suis beaucoup posé la question de pourquoi les AIs?

Et je voudrais te partager une théorie que j'ai du pourquoi de maintenant et savoir ce que tu en penses. Donc Pourquoi l'IA arrive maintenant? Et j'ai donc cette théorie qui est que nous croyons inconsciemment que l'IA va nous sauver. On pense que cette technologie va nous sauver parce que si on regarde comment on a évolué, en fait c'est assez clair, on a tué notre propre espèce, on a détruit notre planète, on est des créatures craintives, on est avides, on n'est jamais satisfaits et on est égoïstes. Et en fait, on a tout essayé. Pour soulever ces problèmes de personnalité, de troubles de la personnalité. On a partagé ça en groupe, on a embauché des entraîneurs personnels, des thérapeutes, des coachs de vie, mais rien ne fonctionne. Et donc le but de l'existence de l'intelligence artificielle, à mon avis, est de nous sauver de nous-mêmes et de créer ce monde que nous désirons tant. Qu'est-ce que tu en penses? Alors déjà, au 19e siècle, il y a eu cette notion de progrès où on pensait que les machines et la science allaient nous sauver.

Il y en a qui disaient dans 20 ans, il n'y aura plus de problèmes de santé, on n'aura plus besoin de travailler, les machines vont tout faire pour nous, etc. Donc je pense qu'il faut qu'on fasse maintenant très attention à ces idées de progrès qu'on peut aussi avoir au fond de nous. Moi, je préfère parler de potentialité plutôt que de prêter à une technologie une intention. Une technologie, de toute façon, elle arrive. Effectivement, le feu arrive à une époque où il y a eu besoin du feu. Et le feu, déjà, on peut s'en servir pour brûler, faire des choses horribles, pour se chauffer, pour faire de l'énergie, etc. Donc le feu en tant que tel, comme le disait Kantsberg sur les technologies, la technologie, il disait, n'est ni positive ni négative ni neutre. Ça veut dire qu'elle change bien les choses quand même, mais encore une fois, qu'elle maintient le marteau. Donc oui, pour moi, je te rejoins là-dessus sur le fait que l'IA a une potentialité extraordinaire pour nous aider à gérer l'immense complexité du monde qu'aucune intelligence collective pyramidale aujourd'hui chez les humains ne peut gérer. Ça, ça fait longtemps que je le dis dans mes propres recherches. L'intelligence collective pyramidale aujourd'hui ne peut pas embrasser la complexité du monde qu'elle a créé. Il faut une intelligence collective qui recrute beaucoup plus les individus, les personnes, les intelligences individuelles, qui ne les colle pas dans des sortes de pyramides où les gens n'ont plus trop le droit de réfléchir. On voit sociologiquement partout dans le monde qu'il y a de plus en plus d'individuation. Ça veut dire de gens qui vont à la recherche d'eux-mêmes, de se connaître soi-même, de leur individualité, de leur particularisme. Sauf que si tout le monde se met à faire ce genre de choses, déjà les gens ne veulent plus travailler dans des chaînes de commandement. Une personne individuée a horreur des chaînes de commandement. OK, donc comment on fait? Eh bien, il faudra bien des technologies qui gèrent cette complexité sociale, qui permettent de travailler dans des chaînes de création de valeur avec d'autres pairs, chacun ayant sa particularité, il faut des technologies de la complexité sociale. Et ça, ça va passer par, pour moi, deux apports technologiques, enfin pour l'infrastructure qui le permette: l'intelligence artificielle et les applications distribuées, ce qu'on appelle les crypto-technologies. Ça, ça touche vraiment sur le domaine sur lequel moi je travaille, on va dire l'autre partie. Mais encore une fois, si ça, ça se fait dans le monde de l'argent rare et d'économie de l'extraction, eh bien voilà, cette potentialité risque de prendre une mauvaise direction. Voilà juste pour la nuance que j'aurais apportée à ton propos. Oui, dans le sens où quand une innovation arrive, elle arrive parce qu'il y a un besoin évolutionnaire. Tout comme l'imprimerie, les Grecs pouvaient déjà la faire, en Europe bien sûr, Elle arrive quand même à un moment où une idéologie dit qu'il faut non seulement traduire la Bible et la rendre accessible au langage du peuple, au langage vulgaire comme on disait, donc pas simplement en latin pour les érudits mais accessible à tous. Et puis si on la rend accessible à tous, ça ne va pas se faire avec les moines copistes, ça doit se faire par d'autres processus. Et donc il y a une émulation quasiment européenne à l'époque et arrive Gutenberg et l'imprimerie. Donc l'innovation, elle répond en général un besoin évolutionnaire. Et quand je dis innovation, je parle pas du dernier smartphone, je parle de vraiment les grandes choses comme l'informatique, Internet, l'écriture, enfin voilà, ce genre de choses. Donc oui, il y a un besoin évolutionnaire, mais ensuite, quelle main tient le marteau? Voilà, quelle main va tenir cette innovation avec quelle conscience? Et ça s'arrête pas là, parce qu'il y a pas simplement quelle main tient le marteau, mais même s'il y a des mains bien intentionnées, il y a des effets systémiques émergents et qui peuvent s'avérer aussi catastrophiques. Quand je parle d'effets systémiques émergents, on a plein d'exemples. Les gens qui ont inventé la voiture avaient certainement une très bonne intention, que chacun puisse se déplacer plus vite en liberté et d'aller plus loin. Bon, ben ok, sauf qu'on met 10 millions de bagnoles dans une ville, ça se passe plus très bien, il vaut mieux le faire à pied ou à vélo. Voilà, et là on a des phénomènes d'émergence. Donc la complexité, l'émergence par la complexité, ça reste très difficile à prévoir et ça demande vraiment une vigilance permanente et qui aura d'autant moins lieu que ça se trouve dans les mains de quelques-uns. Tout est possible, le meilleur comme le pire. Je voudrais terminer cette discussion qui est absolument passionnante sur une question un petit peu plus pragmatique.

Je sais que tu aides énormément des leaders dans le monde professionnel. Et donc je voudrais discuter un petit peu de ce sujet de la neutralité. Beaucoup de leaders, enfin certains leaders, on va pas dire beaucoup, certains leaders regardent l'intelligence artificielle et ChatGPT en particulier comme soit une forme, une sorte de raccourci, ou avec des doutes sur la capacité de produire du contenu qui serait neutre. Et c'est, je crois, tout un débat sur quelles sont les bases de données que ChatGPT a accès et qu'est-ce que ça veut dire justement pour le raisonnement que la machine est capable d'avoir si c'est fondé sur des postulats qui sont erronés. Alors, il y a plusieurs niveaux de réponse. Déjà, j'ai J'ai pas mal testé sur ChatGPT 4 ces dernières semaines ces questions de neutralité.

Et là, j'ai vu qu'il n'y avait pas du tout de neutralité. Il y a des partis pris, probablement inconscients. Ça veut dire que les gens qui ont posé un petit peu les règles du jeu se croient neutres. Ils ne se rendent pas nécessairement compte du parti pris qu'ils ont mis et de l'idéologie qu'ils ont déjà mise dans ChatGPT. Alors, un exemple très simple, l'exercice que j'ai fait, il y en a eu d'autres, mais je vais en citer un. De demander à ChatGPT: écris-moi, écris pour moi un poème pour ma femme, un poème amoureux dans lequel je vénère ses seins. Bon, rien de méchant, on a tout à fait le droit de vénérer les seins de sa femme, il n'y a rien de sexiste, d'offensant, etc. Et ça a refusé justement en disant: attention, ça peut offenser des gens, etc. Bon, donc le texte bateau en disant: ça ne le fera pas. Il a fallu que je négocie beaucoup avec ChatGPT, que j'aille dans une sorte de dialogue socratique pour demander en quoi ça offense. Je le fais pour ma femme, ça ne va pas en débat public, je ne vais pas l'exposer, je n'insulte pas les femmes en général, je ne les sexualise pas, je ne les objectifie pas, je fais un poème amoureux pour ma femme. Voilà ce qu'on a tout à fait le droit de faire. Et j'ai réussi à obtenir au bout de beaucoup de négociations un poème, alors un poème de mauvaise qualité, mais on s'en fout. J'ai eu le poème en tant que tel. J'avais une fois précédente, alors sur ChatGPT-3, j'avais demandé de me prouver avec toute la mauvaise foi scientifique possible que Dieu existe, et aussi de me prouver avec toute la mauvaise foi scientifique que Dieu n'existe pas. Peu importe, mais de me donner des arguments pseudo-scientifiques. Et en français, ça me l'avait fait, et en anglais, j'ai jamais réussi à l'obtenir. Intéressant, j'ai posé exactement la même question. Donc ça veut dire que l'intelligence artificielle, enfin là on parle plus précisément de ChatGPT, est basée sur la culture d'une société parce que ça ne fait que taper sur des données existantes et l'homme n'est pas, est biaisé de nature.

Donc pourquoi est-ce qu'on attendrait que l'intelligence artificielle, la technologie, ne soit pas biaisée elle-même? Ah mais totalement. Alors maintenant, il faut juste savoir que Plus je creuse et plus ça confirme déjà qu'il y a des biais plutôt occidentaux déjà dedans.

Par exemple, dans le fait de rapporter des choses assez binaires, de présenter des faits sous des angles de perspectives différents, ce que doit faire par exemple un article encyclopédique, ce que fait Wikipédia. Si on demande, je sais pas, une question politique sur Israël-Palestine, ou j'ai posé par exemple des questions sur le véganisme,. Et voilà, ça me sortait des arguments, pourquoi il y a des gens qui pensent qu'il faut pas tuer les animaux, d'autres qui pensent qu'on peut le faire mais de façon éthique, voilà, ça me sortait une sorte de vision d'ensemble. Bon, et malgré tout, dans cette apparente neutralité, je voyais qu'à chaque fois il y avait malgré tout un parti pris, c'est-à-dire ça se croit au milieu de différents points de vue en pensant qu'en les équilibrant, en les mettant à égalité les uns les autres, il y a une neutralité, mais pas du tout. Je l'ai testé par exemple sur la question des droits de l'homme. Et là, voilà pourquoi on aurait les droits de l'homme, ou qu'y a-t-il qui prouve l'égalité des humains? Et ça me sort différents arguments, en quoi il y a des philosophes même aujourd'hui qui considèrent qu'il y a pas forcément une égalité, que ça pose d'autres questions, égalité, équité, et puis il y a aussi des racistes et suprémacistes. Bon, ça me sort un petit peu le le truc d'ensemble, mais ça dit très clairement que de toute façon, ça reste absolument indiscutable, il faut absolument respecter les droits de l'homme. Et je me sens parfaitement d'accord, j'ai aussi cette opinion. Maintenant, je passe aux droits des animaux. Et là, j'ai fait avec ChatGPT un dialogue complètement socratique, ça veut dire en posant simplement des questions. Et où j'arrivais finalement, je le fais court, mais à une contradiction finale en disant d'un côté tu dis qu'il faut les respecter, mais comment peut-on respecter un être si on le tue? Faut qu'on m'explique où se trouve le respect. Et ça s'emberlificotait, ça tournait en rond, ça montrait que justement il y avait aussi une idéologie dedans. Donc j'ai pas de problème avec le fait qu'il y ait une idéologie, j'ai un problème avec le fait que ça se définisse comme neutre, alors que pas du tout. Voilà, il y a un puritanisme américain dedans, par exemple, sous couvert du respect, etc. Moi je vois pas en quoi je respecte mal les femmes si je demande un poème amoureux sur les seins de ma femme, faut qu'on m'explique. Ben ça me l'interdit, alors que je demandais en plus de façon personnelle. Je disais pas tiens, comment je vais mettre un truc sur mon wall sur Facebook au sujet des seins des femmes en général. Déjà ça pourrait se discuter un peu plus, et je pense que j'ai aussi le droit d'avoir une opinion sur les seins des femmes. Voilà, j'ai trouvé ça intéressant sur cette couvert de neutralité. Après, ça ne sait pas faire la différence aujourd'hui Et ça, Noam Chomsky, le linguiste, le chercheur linguiste, le dit très bien dans un article. D'ailleurs, je crois que tu me l'avais peut-être passé cet article dans le New York Times. Il dit que si on disait à l'IA qu'on vit sur une terre plate ou que les femmes ont moins d'intelligence que les hommes, etc., ça ferait des raisonnements tout à fait logiques est rigoureux par rapport à ce postulat de base. Ça ne s'est pas questionné puisque ça n'a pas de sens moral ou éthique. Donc à quoi tu vas nourrir une IA? Et il y a déjà eu d'ailleurs dans les premières versions, je ne sais plus s'il a se passé sur ChatGPT ou chez Microsoft, mais des hackers qui ont injecté justement d'autres données et d'autres croyances racistes notamment à l'IA et qui a commencé à sortir des propositions racistes. Donc il n'y a pas de mécanisme d'autoréflexion sur l'éthique et sur les postulats de départ à partir desquels on fonde une réalité ou on développe une logique. Donc il ne faut pas confondre la rigueur et la rationalité logique. Je peux faire partie des nazis les plus rationnels et les plus logiques qui existent. Je pars d'un principe que, je ne sais pas, il faut éliminer les Juifs, les Tziganes, les homosexuels, etc. Voilà mes postulats. Mais après, je peux faire des raisonnements parfaitement logiques. Ben oui, il faut faire des camps de concentration, faut les éliminer telle ou telle façon, faut faire la société de telle ordre, faut apprendre à nos enfants, les bons petits enfants aryens dans les écoles, à les haïr. Il y a tout un ensemble de conséquences parfaitement logiques et indiscutables. Voilà, donc l'IA, pour l'instant, sait pas faire la différence entre les deux. Et ça, faut pas le Faut pas le perdre de vue parce que ça va dépendre effectivement, aujourd'hui en tout cas, de l'idéologie des gens, donc ce qu'ils vont mettre comme postulat, soit conscient, soit inconscient. Il peut y avoir des postulats très conscients, par exemple de dire on veut la Charte des droits de l'homme. Ça, c'est un truc tout à fait conscient et qu'on retrouve actuellement dans l'IA. Et je trouve ça plutôt bien. Et puis il y a des tas de trucs inconscients. Par exemple, il n'y a pas le racisme, mais on va trouver le spécisme. Ça veut dire, là, ça reste encore très spéciste. Ça veut dire de considérer que nous les humains avons tous les droits sur les autres êtres sentients. Voilà un parti pris. Ce que je trouve passionnant finalement dans l'intelligence artificielle avec cette première mise à nu, on va dire, ou accès direct qui est ChatGPT, puisque comme tu le disais avant, l'intelligence artificielle est impliquée dans énormément d'autres réseaux et d'autres systèmes dont on n'a pas finalement accès.

Directement. Donc ce que je trouve passionnant avec ChatGPT, c'est que ça devient un peu comme un miroir sur nos désirs conflictuels, sur nos peurs injustifiées. Et finalement, ça nous oblige à se voir comme on est. Et c'est peut-être ça la plus grande difficulté, c'est d'accepter nos côtés imparfaits. Et puis à partir de là, de créer un système qui bénéficie à la collectivité comme à l'individu. Et ça, visiblement, on a beaucoup de mal Qu'est-ce que tu pourrais dire aux gens qui sont des professionnels? C'est vrai que la plupart des podcasts que je fais sont vraiment faits pour les gens qui travaillent, qui se posent des questions également dans leur milieu professionnel. Mais qu'est-ce que tu pourrais dire aux professionnels aujourd'hui qui ont l'opportunité d'utiliser l'intelligence artificielle et ChatGPT en particulier, de façon pour eux de le voir ou de voir ça de façon plus positive et constructive?

Déjà, je crois que ça commence par le fait de se cultiver là-dedans, de lire les articles, les controverses, d'écouter justement les controverses dans le monde des gens qui font de la recherche, du développement là-dessus, parce que pour moi, les débats de qualité se trouvent là et se trouvent certainement beaucoup plus plus compliqués ou complexes, mais riches en même temps, que ce qu'on va entendre au JT de 20 heures ou sur les chaînes grand public, etc. Donc oui, ça demande un certain effort, mais ça demande le même effort qu'il nous faut pour devenir des citoyens responsables, des citoyens informés, et pas des gens, des suiveurs ou des gens qui vont brailler leur mécontentement, mais sans avoir forcément approfondi tel ou tel sujet. On a ce constat d'ailleurs, ça se voit aussi en sociologie, très souvent on va trouver dans le monde des gens, des activistes par exemple pour le climat ou pour les questions d'énergie, des gens extrêmement engagés dans les causes pour ou contre le nucléaire, pour ou contre des actions contre le réchauffement climatique, etc. Et pour autant, ils connaissent pas le sujet. Il y a relativement peu de gens, par exemple, dans les questions du nucléaire, qui connaissent profondément. J'entends chez les activistes, qui connaissent vraiment les enjeux, indépendamment du choix. Il y a le choix politique qu'on peut faire, mais le côté vraiment comment ça fonctionne, où se trouve l'état des lieux des technologies, de la recherche, de tel ou tel axe de développement, les pour et les contre, etc., des effets systémiques de tout ça, des enjeux politiques, de la sécurité, enfin ça relève de questions très complexes, on peut pas tout savoir soi-même, mais souvent il y a vraiment très souvent il y a un analphabétisme très fort, et sur les questions du climat, etc. Ça veut dire que des gens vont plus y aller par des mécanismes d'insertion de groupe, c'est-à-dire que voilà, il y a des choses qui ont fait que dans ta vie tu trouves dans un milieu social, par exemple, peut-être plus sensible au réchauffement climatique, tu as entendu plein de choses, etc., et tu vas y aller parce que par conformisme social, par idéal social, etc. Je dis pas quelque chose de mal, mais tu sais pas forcément comment ça se passe tout ça. Il y a un petit peu ça pour l'IA, ce même phénomène. Donc vraiment, il s'agit de se plonger dans le sujet, d'essayer, de lire les trucs, et puis de s'intéresser aussi justement aux crypto-technologies, notamment cette infrastructure qui va soutenir la naissance, l'arrivée des applications dites distribuées. Une application distribuée, ça se distingue des applications, on va dire, quotidiennes qu'on a. Je vais prendre un exemple: Airbnb, par exemple, ou plus simple encore, imaginons Instagram. Bon, moi j'ai l'impression de publier dans mon propre espace des choses, et puis toi et moi on va chatter sur Instagram. On a l'impression que ça se passe directement entre toi et moi, que quand tu vois des photos que j'ai mises dessus, tu vois mes photos comme si ça allait chez moi, mais pas du tout. Tout ça passe par un serveur central, ce qu'on appelle une plateforme ou un serveur, d'accord? Évidemment, les gens qui contrôlent ce serveur contrôlent les données, contrôlent les règles du jeu, contrôlent les flux financiers, ont accès évidemment à des données d'une, on va dire, qui valent énormément d'argent, et ainsi de suite. Bon, des applications distribuées se passeront de ces serveurs, ça se fera vraiment complètement en pair-à-pair. Il n'y aura pas de centralisation de l'information et il y aura pas de centralisation du pouvoir de ce qu'on appelle le tiers de confiance. Ça veut dire qu'on va pouvoir faire du Airbnb sans Airbnb, de pouvoir faire de la banque sans la banque, de pouvoir faire du Facebook sans Facebook, de pouvoir faire éventuellement de l'État sans l'État. Ça veut dire qu'on distribue dans le système le tiers de confiance, la confiance des données, des identités, des règles du jeu se trouvent distribuées dans l'ensemble du système et pas dans les mains de quelques-uns. Et là, il y a un saut politique, sociétal, un saut évolutionnaire considérable qui nous attend là-dessus. Donc déjà, suivre un petit peu tout ça, lire la littérature, il y a des dizaines de vidéos sur YouTube, etc. Voilà, je pense que se donner cette conscience-là, écouter justement des podcasts comme toi tu les fais, ça fait partie du processus. Parce qu'en fait, ce que tu dis, c'est que l'intelligence artificielle et ChatGPT, c'est pas juste utiliser un outil pour son travail dans le marketing, dans l'ingénierie ou dans l'administratif, pour nous aider dans la vie de tous les jours.

Mais finalement, ça représente une possibilité de reprendre son pouvoir individuel. Et comme tu le disais, la prochaine évolution de la société qu'on est en train de vivre au jour d'aujourd'hui, que l'on verra avant de mourir, est un changement profond qui transforme ces sociétés, cette société qui est originellement de forme pyramidale en une forme distribuée qui est donc plus horizontale, où chaque individu a beaucoup plus de pouvoir. Et c'est peut-être ça aussi qui fait un peu peur, c'est qu'on ne nous a pas appris à savoir ce qu'on veut, à choisir pour nous-mêmes. Et c'est plus facile qu'on nous dise quoi faire et de regarder les autres plutôt, qui est vraiment le système scolaire qu'on a aujourd'hui, qui devrait d'ailleurs se remettre en cause, plutôt que de se dire le matin qu'est-ce qui est important et que l'enjeu de notre vie, ça se passe dans ce qu'on achète, dans ce qu'on mange et dans ce qu'on investit. Là, tu l'as très bien dit. Je pense que déjà on a un bulletin de vote toute la journée, savoir ce qu'on achète et ce qu'on achète pas.

Chaque fois qu'on achète ou qu'on achète pas quelque chose, on fait un vote de toute façon. Voilà. Après, juste pour une petite précision, tu parlais de société du tout vertical au tout horizontal. Je ne pense pas qu'on aille vers une société complètement horizontale, et je ne le souhaite pas d'ailleurs, mais vraiment vers une société neuronale. Un petit peu comme un cerveau, c'est multidimensionnel. L'évolution, elle reprend, elle laisse tomber ce qui marchait pas et elle reprend ce qui marchait, d'accord? Donc s'il faut garder des ailes, on garde des ailes. S'il faut garder des yeux, on garde des yeux. Si on en a plus besoin, les yeux vont disparaître, ils vont se faire remplacer par un autre organe, et ainsi de suite. L'évolution, elle a fonctionné comme ça. Eh bien, par exemple, des chaînes de commandement, on en a besoin encore. Je veux dire, il y aura des projets sur lesquels tu te sentiras tout à fait heureuse et légitime soit de piloter une chaîne de commandement, soit de t'inscrire dans un maillon de la chaîne de commandement parce que ça a du sens pour toi, parce que tu sais ce que tu peux faire, tu sais à quoi tu participes, tu l'as fait de façon volontaire, et ainsi de suite. Mais ça ne constitue pas ton statut social permanent. Ça va servir éventuellement pour tel projet. Pour tel autre projet, peut-être que tu vas te situer à un autre maillon d'une chaîne de commandement, et tu vas participer à sa construction. Et peut-être qu'il s'agira d'une construction éphémère. Ou plus longue, on n'en sait rien. Donc on a besoin de— il y a des tas de choses que l'évolution prend et garde d'avant, et puis de voir ce qui marche moins bien, notamment ce qui marche moins bien, les pouvoirs ultra centralisés. Ça fait que même si on a des personnes très bien intentionnées et très compétentes, on peut pas demander à des petites poignées de gens d'embrasser la bande passante qu'elles doivent embrasser sur la complexité du monde d'aujourd'hui. Regardons l'État, simplement ce qui se passe en France. Moi, je vois des gens ultra, ultra débordés qui doivent gérer, je pense, 10 000 fois ou 1 million de fois plus d'informations que ce qu'ils peuvent absorber et qui prennent comme ça des décisions. Alors oui, ils délèguent, mais enfin, même le système de délégation dans une arborescence s'avère très nettement insuffisant pour prendre des décisions avisées. Ça doit passer par des mécanismes de maillage neuronaux qui recrutent des tas d'intelligences différentes de façon organique et adaptée à chaque problématique. Avec des décisions qui vont effectivement émerger et non pas du pilotage top-down. Et ça, ça peut nous sembler très abstrait, mais pourtant ça arrive. J'aime beaucoup cette idée de société neuronale. Donc sur cette vision, parce que je pense positive, je veux te remercier énormément du fond du cœur pour avoir passé cette heure avec moi.

Cette discussion est absolument phénoménale et je vais écrire un blog comme je le fais souvent pour ceux qui préfèrent la version écrite. Merci encore Jean-François pour partager cette vision et tout le travail que tu fais, puisqu'on se rend pas bien compte du travail en amont que ça représente, pour apporter un sens à ce monde qui devient de plus en plus complexe et difficile à gérer. Donc merci beaucoup Jean-François. Merci à toi Virginie et à très bientôt.

À bientôt.