La tech veut-elle nous déconnecter de la réalité ?

La main-marine est très ternière. La mission n'a pas vu. Elle est maintenant prête à faire des mètres qui avarrera. ♪ Voir une bonne sémenquie au lait ♪ ♪ La main-marine va se bister, je suis. ♪ France Culture France Culture, question du soir, maté au quarantaire. Bonsoir à toutes et à tous et bienvenue dans "Question du soir" de débat, d'analyse, de découverte pour décrypter l'actualité. À 19e, en deuxième partie des missions, nous entamerons une discussion avec l'entropologue David du puits sur l'épsychadalique, mais d'abord place au débat dans "Question du soir". Chape JPT casque de réalité virtuel, difèque, monde immersif et métaversent, en tout genre, jamais la technologie n'a autant brouillé, la frontière entre le réel et ses multiples doubles. D'arrière, ses innovations numériques, d'aucun qualifie ce nouveau monde de réalité augmenté et des milliards d'air de la Silicon Valley, vous même, jusqu'à financer des recherches, pour prouver que nous vivrions dans une simulation informatique à la manière du film Matrix ou du mythe de la caverne. Alors, pourquoi l'égérant de la Silicon Valley met-il autant d'argent et d'énergie pour dupliquer et augmenter le réel? La tech était l'entrainte de nous en déconnecter, ce nous encore capable de distinguer la réalité de son avatar numérique. Voici quelques-unes des questions vertigineuses qui se poseraient à nous ce soir et à nos deux invités "Lawick H. de Bonsoir". Bonsoir. Vous êtes écrivain journaliste, vous avez publié le syndrome de Palo Alto, cet éton en 2020, et vous venez de faire paraître une enquête tout à fait à propos de l'émission, la simulation aux éditions, les arrêtes, merci d'avoir accepté notre invitation. A vos côtés, se trouve Jean Gabriel Ganassia Bonsoir. Bonsoir. Vous êtes professeur d'informatiques à sort bonne université, chercheur à lipcis et membres de l'institut universitaire de Frange, de deux de vos livres, LIA expliqués aux humains aux éditions du seuil de 2024, c'est bien gentil d'avoir fait, et puis enfin servitude virtuel qui vient de paraître au poche. Merci à vous de d'avoir accepté notre invitation dans question du soir, nous sommes en direct jusqu'à 19h. A quoi ça sert de se raconter des histoires, c'est encore une fois, c'est à nous augmenter, à nous préparer pour le réel. Mais pour ça, il faut avoir vécu le réel, il faut l'avoir expérimenté, et en fait ce qui me dérange avec cette espèce de folie, il y a où tout le monde a impression de. enfin tout le monde croit qu'il y a une sorte de nouveau dieu qui va nous raconter des histoires, c'est que la machine n'a aucune expérience du réel. Elle est nourrie en plus que de réalité, qui de fragment de réalité, qui n'a rien à voir avec l'expérience, et surtout qui sont arrêtés à amomenter, alors que nous notre fonction en tant qu'artiste est même. Et si on arrête d'actuer les éléments des lui-même, on va construire sur un monde stéril, puisque il y a une fois qu'avec un référentiel mort, et nous, on travaille avec un référentiel vivant, vibrant, on n'est pas des concepts philosophiques, on n'est pas des nombres, on est des êtres de chers, et encore une fois d'expérience. En ce moment, bien sûr, en tout cas, c'est ce qu'à firm Hugo Bienvenue réalisateur et autor de BD, qui nous raconte, voilà, Gliya, et nourrit de fragment de la réalité, qui n'a rien à voir avec l'expérience du monde. Et si vous avez été très avant d'entamer cette conversation, faire un tour de table, peut-on dire aujourd'hui que Gliya, la tech de manière générale, est en train de nous faire perdre pied, de nous déconnecter du réel Loïc Agt. Moi, je ne serais pas forcément sur cette approche-là. Mon idée, en fait, de la manière dont j'appréhens Gliya et donc, allez, devenu, notamment, un outil, dans ma pratique et descrivins et de journalistes, c'est que je dirais qu'à la tendance à m'augmenter, elle me permet, en fait, parfois, par exemple, d'être une espèce de sparring partner à l'endroit de l'écriture. Là, mon dernier livre, la simulation, c'est 7 ans, quasiment, de production, d'enquête. Et j'écris tout seul dans mon coin. Les quatre premières années, on n'était pas encore arrivé un moment où le chat de GPD existait et en revanche, les trois dernières années, voilà, tout à coup, j'ai eu cette outil qui m'a permis, en fait, de tester des hypothèses, déchanger, d'éditer parfois des endroits où j'avais besoin, par exemple, de réduire la taille de mon texte. Alors, je suis pas en train de dire qu'elle génère, forcément, des émotions, mais en tout cas, elle me permet de produire des choses que, peut-être, pas produire, me permet de réfléchir d'une manière nouvelle ou quelque part, je dirais, augmenter. Donc, elle ne vous a pas diminué ni votre capacité de réflexion, ni décriture, mais au contraire elle vous a aidé à faire le mieux de vous-même. C'est ça que vous vous entendez. Absolument, et je pense même qu'elle m'a permis aussi de gagner beaucoup de temps, peut-être que sans Ia, il m'aurait fallu une année ou deux supplémentaires. Parce qu'en fait, Lilla, c'est vrai qu'évidemment, ça demande de fact-checker tout ce qui en sort, mais en contre-partie, elle va permettre un peu à l'autre des inputs, donc en fait, des informations qu'on va lui donner en entrée de proposer des pices de réflexion. Donc, je la mettrai pas forcément au même niveau qu'un humain, mais en contre-partie, je n'aurais pas tendance comme ça à les carter, notamment à l'endroit de la production intellectuelle. Jean-Gabriel Ganassia, même question, est-ce qu'on peut dire que la tech et les dernières évolutions liées qui sont, disons, la forme la plus flagrante de ces évolutions sont en train de nous faire perdre pied de nous de déconnecter du réel? C'est pas ça, nous déconnecte du réel, mais ça transforme le réel, nous vivons dans un monde qui est différent de celui qui existait. D'abord, parce que les relations entre les hommes sont pour une grande part médiatisée par les réseaux numériques et, bon, la métier, la confiance, enfin tout ça, ce transforme. La société n'est plus la même. Et même notre relation aux objets n'est pas tout à fait la même. On arrive à automatiser un certain nombre de processus, ce qui fait que la relation avec le monde d'extérieur, les métiers changent pendant des siècles, des millénaires. C'était un échange d'énergie entre l'homme et la nature pour le laborheur, l'ouvrier. C'était physique, les puissements au travail étaient physiologiques. Et aujourd'hui, c'est un échange cognitif avec des dispositifs qui fait que le puissement est d'un ordre différent. Donc je crois que ça transforme le monde et, bien sûr, on oppose le réel ou le virtuel. Alors, est-ce que nous vivons dans un monde virtuel? C'est toute la question, je crois, qui mérite d'être posée. D'abord, qu'est-ce que ça veut dire que le virtuel, dans la tradition philosophique? Je vous pose la question, puisque c'est la question de nos posons. Ce soir, qu'est-ce que ça veut dire le virtuel? Vous avez utilisé des mots très intéressants. On entend eu le mot de cloud qui est le nuage, la virtualité. Vous vous parlez, l'oïc-h d'intelligence artificielle, tout ce vocabulaire, tant nous faire penser que ce n'est pas dans le réel, c'est dans un autre endroit que la réalité. Mais si c'est dans un endroit, où est-ce que ça se trouve? Il y a cette technologie Jean-Gabriel Galacia et puis l'oïc-h d'H. Le terme virtuel est très ancien. Il désignait, originalement, ce qui est en puissant. Et par exemple, Aristote va opposer ce qui est en acte et puis ce qui est en devenir. Dans le cadre du numérique, le sens est différent, il vient de la physique. Vous savez que lorsqu'on regarde dans un miroir, en réalité, c'est pas soi-même, c'est une image virtuelle de soi-même. C'est-à-dire un endroit où provienne les rayons lumineux. Et ces se termes qui étaient réutilisés, et ce qu'on appelle les réalités virtuelles, c'est cette idée que vous allez pouvoir recréer de façon totalement artificielle avec du numérique une image dont vous avez l'impression que ça correspond à une véritable scène. Sur ça, des conséquences énormes, ça veut dire que vous pouvez fabriquer des fausse-image. Vous avez l'impression qu'il s'agit de la réalité. Ça peut être très positif, bien sûr, pour faire du cinéma. Imaginez tout un tas de possibilités nouvelles, mais ça peut être aussi extrêmement inquiétant parce que vous pouvez fabriquer de fausse-information. Et donc inventer un monde, diffuser toutes sortes de propagande, et ça, vraiment, c'est extrêmement dangereux pour le futur. Cette nouvelle réalité, je crois, vous essayez de comprendre. Je travaille beaucoup dessus parce que je suis assez inquiets. C'est vos informations qui transforment la société, qui transforment la démocratie. Ce qu'on appelle les infos. C'est la contraction, un grand mobilisme de information et intoxication. Et je crois un an, je m'ajore et dire, je pense que les médias de masse auront un rôle central à jouer dans le futur. Parce qu'il faut que ça reste des ressources de référence par opposition aux réseaux sociaux qui n'ont aucun filtre et qui permettent de transmettre n'importe quelle information. Je vous ai d'accord avec ce idée plus que la virtualité, le risque de perdre pied vis-à-vis du réel physique de nos existances, de nos perceptions sensoriales, c'est le risque d'être confronté à un réel fabriqué qui ne correspondrait pas à la réalité que pose aujourd'hui lesia. Et presque à l'inverse, en fait, la tech en définitive ne transforme plus seulement nos usages. En fait, du coup, à la transforme, notre rapport a quelque part au réel. En fait, aujourd'hui, ces technologies contemporaines que soient les Deep Fakes, que vous citiez, que ce soit ces intelligences artificielles qui produisent aujourd'hui des images qui sont absolument indicearnables de la réalité. On a jamais été autant bêté dans des images. l'histoire de notre petite humanité face à ce qui est produit, cette technologie, elle produise aussi des flux algoritmiques qui nous sont personnels. Donc on se retrouve à vivre dans des bulles qui fait que quelque part aucun de nous trois autour de la table, le citant tech tout le monde est sur Instagram, à le même flux, ce flux il va s'actualiser en fait au fur à mesure de ce qu'on va aimer, de ce qu'on va passer rapidement etc. Donc en fait on a des récits qui sont optimisés pour notre attention et donc en fait en définitive on habite déjà plus le même monde symbolique et ça nous renvoie en fait à ce que Bodrier a disait au début des années 80 quand il parlait de hyper réalité, autrement dit quelque part les représentations sont devenues presque plus réelles que le réel lui-même et donc en fait on navigue déjà là dedans et on a vécu en fait une espèce de forme d'accélération, moi je le date toujours ces rigolots c'est le début de mon enquête c'est 2016, 2016 c'est l'élection Donald Trump, c'est l'avènement de la post-vérité, c'est ce moment où en définitive les réseaux sociaux notamment comment ça a été manipulé par des officines, par des individus qui sont plus ou moins bien intentionnés pour finir par en fait manipuler les opinions et les masses et en fait c'est donc ce contexte là que Trump est eu que le Brésic s'il te a lieu et en fait c'est le moment où on bascule, on passe dans cette espèce de biopérialité dont parler Bodrier ou de saufes parquisation du réel comme on entend parfois. Alors ce qui est intéressant dans ce que vous parlez de hyper réalité de Bodrier et de années 80, Loïc H c'est qu'on a vous donner l'association et l'information que ce débat n'est pas nouveau pourtant ce que vous soulignez à l'instant, Jean-Gabregan Asseas, c'est qu'on était en train de passer dans une nouvelle dimension. Alors qu'est-ce que l'y a changé réellement par rapport à cette hyper réalité de Bodrier par rapport au fait que finalement oui les représentations, structure notre réalité autant que le vécu de nos sens. Il faut d'abord dire que l'intérêt racial n'est pas neuve. Elle date des années 50 et elle même fait suite à la cybernétique. Le projet est inscrit depuis très longtemps chez un certain nombre de scientifiques. Moi je me souviens par exemple d'une bande télévisée sur l'intelligence artificielle tournée en 1972. Je l'ai pas vu en 1972. Il y a juste quelques années dans les missions rembobinées. Rembobina, pardon, où l'on voit quelqu'un qui est un architecte grec, Nicolas Négroponeté, qui est O.M.I.T, et qui imagine que l'on va pouvoir dans un appartement utilisé de l'intelligence artificielle et des caméras pour changer l'environnement et la relation avec les clérages, en fait tout un tas de technologies qu'on soit à l'époque. Donc tout ça est en germe depuis très longtemps. Mais il est vrai que les progrès de ces dernières années et en particulier avec l'intelligence artificielle générative ont été fulgurants et que aujourd'hui on a des fabrications d'image qui se font à un coup très faible, même si l'idée de synthèse d'image est beaucoup plus ancienne et puis surtout des fabrications de textes qui sont extrêmement importants. Donc c'est vrai qu'il y a eu une accélération. En 2016, il y a eu une bonne date parce qu'il y a eu juste avant à partir de 2012 l'avènement de ce qu'on appelle les réseaux de neurone profond qui ont voulu faire des progrès considérable et puis ensuite ce que l'on a vu à partir de novembre 2022, sur Chat GPD où tout le monde a pu toucher de façon très concrète ce qui était la puissance de ces technologies et les évolutions du travail qui peuvent en résulter dans tous les champs de l'activité humaine. Lui, je vous avais enquêté longtemps sur cette simulation, sur le concept simulation, on va y revenir plus tard dans l'émission mais finalement c'est aussi une enquête sur l'aciliconvalace qui la traverse les idées, les philosophies aussi peut-être les idéologies. Qu'est-ce que vous avez compris des buts, des objectifs de ces Samal Atman, Elon Musk, Mark Zuckerberg qui n'ont cessé de travailler à créer alors Mark Zuckerberg, peut-être à Bordeaux des Milliers, y'a encore un grand moment de Facebook, Metac et vous voulez créer le multiverse à essayer de tenter de créer des mondes virtuelles de l'intelligence artificielle et pourquoi, en fait, tout simplement, s'il mette-il autant d'énergie et d'argent dans cet affaire? Alors, c'est vrai que mon premier sentiment, c'est que quelque part, il y a une espèce de logique un petit peu de savance ou d'alchimistes qui ne maîtrise pas très bien ce qu'ils font. Parce que aujourd'hui, c'est vrai qu'on est dans l'air de l'économie, de la tension, tout est tournée, en fait, vers le fait de nous faire rester le plus longtemps sur nos téléphones et nos écrans, mais quelque part, c'est presque un dessin qui s'est fait un petit peu par hasard si on souvient l'avention du bouton like de l'icône qui clignote en rouge, la notification. Les avancheurs parmi eux y'a un type qui s'appelle Tristan Harris, disait qu'ils ne sont pas rendus compte de ce qu'ils ont fait et puis ils sont venus pleurer un peu derrière en disant "Ah, on est hyper désolé d'avoir créé ça, en tout cas pour les repentis." Donc, du coup, y'a une espèce de côté un peu, voilà, apprenti, sorcié qui joue, en fait, avec des choses sans jamais vraiment maîtriser. Il y a assez peu de gens, en fait, dans cette industrie qui ont une vraie vision. Il y en a quelques ans, je pense qu'il enlemos, quelqu'un qui a une vision, piteur tille, quelqu'un qui a une vision, tille, c'est un peu un des personnages assez fascinants qui étaient un peu en creux, justement, dans mon précédent livre, le syndrome de Palo Alto qui était un roman, en tout cas, il a inspiré un personnage secondaire et ce qui était intéressant avec tille, c'est que pour le coup, c'est quand même le produit de l'université américaine, c'est quelqu'un qui a fait ça, c'est étude à Stanford qui était un élève d'un philosophe français, René Giraard, et tille, en fait, c'est quelque part à récupérer la philosophie de René Giraard et il a transformé à son avantage René Giraard, il a un concept qui est celui du bouquet mystère où il raconte que quelque part la société a besoin de traiter des bouquets mystères dans des moments où, en fait, il y a trop de violences ou des choses des rifs trop, on désigne un bouquet mystère, on le tue et, en fait, on rétablit une espèce de forme de logique. Et cette idée, en fait, tille la reprise à son compte en disant, et si, en fait, plutôt que de. enfin, et si on crée des bouquets mystères, mais pour, après, on délebusiness de manière. il appelle ça contrarienne, en fait, se dire "ok, si personne n'en vit d'aller là, et bah moi, je vais y aller." Et c'est ça qui a fait que, par exemple, ça a été le premier investir en Facebook, ça a été le seul mec de la Silicon Valley pendant l'élection 2016, à soutenir Trump, il y a eu un basculement ensuite. Et donc, en fait, voilà, il y a ce côté-là, et la thèse un peu de mon premier bouquin, c'était l'idée de dire qu'en fait, on est tous devenus des otages consentants, des bictèques, mais sans s'en rendre compte, d'où le terme de syndrome de Palo Alto. Et en fait, c'est vrai que c'est très difficile aujourd'hui de se dire "ok, je vais pas. je vais me priver de G-Mail ou d'Amazon, ou en fait de tous ces gros services, il y a presque une espèce de. c'est un dessin, enfin c'est un choix politique, en fait, assez fort de le faire, mais en même temps, voilà, c'est un édifice qui s'est créé au fur et à mesure, sans que, voilà, ce soit aussi pensé que ça, je dirais. Vous êtes d'accord, édifice plutôt que Ubris ou Vision Prométienne sur Humanité. Parce qu'il y a une vision promettaine à l'évidence, et je vous ai tout à fait raison d'indiquer qu'il y a une multiplicité extrêmement grande de perspective, il faut qu'on rentre qu'au départ, le numérique nait avec des anciens 68 arts, avec cette idée de diffuser librement l'information. Et les réseaux qui se constituent sous Bill Clinton, ce qu'on appelle les autoroutes de l'information sont gratuites, ce qui est tout à fait extraordinaire. Et en France, nous avions une œuvre à ce rupture, telematique, qui faisait exactement la même chose, mais qui était payante. Et les opérateurs de télécommunications ne voulaient pas tuer là, la vache aux odeurs. Et donc, on a une tension, en France, d'ailleurs, une grande résistance à Internet, donc c'était gratuit, et derrière, il y avait l'idée extraordinaire, et moi j'ai vécu dans cette idée-là de ouvrir la culture à tout le monde. La première fois dans l'histoire de l'humanité, que les livres sont gratuites et accessibles, nuit des jours. Donc rêve extraordinaire. Et qu'est-ce qu'on voit? C'est que tout cela se renverse progressivement, et se ferme. Et c'est ça, la révélée Peter Tilles, de ce point de vue-là, et tout à fait révélateur. Je crois qu'il faut insister quand même sur le fait que Peter Tilles, c'est effectivement quelqu'un qui a été très marqué par René Girard, donc philosophe français, littéraire, tout à fait remarquable en tant que tel, qui a enseigné à l'Université de St-Renfort, mais dans la théorie de René Girard, il n'y a pas seulement l'idée du bourchémissaire, mais il y a l'idée du désir mémétique. C'est-à-dire que nous, désirons tous la même chose, c'est-à-dire qu'on désire tous la même femme, les femmes désirent tous le même. Et donc, on est tous en conflit les uns avec les autres. Et il faut bien voir que c'est cette idée qui est derrière beaucoup de ces acteurs d'une méritre, en particulier, sur les réseaux sociaux. Il se dise qu'on va tous être en conflit, et on va essayer de jouer justement sur ce désir mémétique de tous. Et derrière, il y a une vision philosophique qui est, qu'on pourrait qu'à l'idée, de obsciences, d'un dire, la rivalité de l'homme avec l'homme. On dit ce que, sur la réalité, c'est très différent. Moi, ce que je crois, c'est qu'on a chacun des désirs différents, on a des perso-héritres. Ça, c'est valable pour les réseaux sociaux et la manière dont fonctionne la tech en général, mais par vis-à-vis de la réalité virtuelle en particulier ou de l'IA en particulier, est-ce que lorsque Mark Zuckerberg, le patron de Facebook, est devenu meta depuis a mis et investi des milliards et des milliards de dollars pour créer ce qu'il appelait son metaverse, avec l'espoir que l'humanité entière puisque plus ou moins c'était tous ces abonnés Facebook, une bonne partie de l'humanité, allait se retrouver dans un monde qui serait une copie du monde, ou en tout cas un miroir inversé du monde et que les gens-là pourraient s'épanouir d'une nouvelle forme consommée, d'une nouvelle manière, etc. Quel était l'idée là? Est-ce que c'est juste faire du profit? Est-ce que derrière il y a une vision idéologique partagée parmi ces grands gourous de la tech? J'ambrière Gannacia et Piloïcach? Oui, je crois que derrière il y a une vision des murshiques. Alors il faut tout d'abord assister sur le fait que cette idée de metaverse est très ancienne. Elle a d'abord été introduite dans l'histoire d'ailleurs l'idée que l'on vive dans un monde artificiel et encore plus vieille, mais dans la science fiction dans les années 60, en particulier avec un très beau roman de Daniel Gallou, simulacron 3, qui a été repris d'ailleurs par Facebook, qui en a fait un film, le monde sur le film très intéressant. Et puis ça a été repris par différentes personnes, il y a eu Snowcrash, un livre extrêmement connu de Daniel C. Vincent, je crois, je crois, je crois que je peux peut-être un tout petit peu son nom. Et puis au début des années 2000, il y a eu une réalisation de cela et peut-être que beaucoup d'auditeurs se souviennent de second life. Et puis ensuite ça a été oublié. C'était 2003, c'était 23 ans. Ça fait très longtemps et on utilisait ce qu'on appelle les réalités virtuelles. Les réalités virtuelles sont même un peu plus anciennes. Le concept a été introduit dans les années 80 par un technologue qui dit qu'on va pouvoir reprendre avec les technologies, les impressions sensibles que nous procure le monde extérieur. C'est le virtuel au sens où je les définis tout à l'heure. Et puis ça va être repris, on ne sait pas pourquoi, par Mark Zuckerberg. Ça a été précédé par différentes approches théories. Il y a en particulier quelqu'un qui s'appelle Gaelbert Nairge, je crois, qui en 90 a écrit un livre, justement "The Mirror World" pour reprendre ce que vous avez dit tout à l'heure, avec l'idée qu'on pourrait avoir une image du monde qui serait rassemblée dans un tout petit espace, il dit une boîte à chaussure et qu'on ensuite pourrait se déplacer à l'intérieur de ce monde. Donc si t'es l'idée de Zuckerberg et lui, bien sûr, il va au-delà, il dit, c'est moi qui vais le créer et c'est moi qui vais admister ce monde. Et c'est là où il y a une vision d'hémurgique absolument effrayante. - No, it's just. - Ouais, non, c'est vrai, je suis tout à fait aligné avec ce que vous dites. Ça avec Zuckerberg, pour le coup, il y avait eu un coup d'opportunité sur l'histoire du meta-verre parce qu'en fait, c'était un moment où le concept était vraiment monté, il s'est dit, là, il y a un coup à jouer, c'est le virage à prendre et pour le coup, il s'est complètement implondé. - Le virage était celui-don d'une humanité déconnectée du réel. - Ah, c'est proprement dit, littéralement. - Et complètement. Et parce qu'en fait, c'est vrai que quelque part cette silicone-valée ne produit pas que des outils, elle produit aussi des imaginaires civilisationnels depuis toujours. Et d'ailleurs, en fait, enfin, c'est vrai qu'on parle souvent là, silicone-valais comme d'un écosystème économique. Mais en fait, c'est aussi un endroit où on fabrique des récits métaphysiques, que ce soit pas l'autre en humanisme, l'immortalité numérique, l'idée de plauder des consciences sur des puces et puis l'intelligence artificielle générale ou la simulation. Finalement, ça inscrime un peu dans cette logique. Là où moi, c'est vrai qu'on parle de ce métavère. Il y a un autre sujet, un autre projet civilisationnel qui est porté par meuse, que notamment, qui, pour moi, est peut-être le plus dangereux, en tout cas le plus questionnable de tous, c'est celui qui a derrière Noraline qui l'a monté, en fait, une entreprise dont le principe consiste en fait à implanter des puces dans le cerveau du main. Aujourd'hui, en fait, donc, on est complètement dans l'imaginaire transhumaniste. Il y a un cheval de 3 qui est le médical, aujourd'hui, en fait, et comme souvent avec le transhumanisme, les personnes qu'on équipe de ces dispositifs invasives du coup. Aujourd'hui, il sert à ces gens-là à retrouver la vision, à retrouver la parole, à retrouver une mobilité parfois. Et donc, en fait, du coup, c'est vrai que ça contribue d'un basculement qui a assez, qu'on pourrait dire, qu'il a assez remarquable. Mais maintenant, la question, c'est Elon Musk qui fait ça. Donc, on se pose forcément la question de savoir qu'est-ce qu'il entend derrière, qu'est-ce que ça devient une société où tout à coup potentiellement, demain, on l'implante chez des gens qui sont bien portants. Est-ce qu'on va créer des mondes où on ne va plus avoir les mêmes capacités cognitifs, selon qu'on soit équipé ou pas? Est-ce que, en fait, tout à coup, on va avoir une intelligence artificielle embarquée? Et là, c'est là où, pour le coup, cette imaginaire civilisationnelle peut, à mon sens, nous embarquer sur des dérives, en fait. Et, et prends un tournant réactionnaire parmi ces penseurs de la tech ingénieur. Il y en a un qui est trahacité, ses corticiarbines qui a eu la bonne idée d'inventer l'oxymor de lumière sombre, peu parler de son mouvement d'idée, quoi qu'on puisse en penser. Et je vous demande pas de commander ici, mais parmi les idées qu'il développe régulièrement, il imagine une s'espèce d'aristocratie du cuis de l'intelligence qu'on a appelée ces arrises technologiques dans lequel, finalement, les personnes utiles, bien, produirait, travaillerait, et puis, on pourrait brancher les inutiles dans des grandes salles, dans des sous-sols, avec des casques de réalité virtuel sur la tête pour qu'ils effectuent des tâches simples ou qu'ils puissent eux-mêmes entraîner des intelligences artificielles. Est-ce que, c'est de la pure provoque réactionnaire, Jean-Brière Ganassia, ou est-ce que, vraiment, ils y croient, est-ce que, vraiment, c'est un monde désirable dans la bouche de ces ingénieurs, c'est une heure sombre de l'attaque américaine? - Résulté. - Grande question, qui est mairie très discuter à titre personnel, je pense qu'il ne croit pas toujours à ce qu'ils racontent, mais peut-être qu'ils se convainquent de ce qu'ils racontent. Mais ce que j'aimerais discuter aujourd'hui, c'est son, les différentes perspectives qui nous sont ouvertes, parce qu'on ne parle de la simulation, et si on regarde derrière, ça évoque un monde plutôt asiatique, et il est pensé d'extrême oriente avec cette idée de réincarnation à monde dans un monde, avec une espèce de monde supreme. Mais, à l'opposer, vous avez une vision complètement différente, qui serait un peu si on reprend des spiritualités traditionnelles plus proches de la gnause, c'est-à-dire cette idée que le monde est mal fait et qu'on va essayer de le réparer. Il a été fabriqué par un démure, et il y a plein d'héreurs. La connaissance, pour ça que ça s'appelle des gnaus, va aider à le transformer. Et c'est, bien sûr, ce que nous expliques des penseurs, des penseurs, des hommes d'affaires comme Elon Musk, qui nous dit, "ça va pas très bien, on va changer, on va vous rendre ternel mangeonne, on va corriger toutes les erreurs que vous faites." Et je crois qu'il y a une tension. Là, je le dessine avec deux façons de voir, mais tout ça pour expliquer, je crois que c'est vraiment important, qu'il y a dans la silicone valée tout un tas du topi de penser un peu étrange, mais elle ne serait du jamais à une seule. Et c'est vraiment extrêmement important, je sais pas si Loïc et d'accord avec moi là-dessus, mais parce que lui il a fait une enquête, mais c'est l'impression que j'ai eu en lisant son livre, c'est que effectivement, il y a toutes ces différentes vues, de panoplie extrêmement large, et puis s'occapable de passer de l'une à l'autre. D'ailleurs, ça ne les dérange pas du tout parce qu'il prenne ce qui est le plus à la mode. C'est amusant parce que le métavère, tout le monde, trouvé que c'était formidable et puis tout d'un coup, on a oublié le métavère. Et maintenant, on dit, il va y avoir une super intelligence qui va être bien meilleure que nous, et ça va nous transformer. Et bien, justement, je propose d'écouter la voix du philosophe suédois de l'université de Doxford, Nick Postrom. "Si nous développeur, réellement, une IA générale, je pense que la première conséquence serait le développement rapide d'une super intelligence. Je ne crois pas que nous attendrions à niveau d'y-a pleinement ou main, pour ensuite nous arrêter là, n'est-ce pas? Nous aurions alors un monde où nous serions capables de concevoir des esprits, et où tout le travail humain est pas seulement le travail physique que nous avons commencé à mécaniser lors de la révolution industrielle, serait automatiser. Nous aurions des esprits artificiels capables de surpasser n'importe quel génie, scientifique ou artiste humain. Ce serait alors la dernière invention dont nous aurions besoin. Des l'or, les inventions futures seraient bien meilleures et plus rapides à réaliser, grâce à ces esprits artificiels." C'est très intéressant, ici, Nick Postrom, parce qu'il décide finalement la possibilité de la fin de la technique, c'est-à-dire l'invention ultima partir de laquelle l'humanité pourrait cesser d'être de faire ce qu'il a constitu, puisque nous sommes, en tout cas, le récit que l'on fait régulièrement l'humanité, l'homme est avant tout, l'humain est avant tout un animal de l'outil de la technique, Jean-Bri Gavry-Anneganancien. Il aurait édormé un dire sur Nick Postrom qui est originellement d'ailleurs un physicien qui a prétendu être un philosophe. Il a une théorie, il a été beaucoup financée d'ailleurs par Elon Musk. Et il a repris le concept de superintelligence, qui ne vient pas de lui qui a été introduit par un mathématicien Irvin John Goode dans les années 50. Mais Vris, ce qu'il a dit qui est très intéressant, on va avoir des esprits qu'on va fabriquer. Et bien sûr, il joue sur l'ambiguité du terme intelligence. Je crois qu'il faut rappeler pour les auditeurs que l'intelligence de l'intelligence artificielle s'en est pas un esprit. Le terme est terminamment policémique, ce n'est pas non plus l'ingéniosité. Ce qu'on appelle intelligence dans la locution intelligence artificielle, c'est une exception qui vient de la psychologie à la fin du 19e siècle. Ce sont l'ensemble des facultés mentales. L'intelligence artificielle au départ, c'est une discipline scientifique qui essaye de m'immé ses facultés mentales, c'est ce qu'on est arrivé à faire. Ensuite, d'utiliser ces modélisations dans ces simulations d'intelligence, dans des technologies. Mais bien sûr, on ne fabrique pas de machines qui sont animées d'un esprit. Donc, je joue sur cet ambiguité et on a parlé tout à l'heure de l'apprentissorcié. Il y a une expérience de pensée qui le cite extrêmement souvent, qui est une réplique de l'apprentissorcié. Vous savez, c'est une faible qui a été introduite par Gote, un apprenti qui est chez un sorcier qui utilise la formule qui avait donné le sorcier pour animer des ballets et qui n'arrive plus à arrêter ces ballets. Et les utilisent pour remplir un bacquet d'eau, puis une espèce d'inondation. Il nous raconte exactement la même faible, Nick Boucherom. Et il nous dit bien sûr qu'on ne va pas être capable d'arrêter ces machines que d'étendants. Ce que dit Nick Boucherom est également Loïc H. Et je voudrais vous faire réagir là-dessus. C'est que une super intelligence serait l'invention ultime à partir de laquelle l'humanité serait totalement dépassée. Et ce que ce n'est pas ça au fond le risque civilisinal, c'est faire de l'IA à un intermédiaire exclusif de notre monde et de nous rendre cognitivement absolument dépendant de l'intelligence artificielle. En tout cas, Boucherom, ce qu'il faut savoir, c'est que pour le coup, là, on a un idéologue de la Silicon Valley. On définitive, les acteurs de la Silicon Valley, c'est des entrepreneurs plus que dépenseurs. Mais ils ont effectivement des idéologues qui viennent les nourrir et bostrons, c'est l'un de. Et un de ces sujets-fares, c'est justement la simulation. En fait, quelque part, il y a trois acteurs majeurs qui ont porté la simulation dans l'espace public. Après, bien évidemment. Peut-être qu'il faut préciser ce qui a derrière justement un soumoulière. C'est-à-dire que nous serions en réalité nous-mêmes l'objet de cette super intelligence ou d'une forme de super intelligence, c'est que nous vivrions dans une simulation du réel. Nous serions nous-mêmes les objets d'une représentation du réel. Voilà. En tout cas, à un minimal, le réel ne serait pas en dernier lieu ce qu'on croit qu'il est, ce que l'on croit vivre. Et donc, Boucherom, avec les serveurs à Chovsky et Lonne-Mos, ce que sont les trois acteurs qu'on vraiment portait ce sujet. Et en fait, Boucherom a écrit un papier au début des années 2000, en cas des publiens 2003 où, en fait, ils proposent un argument philosophique en disant qu'en définitive, selon lui, il y a plus de chances que l'inverse qu'on vive dans une simulation. Il y a un biais, je dirais, idéologique derrière ce qui nous oblige à aborder le sujet de la conscience. En fait, Boucherom fait partie d'une casse, que c'est d'ominant dans le monde dans lequel on vit, qui consigne derrière que la conscience en dernier lieu, c'est de la matière. En tout cas, que la conscience en dernier lieu, quand bien même on ne la comprend pas très bien aujourd'hui, on pourrait la reproduire à terme. Et en fait, son idée est de dire que si on arrive à un moment de l'histoire où on est capable de reproduire de la conscience, on pourra l'implémenter dans ce qu'on veut. Si on peut l'implémenter dans ce qu'on veut, on va pouvoir commencer à créer des simulations où les êtres qui évoluent dans ces simulations auront l'impression d'être conscient, alors que ce n'est pas le cas. Et donc, en fait, du coup, dans son idée, il exclut pas du tout la possibilité qu'on vive déjà à l'intérieur d'une super intelligente artificielle qui jurent quelque part tous les rôles et qui, finalement, nous donnerait l'impression d'être réel alors que ce n'est pas le cas. Et là, on boucle un peu sur ce qu'on disait plutôt, mais cette approche de la conscience, elle rentre directement en confrontation avec une deuxième qui considère que la conscience ne serait pas juste le produit de la matière, mais serait l'éléments le plus fondamental de la réalité. Ça nous donne un deuxième type de simulation, qui était ce que racontait finalement platon avec son allegorie de la caverne, ce qui le bouddha nous raconte quand il nous dit qu'en fait la réalité, c'est une illusion, mais qu'il existe une réalité plus absolue en dernier lieu. Qui pourrait être plus proche peut-être d'une dernière année, c'est le fameux pilule bleu, pilule rouge présenté par le film Matrix dans lequel prendre la pilule bleu, c'est accepter l'illusion de la société des hommes et de la démocratie, prendre la pilule rouge et d'une certaine manière, accepter de découvrir ce qu'il y a derrière le par-avant de l'illusion. Exactement. Et en fait, d'ailleurs, l'histoire de mon enquête qui se livraient vraiment comme un roman, c'est bon, on est beaucoup plus en fait dans le registre du roman d'aventure que de laisser, même si j'ai essayé d'être aussi rigoureux que possible. Et en fait, c'est un peu l'idée d'un personnage principal qui est moi-même, qui se retrouve à s'intéresser à ce sujet de la simulation et qu'à val cette pilule rouge un petit peu malgré lui, et qui se rend compte en fait que là, on raconte plein d'histoire qui sont formidables, mais moi je suis très heureux d'être sur ce plateau, la de France culture, ce soir. Mais en fait, il y a beaucoup de choses de la réalité qu'on ne comprend pas, on ne comprend pas la conscience, la physique quantique en fait à ouvert tout un tas de possibilités sur la manière dont fonctionne le réel, mais ça pose presque plus de questions que ça n'apporte de réponse. Et l'heure ce qui est assez intéressant, c'est que les plus grands physiciens comme Max Planck, le AirVine Shrodinger ou David Borg ont fini justement par se tourner vers ses cosmogonyres orientales comme l'advail d'Availanta pour essayer de trouver des réponses au fait que la réalité en dernier lieu était assez intimidante. Je suis obligé de vous poser la question que vous avez posé tout au long de vos huit années d'enquête loïc est, pensez-vous que nous vivions dans une simulation informatique? Et bien en tout cas, je ne peux pas dire que ce n'est pas le cas. Que j'en brilais galacia, je vous pose la même question. Moi, je ne pense pas qu'on refuse dans une simulation informatique. Alors, je ne suis pas capable de le démontrer. Il me semble important quand même de bien comprendre qu'il y a, d'abord, la notion d'intelligence beaucoup d'ambituités, parce qu'on laisse entendre chez quelqu'un comme dit Boshrom, la super intelligence que c'est une matière qui s'accumule. C'est unis dimensionnel. Or ce que montre les sciences cognitives, c'est que nous sommes tous différents et nous avons des activités. On le visualise aujourd'hui avec les techniques d'image réfonctionnelle, c'est rébral, qui sont différentes selon les intelligents, selon les individus, selon les cultures, selon nos génétiques, etc. Ce qui fait la richesse de l'humanité, on est tous différents. Et puis, deuxième chose, c'est cette idée qu'on va pouvoir reproduire une conscience, puisque c'est sa qui est derrière, avec des moyens qui sont différents. Alors, ce que je crois, c'est que justement, si on changait de corps, on n'aurait pas la même conscience. C'est-à-dire croire que de façon simplement informatique par des flux d'information, on va reproduire exactement la même chose que ce que nous sommes. Ça me semble une illusion. Alors, c'est une illusion que je trouve passionnante du point de vue littéraire, dit quoi. Voilà, c'est ça. Et donc, ça va donner naissance à beaucoup de films, de romans. J'ai même moi-même commis sous un nom d'empring, un gavriel naège, ce matin, à l'été les chargés. Voilà, c'est ça. Oui, c'est. Mais, sur tout cela, relève de l'imaginaire. Sinon, je n'y crois absolument pas. Alors, pour conclure, cette émission, je voudrais qu'on revienne sur la terre réelle de celle, la silicone valée et de la tech, vous avez tous les deux exprimés des inquiétudes sur librédations, par exemple, que proposait Elon Musk entre l'humain et LIA, à travers son entreprise, depuis ce vaut sur les dérives que vous pouvez provoquer, les dipfaits et les fake news. Il y a certains dirigeants de la tech, comme Salatemain, ou Daria Modéic, qui tentent de rédiger des constitutions pour moraliser leur ia. Est-ce que vous croyez assez garde-faut autonome? Est-ce que c'est aux États de s'emparer de ces sujets-là pour créer une sorte de souveraineté politique de l'intelligence artificielle? Très rapidement, Louis H. et Puygion, Gabriel Gannassia? Je pense qu'en tout cas, on ne peut pas déléguer à Sam Altman ou à Daria, à Mont-Eleï, le fait de décrire des manifestes ou des mémoindomes sur ça et que effectivement, à minima des États et des juristes, doivent être impliqués dans ces questions-là. Si vous le savez, c'est imposer une censure liée à Constitutionnel, elle serait faire un certain nombre de valeurs et on veut cette idée d'alligner les machines sur ces valeurs. D'abord, l'alignement des machines, l'alignement des esprits, je ne suis pas d'accord parce que je pense qu'il faut qu'on conserve notre liberté d'expression et puis surtout pas déléguer à ces grands représentants de la tech, le pouvoir de nous imposer ce qu'ils appellent leur valeur qui seront certainement traits différentes selon les pays, selon les individus. Né notre rapport, au réel, au virtuel. Merci beaucoup à vous de ces lafins de ce débat. Merci, Loïc, je rappelle. Votre deux ouvrage, Palo Alto, par eu en 21 et cette très bonne, très minu-cieuse en quête la simulation qui vient tout juste de paraître aux éditions les Israines et quand à vous, Jean-Bri, Gabriel, Canacia, je me permette de citer, LIA, expliquer aux humains aux éditions du seuil en 2024 et j'ai oublié l'autre titre de votre voix. Servis-tu d'y dire tu as éloigné? Je suis Géline Pogg, du "vous vous merci également à l'équipe de questions du soir." Dianne devant sa la programmation, la préparation, ma tiasse, mes évictoria, Gérovelmo, Antoine et Rale et Joseph, je les gueule.