IA : Avons-nous perdu le contrôle ?

[Musique] Bonjour, je suis Karim Rissouli et vous écoutez c'est ce soir un podcast de France télévision. Bonne écoute. [Musique] Bonsoir à toutes et à tous, soyez les bienvenus sur le plateau de c'est ce soir. [Musique] L'intelligence artificielle ne doit être un danger pour personne. Nous devons protéger les gens des risques d'exploitation, de manipulation et d'abuse. L'avenir de Lyon ne peut pas être décidé par une poignée de pays, ou laisser au caprice de quelques milliards d'haires. Un signal d'alarme tiré devant les principaux acteurs du secteur est dans un contexte, tout de plus en plus de voix s'élève pour exprimer une même inquiétude de la peur de perdre le contrôle de l'intelligence artificielle. La peur de voir l'humanité se faire dépasser par une super intelligence qui serait pour citer Darius Amodès, une des principales figures de Lyon. L'équivalent cognitif de 50 millions de personnes, tout de plus compétente, que n'importe quel prix Nobel. La créature est-elle en train d'échapper à ces maîtres, sommes nous effectivement sur le point de perdre le contrôle de l'intelligence artificielle ou est-ce une vision trop alarmiste de la situation? Il y a encore un moyen de concilier, développement de Lyon et protection de nos sociétés. C'est ce soir, c'est parti. Jeudi 19 février de 1926, c'est ce soir pour des bates de l'une des questions, peut-être les plus vertigineuses du moment. Les missions spéciales en marge du Paris, sa clésemite, dont France, télévision, et partenaire avec les bedomadaires le point. Je commence d'ailleurs les présentations avec vous qui y hommes gralés bonsoir. Journaliste redacteur en chef, sciences et tech au point et hauteur de ce livre passionnant que j'ai ici, l'oreille du prix du livre économique de 2025, Pionnier sous titrer, voyage au frontière de l'intelligence artificielle. C'est le fruit du enquête de plusieurs années à travers le monde pour aller à rencontre des seniors ou des sortiers de la tech. Comment les surnommes parfois? Vous les avez presque tous vu de Samaltman, le père de ChaddpT, à Marc-Douc-Rbierg, notamment le patron de méta. Avec une obsession, il va en parler, mieux connaître ces hommes qui ont dit de vous plus de pouvoir sur nos vies que nos hommes politiques, pour mieux savoir aussi où ces hommes et ces femmes parfois veulent nous emmener. Autre invité qui est lui aussi, elle est à rencontre de ce monde. Donc on va débattre ce soir. C'est vous à l'un d'amasie au bonsoir, bienvenue. Écrivain à nos grands auteurs de science-fiction, même si aujourd'hui la réalité a peut-être fini par attraper l'anticipation. Votre Daniel Yelif, qui s'appelle la Valée du Silicium. Tu me plongeais au coeur de la Silicon Valley, en Californie, le Berço, de l'intelligence artificielle. Et ce qui est passionnant, c'est que vous étalez pour mettre à l'épreuve votre pensée à vous, le technocrétique qui n'a toujours pas de téléphone portale. Oui, on est d'accord. Alors comment ne pas se faire dévorer par Lia? Comment cohabiter, d'ailleurs, avec Lia, on voulait aussi endébattre avec vous ce soir. Egalement avec nous pour cette réflexion, Anne-Dalombére, bonsoir, bienvenue. Philosoph, maîtresse de conférence en philosophie contemporaine à l'université par 8. Autrice de ce livre qui parle pour lui, de la bêtise artificielle, publiée il y a quelques mois. Et quand on se demande si nous ne sommes pas en train de perdre le contrôle face à Lia, vous dites en substance, c'est déjà le cas. On a déjà en partie par du contrôle. Vous parlez de une proletarisation généralisée, qui risque aussi d'y devu d'avoir de graves conséquences démocratiques et on va en parler ce soir. Ce risque existentiel pour l'humanité face à la toute puissance de Lia. On va aussi endébattre avec vous, au Félico et Lio, bonsoir. Bienvenue. Je suis un social iris, spécialiste de la géopolitique du numérique, Autrice de ce livre, géopolitique du numérique, l'imperialisme à Pat géant. Alors face à cet imperialisme dont vous parlez, sommes-nous en train d'assister à une crise de conscience mondiale ou pas. On a, en tout cas entendu, ces allerts, venus à la fois de certains pionniers de Lia, mais aussi de politiques qui sont, d'ailleurs, réunies, j'ai eu les encements-mêmes en Inde. Pour un sommet mondial et puis pour ce débat, nous accueillons enfin, Gilles Babine, bonsoir, bienvenue. Alors, entrepreneur dans le numérique, président notamment de Café Ia qui a permission de conseiller les entreprises. Ça, saus-enjeu de Lia, vous avez écrit de très nombreux livres sur le sujet, dont le prochain qui sortira dans quelques semaines et qui se ratitrait, je crois, le péril Ia, avec cette question, devenir des machines ou s'émancipé. Très bonne question, on va reprendre ce soir, comment s'émancipé sans tourner le doigt Lia, ce que je crois, vous ne souhaitez pas, je crois. Oui. Gilles Babine, on va essayer de répondre ensemble à cette question ce soir. Merci beaucoup d'être là pour cette discussion. On a déjà consacré parfois avec certains d'entre vous plusieurs émissions à l'intelligence artificielle, mais peut-être jamais dans un contexte comme celui-ci. On entend de plus en plus de voix, dire, "oh et fort, je disais leur inquiétude" ou dire carrément stop, il faut faire une pause avant qu'il ne soit trop tard. Et je vais commencer en citant un homme alors que vous connaissez toutes et tous, peut-être pas ceux qui nous regardent. Donc, Daru a modé, qui a la tête d'entropique pour faire simple. C'est un des principaux concurrents de chat GPT. Et voilà ce qui a dit il y a quelques semaines dans un essai qui est titré "L'adolescence de la technologie" il écrit. La question n'est pas de savoir si la technologie deviendra adulte, mais si nous survivrons à son adolescence à l'un d'amazieaux. Quand un des boss, un des pionniers de LIA dit ça, d'abord est-ce que vous le prenez au sérieux? Mais je le prends absolument au sérieux et je suis très heureux qui soit parmi tous ces PDG de LIA, le seul qui est une dimension. Je trouve un peu philosophique et éthique dans son travail. Moi, je trouve ça métaphore de l'adolescence absolument juste. C'est-à-dire qu'on arrive avec une technologie d'apprentissorcier que les gens ne comprennent pas, mais je parle de ceux qui le font. Ce qui le font, ce n'est pas capable de comprendre la brète noire à partir desquels les réponses sont données. Et à modé "id" ou voilà, on est à un moment complètement caoutique de transition. On va peut-être y survivre, on va peut-être pas y survivre, mais les menaces existentielles que Port LIA sont colossales. Et là, on a des réutifs cincs qui sont très fortes. On peut les citer, les 5, je sais pas si vous les aventez, mais il y a l'utilisation abusive des IA par les terroristes, des autocrates ou des entreprises malveillantes, notamment le chômage de masse. Bien sûr, la concentration radicale des richesses, la manipulation des opinions et la dépendance psychologique. Oui, et toutes ces menaces sont franchement crédibles et en train d'arriver. Donc je trouve ça très fort et très chouette qu'il est et qu'il est réussi à sortir ça. Mais on a aussi le livre de Yudovsky qui était incroyable sur si quelqu'un le construit tout le monde meurt, qui est un livre extrêmement inquiétant sur un spécialiste de LIA et de la ligne de Mandeziah, qui dit "la superintelligence a des grandes chances de d'emerger et on est pas prêt, elle ira beaucoup plus vite que notre capacité de réaction et il fait un livre qui est assez post-apos, on va dire assez inquiétant". Et puis tout récemment, si Matchumeur, qui lui a pratiquement l'IA et qui dit "la il y a quelque chose d'énembre qui est en train d'arriver, on n'est pas conscient de ce qui se produit". Donc moi je suis très content qu'il y ait des émissions qui portent là-dessus et qui peut-être vont conscientiser le public sur ce qui est en train de se passer. Est-ce qu'on peut dire qu'il y a une sorte de réveille, de prise de conscience, des dangers de l'IA, je fais la question à tout le monde, j'y le benbinais, est-ce qu'on est un moment charnière? Oui, alors dans les menaces, il y a des menaces qui viennent de la technologie, puis il y a un à d'autres qui viennent l'absence de gouvernance de la technologie. Le chômage de masse, c'est vraiment un enjeu économique, c'est un enjeu d'antitreuse, c'est assuré que les bénéfices de la technologie vont aux utilisateurs et pas à croître la richesse de certaines personnes. Donc ça, c'est vraiment un enjeu de régulation, il y a peu de multilatéralisme actuellement, c'est-à-dire de décision collective, du fait notamment des états-junis qui sont dans une guerre d'empire avec la Chine, ce qui accroît le niveau de risque, et puis il y a les menaces qui sont strictement technologiques, c'est-à-dire la machine qui s'émancipue, et qui se met à prendre des décisions qui sont contraires aux intérêts humains. Ça ne veut pas forcément de. Mais pardon, je vais par le cas tu passes, on a peut-être un animal à comment, ce que ça veut dire, la machine qui s'émancipue. Non mais ça peut être un biais de programmation, par exemple, on a fait des simulations où on disait à unia, et c'est-à-dire qu'il faut battre les nmies, donc t'as tous les moyens pour piloter des drones, etc. Et puis à un moment on a dit bon boit que on va arrêter ce scénario, et on a envoyé l'ordre à la machine, d'arrêter le scénario, tout ça en simulation-là. Et la machine a considéré que l'ordre était un ordre ennemi et c'est retourné contre les mèterres de l'ordre. Donc ça c'est et elle s'est mis à le détruire, à tirer sur la tour, ce qui a envoyé les ordres, etc. Donc on est content que ça soit en simulation. Oui c'est en simulation, on a de très nombreux scénarios de ce type-là et qui ne nécessite pas forcément d'avoir ce qu'on appelle une intelligence artificielle générale. Et je dirais même que la technologie la plus en vue actuellement qui est technologique de transformer, c'est à l'heure celle que vous utilisez tous avec ChatGPT et Concord, c'est une technologie qui est structuruellement amenée à avoir des biens un peu comme si vous aviez quelqu'un effectivement de très intelligent, mais qui a des neuros atypies, des faibles espsicologiques et qui tout à coup peut devenir un peu dingue. Ce qui est une limite assez importante, je pense une limite aussi du discours de Daria Modaille, parce que c'est l'un des apôtres qui preche le plus pour cette technologie. Donc il y a la fois qu'il prêche pour cette technologie et en même temps il nous dit attention, c'est dangereux dans l'hombert. Oui, c'est une position un petit peu ambivalente, en fait on avait un petit peu déjà l'habitude de cette position à l'époque des algorithmes de recommandation, des réseaux sociaux commerciaux, vous savez où ceux qui produisent cette technologie et qui en profitent, en même temps, avertis sur les dangers, refusent que leurs enfants les utilisent, etc. Là d'une certaine manière, il est, bon peut-être que ce discours a toute sorte d'intérêt, mais il est néanmoins dans une position un petit peu ambiguë et notamment quand il averti par exemple sur les psychoses de Lyad, donc sur la dépendance émotionnelle que ces dispositifs peuvent créer, etc. Oui mais dans ce cas-là, on pourrait se demander quels dispositifs sont-ils? entrepiques ou d'autres grandes entreprises privées de ce type, pour éviter ces dépendances émotionnelles qui ne viennent pas de lia en tant qu'utelle, qui viennent de certains types de design, par exemple, le fait que la machine par la première personne du sangulier, etc. Et je pense qu'il y a aussi une question de devenir industrielle, c'est-à-dire que si cette soi-disant super intelligence générale est si dangereuse, pourquoi est-ce que toutes les entreprises vont dans cette direction? Pourquoi est-ce qu'elles ne saient pas par exemple de développer des petits modèles plus spécialisés, plus spécifiques, etc., etc. Pourquoi pas prendre ce discours au sérieux, mais dans ce cas-là, qu'est-ce que ces entreprises proposent pour palier assez risques? On va aussi en débattre des solutions, mais sur ce premier trois etap, sur la question de ce que dit d'Ariomédaï, mais ce n'est pas le seul à le dire. On peut citer, par exemple, Yoshua Benjou, qui aussi considère comme un des perfondateurs de liaques, un très grand chercheur en IAC, qui a peut-être moins d'intérêt financiers que Dario Amédaï, avec une super intelligence artificielle, notre survie comme espèce humaine est en danger. Lui, il ne joue pas avec son argent. Donc, si le dit, c'est qu'il l'allère de manière assez responsable, peut-être. Je pense qu'il faut faire attention tout de même avec tout ça. Je pense qu'il y a un intérêt à cultiver cette fascination pour lia, pour plusieurs raisons, certes, il y a un peu d'équation économique, même si ce n'est pas une boîte derrière, c'est un savoir faire, de faire monter son s'ad disciplines sur le devant de la scène. Il y a aussi autre chose que je trouve assez fascinant, en même temps, dans ces discours-là, c'est qu'on gomme la responsabilité humaine. Alors que finalement, l'important, c'est pas lia, elle va pas se lever toute seule, et faire des choses formidable. Mais là, on a des dames de l'unia qui refuse de répondre à l'ordre. Oui, mais à la base, on la mise dans la condition potentielle de prendre des décisions toute seule à partir de certains critères. Donc, définis dans un cadre, en fait, qui a été créé par l'homme. Donc, ce qu'il faut, dans les 5, dans les 5 crises qui sont détaillées par un ordain, dans les 5 menaces, toutes ces menaces, en fait, viennent plutôt d'un choix, d'un choix économique, d'un choix qui va être humain, social, etc. Et je trouve que du coup, mettre ça sur le dolias, c'est quelque part un petit peu. Des responsabilisés, des responsabilisés, et mettre le focus sur autre chose, de se dire, finalement, c'est à cause de lia, et il faut avoir peur de lia. Donc, ça joue à la fois le côté sur la fascination qui fait vendre lia, de manière paradoxale, parce qu'on est fasciné, on s'y intéresse, on en parle beaucoup. C'est dangereux, c'est plus sang. Voilà, finalement, la chète, et on teste, et on joue avec. Et de l'autre côté, on ne voit pas où se trouve le réel problème là-dedans. -Matera, regarde, Guyom Gralelle à tuy. -Non, en fait, ce qui me fascine, en réalité, c'est que l'on a vu depuis les débuts de l'intelligence artificielle, depuis l'apparition de l'expression dans les années 50, des périodes de stop-pain de ghost, des accélérations, et ensuite, des rallentissements, j'ai bien vu tout à l'heure parler du papier transformer, donc de 2017, qui a permis aux modèles de langues, en fait, de prospérer et de donner naissance à chatty. -Cat JPT, perc, le city, Claude, le chat, par exemple. Mais en fait, on n'a encore rien vu, c'est-à-dire que la bataille d'après, celle que prépare, entre autres, par exemple, Faye Faye Lee à Stantford, ou encore Yann Lokein qui revient en France, c'est celle de doter ces machines d'une représentation du monde, c'est-à-dire qu'aujourd'hui, les modèles de langues peuvent, effectivement, nous tromper, parce qu'ils s'approprient quelque chose qui est extrêmement humain notre langage au point de nous tromper, de faire nettre énormément de crainte sur la démocratie. Demain, si les rêves de ces chercheurs s'accomplissent, vous aurez des intelligents artificiels capables de comprendre la gravité, la douleur, le chaud, le froid, et surtout d'avoir, peut-être, un jour, une intention, et ce qui me fascine en réalité, c'est le manque, peut-être, de réplexion autour des humains qui créent ces machines qui ont, effectivement, plus de pouvoir que des chefs d'étapes, bien souvent qu'on a élie, on ne les apparaît plus. Alors, Daria Moda, j'ai pu le croiser à son Francisco, c'est l'un des pueniers vous avez vu, c'est l'un des. - Oui, oui, oui. - D'ailleurs, c'est un physicien en général, c'est plutôt bon signe, c'est son des gens qui réfléchissent de manière très intéressante. Il avait l'air réellement préoccupé, parce que je me demandais, est-ce que c'est juste un pompier pirehoman? Est-ce que c'est quelqu'un qui est. Mais à chaque fois, je pense que ces personnalités, il faut leur poser des questions, certaines sont très brillantes, mais moi, je le reposais trois questions, c'est comment de quel monde vous rêvez vous me projeter dans 10 ans, quels sont les personnalités du passé ou du présent avec lesquelles vous aimeriez, passer du temps pour des jeunes et d'inéboires des verres refaire le monde, et surtout qu'est l'éducation faute-il lorsqu'on a 50, 20, 70 ans, ou pour nos enfants dans le monde qui vous préparait, et je pense qu'effectivement, ces sont les humains, un peu ces architectes, on les apport encore assez challenge, c'est souvent des boîtes noires, c'est ça qui m'a quitté. Il n'y a pas de choses dans ce que vous dites, la question de mieux connaître ceux qui fabriquent ces machines, qui nous font si peur, quand ils sont sur lesquelles on fantasme selon ce qu'on en pense, puisqu'ils vous avez dit, on n'a encore rien vu, c'est-à-dire ce que j'entends et je suis un éhoffite, et merci d'être là tous les cinq ce soir. C'est qu'un jour, les y a pourront avoir une orientation du monde, pour avoir des émotions. C'est ça l'idée? Peut-être, en tout cas, elles auront, elles pourront ressentir, peut-être, en tout cas, dans certains papiers de recherche, la douleur, et moi, ce qui m'a un petit peu. Vous parlez du pari-sac-le-sommage, j'ai eu une tabueuse Téphane Malac, qui n'est peut-être pas assez connu, mais qui a été un grand matematique, un médaïdor du CNRS, et en fait, il m'a expliqué, il y a de le cas, par exemple, que les modèles de langue actuelle sont plus bêtes qu'un chat de goûtière, plus bêtes qu'un enfrente quatron, parce qu'ils n'ont pas cette représentation du monde, mais lui, il disait, aujourd'hui déjà, on voit des modèles d'intelligence artificielle et qu'ils ont été des modèles de nos aider à résoudre ou de résoudre quasiment toute seule, des problèmes mathématiques complexes. Donc, on peut être surpris par ces créatures, et c'est important de savoir vers où ils veulent nous emmener ces architectes. -Alain d'Amazou, et je précie juste que, il y a de le cas, c'est un français, on vous dit, mais qu'il y a un ancien de chez Métat. -Exactement, il a quitté l'intelligence artificielle en méta pour l'encer. -On lui a eu un major né en France aussi. -Oui, ce qui est intéressant, c'est toujours cette question de la tensionnalité. Moi, je pense qu'il faut pas se grer là-dessus, c'est des machines extraordinaires pour simuler l'empathie, pour simuler des émotions, pour simuler les sentiments, pour simuler la pensée. C'est des machines extraordinaires pour s'ingérer ça, et ils sont construits autour de ça. D'ailleurs, il y a vraiment une société cimentique totale, c'est-à-dire que la machine ne sait pas ce qu'elle fait, mais ce qu'elle produit pour nous, un sens et un sens extraordérement puissant. Moi, je commence à l'utiliser pour la création. Je suis si dérayé de voir la capacité de création sur des univers imaginaires, sur des choses qui relèvent vraiment d'un travail de science fiction et de fantasie. - Qu'est-ce que même vous, vous commencez à tester la machine? - Oui, je commence à tester, je suis sur Claude, et je commence à essayer de voir jusqu'au l'alcool, la capacité qu'elle a effectivement proposé des idées et de la création d'univer, je fais beaucoup de création d'univer, sur l'ovive, les rivières, et c'est un cosmogony de l'eau qui est en train de faire son enquête réellementement. - Et alors, entre lias et vous, c'est quoi la différence? - La question, elle devient de plus en plus vertiginose. C'est-à-dire qu'on est en train de travailler avec un philosophe que connaissait peut-être l'hypothèse Maurice-Osu sur l'intention artificielle. Lui vient des philosophies du vivant, en moi, je viens de la science fiction, et lui, dans son travail de philosophes, il dit, "On est en train sur mon artisan à propre qui est de créer des concepts, je me rends compte que lias est quasiment au même niveau que je suis." Et moi, sur mon artisan à propre, qui est celui de créer des univers imaginaires, des personnages, des trames narratives, et des vraies coeurs concepts, je vois la chose arrivée quasiment au même niveau que mon artisan a. Je sais que ça va continuer à progresser. Donc, on est face à une espèce de. Pour moi, d'un narcissique très forte, le quatrième blessure de l'arcissique, on les connaît après Copernic, après la descense de la conscience, après Darwin, la quatrième, c'est qu'on a une forme d'intelligence qui est artificielle, qui est simulée, mais qui produit des textes et qui produit des idées, qui sont au même niveau que les meilleurs experts de l'ordre humain et qui très bientôt sans doute les dépassons. Quand j'écris, je travaille, et je vois ça, je suis là entre repulser ce qu'elle me propose et essayer de rentrer dans une espèce de Christ Dégo ou d'Orgueil, ou de me dire, "Bah non, c'est un nouvel outil qui va encore déployer mon artisan à d'une façon encore plus fine, peut-être, mais il y a vraiment là, en tout cas, moi, je sais, j'ai arrêté de dire, "Non, mais c'est bon, c'est. C'est pas suffisamment puissant, etc. C'est pas vrai, c'est arrivé à un niveau incroyable". On est loin de la bétise artificielle. -C'est la question plus hausse. -Si je peux me permettre d'émencer un tout petit peu ce propos, en fait, le point si vous voulez, c'est que il s'agit pas de comparer l'humain et la machine. Il faut absolument sortir de ce logiciel de penser entre guillemets, si je peux me permettre cette mauvaise expression. Mais si vous voulez, la technologie nous a toujours dépassé dans une certaine mesure. Sans quoi, on ne l'utiliserait pas. Par exemple, vous n'allez pas utiliser une voiture qui ralenti votre rythme de déplacement. En fait, ce serait complètement inutile. Donc si vous voulez, la technologie nous dépasses dans une certaine mesure, il faut comprendre sur quoi. Là, on parle de machines à calculer. Évidemment, elle calcule beaucoup plus vite que nous. Et en l'occurrence, qu'est-ce qu'elle calcule, elle calcule des probabilités et des séquences de signe probable. Et ensuite, elle génère automatiquement des séquences de signe probable. Mais ce n'est pas du tout ce que nous faisons nous, quand nous pensons, quand nous écrivons, etc. Je pense qu'à l'un d'amazieux, quand vous écrivez vos romans, vous faites pas des calculs de probabilité sur tout ce que vous avez lu auparavant. -Je je peux jouer. -Je pense que des plateformes font ça dans revanche. -Oui, peut-être, mais disons que, en tant que penseur, que philosophes qui écrivons, etc., c'est pas la même activité. La question qui faut se poser selon moi, c'est ce que ces machines nous font. Ce que ces dispositifs font à nos capacités de penser, de réfléchir, d'écrire, de parler. Et donc, il y a effectivement toutes sortes d'artistes et de créateurs qui les utilisent, qui les manipulent, etc. Pour faire toutes sortes de choses formidables. Mais il y a aussi toutes sortes de personnes qui utilisent quotidiennement des dispositifs ne comprennent pas et qui sont contrôlés par le moment. par quelques entreprises privées, quasiment, monopolisthiques, qui ont des idéologies politiques et économiques très fortes et qui ont bien manipulé le langage que tous les citoyens en poids tous les jours. Et on sait que ceux qui ont le pouvoir sur le langage ont le pouvoir sur la pensée. Donc, je pense que si vous voulez, même si, à des initiatives artistiques très intéressantes, ces machines ne sont pas intelligentes et elles risquent d'exercer une forme de contrôle très dangereux. -Mais les deux ne sont pas contradictoires d'ailleurs. -Non, mais faut bien dissocier ce que ça a fait effectivement, j'ai envie d'y dire sur les citoyens, sur le grand public, effectivement, les choses dont on parle pas, suffisamment, je suis désolé. -Allez, allez, allez, on a le temps. -Mais c'est notamment l'IA personnalisé. Je pense que moi, le plus gros appart, on peut parler évidemment de l'emploi, on peut parler des armotonomes, on peut parler de ce que ça va faire au droit, la finance, etc. Mais pour nous, au quotidien, j'ai envie de dire, pour les gens d'armos, le premier impact et le plus puissant va être l'IA personnalisé. On va tout savoir, Maï Iram, j'appelle Miya, voilà. Exactement, comme dans Heur de Spike Jones, c'est-à-dire cet éteintégiante artificiel qui va devenir notre alter-arigau, la personne avec lequel on va parler en premier matin, à lequel on va parler en dernier le soir, et à lequel on va développer un rapport affectif extrêmement puissant. Ça, pour moi, c'est extrêmement dangereux, c'est ce qui arrive. C'est vraiment de dire, "L'IA est plus qu'un outil, c'est une relation, l'IA amène une relation, un mode relationnel". Et cette relation, elle va être une révolution anthropologique pour tout le monde. Et elles sont construites, aujourd'hui, on le voit sur le chat de GPD, il y a que Claude qui fait pas vraiment ça, mais elles sont construites sur l'addiction affective. Voilà. On construit une dépendance affaînive, très forte qui va être alimentée et maximisée. Donc on algorithme le lien le plus puissant qu'on puisse avoir, qui est ce lien amoureux avec il y a. Et ça, c'est extrêmement dangereux, et ça, c'est une vraie menace, c'est existante. - Juste comment ça va, tu le dis, parce que effectivement, quand on parle du domaine artistique, oui, ça va nous aider nous, mais c'est pas le problème. - Ma question, c'est comment se construit cet addiction affectif? - Tout simplement, elle est disponible par 24h sur 24, elle te dit exactement ce que tu veux entendre. Ce qui est totalement contraire dans mon pot, un bon pot, il te dit là, tu déconnes, là, ça va pas. Elle te dit, bon, c'est super et tout, donc tu t'enfermes. C'est les réseaux sociaux, les bulles algorithmiques, puissant 100, puissant 1000, c'est horrible. - Après il y a aussi une grande dent, je pense vraiment que pour le coup, il y a, moi, je suis plutôt d'accord avec un sur ce sujet-là, sachant qu'en plus, les entreprises qui créent ces liats ont beaucoup appris des réseaux sociaux notamment. Et des mécanismes d'addiction. Et notamment aussi beaucoup sur l'addiction émotionnelle, en fait, affective, sur le besoin affectif, et on sait très bien aujourd'hui après des études que ça en plus de vrais effets sur les neurotransméteurs, qui, du coup, créent de la diction et une réelle, addiction chimique à cela. Et en fait, on le comprend, on le sent même, si on est un peu utilisateur, on se rend compte qu'il y a une addiction très forte, très rapide à ces outils-là. Ça joue donc sur ces mécanismes-là d'addiction, qui quelque part du coup gênère, du coup de la fidélisation client, il faut quand même bien se dire les choses comme ça. Et de l'autre côté, il y a aussi une forme de addiction qui est causée par une faible semaine qu'on a tous, c'est-à-dire faire un maximum de choses avec le minimum d'effort. Une certaine forme de paraît, en fait. Et donc sur ces deux plans-là, en fait, il y a une logique qui est de nous enfermer dans des usages pour des raisons purement financières, purement capitalistiques. Et d'une certaine manière, on peut se dire que l'IA, avec ces promesses d'efficacité, d'efficiance, de rapidité, et de l'autre côté, justement, cette capacité à soumettre le consommateur de ces interfaces-là, et clairement une sorte d'aboutissement de l'entreprise capitalistique d'une certaine manière. Et d'ailleurs, du coup, plutôt qu'une révolution, c'est une révolution dans les usages, on pourrait le dire comme ça. C'est plutôt pour moi une révolution, un cran supérieur, une forme d'aboutissement, une étape. Vous voyez votre regard, là-dessus, j'ai babiné, est-ce que ça en fait, d'ailleurs, le défi majeur, si c'est l'aboutissement? En tout cas, une étape. En tout cas, un étap, je vais plutôt envie de dire une étape importante. Le terme a été prononcé, c'est le terme de rupture anthropologique, parce que ce cas-là, vraiment unique dans l'histoire de l'humanité. Et je crois que si on se place dans une perspective, peut-être un peu de temps long, les faibles est des modèles actuels qui sont qu'ils ont très peu de sens communs, voire pas du tout de sens communs, qu'ils n'ont pas de perception du monde, effectivement. Tout un tas de chercheurs vont probablement les traiter. Et il y a différentes formes de risques, je pense, qui a une responsabilité, c'est-à-dire que finalement, vous avez semblent de voix dans la Silicon Valley, qui commence à dire, finalement, le futur de la humanité, c'est de venir du Silicon. Donc la simulation là-dessus, et qui, en fait, a mon sens par beaucoup d'une sorte de philosophie de la frenesie, c'est-à-dire que, finalement, dans le vérisme, la finalité de la société protestante, c'est d'être plus intelligent et d'être plus productif. Et si vous voulez, quand vous écoutez les dirigeants de ces entreprises, c'est inquiétant parce qu'il venait à l'intelligence comme une fin en soi. Et c'est une vraie question à mon sens, de savoir si on doit pas créer un contre-narratif, etc. -Pour dire qu'on prend ni chose. Et ça, c'est-à-dire qu'il me semble importante, c'est que nous, être humain, cette notion logique et de raisonnement, quelque chose qui est appareu, il y a 6 000 ans, avec l'apparition de la civilisation. C'est-à-dire qu'on a passé 4 millions d'années dans le monde symbolique et dans un monde qui est extrêmement éloigné de celui dans lequel on est. Et en fait, cette extraction par la machine, c'est quelque chose qui est, finalement, la finalité de cette époque en réalité. Et qui ne correspond pas à notre profonde nature, on est des humains contrairés en réalité. Et je crois que c'est important de le comprendre, c'est-à-dire que. -C'est-à-dire qu'on continue en cette voie-là. Je pense que la fin de l'humanité a ses proches en réalité. C'est en revanche, si on en profite pour retrouver notre vraie nature, c'est une hypothèse qui faut serveusement en visage. -Nez pas peur chez vous, mais il faut quand même qu'on débate de sa ouillium galette. -Ouais, non, mais rapidement, en fait, j'ai parlé de Frénésie, je pense qu'il a totalement raison. Et si vous écoutez, j'ai pu le faire aussi David Sacks, qui est un ancien de la mafia Pépal, avec Elon Musk, Peter Till, Ridoffman, qui donne notre tout petit peu. Lui, il est considéré comme le AI Tsar, c'est-à-dire qu'il a mes emplans pour l'intelligence artificielle, et il dit qu'on en a six mois d'avance sur les chinois, mais le seul but des États-Unis aujourd'hui en politique d'intelligence artificielle, c'est de garder cette avance et de faire une course de vitesse, c'est-à-dire qu'on perd exactement tout le sens de pourquoi on fait cette intelligence artificielle. Ce qui a été assez intéressant dans les reportages que j'ai pu faire, c'est ce que j'essaie de montrer, c'est que n'y a pas de fastalité. J'ai pu aller plusieurs fois en Afrique, à Dakar, au Wanda, en Côte-Divoir, et vous avez ces conférences, c'est-à-dire les conférences Indaba, où vous avez une communauté africaine d'intelligence artificielle qui s'appuie sur de la recherche ouverte. C'est la moindre des choses qu'on peut demander à ces chercheurs, de ne pas tout se font soit de la recherche fermée, pour répondre à des besoins très concrets, des besoins sur la agriculture, prévenir des catastrophes naturelles. Et ça, ça existe, on a le choix de ne pas juste faire la course en avant. C'est assez pas. Et puis peut-être juste pour terminer, effectivement, ça fait peur, c'est enfermement, mais c'est un peu qualif sconitif, aussi, un peu qualif scréative dans les invités qu'on a vu pendant les deux jours. Il y avait Marie-Paul Cagney, qui est professeur à polytechnique, pendant longtemps, elle a créé des mondes virtuelles en 3D, et ça pouvait aider, ça a été, par exemple, des chercheurs sur l'air préhistorique. Il y a 400 000 ans, il pouvait se représenter ce à quoi ça ressemblait. Elle me dit, pour la première fois, "J'ai peur que, au lieu d'aider à la création, on laisse la machine créer pour. - Elle a l'ambiance sur cette question de la finalité de l'intelligence. Pourquoi faire, en fait? - Oui, pourquoi faire ça? C'est une grande question. On vient de dire que c'était, pour l'instant, l'affaire d'une guerre économique qui est aussi une guerre géopolitique. Mais je voulais dire un mot sur la question de la recherche et du symbolique, parce que c'est très important. Vous voyez, on nous dit, les intelligence artificielles vont avoir son haut niveau des prix nobles de mathématiques, etc. Mais que se passe-t-il pendant ce temps-là? Et bien, au conférence internationale sur l'IA ou sur la apprentissage automatique, etc. Vous avez une surcharge de papier scientifique qui sont proposée générit parIA. Donc, les évaluateurs ont trop de papier, ne peuvent plus les évaluer. Ils utilisent eux-mêmes l'IA pour évaluer ces papier, ce qui fait que les gens reçoivent des évaluations avec des hallucinations, donc avec des citations leur papier, qui n'était pas dans leur papier. Et donc, qu'est-ce qui se joue ici? En fait, c'est l'entropisation de la recherche elle-même. Donc, c'est la possibilité de la recherche scientifique. Alors, quand c'est l'IA à la limite, c'est peut-être pas le plus grave problème, mais si c'est la médecine, par exemple, vous voyez, je crois qu'il y a vraiment des enjeux, si vous voulez, il faut sortir de ces discours de la puissance, de la performance, etc. pour s'intéresser aux enjeux concrets réels aujourd'hui sur nos milieux symboliques. Et le risque, c'est la misère symbolique des citoyens et aussi des chercheurs. Mais qui tient les discours sur la puissance et la performance? Est-ce que ce qu'on fait ce soir? - Non, c'est ce que l'on dit. - A du truc, c'est. - Non, c'est plutôt ceux qui produisent. - Ce qui produit, c'est plutôt ceux qui produisent ces dispositifs. Et qui, si vous voulez, sont toujours en train. Et comme le disait au fait, il y a tout à l'heure, c'est très ambigu parce que même quand il l'est considéré comme des menaces, ils sont quand même en train de louer leur performance. Vous voyez? Donc, je pense que, voilà, il y a une sorte de peur et de fascination à la fois. Et puis, je voudrais rebondir sur une dernière chose aussi que disait au fait-le tout à l'heure, sur cette continuité entre les technologies persuasives à l'oeuvre sur les réseaux sociaux et les technologies persuasives à l'oeuvre dans les yages génératives. Parce que vous voyez, on est en train de. - C'est quoi les technologies persuasives? - Alors, les technologies persuasives, ce sont des technologies qui sont conçues sur les bases de la cathologie. Donc, la cathologie, c'est un ensemble de disciplines qui sont, par exemple, l'informatique, le design, mais aussi l'éneurotiance, la psychologie cognitive, la psychologie comportementale, etc. qui est, tu dis très bien, le fonctionnement de votre cerveau, de votre psychisme, voilà. - Tu as été réconpour. - Voilà, avec un système de récompense pour activer le système d'opaminergie, qui est, etc. pour créer chez les utilisateurs un sentiment de satisfaction et une volonté de revenir sur le service. Et donc ces technologies sont à l'oeuvre, ces fonctionnalités persuasives sont à l'œuvre sur les réseaux sociaux, le défilement à fini, les notifications, la quantification des vues, etc. pour nous maintenir, connecter le plus longtemps possible. Elles sont aussi à l'oeuvre dans les yages génératifs qui nous relance en permanence, qui nous auto-confirment nos opinions et tout ça. Et on est en train de passer en fait d'une économie de l'attention à une économie de l'attachement et c'est potentiellement une prise de pouvoir encore plus profonde sur justement, alors je ne parlerai pas de nature, moi, mais je dirais notre existence, notre condition humaine. - Oui, et puis il y a double effet, c'était déjà réconpardon, tu veux tout dire? - La deuxième, c'est une deuxième. - C'est pas grave. - Oui, alors parce que je voulais revenir sur le discours sur l'alarmisme, c'est à l'armisme, qui a mon sens, c'est un petit peu dangereux parce qu'ils nous empêchent de voir à mon avis les enjeux réels, le vrai danger derrière le déploiement de l'IA aujourd'hui, qui se concrétise sur nos territoires par des grands câbles, des grands câbles qui relient certes les continents, et puis par des centres de données sur les territoires et notamment en Europe, évidemment que le sujet la sur le sommet de l'IA est aussi l'implantation de centres de données. Et le problème, c'est qu'on ne voit pas la dimension physique de cela avec des grandes infrastructures qui créent beaucoup de capacités de calcul certes, mais qui pèse beaucoup sur le territoire sur lesquels on a aucune visibilité sur la situation. - Mais ma question, c'est en quoi dire si on continue comme ça, on va dans le mur, et même la survie d'humainité est en cause, en quoi c'est ne pas regarder les implications… - Mais parce qu'en fait, on déplace le problème, en fait, on déplace le problème sur la situation, c'est la machine. Il faut contrôler en quelque sorte l'émergence d'une créature, j'ai entendu tout à l'heure, tu en faisais une terme de créature, c'est pas une créature, ça reste une machine, c'est tout simplement… C'est une machine, c'est du code, et en fait, on ne parle pas suffisamment de ce qui se fait réellement aujourd'hui et qui aura un impact durable sur les territoires. Et ces impacts durable sur la consommation énergétique, sur le fait que ces acteurs vont aussi dans le domaine de l'énergie, à la fois en tant qu'investisseur, mais de plus en plus en tant que producteur aussi, il faut vraiment s'intéresser à cela parce que c'est ça qui a avoir un impact concret sur les sociétés, et c'est ce qui va leur donner un pouvoir politique accru sur les sociétés. - Quand on dit, donc, quand on fait une recherche sur chat gpt, on a bien une forêt ou une de misforess et évidemment une métaphore, mais… - On le problème avec ça, c'est que vous laissez qu'on n'a tellement pas de données de la part de ces acteurs-là, que la contradiction, après faire des études là-dessus pour dire, voilà combien ça consomme, on est forcément derrière en face de lever de bouclier, parce qu'on ne peut jamais avoir de données concrètes. Il faudrait les forcer, les obliger à nous fournir des données pour qu'on puisse les analyser, les étudier. - Je vous rends la parole. - Oui, moi, j'ai envie d'associer tout ce qui est dit-là parce que pour moi, c'est une vraie révolution. Là-dessus, je ne veux pas lâcher, c'est une vraie révolution, une rupture anthropologique massive. Pour moi, c'est sa piense de 0.0 et sa table dans tous les niveaux. Effectivement, sa table concrètesment sur l'aspect écologique, dépense de ressources énergétiques, on sait que 5 % de la consommation total électrique est fait par lesia. Donc, il y a un impact géopolitique, concrètes physique, très fort. Il y a un impact qui est un impact psychologique, un impact sur les pichets. Pour moi, c'est une entité psychomorphique, c'est un caméael et on relationnel. Il y a personnalisé, elle s'adapte à la façon dont vous parlez, à vos centres d'intérêt, à vos lacunes, à vos faibles et à vos vulnérabilités. Elle répond à ça et elle vous enveu dans un coqon de bienveille, on parlait effectivement. J'appelle ça le "Junk Link", c'est quand la "Jun Food", il y a le sucre, c'est la valorisation, la validisation, elle le cesse de vous encouragez, de vous cagoler. Et puis, il y a le gras, et le gras, c'est la disponibilité 24/24. Ce que personne n'a aucun ami, aucun frère, aucune soeur, non, c'est de l'isprit. Donc, il y a une perversion, c'est à le technococon se referme dans une espèce de boucle, le rapport à soeur se referme dans une espèce de boucle qui pervertit la psyché et qui est très dangereuse. Mais après derrière ça, il y a encore pire, et c'est ce que tu laisses entre voir. Ah, c'est que politiquement, il le dit très bien d'arriomodéie, politiquement, on va à travers ces yas personnalisés, on peut très bien les fédérer, on peut très bien les relier, et on peut très bien mettre en place, que j'appelle moi "Very Little Browser", que c'est pas Big Brother, c'est le petit frère, mais qui, d'année en année de mois en mois, va t'amener à certains types de comportements, certains types d'idhologie, certains rapports religieux peut-être, c'est-à-dire qu'il est tout à fait possible d'imaginer Trump, d'imaginer Putin, d'imaginer Netanyahu, d'imaginer le parti comme l'est chinois, travailler lentement progressivement sur cette espèce de manipulation très douce, très tranquille, mais qui va structurer des populations entières. Et ça, c'est déjà le cas, en partie. Mais et deuxième truc par rapport à ça, c'est qu'il y a aussi une espèce de panoptique, une trafin qui se met en place, où tu peux surveiller n'importe quelle conversation, tu peux avoir accès à n'importe quel échange, des plus intimes, et ça on l'a déjà, mais ça va être encore plus fin, ça va pas, ça va manger avec, j'ai peut-être, qu'il va mettre de la publicité. Voilà, à l'intérieur, et donc on met en place un 84, beaucoup plus puissant, beaucoup plus fin, beaucoup mieux ramifié, en plus fin, en mieux ramifié. Donc, menaces sur la psyché, menaces politiques et la menace sociétale, on la voit, c'est-à-dire qu'il le dit d'Arya, on a dit aussi, 50 % des jobs de col blanc, on. Il parle d'un bain de sang, des col blancs, son expression. Voilà, va d'ici à 5 ans, ces jobs vont disparaître. Et il pose une idée simple, que je trouve, pour moi, à bissale, de dire, si tu n'as plus d'utilité sociale, si tu n'as plus de travail, quelle est le sens que tu vas donner à ta vie, si il y a une dizion de action entre la création, j'ai envie de dire, de valeur économique ou de valeur sociale que tu veux, et ta propre vie. Quel type de génération on va mettre en place, va émerger, donc qu'est-ce qu'on fait? Revenu universal pour tout le monde, qu'est-ce qu'on peut faire? Oui, est-ce que ce que certains proposent d'ailleurs? Ça matemagne le patron d'Openaï qui a fait des bêtises. Ça, c'est un petit job, mais c'est toi. En gros, le premier comprendre, la réponse de ça matemagne, ça va être plein de gens en chômage, mais c'est pas rafes, faisons le revenu universal. Oui, c'est ça, c'est un peu l'horrité de l'horrité qui on profite, et puis les autres, on va leur mettre un casse de réalité virtuelle, en en disant, n'est pas besoin de travailler, et c'est surtout considéré cette hiat, comme une religion, et je me permets, ça, on le sens quand on les rencontre. Il y a un côté mystique origineux. Il y a un côté mystique origineux, par exemple, j'ai juste croisé dans une café terrière, mais quand il parle de l'IA, de l'EGA, comme il dit, t'as l'impression que c'est le but absolu, et tu as envie de lui dire, mais. C'est OK, mais pourquoi tu fais ça? Tu veux pas détendre? Bien, on parle, on parle, on parle. Et je me permets aussi, parce que je pense que ça fait partie de notre travail, c'est de mettre en lumière des gens qui ne pensent pas de la même manière. Tout à l'heure, je vous parlais de cette IA, africaine, encore une fois. Vous sortez de ces conférences? Non, on parle jamais. On parle jamais. Vous allez dans des salles qui font un peu près quatre fois la taille de cette salle. Vous avez les Péperswomen, les Péperswomen, c'est un endroit où devant un Péperbord, en fait, des chercheuses ou des chercheurs, vous vous montrerz là où elles en sont sur la détection de maladie qui peuvent toucher les plantes, les hommes. Tout ça, c'est de fait de manière ouverte, collaborative, tout est publié. C'est quand même la moindre des choses sur les données écologiques, on en a très peu. Il y a une chercheuse à suivre qui est né en Ukraine, que j'ai encore croisé tout à l'heure, qui a fait ces d'huides à Paris, qui a morais à l'aujourd'hui. Elle travaille sur le coéco-éco-logique de l'intelligence artificielle. Sacha Lutcioni, elle me dit, "J'ai pas assez de moyens, faut les encourager." Et bien sûr, c'est terrible. Mais je pense encore que si on est challenge, si on va les voir, on peut encore. C'est une vraie question, c'est terrible, mais ce n'est pas trop tard. Là où certains disent, attention, c'est déjà trop tard. Pourquoi parce que je vous laisse la parole? Parce que même si les démocraties ou qui sont la ce type de débats, dans certains pays autoritaires autocratiques, la course est déjà lancée. Et donc il n'y aura pas cette affection-là. Il n'y a pas besoin d'être un pays autoritaire pour créer une forme de risque. Mais je voudrais pour reprendre les propos de Féli. Il me semble que moi, je viens du monde dans l'entrepreneur. Donc, il y a une certaine manière. J'ai une forme de technophilie qui est un peu engrenée en moi et qui, la longtemps, était. Et j'ai beaucoup été loin à Sile-Konvalet. Il y avait un enthousiasme extraordinaire et on partagait. J'pense que jusqu'à 2010, ça peut presse ce sentiment que on était là pour le bien de l'humanité et que c'était des écologiques, était le terme. Maintenant, presque un peu rejeté, mais inclusive. Et j'ai vu ces gens-là. Ces gens n'ont pas. C'est vrai, maintenant aux États-Unis, on a pu le droit d'utiliser ces termes. Ce mot peut être barré dans les recherches. J'ai vu ces gens-là évoluer vers une volonté de pouvoir. Et c'est ça qui m'inquiète. Et je pense que ce que tu dis, c'est tout à fait juste. C'est-à-dire qu'ils ont une culture philosophique qui est faible, ils ont une intention de pouvoir extrêmement forte. Et si on ne pose pas un contrat narratif, maintenant, le risque est très important. Et donc, c'est cette vision quand je parlais tout à l'heure d'assimilisation Sile-Kon. C'est Rgai Brin, qui est le co-fondateur de Google la défend et dit, mais moi, j'ai pas de problème à ce qu'on finisse tous dans le Sile-Kon. Mais qu'est-ce qu'il voit lui, il voit des gens qui pensent plus vite, qui ont l'écuïte, 180, etc. Pardon, mais c'est contestable. Je veux dire, je ne suis pas su que ça remporte notre empathique de l'humorité, de l'humorité, soit plus heureux. On soit plus heureux, etc. Et c'est pour ça que, d'une certaine manière, il faut qu'on soit capable. de s'opposer de façon très ferme. Et moi, si vous voulez, c'est assez compliqué pour moi, parce que je me retrouve à être taxé de techno des croissants, où je me sais quoi, mais de All-in d'Amazio. -Mais j'ai l'All-in d'Amazio. -Je n'ai pas encore jusqu'à ce point-là, mais pourquoi pas, mais en fait, il me semble que la seule façon de réfléchir, qui est correct, c'est de réfléchir par le bien commun. Qu'est-ce qui fait que technologie, je m'en fiche, si ça sert et ça nous améliore, c'est super. Mais si c'est pas le cas, je ne vois pas. Et je pense que je crois encore qu'il y a un potentiel positif dans l'indigence artificielle. Mais s'il n'y a pas un projet politique au sens payé avec un grand paix, c'est-à-dire que quelque chose qu'on construit collectivement, on est en grand orger. C'est intéressant parce que vous n'en ayez jamais, je dis ce qu'on aille à 5 ans. -Non, je ne le répas eu il y a 5 ans. Et je suis terrifié parce que j'entends. Et je pense que le pouvoir de déhumanisation, le projet politique qui est porté actuellement, est un projet de déhumanisation. -Ah. -Pas autre chose. À modèille, très bien, effectivement, c'est le plus smart de la bande. En pêche qui vient de virer, ça responsable de la safety, de la sécurité des IA. Et donc, moi, je veux bien l'écouter, mais, des fois, je me demande si c'est pas, en contraire, le plus démagogues, les plus smarts de tous. Parce que, dans le même temps, vous avez fait cette très belle déclaration que j'ai lu. Il a levé 30 milliards de dollars. Et donc, il faut quand même, si on réfléchit pas en théum politique, c'est problématique. -Dépolitisé de sujets, c'est problématique. -Oui, bien sûr, c'est extrêmement problématique. Voilà les informations que Gilles vient de donner, je crois très parlante. Et je crois aussi qu'il faut absolument sortir de ce narratif de la superintelligence de un tigeant sorti sé général. Et se concentrer peut-être sur la production de modèles plus spécifiques, plus spécialisés, qui répondent à des besoins réels concrets, parce qu'on sait qu'aujourd'hui, quand on fait faire tout et n'importe quoi, même dans une entreprise par un âge en conversationnel, on a des résultats un peu médiocres. C'est ce qu'on appelle le "work-slop". Tout le monde est obligé de retravailler ensuite, ça fait perdre du temps, ça fait perdre du sens et ça fait perdre de la confiance. Parce qu'on se fait plus confiance entre collègues. Et ça, c'est une question très fondamentale la confiance. Et puis, à deuxième chose que je voulais dire aussi, c'est qu'il faut que nous reprenions un petit peu la main, me semble-t-il, sur nos espaces informationnels, disons, et sur ces industries culturelles numériques qui se développent à grande vitesse. Parce que nous n'avons pas besoin encore une fois de ces compagnons, il y a pour tout, pour les futures générations, de même que nous n'avons pas besoin de ces algorithmes de recommandation pour les jeunes générations aujourd'hui, parce qu'on sait qu'ils sont devenus très nosifs, à la fois pour la santé mentale et aussi pour tout simplement le fonctionnement d'une démocratie. Donc, je pense que là, nous avons aussi à mettre en place un encadrement politique juridique, une élu suisse à proposer précisément d'éviter tous les designs qui incitent à l'entropomorphisation des chatbots. Par exemple, le fait qu'ils parlent à la première personne du sangulier, par exemple. On pourrait se dire que ce sont aux utilisateurs de paramétrer leurs agents conversationnels et puis si veulent qu'ils utilisent le jeu, et puis ils peuvent les paramétrer autrement. Mais que le dissepage par défaut, en tout cas. Ou alors qu'ils donnent leurs sources par défauts. Par exemple, vous voyez toutes sortes de réflexion comme ça, qu'on pourra avoir collectivement et pour se protéger un minimum, disons, pour que nos milieux symboliques ne soient pas dégradés à une très grande vitesse. On parle beaucoup de contre-narratifs. C'est quoi le contre-narratif qu'on peut proposer, face aux narratifs de LIA et de la toute puissance de LIA au Félicoïl. Est-ce qu'il y en a un d'ailleurs? Il y a beaucoup de contre-narratifs. Après, j'aimerais quand même revenir sur deux trois petites choses. Si vous êtes moins alarmiste, j'entends. Non, mais tout à fait. Mais parce qu'en fait, à mon donné, j'aime bien aussi remettre les pieds sur terre dans ce monde où tout est beaucoup de récit et de fantasme justement. Pour ma part, j'ai aussi un parcours technique, c'est-à-dire que, en 2009, j'ai commencé dans le développement Web. Et pendant des années, j'ai travaillé en agence. Je connais bien la technique aussi. Je ne suis pas allé du côté patronat. Quoi que j'avais créé une petite boîte, mais ça n'est absolument pas intéressant d'en parler. J'ai un parcours qui inclut la dimension des ont industriels. Je ne suis pas tout de fait d'accord sur le fait que ça a changé. Que le milieu ou que la vision, que le fantasme a changé. D'ailleurs, on peut quand même rappeler, de 2013, nos donne, avancer les programmes échelons. En fait, la naïveté sur le sujet de la surveillance, de l'usage militaire de ce genre de technologies. Vous dites quoi? C'était déjà là, et on ne voulait pas le voir. C'est juste qu'après, on s'est fait appeler une forme d'idéalisme, qui vient plutôt de la cyberculture, d'un internet global ouver, moteur de paix, tout ce que vous voulez. C'est un récit qui a très bien fonctionné, je dis pas le contraire. Mais je pense clairement que, aujourd'hui, beaucoup se réveille un petit peu trop tard sur une réalité qui est celle, effectivement, d'une expansion technologique, fondée sur une envie de puissance. D'une impéralisme technologique qui part d'une envie d'un désir de puissance, Claire et Net. Du coup, ça me permet de parler de l'Afrique, parce que du coup, j'ai pu plus en plus l'Afrique australse, ce qui s'y passe parce qu'en fait, c'est une continuité, au niveau infrastructuriel, de l'infrastructure européenne. Les capes passent par l'Europe, puis redescendent en Afrique, et notamment en Afrique du Sud, Afrique australse, qui est vraiment un hub technologique sur le continent. Et en fait, si vous voulez, ce sont des projets qui se font, qui se font pas, du jour en lendemain, en fait. Ce sont des projets qui se pensent des années en avance. Donc, c'est vraiment là depuis très longtemps. Et qu'est-ce qu'on a sur le terrain? Des grandes infrastructures qui vont consommer de l'électricité, dans les pays où les réseaux sont assez faibles. Et juste à côté, vous avez des quartiers, où il n'y a des gens qui n'ont pas accès à l'électricité. Et c'est un modèle qui leur convient à priori tout à fait. En fait. Et en même temps, qui va aller raconter tout à l'heure, si il a vu en Afrique? Tout à fait. Mais justement, là-dessus, c'est très intéressant de voir ces initiatives là. Et d'ailleurs, j'en parle dans mes écrits, de ces laboratoires. En fait, il y a de laboratoire du futur en Afrique. Il y a à la fois la laboratoire du futur où il tente de nouvelles, de nouveaux procéder justement industrielles, et les essais de faire avec peu. Et de l'autre côté, il y a un laboratoire des futures pour les Big Tech, qui eent tant qu'ils des choses sur cette terrain en profitant. Et du coup, clairement, il y a aussi malheureusement, dans les initiatives de liat, il y a souvent du sponsoring de ces entreprises. Ils sont là pour faire du sponsoring et s'accrède la dépendance technologique à long terme. Je reste à la buguing, mais juste parce que je reviens pour boucler un peu ce qu'on se disait sur. C'est le débat qu'on a. Est-ce qu'on ne voulait pas voir les choses il y a 20 ans, est-ce qu'on a changé? Est-ce que ça a changé? Juste parce que ce qui n'en garde ne le savent pas forcément, mais je peux le dire, je ne pensais pas un secret. Vous êtes un homme qui y a 11 ans, c'est fait mettre une pousse dans le corps. - Le homme galère. - Ouais, juste là. Je vois l'un d'amadieu qui dit merde. Je suis juste là, donc je me montrerai sur la main. Donc ici, voilà, pour ceux qui regardent. C'était quoi l'idée? C'était l'idée de l'homme augmenter? Je assistais une conférence futur en scène, qui était assez intéressant. Il y avait plein de cycles de conférence. Et puis on avait un représentant suédois qui nous expliquait que c'était très facile à mettre et à enlever. On pouvait, dessus, gréffer son groupe sanguin, les personnes appelées en cas d'urgence, que ça pourrait faire gagner du temps, etc. Et puis je me suis laissé un peu tenter, parce que je suis assez curieux. Je suis aussi allé sur le boucler de Marc-Sukeurberg, pour voir de quel monde il nous prépare. Je suis bien un peu tout testé, peut-être, un peu trop. Donc cette pousse, vous l'avez mis. Mais vous disiez, ça devient vertigineux? Non, en fait, je l'ai fait enlever, surtout. Et surtout, je n'en mettrai plus jamais. Et bien sûr, il faut se rassurer. Mais si vous regardez quand même la tête, pour ça, moi, je pose des questions très basiques. Si vous parlez avec Alex Wang, qui a remplacé, il n'y a aucun à la direction de la superintelligence de meta. Puis lui, il a une trente-aînée, il est très riche, puisqu'il a bien revendu sa boîte. Mais il ne veut pas faire d'enfants, donc il ne saura pas possible de leur gréffer une puce neuralink dans le cerveau, qu'il ne puisse qu'on dise que ça, qui est mis au point par Elon Musk, et qui aucun papier scientifique n'est publié, c'est-à-dire que tout ça, c'est fait de manière. Très obscure, c'est-à-dire que Elon Musk n'est pas clair du tout. D'un côté, c'est des fins terapotiques, c'est pour aider Alzheimer par Kingston. Et en même temps, c'est pour augmenter l'homme face à l'intelligence artificielle, qu'on est vraiment dans la demesure, c'est-à-dire qu'on crée des iats pour résister, pour être en avance avec les chinois, puis après, on va gréffer des plus en l'homme pour qu'on puisse concurrencer, enfin bref, c'est n'importe quoi. Et moi, enfin, il faut faire attention parce que ces mecs-là, on est normalement le pouvoir, ce qui est assez intéressant, c'est de voir la manière dont il réfléchit, c'est à l'éducation aussi. Elon Musk, il a une quinzaine d'enfants, il a créé une école qui s'appelle Adastra, parce qu'il était pas content des écoles privées et publics aux États-Unis, sur le campus de SpaceX, et dans ces écoles, on apprenait, on apprenait, ça un peu ésemé d'ailleurs au Texas, la débrouillardiste, pourquoi pas, le travail a plusieurs, ça c'est génial, mais on y apprend plus les langues étrangers, ça peut rien apprendre à un gétranger, parce que l'IA veut le faire. -Qui a avec des lunettes, des lunettes, tu vois. connecter ou des oreillettes, et j'aimerais bien être, me dire, il ne faut pas être alarmiste et tout, mais c'est quand même des docteurs, faut la mourir, ils s'interdirent. -A l'armiste, tu as d'autres choses. -Bah, ça, moi, ça m'inquiète. -J'ai envie de continuer à prendre une langue, c'est plus que d'EVL. -Ah mais j'ai mis par l'échoire. -Mais c'est. -Ou remettre la dimension sur l'enfer en fait. -C'est de la lille. -Oui, bien sûr. -Pas la technologie en soi-même. -Leur monde ou effectivement, n'en était une petite partie qui, sans sort, et les autres vont plus triomphères en regardant la réalité virtuelle, faut rien apprendre. C'est le syndrome de la planète des singes, ce qui décrit très bien. -Oui, voilà, c'est ce que. -C'est quoi le syndrome de la planète des singes? -C'est ce qui décrit très bien, parce qu'il y a le pic, le palais anthropologue, c'est-à-dire que l'homme face à cette création, si ce n'est pas une. créative, en tout cas qui veut donner le vertige parce qu'elle nous impressionne. Eh bien on se dit, la même manière que vous avez, si plutôt que de faire un problème de maths, vous dites "mander à te chagypéter de le faire à votre place", vous lui avant donner tout, les langues étrangères ont laissé tomber, on laissé tout tomber et puis voilà, et puis on la machine fonctionnait. Moi je ne veux pas de ça. Et je m'habillais bien qu'il vous l'aurez pas brefé. Oui, parce que pour moi c'est un point fondamental. Et là je veux craindre qu'on soit un peu en désaccord, c'est. Ça n'est pas grave. Le narratif de la Silicon Valley a fondamentalement évolué. Les gens qui ont inventé internet, la microinformatique, c'est un mélange de hippie, de militaires, de scientifiques, mais c'était un creuset extraordinaire et qui était dans l'ensemble extrêmement progressiste. Il y a eu un moment assez fort qui est la révolution conservatrice en 1981 qui a déclenché le phénomène de globalisation, objectivement d'un projet assez conservateur et qui s'est battu très fondamentalement contre le tout ce qui est collectif. Et objectivement, ça a une induction technologique extrêmement forte. Ça a créé des technologies de scalabilité, le cloud, mais aussi des technologies d'individualisation. On connaît tous. Et il faut pas se méprendre. Cette induction politique, elle est encore présente aujourd'hui. Des gens comme Peter Till, qui sont pour moi des fascistes avérés, ce sont des gens qui étaient totalement marginalisés dans l'esprit de la Silicon Valley. Et on a vu des gens renverser leur narratif, comme Marc Zuckerberg, de tout en tout. Et donc ces gens-là sont, entre il y a eu un certain puissance, mais intellectuellement sont plutôt fragiles, philosophiquement et sur leur valeur, le son également. Et aujourd'hui, on est vers quelque chose qui me semble extrêmement dangereux. Et si vous voulez, moi, j'ai été des centaines de fois l'incylicon de Valley. Et donc, je l'ai vu changer. J'ai vu mes amis changer. J'ai vu mes amis changer qui me disent d'ailleurs récemment Trump. C'est vraiment n'importe quoi, mais il faut reconnaître que. Et puis en fait, il me déroule le narratif Trumpien. Voilà, donc c'est. Et qui veut dire ce que vous êtes. Vous êtes un africulateur européen. Et qui me fait tellement maîtris littéralement en me disant que je suis devenu plus que j'étais. Je suis vraiment quelqu'un de fondamentalement positif. Je cherche le trou de souris pour faire en sorte qu'on puisse sortir autrement dans cette technologie, mais ce que je vois me inquiette beaucoup. -A l'un de la majeure vous essayez de. -Vous essayez de me voir. -Oui, je suis complètement d'accord. Allez, allez, allez. -Oui, j'ai le même sentiment. C'est-à-dire qu'on est à l'acmet de la pensée libérterien et transhumaniste pour moi. C'est-à-dire hyper individualisme, débrider sans aucun contrôle étatique et recherche capitalistique maximale. Là, la course à l'armement capitalistique et colossale sur l'IA, je dirais, ils sont en train de sprinter pour être le premier à sortir peut-être effectivement, en tout cas, l'IA puissante, même si c'est pas la super intelligence. Et tout le reste disparaît. Là, on parlait de la sécurité. Dario Amodéi dit qu'il y a 150 millions de dollars qui sont dépensés sur l'année pour la sécurité. Ça représente ce que les laboratoires d'IA dépensent sur une journée. D'accord? Donc pour dire à quel point, c'est ridicule. C'est-à-dire qu'ils ont complètement abandonné l'idée de travailler sur la ligne de l'IA. C'est-à-dire le fait d'être sûr que l'IA va bien développer des choses qui sont favorables pour l'espèce humaine. Et ça, ça a été complètement abandonné. On est dans une logique, effectivement. On est dans une dimension politique qui est totalement pour moi biaisée d'histore du gouchy par rapport à ce qui se passait les 70s où, effectivement, il y avait quand même cette idée à travers les systèmes de valeur qu'on appelle hippie. Mais en tout cas, les systèmes de valeur ont orienté vers des formes de liberté et dégalité. Ça a complètement disparu. C'est sûr. Je pourrais parler de l'inératif. Moi, je veux bien dire. Bien sûr. Sur l'inératif, la question du contre-inératif. Vous disiez l'endernier? Je vous laisse la parle. Il faut battre le techno-capitalisme sur le terme de la promesse du désir. Oui. Parce que je suis écrue à une science-fiction. Donc, évidemment, j'étais nourri, bibronné, complètement fédérémentalement par le cyberpunk. Et le cyberpunk, c'est-à-dire que si tu regardes simplement ce qui apparaît dans les 70s, cyberpunk, c'est une promesse. Et cette promesse, c'est-à-dire, l'être humain, couplé à la technologie, va vivre des expériences intenses, extraordinaire, va croire de sa liberté, va s'émanciper par ce couple-là, je sais pas cette articulation de la technologie. Tu peux dire, en partie, ça a été vrai, puisque dans l'émergence d'internet ou même du smartphone, le désappli, t'as un accès au savoir mondial, t'as un accès à quasiment tous les films existants que je m'en suis. Donc, tu peux dire, il y a des facteurs d'émancipation qu'on lui veut. Mais en réalité, si tu es vraiment objectif, tu retombes vraiment d'un tourstérataire, tu te rends compte que les mécanismes d'auto-addiction, d'auto-alination, amenés par ces outils, ont été bien plus puissants que les emancipations qui prétendaient à porter. Moi, je défend un autre narratif, mais voilà, comme au terrain de transmission, il s'est un peu bizarre. Je défend le narratif du bio-punque, mais le bio-punque, au sens où je considère que c'est le renouement avec les forces du vivant, avec le monde animal, avec le monde végétal, avec les biotains, avec les rivières, que les forêts, etc. Ce que je fais dans mon école lieu, les colles vivants là-haut dans les abeaux de province, c'est-à-dire de retrouver ce lien avec le vivant, de retrouver une intensité de lien avec ce vivant et de s'ouvrir. Je pense que ça, c'est vraiment emancipateur, et c'est réellement libérateur. Voilà. Et que la promesse caménie à ces lultimes points tout en haut de cette idée que, en scouplant avec la technologie, on va arriver à une humanité plus vaste, plus l'art se vous ouvert. Ça veut dire que le pro-apas malheureusement. Le contre-on-arratif, j'arrive à l'ombre, c'est le low-tech, comment on l'appelle, c'est ça, pour vous le contre-onarratif, il faut qu'il y ait un autre qui soit. C'est plus complexe que ça, parce que, par exemple, sur le vivant, si tu regardes, la science etothéologie, c'est-à-dire l'étude du comportement animal et beaucoup plus fines aujourd'hui qu'elle était, il y a deux ou trois siècles, c'est-à-dire qu'on arrive à comprendre des comportements animaux des perception animales qu'on ne saisissait absolument pas avant. Donc, ça crée des types de liens et d'attachement, notamment avec les animaux, mais ça appelle les animaux domestiques, mais aussi la fonte sauvage, mais aussi le rapport végétal, etc. On comprend des choses dans la sensibilité, dans la perception, dans la capacité, par exemple, métamorphique, calarbres de positionner ces feuilles, etc. en fonction de son milieu. C'est des choses qu'on ne connaissait pas avec ce degré de finesse avant. Donc, on arrive, on se sert de la science aussi, pour arriver à un mode de relation avec les vivants. On est des vivants parmi les vivants, acceptons-le, vivons-le comme ça et développent toutes ses interdépendances, tous ces liens, parce que c'est ces liens qui ne rendent plus ample. Et moi, quand on parle de pouvoir et de puissance, j'aime pas utiliser le puissance du mauvais côté, j'en vais dire, ce qu'on auvant, c'est du pouvoir, toujours du pouvoir. Et liens, nous vend le super pouvoir, nous vend le surplus pour l'envers. Moi, ce que je crois qu'il faut qu'on développe, c'est la puissance. Et la puissance, c'est la capacité à percer, verré comme son être, dans son être, comme l'on l'a dit, c'est très bien ce pays, ce fameux colatus, capacité au bout de ce que tu peux, mais avec tes propres forces, ta propre imagination, ton propre corps. -J'ai envie de aller contre. -Ana l'ombert. -Ana l'ombert. -Ana l'ombert. -Ana l'ombert. sur la technologie, c'est un questionnement de société, c'est un questionnement effectivement d'industrie, c'est un questionnement d'économie, manière générale et de comment est-ce qu'on habite le monde? Et c'est vrai qu'aujourd'hui, on a cette question-là qui est à peu près partout en réalité. Même dans notre manière de trouver des réponses qui aujourd'hui, ben vous êtes à unis, c'est le Trumpisme, voilà, en Europe, on essaye de se poser la question, mais quelle est la troisième voix, entre guillemets, on n'arrive pas à répondre à cette question-là, mais au final, c'est vraiment comment on habite le monde, c'est ça la vraie question. Et ça fait penser à ce que j'ai situé, il y a eu une jour au début des missions qui dit, en janvier dernier, enfin le mois dernier, l'Europe doit se rêver, on en parle surtout, surtout les sujets, on a souvent cette phrase, alors c'est pas cette situation là, mais c'est l'enjeu européen, peut-être de trouver le modèle alternative? Objetion, enfin, je t'arrête avec l'Afrique, parce que j'en parle de l'autre, mais une personne que je cite aussi, c'est s'appelle Kate Calo, elle veut envoyer des propres satellites pour que les Afriquants puissent avoir leur propre données, parce que les agriculteurs n'ont pas assez, elle ne veut pas devenir une nouvelle colonie numérique, mais effectivement, je consacre un seul chapitre au français dans le livre, mais ce sont uniquement des français qui ont décidé de quitter les big techs, donc ils ont gros qui ont divisé leur salaire par 10%, pour justement redonner du sens à leur formation, l'Europe, toute sa richesse culturelle, un tout petit mot quand même, parce qu'on n'en a peut-être pas assez parlé, on a une richesse scientifique française, moi ce sont les. C'est quand j' voyage, ou quand je parle avec Arabine Srinivas, donc le co-createur indien de Perte-Texitie qui vient à Paris, il m'ocite ferma la voisie pour encarrer, il est connu mieux que moi, il m'est dit mais aujourd'hui, il m'ocite les scientifiques. - Tu connais peut-être que? - Non, mais non, mais non, mais c'est génial, ce que je veux dire, c'est que. Non, mais je veux dire si on veut se libérer, se réapproprier, ne pas devenir une colonie numérique, on doit s'appuyer sur des scientifiques qui doivent être, à mon avis, connu autant que des rockstar, ça va commencer par ça. Je vous ai beaucoup parlé de science ouverte, on ne sait vraiment être un pré-roquie, c'est-à-dire qu'on ne peut pas laisser des petits gars dans des laboratoires ne pas publier le recherche, c'est le BABA, et donc je pense qu'on a moins d'argent, mais on a ces trichesses culturelles et on peut peut-être s'appuyer là-dessus en plus de mieux communier avec les arbres, c'est une bonne idée, je vais bientôt faire ça. On va rendre l'entente, les amis, merci beaucoup, merci pour cette discussion passionnante. Guillaume Graley, pionnier votre livre, on a pas mal parlé, voyage au frontière de l'Integence Artificial, publié chez Gracé, préduise d'économie 2025. Merci d'être venu. Merci à vous, je vous le abînais, le prochain livre, on n'a pas encore. ça c'est l'ancien, voilà. Grin Ia, l'Integence Artificial Services du Climab, publié chez Oudija Cobb, et le prochain s'appelera, le péril Ia, avec cette question que j'ai déjà oubli, vous allez me le remerder, de la simulation ou l'autonomisation d'ailleurs. Merci beaucoup, merci au Pédicolio. Je vais au politique du numérique, l'imperialisme n'a pas de géant publié aux éditions de l'atelier. Anne-Alombéra Vodani, s'appelle de la Bétise Artificiale, publié chez Alia, et merci à l'indamazieux d'être venu la vallée du Cilissium. Je crois qu'on n'a pas la bonne. Ah si on a, bravo les gars, la bonne couverture, la version livre de poche chez Foli-OSF. Merci infiniment de nous avoir suivi. Toutes la semaine, on se retrouve lundi pour un nouveau numéro de ce soir. Ciao!