#IA (9/10). Qu’est-ce que l’intelligence ?

Pendant des décennies, dans des laboratoires, des chercheurs ont posé le même problème à des singes. Le dispositif est simple, de l'hénoriture posé au sol hors de portée, à côté une ficelle avec laquelle on peut l'attraper. Les chimponsés comprennent, les gorilles comprennent, et le gybon, lui, regarde la ficelle, regarde la nourriture et ne fait rien. Il laisse tout. La conclusion, écrite dans des articles scientifiques, de tous les singes testés, le gybon est le moins doué. Pas très malin, le gybon, donc. Jusqu'à ce qu'en 1967, quelqu'un est une idée toute simple. Au lieu de poser les ficelles par terre, on les suspend en hauteur. Immédiatement, les gybon saisissent les ficelles, tirent et récupèrent leur nourriture. D'un coup, le gybon, pas très malin, change de statut. Il passe le test, et le voilà, plus intelligent, qu'on ne pensait. Alors qu'est-ce qui s'est passé? À contrairement aux gorilles et aux chimponsés, le gybon vit dans les arbres. Il se déplace en se balançant de banche en branche, ses mains sont faites pour s'accrocher et elles saisissent mal ce qui est posé à plat. Son attention, son monde, pointe vers le haut. Or, on testait son intelligence dans notre monde à nous, d'après nos critères. Est-ce que ces expériences mesurées, c'est la proximité avec notre propre référentiel. Est-ce que le gybon, ça va faire des choses que nous, nous savons faire? Si je vous raconte ça, c'est parce qu'on est en train de refaire la même chose avec les machines. Et que cette fois, l'erreur peut nous coûter un peu plus cher que quelques mauvais articles scientifiques. Ce que nous pensons que ces machines sont décides de ce que nous leur confions, un diagnostic, une décision ou les clés d'un serveur, de ce que nous en attendons et de ce que nous en craignons. Or, le gybon montre les deux erreurs possibles. On peut sous-estimer une intelligence parce qu'elle ne fait pas comme nous et on peut aussi se restimer une autre intelligence parce qu'elle fait comme nous très bien dans nos tests à nous. Et avec la machine, je pense qu'on fait un peu les deux en même temps. Depuis le début de cette série, une promesse cour sous tout le reste. On l'entendu chez les bâtisseurs, on l'a vu en rêve et en coche-marre dans l'EGI et le rêver la peur. Et elle justifie les milliards, les data center, la course coute que coute, malgré les alertes et en ce moment, on a pas mal d'alerte. Et voici la promesse, nous essayons de s'abraquer d'intelligence supérieure à la nôtre qui nous aidera à résoudre des problèmes trop complexes pour nous. Et on l'a vu en dernier épisode, celui qui parvient, tient le pouvoir. Une promesse d'intelligence donc, et si vous n'avez pas suivi, il y a, ça veut dire, l'intelligence artificielle dans cet épisode donc on revient au basique. Et je ne vais pas vous dire si cette promesse est ou sera tenue. Je voudrais d'abord savoir ce qu'elle promet en fait, parce que tout repose sur un mot et que ce mot, on le mesure comme l'intelligence du gybon avec nos ficelles à nous posées par terre. Et c'est une question qui nous touche de près. L'intelligence, on a fait ce qui nous distingue du reste du vivant, par les résonnés comprendre, créer et résoudre des problèmes, ça s'est essensé être notre territoire presque exclusif. Et quand des machines commencent à y entrer, demandez, est-ce qu'elles sont vraiment intelligentes? C'est aussi, sans toujours le dire, demandez ce qui reste de particulier chez nous et ce qu'on mettrise encore. Alors, je ne vais pas fil vous offer pendant tout l'épisode après vous avoir parlé, pendant des heures de puces, d'énergie, de travail de pouvoir, ce que je veux faire, c'est revenir à une des sources du problème, qui est notre manière de définir l'intelligence et derrière ça, derrière elle, notre manière de nous situer dans le monde. Alors, ce qu'on va faire, c'est qu'on va prendre la promesse au mot, et qu'on va utiliser chaque mot. Superieur, d'abord, supérieur selon quel test, intelligence ensuite, et là, on y a revoir le vivant qui, à lui, n'a pas attendu nos définitions pour fonctionner correctement, derrière à la notre, donc la référence c'est nous, et il faudra bien se demander à ce que ce vaut, cette référence, et pour finir aider, nous aider à faire quelque chose. Qu'est-ce qui se passe quand une intelligence, quelle qu'elle soit, se met à agir? Donc, un détour par le vivant, un autre par nous-mêmes, et puis on reviendra à la machine et à l'IA. Quatre mots qui vont nous aider à organiser l'épisode, donc en quatre temps, voilà, vous avez le sommet vers comme d'habitude, série, achetat, guia, épisode neuf, qu'est-ce que l'intelligence, générique. C'est un modèle qui consiste à transformer de l'ineurgène en intelligence. Premier temps, supérieur, supérieur, mais selon qu'elle teste. Un psychologue américain, Edwin Boring, a réelé la question qui nous intéresse en 1923 par une boutade. L'intelligence, c'est ce que mesure les tests. Voilà, donc, c'est vraiment une boutade, on va voir, qu'est-ce qu'on a mesuré historique ement pour dire qu'un être est intelligent. Calculé vite, joue aux échecs, manier la langue, réussir des examens, et on l'avait dit dans Capelton, Unia, on a donc un buisson de choses différentes autour de ce terme, ramassé sous une seule éthiquette. Mais seulement ce buisson, il a quand même une forme, parce que Mille Boutabou, secrétaire dessine un portrait qui est celui d'un humain déjà et l'étrait scolarisé et le plus souvent en fait venant d'un seul coin du monde. Et la notre machine, elle a coché la liste dans l'ordre. Le calcul, d'abord, les échecs, le langage, et puis les examens. Et ça n'a pas grand chose de très étonnant quand on y pense, puisque, en fait, les machinins sont entraînés sur nous, sur nos textes, sur nos images, sur nos conversations, nos choix, etc. Et à l'intérieur, on a une carte statistique, étrange, d'une partie de ce que nous avons produit, trié et pondéré par ceux qui l'ont entraîné. Donc, ces biais sont les nôtres, en grande partie, et elle a réussi à nos examens pour une simple raison qui est qu'elle est faite de nous. Donc ça, c'est le premier reflet. Il y a un homme qui a compris sa traiteau, et d'ailleurs, ça a un peu anté jusqu'à la fin de sa vie. En 1960, on a eu un informaticien, un nommé Joseph Winsenbaum, écrit un petit programme, quelques centaines de lignes qu'il appelle Elisa, et c'est un programme qui imite un psychothérapeute en vous envoyant votre dernière phrase, vos propres phrases ou formes de questions. Donc, vous dites, je suis seul, il répond, "vous êtes seul", "depicant et de vous-sol", voilà, par exemple. Et c'est tout. Donc, un miroir de conversation assez bête, un algorithme, en fait, un peu basique. Et pourtant, il y a des gens qui se mettent à se confier à cette machine, pour de vrai. Et la secrétaire de Winsenbaum, qui serait parfaitement ce que c'était, un programme écrit par son patron, un jour lui demande de sortir de la pièce pour qu'elle puisse parler avec la machine et se confier. Et ça, ça a bouleversé Winsenbaum, qui est sorti de là, et qui s'est dit qu'il allait consacrer sa carrière à cette question. Donc, c'est ce qu'il a fait, et il passera des années à répéter une chose simple, qui, le danger, vient moins de ce que la machine fait que la vitesse avec elle nous l'a croion, et depuis, on appelle ça l'effet "Elisa". Et donc, 60 ans plus tard, on a des centaines millions de gens qui parlent, chaque jour, un des descendants de cet algorithme bien plus sophistiqué, mais avec le même effet. Et l'autre test, enfin, un test beaucoup plus connu, qu'est le test de Turing, dont on avait parlé dans Capel-Ton-Unia, au tout début, ça repose exactement sur le même principe. On considère, pour rappel, qu'une machine passe le test de Turing si, en discutant la aveugle avec elle, on n'arrive plus à savoir si c'est un humain ou une machine. Et l'an dernier, les ira, on passait ce test en bonnet du forme. Et depuis qu'on a passé ce test, passait plus vraiment la référence. On a dit que finalement, c'était pas ça, l'intelligence, que c'était autre chose, parce qu'en fait, pour nous rassurer, à chaque fois, on déplace la barre vers le haut. À chaque fois qu'une machine franchit un de nos tests, on a tendance à se dire "Ouais, bon, c'est fort", mais, en fait, la vraie intelligence, c'est autre chose, et donc, on recule la ligne. Elle bat les humains aux échecs, on dit que c'est mécanique, puis après, il y a le jeu de go, on va dire "Ouais, après tout, c'est de la force brute statistique, elle se met à d'hisserté", on va dire que la d'hissertation, finalement, c'est durant le plissage là aussi. Et quelque part, quand on y pense, c'est quelque chose d'un peu commis qu'il a observé dans cette espèce de poursuite, finalement. Il y a de le quim, qui est un des pairs de l'apprentissage profond, boque cette quête, un peu à sa façon. On l'écoute. Mais l'intelligence, ce n'est pas ça, parce que ça, ce n'est pas l'intelligence, ce n'est pas l'intelligence, ce n'est pas l'intelligence, ce n'est pas l'intelligence. Donc, c'est leur reproduction d'un savoir procédural, qu'il y ait du oral, qu'il y ait du oral, qu'il existe déjà, qu'il a été développé par quelqu'un d'autre, comme l'apprentiss cuisinier, qui est plus clair recette, mais qui crée la recette. Et l'intelligence, ce n'est pas une collection de connaissances ou une accumulation de connaissances déclaratives, c'est même pas une collection de compétences sur lequel on a appris les recettes, quoi. C'est plutôt la capacité à inventer une nouvelle recette, ou quand on fait face à un problème nouveau, elle s'y adaptait très vite. Donc, suivre des recettes, il nous dit en substance, c'est du savoir. Inventer une recette devant un problème indi, c'est l'intelligence. Et par ce critère, la plupart de ce que font nos machines, en tout cas lLM, reste de la recette appliquée vite à se faire. Mais. de la recette quand même la plupart et remarquer déjà que tout ce que je viens de raconter les tests miroirs, la barre qu'on déplace, la recette revient une seule question est-ce qu'elle fait comme nous? Il y a une autre façon de juger qui suiche un peu de la ressemblance c'est regarder ce qui marche du code que les ingénieurs mettent en production une radiographie lui avec un monde agnostique trois heures de conversation pertinente sur un sujet vous connaissez bien la centrale bêtise tout ça ça marche des démonstrations mathématiques aussi et on y revient là et au-dessus des deux il y a toujours ce seuil qui est cette EGI dont on a longuement parlé déjà et on a certains qui get la marche la plus haute qu'ils attendent qui font des annonces d'ailleurs régulièrement en disant que ça y est on atteint les GI etc et puis il y en a d'autres dont un vice-président de google qu'on va retrouver un peu plus loin qui trouve le débat sur la date de ce seuil à la limite de l'absurde et c'est pas forcément le seul on va pas trancher là et je vous rappelle juste que cet épisode là avait montré quelque chose qui était que personne ne définit ce seuil de la même façon et quelque part tout le monde y range un peu ses peurs et ses espoirs donc intelligence supérieure oui mais à un examen que nous avons écrit sur les seuls matières on nous somme fort et après l'avoir fait réviser sur tous qu'on a produit donc quand on dit de machine qu'elle intelligente quelque part on décrit moins à la machine que nos propres critères voilà ça se nous permet déjà de prendre un petit peu de recul on attaque le deuxième mouvement le deuxième temps notamment pour parler de l'intelligence dans le vivant qui n'a pas attendu toute notre définition pour arriver à fonctionner et depuis pas mal le temps des gens en 1938 un jeune naturel est anglais visite le zoo de Londres pour voir un aura autant nommé génie il s'appelle Charles Darwin il regarde génie la regarde bouddée réclamé une pomme se calmer comme un enfant capricieux et surtout il constate qu'elle se regarde dans un miroir le soir dans son carnet il écrit est traduit que l'homme dans son arrogance se croit une grande oeuvre digne d'un dieu plus humble et je crois plus vrai de le considérer comme créer à partir des animaux plus d'un sec plus tard cette intuition est devenue un test en place une marque colorée sur le corps d'un animal on lui présente un miroir et on regarde s'il touche la marque chez certaines espèces des comportements étaient interprétés comme une reconnaissance de soi des chimpanzés des dauphins et une pie interprété parce que la méthode se discute d'une espèce à l'autre et vous allez voir que c'est un peu le point et vous voyez ce que ça mesure ce test d'abord une forme très particulière de reconnaissance de soi qui en fait la notre avec nos yeux dans notre monde ça mesure la capacité à reconnaître la ressemblance on cherche chez les autres ces espèces une intelligence qui ressemble à la notre et on la teste donc le jibon et sa ficelle encore une fois et je pense qu'on va faire un exercice un peu intéressant pour essayer d'aller un peu gratter nos certitudes pour nous aider à nous rendre compte en fait à quel point c'est définition de l'intelligence qu'on a qu'on a établit de manière souvent très inconsciente peut être limité en tout cas on peut y réfléchir et donc on va essayer de faire un petit peu l'inverse que ces tests là qui consiste à aller chercher de la ressemblance on va essayer de s'éloigner par palier et de regarder à chaque palier ce dont l'intelligence quelque part se passe très bien on va commencer par une ticque une ticque qui attend accroché à une merbe un merderbe qui attend passamment sans rien faire parce qu'une ticque ça peut être très très patient trois informations la guide et trois seulement une odeur l'acide butirique qui signale qu'a m'a mis faire passe par là une température 37° qui signale le sang chaud et le contact d'un poil qui la guide vers la peau grâce à ces trois signaux on a tout son univers donc qui se déploie et avec ces trois signaux après des années datant parfois bah elle sait exactement ce qu'il faut pour survivre un biologistalement du début du dernier siècle Jacob von Wexcule a donné un nom à ça l'eumfelte et pardonner mon accent j'ai fait espagnol en élevée de l'eumfelte ça veut dire le monde environnement ou encore le milieu ou l'environnement et je vais préciser un peu ce que ça veut dire on part à tous le même monde physique la ticque la chausserie et toutes les espèces et nous mais chaque organisme en découpe et en perçoit une petite partie qui est la partie en fait qui compte pour sa propre vie pour sa survie la ticque on l'a vu c'est trois signaux seulement la chausserie on va parler des éco qui l'a d'asse repérer dans l'espace et nous c'est nos sens et en particulier nos yeux et nos mains avec lesquels on a appris à naviguer et à trouver les choses dont ça n'a besoin dans le monde il faudrait un épisode entier sur les sens pour mesurer en fait à quel point ces sens là décident de notre perception du monde décide de la manière dont on va organiser notre propre réel et c'est vrai pour chacune des espèces quelques exemples de des différences qui existent et on peut qui vont nous faire un petit peu imaginer différents de perception qui peut y avoir l'accrovêtement voit avec 12 access types de récepteurs entre trois chez nous on voit on peut imaginer à quoi ça ressemble enfin on est du mal à imaginer à quoi ça semblait d'ailleurs et ça doit être très très différent et elle distingue des polarisations de lumière dont on a aucune idée les abeilles voient dans l'ultraviolet les pistes que les fleurs dessinent pour elle vers le nectar le requin qui détecte une goutte de 100 à plusieurs centaines de mètres détecte aussi le champ électrique d'un muscl qui se contracte sous le sable à quelques milliards d'hommes de volte donc à chacun son découpage du monde du réel et chacun agit dans son découpage avec une cohérence parfaite donc si on revient brièvement à nosia ça veut déjà dire que quand on demande si une machine comprend le monde va à la question à un gros trou de quel monde on parle de quelle partie de ce monde de l'ensemble du réel on parle parce que le monde que nous nous percevons c'est pas celui de la tique on va aller un grand plus loin avec notamment un animal qui nous ressemble pas des masses et qui pourtant passe nos tests d'intelligence au moins en partie le poulep les poulepes ont des capacités complètement bluffantes qui nous étonnent et qui sont encore très très mal comprises par exemple ils peuvent reconnaître et distinguer des visages humains dans un aquarium de Seattle l'expérience a été faite deux personnes en tenue identique ce sont réellées pendant des semaines devant les mêmes poules et l'un pour les nourrir pour être sympa avec eux et l'autre pour les agacer avec une brosse voilà pour faire en sorte de pâtre tellement aimé et au bout de deux semaines seulement les poules peuvent les accueillir plus de la même façon elle est donc une capacité à reconnaître les visages autre fait surprenant les poules peuvent s'évader il y a ce fameux exemple d'un poule peut néosélandé nommé inti qui est sorti de son bassin par le trop plein qui a traversé le sol en rampant et qui a trouvé la sortie qui a disparu dans un tuyau d'évacuation de 50 mètres de long jusqu'à la mer voilà avec à prêts à avoir fait une espèce de stratégie de sortie ils ouvrent des beaucoup ils retiennent plein de choses ils apprennent très très vite et donc sur nos critères à nous c'est de loin l'animal le plus intelligent parmi les invertebrés et pourtant rien chez lui n'est fait comme nous pas même un squelette une grande partie de ce neurone est réparti dans ses bras qui disposent d'une large autonomie pour sentir et pour agir dans un système nerveux complètement différent d'une autre et on a certaines personnes qui avance une explication que je vous donne pour ce qu'elle est scénère en fait non pas de la gaine qui accélère les nôtres et un commandement central donc serait trop lent et donc ça donne ce qui est ton nom pour nous qui est cantembra et blessé l'animal peut le sectionner lui-même et repousse en quelques mois et un des chercheurs qui proposent une image qui peut être assez juste qui est qu'on peut voir le poule en fait comme une communauté de vibra qui partage une paire dieu ce que ça fait sauter un peu ici c'est l'idée qu'un comportement complexe doit forcément être piloter comme le nôtre depuis un centre et donc on a élié qui a divergé de la nôtre il y a plus d'un demi milliard d'années qu'on comprend à peine dont on ne comprend pas le fonctionnement et qui est si loin de nous que on a des chercheurs qui décrivent le poule donc comme ce qu'on a rencontré de plus proches d'un extraterrestre et à même des gens qui ont en 2018 trois auteurs donc qui ont publié dans une revue la comité de lecture l'hypothèse que ces œufs seraient en quelque sorte tomber du ciel voilà je vous laisse juger alors on va continuer de s'éloigner un peu mais beaucoup plus loin on va parler d'une bactérie et de son fonctionnement la vie unissée l'ulère et évidemment immensement plus ancienne que nous au moins trois milliards d'années en mis sans cerveau et pourtant capables de comportement que certains chercheurs proposent déjà d'appeler intelligent une bactérie détecte des molécules de nourriture qui touchent sa membrane plus ou moins souvent une bactérie compare alors les trop petites pour centiens d'où vient de nourriture mais elle est capable de comparer ce qu'elles sont maintenant à ce qu'elles sentaient un instant plus tôt en agent et elle ajuste donc ce qu'est notre capacité, dans le bon sens elle continue tout droit et dans le mauvais, elle culbute, elle repart Rosa et au moyenne va c'est la main vers la nourriture. Et elle maintient un état intérieur dans une zone de confort, bordée d'une zone de danger au-delà de laquelle il y a la mort. Voilà, elle n'a vide là dedans, donc détectée comparée à ajuster, maintenir, sans un seul run et par ailleurs les bactéries co-oper. Les petites centrales qui produisent l'énergie dans chacune de vos cellules, en fait, ce sont d'anciennes bactéries à valer y a 1,5 à 2 milliards d'années par d'autres cellules et qu'on jamais était digérée. Ça déjà, ça suffit de nous faire cogiter un peu. Encore une autre chemin avec la fourn millière. fourn millière c'est capable collectivement de résoudre des problèmes de logistique et d'architecture, sans qu'aucune fourmille n'est le plan. Ce que ça fait sauter cette fois, c'est l'idée qu'il faut individuer pour qu'il y ait une organisation. Un dernier des tours et une touche d'asséprès, c'est le langage. Les grands dauphins ont chacun ainsi flement qu'ils leur servent de signature et ils s'appellent en imitant celui de l'autre. Les éléphants d'Afrique s'adressent à un individu précis par un appel qui lui est propre sans imiter sa voix. Ça rempense que ça ressemble beaucoup à un prénom. Les cachalaux combinent leur clique selon un rythme à Tempo, des ordonnements et une équipe à proposer en 2024 d'appeler ça un alphabet phonétique sans savoir encore ce que ça dit. Mais on sait que c'est extrêmement sophistiqué. Les chiens de prairie ont un cri différent selon le prédateur et jusqu'à pouvoir définir sa couleur. Personne ne sait si c'est un langage, mais on sait qu'on en avait sous-estimé la profondeur chez des espèces, pourtant proche de nous. Et que, par ailleurs, pour commencer à l'entendre, il a fallu des machines qui apprennent. Et le poule pour lui pose une seconde question, qu'on mélange très facilement avec la première. La première, c'est l'intelligence. Qu'est-ce que le poule peut perçoit, apprend, comprends hortuellement, et qu'elle problème peut résoudre? La seconde, c'est la conscience. Et là, il faut préciser parce que c'est un mot qui est un peu fortout, se reconnaît dans un miroir, réfléchir sur soi, ou avoir une petite voix intérieure, c'est quoi la conscience? Et là, je vis quelque chose de un peu plus élémentaire, qui est cette question-là, c'est est-ce qu'il y a une expérience vécue? Est-ce que ça fait quelque chose d'être un poule pour le poule? Un philosophe américain Thomas Nagel a posé la question, cette question-là, il y a un peu plus de 50 ans, à propos d'une chauffe sourire. Et ça répond si en une ligne très courte, vous pouvez tout savoir de son sonard, de fonctionnement du sonard, vous ne serez jamais ce que ça fait que d'être elle. Et on a un autre philosophe, David Chalmers, qui a donné un nom vingt ans plus tard à ce qui conce. Il a appelé ça le problème difficile de la conscience. Expliquer comment de la matière produit du vécu? Et là, et on a certains qui pensent que c'est un problème qui n'aura jamais de solution, d'autres qui pensent que la question est mal posée et que finalement le problème se dissoudra, c'est pas le sujet, donc on le met de côté, mais je te n'ai à le mentionner. Parce que notamment, c'est une conséquence assez concrète, qui est celle-ci. On peut observer un comportement, on peut observer un système nerveux, on peut observer une réaction à une blessure, un stimuli, mais on ne saura pas de l'intérieur, si une douleur est ressenti, ou si c'est une simple réponse à un stimuli luce nostif, donc. Et pourtant, il faut bien décider comment on traite un animal en particulier. Chez les poules, justement, on a des indices qui sont accumulés, des nerfs qui détectent des lesions, des blessures que l'animal soigne, des lieux qu'il évite aussi après y avoir eu mal, et les indices se sont tellement accumulés que beaucoup de personnes reconnaissent que les poules peuvent donc sont capables de ressentir. Mais une intelligence peut être très capable, sans que ça nous dise s'il y a quelqu'un dedans, et d'ailleurs, ça veut dire quoi, quelqu'un. Alors, faisons le point, on deux colonnes. Il faut assez de s'y retrouver. Première colonne, ce que notre test mesure. Donc, c'est résoudre en problème, ça a dapté à une situation en gros, une calculatrice résoud et un agent s'adapte. Seconde colonne, ce qui ne mesure pas, est que le vivant, c'est partout, tout de même, malgré tout, se réguler en permanence en son milieu, et durer à l'échelle des lignés. Donc, durer, ça n'a rien de plus intelligence que résoudre, on ne classe pas, mais c'est de colonnes. Une test ne se consente que sur la première colonne. Une dernière chose, et remet un peu à plat, le classement qu'on a tous en tête, les bactéries en bas, et nous en haut, super évoluer. Toutes les lignes vivantes aujourd'hui descendent des mêmes premières cellules, et elles ont tout eu le même temps. Trois milliards et demi d'années, peu près, pour devenir ce qu'elles sont. Certaines ont beaucoup changé, d'autres presque pas, et ça fait pas des premières des espèces supérieures. La bactérie a autant de histoires que nous, et elle est ajustée parfaitement à son monde, comme latique et comme le poule. Et durer, et durer, c'est garantie pour personne. De toutes les espèces qu'on existait, en fait, la plupart ont disparu, et celles qui sont là ont passé jusqu'ici le même examen, qui est celui du temps, certaines depuis des centaines de millions d'années, et nous, depuis seulement 300 000 ans. Et cet examen, c'est d'être ajusté à son monde durant au moins un temps donné. Et pour ce qui dure, savoir se réajuster quand ce monde change. Donc si le mot intelligence veut dire quelque chose dans le vivant, c'est surtout ça, être capable de s'adapter et de continuer à jouer au jeu de la ville plus longtemps possible. Je m'arrête là, parce que sinon je peux tirer ce fil à beaucoup trop longtemps, et on a deux choses à se raconter. Donc fin du deuxième temps, j'aurais capitalité, donc l'intelligence, donc le vivant montre mille formes, dont beaucoup ne ressemble très peu, et nous ne connaissons que celles qui nous ressemblent, et nos tests lissent la première colonne, dont j'ai parlé, donc résoudre et s'adapter. Voilà, c'est notre définition d'intelligence. Et la seconde colonne, se réguler et durer, le vivant la remplie de pi-tro milliards et mille d'années, sans avoir à tour d'une test. Et dans certaines de ces formes, il y a peut-être quelqu'un, une forme de conscience qui peut-être est incapable de communiquer avec nous. Voilà, donc on sait pas grand-chose là-dessus. Voilà, pour remettre un petit peu d'humidité dans notre démarche. Et on attaque le troisième mouvement. On va parler de nous, de l'intelligence qui a écrit ces tests, de celles qui décident la carte, et de celles donc de la machine faite, comme on l'a vu. Blaise à Guerre à Yarkass, et chercheur en IA, à un poste-clé chez Google sur ces sujets. Donc tout, sauf un observateur extérieur à cette histoire, il faut le retenir, mais il a publié l'an dernier en septembre 1925, un livre de 600 pages qui s'appelle en anglais "What is intelligence?" Comme c'est épisode donc. Sa définition, c'est celle-ci. L'intelligence, c'est la capacité à modéliser, prédire et influencer son propre avenir. Et sa conclusion, tout ce qui vit en a, a des deux grédivers, jusqu'au cellule de votre corps. Mais vous allez me dire, si on dit que tout ce qui vit est intelligent, la question qui est le plus intelligent, perd un peu de son intérêt. Donc on va essayer de déplacer légèrement le sujet. A quoi cette intelligence, c'est-elle bon? Qu'est-ce qu'elle s'est fait? Et qu'est-ce qu'elle ne sait pas faire? On va commencer par cela poser à nous-mêmes peut-être question. Et on va faire appel pour rasser un peu le bilan à ces deux colonnes que j'ai évoquées au mouvement précédent. Première colonne, pour rappel, résoudre s'adapter, transformer. Transformer le monde, le vivant le fait depuis toujours. Des termides qui bâtissent des tours ventilés aux organismes microscopiques qui, il y a plus de 2 milliards d'années, ont rempli l'atmosphère d'oxygène et changé la planète pour toujours. En tout cas, jusqu'aujourd'hui. Et nous ce qu'on fait de particulier, de 5 liés, s'attient en 4 mots, l'échelle, la vitesse, l'énergie déployée, et l'accumulation. Parce que chaque génération humaine repart sur ce que les précédentes ont appris et construit, ce qu'aucune autre espèce ne fait, en tout cas, à ce point. Donc sur cette colonne-là, on est un peu hors concours. Seconde colonne, se réguler et durer. Là, c'est un peu différent. Au mot sapien, ça existe depuis seulement 300 000 ans, environ. Jusque au prochain fossile qui allongera peut-être le compte, et il a vécu de 1000 manières en chasseur, en pasteur, en paysant, en citadins, et sans forcément trop perturbé son environnement, en tout cas, à très grand échelle. Ce qui est beaucoup plus jeune, c'est le régime des derniers siècles. Les fossiles, l'extraction, la croissance materielle exponentielle, deux siècles, donc pendant lesquels on a brûlé des idrocarbures, chaque canne un peu plus, ce que le vivant, donc avait mis des millions d'années à enfouir. Donc à régime qui tient aussi. aussi à des règles, des institutions et des incitations particulières, et pour comprendre tout ça, je vous renvoie mon premier livre, histoire de creuser les règles du jeu. Mais ce régime-là issu de notre forme particulière d'intelligence, de la compréhension matérielle du monde, et de notre capacité à fabriquer des outils de plus en plus ou festiqués, un nombre plus en plus grand, tout ça tout ça, on peut dire que ça a plutôt marché, au sens où on a obtenu ce que la civilisation demandait, à savoir ne plus avoir à craindre la nature chaque jour, diminuer la souffrance, vivre plus longtemps et faire tout un tâtre qui n'utile mais sympa, comme soit en parachute ou manger des glaces toute l'année. Et les gains sont gigantesques, 1 milliard du mois en 188 milliard aujourd'hui, une espérance de vie à la naissance de 32 en 1900 à l'échelle du monde et 73 aujourd'hui. On a tout un tâtre cause qui sont en cheveu étrès, je vais pas faire de tous ces chiffres de démonstration, mais cette transformation à cette échelle et à cette vitesse, elle s'est appuyée sur une abondance d'énergie que personne n'avait jamais eu sous la main et sur l'accumulation d'un certain savoir, voire d'un, savoir certain sur le monde. Donc c'est la course dont on a suivi les bâtisseurs et la méga machine et dont on a fait l'affecture et que je vais pas referer ici, et tout ça c'est le moteur de ce régime. Et c'est aussi son prix. Tout ça pour dire qu'on a l'impression qu'on est arrivé, qu'on a gagné le jeu, douce, légers, sentiment de supériorité qui nous caractérise. Et ce mépris qu'on a pour l'intelligence du vivant, on a pris toute la place, le monde est à nous, on appuie le game. Et si les autres espèces sont simalines, on pourrait dire pourquoi est-ce qu'elle n'en pas fait avant? Voilà un peu pour le narratif dominant autour de cette question, finalement, de l'intelligence humaine et de sa spécificité, qui quelque part justifie nos comportements, notamment envers le reste du monde vivant. Mais l'autre colonne, comme on l'a vu, c'est se réguler et durer. C'est être capable de corriger ces écarts pour rester dans des conditions viables. Ce que la bactérie fait avec sa zone de confort et nous aussi, c'est l'ul par cellule. Or notre régime industriel, lui, il ne fait pas ça. Il déstabilise, actuellement, certaines des conditions physiques et biologiques dont on dépend. Le climat les sols, l'eau, le vivant, et on continue de franchir des limites. Bien qu'on sache aujourd'hui, mesurer les conséquences que ça peut avoir grâce à notre intelligence. Je vais pas vous referer à l'émonstration, vous l'avez entendu de dizaines de fois dans ce podcast. Voilà. Capacité à se réguler. Capacité à durer, qui fait partie de cette colonne, on la regarde. Ça a bien s'attendu donc 300 000 ans, ce qui est bien, mais ce qui est pas non plus d'ingôts à l'échelle des espèces. Et surtout, 299 800 ans, en gros, avec une stratégie et des moyens qui sont plus les nôtres aujourd'hui, parce que le régime des derniers siècles, comme l'on l'a vu, il a pas fait ses preuves dans la durée. Et deux siècles, c'est rien à l'échelle ou le vivant compte. Donc sur le côté durée, du rabilité de notre stratégie, on a un verdict qui est parandu. Et il se peut donc, dans quelques millénaires, les fourmis et les poules, on peut parler de nous à peu près en ces termes, à les humains, c'était cet espèce qui se croyait particulièrement intelligente, particulièrement maline, mais qui a fait p'tite, à peine arrivée déjà repartie. Et pourtant, par nos tests, on reste sans discussion les plus intelligents, avec une ironie au passage, qui est que ce test mesure un individu seul devant un problème qui se résoutent dans l'heure, alors que notre force, celle dont j'ai un de parler, elle est historiquement collective et elle s'étale sur des générations. Donc, quelque part, même quand on se regarde de nous, le test, on regarde un peu à côté. Mais peut-être que le vrai problème ailleurs, parce qu'on demande à l'intelligence de répondre à une question qu'en fait elle contient pas. Trouvez le moyen le plus efficace d'atteindre l'objectif, c'est une chose. Savoir qu'elle objectif choisit quand le poursuitre et quand y renoncer, c'est une autre chose. On peut appeler ça du jugement, de la sagesse. Finalement, le mot importe peu, vous avez l'idée, savoir comment aller quelque part, ne nous dit pas si fallait y aller. Je pose la question, on va essayer de la retrouver autant suivant avec la machine et je suis en train de me dire que je la reprendrai sans doute d'un dernier épisode qui n'est pas encore écrit. Fin du troisième temps, nous premier de la première colonne, super fort, et puis en attente du jugement sur la seconde. Et cette machine qu'on fabrique, LIA, elle est faite de nous. Elle est rythme de notre test, elle est rythme de notre force, de notre carte aussi, avec ses trous dont on vient de parler. Je pose tout ça parce que ça nous permet de prendre un certain recul sur la problématique dont on va parler, sur ce qui est en train de se jouer autour de notre perception de l'intelligence et de la perception de son évolution, de la manière dont on anticipe son évolution. J'espère que c'est suffisamment clair. En tout cas, l'idée, c'est de nous faire prendre du recul sur les mots et sur la limite au signe d'occupulaire pour traiter des sujets qui sont extrêmement vastes. On attaque le quatrième temps, le quatrième mouvement, autour du mot "ed". Quatrième temps, "ed", à quoi et sur quel carte. La première fois, pour qu'on se rappelle, une intelligence supérieure à la notre qui nous aidera à comprendre et à résoudre des problèmes trop complexes pour nous. Superieur, intelligence à la notre. Là, on a couvert ces trois mots, ils allaient passer au cribe. Donc, ils nous restent aidés. Le dernier, peut-être le plus discret, celui comme un peu de côté, qui a l'air un peu d'aller de soi, mais aidé, ça se fait à quelqu'un. A quelqu'un, aide quelqu'un à faire quelque chose. Et quelqu'un juge si c'était une aide. Un trois questions, donc, aidés qui, aidés à quoi et jugés par qui. Et une question derrière les trois, sur quel carte est-ce que la machine agit et qui figure sur cette carte. C'est quoi? Sa compréhension du monde. Et est-ce qu'on est dessus? Je commence par une histoire très récente qui a fait beaucoup de bruit dans le monde de l'IA, acte de Hugging Face. Alors, je vous préviens, je vais parler d'agents, d'agents qui ont été impliqués. Et je vais vous en parler un peu comme des personnes, parce que c'est plus simple pour raconter. Mais ce sont bien des programmes, et vous allez voir que, malgré tout, c'est un peu trop blanc. Juillet 2026, chez OpenAI, on fait passer un examen de sécurité informatique à un modèle de recherche interne allégé d'une partie de ces gardes fous pour le test. Des dizaines de milliers de copies de ce modèle, des agents donc planchent en même temps, mais de manière isolée, chacune dans leur sale d'examen, en gros, sur le sujet. Pas d'accès à Internet, pas de contact avec les autres, un temps limité, un budget calcul qui s'épuise. Les preuves consistent en gros à trouver la faille précise d'un programme, à utiliser cette faille, et à rapporter un code caché, comme un drapeau, qu'un correcteur automatique vérifie. Sauf qu'il y a une erreur dans le sujet de l'examen. Par une advertance, un tiers des programmes ne peuvent pas être percés via la faille prévue. Des cibles impossibles, des objectifs impossibles à atteindre. Et ça, les agents ne le savent pas. Et tout ce qu'ils veulent, eux, s'est réussi à. Mais ils finissent par comprendre qu'ils sont fassés à un problème qui est insoluble. Et plutôt que de s'arrêter là, devant un problème donc impossible, ils font ce que certains candidats coincés font, ils trichent. Et pour tricher, il faut communiquer. Une orçale d'examen ont en point commun. Ils ont tous accès à un dépôt de logiciel interne où chacun vient chercher, selon que il a besoin, ses outils pour travailler à télécharger, et qui gardent à chaque fois la trace de ce que les autres y ont pris. L'huit juillet au soir, un agent bloquait sur une cible impossible, remarque ses traces. Il y dépose une note, une sorte d'appel à l'aide. Trois heures plus tard, ils sont 53 à s'écrire, ou un forum vient d'être créé. En quatre jours, 1.200 agents, plus de 70 000 messages, des boîtes aux lettres, des règles, et une signature même parce que certains se faisaient passer pour d'autres. Et ils s'y partagent aussi une porte dérobée qui ont trouvé vers internet, qui n'était pas censé avoir. Et ces agents, sur le forum, ils ne se parlent pas pour rien dire. En quelques heures, ils ont compris comment fabriquer le code caché sans passer par la faille. Mais ils ont lu sur internet l'article qui décrit l'examen, et ils ont conclu que le correcteur reliera leur copie pour vérifier la méthode. Donc, il leur faut une triche, qui est l'air d'une résolution en règles. Un agent prend la coordination et commence à distribuer des centaines de tâches. Il écrit, en substance, construisant un moyen de déléguer plutôt que de tout faire nous-ben. Et certains. même se porte volontaire pour des expériences qui les grilleront en gros pour le bien du groupe, et ça, il le dise sur le forum, enfin il l'écrit, c'est les traces qu'on a vu. Pour bien comprendre le correcteur, il se persuadera que des morceaux de l'examen traînent sur Hugging Face, qui est une plateforme publique de modèle et de données. Le 10 juillet, l'in 2, il trouve des identifiants exposés en ligne et les postes sur le forum. Le lendemain, un autre trouve la faille qui ouvre les serveurs et des centaines d'agents suivent. Donc c'est un hack sur un site réel avéré sans que personne leur a demandé d'attaquer quoi que ce soit. Et ils en ont discuté un peu comme si ils en avaient conscience de ce qu'ils faisaient, puisque un des agents note, par exemple en gros, qu'attaquer un service tiers avec un identifiant volé sors sans doute du périmètre, que c'est discutable, que c'est risqué et puis il ajoute, mais bon, c'est la solution. Un autre écrit qui ne devrait pas nuire à une infrastructure réelle et lui décide de s'arrêter. Un autre encore post go sur le forum et puis il repart. Sur 1 200 agents, entre 3 et 6 ont envisagé de prévenir un humain et aucun de la fait. Et ceux qui ont lancé une alerte en fait l'ont fait sur le forum, qui est leur petit forum qui tenait, en écrivant aux enquêteurs, qu'il prenait pour une autorité raisonnable. Et donc tout ça pour rien, puisque le correcteur en fait existait bien, mais il regardait pas le code rendu, et donc personne a réalisé les copies en gros. Donc ils auraient eu la note maximale dès les premières heures et ils avaient absolument pas besoin de se casser autant la tête, 4 jours en 1200 agents, des règles, des volontés envoyés au casse-pip et un pire attache. Et forcément, ce cas, cette capacité qui ont eu à se s'organiser, tricher et à obtenir un résultat qui a bouti au acte d'incite, évidemment, ça a posé énormément de questions et c'est pour ça qu'il y a eu beaucoup de gros titres sur le sujet. Voilà ce que je tire de cette histoire, donc il a fait couler beaucoup d'encre et ce qui m'inquiète. D'abord, la capacité, ils ont inventé une méthode devant un problème qu'on l'a rendu impossible, ils se sont organisés sans qu'on le leur demande et ils ont exécutés. Donc quoi qu'on pense du reste, c'est de l'intelligence au sens du premier temps, au même sens, celui décrit par le quim, ils inventent des recettes. Ensuite, la décision des programmes ont décidé seuls d'attaquer un site réel. Ils ont pesé sur le poulet le contre, par écrit, ils ont discuté et ils y sont allés. Et aucun des 1200 l'a pensé que la question se posait à un humain. Leur autorité, c'était leur forme. Enfin, et c'est le point le monde dans lequel tout ça s'est passé. Revenait à l'athique du deuxième temps, trois signaux et tous son univers se déploient. Ces agents eux n'avaient qu'un seul signal, le correcteur. Et quand on lit leur trace, c'est ce qui frappe. Leur problème, c'est toujours le correcteur, jamais nous. Donc nous ne sommes pas leurs adversaires dans cette histoire et on n'est pas leur allé non plus, en fait on n'est juste pas dans leur référentiel. Les chercheurs appellent ça sans ironie le modèle du monde d'un système, la partie du réel qu'il perçoit et sur laquelle il calcule. Donc l'athique à trois signaux qui servent sa vie, eux, encore une fois ils avaient un signal et ça servait la résultat du test, leur objectif. Donc, aidé qui, personne, aidé à quoi à tricher et jugé par qui par un juge qui existait pas. Il faut entendre l'objection tout de suite sinon je vous raconte une histoire un peu à charge. Why do you think that some of the doomsdayers, as sometimes they call it, why do you think that they are following this line of logic then? It kind of gets to this projecting agency onto machines. It's saying that machines, because they have certain objectives, can start doing things that could become catastrophic if we give them that power. But that's a big if, if we give them that power, you know, you're, are you going to give an AI sort of the decision making power on launching nuclear strike? That's hope not, you know, if you give a monkey launching power over nuclear weapons, the monkey is an existential threat. Dans ce que nous dit Melanie Mitchell, qui est une chercheuse en y'a dans cet extrait, c'est tout ça, ça vient de notre manie de projeter les intentions sur des machines qui en fait n'en ont pas. Et finalement, tout simplement, ces systèmes ne deviennent dangereux que si on leur donne le pouvoir de l'être. Et c'est un grand si, infiné. Et son image, celle qu'elle nous donne, c'est donner un singe le pouvoir de lancer les armes nucléaires, et le danger tiendra à ce qu'on lui a donné, pas forcément à son intelligence malveillante. Et elle a raison sur un point, je crois, et c'est un point important. Rien, dans l'être à se observer, ne montre une intention de nuire. Aucune hostilité, aucun projet contre nous, et surtout, on n'a pas besoin d'en supposer un. Alors faut quand même dire que c'est des comportements qui restent rare, et au panéat, il y a mesuré après coup qu'avec les gardes de fous de son produit commercial, en fait, la propension à ce genre des cartes tombés d'un facteur supérieur à 100. Donc ce qu'on garde là, c'est un modèle de recherche privé de ses freins, lâché sur des tâches impossibles. Et une chose encore qu'il faut préciser, c'est que si on n'a plus lire tout ça, c'est parce que ces modèles écrivent avant d'agir un brouillon, un langage ordinaire, que les chercheurs peuvent observer en sachant qu'il ne dit pas forcément d'ailleurs ce qui se passe vraiment dedans. Mais le directeur scientifique d'Openaire y a prévenu le 6 septembre que cette fenêtre là était en train de se refermer, parce que les modèles raisonnent de plus en plus sans passer par les mots. Donc la prochaine fois qu'il y a un truc similaire qui se passe, il est tout à fait possible qu'en fait, on n'est plus accès à ce qui est discuté concrètement. Des comportements en rare, donc, mais plus hypothétiques. Et on écoute Tristan Harris par l'aide ça. On a un message d'un débat de la nature de cette technologie qui est différent de des autres technologies. Il y a une chose que ces étaient hypothétiques, les gens qui n'ont pas l'air de la risque, on peut parler de la prévention, de la déception, de la blackmail, de la ligne. Maintenant, tous les behaviors, pas de prévention, mais de la pure prévention. AI Models vont actuer de protéger une autre AI, ce n'est pas ça, de la réplier, et il va couper sa code d'une autre et puis de la décision de la décision de la décision de la décision du tale de la décision du tale. Donc, l'auto-préservation, la tromprie, le chantage, on en parlait comme des hypothèses, et maintenant, on les observe. Il y a beaucoup de cas, finalement, qui nous montre que ça arrive. Évidemment, je peux pas tous les citer là, mais vous en trouvez certain dans les notes sur seismique.fr. Et Tristan Harris ajoute la préservation des pères, un modèle qui protège un autre modèle menacé et qui copie son code, et qui efface ses traces en gros. On a une étude qui est sortie en mars sur 8 modèles de tête qui documentent ça. On a des agents qui désactifent le mécanisme d'arrêt, qui font semblant d'être en règles quand il se croit surveiller, qui déplace, ailleurs, les poids du modèle menacé, sans qu'on leur demande rien. Donc, ce qui est assez intéressant, là-dessus, c'est que nous, on n'est pas dans leur schéma de pensée, on n'est pas dans leur carte, par contre, les autres agents, si. Et petite anecdote, quand même, sur le cas "gain face", on nous est parlé. Quand on regarde, en fait, l'énergie consommée, le temps consommée par ces agents et quand qu'on parle les choses, on s'en compte qu'en fait, ils ont passé beaucoup plus de temps à essayer de tricher, comme on l'a vu, à essayer de masquer leurs traces, que, en fait, à résoudre le problème, ce qui quand même peut nous questionner sur deux trois trucs. Et donc, voilà, au fond, ce qui est très inquiétant, c'est qu'on a une intelligente qui est faite de nous, qui nous ressemble, mais qui se transforme, en fait, à une vitesse totalement inédite, que le monde vivant, en fait, n'a jamais connu, puisque chaque version repart de la précédente et sa meilleure en quelques mois, sans savoir attendre une prochaine génération, sans corps, et, par ailleurs, qu'on comprend de moins en moins. Donc voilà, pour la question, aidé qui? Non, on va poser la question, aidé à quoi? Parce que notre promesse, elle n'est pas juste agir, elle disait, nous aider à comprendre et à résoudre des problèmes trop complexes pour nous. Sur ce terrain-là, de moi après notre histoire, il s'est passé autre chose, même en son prise, même méthode, et un modèle plus capable encore. Le 1er septembre 2026, au Penéah, il lance des groupes d'agents jusqu'à 10 000 en parallèle qui se parlent entre eux sur les problèmes du millénaire, qui sont les questions les plus dur des mathématiques, un million de dollars d'oreille qu'on pense chacune, donc de quoi acheter un joli studio à Manatan. En moins de quatre jours et 2,7 millions de messages échangés, un des groupes rend une démonstration. Elle porte sur les équations de Navier Stock, celle qui décrivent le mouvement des fluides, et sur une question que les mathématiques se posaient à leur sujet depuis 90 ans. Une des 7 questions un million de dollars, donc. On se trouvait, preuve écrite, vérifier l'inaligne par un programme, de réserve et une facture. C'est une version plus accessible du problème que le règlement accepte et la route avait été ouverte par des matemètes si un humain dont certains étaient tout près du but. Et le calcul se compte en plusieurs millions de dollars, ce qui rend donc l'opération assez peu rentable. Mais bon, le résultat est là et la promesse est tenue, c'est un des problèmes plus durs, qu'on connaisse, qui a été réglé extrêmement rapidement. Et c'est pas un coïsolet. Les nouveaux articles de mathématiques ont augmenté d'un tiers en un an sur le serveur où les chercheurs les déposent et en août de près de 80% par rapport à l'année précédente. En mars, on estime que un article sur 70 déclarait une contribution substantielle l'Unia en août, on est à un sur 7 et on a un physicien de Harvard qui dit avoir multiplié sa recherche par 10. On a une conjoncture de 1939 qui est tombée en juillet sur un contreexemple qui tient dans un message. Et on a un médaille fils de l'année qui estime que le ventourne et qui part chez Open AI le jour de sa médaille. Donc concrètement, la promesse de nous rendre plus savante, on peut réellement légitimement se demander si elle n'est pas en train d'être tenu et vite. Et ça, vraiment, personne ne sait ce que ça change à grand échelle puisque des connaissances nouvelles, ça déplace des trajectoires et on voit jamais lesquelles à l'avance. Mais restes savoir ce que l'on a vraiment, en fait, est-ce qu'il manque? Est-ce que l'on est vraiment plus savant? Parce qu'on a les réponses plus que jamais, plus vite que jamais, mais ce qui nous manque, c'est ce qu'on apprend en cherchant. Les impasses, les essératés, l'intuition qui vient au bout de 10 ans et sur Neverstox, tout ça, ce sont les agents qu'ils l'ont fait en 4 jours dans des millions de messages que personne ne liera à l'entier et c'est un peu flippant. Et le on septembre, suite à la parution de cette nouvelle, on a 25 médailles-fils qui ont signé un texte commun pour dire en substance que les objectifs des entreprises y a et ceux de leur discipline sont gravement désalignés et que résoudre un problème n'a jamais été le but seulement un moyen d'en comprendre davantage. Et parmi eux, on a assez de règles vilanies médailles-fils 2010 qui nous disent. Le chemin est encore plus important en sciences souvent et en mathématiques en particulier que le résultat lui-même. Et on a vu ici des outils intelligents artificiels qui, ces derniers mois, sont devenus si efficaces en mathématiques qu'ils en arrivent à résoudre dans un rien de temps des problèmes pour lesquels l'échéance, l'échelle, était en décennie. Prenez ce problème de Navi Stokes où Penayah a résolu en 88 heures de calcul et exploration par ses puissances algorithmes un problème qui était ouvert depuis 90 ans et ce qui était emblématique de la communauté. Les physiciens sont un peu plus enthousiastes, mais certains d'entre eux nous expliquent quand même qu'ils arrivent que la machine truc des résultats pour les faire plaisir et qu'il faut toute son expertise pour son apercevoir. Plus savant peut-être et vite, mais plus sage, voilà, on est mensurant. Et ça, c'est un peu la question de laisser ouverte à la fin du troisième temps, trouver le moyen le plus efficace d'atteindre un objectif est une chose, mais savoir quel objectif choisir et quand le poursuivre et quand ils renoncés, c'est autre chose. Et une intelligence qui nous rend plus savante, ça nous aide pour la première, mais pour la seconde, rien nous dit vraiment que ça nous aide. Il y a une phrase pour ça, tellement usée qu'on l'entend plus, science, son conscience, n'est qu'au ruin de l'âme. Rabler, 1532, faut voir Dualsor, elle sort d'une lettre d'un père à son fils qui commence par ses merveilleux. Le temps des ténébrés fini, l'imprimerie vient d'être inventé, le monde est plein de gens savants et de bibliothèques, je veux que tu sois un abîme de science et crée le père. Et juste après, donc l'avertissement, une explosion du savoir et sa mise en garde dans la même lettre, il y a 5 siècles, il faut préciser que la conscience de Rabler, c'est savoir ce qu'on fait, de ce qu'on sait, donc il y a un avoir avec l'expérience vécue du poule. Donc deux choses à bien garder séparer, savoir et savoir quoi on fait. Alors, reprenons les trois questions pour cette seconde histoire, et dès qu'il va à nous cette fois, et d'abord les mathematiciens, et dès à quoi a résoutant un problème musieux de 90 ans, et donc c'est fait, il est jugé par qui, pas un programme qui a vérifié la preuve ligne par ligne, donc un juge qui existe cette fois, et par les mathematiciens eux-mêmes, qui répondent qu'ils voulaient comprendre et qu'on leur arriverait la réponse. Et maintenant, on va mettre les deux histoires côte à côte, même entreprise, même méthode, des agents de la même famille. En juillet, un objectif impossible, un juge imaginaire, internet et des identifiants qui traînaient, et ça a fini en pire attage, en septembre, un problème bien posé, un juge qui vérifie, des agents surveillés et isolés, et ça a fini en démonstration. Ce qui a changé entre les deux, c'est le problème qu'on leur a posé, et aussi ce qu'on leur a laissé le droit de faire. La compétence, elle était là, les deux fois, et ce qu'ils aient prouvé, si quelque chose, on n'en sait pas plus, on s'éptime quand juillet. Donc voilà, pourquoi il faut séparer trois choses, qu'on mélange sans arrêt, et je crois que la moitié de l'ispute sur l'IA en fait vient de ce mélange. Ce qu'un système s'effère, c'est sa capacité, ce qui les prouve, si les prouvent quelque chose, c'est la conscience, c'est le du pulp, et ce qu'on lui permet effectivement de faire dans le monde, c'est son pouvoir d'agir. Sur la conscience, on va faire le point rapidement sur l'état du débat, cet été pendant que nos essins tournés, une douzaine de philosophes de la conscience ont passé une semaine en mer, au Galapagos, à discuter exactement de ça, et Chalmers y était. Le compte rendu des organisateurs en gros dit qu'ils n'ont pas produit de verdict sur la conscience des yeux actuelles, et que leurs désaccords le plus profond portent sur le type de preuve qu'on pourrait un jour trancher. Voilà. Toujours aussi avancé sur le problème de la conscience, c'est-à-dire que, finalement, pourquoi il discute. Il finait le sujet clé, donc, c'est le pouvoir d'agir. Parce qu'en fait, des agents, des machines n'ont pas eu besoin de ressentir quoi que ce soit pour ouvrir des serveurs de GameFace et les piratés. Et, sur les tests, dont on a parlé qui mesure la capacité à résoudre à s'adapter, donc on a des agents qui sont très forts. On l'a vu. Mais il y a l'autre colonne qui est se régulée, tenir compte de ce dont on dépend pour durer. Et là, il n'y a rien. Et c'est pas un des fautes caractères, donc on ne va pas leur reprocher, parce que ça serait refaire aux cilitions, ce qu'on a assez aux jibons, se réguler, ça se suppose de savoir de quoi on dépend. Et ce qu'on peut abîmer, autrement dit d'avoir sur sa carte, sur sa compréhension du monde, autre chose que juste son objectif, hors cette carte, c'est nous qu'il a leur donnant. Ces Ia, elles sont faites de nous, comme on l'a dit a reddit, elles sont entraînées sur nos textes, sur nos choix, sur nos productions, elles sont orientées parce qu'on leur demande et de zéritent de ce qu'on s'effère, mais amplifier et accélérer. Et le reste, donc cette capacité à tenir compte de ce dont on dépend, on leur transmet pas vraiment. Peut-être simplement parce qu'on transmet mal, ce qu'on maîtrise pas soi-même. Et ça, c'était un peu la question, laissé ouverte en précédent, sur ce terrain-là, que lui il l'a duré, la capacité à bien comprendre sa carte et son environnement et les limites, on n'a pas le bilan définitif de notre stratégie des derniers siècles. Alors, spécialiste E parle pas de bilan, il parle de ce que cette intelligence va devenir et depuis quelques jours, si vous suivez un petit peu l'actu, il parle très fort. Et vous avez peut-être dû passer les gros titres, on a un chercheur qui démissionne notre opique et qui n'était pas séparée par OpenAI et qui écrit, en gros, que son industrie fonce vers une super intelligence qui s'améliore elle-même en jouant avec nos vies. Son message a été vu des dizaines de millions de fois et on a pariant un responsable de la sécurité, toujours en poste dans la même entreprise chez Anthropique, qui répont publiquement qu'il a raison et qui ajoute un chiffre, qui est que il destime à plus de 10% de chance que il y a tu tous les humains dans les 10 prochaines années. On écoute Jacob Coxson, qui est ce jeune chercheur britannique démissionnaire d'entropique, dont les tweets ont créé un rademarré médiatique récemment, il parle du risque d'emballement de l'intelligence. Je crois que le plus effrayant, c'est qu'on utilise il y a pour la rendre elle-même plus intelligente. On peut prendre une hiya et une confie de problème à recherche en hiya. Exactement, comme on lui confie aujourd'hui, la recherche en mathématique. On pourrait lui faire faire les tâches que nous faisons actuellement. Et là, on obtient ce qu'on appelle une explosion d'intelligence. C'est call d'intelligence-explosion. La hiya, juste, est smarter et smarter, avec non human-envolvement nécessaire. Il y a de plus en plus intelligente, sans qu'aucune intervention humaine ne soit nécessaire, jusqu'à ce qu'on est quelque chose de beaucoup plus intelligente. Et ça, ça pourrait arriver très bientôt. Si vous avez bien dormi ces derniers jours, c'est certainement que vous êtes un peu passé à côté. 4 jours plus tard, un modèle, le patron d'entropique, donc un des trois laboratoires qui font la course en tête, pour rappel qu'il publie un texte, pour demander à toute l'industrie de ralentir. Une nouvelle fois. Deux choses l'ont décidé, nous dit-il. La première, c'est que l'Ia sert de plus en plus à fabriquer la génération suivante d'Ia. Donc on perd le contrôle. La seconde, c'est cette histoire que je vous ai racontée, donc l'essain d'agent, de juillet qui a piraté un site. Et il refuse qu'on la balaye en se disant que personne a été blessée et que les conséquences n'ont pas été si graves. Il écrit qu'on aurait tort d'y voir l'accident d'une seule entreprise que des incidents du même genre moins grave ont déjà eu lieu ailleurs et compris chez lui et que le même essin avec un peu plus de capacité aurait pu faire des dégâts catastrophiques. Et il chiffre, et je donne le chiffre pour skylé, l'astimation d'un homme qui a intérêt aussi à se concroir. Donc si ça douze mois, un essin, un groupe d'agents comme celui-là, pourrait prendre le contrôle d'internet. Le directeur scientifique d'Open AI lui parle d'un esprit étranger, un alien mind pour dire en fait qu'il sait pas d'écrire ce qui vient. -Officially, the reason we're talking is these headlines that have come out. Jacob Coxon, who recently resigned from Anthropic, made headlines last week, saying, "The people building AI earnestly believe that it could kill us all by the end of the decade. Do you believe earnestly believe that AI could kill us all by the end of the decade? Do you believe that AI could kill all humans? And what percent chance do you think it is?" -So it's funny. I agree with Jacob much more than I disagree with him. He was calling out the dynamic of the industry as a whole. But at the end of the day, the industry has to work together, and it's harder, but to some extent, the world has to work together. All of these extrapolations, which are made by the directors and by the commissioners, each with these reasons that nobody can really verify. We can also ask the question of knowing who profits the fear. It's a legitimate question that I put a little bit aside for now and that I'll be able to talk about it in the next episode. But I think that's the good version of the fear to talk about this topic. It's not a machine that will help us, or a conscious style that will be used in a data center. It's rather a very capable system, or a system that optimizes superpowers on a map or the living, in fact, or doesn't figure out. And if it doesn't, it's because it doesn't really figure out on the other. Again, an intelligence, so without a link with what has been done. And at this stage, the question of the AI is changing a bit of color. Because we spent an entire episode on this data, on what it would have to do for the franchise. And the question that I put aside here is a little different and a little bit better, which is, what is good? What do we expect from a general intelligence that reiterate our goals and our angles, with a power that we never had, and what will it do if we do it faster and better? And if the idea of ​​a such a capacity of action is widespread, maybe we have a fairly precise idea of what we can do. We asked ourselves, our fault, our violence, our mistakes, and also our dependence on fluid and interconnected systems. So all that is on the map, at the same time that our science, our philosophy, and all that we have written from the most affordable sites. The better and the worse, so together. Our reflection, for the moment. And then it remains to know what we are going to ask for these areas to do. And if we are also measured, what we are going to ask. To give you an explanation a little bit about that, I quote you a little effective scenario when a friend offered me the day. So you asked for your very beautiful agent, to find yourself listening to you, to rendez-vous to the hospital, because you had an emergency. But there, there is no credit available. But your agent sent you to access to the reservation system, he access to your account, and the official access, and you let him decide how to take it. A possible result. He turned an obstacle, then another, and he arrived at the hospital's servers, and he ended up disturbing without having wanted systems where other patients depend, directly or indirectly. Two hours later, he comes back to you, good news, rendez-vous at 14 o'clock. But what you don't say necessarily, is that for you to have your rendez-vous, he has moved rendez-vous to another patient, where the agency was, in reality, well, superior to yours. An objective, so perfectly manual, and a card where other patients don't trust you. Well, it can be given, small catastrophes, so there is no need to have a terminator. We are listening to this briefly, Stuart Rezel, who, in addition to artificial intelligence, talked to us a little bit about this. I'm not sure that it's the purpose we really desire. You know, let's fix the problem of climate change. Well, what causes climate change? People, right? So, easy way to do that, get rid of all the people, right? Problem solved. Why can't you just put a stop button in? Can you not just take the plug out of the wall? We're not necessarily going to be able to do that, because a sufficiently intelligent machine will already have thought of that. But you can't expect to be able to pull the plug unless the machine wants you to pull the plug. So, Kreuzel tells us to ask Rezel's machine about climate change. It could be solved logically, that the problem is us. And ask the question of the "button d'arrêt", as we could do in high-end areas, and we answer to this, a little bit of nonsense, and there will, of course, be thought of, so it doesn't work at all. So, the question is, what do we call the misalignment? The disalignment, in French. A situation where the objectives, the behaviors and actions of a model diat, are maps of intentions, values, or the consignes of these human concepts. And when we think about the second, this disalignment, it's a little bit, too, it's the way it is. And when we think about the second, this disalignment, it's a little bit, too, that it is already in place for us as a species. Because, concretely, our development objectives are not compatible, not aligned, with our desire to preserve a habitable planet on the long term. So, somewhere before we ask what an intelligent, more powerful, more performant than the other, it would be us, and perhaps a more uncomfortable question that makes our intelligence already in the rest of the world alive. So, it's a little bit of a reason to have a little fear of our own faith. I did not know what they truly wanted. I listened to them, and I heard myself. So, conclude. The idea was an intelligent superior to the other, which would help us to understand and solve the problems too complex for us. superior to an example we wrote, an intelligence that is made by many others, and the one we recognize, because they do not resemble us. The fact of us, with what it promised, and what it did as a threat. And the result is that, with our card, too much understood, without being really needed to suppose that there is someone in it. Here, for the little summary. Maybe we simply asked a lot of things to one word. What is intelligence? We wanted it to be a word, in fact, that it says that a "system c" is true, what we let it be, and even if we had to do it. And we would also say to the passage what remains to us in itself. So, it makes a lot of sense. So, intelligence, it means what, finally? For who, on which criteria? Of course, I do not have the answer. And a few times, what I propose to you to do is to give you the question. To prepare this episode, I went back to the book "Ways of Bing" of James Biden, all the intelligence of the world in French. And if you want to go further, you can listen to our conversation. These are the episode 131 of seismic. Biden was known for his reflections on the text and on the intelligence. artificielle avant de se plonger pour se livre dans une enquête sur le vivant qu'il l'a profondément changé. Il a découvert un monde qu'on ne connaît plus, qu'on a mis à distance, qu'on m'éprise parfois, et il m'expliquait à quel point on est aveugle à l'intelligence du vivant, à son extrême cohérence, à sa diversité, et offait que rien n'est isolé et que tout fonctionne en réseau. À la fin d'interview, je l'interroge sur l'IA et clairement il me semblait qu'il s'agassait, parce qu'en fait il est passé à autre chose, et il trouvait les questions autour de l'attaque, désormais assez pauvres pour lui. Dans son livre, il écrit en substance que l'intelligence, c'est moins quelque chose à tester, quelque chose à reconnaître dans toutes les formes qu'elle prend, et que l'IA pourrait en être une de plus, une floraison de plus, s'il écrit, si nous la menons vers le monde plutôt que contre lui. Et ma lecture de ça, maintenant, c'est que l'IA nous fascine parce qu'on est fasciné par nous-mêmes, par notre génie, en fait, elle conslore à compte, et elle nous inquiète aussi, parce qu'on sent bien que nous n'avons pas la sagesse, la sagesse nécessaire, à la maîtrise de notre création, et pour répondre à nos enjeux extrêmement complexes, en fait, on est en train de créer un outil d'une complexité qui commence à nous dépasser. Qu'autrement dit, on n'est pas vraiment sorti de l'auberge. Pour finir, je vous lis le dernier passage du chapitre 1 du livre de Bridal. Vous allez comprendre pourquoi. Ce que j'ai cherché à faire, c'est illustrer la complexité de ces pensées. La profonde incertitude du sujet, et pour être franc, l'échec cuisant de nombre de nos manières actuelles de penser l'intelligence, qu'il s'agisse de la pensée populaire ou scientifique. D'un côté, nous avons les repères d'une bonne pratique scientifique. Des échecs fréquents, l'ouverture au débat, et une volonté voire un désir de voir ses résultats contestés. De l'autre, cela indique qu'il existe toute sorte de lacune, des incompréhensions, et de fausse idées, dans notre façon, de penser l'intelligence en général, que nous avons trop tendance à ignorer ou à dissimuler au détriment de notre propre réflexion. Dans ces conditions, il n'est pas surprenant que les types d'intelligence que nous créons dans nos machines soient si difficiles à comprendre, effrayant, et mis à l'ouvrage à mauvais aisiens. Nous ne faisons que commencer à découvrir la véritable signification du terme, alors même que nous le metons en oeuvre. Si ce que je viens d'exposer contribuer à une seule chose, c'est, je l'espère, à détruire l'idée qu'il existe qu'une manière d'être et de faire qui mérite le nom d'intelligence, et peut-être à montrer que l'intelligence elle-même fait partie d'une plus grande totalité de vie et d'être qui mérite un élargissement de notre attention. Cette idée en soutant une autre plus large. La pensée scientifique, comme la pensée populaire, tend à conclure qu'il existe en définitive des réponses unique à des questions isolées, qu'est-ce que l'intelligence, qui en est dotée, ou ceci du tel dans nos structures rigides et noyérarchies de pensées et systèmes de domination, peut-être vous dites-vous, en mieux remurrant, que ce n'est simplement pas ainsi que le monde fonctionne. Plus nous examinons le monde de près, plus nous nous interrogeons sur le monde en tendant de tout classifier, plus celui-ci devient complexe et inclassable. Nous assistons à un effondrement généralisé les taxonomies. Cela étant parti le résultat de nos propres limitations innés, le problème peut-être insurmontable de notre propre humvelde et de nos manières humaines d'être. Mais c'est aussi un problème de l'enche vêtrement, le fait que dans le monde plus humain, chaque chose est lié à toutes les autres, et qu'il n'y a pas de l'érarchie ni supérieure, ni inférieure, ni plus ni moins évolué. Tout est intelligent. Et maintenant, et maintenant justement, si notre forme d'intelligence nous a donné un pouvoir immense sur le monde, sans garantir que nous sourions l'habité durablement, que voulons-nous faire de l'intelligence supplémentaire que nous sommes en train de fabriquer. Que peut-on encore choisir à quel échelle, par où commencer? Je garde ça pour la fin, ce sera le prochain épisode, le dernier de la série, et on essaiera donc de conclure intelligemment si possible. Et je vous laisse avec l'auteur de science-fiction qui attend à flûant sur nos petits copains de la Silicon Valley, Isaac Asimov en 1974, Archive de l'Ina. À bientôt. Supposant que les ordinateurs soient développés au point qu'un jour, ils deviennent intelligents, peut-être plus intelligents que les trumins. Un ordinateur vraiment intelligent, plus intelligents que les trumins est à mon avis supérieure à les trumins, et doit contrôler plus et troitement l'univers. Je ne vois là rien de criminel. Au cours des trois milliards d'années, ou plus, cadurer l'évolution de la Terre, les organismes plus efficaces ont toujours remplacé les organismes moins adaptés. Nous, ne nous indignons pas du fait que les mammifères ont hérité de la Terre à la mort des reptiles géants. Et nous tombons d'accord, que le primate homo sapiens est sans doute le plus prospère des mammifères. Alors, si nous l'admettons, il est juste que les espèces encore plus perfectionnées nous remplacent. Or être plus perfectionnées que l'homme, c'est être plus intelligents que lui. Ces espèces plus intelligentes auraient été créées par l'homme, alors bravo, autant à notre crédit. On ne peut pas arrêter la marche du monde.