Mythos, l’IA d’Anthropic qui effraie les dirigeants (et enchante les criminels) - « À propos », le podcast du Soir

[Musique] - Le soir, repense un autre quotidien. [Musique] - Bonjour, vous écoutez à propos, le podcast d'actualité du journal Le soir, tous les jours, c'est l'expertise de notre rédaction dans vos oreilles. [Musique] C'est un modèle d'intelligence artificielle qui fait tremble et le monde entier qui pourrait être une arme ultra dangereuse entre de mauvaises mains. On vous dit tout ce qu'il faut savoir sur Mitos dans un instant. Je m'appelle Pierre Faignard, à propos, voici l'actualité, comme vous l'entendez. [Musique] - Grand angle. - Dans le secteur de la cyber-sécurité, il n'y en a plus que pour lui, lui, c'est Mitos, le dernier modèle d'intelligence artificielle développé par la Société américaine Antropique. Le modèle, le surpassant, serait capable de déceler des failles inconnues dans des logiciels, mais qui peut déceler des failles, peut aussi les exploiter, et c'est ça qui fait peur au gouvernement, aux organismes bancaires, aux organismes de défense. On en parle avec Philippe Lalu du Pôle Economie. Bonjour Philippe, bonjour, bonjour. Je le disais en lancement, on va revenir en détail sur un nouveau modèle d'intelligence artificielle. Mitos, un modèle qui est frais de très nombreuses personnes, et on va expliquer pourquoi. D'abord, Mitos, c'est donc le dernier modèle développé par Antropique, qui fait partie d'un système d'intelligence artificielle plus large, qui s'appelle Claude. C'est un peu Antropique, ce que ChatGPT est à OpenAI, ou ce que Gemini est à Google. Et donc Mitos, par rapport à tout ça, c'est quoi, je suis un petit peu perdu. Oui, ça fait beaucoup de mots compliqués en deux phrases, je comprends. Alors, on va essayer d'une pète trop technique pour pas perdre nos auditors, mais si je dois faire une comparaison un peu grossière, l'imaginer que en fait, Antropique, OpenAI, Google, tout ça, c'est un peu les marques de voiture, en fait. D'accord. Et puis alors, vous avez Claude, Gemini, ChatGPT, tout ça, ce sont faites des modèles. Ouais. D'accord. Et puis après, dans cette modèle, il y a le moteur. Et Mitos, c'est le moteur, comme GPT, c'est un coup, au puce, etc. Son des moteurs. Et donc en fait, ce qui s'est passé ici avec Mitos, c'est en comparant la vitesse de volution de l'intelligence artificielle par rapport à l'évolution de la voiture. Et puis, on va passer en quelques mois du moteur diesel d'invée, peugeau 504 à une Ferrari. A une Ferrari, ça veut dire que c'est un moteur, un modèle qui est plus puissant que les précédents, il est capable de faire quoi? Voilà. Quand on dit plus puissant, donc ça veut dire qu'il y a une puissance de calcul qui est absolument époustouflante, donc capable de raisonner extrêmement rapidement. Il y a trois, trois caractéristiques, majeures pour Mitos. C'est justement sa capacité de raisonnement, de raisonnement académique même, sa capacité aussi de décrérer du code informatique. Et la troisième, et c'est précisément celui-là qui a qui a qui a qui fait paniquer les chancs c'est le récompensé, c'est sa capacité en cyber-sécurité. Donc ça veut dire quoi? Ça veut dire sa capacité à repérer des failles de sécurité dans des systèmes informatiques. Et donc, à partir du moment, on peut les repérer, mais aussi de les exploiter pour attaquer des systèmes informatiques. Par exemple, le système informatique des banques ou de la défense. C'est ça, début à Vril, il y a eu des fuits qui ont fait que le langage, le modèle, est devenu disponible. Et en fait, à ce moment-là, les experts se sont rendus compte qu'il y avait de quoi donner des sûrs froides à tous les experts cyber-sécurités. Le début de l'histoire est même très très particulier, puisqu'il entropique ce target toujours d'avoir des systèmes hyper sécurisés. Et ici, il n'y a même pas eu de fuits de donner ou quoi que ce soit, ça essaie une bêtaire de configuration, une erreur humain. En fait, il y a eu pour effet de jeter dans la nature plus de 3000 fichiers. Et ces fichiers, c'est quoi? C'est un peu le bac à sable dans lequel on expériment, un peu le laboratoire, on expérimentait, pardon, ce modèle mitos. Et là, il y a eu un retour de flamme absolument. Fulgueurance, et que plusieurs experts ont dit "mais qu'est-ce que vous avez fait? Le nasque que vous vous apprêtez à mettre entre les mains du grand public est vraiment extrêmement puissant et donc potentiellement dangereux. Donc, en tropique, a appris la mesure de cette menace et il y a décidé de ne pas sortir. Donc, ça c'est important quand même. Et là, ce modèle mitos n'est pas entre les mains du grand public. - Il n'est pas disponible pour tout un chacun. Le pro-model a été, entre guillemets mis en pause, et un peu tropique a rassemblé plusieurs entreprises dans un espèce de groupe de travail pour faire quoi à ce moment-là pour essayer de tester les fives et donc de trouver les solutions. - En fait, la première chose qu'ils ont fait, c'est prendre leur téléphone et appeler la maison blanche. - D'abord, le gouvernement. - Oui, donc c'est marrant, on a peut-être vraiment une posture. On va en reparler, cette posture un peu paradoxale, de dire attention, on a fait un truc incroyablement efficace, donc ça remexclame presque du langage marketing. Mais c'est tellement efficace qu'on se doit quand même notre conscience nous indique de prévenir les autorités. Et on va mettre en place un groupe de travail. Alors le groupe de travail c'est une cinquantaine d'entreprises. C'est pas la PMD du coin. On retrouve Google, Nvidia, donc t'es vraiment les toutes, toutes, toutes, toutes, appels, GPs Morgan, des grandes banques, etc. Un groupe de travail pour tester la bête et voir dans quelle mesure est les compatibles avec les systèmes de sécurité actuelles. Donc c'est toujours cette obsession sur un tropique, c'est ce qu'on appelle l'alignement. Est-ce que le modèle que je mets entre les mains du grand public est aligné avec nos connaissances et l'évolution de nos institutions pour pouvoir toujours maîtriser la bête. - Ça vaut la peine ici de faire une petite incise justement sur ce qu'est un tropique, deux incises en fait, avant de voir ce que ce sont les particularités d'entreprises dans par rapport aux autres boîtes qui développent des intelligents artificiels, il y a le rapport d'entreprises au gouvernement américain. Vous l'avez dit, la plus le premier réflexe a été d'appeler directement la maison blanche. Pourtant, ce n'est pas les meilleures amis, entreprises et Donald Trump. - Un loi de là, c'est vraiment des concepts sont très différentes qui traversent la Silicon Valley. Entreprises a toujours considéré qu'il fallait être extrêmement prudent, c'est plutôt logique laboratoire. En se disant, on doit d'abord tout comprendre, tout maîtriser avant de lâcher le modèle entre les mains du grand public. Là où souvenez-vous, ChatGPT, du jour au lendemain, à des barquets dans le vie, et on ne savait pas très bien où on allait. Et là, ça m'a le temps de faire le patron d'open AI, qui a donc développé ChatGPT. Un moment logique produit, c'est vraiment l'inverse, on va dire, on va lancer, on va susciter un usage massif. Et puis en fonction des retours, on va prendre notre clé de huit et on va adapter et corriger et faire en sorte qu'il reste sécurisé. C'est vraiment approche produit, approche laboratoire très prudent et c'est ce qui a mené, que Antropique a refusé la paire du pied de Patagon, qui souhaitait utiliser Antropique à des fins militaires. Et donc là posturetique ou vraie conviction, on ne saura pas, Antropique avait refusé. Et pour la petite histoire, tout le monde savait très bien que Antropique était déjà utilisé à des fins militaires, parce que l'enlèvement un peu rockenbolestque de Maduro, au Venezuela, a cette appulier notamment sur des technologies d'IA développé par Antropique, idèment pour l'opération militaire en cours en Iran, où là aussi des technologies d'Antropique sont utilisées. Donc, à cette double posture, qui est un peu paradoxale. Mais même dans le rapport à LIA autant que tel, Antropique, c'est une boîte particulière, on a parfois l'impression qu'il ne considère pas LIA de la même façon que, par exemple, Opponéai considère LIA. En fait, il y a comme un basse commune, c'est que tous les deux alertent sur les dangers. LIA, ou du MIA, nous en mettriser. Antropique, c'est vrai qu'on peut se demander, jusqu'à quel point il n'y a pas un rapport un peu anthropomorphique avec ces systèmes. Entre Pommorphides, où ça veut dire qu'on considère l'autre commun d'Etruma, on lui donne des caractéristiques humains. Alors, non, attention, le patron d'Antropique n'est pas stupide, il sait très bien que Claude, ça m'arrange d'ailleurs, Claude. Il a donné un nom humain, c'est quand même pas un naudin. Alors, il considère pas Claude comme une personne, on se disant, il y a quelqu'un d'intelligence, sensible, etc. Mais ce qui dit, c'est que des systèmes quelque cela sont tellement plus en haut et ils vont plus vite que nos institutions raisons tellement plus vite, qu'ils pourraient être capable d'occuper une place véritablement dans la société de venir un acteur public, un acteur politique capable de développer des stratégies, car, parable, aussi, d'avoir des intensions, et donc des intensions qui ne sont pas nécessairement bien veillantes. D'où c'est un projet extrêmement prudent, qui consiste toujours à aligner les modèles de langage avec nos capacités à pouvoir les mettriser. Là où ça, en malte mode, va être un technologien, si on ne sait, on y va, puis on va voir. Et ce rapport quasiment mystique a considéré ces machines, en fait, comme des entités potentiellement capables de réagir comme des humains, et quand même extrêmement particulier. Et c'est ce qu'ils auront d'appendue marketing très séduisant quand ils ont refusé, quand ils ont adopté cette posture anti-guerre vis-à-vis du gouvernement américain. Et là, il y a eu une vague de désabonnement chez Chaté-Pétér, absolument unouille. On profille de clôts, donc, et d'entrepique. Voilà, comme un peu le chère allié bas. blanc de l'éthique, malgré tout, il s'impose pas une question, on a voir ce rapseux type de rapports avec une machine de post-painte question. Ici, il y a aussi une dimension parce que géographique dans l'histoire ici autour de Mitos, parce que là, il y a plus ou moins que des entreprises américaines qui sont intégrées aux réflexions, autour de Mitos, autour des failles, autour de comment est-ce qu'on peut combattre ces failles. Ça veut dire que l'Union européenne va encore passer à côté d'un train lié à l'intelligence artificielle. On est définitivement à l'arguer. La première leçon à retenir de ceci, elle est déjà, on se prend le vue un peu élecoptère, c'est qu'un de constaté une fois de plus que l'évolution technologique n'est absolument pas l'inére et l'exponential. L'europ, c'est qu'on se ramène à l'Europe, on est déjà à peine d'entrains et ce train est toujours en train d'accélérer. Oui, visiblement ils n'ont même pas l'intention de nous inviter pour discuter des dangers que ça pourrait être fait. Mais on n'existe pas. Il n'y a aucune raison. Ils a invité qui pour être franc. Oui, ça rappelle la nécessité de garder le cap, puis si au niveau européen, en termes de régulation, pour avoir des gardes de fou, et puis surtout évidemment, de prendre le problème de souveraineté technologique et souveraineté numérique par le taux-ro, par les cornes aurait dû être de sérieusement s'attaquer à ce souci, même si l'espoir de pouvoir attraper l'avance technologique qu'elle soit américain ou chinoise, est quasiment nul, mais il y a un magrétoune possibilité de développer des écosystèmes ou en merve la main sur les intentions, sur les objectifs, la stratégie, et l'usage finalement que l'on fait de ses outils. Merci beaucoup Philippe et Philippe. A propos, c'est fini pour aujourd'hui, mais on revient demain matin. Merci de votre écoute. Si vous en voulez encore, tous nos podcasts sont disponibles dans l'application du soir, prendre des vous dans le store de votre smartphone ou de votre tablette pour la télécharger. À demain.