Le Lab - Sofiane Schaack : Quand un physicien décrypte les modèles d’IA​

Bienvenue dans Objective Tech, un podcast de Captain Mini France. Bienvenue dans le lab, le podcast qui fait découvrir les chercheurs de Captain Mini, celles et ceux qui explorent, expérimentent et façonnent les technologies de demain. Et si la prochaine révolution de l'IA ne venait pas d'édonner, mais des lois physiques incrus dans les modèles. C'est la conviction de notre invité. Physicien de formation, docteur en modélisation quantique, il a construit toute sa carrière autour d'unis des simples, une équation bien posée et souvent plus puissante qu'un modèle surentraîné. Aujourd'hui, Sophia Nchak est directeur d'attaille yache et Captain Mini Invent. Il est convaincu que nous entrerons bientôt dans une nouvelle maturité de l'IA plus sobres et plus utile. Mais pour y arriver, il manque selon lui une compétence fondamentale plus rare qu'il n'y paraît. La capacité à remettre en question ce qu'on croit comprendre. L'esprit critique, pas comme une posture intellectuelle, mais comme un outil de travail au quotidien. Bienvenue dans le lab. Le lab au cœur de l'innovation. Un scientifique avant, observé, questionné, théorisé. Aujourd'hui, nous sommes dans un paradisme qui est un peu différent, qui est celui de pouvoir évaluer une réponse. Donnez la bonne réponse à un objectif, ne suffit pas. Il y a un besoin de compréhension, il y a un besoin de conceptualisation derrière. L'esprit critique est essentiel aujourd'hui, dans une air ou les outils que nous utilises, tendent à limiter le questionnement au fait qu'ils sont prononcés. Je suis Sophie Anchech, directeur d'attaillage et Captain-Gaming in 20, en charge de nos activités d'innovation pour l'IA. Si je le vais qualifier mon parcours, je dirais que s'il y a eu un fil conducteur, c'est vraiment cette passion pour la recherche et l'innovation. Je suis issu de une formation académique, chercheur de formation. Tout au long de mon parcours professionnel, je n'ai eu de 16 que d'alimenter cette activité de recherche et l'innovation pour aussi le transmettre bien évidemment un client ou un grand public avec cette intérêt fort pour comprendre la curiosité intellectuelle autour de ce sujet. Mon intérêt pour les sciences a été assez naturel. Finalement, j'avais un tropisme pour la compréhension, pour la modélisation du monde qui est mentouré. Très tôt, j'ai commencé à utiliser l'outil informatique en utilisant l'ordinateur familial et en commençant à essayer de coder par moi-même au début des petits jeux puis ensuite des programmes un peu plus complexes. Par 10 ans, je commençais déjà à coder en séance et plus plus, ce qui m'appart la suite un peu éduire dans ma carrière notamment de physicien. Et puis, en fait, de fil en éguit, ça m'a amené à utiliser ses outils pour essayer de pouvoir les appliquer, les utiliser pour la compréhension de problématiques scientifiques. Un physicien, c'est quelqu'un qui observe le monde et qui essaye d'endécrer un modèle. Qu'est-ce qu'un modèle, c'est un objet qui essaye de capter une réalité à partir d'observation et de le traduire sous une forme qui puisse être utilisable pour de la compréhension. Donc on va voir une pomme qui tombe, on va comprendre qu'il y a quelque chose qui latire, il y a une force, du coup on va être définir une notion, une concept, et on va comprendre que cette force est l'agit sur une masse, t'animes un objet. Et du coup, on comprend ce qui se passe autour de soi, juste par une observation d'une pomme qui tombe. Donc ça, c'était Isaac Newton. Et le travail du physicien, c'est ça, c'est de pouvoir comprendre ce qui se passe autour de lui, donc pouvoir apposer des concepts autour de phénomène qui pouvait être plus ou moins édignementique, plus ou moins mystérieux, et qui m'a amené à poursuivre une thèse de doctorat autour de sujets de physique fondamental, théorique et notamment de mécanique un peu particulière de la physique quantique. L'objet de cette thèse, c'est de pouvoir étudier des composés à base d'eau de classe, qui renferment des composés comme de la glace, et qui ont des particularités physiques dans leur stabilité, notamment qui sont issus de la physique quantique et de mécanique quantique. Concernant mes travaux particulièrement et notamment sur cette glace qui brûle, ce sont des composés qui sont très instables, qui sont de la glace, comme vous l'avez dans votre congélateur, mais qui renferment du gaz, notamment du mécan, qui est effectivement à la bord d'une flamme destabilisée, qui va libérer ces métains et finalement qui va s'enflammer. C'est pour ça qu'on appelle ça la glace qui brûle, et le nom scientifique et les hydrades de mécan. Ces composés sont présents sur des lunes de Saturn, notamment titans, mais aussi sur terre et notamment dans le Père Mafrost, qui aujourd'hui est une vraie problématique environnementale, puisqu'on estime qu'une ressource en métaine importante se situe dans le Père Mafrost et pour être libérée du fait de l'instabilité issu du vache offrement climatique. Donc ces études nous permettent aussi de pouvoir comprendre ce phénomène et de pouvoir l'analyser. [Musique] Après la recherche, j'ai eu envie d'avoir un champ d'application large. Du coup, je me suis naturellement orienté vers l'intelligence artificielle car la limite en termes de périmètre d'analyses est en finie. J'avais envie de me confronter à ça. Tout en essayant de poursuivre effectivement cette innovation et amener à nos utilisateurs et à nos clients. Ce niveau d'excellence, mais aussi cette réflexion autour de cette modelisation que l'on pouvait ramener. J'ai commencé par une première mission de conseil dans le service public en Angleterre. Cour de cette mission, j'ai commencé à me familiariser et à d'une prendre une expertise en y à autour des séries temporelles, donc des données qui évoluent dans le temps. Ça peut être tout et n'importe quoi prévoir la température de demain, prévoir la consommation électrique, voire analyser des cours de bourse. J'ai commencé à développer une activité de recherche autour de ces problématiques, de comprendre la physique d'un vol avec des modèles d'y-a, auquel on a inclus des contraintes physiques pour que ces y-a puissent être généralisables. Mais aussi de pouvoir bénéficier des avantages de l'y-a, c'est-à-dire de pouvoir intégrer l'ensemble des contraintes durant le vol sur un avion. Est-ce que j'ai des pressions, des saisimes, etc. Sur l'ensemble de l'ensemble de l'âge. Mais aussi de pouvoir être certains d'être dans un niveau de conformité qui respecte les lois de la physique. Et ça aujourd'hui, c'est un vrai sujet. Et c'est là les deux grands paradigmes aujourd'hui qu'on essaye de rassembler, d'unifier dans l'App de Invent, pour pouvoir avoir le meilleur des deux mondes, avoir des modèles qui soient absolues comme cela physique, c'est-à-dire qu'il soit vrai, c'est le postulaire qui soit vrai en tout point du temps et le univers, et l'espace. Mais aussi de raccrocher ce niveau conceptuel aux capacités d'y-a dans leur capacité predictive. Et donc ce qu'on va pouvoir faire, c'est intégrer dans ces modèles d'y-a, ce niveau conceptuel, en le contraignant avec des lois de la physique. On l'oblige à respecter des principes, de conservation, de masse, d'énergie, etc. ou autre. Cela nous permet de guider l'entraînement des i-a et de guider aussi les sorties de ces i-a pour qu'elles respectent des lois de la physique notamment ou autre. Pour vous donner un exemple, des équipes de chercheurs ont travaillé il y a quelques années. A entraîner un modèle type LLM sur un jeu de plateau qui s'appelle Othello. On entraîner ce modèle a prédire, prochain coup, qu'un joueur peut faire. Sans lui donner aucune notion de règles, aucune notion de plateau. Simplement, on lui de fournie une liste de coups et il doit prédire le prochain coup légal. Donc déjà, d'un point de vue des performances par rapport à lm classique, les performances en découplées, c'est-à-dire qu'effectivement le modèle peut vraiment prédire un coup légal à 99% du temps. Mais ce qui est plus intéressant, c'est qu'innérent à cette rentre-treînement, c'est construit une représentation abstraite du jeu de plateau. C'est-à-dire qu'il a encodé la notion de case et la notion de plateau et de configuration de la position de jeu de Othello. Tant à si bien que, en modifiant en agissant sur cette représentation, donc en modifiant la position l'état du plateau, la prédiction du prochain coup évolue, c'est-à-dire qu'on peut jouer à Othello dans la représentation un transec du modèle qu'il s'est construit lui-même. Et ça, c'est quelque chose d'extrêmement important puisqu'on comprend qu'il y a un niveau d'abstraction presque conceptuel qui se forme à l'intérieur de ces réseaux de neurones énormes. Ce qui est incroyable, c'est à quel point ils ont cette capacité à se construire cette représentation, qui est de l'ordre du concept. Pas simplement pour répondre à une tâche, mais parce que c'est plus efficace d'avoir cette représentation. Donc on pense effectivement que demain, on va pouvoir attraver des processus, des paradigmes un peu différents, avoir une représentation des mécanismes du monde qui soient encodés dans leur représentation intrinsèque. Chez Capgey-Mini, je travaille majoritairement sur des sujets de recherche et d'innovation pour comprendre et pour améliorer les y à actuelles pour des applications futures. Alors ça consiste à travailler plusieurs sujets, plusieurs thématiques, on traite de nouvelles fonctionnalités, on traite de la compréhension de l'IA, essayer de pouvoir les auditer, de pouvoir les rendre performantes et pouvoir donner des garanties pour l'opérationnalisation de ces y à. Ça veut dire traiter des sujets comme les problématiques de cyber-sécurité, de traiter des sujets comme apporter des garanties quand à la conformité ou à la robustesse des y à, quand on a la performance, mais aussi d'essayer de rentrer dans la compréhension qu'on les y a du monde actuel et de la représentation qu'il se fondu demande. Et c'est ce qui nous amène aujourd'hui à travailler notamment sur des sujets de type WordModel. Pour faire simple le concept de WordModel, c'est celui d'avoir un modèle qui est capable de comprendre une réalité du monde sans avoir besoin de répondre à un besoin particulier, à un objectif particulier. Le but c'est d'avoir une représentation du monde. Donc on va fournir des vidéos par exemple d'une plusieurs pommes qui tombent à unIA et on va lui demander, voilà, tu as cette image à tel temps qu'elle va être la suite. Et du coup, ça impose à ses modèles de pouvoir avoir une représentation, une compréhension de ce qui se passe dans la suite de ces images. Ce faisant, ils essayent de structurer l'information qu'elles ils ont accès pour pouvoir prendre en compte cette compréhension de la pomme qui tombe et du coup l'approche à un étape qui sera effectivement une pomme un peu plus basque dans ce qu'elle est à. Et pour ça, nous avons besoin de développer ces outils, de comprendre ce que l'IA apporte comme suggestion à dans sa représentation interne. Il a pu comprendre que l'accélération, l'avitacité des notions qui étaient proches mais que ça avait à avoir avec cette notion de force. Donc on va pouvoir comprendre finalement nous humains à travers l'analyse de la représentation de l'IA. Elle est principale fondamentale de l'immigme. Prédire seul ne suffit pas. Donc donner la bonne réponse à un objectif ne suffit pas, notamment quand on traite de processus humains. Et ça, ça impose aux l'IA une faite de donner ce degré d'abstraction. En tout cas. Pourquoi? Parce que demain, si vous demandez à une IA de détecter sur une radiographie, une lesion conservose dans un poumon, il le fera aujourd'hui sur mon mieux qu'un radiologue. Par contre, si vous voyez une lesion d'un nouveau type qui n'aura pas été vu dans les données de l'IA, qu'est ce qui va se passer? L'IA sera dans le flou. Donc elle ne vous ne pourrais pas vous fier au prediction de l'IA. Par contre, le radiologue lui, avec tout son savoir, tout sa compréhension de l'abidologie, de l'anatomie, à un degré de compréhension, de concept qui va pouvoir appliquer à cette analyse. Il faut une niveau de compréhension pour pouvoir généraliser, pour pouvoir travailler sur un des sujets qui soient un peu vues par l'IA et qui puisse aussi permettre de prendre des actions. Aujourd'hui, dans un processus diagnostic médical, il faut qu'à la fin, un médecin puisse donner un diagnostic. Et donc pour ce faire, il a besoin, s'il n'est épaulé pas, l'IA, d'avoir des garanties en terme de fiabilité, mais aussi une compréhension de la compréhension de l'IA. Est-ce qu'il intègre l'ensemble des concepts nécessaires pour pouvoir produire un diagnostic? J'aime bien appeler ça les outils d'une euro chirurgien de l'IA pour pouvoir comprendre comment l'information est traité, comment elle est représentée au sein de ces grands réseaux de neurones. Et pour ça, nous travaillons autour de sujets qui sont nommés, qui chandrochers, qui s'appelle l'interprétabilité mécaniste, c'est-à-dire de pouvoir comprendre comment au sein d'unIA se forme les décisions, l'information, comment elle se structure, etc. On a plusieurs outils que nous utilises. On va pouvoir mettre des petites sons de ce cerveau géant pour comprendre si l'information que l'on cherche se situe bien dans tel ou tel zone de ce cerveau, essayez de décrire d'un point de vue fonctionnel les airs de ce réseau de neurones. Et pour ça, on va effectivement brancher des sons et voir si on arrive à reconstruire une partie de l'information à partir de cette zone de ce cerveau. C'est une capacité comme un petit chirurgien qui va aller imposer des stimuli à certains endroits du cerveau de pouvoir comprendre si ça a un effet sur la production par la suite. Donc c'est des techniques qu'on appelle des techniques de probing aujourd'hui dans l'IA et qui nous permettent de comprendre où est ce que se matérialise l'information ou le concept. Donc effectivement, c'est des choses qu'on utilise pour comprendre si ils ont des notions de physique, de hauteur, de vitesse, d'accélération, etc. Et par ailleurs, on utilise aussi d'autres outils issues de ces mêmes analogies avec les neurosciences et notamment le fait de pouvoir si on comprend ou se situe l'information, de pouvoir agir sur celle-ci. Et donc ça c'est ce qu'on appelle de l'activation patching. On va pouvoir essayer de comprendre la représentation, le niveau d'abstraction d'un raison de neurone. On va pouvoir comprendre où est ce que se situe les notions, en tout cas essayez d'analyser, mais on va pouvoir aussi agir dessus. Ça va nous permettre à la fois d'analyser possiblement des tropis ou des billets de saisiens, des billets de genre, notamment mais on va pouvoir agir sur la représentation que c'est lm se font de ce stéréotype pour pouvoir corriger aussi. C'est sorti. Mais effectivement, ça peut être aussi un risque, c'est-à-dire qu'un lm peut être manipulé pour pouvoir adapter la sortie pour des besoins de falsification de l'information. Il faut quand même malgré tout être optimiste sur cette utilisation, puisque nous agissons aussi et nous développons ces outils et notamment les géants du numérique qui développe ces outils dans un cadre légal et notamment en Europe où nous sommes dans le cadre de l'AI Act qui nécessite aussi d'avoir un regard sur ces billets, la robustesse, la performance des modèles, de pouvoir comprendre aussi ces limites. Et par ailleurs, nous travaillons nous chez Capgemini à pouvoir auditer ces modèles, de pouvoir comprendre leur domaine d'applicabilité, ne savoir où est-ce qu'ils sont performants ou où est-ce qu'ils allent signent complètement et nous avons plusieurs travaux en cours sur ces sujets pour évaluer les performances, les comportements des agents actuels et pour pouvoir aussi donner des garanties en termes de fiabilité. Et c'est ce que nous travaillons notamment dans des sujets types d'évaluation des agents et mapees qui est une numérique en développe pour justement apporter des garanties statistiques au performance de nos modèles. LIA est là en parle de LLM, en réalité, parce que ce n'est pas l'ensemble des modèles d'IA. On peut tendance à apporter de la nuance ou à douter dans ce qu'elles apportent comme fait. Par ailleurs, au de là-dessus, c'est qu'elles ont tendance à vouloir plaire, à l'utilisateur. Donc, elle est confortée, finalement, dans une vision. Quand vous avez le petit plus ou le pouce dans un chat d'ypt, c'est aussi pour que ce modèle apprenne la meilleure réponse suivant l'utilisateur. Et donc, finalement, à l'uploie. Donc, il y a un billet dans le doute que le humain va pouvoir avoir vis-à-vis de la sortie, notamment de l'ALM. Et ça, c'est un sujet qui est extrêmement important d'autant plus que aujourd'hui, nous passons d'un paradigme de pensée qui est un peu différent de ce midière. C'est-à-dire qu'un scientifique avant observer questionné, avec un question de son observation, déhorisé. Donc, en sortant un concept, en sortant une compréhension, en tout cas, poser une hypothèse et pouvoir essayer cette hypothèse. Aujourd'hui, nous sommes dans un paradigme qui est un peu différent, qui est celui de pouvoir évaluer une réponse. Donc, nous posons une question à l'ALM. Le LLM se charge d'avoir un modèle de reasoning à l'intérieur de pouvoir essayer de structurer sa démarche pour produire une réponse et nous, l'utilisateur, évaluons cette réponse. Mais nous en mettons. toute la partie de raisonnement dans cette démarche. Et ce faisant, nous attaquer un point qui est fondamental dans la science et dans notre démarche scientifique, c'est le questionnement. Où est-ce que je vais pouvoir encore utiliser ces capacités cognitives de pouvoir un challenge et la théorie de pouvoir me questionner vis-à-vis de ce qui m'entoure et de pouvoir réfléchir quand à celle-ci? Nous sommes en train effectivement dans ce paradigme de enlever cette partie de raisonnement mais d'associer plutôt une partie d'évaluation de la réponse. Et donc ça entache un tout petit peu à l'esprit critique qui est à la base de la science. Nous sommes certains que demain, il y a ne remplacera pas l'humain partout, mais travaillera avec parce que nous sommes dans des processus foncièrement humains où nous avons besoin de responsabilités, de contrôler le risque et nous travaillons notamment aujourd'hui à pouvoir évaluer quand Asquenia est fiable ou non et quand Asquenia est sure ou non pour pouvoir infiner notamment dans les ragentiques que l'IA puisse lever la main, appeler l'humain, quand c'est nécessaire pour garantir des niveaux de fiabilité de performance. Le monde de demain avec LIA, c'est un monde qui a mon avis et fortement hybridé entre ces capacités d'inférence exceptionnelle qu'apporte LIA. Et le niveau de compréhension et de conceptualisation qu'apporte l'humain dans des tâches qui ont un intérêt pour l'homme finalement. Et ce faisant, nous ne pouvons pas nous fier uniquement à des capacités de prediction, mais l'humanité a besoin de comprendre ce qui se passe. Demain, nous pensons que l'IA pourra apporter des applications très concrètes pour la médecine, la médecine personnalisée notamment, c'est un champ de recherche dans lequel on a énormément d'espoir pour traiter les nouveaux cas de cancer et les nouvelles pathologies aujourd'hui dans un monde vivissant. Mais aussi pour la science de manière générale, c'est-à-dire que nous avons quand même de grandes ambitions que l'oscientifique associat LIA puisse aller plus loin, finalement, dans sa compréhension du monde. L'esprit critique essentiel aujourd'hui, notamment dans une air où les outils que nous utilises et notamment des outils d'IA tendent à limiter le questionnement et le doute associé au fait qu'ils sont prononcés. On demain, si nous allons à l'extrême, on ne part au Xisme LIA. Imaginons, l'Uniac, qui aura tout compris en termes de concept, toute la physique, toutes les lois de la biologie de la chimie de l'univers. La réalité, c'est que si elle n'est pas capable de traduire ces concepts, nous n'aurons pas avancés. Nous aurons simplement un très bon modèle qui pourra faire des prédictions. Ça nous apportera tout un tas de applications, mais nous n'aurons pas avancé dans le point de vue de la compréhension du monde. Si vous faites un test, ce qui a été fait par des chercheurs, vous demandez des étudiants de passer un examen, vous donnez à une courte l'utilisation de ChatGPT et la courte témoin, vous lui donnez rien. Vous allez voir que, pas ça, je sais cet examen, la courte qui utilise ChatGPT sera meilleure. Maintenant, vous voulez leur faire faite à ces mêmes courtes, les examens, et vous verrez que les performances sont bien moins bonnes dans la courte qui utilisait ChatGPT et sont bien moins bonnes quand elles ne l'utilisent pas, que le groupe témoin. Ce qui veut dire, que ces personnes-là n'auront pas appris. On a un vrai souci qui est ainsi lieu, parce qu'on pense à avoir compris. Mais la réalité, ce qu'on n'a pas compris, forcément on n'a pas appris ces concepts. Nous avons besoin que le public se forme à cette compréhension, qu'elle use de l'esprit critique, qu'elle se pose face à ces faits qui lui sont rapportés et qu'elle se questionne. Vient vite celle-ci. Il faut promouvoir le raisonnement là où on a l'attendance aujourd'hui avec ces nouveaux outils à déléguer une partie cognitime de cette démarche. Merci d'avoir écouté cet épisode du Lab. Si cette plongée dans les coulisses de l'innovation vous a plu, pensez à vous abonner, à noter le podcast ou à le partager à quelqu'un de curieux. On se retrouve très bientôt pour découvrir un nouveau projet, une nouvelle voix, une nouvelle vision du futur. À très vite dans le lab. [Musique]