Points de vue sur l'IA (5/5) - Laurence Devillers : « Les enfants ont dans leurs mains des outils destinés aux adultes » 

Je suis Josephine Bonne, vous écoutez les écoles liées, le podcast de la rédaction des éco qui raconte comment l'intelligence artificielle transforme notre vie au travail et notre quotidien. Ce podcast était à écouter et réécouter sur 10h Spotify, Apple Podcast est toute vos plateformes de streaming audio favorite, vous êtes de plus en plus nombreux à nous écouter chaque vendredi, et si nos épisodes vous plaisent, n'hésitez pas à les partager et à vous abonner à notre chaîne. Cet été, à la plage, on voit sûr dans le train ou sur les chemins de randonné par tout en France, nous vous proposons une série d'été un peu spéciale. Nous avons interrogé des personnalités du monde politique, artistique et philosophique, qui nous raconte comment l'îat transforme leur quotidien et ce qu'ils observent de l'impact de cette technologie dans la société. Aujourd'hui, je reçois dans les écoles liées à l'orance de Villers, professeur Onyah Sorbonne Université et chercheuse au sein du laboratoire LISN, le laboratoire interdisciplinaire des sciences du numérique. Vous avez notamment travaillé sur l'interaction "Homme Machine" et sur l'éthique de l'îat. Bonjour Lance. Bonjour. Alors d'abord, pour entrer dans le live du sujet, je voudrais vous demander comment vous personnellement vous utilisez l'intelligence artificielle ou pas d'ailleurs. En fait, c'est un peu compliqué parce que moi l'intelligence artificielle fait partie de mon travail à la fois d'enseignants, puisque j'ai les cours sur l'épithémologie de l'intelligence artificielle du numérique en général, de l'informatique en général. Et puis, j'enseigne aussi l'apprentissage machine à des master et sur responsable d'un master à Sorbonne Université, en fait correspond simple. Et je fais aussi ma recherche sur ce sujet depuis très longtemps, puisque ma thèse, qui est obtenue en 1992, portée sur la reconnaissance de la parole avec un système libre de neuronal, donc les systèmes actuelles les plus puissants, et Markovien. Et donc, j'avais déjà démontré à l'époque la puissance que pouvait avoir ces systèmes pour le bon niveau, c'est la transformation du signal audio en phonème. Par contre, ça prenait un temps fou en fait sur une machine, et donc j'avais abandonné ces travaux parce qu'on n'avait pas la puissance de calcul, en fait, qu'on a eu seulement en 2010 pour pouvoir apprendre à partir de grandes bases de données et trouver des modèles de grandes performances. Donc, mon domaine, maintenant, c'est de rechercher l'affectif computing, c'est-à-dire en fait, modéliser les émotions à travers ces systèmes, que ce soit de liage générative, prédictive, équipose énormément de questions éthiques. Et donc, aujourd'hui, regard du contexte et de la révolution, ce qu'on appelle souvent la révolution de liage générative, quelle est votre regard de chercheuse et de scientifique sur cette technologie et son impact sur la société? Alors, mon domaine de recherche est devenu le domaine fashion et fashion victime de tout le monde, c'est-à-dire tout le monde en parle, qu'il soit expert ou pas. Alors, c'est un formidable domaine de recherche pour moi et d'application. L'intelligence artificielle, c'est à 80 ans, quand même le répété, parce que c'est pas arrivé avec ChatGPT en 2002, et bien utilisé, c'est un système très puissant qui devrait servir à améliorer notre compréhension du monde, plutôt qu'à remplacer l'humain. Je pense que la cible est une erreur. En fait, pour moi, il est urgent dans la société de démissifier ce que c'est que l'IA aujourd'hui, puisqu'à la 80 ans, elle a évolué. Mais les concepts fondamentaux étaient déjà présents le neurone formel en 46, l'apprentissage de machines, de fonction non-linear, complexe en 1987. Il faut attendre ceci de 2010 pour avoir des GPUs et des puissances de calculs. Et ça, ça nous vient du jeu vidéo pour affrichir l'écran, l'absence de capacité de calcul énorme, qu'on va utiliser nous pour l'apprentissage de ces machines. Et puis, il faut attendre 2017 pour lesillages génératifs, c'est-à-dire un fameux article qui vient de Google DeepMind. Ça s'appelle Aton Chianizo l'Unide, fondamentalement, c'est ça qui est utilisé dans cesillages génératifs. En fait, en capsulez le contexte des mots. Si je veux dire le petit tatata boituler, c'est quoi tatata, chachien, enfin, tout de suite, on voit que le contexte explique la cimentique des mots. C'est ça qu'on va encoder dans des grands vecteurs et pour lesquels on va avoir des mesures de ressemblance entre les vecteurs et choisir les meilleures vecteurs pour produire finalement des textes qui sont tout à fait fictionnelles, en fait. L'illage génératif, c'est une machine à fiction parce qu'en fait, même si elle a englobé nous donner, elle est rejou et les unités primaires sont des unités qui font 3,5 caractères moyennes. Vous voyez bien que c'est un jeu finalement de puzzle qui permet de produire un langage de très bons niveaux, souvent, meilleur que la plupart d'entre nous. Donc là, le risque était énorme. Je crois que ceux qui ont travaillé sur l'éthique l'ont dit depuis longtemps, en 2018, ont commencé, y avait des travaux, y avait la Montréal, y avait fait un énorme travail pour parler d'éthique, de conception de ces systèmes. Moi, j'étais au proche du gouvernement à ce moment-là pour parler de ces sujets, c'est pas le sujet majeur qu'on a suivi ni l'éducation, ça a été avant tout la startup nation et l'économie. Puisque vous parlez d'éducation, quelle est votre regard aujourd'hui sur la place que doit avoir l'intelligence artificielle dans l'éducation et dans la vie des jeunes? On voit aujourd'hui que l'adoption est déjà très grande dans les plus jeunes générations. Est-ce que c'est une bonne chose et comment profiter ou mettre en garde les jeunes générations sur l'IA? Alors, il y a beaucoup de questions dans cette question. Je vais commencer par la technologie émassivement utilisée par les jeunes. Oui, effectivement, on voit que, d'après des sondages, plus de 60% des jeunes considèrent l'IA comme un conseiller dans leur vie, donc ce n'est pas seulement pour faire leur devoir. C'est pour des questions de vie de tous les jours. Et c'est encore plus vertigineux, c'est chiffre. Lorsqu'on regarde les jeunes qui souffrent d'anxiété et là, ils préfèrent se confier à unien, car à leurs parents, leurs sœurs et leurs frères, leurs médecins ont encore leurs amis. Donc là, on est devant une incompréhension sidérale de ce qu'est cet objet. Ils font plus confiance à l'IA qu'à leurs proches et ça, c'est énormément dangereux. C'est dangereux parce qu'ils se livrent un système qu'ils ne comprennent pas. Je crois que là, la société est fauteuse. Les gouvernements qui ont décidé ce qu'on faisait sont fauteuses, parce que les enfants ont dans leur main, en fait, à travers internet, les IA et les réseaux sociaux, des outils qui sont destinés aux adultes, sans avoir l'esprit critique pour pouvoir finalement choisir. On leur demande d'être adultes, c'est inadmissible, emprônant leur donner pour construire des modèles derrière. On va avoir son doute de génération ou une génération qui va en pâtir, puisque on voit à l'école cet aspect délétère qui sont que les enfants, finalement, n'apprennent plus à apprendre, mais utilise ces outils pour obtenir le résultat. Or, l'IA n'est pas faite pour expliquer et ne sait pas expliquer, raciellement, un raisonnement humain. Elle a un raisonnement totalement différent, par approximation, par ressemblances de ses vecteurs, c'est mentiques et absolument pas de la même façon qu'un humain apprend à raisonner. Et ça, si, au demain, on a beaucoup de ces objets, soit ils ont utilisé pour aider l'apprentissage, pour aider ce qui sont les plus en difficultés, on risque, finalement, de les aider à mieux utiliser l'IA, mais pas du tout à raisonner. Et est-ce que ce risque-là peut avoir un impact dans la vie future de ces personnes en tant que travailleurs? On sait qu'il y a beaucoup d'hébat autour de l'impact de l'IA sur le travail, est-ce que ça va décrire de s'emploi? Est-ce que ça va changer la manière dont on travaille? Quand on voit la génération qui va arriver sur le marché et travailler aujourd'hui, qu'on est-il de cet impact potentiel de leur usage de l'IA? Alors, je prends un exemple pour parler de la génèse et de l'emploi. L'exemple, c'est, par exemple, non pas lesillés agénératifs, cette fois-ci, puisqu'il a trois sortes d'IA, il faut bien démistifier ce que c'est, il y a prédictif, c'est-à-dire je prédie, par exemple, un cancer ou pas devant une radio ou un chien, un chien, devant une image. Et donc, cette machine-là apprend à memoriser les différences entre les formes et pas du tout à amodéliser la forme elle-même. L'IA génératif, c'est le contraire, on va chercher à produire un modèle capable de produire des sources ressemblant aux sources qu'on a mis dans l'apprentissage. Donc, ces différences sont essentielles. L'IA, agenti qu'il a dernier, c'est un chef d'orchestre qui organise finalement avec plusieurs yats, des tâches comme prévoir vos vacances, faire un résumé après une réunion dans une entreprise et vous produire le résultat. Reprenons l'IA prédictif qu'à mon avis, celle qu'il est plus facile à utiliser dans les entreprises, prédire quelque chose pour la médecine, pour faire des diagnostics, par exemple. Il y en a pas toujours raison, puisqu'elle ne résonne pas de façon cognitie, qu'elle ne connaît pas notre monde. Il y a de le clin d'ailleurs mieux que moi en proposant d'autres modèles, des modèles du monde qui permettraient à une machine, finalement, de comparer ce qu'elle perçoit par rapport à une modélisation extérieure. Là, il n'y a pas du tout ce méta-raisonnement qui fait que ces systèmes, finalement, sont en clin à vous trouver une solution sans avoir du tout vérifié ce qu'il en est. Donc, sur les radios, prenons l'exemple des radios de cancer. C'est énorme la porte de ces machines, parce qu'elle voit des milliards de clichés avec un œil qui n'est pas humain, qui regarde au niveau des pixels, les chorélas qu'on va trouver et les formes qui se ressemblent, donc ça, il faut l'utiliser. Par contre, on peut avoir rencontré un médecin qui utilisait ces systèmes et qu'il avait 30 ans de corte de jeune femme, qui avait eu ou pas un cancer du sang, et bien, il disait, moi, devant un cliché, devant la prédiction diale, 77% de malchance d'avoir un cancer, je suis capable de dire, c'est un faux positif ou non, c'est-à-dire, c'est absolument pas probable. Ça, parce qu'il a de l'expérience, mais le jeune médecin qui arrive de ses études et qui n'a pas été formé à comprendre comment utiliser ces outils et les erreurs qu'elle peut faire, c'est-à, ne sait pas, donc va demander des biopsies, pas stresser les patientes, et ça a un coup pour la société. Si on n'est pas capable d'intégrer, dans l'apprentissage, de dédéparre, de tous métiers, des experts, seniors et des jeunes qui savent très bien manipuler ces outils, on va dans le mur. Et pour l'instant, on ne voit pas du tout ça va paraître. On voit plutôt que les jeunes en plus de mal de trouver un emploi, et ça, c'est une vision très courtamiste, j'espère qu'un jour on va avoir un regard, un plus adulte sur ce qu'on est en train de faire. Je pense qu'il y a une question qui préoccupe pas mal de nos habitateurs aujourd'hui que ce soit en France ou à l'étranger d'ailleurs, c'est celle de savoir s'il faut avoir peur ou pas de l'IA. On voit que aux États-Unis, à certains mouvements, chez les jeunes ou les mangeurs d'ailleurs qui refusent d'utiliser l'IA, qui se pose à la construction de s'en rentre, donner, etc., chose qui pourrait arriver chez nous, et on sait que de nombreuses personnes se posent des questions. Est-ce que, d'après vous, il faut avoir peur de l'IA? Déjà, on est dans une caca au faunie terrible, puisqu'en fait, il y a des gens qui ont des intérêts marketing qui vont faire à la fois peur pour vous présenter leur système comme puissant, clos, d'entropique, chat GPT, Samatman, et là de meuf, tous ces gens-là sont des unres cours effraynés, finalement, qui n'a rien à voir avec du rationnel. Ils sont, sur, finalement, le marketing de leur système. Bon, pour les jeunes, je pense qu'il y a un danger concret, parce que recourir à l'IA au collège et au lycée, pour faire leur devoir, fait qu'il n'apprenne pas. Voir aussi que, il y a des baisse de concentration, d'attention, il y a des baisse, il y a des manipulations, et ces systèmes, donc, c'est énorme, en fait, l'impact, ça peut avoir sur les enfants. Donc moi, je repars, aujourd'hui, mes enfants, moi, sont grands, donc je pense qu'ils sont sauvés par rapport à ça, mais les jeunes générations qui arrivent et qui n'ont vécu que dans l'IA générative sont vraiment à risque, parce que l'école ne fait pas son travail d'expliquer, de démistifier ce qu'il en est, on propose des nouveaux outils, mais c'est pas ça qu'il faut faire, ce qu'il faut faire, c'est démistifier vraiment comment c'est construit, à qui ça sert, qui gagne là-dedans. Lisez l'encyclique du pape qui a été le seul à l'avoir mis sur la table, finalement, on n'a ouvertement n'en rien dit. Ils ont tous du profit aussi avant des armes, à un vendre de l'économie digitale. Personne ne s'est mouillée pour dire, c'est dangereux, arrêtons de croire qu'on va aller vers une augmentation de l'humain. Quel est l'augmentation de l'humain, s'il est dépendant de ces machines, et absolument pas en capacité de comprendre ce qu'il en est. Et c'est pour ça que les gens ont peur, parce qu'ils se rendent compte aujourd'hui que un, on parle de cela pour leurs enfants, de tous ces problèmes d'éducation, est deux, que le travail de main n'est peut-être plus forcément quelque chose de facile pour eux, qu'ils auront besoin de prendre, peut-être d'avoir des reconversions, de trouver autre chose, c'est plus garantie, on sait pas bien, est-ce que l'IA va finalement nous remplacer pour tout quel tâche cette cacophonie aujourd'hui est intolérable? Elle n'est irresponsable de la part des gouvernements, on devra voir des gens qui réfléchissent un peu plus aux visions à long terme et qui soient capables de dire, n'ayez pas peur de l'IA en soi, l'IA c'est de la mécanique algoritme et nos données, en quoi ça pourrait faire peur cela. C'est ce qu'on en fait, et qui est aux manettes et pourquoi et qu'elle garantie on a, que nos données ne sont pas exploités par d'autres. Mais quand j'entends les gens dire, le problème, ce sont les droits d'auteur, le problème, c'est l'économie de nos systèmes pour le journalisme, pour la santé et pour ça, je disais que vous êtes à côté la plaque, il n'y a pas que ça, proche n'est pas le problème pour moi, c'est la manipulation des esprits cognitifs, c'est-à-dire qu'est-ce que ainsi d'un moment de façon invisible, ces systèmes sont en train de modifier dans nos comportements? Et justement j'ai une dernière question sur ce sujet qui prend pas mal de recul par rapport à notre époque d'aujourd'hui, c'est celle, puisque vous avez travaillé dessus notamment, celle de la relation entre l'homme et la machine. Qu'est-ce que ça veut dire aujourd'hui pour notre société de voir une évolution aussi rapide des usages, et qu'elle peut être les conséquences et l'analyse que vous faites de cette relation qui change entre l'homme et la machine? Il y a plusieurs niveaux, déjà, donc l'Etat a perdu sa fonction protectrice, puisque on n'a pas de garde-fou et on n'a pas été éduquée pour ces sujets, c'est sur l'IA. Donc, on l'a laissé les géants du numérique développer des tas d'outils qui sont sans contrôle sur l'exploitation de données et sur la manipulation des enfants et des adultes aussi. Alors, le plus intéressant, je pense à comprendre, c'est que le fait de laisser les gens dans l'incertitude, il y a une incertitude, parce que ces machines, quand même, elles n'ont pas la vérité et qu'elles sont en train de reproduire des choses approximatives par rapport à nos données, elles sortent des solutions qui sont aux doigts mouillés. De temps en temps, c'est très bien, de temps en temps, c'est du plagiat, de temps en temps, c'est des hallucinations. Donc, comment on fait le tri dans tout ça? C'est pas du tout évident. Je pense que ces promesses technologiques, elles sont là quand même, on va avancer en médecine, on va avancer scientifiquement, c'est évident d'éconner expert dans un domaine où on va en tirer profit, mais lorsqu'on ne les passe, on va être dépendant et on va être pris dans les fards des voitures et c'est ce qui se passe, c'est-à-dire que c'est une machine, saline sur nous, par le psychofrancit, saline sur nous, elles sont bienveillantes, on est dans un confort psychologique douillet, ce qui fait qu'il y existe plus, c'est la friction avec l'autre et on risque de plus comprendre comment vivre dans notre vie commune citoyenne à plusieurs. Ça, c'est un sujet monumental parce que, à ne plus avoir de friction, si on parle, en toute la journée, à ces machines pour différents objectifs, que ce sont nos amis, donc conseiller, y prennent cette position énorme et qu'il y a plus cette friction qui permet d'apprendre, on risque évidemment d'être totalement désarçonné devant un humain qui vous dit, mais c'est pas bien du tout, on va préférer la machine, donc on va s'isoler des humains et on ne va pas construire ensemble cette intelligence collective qui est notre vie sociale, on va morceler tout cela, en des structures autour de pensées communes, autour de croyances, autour de platistes, autour de tout un tas de choses qui ne sont pas rationnelles. Et donc, aujourd'hui, alors que ces systèmes ne devraient pas nous faire peur en soi-même parce qu'il modélise, c'est du calcul, c'est pas que du calcul, c'est sûr, c'est sur nos données, mais c'est avant tout une performance qui vient des humains, on devrait être plutôt fier d'avoir ces outils-là pour faire des choses intéressantes. Alors, c'est pas ça qu'on a fait, on essaie de nous rendre dépendant, l'économie de l'attachement et de l'attention et la première économie de ces géants du numérique qui sont avant tout-là pour capturer notre attention, manipuler nos croyances et les prochaines élections le montreront encore, je pense, où on est très manipulables. Et on est fait au voxeur sujet qui est entre déjà dans tous les débats politiques, des prochaines élections qui approchent, merci l'horance, j'aurai encore un petit point. Nous avons fait des expériences en recherche sur l'influence cognitive de voix, par exemple, juste la voix. Et bien, sachez que si je modifie votre voix pour elle soit plus joyeuse, vous serez plus joyeux, vous aurez l'impression d'être plus joyeux, nous sommes même manipulables par notre propre voix. Donc, on a besoin de plus de recherches, on a besoin de plus de formations pour que tout le monde puisse finalement trouver des repères et sûrement, il faut réglementer tout cela très rapidement, parce que nous allons vraiment devant un monde qui est terrible, notamment pour nos enfants. Et bien, merci l'horance pour ce message de fin, les écolias, c'est fini pour aujourd'hui. Merci de nous avoir écouté, retrouvez tous nos épisodes sur les plateformes de streaming audio. N'oubliez pas de vous abonner à notre chaîne pour nous rien manquer et on se retrouve à vendredi prochain dans les écolias.