Épisode 14 | Du techno-enthousiasme à la gouvernance : l'IA responsable pour les organisations d'ici avec Sophie Fallaha

Bonjour à tous, bienvenue dans une nouvelle épisode du Balado Yakebek par le Conseil de l'Innovation du Québec. Aujourd'hui, un reçoit, Sophie Fala, directrice général du Sémia, elle amène avec nous un regard international. Donc aujourd'hui, on va discuter, oui, de la mise en œuvre de l'IA responsable, mais appliquer aux organisations d'ici. Bonjour, Sophie, merci d'être ici. Merci beaucoup. Bien sûr, je suis accompagné de l'UXRWA innovateur en chef du Québec. Bonjour, Sophie, à ici le fond d'avoir Sophie avec nous aujourd'hui, notre grande expert d'international qui est au fait et dans toutes les discussions de l'aspect responsable de l'IA, on est chanceux de l'avoir ici au Québec. Merci beaucoup à tous les deux pour l'invitation, sans plaisir à un honneur de contribuer à la discussion. Ah, mais Sophie, pour nous c'est un honneur, mais parle-nous un peu du Sémia. Alors le Sémia en deux trois mots, c'est une organisation à buie non-lucrative qui a été fondée en 20 vingt pour aider des organisations, des décideurs politiques, à développer et mettre en œuvre les outils concrets de la gouvernance de l'IA. On fait rayonner également l'expertise qui bécueuse et canadienne en y un responsable à l'International et on ramène aussi les bonnes pratiques qu'on voit à l'International à la maison en termes d'outils de gouvernance de l'IA. Je suis en parle de ramener ça à la maison, de façon locale au Québec, lorsqu'on parle oui des entreprises qui veulent intégrer l'intelligence artilie. Il y a quand même deux spectres. Il y a des gens qui parlent de l'IA responsable, ça les fraisne un peu, mais il a aussi l'autre aspect très techno enthousiaste, gadget électronique. Comment on fait pour balancer les deux, justement pour que cela y a un impact réellement sur le progrès social, environnemental et économique? Si tu n'es qu'à une excellente question, puis je pense que de toute façon, la première chose qu'une organisation doit se poser quand elle envisage d'adopter unia ou de développer unia, c'est se poser la question, c'est quoi mon intention? C'est quoi mon objectif? Et ensuite, peut-être que dépendant de la question que l'organisation a, peut-être que la solution dans tous les cas ce sera pas de l'IA. Mais si c'est de l'IA, il peut y avoir plusieurs objectifs d'adopter ou de mettre en œuvre une intelligence artificielle ou une solution, ça peut être d'améliorer sa productivité, ça peut être d'accélérer ça à rechercher développement, ça peut être d'amélioration de la qualité, ça peut être de l'innovation, ça peut être une question de positionnement. Donc, t'es en ce sens, ça aide une entreprise dans une perspective économique à mieux se positionner. Il y a certaines solutions aussi qui sont développées, qui peuvent avoir des gains environnementaux. Puis, entre autres, je pense à une startup, plus dans l'ouest canadien, mais qui s'appelle Errol Court Technologie, ce qui est une startup qui explore comment est-ce que l'apprentissage par renforcement étudisée pour accroître l'efficacité du traitement des eaux. Donc, c'est très, très pratique au pratique, aider une ville à avoir son système de traitement des eaux qui fonctionne plus efficacement de manière plus rapide. Donc, cette objectif-là a un bénéfice environnementale en ce sens que, mais, et sociale, on aide la population à avoir accès à de l'eau propre, on diminue l'impact environnemental du processus de traitement des eaux moins d'énergie, moins de produits chimiques, un processus plus fluide. Donc, une solution technologique, une solution y a également un bénéfice environnemental. Donc, on en vient vraiment à, c'est quoi mon intention pour l'organisation, et puis, juste certaines solutions technologiques qui vont avoir un impact environnemental positif. - Là, je le vois que tu en es capable d'aller très, très loin dans une solution jusqu'à envisager l'impact sur l'environnement, mais dire pour un dirigeant, une dirigeant d'ici ne pensé aussi loin quand tu es dans les opérations. C'est quoi les premières que sortes, tu dois te poser, même avant d'aller aussi loin que ça. - C'est-à-dire pour un dirigeant qui va vouloir adopter une seule génia qui développe, qui adoppe. J'en viens à, c'est quoi mon objectif? Est-ce que je veux améliorer ma productivité? Est-ce que je veux positionner mon organisation sur une nouvelle l'œuvre de service? Donc, tu es fous vraiment commencer par revenir à ce que mon objectif, des business dans le fond, en tant que dirigeant d'entreprise? - J'entends les dirigeants, mais excuse-moi, c'est-à-dire que c'est un fait de l'interrompe. J'entends souvent, bah, qu'il y a des dangers avec l'IA, il y a. on les cite là. Mais les dirigeants dirigeantes, d'un fois, je reviendrai plus tard. Qu'est-ce qu'ils doivent considérer une fois qu'ils ont un projet, ont un objectif lovable, mais qui se mette un peu sur la bande malgré tout? - Je pense que c'est important d'en revenir à Bac. Pour eux, c'est quoi, t'es quel sont le risques? Est-ce qu'ils sont inquiets parce que si ils vont adopter une solution, ils vont avoir accès à des données sensibles, que ce qui s'est qu'ils vont peut-être, qu'ils ne souhaitent pas diffuser. Ça peut être des données personnelles de clients. Donc, si ce sont les enjeux, bah, il y a des solutions techniques technologiques qui existent dans les solutions, il y a pour protéger la donnée. Il y a des manières de protéger les données personnelles. Il y a des lignes directrices par ailleurs. Il y a certains cas de gouvernance qui sont en train d'emerger par rapport à l'IA responsable, puis qui guit des dirigeants dans la manière dont traiter ces données-là. Comment les protéger? - Donc, ils ne sont plus laissés à eux-mêmes? - Non, ils aient les guits de là, comment on les trouve? - Bien, il y en a, il y a différents organisations internationales comme l'OCDE. Nous, bah, au Sémia, ils ont soutien également le partenariat mondial en un des gens artificiels. On a aussi développé des lignes directrices qui peuvent être utilisées par des donneurs d'ordre en entreprise. Puis, ça peut être des outils assez simples. Des fois, c'est juste des checklists de dire, bon, est-ce que mes données sont accessible dans le bon format? Est-ce que j'ai la bonne équipe qui va être capable de me guider pour identifier les données à rassembler? Donc, il y a des outils assez simples qui permettent aux dirigeants d'entreprise d'évaluer, c'est sûr qu'il va falloir travailler avec des mobilisés, des équipes probablement d'été, designés à un chef de projet de ce projet-là. Mais, il y a des outils assez simples qui vont leur permettre de naviguer. Est-ce que je suis prêt ou pas prêt à implanter une solution, y a? Et si je suis pas prêt, bien, quels sont les étapes à mettre en œuvre pour être capable d'y arriver? Ça, ça donne espoir, parce qu'on a l'impression justement qu'il y a tellement de cartes de référence. Tu parles de cartes de référence par des organisations mondiales ou disées, une escôe, tu parles de l'OCDE, puis on se sent quand même assez éloigné. Il n'y a pas de référence aussi. Oui, oui, exactement. Donc, on voit qu'il y a une penne plie, puis il y a un rapport qu'il y a été lancé par ton groupe ce dernier mois, sur l'interreparebilité de Lya. C'est déjà un très grand mot qu'on doit démistifier. Mais, parle-nous justement de, peut-être, nous aider à vulgariser ces quoi interrepabilité, parce que souvent, on l'entend en donné, l'on parle de celui de Lya. C'est sûr qu'on parle justement interrepérabilité. Ça veut dire qu'il y a quelque chose dans l'univers qui est segmenté. Tout à fait. Donc, démistifier nous un petit peu ces concepts-là pour aider justement les dirigeants de les dirigeants de bien voir qu'un lien est locale à faire. Puis cette question de l'interrepérabilité, pour moi, c'est une des clés, en fait, je pense, qu'il va aussi rassurer les dirigeants dans le fait de se lancer dans l'adoption d'une solution yaa à terme. Puis peut-être, justement, rebondir un de ce que tu disais par rapport à l'émergence de différents cas de gouvernance. C'est dans notre boîte à outils de gouvernance de Lya. On a des outils qui sont plus rigides. On va voir des lois, des règlements. Puis, le que j'abandis sur ce que tu disais, le I.O.I acte. Donc, ce qui a émergé côté Europe. Puis après ça, on a des outils qui sont plus, ça, ce qui sont plus. Ça pleut, mais ici, je pense à des codes volontaires de pratique ou des standards qui sont en train de se cristalliser tout doucement. Ce panorama-là, je comprends que pour un dirigeant, du coup, c'est un petit peu intimidant. On a plein de standards, bonnes pratiques, règlements qui sont en train d'émerger. Puis, c'est un des enjeux pour un dirigeant, ça peut être de dire, bon, ben, si je choisis ou si je développe une solution Yaa, à quelle référentielle douage, tes doigts, je me conformer. Et c'est là que la notion d'interoperabilité devient intéressante pour minimiser ce risque-là, justement. Donc, ça, c'est le premier élément. Et j'en viens à la notion d'interoperabilité. Interoperabilité dans le fond, puisque ce qu'on est nancé dans le rapport, c'est un petit peu une manière de permettre à différentes solutions différentes technologies de se parler, de se comprendre et y d'aime, à différentes cadres de gouvernance, de se comprendre et de centres reconnaîtres. Donc, l'idée c'est que un dirigeant qui décide d'adopter une solution Yaa ici au Québec ou de développer une solution Yaa ici au Québec conforme à au bonnes pratiques qu'on peut avoir ici ou, par exemple, si on marchait d'exportation, c'est les États-Unis, il y a un cadre qui s'appelle le NIST, le NIST Risk Management Framework. On souhaite que son activité ici, si jamais l'envisage avoir une activité en Europe, on souhaite grâce à de l'interoperabilité que ça démarche ici, soit également reconnu en Europe sous l'égi de du IwiI Act. Donc, vraiment de trouver les clés de connectivité, de traduction entre ces différents référenciels. Puis, ce que ça va faire à terme, probablement grâce à l'emergence de standards qui vont cristalliser différentes approches et bonnes pratiques, mais également l'emergence de certification qui vont venir certifier "Wii conforme au IwiI Act, wii conforme au NIST Risk Management framework par un épa par exemple ça va nous permettre d'assurer cette traduction. cette traduction-là. - Je m'excuse pour la certification et ces standards, et ils sont. Ils sont. Aveille d'apparaître. - C'est une excellente question. Les standards sont en train d'émerger, mais les certifications n'y pas encore, je m'attends à ce que ça suive dans la foulée. Puis, je vais faire une analogie avec ce qu'on a vu émerger dans le monde de l'environnement. Il y a de cela plusieurs années par rapport au performance environnemental ou énergétique de certains produits. Une bonne analogie, ce serait par exemple le énergistard. Le logo énergistard, il va nous dire qu'on soit au Québec, qu'on soit aux États-Unis ou qu'on soit en Europe, il va nous dire bonne performance énergétique. - C'est une universelle. - C'est une universelle et c'est reconnue. Et c'est certification-là. Elle n'existe pas encore. Il y a sûrement des travaux qui sont en train d'émerger, mais on n'a pas encore. - Et donc comme l'utilisateur, comme un company d'organisation, qui adopte ces produits-là éventuellement, il y aura ces sauts de conformité. - C'est ceux à quoi effectivement on s'attend. Ces sauts de conformité dotées conforme aux U.A. actes, conforme aux autres sendards qui vont émerger et s'entrer reconnaître. - Ce que je trouve intéressant, puis je l'ai vu dans le monde de l'entrepreneurien, vraiment, c'est, sans nécessairement, vouloir la certification. Du peu de baser sur les bonnes pratiques. Et ça te prépare à la journée où tu voudrais avoir la certification. Donc, regardez toute le volet environnemental. Regardez la bonne gouvernance. Regardez les faits sociétales, sans la vouloir, mettent au moins une logique d'approche. Et tu sais que tu seras pas à côté de la track complètement. Donc je trouve que justement en termes de responsabilité, on parle de gouvernance de transparence. Mais ça nous permet aussi de mitiger les conséquences aussi face à cette technologie-neure. - Absolument. Pour moi, c'est vraiment une question de gestion des risques. T'es d'anticipé les évolutions peut-être réglementaires ou juste les évolutions de bonnes pratiques pour être capables de garder son droit d'opérer, pour être un bon citoyen incorporatif également. Et puis, pour bâtir une relation de confiance aussi avec ces clients et avec la population dépendamment de qui le client, là, pour le dirigeant. - Je vous ai entendu parler tout à l'heure que le Sémia avait des guides ou des feuilles de route pour orienter les organisations. - Sur la question d'interrepérabilité, justement, puis Anne-Yvesée référence la semaine dernière, c'est sûr que c'est en date des cembre 2025. Donc ça demeure encore à développer. Mais donc ce qu'on a publié, c'était justement des feuilles de route relativement au niveau, mais à l'attention du secteur publique, à l'attention des organisations internationales et organises de standardisation et de gouvernement également. Donc, ce sont des routes de comment envisager l'interrepérabilité. Et j'en viens à secteur privé, développeur, par exemple, dirigeant d'entreprise. Comment envisager un développement en ayant en tête cette question d'interrepérabilité, d'interrepérabilité, là? La prochaine étape, et ce sera une de nos priorités, ce sera une de nos priorités 20 ans. Ce sera de développer les outils plus pas de pratique, probablement secteur par secteur, pour aider les entreprises à justement adopter une démarche avec cette vision d'interrepérabilité. C'est pas une de route permet aussi de voir et de découper en action la mise en œuvre. Très souvent, lorsqu'on parle d'hier responsable, on a toujours l'impression que c'est dans un monde parallèle des philosophes, des professeurs, des donnards d'ordre, mais on ne sait jamais comment le découper en petite action. Et que tu puisses justement travailler avec des groupes qui permettent de découper sans action. Je trouve que c'est très concret. Moi, j'ai envie de toujours les dirigeants, d'aller s'intéresser à ces différents cadres de référence, parce que ça donne le bon vocabulaire. Et un bon vocabulaire, ça te permet d'avoir des conversations aussi avec des fournisseurs, parce que de les bons mots, ça te permet d'avoir des conversations aussi avec les experts en intelligence artificielle, pour au moins poser la bonne question. C'est quand tu sais pas poser la bonne question, t'es pas capable de pouvoir le démistifier plus loin, donc bravo pour le travail que tu as fait, ce fait. Est-ce que tu peux nous en dire juste un peu plus sur ces files? Elles seront distribués, elles sont disponibles sur votre site web. Absolument. Donc sur notre site web, actuellement, on a le grand rapport, on a également un guide à l'attention des décideurs politiques ou des dirigeants, et puis les failles de route au niveau. Donc le tout est disponible sur notre site web, je vous invite à le consulter, et puis les outils seront disponibles plutôt en 20-26, et on aura assurément des appels à participation, à la contribution avec justement le terrain, pour trouver les participants qui vont nous aider aussi à développer les outils plus, l'encore pratique ou pratique, qui vont trouver, comme tu le mentionnées, le bon vocabulaire dépendamment du secteur auquel on parle. - Puis grâce à l'IAG, vous jouez aujourd'hui, il y a certains sujets que j'experts pour la première fois, mais à la place, je mets les rapports, qui sont disponibles, qui sont publiques, dans l'IAG, et j'essaye de le vulgariser. Donc le vulgariser en trois niveaux différents. Donc pour une personne qui le lit une première fois, il y a des grands capteurs que je dois retenir. Si ça fait deux, trois, quatre fois que je le lis, quels sont les autres nuances que j'aurais dû capter? - Oui. - Et ici, je suis une lectrice avancée, donc ça fait plusieurs fois que je l'intègre, j'ai déjà posé des questions, comment est-ce que je peux raffiner de plus? Donc dans ce voléla, si je voulais juste partager un truc astuce, parce que ça peut être extrêmement intimident, déjà de dire, j'ai lieu un cadre de référence, qui vient de l'une escône, qui vient d'ici c'est mienne, donc parfois aussi on peut s'aider avec l'IAG pour vulgariser. - Super bonne idée parce que c'est vrai que le rapport est un petit peu impressionnant. Il y a un petit peu d'huile. - Oui, je l'ai vu en partie, puis je peux comprendre, mais ne pas être intimidé justement, parce qu'on peut lire plusieurs fois, puis on peut même se le faire raconter aujourd'hui. D'ici, c'est multimodal, donc tu peux le mettre facilement dans un autre bouquet-là, tu sais, "oh, tu as ce que tu peux, le vulgariser pour moi." Mais j'invite beaucoup les gens à le faire. T'as ne mes citoyens corporatifs, tout à l'heure. Mais ça fait un petit moment qu'on se connaît, puis j'étais vu très souvent en conférence sur des pannelles d'experts, puis tout ce que tu parles aussi de l'IAG, bonne citoyenne. Qu'est-ce que ça veut dire, une IAG qui est bonne citoyenne, surtout dans un monde où on essaie de déshumaniser l'IAG un peu. - Puis, c'est une question intéressante. Alors là, je peux vous rappeler plus, exactement quelle conversation sur quelle panel ou quelle conversation. - Je m'entends dire ça, mais t'y je vois bien la notion de l'encorge. Je reprends la position, où t'es la posture du dirigeant qui veut mettre en œuvre unia, puis je vais faire le lien avec un bon citoyen corporatif. C'est un petit peu la même idée que. C'est un petit peu la même idée que l'encorge de dirigeant qui, à chaque année, va publier son rapport E.L.G. Ou il détaille ces actions qui ont été prises, côtés environnement, qui ont été pris, côtés gouvernances, sociétales, puis on t'aime de bonnes impacts, côtés, l'utilisation de l'encorge et d'option de l'IAG. Il y a cette même notion et cette possibilité de démontrer. Mais voici la manière dont l'IAG se comporte de manière éthique. La manière dont elle s'assure d'être équitable, dont on s'assure de voir le moins de biépossible dans nos données ou dans la manière dont les algorithmes sont montés. Voici la manière dont je dis, par ailleurs, mes résultats, mes sorties de mes solutions liées. Donc, c'est un petit peu toute cette notion là, en fait. Il y a une question de transparence par rapport à la bonne gouvernance de mon citoyen. Ça, c'est le douneur, mais est-ce qu'il y a aussi des façons que des IAPs peuvent avoir un impact proactif, positive en société? Mais absolument. L'encore, j'ai donné un peu plus tôt l'exemple de l'IAG qui était utilisé pour améliorer le traitement des eaux. Ça, c'est un exemple. Mais il y a des solutions liées qui sont utilisées ou qui sont développées pour aider à préserver la biodiversité. Par exemple, il y a des solutions liées qui peuvent être utilisées pour, avec des ambitions de diminuer les émissions de gaz à effet de serre. C'est sûr qu'il faut avoir en tête la potentielle impacte environnementale des systèmes liés. Mais l'encore, il y a moyen de travailler pour optimiser gérer le bénéfice vers ce que l'impacte de. Quand tu parles de citoyens, dis-moi si j'ai bien compris. La notion de citoyens, c'est un peu pour nous rappeler, c'est en soi, nous comme bons citoyens, en fait, équitable. On va prôner la non-violence, la non-scrimination, la justice sociale. Le fait de transposer un vocabulaire très humain, c'est plus pour nous rappeler qu'il y a quand même une extension de nos billets, une extension de qu'il a bâtir un miroir de la société. Est-ce que j'ai bien compris comment le regardait? Oui. Du coup, aussi, toute l'importance, par contre, du rôle de l'humain dans le suivi de la bonne gouvernance. On ne peut pas laisser un système uniquement que tu es fonctionné par lui-même. Dans le développement, on a besoin d'avoir une imputabilité humaine aussi par rapport. au système, au système yat. On peut pas vraiment. Bah, on peut pas dire idéalement, c'est la faute de mon système yat. Non, non, non. Il y a une entreprise derrière où il y a quelqu'un derrière qui a fait un choix de donner d'entraînement de manière dont l'entraîner et puis de faire ou pas des auties. Donc, il y a un choix humain et corporatif - Oui. - De bonnes gouvernances des systèmes yat qui sont développés et adoptés, également. Parfois, j'ai l'impression que c'est une autre façon d'adresser les ressources du même du futur, c'est que t'intègres des nouveaux employés, des nouveaux stagiaires sous la forme d'application. Puis, tu veux que ces dialets reflettenent les valeurs de ton organisation. Puis, quoi de mieux que refletter les valeurs de ton organisation, que de dire, moi, j'ai fait des choix d'employer puis ces employés-là, refletent ces valeurs-là. Et non seulement ces employés-là physiques, mais eux, ils auront le choix d'intégrer des applications, bonnes citoyens nous s'y. Donc, si tout un fil conducteur, c'est très intéressant de voir qu'il y a un développement, une collaboration en plusieurs acteurs différents, puis un fil conducteur. Puis, sur cette volée-là, justement, c'est quand on parle de développement d'y à responsable, on peut jamais développer quelque chose seul. Parce qu'on a. C'est beaucoup de prétendre que un humain est capable de tout faire. Donc, il y a une collaboration, justement, entre le secteur privé, le gouvernement, les organisations civiles, et comment se passe ces discussions-là entre ces acteurs-là qui ont tous des intentions différentes? - C'est une vaste question, mais je pense que tous les chacun l'encore. Pour qu'il y ait le développement, il y ait le déploiement, et donc l'adoption de lia se face de manière responsable. Je pense qu'on a besoin de vraiment la présence de chacun de ces acteurs-là, qui, par ailleurs, évoluent avec des objectifs différents, mais aussi des pas de temps différents. Donc, tu es du côté de l'innovation technologique du secteur privé qui développe la technologie. On a la vitesse grand-vie, on a une vitesse. Donc, tu es très rapide avec beaucoup de moyens. D'autre part, on a un effort multi-parti pour défendre les outils d'une bonne gouvernement. On va voir des gouvernements qui sont attentifs à ce qu'ils entendent en termes d'enjeux, en termes de frise, qui sont attentifs à ce que la. Au préoccupation de la société civile, à ce que le secteur académique dit, puis évoque également, mais le pas de temps du gouvernement pour développer un cadre réglementaire, un cadre législatif, n'est pas du tout le même que le secteur du député, que le développement de la technologie. Donc, on a un défi de décalage, des pas de temps qui est assez intéressant. On a aussi le secteur de la recherche, qui doit contribuer à la discussion, qui amène les bonnes pratiques, qui permet aussi d'adresser la manière dont. Envisager ces nouveaux concepts de. Qu'est-ce que la justice, par exemple, de la donnée, qu'est-ce que la souveraineté, de la donnée ou d'un algorithme, donc on a besoin de tous ce secteur académique, c'est aussi qui contribue à la réflexion, l'encore pas de temps différent du secteur privé, et on a aussi besoin de la société civile, en ce sens que, d'une part, elle exprime ses préoccupations, mais aussi la société civile, elle va être clé dans l'adoption de la technologie, à la fin de la journée, pour la simple et bonne raison, qu'on a besoin d'avoir une acceptabilité sociale pour que ces technologies puissent être. L'encore avoir une adoption qui soit beaucoup plus large en compte, on est dans ce jeu de collaboration à différents niveaux, je dirais. Puis c'est sûr que. La manière dont on voit les choses et émergés, c'est que les gouvernements ils entendent, ils voient l'émergence de la technologie, les gouvernements par ailleurs, donc on a cœur de protéger leurs économies, leurs citoyens, réfléchissent à ces cadres de gouvernance, réfléchissent aussi à leurs échanges internationaux, donc on a des gouvernements qui ensemble, la déchelle internationale discute, s'entendre par rapport aux enjeux, par rapport aux priorités en termes de risques à encadrer, par rapport aux grandes définitions, et de là, émerge ces cadres ou ces bonnes pratiques, ces cadres de gouvernance ou ces bonnes pratiques internationales, de là vont émerger des standards et à terme, donc on espère des certifications. Mais c'est un long processus, je pense que l'intervention de chacun de ces acteurs est importante, parce que chacun, dans le fond, est une des pièces du puzzle, d'une hiat qui va avoir un fort impact économique, social et environnemental, et puis qui va être, j'en viens, le bon citoyen qui va vraiment avoir un impact positif pour la société. Je sens que tu as beaucoup inspiré, puis pour les gens qui connaissent un peu moins, quoi, qui est très, très connu, là, qu'il y a tout le temps du bon vocabulaire, mais il y a un silence qui parle aussi, puis je le sais quand il est inspiré par une réponse, donc là, j'aimerais ça passer la parole pour que tu puisses faire bon tue. - Il s'est évidemment un domaine dans lequel on a travaillé beaucoup ensemble, sur comment réfléchir à l'encadrement, puis avec toutes les bonnes participements. Moi, c'est la spécure de société civile qui m'intrigue, parce que quand tu le dis, c'est sûr qu'ils vont l'utiliser, et évidemment, les dirigeants dirigeants, on pense à eux, mais on a pensé au monde de l'encangement, au monde du travail, la culture, le monde de la démocratie, chacun, dans leur chacune, dans leur domaine, on a des enjeux bien particuliers, très préoccupants, et dans la définition d'un cadre, qui était d'un côté qui doit marquer le pas, avancer, mais de l'autre, on voit le monde changer autour d'eux. Comment est-ce que le monde de l'éducation, comment le monde de la culture, comment le monde de la démocratie, peuvent contribuer à l'établissement des bons paramètres? - Mais en fait, tout simplement, il ne faut pas avoir peur d'être à la table, et puis, à tout le monde, au niveau du partenariat mondial, en été égentsatiel, construit un pays, donc les travaux du Sémia aussi en parallèle, on est toujours à la recherche de collaborateurs et de la voix de la société civile, dans la réflexion de groupe d'experts pour faire émerger. C'est une cadre de bonne pratique, mais aussi, une fois que le cadre, il existe à plus haut niveau, dans le développement des outils plus concrets, si on parlait tout à l'heure de T235, qui peuvent être des checklists pour un dirigeant d'entreprise, savoir si les préoupas implanted y a. - Ça, c'est des outils qui ont été développés avec la voix de la société civile. - Oui, avec les usagers eux-mêmes. - Avec les usagers exactement. Donc, il faut être à la table de discussion, à la réflexion, mais aussi, après ça, à l'étabte de tester les outils et les rachiner. - Oui, et on les voit, on les voit qu'elles pointient. Les cycles sont rapides, les choses changent énormément rapidement, dans le monde de l'éducation, les premières réactions sur la crainte, puis le désir d'avoir l'esprit critique à être des usagers concrets, puis avoir après ça le désir de partager leurs expériences, de qu'est-ce qui est pertinente, comme on a promenant. Donc, tous ces guides-là d'intégration, plus que de façon responsable, responsable en termes d'étiques, mais responsables envers sa profession, envers ses usagers, ses étudiants, ses clients. - Et c'est toute une réflexion qui se fait en temps réel, après ce que? - Casement, en réel, absolument. Et c'est d'où l'importance d'être très attentif à où est-ce qui se passe en termes de développement de mon pratique, puis de ne pas avoir peur aussi de se regarder, par rapport à sa profession, pitié dans l'encour de l'enseignement, l'éducation, tester les outils, réfléchir avec les collègues, mais qu'est-ce que ça peut nous apporter? - Et d'avoir des faurs d'où le c'est bien, en éducation, on avait. On a toujours le conseil de l'enseignement supérieur, mais donc, c'est un conseil supérieur de l'éducation, mais on a besoin de faire comme vous pour nous donner les grands principes. - Et puis on répond présent à la peine, puis c'est sûr qu'on a un rôle nous aussi, qui est d'être un connecteur de ces différentes parties prenantes, puis on se veut être un connecteur neutre, justement, rassemblant les différentes voies, secteurs par secteur aussi, je pense que c'est important d'adapter les outils secteurs par secteur. Sector d'éducation, ça pourrait être si secteur, magnifique, tu dirilles, il y a vraiment une réflexion à avoir secteur par secteur, et puis aussi de réfléchir l'encore, avec un dirigeant, les dirigeants d'entreprise, qu'est-ce que ça veut dire? L'hier, l'émergence de l'hier, par rapport à l'évolution de leur force de travail. Comment est-ce que ça va. Puis Andrew prend l'exemple que tu donnais, d'avoir été un stagiaire, qu'est-ce que ça veut dire par rapport à l'évolution des métiers? Il faut faire une réflexion. - C'est essentiel cette réflexion là. On l'a eu avec les syndicats qui continuent à y réfléchir, à l'égin de la Commission départenaire du marché du travail, et tout leur membre. Les bouvers humains sont. ce materialisme maintenant. Et ça amène des nouvelles questions. Encore une fois, votre rôle est super important. - Ce qui change pas, parce que vous avez mentionné tous les deux, que ce fille aigué pas la technologie, avance rapidement, vous devez continuer à y réfléchir jour après jour. Faudrait pas laisser un mois sans continuer à réfléchir. Une chose qui ne change pas par contre, c'est le poussement du Québec en hier responsable. - Applaudement. - Depuis 2017, je pense que ça a été avec la déclation de Montréal, leur rapport prépour liat par la suite, le poussionnement du cemial, le via. Plus en acteur se positionne en hier responsable pour représenter le Québec. Qu'est-ce qui distingue notre approche, d'ici un responsable ici? - Robablement une de ces forces, puis ça qui, d'ailleurs, en fait, basé sur une autre des forces du Québec en Nia, c'est l'approche de recherche collaborative, multipartiprenante. On est très fort sur cette question d'amener différentes voix, de faire des consultations auprès de différents groupes et de ne pas avoir peur de la consultation avant de faire ressortir les bonnes pratiques, et puis des cadres de bonnes pratiques, justement. On est très fort là-dessus, puis il encore œuvrant dans une éblueuse, pas une éblueuse, œuvrant beaucoup à l'international, on le voit. On est très fort là-dedans. - Collaboration, multipartiprenante. - On m'a fait réaliser qu'en France, la réflexion sur le cadre de Nia a été fait dans une tour d'hiver par 12 experts qui sont descendus à jouer à leur tablette là-bas. - Exactement, on est très fort là-dedans. Et par ailleurs, on a une recherche, on a mental, une recherche académique en Nia, c'est très fort aussi. - Oui, avec les acteurs comme l'Opvial, l'abservatoire de Nia responsable, recrommant stratégique des effets pu. C'est vrai qu'il y a ce savoir-là et on a eu le privilège d'avoir ce savoir-là d'avance parce qu'on a eu les observations, les l'anticipation, et bon, quand les enjeux ont commencé à se poindre, on avait déjà une base de science sur laquelle ça pient. - Exactement, on était prêt. - Oui. - On était prêt à être parmi les lideurs, donc on le font, et puis à joindre la discussion à l'international. - Je souris parce qu'on dirait que ça a été fait exprès, mais vous avez dit le mot "près", il y a un trappard, ça s'appelle "près pour l'hier", - Exactement. - Il va bien tout fêter. Son deuxième anniversaire, ça a été lancé en février il y a deux ans, donc février, 20-26 ça va faire deux ans, c'est fait partie de la consultation. T'as mentionné un point important, c'est de la proche du Québec d'être capable de réunir plusieurs participants ensemble. J'aimerais qu'on puisse pousser un petit peu plus la question, parce que très souvent on dit ceux qui ont réussi l'adoption de l'intégence artificielle ont réussi leurs cultures d'innovation. Et dans la culture d'innovation, c'est trois ingrédients. Le premier, c'est d'abord nemer une gardienne ou un gardin en une personne ou un groupe de personnes pour tenir l'ambition d'innovation de la donnée ou d'intégence artificielle. L'autre bel est, c'est d'abord que vous savez mettre un carré de sable où on peut tester rapidement des idées ou des technologies, tu es en la persocière des carré de sable, mais le dernier, c'est justement les politiques, eux, des idées, diversités, inclusions. Toi, c'est du sommet dans le personnel d'une dirigeante d'une dirigeante. Et c'est la première fois que tu choisis une solution propulsée par l'intégence artificielle, toi qui nous dit qu'on a une grande force au Québec de réunir ces gens. La caméra de celui, c'est ma maman-là ou de suppose les questions et que t'accueillent justement des perspectives différentes. En tant que dirigeante d'entre eux, - Préposément, premièrement. Mais probablement que justement, en tant que mon premier réflexe va aller, c'est dans notre façon d'être là, mais ça va aller justement d'aller chercher les différents avis d'être sûrs de m'entourer. Des bonnes personnes pas allées, ne pas avoir peur d'aller dans un carré de sable, parce que un carré de sable, ça va aussi être l'endroit où est-ce qu'il va y avoir un écosystème, d'autres acteurs qui vont faire face à ces mêmes défis là. Donc ce sera ce petit peu la manière dont je verrai la chose. Et puis, c'est l'encore, étatenti faut aussi à kier le gardien de. - Oui. - Donc, visualiser quels sont ces acteurs dans l'écosystème et interpeller les bonnes personnes puis pas avoir peur de tendre la main dans le fond. - Oui, à qui? - C'est vraiment avec humilité ou vertuure en bas. - C'est absolument. - On va choisir ensemble en transparence, puis on veut écouter vos différentes idées, même si ils sont à l'opposier. - Oui, parce que j'en reviens à l'importance de l'acceptabilité sociale, dont je parlais un petit peu plus tôt, je pense qu'un des éléments clés du développement et de la mise en œuvre de l'heure responsable, c'est de bascir la confiance. Puis pour ça, il faut être à l'écoute, faut entendre les préoccupations, puis il faut aussi expliquer l'encore en transparence. Puis comme tu le disais aussi en humilité, voici l'ambition, voici l'intention, j'entends vos enjeux comment est-ce qu'on adressa ensemble, puis du coup, par rapport aux différents enjeux qui sont énoncés, qu'est-ce qu'on a dans les différents carréts sables que nous dit notre porteur de l'expertise par rapport aux outils disponibles? Donc, ça, un petit peu l'approche que j'aurais. - J'enlasserai une. A-t-u, Sophie, des exemples d'entreprise, d'organisation qui ont été peut-être pas parfait, mais exemplaire, en termes d'adoption, de liat de façon responsable. - Mais, je probablement que y en a quelques uns, j'ai discuté quelques uns, pardon. J'ai discuté tout récemment pour avoir été sur un panel aussi avec la personne en charge de liat et de la donnée. J'ai discuté avec des gens de Télus, qui ont. qui ont. qui ont adopté liat, qui ont vraiment adopté une posture d'yat responsable, qui se sont même portées volontaires pour tester des bonnes pratiques internationales dont le Hiroshima AI reporting framework qui a été lancé par la présidence japonaise du G7. Et là, dont on est en train de décliner des outils un peu plus concrets de cas de gouvernance. Donc, ça serait. Bon, c'est une grande entreprise, mais ça pourrait être un. un des exemples à Soulinie. - C'est une bonne façon, donc, ils testent des cas de référence, voient comment ici conforme. - Exactement. - Quoi d'autre, par exemple, qu'il y a que une entreprise qui fait un déploiement de façon responsable va faire? - Ça peut être, par-à-t-il vérifier ou s'assurer que l'encore. En. Quand tu adoptes ta solution, y a. Puis tu sais que tu dois aller chercher des données pour alimenter ta solution, avoir une réflexion par rapport à. Est-ce que j'ai des biais dans mes données? Comment éviter d'avoir des biais qu'elles sont les participants impliquées, donc ce genre d'éléments à voir en tête? - Mh-mh. - En. En amont. Puis l'encore, t'y de documenter les procédures et les processus. J'en viens à un du mentionner la transparence, très important pour bâtir la confiance. - On est déjà à la fin du baladou, ça va tellement rapidement que je me permettrai de faire. Ceux-fis, je te laisserai une dernière minute pour partager peut-être des éléments que tu n'as pas pu partager si c'est tellement important pour une dirigeante ou une dirigeante de comprendre cet élément. Puis par la suite, l'eux que je te laisserai aussi une dernière minute pour que tu puisses être à j'appetre bonnes-d'eures un petit peu. Donc ceux-fis, je te laisserai commencer. - Le message, et genre, vient ne pas avoir peur, ne pas avoir peur d'essayer. Commencer par se poser la question, je veux tester. Je veux tester cette nouvelle technologie qu'il y a, quel élément besoin, quel est mon objectif, quel est mon intention. Et ensuite, lorsque j'adopte le tout, je veux m'assurer de le faire de manière responsable, allez voir quels sont les bonnes pratiques, tester les bonnes pratiques, et s'assurer de contribuer au carré de sable, où est-ce que se passe le développement de ces bonnes pratiques en y a responsables, de contribuer à la discussion, et ne pas avoir peur d'une raison aussi pour contribuer à cette discussion-là, c'est de s'assurer de gérer ces risques, en tant que dirigeant d'entreprise. - Le que? - C'est une belle façon de le mettre, parce que quand on entendait les actions à prendre autour des données, pas c'est pas comme si c'était quelque chose de nouveau, l'origine des données, les billets, des données, la confidentialité, il y a tout déjà des précédents là-dessus. Donc de d'y aller et de réaliser, comme dirigeant dirigeant, que les enjeux vont se materialiser au feu et à mesure, mais que si à la base, on a des principes solides auquel a dérits et qu'on le fait avec les meilleurs intentions et les meilleurs actions possibles, mais là, ce moment-là, les enjeux qui vont se materialiser, mais on pourra les identifier, on les aura pas vu autrement, et on pourra y apporter des solutions. Moi, je le verrai comme ça, puis c'est ce que j'apprends, peut-être, avec d'une personne en charge de cette réflexion, parfois dans un corps rétab, comme tu disais, en l'organisation, parfois àilleurs, mais toujours avec des cadres et des politiques de base, et le reste, il faut être capable de l'absorber. - Absolument. J'avrais son du tutel-rhythme super bien, après, gestion des risques au final. - Oui. - C'est ça le. - C'est un bon. - C'est une très bonne référence. La gestion des risques, les gens dirigeant de connaître bien ça, c'est jamais parfait. La gestion des risques, on identifie tout ce qui pourrait arriver, les probabilités, les impacts et tout ça. C'est fait dans un effort très, très constructif d'anticipation. C'est un peu la même chose ici. - Exactement. - Et si il y a quelque chose qui arrive, ou qu'on n'avait pas pensé, on pourra s'y ajuster. - Absolument. C'est pourquoi c'est important d'écouter le baladou jusqu'au bout, parce que même jusqu'au bout, on arrive à identifier et déposer des outils nouveaux. Donc à la fin, vous avez parlé de gestion des risques. Merci encore une fois, ce fille d'avoir été des nôtres. Merci de l'eux d'avoir co-animé avec moi, plus de. - J'en ai appelé. - Comme toujours. - Merci beaucoup, Sophie. - Merci à tous les deux. - Merci, merci à tous et à tous d'avoir été présents et à l'écoute de nouvelles épisodes baladaux. Yackebeck par le Conseil de l'Universion du Québec. On recevait aujourd'hui Sophie Fala, directrice générale du Sémil. elle amène avec elle un regard mondial, mais permet aussi d'avoir cette approche-là de mise en œuvre de liers responsables visée sur les entreprises et les organisations. Encore une fois, merci beaucoup. Merci beaucoup.