Speaker 1Salut à toi et bienvenue dans Le Confessionnal, le podcast diabolique de Vadé Rétro. Au sein du Confessionnal, on parle marketing du livre, stratégie réseau sociaux et marque-auteurs sans bullshit. Salut à toi et bienvenue dans ce tout nouvel épisode du Confessionnal de Vadé Rétro. Et cette semaine, on va parler d'intelligence artificielle. Attention, on ne va pas rentrer dans le débat, est-ce qu'on est pour ou contre l'intelligence artificielle ? Non, aujourd'hui, on va parler de législation et particulièrement de l'EI Act, donc l'acte sur l'intelligence artificielle qui a été publié par la Commission européenne et qui a fait couler beaucoup d'encre cet été. Avant de rentrer dans le vif du sujet, je te rappelle de bien penser à t'abonner au podcast pour ne pas rater les prochains épisodes. Et je t'informe aussi que dans le grimoire, la newsletter de Vadé Rétro qui sortira le 13 septembre, je t'ai préparé un récap sur tout ce qu'on va se dire aujourd'hui et sur comment te mettre en conformité avec l'EI Act, qui, tu le verras, peut potentiellement... Donc, pour ne pas le rater parce que la newsletter n'est envoyée qu'une fois, tu peux t'abonner au grimoire via le lien qui est en description de l'épisode. Bon, tu l'as peut-être vu passer si t'as fait autre chose que de bronzer et d'avoir les pieds dans le sable cet été. Le 2 août, il y a quelque chose qui a changé en Europe et qui a enflammé les réseaux, ce fameux EI Act, donc cette nouvelle loi sur l'intelligence artificielle. T'as peut-être vu passer des messages du style « À partir du 2 août, si tu ne déclares pas ton utilisation de l'intelligence artificielle, tu vas prendre une amende de 15 millions d'euros. » Ce que j'ai vu aujourd'hui, c'est qu'on peut nuancer un petit peu ce propos-là et que non, tu ne risques pas de prendre une amende de 15 millions d'euros sur le coin du nez, a priori, si tu respectes quelques principes très simples. Donc, j'ai passé un petit moment à éplucher les textes de loi, les différents forums, à comparer les sources entre elles, parce que moi, je me posais la question déjà pour moi-même. Qu'est-ce que ça veut dire cette loi ? Est-ce que je suis impactée en tant qu'autrice, en tant qu'entrepreneur ? Et si oui, comment l'appliquer correctement pour pas potentiellement, soit que mon contenu soit supprimé, soit même potentiellement avoir des sanctions financières ? Donc, j'ai fait ce travail-là. Je tiens à préciser, bien évidemment, que je ne suis pas juriste. Donc, malgré mes précautions et mes vérifications, il se peut que je me sois trompée ou qu'il y ait des informations qui soient incorrectes. Si c'est le cas, je m'en excuse. Mais dans tous les cas, si toi, tu as besoin de vérifier un point, n'hésite pas à le faire. Et pour cela, à t'adresser à un juriste spécialisé sur tous ces sujets. Donc, aujourd'hui, je vais te faire le topo complet sur ce fameux AI Act. Et on va parler aussi d'un autre sujet qui a enflammé la toile, qui est le fameux badge généré par IA de Meta. Je vais vraiment séparer les deux. On va faire deux temps bien distincts dans cet épisode parce que ce n'est pas du tout la même chose et que je veux bien qu'on sépare les deux sujets. Donc, d'abord, on va se concentrer sur ce que dit la loi, la loi européenne. Qui est-ce qu'elle concerne ? Comment est-ce qu'on l'applique ? Et quelles sont les sanctions si elles ne sont pas appliquées ? Dans un second temps, on parlera des plateformes et notamment de Meta. Donc, Meta qui est une plateforme commerciale, qui est une entreprise et qui, du coup, a ses propres règles qui n'ont rien à voir finalement avec l'AI Act. Ça, tu le verras dans l'épisode. Mais aujourd'hui, on va vraiment séparer les informations en deux temps. Je vais t'indiquer quand je passe d'une partie à l'autre que toi-même, tu ne sois pas confus ou confuse dans ton analyse du sujet. Donc, un dernier rappel pour bien penser à t'abonner au podcast et au Grimoire si ce n'est pas déjà fait et en avant-gagnant. Alors, on va commencer par l'AI Act, donc Artificial Intelligence Act, qui concerne, du coup, l'acte de l'Union européenne sur l'intelligence artificielle. Cette loi, elle existe depuis 2024, donc elle n'est pas nouvelle. Mais souvent, comme toutes les lois, elles ne sont pas impliquées d'un coup. Pour laisser le temps aux entreprises, notamment, et aux administrations de s'adapter à cette loi. Petit appel. Les articles entrent en application, dont le fameux article 50 qui nous intéresse aujourd'hui. Donc, cette loi, elle encadre l'usage de l'intelligence artificielle en le définissant selon trois niveaux. Des usages qui sont carrément interdits, comme par exemple, l'utilisation de l'IA pour faire de la notation sociale. Ça, si vous avez vu Black Mirror, vous savez de quoi je parle. Ou encore de la surveillance, de la surveillance biométrique. Donc, utiliser l'intelligence artificielle pour suivre des gens en reconnaissant leur visage, par exemple, sur les réseaux sociaux. Il y a des usages à haut risque, mais qui sont très encadrés. C'est-à-dire que c'est autorisé. C'est sous réserve d'appliquer des principes très stricts. Comme par exemple, pour le recrutement ou la santé. Je ne rentrerai pas dans le détail ici, parce que déjà, je ne suis pas experte du sujet et qu'en plus, ça ne nous concerne pas. Et l'article 50, qui aujourd'hui nous intéresse et qui concerne plutôt la transparence sur l'usage de l'IA. Donc là, on va plutôt être sur comment on s'assure en Europe qu'on sait quand on est face à du contenu IA ou que les entreprises sont transparentes par rapport à leur utilisation de l'IA. Donc, l'idée de cette loi, en fait, elle est plutôt simple et elle est plutôt saine. Ça, pour le coup, on ne peut pas le nier. C'est de permettre aux gens d'être au courant quand ils interagissent avec une IA ou quand ils sont face à du contenu qui a été généré ou retravaillé par une IA. L'idée n'est pas de dire l'IA c'est bien ou l'IA c'est mal. C'est toujours la même chose. C'est de dire, il faut que les gens soient au courant quand ils sont mis face à du contenu qui relève de l'intelligence artificielle. Qu'est-ce qu'elle concerne, cette loi ? Elle va concerner deux types d'acteurs. Le premier, c'est le fournisseur. C'est-à-dire l'entreprise qui va développer le logiciel d'IA ou l'application d'IA. Par exemple, Anthropique qui développe Upload ou OpenAI qui développe ChatGPT. Ça, c'est ce qu'on appelle les fournisseurs. C'est ceux qui fournissent le logiciel d'intelligence artificielle. Et de l'autre, il y a ce qu'on appelle le déployeur. C'est-à-dire la personne qui va utiliser l'intelligence artificielle dans un cadre professionnel. Là, bien évidemment, on parle de cadre professionnel. Les particuliers ne sont pas concernés. Donc, tu l'auras compris, toi, si tu utilises l'intelligence artificielle dans un cadre professionnel, tu peux potentiellement être concerné par l'AI Act. Et c'est ce qu'on va voir aujourd'hui. Si je regarde d'abord du côté du fournisseur, parce que tu vas voir que ça peut nous intéresser. Donc, le fournisseur, comme par exemple Anthropique ou OpenAI, c'est-à-dire ceux qui fournissent le logiciel, eux, ils ont deux obligations. La première, c'est de s'assurer que quand on utilise leurs outils, leurs logiciels, on est certain, sans aucun doute possible, qu'on interagit avec une IA. Ils n'ont pas le droit de faire passer une intelligence artificielle pour un être humain. Par exemple, quand tu utilises ChatGPT, tu sais que tu interagis avec un bot. On ne te fait pas croire que tu interagis avec Michel dans un centre de service au nord de la France. Non, tu sais que tu interagis avec une intelligence artificielle, donc avec des serveurs, etc. C'est la même chose, par exemple, si tu as une entreprise qui va fournir des chatbots en ligne ou des choses comme ça. Tu dois toujours être au courant que tu interagis avec une intelligence artificielle et pas avec un être humain. Ça, déjà, c'est le premier point. Le deuxième point, c'est que le fournisseur a l'obligation de marquer techniquement le contenu généré par intelligence artificielle. Et donc, cette marque, tu as peut-être vu passer ce mot, c'est ce qu'on appelle le Watermarker, donc le filigrane, en fait, la marque qui va permettre de détecter qu'un contenu, donc un texte ou une image, a été généré par intelligence artificielle. Et c'est ce sujet-là qui va nous intéresser, tu vas voir pourquoi. Donc ça, c'était pour le fournisseur. Si on passe du côté du déployeur, maintenant, donc plutôt toi et moi, si on utilise l'intelligence artificielle dans le cadre de notre travail, là, on a deux obligations. La première obligation, c'est d'informer les gens si tu utilises des systèmes de reconnaissance biométrique ou d'analyse des émotions. On va balayer ça tout de suite parce qu'a priori, ce n'est pas des choses que tu fais dans le cadre de ton métier d'auteur. Par contre, la deuxième chose qui va te concerner, c'est que tu dois labelliser deux types de contenus si tu les utilises et si tu les génères. Le premier contenu, c'est les deepfakes. Je te prends un exemple. Je crois que c'est T-BoneShape qui avait fait ça, qui s'était cloné par IA et qui génère des vidéos par intelligence artificielle grâce à un clone qui a scanné son visage. Typiquement, vu que lui va s'en servir pour vendre des choses, ça, c'est ce qu'on appelle un deepfake, c'est-à-dire qu'on peut croire que c'est lui, lui qui l'a scanné son visage, sa voix, etc. et être obligé de le déclarer pour qu'on sache que ce n'est pas lui, lui, mais une copie de lui, un avatar de lui, en fait. Donc, si jamais, pour ton activité d'auteur, tu utilisais des deepfakes, c'est-à-dire que tu clones ton visage ou ta voix pour vendre quelque chose ou pour communiquer tout court, à partir du moment où tu te fais passer par quelqu'un ou quelque chose de réel, c'est du deepfake et tu dois le signaler. La deuxième chose que tu dois signaler en tant que déployeur, donc en tant qu'utilisateur de l'intelligence artificielle, c'est si tu génères des contenus qui portent sur des sujets d'intérêt public, donc l'éducation, la santé, l'environnement, l'écologie, tous ces sujets-là. Si tu génères des contenus par intelligence artificielle qui parlent de ces sujets, tu es obligé de signaler qu'ils ont été générés par intelligence artificielle. Il y a des limites, on va rentrer dans le détail, mais voici les quatre figures qui peuvent te concerner. Les deepfakes, si tu en fais, et les sujets d'intérêt général. Ce qu'il faut savoir sur les textes d'intérêt général, c'est qu'il y a une limitation. Si jamais le texte a été vérifié par toi, corrigé, annoté, en tout cas, tu l'as contrôlé, pas juste relu, mais vraiment contrôlé, revérifié le fond, la forme, etc., et que tu le publies, on considère que tu n'es pas obligé de dire que c'est de l'intelligence artificielle. Ce qui est interdit, en gros, c'est de prendre un contenu IA et de le reposter tel quel. C'est là qu'on commence, je pense, à sentir qu'il y a déjà un premier élément qui peut poser question, c'est comment est-ce qu'on peut vérifier ça, jusqu'où, à partir de quand on considère que ça a été suffisamment modifié, quelle est la limite, qu'est-ce qui te prouve finalement que le texte a été contrôlé ou pas, et donc c'est là qu'on va rentrer un petit peu dans le détail de ce watermark et de comment il fonctionne. Bon, je pense que déjà, ce qu'on peut conclure, c'est que t'es a priori pas trop concerné par ces sujets, à moins que t'aies envie de faire un deepfake de ta tête pour vendre tes livres, pourquoi pas, j'ai envie de te dire, ça c'est ton choix, c'est pas quelque chose que je vois beaucoup dans le monde éditorial aujourd'hui, donc à moins que t'aies envie de faire ça, ou alors que tu rédiges des articles d'intérêt général, typiquement, moi, si je devais faire des articles sur les droits d'auteur, des choses comme ça, et que je le faisais uniquement par IA, sans le contrôler, sans le modifier, sans l'éditer, finalement, sans aucun regard éditorial dessus, bah c'est quelque chose que je devrais signaler, parce qu'on considère que les informations que je donne aux gens, elles vont avoir de l'intérêt pour eux, elles peuvent orienter leurs actions, et donc, elles ont un impact, et il faut qu'elles soient contrôlées ou signalées comme étant générées par IA. Donc toi, à priori, t'auras bien compris que les postes qui servent à vendre ton roman, à te présenter, etc., ou même ta newsletter d'auteur, sur le papier, t'es pas concerné. L'action commerciale, à priori, au niveau actuel qu'on a de la compréhension, de la loi, et jusqu'à ce qu'il y ait des précédents, la fiction n'est pas concernée par cette obligation de labellisation. On parle vraiment de textes qui se font passer pour des textes vrais. Tout ce qui va être créatif, imaginé, n'est pas concerné. Et donc, c'est ça qu'il faut, je pense, déjà retenir sur cette première loi. C'est que cette loi n'impose pas d'étiqueter tout le contenu IA. Elle impose d'étiqueter le contenu IA dans des cas précis, sur des exemples concrets, avec une distinction précise entre le fournisseur et la personne qui génère les contenus. Il y a aussi trois textes qui ont été plus ou moins mélangés ces derniers mois et qu'il ne faut pas confondre. Le premier, c'est l'AI Act, donc la loi qui a été publiée par l'Union européenne et qui doit être appliquée à la lettre parce que c'est la loi. Il y a ensuite les lignes directrices de la commission qui te donnent des exemples de comment tu peux l'appliquer pour te mettre en conformité avec la loi, mais qui n'ont pas la même force que la loi. C'est plutôt des exemples de comment l'appliquer. Et enfin, le Code de bonne pratique qui est entièrement volontaire, qui a été publié, je crois que c'est en juin 2026, et qui, lui, va te montrer, si tu es une entreprise, comment tu peux mettre en conformité tes processus et tes standards de A à Z, mais sur la base du volontariat. Donc ça, ce n'est pas obligatoire. C'est pour les entreprises, entre guillemets, qui veulent... Soit faire du zèle ou anticiper le sujet, mais là, il n'y a rien d'obligatoire dans les Codes de bonne pratique. Bon, maintenant qu'on s'est dit tout ça, est-ce que ça veut dire que, pour autant, si tu es autrice ou auteur indépendant, tu es complètement tranquille avec ce sujet ? Pas totalement. Parce qu'il y a quand même des zones de vigilance sur ce sujet, comme, de manière générale, tout ce qui touche à toute nouvelle technologie. Et l'intelligence artificielle en fait partie. C'est une technologie qui évolue extrêmement vite, sur laquelle on est loin d'avoir fait le tour, et qui est sans cesse en constante évolution. Donc non, on ne peut pas dire que tu es complètement tranquille sur le sujet. Et encore une fois, moi, je ne suis pas là pour te dire que tu dois faire ci ou tu dois faire ça. Je te donne les éléments, et après, tu prends tes décisions en connaissance de cause ou pas. Donc, on va prendre les différents cas qui peuvent potentiellement te concerner en tant qu'autrice. Le premier cas, c'est la couverture de ton livre. A priori, la couverture de ton livre, elle rentre dans le domaine de la fiction. Donc, comme on l'a dit, on n'est pas concerné par l'AI Act, parce qu'on ne relève pas d'un sujet d'intérêt public, qui pourrait se faire passer pour du vrai contenu. Mais, mettons que tu écrives, par exemple, une histoire de vie, que tu écrives un documentaire policier. Tu vas être amené à relater des faits réels. D'ailleurs, je te rappelle de bien te renseigner là-dessus, parce qu'on ne peut pas citer des faits réels et des vrais gens comme on veut. Il y a un risque de diffamation, mais bref, je referme la parenthèse. Mais si jamais tu traites de sujets comme ça qui touchent au réel, qui, en tout cas, se font passer pour réels, traites de sujets concrets, sérieux, et qu'on pourrait considérer comme étant la vérité, là, tu peux rentrer dans ce qu'on appelle un risque de deepfake. C'est-à-dire que, si jamais tu vas faire un documentaire policier, tu vas faire ta couverture, tu vas faire une fausse photo de ta mère, par exemple, parce que c'est une biographie de ta mère. Techniquement, ça, c'est du deepfake, parce que ce n'est pas une vraie photo. C'est une photo que tu as générée par IA qui représente une personne réelle. Et ça, c'est contrôlé par l'AI Act, et ça doit absolument être mentionné. Il y a sûrement tout un tas d'autres obligations qui s'appliquent, d'ailleurs, comme, par exemple, le fait qu'on n'a pas le droit de publier les photos des gens sans leur accord. Mais là, je me concentre vraiment juste sur l'AI Act. Ça, typiquement, tu n'as pas le droit. Si tu veux faire une photo, par exemple, du Capitole aux États-Unis et que tu le génères toi-même, ça peut être considéré comme du deepfake parce que c'est un lieu réel. Donc, il faut bien faire attention à comment tu utilises les choses. Il faut bien qu'on comprenne que c'est de la fiction et que ça ne se fait pas passer pour quelque chose de réel sur lequel les gens pourraient se baser et que les gens pourraient prendre comme étant la réalité. Donc, si tu utilises une image qui ressemble vraiment à s'y méprendre, à quelque chose de réel, que ce soit une personne, un lieu, un événement, là, tu rentres dans du deepfake et tu dois le faire. Donc, à priori, tu as compris, si tu fais ta couverture avec de l'intelligence artificielle et qu'il y a un dragon dessus, je ne rentre pas dans le débat de est-ce que c'est bien, c'est pas bien. On parle juste factuellement du sujet. Si jamais tu fais ça, tu n'es pas concerné. Par contre, si tu fais une photo d'une rue de Paris en 1960, j'en sais rien, là, ça imite quelque chose qui a vraiment existé, qu'on peut prendre pour du réel, surtout si c'est dans le cadre d'un récit non fictionnel. Donc là, tu dois le signaler. Deuxième cas qui peut potentiellement te concerner, ton texte de fiction, une fois de plus. Si tu écris... Si tu écoutes attentivement ce que je te dis depuis le début, tu vas me dire, je ne suis pas concerné et t'auras raison. Le texte de fiction, quand bien même tu l'aurais écrit en full IA, n'est pas concerné par l'AI Act. Ça ne veut pas dire que ça ne pose pas tout un tas d'autres soucis derrière, la transparence par rapport à ton lecteur, etc. Mais ça, c'est un autre sujet. Tu n'as pas d'obligation légale de labelliser le texte comme ayant été écrit avec de l'IA. Troisième sujet, donc celui dont je te parlais un petit peu avant, si jamais tu écris du contenu non fictionnel, donc des biographies, des reportages historiques, des portraits de personnages historiques importants, j'en sais rien, un essai sur la société, tout ça, c'est du contenu non fictionnel, parce qu'on considère que ça fait référence à des personnages réels ou ayant existé, à des lieux réels ou ayant existé, et des périodes réelles ou ayant existé. Et donc, potentiellement, ces éléments-là peuvent servir de source d'information à d'autres personnes. Or, si c'est ce que tu écris et que tu l'écris avec de l'IA, là, du coup, ça rentre dans le cas de l'AI Act et tu dois le signaler comme étant un contenu ayant existé. Un contenu ayant existé, un contenu qui a vraiment été manipulé, créé par de l'intelligence artificielle. Toujours si tu l'as publié tel quel sans l'avoir relu sur le fond. Donc, si tu écris un texte non fictionnel avec de l'IA, mais que tu retravailles tout en profondeur, que tu t'en sers pour reformuler, ajuster, etc., tu n'es pas obligé de dire qu'il a été écrit avec de l'intelligence artificielle. Par contre, si tu crées un livre entièrement par IA, ou crée votre best-seller en 30 jours avec l'intelligence artificielle, typiquement, si tu fais ça et que ça traite d'un sujet d'intelligence artificielle, d'intérêt général, là, tu es obligé de le signaler. Parce qu'on considère qu'il n'y a pas eu de correction, d'amendement, de modification, et qu'en gros, c'est direct IA vers le public qui va le lire. Et c'est ça que la loi veut contrôler, ou en tout cas, veut mettre en avant pour que le public soit sensibilisé sur le type de contenu qu'il consomme. Le quatrième cas qui peut potentiellement te concerner, c'est les voix de synthèse. Et là, de la même manière, on va continuer à faire la distinction. Est-ce que ça imite une personne réelle de manière trompeuse ? Par exemple, si tu clones ta voix en intelligence artificielle et que tu l'utilises, c'est ce qu'on appelle un deepfake, c'est ce qu'on voyait tout à l'heure, tu te fais passer pour quelqu'un de réel, et donc, tu es obligé de le signaler. Par contre, si c'est pour un livre audio, pour une vidéo, etc., ou tu te fais passer pour un personnage, ou en tout cas, quelqu'un qui n'existe pas, tu n'es pas obligé de le signaler. Donc là, c'est la même logique. Est-ce que ça imite ou non une personne réelle ? Est-ce qu'on se fait passer pour quelqu'un de réel ou pas ? L'affection a un peu plus de tolérance, comme on l'a vu. Pour autant, je n'irai pas jusqu'à dire que si tu ne le signales pas, c'est OK, tout est blanc. Je te conseille quand même, quand tu utilises des voix IA, même si c'est pour de l'affection, de le signaler, tout simplement. Dire que tu as utilisé l'IA pour le faire, puisque de toute façon, les gens s'en doutent, et qu'à un moment donné, ça fait partie aussi du jeu. Si tu utilises de l'intelligence artificielle, je pense qu'il faut le signaler. Le quatrième cas, et il est un peu moins précis, c'est les voix de synthèse. Alors, ce qui est sûr, c'est que si tu t'en sers pour imiter une personne réelle, c'est du deepfake, il faut le signaler, il n'y a pas de débat. Pour l'infiction, c'est un petit peu moins clair. C'est toléré, mais on sent qu'il y a quand même un peu un flou juridique à ce niveau-là. Donc, je n'irai pas jusqu'à te dire, tu peux y aller à fond les ballons, tout est OK. Je pense que c'est plutôt la pratique et les premiers cas qui vont faire jurisprudence, qui vont nous dire comment utiliser cette partie-là. En tout cas, sur l'audio, je te donne mon avis. Par exemple, si tu génères un livre audio avec une voix IA, pour moi, en dehors même de l'AI Act, je pense que par rapport à ton lecteur, vu que c'est quelque chose qu'il achète, c'est important qu'il soit au courant que ce n'est pas un comédien et que c'est un livre audio. C'est quelque chose qui a été généré par IA. Je te donne mon avis. C'est mon avis, tu en fais ce que tu veux. Mais je pense qu'à partir du moment où tu vends quelque chose, et là, je te donne mon avis vraiment globalement sur tout ce sujet-là, à partir du moment où tu vends quelque chose, où la personne achète quelque chose, elle doit savoir si c'est de l'intelligence artificielle ou si ça a été fait par un humain. Et si elle choisit de l'acheter quand même, c'est très bien, c'est son choix en fait. Mais pour moi, quand tu vends quelque chose, des illustrations, des vidéos, des livres audio, la personne en face, même des morceaux de musique d'ailleurs, parce qu'on sait aujourd'hui qu'on peut générer de la musique avec l'intelligence artificielle, pour moi, à partir du moment où il y a monétisation, il y a contrat de confiance avec la personne qui est en face et qui t'achète ton truc. Putain, à chaque fois, je pense à Darty. À chaque fois que je dis contrat de confiance, c'est horrible. Bref, il y a contrat de confiance avec la personne en face qui te donne son argent en échange de quelque chose qu'elle pense acheter. Et pour moi, l'intelligence artificielle, surtout dans le domaine de l'art, il doit y avoir de la transparence. Donc, je ne suis pas en train de te dire, ne fais pas ta couverture, ne génère pas tes illustrations avec IA. Ça, c'est chacun en son âme et conscience, avec ses principes, avec ses moyens. Je ne rentre pas dans ce débat-là. Par contre, mon point de vue, à moi, de Lucie de Vadé Retro, je te le dis, si jamais tu vends des images IA à un lecteur et que tu ne lui dis pas que c'est de l'IA, je pense que ce n'est pas correct. Parce que la personne en face, elle doit savoir concrètement ce qu'elle achète. C'est vraiment une loi, pour moi, immuable du marketing et de la relation de confiance que tu vas bâtir avec ton lecteur. Donc, on a passé cette partie. Sur la loi, maintenant, on va parler un peu plus de la technique. Alors, si tu te rappelles, on a parlé des deux acteurs qui avaient des obligations. D'un côté, le fournisseur d'IA. De l'autre côté, le déployeur. Le déployeur, c'est toi. On a vu ensemble comment est-ce que tu étais concerné. Là, on va se concentrer plutôt du niveau du fournisseur. Donc, Anthropique, Pen AI, Google. En gros, toutes les entreprises qui nous mettent à disposition des outils d'intelligence artificielle. Ce qui va m'intéresser maintenant, c'est justement leur obligation à eux. On l'a dit en début d'épisode. C'est de marquer techniquement le contenu qui est généré par l'IA. Donc, les images, mais aussi le texte. Pour qu'on puisse les reconnaître comme ayant été généré par l'IA. La question, c'est comment est-ce qu'on fait ça ? Et est-ce que ça a un impact sur nous, sur notre manière de faire ? Et sur notre texte ou sur nos images en elles-mêmes ? Je vais parler un peu plus de Cloud, parce que c'est ceux qui ont le plus communiqué sur le sujet récemment. Cloud, donc Anthropique, la boîte qui développe Cloud. C'est la même chose que ChatGPT, c'est juste que c'est une autre société. Anthropique a annoncé début août, les nouveaux modèles de claude donc les nouvelles versions embarque ce fameux watermark donc c'est ce ce fameux filigrane invisible, ce motif, qui vont marquer le contenu comme ayant été généré par l'intelligence artificielle. Donc c'est un marquage qui est invisible, à l'œil nu en tout cas. C'est un marquage qui est détecté de manière technique, mais que nous, en tant qu'humains, on ne peut pas voir. Et ce marquage-là, il est mondial, il n'est pas juste européen, ce n'est pas dans le cadre de l'AI Act, c'est tous les modèles dans le monde entier qui sont concernés. Donc ce Watermark, qu'est-ce que c'est ? En fait, ça va être une marque qui est cachée, qui est invisible à l'œil humain, et qui va permettre d'authentifier un contenu comme ayant été généré ou retraité par Claude. Donc ça ne change pas le sens, ça ne change pas la qualité du texte, mais ça va permettre de déceler que le contenu est passé entre les mains d'une intelligence artificielle. Alors comment ça marche ce truc ? On ne va pas forcément rentrer dans le détail, parce que je ne suis pas développeuse, et qu'au final, on n'a pas forcément besoin de savoir exactement comment ça marche. Mais en gros, si je simplifie le truc, ce qu'il faut savoir, c'est que quand Claude génère du texte, il a le choix entre plusieurs mots. Par exemple, je ne sais pas, manger, il va pouvoir dire se sustenter, manger, consommer, etc. Il va pouvoir utiliser plusieurs mots. Et habituellement, la manière dont il choisit ces mots-là pour constituer un texte, elle est aléatoire. Il n'y a pas de règle, en fait. C'est un coup l'un, un coup l'autre, il n'y a pas de règle. Ce qui va changer, c'est que ce watermark, il va redéfinir les règles du jeu. C'est un code, en fait, qui va dire, je ne sais pas, tous les trois mots, par exemple, tu utilises le mot se sustenter au lieu de manger. C'est une clé comme ça qui va permettre de créer ce qu'on appelle des patterns, donc des motifs, des rythmes, en fait, que nous, en tant qu'humains, on ne va pas pouvoir voir ni calculer, mais qu'une machine, quand elle aura la bonne clé de lecture, la bonne clé de décodage, va pouvoir reconnaître facilement. Et c'est là où tu me vois venir. Typiquement, un texte qui aurait été généré par Claude, si toi, tu le prends, que tu le reformules, que tu le modifies, que tu changes des mots, que tu mets des synonymes, que tu rallonges les phrases, ça casse ce motif. Il va peut-être être visible encore sur certaines phrases, mais plus sur la totalité du pavé, et donc ça rend plus difficile la détection de la provenance, en fait, de ce texte-là. On pourrait être sur un texte qui a été généré par intelligence artificielle, mais retraité par un humain, par exemple. Un point qui est important, cet outil de détection, donc cette clé de décryptage, aujourd'hui, elle n'est pas disponible. En tout cas, Anthropic ne l'a pas rendu disponible. Anthropic et Google ont la même clé. Google a appliqué ça en 2024, donc ça fait déjà deux ans que les textes qui sont générés par Google ont déjà ce marqueur, Claude vient de le faire maintenant, ChatGPT ne l'a pas encore fait, on va y venir, et pour l'instant, cette clé de décryptage, elle n'est pas accessible. Concrètement, ça veut dire quoi ? Ça veut dire que tu ne peux pas avoir un éditeur, par exemple, ou un concours qui possède cette clé de décryptage et qui va pouvoir te dire, oui, je sais que ton texte est généré par IA. Peut-être que ça, ça arrivera un jour, on va revenir après sur les limites de ce type de fonctionnement, mais en tous les cas, aujourd'hui, cette clé de décryptage, elle n'existe pas pour le grand public, elle n'est pas connue. Donc, premier point que je voudrais préciser, c'est qu'on n'est pas sur du fichage, c'est-à-dire qu'on n'est pas en train de dire, tel texte a été généré à telle heure par telle personne et du coup, ce roman-là, il a été écrit par IA. On est plutôt sur ce texte que tu me donnes, je détecte qu'il y a un pattern, et donc ça peut vouloir dire qu'en tout cas, il y a un moment donné où il est passé dans Claude ou dans Gemini, peu importe. On n'est pas sur une historisation, en fait, c'est ça que j'essaie d'expliquer. Il n'y a pas d'historisation du texte où on va être capable de remonter dans les serveurs pour dire, tel texte a été généré à telle date, par telle personne, par telle IP, tel token, machin. On va plus détecter une marque dans un texte. Ce n'est pas l'utilisateur qui est traqué, c'est le bout de texte en lui-même qui est marqué. Et donc la question qu'on peut légitimement se poser, alors, je ne sais pas si il y en a certains d'entre vous qui utilisent l'intelligence artificielle pour écrire ou qui s'en servent pour corriger, pour modifier des parties du texte, etc. Mais du coup, logiquement, on peut se poser cette question-là, si jamais c'est quelque chose que vous faites, de se dire, est-ce que mon texte, il va être marqué par Claude si je le fais juste relire, ou que je m'en sers pour reformuler une phrase, etc. Et c'est là qu'il y a une nuance et qu'il subsiste quand même encore une zone de flou quant à la précision du sujet. Déjà, il y a deux choses qu'il faut distinguer. Il y a générer entièrement par Claude, c'est-à-dire que tu lui donnes un prompt et il te sort un texte en entier. Il y a générer par Claude et il y a retraiter par Claude. Et ce n'est pas vraiment la même chose. Dans le premier cas, c'est l'IA qui a créé tout le texte. Donc là, le watermark va être vachement présent parce que tu as tous les patterns sur toutes tes phrases, etc. Si jamais tu lui fais relire un texte ou corriger un texte, le pattern peut être présent dans quelques phrases, mais pas tout le corps du texte. Et il y a un élément qu'on ne sait pas parce que Claude n'a pas répondu, c'est si j'envoie un texte dans Claude qui me corrige deux, trois fautes et que je le récupère tel quel, est-ce que ça garde le watermark ou pas ? Là, Claude n'a pas franchement répondu à cette question. Donc je tiens à le préciser. Donc, quand c'est un texte généré par l'IA, là, il n'y a pas trop de débat. Le watermark, il sera facilement visible. Par contre, si tu écris un texte, tu le mets dans Claude, par exemple, pour qu'il te corrige les fautes, juste ça, juste les fautes, toi, tu vas copier-coller ensuite ce texte de Claude, par exemple, vers ton logiciel de traitement de texte. Le watermark peut y être. Et ça ne voudra pas... En fait, le watermark, il ne te dit pas que c'est l'IA qui a créé le texte, il te dit qu'à un moment, c'est passé dans la moulinette. Mais on ne sait pas à quoi elle a servi, la moulinette. Est-ce qu'elle a servi à créer le texte en entier ? Est-ce qu'elle a servi à juste le corriger ? Ça, on ne sait pas. Le watermark ne fait pas la différence. C'est sûr que si tu ne veux pas que ton texte soit marqué par IA tout court, il ne faut pas que tu le mettes dans Claude et qu'ensuite tu le copies-colle. Ce marquage, il permet difficilement de faire la différence entre un texte généré par IA et un texte modifié par Claude. Il y a un point important aussi, c'est que la loi, les IAC, dont on a parlé tout à l'heure, ne considère que l'édition standard, c'est-à-dire la modification des fautes d'orthographe, vraiment les corrections très basiques, qui ne touchent pas à la formulation et au fond du texte, la loi considère que ça, ça ne relève pas de l'obligation de marquage. C'est-à-dire que d'après la loi, si tu envoies ton texte et que tu t'en sers juste pour modifier les fautes d'orthographe, Claude ou ChatGPT n'est pas obligé de le marquer. Pour autant, Claude peut décider de le faire quand même. Et ça, on ne sait pas s'ils le font. Ils ne l'ont pas dit. La question leur a été posée et ils ont répondu à côté. Donc, on ne sait pas aujourd'hui si quand tu te sers de Claude pour corriger tes fautes d'orthographe, le texte est marqué comme ayant un marqueur IA ou pas. Voilà, donc je pense que tu l'as senti, c'est un sujet sur lequel, sur le papier, c'est très beau et c'est très facile. Dans la réalité, c'est difficile de savoir où commence le sujet et où est-ce qu'il s'arrête. Si tu génères un texte complètement en IA, là, il n'y a pas trop de doute, le marquage, il va y être. Sache que potentiellement, si tu mets ton texte dans l'intelligence artificielle, donc Claude ou ChatGPT, et que tu t'en sers ensuite, tu le récupères et que tu le copie-colle, il peut y avoir un marqueur comme quoi le texte est passé dans l'IA. Je tiens juste à rappeler que le marqueur, il concerne les textes qui sont copiés-collés. Si jamais tu fais de la reformulation, que t'écris toi-même ton texte, etc., il n'y a pas de risque qu'il y ait un marqueur. Mais à partir de où ça s'arrête, à partir de où ça commence, très franchement, on n'en sait rien, donc je vais pas prendre de risques et faire des hypothèses sur un sujet que je ne maîtrise pas non plus à la perfection. Sache que, voilà, ce marqueur-là, il existe et que le principe de prudence s'applique de manière générale. Pour moi, le principe est le même. Si t'écris ton livre avec de l'intelligence artificielle, c'est toujours bien que le lecteur soit au courant de comment tu te sers de l'intelligence artificielle. Il y a plein de manières différentes de se servir de l'IA pour son art. Je sais qu'en France, on est très sensible sur le sujet. C'est un sujet qui déchaîne les passions. Moi, je sais que j'écris pas avec l'intelligence artificielle parce que je préfère écrire moi, sinon je vois pas trop l'intérêt. Je m'en sers pour brainstormer, pour relire certains passages, pour m'assurer que j'ai rien oublié et que je suis bien au niveau de la structuration, pour faire une relecture éditoriale. Je m'en sers pas pour créer. Mais c'est vrai qu'on peut se poser la question à partir de quand est-ce qu'on est obligé de le dire. Et ça, je pense que c'est aussi à chacun et à chacune par rapport à son propre lectorat de définir ses propres limites. Quand bien même tu utiliserais l'IA, est-ce que ça veut dire que si tu passes ton texte, par exemple, dans Claude, est-ce que ça veut dire que tu vas être accusé d'utiliser l'IA et que tu risques des sanctions ? Au niveau de la loi, non. Au niveau de la loi, l'IA et ACT, on l'a vu tout à l'heure, si c'est de la fiction et que tu utilises l'IA pour écrire, ils en ont rien à foutre. C'est pas leur problème. Il n'y a aucun débat là-dessus. La loi ne va pas te dire si tu utilises l'intelligence artificielle pour ton post Instagram ou pour ton écriture de fiction, tu risques une amende si tu ne le déclares pas. Non, là-dessus, il n'y a aucune obligation. Là, je parle vraiment de la loi. Il peut y avoir d'autres règles qui existent ailleurs. Typiquement, si tu soumets un texte à un concours, ça peut faire partie des règles du concours ou de la maison d'édition de dire que le texte ne doit pas avoir été généré ou travaillé par l'IA. C'est un droit. C'est d'autres contraintes. Mais en tout cas, au niveau de la loi européenne, non. Et ce qu'il faut aussi bien distinguer, c'est ton obligation à toi et l'obligation des fournisseurs. C'est pas te dire de toute façon, Claude met un watermark, donc en fait, je suis couverte, c'est bon, ils ont fait le job à ma place. Et si jamais les gens veulent savoir si c'est de l'IA, ils n'ont qu'à scanner le texte et je suis couverte. Non. Ça, c'est l'obligation de marquage du fournisseur. Si jamais tu es dans un contexte où on te demande de dire si tu as utilisé l'IA, tu ne peux pas te cacher derrière ça. Ton obligation de divulgation, elle est chez toi, en fait. Elle t'appartient. Tu ne peux pas dire, Claude a marqué, donc c'est bon, ils ont parlé à ma place. Non. La divulgation, l'obligation de comment tu as généré le texte, ça, c'est chez toi. Je tiens juste à souligner un point que je trouve intéressant. Donc, je le disais rapidement tout à l'heure, Google marque ses textes depuis 2024, donc depuis deux ans. Anthropique le fait depuis cet été, donc Claude le fait depuis cet été sur ses modèles les plus récents, mais on ne sait pas sur quels modèles, depuis quand, est-ce que les anciens modèles vont passer aussi. Donc, moi, je pars du principe qu'on peut considérer que tous les modèles de Claude, maintenant, marquent leur texte, parce que si ce n'est pas maintenant, ça viendra. Par contre, ChatGPT, Filoute, ne marque que ses images. Donc, aujourd'hui, les textes générés ou modifiés par ChatGPT, à l'heure où je te parle, ne sont pas marqués Ils n'ont pas ce fameux marquage qui indique qu'ils sont passés dans la moulinette parce que quand la question leur a été posée, la réponse qu'ils ont apportée, c'est qu'ils ont estimé qu'à peu près 30% de leurs utilisateurs baisseraient leur utilisation de ChatGPT si jamais ça venait à être marqué, le contenu venait à être marqué. Donc, ils se sont cachés derrière des arguments commerciaux pour ne pas appliquer le watermark. Ils le font sur leurs images, donc comme ça, ils peuvent dire techniquement, on a mis un watermark. Ils ne le font pas encore sur le texte. Clairement, ils sont dans une zone grise. Je pense qu'ils vont finir par se faire rattraper par la patrouille, mais pour le moment, en tout cas, OpenAI ne marque pas ces textes. Moi, ça me pose quand même question, en tout cas, tous ces sujets, parce qu'on est encore une fois dans cet éternel débat de comment détecter automatiquement qu'un texte a été généré par intelligence artificielle. Autrement dit, comment utiliser des robots pour savoir si c'est un robot qui a généré ce texte ou pas. Et ça me renvoie toujours à ce sujet. On en a parlé il n'y a pas très longtemps, dans un épisode avec Karine Carville, où Amazon scanne les textes et détermine lui-même avec une IA, du coup, s'il a été généré ou non par intelligence artificielle. Et je trouve que c'est un peu le serpent qui se mord la queue. En fait, ce qui m'embête aujourd'hui, c'est que je ne sais pas si on arrivera à trouver une solution où on peut identifier, sans créer d'inégalités ou de problèmes, les textes qui ont été générés par IA. Parce que c'est tellement complexe comme sujet. À partir de quand on considère qu'un texte a été généré par IA ? Pour moi, c'est le paradoxe du bateau d'Ulysse, en fait. Je ne sais pas si vous connaissez ce paradoxe, mais c'est, en gros, le bateau d'Ulysse avec lequel Ulysse a fait l'Odyssée. C'est d'actualité. On le ramène et, en fait, il est endommagé, donc on le répare. Donc, on enlève certaines planches, on en met d'autres. On va changer le gouvernail parce qu'il est cassé. On va remplacer les voiles parce qu'elles sont trouées. Et finalement, à partir de quand, c'est encore le bateau d'Ulysse ? Et à partir de quand, ça devient un nouveau bateau ? Eh bien, pour moi, ce débat, c'est exactement le même avec l'intelligence artificielle. À partir de quand on considère qu'un texte a été généré par IA ou est encore de la paternité de l'auteur ? Elle est où, la limite, en fait ? Est-ce qu'il faut s'arrêter à la correction des fautes ? Est-ce qu'il faut s'arrêter à la modification de 10% du texte ? Je ne sais pas si on arrivera à mettre une limite quelque part. Et avant que vous me lanchiez sur les réseaux sociaux, non, je ne suis pas en train de dire qu'il faut corriger son livre avec de l'intelligence artificielle. Je vous rappelle que ce n'est pas le débat de l'épisode. Bien sûr, au maximum, utilisez des humains pour traiter votre texte. On ne le redira jamais assez. Ce n'est pas le débat aujourd'hui. Mais voilà, je voulais me poser cette question-là aussi, puisque de toute façon, même si en France, on est hyper réfractaires sur l'intelligence artificielle, ne vous inquiétez pas que les autres pays, à savoir notamment le UK et les US, ils sont beaucoup moins timorés que nous sur le sujet et qu'eux, ça va y aller. Donc, travailler avec IA, modifier, corriger avec IA, c'est déjà le cas, en fait. Donc, pour moi, ce n'est même pas tant une question de est-ce qu'il faut faire ou est-ce qu'il ne faut pas faire, IA, pas IA, machin, je pense que c'est bon, tout le monde adore s'engueuler sur ce sujet-là. Pour moi, la question qu'il faut qu'on se pose, c'est comment ça va modifier notre marché, en fait ? Comment est-ce que ça va restructurer la manière dont les textes sont construits, la manière dont les émotions sont retranscrites, la manière dont les lecteurs consomment, la vitesse de publication ? Pour moi, c'est ces questions-là qu'il faut se poser, qu'il faut adresser. À partir de quand on considère que deux textes ont été travaillés de la même manière ? Est-ce qu'on peut considérer que deux textes ont été travaillés de la même manière ? Je ne sais pas. Franchement, je ne sais pas. Mais c'est toujours ce même problème de on va mettre des marques pour pouvoir détecter automatiquement le texte généré par IA, machin. Pour moi, quelque part, je dirais même que c'est un faux problème. Alors, il faut le faire, parce que c'est important que les gens sachent quand ils sont face à du contenu généré par l'intelligence artificielle, surtout quand c'est pour se former, pour apprendre des choses, pour s'informer. Il n'y a pas de débat. Mais est-ce que finalement, ça ne serait pas plutôt les humains qu'il faut former ? Parce que pour moi, OK, mettre des lois, c'est bien, des contraintes, des techniques, c'est bien. Mais en fait, ce qu'il faut, c'est plutôt former les gens à l'utilisation de l'intelligence artificielle, leur apprendre comment s'en servir, ne pas s'en servir, leur demander de respecter ce devoir de transparence aussi. Je ne sais pas. C'est toujours pareil. J'ai l'impression qu'on utilise la technique là où finalement, on devrait aussi passer beaucoup plus par les humains. Typiquement, ce n'est pas dire aux gens « t'es un connard si t'écris ton livre avec de l'intelligence artificielle », c'est aider la personne à écrire sans, en fait. Plutôt que de taper sur les gens, les sensibiliser, les former et les ramener dans le bon chemin sans le faire à grands coups de pompe dans la gueule. Mais bon, bref, ça, c'est mon avis. Donc, dans tous les cas, ce sujet-là pose vraiment question, je trouve. Comment est-ce qu'on va pouvoir détecter ces textes-là ? Est-ce qu'on va pouvoir le faire de manière fiable ? J'ai toujours peur, moi, je vous le dis honnêtement, que ça revienne à dire « tel texte, il a été généré par IA alors que ce n'est pas le cas ». Je ne sais pas quel sera le niveau de fiabilité de ces techniques-là. Est-ce que ça va nous permettre d'y voir plus clair ? Ou est-ce que ça ne va pas finalement se transformer en chasse aux sorcières et que ça sera un sujet à suivre, je pense, pour les prochaines années, voir comment est-ce que tout ça évolue ? Bon, donc, revenons du coup au point de départ de l'épisode qui consistait à dire « il y a une nouvelle loi qui est sortie le 2 août et si tu ne marques pas tous tes contenus IA, machin, truc, tu risques une amende de 15 millions d'euros ». Donc non, on l'a vu, ce n'est pas le cas. Ça s'applique à des cadres très précis, donc à deux types d'acteurs, les fournisseurs et les utilisateurs. Toi, tu es dans la catégorie des utilisateurs, mais tu dois le signaler que si tu t'en sers pour faire des deepfakes ou du texte d'intérêt général qui n'aurait pas été relu, OK ? Donc, en fait, ça exclut quasiment la totalité de ce que tu fais en tant qu'autrice de fiction, voire même la totalité. Donc, on ne peut même pas dire que tu es concerné par les IA, finalement. Ensuite, l'obligation de labellisation, elle ne te concerne pas, en fait. Elle concerne les fournisseurs. C'est eux qui doivent marquer techniquement le contenu, mettre un marquage technique. Ce n'est pas toi. Donc, il faut bien distinguer les différents niveaux d'informations et les différents sujets. Et je pense que c'est ça qui a généré de la confusion aussi. Il y a déjà un premier niveau d'il faut mettre un marquage technique sur le texte ou sur l'image. Ça, ça ne te concerne pas. C'est les fournisseurs qui doivent le faire. Donc, ça, on le met de côté. Et ensuite, il y a les règles de la plateforme en elle-même qui te disent si tu utilises un contenu qui a été fait par de l'IA, il faut que tu le signales. Et ça, c'est autre chose. La loi, on l'a vu, elle ne s'intéresse pas à ça. C'est les plateformes qui vont mettre ça en place et c'est un autre sujet. Donc, cette histoire de 15 millions d'euros d'amende, il n'y a pas de panique. Ça concerne surtout les gros fournisseurs, les chaînes d'info, les entreprises, les choses comme ça qui, eux, vont être tentés d'utiliser l'intelligence artificielle pour des contenus comme ça de manière non régulée qui, là, vont devoir se mettre en conformité. Mais ça va bien se passer. Tu ne vas pas prendre 15 millions d'euros d'amende ou une amende parce que tu as utilisé un bonhomme généré par l'IA sur un post Instagram pour parler de ton roman. Si tu dois retenir une phrase de tout ce qu'on s'est dit, c'est que non, l'AI Act n'impose pas une mention systématique sur tout contenu généré par l'IA. Ça impose une transparence sur des cas précis, les deepfakes, les sujets d'intérêt généraux qui n'ont pas été relus, modifiés et contrôlés par un être humain. Et ça concerne aussi un marquage technique mais qui relève du fournisseur et pas de... Voilà, c'était la fin du bloc légal. J'espère que tu n'as pas trop mal à la tête. Parlons maintenant des plateformes. Et là, on ne parle plus du tout de l'AI Act. On sort de ça. Et je veux vraiment qu'on marque cette transition parce que le piège, là justement, et ce qui s'est passé cet été, c'est que sur les réseaux sociaux, tout le monde mélangeait tout. Le 2 août, il y a une nouvelle loi, nanani, donc si sur Instagram, tu ne mets pas le truc, tu vas aller en prison. Non, du tout. Il y a eu la loi, on a vu ses limites, on a vu son champ d'application. Là, maintenant, on va passer du côté des plateformes. Donc, en gros, oublie tout ce qu'on vient de voir. Là, on parle complètement d'un nouveau sujet. Donc, tout ce que je vais te dire à partir de maintenant sur Instagram, sur Meta, sur leur politique, etc., ça n'a rien à voir avec l'EI Act dont on a parlé pendant 45 minutes ou je ne sais pas combien avant. Ce sont des règles qui sont décidées par Meta en tant qu'entreprise dans le cadre de la politique d'utilisation de ses applications, dans le cadre de sa politique commerciale, dans le cadre de ce qu'elle veut pour ses utilisateurs, mais ça n'a rien à voir avec la loi en elle-même. Donc, ça veut dire deux choses. Ça veut dire que ces règles, elles peuvent être aussi plus strictes que la loi en elle-même si Meta estime qu'il y a certains cadres qui n'ont pas été abordés dans la loi, mais que ça nuit à... à l'expérience de ses utilisateurs Instagram, par exemple. Et en l'occurrence, c'est ce qui se passe ici. Meta a mis en place des restrictions ou en tout cas des consignes qui sont un petit peu plus restrictives que la loi en elle-même qui peuvent aussi entraîner des sanctions, pas des amendes sonnantes et trébuchantes, mais des sanctions quand même et donc c'est ça qu'on va décortiquer. Alors déjà, comment est-ce qu'Instagram détecte un contenu IA ? Donc là, je suis allée chercher dans le centre officiel de Meta, le centre de transparence officiel de Meta, donc c'est des infos Meta là que je te donne. Donc Meta a un système qui détecte l'IA et qui s'appelle Made with AI. C'est un signal que Meta capture qui va te dire si oui ou non un contenu a été généré par IA. Ce signal, cette alerte, elle arrive de plusieurs sources différentes. La première, ça va être les métadonnées. Les métadonnées, c'est les informations qui sont rattachées à ton fichier quand tu crées un fichier. Par exemple, quand tu prends une photo depuis ton iPhone, tu vas avoir le lieu, l'heure, le nom potentiellement de l'iPhone qui l'a prise en photo, la résolution, etc. Tout ça, c'est des métadonnées. C'est la carte d'identité par exemple de ton image. Ce qu'il faut savoir, c'est que quand tu génères ou quand tu prends une image par exemple de Meet Journey qui est un site qui sert à générer des images par IA, l'image, elle arrive avec tout un set de métadonnées, avec une carte d'identité qui va pouvoir permettre de reconnaître qu'elle a été générée par IA. C'est pour ça aussi qu'on a eu le souci récemment et ça, Mathilde Levasseur à qui je fais un coucou d'ailleurs, l'a très bien décrit dans un de ses posts. C'est pour ça que certains d'entre vous qui ont utilisé Canva récemment ont eu des problèmes et que le logo Made with AI s'est affiché parce qu'en fait, quand vous avez par exemple détouré une image avec Canva, les métadonnées ont envoyé un signal à Meta qui dit tiens ça, ça a utilisé de l'intelligence artificielle quand bien même l'image en elle-même c'est peut-être juste une photo de toi et t'as enlevé le fond. Ça génère en fait des métadonnées, des informations sur la photo que Meta va lire et va automatiquement ranger dans la case. Ça, c'est fait avec IA. Donc de la même manière, si tu utilises des images chat GPT, Google, etc., ce contenu-là, il est marqué et Meta va le lire en fait, tout simplement. Il faudrait faire le test. Je pense que si tu télécharges, par exemple, une image depuis Mid-Journey, que tu fais un screenshot et que tu t'en sers, techniquement, les métadonnées n'existent plus et donc tu ne devrais pas forcément avoir ce marquage-là. Après, moi, je te donne mon avis, très franchement, pas seulement tu utilises des images IA, dis-le, point barre, de toute façon, il y en a partout. Comme je te le disais encore une fois, tu dois avoir de la transparence par rapport à tes lecteurs ou à ta communauté. S'il y a des gens que ça gêne, il faut leur dire, en fait, et ces gens-là partiront. Et au moins, ce sera clair des deux côtés, mais ça ne sert à rien de mentir aux gens et de faire croire que c'est une photo alors qu'en fait, c'est une image qui a été générée par IA. Je pense que j'en suis à un point où IA ou pas IA, je pense que je vais foutre le logo partout. Pour moi, c'est un non-sujet, en fait. Donc voilà comment Meta va lire ces métadonnées et les ranger dans la case IA. Après, ils ont reconnu eux-mêmes que ce n'était pas infaillible et que ça pouvait ne pas fonctionner sur certains contenus IA, qu'il était possible de contourner ça, etc. C'est comme tout, en fait. Automatiser des trucs. Et à un moment donné, ça peut foirer, ça peut être trop restrictif ou pas assez. C'est l'éternel débat. Est-ce que c'est fiable ? Je pense que dans certains cas, ça l'est. Malheureusement, il y en a d'autres où ça l'est moins et il faut qu'on en ait tous conscience. Le deuxième signal que Meta va lire pour reconnaître une image, si ça a été généré directement depuis leurs outils IA, donc Meta AI. Bon, ça, j'ai envie de te dire, j'espère qu'ils sont encore en mesure d'identifier les trucs IA qui viennent de chez eux. Visiblement, c'est le cas, donc tant mieux. Et le troisième point, c'est l'autodéclaration. L'autodéclaration. C'est toi qui vas dire contenu généré par IA. Tu as une petite case à cocher. Quand tu publies un post ou une vidéo, est-ce que tu as utilisé de l'IA pour le... Tu peux cocher cette case et si c'est le cas, Meta va appliquer le label à ton post. Point barre. Donc maintenant, ce qu'on veut savoir, c'est est-ce qu'un contenu qui est labellisé IA par Meta va moins circuler, va être restreint ou va être en gros puni ? Officiellement, non. C'est un système d'information qui sert juste à dire tel contenu, il a utilisé de l'intelligence artificielle. Meta l'a documenté noir sur blanc. C'est eux qui nous le disent. Parce qu'il y a eu un vrai débat apparemment chez eux. Ils ont fait tout un conseil de surveillance, etc. Et ils en sont arrivés un peu à la même conclusion que celle que je te donnais tout à l'heure, qui est de dire que si tu en venais à restreindre, il y avait un risque que ce soit injuste. Parce que le système n'étant pas fiable à 100%, et je pense que ça ne le sera jamais, honnêtement, tu risques de contraindre des gens qui sont de bonne foi. Et en fait, c'est lié à une erreur du système et pas au fait que les gens utilisaient de l'intelligence artificielle. En plus, j'ai envie de te dire, ce serait quand même sacrément culotté. De la part de Meta, qui sont quand même des gens qui nous foutent des lunettes, qui filment les gens dans la rue, de nous dire de ne pas utiliser l'intelligence artificielle et que bouboubou, c'est pas bien. Alors qu'on sait tous qu'ils utilisent des data centers énormes qui polluent la planète, qu'ils ont tous un tas de données sur nous et qu'ils se servent de l'IA en permanence. L'hôpital, la charité, tout ça, quoi. Donc, ils ont choisi une approche par label, plutôt que par sanction ou par suppression, qui consiste à dire, bah juste, dites-nous si vous utilisez de l'IA, ou en tout cas, nous, on détecte les contenus qui sont générés par l'IA et on va juste mettre un label dessus pour que ça transparesse auprès des utilisateurs et donc de la personne qui va consommer finalement ce contenu. Donc, le contenu, en fait, il reste en ligne dans la majorité des cas, sauf si ça contrevient aux règles de contenu de Meta, images violentes, sexuelles, etc. Si jamais les images que tu utilises, elles respectent les règles de contenu de Meta, même si elles sont générées par l'IA, il va y avoir juste le petit badge, mais ton contenu va continuer à circuler. On ne va pas retirer ton poste juste parce que c'est de l'IA, c'est ça que je veux dire. De toute façon, sur une période de 29 jours en octobre, 2024, c'est plutôt un ordre de grandeur à prendre en compte parce que je pense qu'aujourd'hui, ce chiffre, il est obsolète. Il y a eu plus de 360 millions de contenus labellisés IA sur Facebook et plus de 330 millions sur Instagram. Donc, en fait, c'est énorme et Meta ne peut pas se priver d'autant de contenus. Dedans, il y a des pubs, il y a des choses qui se vendent, qui génèrent de l'argent pour Meta. Et bien évidemment, c'est très bien que tout ce qui compte pour Meta, c'est l'argent. Donc, ils ne vont pas se priver de ça. Par contre, et j'aimerais bien juste qu'on recentre un peu le débat. On voit des auteurs qui se font défoncer sur les réseaux parce qu'ils ont utilisé une image pour illustrer un personnage ou pour illustrer leur livre et tout. En fait, moi, j'aimerais bien qu'on se penche un peu sur l'utilisation de l'IA qui sert à faire n'importe quoi, c'est-à-dire des gens qui s'en servent non pas pour vendre quelque chose ou pour monter une entreprise, mais pour générer des images de chiens en train de manger une glace ou les petits bonhommes dans la main. En fait, c'est ça qui pollue le plus. C'est ça qui pose le plus de problèmes, c'est les gens. C'est les gens qui utilisent l'IA pour s'amuser, parce qu'ils se font chier, parce qu'ils ont envie de générer des contenus pour changer les idées, pour changer leurs photos de profit de Facebook. Moi, c'est ça qui me gêne plus. Et c'est vrai que des fois, dans le milieu littéraire, j'ai l'impression qu'on perd ça de vue, en fait, et qu'on aime bien taper sur la gueule des gens sous prétexte que c'est des artistes et donc interdiction suprême d'utiliser l'IA. Pour moi, je pense qu'il y a des limites à mettre. Comme je le disais, à moi, ma limite, elle est là, en fait, typiquement. À partir du moment où tu vends quelque chose, si c'est de l'intelligence artificielle, tu dois le dire, par respect pour la personne qui achète. J'aimerais bien qu'on concentre nos efforts sur les gens qui génèrent des trucs de merde, qui ne servent à rien. Et je trouve que tous ces trucs-là d'IA comme réflexe, parce qu'on s'ennuie, parce qu'on a besoin de passer le temps, au final, le danger, il est là, c'est qu'on génère là la masse alliée. Je pense qu'un auteur qui génère 3-4 visuels tous les 36 du mois pour vendre son livre, il est peut-être moins dangereux en termes écologiques, etc., que quelqu'un qui se sert de l'IA pour changer sa photo de profil tous les 15 jours. Voilà, bref, je referme la parenthèse, c'est un sujet qui m'énerve un peu, je ne vous cache pas, mais je trouve que c'était important de recentrer un petit peu le débat là-dessus. Mais ce qui nous intéresse maintenant, c'est de savoir quelles sont les sanctions si jamais on met un contenu IA et qu'on ne le déclare pas à Meta. Et c'est là qu'il faut distinguer deux choses, en tout cas, Meta distingue deux choses, ton contenu normal et la publicité. Pour ton contenu organique, donc tes posts Instagram, tes stories, tes réels, globalement, Meta va faire le check. Si jamais il détecte qu'il y a des Meta données qui indiquent que ça peut provenir de l'IA, il met le petit badge réalisé avec de l'IA, mais ça ne va pas plus loin, ton post n'est pas pénalisé, n'a pas moins de distribution, ça ne change rien. Là où Meta va être un petit peu plus vigilant, c'est si jamais tu fais des vidéos ou des enregistrements audios qui s'apparentent à s'y méprendre à une personne réelle. Parce qu'on en a parlé un petit peu tout à l'heure, de manière générale, les deepfakes, c'est vraiment un problème qui commence à inquiéter de plus en plus à la fois les juristes, mais aussi les entreprises, et elles se penchent vraiment sur le sujet. Donc si jamais tu fais quelque chose qui ressemble de près ou de loin à un deepfake, avec vraiment des vidéos hyper réalistes ou des enregistrements audios qui s'apparentent à des vraies voix humaines, Meta peut bloquer ta vidéo et te demander de la déclarer comme étant IA pour la remettre en ligne. Donc pour ce type de contenu précis, là pour le coup, Meta est un peu plus intransigeant et te demande vraiment de déclarer le contenu comme étant IA sous réserve de sanctions, à savoir la suppression de la vidéo et des limitations potentielles. Donc généralement, on va considérer qu'une image, par exemple, qui aura été générée par IA, va tomber dans la catégorie classique de labellisation IA et ne sera pas inquiétante plus que ça pour Meta. En gros, tu vas juste avoir le badge et on n'en parle plus. Mais si tu publies une vidéo, par exemple, avec un avatar de toi, avec ta voix, etc., là, ça va commencer à poser problème à Meta et il va rentrer dans un contrôle un peu plus important où il va te demander de déclarer clairement que c'est bien une image IA et qu'il y a eu un retraitement IA sur le média que tu mets en ligne. Si tu ne le fais pas, là, il y a un risque de sanction parce que ça contrevient à la politique d'utilisation d'Instagram et de Meta. de manière plus large. En plus, si ton contenu ne respecte pas les règles de contenu, Meta va sanctionner d'autant plus fort, c'est-à-dire que le contenu va être complètement supprimé et tu peux même être banni du réseau social si vraiment tu ne respectes pas les règles. Le deuxième type de contenu, c'est la publicité. Et là, ça devient vraiment plus strict parce que ce qu'il faut que tu comprennes, c'est que là, il y a un enjeu business, il y a un enjeu financier. Toi, tu vas donner de l'argent, mais potentiellement, si tu fais de la pub, c'est que tu vas vendre quelque chose. Donc, Meta, le but, c'est que les personnes qui achètent soient aussi en connaissance de ce qu'elles achètent. Et donc, toi, tu vas être concerné, pour le coup, si tu boostes des postes ou que tu fais de la pub payante pour le lancement ou pour la vente de tes livres. Et donc là, il y a deux niveaux. Le niveau standard, Meta a renforcé la détection et la surveillance des publicités. Si tu fais de la publicité avec un média, donc une vidéo, une photo qui est générée par IA, une publicité, donc un truc payant, Meta te demande de le déclarer. Là, pour lui, c'est vraiment obligatoire. Si tu fais de la pub payante, il faut que tu le déclares. Dans le gestionnaire de pub, apparemment, tu as une case dédiée qui te permet d'indiquer que ce contenu a été fait par IA. Et je t'invite vraiment à le déclarer parce que, pour le coup, ça surveille de plus en plus les publicités. Ils ont encore renforcé, comme je te le disais, les mesures de surveillance de ce type de média-là. Il y a de grandes chances, si jamais tu ne le déclares pas toi, que tu finisses par te faire attraper. Honnêtement, il n'y a aucun intérêt. Donc, ce que je te conseille, si jamais tu fais régulièrement des boosts de pub, allez voir la partie Ads Manager sur la gestion des contenus. Il y a tout un paragraphe, tout un document qui explique comment gérer ses contenus sur Meta, qu'est-ce qui est autorisé, qu'est-ce qui n'est pas autorisé. Donc, va te renseigner directement là-dessus pour t'assurer que ton contenu est bien dans les règles, en tout cas, et les procédures que tu dois respecter pour mettre en ligne un contenu. Et le deuxième niveau te concerne un peu moins, mais je le mentionne juste pour que tu saches de quoi on parle. Si jamais tu fais des vidéos sur des enjeux sociaux, écologiques, sociétaux, on en a parlé un petit peu tout à l'heure, Meta va surveiller ça d'autant plus. Tu dois déclarer que c'est une vidéo faite par IA, etc. Bon, on passe là-dessus. En gros, sache que si tu veux faire des pubs avec du contenu IA, il faut bien penser à déclarer tout simplement dans l'outil Meta que ça a été fait par IA. C'est tout. De toute manière, ça se voit, en fait. Du contenu qui est fait avec de l'IA, ça se voit. Donc, je ne vois même pas à quoi ça sert d'essayer de ne pas cocher la case. Si tu ne le fais pas, la seule chose que tu risques, c'est qu'en fait, Meta va retarder ta pub, donc tu vas perdre du temps, voire la limiter. Donc, en fait, ça n'a aucun intérêt. Les règles, elles sont claires. Respecte-les. Honnêtement, moi, je ne vois pas de problème à cocher cette case parce qu'encore une fois, ça permet d'avoir de la transparence par rapport à la personne qui regarde ton contenu, tout simplement. Au moins, elle sait ce qu'elle est en train de consommer et c'est aussi une marque de respect, je pense, par rapport à ton lecteur. Donc, tu l'as vu, on n'est pas du tout dans le même registre que la loi, qui, elle, peut impliquer des pénalités financières. Là, on est tout simplement sur une plateforme. Une plateforme qui a des règles commerciales, des règles de distribution, des règles de visibilité, des règles de surveillance du contenu. On peut être d'accord ou pas d'accord, mais toujours est-il que tu es chez Meta, donc tu respectent leurs règles, c'est toujours la même chose. Ils ont des politiques, t'acceptes les terms and conditions quand tu t'enregistres et quand tu montes un compte, donc une fois de plus, il faut que tu sois au courant de leurs règles pour pouvoir les respecter et rester dans les clous. Et je conclurai juste sur ça, je pense qu'au-delà de la plateforme me demande de faire ci, la plateforme me demande de faire ça, je pense que ça peut être le bon moment aussi pour chacun et chacune d'entre nous de nous poser la question de comment est-ce qu'on utilise l'IA et comment est-ce qu'on souhaite communiquer sur notre utilisation de l'IA envers les gens qui nous suivent, nos lecteurs, nos followers, etc. Je te l'ai dit tout à l'heure et je le répète, pour moi il y a des choses qui ne sont pas négociables comme le fait que quand tu vends quelque chose et le lecteur doit, enfin le lecteur ou ton consommateur, peu importe, doit savoir ce qu'il achète en fait. Donc pour moi on ne peut pas négocier le fait de donner la vérité sur ce qu'on achète, pour moi c'est obligatoire sinon c'est mensonger et là on commence à avoir un problème. Pour ce qui est de la création de contenu, je pense que c'est un faux débat, honnêtement. Je pense que les gens, en tout cas dans le milieu du livre, on est habitués maintenant à voir des comptes avec des images générées par l'IA pour promouvoir des livres. En fait ça ne trompe personne, donc c'est pas le fait d'avoir un badge qui va faire dire mince cette personne-là utilise de l'IA, oh my god j'avais pas reconnu une image de la GPT. Bon stop en fait. À un moment donné on est tout à fait capable de faire la différence entre les deux. Je pense que c'est même mieux dans le sens où ça va permettre de peut-être faire plus facilement le tri entre des images générées par l'IA et des images générées par des illustrateurs. Peut-être que je suis un peu naïf quand je dis ça, mais je me dis que de toute manière, par défaut en fait, sur les réseaux les gens considèrent que tout est plus ou moins de l'IA maintenant. J'ai vraiment l'impression que c'est plus noir ou blanc, c'est tout est noir en fait. Parce que même les illustrateurs en viennent à justifier que eux-mêmes ne travaillent pas avec de l'IA. Donc en fait mon point de vue, moi je vais vous le dire sur mon compte d'autrice, je vais foutre le badge IA partout. Et je vais expliquer quelque part dans mon compte soit via un poste dédié, soit dans mes légendes je vais expliquer ma position sur l'IA à savoir que ma couverture, mes illustrations et tout seront faites par des vrais gens et que je ne vendrai pas d'image IA, mais que je peux recourir à des images IA pour faire ma publicité ou pour faire ma communication sur mes réseaux sociaux. Je pense qu'il faut de la transparence en fait. Le problème c'est que les gens se montent la tête parce que ils ne savent plus ce qui est vrai, ce qui est faux donc les gens se disent, bon bah par défaut on peut me mentir, donc tout est de l'IA et je vais accuser et je vais aller chercher pour voir si la personne me dit la vérité. Avec un peu ce truc de dire, j'ai réussi à démasquer quelqu'un. Est-ce qu'on n'a pas un peu autre chose à foutre ? Franchement, on a autre chose à faire. On a autre chose à faire, on a des livres à écrire, on a des boîtes à monter, on a des ventes à faire, on a des communautés à monter et je pense qu'on n'arrive pas, on n'arrivera pas à faire ça si on ment en fait. Donc si vous utilisez des images IA, c'est que vous avez des bonnes raisons de le faire. Peut-être que c'est parce que vous n'arrivez pas à trouver ce que vous voulez, parce que c'est moins cher pour vous. Je ne sais pas quelles sont vos raisons en fait et je ne suis pas là pour dire que vous avez raison ou que vous avez tort. Je vous dis juste que je pense qu'utiliser l'IA, c'est quelque chose qui doit être fait de manière réfléchie, surtout quand on parle de visuel, etc. Si vous le faites quand même, alors qu'on sait, et moi je fais partie des personnes qui utilisent des images IA parce que des fois c'est précisément ce que je veux utiliser comme type d'image. Par contre, comme j'ai dit, je me raisonne et j'essaye de ne quasiment plus générer d'image. Je génère quand vraiment j'arrive pas à trouver précisément ce que je veux. Par contre, l'image, je vais la régénérer une fois et je vais la réutiliser 20, 30, 50 fois. Moi, j'essaie vraiment de me constituer un packshot d'une vingtaine d'images, une quinzaine d'images que je prends ailleurs quand elles existent déjà et quand vraiment je vois que j'arrive pas à la trouver parce que je veux un truc très spécifique, je vais la générer. Mais ça, c'est ma politique. Est-ce qu'elle est parfaite ? Absolument pas. Elle peut encore être challengée. J'essaye en tout cas d'agir de manière de plus en plus consciente par rapport à l'IA. Chacun a sa manière d'utiliser l'IA. Je vais pas vous dire ce qu'il faut que vous fassiez dans votre stratégie, dans votre manière de travailler. Chaque situation est différente. Par contre, je pense que toutes ces procédures-là, toutes ces lois, toutes les évolutions des plateformes, finalement ça nous permet, ne serait-ce que pour nous, de nous poser la question de comment est-ce qu'on veut utiliser l'IA, qu'est-ce qu'on veut dire à nos followers et comment est-ce qu'on communique là-dessus, en fait, tout simplement. Et peut-être qu'il y a des gens qui seront absolument contre l'IA à balle, à fond, et qui vont vous rejeter et c'est pas grave. Mais au moins, ces gens-là savent à quoi s'en tenir. Et je pense que finalement, il y a beaucoup de gens qui sont entre les deux et qui n'ont pas trop d'avis là-dessus et qui comprennent parfaitement qu'on peut utiliser l'IA pour ses médias gratuits, mais que par contre, quand on touche au livre, on n'en veut pas. On entend le plus. C'est peut-être les 1 ou 5% qui sont vent debout contre l'IA pour tout un tas de raisons. Moi, je vous l'ai dit, je me méfie des opinions tout blanc ou tout noir. Je pense que le sujet est bien plus complexe que ça. Et que au contraire, plutôt que de dire aux gens il faut arrêter d'utiliser l'IA, c'est plutôt sensibiliser sur comment l'utiliser correctement et arrêter de l'utiliser pour faire n'importe quoi typiquement. Générer une image de profil Facebook par semaine, générer des conneries avec des photos de son chien. Pour moi, c'est ça en fait qui fait le plus de dégâts. C'est les gens qui s'en servent à tirer la régo pour faire n'importe quoi sur Facebook, pour publier des vidéos à la con, des trucs avec Trump qui fait des conneries. C'est ça qui crame la planète en fait. C'est pas la petite image que t'as généré pour promouvoir ton roman parce qu'il te manquait un truc spécifiquement. Et encore une fois, je dis pas que ça c'est parfait, mais je pense qu'il faut peut-être mettre un peu plus de nuances là-dedans et nous-mêmes essayer de nous sensibiliser et peut-être de remettre le combat là où il doit vraiment être. J'ai pas la prétention d'avoir la vision complète sur ce sujet. Je sais que c'est un sujet hyper complexe, qu'on n'est pas tous d'accord là-dessus. Il y en a qui sont vraiment absolument contre parce que c'est une technologie qui de facto pollue. Écologiquement, elle est désastreuse, on est d'accord. C'est pour ça, je pense qu'il faut essayer d'utiliser le moins possible. Le fait est que ça reste quand même un outil extrêmement puissant et que parfois, on en a vraiment besoin en fait, tout simplement. Moi, j'appelle plus à une utilisation raisonnée de l'IA que le pour ou contre, noir ou blanc, parce que je ne crois pas qu'aujourd'hui ça soit aussi simple que ça. Voilà. Donc, si on récapitule tout ce qu'on s'est dit. Aujourd'hui, sur déjà l'AI Act de l'Union Européenne et ensuite les réseaux sociaux, l'AI Act, ça concerne deux types d'acteurs, les personnes qui développent les logiciels, qui doivent te dire quand est-ce que tu interagis avec une IA et marquer techniquement le contenu qui a été généré ou traité par une IA. De l'autre côté, tu as les deployers, donc ceux qui l'utilisent, qui doivent être capables de dire s'ils ont fait des deepfakes, le signaler et indiquer si jamais ils traitent de sujets d'actualité ou d'intérêt public, si ça a été fait uniquement par IA sans vérification humaine. De l'autre côté, on a les plateformes qui, elles, imposent leurs propres règles en fonction de ce qu'elles veulent pour leurs terms and conditions, donc les conditions générales d'utilisation, ce qu'elles veulent pour leur business, ne l'oublions pas, et ce qu'elles veulent aussi pour le confort de leurs utilisateurs, qui se relie directement au point business que j'ai cité avant. Voilà. N'hésite pas à me dire dans les commentaires ou sur les réseaux ce que tu as pensé de ce sujet. Je n'ai pas la prétention, encore une fois, d'avoir une vision parfaite et exhaustive de ce sujet qui est bien plus compliqué qu'il en a l'air. Je suis curieuse d'avoir ton avis sur la question. N'hésite pas à me dire si cet épisode t'a aidé et, dans tous les cas, pense à t'abonner au podcast et au Grimoire via le lien pour recevoir le récap que je te réserve pour le 13 septembre. Voilà. Moi, je te remercie de m'avoir écouté dans tous les cas. J'ai hâte de te retrouver pour un prochain épisode et je te dis ciao ! Merci d'avoir écouté cet épisode. Si tu l'as trouvé utile, n'hésite pas à le partager autour de toi et à me laisser un commentaire pour m'encourager. Quant à moi, je te donne rendez-vous très vite dans le confessionnal de Valet Retro.
PodcastTranscript AI