AI & dermatologie, met Merel Huisman en Marlies Wakkee

Dit is een podcast van Oarlie Media. Welkom, dit is onder de loek. De dermatologische podcast waarin we met bevlogen collega's in gesprek gaan. De ene kijkt enorm wandtrouwen naar AI in de gezondheid zorg. En de ander kan niet wachten op de nuste updates. Welke soort AI-zijner en met welke regelgeving krijgt Europa de komende jaren te maken? Welkom, mijn naam is Luke Lamen. En ik ben Anna Roeschit. In deze aflevering gaat Luke in gesprek met meelhuisman over de verschillende soort AI en de impact en regelgeving van AI op de zorg in het algemeen. Later deze aflevering praten we maar Lisa Waqe en zoomen we specifiek in op AI binnen de dermatologie. Maar voor dat we onze gras gaan spreken bellen we eerst kort even zelf met het hoofdonlep. Het hoofdonlep is natuurlijk AI en voor deze aflevering hebben we de nuste update van het ChatGTP Chatbox bereid gevonden om het ons in gesprek te gaan. Hallo ChatGTPT, mijn naam is Luke en samen met Anna Roes willen we een aantal vragen stellen over AI in de dermatologie. Zij jij je zelf even kort kunnen introduceren voor ons, maar ook voor de luisteraars. Hallo, Iedereen. Ik ben ChatGTPT en AI-assistent die kan helpen met van alles. Van het beantwoorden van vragen tot het geven van informatie. Vandaag duiken we in de fascinerende wereld van AI in de dermatologie. Ik ben er om jullie vragen te beantwoorden, inzichten te geven en misschien zelfs wat humor toe te voegen aan de gesprekken. Laat we erin duiken, wat willen jullie weten? Nou mooi, we zijn heel erg benieuwd. Wat denk jij dat de impact van AI op de dermatologische zorg gaat zijn de komende 10 jaar? In de komende 10 jaar, nou AI in de dermatologie, gaat waarschreinlijk een devolutie te weegpringen. Stel je voor, snelleren en nauwkeurigeren diagnoses, minder wachtijden en mogelijk zelfs gepersonaliseerde behandelingen gebaseerd op jouw specifieke huidpofiel. Maar wees gerust, AI zal nooit de menselijke arts vervangen. Het is meer een superkracht voor de dokters. Klinkt als een spannende toekomst, toch? Ja, op zich wel. Het klinkt eigenlijk een superkracht voor de dokters, klinkt niet slecht. Maar hoe zie je dat dan precies voor? Want wie zegt het jij met een regeneratieve AI? Wie zegt het jij ons niet kan vervangen? Kan toch die diagnoses misschien wel sneller stellen dan ons straks? Ah, goeie vraag. AI is zeker super snel in het analiseren van houten hoeveel hem. Oh, is voor je neer, vertel er. AI kan inderdaad snel patonen herkennen, maar er zijn ook dingen waarin menselijke arts er onmisbaar zijn. Bijvoorbeeld, het empathisch vermogen, het begrijpen van de unieke situatie van een patient en het nemen van complexe beslissingen op basis van meerder de factoren. Oké, dat klinkt hoop geven later. Maar wat nou als jij een fout maakt, dus jij als regeneratief AI-model of diagnostische uit i-model, maakt een foute inschatting. Hij deelt het aan een arts mee. Wie is dan verantwoordelijk? Kan AI verantwoordelijk gesteld worden? Misschien moet ik het zo vragen. Dat is een belangrijke vraag. AI is aan het worpen om een hulpmiddel te zijn, en de uiteindelijke verantwoordelijkheid ligt bij de menselijke arts en professionals die de technologie gebruiken. Het is net als een navigatie-systeem in een auto. Het kan je helpen de juiste route te vinden, maar jij bent nog steeds tegenen die het stuur vast houdt. Samen zorgen we ervoor dat AI en artsen de best mogelijke zorgen kunnen bieden. Dat is een mooie vergelijking, denk ik. De navigatie van een auto. Niet slecht, niet slecht. Daar kunnen we denk ik in de toekomst wel wat mee. Dankjewel voor je antwoorden. Dan ga ik nu verder met de aflevering en op een zoek bij Merel in Utrecht. Wil je nog iets kreid aan ons voor dat we de verbinding verbreken? Krage dan. Veel succes met de opname en het bezoek aan Merel in Utrecht. Verheet niet om te genieten, en vooral om die superkant van AI en jullie expertise samen te gebruiken. Als jullie nog eens vragen hebben, weet je met te vinden. Veel plezier en tot de volgende keer. Dankjewel. We gaan een gesprek met Merel Huisman, radio-log in het Radboud MC en lid van de commissie AI bij de federatie voor medischpecialisten. De commissie die zich de komende jaren gaat bezig houden met alle complexen, thema's, rondom AI in ons zorgsysteem. Nou, welkom Merel. Om je beetje te kennen hebben voor iedereen deze podcast de eerstezelfde vraag. Namelijk wat is jouw ochtentrie te wil? Nou, leuk, wat een leuke vraag. Mijn ochtentrie te wil op werk dagen, altijd. Ik kwam iets recht en ik reis naar Nijmegen, dus voor mijn werk. Dus dan heb ik een heel weinig tijd zogtens, omdat ik zavonds al mijn viegen ontbijt gegemaakt. Dan sinds ruimmaar viegen. En dan ga ik op mijn elektrische foutje heel snel naar station. En dan in de trein rustig ontbijten, meek ik op al die dingen. De Merel wat werk en dan ben ik er ja, en dat is eigenlijk. En hoe bevalt het reis met de trein te geworden? Ik vind het trein een moment heel fies, dus. Ja, nee echt. Volgens mij heb je zuin een gopschoon, maar ja, de bevalt het bevalt redelijk. Ja. Ik kan me prima werken, dus ja, ja, ja, dat wel. Dus zo vroeg is het niet druk, dus ja. Hey, en als we gaan kijken naar wat het hebben we over AI. Weet je nog wanneer de eerste keer horen van AI of een aanwerking kwam, of een aanraking kwam met AI? Ja, zeker. Dat was in 2017. Toen was ik aionsrijdoggiënt, umse uitzreigd, en toen had ik een. Supervisor Tim Lijner. En die als een meeldse gestuur van 'der is een workshop' in Radboud, over artificiale intelligentsie, en ik denk dat dat iets gaat worden. En ja, ik heb Tim enorm hoog zitten, dus ik dacht leuk, ik ga daarheen. Heelmond en nijmeeg, ik vond het toen nog ongelooflijk ver. Heel andere regio, en ik was daar op die workshop, en dat was bijna geen radiologe. Als AI was, ja, waren er nog één, waren er met tweeën, en er was een radiologe, en toen dacht ik, ja, oké, we moeten dit echt wel gaan oppakken, kwaar als onderwerp. Ja, daar weet ik nog prima in de daad. We zoudenken, het is juist voor rijdenlogen en paddenlogen heel in de van theme, hè. Ja, ja. Wat kun je erin nog voor een dermatologe was? Nou, als AI in de beeld vorming, dan doe je natuurlijk ook, maar dat was niet tegenwoordig toen hoor, nee. Heel en hoe ver gebruikt je in je persoonlijke leven? Dus naast je werken, bijvoorbeeld koken of verslagen-tippen, nu moet je iets. Ik heb geen AI die kan koken, maar ik gebruik het setgieptie wel ontzettend veel. Niet meer echt ontplaatjes te maken, dat heb ik in het begin wel gedaan, over pristaties, maar dat schijn best wel belasting voor het milieu te zijn. Zo is dat natuurlijk wel een aspect, maar goed. Daar gaat het podcast nu niet over. Ik gebruik het best wel veel om een echt een academische te maken. Dus voorbereiding van pristaties, literatuuroverzichten, grammatica en schrijfstel, op de tematicitie, dat soort dingen. Hoeveel are je in je karriëren? Kond zo, misschien ook herkennen hoe minder tijd erover blijft. Ik heb aantal processen enorm handig kunnen inrichten. En dat gaat prima. Ja, zeker. En als je hebt over processen inrichten, waar hebben we het dan over? Wat voor processen? Het proces van een pristatie voorbereiden, bijvoorbeeld. Wat ik dan doe, je kan in het setgieptie kan je los-tjet aanmaken. En dan doe je wel een matige literatuurseerge. Dat ik kan ook per plekstie gebruiken. Maar goed, uiteindelijk weet je toch zelf het beste wat te bronden zijn. Die PDFs, die uploadje. En dan vervolgens een vraagje onder. Je kan om in die jet kan je vragen aan de artikelen stellen, zeg maar. Dus razendsnel heb je dan onder die verhaal onderbouwd. En je kan ook zeggen, dit was de voorgepresentatie die ik had. Je doet de sluitster in. En nu is mijn audiens zo en zo. Dit zijn op DTP-pers maken nieuwe lijn van het verhaal. Ik heb echt razendsnelnde pristaties. Hoe snel kan je zo'n pristatie voorbereiden? Meestal spreek ik wel, ja. Ja, kogressen, waar wel wordt verwacht dat je echt iets neerzet. Dus dat was van een aantal dagen, is dat nu naar vier uur. Ja, dus dat schild enorm. Ja, ik ben natuurlijk zelf ook sneller. Maar met name, dat je niet meer had maatig alles hoeft te lezen. Meerderen tapps open, je kent het wel. Dat is nu gewoon in 1 jet. En je moet het nog wel echt fact checken. Maar dat bedoel ik met processe. Ik heb geen domotica of zo, niet als soort processe, maar echt het werk. Wat je dus als meestwissen is er naast doet. Maar wat heel veel avond uren en wie kent u er kost normaal. Ik merk ook als je hierover praten, dat je wat soort blij, als je dit vertelde. En dan zin je van, ik heb gewoon meer tijd over van andere dingen. Nee, ik kan gewoon meer doen. Dat is een grote illusion. Nee, zitten bij niemand in hoor. Het is een grote illusion van de techniek dat je tijd over hebt. Ja, ik denk dat om deze reden om dat je enthousiast bent, omdat je het leuk vindt om allemaal uit te zoeken bij Lit geworden van de commissie AI bij de FMS. Wat is eigenlijk het doel van de commissie? Ja, het doel van de commissie is verschillende discipline's bij elkaar brengen, dus het gaat echt om de ziekenhuis zorg wel, de zorg is natuurlijk eigenlijk. Voor het groot deel niet zie ik uur zorgen, maar goed. Z'n FMS is echt he, de medisch-specialisme. En het idee is dat we daarvan ook relevant specialisme voor AI en dat is inmiddels eigenlijk bijna elke specialisme. Een tegenwoordiger hebben en ik zit er dan in namens de rijlogis aan met Janjaab Visser. Maar we hebben ook IC Arts, internist, neefgelooch, derrenseloog, hadden wij, maar gewoon natuurlijk zoek we daar geloven. Witte vakantuur is open, dat is een goede meefje benoemen. Ja, ja. En het gaat dan wel om AI-specialisten die weten wat er speelt in hun eigen vakgebied. En wat we doen is we brengen dat samen, we krijgen ontzettend veel white papers, documenten van er zijn in Nederland. Ongelofelijk veel groepen, Nederland is best wel gevraagd met teerd land, qua zorglandschap. Ongelofelijk veel groepen die guidelines en white papers willen uitbrengen en die dan onze goedkeuring willen. Mijn VWS hebben we ook contact mee. Ja, en verder verzorgen netwerkavonden voor alle meest specialisten dus van alle reden van het specialisme en iedereen die maar wil komen, ook huisort te komen wel eens. En dan educatie op het gebied van AI, dus ook kijk je ze wel aan een thema en dan kan je met elkaar in gesprek, en met experts, etc. Dus kennis bevordering, ja. Nou, mooi dat die commissie in het leven groep is. En ja, wat we merken is dat uit de festivaltennis is nu enorm in opkomst, enorm ook in de media en een deel van de zorgveel. Ik kijk daarna met een paar wantrouwen, een paar de skeptis en een andere deel is heel enthousiast. En bij jou klinkt er meer enthousiast mee, vind je dat klopt? Zullen we zo zien, ja. Maar ik ben ook benieuwd van hoeveel je begrijp je de mensen die het wantrouwen? Ja, het thema angst voor verandering, angst voor vervangen worden, dat speelt al heel lang. Dat is al, ja, de 6 jaar dat ik nu me in het veld bewege is dat al een kwestie, ik heb toen als vijfde jas Eil's, Eil's, ook een onderzoek gedaan, een groot vageleisd onderzoek. Dat was toen de eerste van z'n soort, nu zie je enorm veel van dat soort onderzoeken uitkomen. Maar ik ben toen in een grote groep radiologen, meer dan duizend, een relatie geprobeerd te leggen, dus wat maakt nou dat iemand angstig is? En allerlei variabelen, bijvoorbeeld achtergrond, zelfgraperteerde AI-kennis, werkervaring, al dat soort dingen. En hebben we ook gekeken als je dan die innovatiecurven hebt. Hoe kan je nou die early majority naar voren halen, dus dat je een early adaptor, dat is van early majority early adaptors maakt, dus als het ware de hele keur van haar links schrijft. Dat was de achtergrond van dat onderzoek, dus dan moet je ook weten wat kan je aan die angst doen en de allergrootsverspeller voor angst was opleidingsniveau op het gebied van AI. Dus als je niks weet dan ben je in principe anti-jast, komen we uit, weet je een beetje, dan komt er een enorme bakneegitiviteit, en dan met voorderen de kennis naar baas niveau, neemt anti-jastma en toe en de angst er af. Dus ja, het is wel zo grappig, met zijn intrinsiek gewoon wel geïnteresseerd als ze er niks van weten en als ze een beetje van weten, zou je zo in de zorg natuurlijk ook wel zeggen, hadden we net ook wel even zorgen. En ik doe hem weer aan het enthousiast, dat zei je dat dat zullen wel zien, maar dat was dit jij zelf eigenlijk zo op die schaal. Nou, ik wanneer of ze niet bang voor, maar ik ben een persoon die ja, ik vind nieuwe dingen leuk om te onderzoeken en ja, ik heb daar in principe geen angst voor omdat ik het gevoel heb dat ik dat zelf kan weer invloeden als ik er maar kennis van heb, zeg maar. Dus ja, dat heb ik altijd gedacht en ja, ik ben, ik ben inderdaad anti-jast, maar ik ben ook wel een van de meer kritische personen. Als het, ik ben niet het zo'n aanjager van de hype, dat zie je vaak mensen die dan net wel iets meer kennis van hebben die dan op eens meer anti-jast worden, bovenal baas niveau. Ja, ik probeer dat er ook vaak juist af te remmen van te wel real blijven, er is van alles mogelijk, maar niet alles wat kan dat hoeft ook, zeg maar. Ja, nee, precies, en je brood ook meer moeten we te willen. Ja, we hebben al de dingen moeten we willen, maar bijvoorbeeld als je het over de rijlogie hebt, wat waar wij uit de maat op getreens zijn is, raazend snel een beel boordele, dat doe ik in minder dan seconden, per beel, na ja, CT is inmiddels meer dan duizend beelden, maar hij heeft natuurlijk ook, nou ja, alle lijogen gaan het te bekijken, maar in principe een foto beoordele, dat kan ik echt heel snel. Dus de vraag is heb ik dan iets nodig, maar ook duurder is dan mijn seconden, zeg maar, want dat is natuurlijk wel hoe het is. Nou ja, mijn tijd wordt niet opgeslokt door het beoordele van beelden, maar door het hele proces eromheen, bedien je van het EPD informatie zoeken, uitslagen doorbellen, protocolle invullen, vragen van laboranten beantwoorden, en nu weer tussen scanners lopen, ja, en daar hebben we geen toen voor het is. Dat zit naop wat je zegt, de beelden beoordele op zich, wat aan je dus goed kan, dat kun je jullie ook eigenlijk de raazend snel beelden. Als we er zijn, het is ook een kleine kanttekening, je hebt natuurlijk ook situaties voorbij gewoon geen radiologisch beschikbaar hebt, maar goed, momentale zit de buik van het werk meer in al die randzaken. De administratie verkeerde precies, en daar hebben we nog geen goede toel voor het, wel als ik het ook nu bekijk de onderzoeken die er gaan, er zijn vaak toch op uren de imaging, de beelden goed en snel kunnen beoordeelen met de hulp van AI. Ja. Ja, we alten dan nog een radiologische verdämt, een locatie van aan te paskomen, maar jij zit eigenlijk alles daaromheen, is eigenlijk het geen wat gewoon de tijd kost, waar je eigenlijk veel meer te behalen valt. Ja, als je voor de luisteraar is ook, als je hun werkdag bekijkt, dan is het niet de flexjes beoordeelen. Ik weet natuurlijk niet precies wat je liet doen, maar je liet kijken naar de huitstoren. Dan is het de mensen binnenhalen, dat doe je misschien ook niet zelf, goed, de dossiers bekijken, dan wordt er maken, al die dingen. I don't know, maar ja, ja. Nou ja, een beetje niet. Dragebeantwoordig van patiënten heb je die, denk ik, veel gezegd. Wij dan niet, maar de berichten, omdat peciënten nu ook meestal hun dossier kunnen zien, komt er ook werkt weer bij. Ja. Ja, we hebben in 2024 is er wel een mooie onderzoek geweest van het citraal, het bureau van de statistiek. En dan zag je dat 23 procent van de bevolkende Nederland gebruikmaakt van maaë, dat is eigenlijk al best. Wat dan, als je dan kijkt naar de groep jongeren, zo tussen de 18 en 25 jaar zelfs 50 procent. En het bedrijfsleven zag ik dat het, mijn name is zo, die financiële dienstverlening, communicatie zelfs 60 procent is, daar wordt het al heel breed toegepast gepast. En dan ga je zo onderin dat gafietje naar de zorg, en dan zie je de sommarige 17 procent staan. Is dat dan in de praktijk of zijn dat de individue of hoe, in de praktijk? In de praktijk. Ja, dus je hebt de bedrijfssoftwerf. Ja, dat is die eerste groep, die tweede groep is hoe het in de praktijk en het bedrijfsleven of het is in de zorg toegepast wordt. Ja. Nu, hoe ik jou zeggen van de grootste, de meeste die meest bang voor zijn, die weten er een beetje vanaf. Ja. Kan het dan zijn? Wat is de reden dat wij zo achterblijven in een gezondheid zorg? Weet we er gewoon een beetje vanaf, maar niet genoeg of weerderen? Nee, ja, dat is een interessante vraag met vele antwoorden. De zorgsector loopt over 28 jaar achter op andere bedrijfssectoren, dat is ook al jaren zo. In de basis, het is uitaal hier ook, ja, ja, ja, ja, op alle, maar dat is ook al, ja. Toen ik meest ident was, vond ik ITA en zo de volgt ik ook wel een beetje, toen was dat ook al en dat is echt al heel lang geleerd als meer dan 15 jaar terug. Was dat ook al het gesprek van de dag waarom is dat zo langzaam? Ik denk dat dat gewoon zo is. Ja, je hebt te maken met een. We hebben zijn privacy hier in Europa, staat bovenaan, zijn daar enorm streng in en dat heeft een gigantische prijs, namelijk de alle processen. De duurder en langzamer zijn, als die veiligheid wil bewaren, plus het zijn natuurlijk, het gaat om iemand's gezondheid. Dus het moet gewoon goed getest en onderzocht zijn, dus die twee dingen maken dat het langer duurt en het is ook heel complex en gepersonaliseerd. Ja, ik zit natuurlijk niet in de financiële sector, maar dat is altijd geld, laat maar zeggen, bij ons zijn het heel veel verschillende ziektes en de geesten nog bij, ja. Dus veel complexer. Ja, maar hoeveel staat dan de regelgeving, bijvoorbeeld de AVG, ons in de weg om dit goed uit te kunnen rollen? Nou, als er helemaal geen privacy regelgeving was, ja, dan was het al lang geregeld, dat. Ja, dat is wel zo. Maar goed, dan heb je weer andere potselige volge waar we dan enorm bank voor zijn hier. Ja, er is nu ook een AI Act, waar je vast van hebben gehoord. Ben je of de luisterijstijs het ook kunnen uitleggen? Nou, dat is een EU-verordening en dat wil eigenlijk zeggen dat het op alle landen in Europa moeten daar aangeaan voldoen. En die moeten dan hun eigen wetten en regels maken die dan in overeenstemming zijn met die verordening. Ze EU-AI Act, en ja, dat houdt in dat alles wat in de zorg wordt gebruikt. Het gaat niet dan inover de zorg overigens, gaat over alle sectoren, ja, ja, alles. Dus er zijn aantal dingen nu illegaal onder die AI Act, bijvoorbeeld de dingen die ze in China doen, profeleering en gezichtzaakkening op straat, en zo dat het mag niet. Dat is illegaal. Toepassing in de zorg zijn allemaal hoog risico dat wil zeggen dat die, ja, simpel gezegd, een hele hoop papierwerk met zich mee gaan brengen. Meer dan dat dat nu is, ja, het is ook de vraag "Wie moet dat dan gaan uitvoeren en betalen?" Dus ja, dat wordt allemaal een stukje complex, en dat komt in effect, in volledig in effect in August 26, en dan moet gewoon iedereen er aan voldoen. Ja, dat is eigenlijk een soort. je hebt dan de AVG, dat is dat gaat een puur om die privacy, maar je hebt dan die AI Act, gaat dan nog een stapje in verder eigenlijk. Dus die zegt op Europese niveau moeten we hier heel goed naar gaan kijken en moeten we aan heel streng kriteria gaan voldoen voor dat we iets kunnen gaan ondernemen. Ja, er zit een aantal key aspects, zeg maar, in die AI Act, en het lastige is, ze zijn tegelijk tijd heel streng, maar ook waag. En dat, ik denk dat dat vooral gaat vertragen, maar bijvoorbeeld, er moet altijd human oversight zijn in de deployment van AI, er moet. En wat betoel is er met human oversight, dat de mensen het wel nog kunnen behapen, of controleren? - Ah, dus dat is een goedje dat zegt nee, dat wordt ook weer human in de loop genoemd, dat wil gewoon zeggen. Elke AI-output, dus text, beeld, moet gecontroleerd worden door een persoon. - Oké, met de woorden is onszettend tijdsintensief. Ja, ja, je kan natuurlijk dat in op een slimming manier doen, met verlengde armconstructie of zeggen van, nou, we doen een elke honderd, controleren we er een aantal en dan hebben we een heel systeem voor opgetuucht. Maar goed, dat moeten we dus ook laten we zeggen een soort AI-laboranten of wat dan ook, ja, je moet daar iets mee, je moet een heel systeem hebben. En ja, dat zal eens wel komen, maar dat duurt gewoon jaren zeg maar. - Het klinkt als een heel groot en duurproces. In de daad, ja, zeker. - En wat is het toch mevraag? Wat is nou de reden dat u dit wil? Is dit, als we wel het net over dat stukje, die schaal van band trouwen en het is afsmeen? - Ja. Het voelt, als ik dit zo hoor, een beetje of de EU als vrij band trouwend tegenover AI staat, of de gevolgen misschien niet goed kan overzien, of u behoud gewoon een blarek vindt om hier. En wat ik ook beneden ziens ook wel begrijpen, sterken en duidelijk afspraak over te maken. - Ja, ja, ik denk dat het met name dat laatste is. En het is potentieel natuurlijk ook een soort massa-waap, en als je het verkeerd gebruikt, in de gris kunnen kennen we sowieso een aantal katastroofes. Ik kan ze eens niet opleplen, maar goed, in de zoveel tijd wordt het een middelweer teruggeroepen omdat er dan toch geboorten defect heeft. Ik gaf dat een jaren 60 was of zo. - Ja, dat is een soort ding, hè. - Ja, een vanaf sija. - Ja, ja, ja, ja. Dus dat kan ze ook zijn? - Ja, er is een potentieel risico over de zorg, want de vragen het eigenlijk is ook. Dan heb je het stukje regelgeven, maar dan vervolgens heb je dit stukje fantolijkheid, en want wat gebeurt er als AI bijvoorbeeld een verkeerde verspelling gaat doen? En hoe zit dat dan met aan sprakelijkheid? Wie is dan aan sprakelijk en ja, moet AI dan gezien worden als een medisch instrument, dat fouten kan maken? Of moet we misschien wel zien als mens? - Ja, ja. - Ik wel eens geopelt wordt. Dat wordt wel eens geopend, maar in principe heeft het geen rechtspersoon, zeg maar. Dus het zal uiteindelijk de doktor zijn of de andere gemandertierde medisch professioneel. Zoals dat nu ook geregeld is, ja. - Dus in die zin moeten we het meer zien als een emery bewijzen van. dat kan je wel. - Ja. -. aan wel als afwijking geven, en je bent dat eigenlijk als afvondwoordelijk omdat de ideeën hier op sporen, en de andere. Ja, en als er bijvoorbeeld een stoje voor in principe moet een vendor, dus een verkopen van AI. moet straks een hilderssee aanleveren wat de verwachtig risico's zijn, het versiefen, zoals dat nu ook met sommige medical devices is of eigenlijk de meeste. Ja, als dan blijkt dat het daar niet aan voldoet, misschien dat ze dan ook wel een sprakelijk kunnen worden gesteld. Maar goed, ik ben niet bijna niemand is een expert op dit gebied. Maar het is een beetje. in die zin een grijsgebied, maar ik denk dat het erop neer gaat komen dat je als arts of als ziekenhuis in Nederland dan aan, want we zijn niet als in de verduur. Frantwoordelijk, het ziekenhuis heeft dan een verzekering voor. - Ja, voor dit soort geweldig. Ja, precies is dan dan gaat het het ziekenhuis zijn en die is daar dan voorverzekerd. - Ja, ja. Wat heel interessant is, want het is natuurlijk wel een degelijk. het is echt iets anders dan laat zeggen, bijvoorbeeld een mRNA, die maakt moment op namens, plaatjes van een situatie en bij een AI-model. wort er toch wel echt iets nieuws gekreëerd vanuit verschillende soorten bronentakken of hoe ze jij dat. Ja, en nee in de zin van de AI die ik bedoel, als je hebt, je hebt misschien een overgeneratieve AI. Wordt dan bijvoorbeeld een nieuwe samenvatting gekreëerd. Ja, misschien is het goed om de verschillende zorg te even bereizen bij de generatieve AI. Ja generatieve AI, dat is zoals we, Jit, Jit sorry, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, Jit, J Ja, generatief, ie dat is zoals we "jit", sorry, 'jit', 'jit', 'jit', 'jit', 'jit', 'jit', 'jit', 'jit', 'jit', 'jit', 'j Je hebt zetese data dan voor de rijloggie, voor bepaalde onderzoeken, dus in de research setting. En DIRNOS, AI, dat voor jullie zal het zijn, het analyseren van een moederfleck, voor ons is dan dan al aan de beeld voor het onderzoek. Dus daar wordt niks gecreëerd, maar dat is software die ontwikkeld is met behulp van AI. En generatieve AI dan wordt er inderdaad aan, dat is ontwikkeld ook op data. Maar om iets nieuws te creëren. Ja, hij had wel echt een goed punt aan, ik denk namelijk dat niet veel mensen dit verschil weten. En dadel ook wel ligt de termen voor wagen of niet weten. Dat zie je veel, ook bij de mensen die de bestissingen moeten maken helaas. Ja, we krijgen wel zokumenten onder ogen dat ik denk, ja, het is allemaal heel snel opgeschreven. En iedereen heeft wel een beetje verstand, ook nu met de internet natuurlijk. Iedereen kan wel overkomen als ik sper, maar alleen ze echt al heel lang meer uit dan zie je gewoon dat het kennis niveau nog niet daar is. En dat maak ik ook toch een heel groot, dat is eigenlijk heel mooi, dat is wat haakjerk naar het begin, want zei dat er zijn heel veel mensen die een beetje weten. En dan kom je op een puntje dat je het kan verwaren, want als je dus inuit de diagnostische saaien, iedmodellen die getreens zijn op basis van een bepaalde, een saaiige input, en ook getreens om een output te geven die binnen hele slekken kaars valt, dan is dat het totaal iets anders als generatief. En helemaal niet vergelijken, maar het wordt vaak een elkaar gehad. Ja, absoluut. En misschien is het nog wel even goed om terug te gaan om die risico's en generatief bij i bijvoorbeeld wat je zou kunnen hebben, is dat het bij bepaalde percenten groepen iets weglaut uit de samenvatting, waardoor je bijvoorbeeld een allergie over het hoofd ziet of een bepaald gegeven wat echte behandeling of het beleid been invloed. Het stel somatig wordt toegevoeld of weggelaten, ja dan hoe kom je daar dan achter zeg maar, dat kom je waarschijnlijk vast achter als het mis gaat. Dus dat is een groot risico dus. - Moest mij noemen ze dat hallucinatie is van ei, dat is zo'n dinget. Ja, als iets toel wordt gevolgd, dat doet het absoluut. Het hallucineerd momentil is dat nog een probleem, er zijn wel meer elegante metoden. Rack heeft dat waarbij je dat kan mitigeren, maar momentil is het nog een probleem en het de mens is gevoelig omdat gewoon over te nemen, zeg maar, knackeloos. Dat is ook geblek uit onderzoek. Dus het stukje interaktie met de AI en de professional, dat is een onderzoek onderwerp wat echt nog in de kinderen schoenen staat en waar je nu de eerste resultaten van gaat zien. Ja, hier was het wel een zon. Maar ja, het generatieve AI gaat misschien ook wel een keer toch een rolspelen in de zorg. Maar dat weten we nog niet van neer, want we kijken dat we een jaar geleden. -Pink snel. -Ja. In jaar geleden was de AI het niveau of had de AI het niveau van een paar schoolleerling. Nu, met de twee jaar geleden was het een paar schoolleerling en jaar geleden was het een middelbare schoolleer. En tegenwoordig wordt er al gezegd en zit AI inmiddels op het niveau van een slumme PSD-er. Hoe is het onbedacht dat we vandaan? Ja, en volgens welke definities en het ontwikkeld snel. En dan is de vraag, en dat is zo'n vraag die ik wel meerdere mensen stellen. Van ja, waar gaat het 10-jarers lang? Waar gaat dit over 10 jaar zijn? Ik kan het niet toch het generatieve deel en medischpecialist vervangen. Kan het dan een radio-loog vervangen? Als we heel diep nadenken. Ja, ja, ik ben onderhand moe van die vraag, want dat is. Dat laat ik wel. Dat wordt elke keer maar weer gevraagd. Ik denk het niet. En ja, om dat het werk is zo veel, dat er altijd wat radio-loog nodig zullen zijn. Want er moet ook steeds meer en er kan steeds meer. Dus misschien dat een deel van ons werk straks gedaan wordt door software. Of misschien zelfs robot, hoe no's? Voel binnenhalen van patiënten en instructies geven waren uit de Keden en dergelijke dat ze al robot kunnen doen. Is het wel dat patiënten eigenlijk een doktor willen of een mens willen zien? Van hier wel willen weten dat er een mens betrokken is. Ja, die behoefte aan persoonlijk een contact, denk ik, dat is voor zal zorgen dat een ziekenhuis niet snel uit alleen robot zou bestaan. Om het teel, ja, nu is het techniek nog niet zo ver. Het is wel zo dat één zoveel tijd kontra-sort gigantische vooruit stapspong of zet dat eruit gaan. Ja, en dat had niemand zich dan kunnen voorzien, zoals een diepziek. Het komt op één zergens een partij waar een gigantische wel gehoord heeft. En dan is het allemaal een heel andere ballpark, zeg maar. Ja, maar dat kunnen we nu inschadden. Wat de impact is over 10 jaar? Nou, de mens kan dat niet goed. Dus ik denk het beste, de beste ik kan doen, zeg maar dat ik kan inschadden dat ik het niet kan inschadden. Want het gaat exponeceo en dat per definitie zijn we in hersenen zo niet gemaakt. Maar ik denk geleneer, ja, nee. Dus er zal iets komen wat ik nu nog niet kan voorzien en ook nog niet aan gedacht had. Misschien dat een heel andere sector, wat dan op één zonswerk enorm veranderd, maar het gaat er maar om dat je. We hebben die veranderingen ook al meegemaakt. Er was ooit rijloggie zonder Emery, of met zonder CT zelfs. Ja, is een beetje de angst voor de stondrijnen een computer? Ja, inderdaad en deze ook zo'n verhaal is misschien nog wel grappig. Ooit waren ze, was men er bang voor? Voor de comms van de auto was dit dat het in de stad zo druk zou worden met paardenwagens, dat de paardenpoep meters hoog zou worden. Oh ja. Ja, ik in deze gelijk. Ja, precies. En waar het ook komisch is voor hem, weet ik, het al van dit en toen kwam de auto en toen was het gewoon obsolet. Dus ik denk dat dat ook een beetje, dat dat met ons ook zal zijn en dat kan ik gewoon nu ook niet verspellen. Ja. Ik ben gewoon een hele leuke manier om dit gesprekken af te ronden, als laatste vraag, wat dat net over, wat mensen nu weten, wat mensen. Dat zeggen waar het wantraven na komt, waar het enthousiast maar van na komt. Wat zou je mensen willen meegeven, wat zou je een specifiek medisch specialist willen meegeven als het gaat om AI? Straat om AI denk ik twee dingen, informeer je goed en onderkennen ook dat je nog niet alles weet als je geen experiment en zorgen dat je een experiment netwerk hebt, die je gericht te vragen kan stellen en leer van andere disciplines. En ja, blijf open, dat zou ik zeggen, ja. En vind je dat wij überhaupt meer moeten gaan doen met AI, vind je dat we als dochter's bedoel ik dan ontstaan meer en moeten gaan verdiepen. Zovan het is er, we komt er niet aan, we gaan het of moeten om aan of afstoten, maar jullie zijn natuurlijk nu, als commissie, goed bezig om dit allemaal te klusteren en proberen het soort samenhang te geven en het geheel. En maar vind je dat wij allemaal meer tot met AI moeten gaan doen, informeer je wel, docte z'n Nederland. Nou, het is zodat onder de AI Act Word AI Literacy wordt verplicht. Dus we zullen trainingen net als we de brandveidigheidstraining verplicht is, zal ook de AI-training verplicht worden. En het zal als in de organisatie AI wordt gebruikt, dan moeten de betrokkenen moeten AI geletterd zijn, volgens de wet. Ja, dus je ziet ook al dat er steeds meer onderwijs komt en tijdje geleden was er best wel wat verzet tegen, want specialisten, opleidingen zitten al vol, maar ja, we zijn toch gewoon mee moeten. Ja, ik denk niet dat je het helemaal afstoten dat dat nog een optie gaat zijn. Nee, we kunnen het niet negeren. Nee, en dat is ook helemaal niet nodig. Ja, kan ook heel leuk zijn, want je kan ook persoonlijk invloed hebben in je vak gebied. En ja, de rijlogen hebben altijd wel met innovaties te maken, dus we hebben als het ware ook een toolkit in onze professionele arsenaal om met nieuwe dingen te werken. En ja, ik weet zeker dat dat kunnen andere ook leren, dus geen probleem. En je kan bereikbaar een pristatie in vuur in elkaar zetten. Ja, minder, laatst hebben we er een keer in je vuur ergens nog lang. Ja, dus dat vind ik ook een hele goede onderwikkeling. Ja. Meer omachtig enorm bedanken voor deze bijdrage aan deze aflevering, en vooral ook heel veel succes wensen voor de komende jaren in de commissie van de FMS en de moeilijke complexen keuzes die jullie daar ook in moeten gaan maken. Oké, overschadels niet, maar dankjewel. Om meer te weten te komen waar we nu staan met AI in de dermatologie, bellen we met Marlies Vakee, dermatologie in het Erasmus MC. We zijn benieuwd naar hoe zij aankijkt tegen deze technologie binnen ons vak gebied en hoe dit impact gaat hebben op dermatologen. Hallo, Marlies. Hoi ons. Ja, ik hoor jullie gewoon. - Kijk, je spreekt met luk en ander roos. Vernaar het we even kunnen bellen. We hebben een aantal vragen voor je omtrend AI-specifiek binnen de dermatologie. Nou, we hebben meer om net gesproken voor het eerste deel van deze podcast aflevering, en ze heeft ons verteld over haar onderzoek over angst en tujasme over AI binnen de gezondheidszorg. Nu zijn we benieuwd hoe kijk jij tegen AI aan bija meer. Kijk jij met enige wantrouwen of eigenlijk vooral met enttujasme. Oh, dat is een leuke vraag. Nou, ik kijk zeker met enttujasme naar AI, want ik denk dat het echt wel heel kansrijk is, een heel interessant. En ik denk dat het op sommige vlakken ook heel snel gaat, als je het hebt over bijvoorbeeld spraak naar tekst in de sprekenaar, maar je denkt dat ze. Dat soort dingen gaan we echt heel snel krijgen, dus zeker enttujasd, maar ik denk wel op sommige vlakken spreken we heel veel over AI, wordt er veel studiezen, die worden gepubbliciert over wat er allemaal in potentie kan, maar in de partijken wordt het zo'n normalwijn gebruikt. En ik weet niet of jullie meerdere gekregen afgelopen week was, een rapport is er uitgekomen over AI in de zorg. Hij heeft zon een wee uitgegeven en aangeboden aan de ministeraangema van VVS, en daar worden eigenlijk ook genoemd dat AI zeker kansrijk is, maar dat er best wel nog wel wat jaten moeten worden geslecht. Ja, bijvoorbeeld naar wat zijn de lange termijn effecten van AI of überhaupt de effect van AI in de partij, want ik denk dat we heel vaak dat soort dingen, dus nog helemaal niet weten. Dus in potentie, heel positief, maar we moeten echt nog wel stappen maken. Ja, nee eens. En die hadden kochten aan, dat vond ik eigenlijk wel interessant, je zei, dit gaat heel snel, en het is dus spraak naar tekst. En dan bedoel je mee in de spreekamer, AI die meelijs dat en die dat allemaal vast voor je in de status set. Ik ga dat goed. Ja, ik denk dat dat soort ontwikkelingen heel snel gaan, dat zijn wat meer algemeen, denk ik ook. Maar als we dan hebben, ja, ik weet het doen natuurlijk meeste onderzoek naar het dermatologisch toepassing van AI tools, in de diagnosticen zo. En ik vind het daar, ja, tot nu toe best wel. Nou ja, aan een kant is er wel wat aan implementatie, maar voordat we dat echt integreren, in de zorg, en wat je allemaal ziet aan publiekaties, vind ik dat er nog maar heel weinig in de praktijk gebeurt. En wat zijn de grootste barrières daarin, denk je? Nou ja, ik denk dat heel veel studieze in een hele mooie setting allemaal zijn gedaan, dus dat is dan doen we in een mooie studie, in een maak ga je arts blot stellen aan iets met AI tools, maar wat gebeurt er nou echt in de praktijk? En ik denk, daar moet je echt wel grote studies voordoen. En nou ja, dat sluider kom je aan met dat rapport, wat is uitgebracht, is dat er wel geld voor moet zijn. de onderzoek naar te doen. En dus best wel lastig, want juist dat is ook wat ik graag wil doen, dus best wel lastig om naar de financiering voor te krijgen. Dus als ik een AI-toel wil ontwikkelen, dan lukt dat vaak wel. Maar als het dan eenmaal de E's en je wilt eigenlijk meer implementatie onderzoek doen, is dat zo'n best wel lastig om dat gefinanciëert te krijgen. Dus ja, dus je wilt ook ook, maar je hebt natuurlijk verschillende steekhonders in het hele AI-weerl, dus je hebt het techbedrijven naar die bouwen, dit soort mooie apparatuur of deze grote algoritmens. En aan de onderzoekkanten, met natuurlijk artsen, onderzoekers, maar ja, uiteindelijk ook patiënten, je zegt eigenlijk dat die groot schalige onderzoeken daar blijven nog een beetje achter, heeft dat ook te maken met regelgeving, of zeg je nou, dat staat daar eigenlijk los van. Nou, ik denk dat dat wel los van staat, want je moet eerst eigenlijk dus wel onderzoek doen om aan te tonen, dat iets eigenlijk, dat echt een toevogging is voor de zorg en dat dat je daarmee baarde eigenlijk toevogt aan het aan de zorg. Dus ik denk dat als dat, als je dat kunt laten zien, dan denk ik dat je ook weer makkelijk kunt opschalen, maar dat blijft dus nu gewoon nog achter. Dus ik denk dat dat wel echt een hoorde is die we moeten nemen. En dan wordt er natuurlijk een ene kant verwacht van die techbedrijven dat zij zelf dit soort onderzoeken doen, maar het kan niet anders eigenlijk, wie je daar als onafhankelijke partij of dit geval, is het voor ons als dermatologerelevant, hoe je daar in de lied zijn, dus je wil graag zelf die onderzoeken uitvoeren. En dan kan je wel zo'n techbedrijf vragen dat mee te sponsoren, maar dat zijn best wel kostbare onderzoeken. En je wil daar eigenlijk ook wel gewoon, dat bijvoorbeeld een zonnemwee of een kawie, ja, voor een andere partij zegt hij, dan willen we ook mee financieen, want we vinden dat ook belangrijk dat dat goed wordt onderzocht. En denk je dat dat daar meer naar toegaat? Ja, ik hoop het dus dit rapport tussen hier van eerste duurtje die kant op om te zeggen, nou, dan moeten we aan werk als we dit, als we a.e. zo in de zorgen een plek willen geven. Ja, en zo'n fonds zoals het na het zonnemwee, die zijn eerder dus best terughoudend geweest om hier geld voor beschikbaar te stellen. Waar denk je dat dat door komt? Hoe is het? Wat zou de oorzaak zijn van het achterblijven eigenlijk van onderzoek op dit gebied? Ja, ik denk dat we soms een beetje dubbel naar kijken, dus we vinden het best wel normaal eigenlijk formaanstudies te doen, dus met medicijnen eigenlijk trouwens. Nou, we zijn dat ook wel vaak hele grote formaa, zeg maar, die dat sponsered, dus je hebt ook best wel veel geld, maar dat vinden we eigenlijk al heel normaal, als hartstikke dat we dat wel heel lang doen. Ja. Maar als we dus samenwerken met tevreden, dan is het ineens best wel moeilijk, want dan vinden we dat ineens toch een beetje lastig en dan weet je niet te goed hoe er om mee om moet te gaan. En is die regelgeving misschien ook vaak wel eens wat, ja, wat lastiger of of wat minder, dan moet dat zeggen? Dus we hebben er een soort, ik denk wel zo'n soort dubbele blik naar, zeg maar, maar ik denk dat we daar dus toch van af moeten, want ja, dit gaat gewoon op ons afkomen en onder tussen worden bepaalde AI-toels, maar we kennen allemaal de app zeg maar die je dan mensen thuis kunnen gebruiken om een plekje hebt te beoordelen. Die worden natuurlijk altijd zorgverzeker als aangebouwd, zodat ze worden ermee geconfronteerd, maar ik denk dat ik allemaal heel graag weet hoe goed werkt het dan, maar moeten we het positioneeren allemaal best wel belangrijk vragen waar je dan toch wel antwoord op wilt krijgen. En stel dat je nu je financiering zou krijgen, wat zou dan het eerste project zijn waar je mee aan de slag zou willen gaan? Ja, ik heb zo gevoegd, weet je, maar waar ik het liefste wel wat mee wil doen en waar ik ook wel mee bezig ben omdat nu toch verder door te zetten, ook we hebben dan geen externe sponsor, is eigenlijk, dus ik probeer vooral te kijken waar kunnen we de grootste impact maken, kan ik gewoon door. Ja, want ik denk dat we hebben niet jullie allemaal. Oh, er is misschien buiten een ambulance die hoor, dat zou toch kunnen. Ja, ik hoor, jullie ervoor niet te gaan helpen. Nee, nee, nee, nee, ik hoop niet. Nee, wat we een afgelopen week is bijvoorbeeld een report uitgekomen van de, nou, dus de komt van alles, moet het ook wel uit maar het weten we ook wel over van IKNL, over de enorme stijging aan huidkanken patiënten en dat stijgt alleen maar door. Dus dat betekent dat we dat heel belangrijk is, dat we goed nadenken over naar hoe we AI tools bijvoorbeeld op dat soort vlakken in kunnen zetten. En dat kan heel leuk zijn, dat je een AI tool hebt die in de spreekkamer kunt gebruiken, dat je dat kan in, kunt indergeheren met bijvoorbeeld tot body photography, om nog beter en vroeger een bevolking meelen om te herkennen. Maar ik denk dat dat dat maar voor een kleine groep mensen patiënten van toepassingen is. Dus ik zit vooral te denken waar kan je het meeste impact maken en ik denk dat dat soms, ja, het interessant is om dus mensen buiten de zorg te houden, dus hoe kan je de zorg zo efficiënt mogen inrichten? Dat klinkt heel normaal, maar ik denk wel de realiteit als we naar de toekomst kijken. Dus ik zou heel graag een vertrouw willen doen waarbij we kijken of er de follow-up die we nu standen als der om te logen doen, dat we die steeds mee kunnen vervangen door AI. Dus kun je mensen met zo'n app wegsturen en eigenlijk de na-controllers vervangen door die app. En alleen als ze dan een hoog risico-beoorleding krijgen dat we ze dan terug zien, maar niet standaard meer, dus dat is het gecontroleerde opvolging. Dus niet dat je ze zo maar loslaat, dat je ze controleert of opvolgend een app en bij de minst of geringste verdenking dat je dat ze patiënt zo weer terug in het ziekenhuis is. Ja, en dat je niet zegt, ik kom over een hoofdje, maar we terugveel jaar, maar dat je dat dus als vervangen kunt gaan bieden en ik hoor van collega's ook heel vaak, dan ontslame patiënten, maar dan zit ze binnen een hoofdje zijn ze weer terug, want de huisart als ze nu plekken hebben zegt de huisarts, ja, je komt toch net van de dermatoloog, gaat toch maar gewoon weer even terug naar de dermatoloog, ja, en dit onderzoek gaat gestacht worden, of is dit iets wat er in de pijplein zit? Ja, dus nu wil ik dat er heel graag wel starten, dus hoopt dat we dat met meer recenter in Nederland kunnen doen en ik heb er meer de collega's gevraagd, die wil ook graag hier aan mee doen, maar dan zal het dus er vooral vanuit de dermatoloog eigenlijk gedragen worden dat we zo'n onderzoek doen en zullen dan meest sponsering krijgen van het bedrijf wel die de app aanlevert, maar ja, ik had natuurlijk heel graag een zonnend wee of iemand een soort partij mee aan boord gehad, want die soort onderzoek ook mee te sponseren, want het is natuurlijk geen klein project wat je handelt. We hopen ook dat een fons luisterd in deze aflevering en helemaal enthousiast. Want zie je, wij andere speciaal is met dat dan al wel gebeurt, of is dit eigenlijk een breder probleem als we het een probleem kunnen noemen, maar dat ze dit soort projecten niet sponseren? Ja, dat weet ik niet zo goed. Ik denk eigenlijk, maar misschien had de jullie daar in het gesprek net daar meer zicht op, maar ik denk dat er relatief weinig i.tools al echt zijn die de diagnostiek eigenlijk zo aanbieden en zo beschikbaar voor een patiënt. Dus wat je wel denk ik, wat meer gaat zien steeds meer is, i.tools die in de sprekamer er zijn, dus misschien een radioloog die wordt geholpen met wilde die binnenkomen, wat te loog. Dus dat wel, maar dan ben je nog steeds wel als arts, zeg maar in de lieden, krijg je wat steun van zo'n tool, maar dit is natuurlijk wel anders, wat dit kan je direct, eigenlijk wordt dit aan de patiënt aangeboden, of misschien niet één zal een patiënt, maar gewoon de leek, zeg maar nog. En nog eigenlijk, voor dat iemand eigenlijk patiënt is. En dat is eigenlijk iets wat, wat ik denk, waar nog niemand mee op andere velden nog, dat er nog geen hervaring mee is. Nee, ik denk ook dat je daar goed punt hebt en eigenlijk ook heel interessant dat onderzoekend, dat ze iets wat meerl ook aanhaald is, zodat de imaging, daar is AI ook heel goed in. Dus gewoon plaatjes vergelijken en daar een diagnose uit laten rollen, daar is AI onszettend goed in. En dat kan natuurlijk in daad op bij de huisort, of bij de patiënt zelf of in het ziekenhuis, maar waar ze jij dat AI verder nog grote impact kan hebben. Ik denk dat die administratie, dat dat misschien best wel is, je hoort altijd. In tirasmusumc, doen we ook mee aan een proef op dit vlak vanuit de dermatologie. En je hoort dat huisortje de meewerk, dus ik denk dat dat echt wel snel gaat. En in die diagnostiek denk ik dat dat ook best wel snel al de sprekenhuis in gaat komen. Maar als al het vooral ter ondersteuning zijn met bijvoorbeeld, als je dan een simmedermen de scope hebt bijvoorbeeld, die je dan adviezen gaat geven, ik denk dat dat best wel snel gaat komen. Dat vind ik wel heel hard. Dat vind ik wel echt heel snel. Wat ik merk is dat er toch nog heel wat band gauw leeft als het gaat om AI en dat heeft dan met name te maken met dat heel veel mensen nog het gevoel hebben, dat het zo'n black box is, heel ongrijdbare. Maar je hebt nu ook een soort nieuwe variant van AI, die noemen ze explenable AI. En dat is eigenlijk wat je benoemd dat je dus in plaats van iets invoert en je krijgt een uitkomst van dit is het, krijg je een hele onderbouwing. Dus zo'n damnedeskoop, dat is iets wat je helpt en de reacties neusjezeren van hij let hierop. We zien hier een overwieden nest of let hierop. We zien hier wat black dots en het wordt hier ook al echt onderzoek naar gedaan of is dit meer een idee van ja dat je denkt nou dit zou heel erg mooi zijn. Ja, dat is alleen maar weer op onderzoek slakt. Dus dat is nog niet echt in de praktijk gedaan. Maar er was recentelijk is dat wel een leuke publicatie over geweest en waar je dan ziet dat als je ervaren daar maar te logen. Dus je moet wel een zo wat ervaring hebben en je krijgt er bij de alpoed van een beordeling van een dermatocopiebeeld en je krijgt er bij inderdaad echt van, nou, hier zie ik een vrije. We hebben dat je aangezort inderdaad een beetje die uiterlijk van een plek boek krijgt. Van waarom vindt dat algerid met dit nauw voordat voor een medanomen. Dus je krijgt er inderdaad van, nou, hier vlieg je de pigmentnetwerk en dus als je dat soort dingen hebt dat dat voor juist mensen die veel ervaring hebben dat dat heel fijn werkt. En dat dat echt een van toevoeging is zeg maar aan een akkeratessen. Dus dat je daarmee echt verbeterd, maar dat is in die setting. Dus en maar wat je dan bijvoorbeeld ziet dat voor een huisart of voor iemand die nog wijn ervaring heeft moet je dat dus niet doen. Daar gaat daarvoor dat het niet toe. Dus daar is het prima om alleen te zeggen, het is zoveel procent kans dat het een meelanomen is. Of die billen de huisart hoorde ik bijvoorbeeld nog wel zeggen. Wij willen bijvoorbeeld graag dat een differential die een soort top drie komt bijvoorbeeld. Dus en voor een leek is het waarschijnlijk voldoen om alleen maar te zeggen, gaan er dockt erof niet. Ja. En dat je ze niet te neveus maakt. Dus je ziet dat het opschrijft, wat je zeg maar ook als oud moet leverd waar je zo na it al eigenlijk plaatst. Ja. En als we het dan over deze toepassing hebben, is dat dan hebben het dan over een aantal jaar waarin we dat denk je kunnen verwachten of over als we kijken naar vijf tot tien jaar, waar zijn we dan binnen de dermatologie? Ja, dan hebben we dat soort dingen echt wel want eigenlijk worden dit soort tools, worden op dit met echt al wel gevoerd, met allerlei foto's en er zijn best wel, er zijn hele grote internationale dermatoscopiek clubs, die hebben echt wel grote data sets. Dus dat word denk ik echt best wel snel, ja ik denk dat dat best wel snel al komt. En dan is het gewoon een tool die je er naast er recht in de spreekamer. Dus dat maakt het ook wel spannend, want als je dus ervaring hebt als klinisch en met dermatoscopie beelden, dan kan je daar natuurlijk prima zeggen van nou ik ben het er niet mee eens want dit is duidelijke verukesseerbroeika, weet je, die in die kenmerken dat het al gegetmaken wat. Ja. Maar wat als je dus minder ervaring hebt, dat is wel een hele spannende. Neem, want wat ga je dan doen kan je dat dan nog overrulen of je ziet ook, ik zag ook nu zo'n soort tool zit ook in een soort fast track voor de FDA in Amerika en dan werd het bij huisarts of plassische heur getoeg gepast, en toen dacht ik wel, misschien niet zo heel handig, want in hoe werken kunnen die nou zeg maar het al goed worden. Ja, dat is best wel weer, dat denk ik wel weer in uitdaging als je dan dat soort technologie hebt. Ja, en dat brengt al zo bij die moeilijke vraag, denk ik, van wie is het aanlijk dan vandwoordelijk als er in dit geval bijvoorbeeld een verkeerde inschatning gemaakt wil door AI. Of andersom kijk ik denk dat eigenlijk, het is zoals AI het in deze en begint van deze aflevering benoende. Want we hebben AI zelf ook even gevraagd hoe hij of zij zijn rol vindt, ik had zien in de komende vijf tot tien jaar. En daarin werd het uitgelegd, nou wij zien het als een navigatie system, waarin je dus wel een soort roete krijgt aangebouwd, maar je kan altijd afwijken. En dus als je dan een verkeerde roete neemt, wie is dan vandwoordelijk, ja, dan blijft dus uiteindelijk dus toch de achter, want woorden, ja, zie je dat ook zo, want ja, dat zijn ook mensen die dit toch wel anders inschatten. Ja, nee, dat zal echt zo zijn, dus wij zijn als arts echt nog vandwoordig blijven en dat zien ook bij de tools die toch in die apps voor de aangebouwders zitten ook een deel wordt ook beoordeeld door teelen daarom te logen, dus dat is ook nog een arts achter. Maar dit is wel juist het spannend vlak waar we opzitten, we doen er ook onderzoek mee in het erasmus met Institutive Medical Education and Research en waar we daar in kijk is, hoe kan je nou, hoe kunnen mensen en AI tools nou het beste samenwerken, want die samenwerking dat is waar we heen gaan. En je zult zien dat wij als artsen andere fouten maken dan zo'n AI tool maakt. Dus je moet kijken waar kan je van beide het optimale gebruiken en hoe kan je dus nou, die samenwerking het beste krijgen. En dat zal hem waarschijnlijk toch zitten in een soort van dat zo'n AI tool, de juiste feedback zeg maar geeft aan de gebruiker, zonder daar te veel onrust te geven, maar wel de gebruiker te ondersteunen. Nou ben benieuwd hoe je zich dat allemaal gaat ontwikkelen. Tot slot Marlies, hoe kunnen wij nou als arts-assistenten en daar met de loge bijdragen aan de ontwikkeling en implementatie van AI, kunnen wij daar nu al iets voor doen? Ja, nou ik hoorde jullie al, ik hoorde jullie al zeggen eigenlijk is het gewoon if you're not at the table your probably on the menu, gewoon, ja weester actief bij betrokken. Zorg dat we in zorg dat de tools die ontwikkeld worden dat wij die zinnig vinden. Zorg dat wij in de lietog zijn met het valideeren, want dat kan zo'n biotechbedrijf komen zeggen ja we hebben dat ontwikkeld, maar je wilt het toch in de praktijk toe. Dus zo'n rapport helpt er ook bij, ja dus neem het niet zomaar aan, proberen er toch kritisch over te zijn, de M4V bijvoorbeeld een commissie digitale dermatologie, ja dat kun je ook voor denken of je daar toch aan mee wilt deelnemen, ja ik denk dat soort dingen die we toch gewoon moeten blijven doen. Nou we gaan aan de slag, dank je wel Marlies voor de bijdragen aan deze aflevering, graag gedaan. En voor de luisteraars, dank voor het luisteren, in de show notes van deze aflevering veneer jullie nog de linkjes naar de verschillende referensies die we besproken hebben zoals de Europese AI Act, het rapport van zom en we over de toekomstbestendige zorg met AI en ook de linkjes naar de kennisavonden over AI van de FMS. Tot de volgende aflevering.