Hi-Tack im Mittelstand. Ihr Podcast für innovative Technologie. Hennen Sie das auch? Sie wissen noch, dass Sie das schon mal wussten. Aber Sie kommen gerade jetzt Partue nicht auf die richtige Antwort. Sie wissen auch, dass Sie schon mal wussten, wo es steht. Aber auch das haben Sie gerade überhaupt nicht parat. Dabei ist wissen doch ein so großer Wettbewerbsvorteil im unternehmerischen Alltag, aber ganz besonders auch in Krisen und in der digitalen und nachhaltigen Transformation. Doch wie findet hebt und bewahrt man die Wissenschätze in einem mittelständischen Unternehmen? Wie sorgt man dafür, dass das Wissen auch verfügbar ist, wenn es tatsächlich gebraucht wird? Und wie kann KI dabei helfen? Diese Fragen bespreche ich heute mit Katharina von der zweiten Tag GmbH. Hat sich willkommen Katharina. Hallo,ute. Vielen Dank für die Einladung. Katharina, was hat die zwei Tag GmbH mit KI und Wissenschments zu tun? Wir kommen aus der individuell Entwicklung. Das heißt, wir digitalisieren die Prozesse unserer Kunden sowohl interne Prozesse als auch Prozesse, die sich wiederum an deren Kunden richten. Und haben damit also schon immer in gewisser Weise auch mit Wissen und Informationen zu tun gehabt. Deswegen benutzen wir jetzt sehr sehr viel generative KI, um Prozesse zu automatisieren, aber eben auch um Wissen zu heben und besser verfügbar zu machen. Ja, das ist sehr spannend. Dann halten wir uns gar nicht lange mit der Vorrede auf. Der heute Zeit genommen hast für unsere Hörerinnen und Hörer. Ich bin Ute Juskuss und ich freue mich jetzt wie bolle, die Löcher an den Bauchfragen zu dürfen. Legen wir los. Wissensmanagement ist ja ein großes Wort und jedes Unternehmen versucht, Wissen zu erwerben, Wissen zu bewahren und auch das Wissen unter den Mitarbeitenden auszutauschen und weiterzugeben. Was sollte man dann überhaupt über Wissen wissen? Also ganz wichtig ist am Anfang tatsächlich sich zu vergegenwärtigen, dass Daten, Informationen und Wissen drei unterschiedliche Dinge sind. Die werden meistens so benutzt, also ob sie selber wäre, sind sie aber nicht. Es sind drei eng miteinander verbundenen Konzepte in unterschiedlich komplexen Verarbeitungsstufen. Also Daten sind rohe, unverarbeitete Fakten, Zahlen ohne Bedeutung und ohne Struktur, Texte, Symbole, die erstmal für sich stehen und noch gar keinen Sinn ergeben. Informationen entstehen dann, wenn ich diese Daten in einen bestimmten sementischen Kontext stelle, also in Sinn, Kontext und sie interpretiere und anreichere und dann können sie zur Entscheidungsfindung oder Problemlösung verwendet werden. Wissen ist noch eine Stufe weiter, das ist die Verarbeitung und Integration von Informationen durch den Verstand und der, diesen Wissen entsteht durch Erfahrungen auf Grundlage individueller Fachkompetenz und natürlich auch auf Grundlage persönlicher Überzeugungen, Werte, Weltbilder. Es ist komplex. Ah ja, das ist, das ist immer schon sehr beunruhigend, wenn einer sagt, das ist komplex. Ich habe gehört, es gibt ein Unterschied zwischen impzitem Wissen und heißt es andere explizites Wissen? Genau, genau. Das ist ein wichtiger Punkt, gerade wenn es um das Wissen in den Köpfen geht, also das Wissen, das Nürgens dokumentiert ist. Man kann das schon herausfinden und es gibt verschiedene Wege zum einen. Also man sollte sich die Prozesse anschauen im Unternehmen, und man sollte sich die Personen anschauen. Wie, also um herauszufinden, welche Prozess ist jetzt wirklich wichtig, welchen Prozess sollte ich dokumentieren? Das kann ich ganz gut daran erkennen, indem ich mir anschaue, wie oft wird dieser Prozess durchgeführt? Wie einfach ist dazu dokumentieren? Wie viele meiner Mitarbeitenden beherrschen diesen Prozess und die wichtigste Frage, wie stark sind die Auswirkungen auf das Unternehmen, wenn dieser Prozess gestört wird oder gar ausfällt? Kletisch ist es natürlich immer dann, wenn die Nicht-Ausführung dieses Prozesses mit einem, sagt man, zeitkritischen Existenzbedrohenden Schaden verbunden ist. Das können oft ganz, ganz banale Prozesse sein. Die müssen nicht unbedingt in der Kernwirtschaft liegen. Oft kann das ein Verarbeitungsschritt am Ende an der Produktionslinie sein, den drei Leute beherrschen, die alle krank sind und schon kann ich nicht ausliefern. Also es passiert sehr, sehr schnell. Wenn ich die Prozesse identifiziert habe, muss ich mir anschauen, wer sind meine Schlüsselpersonen? Wer hat das wissen, dass ich unbedingt rauskriegen will, dass ich unbedingt brauche? Und es gibt es ein paar Merkmale bei diesen Schlüsselpersonen. Oftmals sind sie in einer kritischen Position, sind man die Produktionsleitung oder machen Werkstoffentwicklung oder Materialwirtschaft. Und ich erkenne daran, dass sie wichtig sind, weil ich habe keinen Ersatz. Ich finde auch nicht so schnell einen Ersatz, weder intern noch auf dem Arbeitsmarkt. Oftmals haben diese miterbeitenden gerade, wenn sie schon länger im Unternehmen sind, ein exklusives Wissen und sehr spezialisiertes Wissen zum Unternehmen, zu dessen Kunden, zu Geschäftspartnern und natürlich auch zu Prozessen. Oft sind sie auch extrem gut vernetzt nach innen und aus. Und das sind die Personen, bei denen der Azubi gesagt bekommt. Da gehst mir hin den fragst du jetzt mal, der weiß das. Und neben der Fachkompetenzi, diese Personen, oder diese Personengruppe im Zweifel, haben die natürlich auch mal ganz ganz hohe soziale Kompetenzen. Es sind schon sehr, sehr besondere Schätzchen, die es da gibt und nicht immer weiß an Unternehmen das. Das ist auch das, wenn man noch nicht lange da ist, hat man keine Ahnung, dass es diese Person überhaupt gibt, weil man noch keine Belührungspunkte hatte. Aber sie sind da und sie sind ganz, ganz wichtig. Also auch diese Personen sollte man versuchen, ausfindig zu machen. Das wäre ja dann so ein ganz großes Tutum für einen neuen Chef, oder für einen Chef, der immer so das Gefühl hat, so irgendwas über sich. Ich weiß gar nicht, warum das funktioniert, obwohl es wichtig ist. Dann wäre das wahrscheinlich genau der Weg, sich auf die Suche nach solchen Personen zu machen. Absolut, absolut. Und gerade in Mittelstand haben die Leute ja nicht unbedingt diese klaren Rollenbezeichnungen. Die haben ja auf mehrere Hüte auf. Da ist der Produktionsleiter gleichzeitig noch der Digogistik-Manage oder der sich um den Service kümmert. Und durch diese verschiedene, diese Funktionsheifung wird es nochmal kompliziert. Aber andererseits ist natürlich auch der Vorteil, die kleinen Unternehmen ist das so schneller, finde ich diese Person auch. Wenn das jetzt so bei sich nicht 500, 600 Menschen sind, wird es schon schwieriger. Aber da habe ich dann auch wieder eine höhere Spezialisierung in aller Regel, die es wieder ein bisschen einfacher macht. Die Kleine des Internämen, dass du informerler sind, die Prozesse, das ist schwer. Dann die fest, weil die Prozesse ist jetzt wirklich wichtig. Aber um so einfacher ist es dann eine Person zu finden, die sich auskennt und mit dieser Person dann zu sagen, okay, wie sieht denn unsere Prozesse, unser gelebter Prozess aus? Lass uns das mal angucken und welches Wissen ist dafür notwendig. Ja, ich glaube, dass das jetzt gerade im demografischen Mandel, wo wo dann doch die Babybombapö in Rente gehen, sinnvolles unterfangen wäre, mal zu schauen, wie komme ich an das Wissen von den Babybomban ran und welcher von den Damen und Herren ist wirklich so wichtig, dass ich den mal ausquetschen muss. Aber wenn ich jetzt herausgefunden habe, wer was weiß und vor allen Dingen auch, wer was wirklich wichtig ist für mein Unternehmen weiß, anhand der Bewertung der Prozesse, welcher Prozess ist für unseren Schlüsselprozess, wer es vielleicht auch wirklich überlebensentscheiden, dass es immer funktioniert und wer spielt dann Rolle, wo er viel Wissen in seiner Person bündet, dann ist ja die Frage, wie bekomme ich das Wissen aus, dieser Person heraus und wie kann ich es im Unternehmen aufbewahren, so dass auch andere Personen neue Mitarbeiter, die den Job dann übernehmen soll, von diesem Wissen profitieren? Wie würde das funktionieren? Das ist tatsächlich auch nicht ganz einfach. Natürlich habe ich Dinge, die dokumentiert sind. Ich habe im Idealfall eine Prozessbeschreibung oder eine Verfahrensbeschreiben, wobei, wenn man danach fragt, in Unternehmen, offiziehn, die überall hat. Also es hat dann halt jemand vor zehn Jahren mal was aufgeschrieben, was aber den aktuellen Prozess gar nicht mehr abbildet, weil es eine neue Maschine gibt, eine neue Software, generell neue Prozesse, neue Rollen. Also diese Prozessen Verfahrensbeschreibung, die bereits existieren, sind nicht unbedingt zuverlässig und entsprechend. Es ist auch nicht immer sinnvoll, jemanden zu zwingen, die zu aktualisieren. Kann man machen, aber das ist die eine Sache. Das ist so Prozesswissen für, also jetzt möchte ich ein Urlaubsantrag nass, ein Klassiker. Ich komme in der Nutternehmen und denke, ich will jetzt gerne Urlaubsbeantragen. Wie mache ich das? Es ist kein niemand da, den ich fragen kann, dann gucke ich im Unternehmen ins Wiki und Google sozusagen im Wiki Urlaubsantrag und im Idealfall finde ich was, aber die Software, in der ich den Antrag stellen, die gibt es schon gar nicht mehr, zum Beispiel. So, das ist dann ein Wissen, das überalte, wird wie ich neues Wissen oder Wissen erstens erfasse und zweitens aktuell halte. Das ist natürlich noch nicht real und auch ein bisschen komplex vielleicht. Ich muss mir anschauen, was gibt es schon als Dokumentation. Also gerade jetzt, wenn ich über über Maschinen spreche, es gibt interägende Betriebsdokumentation, es gibt Service, also in Wartungsbeschreibungen, Service, Manuals, Handbücher. Im Idealfall habe ich vielleicht, wenn ich in der Maschine betreibe, auch die Möglichkeit über einen QR-Code direkt auf die aktuellsten Informationen zu dieser Maschine zurückzugreifen, das gibt es mittlerweile durchaus. Aber das ist auch wissen, dass mir extern zur Verfügung gestellt wird. Wenn es es darum geht, wie bediene ich eine Maschine? Und das habe ich berüstet, ich diese Maschine, die ist jetzt neu oder relativ neu und es Das ist ein genaues zwei Leute, wie man die rüstet.
bin ich eigentlich schon ein Bereich des impliziten Wissens, weil natürlich kann ich beschreiben, sozusagen, ja, und muss das Werkzeug rausnehmen und das neue Werkzeug einlegen und du musst die Maschine einstellen und ein Testlauf durchführen. Das kann ich alles jemandem erklären. Aber wenn jemand das noch nie gemacht hat, dann ist das natürlich schwer. Und in den früher oder halber sie geht es heute auch noch, hatte ich natürlich jemanden, bei dem ich einfach mitgelaufen bin als Azubi. Weil ich mit Meister in der Produktion, okay, hier, schau so, machst du das, jetzt machst du mal selber und hab das sozusagen "On the Job" gelernt und da hat er mir dann auch gesagt, ja, nur musst die Hand so halten, dann geht es besser. Das sind alles Dinge, die ich ganz, ganz schlecht verschriftlichen kann. So, das kann nicht auf Videotheoretische aufnehmen. Das ist eine Möglichkeit, was ich machen kann, ist, dass ich jemanden mitlaufen lasse und um das Wissen dann eben dauerhaft zu erhalten, unternehmen, den Meister, ich glaube, das bei dem Meister, erzählen lasse und da bemehrere Durchläufe mache ich, vielleicht in ganz normalen Durchlauf, wie rüst ich diese Maschine, da mache ich noch mal einen Durchlauf, worauf muss ich den achten und aus diesen, das kann ich Speed to Text machen. Ich nehme das Ganze auf, generiere einen Transkript. Das bereinige ich, gebe es der betreffenden Person, dem Fachmann und sag, schau bitte mal drauf, stimmt das alles so, habe ich irgendwas vergessen. Und das kann schon mal ein ganz gute Ansatz sein, um daraus beispielsweise eine Prozessanleitung zu generieren mit generativer KI. Ich kann jetzt also in Ansprachmodelle reinwerfen und sagen, bitte fassen wir das zusammen oder erstellen wir daraus. Bullet Points, das ich sehe, in welche reinfolge ich die Dinge machen muss, worauf ich achten soll, dass das kann generative KI leisten und das ist in sofern im Wissensmanagement wirklich eine grießen Spur. Das sehe ich auch, das ist super praktisch, wenn man den Meister nicht dazu zwingt, aufzuschreiben wie das macht. Ich habe letztens eine Anleitung geschrieben für das Anlegen von QR-Quots, aber nicht jeder versteht das oder für das Auslesen von podcasthörenden Zahlen auf der podcastplattform. Das ist was, da guckt man dann immer drauf und dann denkt man ja ja, aber irgendwie, wenn ich dann jetzt doch in der Plattform und dann gucke ich mich einmal um und so ist es wahrscheinlich auch auf der Maschine. Und wenn ich jetzt einer beschreibwischen Accord auf ein Klavierspiele gehört, ganz auf. Das ist genau, ja, das wehnt aber trotzdem spannend, dass man jetzt trotzdem mit der KI zumindest machen kann, dass man es beschreibt und das dann vielleicht auf der Meister sagen kann. Also wenn es da gerade klemmt, dann zieh mal an dem Hebel dort oder klopfen wir mit dem Knie dagegen und dann geht es auch wieder in der Hoffnung, dass die KI das dann auch versteht, dass die KI für die Geltersformation ist. Das ist das Ding. Also das ist ein ganz wesentlicher Punkt, der gerne vergessen wird, weil wie so häufig glaubt man jetzt mit der generativen KI an ein Heilmittel gefunden zu haben und sie ist wie alle technologischen Neuerungen sehr sehr nützlich, aber ich muss sie natürlich auch bedienen können. Das heißt, ich kann auf gar keinen Fall beispielsweise, jetzt eben dieses Gespräch mit dem Meister reinwerfen, sagen, mach mir was daraus und das dann einfach ungeprüft einem neuen Mitarbeiter geben. Das wäre vollkommen verrückt, weil der werden Fehler drin sein, die die generativer KI kennt nicht alle Wörter, die der Meister verwendet, der drückt sich ja natürlich ganz anders aus, als ich es in Schriftsprache tun würde. Der setzt vielleicht auch einen Wissen voraus, dass ich als Mitarbeiter gar nicht habe, weil ich eben kein ausgebildeter Techniker bin, sondern ein Quereinstall, vielleicht sogar jemand, dessen Muttersprache nicht deutsch ist und das ist ja die Reaktion im Unternehmen und das ist der Punkt, wo wir sehen, das wird vergessen. Man glaubt jetzt eine to Neutächologie von zusammen, mit der man alles lösen kann und das ist auch nicht falsch, nur die Zielgruppe, die Zielgruppe, für die das Wissen erfasst wird, die muss unbedingt eingebunden werden, während dieses Prozesses und da muss ich überlegen, wie brauchen die es denn brauchen, die einen Audioguyde, in welcher Sprache sollte ich das machen, wie fachsprachlich werde ich, denn wenn du eine Anleitung schreibst, dann ist das ja auch Hochsprache. Wenn jetzt jemand nicht gerne ließ, nicht viel, ist gerne deutsch nicht seine Muttersprache, dann tut er sich schwer, das umsetzen zu können und abgesehen darf man das, die man von uns gerne schreibt, ich werde den Meister nie dazu kriegen, dass er etwas nie da schreibt, dazu hat er gar keine Lust, niemand von uns hat dazu Lust, nicht mal die Menschen, die sich viel mit Sprache beschäftigen, die Zielgruppe ist wirklich, wirklich entscheidend, denn ich muss er davon ausgehen, dass ich mich in unterschiedlichen Referenz, Rahmen, bewegen, wenn ich jetzt komplett technisch unbeleckt bin, gar keine Ahnung habe, das erste mal in meinem Leben in einer Maschine, alle stehe, um Bauchler zu stauen, es ist ja für mich wie Sendung mit der Maus und dann sagt er, er nimmt mir das Werkzeug raus, dann fange ich an einem Hammer zu schauen, weil ich nicht verstanden habe, dass er das Stanzwerkzeug meint. Ja, also auch die Briffe, die verwendet werden, das muss klar sein, was die bedeuten, also und das ist der Teil der vergessen wird, auch schon früher vergessen wurde, als man noch mit SharePoint meinte, alles erschlagen zu können oder auf die ersten semantischen Modelle auf den Markt kamen oder semantische Suche möglich war, für um 14 Jahren, und die Zielgruppe ist entscheidend und die müssen die Unternehmen wirklich wirklich in Blick haben, das heißt die Person, die den Wissensträger oder die Wissensträger in Interview, muss im Grunde so fragen, als wäre ich 5 Jahre alt, die doch mal genau das nicht weiß. Genau das mache ich jetzt auch, es ist das glaube ich, genau die Stelle mal zu gucken, was genau macht denn so die KI eigentlich, damit ich auch beurteilen kann, was ich erwarten kann quasi als Leistung, ja, wenn ich also jetzt bestimmt das Wissen irgendwo habe, aufgeschrieben oder eingesprochen, was macht die KI damit und wie macht die das bitte wirklich auch für 5 Jahreige, ich bin wirklich keine Experten beim Thema KI. Also künstliche Intelligenz, der Begriff ist ja o-alt und spätestens der Konferenz von Daten aus in den 50er Jahren, dann hatten es aber, okay, wenn wir im Ächtnisystem entwickeln, die aus die Lernen, wie Menschen lernen und mittlerweile haben die Rechner, die Rechen stärker um das zu tun und wir haben auch genügend Daten um diese Modelle zu trainieren, das ist wirklich sehr sehr sehr sehr einfach. Sprachmodelle, die jetzt für großen Aufruhr gesorgt haben, sprich die meisten Menschen kennen natürlich ChatGPT, dann gibt es aber auch noch Claude, es gibt perplexity. Diese ganzen Modelle haben einfach einmal das Internet leer gesorgt, ohne die Leute vorher zu fragen, die Diskussion, die das ganze Thema Ohi berecht ist ja noch nicht abgeschlossen und haben aus diesen ganzen Daten und es sind natürlich sehr sehr sehr viele Texte in allen möglichen Sprachen, damit gelernt und was das Team tut, also erstmal ganz ganz einfach, es überlegt welches Wort, welche Wörter finde ich normalerweise zusammen Gruppe, das wirklich rein ist Statistik, wenn ich beispielsweise das System frage im System sage, erstellen wir doch mal ein Konzept für einen Workshop über fünster Intelligenz, dann sagt ChatGPT ja klar, mache ich sehr gerne, also sie sind auch mal sehr sehr viel dieses System und das ist ganz sehr klich, aber es ist natürlich, also äußerst zuvor kommen, das ist unheimlich. Ja, das habe ich ja schon woachtet. Ganz ganz gruselig, aber selbstverständlich mache ich doch sehr sehr gerne für dich und dann bekommt man ein Konzept, das durchaus brauchbar ist, weil es einfach in den ganzen Daten setzen, die es hat in den ganzen Texten, mit denen es trainiert wurde, guckt okay, kündigant Workshop, was sind da so die Themen, welche Begriffe, welche Textbausteine kommen in diesem Umfeld besonders häufig vor. Es ist sehr sehr generisch, was wir immer wieder in den Tagen intern ist, dass diese Sprachmodelle die menschliche Mittelmäßigkeit auf eine verstörende Art und Weise bilden, weil sie werfen genau das Ausmittelmaß, also das was halt generisch ist, was nicht besonders anspruchsvoll ist, was man das mit dem Bisschen-Bugeln samt. Also das war die Mai zu dem Thema kombinieren, das wirft dann auch das Sprachmodelle aus. Genau, das ist ja durchaus ausreichend, also ganz häufig für gerade für erste Ideen. Man sagt, ich möchte, ich habe hier dann Thema, wenn du beispielsweise sagst, ich habe ein Pop-Cars-Thema zu dem ich, da habe ich das krieg ich dann nicht so richtig gegriffen. Ich habe eine ungefährer Ahnung, in welche Richtung es gehen könnte. Und das sagste, model bitte nenne mir fünf wesentliche Punkte zu diesem Thema. Würst du wahrscheinlich ganz passable Ergebnisse bekommen. Sehr wahrscheinlich. Die Krocks liegt darin, ich muss die Qualität beurteilen können. Verdammt, das ist anders. Wenn ich jetzt, ich habe hier auch mal aus Spaß eine Anfrage zu Astrophysik eingesetzt. Und das sind dann die großen Neuerungen in der Astrophysik in den letzten 20 Jahren. Da habe ich eine Antwort bekommen, ich hätte niemals sagen können, ob das stimmt. Natürlich nicht, ich bin keine Experte. Ich habe das dann überprüft, die drei Dinge, die es mir genannt hat. Das hat auch gestimmt. Das hat einmal Wikipedia durchsucht. Wikipedia ist für uns alle eine ganz wertvolle Quelle. Aber genau, wenn du das nicht beurteilen kannst, ob das jetzt richtig sein könnte, dann sollte man es nicht machen, dann ist es einfach gefährlich. Das heißt ja aber auch fürs Wissensmanagement im Unternehmen. Wenn man eine generative KI ein Sprachmodell an seine Arbeitsanweisungen, Tätigkeitsbeschreibungen und andere lernen, unterlagen, ranlässt, um die entsprechenden anzupassen, zum Beispiel für neue Mitarbeiter in Lehrlingssprache zu übertragen. Da muss man ja genauso gucken, was ist da überhaupt reingegangen?
Und passt es dann auch in KI damit fertig ist. Also tatsächlich das ist ein bisschen, das ist das schöne das kann ich besser eingrenzen. Churchill GPT immer wenn Ansprachmodell auf Internet zurückkraft oder eben auch seine Trainingsdaten das kann ich teilweise auch justieren. Also wir haben damit keine Anwendung mit der kann ich, dass die kann ich nutzen als Modell mit dem Wissen, dass eben mit dem Trainingsdaten kann aber auch sagen hier, die bis Modell bitte geht auch meins Interneten, schaut da mal. Da habe ich keine Kontrolle und da ist die Qualität schwer zu beurteilen, was sich aber machen kann als Unternehmen. Das machen wir jetzt gerade sehr viel, weil das natürlich, wie du völlig richtig sagst, das ist der Teil der mich interessiert. Ich habe die Möglichkeit, Dokumente beispielsweise aus dem Bereich Forschung und Entwicklung oder aus dem Bereich Kunden Spezifikation. Diese Dokumente zu mir anzusehen, also das Modell kann die sich ansehen und kann die jetzt nicht nur nach statistischen Werten klasten. Also ich spreche es such, woher diese Begriff besonders häufig vorkommt, sondern kann ein bisschen intelligente damit umgehen. Das ganze nennt sich retrieval-augumente-generation. Das ist also ein Softwaresystem, das die Informationsausgabe oder die Informationssuche mit einem Sprachmodell kombiniert. Das heißt, die Abfrage, die ich jetzt im System stelle, greift auf Informationsausgabe, wenn ich das möchte oder aber auch nur auf internen Quellen. Das erhöht die Genauigkeit der Inhalte und da ist aber auch eine Technologie dahinter. Diese Daten, ich weiß ja welche Daten ich benutzen möchte, werden in einem ersten Schritt zu Wort ein Bettungen umgewandelt und eine Wektor-Datenbank indexiert. Also das ist mir wird geguckt, wo die gehören irgendwie zusammen und das ist eine ganz grobe Sortierung. Dann werden die Sucheinfragen auch in einer Wortanbettung umgewandelt. Der interessante Teil kommt dann mehrere Schritte bei der Antwortgenerierung. Beziehungsweise ist eigentlich schon vorher im Grunde, ich verimperrass, dass ich das mit dem Weg umgewandelt habe, dann kann ich das mit dem Weg umgewandelt werden. Ich habe das mit dem Weg umgewandelt, das ist eine ganz grobe Sortierung. Das ist eine ganz grobe Sortierung. Das ist vorkam richtig. Und das stimmt meistens auch in etwa manchmal kriegt man natürlich totalen Mumpiz heraus. Aber jetzt mit dieser Technologie, mit dieser Retrieval-Ogmented Generation oder Rack, da habe ich die Möglichkeit, beim Datenabruf zu ermitteln, welche Daten in der Wektor-Datenbank, mit der Abfrage des Suchers semantisch korrelieren. Und das ist der große Unterschied, nicht nur statistik, sondern semantik. Ein schönes Beispiel ist bei einem Kunden von uns. Der gibt es zu ganz viele Interenter- und Protest-Daten und Vorschriften, wie man sich zu verhalten hat. Und dort kann ich jetzt als Mitarbeiterin fragen, das Sprachmutter darf ich im Rechenzentrum frühstücken. So, mir gins, mir gins, in diesen ganzen Daten steht das Wort frühstücken. Aber das System Again-Eier frühstücken, deshalb was mit Essen zu tun, Essen im Rechenzentrum leh ist verboten und sagt dann nein, Essen und Trinken ist verboten im Rechenzentrum. Das ist dann die gementische Korrelation, wo ich eben nicht nur nach statistischen, nach statistischen Häufigkeiten schaue, sondern wirklich das Ganze in einen Sinnkontextstelle. Das ist nicht trivial natürlich, also da hat auch ein Moment, bis man was gemacht hat. Aber der Vorteil ist, dass man wirklich, wirklich gute Antworten bekommt. Und was auch sehr, sehr schön ist, man bekommt die Quelle mit angezeigt. Ja. Das heißt, ich krieg dann im Prinzip so eine URL ausgeworfen und dann sagt er, "Okay, das steht hier in dem Da und Da und Dort handeln auch nochmal nachstauen, ob das jetzt noch stimmt und nachlesen." Und das ist natürlich sehr, sehr praktisch. Ja, wenn die Quelle dann von 1960 ist, könnte ich vermuten, dass ich da was er in der Tat war. Genau. Und hoffentlich bin die, ich die Quelle von 1960 gar nicht erst mit an. Ich habe einschmal gemacht, das auch Sinn. Ja, beierstes machen die Säure sonst passiert das Ungeheure. Das ist noch älter als 1960, das ist heute jeden Chemieler, wo an der Wand stehen. Du bist ja krimikerin. Du bist trotzdem gerne mal vergessen, aber ja, man kann dann natürlich auch gut bewerten, wenn die Quelle dran steht, wie gut passt die Antwort auch zu meiner Frage. Genau, ja, spannend. Das ist also, ich habe dann eine Kontrollmöglichkeit und ich kann eben wirklich sagen, bitte schauen nur dort. Nee, nicht im Internet, das ist im Niveaus, was da steht. Schau bitte nur bei den Unternehmensinternen Daten und das ist ein Prozess. Und es gibt es dafür schon so ein paar Produktlösungen, die aber wie bei wir die meisten Produkte einfach über einen hohen, an passungsaufwand mit sich bringen, zwangsläufig. Ja. Und es ist immer noch eine relativ neue Technologie, einfach mit der viele auch sehr, sehr vorsichtig sind aus Datenschutzgründen auch völlig zurecht. Und was wir auch merken, ist in den meisten Unternehmen hat schon jeder Mal mit Chatchipiti gespielt, die IT will das in der Regel nicht aus guten Grund. Weil sie sagt, diese sind Daten, wenn wir hier prägen, sensible Daten einwürfs, die wandeln in die USA und wir wissen nicht, was damit passiert und die werden am Ende auch noch zu Trainingswecken verwendet. Das möchte natürlich niemand. Dafür gibt es Lösungen. Aber das ist jetzt möglich zu machen für Unternehmen und eben diesen ganz, ganz konkreten Anwendungsfalls haben, super auf. Du brauchst es nicht mehr, dich durch den SharePoint zu klicken oder fettig Leute zu fragen, wie das es mit dem Urlauchseintrag ist oder wie du dir in die Anleut und kriegst oder wo die Betriebsdokumentation. So, du kannst einfach das Sprachmodell fragen, das ist schon an Riesenhebel, weil wir das jetzt merken, ist so, Chatchipiti die Leute wissen eigentlich gar nicht so richtig, wofür sie es anwenden sollen im Alltag. Wenn ich es in der Buch halten, sehr, okay, zum Rechen, aber da habe ich schon meine Programme ganz ehrlich, da hilft es mir nicht. Normargeting wird so als typische Anwendung gesehen, dass man sich jetzt eben Blockartikel schreiben lassen kann und die müssen es auch nicht schlecht sein, aber das Ganze, das hat natürlich Grenzen und ich glaube je stärker oder je näher ich an der Wertschöpfung des Unternehmens bin mit diesen Anwendungen, desto wird es auch angenommen von den Mitarbeitenden. Ja, aber lass uns mal genau gucken, wenn ich jetzt hier im Unternehmer wäre und sage, ja, es ist doch spannend, das würde ich gerne haben. Das macht bestimmt die Welt viel besser im meinem Unternehmen. Da ist ja erstmal die Frage, unter welchen Voraussetzungen macht es für den Unternehmer überhaupt Sinn, das zu machen, also was muss der vielleicht mitbringen oder was muss der vorbereiten? Und wie kommt der dann daran? Genau, also sinnvoll ist es also kleine Schritte, immer kleine kleine kleine Schritte, keine großen Softwareprojekte aufsetzen, das ist schon für 25 Jahre, nur sehr schlecht funktioniert. Wichtig ist, erstmal das kann ich allein machen als Unternehmen, manchmal weiß ich auch schon, wo meine Lücken sind oder ich kann das mit einem externen Zusammenmachen zum Glück. Wo habe ich denn an ganz, ganz konkreten Bedarf, um jetzt zurück zu kommen zu den Kern diesen wichtigen Prozessen oder den wichtigen Personen und wo du sprachst von den Babybuben, die jetzt in großer Zahl, in sehr, sehr kurzer Zeit ist, in den Ruhestand gehen werden, wo scheiden in den nächsten zwei bis drei Jahren Mitarbeiter aus die ganz, ganz wichtiges Wissen haben und wie ich dir das festgehalten. Das kann eine erste Ansatz sein und dann sollte man sich in einem Bereich nehmen, der abkanzbar ist, ist mit dieser low hanging food, von dem man immer spricht, der ist schon sehr viel dran, es muss einfach sein, es muss für die Mitarbeiter dann angenehren sein, ich muss wissen, wer meine Zielgruppe ist. Wenn ich meine Problemstelle ein bisschen eingegrenzt habe mit oder ohne externe Hilfe, sollte ich mir jemanden an Bord holen, der das Zeichen wo gewisse mit bringt, aber auch das mit totische Wissen um das Wissen zu erfassen, weil das ist der Teil, den wir jetzt immer wieder beobachten, man wirft wieder technologie drauf und man löst aber das Problem nicht. Das heißt, ich habe am Ende einen SharePoint auf Speed, aber ich habe nicht wirklich das implizite Wissen erfasst, es fehlt mir immer noch, weil da ist keine stammelprozess, gibt es auch das Problem. Das heißt, man muss zwei Dinge machen, man muss einerseits gucken, in welchem Bereich habe ich jetzt gerade so wichtiges Wissen zu erfassen und zu übertragen, dann muss man sich überlegen, wie kann man das erfassen und in welcher Form auch übertragen. Und nur dazu als Werkzeug, also als Zange oder Hammer kommt dann eben auch eine generative KI mit dem, wie heißt die Technologie noch mal? Ragt, ragt, ragt, genau, das muss man bei Gelegenheit noch mal aufschreiben, damit die dann eben auch diese semantische Verknüpfung macht, damit dieses Sprachmodell nicht so doof ist wie ChatGPT, wenn ich das mal platt ausdrücken. Das sind wir nutzen ChatGPT, die Modell ist in die gleichen, aber ich gebe Ihnen, ich gebe Ihnen impziten bisschen mehr Werkzeug an die Hand. Also ich gebe ChatGPT, wenn ich jetzt ChatGPT nutzen möchte, also da GPT4O, gebe ich dem einfachen, wie soll ich an Schärferes Werkzeugen sagen, hier, da ist nicht nur statistisch, ich gebe den noch ein bisschen was dazu, dass du das so besser suchen kannst. Die Modelle bleiben dumm, aber ein bisschen weniger dumm. Ja, genau. Ja. Diese Wissensbereich ist identifiziell, das ist wirklich der schwerste Schritt und die Unternehmen wissen, dass sie sich dafür Zeit nehmen sollten, wissen aber auch nicht, wie sie anfangen und auf ganz wirklich ein Astros Gesprächsland mit dem mit, aber eben auch mit den Leuten, die das Wissen übernehmen sollen. Und das ist, wie ich vorhin beschrieben habe, die Situation, ich habe nicht mehr die gleiche Menge an möglichen Menschen, die diesen Job übernehmen können von der Person der ausscheidet. Und ich habe sie auch nicht unbedingt in der gleichen Qualifikation stufe. Ich habe vielleicht, wir haben ganz viele Unternehmen, die angefangen haben, mit Geflüchteten zu arbeiten, die total qualifiziell sind, aber natürlich jetzt nicht den IHK Abschluss, in ich weiß nicht, was gemacht haben oder ein HWK Abschluss, die angelehrt wurden. Und ich muss es ja für die Zielgruppe korrekt aufbereiten und das ist die große, die große Herausforderung, dass ich das wissen, so aufbereiten muss.
dass es eben der oder die besagte fünfjährige, oder sagen wir zwölfjährige, gut verstehen kann. Und in Griffe sind wichtig, in welcher Wörter benutze ich. Also es ist ein wirklich, ich bin in Sprachfissenschaft daran für mich, dass das dann gefunden ist, vergessen. Ja, ich glaube, das spielt wirklich eine ganz, ganz große Rolle. Wir haben das Thema Arbeitsanweisung, beispielsweise die einfach, die nicht zu verstehen, sie weil sie in einem verquastnüristendurch abgefasst sind. Solche Dinge, das muss man alles berücksichtigen. Und dieses, da tun sich die Deutschen generell sehr schwer verschriftliches, also so zu verschriftlichen, dass man es leicht versteht. Das kennst du noch aus dem Studium. Ich auch. Und bedingt ja. Die deutschen wissenschaftlichen Texte waren immer darauf angelegt, nicht verstanden zu werden. Da taten sich die Andersachsen immer leichter. Ja, und da waren das. Das ist ein gutes Diskriminierungskriterium für einen klugen Wissenschaftler, dass er das Zeug, was er da geschrieben hat, hoffentlich verstanden hat. Aber das ist ja im Unternehmen völlig kontraproduktiv. Genau. Genau. Und das ist, aber das wird oft nicht verstanden. Und die Leute denken auch gar nicht daran. Da habe ich da jemanden in der Konstruktion, an wirklich einen gestandenen Engineer, der sein Zeug wirklich, wirklich gut beherrscht. Der sein Wissen niederschreibt, ja, sich die Mühe macht, das gibt es. Aber die Art und Weise, wer es niedergeschrieben hat, macht es für jemanden, der nicht über dieses Wissen verfügt, über diese Fehlentag rund wissen, dass er mit, der versteht es schlichten einfach nicht. Ja. Das ist so dieses, das ist noch, wir gehen ja immer von uns selbst aus und ich weiß nicht, du kennst das bestimmt auch, man erfährt über etwas Neues und dann denkt, oh Gott, dass ich das nicht wusste, er landen, wussten das bestimmt schon immer. Und das, das ist natürlich, das stimmt natürlich nicht. Der Engineer denkt ja, das weiß doch, ey, jeder, weil ich das weiß, das, natürlich weiß es ja zu gehen. Und natürlich weiß es, der Herrmann oder die Sandra, die wissen die das. Genau, es ist aber wieder bei erstes Wasser dann die Sohre. Wer weiß das? Genau, ne? Ich gerne mal heißes Wasser in den Urreiniger. Das kann ganz schön warm werden. Ist es gut, dass du mir das sagst? Ja. Ja. Also in kleinen Schritten anfangen schnelle Erfolge auch für das Team. Und hier sind die, die wichtigsten Personen sind die handelnden Personen, sprich die Menschen, die das Wissen haben und die Menschen, die sich das wissen aneignen sollen. Das sind, das sind die mit denen man zusammen machen muss, nicht über sie hinweg. Und wie immer, ja, je näher ich an den Menschen bin, dass du höher ist dann die Akzeptanz und desto besser das Ergebnis. Ja, aber ich finde das auch gerade sehr beruhigend für den Unternehmer oder die Unternehmerin. Es muss kein, ich erfasse das Ganze zum Unternehmen und alle Prozesse und auch der Wohlaufsantrag muss über die KI laufen, muss ja gar nicht, sondern tatsächlich nur essenzielle Schlüsselprozesse, wo es wirklich sinnvoll ist, sich da die technische Unterstützung durch die KI zu holen. Da kann man ganz quadratisch praktische Prozesse draus machen. Und dann ist das vielleicht ja auch nicht so ein Klopper und so ein Energieschlucker, die KI die da läuft. Absolut, absolut. Das ist das, das ist tatsächlich genau, also ne, ne, eine KI und Energieverbrauch. Das ist noch ein Thema für sich tatsächlich. Aber in der Tat, ich nehme das, was am meisten nutzen bringt. Und wenn ich jetzt an Unternehmer bin oder an Unternehmerin die 300 Menschen beschäftigt und jetzt da drei Kernprozesse ausgemacht hat, das sind die wichtigsten Prozesse, wenn die nicht durchgeführt werden können, kann ich nicht liefern oder nicht bezahlen. Ja, also das passiert. Ja, aber nicht bezahlen ist auch sehr schlimm. Nicht bezahlen ist irgendwie auch sehr sehr um praktisch. Dann konzentriere ich mich darauf und holi mir die Leute an Bord und macht das. Und wirklich immer, immer, immer klein anfangen, überschaubare Schritte. Die Leute nicht überfordern, die Organisation nicht überfordern. Es ist ein Prinzip. Ja, Change, man ist auch so ein durchgenutelter Begriff, aber der ist ja sehr, sehr sinnvoll. Letzten, es ist wie bei jedes Softwareprojekt oder jedes IT-Projekt wie ein Change. Wenn ich die Leute nicht einbinde, wird es halt nix, ne? Macht Betroffene zu beteiligten und so weiter. Das ist das so wie wir uns sehr reinsetzen, wirklich. Ja, ich würde ganz gerne noch mal kurz auf die Technik gucken. Wenn ich jetzt unternehmer bin, frage ich mich ja auch, wie viel Geld muss ich in die Hand nehmen, nicht nur damit ihr mir so ein System einrichtet, sondern ich brauche auch der Hardware. Auf was oder Hardware läuft, das was ihr da macht. Man kann ja mit diesem Produkt, das eben auch verschiedene Sprachmodelle zugreifen kann. Das läuft in einer ganz normalen Microsoft Cloud. Das heißt, das war ich schon ab, in die meisten Unternehmen haben, mit meiner Microsoft 365 im Einsatz, das läuft mehr Cloud, auf einer Merge enthennen. Das ist, kann ich da einfach nutzen. Also die Infrastruktur, die ich habe, kann ich so wie sie ist verwende. Ich muss mir keine neuen Rechner kaufen und gar nichts. Das läuft alles auf den Serven, die ich ohnehin bereits nutze als Unternehmen. Und für ja die Kosten, das kommt halt darauf an. Also diese Basisversion jetzt, so geht es dafür, das an Sprachmodell, die es GVO konform läuft. Das sind vielleicht ein paar Hundert, das weiß ich nicht, ein paar Tausend Euro im Monat. Das kommt so drauf an. Und wenn ich jetzt noch zusätzliche Dinge will, sagt, okay, ich möchte jetzt noch einmal einen kompletten, mein komplettes Unternehmensviki angeschlossen haben. Ich möchte mein ERP angeschlossen haben. Dann geht es natürlich nach Aufwand, wie immer. Dann schaut man sich schon wie oder ob genau wie alle anderen Dienstleister, sich an, okay, wie hoch sind die vermutlich aufwenden, wie viele Dokumente, in welcher Form liegen die vor. Dann kann man das erst sagen, aber so eine Basisversion, so, okay, ich möchte an Sprachmodell, erst an Sprachmodell, das, das ich mir keine Gedanken muss, dass meine Mitarbeiter dann Churchill die Fragen stellen und Unternehmensdaten sonst wohin wandern. Allein so ein GVO konformer Version ist jetzt eine günstige Geschichte. Und da kann ich natürlich auch schon PDFs hochladen und sagen, bitte fast alles zusammen. Das geht da auch schon eine Anbindung, dann wirklich die dann sofort die Sachen aus der Datenbank zieht es natürlich ein bisschen komplizierter. Aber so ist das mal noch nicht so riesiges. Ja, das ist cool, weil dann ist es ja wirklich auch ein kleineres Softwareprojekt. Das ist halt ein bisschen gebrannt. Das Kind, wir haben letztend die letzten zwei Jahre eine App entwickelt, zwei Jahre, kleine App. Das hat halt ein bisschen gedauert bei uns. Es ist auch immer schwierig mit der Vergabe. Wir sind ja öffentlicher Dienst. Deswegen kriege ich selbst schon bei Kleins Softwareprojekt immer ein bisschen rote Ohren. Das kann ich verstehen. Aber das ist ja eine Größenordnung. Und wenn man also keine Sorge haben muss, dass man sich jetzt für die KI in Rechenzentrum bauen muss, wir erhalten. Dann ist das ja auch alles irgendwie stemmer. Total. Wenn ich jetzt nur sage, ich möchte den Sprachmodellen nutzbar machen für mein Team. Das ist null aufwand. Also da ist niemand keiner von den Mitarbeitern. Was wir natürlich machen ist Schulungen. Also das hat sich auch nicht alle Kunden fordern. Aber die aller meisten Schoen, um erstmal den Team zu zeigen, okay, wir benutzen sich das eigentlich. Was kann das? Weil die meist noch mal angeguckt haben, irgendwas gesagt, das hat nicht funktioniert. Das ist ein Stünchen und dann schalten die Leute sich online zu. Aber das ist ja auch, man ist wirklich sehr sehr gering. Wenn ich dann wirklich ins Wissensemanagement einsteig und sage, okay, ich möchte jetzt hier dieses Implizite oder weitgehend, Implizite wissen, erfassen, verwerten, beziehungsweise verarbeiten und dann so wieder in einer Form auswerfen, die nutzbar ist, dann wird das langwieriger. Aber auch da, wir sind große, große Freunde davon ist immer kleine Eterationen, wirklich ein paar Wochen, vielleicht ein paar Monate und dann immer gleich ein Produktinkremen zu haben. Dann sagen, schau, hier die Begiseler, Liebermohameltschammer, klickt da mal rum, funktioniert das für dich. Gibt mir die Fragen ein, einfach erfolbe zu zeigen. Ja, dann gewöhnt sich die Mitarbeiter, dann ja auf daran, mit dem Teil zu arbeiten. Wenn wir jetzt mal ihre alltäglichen Fragen eben nach dem Essen in der Sopperaum, dann wissen, fassen Sie Vertrauen und bekommen dann vielleicht auch Vertrauen in die Antwort, die dieses System gibt, wenn das heißt, was muss ich denn machen, um den Bura zu wechseln an meiner Bromastriebe? Genau, ganz genau. Das macht man mit ihnen zusammen und überlegt, auf welche Fragen kommen denn froh, aber manchmal wollen die Leute, da finden wir Leute Antworten, aber niemand stellt die Frage dazu, ob das ist. Ja, genau. Das ist das einzige, was wir alle üben müssen, ist dann glaube ich klugefragen stellen. Genau, mit Blick auf die Uhr noch eine klugefrage, diese Technologie, sprachmodelle, auch mit semantischen Erweiterungen. Was hat denn das so in den nächsten fünf bis zehn Jahren deiner Meinung nach oder nach deiner Erwartung für Potenziale? Wie kann sich das dann weiterentwickeln? Wenn ich die eine Antwort auf diese Frage hätte, wäre ich sehr, sehr reich. Ich bin keine Technikern, ich kümme, weil ich mir uns im neue Projekt und neue Themen und ich mein Wissen über generative Sprachmodelle ist, echt gut, aber natürlich gehe ich nicht sehr tief in die Technik rein, will ich die Entwicklung nicht machen. Was ich von meinen Experten und Experten unternehmen höhere ist, keine weiß es. Man hat mutmaß und natürlich werden die teilweise besser werden. Es gibt aber auch die berechtigte Befürchtung, dass der, das hat einen Speaker, aber einem in einem Kongress, der das Habsburger, Phänomen oder Habsburger, habe so gefilmt, glaube ich. Ich weiß, was du meinst. Ich weiß das, ich meine, also das ist einfach dadurch, dass sich die Daten sind jetzt einmal schon alle verwendet, die die Netz sind und womit trainiere ich jetzt mal Modell und vielleicht funktioniert es auch gut mit Daten aus dem Buch. Und wenn ich mit Daten aus dem Unternehmen bis zum gewissen Punkt, dann ist es halt einfach durch ein sehr, sehr, sehr, sehr gutes Kluges wie geht es mir gut helfen kann. Aber wenn ich anfange mit synthetischen Daten, also mit künstig erzeugten Daten zu arbeiten, dann kommt das Habsburger Phänomen und wird halt immer schlechter. Und die Befürchtung gibt es und ich würde mal sagen, also auch alles Leute wie viele.
viel schlauer sind als ich in sich besser auskenne nach meinem Dafürhalt oder nachdem was ich weiß, wie es erlebe durchaus realistisch ist und die oft zitierte immer herbeigewünschte allgemeine künstliche Intelligenz, die dann wirklich menschenähnlich ist. Ich weiß es nicht. Also auch da unterscheiden sich die meine gibt es Experten, ja, die kommt schon. Wir wissen nur nicht wann. Andere sagen die kommt nie, weil wir auch, ich glaube wir kommen natürlich auch schon philosophisches Terra. Wissen ist ja nichts physisches, bzw. es ist wiederum dann auch sehr sehr physisches. Körperwissen, Körperinnerung, weiß ich nicht wie unsere Erinnerung generell funktioniert, Dinge, die von denen wir gar nicht wussten, dass wir sie wissen, oder Dinge, die wir mal gelernt haben, von denen wir nicht das mal vergesst sind. Du kannst vielleicht immer noch diese schopan sonate spielen, die du als Jugendliche gespielt hast. Wusstest das gar nicht mehr, dass sie doch kannst. Ja, nee, nicht aber ich könnte vielleicht noch tatsächlich ein paar Übungen aus dem Balletzer. Das krieg ich noch. Genau, genau. Dieses Welt, dieses physische Wissen, wir existieren ja nicht als reiner Geist und meine Anruf ist oft, dass die Tech Bros in Silicon Valley das aber gerne glauben möchten, nach mir diese unsterblich glatt Diskussion. Ich glaube, wir haben wie Menschen haben Grenzen und die Technologie kann uns sehr, sehr weit unterstützen, dass sie uns ersetzt. Im bestimmten Teil, in bestimmten Teilen, das ist das vielleicht auch ganz gut. Man kann sich in China auch ganz auch schon immer ersetzt. Dennoch, dass sie das gleiche kann, wie wir, man weiß zwischen alle in die Bildtrainierung, wie schwer das ist, Katze, Katze, Katze. Ja. Und das in Kuchen, auch eine Katze. Ich glaube, das wird dauern. Ich persönlich glaube nicht, dass diese Technologie das leisten wird. Ich glaube aber, dass sie schon noch sehr, sehr gut wird, war sehr, sehr spezialisiert. Das glaube ich eher, dass in speziellen Gebieten dann wirklich ganz, ganz hohe Leistungsfähigkeit sehen werden. Aber nix, genau, es weiß man nicht. Ja, ich fasse mal zusammen, die Zukunft bleibt ungewiss. Ja, und antheuerlich. Und das schulde daran ist, dass das nicht nur erschreckend ist, sondern dass es auch sehr spannend sein kann. Wie schwanket wir, wenn wir alles schon wüssten, das wäre fürchterlich. Liebe Katharina, ich danke dir sehr. Es war ein super spannender Podcast. Ich hab's genossen mit dir zu plauern. Allerletzte Frage gibt es noch irgendwas ganz kurz und knackig, was für den höhere und höhere Angett auf den Weg geben wird. Tatsächlich ja. Ich würde gern sagen, dass die Prozesse um Person vor der Technologie zu betrachten sind. Erst wenn man weiß, es wichtig ist, sollte man Dinge erfassen. Und das Thema Qualität ist ganz, ganz wichtig. Insofern noch, vielleicht noch eine ganze Weile, sind die Menschen, das worauf wir uns fokussieren sollten. Und wir machen es ja auch für die Menschen. Ja, danke schön. Gerne. Vielen Dank. Erst mal, dass das Trinket ist. Sie haben Fragen, Anregungen oder Kritik, dann schreiben Sie uns an
[email protected]. Mehr von uns finden Sie auch auf unserer Website, rkwe -competenzzentrum.de und natürlich auf der Podcast Plattform "Jus Vertrauens".