Go back

51-Die gruselige KI

25m

51-Die gruselige KI

In dieser Podcast-Folge spricht die Datenschützerin Bettina mit Robert Vogel von UMZ über künstliche Intelligenz. Vogel studierte Informatik bei der Bundeswehr, war zwölf Jahre dort tätig und arbeitete im Programmierzentrum der Luftwaffe sowie an NATO-Top-Secret-Projekten. Heute unterstützt er Unternehmen dabei, KI wirksam und sicher einzusetzen. Zentrales Anliegen ist die Unterscheidung: Alles heißt heute KI, doch generative KI ist nur ein Teilbereich einer jahrzehntelangen Entwicklung von Expertensystemen über neuronale Netze bis zu Sprachmodellen. Generative KI eignet sich für komplexe, kommunikative Aufgaben ohne klares Regelwerk, nicht jedoch für deterministische, automatisierte Prozesse, bei denen gleiche Eingaben gleiche Ausgaben erzeugen müssen. Vogel betont, dass KI-Systeme lediglich Muster reproduzieren und keinen Kontext verstehen, etwa am Beispiel von Harry Potter und dem Besenreiten. Die Verantwortung für Ergebnisse bleibt beim Menschen. Unternehmen sollten mit einem konkreten Use-Case und einer Business-These beginnen, kostenfreie KI-Accounts meiden und eine klare KI-Richtlinie erstellen, die auch Schatten-KI und private Nutzung regelt. Die Einführung ist zu etwa 30 Prozent Technologie und zu 70 Prozent Organisationsentwicklung, da Ängste der Mitarbeitenden ernst genommen werden müssen. Ziel ist, eine Stunde Arbeit in 30 Minuten zu schaffen.

Transcription

4225 Words, 25243 Characters

German
Speaker 1Hier ist der Datenschutz-Podcast mit News, die Sie schon immer oder nie wissen wollten. Viel Spaß dabei!
Speaker 2So, hallo da draußen wieder am Äther. Hier ist wieder der Datenschutz-Podcast. Ja, es war ein bisschen ruhig in der Zwischenzeit, aber ich habe heute einen spannenden Gast hier vor dem Mikrofon. Ich habe ihn nicht gezerrt, nein, er ist freiwillig gekommen, alles gut. Das ist der Robert Vogel von UMZ und heute geht es eigentlich um so das nette, wunderbare, aber auch doch ein bisschen gruselige Thema KI. Aber bevor ich jetzt hier was Falsches sage, Robert, erstmal schön, dass du da bist. Ich glaube, das stellt sich kurz selber vor, weil du kannst das besser.
Speaker 3Super, Bettina, danke, dass ich da sein kann. Es ist immer eine spannende Sache, sich über dieses gruselige Thema zu unterhalten. Gut, dass du das auch so siehst. Ja, künstliche Intelligenz. Vielleicht zwei, drei Worte zu mir. Robert Vogel, ich habe vor langer Zeit. Ich habe vor langer Zeit Informatik studiert bei der Bundeswehr und dort auch schon mit dem Thema KI zu tun gehabt. Da war das natürlich noch was ganz anderes, als es jetzt ist. Und natürlich, als vor dreieinhalb Jahren das ganze Thema mit Chat-GPT hochkam, generative KI hochkam, da habe ich die, ich nenne das immer so schön, Connecting the Dots wiedergefunden und unterstütze mit meiner Firma jetzt Unternehmen, genau hier wirksam agieren zu können und im Bereich der künstlichen Intelligenz. Intelligenz-Wertschöpfung schaffen zu können und wirksam agieren zu können. Vielleicht noch zwei Sätze zu mir selber. Verheiratet drei Kinder, weil das ist auch immer so ein Thema, da ist man ja ganz stolz. Die beiden Großen sind schon außer Haus, die Tochter ist noch da und studiert. Wie mag es sein, künstliche Intelligenz und digitale Kommunikation im Master? Also hier zu Hause sind spannende Diskussionen jeden Tag.
Speaker 2Das denke ich mir. Dein Unternehmen heißt ja Unternehmen mit Zukunft. Also die Nachfolge Zukunft ist schon mal gesichert. Ja, genau. Hast du gleich selber vorgesorgt. Ja, also im Prinzip vielleicht noch mal kurz, wie wir uns dann kennengelernt haben. Ich meine, ich war Anfang des Jahres ja mal in München auf einer Veranstaltung und dachte mir, ja, man muss ja mal raus, mal gucken, was so los ist. Und da warst du einer von den Speakern und hast fasziniert erzählt, was du eigentlich hier mit deinen Agenten, mit deinem Business irgendwie dann schon machst. Und ich dachte mir, wow, okay, kann man damit machen. Aber wo du mich wirklich auch gecached hast, das war wirklich, wie gesagt, ich bin ja Datenschützerin. Und ich habe ja immer so ein bisschen die Sicherheitsbrille auf, dass du gesagt hast von deiner Historie, du warst bei der Bundeswehr. Ja, genau. Und hast für die Bundeswehr programmiert, war es auch einer gewissen Sicherheitsstufe. Und da dachte ich mir, der kann auch Sicherheit. Also das ist jetzt kein Haubentaucher, der mal blind irgendwie KI nutzt, sondern also das war so, da hattest du mich.
Speaker 3Ja, das war auch, das ist auch so. Und ich erwische mich momentan an der einen oder anderen Stelle selber, wo das Thema so noch nachhalt. Also war zwölf Jahre Bundeswehr, hatte dort im Programmierzentrum der Luftwaffe ein Programmierteam und war NATO-Top-Secret, habe also Tornadojäger 90 mitprogrammiert. Und da trietzen die dich ja schon. Also da weiß man, mit wem du über was sprechen darfst. Und ich erzähle auch mal eine Geschichte, die war für mich, ist auch heute noch für mich prägend. Wir haben damals Software ausgeliefert, bewaffnet, also von Landsberg nach München. Kann man sich heute mal vorstellen.
Speaker 2Wahrscheinlich hattest du noch mal diese Bänder. Ja, ja. Ja, genau. Bänder unter dem Arm. Ja, wir hatten die großen. Ja, der ist draußen noch weiß, fängt jetzt an zu lachen. Ja, aber das.
Speaker 3Und da zum Thema Sicherheit. Und das, ja, da glaube ich schon einschätzen zu können oder ein Gespür dafür zu haben, dass man auf das eine oder andere durchaus aufpassen sollte und dann eher noch eine Schleife oder noch eine Sicherheitsschiene einzieht, bevor man sagt, jetzt lasse ich mal alles, das mache ich einfach mal. Ich kriege auch immer einen Film, wenn einer sagt, ja, ich habe den Klaubot installiert. Tatsächlich, das ist nicht dein Ernst.
Speaker 2Ja. Denn sie wissen nicht, was sie tun. Wie gesagt, deshalb ist ja, wir arbeiten ja zusammen, meine Online-Akademie mit den wunderbaren EU-Rechtskursen hast du jetzt auch im Bericht. Alles wunderbar. Vielleicht noch so eine Frage. Ich habe ja auch mit KI meinen Kunden zu tun und der eine oder andere sagt ja, KI, was ist denn das überhaupt? Was kann ich damit übermachen, überhaupt machen? Vielleicht holen wir so generell irgendwie aus, so was man mit KI machen kann und wo du auch die Schwierigkeiten und die Gefahren, die du mit KI hast, die du mit KI machst,
Speaker 3siehst. Also das ist eins der Hauptherausforderungen momentan. Alles heißt KI. Alles. Also egal was, überall ist KI drin. Alles heißt KI. Wenn man heute eine Kaffeemaschine kauft, ist das eine KI-Kaffeemaschine. That's it. Und das ist von der Diskussion her wirklich sehr schwierig, weil man natürlich dann überhaupt nicht weiß, über was spricht man denn? Und deswegen vielleicht ein, zwei, drei so Punkte, was die Unterscheidung ist und wo KI herkommt. Also das ist schon, das ist schon länger, das gibt schon länger das Thema KI. Und zwar war die Grundidee mal zu überlegen, kann ich mit Computern menschliche Intelligenz oder Aufgaben, die mit menschlicher Intelligenz gelöst werden können, lösen? Und das hat in den 55er Jahren des letzten Jahrtausends angefangen, in Darth Maus, ein paar schlaue Leute zusammengesetzt und haben dann überlegt, was ist denn künstliche Intelligenz und da das Themengebiet ins Leben gerufen. Und das ging dann so weiter. Vielleicht kennt ihr der eine oder andere, Hörer, das Thema Expertensysteme, Schachcomputer, das war dann alles schon einzuordnen in dem Bereich künstliche Intelligenz. Und dann ging es weiter, wo man gesagt hat, oh, jetzt wird das so kompliziert, dass es schon ins Komplexe übergeht. Also ich kann diese Mengen an Daten nicht mehr handhaben und ist dann auf die Idee gekommen, das Gehirn nachzubilden. Also vorher war es alles nur, wenn dann schleifen und wenn dann biege ich rechts oder links ab. Und dann hat man überlegt, ich könnte das Gehirn nachbilden und dann praktisch, praktisch ein System erstellen, wo ich Muster erkenne. Also das war dann unter dem Thema neuronale Netze. Dann ging es weiter. Mit neuronalen Netzen konnte man auf einmal tiefer lernen, Muster generieren und die meisten da draußen kennen vielleicht die Katzenbilder. Also ich habe ein Bild und da wird eine Katze erkannt, ja oder nein. Und wenn ich dann einen Schneeleopath hinmache, ist es trotzdem eine Katze. Also das waren so die. Genau, das kennen wir alle. Genau, das waren die Themen, wo es dann reinging in Katzenbilder, ein klassisches Thema, was sehr gut funktioniert und wo man auch gesehen hat, oh, da passiert was, wenn man Hautbilder fotografiert und dann vorhersagen konnte mit einer höheren Wahrscheinlichkeit als der Arzt, ob man jetzt eher zum Arzt gehen sollte, weil das Hauptkrebsrisiko da hoch war oder eher nicht. Das war eine der ersten spannenden Anwendungen und da ging es jetzt natürlich weiter. Und seit dreieinhalb Jahren, man muss vielleicht zwei Sätze noch vorher sagen, im Jahr 2017 hat Google durch ein Papier rausgebracht. Sie waren ja nicht die Ersten, die da mit auf den Markt kamen, aber sie haben zumindest die intellektuellen Voraussetzungen geschaffen, eine Idee auf den Markt gebracht, wo man das Ganze mit Sprache macht, wo man praktisch Eingaben in Textform hat, diese Eingaben der Textform verarbeitet und dann Texte wieder ausgibt und generieren lässt. Und das war so der erste Punkt, wo ich jetzt nicht nur sagen konnte, Katz oder Hund oder Hautkrebs oder nicht Hautkrebs, sondern wo ich was eingab und es kam was Generiertes raus. Das war die Geburtsstunde der generativen KI, also eine künstliche Intelligenz, ein Modell, ein System, was etwas generiert, was etwas Neues hervorbringt aus dem Existierenden. Und da hat man jetzt zwei große Themen drin, nämlich wieder Grafiken, das sind dann die sogenannten Diffusion-Modelle, wo man praktisch Bilder erstellt und das Zweite, das sind die LLMs oder Sprachmodelle, wo man
Speaker 2mitsprach. Ja, das ist das, was wir alle kennen.
Speaker 3Und die erste Anwendung war Chat-GPT. Das kennt momentan, glaube ich, jeder. Ja, ich wüsste jetzt auch nicht,
Speaker 2wie diese Vokabel nicht geläufig sind.
Speaker 3Ja, genau. Das ist schon wie Tempo praktisch. Ja, wie Tempo. Das ist künstliche Intelligenz. Und da muss man rein.
Speaker 2Ich muss schon ran, Chat-GPT.
Speaker 4Bleiben wir seriös.
Speaker 3Und das ist so der Punkt, die Kurzentwicklung oder ganz kurz jetzt für die Hörerinnen und Hörer dargestellt, was so die Entwicklung der KI ist. Alles heißt dort KI, egal, ob es was Klassisches ist oder ob es jetzt ein Chat-GPT ist. Und das Spannende dazu, und da werden wir auch vielleicht das eine oder andere jetzt, da hast du vielleicht noch eine Frage, jetzt seit vor dreieinhalb, vier Jahren, da hat die Entwicklung ja nicht aufgehört. Das heißt, diese Modelle sind besser geworden, die sind stärker geworden. Und insbesondere die Art und Weise, wie diese Modelle jetzt mit Themen, mit Informationen, mit Daten umgehen, hat sich, komplett nochmal verändert. Und ich sage immer, wir sind da wirklich auf einer exponentiellen Kurve des Veränderns, der Veränderung, was diese KI kann, was sie.
Speaker 2Ich bezeichne sie ja, wenn ich mal ganz böse bin, das ist die Büchse der Pandora. Ich glaube, die ist auf. Ich glaube, den Geist kriegen wir auch nicht wieder zurück in die Flasche. Jetzt, glaube ich, geht es damit, wie gehen wir damit dann um? Also ich sage immer, KI, Risiko und Chance, es ist beides. Ich muss nur gucken, wie gehe ich damit um? Also ich meine, die aktuellen Beispiele, dass eine KI ausgebrochen ist und da was gemacht hat. Aber eine KI macht ja auch nichts alleine, sondern eine KI kriegt ja auch immer einen Auftrag im Zweifelsfall. Wie würdest du jetzt, vielleicht mal so für die Zuhörer und Zuhörerinnen, Unternehmer, Unternehmerinnen hier, wo würdest du sagen, kann man KI überhaupt einsetzen? Beziehungsweise, wenn es so mal ganz am Anfang, was kann ich mit KI überhaupt machen? Und wenn ich darüber nachdecke, im Use Case, also, irgendeine Idee, wie man KI einsetzen kann. Was sollte ich da eigentlich technisch oder was sollte ich da beachten, damit ich da die Büchse der Pandora nicht gleich offen habe?
Speaker 3Also da würde ich eine ganz wichtige Unterscheidung nochmal treffen wollen. Also mit der KI, wenn wir heute über KI sprechen, dann meinen wir in der Regel das generative KI, Chatbots, Agenten. Und diese Agenten sind überall da gut einsetzbar und wirksam einsetzbar, wo ich kein klares Regelwerk habe. Also wo ich immer hingehe und sage, oh, jetzt analysiere mir mal diesen Text. Jetzt schau mal im Internet nach und analysiere mir meinen Kundenstamm. Jetzt hol mir mal und mach eine Auswertung über dieses Projekt. Jetzt hast du bestimmte Parameter und schau dir mal an, wie man dann Zukunftsszenario machen könnte. Jetzt hol dir mal bestimmte Informationen und mach daraus einen Kurs für eine Akademie. Oder ein Konzept für eine Akademie, Marketing, wie auch immer. So ist Marketing auch ein ganz gutes Beispiel. Also überall, wo du im Kommunikativen unterwegs bist, wo du im Komplexen unterwegs bist, wo es keinen klaren Weg gibt, da ist KI gut einsetzbar. Wo KI seine Herausforderung hat und wo ich auch immer sage, Finger weg ist, wenn du ganz genau weißt, was du tust. Also wenn du heute ein Konto eröffnest, ein Bankkonto, weißt du mal ganz genau, was sind die 20 Schritte, um ein Konto zu eröffnen? Finger weg von KI. Das funktioniert jetzt so. Danke, dass du das so sagst.
Speaker 2Man kann das machen, aber bitte nicht mit meinem Konto.
Speaker 3Ja, genau. Und die Unterscheidung, die ich immer treffe, und das ist gerade im Unternehmerumfeld eine wichtige Unterscheidung, ist zwischen autonomisieren, also etwas läuft autonom ab, es geht ja auch immer wieder um Prozesse, und wie kann ich Prozesse verändern? Wie verändern sich Prozesse? Wie kann ich Prozesse mit KI unterstützen? Da ist die Grundidee, muss sein, ein Prozess, der autonom läuft. Im Gegensatz zu automatisiert, wenn ein Prozess automatisiert läuft, dann geht es von vorne bis hinten läuft er durch, die gleichen Eingaben produzieren die gleichen Ausgaben. Hände weg von KI. Da im Bereich automatisierte Prozesse ist KI eher schädlich, weil der läuft, der rennt, gleiche Eingabe, gleiche Ausgabe. Da bitte. Kein Mustererkenner jetzt mit reinbringen oder ein Modell, was jetzt in irgendeiner Form nicht deterministisch agiert und deswegen für die gleiche Eingabe eine gleiche Ausgabe produzieren kann.
Speaker 2Also du sagst im Prinzip, ich sage mal so ein bisschen Verselbstständigung, also dass die KI, also die Language Models haben ja Muster gelernt oder haben sie erhalten. Ich tue mich mit dem Lernen auch schon mit dem Griff schon ein bisschen schwer. Also die haben Muster, die haben sie eingespeist bekommen und diese Muster reproduzieren sie. Natürlich. Also die Gefahr, die du siehst, dass dann der Prozess dann was macht, was nicht so ganz gewünscht ist.
Speaker 3Oh, jetzt, jetzt. Jetzt habe ich die Büchse auf. Nein, nein, ich hole jetzt den Informatiker raus und den Security-Mensch. Was du gerade sagst, das ist keine Gefahr, so sind die gebaut. Also das ist die Idee dieser KI. Und da steckt natürlich, wenn man jetzt sagt, ich nehme alles, was die. Also was wir die so liefern, nehme ich so als bare Münze, das ist die Gefahr. Also die Gefahr liegt bei uns. Ich sage dazu immer, selber denken macht schlau. Selber denken macht wirksam mit der KI. Wenn jemand zu mir kommt und sagt, für das Ergebnis kann ich nichts, das hat die KI gemacht, sage ich, das ist ein Kündigungsgrund.
Speaker 2Das steht übrigens auch in der KI-Verordnung von wegen, du kannst nicht sagen, das war die KI. Was mir noch so gerade einfällt, ich nehme das Beispiel, wenn ich mal so kurz KI erkläre. Wenn ein Language Model die KI. Wenn die jetzt einen Harry Potter liest, dann weiß die KI, dass Menschen auf Besen reiten können. Wenn ein Mensch Harry Potter liest, weiß ein Mensch, dass quasi Menschen nicht auf Besen reiten können. Also das ist immer so ein plastisches Beispiel, was ich immer so bringe, um nochmal vielleicht den Unterschied klarzumachen.
Speaker 3Das ist eine spannende Sache. Also jetzt, du hast eben gerade eingeleitet mit, was bedeutet denn, ich weiß etwas oder ich weiß etwas nicht. Jetzt wird es philosophisch. Ja, der ist aber auch. Da steckt viel Philosophie auch drin. Und da erkläre ich immer noch gerne mit, wenn eine KI Harry Potter liest, dann gehen die Muster genau in diese Geschichte. Es gibt Zauberer, die können auf Besen reiten. Das sind Muster, die dann hinterlegt sind. Und es ist aber kein einziger Buchstabe von Harry Potter drin. Das ist für mich eine wichtige Thematik. Das heißt, es erkennt Muster. Es kann mit diesen Mustern agieren, die dort drin sind. Jetzt weiß es aber auch, Harry Potter ist eine Geschichte. Harry Potter ist Fantasie. Das ist ein Roman. Das ist ein Kontext, was sie mit dem Besenreiten verbindet. Deswegen wird die KI niemals davon ausgehen, also auf dem Besenreiten ist bei uns normal, sondern weiß immer den Kontext. Da feuert Fantasieroman, da feuert der Bereich Muster, das ist Science Fiction, da feuert der Bereich, das ist reale Geschichte, da feuert der Bereich, das stand in Wikipedia und scheint da mehr und genauer und realer zu sein. Und diese ganzen Bereiche feuern, wenn in irgendeiner Form jemand sagt, wir reiten auf dem Besen. Und dann feuert wahrscheinlich noch Fasching und dann feuert wahrscheinlich noch
Speaker 4der Walpurgisnacht und dann. Stimmt. Und die Hexen in der Walpurgis auch Besen reiten. Und das ist so das Ding. Mach ich immer. Natürlich. So ist das eigentlich.
Speaker 2Oh Gott, also ja, ihr merkt schon irgendwie, es ist ein spannendes und doch irgendwie. ein komplexes Thema und ich sage jetzt noch mal, wenn man sagt, ich nutze KI, heißt nicht, ich frage mal eben kurz Chat-GBT, das ist es ja dann gerade nicht.
Speaker 3Genau. Und das ist ein ganz wichtiger Punkt. Ich habe eben schon gesagt, selber denken macht schlau und da gehört auch dazu, hinterfragen macht es noch besser. Also das Ergebnis oder die Ausgabe eines Sprachmodells, eines Chat-GBT, auch eines Agenten, muss und darf hinterfragt werden. Mein Lieblingsbeispiel ist aber meine Frau, die hat natürlich auch alle möglichen Accounts. Die hat auch Cloud und Chat-GBT und alles auf ihren Systemen und die sagt dann immer, also heute habe ich aber dem Cloud mal gesagt, so geht es nicht, weil ich weiß das viel besser, wie das mit Pferden ist und jetzt habe ich mit dem diskutiert und dann darf er nicht lachen, aber ich schmunzle immer in mich hinein und sage, ja, genau das ist es. Die Auseinandersetzung, das Diskutieren, das Hinterfragen und dann sagen, nee, was du da mir gerade erzählt hast,
Speaker 2ist Müll. Du diskutierst ja auch sozusagen mit, du hast ja eine Marie, die hast du eingestellt, du hast auch, glaube ich, ein paar Mitarbeiter dann schon auch zwischendurch mal entlassen, aber Marie ist ja jetzt deine nicht-menschliche, sozusagen aber nicht-human Mitarbeiterin und du diskutierst mit denen ja auch irgendwie.
Speaker 3Absolut und die lernen von mir. Ich finde es ja fast ein bisschen spooky, aber. Die lernen von mir und ich lerne von denen und da muss man aber auch dazu sagen, das geht schon weit über das hinaus, was man mit einem Chat-GBT macht. Genau, aber das haben wir ja
Speaker 2noch auf dem Schirm, das machen wir ja dann in einer weiteren Folge, was man machen kann. Ich würde nochmal zusammenfassen für Unternehmen, die jetzt sagen, KI, ja, ich komme nicht dran vorbei. Also ich glaube, dass es immer wichtig ist, dass man ein Use-Case hat und nicht, dass man weiß, ich kann wahnsinnig viel mit KI machen, aber ich sollte wie immer im Leben auch wissen, was ich tun. Also konkret im Unternehmen einen Anwendungsfall, einen Prozess, wo man denkt, das könnte man mit KI machen. Das steht ganz am Anfang, oder?
Speaker 3Ich würde absolut und sogar immer von außen nach innen gedacht. Also immer von, und ich nenne das dann auch immer Business-These, eine Business-These aufstellen. Wir schaffen eine Anfrage zu einem Angebot innerhalb eines Tages zu beantworten. Die KI könnte uns dabei super helfen.
Speaker 2Also klassisch ein Hotline-Thema, ich muss nicht drei Tage auf eine Antwort warten, wie auch immer. Und wie kriege ich da den Prozess ein bisschen verquatzt?
Speaker 3Unser Fachexperte ist im Urlaub und sein Stellvertreter ist gerade auf Dienstreise. Ich brauche jetzt eine Frage, wie kriege ich die?
Speaker 2Und der, der den Schlüssel hat für das Buch mit dem Wissen, der ist auch im Urlaub.
Speaker 3Und der Schlüssel ist nicht da. Genau, mangelnd an Fachkräften ist da das Thema. Und da wäre es natürlich auch super genial, wenn ich sage, okay, dann hole ich mir mal eine zweite Meinung ein. Und die zweite Meinung kommt eben von einem nicht-biologischen Chatbot oder Agenten oder wie immer.
Speaker 2Also halten wir mal fest, also zuerst ein Use-Case, einen konkreten Anwendungsfall. Ich sage jetzt mal so ein bisschen. Dass jedes Unternehmen sich auch überlegen sollte, was ist der Nutzen? Also im Prinzip will ich ja etwas sparen. Entweder will ich Zeit sparen oder ich will Geld sparen oder was auch immer sparen. Und ansonsten, ich will ja nicht noch was oben draufsetzen. Ich will ja nicht noch, ich sage jetzt mal ein bisschen, wie sagt man heute, Geld verbrennen. Also das ist so das Erste, wenn ich jetzt eine Idee habe, wo könnte mir KI, dieses mächtige To, helfen? Und dann im zweiten Strick natürlich dann sagen, wie mache ich das in der Technik? Also wie gesagt, gibt es ja durchaus die Gefahren, je nachdem, was ich hochlage. Gerade, dass es eins zu eins natürlich zu den US-Plattformen geht. Ich meine über die US-Gesetze und brauchen wir uns gar nicht mehr hier unterhalten. Ich glaube, das haben wir schon alle lange durchgenudelt. Aber das ist natürlich die Gefahr, dass da eventuell Geschäftsgeheimnisse oder was auch immer dann auf Reisen geht. Und da sollte man sich dann schon überlegen, wie macht man das? Und deshalb, wenn ich höre, ich habe einen normalen Account bei ChatGBT und ich habe da mal was hochgeladen, steigt immer ein wenig mein Blutdruck.
Speaker 3Nimmst du mir die Zehennägel hoch?
Speaker 2Ja gut. Ich kriege Blutdruck und Schweißperlen und denke mir, geht nicht alles nichts an, aber okay.
Speaker 3Also ehrlich, Finger weg von freien KI. E-Accounts, E-Accounts oder die kosten und manchmal kosten die mehr, auch wenn man keine 20 Dollar irgendwohin überweisen muss. Die kosten nämlich, das Modell darf lernen, das Modell hat die Daten, die man mit hochlädt und das ist etwas, das gerade im organisatorischen, im unternehmerischen Finger weg von diesen kostenfreien Sachen. Nummer 1. Schlimm an der Sache ist und jetzt bin ich auch schon bei schlimm. Ich habe ihn schon, ich habe ihn schon überzeugt hier. Diese Schattenkarte,
Speaker 2Schattenkarte. Also diese
Speaker 3ja, ja, okay, das machen wir nicht, aber jetzt hole ich mal meinen privaten Account. Oder mach das mal eben
Speaker 2zu Hause, da habe ich es ja.
Speaker 3Das ist noch viel schlimmer, weil es halt nicht greifbar ist, weil man, also das ist, da würde ich auch, also da habe ich, da dreht es mir die zweite Zähne hin. Wenn ich denke, wir haben das abgedreht, keiner von uns darf KI verwenden, weil man weiß, jeder hat dann sein eigenes was auch immer und wenn das der kostenfreie Account ist, dann, nade dir Gott, will ich nicht sagen, aber dann bitte ganz hohes Risiko.
Speaker 2Braucht man sich nicht wundern. Es hat ein Haftungsrisiko für das Unternehmen natürlich, aber auch für den Mitarbeiter. Ich sage mal KI-Richtlinien, auch hier vielleicht mal an die Unternehmen, bitte macht eine KI-Richtlinie, wo ihr genau definiert, welche KI-Prozesse sind, was es erlaubt, was es nicht erlaubt und da gehört zum Beispiel auch die private Nutzung, privates Account, private Geräte irgendwie mal mit rein. Und eben genau, was ist der Zweck? Also wo man das wirklich nochmal eingrenzt, dann ist, kann der Unternehmer dann schon mal sagen, ich habe es euch gesagt, also im Neujuristensprech exkulpieren und dann kann ich eventuell auch den schwarzen Peter an einen Mitarbeiter oder wen auch immer zurückschauen. Ja, das ist gruselig, aber genau, danke, dass du das auch nochmal so deutlich siehst.
Speaker 3Ja, das ist wichtig, aber das ist jetzt nicht die Idee, sondern die Idee ist jetzt, was mache ich denn jetzt? Und jetzt hast du angefangen mit dem Thema Technologie und da ist es überhaupt kein Thema, dass man hingeht und sagt, ich kann diese Technologie in allen Facetten des Urheberrechts, des Datenschutzes, der Architektur, wie ich das baue, der Cybersicherheit, das ist technisch kein Thema mehr, es ist ein Diskussionsthema und Entscheidungsthema. Das muss man diskutieren, an welcher Stelle greifen wir, wo was. Wo macht es ja auch Sinn.
Speaker 2Wo schieße ich mit Kanonen auf Spatzen und wo muss ich, sagen wir mal, das große Kino fahren, was natürlich dann auch 3,50 Euro kostet.
Speaker 3Genau. Und dann Nummer zwei, was auch immer mit reinspielt, das ist vielleicht zu 30 Prozent ein Technologiethema, zu 70 Prozent ein Organisationsentwicklungsthema. Das heißt, wir müssen auch mit den Dingen umgehen, wie entwickelt sich denn jetzt ein Team. Wir dürfen durchaus im Hinterkopf behalten, dass Menschen da sitzen und sagen, die letzten drei YouTube-Videos, die ich angeguckt habe, da sagen die alle, mein Job ist sechs Monate weg. Und das spielt dort mit rein. Das sind Entscheidungskriterien, wo Menschen ihre Entscheidungen darauf basieren lassen. Und das muss man mit reindenken. Und jetzt in diesem beidseitigen, in diesem Kontext, da muss man gucken, wie mache ich das jetzt. Wie öffne ich einen Raum, in dem die Menschen sehen können, was KI kann, in welcher Art und Weise es das kann und wie es ihnen und der Gesamtorganisation hilft, aufs nächste Level zu kommen. Das ist Nummer eins. Und gleichzeitig aber auch hinzugehen und zu sagen, Moment, wir haben die Architektur, das System so aufgebaut, dass ihr das auch machen könnt. Dass das auch sicher ist, dass ihr keine Schatten-KI braucht. Und dann, wo du angefangen hast, das macht natürlich nur dann Sinn, wenn es mit einem Business Case oder mit einer Business-Hypothese verbunden ist, weil es den Menschen hilft und der Organisation hilft. Und ich sage immer, KI ist halt dazu geschaffen, dass ich eine Stunde Arbeit in 30 Minuten schaffe und eine Stunde faktoriere. Dann habe ich was richtig gemacht als Organisation. Das ist wunderbar.
Speaker 2Das ist doch jetzt ein schönes Schlusswort für, sagen wir mal jetzt hier, unsere Podcast- Folge. Ich glaube, wir quatschen noch mal mehr, aber ist kein Problem. Robert, ich danke dir. Irgendwie war sehr spannend und ich merke auch schon wieder, da steckt ganz viel drin in dem Thema mit Ethik. Das hat man noch gar nicht. Philosophie, Organisationsentwicklung, also KI, ist wahnsinnig komplex und ich habe mal eben KI gemacht. Da glaube ich, den Spruch kann man sich dann glaube ich auch sparen. Also Robert, ich danke dir und wir hören und stören uns nochmal. Danke, bis dann.
Speaker 1Das war es mal wieder. Stay tuned for the next time mit der Datenschutz-Podcast. Vertraue und glaube, es hilft, es heilt die göttliche Kraft!

Podcast Summary

Key Points:

  1. KI ist ein historisch gewachsenes Feld, das von Expertensystemen und Schachcomputern über neuronale Netze bis zur generativen KI reicht, die seit ChatGPT breit bekannt ist.
  2. Der Begriff KI wird heute inflationär für fast alles verwendet, was die Unterscheidung zwischen klassischen Verfahren und generativer KI erschwert.
  3. Generative KI eignet sich vor allem für komplexe, kommunikative Aufgaben ohne starres Regelwerk, während sie bei klar definierten, automatisierten Prozessen ungeeignet ist.
  4. KI-Systeme erkennen Muster und reproduzieren sie, ohne Kontext oder Wahrheitsgehalt zu verstehen, weshalb Ergebnisse stets hinterfragt werden müssen.
  5. Die Verantwortung für KI-Ergebnisse liegt beim Menschen und nicht beim System, was auch die KI-Verordnung ausdrücklich betont.
  6. Kostenfreie KI-Accounts bergen erhebliche Risiken, da eingegebene Daten zum Modelltraining genutzt werden können und Geschäftsgeheimnisse gefährdet sind.
  7. Unternehmen sollten eine KI-Richtlinie erstellen, die erlaubte und verbotene Nutzungen sowie die private Nutzung klar regelt.
  8. KI-Einführung ist zu etwa 30 Prozent ein Technologiethema und zu 70 Prozent Organisationsentwicklung, die Ängste der Mitarbeitenden einschließen muss.

Summary:

In dieser Podcast-Folge spricht die Datenschützerin Bettina mit Robert Vogel von UMZ über künstliche Intelligenz. Vogel studierte Informatik bei der Bundeswehr, war zwölf Jahre dort tätig und arbeitete im Programmierzentrum der Luftwaffe sowie an NATO-Top-Secret-Projekten. Heute unterstützt er Unternehmen dabei, KI wirksam und sicher einzusetzen.

Zentrales Anliegen ist die Unterscheidung: Alles heißt heute KI, doch generative KI ist nur ein Teilbereich einer jahrzehntelangen Entwicklung von Expertensystemen über neuronale Netze bis zu Sprachmodellen. Generative KI eignet sich für komplexe, kommunikative Aufgaben ohne klares Regelwerk, nicht jedoch für deterministische, automatisierte Prozesse, bei denen gleiche Eingaben gleiche Ausgaben erzeugen müssen.

Vogel betont, dass KI-Systeme lediglich Muster reproduzieren und keinen Kontext verstehen, etwa am Beispiel von Harry Potter und dem Besenreiten. Die Verantwortung für Ergebnisse bleibt beim Menschen. Unternehmen sollten mit einem konkreten Use-Case und einer Business-These beginnen, kostenfreie KI-Accounts meiden und eine klare KI-Richtlinie erstellen, die auch Schatten-KI und private Nutzung regelt. Die Einführung ist zu etwa 30 Prozent Technologie und zu 70 Prozent Organisationsentwicklung, da Ängste der Mitarbeitenden ernst genommen werden müssen. Ziel ist, eine Stunde Arbeit in 30 Minuten zu schaffen.

FAQs

Generative KI erzeugt aus vorhandenen Mustern neue Inhalte wie Texte oder Bilder. Bekannte Beispiele sind Sprachmodelle wie ChatGPT und Diffusionsmodelle für Bilder.

KI eignet sich vor allem für komplexe, kommunikative Aufgaben ohne klares Regelwerk, etwa Textanalysen, Recherchen oder Konzepterstellung. Bei klar definierten, automatisierten Prozessen sollte man eher darauf verzichten.

Zuerst sollte ein konkreter Use-Case mit klarem Nutzen definiert werden, etwa Zeit- oder Kostenersparnis. Erst danach sollte die technische Umsetzung geplant werden.

Bei kostenlosen Accounts dürfen die Anbieter häufig mit den hochgeladenen Daten trainieren. Dadurch können Geschäftsgeheimnisse oder sensible Daten abfließen.

Schatten-KI bedeutet, dass Mitarbeitende private Accounts oder Geräte für die Arbeit nutzen. Das ist schwer kontrollierbar und birgt hohe Haftungsrisiken für Unternehmen und Beschäftigte.

Eine KI-Richtlinie legt fest, welche KI-Tools erlaubt sind und wofür sie genutzt werden dürfen. Sie sollte auch die private Nutzung und private Geräte ausdrücklich regeln.

Chat with AI

Loading...

Pro features

Go deeper with this episode

Unlock creator-grade tools that turn any transcript into show notes and subtitle files.