#21 let's talk KI: Von Grundlagenforschung zum Tool

[Musik] Künstliche Intelligenz ist nicht nur seit OpenAI und ChatGPT ein aktuelles Thema. Die Mediale auseinandersetzung, aber auch eine gewisse Müsstiefizierung, ist seit Jahren im vollen Gange. Wir finden, es ist an der Zeit sich vertieft, mit dem Thema auseinanders zu setzen. Und deswegen starten wir eine viertalige Reihe zum Thema KI und sprechen mit unseren Gästen zu den technologischen Grundlagen und Sicherheitsaspekten. Wir sprechen zu KI und Ethik und gesellschaftlicher Akzeptanz sowie zu den aktuellen Regulierungsbestrebungen. Und die 4. und letzte Folge widmen wir, da es sich um ein Game-Change am Umgang mit KI handelt, ganz den großen Sprachlärmodellen und ChatGPT. Und damit herzlich willkommen zur ersten Folge der Sonderreihe KI von Cyber Snacks, dem Cyber Sicherheitspolitischen Podcast "Der Lianz für Cyber Sicherheit". Mein Name ist Agnieszka Paplorska. Und ich bin Tobias Jobke. Gemeinsam machen wir heute den Anfang und sprechen darüber, was KI eigentlich ist und ausmacht und in welchen Aspekten von KI sich das BSI beschäftigt. Wir freuen uns sehr, dass wir für diese Folge eine richtige Experte, wenn auf diesem Gebiet gewinnen konnten. Vera Seix ist Fachbereisliterin für IT Infrastrukturen beim BSI. Und damit ist sie auch für die Referate im BSI zuständig, die sich mit KI beschäftigen und mit allen Abteilungen im BSI zum Thema KI zusammenarbeiten. Herzlich willkommen. Ja, hallo. Vielen Dank für die Gelegenheit und dass wir sowohl ich als auch die anderen Referate hier in diesem Format zum Wort kommen. Dankeschön. Vera, wir freuen uns so sehr, dass du da bist. Du beschäftigst dich schon sehr lange mit dem Thema KI. Was fasziniert dich daran? Und vor allem die wichtigste Frage, wie würde eine KI dich beschreiben? Ich habe schon während meinem Studium als ICW, am deutschen Forschungsinstitut für Künstler, die ich intelligent, erst ein Kontakt zu KI gehabt. Und das hat mich sehr fasziniert, wie hier Ideen für Werkzeuge entstanden sind. Es gab erste Projekte zur Text- und Sprachverarbeitung und es war absolut interessant zu sehen, was man alles mit diesem Werkzeug machen kann. Aber ich halte es auch wirklich für einen Werkzeug. Ich bin nicht unbedingt ein Fan der Personifizierung der KI. Von daher spreche ich immer von dem Werkzeug KI oder dem Tool. Wie würde das Tool dich denn jetzt beschreiben? Ja, ich frage mich, was für Daten das Tool über mich hat. Wenn das Tool zu meiner Person was beschreibt, dann könnte es mich jetzt irgendwo einordnen, lokalisieren. Und auch vielleicht sogar den Arbeitgeber, das BSI. Mich thematisieren, ich hoffe aber, dass das Tool mich in dem Sinne als Fachbereisliterin im BSI zuständigheit für bestimmte Bereiche und mir eine bestimmte Aufgabe auch zuordnen. Und wir waren auch ein bisschen gemein, Vera, wir haben tatsächlich ChatGPD befragt, was es denn über dich hat. Und auf den Prompt bitte gesagt uns, etwas zu der Person, Vera Sykes vom BSI, kam folgende Antwort. Ich habe mich einmal vor Entschuldigung, aber ich habe keine Informationen über eine Person namens Vera Sykes vom BSI in meiner Datenbank. Es könnte sich entweder meine Person handeln, die nach meinem Kenntnisstand nach dem Jahr 2021 bekannt wurde oder es handelt sich in meine Fiktive-Fiegur. Können Sie weitere Informationen über Vera Sykes bereitstellen? Das freut mich jetzt für mich, weil ich mit meinen Daten im Internet sehr vorsichtig umgehe und eigentlich auch versuche das so zu händeln oder die Daten nicht so zu streuen, dass alle alles über mich wissen. Und definitiv habe ich auch beim BSI erst nach 2021 hier meinen Dienst angetreten. Von daher passt es zumindest die Aussage wahrrichtig. Vorher gab es mich nicht beim BSI. Und wir können auf jeden Fall auch zurück spielen, dass du keine Fiktive-Fiegur bist, weil heute sprechen wir ja live vor Ort mit dir. Heute ist übrigens der 23. Juni 2023 und wir nehmen die erste Folge unserer KI-Rei auf. Du hast schon erwähnt, dass du dich schon seit deiner Studienzeit mit dem Thema KI beschäftigst. Das heißt, du hast schon einige Entwicklungen mitbekommen. Die Idee der KI, die reicht ja eigentlich bis zur Antike zurück. Allgemein gilt jedoch die Datmauskonferenz im Sommer 1956 als Geburtstunde des Begriffs KI. Und zwar hat dort korrigierlich falsch sich der Fallschleger, aber ich glaube der Programmierer John McCarthy, das als Begriff geprägt dafür, das Aspekte des Lerns und andere Merkmale der menschlichen Intelligenz durch Maschinen simuliert werden können. Und mit der Beschäftigung mit dem Thema ist uns aufgefallen, dass immer wieder bestimmte Meilenstein erreicht wurden. Ihr beglatet worden sind von Euphorie, von Technologiebegeisterung. Die vielleicht dann auch von Phasen der Nüchterung gefolgt sind. Könntest du uns vielleicht ein paar dieser Meilenstein ernst gezieren und vor allem auch sagen, wo in der KI Forschung, wo in diesem Zeitalstrand befinden wir uns jetzt? Also du hast vorbekommen recht diese die Beschäftigung mit künstlicher Intelligenz ist historisch auch wirklich lang, jährig oder geht über Jahrunderte. Man hat aber auch sehr frühe schon Automaten gebaut, die Menschen interpretieren oder halt menschliches Handeln simulieren. Und ich würde jetzt aber mal die letzten 30, 40 Jahre vielleicht als Grundlage nehmen, weil künstliche Intelligenz trat dann auch als Problemlöser auf. Also man hat tatsächlich meistens mit mathematischen Fragestellungen, Großrechner oder Zentralrechner beschäftigt und hat dann über die vorhandenen mathematischen Logiken auch Antworten produziert. Das ist in dem Sinne halt so der Anfang, dass tatsächlich auch mit der Rechnertechnologie KI kürfiger wurde, auch eine größere Verbreitung für den Begriff überhaupt entstanden ist. Und danach kamen Expertensysteme. Das waren dann Systeme, die waren mit so einem Wissensbasin. Man hat wirklich Systeme trainiert, beziehungsweise man hat bestimmte spezielle logische Regeln gefunden mit denen ein Rechner, wenn ihm denn Wissen zur Grundelagentscheidungen betreffen konnte. Es gab einfach logische Entscheidungen, logische Regeln, an die sich das System gehalten hat und mit diesen logischen Regeln konnte es, kann es wissen verarbeiten. Dieses Wissen wird aber dann auch in diesem System geführt, also ein Wissensbasis vorhanden. Je mehr man jetzt vernetzen konnte und auch der Austausch über das Internet die Massendaten im Zug, also für die Forschung auch in den Zugriff brachte, hat man neue Bereiche aufgemacht und der wichtigste, glaube ich, ist das Maschinelle lernen. Also statistische Verfahren, das Trainieren auf Daten ermöglicht Anwendungen, ermöglicht neue Use-Cases und was euch bestimmten Begriffes ist, das Maschinelle übersetzen, das dann eingeführt worden ist. Und mit der Entwicklung gab es dann halt auch ein Punkt, Ende der 90er-Jahre, wo man wirklich Anwendungen hatte, also für die der Begriff KI genutzt wurde. Es gab aber auch, und das, was wir auch angesprochen, so Ernüchterungsphasen und es gab einfach die Situation, dass die Hardware nicht so leistungsfähig war und damit halt auch Grenzen gesetzt hat. Das hat sich in den 2000er-Jahren geändert, es gibt inzwischen sehr, sehr leistungsfähige Hardware, die dann auch wiederum eine höhere Verarbeitung möglich macht. Und damit statistische Verfahren und auch das Trainieren mit Daten in ganz neue Maßstäbe gesetzt hat. Und das ist auch das, was wir um Menschen schon in der Praxis sehen, viele Systeme, die in den Technologien einzukunommen haben, basieren auf Maschinelle lernen oder haben Elemente von Maschinelle lernen und während jetzt auch der KI zuzuordnen. Mit den letzten 18 Monaten haben wir nochmal in neuen Schritts, hier kommen jetzt KI-Systeme, einfach zu Tage, die generativ arbeiten, die tatsächlich auch neues schaffen und sich dann davon unterscheiden, dass ich bisher KI-Systeme im Fahrassistenten, in der im Online-Handel in anderen Systemen, kenn ich das schon. Wir haben im Handy, wir haben eigentlich im Alltag schon Geräte im Benutz, die uns helfen mit großen Daten schnell zu reagieren. Aber die generativen Systeme, die jetzt gerade mit, wenn die Sprachmodellen diskutiert werden, die liever noch mal eine neue Situation für das Werkzeug KI. Hier kann ich wirklich auch neues schaffen lassen. Ich kann Aufträge an die KI stellen, an das System und das Werkzeug liefert mir auch Antworten, liefert mir auch ein Produkt zurück. Und das ist was Neues, das ist auch ein neues Produkt. Es ist ja auch die Diskussion, ob sich die, also kann ich unterscheiden, hat das jetzt eine KI, ein KI Werkzeug kreiert oder kommt es von einem Menschen. Definitiv ist es ganz wichtig, dass wir viel über KI propagieren und auch viel nur haut über KI an die Menschen heranbringen, damit man damit sicher umgehen kann. Das System, KI oder das Werkzeug KI ist keine Hexerei, es ist nicht, es ist was aus der Informatik, aus der Mathematik und auch es allen anderen Lebensbereichen gefüllt ist System, dass sich aber auf, also reduzieren lassen kann, auf statistische Anordnungen und es Bedarfheit, wirklich, ein Know-how, um damit gut umgehen. zu können. Wer jetzt hast du uns ja schon auf eine super Zeitreise genommen mit durch die Entwicklung von KI. Du hast ja schon das maschinelle Lernen angesprochen, dann gibt es ja auch noch Deep Learning und KI an sich. Wie verhalten sich denn diese einzelnen Technologien zunander und wie ist KI jetzt definiert, kannst du uns das noch mal kurz erklären? Können Sie nicht vegan es nicht leicht zu definieren. Es BSE versteht unter dem Begriff "Kunther Intelligenz" die Technologie und die wissenschaftliche Disziplin, die mehrere Ansätze und Techniken, wie zum Beispiel Maschinele Lernen, Maschinele Lises schließen, die Robotik umfassen. Ehesysteme sind Software und Hardware-Systeme, die künstlich Intelligenz nutzen, um in der physischen oder digitalen Welt rational zu handeln. Das heißt auf der Grundlage von Wahrnehmung und Analyse ihrer Umgebung agieren sie mit einem gewissen Grad, ein Autonomie, um bestimmte Ziele zu erreichen. Es gibt keine allgemeingötige und damit von allen Akteuren konsistente nutzte Definition von KI. Aber sehr abstraktorten sich KI-Forschung, zwei Richtungen zu der schwachen KI und der starken KI. Die Stärke KI formuliert das KI-Systeme die gleichen Intellektorienfähigkeiten wie der Mensch haben soll oder ihm sogar übertreffen. Die schwache KI ist ein Problemlöser, ist fokussiert auf die Lösung von konkreten Anwendungsfragen, auf Basis der Methoden, aus der Mathematik, aus der Informatik und die dort entwickelten Systeme sind zwar zur Selbstoptimierungfähig, aber es werden und es werden aspekte menschliche Intelligenz nachgebildet und formal beschrieben, aber sie umfassen nicht gänzlich das, was wir als menschliche Intelligenz verstehen. Zu schwachen System, KI-System gehören die Produktionssysteme, die Maschinelle Beweise, Herleiten, die wissensbasierten Systeme, die haben wir auch schon angesprochen, Methoden zur Erhebung aber auch zur Modellierung von Wissen und Simulation und die Abgrenzung dann von der künstlichen Intelligenz als der allgemeine Begriff zu Maschinellem lernen und auch die Pläuerning. Es sind unter Einheiten. Maschinelles lernen ist ein Teilgebiet von KI. Die wird das vorhandene Wissen nicht explizit programmiert, sondern es wird aus Trainingsdaten im Klizier durch ein Lern-Aggorhythmus generiert und der Weiter-Einsatz und die Verbreitung von Maschinellörning, da wird es manchmal halt aus Maschinellörningss wird KI gleichgesetzt. Künstliche Neuronale Netze, das sind Modelle des Maschinellern, die als Vorbild das menschliche Gehirn haben. Sie bestehen aus einem vielen in softwarerealisierten Schichten von Knoten sogenannten künstlichen Neuron. Mit Hilfe von Trainingsdaten, Beispielen, verändert ein Lern-Aggorhythmus. Die Gewichte, das heißt, das Zahlenwerte an den Verbindungen zwischen den Neuron, so lange bist die Ergebnisse für die Aufgabe gut genug ist. Die Anzahl der Neuron und die Schichten und ihre Verknüpfung untereinander wirkt sich dann maßgeblich auf die Lösungskompetenz eines Modells aus. Die Blörning ist ein Maschinellis Lern in Neuronalen Netzen, in künstlichen Neuronalen Netzen, mit mehreren bisher sehr vielen Schichten, die sich aus einer Vielzahl künstlicher Neuron zusammensetzen. Dieses die Blörning tiefe Slern ist verantwortlich für die derzeitigen Erfolge in der Sprach- und Text- und Bildverarbeitung. Sollte Systeme haben im Bereich von Millionen Milliarden für Systeme wie Chatty-Betie, zum Beispiel, gelernte Gewichtswerte zwischen den Neuron. Diese Gewichtswerte sind im Allgemeinen für Menschen nicht interpretierbar. Es sind Black-Box-Systeme. Das gelernte Muster zu verstehen und Aussagen darüber zu treffen, ist daher sehr, sehr schwierig und aktuell auch der Forschungswegenstand, mit dem wir uns auch beschäftigen. Und du hast es eben schon gesagt, du siehst das als Tool, KIA als Tool als Problemlöser. Wir wissen ja gerade aus den letzten Monaten ist die Erfahrung, dass diese Tools kontin-Protonzenten sein können, für Text, für Bild, für alles Mögliche, eben weil sie lernen und selber auch selber etwas Neues schaffen. Die Frage sind, welcher Qualität, wobei wir auch da, glaube ich, eine unglaubliche Steigerunsehen werden, auch über den nächsten Monaten weg, aber auch den nächsten Jahre. Woran arbeitet denn das BSI genau in dem Bereich KI? Ich weiß, es gibt viele Referatetiedernarbeiten. Wie ist das hier aufgespannt? Das BSI versteht sich als Kompetenzzentrum für die Sicherheit im Bereich KI. Sie attressieren alle Aspekte da zusammenarbeit zwischen Informationssicherheit und künstlicher Intelligenz. Dazu gehören Angriffe gegen KI, IT-Sicherheit durch KI, aber auch Angriffe mit KI. Und wir fördern den sicheren und transparenten Einsatz von KI, den Verbraucherprodukten und Dienstleistungen. Insgesamt wollen wir die Entwicklung der Methoden, die die Sicherheit erhöhen, systematisch vorantreiben. Und die Ergebnisse der Bevölkerung, der Verwaltung und der Wirtschaftsverfügung stellen. Wir untersuchen auch Maßnahmen, also versuchen auch die Beutalungsfähigkeit, der Verbraucherinnen, Verbraucher für KI-basierte Systeme zu stärken. Da haben wir jetzt gerade ein neues Referat aufgebaut. Dann kommt als dritter und wirklich auch sehr, sehr wichtiger Baustein bei den Normen und Standards für KI noch zum Tragen. Hier gilt es halt auch, die Grundlage erst mal zu schaffen, dass KI-Systeme unter anderem auch in kritisch Bereichen überhaupt eingesetzt werden können. Hier arbeiten wir bei nationalen Organisationen mit und haben hier auch zum Beispiel schon sehr früh mit dem AI-Cloud Service Compliance-Gritärier-Katalog. Unser AI-C4-Katalog, Beispiel gegeben und ein Beitrag geliefert, der heute auch eine gute Grundlage bietet. Wir sind in der deutschen Normungs-Rotmap für KI unterwegs und haben hier Projekte, die hoffentlich für uns in sehr zeitnah auch in künftigen Standards und Zertifizierungsschema für KI einfließen können, soweit zu dem, was wir aktuell machen. Du hast das Thema Sicherheit von KI gerade auch schon angesprochen. Das gehört ja auch mit dazu. Wir erleben ja gerade, wie sich diese ganze Technologie wirklich rasant entwickelt. Ich habe jetzt Demos gesehen, was man mit Bildbearbeitungsprogrammen oder Videobearbeitungsprogrammischen alles auf einfachsten Wege machen kann, um Bilder oder Audio-Dat-Teilen zu erstellen oder eben dann auch zu manipulieren. Gleichzeitig fragt man sich, also ein bisschen sind solche Deepfakes auch schon im Einsatz, also im Kontext auch vom politischen gesellschaftlichen oder wirtschaftlichen Ereignissen. Die USA-Präsidentin war, steht bevor. Also ist das schon eine große Bedrohung und ein Instrument von Cyberkriminellen? Also soweit ich es beurteilen kann, ist die Verwendung von Deepfakes noch keinen Massen-Fanomen. Aber die Verwendung nimmt immer mehr zu. Und Bild und Tonmanipulation gab es schon immer die neuen Technologien ermöglichen, es wird doch, dass Deepfakes wesentlich schneller und in größerem Umfang, und mit viel weniger Expertise, das heißt, also auch von Leinen erstellt werden können. Wäre was kann man denn tun beim Thema Deepfakes, um nicht Opfer zu werden oder um Deepfakes möglichst schnell zu erkennen? Die menschliche und auch die technische Erkennung von manipulierten Inhalten wird immer schwieriger. Es wird zum Teil unmöglich, wenn der vermeintliche Chef bei der Buchhaltung anrufen, an der Beweisung auf einen Kontur anweist, ist technisch zu verifizieren. Die Qualität sollte man die Produktionsversuche durch KI-Technologien verbessert. Merkmale wie mangelhafte Rechtsschreibung, mangelhafte Kramatik, weiter Schreibst ihr bei Fake-Imails oder artefakte in Fake-Audios und Fake-Video Material werden abnehmen. Sicherte Informationsquellen und gesicherte Daten übertragen werden damit umso wichtiger, da Menschen anhand des Materiales und das Inhalts an sich die Fälschungen immer schlechter erkennen werden können. Und mögliche Gegenmaßnahmen, SAA, wirklich die Sensibilisierung und Schulungen der Menschen im Umgang mit den Informationen, eine Schaffung von vertrauenswürdiger Informationsportale, dass man auch weiß, wenn man dort Informationen abgreift, sind die authentisch. Die Forschung weiter an Deepfake Erkennung und gegebenenfalls auch gesetzliche Regulierung und Sanktionierung. Und ein vertrauenswürdiges Informationsportal ist die BSI-Webseite und da gibt es auch noch Tipps zum Thema Deepfakes. Wir werden auch alles worüber wir sprechen in die Sauen in den nächsten Folgen in den Schonauts übrigens verlinken, falls jemand gerade sich hektisch fragt, wo finde ich die Informationen, die findet ihr nachher auch auf jeden Fall den Schonauts. Wir verlinken alles. Wera, wir haben jetzt gerade über einen speziellen Angriffsart gesprochen über Deepfakes, aber ich kann mir vorstellen, es gibt noch viele andere Sicherheitsbedrohungen, die im Zuge mit KI auftreten können. Könntest du uns da speziell etwas nennen, worauf die Wirtschaft, die Unternehmen achten müssen? Auch für die Wirtschaft gilt halt im Umgang von den Anwendungen, wenn ich KI-Systeme benutze, muss ich mir wirklich fragen, brauche ich es und für was für einen zwecksetzliches ein. Eine Nutzung von KI-Systemen, die Zugang zu Firmen geheimnissen hat, also wo ich dem Werkzeug Informationen gebe. Da habe ich natürlich ein hohes Risiko und das sollte ich auch nur tun, wenn ich dieses Risiko vorher eingeschätzt habe. Hunsätzlich gibt es Informationen, die vertraulich zu behandeln sind und die gehören auch meines Achens nicht in ein KI-System, wo jetzt auch ein neuer Anwendungsfall kreiert wird oder halt, was ich jetzt erbliert ist, die Programmkoterstellung von KI. Das könnte auch für Unternehmen sehr lokal tief sein oder auch interessant sein. Hier wäre es auch wichtig, dass man tatsächlich eine Qualitätssicherung weiterhin aufrechterheit oder sogar und das ist halt das Werkzeug KI. Immer dann, wenn ich KI einsätze, auch in der Industrie. Ich sollte qualität sich an der Maßnahmen dazu daneben stellen, damit ich tatsächlich auch mich verbessere, damit diese KI tatsächlich mir auch ein Mehrwert bringt. Also blind in eine KI zu vertrauen und zu sagen, die macht das schon. Das ist ein großes Risiko auch für die Wirtschaft. Ich glaube, das ist aber vergleichbar mit der Robotik. Auch hier hat die Industrie ja gelernt, damit umzugehen. Bei KI wäre es jetzt sinnvoll, dass man sehr, sehr schnell auch nur auf Bau hat, damit die KI Produkte sinnvoll und Ziel für uns eingesetzt werden. Mhm. Jetzt haben wir viel über den Sicherheitsaspekt von KI schon gesprochen. Gleichzeitig muss man natürlich abwegen. KI ist ja auch eine Schlüsseltechnologie. Da gibt's jede Menge Chancen für die Wirtschaft. Die Bundesregierung hat 2019 erhoben, dass nur so um die sechs Prozent der Unternehmen KI eingesetzt haben, also ungefähr 17.500 Unternehmen. Was schätzt du, wie hat sich das entwickelt im Vergleich zu heute? Wie viele sind es heute und für welche Unternehmen ist es auch spätestens jetzt ratsam, sich mit dem Thema zu beschäftigen und in KI zu investieren? Grundsätzlich für alle. Ich gehe davon aus. Es machen heute schon wesentlich mehr Firmen oder Unternehmen beschäftigen sich damit. Und ich glaube auch, dass KI, weil es jetzt ein niedrigschweiligeren Einstieg gibt, in vielen Bereichen auch zur Anwendung kommt und auch kommen sollte. So lange man weiß, was man damit macht und so lange man auch arbeiten, damit ver einfachen kann. Also ein schönes Beispiel ist, so das Lehreplatt. Also wenn ich mir Gedanken machen soll, ich soll irgendwo zu irgendetwas etwas schreiben. Und komme erst mal nicht los, dann könnte ich über einen KI-Tool, zumindest mir mal ein paar Punkte geben lassen. Wenn ich dann mit einer Kompetenz in diesen Punkten das weiterführe, kommt schneller und vielleicht sogar ein sehr, sehr gutes, also auch ein besseres Ergebnis raus, als wenn ich es ohne das Werkzeug KI gemacht hätte. Also dieses wirklich einsetzen überall da, wo ich mit einer hohen Datenmenge umgehen muss. Oder mit gleichartigen Vorgängen in der Administration der Verweitung. Kann ich mir sehr gut vorstellen, dass es viele Dinge gibt, die über KI vereinfacht werden können. Und wo man halt auch wirklich den Menschen einfach Arbeitsfreundlichere oder menschfreundlichere Arbeitsumgebungen einrichten kann. Mit dem Faktor, Sie müssen sich nicht mit sehr langweiligen oder aber auch mit immer wiederkehrenden Vorgängen beschäftigen. Das andere ist ein Thema, was mir auch sehr wichtig ist, ist ein Grunde in der Medizin. Ich glaube, wir verlangen heute von sehr vielen Ärzten, sehr genauer Diagnostik, die Datenmenge, die man heute hat, ist ja sehr groß. Das heißt, Diagnostik-Unterschützende-Systeme kann KI sehr viel tun, ohne den Mediziner zu ersetzen oder die Medizinerin. Aber es geht darum, dass man wirklich, dass auch Ausnutz damit wir vielleicht vielfältigere neue Ergebnisse bekommen, weil die Mustererkennung über die KI sehr gut laufen kann, weil wir bestimmte Dinge der Mensch übersieht, einfach über diese Automation lösen können. Das ist auch so ein Sonderfall oder ein Anwendungsfall, den zum Beispiel die deutsche Ethik-Rat behandelt hat, der Einsatz von KI in der Medizin an absolut wichtiges Thema, über das wir übrigens auch in der zweiten Folge KI und Ethik sprechen werden. Gehen wir auch noch mal ein bisschen darauf ein. Aber du hast jetzt schon sehr wichtiges Stichwort gebracht, nämlich Menschenfreundliche Arbeitsumgebung. Und damit nimmst du quasi die Antwort meiner Frage vorweg, weil ich wollte dich fragen, wie du das siehst. Es gibt eine große Polarisierung hinsichtlich der Beurteilung, wie man KI in Arbeitsumfeld einsetzt, ist das eine Chance, um Arbeitsumgebung effektiver und eben Arbeitnehmerfreundlicher zu gestalten, oder nimmt uns die KI den Arbeitsplatz weg. Meine bisherigen Berührungen zu KI waren so, dass ich mich dadurch auch unterstützt fühlte. Aber man muss sich das entsprechende. Man muss sich die Grundkenntnisse dazu auch erwarten. Ich glaube, wie gesagt, KI ist ein Werkzeug, die Nutzung und die Anwendung, die gibt mir Raum und Zeit für anderes. Vereinfacht mir damit auch viele Arbeiten. Und speziell da, wo wir sagen, wir sind heute eine digital durchdrunde Gesellschaft. Wir wollen ja die Daten, die da sind auch wirklich verwenden, dann kommen halt zu der Datenkompetenz auch die KI-Kompetenz dazu. Und dann haben wir eine Arbeitswelt oder Könnearbeitswelt schaffen, in der halt sehr, sehr gute Ergebnisse erzielt werden und die Menschen sich, wie gesagt, durch bestimmte Dinge entlastet fühlen. Ich möchte nicht die Entscheidungen an die KI abgeben. Also, wenn ich einen Hammer benutze, dann kann ich mit dem Hammer immer noch selber bestimmen, wo der hinhaut. Wenn ich den KI benutze, möchte ich genau diese KI einsetzen. Und das Werkzeug KI gibt's die Möglichkeit. Es ist aber natürlich auch in Anführungszeichen ein Dual-Juskut. Also man kann halt auch KI missbrauchen. Und ich glaube, es ist ganz wichtig, dass man da das Verständnis dafür schafft. Wenn ich KI anwende, dann definiere ich auch genau, wo fühle ich sie anwende und auch, wo fühle ich nicht. Das ist ein bisschen der Spielraum, den wir jetzt noch haben. Und ich hoffe, dass der uns auch nicht verloren geht, indem er zu schnell in eine Automation hineinlaufen, die ungesteuert von genau diese Entscheidung ist. Und die Gefahr ist ja wirklich da, weil alles sich gerade rasant entwickelt und auch wie gesagt, Unternehmen auch zunehmend auf KI setzen, weil es sagen, es ist einfach jetzt notwendig und an der Zeit. Dazu eine kleine Frage, wenn man überlegt, KI einzusetzen, oder wenn man in seinem Arbeitsumfeld damit konfrontiert wird. Was sind die absoluten Basics-Einsteiger-Tips, die uns und Zuhörern und Zuhörern mitgibt, im ersten Kontakt? Also, ich sollte mir genau angucken, wofür was macht diese KI für mich? Also jetzt, ich muss nicht unbedingt wissen, wie die KI funktioniert. Aber was soll für den KI für mich hier am Arbeitsplatz herauskommen? Was ist das Ergebnis? Soll sie mich unterstützen? Gibt's mir Informationen? Gibt's mir Entscheidungsvorlagen? Also, ich muss mich dann beschäftigen, was macht die KI für mich? Und dann sollte ich halt auch wesentliche Einflussfaktoren auf die KI kennen. Das heißt, ich sollte wissen, mit welchen Daten geht die KI um? Welchen Einflüssen unterliegt sie? Und davon Abhängigkeit auch sie in dem Sinne einschätzen können. Wie beim Autofahren. Ich weiß heute nicht, wie mein Auto im Detail funktioniert. Ich setz mich rein und es fährt. Ich verlange aber auf dem Auto, dass es dann anhält, wenn ich Stoppsage oder auf die Bremse trete. Und ich verlange, dass ich es beschleunigen kann und auch parken kann, wo ich es möchte. Diese Entscheidungen, die man am Arbeitsplatz unterstützt bekommt, die sollten für den jeweiligen auch tatsächlich Unterstützung-Sleistungen sein. Und das zu hinterfragen, das ist wesentlich. Ich möchte auch anmerken, wir reden immer von der Arbeitswelt. Wichtig ist, ganz früh anzufangen, dass die Technik, die wir einsetzen, schon bei den Kindern und bei den Jugendlichen, also auch über die Schulen vermittelt wird. Zumindest das Grundkenntnisse, die sie sich jetzt auch schon anreignen. Ich habe den Eindruck, die Generation, die jetzt wirklich noch nicht den Arbeitsmarkt erreicht, die sind gar nicht schlecht im Umgang mit KI. Aber da gehört halt einfach halt auch noch mehr investiert und auch mehr getan. Und dann habe ich auch in der Arbeitswelt nachher kompetente Arbeitnehmerinnen, Arbeitnehmer oder auch kreative Köpfe, die wirklich halt das Beste aus diesem Werkzeug herausholen. Ich habe noch eine Frage zurück zur Arbeitswelt. Wir werden in Zukunft vielleicht weniger Fehlentscheidungen von Unternehmen sehen, weil sie vielleicht informierter gehandelt wird, auch durch KI. Also, Unternehmensentscheidungen sind ja oft strategische Entscheidungen. Da gibt es Unternehmen, die haben große Trends verpend. Wetter es in Zukunft weniger sein, so was oder hat KI darauf keine direkten Auswirkungen? KI selbst hat keine Auswirkungen, aber die Daten, mit denen ich die KI fürte, haben natürlich Auswirkungen. Also, wenn ich die richtigen Daten, der KI bereitstelle oder sie an den richtigen Daten trainiere und ihr den Zugriff daraufgebe, dann habe ich auch gute Entscheidungen. Aber die Frage, was sind jetzt die richtigen Daten? Da ist der Mensch auch wieder gefordert, weil es halt in meinen Augen nicht eine Loslösung gibt, dass man sagen kann, dass man die KI einfach alles sich an Daten holen und dann stellen wir eine Frage und dann sind wir einfach mit der Antwort zufrieden. Sondern es müssen halt auch weiterhin bestimmte Kategorien von Daten oder bestimmte Informationen zu den Daten von Menschen so priorisiert werden, dass dann die KI die richtige Entscheidung vorschlägt. Aber ich glaube, schon wir können das erwerden, aber es ist nicht die KI selbst, sondern es sind die Daten, mit denen die KI dann umgeht. Das heißt, es braucht einen kompetenten Betreuer der den stuhastischen Papagalen fürte, richtig? Es ist eine schöne Ansage an jetzt, genau. Okay, Vera, zum Schluss wollen wir mit dir noch den internationalen Bogen schließen. Du bist ja. oder ihr seid ja mit den KI-Rafferaten auch in Saarbrücken angesiedelt vom BSI aus. Da habt ihr auch die Schnittstelle zum internationalen, zu Frankreich, zu Luxemburg und seit da gut vernetzt. Wo stehen wir denn als Deutschland im internationalen Vergleich beim Thema KI? Also in der KI-Forschung sehe ich uns wirklich gut aufgestellt. Da ist einiges da. Wir sind ja auch hier am Campus in Saarbrücken. Unter anderem, hier gibt es das deutsche Forschungsinstitut für Künstlige-Ligenz. Das seit den 80er-Jahren schon. KI, Anwendungsorientiert forscht und auch mit ganz vielen Produkten, in dem Sinne über Start-ups auch dazu beigetragen hat, dass KI sich verbreitet. Aber wir haben in der aktuellen Situation auf jeden Fall einen Handy-Capt, weil die Art und Weise, wie wir KI bisher auch trainieren oder wie wir mit welch was für Möglichkeiten wir haben, ist einfach eine andere als das, was uns jetzt gerade oben AI vormacht mit dem Sprachmodellen. Das heißt, also hier gilt es halt dafür zu sorgen, dass auch die deutschen Player und die gibt es halt einfach dazu zugekommen und sich ja auch präsentieren können mit entsprechenden Anwendungen oder Produkten. Aber ich glaube halt, dass die EU, gerade weil wir ja auch letzten Monate oder noch diesen Monat haben wir den EU-AI-Ekt zur Ratifizierung in die Länder bekommen, die das EU-Pallement hat es verabschiedet. Diese Diskussion allein, da sind wir führend. Also es gibt in keinem anderen Land diese Regulierungsgedanken, die sich hier schon gemacht worden sind und da hoffe ich, dass das auch positiv genutzt werden kann. Also von daher, wir sind nicht die führende KI-Nation, aber wir sind glaube ich auf dem richtigen Weg, uns mit den Problemstellungen der KI zu beschäftigen und hoffentlich auch in KI-Anwendungen zu zeigen, was da positives herauskommen kann. Liebe Vera, uns weiß es so, dass wir in jeder Cyber's Nächste kurz verschluss, uns und Cyber's Nächste ein spielen und das ist etwas, wo wir unsere Themen, Publikationen, Ideen vorstellen, die in den nächsten Monaten in der nächsten Zeit Cyber-Sicherheitsrelevanz sind. Deswegen unsere Gäste dürfen immer anfangen, Vera, was hast du auf dem Radar? Also für mich sind moment die weiteren Veröffentlichungen zur Sicherheit bei den generativen Modellen. Das ist ein Ausgangspunkt von dem ich wirklich sehe. Da kommt noch einiges. Wir haben schon was gemacht und in die Richtung geht es jetzt auch erst mal jetzt über den Sommer weiter. Dankeschön. Tobi und ich haben mit auf dem Radar das im Herbst wieder die Ezerstadt findet. Das heißt, das ist etwas eine Veranstaltung ein Mast-Tobi, wer, wo ihr auf jeden Fall mit vielen interessanten Kolleginnen und Kollegen des BSI vielleicht auch von TK ins Gespräch kommen könnt. Und deswegen ist das unsere Empfehlung für den Cyber's Nächste dar. Da werden wir uns auf jeden Fall sehen, da sind wir mit KI und auch mit Cloud-Team vertreten. Wir freuen uns drauf. Super. Perfekt. Vera, auch nochmal vielen Dank für das interessante Gespräch. Lieben Dank, dass ich dabei sein durfte und noch viele schöne Folgen. Dankeschön. Ciao. Grüße nachs Abbrücken. Ja, das war's auch schon wieder mit unserem Podcast Cyber's Nächste. Allianz für Cyber-Sicherheit. Schön, dass ihr dabei wart. Heute zum Thema künstliche Intelligenz und in der nächsten Folge beschäftigen wir uns dann mit den ethischen Aspekten rund um das Thema KI. Wenn ihr Fragen kritik oder Anmerkung habt zu unserem Podcast, dann meld uns gerne an [email protected] und bis zum nächsten Folge. Bleibt Cyber-Sicher. [Musik]