KI, Macht und Missverständnisse – Wie wir Technologie wirklich verstehen (mit Prof. Dr. Alke Martens)

# Tech, KI und Schmetterlinge Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarz-Digits Guten Tag und herzlich willkommen zu einer neuen Ausgabe Tech, KI und Schmetterlinge Der Podcast von mir, Sascha Lobo in Zusammenarbeit mit Schwarz-Digits dem deutschen Technologieanbieter für europäische Digitales zur Verinität Das Thema, das wir heute besprechen möchten, ist eins, was sich wie so ein Netz durch diese gesamte KI-Blase, durch den KI-Komplex durchzieht Eigentlich durch Technologie schon immer und durch Gesellschaft erst recht Es geht nämlich um die verschiedenen Ausbringungen von Macht gerade auch in Verbindung mit Technologie und Kommunikation Das heißt, ich erst mal verkopft an, das hört sich erst mal sehr fast philosophisch an und Technikphilosophie steckt auch drin, Kopf steckt ohnehin drin Es ist schon ein intellektuelles Wären, der wir uns bewegen Aber es gibt ein ganz großes Gegengewicht, wie redet man eigentlich über Technologie und künstliche Intelligenz in der Öffentlichkeit Und zwar so, dass auch die Leute das verstehen, die sich vielleicht sonst nicht vollzeit mit dem Kopf im Saurer-Schrank dafür interessieren Meine Gäste heute ist jemand, der genau das vor einem guten Jahr für sich entdeckt hat nämlich der Öffentlichkeit künstliche Intelligenz auf eine Weise zu erklären dass die Menschen dort verstehen und auch fühlen, was und wie Technologie und speziell künstliche Intelligenz eingesetzt werden kann Bei mir ist nämlich Professor Dr. Alke Martens, Professorin für praktische Informatik Hab ich das richtig verstanden, Alter? Correct, ja, das ist völlig richtig Das muss ja erstmal erklären Also ich würde aus meiner Sicht natürlich sagen, unpraktische Informatik ist das, was am häufigsten da passiert Was ist denn praktische Informatik? Praktische Informatik ist in dem Fächer Kanon der Informatik der Teil der versucht Forschungsergebnisse aus der Theorie zu übertragen in die Realität sozusagen Also wir sitzen ja in der Informatikforschung oft auch im Elfenbeinthomen weil wir versuchen Dinge zu entwickeln, die es einfach noch nicht gibt oder wo der Bedarf auch noch nicht klar ist Der Kanon, der Fächer, der Informatik besteht aus der Theoretischen Informatik Datenbankenshoch für Engineering und weiteren Fächern Und dazu noch die praktische Informatik, bei der immer wieder versucht wird Die Modelle aus der Theorie in praktische Anwendungen zu überführen kann man sagen Und in meinem Fall ist es beispielsweise jetzt KI Ja, künstliche Trigenz ist ja ein Feld, das seit ein paar Jahren, drei und einhalb könnte man sagen, gerade so explodiert Und anders als viele andere Technologien habe ich den Eindruck, dass fast von Anfang an Ein ziemlich substanzieller Teil der Öffentlichkeit Also auch von Leuten, die eben nicht so Heightack interessiert sind merken da ist was im Gang, das könnte mich betreffen Da ist irgendwie etwas wo ich sehe, damit habe ich zu tun, beruflich, privat Ein paar Generationen, sozusagen Generation Z und Teile der Millennials Haben das längst in ihren Alltag adoptiert? Wir reden hier von Ratten von ungefähr 50, 60, 70 Prozent der Menschen in bestimmten Alters zirkeln und auch bestimmten Sozialen Die künstliche Trigenz benutzen Aber da fängt es eben auch schon an, weil relativ viele Leute das eben auch noch nicht tun Unter anderem, weil sie es entweder nicht verstehen, weil sie Angst davor haben Oder weil sie zu wenig wissen? Oder weil sie es nicht brauchen, das darf ja auch nicht vergessen werden Also es ist jetzt, vielleicht muss ich auf eine anderen Ebene anfangen Die KI selber, die Idee der künstlichen Intelligenz kommt aus den 50er Jahren Und in den 50er Jahren waren unsere Sicht auf Menschen, auf Psyche, auf Intelligenz Und auch auf Maschinen und die Bedeutung der Maschinen noch eine gänzlich andere Wir stehen dann sozusagen in der Zeit nach dem Zweiten Weltkrieg In der Zeit, wo es um wieder aufbaut ging Und in einer Zeit, wo die ersten großen Erfahrung mit der Wirksamkeit von Maschinen Aus der digitalen Welt sozusagen gemacht wurden Also die Enigma-Verschlüsselung, die einfach sagen historikerinnen und historiker Doch deutlich in das Ende des Weltkrieges sozusagen eingegriffen hat In dem sie einfach sehr schnell war, kurz zu entschlüsseln Und dann stand auch vorher sagen sehr viel präzise zu ermöglichen Es ging da um Übertragen von Informationen über mediterische Informationen Und seit den 50er Jahren hat sich wahnsinnig viel verändert Also unser Bild von Intelligenz, unser Bild von Informationsverarbeitung Die gesamte Psychologie hat sich verändert und natürlich auch die Informatik Und das, was jetzt passiert ist seit 2023, 2024 ist das auf einmal ein Tool zur Verfügung steht Das so ein bisschen mit diesen Männthüchern, das es sehr, sehr viel mehr kann als vorher auftaucht Und ausgeschütet wurde für die Bevölkerung So dieses Tool kann jetzt quasi alles, was ihr euch wünscht Und diese Erzählung, dieses Narrativ, die ist nicht wirklich korrekt, dieses Tool kann sehr viel Aber es bleibt trotzdem noch ein Tool Und ich glaube, das was einfach Hand in Hand gegangen ist Es ist dieses große Verbreiten von Social Media, was ja auch ein Marketing Instrument ist Diese extrem große Bewerbung von KI als der neueste Entschuldigung-Kaisescheist, der jetzt verfügbar ist Und dann Menschen, die auf einmal das hören konnten über KI geredet wurde seit dem 50er Jahren Aber es war vielfach doch nur ein beweise in Militär oder in Wissenschaft angesiedeltes Thema Und es wurde denke ich durch diese enorme Verbreitung in Social Media auf einmal sah noch, wie ich gemacht Und viele Leute können es benutzen Aber es gibt auch sehr, sehr viele Leute, die es absolut nicht benutzen können und auch den Sinn davon nicht einsehen Warum sie es benutzen sollten Das finde ich super spannend, dass du nicht brauchen als Kategorie einschüsst Das sind so Punkte, da merke ich, dass ich in, ich weiß nicht ob man so Babel sagen kann Aber sagen wir mal in sozialen Zirkeln unterwegs bin, wo das Kriterium brauche ich das eigentlich gar keine Rolle spielt Meist es sogar im Gegenteil, dass sie jetzt natürlich auch besonders darauf abzielen, dass das ein Teil meines Beruf ist Aber meistens ist das halt im Gegenteil, oh, schau mal ein Instrument, ich weiß noch gar nicht, wofür ich verwenden kann Aber ich benutze das mal, vielleicht ergibt sich ja der Sinn nach später Das ist eher meine Perspektive, dass sie nicht brauchen, finde ich spannend, weil es aus meiner Sicht in den meisten Fällen eher eine Art noch nicht brauchen ist Einerseits und andererseits auch ziemlich genau in den Kern von unserer Sendung reingragt Denn am Ende ist dieses Brauchen ja nichts, was man ganz alleine entscheidet Brauchen hat auch immer so eine gesellschaftliche Komponente, so eine soziale Komponente So ich würde sagen eine machtstrukturelle Komponente, das ist bei Technologie ganz oft so Das konnte man bei Social Media wunderbar beobachten Jungen Menschen konnten bis zum Jahr 2012, 2013 sich mehr oder weniger aussuchen, ob sie in Social Media Profil haben oder nicht Inzwischen, auch wenn man Social Media ein bisschen breiter versteht und da Messenger mit drunter erzählt Inzwischen hat man eigentlich nicht mehr die Wahl Wir sagen gesellschaftliche Teilhabe ist nicht über Nacht aber innerhalb sehr kurzer Zeit zu einer Frage davon geworden, ob ich Social Media benutzen kann, benutzen darf Weil es dies funktioniert und mich halbwegs da so den Dingen im Aussetzen kann ohne zu große Schäden davon zu tragen Und genauso glaube ich kann es mit KI passieren Das zumindest ganz deutlich im Interesse der Form, denn das, was jetzt momentan passiert ist, dass ohne irgendjemand gefragt wird Sehr viele KI-Funktionen einfach integriert werden und in Tools ausgeliefert werden, das startet bei Betriebssystemen Wo die Vollteinstellungen einfach auf Ansehen für KI-Funktionen, sei es zum Beispiel bei Chatbot oder so Und endet auch darin, dass viele Browser ausdrücklich zunächst mal KI-Zusammenfassung der Ergebnisse anbieten Während jetzt andere Browser und das ist so ein bisschen eine Gegenbewegung ausdrücklich sagen Wir haben die Möglichkeit, eine KI einzubinden, aber du darfst auch ohne KI-Shörfen Und das ist das, wo meine Babel im Grunde 2 gespalten ist, denn dadurch, dass ich KI umgangselkritisch und sehr vom Ziel gerichtet her auch diskutiere Bin ich als Forscherin eine, die sagt natürlich brauchen wir KI und natürlich wird diese Forschung auch weitergehen Und da gibt es auch großartige Sachen, die wir damit tun können Das sage ich aber schon seit 20 Jahren und auf der anderen Seite haben wir die Realität, wo zum Beispiel meine Kinder bereits erkannt haben Dass der Nutzen von KI im Sinne von einer Browser erleichterung sehr sehr viel Schaden mit sich bringt, weil zum Beispiel Recherche Ergebnisse unglaublich stark verzerrt werden Und dann hinterher sehr viel kompliziert, da wieder bereinigt werden müssen Und da geht so die Schere auseinander, diese, diese initial Idee von 2024 Es ist so geil wir brauchen, das unbedingt würde ich sagen, flacht jetzt so ein bisschen ab Das wie du vielleicht auch sagen kannst natürlich kann ich mit einem Hammer, Nagell in die Wand schlagen Ich kann mit einem Hammer auch Flaschen kaputt schlagen Aber wenn ich ein Butterputt streichen möchte, dann ist ein Hammer vielleicht nicht das richtige Werkzeug Und das ist ja auch das Spiel dann noch ausprobieren Ja, genau Ich möchte ich gerne ausprobieren, das mit einem Hammer zu machen, einfach weil ich da sehr trotz ich bin Ja, glaube ich Ich lasse mich doch nicht meine Instrumente von dir jetzt kaputt Also das gerne aber mache ich wieder Was ich gut finde, du hast einen ziemlich großen Instagram-Kanal an der größten deutschen Instagram-Kanäle für KI-Erklärung Muss man sagen mit einer sechsstelligen Vollware-Zahl Die meskiste auf die 200.000 Vollware-Zu und wenn man sich anguckt wie die Leute darauf reagieren Dann füllt es zu ganz eindeutig eine Lücke für das Publikum Man erkennt das auch ein bisschen an deinen erfolgreichsten Videos Die sind in der Spreitsbreite die du anbietest von ziemlich heittek und wirklich informatischen Erklärungen die du es war so ein bisschen Vereinfachst vollkommen klar ist ja kein Oberseeminar aber die auch schon sehr technologisch zu so ganz einfachen und schlagkräftigen Erklärungen für Alltagsfragen. Wo Menschen etwas sich gruseln. Ich glaube, einst deine erfolgreichsten Videos handelt, zum Beispiel davon hörten mich mein Handy ab. Das ist ein Evergreen der Fragestellung, der in Prinzip seit Erfindung von Smartphones in der Öffentlichkeit intensiver besprochen wird. Und dann mit Social Media noch mal und dann noch mal und dann noch mal vor allem weil die Social Media Unternehmen bei denen man das vermutet in der Zwischenzeit sich jetzt nicht unbedingt nur mit rumbekläckert haben. Dann gab es von dieser Diskussion bei Amazon Alexa noch mal ein Strohfeuerchen und die große Auflösung, weil jetzt bei KI wieder die Diskussion noch kommt, werde ich abgehören. Die KI kann reden, dann kann sie auch hören, die versteht mich. Es ist eigentlich immer mehr oder weniger die gleiche. Du erklärst, dass die Grundzüge davon von diesem sogenannten Social Graphing, nachdem das häufig funktioniert, wo man denkt, "Ahh, eben habe ich über Winterschuhe geredet und jetzt trigg ich irgendwelche Anzeigen für Winterschuhen, dass die Social Graphing im Prinzip seit den 60er Jahren und mit den Schwerpunkt in den 70er Jahren diskutiert wird. Das gehört zu deinen erfolgreichsten Videos und es ist, wenn ich deswegen so wahnsinnig aufklärend und klug, weil du halt nicht sagst, hey, total Entwarnung stimmt gar nicht, sondern weil du einen durchaus große, die Gistema zwar faktisch richtig auflöst, aber sagst und trotzdem müssen wir uns auskennen, wir müssen Bescheid wissen. Wir brauchen so eine Basis an Bildung und um Technologie und künstliche Intelligenz, sonst können wir nicht einschätzen, welche Macht diese Technologie mit sich bringt." Correct, das ist ganz lustig, dass du das so formulierst, weil ich ja nicht nur praktische Informatik repräsentiere, sondern auch die Daktik der Informatik und da ist unser Erkläransatz, so da bilden wir Lehrerinnen und Lehrer aus. Wir haben im Bundesland, Mecklenburg-Vorpommern seit ganz, ganz vielen Jahren Informatik, also Pflichtfach an der Schule abklasse fünf, jetzt auch seit einiger Zeit. Und das bedeutet, dass die Schülerinnen und Schüler, die hier in Mecklenburg-Vorpommern einen Schulabschluss machen, also wir haben hier Gesamtschulen und Gymnasien, dass die Abklasse fünf informatisch unterrichtet wurden. Und wir meinen damit nicht, dass sie in der Nutzung von Softwarepaketen von großen Anbietern geschult wurden, sondern wir meinen damit, dass sie begriffen haben, was ist eine Textverarbeitung, was ist eine Tabellenkollulation, was ist ein Algorithmus und was ist ein Programm. Und der Erkläransatz, den wir brauchen, um Schülerinnen und Schüler abzuholen, der ist natürlich extrem niedrigschwellig. Und genau das ist jetzt das große Problem, wenn ich auch für Menschen außerhalb der Informatik Dinge erkläre, dann brauche ich andere Sprache, dann brauche ich andere Vokabeln. Das nimmt dann manchmal von der Sache, die ich erkläre, gar nicht den Schrecken. Aber ich hoffe, dass es so ein bisschen die Sensationsgiehe rausnimmt, indem ich Versuche, das zu versachlichen. Also Social-Grafting funktioniert ja nicht nur über Smartphones, das funktioniert über alles, das funktioniert über Tracking im öffentlichen Raum, das funktioniert über die Dinge, die man einkauft bei großen Plattformen. Diese ganzen bei Fernsehprogrammen, bei großen Anbietern klappt das auch diese ganzen Verkwickungen. Das sind uralte Forschungskonzepte, die einfach funktionieren. Mein Vater war Psychologe, der hat das mal ganz schön gesagt, wenn die Psychologie ein Konzept verworfen hat, weil es für die Psychologie nicht weiter taugt, kommt garantiert eine Informatikerin oder ein Informatiker an und sagt, "Gaile, das setzen wir jetzt im Computer um." Und genau dieses Motiv, das habe ich mit meinem Vater heißt diskutiert, also der war auch einer Uni, das habe ich mit ihm heißt diskutiert, als ich Studentin war. Und ihm gesagt, "Wow, wir können alles, was Schülerinnen und Schüler machen wollen, können wir mit Algorithmen bestimmen vorher, wir können Verhaltensmuster absehen." Und er hat er gesagt, "Gaile, nein, wollen wir nicht." Haben wir in der Psychologie schon in den 60er Jahren erprobt, haben wir wieder zu den Akten gelegt. Und das wiederholt sich immer und immer und immer wieder. Und es ist total irre. Und in diesem Irre-Witz, der sich da wiederholt, liegt ja diese ewige Dualität, diese parallele, ganz vielen Zwischenbeziehungen von Gesellschafts- und Technologie. Was auch so ein bisschen dein, ich würde nicht sagen, "Hobby, weil es ja auch gleichzeitig dein Beruf ist, aber man merkt, dass du da so eine persönliche Begeisterung dafür hast in der In-Videos." Vielleicht noch kurz hinterher geschoben, Social-Grafting. Also die Auflösung, warum so viele Leute glauben, dass das Handy ein abhören könnte, hängt damit zusammen, dass über soziale Netzwerke aber eigentlich über die Verwendung von Internet-Technologien und Vernetzungstechnologien insgesamt, dass dadurch eine Vielzahl von Beziehungen für die Maschine sichtbar werden. Das bedeutet, dass mit dem befreundet, wer geht wann zu wem und warum. Und dieses Warum, das entsteht vor allem durch Kombination mit dem Interest-Graf. Der Social-Graf sind die Beziehungen zwischen Menschen und auch Institutionen. Und teilweise sogar sowas wie einer Seite, so einer Instagram-Seite oder eine Facebook-Seite. Und der hat direkt daran angrenzt der Interest-Graf, also die Interessen-Beziehung. Und wenn man merkt, okay, sieben Freunde interessieren sich gerade für Reisen nach Korsika. Und im letzten Jahr, auch das war so ein Social-Interest-Graf, sehr genau. Im letzten Jahr waren acht Freunde zusammen in Italien, und sagen wir auf die Serien, denn kriegt diese achtte Person, obwohl sie nie irgendwas dazu gesagt übergesucht hat, plötzlich Reisen für Korsika angezeigt. Und genau das ist dieser Moment, wo Menschen denken, ich werde abgehört, ich werde abgelauscht. Das stimmt auf einer Meter Ebene tatsächlich, aber auf einer faktischen Ebene eben nicht. Das erklärst du super. Und da sind wir eigentlich auch schon mitten in diesem Erklärend drin. Und in dem zweiten Punkt neben der praktischen Informatik, die Daktik. Also die Art und Weise, wie vermittelt man wem was? Also kann man so ein bisschen runterbrechen mit Fokus aufs Wie. Mir kommt es so vor, Alke, als hätten wir speziell in Deutschland, aber eigentlich weltweit noch überhaupt nicht richtig durchdrucken, wie man vernetzte Technologie, die Daktisch den Menschen dort draußen näher bringt. Also so auf einer Art und Weise, wie Menschen zum Beispiel, relativ von alleine Sprache lernen können, wenn sie Kinder sind. Wie wir es in einer Schule geschafft haben, mehr schlechter als Recht, wenn man mich fragt, aber wir es in einer Schule geschafft haben, mit bestimmten Bereichen, Jungmenschen bestimmte Dinge beizubringen. Für Technologie fehlt da aus meiner Sicht noch ein riesiges, didaktisches Konzept, oder oder bist du da anderer Meinung? Das ist eine schwierige Frage. Es gehen da bei mir gleich verschiedene Welten auf. Also das gesamte Konzept der Kognition basiert psychologisch und neurologisch gesehen auf der Idee der vernetzten Gehirnstrukturen. Und das, was in der Daktik sehr, sehr lange schon klar ist, ist zum Beispiel, dass man Unterricht am besten so aufbaut, dass man einen Lebensweltbezug herstellt für die Kinder, die da sitzen. Dass man sie dort abholt, wo sie ihren eigenen Erfahrungen vorizuhen haben. Und das, was man dann didaktisch macht, ist, dass man Verknüpfung schafft. Also zum Beispiel gibt es ein didaktisches Konzept, das heißt benutzen analysieren Gestalten, dann nimmt man zunächst mal eine Technik, zum Beispiel ein Raspberry Pi und sagt, geil, das Ding blinkt, das tut irgendwas. Und dann gucken wir mal, warum ist das denn eigentlich tut. Und danach versuchen wir proaktiv sozusagen, also von uns selbst, aus kommt damit etwas anderes zu machen. Das ist so, wie ich, geb dir den Hammer von vorhin. Da sagst geil, damit kann ich einen Nagel in die Wand schlagen. Damit kriege ich, wenn ich richtig hart drauf, hauer auch ein eckiges Klockchen in rundes Loch. Und dann versuche ich mal, ob ich ein Brot damit schmieren kann. Und dann gucke ich mal, wie der Ergebnisse geworden sind. Und wir versuchen, dass eigentlich in der Gestaltung von Unterricht schon. Es ist aber jetzt nicht so, dass die informatischen Themen da so stark im Unterricht abgebildet werden. Also informatik sind vielen Bundesländern überhaupt noch gar kein Schulfach. Das, wo ich natürlich jetzt auch ein bisschen auf der Gewinnerseite stehe, ist, ich habe diese wunderbare Luxus-Situation, dass meine Kinder auf eine reformpädagogischen Schule sind, wo man auch ein reguläres Abitur machen kann. Das ist natürlich so Bildungshaushalt, das ist nicht was, was jeder ermöglichen kann, aber in dieser reformpädagogische Schule wird sehr stark auf Vernetzung von denken und Vernetzung von Kommunikationsstrukturen auch genau wertgelegt. Das heißt, da sehe ich tatsächlich in Nachholbedarf im Bildungssystem, dass eben auch deutlich wird. Und das klappt bei Kindern erst ab einer gewissen Reife, ab einer gewissen Altersstufe, das etwas, das nennt wir Spiralvermiges-Korikulum, immer wieder Inhalte adressiert. Das läuft auch an staatlichen Schulen im Prinzip. Und dann auch die Möglichkeiten der Quervverbindung ermöglichen. Dann braucht man nur noch dieses quenchen Kreativität und freien Denkraum, der das dann richtig gut macht. Also ich glaube, so weit sind wir da gar nicht weg, um deine Frage nochmal aufzugreifen. Ja, ich sehe, was du meinst, was mir vielleicht fehlt, ist insbesondere seit Ende 2022, gibt es ChatGPT. Was mir da vielleicht fehlt, ist eine Form von Prozessualer, die Doktik könnte man nennen. Auch wieder ein bisschen sehr verkopfter Begriff, was meine ich. Im Feld der Technologie, Vernetzentechnologie ist es schon länger erkennbar. Und bei KI ist es unübersehbar, dass sich das Ganze fällt in einer Geschwindigkeit verändert. Die Art im Beraubem ist einerseits und andererseits dazu führt, dass noch nicht mal Fachleute mit dieser gigantischen Erkenntnisgeschwindigkeit richtig schritt halten können. Und jetzt kann man argumentieren, dass das, was am Ende rauskommt, noch nicht da ist, wo sein sollte, das insgesamt der Fortschritt, wenn man ihn tiefer betrachtet, nicht so schnell ist. Ich würde allerdings sagen, was wir gesehen haben, ist das eigentlich eine Form von Vermittlung fehlt aus meiner Sicht in der Öffentlichkeit. Ich habe es jetzt eine Vielzahl von verschiedenen Kosen mehr angeschaut in diesem Bereich bei den großen Anbietern. Ich habe mir zwischen Bittkommen und verschiedenen anderen Verbänden und über den großen Technologikonzern angeschaut. Was bieten die Fortschritt? K.I. Kose an, für ein Masterclasses, was mir überall gefällt hat, war ein Ansatz, der das aufsplittet und im Prinzip bei jeder Einheit sagt, das sind die Sachen, die stehen fest, die werden sich auf absehbare Zeiten nicht ändern. Das sind die Sachen, da können wir für den Moment annehmen, dass das so ist und bleibt und folgende Schlüssel draus ziehen. Und das sind die Bereiche, der kann es sein, das übernächsten Donnerstag, schon alles was sich in den nächsten drei Minuten sage, hintfällig ist und ersetzt werden muss. Ich nenne das Prozessuale "Die Daktik" und das ist so ein wiederkehrendes Schwierigkeit. Ich bin unterwürdig mich dafür interessiert, wie du das siehst. Ich bin darauf gekommen, als ich mir aus Anlass von Shadjipy die meiner ersten Texte zukünst dich ins Illigenz angeschaut habe. Die waren nicht völlig falsch, aber es war einfach so, dass die H-Like-Milk würde man im Internet sagen. Die sind nicht wirklich heute noch genussefähig oder informations tief, sondern die sind eher historisch interessant. Wie schreibt man ein Text, der in drei Jahren noch Sinn hat im KI-Bereich und nicht völlig outdated ist, überholt ist? Und wie macht man ein Instagram-Real, das nicht in vier Wochen schon so aussieht als wärst von vor drei Jahren? Ich bin das total faszinierend, weil du hast ja eben schon angedeutet in deinem Text, das du gesagt hast, man kann über diese Informationsgeschwindigkeit oder über diese Geschwindigkeit der Entwicklung auch unterschiedlicher Meinungsheim. Und meine Welt sieht einfach ein bisschen anders aus als deine. Meine Welt sieht nämlich so aus, dass wir neuronale Netzetechnologie seit dem 50er-Jahren beforchen. Und es gibt in der Technik der neuronalen Netze ein ganz ganz großes Problem. Das ist nämlich das Problem, dass die nicht wieder Sachen reproduzieren können, dass sie nicht, man nennt das jetzt auch "Explainable AI", und da ist die KI sehr, sehr schwach. Das bedeutet für mich als Forscherin, ist der Fortschritt überhaupt gar nicht schnell, für mich als Forscherin ist es jetzt so, dass ich denke, geil, es wurde jetzt einmal ein großer Schritt gemacht, der einfach was zu tun hat mit der Masse der verfügbaren Rechen Power und mit der Masse der teilweise illegal erworbenen Datenbestände. Und das war der eigentlich riesig große Schritt. Dann gab es noch ein bisschen was Fancy-Mathematik dahinter, die sich auch weiterentwickelt hat, wo ich als Forscherin sage, okay, da ziehe ich jetzt mein Gut vor, das war eine wirklich geniale Idee, also diese Tockenabstandsbemessung mit sturastischen Modellen, das war wirklich gut. Aber das ist eine vergleichsweise logische Geschwindigkeit gewesen, das, was ich jetzt oder eine logische Entwicklung auch gewesen, das wo ich jetzt wirklich staunend davor stehe, ist das Dinge, wo wir als Informatikerinnen und Informatiker Jahrzehnte geredet haben, entweder gewarnt oder gesagt, lass uns das doch ein bisschen schneller machen, dass die auf einmal in dem Fahrwasser dieser KI-Entwicklung vor allen Dingen der generativen Large Language Model-Entwicklung, dass die auf einmal von Menschen auf der Straße und eben auch von Geldgebenden Institutionen als gesetzt gesehen werden, wo wir uns vorher abgearbeitet haben. Also Smart Home-Entwicklung haben wir schon gemacht, da war noch kein Zehnner Jahr in den 2000 2008 2009 haben wir über Smart Home geredet und da gab es noch keine Staubsorger-Roboter. Und jetzt sind all diese Leute dabei zu sagen, ja, geil, egal, wir machen jetzt Webcoating und wir haben festgestellt, dass zum Beispiel die Roboter-Scheiße programmiert sind und dann kann man auf einmal als superlei über Webcoating die Kamera von irgendeem Staubsorger-Roboter meines Nachbarns auslesen, weil sie was bei dem um uns im Raum steht. Das ist der Punkt, wo ich beide bin, wo wir sagen, okay, ja, Leute, wir sind an dem Punkt, wo wir nicht mehr die Informatik als große Babbel sehen, die einen Wunderwerk an Technik-Innovation gibt, sondern wo wir sagen müssen, wir müssen als Gesellschaft die Leitplanken aufstellen, innerhalb der wir Entwicklung akzeptieren oder auch nicht akzeptieren, weil das, was diese Entwicklung jetzt anders macht als bisherige ist, dass sie massiv in den Privatsraum rein geht. Das haben bis jetzt alle Sachen nicht gemacht. Also man kann. Vielleicht war auch in den Privatsraum, das auch so eine Äster Ausflug. Aber ich sehe total was du meinst. Diese Form von Wissenschaft, die sehr lange betrieben worden ist, zum Beispiel für den Erkenntnisvortschritt, zum Beispiel auch um neue Produkte zu entwickeln. Das hat sich KI seitlich, du bist schon sehr, sehr lange in dem Feld. Ich bin auch schon ein paar Jahre dabei schon bevor es Hip war sozusagen. Aber das hat sich lange hinter den Kulissen abgespielt. Es gibt ein bekanntes Tatar von dem Chefwissenschaftler, von Facebook damals Meta, der KI Turing-Midagenträger ist, Jan LeKündn, nämlich. Und man, der sagen wir mal, starke Meinungen hat, das kann man erstmal so stehen lassen. Und der hat schon 2017 gesagt, Facebook wird bedasst, "Without AI". Wir sagen, damals war nach seinem dafür halt ein künstlichen Intelligenz schon der wesentliche Bestandteil von mehr oder weniger allen großen sozialen Netzwerken. Der große Unterschied ist, dass durch generative künstliche Intelligenz man plötzlich direkt an der Maschine sitzt, auch als "Lion-Lion", als jemand, der eben nicht mit Spitzenklammern um sich wirft so im Alltag. Und dieser Hebel, den versuche ich bei der Vermittlung von so KI-Them immer so positiv für möglich zu sehen. Das ist vielleicht auch so ein bisschen eine interessante Unterscheidung zwischen uns. Ich glaube, ich abseits davon, dass deine wissenschaftleren Perspektive auch zurecht und sinnvollerweise und ohne dass ich da irgendwas dagegen sagen wollte, immer eine kritische Komponente hat, auch eine wirtschaftskritische Komponente, was so Machtstrukturen angeht. Ich sehe da, es sind ein bisschen umgedreht. Manchmal auch ist ein Ermächtigungsinstrument. Ein Selbstermächtigungsinstrument, was wahnsinnig viele Menschen nutzen können. Das im Hintergrund auch Probleme stattfindet 100%. Aber das habe ich bei sozialen Medien schon gesehen, bei Smartphones so gesehen, dass wir überall Kameras haben in einer Qualität, wo man film drehen kann, der hauptsächlich, wenn man Bock drauf hat und ein bisschen weiß, wie es geht, dritt man filmen, der wer vor 15 Jahren hätte jetzt genug kommen und ich sehe da jetzt eine Explosion der Möglichkeiten, gerade für Leute, die vorher wieder die wirtschaftlichen Mittel hatten, noch so richtig, die nur haumittel hatten oder auch einfach nicht die Zeit hatten, um sich so reinzufräsend in diese Bereiche. Da sehe ich auf jeden Fall ein Machtinstrument für einzelne Menschen, oder? Siehst du das auch oder siehst du das eher kritisch? Grundsätzlich sehe ich das auch so. Ich sehe aber nicht in allen Fällen, dass das positiv ist. Ich mache das an zwei Beispielen, das eine ist. Ich sehe Menschen, die mir vermitteln, zum Beispiel über Kommentare in Social Media, dass sie es unglaublich schätzen, dass sie ihre großartigen Ideen, die sie haben, jetzt einfach über eine Funktion, einen Chat-GPT, zum Beispiel in Romanform gießen können. Und das ist okay, das steht jedem frei, genauso wie es vorher jedem freigeschstanden hat, sich an den Schreibtisch zu setzen und wie du eben gesagt hast, sich richtig tief reinzufräsend und selber den Roman zu schreiben. Das ist sicherlich ein privater Genuss und das ist okay, das bedeutet nicht nur dorthin, dass das daraus entstehende Produkt qualitativ enorm gut ist und es bekommt auch eine gewisse Beliebigkeit und die Individualität geht dabei verloren, weil das, was da die Basis liefert, für so ein Buch ist eben eine stochastische Funktion, also ein Ähnlichkeitsmaß. Er ist nicht zu viel Details dazu. Es ist nur so, dass wenn das eine Person macht, es ist für diese Person sicherlich in Gewinn, wenn das 100 Personen machen, dann entstehen da sehr viele Dinge, die keinen Innovationscharakter mehr haben. Aber es ist okay, es kann jeder machen. Das ist privat, das ist okay. Nur kurz die andere Seite, die andere Seite ist zum Beispiel im Bereich des Weibcoatings. Weibcoating ist ein mächtiges Werkzeug in den Händen von fegen Programmierern und Programmierern. Da ist es richtig geil, weil es Arbeitszeit spart und es ist auch von der Idee, der Software, also wir haben angefangen mit Ersemberprogrammierungen, dann kamen solche Programmiersprachen wie Adda, dann kamen C, dann kamen C++ und es wurde im Laufe der Jahre immer komfortabler. Also wenn mal C programmiert hat, weiß, wie komfortabelpeisen ist, aber es ist auch an manchen Stellen dann weniger flexible als C zum Beispiel. Und jetzt kommt Weibcoating, die diese Sprachen haben sich immer näher an menschliche Sprache angenehert, hatten dann zum Teil Kompiler dahinter, um es in die Maschinensprache zu übersetzen. Und jetzt sind wir bei Weibcoating und wenn du jetzt sagst, geil, jetzt kann jeder deine geile Idee hat, sich eine App dafür programmieren, sage ich, bis dahin gehe ich mit. Das Problem ist, dass die App auch nach dem nächsten Software-Update laufen muss und nach dem übernächsten und nach dem übernächsten. Das bedeutet hier entsteht ein Markt, der eigentlich kein Markt ist, weil die die Qualität der Produkte nicht aufwächte halten können. Das ist so ein bisschen als wenn ein Kind zu dir kommt und sagt, Papa, ich habe eine Eisschule aus dem See gefischt, wir brauchen jetzt keinen Kühlschrank mehr. Und du sagst, ja, geil, super. Aber drei Tage spät, dass die Eisschule leider weg und du brauchst doch einen Kühlschrank. Und das ist jetzt so ein bisschen dieses ingenieurwissenschaftliche, wo Weibcoating zum Beispiel wirklich tolles Instrument sein kann, aber nicht langfristig genug so funktioniert, wie es funktionieren müsste, damit es wirklich diesen, diesen enormen Sprung in der Leistungsfähigkeit für, ich sag mal, Autonormalfabraucherinnen und Autonormalfabraucher wäre. Was mich daran sehr fasziniert, Weibcoating kann man vielleicht noch mal zusammenfassen für die Leute, die dann nicht so drinstecken, Weibcoating bedeutet mehr oder weniger, dass man mit ganz natürlicher normaler Sprache programmieren kann und die KI den komplett mit Rest macht. Wenn man da sagt, ich brauche einfach eine Tutuliste, die nach folgenden drei Kriterien sortiert ist. Das ganze bitte hinterher als App, die soll grün und blau sein und zum Anklicken, und ich möchte es teilen können mit meinen drei besten Freunden. Dann baut die KI eine solche Software. Die Schwierigkeit, die da drin ist, die du gerade beschrieben hast, ist eben häufig, dass das weniger nachhaltig ist. Viele Leute glauben Software sei irgendwie so ein Produkt, dass dann irgendwann fertig, das Gegenteil ist der Fall. Ah, Software nie fertig, B muss ständig nachgehalten werden und C und das ist vielleicht das Entscheidende, dass das auch schon angedeutet, gehen damit Sicherheitshysiken einher, die unter Umständen massenhaft schwierig werden können, um es mal so auszudrücken. Unabhängig davon, dass in der sehr ähnliche Diskussion schon mal geführt wurde. Ich war auch damals, ich weiß gar nicht sagen, so zu konfrontativ soll das nicht klingen. Auf der anderen Seite finde aber wichtig, ausdrücklich, wichtig. Und begrüße diese ganze Diskussion sehr, dass man abweg, dass man eine Balance findet. Das war mit sozialen Medien. Und mit sozialen Medien, da habe ich ganz viele Leute gehört, die professionell publiziert haben, so Journalisten und Journalisten, und jetzt kann ja aber jeder über Facebook oder Instagram oder Twitter irgendwas schreiben und sagen. Und das findet gar nicht mehr nach redaktionellen Richtlinien statt. Und unsere ganzen journalistischen Kriterien, zwischen E-Toss und Technik, die werden nicht mehr berücksichtigt. Ich sehe das. Und wir alle sehen heute, wie bei sozialen Medien, eine Vielzahl von Problemen entstanden ist, genau dadurch. Zwischen Fake News, Propaganda und einer Vielzahl von Verschwörungstheorien, die genau dadurch verbreitet werden konnten. Auch damals habe ich das aber gesehen. Und so sich das heute auch. Ich würde nicht sagen, super Weibkodigen, jeder macht alles, gar kein Problem. In der Fall, ich glaube, war schon, dass wir, und das ist dann wieder der große und super wichtige Bogen zu deiner Kommunikation im Netz über KI, dass wir mit ganz vielen Regulierungen, gesellschaftlichen Konventionen, Gesprächen, Regeln, das wir mit ganz vielen solchen Ansätzen versuchen können, sowas wie Weibkoding oder eben damals Social Media, so ein bisschen, sagen wir mal, die gefährlichsten Spitzen zu nehmen, kommen aber für mich mindestens mittelfristig in beiden Bereichen kein Weg daran vorbei, die Öffentlichkeit zu schulen. Wir sagen, den Menschen zu erklären, was dahinter steht, wie das funktioniert, wo die Gefahren sind, an welchen Stellen wir aufpassen müssen, und an welchen Stellen wir vielleicht ein bisschen aufprobieren können. Das sind so alles Punkte, da würde ich sagen, am Ende hat Technologie so eine große Wirkung auf das Leben der einzelnen Menschen, dass eigentlich jede Person, das Wissen haben muss, um ihr Leben auch technologisch, auch mit KI, auch mit Social Media, auch mit Weibkoding, selbst zu gestalten, wie er oder sie möchte. Und das ist für mich der Gegenpunkt. Und natürlich, wir sagen, wir sind dann nicht, wir werden dann nie sein. Aber ich finde, man muss beides versuchen. Ich bin voll beidiert. Tatsächlich würde ich dir da gar nicht widersprechen. Ich denke immer, Aufklärung und Wissensverbreitung ist der erste Schritt in eine Mündigkeit von Bürgerinnen und Bürger. Und ich frage mich nur manchmal wirkt auf mich Social Media, so ein bisschen wie die Kneipe, die gerade hip ist. Und irgendwann ist sie nicht mehr hip und keiner weiß, warum und die Leute ziehen weiter. Also, ich habe vor zwei Jahren mein Facebook-Account gelöscht, weil Facebook für mich einfach keinen Kommunikationsmedium mehr ist. Ich habe mein ersten Instagram-Kanal gehabt. Da war das noch eine Plattform für das Verteilen von Fotografen, wo Fotografen und Fotografen ihre Bilder darreingestellt haben mit Angabe des Objektives und der Belichtungszeit und so was alles, um einen Austausch zu haben. Und auf einmal kann meine Tochter an und sagte, darf ich einen Instagram-Account haben. Und ich war so "Hey, do Fotografie ist doch gar nicht, was willst du da?" Und ich glaube ganz stark, dass diese Form von Plattformen eine Modeerscheinung sind, die ist jetzt gerade hip und die wird natürlich auch sehr stark getragen von Menschen unserer Generation, die einfach das total geil finden, dass sie sich über Technik vernetzen können. Bei meinen Kindern beobacht ich jetzt, sie sind beide so im Teenageralter, dass diese Plattform zunehmend desinteressiert betrachtet werden. Und das ist super spannend, das zu beobachten, wie so 5-Klasse, 6-Klasse-Rinnen jetzt anfangen mit Social Media umzugehen, weil es jetzt was passiert, das ist wirklich total tragisch. Also sagen wir mal so, das Internet hat angefangen als freier Austauschraum, eigentlich von Wissenschaftlerinnen und Wissenschaftler, danach dann von allen. Und ich war lange in so einer Computer-Rollenspiel-Gaming-Community, wie alle Leute, die so in den 80er-90er-Jahren studiert haben in den Formatik. Und da war das unglaublich, dass man weltweit, ich vernetzen konnte und spielen konnte. Und dann kam zu einem Werbung, dann wurde es zu einem Politischer, dann wurde es zu einem Breiter in der Öffentlichkeit. Und dann ging es ziemlich den Wachrunde. Dann kamen Web 2.0, man verlorete Sicherheit im Internet. So und jetzt kommt Social Media. Das heißt Social Media fing an als geil, wir vernetzen uns. Das war ja wirklich eine Aufbruchstimmung, so ein 2015 ungefähr. Und dann kriecht es einen enormen Vorlauf 2021, das ist quasi explodiert. Und ich würde mich jetzt gar nicht so weit aus dem Fenster lehnen und zu sagen, es ist tot, sondern ich würde sagen, es wird zunehmend uninteressant. Es wird zunehmend langweilig. Und das passiert, denke ich, mit all diese Plattformen. Ich bin mir gar nicht so sicher, ob es jetzt wirklich eine neue Welt ist, in die wir hinsteuern mit Social Media, mit so einer Bedeutungsschwere. Vielleicht bin ich einfach zu alt. Ja, am Ende nur ein kleiner Teil der Diskussion. Das sage ich mir mit zunehmendem Alter immer intensiver, weil ich auch wahnsinnig gut in Autosuggestion bin. Aber genau dieser Punkt, Sachen werden Hipp, Sachen sind dann irgendwann nicht mehr Hipp. Ist einer der aus meiner Sicht, was das vorher gesagt, Wissenschaftlerinnen sind da schon sehr lange dabei, künstliche Intelligenz intensiv zu erforschen. Und weil der dazu beigetragen haben könnte, warum das so intensiv in den letzten Jahren hochgegangen ist, mit der Beschäftigung mit KI. Warum also du ein Video machen kannst, mit Technologie und künstliche Intelligenz mit siebenstelligen Abrufzahlen und auch warum deine Account so schnell so groß geworden ist. Ja, geil. Meine Gierungsansatz bezieht sich auf ziemlich bekannt die klagischen Gesetze. Die klagischen Gesetze, das ist von Auffach, Sie Clarke. Das ist ein Sangamall, Science-Fiction-Autor der relativ früh, aber schon ganz viele technologische Dinge erkannt hat, die später ziemlich maßgeblich auch die Diskussion darüber geprägt haben. Am Auffach Clarke hat eine Art Vorhersagen oder Axiome, geteil die drei klagischen Gesetze. Und das dritte ist für mich das ausschlaggebende, warum es eine KI-Explosion gab nach ChatGPT. Das dritte Gesetz von Clarke heißt nämlich, jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden. Und warum ist das ausschlaggebend, weil dieses Gefühl, der ist irgendetwas magisches drin. Das sagt auf der einen Seite sehr gut, da ist eine Unverständlichkeit drin, die zumindest Leute sich damit nicht beschäftigen, nicht verstehen. Aber da ist auch irgendwo eine Mischung aus Faszination, Frucht und Wirk macht. Drei Komponenten die Magie beinhalten. Faszination, Frucht und Wirk macht, ergibt am Ende das Menschen plötzlich merken, das könnte mich betreffen. Da habe ich vielleicht da vor Angst, ist das vielleicht etwas mit dem ich beschäftigen muss, damit ich nicht in zehn Jahren plötzlich komplett abgehängt bin oder in zwei oder schon in fünf Monaten? Und dieses dritte klagische Gesetz, wenn man das anlegt, dann gibt es immer dann so eine Explosion des Interesses für Technologien, wenn die Technologie auf den ersten Blick so sypt als sei sie magisch. Und genau das habe ich bei ChatGPT ganz am Anfang sehr häufig gesehen. Da kam Leute auf mich zu nach vorträgen und meinen, was ist das denn? Dass ich hätte nie gedacht, das klingt wie ein degen so etwas kann. Man muss ehrlich gesagt sagen, sogar Fachleute haben das nicht gedacht, irgendetwas nicht, was die Geschwindigkeit angeht, die meisten Leute lagen so 15, 20 Jahre zurück, was die Entwicklungsgeschwindigkeit angeht. Zum Teil auch heute noch. Aber was total in diese Richtung gezogen hat, war plötzlich hast du etwas gemacht, eine Technologie vorgestellt und jeder Mensch, der sich damit 10 Sekunden auseinandergesetzt hat, gemerkt, das ist etwas kategorial neues. Man könnte eben auch sagen, magisches, wo niemand genau weiß, wie es funktioniert. Und ich glaube deswegen gab es diese Explosion, der Grund ist magie, wie so oft. Und Marketing. Marketing auch, wobei ganz am Anfang ist, ob ein AI ja praktisch ohne Marketing gestartet, muss man dazu sagen mit ChatGPT. Natürlich. Also GPT 1 und 2 waren noch ohne Marketing. Das ist, also das ist richtig, aber GPT 3 war schon massiv vermarktet worden. Gestartet ist dann ChatGPT mit 3.5, so eine adaptierten Version. Inzwischen haben wir 5.2, was GPT angeht, ChatGPT. Und das ist vielleicht genau der Punkt, diese Weiterentwicklung, auch diese schnelle Weiterentwicklung, dass wir im nächsten großen Block, im nächsten großen Themenblock mal kurz innehalten und uns vergewissern, was für Mächte dahinter stehen. Und Mächte gar nicht in so einer ob skurren, Daten, Visionen. Wir können gerne immer darüber sprechen, was dafür sehr, sehr schwierige Charakter in allermeisten Fällen Männer dahinter stehen, die diese Technologien vorantreiben. Aber ich möchte erst mal mich beziehen auf weniger die Leute, das ist auch zwar ein Punkt, aber eben auch auf die Instrumente. Es gibt ein sehr, sehr schönes Zitat von Kaffee Uniel, das ist eine autore neue Technologien. eines viel zitierten Buch "Weapons of Marth Destruction" - Marth, wie Mathematik geschrieben auf Englisch, also nicht "Massenzerstörung", "Waffen der Massenzerstörung", sondern "Waffen der Mattezerstörung" waren sie nicht schön hertitelt. Und das ganze Buch handelt imprinzip genau von dem Eizitat, was damit verbunden wird. Ich zitiere das mal "Algerisms are opinions embedded in code". Algorithmen sind Meinungen, die in Code gegossen worden sind. - Correct. - Schließlich mich an. Hab ich fast nicht sozusagen. Ich mache das an dem Beispiel vielleicht wird es dann deutlicher. Wir haben in einem großen Forschungsprojekt, in einem wirklich sehr, sehr großen mit sieben verschiedenen Lehrstühlen dahinter, bevorst, wie wir in der Pflegeausbildung die Kommunikation in Form eines Chatboards mit einem dementsen Patienten trainieren lassen können. Also Menschen, die als Pflegerin und Pfleger eine Ausbildung machen, wie können die in der Ausbildung bereits ohne Schaden an Patienten und Patienten anzurichten, wie können die üben, wie schwer demenzkranke Patienten sich äußern und wie sie sich idealerweise verhalten, damit diese Patienten und Patienten das tun, was jetzt in der Situation angemessen ist, wie zum Beispiel sich anziehen, zum Arzt zu fahren. Und die Wage, die man dabei halten muss, ist immer die Wage zwischen Wahrung der Autonomie bei dieser Person und Würde und auf der anderen Seite, aber auch die Zielerreichung, weil ja auch die Zeitfernster sehr klein sind. Wir hatten da noch kein GPT. Wir würden heute versuchen, ein GPT so zu strukturieren oder auch eine andere technologie, muss jetzt nicht ein GPT sein, sondern einfach ein generatives Sprachmodell, dass sie das kann. Aber wir haben uns an einer Stelle die Finger abgearbeitet und das war bei der Akvise der Daten, weil es in Deutschland einfach nicht erlaubt ist, Menschen zu filmen, Menschen Dialoge rauszuschneiden, diese menschlichen Dialoge einfach als Daten zu nehmen und egal welche KI ich benutze, sie steht und fällt mit der Qualität und der Masse der verfügbaren Daten. Wenn wir keine Daten haben, können wir diese Daten auch nicht auswerten. Wenn wir geschickte Algorithmen haben und genügend viele Daten, dann können wir mit den alles machen, was wir wollen, wir brauchen nur noch eine genügend starke rechen Engine dahinter. Und das ist genau das, was dieser Satz sagt. Wir kriegen, wenn wir etwas tun, wie das, was die großen Firmen weltweit gemacht haben. Und ich mein jetzt nicht nur die amerikanischen, sondern eben auch die chinesischen Firmen, wenn wir uns erlauben unter Ignorierung jeglicher Privatsphäre. Alles, was im vermeintlich öffentlichen Raum geäußert wurde, also dieser Podcast, Fernsehprogramme, Social Media, Weiträge, alles, was wir im Internet finden, alles, was wir an Büchern finden in PDFs, wenn wir alle diese Daten nehmen und sie in diese großen Data Monger, also diese Datenfresser, Schütten sozusagen, um bei einem, bei einem allgemeingengengen Bild zu bleiben, dann können wir aus diesen Daten mit mathematischen Operationen alles rausziehen, was wir wollen. Im Guten und im schlechten und der Flaschenhalz bei jeder KI sind die Daten und die Qualität der Daten und dann greift stuchastig, das große fällt der Stuchastig, dann wird dann es haubertaus. Wer die Kontrolle über seine Daten abgibt, verliert die Hoheit über seine gesamte Strategie. Davon sind wir bei Schwarz-Sidgets überzeugt. In einer digitalen Welt darf einseitige Abhängigkeit kein Dauerzustand für europäische Unternehmen und Behörden sein. Deshalb sind wir angetreten, um genau diese Unabhängigkeit zu sichern, aus tiefer Überzeugung für ein digital souverenes und wirtschaftlich starkes Europa. Wir definieren souveränität als die freie, jedes Einzelnen seine Daten und Prozesse zu behalten. Unsere Lösungen sind keine bloßen Versprechen, sondern in der täglichen Praxis erprobt. Allen voran bei den Unternehmen der Schwarzgruppe selbst. Wir nutzen unsere eigene Stack-It-Cloud, die Cybersecurity von XM Cyber, sowie gemeinsam entwickelte Lösungen mit Alfa, Wire und Google Workspace selbst, um eines der komplexsten Handelsökosysteme der Welt stabil und sicher zu halten. Wir befähigen unsere Kunden zu digitaler Leistungsstärke, Lösungsorientiert, verlässlich und mit der Sicherheit eines starken Partners. Schwarz-Sidgets. Digitales souveränität aus Überzeugung. Ja und das diese Daten mit der Nikei lernt, diese Chatbots, die wir alle kennen, werden ja trainiert, meistens mit Texten, weil es große Sprachemodelle sind. Jedenfalls, wenn sie Sprache ausgeben und diese Trainingsdaten, die sind ja nicht, darauf bezieht sich auch das Zitat von KSAON die Trainingsdaten, die sind ja nicht im luftlichen Raum entstanden und die Art und Weise, wie mit diesen Daten trainiert wird, ebenfalls nicht. Das kann man nicht nur auf positive Weise sehr, sehr deutlich sehen an den Ergebnissen von künstliche Intelligenz. Wir haben um mal diesen sängermal technologischen Raum in Nordamerika, wo sehr, sehr viele von den jüngsten großartigen Entwicklungen digitaler Natur entstanden sind, ob das jetzt Social Media-Plattformen sind, die Cloud insgesamt oder das jetzt eben neuerdings künstliche Intelligenz ist. Wir haben da eine Säre, die zum Beispiel, und das ist eine zweiter Themenkomplex ja nicht überragend, angereiche zu sein scheint mit Frauen. Es sind, was die öffentliche Wirk macht angeht, durch eine Vielzahl von Verstärkungseffekten, von Filtereffekten, auch von ganz offener Frauen, Feindlichkeit, die häufig damit reinspielt, sind das in den meisten Fällen Männer. Und da, erkennt man immer wieder, auch und gerade durch die künstliche Intelligenz, dass da ganz sanft am Anfang und irgendwann sehr stark spürbar, stereotypere produziert werden, dass da Abwertungen passieren, manchmal so impfliziehte Bilder gemacht werden, die ganz eindeutig Frauenfeindlich sind. Wenn man in ganz vielen Bereichen fragt, was sollte ich für einen Beruf annehmen? Dann muss die KI extra so programmiert werden, dass Frauen bestimmte Berufe überhaupt vorgeschlagen werden, weil das, was wir an Meinungen im Netz finden, an Inhalten im Netz finden, häufig eine gewisse Schlagsseite haben. Das mag besser geworden sein über den letzten 15, 20 Jahre, das wird auch fast niemand bestreiten, aber besser heißt sie auch nicht gut einerseits. Und andererseits gibt es eben auch eine Vielzahl von Annektoten, die ganz gut beschreiben, wie dieser große technische, technologische Innovationsraum von Männern geprägt. Das meine Lieblingsannektot ist viel zitiert, eine der häufigsten Annektoten aus diesem Bereich stammt von der NASA. Im uns war schon von Anfang der 80er Jahre, das ist der erste Flug einer Astronautin in den Vereinigten Staaten ins Eil. Das war Sally Ride, die wurde an 1988 ausgewählt und ist 1983 geflogen. Man kann sich gut vorstellen, was der bei der Vorbereitung von so etwas komplexen wie eine Raumphäre, mit dem man fliegt und wieder zurückkommt. Dass da nicht nur State of the Art Digitalisierung verwendet worden ist, jede Menge Computer. Wir haben einen riesigen Fortschritt zum Beispiel bei der Mondlandung gehabt, was Programmierung angeht, weil es nur wenn dich war, mit Daten zu arbeiten. Sondern dass diese Vorbereitung auch in jedem Detail von den besten Ingenieuren des Planeten versucht wird zu planen. Und ich habe an dieser Stelle absichtlich nicht gejendert. Dieser Annektote von Sally Ride lautet nämlich, dass sie sieben Tage ins Eil fliegen sollten. Und das Team der Vorbereiten in Ingenieure waren ausschließlich Männer. Und sie sind dann auf Sally Ride zugekommen und haben gefragt, so geht diese Annektote, die ist überliefer, die ob jetzt in jedem Detail darüber kann man diskutieren. Aber so wird sie häufig erzählt. Sie sind auf Sally Ride zugekommen, das Team von Ingenieuren und haben sie gefragt, ob für diese siebendige Gereise 100 Tampons ausreichen würden. Stellt ihr auch, ja. Lassen wir das mal so im Raum stehen. Und lassen wir das mal so im Raum stehen, dass zu dem Zeitpunkt auch noch nicht 100% dich klar war, wie Menschen im Weltall unterschiedliche Lösigkeiten menstruieren. Das hätte ja sein, dass zumindest theoretisch, also man kann ganz viele Gründe finden, warum jemand auf so eine Idee kommen könnte. Was man aber nicht bestreiten kann, ist das ganz offensichtlich in der mehrwürchigen Vorbereitung von auch nur diese Frage zu stellen. Ganz offensichtlich keine Frau beteiligt war. Also da war offensichtlich niemand. Ich möchte jetzt nicht zu gemein sein, aber ich könnte mir schon vorstellen, dass da gar nicht so viele Leute dabei waren, die überhaupt schon mal sinnvoll über Menschen nachgedacht haben. Aber der Punkt ist, dieser Nektote kann man übertragen auf die Daten, mit denen KI trainiert. Und das ist ein Problem. Auf jeden Fall. Also es gibt da ein sehr schönes Buch, das Buch heißt Sprachmaschinen von Roberto Simanowski, der versucht hat aus einer Medienphilosophischen Perspektive, sich diesem Thema zonehren. Und das Problem ist tatsächlich noch viel, viel größer, weil es geht nicht nur um Gender, sondern es geht auch um Kulturbegriffe dabei. Die ganzen Daten, sagen wir mal so, eine bewusste klare Datensamlung hat mit Sicherheit nicht erst 2000 angefangen. Die gab es ja auch schon vorher. Das sind solche harmlosen Institutionen wie statistisches Bundesamt, z.B. die ja auch schon Daten sammeln, aber es sind auch große digital getriebene Daten-Sammel-Ideen. Also jedes KMU, das ich hier kenne, ist dabei alle Daten zusammen, die nicht bei drei auf den Baum sind. Und unsere Gesellschaft in der wir leben ist noch eine massiv patriarchal geprägte Gesellschaft. Ergose und die Daten, die resultieren durch unser Weltbild geprägt. Und das ist jetzt nicht so, dass ich sage, wir müssen das jetzt alles umdrehen und innerhalb von fünf Jahren muss die Welt eine andere sein, sondern die Kämpfe um Gleichberechtigung und die Kämpfe um Anerkennung der Besonderheiten von allen Geschlechtern. Geschlecht an. Die sind noch voll am Gange, aber das Datenmaterial dazu ist keine zehn Jahre alt in der breiten Masse und es ist ausschließlich westliches Datenmaterial, westliches Kultur gut, im westlich in dem Sinne als das, was dort abgebildet wird in den Daten auf die Hauptnutzerin und Nutzerquellen abzielt, die aus Nordamerika und Europa kommen. So dass ganz viele andere Konzepte, die aus anderen Kulturen kommen, also zum Beispiel aus hinduistischen Kulturen argumentiert jetzt zum Beispiel Simmanowski einfach nicht abgebildet sind und dann natürlich auch im Bezug auf Gender, auf Rollenbilder, auf tradierte Verständnisse von Familien und so weiter. Ich mache es noch mal an dem Beispiel, also das Beispiel ist total toll, weil bei mir im Kopf passiert halt immer so diese Frau in der schwere Losigkeit oder einen Tampon durchs Bild fliegt. Ich habe so gefeiert, als ich das gesehen habe, das war ein unglaublich lustiges Bild. Wenn wir in die Medizin gucken, dann gibt es einen medizinetischen Grund, warum an jungen Frauen im Reproduktionsfähigen Alter, das ist so medizinischer Begriff, keine medizinfamazoltischen Experimente durchgeführt werden dürfen, weil manchmal die Auswirkungen auf Schwangerschaft gebohrt, Mensration und Zyklus einfach nicht voll liegen und auch nicht erforscht werden dürfen in diesen frühen Phasen. Es ist eventuell ethisch und guter Grund, aber bei den Nebeneffekten, dass viele Medikamente am Ende verordnet werden für junge Frauen, die nie an jungen Frauen erpropforden sind. Es gilt aber auch für Menschen mit anderen Hauptfarben, es gilt auch für Menschen mit extrem unterschiedlichen Körpergrößen, also sehr fettleibiger oder sehr dünne Menschen und so weiter und so fort. Und es ist nicht immer beabsichtigt. Ich würde jetzt an der Stelle quasi mal eine kleine Optimismuskäule rausholen und würde sagen, wenn wir jetzt die KI's, diese großen generativen Sprachmodelle begreifen würden als quasi gesellschaftliche Studien, dann zeigen die uns sehr genau, was in den letzten 30 Jahren an Bildern in unserer Gesellschaft gewesen ist und wenn wir jetzt so weit wehren, könnten wir sagen, okay, ich sehe jetzt, dass meinetwegen Polizisten in der Regel, also nicht gejendert, jetzt eine bestimmte Größe haben, eine bestimmte Haarfarbe und eine bestimmte Hautfarbe und jetzt arbeiten wir ganz gezielt dagegen, in dem wir ganze Galopter KI oder dem Personal bearbeitenden Menschen vermitteln. Ich möchte jetzt bitte so in so viel weibliche Personen einstellen, um an irgendeiner Stelle vielleicht doch die Entscheidung zu treffen und das ist jetzt so ein bisschen dieses im Himmel, das ist ja Marktbild, dass wir sagen, okay, wir schmeißen das Trainingsmaterial jetzt weg und nehmen ein neues Trainingsmaterial, das vielleicht eine neue Gesellschaft, wie wir Realität abbildet. Ganz gemein ist das bestimmte politische Richtung, ganz gezielt Social Media benutzen, um dort eine bestimmte Datenspur zu legen und diese Datenspur fängt an, in dem zum Beispiel sehr traditionelle Frauenbilder vermittelt werden und auch diese Datenspuren sind alle, weil die Bänjan nicht gefilter, die sind alle am Ende in den Datenbeständen drin und dann entstehen auf einmal, obwohl wir sagen, wir sind jetzt prograsiv und innovativ und gleichberechtigt orientiert für alle Geschlechter, dann kommen auf einmal über die Auswertung von Social Mediabeit, regnen nicht nur Transgender Aspecte rein oder Profeminismus Aspecte, sondern es kommen auch wieder Aspecte rein, die zum Beispiel aus der Z-TradWive Ecke kommen, was einfach ein sehr stark verzerrtes Bild ist. So die Frage ist dann, welche Machtstruktur, weil das bei ja dahinter bestimmt, welche Daten zum Training der KI genutzt werden und das ist nach wie vor leider eine sehr stark konservativ ausgeprägte Machtstruktur. Ja, das hängt jetzt nicht nur darin, dass es Selikin Welle eher weiß männlich dominiert ist. Man könnte sagen, weiß asiatisch männlich, da gibt es in beim KI Kontext auch schon eine gewisse Schlagseite hin zu vor allem chinesischen Perspektiven. Das große aber, was man hier wieder reinbringen muss, ist durch die Art und Weise, wie große Sprachmodelle funktionieren und wie sie trainieren, muss man sich immer vergegenwärtigen, dass dieses stochastische, was du sagst, was so eine Ähnlichkeit des Produktionen bedeutet, dass das Strukturen denken muss, da Strategien immer und immer wieder wiederholt und dass man wirklich aufpassen muss, dass man die nicht unbewusst mit hineinbringt. Das Thema ist da unbewusst. Ich möchte jetzt gar nicht unterstellen, dass so viel von dem wie KI heute auch teilweise gegen Frauen gerichtet scheint, dass das ab sichfonds ist, das möchte ich zunächst zumindest nicht unterstellen, aber wenn eine weibliche Perspektive fehlt, dann spüht man das bisschen Instrument hinein und manchmal selber überraschenden Stellen. Es gibt von einer der wichtigsten Frauen im Bereich künstliche Intelligenz, die es gandalöserweise bis jetzt den Turing-Ewort nicht bekommen hat. Was vielleicht auch daran liegt, dass in den letzten zehn Jahren gar keine Frau den Turing-Ewort bekommen hat, also quasi den Nobelpreis für künstliche Intelligenz und in diesem Jahrtausend, glaube ich, erst zwei oder drei. Dabei wurde der an über 30 Menschen vergeben, in diesem Jahrtausend ein. Diesen Einschub, Fae Fae Lie ist gemeint an dieser Stelle eine der wichtigsten Frauen im Bereich KI. Die hat berühmterweise gesagt, wenn du nicht am Tisch sitzt, dann stehst du auf dem Menü. Will sagen, wenn du deine eigene Perspektive in der Technologie nicht mit reinbringt, in solche sehr prägenden Bereiche wie große Sprachmodelle, wie künstliche Intelligenz gesamt. Dann landest du früher oder später auf der Seite der Verliere. Und also dass es und den Menü, man wird halt gegessen, das kann man sehr, sehr buchstäblich betrachten. Das ist vielleicht eine fast perfekte Überleitung, Alke von diesem großen, komplex, gesellschaften Frauen hin zu unserem Punkt. Wo sind denn die Vorteile für Frauen bei künstlicher Intelligenz? Ich bin der Meinung, dass sie gibt. Wo siehst du die? Ja, das ist wieder eine ganz schwierige Frage, weil ich sehe gar nicht ausdrücklich Vorteile für Frauen. Wo ich Vorteile sehe, ist, dass man die Möglichkeit hat, indiskussionsräume zu kommen, wo es um Selbstermächtigung geht. Wenn ich mir überlege, wie ich aufgewachsen bin und ich komme aus einem sehr fortschrittlichen Haushalt aus dem Westen Deutschlands, dann war ich doch sehr überrascht, wenn ich aus meinem Elternhaus rausgegangen bin, in andere Elternhäuser geguckt habe, festgestellt habe, dass menstruation da ein Tabutema ist oder weibliche Sexualität ein Tabutema ist. Und das war es bei uns zu Hause nie, also psychologen Haushalt hat. Diese Themen sind heute keine Tabutemäer. Also ich kann zum Beispiel auch als Eltern teil von zwei Kindern im Pubatetsalter gewisse Dinge offen mit denen reden, ohne das Scharngefühl entsteht, weil sie eben auch zum Beispiel in Social Media offen geredet werden und da sehe ich insbesondere für junge Frauen, die sehr oft in Situationen sich befinden, die Scharngefühl provozieren, eine große Chance. Also wenn sie zum Beispiel sagen, meine Güte wie groß ist die Anzahl der Frauen, die sexuell übergriffigen Verhalten ausgesetzt gewesen sind. Oh mein Gott, mir ist es auch passiert. Ich gehe jetzt damit an die Öffentlichkeit. Das heißt, dieses benutzende Öffentlichkeit für die Darstellung von Weiblichkeit, von Mensstruation, von Übergriffigkeit, von männlichen Mitgliedern der Gesellschaft sozusagen. In dieser öffentliche Diskussion sehe ich als großes Potenzial für junge Frauen auch dort in die Selbstermächtigung zu kommen und auch zu sagen, so geht es mir auch oder ja, das ist mir auch passiert oder auch zum Beispiel Kanäle, die weibliche genitalien diskutieren, ohne Scharngefühl, ohne als biologisches Konstrukt, die auf einmal einen aufklärischen Charakter haben, der sehr wertvoll ist für junge Frauen, die diese Themen vorher als Tabute im ganz anders behandelt haben als junge Männer zum Beispiel. Das gleiche Material steht auch für junge Männer zur Verfügung. In diesem Bereich sehe ich das schon als Instrument der Bewusstheitsschaffung von jungen Frauen, insbesondere jungen Frauen natürlich auch älteren Frauen, wo ich wenig Chance sehe, ist auf dem Markt. Du hattest ja mal gesagt, dass du den Eindruck hast, dass da für junge Frauen jetzt sehr viel mehr Marktchanzen sind in die Sichtbarkeit zu kommen und zum Beispiel Business aufzumachen. Da bin ich mir nicht so sicher, da hätte ich gerne deine Einschätzung noch mal von. Also ich ertappe mich selber häufiger dabei und das kann hier auch der Fall sein, dass ich aus einer Studie mit positiven Anhaltspunkten und ich würde sagen mehr weibliche Beteiligung im Bereich, wo zum Beispiel laut OECD kaum 22 Prozent der Forschenden weiblich sind, das ist im KI-Bereich so. Also solche Zahlen sind nicht besonders ermutigend ebenso, wenn man sich die Nutzer schafft von künstliche Intelligenzen wie Chatchipity anschaut, das ist häufig weit überwiegend männlich durch die Bevölkerung betrachtet, das ist erst mal endmutigend. Und dann ertappe ich mich selber, wie ich so eine Studie sehe mit positiven Zahlen und sofort möchte, dass es dadurch besser werden kann. Und ich will gar nicht sagen, dass meine Position da zu freudig erwartet ist. Aber ich mach dir ein ganz handfesten Zahlen fest. Deswegen auch diese Äußerungen, die von der du gerade sprachst, wo ich gesagt habe, ja, ich glaube, dass Frauen strukturelle Vorteile haben können von KI, ob sie die dann nutzen oder nicht, ob man sie sie lässt zu nutzen oder nicht. Das sind noch andere begleiten Fragen. Aber es gibt eine Zahl, die zum Beispiel von Pew Research veröffentlicht worden ist. Und sehr bekannt ist, das große, amerikanisches Forschungsinstitut, was zum Beispiel öffentliche Meinung an geht, aber auch in vielen gesellschaftlichen Fragen erheben sie interessante Statistiken. Die haben 2024 rausgefunden, dass es bei Männer häufiger KI-Tools nutzen, das Frauen generative künstliche Intelligenz, also Chatpots, aber viel stärker für Bildung, Kommunikation und Alltagsorganisation. als die Situation nutzen. Alltags fragen. Gerade der Punkt mit Bildung und Kommunikation, den halte ich für ziemlich essenziell. Denn im Zweifel kann man es auch zurückführen, dass Männer das eher so einem Hobbybereich machen oder in einem halbberuflichen Bereich, wo sie dann irgendwas zusammenhecken und das ist Frauen, aber eher merken, ich habe hier ein Bildungsinstrument und möchte das auch für Bildung benutzen. Wie gesagt, geht es hier um Durchschnittswerte. Das finde ich, kann man als Erkenntnis schon erst mal stehen lassen. Und der zweite Punkt ist einer, der im Prinzip zusammenhängt mit einer der wichtigsten feministischen Kategorien des 20. Jahrhunderts. Das ist nämlich die Linguistik. Denn der Vorläufer der Programmierung ist die Sprache, die Sprache, weil sie als eine akulturelle Programmierung zu begreifen. Und jetzt geht die Programmierung so mit irgendwelchen Programmiersprachen wieder zur Rückendrichtungssprache. Und bei der feministischen Linguistik war total klar. Wir haben in der Sprache Machtstrukturen, die da verbogen sind, die da eingewoben sind und die Teil des Problems aber auch Teil der Lösungs sein können. Und jetzt haben wir die Situation, dass Sprache nicht nur sehr viel mächtiger geworden ist. Sprache herrscht inzwischen zu einem Teil über Technologie, weil Sprache-Technologie programmieren kann. Und das macht mir eben auch Mut, dass mehrere experimentelle Studien zeigen, zum Beispiel Stanford, 2024 ebenfalls vom Jumman-Centered AI-Institut, dass je besser die Sprachkompetenz ist und die es im Schnitt bei Frauen deutlich höher, um so erfolgreicher können Menschen prompten, um so erfolgreicher können sie KI dazu bringen, genau das zu tun, was sie möchten. Das ist ein Anzeichen. Das ist ein Hoffnungsschimmer. Das darauf kann man aufbauen. Ich sehe, wir sind jetzt noch nicht bei der kompletten KI-Abschöpfung des Parterechards, aber es ist so eine Art Hoffnungsschimmer, den man vielleicht ins Feld führen kann, wenn man sieht, aha, wenn es um KI-Verwendung geht, dann sind Frauen jetzt noch nicht so weit vorne mit dabei. Stimm ich dir voll und ganz zu, aber für mich hat das tatsächlich der Schwabe würde sagen, Geschmeckler. Und zwar deswegen, weil Frauen Bildung schon immer als Chance des Aufstiegs in patriarchalen Strukturen begriffen haben. Und es gibt zwei Formen von Müttern sozusagen oder auch Federn. Meistens sind es aber die Mütter, die ihre Kinder vor einem ihre Töchter in Bildung schicken, in Leistung schicken, damit sie eine bessere Startposition in Berufsleben haben. Wenn man sich Schülerinnen und Schüler anguckt, dann sind die Schülerinnen häufig die Leistungs-Tragenden und die Jungs hinkend hinterher. Das Ding ist einfach, wenn ich sage, ich möchte eine gleichberechtigte Gesellschaft haben, dann ist für mich, ich sag's, meine in einer ganz großen Klammer, die Digitalität, ein großer Schritt dahin, gleichberechtigte Strukturen hilft zu schaffen. Und zwar ganz pragmatisch, ganz ohne KI, jetzt gedacht KI, kommt da auch mit rein, aber es sortiert sich in den Kahn und der Digitalität ein, dass wir Menschen haben, die in Leitungspositionen gehen können, weil sie Passmarth von Erreichbar sind, weil sie auch während sie dabei sind für einen Kindergeburtstag einzukaufen, kurz eine Nachricht absetzen können, um jemanden zu informieren. Und diese Strukturen, das klingt so ein bisschen komisch und abgedräuschen, aber ich habe das oft genug gehabt. Ich bin allein erziend und als meine Tochter noch sehr, sehr klein war, sah es sich manchmal mit ihr auf dem Spielplatz, ich wusste, ich habe wichtige Deadlines, es hat mich wirklich geplagt, ich hatte aber keinen, der sich um das Kind kümmern würde. Und meine Tochter fand auf dem Spielplatz ein Spielbody, also eine Spielpartnerin oder ein Spielpartner und war dann wirklich richtig, richtig doll beschäftigt, so dass ich einen freien Raum gehabt habe, und die Menschen mit kleinen Kindern kennen so was. Und ich hätte damals wirklich, ich hätte, ich hätte ein Jahr meines Lebens dafür gegeben, wenn ich die Chance gehabt hätte mal kurz die E-Mails zu checken auf meinem Smartphone, was mir wenige Jahre später dann möglich gewesen ist. Und das ist richtig cool oder virtuelle Konferenzteilnahme für Wissenschaftlerinnen und Wissenschaftler mit kleinen Kindern. Und das, was es braucht dafür und auch, was es braucht für eine Zukunft der KI, ist tatsächlich nicht, dass die Mädchen jetzt mit ihren Kommunikations- und Denkstrukturen, die Jungs jetzt abhängen, sondern dass Mädchen mit Jungs reden und Jungs mit Mädchen reden und sie gemeinsam eine neue Realität schaffen. Da bin ich jetzt der Idealist, wo ich sage, wow, wenn ich sehe, wie viele Männer die Chance haben jetzt in der Erziehung ihrer Kinder allein körperlich anwesend zu sein und auch geistig anwesend zu sein, weil ihnen digitale Arbeitswelten überhaupt erst den Freiräumen geben, erfolgreich zu arbeiten und an der Erziehung ihrer Kinder beteiligt zu sein. Dann kann ich nur sagen, was für eine schöne neue Welt, das mag ich sehr, sehr gerne. Und dann würde ich sagen, in dem Moment, wo männlich gelesenen Personen als Fäter sich in die Rolle der Erziehungsberechtigten und Erziehungsverantwortlichen genauso einbringen, wie die Mütter oder die weiblich gelesenen Personen oder was auch immer das dann ist, dann entstehen Freiräume, die auch Frauen nutzen können für berufliche Selbstverwirklichung, die auch Frauen nutzen können, um voranzukommen. Für viele ist tatsächlich das Familienkonstrukt dann ein Moment des Beinstellens, wo sie sagen, oh Gott, ich trau mich nicht. Ich habe andere Priorität, ich habe keine Zeit. Ich habe auch gerade hormonell nicht die Energie, diesen Kampf, diesen männlichen Kampf durchzuführen. Es braucht einfach sehr, sehr viel anders geartete Energie, um seinen Mann zu stehen als Frau. In dem Moment, wo Männer sich in diesen mehr sozialorientierten Aktivitäten stärker einbringen, weil die digitale Welt in ihren Gestaltungsraum nach wie vor offen hält, können auch Frauen diesen Raum zum Wachstum nutzen. Insofern, ich widerspreche dir gar nicht. Ich würde es gar nicht so sehr auf KI fokussieren, sondern würde sagen, es ist die große Chance der Digitalisierung, wenn wir sie gut und zielgerichtet einsetzen. Digitalisierung, das ist genau das Stichwort. Wenn wir uns jetzt auf der Zielrad mal um diesen dritten Themenkomplex kümmern, einen, den man weder abschließen, noch erschöpfen und schon gar nicht undifferenziert betrachten sollte, es geht nämlich um KI und Macht. Und jetzt nicht nur oder eigentlich hauptsächlich nicht politische Macht, sondern die Macht, die in KI drinwohnen, die ganz offensichtlich spätestens mit den großen Sprachmodellen noch mal exponentiell größer geworden zu sein scheint, aber auch immer wieder an Grenzen stößt. Alke, wie mächtig ist KI wirklich? Will sagen, wo sind die Grenzen, wo werden die Grenzen in zwei, drei Jahren sein? Und was müssen wir jetzt berücksichtigen, um dieser Macht gesellschaftlich auch nur halbwegs gerecht zu werden? Das sind so die Fragen. Du hast es eben schon selber ganz toll gesagt, der nimmte auf der Linke, was die Kavisen hast. Und du hast gesagt, im Grunde hast du etwas gesagt, was sich übersetzen lässt in, wie wir denken und reden bestimmt, wie wir die Realität sehen. Das geht zurück bis auf Wittgenstein und auch auf ältere philosophische Konstrukte. Die Grenzen meiner Worte sind die Grenzen meiner Welt, das ist so das bekannteste Zitat dabei, wenn wir eine KI benutzen, ganz egal welche, zum Beispiel um uns Texte zusammen zu fassen im Internet. Und wir glauben dem Ergebnis dieser KI, dann sitzen wir in einer Beiusfalle. Ich weiß gar nicht, glaube ich, 12 verschiedene Beiusformen. Irgendwann finden wir Untergarantie da drin. Und jetzt gehen wir auf dieses Thema Macht und sagen, wer bestimmt denn, was in dieser KI jetzt ausgegeben wird? Also es gibt ja Menschen, die sagen, dieses Material gehört zum Training, dieses Material muss raus. Dieses Material ist in einem System prompt, noch nach dem Training der KI noch mal fein justiert, also zum Beispiel Zeig 50% der generierten Bilder mit Hellhäutigen und 50% mit dunkle heutigen Menschen an. Was kann man über System promptings, noch mal rein, die Regieren sozusagen in die KI. Und es gibt die Leute, die dann am Ende sagen. Dieses Ergebnis gibt eine KI für folgende Zielgruppe aus. Und das sind alles Machtstrukturen. Macht besteht da drin, die Hohe zu haben, Daten auszuwählen für das Training der KI. Macht besteht da drin, die Hohe zu haben, dieses System prompt oder prompt injections zu definieren, was darf die KI ausgeben, was darf die KI nicht ausgeben. Und diese Macht sitzt bei Person und bei Konzernen. Damit denke ich, diese Frage, wer macht aus sehr klar definiert, macht über diese Menschen aus. Und das ist auch historisch schon immer so gewesen, die die Deutungshoheit über Material haben, um das in die Öffentlichkeit zu tragen. Das ist auch der Auftakt zu einer Diskussion, die jetzt langsam in die deutsche Technologienzene auch unter dem Stichwort Digitales Sovrenität getragen worden ist. Digitales Sovrenität, also als Empbekrifte, das wie unabhängig können Deutschland, können Europa von amerikanischen oder chinesischen Unternehmen sein. Gerade im Bereich künstliche Intelligenz eine extrem existenzielle Frage über kurz oder lang. Aber das Diskussion, die da geführt wird, heißt zum Beispiel Open Source. Warum Open Source? Wir haben was die eben von der angesprochenen Systemproms angeht. Also die Basisanweisungen für eine KI, wie sich verhalten soll, wenn man nichts reinschreibt, was sie rausgeben darf und was sie nicht rausgeben darf. Das ist so das Grundregelwerk. Das sind Systemproms und die sind ein paar mal gelegt worden bei den großen Plattformen, da sehr interessanter Einblicke bekommen. Da steht jetzt auch nichts komplett überraschendes drin, wo man denkt, um Gottes willen, das hätte ich ja nie gedacht. Aber und das ist halt das interessante, wenn wir Open Source Modell anschauen. Also KI Modelle und da gibt es zwischen auf wirklich gute große Sprachmodelle, die Software für solche Chatboards, die ganz offen sind, wo man reinsehen kann, wo man was verändern kann. Und wenn man auch sagen kann, oh, diese Datensatz-Training, die gefallen mir von der Gegensprüze und her nicht waren, sind nicht gut. Ich möchte das mal ein bisschen anders aufsetzen. Da könnte ein Teil der Antwort drin liegen, weil ganz offensichtlich Lieck hin oder her, wenn ich ein Open Source ansatz habe, dann kann ich sagen, hey, die -- die wir verwenden in Institutionen A, in Land B, in Unternehmen C, die soll bestimmten Werten gehorchen, die für uns jetzt gerade wichtig sind. Das darf ja jeder und jede so machen, wie er da sie mag. Und da wäre ein möglicher Amtsatz um zu sagen, Macht ist da, sie wächst, das bestreitet fast niemand, dass die Macht von KI wächst, sie muss irgendwie handhabbar bleiben. Siehst du da in Open Source so eine Lösung, gerade aus europäischer Sicht, wir sind ja mehr oder weniger leider von Großmächten umgeben, die sich nicht ausschließlich in positive Richtung, in Entwicklungsmaßuose drücken, siehst du bei einem Open Source-Bereich Lösungsansatz für das Problem, was du geschildert hast mit Macht und KI? Ich denke schon, weil Open Source etwas ermöglicht, was bei uns im europäischen Raum dann eine eigene Machtstruktur darstellt, wenn wir in Europa Open Source entwickeln, bedeutet, dass wir über die Ländergrenzen hinweg entwickeln können und auch aus diesen sehr dominanten Ländern noch Menschen abgreifen können, die dem Open Source gedanken folgen. Der Open Source-Gedanke ist ja ein sehr alter Gedanke in der Informatik, der auch was zu tun hat mit Arbeitsetik und auch vor allem etwas zu tun hat damit, dass wir sagen, es gibt kein hoheitliches Recht auf die Programmierung dieser Maschine aus der gesellschaftlichen Perspektive heraus. Es gibt Produkte, die haben dann ein Verkaufswert und alles andere entsteht. Aber quasi, da gibt es einen schönen Begriff, komischerweise immer in Englisch, Knowledge of the Masses. Also das Wissen der Massendadrin. Was wir in Europa nicht so breit haben ist, wir haben durch unsere Datenschutzgrundverordnung, was die ich sehr positiv empfinde per See und dann im Detail vielleicht noch mal kritisch diskutieren könnte. Das machen wir aber nicht hier. Ich dachte, für den ergänzen natürlich. Ja, also es ist zwei Sachen. Ich bin immer zwischen W und W. Das eine ist, so dass ich sage, oh Gott, zum Glück haben wir sie und auf der anderen Seite sage ich, verdammt, können wir wieder nicht machen weil. Das ist sehr, sehr schwierig. Es ist ein Eierthans auch für die Ethik auf diesem Eierthans auf dem Drahtseil, der jetzt doppelt gemobbelt, aber vielleicht beschreibt es die Situation uns gut. Im Bereich Open Source haben wir dann die Möglichkeit, dass wir zum Beispiel Nutzerinnen und Nutzern sagen, "Hallo, wenn du dich hier dran beteiligst, dann möchten wir deine Daten sammeln für das Training von X, X, X und Z." Und ich glaube, der große Unterschied kann darin bestehen, dass wir sagen, bis jetzt ist es so, dass diese riesig großen Konzerne Daten einfach nehmen können, ohne zu fragen. Und das andere wäre dann, dass wir sagen, okay, wir erkennen an, dass Daten einen Machtinstrument sind und wir stellen diese Daten freiwillig bereit, weil wir uns dafür entschieden haben, das zu tun. Aber es ist auch wieder so eine im Himmel, es ist ja Markzituation, Macht und Verantwortung, hängen da sehr, sehr eng miteinander zusammen. Und jetzt ist es halt sehr komfortabel, wenn ich jetzt GPT einsätze oder Gemini oder Claude, es ist fast egal oder auch die Pzik, dann kann ich sagen, "Oh Gott, ja, da ist jetzt halt irgendwas nicht so gut gelaufen, es gefällt mir nicht so gut, aber Schuld sind die Amerikaner oder die Chinesen. In dem Moment, wo ich sage, wir machen das Open Source und im europäischen Kontext, müssen wir auch sagen, okay, und dafür tragen wir die Verantwortung und zwar in jeder Hinsicht und das ist dann eine sehr unbequemene Diskussion. Den müssen wir uns aber dann stellen." "Du hast gerade nicht nur die DSGVO angesprochen, so, der man auch unterschiedliche Haltung haben kann. Ich bin erst mal auch froh, dass wir in Europa ein anderes Konzept von Datenschutz haben, auch als Instrument zum Schutz gegen die Regierung. Das ist so ja ursprünglich aufgebaut worden. Wir sehen jetzt in den Vereinigten Staaten, wie schnell Daten verwendet werden können, gegen Menschen, die sie früher mal oder irgendwann zwischendurch oder Freunde von ihnen freiwillig abgegeben haben, das sehen wir zum Beispiel in der großen Diskussion, um Menschen, die dort von der Behörde Eis unter teilweise abzutend Bedingungen gejagt und abgeschoben werden. Das in nun eben bei, ich bin da sehr froh und gleichzeitig, sie ich auf Macht bezogen, gerade in der DSGVO. Finalen Kraft getreten 2018, wenn ich mich richtig herinere, am 25. Mai. Ich habe dazu mit einem der Fäter, der DSGVO Jan Philipp Albrecht, der zweimal Portrass gemacht, vorher und nachher. Die spannende Diskussion da ist, aus Sicht der Macht, das für mich die DSGVO und leider zu einem guten Teil auch der AI-Ekt. Klassische Instrumente sind das gut gemeint, aber nicht ganz so gut hinbekommen. Und zwar genau was Macht angeht. Denn gerade so große Plattformunternehmen wie Sanktarmal Meter inzwischen, damals Facebook, die konnten sich ganz farbehaft mit der DSGVO anfreunden, weil sie da ein paar Formulierungen eingebracht haben, über intensive Lobbygien, die in der Möglichkeit haben, mehr oder weniger alles zu tun, was sie wollten, wenn sie ausreichend viele Anwerte bezahlen können und das können sie. Gleichzeitig habe ich als kleiner Digitalunternehmer in einer Vielzahl von Projekten eine Vielzahl von im Schnitt ziemlich teurem Folgen gehabt, zum Beispiel, muss sich in WordPress-Plak in nachprogrammieren lassen. Ich hatte einen Blog aufgesetzt, große deutsche Institution. Das war zur Ende gegangen. Ich dachte, der Blog ist toll einiger Maßen immer noch interessant. Ich muss den abschalten, weil es nicht mehr DSGVO-Konform war, weil es zu teuer gewesen wäre, den weiter aufrecht zu halten. So geht es sehr viel. Es gibt Leute, die trauen sich kaum irgendwie eine Chatgruppe für einen Kindergarten aufzumachen, weil sie Angst haben, plötzlich Daten schutzeitig nicht mehr. Und so weiter und so fort ist es ein Bürokratie-Monster geworden. Das geben sogar diejenigen zu, die dem positiv gegenüber stehen. Ich würde also sagen, man kann unterschiedliche Haltung haben, DSGVO-AI-Ekt, wir brauchen unbedingt eine bestimmte Form von Regulierung, der macht, die Hinter KI steht, wenn ich absolut hundertprozentig dabei, ich habe los eine Spur, sagen wir mal, Begeisterung verloren, was die Brüsseler-Administration und deren Kraft zur sinnvollen Umletzung von Regulierung angeht. Insofern. Ja, ich bin ja. Aber kein Bock, dass wir versuchen, diese Macht zu regulieren. Und am Ende ist durch ganz viele verschiedene, können wir an anderer Stelle besprechen, Faktoren, die macht der ganz großen Konzern und Plattform fast unobrochen. Und bei den vielen kleinen und kleine, sondern auch Start-up-Unternehmen und europäischen Unternehmen, auch großen Unternehmen in Europa, die sich ein bisschen moralischer selbst empfinden, als das andere Konzern tun, bei denen ist dann sofort ein Blocker da und die können nicht weiter machen. Und wir haben das sehr häufig gehabt. Für mich ist deswegen dieser Teil der digitalen Sobrinität-Alke eine der ganz zentralen Machtfragen, wo man vielleicht auch unbequemme Antworten, was gerade von unangenehmem Antworten nicht für die Unbequemme Antworten finden. Aus allen Perspektiven ist nicht die größte Chance, dass wir in KI, in KI-Plattformen, in der nächsten großen Welle der auch wirtschaftlichen Umsetzung von Technologie, in nämlich künstlichen Gens ist nicht die größte Chance, dass wir Einfluss haben. Demokratischen Einfluss auf diese Machtstrukturen, wenn wir in Deutschland und Europa große KI Unternehmen haben, ist das nicht eigentlich der wichtigste Hebel? Ja, einerseits schon, aber ich glaube, wir haben noch viel wichtigeren Hebel. Wenn ich auf der einen Seite so einen stark marktscheirisches Verhalten beobachte, dann frage ich mich wem nutzt das. Wenn wir GPT, Skopieletz und so weiter, gratis und das Volk schmeißen, dann gucke ich dahin, wo sind die Geldflüsse wem nutzt das. Und dann kann man ja überlegen, wem nutzt jetzt was genau dabei? Damit will ich sagen, wenn jetzt zum Beispiel Windows 11 ausgestattet mit einem Standard Kopielet. Auf den Rechnern installiert wird und gesagt wird, wenn wir jetzt nur noch rechner fahren, können die mindestens so in Windows 11 Arbeit in der Lage sind, dann ist die Gegenbewegung, dass wir sagen, dann installieren wir halt Linux. Und dann haben wir auf einmal gar nicht mehr die Notwendigkeit Microsoft Produkte zu benutzen, dann benutzen wir die aus dem Open Source Bereich. Und die große Macht in Europa in der Digitalwelt besteht jetzt da drin, dass wir jetzt zum allerersten Mal, seit der Vermarktung des PC ist, um es mal so zu formulieren. Also seitdem der PC in den 70er Jahren, sehr longfähig, worgeltest du still mehr zum allerersten Mal an der Stelle, wo wir sagen können, okay, wollen wir das überhaupt? Wollen wir nicht eigentlich auch was unsere Rechentechnik angeht, eine Welt haben, in der wir entscheiden können, wollen wir eine KI oder wollen wir nicht. Das ist der eine Teil der Antwort. Insofern ja Europa und ich weiß nicht, ob es jetzt ein Pounder geben muss zu OpenAI oder zu irgendetwas andere oder zu Meta. Ich glaube, diese Pounder muss es gar nicht geben, weil wir weder diese Riesen, die ganzen Datenzentren betreiben wollen, noch sie ökologisch, ökonomisch überhaupt betreiben können, weil zum Beispiel ja auch der Chipmarkt gerade leergefegt ist und so weiter und so fort. Also da hängt sehr viel geopolitisches Machtgezerre dran an dieser ganzen KI-Blase. Das zweite ist, aus meiner Perspektive ist im Bereich Deutschland aber auch Frankreich, Italien, Spanien darüber hinaus kann ich es nicht beurteilen, in dem ganzen Bereich kleine und mittelständische Unternehmen. KI überhaupt nicht so angekommen, wie die das Ziel für uns nutzen könnten. Und dann machen wir fast wieder einen Kreis zurück an den Anfang des Gesprächs, wo du gesagt hast, wie vermittelt man es. Wir sind jetzt gerade dabei zum Beispiel für einen Unternehmen, das an der oberen Grenze eines KMUs ist Data Science und Machine Learning als Fortbildung anzubieten, das ist jetzt quasi ein Freundschaftstienst. Es ist einfach so, dass die Menschen, die jetzt in diesen kleinen und mittelständischen Unternehmen arbeiten oft gar nicht wissen, wozu sie eine KI Ziel führen einsetzen können. Und in dem Bereich Data Science und Machine Learning kann man extrem gut mit KI arbeiten, ohne jemals ein Chat GbT angefasst zu haben oder ohne Kopheile zu nutzen. Und da, denke ich, sitzt gerade im europäischen Raum ein. ein enormer Bestand an Innovationspotenzial, wenn wir uns um die kleinen und mittelständischen Unternehmen mehr kümmern und dort an erlösenparen. Wie können wir jetzt zum Beispiel Machine Learning Data Science und so weiter, das sind ja Aspekte von KI. Wie können wir die dort etablieren? Wie können die Zielführende reingehen? Wie können die Ergebnisseicherung, Qualitätssicherung, Nachhaltigkeitssicherung, wie kann da der Weg sein? Und da suche ich die Diskussion in Deutschland. Ich glaube da liegt auch unser Machtpotenzial. Wenn wir von Macht und KI sprechen, vielleicht so als Finaleüberlegung, was glaubst du denn, wenn wir das jetzt ein bisschen ablösen von den geopolitischen Faktoren und auch von den wirtschaftlichen Faktoren, was der nächste Entwicklungsschritt in diesem zusammenwirten von Menschen und Maschine sein wird, weil nicht nur, dass das eine alte Diskussion ist, nicht nur, dass das intensiv auch immer wieder für Horrorstorisch sorgt, sondern auch, weil relativ klar ist, so wie wir heute KI verwenden und in einer Geschwindigkeit, wie wir das hier gesellschaftlich erpiert haben, wird das der wichtigste Machthebel für die Teilhabe zumindest an wirtschaftliche Arbeit werden. Und das wiederum bedeutet, wie siehst du, wie KI und Menschen in Zukunft zusammenwirten, was wäre da dein Best-Case-Scenario für in 5 oder 10 Jahren und dein Worst-Case-Scenario in 5 oder 10 Jahren? Mein Best-Case-Scenario sieht so aus, dass Menschen erkennen, wo das Daten- und Informationspotenzial dieser großen Rechenmaschinen tatsächlich liegt. Also Auswertung, großer Datenstrukturen, Analyse, großer Datenstrukturen in einer Art und Weise, wie es Menschen einfach nicht können. Und fast egal, ob das genomen Datenbanken sind oder ob das Bilanzdaten aus irgendeinem KMU, also kleinen mittelständischen Unternehmen sind, das ist fast egal, die ideale Welt sehe so aus, dass die Datenanalyse in einer Art und Weise gefahren werden kann, dass sie Ziel führend ist und zwar ökonomisch, ökologisch, nachhaltig für alle Beteiligten. Ich vermute mal, dass der nächste Schritt in die Richtung geht, dass noch mehr in Humanoide-Roboter investiert werden wird, weil das aus dem Asiat schon aus dem chinesischen Raum konkret extrem nach vorne getrieben wird. Und dieser Schritt jetzt, dieser enorm rechen Power in Roboter zu bringen, einfach naheliegen der nächste Schritt ist, das wird allerdings die Leistungsbreite dieser Roboter nicht erhöhen. Also die werden vielleicht Humanoide wirken, sie werden aber nicht als Menschen ersatz sozusagen agieren. Und ich denke, dass auf diese Phase der Begeisterung erst mal wieder das kleine Teil der Ernüchterung folgen wird, wo wir erkennen werden, na ja, gut, es ist auch nicht wirklich brandneu alles, sondern oft nur alter Wein in neuen Schläuchen, nicht in jeder Hinsicht, aber in vielerlei Hinsicht schon. Und ich glaube, was wirklich wirklich, wirklich in fünf bis zehn Jahre noch sehr viel deutlicher wird, ist, dass wir in ein Materialdefiziedrennen werden. Also ich hoffe sehr, dass unsere Forschung im Bereich der Elektro-Technologie und Materialforschung dazu führt, dass wir ökonomischer, nachhaltiger Materialien finden, um diese rechen Power auch bereit zu stellen, glaube da bewegen wir uns gerade in eine Sackgasse. Das ist meine Prognose für die nächsten zehn bis 15 Jahre. Du hast jetzt quasi den positiven und den negativen Aspekt zusammen voneinander abgegrenzt, dass das finde ich sehr gut. Das kommt dem sehr nah, dass du mit so tiefer Sachkunde, vor allem auf der im Instagram-Kanal, ohne es zu demonisieren, zu vertoffeln, trotzdem die kritischen Punkte sehr klar benenzt. Ich glaube, das ist auch ein wesentlicher Teil der Nässe-Avolks. Lieber Alkadanket, dass du hier im Podcast warst, war total erfrischendes Gespräch. Wir haben viele parallel, wir haben ein paar Unterschiede und ich glaube, dass die Debatte insgesamt diese verschiedenen Perspektiven braucht. Und das spiegelt sich nirgendwo deutlicher als meiner Sicht, als in dieser Geschlechterfrage rund um KI, weil da so offensichtlich ein paar Beispiele haben wir heraufgezählt, weil da so offensichtlich ist, dass viele verschiedene Perspektiven, das eine bestimmte Form von Diversität für fast alle Technologien, nicht nur produktiv und konstruktiv ist, sondern eigentlich als Grundvoraussetzungen verstanden werden muss, damit es sich überhaupt lohnt, die reinzugeben in dieses große Fortschrittsgetöse, was wir alle im Bereich KI spüren. Lieber Alkadanket, vielen Dank, dass du da warst und B, will ich dir gerne das Schlusswort und die Grinte-Sense nicht nur von diesen Podcast, sondern von diesem ganzen Themenkomplex in die Hand geben. Herzlichen Dank. Erst mal, Sascha, ich habe mich irre gefreut, dass ich hier bei dir im Podcast sein darf. Das ist ein Podcast, den ich selber sehr gerne höre. Ich bin total begeistert, dass ich heute Teil davon sein durfte, Teil von dieser Story auch sein durfte. Und das Fazit ist, es geht weiter, es geht auch wahrscheinlich so weiter, dass wir beide, obwohl wir an einigen Punkten ein bisschen unterschiedlich positioniert sind, überrascht sein werden. Da bin ich sehr von überzeugt und ich hoffe einfach, dass wir auf die junge Generationen mit ihrem Gestaltungswilden hoffen dürfen und dass wir auf die setzen dürfen, weil ich glaube auch die jetzt heranwachsende Generation hat sehr, sehr viel mehr Power-Diversität, Kreativität, als wir ihr das zur Zeit zu trauen. Und das wäre mein Hura-Ruf für die, die nach uns kommen, am Ende dieses Podcasts. Danke, Sascha. Vielen Dank fürs Zuhören, wenn euch diese Podcast folge gefallen hat, bewertet sie gerne, teilt sie gerne in sozialen Medien und wir diskutieren über die Inhalte, über die einzelnen Tesen, über diesen ganzen Komplex innerhalb dieses Podcasts, natürlich auf den großen Plattformen, Social Media Plattformen, Amerikanischen und chinesischen Plattformen, um genau zu sein, nämlich vor allem auf LinkedIn, auf Instagram, auf YouTube und auf TikTok. Bis zum nächsten Mal, vielen Dank fürs Zuhören. [Musik]