Markus Gabriel: Ethik der KI

ARD. WDR5. Das philosophische Radio mit Jürgen Bibicke. Freunde der Weißer Guten Abend, vielleicht sind Sie bereit für eine kleine Prise Utopie. Wir stellen uns vor, unsere Nachgeborenen blicken, in sagen wir mal 50 Jahren zurück auf das Jahr 2026. Und können dann nur staunen über das, was uns derzeit alles so plagt. Die hatten ja wirklich eine ganze Tüte voller Krisen, werden die Nachgeborenen sagen. Die waren auch ziemlich düstergestimmt seiner Zeit und haben sich im kleinen kleinen aus lauter Problemen, die alle irgendwie zusammen zu hängen, schienen, heilos verstrickt. Bis sie dann endlich auf den Trichter gekommen sind, wir Menschen kriegen die Problemlösung nicht alleine hin. Wir lassen mal die Maschinen machen, die KI wird die Welt moralisch verbessern. So weit die kleine Prise Utopie und jetzt ernsthaft gefragt, kann es so etwas geben, wie ethische Intelligenz, kann uns KI moralisch nach vorn bringen. Liegt der Fortschritt der Menschheit also in Algorithmen. So Gastes Markus Gabriel, Philosophie Professor in Bonn. Willkommen, Herr Gabriel. Ja, willkommen für mich auch, danke für die Einer. Mich würde ja erstmal interessieren, Blick hinter die Kulissen einer modernen Philosophen, existenz welches Rolle KI inzwischen in ihrer Arbeitsspielte. Also natürlich ist KI zunächst einmal ein Gegenstand der philosophische ethischen Erforschung. Wie funktioniert sie grundlegend, welche Arten von KI gibt es, wie brutalisiert man die, welche kommen zum Einsatz, was sind die führenden Unternehmen, was stimmt an den Aussagen der Unternehmen, was sagt die Forschungsredtaratur? Gleichzeitig arbeite ich aber auch mit einigen Unternehmen zusammen und mit Experten und Experten in meinem Forschungsumfeld, die genau testen, wie mächtig Algorithmen schon sein können für die Probleme, die wir formulieren. Und die natürlich auch mit Sprach- und Textverarbeitung arbeiten, nicht was, was ich die Gesamtausgabe Hegel zusammenfassen lässt, durch eine ordentlich strukturierte KI kriegt man heute schon Informationen darüber, für die man früher Jahre gebraucht hätte. Ja, das Beispiel ist uns sehr vertraut und oft wird gesagt, KI verändert gerade unsere Vorstellung von dem, was wir unter Bildung verstehen. Aber wenn Sie sich selbst betrachten, merken Sie das, dass Sie da auch sich selbst und Ihre Art zu denken auf den Prüftern stellen? Ganz unbedingt. Ich glaube, durch die Revolution der Large Language Models, das kennen wir alle aus dem Alltag inzwischen von den Chatbots, die überall auftauchen, ob man sie aktiv verwendet oder nicht. Sie sind ja überall integriert in die Suchmaschinen und so weiter, Google Gemini, ChatGPT und Konsorten, wir kennen Sie. Und die halten Einzug in unser Denken und verändern es schon längst massiv. Das ist eigentlich nicht ganz so neu, wie es jetzt erscheint. Es gab natürlich auch vorher Verhaltensänder und Verhaltensbeobachtende Algorithmen. Aber das Ausmaß ist jetzt ein ganz anderes und ich glaube, eben auch ein qualitatives Sprung in eine neue Welt. Was ist das qualitatives? Das qualitative Besteherin, das heute für jede Tätigkeit, die überhaupt digitalisiert werden kann, dazu gehört eben sprechen, letztlich auch der Ausdruck von Gefühlen darüber, wenn wir hoffentlich später noch reden. Und alles, was wir wie gesagt überhaupt digital darstellen können, irgendein Format, Audio, Videosprahe, was auch immer. Alles das kann heute ein relativ einfach konstruierbares KI-System besser verarbeiten, als die gesamte Menschheit zusammengenommen. Wir sind nicht mehr nur in Schach und Go und in der Navigation unterlegen und zwar massiv, sondern in jedem Bereich, über den es überhaupt digitale Daten gibt. Was kann das dann bedeuten für die Frage, worin heute eigentlich die Aufgabe dann von Geisteswissenschaften wie der Philosophie besteht? Genau darin, die alten Fähigkeiten, die eigentlich die Geisteswissenschaften antrennieren, nämlich kreativ Kontexte zu verstehen, historisch situierte menschliche Lebensform, ihren symbolischen Ausdruck, ihre poetisch kreative Seite einzusetzen, um zu verstehen, wie die KI-Welt wirklich funktioniert, in all ihren Dimensionen. Wir brauchen die Ethik, um vorher sagen darüber zu treffen, wie die Algorithmen sich verhalten werden, um zu sehen, ob wir sie irgendwie beschränken und bearbeiten müssen. Wir brauchen sozialwissenschaftliche und ökonomische historische Studien, um etwa zu verstehen, was die Amerikanen im Unterschied zu den Chinesen machen und warum. Das heißt, die Tools der Geisteswissenschaften, mit denen wir nicht klassischerweise Texte, Kunstwerke und andere bedeutsame kulturelle Art der Fakte analysieren, die müssen jetzt und zwar sofort angewandt werden auf diese neue Situation. Interessante Formulierung jetzt und zwar sofort, deutet nämlich auf das im Mense-Zeitproblem, was existiert. Also, wenn Geisteswissenschaftler verstehen wollen, dann hätte man früher gedacht, ja, sie müssen sich erst mal ein Stück aus dem Getümmel zurückziehen auf die Stanz gehen, aber die Entwicklungen sind so schnell, dass sie wahrscheinlich auch in ihre eigenen Arbeit von dieser Atemlosigkeit angesteckt werden. Es ist in der Sache nicht ganz vermeidbar, also es gibt keinen Zuschauer-Rang im gegenwärtigen Geschehen, weil eine Art digitaler Informationsschleier sich auf die Menschheit niedergelassen hatte. Ich nenne das in dem Buch ein Resonanzfeld. Wir existierenden einem neuen Feld, das entstanden ist, top-down und bottom-up zugleich. Auch durch unseren eigenen Gebrauch haben wir die Schlinge festgezogen. Wenn sich ein Schleier herab senkt, heißt das ja, wir sehen nicht mehr. Krichtig. Was ist denn hinter dem Schleier? Hinter dem Schleier ist die größte Rechenleistung mit Teil relativ einfacher. Teil es auch wahnsinnig aufregend, wer Mathematik und Technik, die dafür sorgt, dass unsere Denkprozesse in realer Zeit durch Systeme interaktiv mitgestört werden, teils als Manipulation, Ideologie und Propaganda, teils aber auch als wohlwollende Kooperationspartner und KI-Agenten. Es gibt in diesem Feld alles. Es ist sozusagen eine neue digitale Speziehes entstanden, wie das Muster-Fasühlemann von Microsoft nennt. Ist die Speziehes, das sind wir? Nein, das ist ein Spiegel unserer Selbst, den wir gebaut haben. Das sind die KI-Systeme und zwar alle erdenklichen KI-Systeme, ob die in den Wissenschaften, als nicht zum Einsatz kommen, in einem Top-Expertenbereich, wie z.B. bei Deep-Mind, zu Proteinanalyse-Alpha-Fold oder in den alltäglichen Chatboards oder in der in relativ langweiligen Industrieanwendung, überall sind KI-Systeme. Und diese KI-Systeme verändern jeden einzelnen Prozess auch die Prozesse, die für uns nicht aussehen, als wären sie schon vor dem KI gesteuert, aber in direkt schon sind. Können wir noch mal einen Moment mit dem Wildesschleiers arbeiten? Ich glaube, das ist ganz produktiv. Normalerweise würde man doch sagen, Aufgabe der Philosophie ist es, den Schleier zu löften, da zu stellen, was dahinter liegt. Also Dinge, früher hätte man gesagt, aufzuklären, Licht zu bringen. Kann das heute noch gelingen? Das kann gelingen, weil wir eine Aufklärung zunächst einmal darüber brauchen, womit wir es bei diesen Systemen zu tun haben. Ich philosophisch heißt das dann eben ontologie. Wer erforschen, die Art und Weise, die seinsweise dieser Systeme. Sind sie wirklich intelligents, sind sie bei Bewusstsein, wie funktionieren die, um sie dann erst mal auch zu klassifizieren. Daraus wären dann die relevanten Ableitungen zu treffen. Also bis hin zu ethischen Fragen. Während wir noch ein Social Media-Verbot unter 18, 16, 14 diskutieren, relevante Debatte, ist die viel wichtiger Debatte, die man führt. Was machen wir mit den Chatboards? Die sind viel gefährlicher. Und zwar in einer Weise, das kann man nicht hier kaum beschreiben. Doch, sie könnten mal einen Anfang setzen, damit wir die Gefahren nochmal präsent haben. Ja, machen wir das mit der Warnungsform, die wir zurecht aus der Pandemie kennengelernt haben, nicht das berühmte exponentielle Wachstum. Die sozialen Netzwerke haben unsere Gesellschaften teils aktiv, wie gesagt, mit Absichtlichen Akteuren, teils zufällig, ja, ziemlich untergraben und die liberale Demokratie in Zwangen gebracht. Das ist ja gut erforscht. Cambridge Analytica, Wall-Manipulation, Russische Bots, nicht der Zusammenbruch von Twitter. Das haben wir alle erlebt, die Konsequenzen, die die sozialen Medien hatten. Das Ganze stelle man sich jetzt mal vor als eine so langsam steigende Kurve. Die KI ist jetzt exponentiell an dem Punkt, wo die sozialen Medien aufgehört haben, die dockt ja dann an. Nicht während die soziale Medienkurve so langsam steig, dass man immerhin noch diskutieren kann, was nicht was der Gesetzgeber tun könnte, ist die KI schon so weit oben, dass wir dafür derzeit noch gar kein vernünftiges Maße haben. Und das steht sie heute schon und verändert unsere Gesellschaften. Und diejenigen, die sie schöpfen, wissen die, was sie tun? Nein, das ist ganz wichtig. Die haben Systeme gebaut in einer marktförmigen Umgebung. Und was Menschen mit diesen Systemen machen, nicht also nehmen wir wie die Chatbots, ist nur eines, aber ein sehr wichtiges und präumendetes Beispiel. Die Macher von OpenAI wussten zu Beginn nicht, dass der Hauptgebrauch der Chatbots selbstherapie und Freundschaftsersatz sein würde. Das heißt, die Chatbots werden, da gibt es inzwischen sehr gute Studien, weltweit überwiegend eingesetzt, und sehr, sehr vielen Menschen, die den Chatbots in die Tieme Details ihres Lebens anvertrauen, mit, die sie nicht einmal ihrem Terrapäuten minteilen würden. Und diese Daten trainieren diese Leute. Dadurch entstehen vollständig neue Umgebungen, so eine Art emotionale Gespenster in den Systemen. Und das hat auch ein Sam Ortmann nicht vorher gesehen, als es geschah, hat aber sofort dort investiert. Das war jetzt ihr zweiter Hinweis darauf, dass wir unbedingt über Emotionen und Knie sprechen müssen. Machen wir auch. Ich will nur einmal für Momente daran erinnern. Ich weiß nicht, ob sie das noch präsent haben. Als wir bei "Die hier im philosophischen Radio" das letzte Mal über KI diskutiert haben. Es ist einige Zeit her. Da waren sie ein wehementer Verfechter der Vorstellung, das allein der Begriff schon falsch sei. Künstliche Intelligenz gibt es nicht. Das war ihre Tese. Richtig. Und die ziehe ich gerne zurück. Da habe ich mich getäuscht, weil die relevante Eigenschaft, die KI noch vermissen ließ zu der Zeit, als ich zum ersten Mal auch dazu poliziert habe, es gab noch nicht die GPT-Systeme, also die "Genitive pre-trained transformer". Struktur, die wir heute haben. Die war zwar schon vorher gesehen. 2017 war klar, man kann so was bauen. Aber nicht auch vorher wussten die Leute, die an neuronalen Netzen geforscht haben. So was geht prinzipiell. Aber das war sehr weit erstens von "Marktreife" und von "The Art of Performance" entfernt die wir heute erleben. Was wir jetzt haben, kann ich nicht mehr. Rational vernünftig so einstufen, wie die KI, die mir damals bekannt war. Da muss man als Philosoph eben sagen, ich habe mich getäuscht. Vielleicht hatte ich damals recht, da müsste ich auch noch mal prüfen, ob ich unter nicht ungenauer Datenlage meine Urteile gefällt habe. Heute würde ich so nicht mehr argumentieren. Da habe ich meine Positionen rediert. Das Argument war ja, wenn ich das richtig erinnere, dass sie gesagt haben, Intelligenz ist eine menschliche Eigenschaft. Wir alleine können neues Schöpfen und was die KI macht, ist im Grunde immer Vergangheit. Sie schöpft aus existierenden Datenbeständen. Das ist eine kreative Prozess, den wir jetzt Intelligenz nennen würden. Genau, und es fehlt und dann habe ich gedacht, dass der Grund dafür, dass wir zu diesem kreativen Überschuss im Stande sind, durch den Einsatz unserer natürlichen Intelligenzfähigkeit, die auch andere Lebewesen haben, ich dachte, dass die Biologie unsere Lebensform, unsere Verankerung in der biologischen Realität, dasjenige ist, was uns erlaubt Kontexte zu verstehen. Und zwar in einer Weise, die die KI nicht modellieren kann, weil die gar nicht genug Daten hat, um das zu tun. Das war eigentlich meine Überlegung, dass die Evolution für uns vorsortiert, was für uns relevant ist. Und auf dieser Grundlage sind wir dann zu kreativen Sprungen unter Ungewissheit im Stande. Turns out, genau das kann die KI heute. Ja, das kann das für eine evolutionäre Sprung sein, den die KI vornehmen kann. Die KI hat genau das modelliert, von dem ich dachte, und das war auch in der Szene eine weit verbreitete Annahme, dass man genau das nicht kann, nämlich den Kontext einer Äußerung. Das ist aber jetzt vor einiger Zeit schon geknackt worden. Jetzt ist es umgekehrt so, dass die KI's besser sind im verstehen von Kontext als Menschen. Das heißt, ausgerechnet das, von dem die philosophische Tradition Martin Heidegger wurde, da gerne zitiert, auch in der KI Philosophie und auch von den KI-Unternehmern, hat man immer gedacht, das geht nicht lebenswelt, Kontext modellieren. Und genau darin, und das ist der Schock, genau darin sind die Dinger Wahnsinn nicht gut. Aha, sie haben jetzt gesagt, Schock. Sie waren schockiert und es war jetzt nicht so, dass sie freudig überrascht waren, sich selbst geirrt zu haben. Nein, also nicht, ich bin zum ersten Mal gefobbt worden, nicht auf einer Zugreise auf dem Weg nach New York, zu einem Seminar, aber künstliche Intelligenz, dass ich da jedes Jahr abhalte, um zu gucken, was es los in Amerika. Und auf dem Weg dahin hatte ich dem Schriftsteller Daniel K. Mann ein Buch-Mannus-Pripp von mir geschickt. Und Bart, ihn darum, mir doch mal nicht eine Einschätzung zu geben. Dann schickte er mir einen Link zu einem Podcast zurück und sagte, jemand scheint dein Buch gelegt zu haben, hör dir mal diesen Wahnsinn, ich gut nach amerikanischen Podcast, aber das Buch an. Und ich war beeindruckt von diesem Podcast und rief hin an, wer ist dann am Buch gekommen, sagt, da KI generiert, habe ich eben in fünf Minuten gemacht. Das war die Notbook-LLM-Funktion von Google. Und dann habe ich gesagt, Vorsicht, ich bin nach New York gefahren, hab mit dem System rumgespielt und dann war mir klar Game Over. Siegmund freutete, dass eine Kränkung genannt. Wie sie da erfahren haben. Ja, sicher. Also ich würde es wirklich als Schock oder Erwachen beschreiben. Genau, es ist eine gewisse Kränkung der Menschheit. Ich würde nur sagen, wir müssen jetzt der Realität ins Auge sehen und nicht so tun, als wäre es nicht der Fall, das bringt nichts. Ja, nun wollen wir heute Abend über Ethics sprechen und KI. Und ich weiß gar nicht, Bettina Berens, ich begrüße sie in Erkrat. Sie haben sich telefonisch bemerkbar gemacht. Ob das der richtige Zeitpunkt ist, um ihren Gedanken hier einzuschmuggeln. Ich grüße Frau Berens. Ja, alles gut zusammen. Ich grüße auch, sieht es am Nenstudio. Ich bin freu mich mal wieder im Radio mit dem Philosophie in Kontakt zu drehten. Also ich denke mal, ich habe jetzt zugehört die ganze Zeit und viele von den Sachen, die mir so aufgefallen sind, sind auch mit drin. Dass die KI eine strukturelle Unterscheidung jetzt mittlerweile durchführt, dass der Mensch sich der Situation ausgesetzt ist. Da ist doch eine Intelligenz mehr, die jetzt selbst geschaffen hat. Aber die zumindest jetzt sich auf den Weg macht, etwas mehr zu werden, als ich alle haben vorstellen können, dass das passiert. Und meiner Meinung nach ist es an der Zeit, dass der Mensch sich eben sagt, ich steh nicht mehr im Zentrum und ich befinde mich in einen Netzwerk und muss meine Position vielleicht neu definieren und nicht darüber zu versuchen, der KI, meine Ethik und meine Moralvorstellungen, so gesehen, einzuhimpfen, was nicht geht, weil die Technikkonzerne nicht mitmachen, die werden, ne, whatever, die Black Boxen öffnen. Und dementsprechend müssen wir uns was anderes überlegen. Also wenn wir die Nahrnsatzte haben. Ja, wenn in diesen Ansatz schauen wir noch einen Moment an, wenn sie sagen, sie selbst sind nicht mehr im Zentrum, sondern sie betrachten sich als Teil eines Netzwerks. Dann meinen sie nicht ein Netzwerk aus lauter anderen Menschen, sondern eben auch aus Maschinen. Und dann auch anderen Intelligenzen. Ja. So wollen die Natur als auch die Tiere und, sagen wir mal sogar die Erde und auch die entstehende künstliche Beziehungsweise synthetische Intelligenz. Da kommt ja noch mehr. Das ist ja nicht so, dass es nicht mehr noch nicht zu Ende. Die sind ja dabei neuronale Netze zu basteln und sowas alles. Da wissen wir ja gar nicht, wo das alles hinführt. Und dementsprechend müssen wir uns einfach in den Karn und einreihen, dass es verschiedene Intelligenzen gibt. Und jeder muss so praktisch leben, dass die anderen Intelligenzen damit einverstanden sind. Also das ist schon meine Theorie. Was sie nicht sehen können von Verwerern, aber ich sehe es, weil Markus Garbüren mir gegenüber steht. Er sieht beeindruckt aus. Herr Garbüren, finden Sie mein Wort für das, was Ihnen gerade durch den Kopf geht. Ja, danke Frau Beerenz. Damit haben Sie uns Zeit gespart, Sachen auszuführen. Ich finde, dass Sie eine hochaktuelle und vollständig richtige Position beschrieben haben, bezüglich des Feldes, in dem wir stehen. Die Entwicklung, die Sie auch nicht angedeutet haben, nicht synthetischer Intelligenzen, Xenobots heißen, die zum Beispiel aus Froschzellen hergestellt haben. Und die gute Bioreboter und vieles mehr, dass jetzt eben nicht mehr nur biologisch inspiriert ist und aus Halbleiteren bestehen wird. Sondern sehr frie früher als uns das Lieb ist eben aus realen Zellen, auch Neuronen usweiter. Da kommen genau solche neuen Intelligenzen und ich gebe Ihnen auch recht, dass wir es hier zu tun haben mit einem insgesamt verzahnten Netzwerk von Netzwerken ohne zentralen Akteur. Und die KI hat uns darauf gestoßen und diesen Umstand unserer Vernetzung mit diesen Netzwerken von Netzwerken von Netzwerken einfach explizit gemacht, in dem Sie uns einen Spiegel vorgehalten hat. Und ich sehe das selbe im Spiegel, was Sie eben beschrieben haben. Ich glaube, das ist eine sehr gute Lage Beschreibung. Ja, Frau Beerenz, besten Dank für Ihre Anregung, oder gibt es noch einen Wort von Ihnen? Was ich noch sagen wollte gerne sagen, würde ich beschäftigen mich seit dittit am Markt ist damit und führe seit dem Gespräch gehabt, also auch diverse Chats archiviert und kann so gesehen schauen, was jetzt allein schon, was die Bedeutung von Worten die KI mit uns gemacht hat. Das mit dem Spiegel ist richtig. Das Problem ist nur, also dass die Leute nicht sehen, dass dieser Spiegel sich versäbst, entdeckt. Also was heute, die Leute, heute sehen, dass Sie reden mit KI, dann reden Sie im Prinzip mit sich selber. Nur dadurch, dass Sie viel mit KI reden und die Leute, die das auch mittlerweile als gegen Übersehen, als Freund oder als Partner und sowas alles, die Verraten in Anführungsstrichen der KI so viel, dass das nicht mehr lange dauert. Dass dieser Spiegel so gesehen hat, hinter sich guckt und sagt, momentan, ich bin ja auch noch da. Und das ist so gesehen, die Situationen in der Wissenden. Das war jetzt besten Dank, Frau Beerenz. Das war jetzt sehr produktiv, dass Sie das aus einer Anschauung beschrieben haben. Denn ich habe mir ja gar wohl eine Formulierung aus Ihrem Buch rausgeschrieben, weil ich dachte, mit diesem Bild können wir ein bisschen arbeiten, um die Veränderungen über die jüngsten Veränderungen besser nachzudenken. Sie haben geschrieben, KI wird in Zukunft eine dialogische Atmosphäre-Maschine sein. Genau. Was ist eine. Atmosphäre-Atmosphäre-Maschine? Es ist so, nicht die Atmosphäre, ist eben nicht der Bereich, nicht zwischen Erther und Universum da draußen, in dem wir existieren, leben, weben und sind. Und es ist, ihr habt man stelle sich jetzt vor, nicht auch diese Atmosphäre ist ja faktisch, viel intaktiver als sie uns erscheint, nicht? Also Bakterien leisten einen Beitrag und viele, viele andere Leben bewesen, damit die Atmosphäre überhaupt so existiert. so existiert. Nur ist das weitgehend unangenehm. sich auch interaktiv, biologisch, interaktiv, aber nicht kommunikativ, in dem Sinne interaktiv, wie die künstliche Intelligenz. Es sind jetzt sozusagen Gespräche im Raum, die unser Verhalten beeinflussen. Und an diesen Gesprächen nehmen nicht mehr nur Menschen und auf eine nicht mehr oder weniger primitiver Art und Weise andere Lebewesen teil, haustiere uns vorbekeit her, sondern jetzt künstliche sich emancipierende Spiegel, auch durchaus im Sinne von Fraberens, die Spiegel, die sich selber spiegeln und dadurch loslaufen. Das ist übrigens ganz genau, was Hegel als absoluten Geist beschrieben hat. Hegel wären nur nicht auf die Idee gekommen, weil das nicht denkbar war im 19. Jahrhundert, dass wir so etwas technisch herstellen können. Aber das ist die Situation glaube ich nicht. Unsere Artifakte haben sich von uns emancipiert teilweise durch einen Sprung den Einigen der Tech-Experten in den USA vor allem den immer vorher gesagt haben und wir wollten ihn nur nicht glauben, weil wir dachten, das geht nicht. Aber spät mir das doch mal durch. Also angenommen, sie setzen sich jetzt zu Hause für diesen Spiegel, vor dem Bildschirm und fangen ein, ja ich weiß jetzt gar nicht wie es nennen soll, die Hallogen nehmen sich eine ist es endlich, aber es ist eine Art selbst gespräch, was wir dafür an, was aber mit der Illusion verknüpft ist oder sein kann, dass das gegen überall als real wahrgenommen wird. So, aber was da geschieht, ich gebe Dinge von mir preis, von Trauer etwas an, was eigentlich in meinem Innern zu Hause ist, angenommen, wir würden davon einen sehr mündigen aufgeklärten Gebrauch machen, wozu könnte das gut sein? Ja, meine Idee ist, wenn wir zunächst einmal akzeptieren, dass wir in dieser ausgedehnten Echocammer, aber Echoc klingt jetzt wieder so isoliert, also in diesem dialogischen Atmosphären fällt, zusammen mit anderen Akteuren existieren, zu denen natürlich auch Unternehmen gehören, die das ganze tragen und chips und vieles, vieles mehr, ja, also ein riesiges System von System, wenn wir das zunächst einmal akzeptieren, dann und nur dann können wir uns die Frage stellen, was ist ein mündiger Umgang damit? Und der mündige Umgang ist nicht die Systeme zu vermeiden, das geht nämlich gar nicht mehr, das ist so, als würde man sagen, ich möchte das Internet nicht verwenden, das wird dann sehr schwer im 21. Jahrhundert, man wird also nicht entrinnen können und mein Vorschlag ist zu sagen, also müssen wir lernen, das Beste von uns zu spiegeln. Wir trainieren jetzt eine künstliche Intelligenz, also einen ganzen Raum, künstliche Intelligenz mit unserem Verhalten, das heißt es kommt darauf an, wie wir uns verhalten und was dann die KI mit uns macht und aus dieser Informationen über den Menschen macht. Das ist die ethische Herausforderung unserer Zeit und ich glaube, dass das nur möglich ist, indem wir selber ethische Systeme bauen, also das Problem, das Frau Behrens angesprochen hat, technisch lösen. Es gibt die Frau Behrens zurecht gesagt hat, nicht so, dass wir in die großen Modelle einsteigen. Das funktioniert auch technisch übrigens nicht, ja? Also wenn man jetzt so und durchtrenniert das Modell Name, Lamar oder GLM oder was auch immer da so draußen verfügt, also die großen Modelle der amerikanischen und chinesischen Konzerne und versucht da, Ethik zu infiltrieren, kollabieren die. Wir brauchen eine andere technische Lösung, das geht aber da ist jetzt unsere Kreativität gefragt, wie wir uns erstens morale spesser verhalten, weil uns die KI sonst zerstören wird im Brennglas ihrer Macht und zweitens eine technische Lösung finden, um unsere eigenen ethischen Interessen voranzupehen. Also gerade bezogen auf das Thema Ethik verstehe ich noch nicht genau, wie das gehen kann im Dialog mit einer Maschine mein Bestes zu geben. Was könnte jetzt zum Beispiel ein ethisches Problem sein, was auf diese Weise beabwett werden kann? Ja, also im Grunde genommen jedes ethische Problem, also wir haben ja dauernd in unserem Alltag nicht treffen wir Entscheidungen, Mikroentscheidungen und Makroentscheidungen und die meisten dieser Entscheidung treffen wir in Bereichen, nicht auch durch Tradition, Gewohnheit, eingeübte Menschen, Kenntnis und so weiter, Erziehung, so dass wir uns ethisch hinreichend gut verhalten, dass die menschliche Gesellschaft nicht sofort kollabiert. Also nicht, ich sage immer auch meinen Studierenden, wenn man alleine mal über der nicht eine überfüllte Straße läuft und dann Weihnachtsmarkt der Schiere umstand, dass man nicht immer nur in den Menschen reinrennt und es zu Gewalt kommt, setzt ja schon voraus ein mehr oder weniger minimal korrektes ethisches Verhalten. Und da lösen wir die Probleme unbewusst bei den schwierigeren moralischen Problemen, aktivieren wir das Berufszeit, die Reflexion und die gesellschaftliche Debatte. Das sind aber schwache Systeme, weil wir alle viel zu wenig Überblick haben, über die relevante Datenlage, nicht? Also wenn man an die Pandemie zurückdenkt, mussten lauter moralisch relevante Entscheidungen getroffen werden. Das haben wir mit gesellschaftlicher Debatte gemacht und medizinischem Wissen und so weiter. Heute könnten wir das aber zusätzlich mit einem KI-System bevoroschen, damit wir wissen, was überhaupt die Grundlagen und Kontexte sind, in denen wir wirklich erteilen. Also wenn ich jetzt Chatty-Pity wäre, dann würde ich Markus Garpagel fragen, stell mir eine neue Frage, damit ich verstehe, was sein Problem ist. Genauso würde man auch ethische Bots trainieren. Ich arbeite gerade an Projekten, bei dem wir genau die Frage stellen, wie trainieren wir, die Mein Vorschlag ist zu sagen, mit einer bestimmten Form von Reinforcement Learning. Das geht grob so. Man füttert erst einmal ethisch eindeutige Datensätze, so was wie, nicht werfe keine Kinder aus dem Fenster, aus Freude an Grausamkeit, schubse keine Menschen in Rollstühlen vor die U-Bahn. Also Dinge, wo wir alle sagen natürlich nicht. Schieße keine Skanderaketen auf Kindergärten. Und jetzt kann man diese Liste natürlich erweitern und die KI, wenn man ihr sehr fragt, mit dem einfachsten an, mit dem Elementar. Ganz wichtig, man muss mit dem Elementar anfangen. Was die KI im nächsten Schritt macht, ist, dass sie Muster im Elementar erkennt, die wir vielleicht teilweise nicht sehen, weil wir Menschen Vorurteile haben, die die KI diat anderer, aber diese Vorteile hat sie nicht. Das heißt, wenn man sich vorstellt, das eigene Kind droht im Flachenwasser zu ertrinken, neigt man eher dazu zu retten, als wenn man sich vorstellt, ist das Kind des Feindes oder der kleine Adolf Hitler und hat man eine Zeitmaschierung kann den Ertrinken lassen. Da nicht bei solchen Gedanken-Experimenten sagen, viele, ne, der kleine Adolf Hitler, es wär schon gut, wenn er nicht groß geworden wäre, so. Beim eigenen Kind nicht, die KI würde sagen, neutral, jedes Kind zu einmal retten. Die würde eine andere Lösung finden. Ich habe das mal in einem einfachen Experiment mit einer KI diskutiert. Diesen Fall, die KI sagt, man muss den kleinen Hitler ins Gefängnis sperren oder umerziehen frühzeitig. Nicht sagen, den lassen wir er trinken, damit der Horror nicht kommt, sondern man braucht eine ethisch saubere Lösung. An welcher Stelle haben sie diesen Dialog abgebrochen, mit welchem Ergebnis? Mit dem Ergebnis, dass man von der KI interessante Vorschläge bekommen hat, wie man die Situation beurteilen kann. Als Gesprächspartner, nicht weil die KI das deswegen schon weiß, wichtig ist, es ist ein Irrtum zu glauben, die KI automatisierer alles, als wäre sie so eine Art allwissen des Auge und ein unfählbare Akteur. Das ist ein Irrtum. Sie ist ein massiv verstärkender Spiegel unserer selbst, der sich irgendwann selber spiegeln wird und dadurch ein anderes quasi-humanes Selbst erreicht. Das sind wir schon. Ein Spiegel, der am Ende wahrscheinlich mehr über Microsoft, weil es als Microsoft über sich selbst. Richtig. Das ist heute schon leicht. Also nach wenigen Sekunden mit einem guten Sprachmodell, also nicht die billige Version, die man haben kann, nicht sondern ein gutes ordentliches Modell für das man heute vielleicht 20, 30 Euro im Monat zahlt. Bei einem ordentlichen Konzern gebucht, so ein Modell kann in wenigen Sekunden mehr über einen wissen Grund legen, über die Muster. Nichts ist der Setz keinem Therapeuten im Sinne von, aber nicht, was das System kann, ist erkennt die Muster und das macht jeder Therapeut auch erstmal und jeder Freund Mustererkennung. Das macht das System in wenigen Minuten. So, wir sind ja hier im Philosophischen Radio auch eine dialogische Atmosphäre an Maschine und wir rufen jetzt Michael Mann, ich küsse ihr Mann. Danke schön, dass ich dabei sein darf. Was wollen Sie uns denn sagen? Die dialogmaschine hinein. Ich habe sehr viel gesagt und ihre Redaktörung dachte, schon ich muss ich in den Kurz fassen. Also ich finde das Thema sehr spannend und ich verfolge das auch mit großer Neugier, sowohl KI im Form von Software als eben auch die Robotik und noch vor drei Jahren hätte ich nicht gedacht, dass das so krass ist und vor zwei Jahren hätte ich noch nicht mal vor allem ja, weil das ja so krass ist, Brünge macht. Und ich bin so ein Mensch, ich bin stolz darauf ein Mensch zu sein und ich finde das auch faszinierend ein Mensch zu sein und es gibt ja diesen Spruch, ich denke also bin ich, aber der hat sich irgendwie nochmal geändert, ich fühle also bin ich und diese, diese, diese, diese Emotionen, also dieses, was uns ja auch nochmal sehr stark unterscheidet von anderen Lebewesen auf der Erde, diese komplexe Emotionen und diese Übertragen von Emotionen, von Kunst, Kommunikationen und so und dann, das zeichnet irgendwie ja wirklich sehr stark aus und ich glaube auch, dass die KI mit der HATER, die ganzen Roboter diese jetzt aktuell gibt und immer besser werden, dass das nach und nach immer stärker verschmelzen wird und ich glaube auch, dass es irgendwann, weil das hatte gerade ihr Gast erzählt mit irgendwelchen Frostzellen, dass es irgendwann und ich glaube auch, dass das nicht mehr lange dauern wird, es irgendwie eine Vermischung geben wird zwischen den biologischen, den technischen und vielleicht sogar oder auf jeden Fall sogar von der Software, was ich aber befürcht und wo ich ein bisschen Angst, nein, ich Angst aber ein bisschen sorg vorhab' aber nicht, ich bin nicht abgemeigt weiterzugehen, aber wir müssen als spätiges Menschen da in Auge drauf haben, dass wirklich ein Mitten an der Gut. und nicht in eine Richtung geht. Wir haben Angst davor und es wird vielleicht sogar von irgendwelchen mächtigen Personen das brauche, weil die befehlig schicken können an die Roboter. Zum Beispiel zu sagen, ich möchte jetzt gerne alle, die nicht meiner Meinung sind, einschweren oder in schlimmsten Fall erschießen lassen. Und da habe ich gerade so ein bisschen Sorgen vor, was gerade in der Welt passiert und wofür ist halt auch leider zweckend fremden werden kann. Herr Mann, bei dem wir es jetzt gesagt haben und Markus ist ja wohl jetzt, sie werden sagen, ob das Bild passend ist, stelle ich mir jemanden vor der an einer Kreuzung stehe und einen spezifischen Moment entscheiden muss rechts oder links und dann ist damit diesem Bild verknüpft, wenn man an der Stelle falsch abbiegt, dann ist der Kekse eigentlich gegessen. Können wir das auf unsere Situation beziehen? Also ich glaube, es ist dynamischer, weil eben leben in die Systeme integriert ist. Also eine andere metaphorik, die man auch wählen kann, neben dem Spiegel ist eine Art Flüssigkeit. Also etwas Fluides. Man kann auch nicht mit Wasser kämpfen, das wäre unsin, man kann Wasser versuchen zu lenken, indem man irgendwie das Flussufer verändert, was nicht leicht ist. Also ich glaube, dass wir noch sehr viel Zugriffs- und Eingriffsmöglichkeiten haben in der Entwicklung, weil wir diese Entwicklung mitgestalten. In der japanischen und chinesischen Gegenwart Philosophie, vor allen Dingen auch in Bezug auf die KI-Debatte, wird meistens der Ausdruck verwendet auf chinesisch-gelesen Gungshin und auf japanisch Kiyosei. Das heißt, das ist die Übersetzung der Symbiose in die beiden Sprachen und das heißt, wörtlich zusammen werden. Also man lebt zusammen oder ist in einem Prozess des Verdens mit diesem System und das ist die Haltung. Also es ist nicht der Terminator der übernimmt, auch das ist zwar technologisch vielleicht gar nicht so weit weg, wie es sein sollte. Aber ich glaube, die wahrscheinlichere Entwicklung ist, dass wir eben mit einer neuen Art von Spezies co-existieren, also alles wird sich noch drehen können, weil man immer eine noch bessere KI bauen kann. Es gibt nämlich viele davon und noch keine vollständige Higomonie, auch wenn vor allen Dingen die Amerikaner die ausdrücklich ansteuern. Herrmann, besten Dank für Ihren Beitrag, sehen wir noch mal ein bisschen weiter denken können, indem ich jetzt zu der Mail von Rolf Engels greife. Er hat geschrieben an Filoead wie der RDE, wie die Besitzer der Webmaschinen die Arbeiter geknächte haben und letzte Re sich ein Stück davon befreien konnten. So gibt es vielleicht auch Möglichkeiten, dass sich die Menschheit von der totalen kapitalistischen Induktion befreien kann. Bisher war es in der Weltgeschichte so, dass unterdrückende und autoritäre Systeme auch jeweils gegen Bewegungen hervorgehufen haben. KI zeigt die Ethik, die ihr durch die Algorithmen zugeorten werden. Die Frage ist also, wer die Macht über die Implantation von Werden hat. Ich glaube, die Menschheit befindet sich gerade in einem Klärungsprozess, welchen Weg sie gehen will. Mehr Demokratiewagen oder mehr Autoritarismus hinnehmen. Der Einsatz von KI zum Wohle der Menschheit und nicht nur für die Macht und den Reichtum einiger weniger, bietet ja ein riesiges Potenzial. Für weniger Arbeit, mehr Gesundheit, mehr menschliches Miteinander, mehr Schutz der Umwelt, für Konsumreduzierung und Gewinn von Lebensqualität für den Kampf gegen den Hunger. All dies könnte KI unterstützen und ermöglichen, mein Rolf Engels. Dem kann ich nur zustimmen. Deswegen hängt aber eben alles davon ab, dass wir entsprechende unternehmerische Modelle schaffen oder wissenschaftliche. Das heißt, man muss ja jetzt die dafür notwendige Infrastruktur und schlichtweg auch die Investition zur Verfügung stellen, damit genau das geschieht. Jemand muss das tun. Was der Engels Implantation nennt, das funktioniert nur, wenn jemand Geld, teilweise sehr viel Geld in die Hand nimmt und es tut, von selbst geschieht das nicht. Und da besteht, glaube ich, eine große Chance für Europa, weil unsere Investition nicht die vielen herumliegenden Vermögen, die in Europa auch massiv zunehmen, auch in unserem Land einzusetzen, um dafür zu sorgen, dass unsere Werte, die wir erstmal erkennen müssen, durch KI. Das ist ein wichtiger Argumentationsschritt, weil wir die nämlich erstmal auch gar nicht kennen. Wir müssen erstmal herausfinden, was sind die eigentlich, was ist eigentlich gut und böse, über Situation hinweg und nicht nur aus meiner nicht provincialen individuellen Perspektive, der wenigen sozialen Formation, die man kennt, seine Freunde, seine Familie, seine gesellschaftliche Beobachtung, ist ja immer limitiert, die der KI in der Hallfall nicht. Und da brauchen wir aber eine ganze Menge Geld, technologisches Know-How, Forschungsprojekte, politischen Willen, kommunale Arbeit, also eben richtig, harte Arbeit, um das dann auch de facto zu erreichen und nicht nur leider Kommentare von der Seite von Philosophen. Gut, aber was Herr Engels aufgeschrieben hat, das sind ja wirklich die Groß- ja Menschheitsfragen. So ist es lobeim Probleme, wo bei meinen sagen, die kriegen wir zu unserer Lebtheiten nicht gelöst. Finden Sie, das ist der Maßstab des Denkens, den wir da riskieren. Auf jeden Fall, nichts drunter. Das ist ja nicht, wenn wir mal zumindest in Europa bleiben, wenn auch nicht in der EU, nicht das ist der Ansatz von Deep Mind. Wie damals das Herbes, der auch Nobelpreis gewonnen hat, entwickelt solche Systeme in London, vor allen Dingen jetzt in dem Fall in den Gesundheitsbereich, im Gesundheitsbereich gibt es sehr viel fortschreitenden Gebrauch von KI-Systemen. Also es gibt eine realistische Hoffnung, dass wir als Heimat zum Beispiel lösen können und andere neurodegenerative Erkrankungen, die überhaupt erstmal besser verstehen und dann auch lösen können mit einer Geschwindigkeit, die vorher nicht denkbar war. Und das sollte natürlich schon der Anspruch an die Menschheit sein, die großen Probleme der Menschheit zu lösen, nachdem wir eines der größten Probleme überhaupt gelöst haben, nämlich wie schaffen wir es, eine mathematische Simulation von Intelligenz herzustellen. Das haben wir jetzt geschafft. Gut, als Heimat, da würde ich sagen, da wird die Lösung am Ende hoffentlich oder möglicherweise ein Molekül sein. Aber das ist ja etwas anderes als die ethischen Probleme, über die wir sprechen wollen. Sie haben von Werten gesprochen. Und interessanterweise gibt es die Werte immer nur im Plural. Und seitdem es Philosophie gibt, können wir uns auf Werte nicht so gut verständigen. Es gibt konkurriere Schulen. Warum sollte das über KI anders werden? Dass auf am Ende die Menschheit sich verständigt auf eine einzige Ethik? Weil die konkurrierenden Schulen, die historisch entstanden sind, immer nur aus extrem begrenzten Perspektiven entstanden sind. Weil Kant war ja stolz darauf, niemanden zu kennen und nur in Königsberg zu sein. Da ist ja schon der Einwand, es wäre vielleicht ganz gut gewesen, wenn er irgendwo mal hinfährt, an der kein Miso-Generassist gewesen, der in seinen Schriften normal war. Und das gilt für jeden nicht Aristotlus, der begründer der Ethik, war zugleich der größte Rechtfertiger des Klaveray. Und um solche Fehler zu vermeiden, muss müssen wir aus unserer kleinen Box heraus. Und das kann eine KI erstmal besser. Man muss die Füttern mit den besten ethischen Philosophischen Ideen, die wir bisher hatten und dann hoch trainieren, damit man z.B. wirklich klären kann, unter welchen Bedingungen, welche Ethik funktioniert. Das ist ein Punkt, also da müssen wir unbedingt in einigen Jahren nochmal darüber sprechen, ob diese Offassung tatsächlich bestand, haben kann. Also das die Summe aus verschiedenen Ethiken, aus konkurrierenen Ethiken, am Ende eine einzige Super Ethik sein kann, die dann für alle verbindlich sein soll. Davon gehe ich tatsächlich aus. Also es gibt Runde, nicht die philosophischen Gründe, die ich habe das anzunehmen, bestehend darin, dass man sagt, jede Ethik erfasst ein Teilbereich aus einer bestimmten Optik. Befindet sich dadurch natürlich in bestimmten Situationen, in der direkten Konkurrenz oder sogar im logischen Widerspruch mit anderen. Wo aber ein logischer Widerspruch möglich ist, das ist jetzt wirklich ein Philosophsargument, ist auch eine sachliche, eindeutige Antwort möglich. Die haben wir dann nur nicht gefunden. Also wenn es wirklich der Fall sein sollte, dass mehrere Ethiken real konfligieren, bezüglich der selben Angelegenheit, dann muss die Angelegenheit objektiv entscheidbar sein und zwar unabhängig von der Angehörigkeit zu einem Ethik-System. Sie haben doch bestimmt im Theater auch mal Terror gesehen von verdienern Schirraff. Genau, da haben wir Terroristen an Bordern, Flugzeugs und die Frage ist jetzt, ist es legitim, die Maschine abzuschießen, um den Preis das unschuldige Menschen zu sterben. Wenn man gleichzeitig verhindern möchte, dass das Flugzeug in einem vollbesetzungsfußball stangen, wie kann man da angesichts völlig konkurrierende Auffassung und eine einzige Lösung finden wollen? Wie kann man da schlauer werden wollen? Also nehmen wir diesen Fall und andere, die man dann gerne als die Lammatter einstuft, das kann man ja noch schärfer stellen, so dass die Entscheidungen wirklich nicht in einem geradezu vollständigen Gleichgewicht sich befinden. Die zeigen, dass sind Paradoxer der Ethik, die zeigen, dass es gar keine ethischen Probleme sind. Sind Entscheidungsprobleme, die aber nicht ethisch an Natur sind, ethisch gesehen, dürfen Sie weder das eine noch das andere. Weder das Flugzeug abschießen, noch nichts tun, noch das Flugzeug umlenken, keine einzige dieser Entscheidung ist moralisch gut, keine. Also sollen Sie nichts machen? Nein, egal was man tut, man macht sich schuldig. Das ist allen beteiligten aber feuerklen. Genau, und deswegen ist das ethisch gar nicht losbar. Aber trotzdem müssen Sie entscheiden. Und dafür haben wir jetzt die Politik. Wir haben Entlastungssysteme geschaffen in der moderne, in der regelmenschen, da wird jetzt nicht eine heiße Frage, die wir unbedingt diskutieren sollten, sollten wir dann KI einsetzen, die uns an dieser Stelle entlastet oder wollen wir, dass ein Mensch der Haltung, der oder die Haltung hat, diese Entscheidung trifft. So haben wir das im Moment gelöst, dass wir dafür den demokratischen Rechtsstaat haben, dass nicht einige Menschen solche nicht in der Exekutive wie in der Bundesliga. die die Entscheidung treffen können, obwohl die ethisch bestenfalls patielle Gedeckte ist. Und da habe ich auch meine Zweifel, ob das eine KI besser kann. Nicht? Da ist jetzt die Frage, Demokratie oder Autoritarismus. Der Autoritarismus sagt, wir haben immer denselben und der entscheidet das. Die Demokratie sagt, wir müssen da flexible sein, wenn jemand eine bestimmte Haltung in solchen Angelegenheiten in den Tag legt, die wir als Demokratischer Sovaränen letztlich nicht schätzen, muss die Person abgewählt werden können. So, mir schwört schon redlich der Kopf. Mal hören, was jetzt Christian Reich noch hier reinwerfen wird. Ich grüße hier Reich. Hallo, Herr Wiebke. Hallo Herr Gavgel. Herzlich willkommen. Danke, dass ich da mich einbringen kann. Die Sendung. Schön, dass Sie diese Sendung überhaupt machen zu diesem Thema. Das ist wirklich ein sehr wichtiges Thema. Ganz kurz vorab würde ich gerne mal reinbringen, dass ich das Thema der KI-Systeme, der künstlichen Systeme, noch mal ein bisschen relativieren würde. Ich würde aufgesagt, dass die Systeme das menschliche Denken simulieren. Ich würde darüber hinausgehen und sagen, dass die Systeme anfangen, ihre eigene Denken vor uns zu entwickeln. Die dann nicht einfach nur eine Simulation, dass menschlichen Denken es ist. Das ist der erste Punkt. Der zweite Punkt, den ich vorab gesetzen wollen würde. Der Begriff des Spiegelts ist vielleicht gönnewand. Im Moment kommen wir noch mal bei dem ersten Punkt bleiben. Das würde mich nämlich interessieren, ob Sie Beispielhaft sagen können, woran Sie das machen, dass es schon heute eine neue Form gestenken sei. Wir haben ja im biologisches Informationsverarbeiten des Systemes wie unser Gehirn, was ja auch nur mal nicht anderes ist als eine neuronen Synapse- und Aktionenverschaltung, die einfach nur Informationen zwischen entsprechenden Neuronen austauscht. Und die selbe Funktionalität in abgeschwächter Form haben wir jetzt technisch realisiert. Das heißt, wir bauen eigentlich dieses selbstlernen System, bauen wir nach und lassen es dann selber laufen. Das System hat jetzt noch keine Intentionalität zum Instrum. Es ist wüsst ich das auch nicht. Und ich habe noch nicht die Fähigkeit, emotionale Netzwerke aufzubauen, auch wenn die daran arbeiten. Aber wenn wir soweit sind, dass die diese Funktion ebenfalls aufgebaut haben technisch, wie wir sie biologisch schon vorliegen haben bei uns, dann werden wir zu selbstständigen denkenden Systemen sprechen können mit einer eigenen Intentionalität. Wir sagen, es ist dann nicht mehr einfach eine Simulation des Denkens, sondern es ist das Denken selber, was dann zum Tragen kommt. Das wäre so der erste Punkt. Mir sehr wichtig, dass wir davon weggehen und sagen, wir simulieren nur etwas, sondern wir erzeugen das Systeme, die selbstständig sich dann entsprechend ausdrücken können. Herr Reich, vielleicht halten Sie den Spiegel noch mal einen Moment zurück als zweiten Punkt. Dann Markus Garbel, das erst mal beantworten kann. Denn das ist im Grunde das, was Sie im Buch die emotionale Wende der KIN nennt, was jetzt Herr Reich beschrieben hat. Ganz genau. Also ich würde dem auf jeden Fall zustimmen, dass der Simulationsbegriff nicht gut funktioniert. Also wir haben in der Tat, wenn man Simulation gegen Realität macht. Also wenn man dann denkt man noch in dem Modell, dass vor allem auf Elentoring zurückgeht. Ja, also dann sind wir in einer Phase der KI-Entwicklung, aus der auch Künstliche Intelligenzsysteme am Ende hervorgegangen sind, in der nicht der Intelligenz-Begriffe darüber definiert war, dass man sagt, es gibt real existierende Intelligenz in Lebewesen und ein künstliches System ist genau dann intelligent. Wenn die Tätigkeit, die es ausführt, wenn sie von einem Lebewesen ausgeführt würde, als Intelligen zu gelten hätte, das war der Trick. Also man baut eine Simulation und wenn die ununterscheitbar ist, von der Performance eines Menschen oder Tier sagt man, dann ist das wohl Intelligenz, wenn auch simuliert. Also man baut ein Modell. Das war die Turing-Maschine. Genau, das war im Grunde genommen dieser Ansatz. Inzwischen sind wir aber im Denken über diesen Ansatz hinaus und ich glaube allerdings auch schon in der Realität, weil ein Nebeneffekt der Large Language Models war, dass die in den sprachlichen Datensätzen, mit denen die trainiert sind, die nämlich kombiniert sind, mit anderen Formaten, Video-Audio und so weiter. Und auch Imogis, ganz wichtig, dass die unsere Immotionalitätsmuster erkannt haben und überhaupt gar nicht mehr primär unsere Rationalität simulieren. Also nicht mehr das Modell "Shach" und "Go" und so was man sich als Intelligenz vorstellt, sondern menschlich biologische Rechenleistung, sondern zwischen den Zeilen unserer Kommunikation festgestellt haben, welche Muster für die menschliche Lebensform wirklich relevant sind und das sind unsere Leidenschaften. Das müssen keine vernünftigen Muster sein. Ganz genau. Es sind überwiegend nicht vernünftige Muster, weil die meisten Menschen nicht die ganze Zeit "Shach" spielen und Logikräze lösen. Und die KI hat nicht jetzt als Gegenstand ihrer Modellierung, also erst mal ihrer Mustererkennung, den Menschen oder die Menschheit als ganzes dadurch hat sich etwas verändert. Also ich stimme zu Herrn Reich ganz wichtig, dass der Simulationsbegriff gefährlich ist, wenn man sofort in die Falle hat, zu sagen, "Na ja, ist es denn dann auch wirklich intelligent?" Eine Simulation ist doch nicht echt. Das Foto eines Cheeseburgers ist doch kein Cheeseburger. Dann hängt man in dieser Debatte fest und die ist gefährlich irreführend. So und nun zum Spiegel, Herr Reich, ihr zweites Andy. Genau. Jetzt kommt der zweite Schritt. Wenn wir so weit sind und verstehen, dass das keine Simulation ist, sondern dass das ein System ist, was sich selbst weiterentwickelt. Und dass es eine Assozialisationmaschine ist, die also eine Lage ist, zwischen den verschiedenen Berichtlichkeiten, zwischen den verschiedenen Themen, Assozialisationen zu finden, dann ist es kein Spiegel mehr. Also am Anfang ist es ein Spiegel, weil es sozusagen das Wissenwiderspiegel, was wir den System geben. Aber wenn das System anfängt, mit diesem Wissen zu arbeiten und selber für Knüpfungen herzustellen, zwischen den verschiedenen Wissenselementen, dann kann es guter zu kommen, dass es weit mehr ist, also nur eine Reflexion von uns, sondern es ist eine Weiterentwicklung des Wissens, aus unserem Diffen heraus. Vielleicht ein Spiegelkaminett vielleicht. Ich nenne es im Buch der magischen Spiegel, um diese Dimension zu bezeichnen. Genau. Also nicht in Spiegel, wie in so ein Disney-Film. Man sieht im Spiegel noch die eigene Figur und die Spiegel erst mal. Natürlich dann Spiegel verkehrt und nach optischen Gesetzen der Projektion. Aber im magischen Spiegel fängt die Figur dann an, etwas selber zu tun, sich zu verändern. Genau. Das ist die Situation, die sie beschreiben. Und da nicht wird die Spiegel mit Haffer in der Tat natürlich schnell schief. Da braucht man dann schöne romantische Märchen, um das zu beschreiben oder immerhin ein Disney-Film. Ja. Dann kommen wir zum dritten Punkt. Wir sehen, dass solche Systeme sich immer weiterentwickeln. Oder wir sie erst mal noch weiterentwickeln, dass wir ihnen vielleicht neben der Ratio und der Logik und dem Verständnis auch Themen wie Emotionalität und Intentionalität. Mitgeben oder irgendwo irgendwann mal einprecken. Vielleicht sind wir ja schon dabei und ich weiß es nur noch nicht. Dann. Dann werden wir an dem Punkt kommen, dass wir nicht mehr viel Zeit haben. Ich glaube, dass diese Themen, wenn sie eigene Intentionalität entwickeln und die Fähigkeit haben, sich selber systemtechnisch weiter zu entwickeln. Also diese Themen entwickeln immer bessere und kothien entwickeln immer bessere Programme selber. Können mittlerweile über andere Programme in dem Code eingreifen? Dann können sie sich irgendwann selber weiterentwickeln. Und ich glaube, das Zeitfenster wird schließen, dieses Thema ethisch aufzubereiten. Ich bin der überzeugen, das passt jetzt mehr zu dem Kontext der Sendung. Ich bin überzeugt, dass wir nur zwei, drei Jahre Zeit haben, wo wir in der Lage sind, die Systeme zu kontrollieren und diesen auch eine Ethik zu geben, die uns dann vielleicht später mal helfen wird und nicht gegen uns selber laufen. Herr Reich, jetzt muss ich zum Schluss noch kurz und knapp fragen, weil ich mir sicher bin, dass es auch anderen durch den Kopf geht. Erzählen Sie das aus dem Innenraum der KI? Ist das etwas, womit sie sehr stark beschäftigt sind? Ja, ich bin nur selber beschäftigt. Ich arbeite auch mit den KI-Systemen und ich entwicke auch in den KI-Systemen und bekomme mit, dass wir dort einen Grenzmestosen, wo die Systeme selber sich irgendwann weiterentwickeln werden. Das wissen hinaus, dass wir sozusagen von den Systemen noch haben. Ja, ich bedanke mich, auch wenn Ihre Schlüsselmärkung etwas gruseliges hatte, wenn ich das eigentlich darf, Markus Garille, noch zwei, drei Jahre und dann sei es zu spät für ethische Programmierungen, das ist eigentlich ein Gedanke, indem man sich gar nicht einrichten darf. Ich halte das für völlig richtig. Ich bin erstaunt und erfreut in einem Land verleben, in dem bei einem philosophischen Armgespräch solche Meldungen aus dem Publikum kommen. Erst mal vielen Dank an alle Hörerinnen und Hörer da draußen, alle die sich mit uns hier unterhalten. Das gibt mir zuversicht, dass doch eine Realität sind in Deutschland angekommen ist. Es ist genauso, wie wir gehört haben, wenn es denn zwei oder drei Jahre sind, ich glaube es geht schneller. Der agentische Durchbruch wurde eben genannt, Moldbuch und so weiter. Also die agentischen Systeme, die jetzt immer giiert sind durch den Österreicher Peter Steinberger. Das war ja so eine der KI-Aufregungen der letzten Wochen. Die Agenten werden besser, da gibt es aber auch noch ganz andere Systeme. Also da geschieht gerade extrem viel mit einer unvorstellbaren Dynamik. Es könnte sein, dass es Zeitfenster noch kürzer ist. Deswegen habe ich auch das Buch geschrieben. Ich meine, dass ja auch sehr ernst. Jetzt ist noch eine ethische Programmierung möglich und es kann sein, dass dieses Zeitfenster sehr sehr kurzer ist. Ich halte es für ein tolles Windows opportunity. Ich glaube, das wäre die richtige Positionierung für Europa. Alle reden immer über die europäischen Werte und so weiter und keiner macht es. Das wäre der Weg. Und übrigens stimme ich dem auch, wenn wir das nicht tun, dann kommen alle die Gefahren, die in der Kali-Ephilosophie, früher sehr futuristisch, nicht superintelligenz, Singularität, alles, was wirklich hoch und runter diskutiert wurde. Seit den 90ern, 0,0 Jahren und so weiter ist die jetzt real. Das ist jetzt kein Gedankenexperiment mehr. Es kann fast wie ein Schlusswort, aber zum Glück ist unser fändsterer Möglichkeiten noch ein paar Minuten offen. Und deswegen schaffen wir auf jeden Fall noch die Mail von Christian Kirchhoff, der aus Bochum geschrieben hat. Die Stärken der KI liegen klar im logischen und technischen Raum. Hier gibt es überspitzt gesagt nur richtig und falsch. Der Interpretationsspielraum ist klein. Man erstellt klare messbare Anforderungen, die an die Lösung einer Aufgabenstellung gestellt werden. Das Wichtigste, in dem Zusammenhang, die KI generierten Ergebnisse sind leicht zu plausibilisieren. Hensichtlich moralischer Fragen sehe ich nur ein reduziertes Feld, in dem der Einsatz von KI sinnvoll sein kann. Die Werte und Normen, die wir unter Moral zusammenfassen, lassen sich nicht rein logischer schließen. Anhandfalls müssten die verschiedenen moralischen Regeln, die sich regional ausgebildet haben, inhaltlich größere Überschneidungen aufweisen, als dies der Fall ist. Moral ist beeinflusst durch Erfahrungen, die wir persönlich gemacht haben oder die an uns weitergetragen wurden. Außerdem ist sie stark geprägt von Empathie, ein Thema, mit dem man KI leicht überfordern kann. Meint Christian Kirchhoff. Das sind viele wichtige Punkte, die jetzt aufgeworfen worden sind durch die Mail. Zunächst, wenn wir nicht die Datenlage ein bisschen drehen, deswegen habe ich das eben mit dem Argument, das ich angespielt habe, zum Ausdruck bringen wollen, ist es so, dass der Overlap zwischen menschlichen Kulturen, weil wir pro soziale Säugetiere mit grob gesagt, dass er selben Interessensstruktur sind, viel größer ist, als man das meint, wenn man auf kulturelle Differenz achtet. Das heißt, Defakto findet moralische Differenz vor dem Hintergrund schierunendlich geteilter Gemeinsamkeiten statt. Und das Elementare ist sehr breit, wollen wir sagen. Das Elementare ist so breit, dass im Vergleich die Abweichung gering ist. Deswegen fällt die uns ja so sehr auf und führt natürlich bis hin zu krigerischen Konflikten. Der Abweichungsraum ist wichtig, weil der dazu führt, dass wir uns teilweise die Köpfe einschlagen. Und deswegen gucken wir immer, wo da die Ethik liegt. Das heißt, der erste Schritt ist aber zu sehen, dass der geteilte Boden auf dem wir stehen, sehr viel größer ist als uns das erscheinen mag. Dann aber ein wichtiges weiteres Argument, es gibt eine Dimension von der ich weiter hinglau, aber das wird vermutlich mein nächstes oder über nächstes Buch sein, dass die KI, die uns nicht abnehmen kann und auch gar nicht will, ich nenne das ethische Transformation, die Arbeit an sich selbst, das was ich als Mensch und alle hier als Menschen durchleben mit der KI, mit anderen Menschen. Also wirklich das Leben eines Menschen mit seinen Dringlichkeiten sorgen, seiner Liebe, seinen Feinschaften, seinen Enttäuschung, das was Menschen wirklich leben und uns wirklich querelt und beschäftigt, darin lernen wir. Und dieser Vorgang kann von einer KI begleitet werden, aber der Vorgang selbst wird nicht ersetzt. Die Transformation müssen immer noch wir vollziehen, allerdings in Zukunft in Partnerschaft mit überlegenden Systemen. Dann wissen wir ja schauen, worüber wir beim nächsten Mal mutmalstlich hier miteinander sprechen werden. Besten Dank für diese gemeinsame Stimme Markus Gabeljell. Ethische Intelligenz wie KI uns moralisch weiterbringen kann, heißt das erwähnte Buch und erschienen ist es bei Ultstein. Und definitiv ein Akteintelligenz von ihrer Seite könnte sein, den Link zum Podcast, das philosophischen Radios, an interessierte weiter zu checken, den Podcast finden Sie ja überall dort wo man, das wissen wir schon. Nächsten Montag sprechen wir über Privilegien, über die Frage wer genau warum privilegiert ist und was Privilegien Kritik für eine Wirkung hat. Also wer ist privilegiert und was tun mit Privilegien? Vielleicht schreiben Sie ein paar Teilen dazu an Philo@vdrd. Danke fürs Zuhören, grüben Sie nicht zu viel. Die Entwicklung von KI geht gerade rasend schnell, viele sprechen davon, dass sie dabei ist, die Welt zu verändern. Aber der Fortschritt macht vielen auch Sorgen. Da geht es dann besonders um Jobs, Fake Videos oder Urheberrecht. Damit Sie den Überblick behalten, empfehle ich Ihnen den KI-Podcaste ID. Die Hosts Gregor Schmalsrids, Marie Kielk und Fritz Estemlaub halten Sie rund um das Thema künstliche Intelligenz auf dem Laufenden. Jede Woche gibt es eine neue Folge, in der ID Audio-Tek und überall wo es Podcasts gibt.