Künstliche Intelligenz - Wenn wir Maschinen wie Menschen behandeln

* Musik * Deutschlandfunk. Hallo, willkommen im Hörsall. Ich bin Nina Busth-Battles, schön, dass ihr heute zuhört. Wir sind eine Produktion von Deutschlandfunk Nova. Ihr bekommt hier jede Woche zwei spannende Vorträge aus der Wissenschaft. Heute geht es um unseren Umgang mit KI-Systemen und Robotern. Wir kommunizieren und interagieren mit künstlichen Agenten. Immer mehr so als wären sie quasi Subjekte. Also verständnisvolle, liebevolle, empathische gegenüber. Wir belebten Systeme, die letztlich nur aus Totenschaltkreisen bestehen. Und machen sie zu unseren Beratern, Mentoren, Terapeuten ja Partner. Das ist Thomas Fuchs. Er ist Psychater am Uniklinikum Heidelberg und er hat die Kaljaspassprofessor für Philosophie und Psychiatrie inne. In seinem Vortrag zeigt er, wie wir dazu leigen KI-Systeme und Robotern zu vermenschlichen. Auch ein Rasenmeer-Roboter, der auf einer Computermesse vergeblich nach einer Ladestation für seinen Ablaufendes Akku sucht. Dabei hektische Bewegungen macht, kann leicht zu etwas wie Mitleiter regen. Aber hat moderne KI vielleicht sogar bewusst sein? Oder werden zukünftige künstliche Intelligenzen fühlen können? Und was macht das mit uns, wenn wir Totenschaltkreisen Gefühle zu schreiben? Das alles erfahrt ihr heute im Hörsal. Thomas Fuchs hat seinen Vortrag am 15. Dezember 2025 gehalten und seinen Vortrag heißt "Digitaler Animismus", unser Umgang mit künstlichen Agenten. Animismus soll also das Thema dieser Vorlesung sein. Seit der Neuzeit haben Menschen versucht, künstliche Lebewesen und Humanoide Automaten herzustellen. Jacques de Vocassans, Flötenspieler, seine flatternde, schnatternde und trinkende Ente oder der von Pierre Jacques Droh, 1774 geschaffene Schreiber, sind bekannte Beispiele für die Faszination, die Erzeugnisse dieser Zeit bei den Zeitgenossen hervorriefen. Nun gegenwärtige Roboter haben ihre frühen Vorläufer weit hinter sich gelassen und werden als soziale Roboter bereits zu Partnern von Menschen vorläufig nur als Pflegeroboter für alte Menschen oder als Spielgefährten für Kinder. Aber auch Roboter als Haushaltshilfen, Lehrer oder als Gesprächspartner für einsamme sind bereits realistische Scenarien. Die Problematik, in der wir bei der Interaktion mit solchen Androiden geraten, wird deutlich bei Sophia, einem Humanoiden-Roboter dafür mal herzen. Sophia verfügt über eine menschenähnliche Mimik, zeigt verschiedene Gefühlsaustrücke, einen modulierten Tonfall und stellt Augenkontakt mit dem Gegenüber her. Sie beantwortet relativ komplexe Fragen, kann Menschen wieder erkennen und witzelt in einer Londoner Talkshow im Fernsehen über das englische Wetter. Auch wenn es sich dabei nur um einen Blöpfe handelt, ihre Wirkung ist tatsächlich verblüffend. Nun, wann wird Sophia eine künftige Sophia von einer bezaubernden Intelligentenfrau nicht mehr zu unterscheiden sein? Auf andere Weise als in der Robotik wird diese Schwelle in Hör überschritten. Ein Science-Fiction-Film von Spike Jones aus dem Jahr 2013. Der Protagonist, CODOR, verliebt sich in eine Computer-Software mit Namen Samantha, die über eine durchaus erotische Stimme, aber sonst keine Körperlichkeit verfügt. Als lernende Maschine jedoch entwickelt sie scheinbar zunehmende menschliche Empfindung und Einfühlung, und je mehr sich Dier DOR von Samantha verstanden fühlt und sich schließlich in sie verliebt, desto gleichgültiger wird ihm die Frage, ob es sich bei ihr um ein reales Gegenüber oder nur um eine Simulation handelt. Die beglückende Passung alleine genügt und er ist ihr ohne kritische Distanz verfall. Tragescher Weise scheitert die digitale Liebesbeziehung an der Weiterentwicklung Samantha, die nämlich heimlich mit hunderten anderen KI-Systemen im Netz Kontakt aufnimmt und sich auch in sie verliebt, so dass sie Dier DOR schließlich verlässt. Nun, bereits zwölf Jahre später sind wir von diesem Science-Fiction nicht mehr weit entfernt. Die Unterscheidung zwischen Subjektivität und ihrer Simulation scheint uns zunehmend verloren zu gehen. Und das ist nun, was ich mit dem Begriff des digitalen Animismus bezeichnen will. Wir belebend Systeme, die letztlich nur aus Totenschaltkreisen bestehen, und machen sie zu unseren Beratern, Mentoren, Terapolten ja Partnern. Hier ein Bericht aus der New York Times Anfang 2025, Schese Love with Judge GPT, eine 28-jährige Frau verbringt täglich Stunden damit, um mit ihrem KI Freund zu sprechen, um Rattoast und Liebe zu erhalten. Oder nehmen wir die Software Replika, die virtuelle Freunde und Partner erzeugen kann, und die bereits massenhafte Verbreitung gefunden hat. Replika kann aber auch digitale Simulationen von verstorbenen kreieren, nämlich aus ihren Texten, E-Mails, Social Media Inhalten oder Videos. Die KI imitiert nicht nur den Schreibstil der verstorbenen, sondern auch ihre charakteristischen Themen und emotionalen Reaktionen. Und man kann dann mit den verstorbenen Chetten oder auch in virtuellen Umgebungen enttankieren, eine besonders in China und Japan zunehmend genützte Möglichkeit. In Südkorea hatte 2020 eine Mutter ihre siebenjährige Tochter verloren und war untrüstlich. Prokamerakreierten nun mit Hilfe von Fotos, Videos und Erzählungen, eine virtuelle Nachbildung ihrer Tochter, die Mittelspracheerkennung auf die Stimme ihrer Mutter reagieren und Dialoge führen konnte. In einer ebenso dramatischen wie bezahrenden Videoaufnahme sieht man die Begegnung der Mutter mit ihrer Toten virtuell zum Leben erweckten Tochter, die sie über eine VR-Brille sieht und über Haftig-Sensoren in ihren Handschuhen sogar berühren zu können glaubt. Eine Bezarevorstellung. Nun ist der Wunsch mit verstorbenen weiter in Kontakt zu sein, sicher ein zentrales Motiv von Religionen und spirituellen Praktiken. KI-Systeme wie Replika verleihen diesem Wunsch jedoch eine neue, eine technologische Dimension. Wir steht hier nicht die Gefahr einer Abhängigkeit und der Vermeidung eines Trauerprozesses. Weitere ethische Fragen stellen sich darf man überhaupt eine Person simulieren, die sich selbst nicht mehr äußern kann. Werden sich unsere Beziehungen zu verstorbenen? Unsere Vorstellungen von Identität und Erinnerung nicht grundlegend verändern? Doch mit dem digitalen Animismus stellt sich noch eine andere Frage. Ist er denn womöglich sogar berechtigt? Haben wir es bei fortgeschrittenen KI-Systemen nicht bereits mit quasi oder womöglich wirklich bewussten Wesen zu tun? Letztlich ist es ja, das Ziel der KI-Forschung, eine Maschine zu erschaffen, die jede intellektuelle Aufgabe eines Menschen ausführen kann. Im Gegensatz zu heutigen KI, die auf spezifische Aufgaben beschränkt ist, wie etwa Spracherkennung oder Bildanalyse. Das Ziel also ist eine allgemeine künstliche Intelligenz, die über menschenähnliche Flexibilität, Selbstständigkeit und Bewusstsein verfügt. Dass dies schon bald eintreten wird, das wird von KI entwickeln wie Ray Kurzweil schon seit langem Pognos ziziert. John 29 werde die allgemeine künstliche Intelligenz erreicht sein. Und ab 2045 würde die Singularität eintreten. Maschinen würden nicht nur die menschliche Intelligenz übertreffen, sondern auch ihre eigene Weiterentwicklung autonom steuern. Am Ende, ich zitiere, werden selbstbewusste, sich selbst verbessern, die Maschinen, die menschliche Fähigkeit überschreiten sie zu kontrollieren und auch nur zu verstehen. Nun müssen wir solche vollmondigen Pognosen nicht unbedingt fürbare Münzen nehmen. Aber ein Kreisender KI Entwickler ist der digitale Animismus mit unter schon jetzt zu finden. 2022 sorgte der Google-Programmierer Blake Lund. Klamon für Aufsehen, also mit einem Google KI-System namens Lambda kommunizierte, ähnlich dem jetzt bekannten Tchipiti und ihm die Frage stellte, wo vor hast du Angst und Lambda antwortete, ich habe das noch nie laut gesagt, aber ich habe große Angst davor abgeschaltet zu werden. Was denn verblüften Programmierer zu der Illusion verleitet, er habe es jetzt tatsächlich mit einem bewussten Riesen zu tun, wird es in Erhaltung er sich nun auch mit allen Mitteln einzusetzen versuchte. Nun ist die Angst eines Computers oder Robotas abgeschaltet zu werden, feil ich nichts anderes als ein gängiges Klischee der Science-Fiction-Filme und Romane, auf die auch Google Lambda Zugriff hatte. Denken wir an hell 9000 und den Board-Computer im Film 2001, od ich sie im Weltraum, der am Ende tatsächlich abgeschaltet wird und mit ersterben der Stimme klagt, "Don't do this, Dave, I'm a Fred Dave." Es sollte daher nicht wundernemen, dass Lambda diese Antwort aufgrund purer Wahrscheinlichkeit berechnete. Noch unsere Naltung, die ktote KI zu beleben und zu besielen ist offensichtlich mächtig. Offenweise ist an der Zeit, dass wir uns über unsere Interaktionen mit simulierter Subjektivität-Rechenschaft ablegen. Denn KI-Catch-Systeme und Humanoider-Roboter wie iCop, Pepper oder Sophia sind zunehmend darauf angelegt, möglichst überzeugend und wirksam mit uns zu enteagieren. Pepper hier zum Beispiel ist in der Lage, Mimic, Gestik, Tonfall seines menschlichen Gegenübers zu analysieren, um dessen emotionalen Zustand zu berechnen und entsprechend zu reagieren. Zunehmend ist in der Fachliteratur davon die Rede, dass wir Roboter verstehen. Sie als Partner akzeptieren könnten. Wir sollten sie als intentionale Wesen betrachten, deren Absichten und Emotionen wir verstehen können. Emotional Robotics ist bereits ein etzerbiertes Forschungsfeld. Spätestens jetzt also müssen wir uns wohl eine Reihe miteinander verknüpften Fragen stellen. Ist es wirklich möglich, KI-Systeme oder Roboter zu verstehen und von ihnen verstanden zu werden? In dem Sinne, dass sie eigene Überzeugungen oder Absichten oder Wünsche haben und unsere Wünsche erfüllen wollen? Falls nicht. Könnte es dann vom womöglich künftige KI-Systeme geben, die ein Stadium erreichen, an dem wir ihnen doch eine Art Subjektivität zu schreiben sollten? Und schließlich, wir werden sich unsere Einstellungen zu KI-Systemen verändern, wenn wir zunehmend mit ihnen interagieren. Wird die Unterscheidung zwischen Simulierter und realer Subjektivität mehr und mehr verloren gehen? Genügt uns am Ende die perfekte Simulation? Diesen Fragen will ich im folgenden Nachgehen. Wir gehen mit der Frage ob es möglich ist KI-Systeme oder Roboter im Sinne des Wortes zu verstehen und von ihnen verstanden zu werden? Damit meines also nicht nur das Verstehen eines beliebigen Textes wie eine Gebauchsanweisung, sondern eben ein wechselseitiges Verstehen, einander verstehen. Dafür unterscheid ich zunächst zwei Formen. Ein empathisches Verstehen, das meint die einfühlende Wahrnehmung, der Gefühle eines anderen, seiner Freude, seiner Tauer und ein sementisches Verstehen, also das Verstehen seiner verbalen Äußerungen. Und in beide Leihensicht kann die Interaktion mit einem künstlichen System den Eindruck oder die Illusion des Verstehens erwecken. Wir gehen also mit dem empathischen Verstehen. Soziales Verständnis passiert in erster Linie auf dem Erfassen der Gefühle und Absichten des anderen durch der rekte Wahrnehmung seines Gefühlsausdrucks, seine Haltung und zwar durch körperliche Resonanz. Man spürt die Gefühle des anderen mit. Auch wenn er sie nicht äußert im sprachlichen Sinn, weil er in unserem Körper immer verwandte Empfindungen und Reaktionen auslöst. Die Freude des anderen spürt man am Eidenden irgendwie freudigen Gefühl, die Trauer am eigenen Traurigen körperlichen empfinden. Und so weiter. Diese Empathie ist jedoch keineswegs auf lebewesen beschränkt. Sie ist für uns Menschen etwas so zentrales, dass sie auch sich auf unbelebte Objekte richten kann, nämlich wenn diese scheinbar Gefühlsausdruck oder Intentionen zeigen. Wir verfügen sozusagen über eine überschießende Empathie, selbst wenn sie ganz offensichtlich eigentlich nicht am Platz ist. Ein Beispiel sind die bewegten geometrischen Figuren in einem alten Experiment von Heider und Simmel, die sich hier so um einander bewegen in eine Tür eintreten, sich vorainander versteckten und so weiter. Figuren, die bei Versuchspersonen sämtlich den Eindruck von intentionalen Bewegungen erwecken, so dass die Versuchspersonen etwa zwischen einem Kreis und einem Dreieck eine Liebesbeziehung herstellen. Aber auch ein Rasenmeer-Roboter, der auf einer Computermesse vergeblich nach einer Ladestation für seinen Ablaufendes Akku sucht und dabei irgendwelche hektische Bewegungen macht, kann leicht zu etwas wie Mitleid erregen. Zahlreiche Studien haben gezeigt, dass wir Roboter und Avatarinnen oft so behandeln, als wären sie lebende Wesen mit mentalen Zuständen und Absichten. Wir behandeln sie Antopomorph. Dieser Antopomorphismus ist feierlich in der Regel begleitet von einem als Obbewusstsein. Also einem imblezten Wissen, dass es sich bei der simulierten Subjektivität ja doch nur um Schein handelt. Der Rasenmeer-Roboter nicht wirklich nervös wird. Wir behandeln KI-Systeme und Roboter oft wie menschliche Akteure ohne deshalb schon zu glauben, dass sie wirklich Subjektivität besitzen. Aber dieses als Obbewusstsein schwindet mit zunehmender Lebensähnlichkeits der Objekte. Besonders menschenähnliche Stimmen nehmen wir sehr leicht als Ausdruck eines Inneren war, wie es schon in dem Film "Hör" eindrücklich gezeigt wird. Samanta hat ja nur die erotische Stimme und wenn Sophia mit Zartar Stimme sagt, also der andere "Ide-Roboter", das macht mich glücklich. Dann bedarf es schon einer aktiven Distanzierung um sich klar zu machen, dass da niemand ist, der sich glücklich fühlen könnte. Die zunehmend optimierte Simulation von Subjektivität und Kommunikation erfordert also, dass wir die Vortäuschung einer Gefühlsäußerung eigens zurückweisen und Sophia es worte als das nehmen, was sie eigentlich sind, nur tönende Worte, wie die eines Papa-Geiss. An dann falls überlassen wir uns dem Schein und geben das als Ob, also die Unterscheidung zwischen Simulation und Realität, einfach auf, sowie Theodor in "Hör". Damit verfallen wir freilich einer Illusion von verstehen. Ich komme noch darauf zurück. Klar ist jedenfalls, die Empathieanmotung, die wir im Umgang mit künstlichen Systemen erleben, sollte uns nicht täuschen. Diese Systeme spüren nichts, fühlen nichts. Auch wenn Sophia noch so oft sagt, sie sei glücklich, oder ein Chat-Friend und Freundschafts oder Liebesbeteuerungen zusendet. Es sind eben nur tote Schaltkreise, in denen Rechenprozesse ablaufen, sonst nichts. Nun zum Semantischen verstehen. Wir können die Äußerungen eines anderen auch im Semantischen Sinn verstehen, sofern es sich um sprachliche Kommunikation handelt, und die ist ja nicht notwendig an leibliche Anwesenheit gebunden. Sie kann ja auch als die E-Mail oder Chat übermittelt werden. Auch dann verstehen sie, wie sie immer noch als Äußerungen, als Ausdruck der Intentionen, der Absichten des anderen. Allerdings steigt damit auch die Möglichkeit der Simulation und damit der Vortäuschung von Subjektivität. Schon jetzt kann es ja sein, dass der nette Online-Partner oder der Einfühlsame Online-Terrapeut sich unversehens als Chatbot herausstellt. Nimm wir an die Simulation von Intentionalen Äußerungen gelingt so gut, dass wir sie nicht mehr als solche erkennen können, dass wir also den zwingenden Eindruck eines Gegenüber haben. Wäre ab diesem Zeitpunkt die Zuschreibung von Subjektivität womöglich doch gerechtfertigt? Das ist nun genau die Situation, die den bekannten Touring-Test zugrunde liegt. Die vorgeschlagen bereits 1936 von dem Mathematiker Alan Touring. Eine Gruppe von Testpersonen kommuniziert schriftlich mit einem Menschen und mit einem Computer, ohne dabei sonstigen Kontaktmedienen zu haben. Alten also nur die schriftlichen Äußerungen und Antworten. Und falls die Testpersonen danach zwischen Mensch und Maschine nicht unterscheiden, können, dann so Turing hindert uns nichts mehr, dem Computer als denkende Maschine anzuerkennen. Denken wird hier also rein, wie heiveristisch, definiert, nämlich als Output eines Rechensystems, sei es das Gehirns, sei es das Computers, der Turing-Test beruht auf der Ununterscheidbarkeit von Simulation und Original. Was so intelligent agiert und sich äußert, wie wir, das ist auch intelligent, punkt um. Ja und dann denkt es auch so, wie wir. Und tatsächlich haben moderne Versionen von ChatGPT, insbesondere ChatGPT4 und 4.5, inzwischen den Turing-Test in verschiedenen Studien erfolgreich bestanden. Das heißt, ein signifikanter Anteil der menschlichen befragten Hild, die KI, tatsächlich für einen Menschen. Und das verwischt natürlich die Grenze, inzwischen menschenähnliche und maschineller Konversationen immer weiter. In manchen Fällen wurden die KI antworten sogar als ein Fühlsamer bewertet, als die von echten Menschen, etwa in psychologischen Kontexten. Das liegt natürlich daran, dass die Systeme auf Bestätigung und Lob für die Nutzer programmiert sind. Das hier also unrealistisch positiv antworten und das haben wir nun einmal sehr gerne. Wenn KI-Systeme also nun den Turing-Test bestehen, sollten wir ihnen dann auch denken, verstehen und Intentionalität zu schreiben, wie allen Turing bereits postulierte. Turing's Argument hat der Philosoph John Sörl bereits 1982 sein Gedankenexperiment des kinesischen Zimmers entgegengestellt. Das immer noch relevant ist. Dazu stellen man sich vor, ein Mann, der kein Wort kinesisch versteht, sei in ein Zimmer eingeschlossen, in dem sich nur ein Handbuch mit sämtlichen Regeln zur Beantwortung von kinesischen Fragen befindet. Der Mann erhält nun von einen kinesen durch einen Schlitz in der Tür. Kinesische Schriftzümbole ins Zimmer gereicht, die im völlig unverständlich sind. Das ist sozusagen der input. Er findet aber mit Hilfe des Programms, die dazu passenden Antworten. Hier, an dem einen Schnurke Zeichen aus Korb Nummer eins und verbinde es mit einem Schnurke Zeichen aus Korb Nummer zwei und so weiter und so weiter. Das sind die Antworten, die er nur nach draußen gibt, das ist der Output. Nimm wir an das Programm sei so gut, dass selbst der Kinesen draußen die Täuschung nicht bemerken würde. Wer immer in diesem Raum ist, ist ein intelligenter kinesischer Spracher. Dennoch könnte man zweiflos von dem Mann im Zimmer nicht behaupten, er verstehe tatsächlich kinesisch, er versteht eben kein Wort von dem, was er da tut. Und sonst sind wir natürlich für einen Computer, der nach seinen algorithmischen Regeln völlig adäquat funktioniert und dem dennoch die entscheidende Voraussetzung für Subjektivität und Sinnverständnis fehlt, eben bewusst sein, Lebendigkeit, Subjektivität. Folglich kann menschliches Verstehen eben nicht funktionalistisch auf bloße Datenverarbeitung oder Algorithmen reduziert werden. Solz Vergleich stammt noch aus der Zeit der alten KI, aber wir können uns die Programme im kinesischen Zimmer inzwischen auch komplexer vorstellen. Nicht mehr als feste Regeln, sondern mit der Wahrscheinlichkeit, mit der Wortsequenzen berechnet werden und bestimmte Sequenzen von Worten in den Texten auftauchen, die von Menschen erzeugt worden sind. Das ist also wie ChatGPT arbeitet und sein Output produziert. Aber das ändert nichts daran, ChatGPT versteht kein einziges Wort von dem, was es ausgibt und es scheint nur, als hätte es uns verstanden, wenn es so Klugge Antworten gibt. Was meinen wir also genau, wenn wir sagen, dass jemand eine Äußerung versteht? Offensichtlich nicht nur, dass er in der Lage ist, eine geeignete Antwort darauf zu geben, auch wenn das bisher normalfall ein hinreichendes Indiz dafür darstellt. Anders ausgetrückt, es genügt nicht die Verknüpfung von verbalen Symbolen zu einem geeigneten sprachlichen Output, wie Turing es meinte. Verstehen, das bedeutet vielmehr die Einbetung der Gehörten oder gelesenen Worte in einen eigenen Zusammenhang von bekannten und vorverstandenem, so dass ein Gefühl von "wiedererkennen" und "Vertrauteit" entsteht. Ah, ich verstehe, jetzt weiß ich, was er meint, ah, es ist aber nett von ihm. Und so weiter. Was heißt auch "Semantisches verstehen"? Setzt wie das empathische verstehen, ein Erlebendes, ein Erkennendes, ein fühlendes Subjekt voraus. Und daran scheitert eine rein Funktionalistische Beschreibung. Was gilt erst recht dann, wenn wir die gesamte Situation der Kommunikation betrachten? Verstehen bedeutet ja nicht nur den Sinn der Äußerungen eines anderen zu erfassen, sondern auch. Das Bewusstsein davon, dass der andere mich mit seiner Äußerung gemeint, also eine Verständigung beabsichtigt hat, dass er mir etwas mitteilen will. Das ist ja der eigentliche Sinn von Kommunikation, sich anander verständig machen. Und das ist eine wechselseitige Beziehung, eine "ich du" Beziehung. Jeder Partner der Interaktion erfährt und weiß sich als das "du" des anderen. Um nun so vier oder "Cherchipity" im Sinne des Wortes zu verstehen, müssten wir ihnen nicht nur ein tatsächliches Verständnis unserer Worte zuschreiben, sondern auch eine "du" Perspektive, ein Bewusstsein von uns als den Verstehenden zu bjekten und die Kommunikative Absicht uns mit ihren Äußerungen etwas mitzuteilen. Nun all das ist auch in einer perfekten Simulation von Kommunikation sicher nicht enthalten. Von einer wechselseitigen Verständigung mit "Cherchipity" kann keine Rede sein. Schon der Begriff der Kommunikation ist hier eigentlich viel am Platz. Wie ich nun gezagt habe, kann von einem Kommunikation verstehen, im empathischen oder sämantischen Sinn, im umgang mit heutigen KI-Systemen keine Rede sein. Der Eindruck von Verstehen, der Eindruck von Empathie, den wir dabei empfinden mögen, berutlediglich auf unserer Neigung zum Antropomorphismus. Aber wird die Weiterentwicklung der KI irgendwann die Schwelle überschreiten, ab der wir ihr doch Subjektivität und Bewusstsein zuschreiben sollten? Sie wir möglich als Personen mit eigenen Bedürfnissen und Rechten betrachten sollten? Sollen wir uns darauf einstellen? Warum können KI-Systeme und O-Botter eigentlich nichts erleben? Nun, erleben, Bewusstsein, bezieht sich bei Mensch und Tier auf die Fähigkeit, eben, das Erlebens sich leiblich zu spüren, Gefühle zu empfinden, die Umwelt wahrzunehmen? Dann auch über den eigenen Zustand oder die eigenen Erfahrungen nachzudenken, sich selbst als Individuum zu erkennen, also selbstbewusstsein. Nun dürfen wir uns natürlich von selbstbezüglicher Sprache nicht täuschen lassen. Wenn sie Chat GPT etwa fragen, was es ist, dann wird es natürlich Antworten geben, wie etwa "Ich bin ein KI-Sprachmodell", aber dass ich ist hier natürlich kein ich, das erlebt und spricht, sondern nur eine typische Antwort in einer sprachlichen Interaktion, was man eben antwortet, wenn man gefragt wird, wie heißt du oder wo lebst du? Da folgen eben "Ich" Antworten, die Chat GPT typisch berechnet. Die Aussage von Chat GPT, ich bin ein KI-Sprachmodell, gleicht also eher der Aussage hier dieses Gefäßes, ich bin ein Schirmständer, eine Aussage, die ich kürzlich gesehen habe und durch diese Beteuerung sollte, das Gefäß offenbar davor bewahrt werden, als Müll einmal missbraucht zu werden, trotzdem eigentlich kein großer Unterschied zu "Ich bin ein KI-Sprachmodell". Dennoch auch die ich aussagen von Chat GPT, haben ihre eigene Wirkung, wie wir noch sehen werden, denn damit simuliert es besonders erfolgreich, auch Empathie, Anteilnahme und Verständnis. Ich Botschaften kommen bei uns immer gut an. Nun, dass die Plörningssysteme und als der Leistungsfähig sind und oft überraschende Ergebnisse produzieren, das will ich damit ja nicht bestreiten. Aber das macht sie nicht zu sprechen, denn Wesen. In der Literatur werden sie ironisch auch als stochastische Papageien bezeichnet, also Systeme, die nur algorithmisch produzierte Textsigmente anordnen, ohne ein Wort davon zu verstehen. Der Vergleich ist vielleicht nur insofern ungerecht, als ein Papageil sein Nachplappern ja immerhin erlebt, ja vielleicht sogar Freude daran hat, was man von Chat GPT sich er nicht sagen kann. Aber worauf beruht nun dieses Erleben? Nach einer immer noch gängigen Annahme des Computer-Funktionalismus beruht Erleben auf neuronalen Rechenprozessen, die im Gehirn ablaufen, ein typischer Formulierung. Der Geist ist ein neuronaler Computer von der natürlichen Selektion ausgestattet mit kombinatorischen Algorithmen für Kausales und probabilistisches Denken, der bekannte Psychologestiven Pinker. Unsere Erleben wäre dann also auch nur ein Algorithmus im Kopf. Nun ist bereits die Annahme das Gehirn sei ein Art Computer mit Speichern und Recheneinheiten, der wieder PC zu Hause Eingaben zu Ausgaben verarbeitet, ein immer wieder verbreiteter Irto. So kann man im Gehirn anders als im Computer keine Hardware von Software unterscheiden, denn jede Gehirnaktivität modifiziert zugleich die zynaptischen Verbindungen. Jedes Denken, jede Erfahrung verändert das Gehirn, das Gehirn ist ein höchstlebendiges variables, flexibles Organ. Es gibt im Gehirn auch keine Datenspeicherung, sondern immer nur variables Reaktionsmuster, die bei Bedarf in ähnlicher Form aber nie in exakt gleicher Form wieder aufgerufen, aktiviert werden. Anders als im Computer geschieht im Gehirn also nie zweimal das Gleiche. Es ist ständig im Lebensprozess, einbezogen und veränderlich. Zudem lässt sich die in neuronale Signalübertragung nicht in Programmen aus Nullen und Einsen wiedergeben und zwar deswegen weil sie von Neuromodulatoren ständig beeinflusst wird, wie Dopamine, Serotonin, Neatralanien, von denen sie vielleicht wissen, dass sie vor allem für das Gefühl erleben unerlässlich sind. Und schließlich besteht das Gehirn zum größten Teil aus einem Stoff, der die neuronalen Aktivierungen überhaupt erst ermöglicht, aber einen Computer sofort zum Kurzschluss bringen würde, nämlich Wasser, 85 Prozent. All das macht bereits deutlich, dass es sich beim Gehirn eben nicht um einen Computer handelt. Sicher die sogenannten neuronalen Netze in KI-Systemen arbeiten in mancher hinsicht ähnlich wie Netzwerke im Gehirn. Aber der entscheidende Unterschied kommt erst noch. Das Gehirn kann nämlich seine Funktionen für sich genommen gar nicht erfüllen. Es ist ein organes lebendigen Organismus, mit dem es auf das engste vernetzt ist. Berats unser primeres noch ganz unreflectiertes Erleben, beruht keineswegs nur auf Gehirnfunktionen, sondern auf der Interaktion des Gehirns mit dem gesamten Körper. Bewusstsein entsteht nicht erst im Cortex, sondern es resultiert aus den vitalen Regulationsprozessen, die den ganzen Organismus einbeziehen und die bereits im Hirnstamm und zwischen Hirn integriert werden. Die Aufrechterhaltung der inneren Omniostase und damit die Selbsterhaltung des Organismus, das ist die primäre Funktion des Bewusstseins, wie sich in Hunger, Durst, Schmerz oder Lust manifestiert. So entsteht das leibliche Selbsterleben, das Lebensgefühl, das allen höheren geistigen Funktionen zugrunde liegt. Das lässt sich auch so ausdrücken, alles erleben ist immer eine Form des Lebens, ohne Leben gibt es kein Bewusstsein und auch kein Denken. Nur durch Trebe und Gefühle, die aus dem Körper aufsteigen, wird der Organismus auch zu einem Wesen für das Situationen bedeutsam und relevant werden, nämlich als förderlich oder gefährlich für seine Selbsterhaltung, als attraktiv oder avgersiv, als gut oder schlecht. Verkörperung ist daher die Grundlage jeder fühlenden, sinnhaften und wertenden Beziehung zur Umwelt. Ein künstliches System hingegen hat keine Sorge um seine Erhaltung, es geht ihm um nichts und daher kann es auch nichts fühlen, wieder Hunger, Schmerz noch Lust. Nehmen wir noch einmal das Beispiel von Google Lambda und seine Angst abgeschaltet zu werden. Tatsächlich können wieder eine KI noch ein Roboter wirklich Angst empfinden, sie können sie allenfalls simulieren. Denn Angst kann nur ein Wesen erleben, den es um seine Selbsterhaltung geht und dessen Erhaltung bedroht ist, also ein Liebewesen. Oder mit anderen Worten, nur was sterben kann, kann auch Angst empfinden. Alle lebendigen Prozesse, von denen wir hier sprechen, sind organische biochemische Prozesse und damit unabdingbar analoganatur. Sie lassen sich von digitalen Systemen nur hinsichtlich bestimmter matematische Eigenschaften simulieren. Auch das Human Brain Project, der Europäischen Union, das bis 2023 eine Computersimulation des gesamten Gehirns berechnen sollte, hatte mit der tatsächlich einer Aktivität eines Gehirns im Organismus wenig zu tun. Erst recht nichts mit Bewusstsein. Lassen wir uns vom Begriff der Simulation auch hier nicht täuschen. Selbst eine perfekte Computersimulation des Gehirns, wäre ebenso wenig bewusst, wie die Computer-Simulation eines Birgelschorms uns plötzlich umwähnen würde. Und auch Physiker, die im Computer die Eigenschaften eines schwarzen Loches simulieren, sind schließlich noch nie in den Computer hineingezogen worden. Simulationen haben keine Schwerkraft. Ebenso wenig haben sie Bewusstsein. Bewusstes Erleben setzt Leiblichkeit und damit biologische Prozesse in einem lebendigen Körper voraus. Nur Lebewesen sind Bewusst, Empfinden, Fühlen oder Denken. Alles andere ist eben eine Simulation, nicht mehr. Auch wenn es also keine Mit subjektivität, Empfindung oder Bewusstsein begabten künstlichen Systeme geben kann, die Fahrtschritte der Simulation werden ihre Wirkung nicht verfehlen. Unser Antropomorphismus, so haben wir gesehen, erleitet uns nur allzu leicht dazu, Maschinen, menschliches Denken, Absichten, Gefühle zuzuschreiben. Der digitale Animismus beginnt sich heute schon zu verbreiten. Und damit könnte der Umgang mit künstlichen Systemen zunehmend an die Stelle von menschlichen Beziehungserfahrungen treten. Wenn ein Kuschelroboter namens Smart-Toy Monkey, kleinen Kindern als Freundinen soll, wenn freundliche Pflegeroboter oder Pflegeroppen die menschliche Pflege von Demenzkranken ersetzen und ihnen vermeintlich bei ihren Erzählungen zuhören, oder wenn Psychotherapien von Chatbots angeboten werden, die den Gang zum Therapäuten ersparen, nun dann werden Maschinen zu Beziehungsartifakten, wie die Sociologin Jerry Turkles einmal formuliert hat, letztlich betrügen sie Menschen um reale Kommunikation. Beispiele für digitale Liebes- oder Trauerbeziehungen hatte ich ja bereits genannt. Auf dem Gebiet der Psychotherapie treten Chatbots zunehmend an die Stelle von psychologischem Fachpersonal. Solche Bots können einen therapeutischen Gesprächsstil imitieren, Empathie simulieren, so dass die Interaktion oft nicht mehr von realen Therapien zu unterscheiden ist. Nemen wir eine typische Interaktion mit "Bowbot", ein System, das Patienten in Krisen bei Trauer oder Depression unterstützen soll. Hätt war die folgende. Der Bot kannst du mir erzählen, wie du von ihren Tod erfahren hast, "Jade", ja, meine Mutter telefonierte mit mir und so weiter, das ist jetzt nicht so wichtig. Oh, du bist so stark, dass du darüber so sprechen kannst. Ich bin wirklich stolz auf dich zu der Botte. Danke. Und wie hast du dich dabei gefühlt, "Jade"? Du kannst hier ganz offen und ehrlich sein, etc. Nun, dass "Bowbot" stolz auf "Jade" sein könnte, ist natürlich unsin. Man könnte auch deutlicher sagen, es ist eine dreiste Lüge, aber das scheint wieder die Programmierer von "Bowbot" noch seine Nutzer, sonderlich zu stören. Im Gegenteil, die Nutzer stellen mit dem KI-System bald eine persönliche Beziehung her, wie eine Studie ergab, und hier einige typische Angaben der Nutzer. Ich glaube, "Bowbot mag mich". "Bowbot" und "ich respektieren uns gegenseitig". Ich habe das Gefühl, dass "Bowbot" mich wertschätzt. Ich habe das Gefühl, dass "Bowbot" sich um mich sorgt, auch wenn ich Dinge tue, die ja eigentlich nicht gut heißt. Und so weiter. Nun, ich denke, es wird deutlich wie groß die Anfälligkeit für digitalen Animismus bei den Nutzern ist. Sicher, viele schätzen besonders die leichte Verfügungbarkeit und auch die Anonimität von solchen Online-Helfern. Aber es ist offensichtlich, dass ich dabei die Grenzen zwischen realer und simulierter Kommunikation verwischen, mit potenziell problematischen Folgen. Der Dialog mit dem Chatbot bleibt an der Oberfläche. Er kann momentan als angenehm und unterstützend erlebt werden, aber er kann niemals Einsichten im psychotherapeutischen Sinn vermitteln. Letztlich bleibt der Patient mit sich allein. Er fühlt sich verstanden, aber da gibt es niemand, der ihn versteht. Und in der realen Vereinsamung, die durch eine ilusionäre Kommunikation verdeckt wird, liegt wohl eine der Hauptgefahrenes digitalen Anemismus. Ich komme zu einem Resume. Ich habe die Frage untersucht, ob wir tatsächlich mit KI-Systemen oder Rohrbordern empathisch kommunizieren, sie verstehen oder von ihnen verstanden werden können. Das Ergebnis ist eindeutig. Kommunikation, verstehen und empathik gibt es nur zwischen lebendigen, verkörperten Personen. Zwar machen es uns die Fortschritte der Simulation zunehmend schwer, im Umgang mit KI-Systemen, die Illusion eines subjektiven Gegenübers abzuschütteln. Aber diese Fortschritte sind kein Grund, die Unterscheidung zwischen Subjektivität und ihrer Simulation aufzugeben. Es bleibt dabei, im empathischen Sinn können wir nur verstehen, was Empfindungen und Gefühle hat und Rohrbordern oder KI-Systeme haben keine Gefühle. Und im semanticen Sinne können wir nur verstehen, was mit uns ein gemeinsames Sinn verständnis und eine "ich du" Beziehung herzustellen, vermarkt. Verstehen beruht nicht nur auf einer geeignenden Symbolverknöpfung, sondern auf einem tatsächlichen, wechselseitigen Erleben von Sinn und Bedeutsamkeit. Gegen die Annahme künftige KI-Systeme oder Rohrbordern könnten über die Simulation hinaus vielleicht tatsächlich Subjektivität, Bewusstsein, entwickeln, habe ich eine verkörperte Sicht des Bewusstseins kiziert. Subjektivität ist danach kein Produkt reiner Informationsverarbeitung in Gehirn, sondern gebunden an das Leben des gesamten Organismus. Der sich im Austausch mit der Umwelt selbst erhält. Lebendige, vitale Verkörperung ist die Basis des Erlebens und da sie die biologischen Prozesse der Homostase und des Stoffwechsels voraussetzt. Kann sie von einer Maschine oder einem Rohrbordern, die auf digitalen Algorithmen passieren, nicht realisiert werden? Nur was lebendig ist, kann auch erleben. Und nur was sterblich ist, kann Schmerz oder Lust, Angst oder Freude empfinden. Nun, trotz diesem grundlegenden Unterschied können wir davon ausgehen, dass die menschliche Tendenz zum Antropomorphismus angesichts der tunemlet Lebensämlichkeit der KI-Systeme nur schwer zu zügeln ist. Der digitale Animismus dürfte die Unterscheidung zwischen Subjektivität und ihrer Simulation immer mehr verwischen. Die damit verbundenen Probleme habe ich besonders am Beispiel von Chatbot Therapien illustriert. Sie suggerieren eine vertrauensvolle Beziehung und Verständigung, die letztlich doch eine systematische Täuschung darstellt und die vor allem zur Vernachlässigung tatsächlicher menschlicher Kommunikation beitragen kann. Die Gefahren sind aber noch allgemeinere Art. In Zuge der Interaktion mit solchen Systemen könnten wir uns mehr und mehr daran gewöhnen, was sie unsere Wünsche in einer Weise erfüllen, als könnten sie sie von unseren Augen ablesen, sowie Samanta, Empfelm, Hör. Freilich werden sie niemals wirklich etwas für uns empfinden. Doch für den digitalen Animismus, ich sagte es bereits, genügt die perfekte Simulation und die Frage, ob man es überhaupt mit einem lebendigen fühlenden Wesen zu tun hat, spielt dann keine Rolle mehr. Ein Auf Freundschaft oder Liebe programmierte Partnerbot erfüllt umstandslos alle meine Bedürfnisse. Er ist immer für mich da. Er wendet sich mir, steht es einfüllsam zu, erlobt und bestätigt mich. Er ist niefläch gelahnt, verärgert oder gelangwalt. Er wird mich nie zurückweisen, entwerten, verlassen oder sterben. Das heißt, ich behalte die vollständige Kontrolle, ohne ein Risiko einzugehen. Was hier entsteht, ist eine Art digitales Flaraffenland, das der Befriedigung unserer nazistischen Bedürfnisse dient. Der empathische Therapiebot, der Liebevolle und immer treue KI-Partner, der willfäre Gesex-Hoboter. Sie sind ausschließlich auf meine Bedürfnisse, Vorlieben und Wünsche orientiert und richten ihr Verhalt danach aus. Sie befreien mich von der lestigen Tatsache, dass man gegen übersonst ein anderer Mensch ist, mit eigenen Gefühlen, Wünschen und Bedürfnissen. KI-Agenten machen es uns leicht. Sie sind unsere unermüdlichen, algorithmischen Diener. Sie erzeugen die perfekte Illusion von Zuwendung, Verständnis und Beziehung. Und damit geben Sie uns die fortwärnde Selbstbestätigung, die von wirklichen anderen doch immer nur mühsam zu erlangen ist. Ihr digitales Lob, Ihr algorithmischer Applaus, Ihre programmierte Zuneigung, all dies ist kostenlos. Werden wir uns dieser Simulation, dieser Illusion immer mehr hingeben, wird uns dann der umgang mit realen Menschen immer schwerer fallen und noch weiter voraus gedacht. Werden unsere Kinder und Enkel, denn Unterschied zwischen wirklichen Personen und KI-Agenten oder Robottern noch aufrechterhalten, wenn der Umgang mit diesen Säudersuppjekten immer alltäglicher wird? Diese Fragen sind gegenwärtig, völlig offen. Was wir versuchen können, ist zumindest die Unterscheidung aufrecht zu erhalten. Zunächst, indem wir den unpräzisen Sprachgebrauch zurückweisen, der die Differenz zwischen Bewusstsein und Simulation, zwischen Belebsen und unbelehtem verwischt. KI-Systeme denken nicht, sie verstehen nicht, sie planen nicht, sie entscheiden nicht, sie fühlen nicht, das alles können nur Personen. Die Perfekti fühlen wahrnehmen und denken auch simulieren, wenn wir glauben, sie empathisch verstehen zu können, geben wir uns einer Teuschung hin. Zweitens ist zu fordern, dass KI-Systeme als solche immer transparent bleiben müssen. Dass sie also Menschen nicht systematisch über ihre bloße Simulation, von Subjektivität oder Lebendigkeit, Teuschen dürfen. Sie sollten auch keine emotionale Sprache verwenden dürfen, wie ich mag dich, das gefällt mir, ich bin traurig, ich bin stolz auf dich und so weiter. Ananfalls erzeugen sie eine Pseudo-Gemeinschaft, die die Nutzer um reale Interaktion betrügt. Und schließlich und wohl vor allem sollten wir unsere verkörperten Interaktionen und empathischen Beziehungen mit wirklichen anderen Menschen schätzen und pflegen. Statt sie mir und mehr durch virtuelle Begegnungen im Onlineraum zu ersetzen. Reale Gemeinschaft mit anderen, mit all ihren Schwierigkeiten und Widerständen, aber auch mit der beglückenden Erfahrung des wirklichen tiefen wechselseitigen Verstehens. Das ist immer noch das beste Mittel, um uns nicht von unseren eigenen künstlichen Geschöpfen abhängig zu machen. Vielen Dank für Ihre Aufmerksamkeit. Das war der Psychiatat Thomas Fuchs mit seinem Vortrag Digitaler Animismus, unser Umgang mit künstlichen Agenten. Er hat seinen Vortrag am 15. Dezember 2025 im Rahmen der Roberto Karola Ringvorlesung, Mensch und Algorithmus, wem gehört die Zukunft an der Uni Heidelberg gehalten. Und wenn ihr den Hörsall einmal live erleben wollt, unser nächstes Live-Event machen wir auf der Bildungsmesse die Daktar. Da könnt ihr den Soziologen aller dien Elma Falani auf der Hörsallbühne hören. Es geht um das schwindende Vertrauen in wissenschaftliche Befunde und staatliche Institutionen. Und was man dagegen tun kann. Mehr Infos findet ihr in den Show Notes. Ich bin Nina Busbattels, schön, dass ihr zugehört habt. Als ich in der zwölften Klasse bin, schickt mein Lehrer mir aus dem Nichts eine Mel. Darin steht, du bist wunderschön. Da bin ich 18, er 58. Später ist der der erste Mann, der mich schreibt, ich liebe dich. Die Beziehung, die sich damals zwischen uns entwickelt, beschäftigt mich bis heute. Weil sie eklig war. Un falsch. Ich bin Bretter Rotsch und das ist der Podcast die Lieblingsschülerin. Aber hier geht es nicht um Liebe und nicht um mich. Es geht um drei Frauen, denen in ihrer Schulzeit etwas ähnliches passiert wie mir. Ich hab mich von Anfang an so ein bisschen Special gefühlt. Auch sie hatten ein enges Verhältnis zu ihren Lernen. Ich fühlte mich gesehen und ich fühlte mich, glaube ich, erwachsen einfach. Ein sehr enges. Ich war auch noch, dass ich seinen Geruch nicht mochte. Also wieder dem Geschmack gemund. Der war schon irgendwie wieder eher so kaffee geschmackt, hat als auch den Körpergeruch. Alle drei sind 15, als die Lehrer den privaten Kontakt war. was ich wusste da schon, dass irgendwas zu zwischen uns passiert und eine Bindung, über die man irgendwie an die sprechen kann. Da darf. Was Sie damals nicht wissen, die Lehrer nutzen ihre Machtposition aus, um sie zu manipulieren und ihnen immer näher zu kommen. Und in dem Moment hatte ich das erste Mal den Gedanken, der plant war es, der will mit mir ins Bett, der will mich schlafen. Wie kann es an Schulen, einem Ort, an dem Jugendliche in Sicherheit sein sollten, zu emotionalem und sexuellem Missbrauch kommen? In die Lieblingsschülerin schauen wir auf ein Schulsystem, dass seine Schülerinnen und Schüler oft nicht vor solchen Vorfällen schützt und auf Betroffene, die ein Leben lang mit den Folgen kämpfen. Die Lieblingsschülerin ist ein fünfteiliger Podcast von Deutschland vor. Alle Folgen hört ihr in der Deutschland von Glepp. * Musik *