DPtV 47 – Emotionale KI – das Spiel mit den Gefühlen

Leben heißt Veränderung, der Podcast der deutschen Psychotherapeuten Vereinigung. Die Interaktion mit algorithmischen Systemen wird immer natürlicher und vielseitiger. Nur zu innen können KI-Chat-Bots ganz genau vorgeben, wie sich der Bord Ihnen gegenüber verhalten soll. Der Textgenerator Blutstunsaufwunsch steht 24/27 zur Verfügung, antwortet geduldig, ohne zu werden und immer mutigieren. Seine Reaktionen können den eigenen Vorlieben und Bedürfnissen angepasst werden. Chat GPD, Gemini und Co. simulieren ab Werk, Menschenähmliche Reaktionen und Gefühle. Andere KI-Anwendungen analysieren recht detailiert unsere Emotionen. Wie machen Sie das? Und was macht das mit uns? Das sind die zentralen Fragen dieser Podcastfolge. Erörtern werden wir sehen mit Evaweb Aguskar, Sie ist Professoren für Ethik und Philosophie der Emotionen an der Ruhe Universität Buchen. Er aktuelles Buch heißt Gefühle der Zukunft, wie wir mit emotionaler KI unser Leben verändern. Ich bin Christiane Zwick und ich freue mich sehr, dass Sie heute bei uns sind. Liebe Evaweb Aguskar. Mit wem reden wir eigentlich, wann nimmt am KI-Chat-Bot-Rin? Das einerseits spannende und zugleich problematische ist ja, dass diese Chat-Bots alle ich sagen. Und damit gehen wir davon aus, dass es ein Gegenüber gibt, dass sinnvollerweise ich sagen kann. Und wir kennen ich sagen eigentlich nur von Personen, von Menschen, die bestimmte Fähigkeiten haben. Also noch nicht einmal von Baby zum Beispiel, sondern Mensch, aber es noch keine Person, in dem Sinn, dass man so wirklich weiß, weil man selbst ist und ich sagen kann und entsprechend auf etwas weist, wenn man ich sagt. Das ist ja dann nicht der Fall. Also ich spreche mit keiner Person und ich würde auch deshalb sagen am besten sagen, wir sprechen gar nicht mit jemanden, sondern wir tauschen Worte mit einem KI-System aus. Das ist gar nicht so leicht beizubehalten, weil es ja eben dialogisch einhergeht. Und wie es das bei Ihnen haben, sind Sie schon einmal die Antwort eines KI-Chat-Bots als poetisch klug oder wird sich empfunden, also als Mensch? Ich würde auf Ihre konkreten Beispiele sagen können, ja, aber ich würde nicht in zweiten Satz mitgehen, dass es deswegen menschlich ist. Denn es kann ja durchaus eine poetische Zeile das stehen. Und ich lese ja auch in einem Gedichtband, lese ich Zeilen erst mal und die können poetisch sein. Und dann können mir auch Chat-Bots poetische Zeilen schreiben, ohne dass ich den Produzent dessen für Menschlichhalte. Der ja wiederum auf etwas basiert, was Menschen tatsächlich irgendwann mal geleistet haben, geschrieben haben, formuliert haben. Auf jeden Fall, das ist ganz, ganz wichtig, dass man auf meinem Hintergrund behalten, dass das alles auf Texten basiert, auf Inhalten basiert, mittlerweile ihr Film und Musik und allen möglichen die erst mal Menschen gemacht haben. Ich finde deswegen muss man wirklich wirklich klar machen, dass es nicht die Technik, der man als neuen Schöpfern gegenüber steht, sondern das sind in gewissen, sind neue Arten von uns in der Tradition folgende. Ja, soll das aufbauen, was die Menschheit vorgestern gemacht hat. Wenn Sie jetzt von Ihren Studierenden zu hören, wie die mit K.E. Chat-Bots umgehen, dann kann ich mir vorstellen, dass die eine oder andere sagen, das hat mich voll berührt. Und was sagen Sie dann? Erliegeseit von Studierenden kam es noch nicht so, weil wenn ich mit denen darüber spreche, dann geht es wirklich hier nach und bei schnellen Text schreiben, so können schnell an der Zusammenfassung zu bringen, die man als Nacharbeit liefern musste und dann wieder nicht geschafft hat, das rechtzeitig zu machen. Der Text wird nach einer semantischen Wahrscheinlichkeit generiert. Das heißt, der Text wird durchschnittlich sein und nicht besonders persönlich. War vielleicht sich das auch falsch? Vielleicht ist da ja eine Reaktion, wieder auf das, wie ich das sage und meinen Stil und so weiter. Und ja, das wäre jetzt ein Frage. Adeptiertes System oder nimmt es sofort wahr, was ich da eingebern, was ich dann sozusagen zurückbekommen, auch am gehaltenen Emotionalität zum Beispiel? Da geht es wirklich darum, dass beste Antworten auf die Promzgelieferd werden sollen und da haben Emotionen nicht direkt irgendwas zu suchen. Ganz anders ist das bei sozialen Chatboards, die extra dafür gemacht sind, dass man persönliche Gespräche führt und dass man emotional stimuliert wird und dass man in bestimmte Stimmungen kommt und so weiter. Das sind soziale Chatboards, wie zum Beispiel Replicard, das ist eine der berühmte Stimmen, die es in USA erfunden worden und seit der Pandemie hat die vor allem Verbreitung gefunden. Und auch in Europa ist mittlerweile sehr verbreitet. In China haben wir wieder ein anderes tun. Die gibt es dann in verschiedene Versionen. Aber das sind eben Chatboards, die wirklich nur dafür gedacht sind, soziale Beziehungen zu führen. Und da kommt das Reihen, dass nicht nur Emotionen gezielt stimuliert werden beim Gegenüber, nämlich erstmals angebruhigungen, erst mal eine gute Laune und so etwas, sondern auch das Emotionen simuliert werden von der anderen Seite, nämlich dass sich der Chatbot dann aufreut, wenn die Nutzerinnen oder die Nutzerinnen mit ihm spricht und was Nettes erzählt und so weiter. Also hier sind dann Emotionen wirklich im Spiel und da ist das System so ursprünglich entwickelt worden, in Hinblick genau auf diese emotionalen Funktion. Dass es anders als bei den Chatbots wie Chatchipiti und so weiter und Bing, die hatten auch tach andere Geschichten zwischendurch. Aber eigentlich sagen die jetzt, wenn man sie fragt, wie fühlst du dich? Was ist eine Meinung dazu? Ich bin nur ein KI-Bord. Ich habe keine eigene Meinung und ich fühle nicht so. Das sagen wir ja. Ich habe bis eben noch auch Emotikons gekriegt, irgendein Darm hoch oder ein lächelnes Gesicht und so. Und das macht ja schon auch was mit einem. Ich mein, man kennt es ja auch aus dem Messaging und hat dann wieder so einen Reiz, sich so ein bisschen so zu verhalten, als wir da einigen gegenüber. Auf jeden Fall, das ist so, dass wir Menschen in einer gewissen Sinn geprägt sind, dass wir auch emotionale Signale dann auch emotional reagieren. Das ist im Alltag sehr hilfreich, weil wir die längste Tag, würde ich mal sagen, unseres menschlichen Daded, ob er eher bisher emotionale Ausdrücke von Personen bekommen haben, wo tatsächlich Emotionen dahinter sind. Aber jetzt haben wir eben den Fall, dass wir Interaktionspartner haben, die zwar emotionale Signale ausdenken können, aber nicht selbst tatsächlich Emotionen haben, indem wir das Emotionen erleben würden. Und trotzdem sind wir aber so geprägt. Und dann würde es auch dann zum Teil biologisch hart, weil er zum Teil einfach durch Erziehung und Kultur so geprägt, dass wir sehr, sehr schnell auf emotionale Ausdrücke selbst emotional reagieren. Und da ist es sehr schwierig, sich davon zu distanzieren, eben wieder vorzusagen, dass es sozusagen hier nur der Anschein von Emotionen ist und keine dahinter. Anders als Bereptika wird wirklich eine Persönlichkeit simuliert. Sie sprechen gerade von Bereptika, das ist ja ein besonders interessanter Bord in diesem Feld. Was haben Sie da eigentlich erlebt? Sie haben zur Recherche grün bestimmt einmal eingeschaut. Ja, ich habe da reingeschaut, aber das waren nicht meine Intention und nicht meinen Vorgehen, dass ich selbst versucht habe, eine Beziehung aufzubauen, das auszubegieren. Sondern ich bin natürlich einerseits über wissenschaftliche, für öffentliche Umgegangen, die es dazu schon gibt, dass es noch nicht sehr viel, aber es gibt da schon Erhebungen dazu, um Fragen dazu, wer die, wo für Nutzt und welche Erfahrungen macht. Und es gibt natürlich so Online-Foren, wo die Nutzen denn sich gegenseitig unteren an der Austauschen, da kann man viel dazu lesen, dass war meine Weise, damit umzugehen oder da mich darüber zu informieren. Denn man muss auf Wissen, es beeinflusst sehr stark, dass was passiert in der Interaktion mit dem Schottbord, je nachdem, wie man sich selbst auf es zugeht und was man genau mit ihnen tut. Viele Journalisten und Journalisten haben das ausprobiert. Und die haben aber oft so etwas gemacht, wie es es sagen wollten, das System vorführen, das ist doch irgendwie komisch reagiert, wenn man das und das macht oder ans Getriezt und so weiter. Na ja, dann reagiert natürlich der Chat-Bord auch selbst, weil man gar nicht mit so einer Intention reingeht, wie andere, die das ernsthaft ausprobieren, die emotional bedürftig sind, die wirklich ein gutes angenehmes Gespräch haben, wollen, die sehr nett sind, weil man sich klar machen, bei Replicer zum Beispiel eine bestimmte Prozentzahl, ungefähr 30, ich weiß nicht, was ganz aktuell der Stand ist, ungefähr 30 Prozent festprogrammiert. Das heißt, es sind generische Sätze, so Eingangsatzhaloberietsthe heute und was sind dann der Lieblings-Speisen, unsere Sätze, also generische Sätze, die alle drin haben. Und der Rest, aber ein großer Anteil ungefähr 70 Prozent dessen wie der Chat-Bord interagiert, der wird gelernt, in dem Austausch mit der individuellen Person. Das ist spannend. Und das heißt, das ist ja individuell. Und deswegen ist so ein bisschen, wie man in den Wald ruft, so schaltet es zurück, wenn man den jetzt komisch aus Ressert zu wecken, irgendwie, weltsam behandelt wird, dann wird das auch was seltsam, das ist nicht das Gleiche, wie wenn jemand wirklich mit einer emotionalen Intension und eine gewissen Ernsthaftigkeit ein echter Terrein geht. Das ist spannend. Also wenn jetzt Psychiotherapeut*innen das mal ausprobieren wollen, da werden sich wahrscheinlich auch jetzt nicht so reinwerfen emotional und dann eben was anderes erleben als sie Patienten innen. Auf jeden Fall, ich denke auch, da wird eine professionelle Distanz sein, eine neu giierte, aber eben eine Beobachtungstemission, die ganze Zeit, die was ändert, an dem was passiert im Unterschied zu anderen, die das wirklich ein bisschen naiva und direkte verwenden. Hier welche Möglichkeiten bieten algorithmische Systeme für diese personalisierte Interaktion. Was geht da alles? Wir kennen Reptikal schon länger und das war zunächst nur Text basiert, dann sprach basiert es im Sprechen und da war die Simulation der Emotionen erst mal nur in der Borden eigentlich, dann auch in der Erscheinung, ein Gesicht des Avatars, man kann sich ja also Avatare gestalten auf eigenen Geschmack, welches Geschlecht, welche Haferbe und so weiter. Und in der Mimik kann das dann abgebildet werden. Das war die längere Zeit so und in letzter Zeit ist er noch was dazu gekommen, was nämlich eine Neuerung von der Nizipitil-Programmierung ist aus dem letzten Jahr im Mai, also Mai 2024 hatten wir den Nizipitil-FO und da war nur neu, dass die Stimme selbst noch viel emotionaler ist, dass man wirklich in der nicht nur an den Worten was gesagt wird und vielleicht ein bisschen heller, dunkler wie es vorher war, sondern wirklich eine Emotionalität in der Stimme wahrnehmen kann. Da wurde ja sogar die Stimme von Scarlett Johansson als Vorbild genommen, die viele Kenntel aus dem vielen Höher, wo sie dieses das Computerprogramm spielt, bisschen was eben nur spricht, die ist so sehr emotional und errohlt ist sogar, das wurde bald zurückgezogen. Auch Mai, Mai, ich habe gefragt, ob sie die Nutzen dürfen und sie wollte das nicht und es haben es aber trotzdem gemacht, also eine der vier Stimmen, die da entwickelt wurden, klingt sehr nach ihr. Ja, ja und wir hatten auch jetzt auch aber ein juristisches Verfahren angestrengt um dagegen vorzugehen. Na ja, also wie bei Emotionen in der Stimme, dass es auch was man durch die generative Kaiden dann hinbekommen hat, dass man Freude, Trauer, Wut, wirklich alles, wie sie das Stimme anhört, auf diesen System geben kann und dadurch emotionale Birken lassen kann. Und dazu kam auch noch dann anders herum, eine neue Weise Emotionen zu erfassen, beide nutzenden, denn bisher oder davor hatte das kein Isesthen, der nur über die Sprache die Möglichkeit zu erfassen, welche Emotionen auch beanahe Seite im Spiel sind, nämlich nach dem was man sagt, entweder wirklich nach den reiten Emotionswörtern, wie ich bin heute sehr unglücklich oder ich bin wütend auf und so weiter, oder mit Sentimentallerlüse kann man das aufmachen, dass man ohne, dass man so dann die ganz konkreten Worte benutzt aus dem Text Emotionen herausfält hat, weil so sagen viele Worte im Umfeld sind, die darauf hinter euch. Das war vor der Fall. Und jetzt aber mit GBTV-O wurde die Funktion eingeführt, auch an der mimik des Gesichts Emotionen abzulesen. Das ist ja ein Ding. Also, das ist jetzt läuft, das wusste ich noch nicht. Ja, das ist noch nicht, das ist jetzt ihr erst im letzten Jahr so ein vorgestellt worden als technische Neuerung, als Möglichkeit, aber das ist nicht automatisch drin und wie gesagt auch in der Repplika in letzten Stand, den ich hatte noch nicht, aber das jetzt eben so technisch weit entwickelt, dass es leicht implementiert werden kann. Dann gibt wir doch gleich mal rüber zum Effektif-Computing. Das ist eine Unterdisziplin und die hat Rosalind Pika am 90ern am MIT mitbegründet. Ja, sie hat sie begründet. Sie hat sie begründet. Das ist Computertechnik, die sich auf Emotionen bezieht, von ihnen ausgeht oder sie beeinflusst. Was fasziniert sie an den Thema? Ich finde das sehr sehr faszinierend, weil ich mir schon am Anfang, als ich von dem Begriff der künstlichen Intelligenz gehört habe, nachdem ich mich sehr lange schon mit der Emotionsphilosophie beschäftigt habe, dann gefragt habe, wie geht das eigentlich Intelligenz ohne Emotionen? Emotionen spielen in so viele, in so vieler Hinsicht mit rein in das, was wir sonst und unsere geistigen Fähigkeiten verstehen. Also so eine krasse Trennung zwischen Emoration und Emotionen ist nicht haltbar. Also das zeigen ganz viele und das suche ein sowohl aspsychologie wieder, wie aus der Philosophie. Und dann ist das die Frage, was verstehen wir jetzt da unter künstlichen Intelligenz? Wie gesagt, da muss man immer überhaupt in der Frage was versteht man Intelligenz und was ist der Geist und so weiter, aber nun mal allein die Frage geht das ohne Emotionen. Und dann war ich sehr froh zu sehen, dass die Frage natürlich schon von anderen aufgegriffen würde und eben von Rutherling Picard zum Anlass genommen wurde, sich anzuschauen, was können wir denn mit Computern in Bezug auf Emotionen machen? Und das war eben in 90er Jahren und sie hat da sehr viel Gegenwind erst mal bekommen, dann alle mal etwas, also Computergeg zum Rechnen und vielleicht darum schreiben und denken und schließen und so weiter, aber doch nicht in Emotionen. Und sie war dann auch zurückhalten, weil sie dachte, es wäre ein Karriere bestimmt ganz schlecht, wenn sie ausgreiten als Frau, dann hier das Emotionsthema sich an sieht, was dann ein Essen verlacht wird, aber sie hat gesehen, es ist so viel Potenzial, dass es so viel wichtig, sie kann dieses Forschungsthema nicht unbearbeitet lassen und ist über eine eigene Schatten gesprungen und hat sie dann doch da beschäftigt. Und das hat sich natürlich gezeigt, dass es sehr, sehr wichtig ist und Emotionen haben viel mit Werturteilen zu tun und Emotionen haben mit Aufmerksamkeitslenkung zu tun und da und sie haben damit zu tun, bestimmte Dinge erkennen zu können, also genau das, was so ein Objekte von Emotionen sind, ob es es wirklich gefährlich ist, ob es wirklich eine Beleidigung ist und so weiter erkennen wir eben durch Frucht und durch Wut auch zum Beispiel. Und ja, wie kommt es jetzt rein in das Computing, die emotionale KI? Ja, also man kann auf zwei Weisen drauf gucken, entweder, man sieht das Projekt der KI als eines an, wo man sagt, es geht grundsätzlich um die Nachahmung menschlicher geistiger Fähigkeiten, dann hat man mit angefahren, mit Rechten, Schreiben, Schlüsse ziehen und so weiter und sagt dann, ja, aber zu den wichtigen menschlichen Fähigkeiten, die mit dem Geist zu tun haben gehören, einfach auf die Emotionen, weil Emotionen sind nicht nur körperlich, sondern Emotionen auch geistig. Und kann man sagen, die das gehört zum Projekt, diese Nachahmung des Menschen, weil es gar nicht gibt, dass so sinnvoll ist, aber das ist auf jeden Fall die eine Einflugschneise. Und die andere ist natürlich anders rumkommt, okay, was für Werkzeugetool-Systeme wollen wir denn haben in der Welt, um sie uns besser einzurichten, also wenn man von der Anwendung her denkt und sagt, das wäre da gut in der Emotionen erfassen, stimulieren und simulieren könnten. Ja, der fällt mir jetzt erstes ein, das halt in den sozialen Medien unternehmen, nachschauen, wie ist das gerade hier mit der Gefühlslage, sind die Gefühle eher positiv oder negativ, also als Sentimentanalyse und bis hin zu, dass jetzt in den Autos das System beobachten kann, wie es gerade jetzt der Fahrer oder die Fahrerin drauf, wie munter ist sie, also das ist jetzt aber beispielsweise die mir einfallen. Passen die gut oder haben sie dann noch ganz andere auflagern? Nein, das sind schon wichtige, die sie nennen, wenn wir jetzt da von ausgehen, wir beobachten bei anderen Menschen, Emotionen, einmal, Emotionserfassung am Arbeitsplatz, oder euphemistisch formuliert, es bleibt eben umgekehrt, die Stimmung erfassen, um dann irgendwie für ein gutes Teamwork aufzusorgen oder so. Aber hier ist natürlich schon die Frage, wie weit dringend man da in die Privatsphäre der Person ein, denn wenn man an der Arbeit ist, hat man ja nicht nur Emotionen in Bezug auf die Arbeit gerade, sondern man hat auch private Emotionen, man kann ja so sein Gute, so das schlechtes Gedanken mit von zu Hause mit tragen und die würden zumindest was in Emotionsty betrifft, auch erkannt werden können. Und ich finde es gibt da gute Gründe zu sagen, dass man da sehr zurückhaltend sein sollte und das ist auch eine der Fälle in dem EU-Kaihe gesetzt, dass wir jetzt haben, das sagt, dass an Arbeitsplatz und in Betenseinrichtungen die Emotionserfassung verboten ist. Ganz anders sieht es aus mit der Emotionserfassung im Auto oder in Fahrerkabinen, denn da soll sie ja der Sicherheit dienen. Und da muss man auch sagen, haben das nicht wirklich mit Emotionen im Engen zu tun. Wir sagen Emotionen im Engen sind immer so sein heldunisch gefärbte Auffassungen von etwas, was in der Welt für uns auf die eine oder andere Weise bedeutsam ist, also Wut, Freude, Trauer, Ekel und so weiter. In der Fahrerkabine ist natürlich nur wichtig, wo der ist unter anderem wichtig, dass die Person fälgt, dieses Auto zu fahren, dieses Flugzeug zu führen. Und da sind natürlich private Emotionen jetzt nicht so wichtig, sondern die Frage ist, die Person konzentriert genug, nicht müde, sondern wach genug. Und das wird auch in dieses große Fels das Effekt der Computing gezählt. Da ist unbekehrt, tatsächlich vorgegeben, jetzt schon, dass ein allen neuen Autos in der EU-Kameras eingebaut werden sollen, die diese Möglichkeit überprüfen können und eben, wenn Möglichkeit er erkannt wird, was in der Regel an Herabfall in Augen, die dann herkannt wird, dass dann in eine Wahn und ausgesprochen wird. Trotzdem ist natürlich das Auto auch ein Raum des privaten. Da, die ganze Zeit. und jetzt hat den Kamera mitlaufen zu lassen, das ist schon eine Entwicklung. Auf jeden Fall, dass man sich ganz genau ansteht. Man kann auch fragen, hat die Versicherung dann irgendwelche Ansprüche da gelten, so machen kann man dann ja gut, weil Versicherung stellt man auch einen Vertrag ab und so weiter. Und man muss aber auch gucken, was es für Misskrauspotenzial dann gibt, dass man eben da doch nicht nur die Möglichkeit überprüft, sondern anderes. Das hat durchaus problematisch Potenziale, aber wo man so eigentlich gezielt die Regulierung, die man wirklich überprüfen würde, eingreifen kann. Ganz anders sieht es meiner Meinung aus und öffentlichen Raum aus. Und da wurde zum Beispiel im E-Gesetz noch gar nichts drüber verlautbart, dass man eben auch in öffentlichen Plätzen ja sowas einrichten kann. Und da ist man dann überhaupt nicht darüber informiert, den Auto weiß man es ja nun. Und es gibt da aber zum Beispiel ein Piccadilly Circus in London, diese sehr große Werbeplattform. Und die ist eben nicht mehr nur eine, die Werbung anzeigt, sondern sie ist eine, die mittlerweile auch Kameras hat und die Passanten aufnehmen kann. Und die technische Möglichkeit implementiert hat, Emotionen erfassen zu können, oder zumindest Stimmung. Genau. Also, ich habe tatsächlich auch an London gedacht, und was da schon eigentlich alles mitgeschnitten wird und wie viele Kameras es gibt, das geht ja in die Tausende. Und insofern ist es KI-Gesetz jetzt doch zur richten Zeit gekommen. Aber jetzt sehen wir uns doch mal an, wie funktioniert das eigentlich? Also die Sentimentsanalyse? Den Begriff Sentimentanalyse, wenn man als technischen Term in der Regel meistens nur für Texte und die Emotionen wie Gognition sagt man, in deutschen Emotionserkennung, aber ich vermeide das Wort Erkennung, weil das gleich danach klingt. Also würde man erst mal wirklich was ein dodi erkennen können und zweibens als sei schon eine geistige Fähigkeit, die vom Menschen. Weil das ist nicht der Fall. Wenn die jetzt Gefühle erkennen sollen, die machen die das eigentlich. Man kann sehen, wenn Menschen, die Augenbrauen zusammengezogen haben, und das ist eher auf Wut hin deutet, auch wenn die Person gerade nichts sagt. Und wenn sie doch keinen Hut ausbrochen, hat irgendwie Schreit so. Also, sie sind das schon anzeichen dafür, aber man muss sie hier ganz klar machen, sind anzeichen und keine Beweise für Emotionen. Es gibt, dass hat sie ins besondere Debsihologin, Elisabeth Feldmann Barrett mit Kollegen sehr genau herausgearbeitet, vor ein paar Jahren in einer großen Überblickstudie. Es gibt nicht einen eng Zusammenhang zwischen Emotions-Austruck und dem Erlebtengefühl oder Emotionen. Es gibt keine verlässliche und spezifische Verbindung hier. Das heißt, nicht immer, wenn wir lächeln freuen wir uns und nicht immer, wenn wir freuen, lächeln wir uns. Natürlich ist oft der Fall, es gibt eine gewisse Korrelation, aber es gibt keine spezifische und verlässliche Verbindung. Und die Unternehmen, die das, die die Software jetzt anbieten, die versprechen das natürlich. Genau, da haben wir wirklich ein Problem, dass die Beschreibung und die Versprechung, die mit den Systemen einhergehen, dass immer sehr viel, wie sagt man, vollmundiger, formulieren, was da alles möglich ist, als was der der Fall ist. Alle sind die Forschenden selbst in der Zurückheit und Prezise vor allem, indem was die Systeme können. Aber sobald es wirklich in die Anwendung kommt und zum Beispiel zu Marketingzwecken eingesetzt wird, dann wird natürlich gesagt, ja, dieses System erkennt sofort, welche Emotionen die Zuschauer ihres Werbespots haben und sie werden sofort wissen, wie sie den Spot besser machen können. Und die Basis dieser Erkennung von Emotionen sind ja dann auch einfach schlicht Bilddaten-Sätze, denen das zugeordnet wurde. Das und das dieses Gefühl ist, was sich ja sogar kulturell noch mal total unterscheiden kann. Das ist auch richtig, genau. Also es gab zwar eine Weile, die Idee, dass es universelle Gefühle gäbe, die auch universelle Ausdrücke hätten, die überall ganz gleich wären, natürlich nicht für alle Emotionen, sondern natürlich die sogenannten Basis-Emotionen, Elfhaul Ekman sie genannt hat, in 1970er Jahren mit seiner Forschung dazu angefangen hat. Und da hat man die Weile sehr viel mitgearbeitet, weil man dazu dann auch noch das Gesicht katiert hat in sogenannte Action-Units, in Facial Action-Units, um ungefähr 45. Und man sagt, so viel Muskel einheiben haben, die wir im Gesicht zusammenziehen können oder entspannen können. Und je nachdem, wo sich gerade was zusammenzieht, können wir dann sagen, dass ein bestimmtem Nimmig und die passt so bestimmten Emotionen, also die hochgezogenen Mundwinkel zum Beispiel und etwas kringel an den Augenwinkeln. Das ist dann das Lächeln, das für Freude steht. Aber selbst für diese Basis-Emotionen eben konnte die Forschung zeigen letztlich, dass es nicht genug Evidenz gibt, dass es da ein verlässlicher und spezifischen Zusammenhang gibt. Was hat sie eigentlich während der Recherche am meisten bewegt oder beunruhigt? Oder erfolgt? Also diese Replicer-Bots, zum Beispiel, werden sehr viel dafür genutzt, um über sich selbst zu reden, um lernen, über sich selbst zu reden. Und dann hat man da so gegenüber, dass immer nafragt und ein dazu bringt, mehr, was sich selbst naf zu denken und sich über sich selbst zu formulieren. Und dadurch auch, dass über sich selbst zu lernen. Und man sie erzählen auch, dass ihnen das Geholfen hat, aus einer Schüchternheit herauszukommen, die sie sonst sehr beherrscht hat, wenn sie mit anderen Menschen gesprochen haben, dass es ihnen dir das schwer viel über sich selbst zu sprechen. Und das zum Beispiel haben die im Austausch mit dem Replicer-Karen gelernt. Das ist ja im Prinzip schon bei Josef Weizenbaumsehleiser so gewesen, dass da Reaktionen und Nachfragen kam. Und deswegen haben die Leute ein bisschen mehr, aber sich nachgedacht, die dann dieses System erleben durften. Und ja, und sind dann sehr bereit gewesen, einfach reinzugehen in die eigene Gedankenwelt, unabhängig davon, was immer das sein mag auf der anderen Seite. Ja, das war ein ganz simpel Wort, genau, der auch als Therapiefigur entwickelt worden war. Bei Replicer-Mawählen zwischen Mentor, Freund und Partner. Und da sind wir gerade nicht bei ein Therapie-Bord. Also, das ist ja wieder was anderes. Und da muss man auf sehr genau darauf achten. Und ich habe in meinem Buch tatsächlich die therapeutische Frage immer sehr ausgeklammert. Also immer nur, wenn das gibt es auch, aber da müsste man eigenes Buchstuhl verschreiben. Wir sehen sie eigentlich den Punkt der Anthropomophisierung. Also es ist ja bei Robotern so, dass sie gerne so angelegt sind, dass sie in Augen haben, dass da irgendwas leuchtet und dass Menschen älchen gestalt hat. Und bei KI Chatbot oder KI Figuren über Replicer, da gibt es ja schon auch Annerungen an das menschliche Wesen. Und ist das jetzt auch Anthropomophisierung und was halten Sie davon? Ja, da wird viel andere Pomophisierung betrieben. Und ich haltet das. dann ist ja für nicht wünschenswert und nicht weiter zu verfolgen, nicht zu vertiefen. Das ist aber, wo ich wirklich nicht weiß, wo man da gegenangehen kann, weil das ganz klar der Trend, es geht hinzu Anthropomophisierung. Warum finde ich das nicht gut? Das Problem ist, dass wir so biologisch und kulturell geprägt sind, dass wir wenn über das menschliche Sehen und uns da emotional involvieren, und das kann zu Problemen führen. Wenn man sich anschaut, was gibt es für verschiedene Möglichkeiten, beziehungen mit diesen sozialen Chatbots zu führen? So ist es am seltensten der Fall, dass wirklich eine Illusion vorliegt, dass eine Person wirklich denken würde oder ist ein menschliches Gegenüber. Das ist da binselts in Fall der Fall. Was ist am meisten der Fall und was ist auch die größte, eine philosophische Theorie zur Zeit dazu? Das ist die, dass die Menschen in eine bestimmte Art von Fiktion sich begeben. Das heißt, sie stellen sich vor. Da ist ein Gegenüber. Und diese sich vorstellen, wird natürlich umso leichter je Anthropomophar, diese Figur, diese Avatar gebildet ist. Das ist auf der einen Seite gar kein Problem. Man kann Spiele spielen. Wir spielen noch alle in anderen Spiele. Und wir sagen, na ja, so wie ins Theater gegangen sind, sonst mehr. So haben wir jetzt irgendwie, und uns da vorgestellt haben, sind wirklich ein Hamlet und einer Karininer auf der Bühne oder so weiter, die von Schausspielen denn gespielt werden. Jetzt stellen wir uns halt vor, in diese replica Avatar-Teis auch eine Person, und mehr der hinteragierig. Das Neue ist natürlich, wie wir hinteragieren jetzt, anlass als ein Theater, wo wir noch zugeschaut haben. Das heißt, hier ist es jetzt so, dass wir nicht nur Emotionen entwickeln auf etwas, was wir beobachten, sondern auf etwas, wo wir interagieren. Und was wir tun, hatten auch Einfluss auf das, was sagen, wenn wieder Neue auf uns zukommt. Und da ist es schwieriger, noch die Srennern zwischen Fiktion und Realität zu halten. Denn ich tue etwas, und was ich tue, hat wirklich ein Einfluss darauf. Und dann können wir zum Problem kommen, dass wir erstmal zu Realitätsstörungen kommen, dass man eben nicht mehr genau unterscheiden kann, was Fiktion-Relität ist. Wenn man das nicht nur zwei Stunden am Abend wie ein Spiel macht, sondern eben wie die Leute es hätte ich haben, als Tabort im Smartphone in der Hose, die ganz ehrlich rum tragen, und dann auch sagen, das nicht nur ein Spiel, sondern es ist wirklich mein Partner im Leben. Ich such keinen anderen Wert. Und das ist dann schwierig, noch ein Spiel durchzuziehen quasi. Und deshalb wäre es hier sehr hilfreich, wenn man diese Avertare und Bots nicht so antropomorf machen würde, dass man klarer immer wieder vor Augen geführt bekommt. Hier, das ist ein KI-System, mit dem kann ich hier schon nicht mal eine Weile in so eine Fiktion rein begeben. Aber dann heißt es auch wieder, sich zurückziehen und man leben, echtes Leben ist das. Da sehe ich zum Beispiel eine Gefahr drin, wenn man die andere Homophisierung zu stark fortsetzt. Menschenmann ja schon immer fasziniert von Maschinen. Und sind damit umgegangen, haben sogar schon eine Antike sich vorgestellt, was wäre, wenn man an mich aneisch Menschen hätte. Und ist es so, dass wir jetzt eigentlich immer näher an die Maschine ran kommen? Und das Verhältnis einfach enger wird? Und das technische dringt immer mehr kleinteilig in verschiedenen Lebensbereiche ein. Da steckt ja schon hinter dieser ganzen KI Grundidee dahinter, also die Nachahmung des Menschlichen. Und sie haben mit ganz recht, das gab schon früher die Nachahmung des Menschlichen, die ein Startschul, die menschliche Formen haben und so weiter. Und dann kamen der KI dahin eben auch, das Menschlichen Geist nachzubilden, nicht nur die menschliche Form. Und das scheint mir irgendwie so eine menschliche Grundkonstante, anthropologische Grundkonstante fast zu sein, dass es eine Faszination dafür gibt, dass menschliche und den Menschen nachzuarm, auf welche Weise auch immer. Ich verstehe, dass irgendwie eine Faszination da ist, die dann aber meistens auch umschlägt in so eine große Furcht. Nämlich, nämlich immer die Furcht, dass dann die Maschinen besser würden als die Menschen, um uns alle beherrschen würden und so weiter. Aber ehrlich gesagt, so ganz genau genommen, wenn man über die Kvarum machen wird, das verstehe ich nicht. Weil ich finde es viel sinnvoller, wenn wir ihr Technik so bauen und so entwickeln, dass sie gerade nicht so ist wie wir, sondern anders und zwar komplementär so, dass sie uns helfen und nutzen kann, gerade da bei denen Sachen, die wir nicht können. Deswegen verstehe ich nicht so gut, warum diese menschnahverarmungsidee so sehr stark verfolgt wird und für uns fast ein bisschen fantasielos. Und ich denke, es wäre doch spannender. Andere ist, Zöntwickel der Menschen, haben wir ja genug. Das war der Podcast der deutschen Psychiotherapeuten-Vereinigung. Realisiert von Christiane Zwick, Stories und Empolse. Redaktion, Christiane Jorim und Simon Hypner. Mehr zu den Themen dieser Folge finden Sie in den Show-Nutz und auf der Webseite der DPTV. Abonnieren können Sie Lebenhas Veränderung, überall da, wo es Podcast gibt. Jeden Monat gibt es eine neue Folge. Wenn Ihnen der Podcast gefällt, empfiehlen Sie uns gerne weiter. Wir freuen uns auch über Rückmeldungen und Anregungen. Sagen Sie uns, welches Thema Sie interessiert. Die Mailadresse lautet [email protected]