#20 Dr. Laura Crompton: Künstliche Intelligenz und Verantwortung
from Zukünfte2Go - Ein Blick ins Neue mit und von Univ.-Prof. Dr. Marion Weissenberger-Eibl
1h 9m 11s
Der Podcast „zukünfte Tugor“ beleuchtet zukünftige Entwicklungen aus verschiedenen Perspektiven, um eine wünschenswerte Zukunft zu gestalten. Dazu werden Experten aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft eingeladen, um Innovationen und ihre gesellschaftlichen Auswirkungen zu diskutieren. Ein zentrales Thema ist die Rolle der künstlichen Intelligenz (KI), die zwar viele Anwendungsfälle bietet, aber auch große Herausforderungen wie Verantwortungslücken und ethische Risiken mit sich bringt. Die Diskussion zeigt deutlich, dass KI nicht isoliert verwendet werden sollte, sondern immer im menschlichen Kontext steht. Philosophie und Ethik sind entscheidend, um normative Fragen zu klären, wie z. B. Verantwortung, Werte und die menschliche Kontrolle über Entscheidungen. Der Podcast betont, dass Transparenz, Aufklärung und ein demokratischer Regelungsansatz notwendig sind, um KI sicher und gerechtfertigt zu nutzen. Besonders wichtig sind Werte wie Umwelt und Nachhaltigkeit, die als Grundlage für eine nachhaltige Zukunft dienen. Die Zukunft wird nicht durch technische Fortschritte allein geprägt, sondern durch bewusste, reflektierte und ethisch fundierte Entscheidungen, bei denen der Mensch im Zentrum bleibt.
So künfte Tugor, ein Blick ins Neue. Mit und von Universitätsprofessoren Dr. Marion Weißenberger Eibel.
Liebe Hörerinnen und Hörer, seit gut zweieinhalb Jahren werfen wir in meinem Podcast einen Blick ins Neue.
Was als grobe Idee in einem Team-Meting während der Corona-Pandemie begann,
hat sich zu einer monatlich erscheinenden Sendung etabliert.
Bei zukünfte Tugor, sprechen wir ganz bewusst von zukünften, denn er steht heute noch nicht fest, wie die Zukunft tatsächlich aussehen wird.
In unserem Podcast sprechen wir deshalb über mögliche und wünschenswerte zukünfte und die Pfade dort hin.
Für eine wünschenswerte Zukunft bedarf es zahlreiche Ideen und Innovationen, Perspektiven und Akteure, Werkzeuge und Kooperationen.
Deswegen laden wir seit März 2021 Persönlichkeiten aus der Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft ein.
Wir sprechen mit Menschen, die mit ihren Innovationen die Zukunft gestalten möchten und bereits heute schon gestalten.
Anlässlich unserer 20. Epozode wollen wir unsere Hörerinnen und Hörer zu Wort kommen lassen.
Was war ihr Lieblingsmoment?
Was ist Ihnen besonders in der Rinnerung geblieben? Und was hat sie vielleicht auch überrascht?
Freuen Sie sich auf Einblicke aus unserer Hörerschaft und im Anschluss daran, auf die 20. Epozode von zukünfte Tugor.
Mein Lieblingsmoment war ganz klar, als ich erst mal herausgefunden habe, dass dieser Podcast überhaupt existiert. Was mir in Erinnerung geblieben. Also auf jeden Fall, dass Miele versucht hat, mal Autos zu bauen, das fand ich ziemlich cool.
Was mich überrascht hat, ist einfach die Superqualität von dem Podcast. Also ich bin auf jeden Fall jetzt ein begeisterter Hörer.
Am Podcast interessiert mich vor allem, wie sich die Zukunft gestalten kann. Einerseits natürlich in Form von verschiedenen Technologien, aber auch wie sich zukünftige Entwicklungen, zum Beispiel in der Gesellschaft ausdrücken können.
Besonders interessiert habe mich da die Folge mit Hannes Fairnau zum Thema Wertewandeln in der Zukunft.
Der Podcast zeigt für mich viele spannende Aspekte der Nachhaltigkeit und der Nachhaltigkeitsentwicklung.
Mit sehr interessanten Gästen und Moderator, der immer sehr gut und detailliert, aber verständlich nachfragt.
Das Besondere an dem Podcast ist, dass jedes Mal ein Neue Experte vor Ort ist. Es wird nicht immer nur ein Thema beleuchtet, sondern verschiedene Themen. Es gibt keine Eintöneigkeit, sondern immer wieder was Neues zu entdecken.
In Erinnerung ist mir auf jeden Fall geblieben, dass Politik und Gaming sich nicht ausschließt, und überrascht bin ich eigentlich jedes Mal, wenn ich sehe, was die Thematik für die nächste Episode werden wird.
Mir gefällt am Podcast die Vielseitigkeit. Von bekannten Persinnigkeiten wie Tigen-O-Narran zu wissenschaftlichen Experten in den Professor-Georgter Martin Rupp sind viele Akteure mit im Boot. Das macht den Reiz aus und weckt bei den Zuhörer in Ideen. Und das ist der Rohstoff für Innovation.
So künftet Ugo, ein Blick ins Neue, mit und von Universitätsprofessoren Dr. Liebe Hörerinnen und Hörer, künstliche Intelligenz hat das Potenzial, disruptive Veränderungen auszulösen und unser Lebens- und Arbeitswelt umfassend und nachhaltig zu verändern.
Anwendungsfälle gibt es viele, die Möglichkeiten scheinen unendlich.
Für die drängenden Herausforderungen benötigen wir die Fähigkeiten der KI, deren Mustererkennung, unterstützt uns Phänomene wie den Klimawandel besser zu verstehen oder medikamente schneller zu entwickeln.
In der Industrie können Prozesse optimiert, automatisiert und Ressourcen damit effizienter genutzt werden.
Wir dürfen allerdings nicht vergessen, dass die Entwicklung und Implementierung von KI, Implikationen für Wirtschaft, Politik und Zivilgesellschaft haben.
Normativ und rechtliche Leitplanken müssen daher stets gesamtgesellschaftlich diskutiert werden. Für mich ist eines von zentraler Bedeutung.
Der Mensch muss im Mittelpunkt stehen und am Steuer bleiben, mit allen Rechten und Pflichten.
Unser heutiger Gast ist KI Ethik-Experten bei Beid der Bayerischen Agentur für Digitales.
Die promovierte Philosophen Vorstell zur Verantwortungskonzepten im Kontext der künstlichen Intelligenz.
Und ihre Doktorweit wurde sie jüngst mit dem Femalexilanzer Wort Ethik der Digitalisierung ausgezeichnet.
Der Preis wurde gemeinsam vom KIT und der deutschen Telekom verlin.
Können Werte, die über Jahre hinweg entstehen, uns in der heutigen, schnelllebigen globalisierten und digitalen Welt leiten?
Welche Rolle spielt KI bei der Entscheidungsunterstützung?
Bin ich noch verantwortlich, wenn ich mich auf KI verlasse?
Freuen Sie sich auf das Gespräch von Dr. Laura Grompton mit meinem Kollegen Sebastian Burga in der heutigen Episode von Zukunft "To Go".
Künstlich Intelligenz ist gekommen, um zu bleiben. Auf der ganzen Welt läuft derzeit einen Wettlauf im Techbereich, wer KI am besten, schnellsten oder erfolgreichsten entwickeln und vorantreiben kann.
Gleichzeitig lösen man aber auch Unsicherheiten und Gefahren in der Technologie.
Es sind nicht nur Informatikerinnen und Informatiker, die sich mit KI auseinandersetzen.
Um einen erfolgreichen und menschenlinischen Umgang mit ihr zu gestalten, benötigen wir diverse Perspektiven.
Unser heutiger Gast ist KI Ethik-Spezialisten. Die promovierte Philosophen treibt Digitalisierung und KI in der Verwaltung voran
und hat sich in ihrer ausgezeichneten Doktorweit mit dem Verantwortungsprüf auseinandergesetzt.
Ich möchte Sie fragen, warum wir Philosophie heute noch brauchen, welche Rolle Ethik im Umgang mit KI spielt und wie wir mit Verantwortungslücken umgehen können.
Herzlich willkommen, Dr. Laura Grompton.
Schön, dass du da bist.
Hallo.
Laura, warum hast du dich für ein Philosophie-Studio entschieden?
Ich finde, ich finde, Philosophie-Studio entschieden, weil ich eigentlich Journalismus machen wollte. Ich fand, das Schreiben hat mir sehr viel Spaß gemacht und quasi Texte und Kontexte analysieren und zugänglich wiedergeben.
War was, was mir sehr viel Freude bereitet hat. Also es ging schon so ein bisschen in die Richtung "Wissens Transfer", würde ich sagen.
Deswegen habe ich mich damals für das Philosophie-Studio entschieden, weil auch da einfach sehr viel mit Texten gearbeitet wird, eine Lüse stattfindet und eben auch die "Wissens Transfer" eine sehr wichtige Rolle spielt.
Hat so viel in der Schule auch?
Ja, ein Ethik in der Schule, ja. Aber da war es jetzt nicht, also es war jetzt nicht so, als hätten wir hier große philosophische Texte gelesen und analysiert, evaluiert und groß diskutiert.
Ich finde, das war eher low-key, würde ich sagen.
Enke, war das dann auch so, also ich kenne das noch bei uns, war es auch die Entscheidung zwischen evangelischer Religion, katholischer und Ethik, war das da auch?
Genau, genau so, und ich bin dann von katholischer Religion irgendwann gewechselt in Ethik, weil ich das damals auch sehr spannend fand und ich eigentlich nicht mehr in den katholischen Unterricht oder ich habe mich nicht mehr so zugehörig gefilmt im katholischen Unterricht.
Und ich bin dann eben in die Ethik klassisch gewechselt und ja, fand es super cool damals, also ich kann mich noch sehr gut erinnern, das erste Referat, was ich damals halten musste, war über den Utiliterismus, John Stuart Willen.
Denke ich sehr gerne zurück.
Spannend, bei mir war es tatsächlich so, ich habe neben dem Abi auch das "Abi" gemacht, das internationale Abi.
Und da hatten wir Theory of Knowledge, also Erkenntnis-Theorie und das war für mich leider nicht so richtig zugänglich und wenn ich ja jetzt zurückdenke oder anderswo, wenn ich jetzt mein damaligen Lehrer treffen würde, das wäre bestimmt, der würde bestimmt auch machen, dass ich dann doch bei der Philosophie geblieben bin, obwohl das damals mir sehr schwer gefallen ist.
Ja, ich kann mir vorstellen, das ist einfach auch in der Schule, das ist einfach auch eine andere Zeit, vielleicht sind noch andere Sachen irgendwie interessant, ich weiß es nicht.
Ja, das kann, das kann schon sein. Du hast dann im Bachelor auch Philosophie, also quasi nur in Anführstrichen Philosophie einfach studiert, ja?
Ja, ich habe im Bachelor, im Master und im Doktor die Philosophie gemacht. Okay, und im Vollesprecher zu erzähl, dass du im Master schon dich mit Robotern, ja, aufeinander gesetzt hast. Wie kam da so dein Interesse an diesem ganzen Bereich Technik, Ethik, Roboter, weil das ja nicht, also wenn man jetzt irgendwie
wie ein Philosophie denkt, ist das ja nicht das erste, woran man vielleicht denkt.
Also ich bin tatsächlich schon im dritten Semester in mein Bachelor irgendwie ein System
er so reinguscht und habe dann angefangen in einem EU-Projekt zu arbeiten für eine Professorin
V. V. V. Rella Battalja und genau, also reingekommen in das Thema bin ich damals, ich wünsch
dich, ich kann dir sagen, aus intrinsischen Gründen und im grundlegenden Interesse, aber es war
da mal so, dass die LMU eine Kooperation mit der V.I.U., der Wendes International University
hatte, wo die LMU studierenden für eine Woche quasi einen Seminar, einen Intensivseeminar
in Venedig ermöglicht hat und die Kosten wurden dabei eben von der LMU getragen und ich
wollte immer mal nach Minäde gewinnen und habe mich dann für das Seminar in quasi beworben,
weil ich dir dachte, ja gut, also ich würde super gerne da mitfahren auf der einen Seite
und auf der anderen Seite über das Thema eben Roboter Ethik klang jetzt auch nicht verkehrt
und dann habe ich mich dort angemeldet und fand es super spannend, das hatte total Spaß
gemacht ist Seminar und eben im Anschluss zum Seminar, mich diese Professorin, die das Seminar
geleitet hat eben für Rhein-Labertalien nicht gefragt, ob ich für sie als Studienassistenz
arbeiten möchte und sie war eine treibende Kraft an der LMU für dieses Thema Technik philosophie
und Roboter Ethik und so bin ich dann quasi in diesem Thema geblieben.
Okay, dann hast du aber auch noch mal einen kurzen Abstecher in die Industrie gemacht, warum
warst du jetzt mal aus der anderen Perspektive gesehen? Warum warst du für ein großes Software-Unternehmen
attraktiv?
Es ist eine sehr gute Frage, die freue ich mich auch bis heute noch. Ich weiß es tatsächlich,
ehrlich gesagt nicht. Mein Manager hat mir damals gesagt, dass er sich oft so ein bisschen
die Leute angeschaut hat, die so die Papa Geien waren, so ein bisschen die Außergewöhnlicheren
und er fand es damals sehr cool, dass ich viele so viel studiert habe und hat mich dann quasi
in die engere Auswahl mit reingenommen. Also ich glaube, ich war eigentlich von dem Erst-Screening-Algerutmus
so auf dem vielleicht beziehungsweise aus sortiert hoffen, aber hatte dann eben großes Glück,
dass er sich genau diesen Haufen angenommen hat und genauso bin ich dann beim Microsoft
rein gerutscht. Okay, und was hat sich dann da wie Reiz dort zu arbeiten?
Ich habe mich damals quasi nach dem Master, sowohl bei IBM als auch beim Microsoft als auch
bei BMW beworben, weil ich eben weiter in diesem Thema arbeiten wollte. Es ist so Ethik,
Technik, Ethik und Microsoft war, also Ahem, die ihren Hauptsitz von Deutschland in München,
was sehr praktisch war und BMW bei Microsoft eines der Unternehmen, die sich schon relativ früh
mit diesem Thema Responsibility auseinandergesetzt haben und genau, so habe ich mir gedacht,
das klingt ja alles gar nicht so verkehrt, schaue ich mir das mal, schaue ich mir das mal ein
bisschen näher an, habe ich dann eben beworben mit sehr kleiner Hoffnung, das ist tatsächlich klappt,
weil eben wie passt eine Philosophin jetzt in ein Unternehmen wie Microsoft, aber ja,
hatte dann sehr großes Glück und konnte dann mal in diese Tech-Babel so ein bisschen reinschnuppern,
und schauen wie Ethik da adressiert wird. Ja, es ist ja auch glaube ich für alle zukünftigen
Probleme wichtig grundsätzlich verschiedene Perspektive mit rein zu holen, also wir haben in unserem
Team auch ganz viele verschiedene Disziplinen vereint, also jetzt neben mir als Philosoph natürlich auch
die Maschinenbauer und BVL, aber auch eine Wirtschaftsgeograf, eine Synologin, eine Verwaltungswissenschaftler
und wir versuchen, mit all diesen verschiedenen Drillen, der nicht mal auf die Phänomene rund um
Innovationen, Nachhaltigkeit, Digitalisierung drauf zu schauen und ich glaube, das ist wichtig,
dass wir nicht mehr, oder dass wir nicht so sehr insilos arbeiten und denken, sondern es vermehrt
austauschen. Absolut, ja. Was war denn dann sozusagen der Turning Point, also wurde dann doch
vielleicht gemerkt hast, dass du zurück in die akademische Welt möchtest? Der Turning Point war
ein erster Linie, eine Ausschreibung für eine Pietstiefstelle zu KI Ethik und das ist das
erste Mal, dass ich mich dann quasi auch explizit mit KI Ethik auseinandergesetzt habe. Ich habe mich
dann eben darauf beworben und genau, das Projekt würde dann leider gekänzelt, also es hat gar nicht
stattgefunden, aber mit dem damit war dann irgendwie so ein bisschen dieser Gedanke gepflanzt.
War mir aber auch nicht so 100 Prozent sicher, ob ich jetzt wieder zurück ins akademische will,
eigentlich habe ich dem Master abgeschlossen, haben wir gedacht, Gott nie wieder zurück in die Uni.
Und genau, ich habe dann ein Jahr nach dem Master quasi, also ein halbes Jahr war ich bei Microsoft
und das andere halbe Jahr, habe ich dann Volunteerarbeit gemacht in Portugal und habe da dann eben
ein bisschen so rumgetastet, habe geguckt, was möchte ich eigentlich machen, was kann ich überhaupt
machen, das ist ja eben auch eigentlich so ein grundsätzliches Problem, weil viele so Ruf*innen
nicht wirklich jetzt nahegelegt wird, hey, hier und hier könnt ihr arbeiten, ja, die sind
dieses Skills, das ist nicht so eine intuitive, ich gehe aus der Uni und weiß genau, wo ich hingehe.
Geschichte, deswegen, ja, weil ich einfach ein bisschen lost könnte man sagen, ein bisschen nicht
so recht wohin mit mir und hat mich da einfach mal ein bisschen vor allem durchlingt, in ehrlich gesagt,
durchgeklickt, weil wir bei Microsoft mussten, wenn es damals Link im Profile erstellen und haben
auch kurze bekommen, wie wir die anständig herrichten, das war ein sehr, sehr großes Glück, weil dadurch konnte
mich so ein bisschen durch diesen Jobmarkt mal so rein navigieren und durch navigieren, das war
sehr wertvoll und genau, habe dann irgendwie nach und nach rausgefiltert, dass der Job von Research
Scientist, eigentlich was ist, was mir sehr viel Spaß machen könnte, aber wir gesehen, dass für
diese ganzen Research Scientist Jobs ein Doktor benötigt wird und hat mich dann eben entschieden,
den Doktor zu machen, um eben Research Scientist zu werden, also der Doktor war für mich tatsächlich
mehr Mittel zum Zäckermann zu fallen.
Okay, ja, also das war jetzt nicht von vorne raus geplant, als du dann irgendwie dann, also es gibt
ja manche Leute, die wissen schon, dass sie auf jeden Fall promovieren wollen, dann mir war das
auch nicht so, bei mir war es auch über die Ausschreibung, dass ich da irgendwie dran gekommen bin, aber das
scheint ja jetzt bei dir auch so ähnlich gewesen zu sein. Wie war die Promotion für dich?
Wie hast du es wahrgenommen? Was hast du da am meisten geschätzt vielleicht, welche Erlebnisse sind
die Nachhaltigkeit, nachhaltig in der Rinderung geblieben?
Sehr, sehr viele unterschiedliche Emotionen würde ich sagen, also diese Pierre-Stitzeil, das war
nicht mich unfassbar, gerne zurückgerinder, auch wenn es Phasen gab, die astronomisch anstrengend
waren. Also ich habe es extrem genossen, ich hatte unfassbares Glück mit dem Projekt, also wir haben
in einem FF-Fundelt-Projekt gearbeitet und zu Fragen rund um Normativität und aus unterschiedlichen
Blickwinkeln eben dazu gearbeitet. Wir waren ein Team von zehn Pierre-Stitzy-Studierenden, haben quasi zwei
Büros gehabt und saßen im oberen Büro, weil wir zuviert im unteren zu sechst und dieses Erlebnis zu
teilen mit fünf anderen Menschen irgendwie in einem Raum zu sitzen und den gleichen oder ein sehr
ähnlichen Themen zu arbeiten, aus unterschiedlichen Perspektiven und diese Diskussionen zu führen und alle
Emotionen, die in Pierre-Stitze mit sich bringt, irgendwie so gemeinsam zu fühlen, war unfassbar schön,
also ich denke sehr, sehr gerne zurückgerinder in Pierre-Stitze. Und wie gesagt, obwohl wissen, dass das auch
sehr viel Schmerzen mit sich gebracht hat, also gerade das letzte Jahr war, eher am Stringend.
Ja, man kennt es. Ja, ich fand auch vor allem, also bei mir war es so, dass vor allem so diese Konferenzen,
das waren, was mir nachhaltigen Erinnerung geblieben ist. Also ich war in Porto gerade in Braga zum
Beispiel und da gab es natürlich auch so ein Fanboy im Moment, wo dann die Autoren eines Papers,
was ich irgendwie sieben, dreißig mal zittiert habe, dann plötzlich vor mir standen. So, das sind so
histories, die man immer gerne erzählt. Ja, es war wild, wie sich dann dieses Pierre-Stil,
wie sich so eine kleine Babel bildet, also ich kann mich erinnern, dass ich dann in Wien auch immer
wieder ganz aufgeregt freunden erzählt habe, kein Pierre-Stil machen. So mein Gott, ich habe diese
Professoren getroffen, ich habe mich total gefreut und die arbeitet zu genauer den gleichen Themen,
wie ich. Und das ist sich immer auf so komplette Verständnis getroffen. Ja, ja genau, oder einfach dann
so skurril, dass man, oder dass man mit
eine australierin in Portugal über seinen Thema gesprochen hat oder so. Also da ist dann
irgendwie die Welt doch ganz nah zusammengerückt. Das fand ich auch irgendwie eine schöne Erkenntnisse
im Endeffekt. Ja, total. Wir gehen gleich nochmal zurück auf die Philosophie ein. Nach deiner
Promotion bist du jetzt bei "Bite" gelandet, der bayerischen Argetur für digital ist. Erzähl uns
auch ein bisschen über deine Rolle als AI Ethics Specialist. Also bei der "Bite", also erst mal,
ich habe quasi angefangen, bei der "Bite" als Projektleitung, also gar nicht als KI Ethik-Expertin,
habe dort ein Projekt zu Prozessanalyse geleitet und mit dem Aufkommen von Chatgibitil
im letzten Jahr durch diese KI-Themen-Explosion bin ich dann in diese neue Rolle rein gerutscht. Und
genau, damit, dass diese Rolle quasi neu erschaffen wurde, ist sie auch immer noch so ein bisschen
in der Formierungsphase, würde ich sagen. Sie beinhaltet vor allem sehr viel Wissenstransfer,
das bringt mich eben wieder zurück zu diesen Journalismus, den ich im ursprünglich machen wollte.
Genau, also es hat sehr viel damit zu tun, das irgendwie, ich versuche eben nach außen zu
treten und über KI Ethic aufzuklären, überchancen und riesigen aufzuklären und so ein bisschen quasi
durch diese Debatte durch navigieren auf eine zugängliche Art und Weise. Das Ganze auch so ein
bisschen näher bringen, sowohl in den Ministerien, also auch in der Öffentlichkeit. Und das ist dann,
also die Beid ist dann öffentlich gefördert, also das ist eine Behörde, oder wie kann man es
das vorstellen? Wir sind so ein bisschen ein Mischmarsch aus dem öffentlichen Sektor und der Startup-Welter.
Wir sind ein Unternehmen, das eine GmbH des Freistaats Bayern. Wir sind quasi an den Teil des
öffentlichen Dienstes. Was würdest du sagen, wie die KI, die Arbeit in der öffentlichen Verwaltung
verändern wird, wo doch die öffentliche Verwaltung teilweise schon bei Digitalisierung hinterherhängt?
Ja, das ist eine sehr, sehr gute Frage. Also wir haben auch momentan tatsächlich als Digitalisierungseigentur,
dass das Freistaats Bayern noch keine KI-Projekte am Laufen. Wir gehen davon aus, dass sie natürlich
nachkommen, aber wir arbeiten momentan an anderen Projekten. Trotzdem ist dieses Thema KI natürlich
in aller Wunde und ist damit eigentlich auch im Wunde der Ministerien. Und das ist natürlich so,
dass KI eigentlich schon alle Lebensbereiche verändern wird oder das schon tut und genauso wird es eben
auch die Verwaltung verändern. Und klar gibt es da einfach große Herausforderungen in Sachen
Lücken schließen. So auf der einen Seite haben wir noch das Faxgerät. Auf der anderen Seite
sind schon über generative KI gesprochen. Aber ja, also KI ist auch in der Verwaltung und
ist interessant, KI ist auch in der Verwaltung angekommen und deswegen ist es auch sehr relevant
jetzt quasi für uns als weit. Ja, gibt es ja so konkrete Potenzialbereiche, wo dann die öffentliche
Verwaltung gesagt, okay, das möchten wir jetzt nutzen oder das möchten wir jetzt nutzen, gibt es da
so was oder guckt man sich das erstmal allgemein an. Also es gab jetzt in Baden-Wüttenberg,
gab es das Inno Lab und die haben zusammen mit Alfa eben dieses F13-Modul in die Welt gebracht.
Das ist natürlich super spannend und das natürlich in Überlegung, ob man so was ähnliches nicht
auch in Bayern machen könnte. Das sind jetzt aber quasi erstmal so Ideen. Ja. Ich glaube einer
der Wert, was Aspekte die KI für die Verwaltung mitbringt, ist quasi dieses Überbrücken von Lücken.
Also wir haben in der Verwaltung wir auch in allen anderen Bereichen des die Herausforderungen
des Fachkräftemangel. Ja. Und ich glaube da ist KI einfach ein sehr sehr wertvolles Werkzeug,
um eben diese Phasen, dass das quasi direkten Fachkräftemangel ist irgendwie zu überbrücken
und quasi wissensflücken zu schließen und quasi einleernen zu erleichtern und wissen auch quasi
weiterzuführen und so. Und ich glaube das ist ein Punkt, wo KI sehr sehr wertvoll sein kann
in der Verwaltung. Grundsätzlich ist es ja auch wissenswert, dass ich eben auch Verwaltung und eben auch
so eine GmbH wie ihr seid sich mit dem Thema auseinandersetzen, um da eben auch noch mal die Impulse zu geben,
dass man KI eben auch in einer Art und Weise entwickeln sollte, die dann irgendwie auch demokratisch
legitimiert ist und so weiter und so fort. Also ich glaube das ist auch ganz wichtig, dass da
entsprechende Institutionen sich auch auseinandersetzen, die vielleicht nicht 100% profit orientiert sind.
Absolut eben auch, weil die öffentliche Bereitungen eine ganz andere Verantwortung im Umgang oder
in dem Einsatz mit KI hat als jetzt die Wirtschaft. Also das sind einfach unterschiedliche
Verantwortung ausleberungen, würde ich sagen, die da sehr sehr relevant sind. Cool. Wir wollen
jetzt einmal kurz zur Philosophie zurückkehren und so ein bisschen über die Rolle der Philosophie
in der heutigen globalisierten und digitalen und dynamischen Welt schauen. Wofür brauchen wir die
Philosophie heute noch? Ich glaube die Philosophie ist was, was Leuten oft irgendwie sehr abstrakt vor
kommen. Da war eigentlich Philosophie und gerade auch Ethik, was sehr alltäglich ist. Also für
mich ist Philosophie vor allem quasi oder eben auch gerade die Ethik, vor allem, was uns
anhält Fragen zu stellen. Das lehnt jetzt so ein bisschen an diese Frage der Normativität
und das Thema der Normativität an. Und ich meine, wenn wir zum Beispiel daran denken, dass wir uns
tagtäglich Fragen stellen, wie sollten wir das tun? Wie sollten wir das und das machen? Wie kann
ich sollte ich sowas kommunizieren? Jetzt hätte ich alle diese Fragen rund um sollte, dass all das
ist ja eine Normativität und damit ist Philosophie hier und vor allem eben auch Ethik eigentlich, was
total alltäglich ist und was, was wir auf jeden Fall immer brauchen. Wir hatten vorhin schon darüber
gesprochen über die Kompetenzen, die man als Philosoph in mitbringt. Was würdest du sagen? Was
bringst du mit und warum ist das nicht sehr verständlich? Also auch da würde ich wieder sagen, dass
dieses Frage stellen, eine sehr große Rolle spielt. Ich glaube Philosophie und Philosophie haben die
Fähigkeit reflektierte Fragen stellen, das soll ich heißen, dass andere Leute das nicht machen können, aber diese Fragen
attressieren oft unterschiedlichste Blickwinkel und haben quasi oft quasi diese Möglichkeit oder
fokussieren sich sowohl auf einzelne Sachen, also auf gesamte Systeme. Und ich glaube, das ist ein sehr
wertvoller Punkt der Philosophie und der Ethik, um quasi durch diese Komplexitäten unserer heutigen
Lebensrealitäten irgendwie durchzünnavigieren. Also das ist gar nicht so, dass die Philosophie und die
Ethik irgendwie die Antworten auf all diese Fragen bringen, sondern diese Stellen dieser Fragen
soll quasi die Diskussionen in den Diskurs irgendwie fördern und durch dieses quasi gründe geben,
ist jetzt auch wieder sehr philosophisch. Können wir quasi unsere Normen, unsere Werte bilden und
durchdiskutieren, annähern, abgleichen usw. Und das ist das, was uns hilft quasi durch diese
Komplexität irgendwie durchzünnavigieren, würde ich sagen. Genau, es ist ja auch dieser gedankliche
Rolltausch-Ger-Brolls, das geschrieben, den man dadurch erübt, wo das bewusst machen, dass man da auch
vielleicht mal andere Perspektiven einnehmen sollte, um ein Sachverhalt zu bewerten. Wir haben ja
schon gesagt, es ist eine globalisierte Welt, es ist eine digitale Welt. Thomas Beschorner aus
dann Geilen hat es auch eine schwindelerregende Zeit gerade genannt und das Problem bei Philosophie ist
ja auch so ein bisschen vor allem bei der Ethik. Da gibt es ja dann auch verschiedene Schulen und
dann kriegt man ja auch keine klare Antwort. Warum ist es trotzdem, welche Rolle können Philosophinnen
trotzdem spielen in diesen schwindelerregenden Unsicheren Zeiten? Das ist auch eine sehr gute Frage. Ich glaube
eben genau diese so ein bisschen dieses an der Hand nehmen und durch Fragen und durch Diskussionen
irgendwie dadurch navigieren durch diese schwindelerregenden Zeiten durch diese Unsicherheiten und ja
Philosophie mag in erster Linie vielleicht noch weitere Unsicherheiten mit sich bringen oder eröffnen, aber
genau darin sehe ich auch irgendwie die Rolle der Philosophie und der Ethik. Also quasi auch Sachen,
die feststehen zu hinterfragen und vielleicht da auch nochmal bis den Unsicherheit reinzubringen,
um eben eine wertstiftende und wertvolle Umwelt für uns zu erschaffen. Wo kommen wir hin,
wenn wir auf den Fragen zu stellen? Wie ist das oft ist ja so die Kritik von innovatoren,
innovatoren, das Regulierung und zu viel Ethik oder zu viel Moral, die Fortschritte im Bereich
grundsätzlich Innovationentwicklung ein bisschen erschweren? Ist es wirklich so, dass diese
Philosophische Überlegung, Innovationen, Bremsen oder ist es eher so, dass wenn wir uns damit befasten,
dass wir dann nochmal eine neuende einzigartige, einzigartigen Umgang damit entwickeln können oder
dann auch entsprechend die Modelle so entwickeln, wie sie vielleicht zu uns besser passen.
Ja, also ich glaube, es ist ein bisschen was von beiden. Also ich glaube zum einen, genau, ermöglicht uns die Philosophie
und auch dieses bisschen verlangsamte und angemessener an genau diese Fragestellungen der Philosophie,
irgendwie ranzugehen und die Ausse diskutieren und sich quasi so ein bisschen anzunehren an das,
das wir als unterschiedliche Gesellschaften auch für gut und wertstiftend empfinden. Auf der
anderen Seite bedeutet es natürlich auch, dass Sachen eben verlangsamt werden. Also ich würde sagen,
die Philosophie ist und die Ethik oder ethische Fragestellungen in Entwicklung und Fortschritt sind
bestimmt nicht die Kategisatoren und quasi Schnelligkeit springen. Das ist auf keinen Fall, aber ich glaube,
es ist trotzdem, es ist diese Verzögerung wert, wenn wir am Schluss quasi Entwicklung und Fortschritt so
gestalten, dass sie für alle Menschen und für unsere Umwelt quasi annäherbar sind und wertstift
end sind. Ja, Raphaela Hillerbrand war hier auch schon bei uns im Podcast vom Zurufe Technikfolgen
Abschätzung und vom Arti, die das eigentlich formuliert. Also natürlich ist es eine Art Bremse,
aber es ist nicht die Bremse um das Bremsenswillen, sondern es ist eine Bremse, die uns Zeit gibt zu
reflektieren und Dinge besser zu machen. Genau, absolut, der würde ich voll und ganz zustimmen.
In der Philosophie gibt es ja auch die Vielbeschäftigung mit Werten, welche Rolle spielen Werte denn überhaupt
noch in der heutigen dynamischen Welt? So oft ist es dann so mit jetzt vielleicht populistischen,
rechtskonservativen Strömungen, die dann sagen, ja, wir haben irgendwie keine Werte mehr,
sie brauchen dann irgendwie auf alte Werte, auf Tradition, gleichzeitig ja in der globalisierten Welt,
scheint es dann entweder weniger Werte oder dann überlappende Werte zu geben. Wie beobachtest du das,
vor allem jetzt auch vor dem Hintergrund der Digitalisierung und das ja näher aneinander rückens auf
der einen Seite, auf der anderen Seite trotzdem jetzt irgendwie auch geopolitischer Schwierigkeiten derzeit.
Also werte, glaube ich, spielen nach wie vor eine sehr, sehr große Rolle, wie du gesagt hast,
es ist auch momentan einfach sehr, sehr schwierig durch diese Komplexität unserer Welt,
irgendwie durchzufrimeln, weil es zunehmend schwieriger wird, abzugremsen, was die eigenen Werte sind
und was Werte sind, die einen quasi von außen aufgeschrieben oder aufgebunden werden, aufgrund
irgendeines Verhaltens im Internet. Ich glaube, das ist, das ist super schwierig, aber genau da ist
einfach auch diese Selbstreflexion extrem wichtig, weil Werte das sind, was unsere Entscheidungen und unsere
Handlungen maßgeblich definieren und da sich seine eigenen Werte bewusst zu sein, abzugrenzen,
welche Werte der Gesellschaft übertrumpfen meine persönlichen Werte, also das quasi für sich selbst
durch zu diskutieren, abgrenzen zu können und priorisieren zu können, es extrem wichtig.
Und da helfen dann auch wieder viele so finden, diese, einfach diese Werte-Abwägung auch vorzunehmen
und auch tatsächlich transparent zu kommunizieren, weil das ist ja häufig im politischen Diskurs,
wird das ja häufig dann irgendwie unter den Tisch gekehrt, aber wenn man das ja wirklich ehrlich
sagt, es ist manchmal so, dass man ein Wert gegenüber einem anderen abwägen muss und wenn man das
glaube ich transparent kommuniziert, ist es dann für alle beteiligten einfacher als wenn nicht. Genau,
und das ist ja auch so, dass quasi dieses, dieses Ausdiskutieren von Werten ja auch super wertvoll ist,
wertvoll, weil wir einfach so die Möglichkeit haben eben andere Blickwinke einzunehmen, die Werte
anderer zu verstehen und uns das eben eventuell, wenn es unserem Werte-System entspricht, auch anzueignen
und ja. Jetzt haben wir gesagt, dass es ganz viele verschiedene Werte gibt in der Gesellschaft,
trotzdem scheint es ja so zu sein, dass wir Dinge wie Wohlstand in erster Linie über den
ökonomischen Werte messen. Wie siehst du auf dieses Problem, denn nicht mal auf diese Herausforderung,
dass wir eben nicht nur vielleicht den GDP als Indikator für Wohlstand sehen, sondern vielleicht auch
noch andere plurale Werte. Ja, also meiner Meinung, natürlich deutlich mehr Werte in den Hohlstand,
sage ich jetzt mal, oder in dieses, ich nenne es jetzt einfach mal Glück, aber ja, auch da,
das werden für unterschiedliche Leute unterschiedliche Werte sein, dass ich denke und also gar nicht
mal jetzt quasi jetzt für hier uns in Deutschland und in Europa, sondern es wird eben Erhandlungen
und Entscheidungen werden aufgrund anderer Werte in anderen Teilen unserer Welt anders geleitet.
Und das ist entscheidend auch gerade, wenn wir daran denken, wie wir Technologien gestalten und
einsetzen und auch nutzen. Aber insofern ist auch quasi dieses Thema Wohlstand in unterschiedlichen
Teilen der Welt quasi mit unterschiedlichen Werten behaftet, die da auch andere Prioritäten,
wo auch andere Prioritäten reinfüttern, würde ich denken. Ja, ich glaube, wir brauchen einfach
grundsätzlich so ein bisschen mehr Offenheit, was diese Diskussion angeht. Ich hatte jetzt den letzten Jan
Bieser im Podcast und der hat sich mit viel mit der Zeitnutzung auseinandergesetzt. Und der
hat dann auch gesagt, dass Zeitwohlstand auch ein Aspekt ist, der bisher noch zu wenig oder zu
selten in diesen ganzen Wohlstandsdebatten genannt wird, fand ich auch spannend.
Ja, sehr spannend. Ich habe auch neulich darüber nachgedacht, dass sie, dass alleine die Tatsache,
dass wir uns jetzt, ich sage mal, in westlicheren Ländern mit Themen der Ethik auseinandersetzen,
dürfen und können auch das ist eine Form von Wohlstand. In anderen Ländern ist es überhaupt nicht
möglich, irgendwie abzuwerden, okay, können und sollten wir dieses Tool irgendwie einsetzen,
weil es einfach keine andere Alternative gibt. Und sich damit ethischen Fragestellungen auseinandersetzen
zu können, ist auch schon eine Form von Privileg und Wohlstand in dem Sinne.
Ja, absolut. Du hast vorhin kurz über das Thema Gestaltung von Technologie gesprochen. Wie beobachtest du
den Wettlauf so zwischen Technologien, Wicklung und Technologie, Regulierung? Und wie kann Philosophie
jetzt bei der Regulierung unterstützen oder die halt auch mitgestalten? Also wir haben sehr vorhin
auch schon gesagt, die viel zu viel manchmal schwer zu greifen und die Ethik ist auch manchmal sehr
schwer zu greifen und es daher nicht immer direkt operationalisierbar. Deswegen weiß ich nicht
inwiefern Ethik als unmittelbarer Teil von Regulierung gesehen werden kann. Ich würde Ethik eher als
herangehensweise oder als quasi Pathway oder Gateway für Regulierung. Also diesen Wettlauf zwischen
Technologien, Wicklung und Technologie, Regulierung, das ist ein extrem großes Problem, wo
ich nicht weiß, wie wir das beantworten kann. Also da treffen einfach zwei Systeme aufeinander,
die meiner Meinung nach
nur sehr, sehr schwer zu vereinen sind. Also das sind zwei unterschiedliche Geschwindigkeiten,
die schwer zu vereinen sind. Wollen jetzt ein bisschen näher auf KI eingehen? Vielleicht ganz kurz,
was ist für dich KI? Wie verstehst du KI? Oder was verstehst du unter KI? Ich verstehe unter KI,
quasi einen Überbegriff unterschiedlicher Anwendungen und unter diese Anwendungen gehören oder zu
diesen Anwendungen zählen beispielsweise, waschenelles Lernen, Language Processing,
Machine Vision und so weiter und so fort. Also das ist quasi so KI ist da ein Überbegriff. Und
Ethik, was kann Ethik da machen oder welche Frage stellen sich da überhaupt? Ethik ist dann quasi
genau wieder dieses Übersetzen von diesen normativen Aspekten. Also sollten wir so handeln,
sollten wir das an das machen? Wie sollten wir das an das machen? Auf die KI angewandt. Also da
ergeben sich dann Fragen, wer sollte KI-Designen? Wie sollten wir KI-Designen? Wie sollten wir KI einsetzen?
Wer sollte über den Einsatz und die Regulierung beispielsweise entscheiden? Wer sollte Zugang zu KI haben?
Und so weiter und so fort. Also quasi einfach diese normativen Fragen auf KI umgemünzt. Das ist
für mich KI Ethik. Du hast das eine Sache schon gesagt. Wer sollte KI-Design und wie? Wie siehst du,
dass das so scheint, dass nur noch oder dass immer weniger und immer größere Unternehmen KI-Technologien
vorantreiben und meist auch besitzen? Ist das ein, kann das ein Problem werden?
Meine Meinung nach absolut, also diese Freiheit, Sachen auszuprobieren, auch quasi in Ambetracht von KI-Entwicklung, ist inzwischen sehr quasi, es eben auch inzwischen
priviläkt für einige sehr wenige große Tech-Unternehmen und das hindert so ein bisschen die Entwicklung und hindert aber auch so ein
bisschen eben diese Vielveralt, die wir brauchen, um angemessene Diskussionen führen zu können. Diese Monopolisierung von bestimmten KI-Technologien und da kommen
jetzt auch wieder zu diesem Wettlauf mit der quasi Wettlauf-Tech-Entwicklung und Regulierung. Das passt einfach alles leider nicht so ganz zusammen. Also diese Monopolisierung von großen
Tech-Unternehmen erlaubt ihnen einfach auch eine extreme Geschwindigkeit und diese Geschwindigkeit macht dann quasi auf der anderen Seite
bedeutet sie dann, dass wir mit den Regulierungen oder den Überlegungen über diese Technologien eigentlich kaum hinterherkommen.
Es hat zum Beispiel wirklich lange gedauert, bis die ersten philosophischen Texte rausgekommen zu, sind zu Chat-GPT beispielsweise und natürlich.
Also wir müssen ja auch erstmal quasi diese Technologien ausprobieren und dann analysieren, was das genau gesellschaftlich bedeutet,
was das Umwelt mäßig bedeutet, etc. und dann erst können wir aus ethischer Perspektive quasi darauf antworten und da ist einfach immer dieses versetzte,
zeitlich versetzte und das ist extrem herausfordernd und gerade eben diese Monopolisierung von Technologien und dieser Technologie-Entwicklung ist was, was meiner Meinung nach quasi so der Grundstein ist dafür.
Wenn jetzt dieser Zeitversatz ein großes Problem ist, wer es dann nicht wünschenswert, wenn wir die ethische Expertise wieder zurück oder vermehrt zurück in die Unternehmen bringen und wie siehst du das?
Ich glaube Google war es die vor zwei Jahren oder ein Jahr leitende KI Ethik-Forscher*innen entlassen haben, glaube ich.
Ja, das ist gleich auch so, also prinzipiell würde ich sehr gerne sehen, dass Ethiker*innen in die große Tech-Unternehmen einziehen und ich würde es auch als sehr sehr wertvoll betrachten.
Ich glaube eine große Herausforderung hier ist zum einen ganz konzeptueller Natur, dass in Tech-Unternehmen einfach unterschiedliche Sprachen gesprochen werden.
Also ich glaube es ist sehr, sehr schwierig quasi als Ethiker*innen in einen Tech-Unternehmen zu gehen und dann über Verantwortung zu sprechen, weil eine Techniker*innen Verantwortung an das sehen wird als eine Jurist*innen oder da haben wir dann quasi auch wieder dieses dynamische Zusammenspiel mit der Ethik und ich glaube das ist eine Herausforderung, die eben zu Reibungen führen kann.
Und auf der anderen Seite sehe ich auch ein bisschen die Gefahr, dass wir Ethik zu so einem Teil einer, oder das Ethik zu einfach nur Teil einer Checklist wird, das Ethik so etwas, das Ethik so ein bisschen für wirtschaftlich wird.
Wir haben unser Ethik vorstand und die haben das geprüft und die haben gesagt, das ist okay und deswegen ist es wertvoll und wertstiftend und so weiter und das eigentlich diesen ethischen Überlegungen nicht dieser Platz eingeräumt wird, den es eigentlich bräuchte.
Also so ein bisschen wie es manchmal auch mit dem Thema Nachhaltigkeit leider vorangehen. - Genau, so ein bisschen Ethics-Washing-Messig.
Ja ich glaube das sind auf jeden Fall noch große Dinge zu tun. Wir wollen ein bisschen näher auf deine Diss zu sprechen zu kommen.
Wie kann uns KI dabei helfen, Entscheidungen zu treffen?
KI kann uns eigentlich in vielerlei Hinsicht helfen, Entscheidungen zu treffen, also ich glaube KI wird in eigentlich fast den meisten Eingesetzt um Menschen in ihren Entscheidungen und Handlungen zu unterstützen.
Da kann sie meistens eigentlich als Hintergrund-Entität, also wirklich als Unterstützung, wobei der Mensch immer noch die entscheidenden Handelnden ist.
Aber und da genau kommt eben das Thema meiner Dissertation rein. Wir haben hier große Herausforderungen hinsichtlich dessen, wie Menschen KI sehen in der direkten Interaktion.
Also wie Menschen mit den Outputs von KI umgehen? - Okay. Und es ist dieses Jungen in the Loop, also das spricht man ja meistens immer davon, wenn es darum geht, was die KI machen kann, was nicht.
Und dann sagen dann häufig dann Leute aus dem Techwarech. Nene ist alles kein Stress, der Mensch ist ja immer noch irgendwie in der Loop. Ist das das, was du dann irgendwie genauer untersucht hast?
Genau, also dieses ganze Thema, so human in der Loop, das würde ich quasi eben betiteln, als der Mensch ist die entscheidenden Handelnden stand.
Der Mensch ist quasi die human in Control so ein bisschen. Der Mensch hat die Kontrolle über die Handlungen vor allem. Das ist was, was ich nicht mehr oder wo ich eine große Gefahr, sage ich jetzt mal.
Sehr in der Interaktion mit KI, weil Menschen eine Tendenz zeigen, die Wert oder die Outputs von KI mit einem größeren Wert zu beschreiben als ihre eigene Entscheidungsfähigkeit.
Das heißt, wenn der KI sagt, Bäume sind grün und ich mir eigentlich gedacht habe, U-Bäume sind aber auch manchmal gelb, dann haben Menschen sehr auf eine Tendenz oder dann würde ich sehr auf diese Tendenz zeigen.
Ja, aber die KI hat gesagt, Bäume sind grün, also ja, Bäume sind grün. Also einfach quasi so ein bisschen dieses übernehmen von Outputs von KI und dann ist natürlich die große Frage, wenn Menschen diese Tendenz haben, den Wert, die Outputs von KI höher zu werden als ihre eigene Entscheidungsfähigkeit, können wir dann überhaupt noch davon ausgehen, dass der Mensch in der Loop ist, dass eben der Mensch diese entscheidenden Handelnden instanz ist.
Und wenn nicht, was bedeutet das dann für zwischen menschliche Kommunikation und Interaktionen?
Ich kann es noch mal ein paar Beispiele für KI, so als Decision Support nennen.
Sehr gerne, also gerade in den USA wird KI beispielsweise in Gerichtseien eingesetzt, um Richter*innen zu helfen oder eben sie zu unterstützen, Entscheidungen zu treffen.
Ob eine oder wie wahrscheinlich es ist, dass eine Person noch mal eine Straftat begeht.
Und auch hier ist dann eben rausgekommen, dass diese, oder was heißt auch hier, hier ist rausgekommen, dass diese KI teilweise extrem beist ist, gerade eben auch gegenüber Menschen dunklerer Hautfarbe.
Und auch hier gibt es Beispiele, wo die Richter*innen trotz der Beweislage, die sie hatten, den Output der KI angenommen haben, also übernommen haben.
Und damit eigentlich so übermässig schlimme, sage ich jetzt mal.
Entscheidungen getroffen haben mit übermässig schlimmen Konsequenzen für diejenigen,
über die diese Entscheidung getroffen wurde.
Ein anderes Beispiel findet sich auch in der Sozialarbeit, wo KI eingesetzt wird,
um Sozialarbeit erinnert zu unterstützen in der Fragestellung, ob ein Kind
aus einer Familie genommen werden soll oder nicht, weil es einer möglichen Gefahr ausgesetzt wird.
Und auch hier, das sind sowohl im Gerichtseil auch in der Sozialarbeit.
Das sind Entscheidungssituationen, die sind extrem moralisch, komplex.
Und haben grundlegende Implikationen für die Leben derer, über die da entschieden wird.
Und da ist eigentlich extrem wichtig, dass wir wissen, dass der Mensch, die entscheidenden Handelnde Entstanz ist,
alleine für die Art und Weise, die Verantwortung zu schreiben.
Und wie wir diese Personen noch mal fragen können, warum hast du so gehandelt.
Und ja, es ist einfach sehr, sehr herausfordernd an der Stelle.
Es waren ja jetzt zwei schon sehr in Angst für ein extremes Beispiel.
Es ist so eine Art Continuum, also keine Ahnung, wenn wir Spotify im Mixer-Woche vorschlägt.
Es ist halt das eine, aber wenn irgendwie ein Leben nachhaltig beeinflusst oder beeinträchtigt wird,
ist es ja noch mal eine komplett andere Sache.
Ist es so ein Strahl, kann man sich das wie ein Strahl vorstellen, die Beispiele und die Anwendungsfälle?
Zum Gewissengrad, ja, ich glaube auch bei dem Spotify-Beispiele.
Man kann wahrscheinlich bei all diesen Beispielen immer eine negative Seite für irgendjemanden rausziehen.
Auch bei Spotify im Mixer-Woche haben wir dann auch quasi Bands, die vorgeschlagen werden,
wobei andere Bands aufgrund der Filterbubbles quasi nicht vorgeschlagen werden.
So wird dann quasi auch mein Musikgeschmerk so ein bisschen polarisiert und dann kommt ja auch wieder
eine Benachteiligung auf der anderen Seite für irgendjemandem raus.
Aber trotzdem, ja, ich glaube, ich würde dir zustimmen, dass man sagen kann, dass es so ein Continuum
ist an quasi moralisch komplexen Entscheidungen für die Situationen, wo das Risiko für bestimmte
Menschen quasi von einer Seite zu anderen Seite höher wird.
Schauen wir jetzt nochmal die moralisch komplexeren Dinge an.
Grundsätzlich mal, wer ist für was verantwortlich und warum in solchen Beispielen und wie kommt dann
ist die KI rein und verändert das Ganze noch mal?
Also wer ist das verantwortlich, ist eine sehr schwierige Frage?
Ich habe in meiner Diss, wie bin ich tatsächlich auf die Konklusion gekommen, dass der Mensch
oder dass der Mensch eigentlich nicht mehr als die handelnden Instanz gesehen werden kann,
wenn er von KI beeinflusst wird und damit eigentlich auch nicht mehr verantwortlich ist für die Handlungen,
die er oder sie eben vollbringt.
Das ist auf sehr viel Widerstand getroffen im Philosophie-Institut, weil diese Verantwortung oder
diese zu schreiben von Verantwortung was ist, was eigentlich in fundamentaler Teil unserer menschlichen
Sozialität ist. Also was machen wir, wenn wir uns nicht mehr verantwortlich halten, sondern eigentlich
irgendwas anderes verantwortlich ist. Deswegen diese Frage, wer ist eigentlich an welcher Stelle für
was verantwortlich ist, eine Frage, die ich jetzt nicht direkt verantworten kann.
Ich würde sagen, dass es inzwischen, dass wir unseren Verantwortungsbegriff so ein bisschen
erweitern müssen oder so ein bisschen anpassen müssen, da in hinsichtlich dessen, dass wir quasi
eigentlich nicht mehr sagen können. KI ist verantwortlich, der Mensch ist verantwortlich oder die
Programmierer*innen sind verantwortlich, sondern es ist einfach ein großes komplexes System,
wo wir nicht immer Linien ziehen können. Okay, bis hier und hier war die KI verantwortlich,
bis hier und hier ist der Mensch verantwortlich und ab hier ist das unternehmen hinter der KI
verantwortlich, ganz zu schweigen von dem Aspekt, dass wir die KI gar nicht verantwortlich halten können.
Aber genau, genau das ist gleich so ein grundlegender Punkt, unser Verantwortungsbegriff ist sehr
steif und sehr stark und ich glaube, wir müssen von dieser von dieser Stahlheit ein bisschen weg
kommen und bis das Ganze so ein bisschen aufbrechen. Vielleicht KI ein Mensch als hybridesysteme sehen
und quasi auch einen hybrideren verantwortungsbegriff irgendwie mal andiskutieren, wenn
äxtens um uns so zu lösen von dieser Stahlheit das verantwortungsbegriff. Ja, kann ich dir nur
zustimmen, also mich auch mit dem Verantwortungsbegriff auseinandergesetzt im anderen Kontext jetzt,
aber auch da habe ich gemerkt, dass die Herkunft des Begriffs einfach irgendwie im
Antigen griechendamt liegt und nicht mehr so richtig passt auf die heutigen Probleme, die wir
und Herausforderungen, die wir begegnet.
Ich glaube, man kann es noch nehmen, man kann diesen Antigen verantwortungsbegriff, den ich
wahnsinnig spannend finde und der uns auch heute noch sehr unterstützen kann in komplexeren
Fragestellungen. Ich finde, man kann sich schon daran anlehnen, aber trotzdem kann er die
komplexen Aspekte unsere Umwelt nicht immer greifen und deswegen glaube ich müssen wir ein bisschen
quasi erweichern oder eben ein bisschen aufbrechen. Die Basis an sich ist für mich fein, ich glaube,
es braucht nur einfach weiterführende Überlegungen.
Ich fand es auch interessant, was du gesagt hast, dass ja irgendwie Verantwortung oder die
die Übernahme von Verantwortung scheint ja auch irgendwie so eine notwendige Bedingung des
Menschseins zu sein, dass das dann irgendwie auf Schwierigkeiten oder auf Antipatie geschlossen ist,
fand ich einen interessanten Aspekt. Aber jetzt mal weiter gefragt, wenn der Mensch nicht mehr
verantwortlich ist, was sagt uns das grundsätzlich zum Umgang mit KI? Sollen wir dann nur KI dann
nutzen, bis der Mensch noch verantwortlich gemacht werden kann und darüber hinaus nicht mehr oder wie
stellst du dir das vor? Ich glaube, wir müssen bestimmte Mechanismen einfüllen, die dafür sorgen,
dass wir den Mensch immer noch quasi als in der Loop betrachten können. Beziehungsweise, dass wir KI
und Mensch in der Loop haben, aber der Mensch quasi immer noch die entscheidende und handelnde
Instanz ist zum gewissen Grad. Und ich glaube, ein fundamentaler Aspekt, der da reinspielt ist,
Aufklärung. Dass wir einfach das die Menschen, die mit KI interagieren, die KI nutzen, ob das jetzt im
beruflichen Kontext ist oder im Freizeitkontext ist, dass die wissen, mit was sie zu tun haben,
welche Chancen KI hat, welche Risiken KI hat, dass KI eventuell beiges ist, dass KI in dem
extremen Fußabdruck hat, weil sie einen Umweltaspekt und dass wir KI jetzt vielleicht nicht unbedingt nutzen
müssten, um das Wetter in unserer Heimatstadt irgendwie herauszufinden, sondern dafür reicht
wahrscheinlich auch einfach die Wetterapp, die wir auf unseren Handys haben. Und genau das ist so ein,
genau das ist gleich der grundlegende Punkt einfach den Menschen so ein bisschen diese Reflexion im
Umgang mit KI nahezu. Und gleichzeitig aber auch, würde ich sagen, dass man den Entwicklern auch
Stück weit zumuten kann, dass sie transparenter die Funktionalität der KI offen legen, oder?
Ja, absolut, genau, weil auch dann quasi auch das führt ja dazu, dass die Menschen nur
informierte an diese Reflexionen in der Interaction, quasi rangegen können. Also es ist schon sowohl auf
auf individuelle Ebene als auch auf einer Unternehmens oder auf einer Makro-Ebene. Das war nur
zusammen einerseits diesen informierten Umgangsschaffen, aber gleichzeitig brauchen wir dann eben auch die
Voraussetzung technologischer Art und Weise, also jetzt die Transferenz, um das auch wirklich machen zu können.
Ja, absolut. Und dann können wir eben auch dieses Verantwortungswark um so gering wie möglich halten.
Ja, würde ich sagen, oder würde ich hoffen, weil wenn Menschen, als sie reflektiert, in Entscheidungen,
in den Handlungen reingehen können und doch da kommen wir wieder auf dieses Werteabgrenzen, auch das
steht eine sehr große Rolle hier, dann glaube ich, können wir sagen, okay, also der Mensch kann als
humanen Kontroll angesehen werden und damit haben wir quasi diese Verantwortungslücke so ein
bisschen adressiert, ob sie gefüllt ist und gestopft ist, ist eine andere Frage, aber wir haben sie
adressiert und ich hoffe, dass das eigentlich der wichtigste Punkt ist. Ja, also auf jeden Fall ein
super spannendes Thema, was viel zu wenig diskutiert wird, glaube ich und was uns aber trotzdem für
einen zukünftigen Umgang fehlen würde, wenn wir das nicht hätten, aber wir biegen schon jetzt
in die Ziel gerade so langsam ein, wir haben uns vom Paar-Fragen zum Thema Zukunft und so ein
bisschen Ausblick und da wäre es mal die grundsätzliche Frage, welche Rolle KI in Zukunft spielen
wird, spielen kann, spielen sollte.
Also ich glaube, wie du schon in den Einleiten und Worten gesagt hast, kei ist "Heal to stay".
Sie ist da, und sie wird bleiben.
Ich glaube, kei wird immer weiter zu einem fundamentalen Teil unserer Gesellschaft werden.
Welche Rolle sie hierbeispielt, ich glaube, das kann unterschiedliche Szenarien irgendwie aufbreiten.
Ich hoffe, dass kei weiterhin als Unterstützendenstanz da sein wird.
Ich hoffe, dass das quasi nicht, wie du in den geschrieben hattest, zu diesem unkontrollierten Tool wird.
Aber ich weiß nicht, also ich denke, kei ist wie du hast das am Anfang sehr schön zusammen.
Fast kei ist "Heal to stay" und wie das Ganze aussehen wird, ist das, was ich in den nächsten.
Da, was sich derzeit einfach langsam formt und was ich auch in den nächsten Monaten und Jahren wahrscheinlich formen wird.
Ich glaube, dass die Herausforderungen, die wir quasi jetzt mit kei haben, dass wir die jetzt adressieren müssen.
Deswegen bin ich ein sehr großer Fan von dem Adressieren von Aspekten, die wir oder Herausforderungen, die wir jetzt haben.
Wie Bayes, Umwelt, Aspekte und so weiter.
Exklinabilität, Transparenz.
Ich glaube, diese Punkte sind vielleicht da Zeit ein bisschen wichtiger als diese Fragestellungen rundum.
Wohin wird kei irgendwann gehen und wird es zu diesem unkontrollierbaren Monster und wird es uns alle ersetzen.
Wenn wir irgendwelche Terminator-I-Robots-Szenarien durchleben, das sind auch wichtige Fragestellungen.
Ich glaube, kei wird momentan schon so essenzielle Herausforderungen auf, dass ich persönlich das Gefühl habe, dass wir uns das schon wichtig ist, dass wir uns erst mal denen annehmen.
Ja, es ist auf jeden Fall, glaube ich, wichtig. Wir, trotzdem, also wir sind jetzt gerade bei uns intern, fast mit dem mit der Frage nach dieser unkontrollierbaren Kei, einfach aus Sicht der Zukunftsforschung.
Dass man da dann einfach mal jetzt sammelt, was es eigentlich für strenger gerade gibt, die sich damit auseinandersetzen.
Also dieser ganze Themenklaster, künstliche allgemeine Intelligenz, super Intelligenz, das Allein mit Problem, also das sozusagen, die künstliche Allgemeine Intelligenz mit unseren Wertvorstellungen irgendwie erleint ist.
Und da wollen wir mal gucken, ob wir da einfach mal ein paar Szenarien skizzieren können.
Einfach als Zukunftsforscher, jetzt nicht unbedingt als Kei-Expert*innen, sondern eben dieser Blick 2020, 40, 50 Jahre in die Zukunft.
Absolut.
Ist glaube ich.
Ja.
Erschuldigung.
Nee, das ist jetzt sozusagen, das ist ja so ein bisschen auch dann eine Rolle, wie von eine Rolle von uns oder von der Zukunftsforschung da ist, mal hinzugucken.
Jetzt diese, ich nenne es das mal, direkte oder diese direkten Auswirkungen, das können dann oder sollten dann eben andere Leute machen, die näher dran sind.
Aber ich würde trotzdem sagen, dass jetzt so ein Szenario sich anzugucken, vor allem jetzt für die Zukunftsforschung und Innovationsforschung auch sehr wertvoll sein kann.
Absolut, auf jeden Fall.
Also die Zukunftsforschung, also ich muss nur gerade daran denken, dass OpenAI ja vor ein paar Monaten annannst hat, dass die eben dieses LGI, allgemeiner künstliche Intelligenz-Programm jetzt aufziehen.
Und deswegen, also ich finde auch so ein bisschen diese Frage, der Zukunft, so wann ist die Zukunft schon wann, hat das Präsens auf, also wo ist da auch wieder diese Linie, wenn wir über allgemeiner künstliche Intelligenz sprechen und quasi das als Zukunftsforschung betiteln.
Aber auf der anderen Seite sich Tech-Unternehmen, die bekannt sind dafür teilweise sehr schnell voranzuschreiten, daran schon arbeiten.
Also da ist so ein bisschen die, für mich ist das Ideen, so dieses Thema allgemeiner künstliche Intelligenz, so ein bisschen zum Teil des Jets geworden.
Und damit sind diese Fragestellungen verschwimmen in gerade so ein bisschen.
Was würdest du sagen, wie trägst du persönlich oder wie möchtest du persönlich und beruflich zu einer wünschenswerten Zukunft beitragen?
Ich glaube, mein Beitrag würde ich darin sehen, dass ich sehr für diese Aufklärung und Education würde ich sagen, so Kämpfe, also diese Chancen und die Risiken quasi so ein bisschen nach außen zu tragen und zu kommunizieren,
beigbarer zu machen, nahbarer zu machen auch so was, was kann KI, was kann KI nicht, was kommt eigentlich nur aus diesem Narrativ, dass wir oftmals um KI herumfinden, was projezieren wir in KI auch da so ein bisschen wieder diesen Abgrenzen, so ein bisschen Reality-Check.
Ich glaube, das sehe ich so ein bisschen als meine Mission als KI-E-Techerin, das Ganze so nach außen zu tragen und da eben diese Fragestellungen so ein bisschen wachsen zu lassen, dass die Leute eben anfangen sich diesen Fragestellungen anzunehmen und unterschiedliche Perspektiven eben auch anhören.
Sie müssen diese Perspektiven nicht annehmen, aber geben Sie an zu hören.
Sehr schön. In der Zugungsforschung zeichnen wir ja auch verschiedene Zugungsbilder. Es gibt ja nicht das eine Zugungsbild, sondern verschiedene wünschenswerte oder nicht so wünschenswerte Zugungsbilder.
Was darf auf deinem persönlichen Fünchenswertenzugungsbild nicht fehlen, also das kann ein Produkt sein, das kann ein bestimmter Wert sein, das kann ja alles möglich sein?
Jetzt ist eine sehr große und komplexe Frage. Ich würde sagen, dass ein essenzieller Punkt, der nicht fehlen darf, sich auf unsere Umwelt bezieht, auf den Wert unserer Umwelt, dem Aspekt, dass wir ohne unsere Umwelt nicht leben können.
Viele, viele, viele Fragen, die sich rund um KI Ethik stellen, einfach auch letztendlich vernichtet werden, wenn wir davon ausgehen, dass die Klimakastrophe weiter voranschreitet.
Das gleiche ist ein essenzieller Punkt, also dieser Wert unserer Erde ein bisschen. Sehr schön. Laura, vielen Dank für das super interessante Gespräch. Wir haben über dein Werdegang gesprochen, über dein Studium, dein Wenedigaufenthalt und letztlich deine Rolle als AI Ethics Specialist.
Wir haben über die Rolle von Philosophie in einer globalisierten und digitalen Welt gesprochen und wir sind dann auf das Thema KI und Verantwortung eingegangen und jetzt zuletzt haben wir ein bisschen in die Zukunft geschaut.
Vielen Dank für deinen Zeit. Laura, hast du noch ein paar letzte Worte für unsere Hörerinnen und Hörer?
In aller Erziehe möchte ich mich erstmal bedanken für die Einleitung. Es hat mich total gefreut. Es hat sehr viel Spaß gemacht.
Ich glaube, als Abschlusswort würde ich im Prinzip nur das wiederholen, was ich immer wieder schon gesagt habe, dass es sehr, sehr wertvoll ist und sehr, sehr wichtig ist, im Umgang mit KI reflektiert dran zu gehen.
Was ich selber immer wieder auch quasi so ein bisschen zurückzunehmen und zu sagen, okay, was ist jetzt quasi mein Wert, was sind meine Prinzipien?
Was würde ich denken in hinsichtlich deren der Fragestellung, was sagt die KI und sich so ein bisschen abzugrenzen, sich so ein bisschen quasi sich selbst ein bisschen mehr wert zuzuschreiben gegenüber der KI?
Vielen Dank. Laura klopfen.
Das ist gut.
Podcast Summary
Key Points:
Der Podcast „zukünfte Tugor“ untersucht mögliche und wünschenswerte zukünftige Entwicklungen aus verschiedenen Perspektiven.
Er bringt Experten aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft zusammen, um Innovationen und deren gesellschaftliche Auswirkungen zu diskutieren.
Künstliche Intelligenz (KI) hat das Potenzial, umfassende und nachhaltige Veränderungen in Lebens- und Arbeitswelt zu bewirken, aber auch erhebliche Risiken.
Philosophie und Ethik spielen eine zentrale Rolle bei der Frage nach Verantwortung, Werten und menschlichem Mitwirken in der KI-Entwicklung.
Die Aufklärung und Transparenz bei der Nutzung von KI sind entscheidend, um menschliche Entscheidungsbefugnis zu schützen und Verantwortungslücken zu vermeiden.
Es gibt dringende Bedarf an einem demokratischen und ethisch fundierten Rahmen für die Regulierung von KI, insbesondere in öffentlichen Bereichen.
Werte wie Umwelt, Nachhaltigkeit und Menschlichkeit sind unerlässlich für eine wünschenswerte Zukunft, insbesondere in einer globalisierten und digitalisierten Welt.
Der Mensch muss im Mittelpunkt der KI-Entwicklung bleiben, mit kritischer Auseinandersetzung mit Risiken wie Verantwortungslücken oder Verlust der Kontrolle.
Summary:
Der Podcast „zukünfte Tugor“ beleuchtet zukünftige Entwicklungen aus verschiedenen Perspektiven, um eine wünschenswerte Zukunft zu gestalten. Dazu werden Experten aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft eingeladen, um Innovationen und ihre gesellschaftlichen Auswirkungen zu diskutieren. Ein zentrales Thema ist die Rolle der künstlichen Intelligenz (KI), die zwar viele Anwendungsfälle bietet, aber auch große Herausforderungen wie Verantwortungslücken und ethische Risiken mit sich bringt.
Die Diskussion zeigt deutlich, dass KI nicht isoliert verwendet werden sollte, sondern immer im menschlichen Kontext steht. Philosophie und Ethik sind entscheidend, um normative Fragen zu klären, wie z. B.
Verantwortung, Werte und die menschliche Kontrolle über Entscheidungen. Der Podcast betont, dass Transparenz, Aufklärung und ein demokratischer Regelungsansatz notwendig sind, um KI sicher und gerechtfertigt zu nutzen. Besonders wichtig sind Werte wie Umwelt und Nachhaltigkeit, die als Grundlage für eine nachhaltige Zukunft dienen.
Die Zukunft wird nicht durch technische Fortschritte allein geprägt, sondern durch bewusste, reflektierte und ethisch fundierte Entscheidungen, bei denen der Mensch im Zentrum bleibt.
FAQs
Das Ziel ist es, mögliche und wünschenswerte Zukünfte zu erkunden und die Pfade dorthin zu beschreiben, indem verschiedene Perspektiven aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft vorgestellt werden.
Philosophie hilft, grundlegende Fragen zur Normativität und zum Verantwortungsbegriff zu stellen und fördert reflektive Diskussionen, die es ermöglichen, komplexe ethische Fragen in der Digitalisierung zu durchdenken.
Ethik stellt sicher, dass KI-Entwicklungen menschliche Werte, Rechte und Verantwortlichkeiten berücksichtigen und nicht zu automatisierten Entscheidungen führen, die schädliche Auswirkungen haben.
Der Mensch muss im Kontrollbereich bleiben, um sicherzustellen, dass Entscheidungen menschliche Werte und ethische Standards berücksichtigen und nicht durch maschinelle Prozesse allein getroffen werden.
Die schnelle Entwicklung von KI-Technologien und deren Monopolisierung durch große Tech-Unternehmen behindern die rechtliche und ethische Regulierung und führen zu einem zeitlichen Versatz zwischen Entwicklung und Überprüfung.
Menschen sollten über die Chancen und Risiken von KI aufgeklärt werden, um bewusst zu handeln und die Entscheidungsmacht zu behalten, insbesondere in moralisch komplexen Situationen.
Chat with AI
Loading...
Pro features
Go deeper with this episode
Unlock creator-grade tools that turn any transcript into show notes and subtitle files.