Wenn KI Entscheidungen trifft – Hilfreich bis tödlich

A-R-D, das wissen. Wer schon mal eine KI ausprobiert hat wie ChatGPT, der weiß, die können viel. Sie schreiben Essay, lustige Kommentare oder übersetzen auch ganze Bücher. Doch geht das, was uns so beeindruckt und das, was die Maschine wirklich kann, weit auseinander. Vor allem, wenn es um knifflige Entscheidung geht, etwa welche Bewährbarer nicht einstelle, ob er Mensch kreditwürdig ist oder welche Note für einen Schulaufsatz fair wäre. Bei welchen Entscheidungen gibt uns künstliche Intelligenz gute Empfehlung? Und wie können wir Maschinen beibringen, wie man gut entscheidet? Ich bin Julia Nestland und ich spreche darüber mit Katharina Zweig. Sie ist Professoren im Fachbereich Informatik an der Rheinland-Pfälzischen, technischen Universität Kaiserslauternlander. Hallo. Hallo. Sie sind ja Professoren. Sie müssen eine Menge korrigieren und lesen und bewerten und sie kennen sich gut mit KI aus. Aber trotzdem korrigieren sie, die arbeiten ihrer studierenden weiteren Per-Hand und sagen, nee, beim Benoten kommt KI nicht zum Einsatz. Warum? Auf jeden Fall. Die Maschine kann uns zwar Texte erstellen, die so aussehen wie bei einer Bewertung, aber inhaltlich kann sie eine Bewertung gar nicht leisten. Wie benuten sie denn? Wie würden Sie das dann beschreiben in Vorgang? Also natürlich kommt es total auf die Klausur drauf an. Ich habe sehr theoretische Klausuren, wo es eher um matematische Fragestellungen geht, um Beweise. Und da überlegen wir uns vorher, welcher Art von Antwort wir sehen wollen und dann versuchen wir irgendwie Teilpunkte zu geben. Und schon das ist viel schwieriger, als es sich anhört, denn bei einem Beweis, der einfach nicht stimmt, muss man ja dann irgendwie beurteilen, ob das jetzt noch 3 von 10 Punkte sind oder 5 von 10 Punkte. Und das kann man eben nur mit ganz viel Erfahrung und da sind sich Experten dann auch immer nicht 100%ig einig. Also vielleicht gibt mein Kollege noch 4 Punkte, wo ich nur 3 Punkte gebe oder umgekehrt. Und das ist ein anzeichen für ein sogenanntes Werturteil. Einen Werturteil, das sind genau die Entscheidungssituationen, wo sich Experten und Experten nicht beliebig uneinig sein dürfen. Sie müssen sich nicht einig sein, aber sie dürfen sich auch nicht beliebig uneinig sein. Und da kann die Maschine noch nicht mitteilen. Warum nicht? Also was kann jetzt eine Maschine eben nicht, wenn es um Bewertung geht, sie sagen, Werturteile bilden? Warum ist das so schwierig? Wir setzen zum Beispiel Qualitätskriterien fest, das ist schon mal eine zu tiefst menschliche Eigenschaft. Die Maschine nicht. Sie kann nicht wissen, was uns an einem Text oder an einer Lösung von einer Aufgabe wirklich wichtig ist. Das zweite ist dann die Bewertung der einzelnen Qualitätskriterien. Also wie sehr wurde der Beweis jetzt durchgeführt, wurden wichtige Zwischenschritte gemacht. Auch das kann die Maschine im Moment nicht. Und ganz am Ende müssen wir dann vielleicht auch miteinander im Widerspruch stehende Qualitätskriterien noch einmal zusammenfassen. Und das sind die drei Punkte, die die Maschine durchreines Ankungen von Beispielen nicht lernen kann. Denn das ist für die Hörer und Hörerin ja noch mal ganz wichtig, die künstliche Intelligenz von der wir heute reden, das beruht meistens auf Methoden des sogenannten maschinellen Lernens. Und was man da macht, ist, dass man der Maschine ganz ganz viele Beispiele gibt. Und dann hat sie Methoden der Statistik, mit denen sie versucht, in diesen Beispielen Muster zu entdecken und manche Muster kann sie gut entdecken. Also zum Beispiel kann die Maschine entdecken, dass wenn ich sag jetzt mal Abiturklausuren eine bestimmte Wortwahl enthalten. Also zum Beispiel larteinische Wörter oder Wörter mit vielen Silben, Fachsprache, dann wird wahrscheinlich ein Lehrer oder eine Lehrerin auch eine gute Bewertung schreiben. Und das kann die Maschine tatsächlich als Muster sehen. Eine bestimmte Kategorie von Wörtern ist oft assoziiert mit einer sehr guten Note, aber es muss ja halt nicht immer so sein, stellen sich vor die Abiturienten und Abiturientinnen wüssten, dass eine Maschine korrigiert und sie würden dann einfach nur ganz viele larteinische Wörter, Fachsprache, viele komplizierte Wörter lernen, dann würde die Maschine immer noch eine sehr gute Note geben, weil sie eben nicht verstanden hat, was wir eigentlich bewerten. Ja, da wird auch deutlich, dass sowas wie analysieren, entscheiden, nachdenken, einer Maschine ganz anders funktioniert als bei uns. Eigentlich kann man das doch gar nicht so nennen, oder? Ja, das sollten wir auf gar keinen Fall so nennen, aber das fällt uns so wahnsinnig schwer. So gerade wenn so ein Sprachmodell, wenn man das auffordert, nimmt diesen Text fast den zusammen, dann kommt ja ein Text dabei heraus, der sich wie eine Zusammenfassung ließt. Das heißt, die Maschine hat in den vielen Beispielen, die sie gesehen hat, die Struktur einer Zusammenfassung gesehen, also zum Beispiel die Struktur im ersten Satz lautet ja fast immer so etwas wie in dem Text mit dem Titel la la la la, geht es um und dann fängt sie an bestimmte Schlüsselwörter aus dem Text in einen assoziierten Text zu packen und ganz am Ende schreibt sie zusammenfassend wird in diesem Text also dies und das gemacht. Und genau diese Struktur, die sehr gut gemacht wird, die verwechseln wir oft damit, dass die Maschine auch inhaltlich eine Zusammenfassung leisten kann. Jetzt mache ich immer noch relativ viel Politikberatung und wir haben von einem sehr hochstehenden Institut im öffentlichen Dienst gehört, dass die seit einem Jahr versuchen, Zusammenfassung von politischen Papieren zu bekommen und das klappt einfach nicht. Na ja, in politischen Papieren ist es fast genauso wichtig, was nicht gesagt wird, wie das, was gesagt wird. Und diese Feinheiten, diese Muster, die konnte die Maschine auch durch noch so viele Beispiele nicht lernen. Okay, wir halten fest, Benotung, Wertorteile, da wird uns eine KI nicht so behilflich sein oder nicht so gut behilflich sein, wie wir es gerne hätten. Jetzt Jetzt gibt es aber andere Vorgänger, wo sie vielleicht hilfreicher sein könnte. Wir haben schon Statistik genannt. Statistik ist ja große Datenmengen, das kann ja eine Maschine wirklich sehr gut auswerten, oder? Also wenn wir zum Beispiel uns was angucken, wie die Entscheidung, ob jemand Kreditwürdig ist oder nicht, wie wir es auch schon angesprochen haben, wird uns da tatsächlich gut geholfen? Also, die Maschine benutzt Statistik, um Muster in großen Datenmengen zu finden, wenn sie Statistik selber machen soll, würde man gar keine künstliche Intelligenz einsetzen. Statistische Methoden, um Daten zu analysieren, das haben wir als Algorithmen implementiert. Also, es heißt, wenn wir Daten analysieren wollen, mit Hilfe von Statistischen Methoden, wäre es immer viel besser, wenn wir direkt die Statistischen Methoden nehmen, die als Algorithmen vorliegen. Was die Maschine darüber hinaus ganz gut kann, ist mit Hilfe der Statistik-Methoden finden, die in Daten drin sind. Das können wir als Menschen auch ziemlich gut, aber wir können es nicht mit riesigen Datenmengen. Wir sind darauf angewiesen, dass das Muster sehr präknand ist, und wir sind auch nicht so gut, darin mehrere Eigenschaften zusammen zu ziehen. Also, wenn man zum Beispiel sagt, jemand ist Kreditwürdig, wenn er gleichzeitig eine 75 Prozent Stelle hat, zwischen 18 und 25 ist und ein Abitur von mindestens 2,3 hat, dann sind das zu viele Eigenschaften, danach könnten wir nicht so gut suchen. Auf der anderen Seite geht es eben bei dieser Muster-Suche, darum, dass wir keine Algorithmen zur Verfügung haben. Wir haben nur sogenannte Heuristiken, also Algorithmen können garantieren, dass sie das Ergebnis berechnen, eine Heuristik ist guterin etwas zu finden, aber wir wissen nicht, wie gut sie darin ist. Das heißt, wir sind relativ sicher, dass Muster, starke Muster gut gefunden werden, aber die Maschine kann unter Umständen auch Muster sehen oder identifizieren, die gar keine Relevanz haben. Und das macht das alles so ein bisschen schwierig, wenn sie jetzt wirklich die Kreditwürdigkeitsfrage in die Hände von Maschinen legten, dann müssten sie ja eigentlich immer begründen können, warum das so ist. Sie müssen sicherstellen, dass das nicht diskriminierend ist, und all das ist bei Maschinen relativ schwierig. Weil man nicht so richtig reinkucken kann, so blackboxmäßig, ja? Das ist genau das Problem. Sie haben jetzt gerade schon von Algorithmen, Heuristiken gesprochen, lassen Sie uns da einmal kurz aufräumen. Ich habe mir jetzt auch beholfen, indem ich Maschine sage. Normalerweise wird hier oft einfach künstlich Intelligenz oder Algorithmus gesagt, was genau sind die wichtigen Unterschiede? Das wird's nicht durcheinander kommen. Genau. Also ein Algorithmus, das ist das, was uns Informatikern so richtig Spaß macht. Es gibt dann ein matematisches Problem, zum Beispiel, gegeben ein Straßennetzwerk, finde den absolut kürzesten Weg von A nach B. Das ist so ein tolles, matematisches Problem für das es einen Algorithmus gibt. Das heißt, als Informatiker können wir matematisch beweisen, dass diese Abfolge von Handlungen für den Computer immer dazu führen wird, dass man den absolut kürzesten Weg von A nach B findet. Es wird aber schon etwas schwieriger, wenn wir eine perfekte Rundreise haben wollen. Also sagen wir mal, ich habe 25 Städte in Italien und will die endlich mal meiner Tochter zeigen, wenn ich dann wissen wollte, was die kürzeste Rundreise ist, dann haben wir dafür zwei Algorithmen, aber die dauern ungefähr so lang, wie das Universum alt ist. Das ist also nicht praktikabel und stattdessen verwendet man dann eine sogenannte Heuristik und die Heuristik, die ist so ein bisschen ähnlich, wie man seinen Supermarkt besucht plant. Man hat auf seiner Einkaufsliste hat man ganz viele Orte, die man absuchen muss und dann versucht man im Kopf vorher schon einmal den kürzesten Weg so abzulaufen, aber ganz sicher, ob man jetzt wirklich den allerkürzesten Weg hat oder nicht doch noch irgendwie abkürzen könnte, sind wir uns als Menschen nicht und das ist bei diesen Heuristiken eben auch der Fall. Unsere Lebenserfahrung zeigt, dass das meistens ganz gut funktioniert, aber wir haben keine Garantie. Ist das der Grund, warum uns manchmal auch unsere Navigationsgeräte so ein bisschen doof rum schicken? Ja, so was, also die Navigationsgeräte, die haben sozusagen zwei Modi. Die können ihnen entweder die kürzeste Strecke geben und da benutzen sie einen Algorithmus, oder sie versuchen, Schlau zu sein und wissen ja etwas darüber, wann es in Köln zum Beispiel den Berufsverkehr gibt und wenn ich dann nach Norddeutschland will, dann können sie versuchen zu approximieren, wie an diesem Freitag dem Brücken Tag, dann wohl in Köln die Stau-Situationes und mich dann außen rum schicken. Da das alles Abproximation sind, gibt es da eben keinen Algorithmus, der uns garantiert, dass es wirklich der kürzeste Weg ist und manchmal sind natürlich auch die Daten einfach fehlerhaft. Also ich bin mal mit dem Elektrofahrzeug, wollte ich eine Ladestation aufsuchen und das Navigationssystem wusste nicht, dass die Straße gesperrt ist, das hat mich auf die falsche Seite von dieser Straßenspärung geschickt und dann konnte ich zwar meiner Elektro-Ladestation zuwinken, aber hinkommen konnte ich nicht, also das kann auch solche Datenfehler sein. Okay, aber können wir festhalten, dass bei so Optimierungsfragen, Optimierungsproblemen wie so eine ruten Navigation, da Maschinen und schon gute Entscheidungen liefern können? Ja, das ist gerade mein Lieblingsfeld, ich bin eigentlich so theoretische Informatikern auch, wenn ich mich jetzt viel mit gesellschaftlichen Fragen beschäftige, tatsächlich sind die meisten Optimierungsprobleme so schwierig, dass wir zwar Algorithmen haben, aber die brauchen so lange, wie das Universum alt ist und das heißt an den aller meisten Stellen müssen wir heuristigen einsetzen. Und wenn es dann auch noch so kompliziert wird, wie Bilderkennung, also was ist auf einem Bild zu sehen, Spracheerkennung, was sollen diese laute bedeuten, die aus dem Mund herauskommen oder Übersetzungen, dann brauchen wir auf jeden Fall künstliche Intelligenz-Maschinelles lernen, weil wir da gar keine Algorithmen mehr zur Verfügung haben. Aufgrund von KI-Entscheidungen sind Menschen auch schon fälschlich als Straftäterinnen, die identifiziert worden oder so geschnorben davon berichten sie auch in ihrem Buch, was sie ja geschrieben haben, die KI war es, geben Sie uns da doch mal einen Beispiel, was da so richtig schief gelaufen ist. Ja, also gerade das Beispiel mit der Fußgängerin, die überfahren wurde, ist wirklich fatal. Also man hat ein Auto ausgestattet mit einer künstlichen Intelligenz, das sollte selber fahren, damit das Auto nicht zu häufig bremst, hat man das automatische Bremssystem ausgeschaltet, weil das ja sehr unangenehmes für die Insassen, wenn man dann mit dem Kopf nach vorne nickt, weil die Maschine zu schnell einhindern ist, sieht, dann hat man der Maschine gesagt, an welchen Stellen der Landkarte es wahrscheinlich ist, das Fußgänger, die Straße kreuzen, und dann kam es zu einer Straßenüberquerung von einer Frau an einer Stelle, die eigentlich das ist sogar verboten, dass Menschen darüber gehen, aber ne, ja, Menschen machen Dinge, oder? Die Person hat zudem ein Fahrrad geschoben und auch darauf war die Maschine nicht vorbereitet worden, sondern in dem System gab es nur vier Kategorien, entweder es ist ein Auto vor ein oder es ist ein Fahrradfahrer, der auf seinem Fahrrad drauf sitzt oder es ist ein Fußgänger und ich glaub, Motorrad war die vierte Kategorie und jetzt hat aber diese Frau das Fahrrad geschoben und die Maschine hat immer gedacht, oh, ein Fahrrad, oh, ein Fußgänger, oh, ein Fußgänger und hat in derzeit immer, wenn es gewechselt hat, wieder neu angefangen zu berechnen, wohin dieses Hindernis wohl gerade unterwegs ist. Dadurch hat die Maschine sehr spät bemerkt, dass ein Hindernis in ihrem Fahrtweg sein wird. Zudem hatte man noch das Alarm-Signal ausgeschaltet, die Person hinter dem Steuer, da konnte man sehen, dass sie die Augen vielleicht woanders hatte, dafür ist sie auch verurteilt worden nachher übrigens als Einzige in dem ganzen Geschehen, also sie sehen schon, der Fehler des KI-Systems wird hier auch von sehr, sehr vielen Fehlern des Gesamtprozesses begleitet und das ist eigentlich die größte Gefahr im Moment, dass wir KI-Systeme, die noch nicht ganz die Funktionalität haben, die sie haben müssten in komplexen sozialen Prozessen, wie zum Beispiel dem Autofahren einsetzen. Und genau dann kommt es zu solchen Situationen. Also es ist am Ende nicht die KI, die eigentlich falschen scheitert, sondern wir Menschen, die eigentlich falsche Entscheidung bei der Erstellung der Informationen treffen, die wir der KI geben und sie dann damit arbeiten lassen. Ja und es ist auch die Entscheidung, dass das System für einen selbst antworten darf. Es gibt einen anderen Fall bei einer kanadischen Airline, die haben einen Chatbot eingesetzt und dieser Chatbot hat einem Passagier versprochen, dass er einen Rabatt kriegt, wenn er innerhalb von 90 Tagen sein Ticket einreicht. Und die Firma hat sich geweigert, hat gesagt, das stimmt ja gar nicht, das steht ja auch in unseren AGB ist ganz anders und auf unseren Webseiten. Und einen Richter in Kanadaten entschieden, dass das natürlich sehr wohl bindend ist, wenn ein Chatbot auf der eigenen Webseite, auf einer Firmeneigenen Webseite etwas verspricht. Und er hat sich in seinem Urteil auch ein bisschen markierter rüber wie diese kanadische Airline so sagen kann, das ist ja, das habe ich ja nicht, das haben wir ja nicht gesagt. Also das heißt, wir als Menschen sind immer dafür verantwortlich, dass wir ein KI-System einsetzen. Und wenn es dafür eigentlich nicht fit genug wäre, dann müssen wir eben dafür die volle Verantwortung übernehmen. Es da ist kein Etwas, da ist kein Subjekt, das in irgendeiner Form die Verantwortung für viele Informationen oder sonstige Fehlentscheidungen übernehmen kann. Die sagen es kann schon Subjekt. Also würden Sie auch sagen, eine KI kann nicht denken, kann keine Bewusstsein entwickeln. Ja, das sind zwei Sachen. Also im Moment kann es definitiv nicht denken. Ich bin mir auch sehr sicher, dass es mit dieser Art des maschinellen Lernens nicht das Denken lernen wird. Aber ganz grundsätzlich kann ich das nicht ausschließen. Also ich persönlich glaube, dass das Denken bei uns auch durch Materie erklärt werden kann, darüber streite ich mich immer mit meinen Philosophikollegen, aber wenn man glaubt, dass reine Materie Bewusstsein erschaffen kann, dann könnte sie das theoretisch eben auch in einer Maschine tun. Aber wir bräuchten ganz andere Methoden dafür. Aber es gibt ja schon auch Dinge, die sich zum Beispiel "Chatchy-Pity" beigebracht hat, obwohl wir es ihm nicht beigebracht haben. Übersetzen zum Beispiel. Ist das irgendwie intelligent? Ja, das ist natürlich jetzt die Frage. Und ich glaube, da müssen wir ganz viele Experimente machen und ich wünschte mir auch, dass wir als Forscher und Forscherin mehr Einblick bekämen in die Trainingsdatensetze. Wir müssen aber davon ausgehen, was in Trainingsdaten setze. Das sind die riesigen Textmengen, die die Sprachmodelle durchgearbeitet haben. Durchgelesen möchte ich jetzt nicht sagen, weil das irgendwie ein Bewusstsein erfordern würde, aber durchgearbeitet haben und nach Mustern gesucht haben. Und wir würden jetzt natürlich gerne wissen, wie oft in diesen Trainingsdatensetzen so etwas steht, bitte übersetzt mir doch mal "XYZ" und danach kommt dann eine Übersetzung. Das ist bestimmt vielfach geschehen in diesen Trainingsdatensetzen und zudem hat die Maschine ganz gut gelernt, in welchen Strukturen wir unsere Sprache verwenden. Also, die kann sehr gut vorher sagen, wann welche Wörter aufeinanderfolgen. Und da die Indo-europäischen Sprachen jetzt nicht so weit auseinander sind. Also es gibt, wie nur, es gibt Verben, es gibt Objekte, Subjekte, die viele Verben haben dann eben auch die selbe Anzahl von Objekten in verschiedenen Sprachen. Das heißt, es könnte sein, dass die Maschine ganz grundlegende gramatische Strukturen gelernt hat und deswegen eben auch in der Lage ist zu übersetzen. Aber ja, es staunt mich bis heute und ich bin sehr gespannt, was die Sprachwissenschaftler da alles noch herausfinden werden. Also gelernt, aber nicht richtig intelligent, okay. Ja, genau, das, na ja, das, was wir, also wir informatiker nutzen, natürlich den Begriff des Lernens auch anders als es jetzt ein Pedagogetun würde. Bei uns heißt Lern einfach nur, gibt der Maschine, also was heißt einfach nur, ist immer noch sehr kompliziert, aber gibt der Maschine ganz, ganz viele Beispiele, gibt ihr eine matematische Methode, mit der sie häufige Muster entdeckt und gibt ihr eine Methode, mit der sie diese Muster irgendwo speichern kann. Und dann bei Bedarf nutzen kann. Und das nennen wir Lernen, aber vielleicht kann ich, vielleicht kann ich noch ein Beispiel geben. Die schriftliche Multiplikation, man kann Shatchy-Pity-Fragen wie die funktioniert. Und wenn man ihr sagt, nehmen wir jetzt mal 13 mal 65 und macht eine schriftliche Multiplikation, dann stellt sie das ganz schön da und dann rechnet sie erst die letzte Ziffer mal der, mal der ersten Zahl und dann die zweite Ziffer und sagt auch, dass man das einrücken muss, macht sie alles ganz fantastisch. Wenn man ihr große Zahlen gibt, dann kann sie das nicht mehr. Und wenn mein Sohn jetzt eine Rech, also der ist 9, der ist 9, dritte Klasse, der lernt das jetzt auch gerade, wenn der ein Rechenfehler macht, dann frage ich ihn ja auch, weißt du denn, wie die schriftliche Multiplikation geht? Wenn er mir dann dem Prozess richtig erklärt und wir dann einfach nur feststellen, er hat 3 mal 5 falsch gerechnet, dann weiß ich, dass er das schriftliche Multiplizieren gelernt hat. Aber in der Ausführung den Fehler gemacht hat. Die Maschine kann uns jetzt zwar den Prozess erklären, weil sie diesen Text so oft gelesen hat, dass sie den reproduzieren kann, wie schriftliche Multiplikation geht, aber sie wird es niemals Fehler frei für beliebige Paare von zahlen können. Und deswegen, wenn ich sage, mein Sohn hat das gelernt, ist das ein ganz anderes Lernen, als wenn ich sage, die Maschine hat Maschine gelernt, einen Text zu erstellen, der uns erklärt, wie schriftliche Multiplikation geht. Also bisher hör ich bei Ihnen, dass Entscheidungen von Maschinen häufig Fehlerhaft oder schwierig oder schwer zu durchdringen sind im Nachhinein. Aber wie können wir denn diesen künstlichen Intelligenzen algorithmen usw. beibringen, dann besser zu werden, bessere Entscheidung zu treffen, weil wir bleiben jetzt ja nicht stehen, einfach in Entwicklung? Also häufig Fehlerhaft glaube ich gar nicht mehr, das war sicherlich noch sehr lange richtig und es kommt sehr auf das System, gerade wenn man sich jetzt ChatGPT anguckt, finde ich, sind die Antworten sehr oft sehr gut, nur man weiß halt nicht, wann sie nicht gut sind und deswegen benutze ich persönlich, dass nur wenn ich die Antwort in irgendeiner Form nachprüfen kann. Und dann ist das aber fantastisch zu benutzen. Bei manchen sich Dingen können wir der Maschine glaube ich nicht helfen, es besser zu tun. Also jetzt gerade bei den Sprachmodellen, die haben schon unglaublich viele Texte verarbeitet, ich denke eine große Gruppe von Texten, die noch fehlt, sind die vielen Bücher, die in den letzten Jahrhunderten geschrieben wurden, das könnte sicherlich noch mal ein paar Prozent bringen. Aber einige Sachen werden der Maschine dadurch weiterhin verschlossen bleiben, also es gibt zum Beispiel ganz viele nonverbale Kommunikationsaspekte, die wir Menschen untereinander erkennen, wir wissen, wie sich Schmerz anfühlt, da kann eine Maschine noch so viele Texte drüber lesen, sie wird es nicht verstehen, was das bedeutet. Also insofern sind da glaube ich echte Grenzen gesetzt, wenn wir nicht ganz andere Arten von Maschinen bauen und insbesondere bei der Frage der Werturteile, was ist für uns Menschen wirklich wichtig? Wir hören ganz viele Aspekte unseres körperlichen Befindens und M-Findens dazu und das kann die Maschine eben nur von Außen an Beispielen sehen, also auch wenn die ganz viele Videos guckt, dann sieht die nur von Außen, wie wir uns benehmen, wie sich das für uns innerlich anfühlt, wird sie nicht daraus nicht lernen können, ganz prinzipiell nicht. Lassen wir uns einmal zusammenfassen, wenn wir jetzt über verschiedenste Form von Entscheidung gesprochen, was für Form von Entscheidung sind sinnvoll zusammen mit Maschinen zu treffen, was nicht und wo sollten wir einfach noch ein bisschen mehr regeln einführen? Wie würden Sie jetzt zusammenfassen? Ja, ich habe darüber wirklich viel nachgedacht, weil wir in den letzten sechs Jahren bestimmt 100 verschiedene KI-Systeme betrachtet und geguckt machen, die das richtig machen, die das nicht richtig. Und die ganze Zeit, mich gefragt, gibt es denn nicht irgendeine vereinfachende Kategorisierung, mit der man das schneller rausfinden kann. Und ich habe vier Arten von den Scheinungssituationen gefunden, die glaube ich ganz gut abdecken, wo KI-Systeme heute verwendet werden sollen, aber nicht immer gut können. Das erste sind, als die Pandemie kamen, da war der Schrein nach KI groß und kann uns nicht KI helfen. Naja, gerade in so einer Pandemie, da sind wir glücklicherweise in den letzten Jahrhunderten einmal drin gewesen oder werden kleinere Pandemie in so kleinere Ausbrüche. Da gibt es gar nicht genug Daten, von denen die Maschine statistisch lernen kann. Und das gilt eigentlich für alle politischen Entscheidungen, die Welt heute ist so anders als vor zehn Jahren, als vor 20 Jahren, wir haben nicht genug Daten, als das Maschinen da etwas lernen könnten. Also da, keine KI-singuläre Entscheidung, Politik, dann gibt es faktische Entscheidungen, so etwas wie, ist die Schraube auf diesen Produktionsband, ist die Heil oder ist die kaputt. Das können Maschinen ganz gut und vor allen Dingen können wir sehr einfach überprüfen, ob sie recht haben, denn wenn sie eine Schraube vom Band pusten, können wir checken, ob die wirklich kaputt ist oder Heil ist. Und die, die auf dem Band bleiben, die können wir eben so prüfen und dann wissen wir ziemlich genau, wie viele Fehler die Maschine macht. Dann gibt es vorher sagen, wir haben vorhin die Kreditwürdigkeit genannt, das ist ein Fakt aus der Zukunft, entweder die Person zahlt den Kredit zurück oder nicht. Das Problem bei vorher sagen ist, dass sie ganz oft die Zukunft fändern. Also wenn ich zum Beispiel einen Kredit beantrage und dann sagt die Maschine, die Frau Zweig, ich weiß nicht, dann kann ich ja gar nicht beweisen, dass sich den Kredit innerhalb von zehn Jahren korrekt zurückbezahlt hätte. Das heißt, Fakten in der Zukunft, da können wir bei Maschinellen Entscheidungen nicht überprüfen, ob die tatsächlich gut getroffen worden sind oder nicht. Und das gilt übrigens auch für Menschen, woher sagen sind halt immer schwierig, weil sie die Zukunft betreffen und weil eine Entscheidung heute die Zukunft verändern kann. Da also schwierig. Und dann haben wir die zuletzt noch die Werturteile und das habe ich schon argumentiert, warum ich glaube, dass wir damit in heutigen Methoden auf jeden Fall nicht weiterkommen. Und ich glaube, wenn wir uns verlassen würden auf die Fakten, die man überprüfen kann und wo uns die KI helfen soll, das wäre schon großartig. Damit würden wir so viele Effizienz gewinnen machen. Unsere Arbeit wäre nicht mehr so stupide. Wir könnten damit sicherer sein. Also ich glaube, wenn wir uns auf diese Kategorie erstmal versteifen würden, wenn wir uns sie auf die erst mal konzentrieren würden, da wäre schon ganz, ganz viel mit gewonnen und insbesondere verstehe ich einfach nicht, warum wir Maschinen immer dort einsetzen wollen, wo es um Werturteile geht. Also in der Medizin, in der Schule. Ich glaube, gerade da sollten wir uns lieber darauf konzentrieren, mehr Menschen einzubringen. Also ich nehme mit faktischer Entscheidungen, sagen Sie, da sind Sie uns wirklich eine große Hilfe. Okay, jetzt haben Sie aber auf der anderen Seite festgestellt, dass z.B. Chatty-Betie bei faktischen Entscheidungen auch einfach nicht gut ist manchmal. Und jetzt? Dafür würde ich es eben auch nicht verwenden sein. Ich kann es doch bei Fakten an sich ist es halt nicht zuverlässig. Man muss das selber überprüfen können. Deswegen sollten eben Schüler und Studierende sich bitte nicht ihre Hausaufgaben von den Maschinen machen lassen. Das muss man leider selber tun und da die Grundlagen lernen und an anderen Stellen kann ich es aber überprüfen. Also ich benutze Chatty-Betie sehr viel, um irgendwelche Echselfunktionen mir erklären zu lassen oder beim Koden was zu machen. Oder ich schreibe mit Latecht, das ist so ein kompliziertes System. Da kann man sich dann eben auch Hilfe geben lassen von der Maschine und direkt ausprobieren, ob das funktioniert oder nicht. Und dafür ist es fantastisch geeignet. Und wie kriegen wir es hin, dass die Systeme, die eben bei faktischen Entscheidungen vielleicht noch nicht optimal arbeiten, wirklich irgendwann optimal arbeiten? Ich glaube, es ist eher so die meisten entwickeln ja diese Systeme nicht, sondern die kaufen die. Und das heißt da ist es dann wichtig zu wissen, was ist mein Kriterium ab wann möchte ich diese Maschine einsetzen und wo ist sie mir zu schlecht? Und da muss man wissen, dass es 25 verschiedene Qualitätsmaße gibt. Also das heißt, ein Entwicklungs-Team kann ihn unter diesen 25 meistens eines finden. Ja ja, also wir haben eine Qualität von 80 Prozent. Und dann ist die Frage, ist das überhaupt die Qualitätsmaß, dass sie persönlich brauchen? Und das heißt da braucht man tatsächlich einen Experten oder eine Experten, um das zu beurteilen, ob das gut genug ist, das System für eine bestimmte Anwendung. Ich höre raus, dass wir als Gesellschaft so ein bisschen mehr. Das ist mal KI Literacy brauchen, also mehr Fähigkeiten im Bewerten, ob sie wirklich jetzt sinnvoll oder hilfreich ist oder nicht und gut arbeitet oder nicht. Ja das glaube ich schon, denn schauen Sie mal was wir versuchen gerade mit KI-Systemen. Wir versuchen so viele soziale Prozesse damit effizienter normierter zu machen, die sich über Jahrhundert und manchmal Jahrtausende entwickelt haben. Also wenn man sich anguckt, wie sich das Rechtswesen entwickelt hat, dass wir heute Richter und Richterinnen mit einer sehr langen Ausbildung haben, damit wir diesen sozialen Prozess, der für uns so wichtig ist, gut gestalten können, dass es so Checksen-Balances gibt. Ja, dass niemanden, dass es keine zu großen Macht, also mit Rien gibt. Und wir versuchen jetzt diese ganzen sozialen Prozesse innerhalb von wenigen Jahrzehnten, also vielleicht eigentlich nur ein Jahrzehnt, um zu modellieren, so dass KI darin mit spielen kann. Und ich glaube, dass uns das eigentlich überfordert, wir müssen mehr darüber nachdenken, wie der gesamte soziale Prozess aussieht, wo wir diese KI-Systeme unterbringen wollen. Und dann müssen wir darüber nachdenken, wie wir diese Checksen-Balances neu justieren. Und das versuchen wir ja auch gerade als Europäische Union, die sogenannte KI-Verordnung, ist jetzt gerade verabschiedet worden, die wird dann in zwei Jahren scharf geschaltet. Und da wird es sehr, sehr viele Experten und Experten brauchen, die dann dabei helfen. Also wir glauben, dass es ungefähr so viele KI-Beauftragte geben werden muss, wie es heute Datenschutzbeauftragte gibt. Und das wären so um die 200.000 in Deutschland, in Europa, 500.000. Und Sie sind eine davon? Ja, aber ich habe ja auch noch einen kleinen Job an der Uni. Also, vor zwei Gehörer bei Ihnen raus, Sie sagen KI, also sehr pragmatisch verwenden erst mal und über den Rest ganz viel Gedanken machen. Auf jeden Fall. Und eher im faktischen, soweit es geht, sich vorher Gedanken machen, wie gut muss die Maschine sein, sich Experten heranholen, um die Qualität wirklich beurteilen zu können. Und dann wird das auch klappen. Und also ich glaube, unsere Arbeitswelt wird sehr viel einfacher werden. Das Wissen. Darüber habe ich mit Katharina Zwei-Professoren im Fachbereich Informatik an der rheinland-fälzischen, technischen Universität Kaiserslauternando gesprochen. Vielen Dank fürs Gespräch. Vielen Dank. Ich bin Julia Neston. Produktion 2024. Und ich habe noch einen persönlichen Podcast-Tip für Sie. Ich bin nämlich ab sofort auch bei einem weiteren AD-Podcast bei Croix-Mal angenommen dabei. Dort wechseln wir unsere Perspektive und schauen immer in die Zukunft zu, was wäre wenn? Also mal angenommen, noch e-autosfahren auf unser Straßen. Oder mal angenommen, wir setzen Europa wieder voll auf Kernenergie. Oder was wäre wenn wir alle 100 Jahre alt werden könnten? Wir schauen uns Fakten und Evidenz basiert an, wie unsere Zukunft aussehen könnte, wenn wir was anders machen als bisher. Die neuen Folgen von Croix-Mal angenommen gibt es natürlich werbefrei in der AD Auditik und überall, wo es Podcast gibt. Und da womöglich auch mit einem Video. Den Link zu Croix-Mal angenommen finden Sie in den Schonauts. Das wissen vom SWR. Links zu weiteren Informationen stehen in den Schonauts zu dieser Folge.