Go back

Die KI-Blase platzt leise

from brand eins-Podcast

29m 26s

Die KI-Blase platzt leise

Im Gespräch mit der KI-Forscherin Allke Martens wird kritisch hinterfragt, ob die gegenwärtigen KI-Systeme tatsächlich eine echte Intelligenz darstellen. Martens betont, dass Sprachmodelle keine menschliche Intelligenz sind und stattdessen eine stark verkürzte, von Daten beeinflusste Version der Realität darstellen. Die Daten, auf denen sie trainiert werden, stammen weitgehend aus dem Internet seit 2016 und sind zunehmend durch KI-generierte Inhalte verunreinigt, was die Qualität der Modelle schädigt. Außerdem führt die zunehmende Abhängigkeit von KI zu einem Verlust an menschlicher Kreativität und Kompetenz – beispielsweise bei E-Mail-Verfassung oder Brainstorming. Die wirtschaftlichen Investitionen in KI werden als überzogen und nicht rechtfertigt angesehen, da die Technologie keine tiefgreifenden wirtschaftlichen oder produktiven Veränderungen hervorruft. Stattdessen werden lokale, schlankere Anwendungen als vielversprechenderer Ansatz angesehen. Außerdem wird aufgezeigt, dass KI in der Politik als Überwachungsinstrument eingesetzt wird, was zu einem langfristigen Verlust von Datensicherheit und Privatsphäre führen kann. Die Zukunft der KI könnte auch durch bessere technische Lösungen wie speziell für neuronale Netze optimierte Chips oder sogar Quantencomputer geprägt sein. Zudem spielt Diversität eine entscheidende Rolle, da derzeit die Forschung überwiegend männlich geprägt ist und so wichtige menschliche Erfahrungen wie Schwangerschaft und Geburt nicht berücksichtigt werden. Die Kernbotschaft: KI sollte nicht als Ersatz für menschliches Denken dienen, sondern als Ergänzung – das eigene Denken, kreative Prozesse und menschliche Kontakte müssen bewahrt werden.

Transcription

4857 Words, 31187 Characters

German
In der vergangenen Ausgabe habe ich hier mit Philip Klockner einen der profiliertesten Start-up-Investoren und Wirtschaftspot-Caster zu Gast gehabt. Und wir haben über den Status quo der künstlichen Intelligenz gesprochen. Und das ist auch das Thema der aktuellen Brand I und in dieser Ausgabe hier folgt ein Realitätscheck mit einer bekannten deutschen KI-Forscherin, einer der bekanntesten, so viel kann man glaube ich sagen. Christian Ballard ist mein Name und den Namen unseres gemeinsamen Podcasts, den kennen natürlich auch die verschiedenen KI-Sprach-Modelle. Der Brand I-Spot-Caster. Wirtschaft anders denken. Jede Woche bei Detektor FM. Allke Martens beschäftigt sich seit drei Jahrzehnten mit künstlicher Intelligenz und sie hält die Technologie für überschätzt. Martens ist Professoren für praktische Informatik und die Daktik der Informatik an der Universität in Rostock. Und seit fast zwei Jahren erklärt sie die Technologie auch auf Instagram und TikTok. Verständlich, kritisch und mit großem Erfolg. Ihr folgendort hunderttausende Menschen. Allke Martens ist für ihre Arbeit gerade für den Grimme-Online-Wort in der Kategorie "Wissen und Bildung" nominiert worden. Und dieser kleine Schlenker sei hier erlaubt, unser Sachsen-Anhaltprojekt dazwischen. Es übrigens auch für den Grimme-Online-Wort nominiert worden. Damit ist im diesen Jahrgang mal wieder ein Angebot vom Podcast-Radio Detector FM mit dabei. Wie viel KI brauchen wir wirklich? Was sollten wir unbedingt über die Technologie wissen, die unseren Alltag und auch unsere Arbeitswelt so bestimmen? Und warum hält Allke Martens die Technologie eigentlich für überschätzt? Das sind Fragen, die ich dankenswerterweise direkt mit ihr persönlich besprechen kann. Und ich sage "Hallo und herzlich willkommen im Brand-Einsportcast-Fraumatens". Hallo, danke schön, dass ich hier sein darf. Was wird denn aus ihrer Sicht überschätzt? Das, was aus meiner Sicht überschätzt wird, ist, dass das, was wir seit 2023 haben, also diese großen Sprachverarbeitenden Modelle, dass das keine Intelligenz im Sinne einer menschlichen Intelligenz ist. Das wird uns ja verkauft, als wären jetzt dort intelligente Computer am Gange. Und es wird uns auch suggeriert, dass wir langfristig viele Arbeitsbereiche einstellen könnten, dass wir viele Arten von Jobs auch verlieren werden. Das ist ja nicht immer nur so, dass uns da Rosen in den Weg gestreut werden. Sondern es wird auch gesagt, die Welt wird sich verändern. Und diese KI-Systeme werden künftig als quasi asistenten, digitale Assistenten einer menschlichen Alltagswelt, aber auch einer menschlichen Berufsweld und auch einer wissenschaftlichen Welt agieren können. Und das sehe ich nicht, um es kurz zu sagen. Und warum sehen Sie das nicht? Das sehe ich deswegen nicht, weil diese Modelle nach wie vor eine sehr, sehr starke Verkürzung der Realität haben. Und auch eine, also notwendigerweise ist ein Computermodelle, das ist völlig klar. Sie haben aber auch eine sehr starke Fokusierung auf eine ganz bestimmte Art von Sprachmodellen. Und wir konnten jetzt zum Beispiel erkennen, anhand dieser Ergebnisse aus den mathematischen Berechnungen die OpenAI, der mathematischen wissenschaftlichen Community, gerade so vor die Füße gespuckt hat, sozusagen, dass die Wissenschaftscommunität mit diesen Ergebnissen vergleichsweise wenig anfangen kann. Bei menschlichen Arbeiten und bei menschlichen Forschung geht es ganz häufig um den Weg, um das Ziel zu erreichen und nicht nur um das Ziel. Die KI-Systeme, die wir heute benutzen, sind Produktherstellungssysteme. Und es ist die Frage, ob wir die wirklich in dieser Form wollen, wie wir sich jetzt angeboten bekommen. Aber wenn man jetzt so die, ich sag mal, allgemeine Debatte verfolgt, heißt es immer ein Jahr vor ein, zwei Jahren, da war das so, da kann das Ergebnis raus und man wusste nicht, wie es geht. Aber jetzt ist doch schon beeindruckend und das wird alles viel, viel besser. Also glauben Sie nicht, dass das, ich sag mal ein, zwei Jahren, dann vielleicht doch so viel besser ist, wie die Versprechen zumindest der Konzerne lauten. Ich mach das mal umgedreht, also die KI-Systeme jetzt haben, die basieren auf Daten, Sammlungen, die mit einer sehr hohen Wahrscheinlichkeit aus 2016 kommen und mit einer gewissen Wahrscheinlichkeit sogar seit dem Existieren des Internets aufgebaut worden sind. Das Buch von Crawford, "The Atlas of the AI", das gibt es auch genauso in deutsch der Atlas der KI, gibt zum Beispiel datifere Einblicke, seit wann Daten-Sammlungen passieren. Und wenn wir jetzt mal das einfacherer Modell annehmen und sagen, die Google-Datensammlung zum Beispiel seit im Jahr 2016, das bedeutet, wir hatten im Jahr 2023 eine Daten-Sammlung, die war clean, da war keine KI-generierten Ergebnisse drin. Und diese Daten-Sammlung seit 2016, also 16 bis 23, sind einfach mal 17 falsch gesprochen, sind einfach mal sieben Jahre Daten gesammelt, die vergleichsweise sauber sind. Von da ab wurden aber zunehmend mehr KI-Daten im Internet verbreitet. Das bedeutet, wir haben keine sauberen Daten mehr. Und dann frage ich Sie, was für Daten sollen denn diese künftigen, so hyperintelligenten KI-Systeme laufen? Wo sollen denn die Daten herkommen, die besser sind als das, was wir bis jetzt haben? Das heißt, ich sag mal so, flap sich genannte KI-Slob ist das eigentliche Problem der KI, weil sie sich selber sozusagen immer weiter verwässert. Das sind zwei Aspekte, das eine ist der KI-Slob. Der KI ist das egal, wo ein Text herkommt, ob der Text aus der KI kommt oder ob der aus einem Menschen kommt. KI-generierte Texte haben, aber bestimmte Wortwahl, bestimmte Struktur und so weiter. Und wenn ich darauf trainiere, dann bekommt das zu viel Gewicht. Da werden die Models, die zugrunde liegenden neuronalen Netze, wenn die darauf trainieren, werden die schlechter statt besser. Und die menschlichen Daten, die gesammelt werden, die sind ja auch sehr stark mit verschiedenen Formen von Beies durchzogen. Also die Daten haben einen bestimmten Ursprung, der bestimmte Personengruppen kategorisch ignoriert, zum Beispiel. Die haben auch ein bestimmtes Wording drin, wie man im Internet blockschreibt oder wie man im Internet oder in Social Media interagiert. Und diese Art von Kommunikationsstrukturen, die ist im Internet vorhanden, genauso wie alle von der Firma geklauten Bücher sozusagen, die auch in den KI's verbustet werden. Aber das wird qualitativ nicht gravierend besser, wenn man nicht an der zugrunde liegenden Software massiv anfängt zu arbeiten. Also wenn man die zugrunde liegende Software nicht nochmal komplett neu denkt. Und das findet in dieser Form momentan nicht statt. Jetzt gerade geht es nur um besser und schneller und schöner. Wir sind ja hier in Wirtschaftsportcast und international, kommt man bei den Zahlen ja kaum noch hinterher. Selbst wenn man nur mal so auf Deutschern schaut, sind die so mehr wirklich immens angeblich fast 30 Milliarden Euro sollen Deutsche Unternehmen. Allein in diesem Jahr für KI ausgeben, das wäre nochmal fast die Hälfte mehr als im vergangenen Jahr. Und gleichzeitig fragen sich immer mehr Unternehmen und Unternehmerinnen auch, ob sich diese Investitionen überhaupt rechnen. Das haben wir beispielsweise letzte Woche auch mit Philip Klockner hier schon ein bisschen diskutiert. Sehen Sie denn gar keinen konkreten wirtschaftlichen Nutzen der aktuellen Modelle? Das ist wirklich eine schwierige Frage. Also aktuell ist es tatsächlich so, dass man sagt Software looks for application. Also die Software wurde rausgehauen. Könnte man im Grunde sagen natürlich mit einem starken wirtschaftlichen Interesse. Aber nicht entsprechend eines wirtschaftlichen Bedarfes. Also sie wurde nicht entwickelt, weil eine Gruppe von 20 Unternehmen aufgestanden ist und gesagt hat, wir möchten jetzt ein idealisierten Chatboard für die automatische Amrufannahme entwickeln. Das war nicht die Aufgabe, sondern es war die Aufgabe. Wir wollen etwas bauen, was quasi Avatar like sich mit Menschen unterhalten kann. Und das war die Vision der dahinterstehenden Unternehmen. Wenn es jetzt um diesen Aspekt der Sprachgenerierung und der Bildgenerierung gibt. Das, was wirklich unglaublich viel besser funktioniert, sind zum Beispiel automatische Transkriptor. Wenn ich jetzt sage, ich möchte eine Sitzung aufzeichnen und möchte das hinterher ein Text umwandeln, um das abzulegen. Das funktioniert super. Da kann man auch automatisiert Protokolle draus generieren. Was auch funktioniert sind KI Chatboards für automatische Anrufannahme oder KI Agents um Termine zu verabreden. Aber das ging auch schon vorher. Das ging auch schon vor diesen großen Large-Langwood-Schmordel. Also insofern da ist jetzt kein Hexenwerk drin. Und meine Welt sieht so aus. Für mich ist die Investitionshöhe für diese Art von Software deutlich überzogen. Das ist sinnlos. Die Prozesse, die uns durch diese Art von Software in den Unternehmen klar werden, sind vor allen Dingen die Fokusierung auf zwischenmenschliche Prozesse. Also Workflow, Arbeitsabläufe, Kommunikation sind sehr viel stärker ins Bewusstsein getreten in den Unternehmen, mit denen ich arbeite, weil sie versucht haben, das über KI zu ersetzen und feststellen es funktioniert nicht. Und dann gibt es solche Aspekte, die uns Menschen wirklich beschädigen. Das bedeutet Aufgaben übertragen an die KI im brainstorming und kreativbereich. Das geht nach hinten los, um es mal sozusagen. Da gibt es dann Effekte, die man auch heute ansatzweise schon ein bisschen messen kann. Dass Menschen sich dann zu dem Meer hinentwickeln zu. Ich schreib die E-Mail nicht mehr selber, weil das ja viel besser klingt, wenn die KI das macht. Das ist dann kompetenzverlust auf Seiten des Menschen. Und am Ende des Tages ist das immer noch so, dass man nicht genau weiß, wofür man die Dinger braucht. Sie könnten dienen als eine Erweitung einer Suchmaschine. Also die Suchmaschinen, die suchen eben nach Inhalten auf der Basis von dem World Wide Web. Und das kann mühsam sein und die KI macht jetzt dort einen Gewinn aus. Wenn ich sage, irgendjemand hat mal irgendwas gesagt. Und dann gebe ich diese Phase in die KI ein und die KI hat eine Ruhe Chance, das wiederzufinden. Da ist die KI ein Gewinn, aber ist die Frage, ob diese große Maschinerie, die dafür angeschmissen wird. Diese Antwort wirklich rechtfertigt. Denn in der anderen Welt hätte ich die auch gefunden mit ein bisschen mehr Aufwand. Allke Martin, es professoren für praktische Informatik und die Daktik der Informatik an der Universität Rostock im Brand-1-Podcast. Und wir sprechen noch weiter über die gesellschaftliche Verantwortung der Tech-Konzernen, über Chancen und Risiken von KI. auch darüber, wie wir KI nutzen können, ohne das eigene Denken zu verlernen. Zum Beispiel bei E-Mail-Schreiben haben wir gerade gehört. Traumatens, wenn man das jetzt mal weiterdenkt, was Sie gerade so beschrieben haben, dann sind Sie ja ganz klar der Meinung, diese Milliarden, teilweise ja noch mehr sind eigentlich eine Blase. Das kann man so stehen lassen. Aber ich glaube, also jetzt gehen wir von dem Wissen zum Glauben. Also ich halte es für eine Blase aufgrund der Fakten, die mir vorliegen. Ich befürchte aber und das ist jetzt das Glauben da drin, dass diese Blase nicht mit einem lauten Knall platzen wird, so wie die dort kommen Blase der 1, sondern dass es sehr viel mehr Leise passieren wird, weil die dahinterstehenden Unternehmen derartig viel auch politischen Einfluss haben, dass es niemals zugegeben wird, dass das nach hinten losgegangen ist, was Sie dort versucht haben. Das wird ein politisches Instrument bleiben und es wird auch sehr, sehr stark und das passiert jetzt nicht in der vordersten Front, sondern es wird sehr, sehr stark in Überwachung investiert. Und Überwachung bedeutet zum Beispiel, wenn ein Unternehmen mit einer KI arbeitet, wie zum Beispiel Chatchipity oder Claude und die Anfragen gehen in die USA, dann sind alle die Sachen, die die Informationen, also die die Unternehmen als Informationen dort reingeben, die sind danach in dem hohe als Bereich der betreibenden Unternehmen, also OpenAI und in Tropic jetzt für diese Beispieles, ginge auch mit der Alibaba Cloud. Man muss sich als Unternehmen darüber sehr, sehr doll im klaren Sein, ob man beispielsweise kreativ projekte, dann überhaupt der KI zeigt, weil man im Grunde damit eincheckt, dass man sagt, wir geben außerdem unsere kreativkonzept der amerikanischen Unternehmen. Ich füchte, da wird es einen umdenken geben. Dann kommen wir doch noch mal ein bisschen zurück vom Glauben zum Wissen und zu ihrem Fachbereich. Sie haben es ja angedeutet, aus ihrer Perspektive müssten die Dinge anders gebaut sein. Könnte es nicht passieren oder was müsste dann anders gebaut sein als jetzt? In der Welt der KI gibt es ganz viele verschiedene Techniken und zum einen haben wir diese sprachgenerierenden Modelle, die auf Wahrscheinlichkeiten basieren. Die sind schon gut und die funktionieren auch gut und da gibt es jetzt noch so ein bisschen mathematisches Gefummel, was man im Hintergrund machen kann, um die Algorithmic zu verbessern. Aber das werden die großen Unternehmen tun, da muss ich mich jetzt nicht aus dem Fenster lehnen, um das schneller zu machen zum Beispiel, um es auch effizienter zu machen, ergonomischer zu machen, ökologischer zu machen. Man darf aber nicht vergessen, dass KI gegründet 1956 als Begriff, aber in der Welt bestimmt seit 1929, 1930 als Gedanke, dass dieser Grundgedanke sich in ganz, ganz vielen Feldern manifestiert und zwar haben wir auf der einen Seite Experten-Systeme, die gelten heute als Veralte, die basieren, aber auf sehr klarem Regelwerk. Wir haben unglaublich starke leistungsfähige Machine Learning Algorithmen, neuronale Netze ist eine Spezialform, in vielen Fällen begreifen Menschen es als Spezialform, das Machine Learnings, manche sagen es ist eine eigene Form. Bei den Machine Learning-Verfahren haben wir unglaublich gute Einsatzbereiche und da passiert auch gerade der Zauber, also wir können in der Genetik, in der Medizin, in der Messtechnik, in der Verfahrenstechnik, haben wir ganz, ganz viele Anwendungsbereiche, wo wir mit das Machine Learning besser klassifizieren können, besser Daten analysieren können, Strukturieren können, Einsichten bekommen, die wir vorher nicht gehabt haben. Und das ist ein riesig großer Bereich, der sicherlich auch in der Wirtschaft zunehmend mehr Raum einnehmen wird, wo wir aber erst am Anfang stehen und da wird sehr, sehr viel passierende in den nächsten Jahren, deswegen ist auch die Rolle des Softwareingenieur oder Softwareingenieurinnen noch lange nicht am Ende, nur weil es KI gibt. Aber ist es nicht trotzdem auch durchaus plausible zu sagen, dass diese vielen Billionen, die der Konzerne bekommt, dann nicht vielleicht in diese richtige Richtung dann irgendwann auch gelängt werden, also dass das so ein Übergang wird? Also diese Art der large language models oder auch die Art der Bildgenerierungsvideo generierungsmodelle, die ist anders programmiert als das, was man in diesen smarten kleinen Anwendungen braucht. Ich persönlich würde momentan eher auf schlanker kleine Anwendungen, die lokal laufen gelassen werden können, setzen als auf diese ganz, ganz großen Modelle. Das ist so ein bisschen wie auf Massendaten setzen und fragwürdige Applikationen, also Hausarbeiten für Schülerinnen und Schüler schreiben, was sicherlich nicht die Zielfunktion für OpenAI als JetGPT entwickelt haben, dann ist einfach die Frage vielleicht auch mal berechtigt, wo wolltet ihr denn hin? Was sollte denn passieren? Und das bitte beantwortet mit einer allen Aussage und nicht mit Science-Fiction. Jetzt haben Sie auch die Rolle von Regierung angesprochen, beispielsweise der US-Regierung oder der chinesischen Regierung. Und wir haben in der vergangenen Woche hier im Podcast mit Philip Knackner auch darüber diskutiert oder er hat dieses Bild mit aufgemacht. Das KI, so was sein könnte, wie Atomkraft. Das heißt, dass am Ende der Staat so eine Art Versicherer sein muss, weil es so gefährlich ist. Und so teilen Sie dieses Bild oder denken Sie, das geht eher in die Richtung, was Sie vorhin beschrieben haben, dass es auch Interessen geleitet ist. Ich denke, es ist sehr stark Interessen geleitet und vor allen Dingen ist einst der Hauptinteressen, was wir in Europa auf gar keinen Fall vergessen dürfen, die Überwachung und das Profiling von den Nutzenden. Also Überwachung klingt jetzt immer so ein bisschen super böse für uns in Deutschland, aber das bedeutet nicht, dass alle Menschen auf der Welt überwachung als etwas Böses aufgreifen. Das müssen wir uns manchmal einfach klar machen. Überwachung bedeutet, für viele Menschen ein hohes Maß an Sicherheit, an vorher sage Wahrscheinlichkeit. Und das ist etwas ganz anderes, wenn ich an der Person sage, sie wird zu Hause in ihrem Privathaushalt überwacht, was mit sämtlicher Smart-Technologie-Wunderbar funktioniert und auch mit AI und auch mit Smartphones. Im Gegensatz dazu, dass ich sage, eine Person darf sich in Sicherheit wiegen, wenn ich meinetswegen, einen großen Versammlungsplatz in der Stadt digital überwache, um Vandalismus oder Randale zu entdecken und zu verhindern. Und da ist ein ganz, ganz dünner Grad, über den wir da jetzt gerade wandeln. Am Ende ist AI eine Art Überwachungstechnologie und das darf nicht vergessen werden bei solchen Formulierungen. Dass die Lämmer, dass wir haben mit der Atomenergie, ist das die Lämmer, dass sie zunächst mal sauber aussieht, wenn man das nicht auf lange Sicht betrachtet. Und das ist auch ein Dilemma, was natürlich bei KI kommt, denn wenn wir darauf einschicken, dass wir diese unglaublichen Massen von Daten weiter sammeln, dann brauchen wir Datencenter und dann brauchen wir die auch überall auf der Welt. Und dafür zahlen wir einen sehr, sehr hohen Preis unter anderem den Preis von Atomkraft. Dort würde ich eher die Regierung sehen und sagen, der reguliert mal, versucht mal bitte anders zu denken als nur in der Idee der Datenhortung und was genau möchte eine Regierung mit diesen Daten alles tun, wenn es nicht am Ende um Überwachung geht. Und das sind Fragen, die ich gerne beantwortet haben würde. Ich würde da keine Parallele zur Atomkraft ziehen in dieser Art. Stichwort Daten sammeln und Überwachung. Sie haben vor gut zwei Jahren angefangen auf Instagram und TikTok, über KI und Ethik aufzuklären. Das ist ja schon so ein innerer Widerspruch, eigentlich, auf diesen beiden hyperkommensiellen Techplattformen. Warum machen Sie das? Also ich bin auch auf Mastudon, neuerdings. Sehr gut. Das kann ich persönlich nur unterstützen. Danke. Ich bin auch dabei, die Fediverse Präsenz aufzubauen. Aber das ist ein glitzekleines bisschen anspruchsvoller am Anfang, als dann, wenn man es mal richtig am Laufen hat. Also wir hatten überlegt, ob wir hier einen Rostock mit eigenen Zöber aufbauen oder nicht. Und haben uns jetzt trotzdem für Mastudon Social entschieden. Wir bedeutet, ich repräsentiere natürlich über meine Social Media Präsenz auch immer ein bisschen die Uni Rostock mit. Die Wahl dieser großen Plattformen war tatsächlich Nutzerinnen und Nutzer orientiert. Wir wollten eine große Reichweite ermöglichen für diese Beiträge. Entstanden sind die dadurch, dass ich schlicht und ergreifen maximal genervt war. Sie haben es vorhin schon gesagt, ich bin seit 30 Jahren im Bereich KI unterwegs. Ich habe im Bereich KI promoviert, im Bereich intelligente Tutorsysteme. Ich habe viel mit Experten-Systemen gearbeitet. Ich habe viel mit Machine Learning gearbeitet in verschiedenen Varianten. Und dann wurde auf einmal 2023 dieses Monster freigelassen sozusagen. Ein süßes kleines Monster Chatty. Und ich habe mir verwundert die Augen gereben, weil ich in einer Welt gelebt habe, in der mir gesagt worden ist, wenn du versucht, in Deutschland eine KI-Professur zu bekommen. Und wir schrieben das Jahr 2025 bis 2010 ungefähr, dann wirst du verloren sein. Du musst unbedingt den Forschungs 2 KI verlassen, sodass meine Union-Professur-Kognitive-Systeme hieß, also E-Learning und Kognitive-Systeme, weil wir es nicht KI nennen wollten, weil KI Mause Tod war in der Zeit. Also keine Forschungsgelder, keine neuen Professuren, nichts, was man dort großartiges bewegen konnte. Natürlich wurde weiter daran geforscht. Aber sie können sich meine Überraschung vorstellen, als am 23. Auf einmal alle aufschrien und sagen, die KI wird die Welterschaft übernehmen. Oder sie wird uns alle Töten mal gucken. Und da habe ich dann gedacht, verdammt nochmal, jetzt muss ich einfach was sagen, weil die wenigsten Menschen da draußen, auch die wenigsten von denen, die jetzt gerade sagen, KI wird uns Töten oder KI wird die Welterschaft übernehmen oder uns alle Arbeitslos machen, versteht, was technisch dahinter steht. Und da ich mit dem Urschleim schon gearbeitet habe, kann ich das auch relativ gut erklären. Und weil ich eben die Daktikerin bin, kann ich es halt auch für jeden erklären, für jeder. Allgemartens, Reichweitenstärke, Experten, Zucker, I und Ethik im Gespräch beim Podcast Radio Detector FM und eben auch didaktisch stark. Und wir sprechen natürlich gleich noch ein bisschen weiter. Frau Martens, Sie haben es gerade angesprochen. Sie kennen den Urschleim. Und ich würde doch nochmal so ein bisschen versuchen rauszusuchen. Was wäre denn jetzt im Jahr 2026, würde wirklich wichtig, im Bereich KI und Maschinenlearning zu machen. Also, wenn Sie richtig in den Urschleim wollen, dann würde ich sagen, wir stehen an der Grenze zu einer neuen technischen Herausforderung, die einfach sagt, wir sind vielleicht mit der Entwicklung der Chip-Technologie schon ziemlich doll an einer Grenze, wo wir uns etwas neues einfallen lassen sollten. Es gibt solche Grenzen im Bereich der Informatik mehrfach, die Grenze, wo wir von der, ich sag mal, ganz laxt der rörende Technologie, hin zur Transistortechnologie gewechselt sind, was Verkleinerung, Beschleunigung und neue technische Fortschritte erst ermöglicht hat. Zur Zeit haben wir uns gerade reingefresst in die Welt der GPU, die GPU sind die General Processing Units. Das sind sozusagen die Rechenmonster, die in den Datencentern für das verarbeiten, dieser Massendaten zuständig sind. Und ich mache eine lange Geschichte ganz kurz. Wir finden im Rechner die CPU, dass die zentrale Verarbeitungseinheit, Processing Unit, die ist für das Steuern von Operationen zuständig. Muss mal ganz verkürzt zu sagen. Die GPU ist der Rechinsklave, die macht ganz, ganz viel Nambark-Froncing, denn wir das auch in der Informatik, also ganz oft die gleichen Schritte. Es gibt jetzt die ersten öffentlich angekündigten CPU-GPU-Kombinationen. Und das ist jetzt schon richtig Informatik-Etechnik-Nerdings-Duff, aber ich glaube, da werden wir nochmal neu denken müssen im Bereich der Chip-Technologie, das können die Kollegen von mir, aber ich glaube, der nächste große Entwicklungssprung wird aus der technischen Richtung kommen. Weil die aktuellen Chips dafür nicht in der Lage sind? Weil es eigentlich absurd ist, was gerade passiert, dass wir 100.000 D von diesen Dingen brauchen, um diese Rechenoperationen durchführen zu können für ein neuronales Netz. Es gab schon mal Entwicklungen, die hießen, lasst uns ein neuronalen Netzwerk-Computer-Bounder von der Infrastruktur her so gebaut, dass er idealisiert für neuronale Netze funktioniert. Es gab auch schon mal die Listmaschine, die ideal für lispartige Verarbeitung gewesen ist, für KI. Vielleicht gibt es irgendwann etwas. Vielleicht geht es sogar in die Richtung Quanten-Computer, was uns ermöglicht, enorm viel Rechenpower reinzubringen in eine Maschine, die trotzdem nicht vor Hitze umkommt oder verglüht. Das ist jetzt mal so ein bisschen populär formuliert. Ja, wir müssen natürlich noch über einen Thema reden, was sie auch schon so ein bisschen angerissen haben. KI lebt natürlich davon, was reingegeben wird. Und vor allen Dingen natürlich auch, wer das Ganze macht. Sie sagen, schaut euch mal an, wer das macht. Das sind sehr, sehr viele Männer, die Firmen gehören fast alle Männern. Da müssen mehr Frauen rein. Warum aus ihrer Perspektive? Na ja, es ist schlicht und ergreifend so, dass eine männlich gelesenen Welt exakt 50 Prozent der Welt abbildet und die an 50 Prozent werden ignoriert. Und dann müssten wir jetzt tiefer in so eine Diskussion reingehen, was bedeutet Mann, was bedeutet Frau? Ich habe da einen eigenen Erkenntnisprozess und das ist ein bisschen lustig, gerade für die männlich gelesenen Höhrenden, die das jetzt hier verfolgen. Ich habe lange Zeit in meinem Leben gedacht, es ist doch egal, ob Mann oder Frau. Und so habe ich auch gelebt und so bin ich auch aufgewachsen und so bin ich auch in meinem Beruf, was jetzt keine Aussage über meinen Privatleben gewesen. Muss man ja dazu sagen. Ja, sonst gibt es noch eine Meldung irgendwo. Ja, ganz genau, ganz genau. Also ich war glücklich verheiratet und ich bin jetzt auch genau so glücklich gestiegen von einem Mann. Also so, so viel dazu. Aber es gibt einen großen Bereich unserer Welt und unseres Wissens, was ich nicht kategorisieren lässt, was ich nicht in Null und Einsteilen lässt und was ich auch nicht so klar abstrahieren lässt, wie das, was wir brauchen, um es in eine Maschine abzubilden. Und ich sage es mal ganz profan. Das ist der Prozess zum Beispiel Schwangerschaft und Geburt. Da ist einem jegliches Regelwerk zunächst einmal genommen. Und wenn man das einmal körperlich erlebt hat, dann weiß man, dass die Welt aus mehr besteht als aus 0 und 1. Das ist ein starkes Bild auf jeden Fall. Ja. Ich würde den ganz am Ende gerne noch auf einen anderen Aspekt eingehen, den sie auch angesprochen haben, aber der glaube ich gerade auch für die hohe Rinnen und Hörer vom Brand-1-Podcast ganz spannend ist, nämlich das Ziel, das eigene Denken nicht zu verlieren und nicht irgendwie komplett alles abzugeben. Ist das denn in den nächsten Jahren? Na, die erste Aufgabe ist nicht privaten Kram mit KI teilen, sondern mit Menschen teilen. Es ist für viele Menschen in vielen Situationen und ich komme aus einer sehr sehr nördigen Wissenschaft, wo sich Menschen vor allen Dingen sehr gerne mit ihrem Computer unterhalten. Es ist trotzdem wichtig, in den menschlichen Kontakt zu gehen zuzuhören, aufmerksam zu bleiben, Systeme zu beobachten, zu denken, sich auch erlauben, Dinge mal von einer ganz anderen Seite zu denken, sich auch zu konfrontieren mit anderen politischen Meinungen, Ansichten über die Welt. Und das kann ethisch zum Beispiel über Austausch mit indigenen Völkern passieren, um es mal in ganz großen Rahmen zu spannen. Es kann aber auch der Nachbar sein, der meinetwegen jetzt in Barne Münde ein Mensch, ist der früher auf der Werft gearbeitet hat und jetzt meinetwegen in seiner Freizeit als Fischer arbeitet, Austausch mit Menschen und dann Finger weg von der KI bei jeglicher Form kreativen Prozess. Ich habe ganz oft Leute, die mir sagen, aber die KI hilft mir dabei kreativ zu sein. Das stimmt nicht. Die KI macht ihre eigenen Vorschläge und Menschen neigen dazu, das zu integrieren und zu sagen, wow, ich war kreativ mit der KI. Das ist im Einzelfall nicht weiter schlimm, aber es schleicht sich rein. Und das, was ich reinschleicht, ist, dass man irgendwann glaubt, wenn man einen leeren Zettel und einen Stift vor sich hat, dass man nichts mehr produzieren kann, weil die Unterstützung durch Chatty oder wie auch immer man das Wesen werden. Klar, klar, klar. Dass man das nicht zur Hilfe hat dabei und das Wichtige ist, dass unsere Superpower daran besteht, den totalen Müll zu denken und daraus noch irgendwelche Diamanten zu erzeugen. Das können wir auch ohne Computer und das müssen wir bewahren. Also Finger weg von KI bei jeglicher Form von kreativprozess. Außerdem möchte man diese kreativprozesse nicht einfach auch noch gratis mit dem Schleifchen oder mit den Unterrichtlichkonzern in den USA schenken. Aber das klingt wirklich so, als ob man sich, ich sag mal, die Herausforderungen sich an ein weißes Black Paper zu setzen oder zu stellen, die sollte man sich bewahren, höch daraus, was ihrer sich. Absolut, also es klingt so ein bisschen seltsam, wenn ich das sage, aber lest auf dem Papier, traut euch zu, zu kritzeln, zu fantasieren, um Brainstorming-Sitzung zu machen, indem ihr Lego-Steine und Buntefäden und Papier und Post-Itz benutzt in Kilo, meine Dwegen. 15 verschiedene Farben und ein Whiteboard, ganz egal. Aber lasst die Finger von der KI, lasst dann lieber das eigene Gehirn querdenken, kreativ sein und nochmal ein Schritt zurück zu der vorherigen Frage. Dafür braucht man gemischte Teams und zwar Multigender und multinational. Das ist das, was richtig gute, kreativprozesse am Ende bewirkt, verschiedene Perspektiven. Und die Perspektiven sind nicht normal und Frau, sondern die Perspektiven kommen von all über all auf der Welt. Alke Martens, im Brand-1-Podcast, ich sag vielen Dank für das Gespräch. Dankeschön. Und ich weck gleich mal bei Masse dann schauen, ob ich Ihnen da schon Folge oder, oder wenn nicht dann die Verfolgung aufnehmen kann. Das ist sehr gerne, ich freue mich. Und wenn ihr mehr darüber wissen wollt, wo die Entwicklung von KI im Moment so steht und wo es sich vielleicht auch lohnt, Gas zu geben oder eben einen Gang runterzuschalten, dann empfehle ich euch, dass Brand-1-Magazin mit dem Schwerpunkt besser arbeiten, mit KI. Den Link zum Magazin findet ihr in den Show-Nodes, das Analog-Heft. Zum Lesen gibt es natürlich im gut sortierten Zeitschriftenhandel, im Supermarkt, im Drogeriemarkt oder auch am Bahnhof. Und ich hat sehr ganz am Anfang schon kurz erwähnt, dass neben Alke Martens auch unser Sachsen-Anhalt-Projekt dazwischen für den Grimm-Online-Wort nominiert ist. Wir sind in einem Newsletter und im Podcast jeden Donnerstag über jeweils ein Thema aus und für Sachsen-Anhalt. Und unser Ziel ist da ein differenziertes und ausgewogenes Bild für dieses Jahr, doch im Moment so im Mittelpunkt stehende Bundesland zu liefern. Und dazwischen ist eine Kooperation vom Media-Forward Fund und eben dem Podcast-Radio-Detector FM. Also, wenn euch unsere Podcast wieder zwischen oder eben der Brand-1-Podcast, den wir gemeinsam mit der Brand-1 machen gefallen, dann folgt uns doch gerne in eurer Lieblings-Podcast-App. Dann kann ich gar nicht oft genug betonen, dieses Folgen, auch bei Master Donn beispielsweise und das weiter empfehlen, das hilft uns enorm und ist einfach ein kleiner Baustein, um unseren Job hier noch ein bisschen besser zu machen und noch mehr Leute zu erreichen, beispielsweise. Empfehlt also gerne diese Episode in der Person, der oder die auch Wirtschaft anders denkt. In diesem Sinne, jetzt schon mal vielen Dank fürs Weiter sagen. Und ihr kennt das Spiel, die nächste Folge des Podcasts, des Brand-1-Podcasts, die erscheint dann morgens am kommenden Freitag, also Freitag immer die neue Episode. Und ich freue mich, wenn wir uns dann hier in dieser Stelle wieder hören. In diesem Sinne, gern bis dahin und lasst euch nicht erschrecken. Der Brand-1-Podcast wird produziert vom Podcast-Radio-Detector FM. Redaktion, Stefan Zieger, Katja Stamm und Geroff Meier. Wir haben Arbeit mit Frank Dahlmann vom Brand-1-Magazine. Moderationen, Christian Ballert.

Podcast Summary

Key Points:

  1. Allke Martens kritisiert, dass große Sprachmodelle keine echte menschliche Intelligenz besitzen und eine starke Verkürzung der Realität aufweisen.
  2. Die Daten, auf denen KI-Systeme trainiert werden, stammen größtenteils aus dem Internet seit 2016 und sind von KI-generierten Inhalten verunreinigt, was die Qualität der Modelle beeinträchtigt.
  3. KI-Systeme führen zu kompetenzbezogenen Verlusten bei kreativen Prozessen, da Menschen zunehmend auf KI-Generierungen vertrauen und ihr eigenes Denken vernachlässigen.
  4. Die aktuellen Investitionen in KI sind überzogen und oft nicht wirtschaftlich gerechtfertigt, da die Technologie keine grundlegenden Änderungen in Arbeitsabläufen bringt.
  5. Die Entwicklung von KI wird von großem politischem Einfluss geprägt, insbesondere durch Überwachung und Profiling, was zu einem langfristigen und stillschweigenden Verlust von Privatsphäre führen kann.
  6. Eine zukünftige Entwicklung könnte in schlankere, lokal laufende Anwendungen liegen statt in riesige, massenbasierte Modelle.
  7. Die technische Entwicklung wird in der Chip-Technologie, insbesondere mit GPU- und zukünftigen neuronalen Computern, neue Grenzen und Möglichkeiten aufzeigen.
  8. Diversität in der KI-Forschung ist entscheidend, da derzeit überwiegend Männer in der Technologie beschäftigt sind und dadurch Perspektiven fehlen, wie beispielsweise Schwangerschaft und Geburt.

Summary:

Im Gespräch mit der KI-Forscherin Allke Martens wird kritisch hinterfragt, ob die gegenwärtigen KI-Systeme tatsächlich eine echte Intelligenz darstellen. Martens betont, dass Sprachmodelle keine menschliche Intelligenz sind und stattdessen eine stark verkürzte, von Daten beeinflusste Version der Realität darstellen. Die Daten, auf denen sie trainiert werden, stammen weitgehend aus dem Internet seit 2016 und sind zunehmend durch KI-generierte Inhalte verunreinigt, was die Qualität der Modelle schädigt.

Außerdem führt die zunehmende Abhängigkeit von KI zu einem Verlust an menschlicher Kreativität und Kompetenz – beispielsweise bei E-Mail-Verfassung oder Brainstorming. Die wirtschaftlichen Investitionen in KI werden als überzogen und nicht rechtfertigt angesehen, da die Technologie keine tiefgreifenden wirtschaftlichen oder produktiven Veränderungen hervorruft. Stattdessen werden lokale, schlankere Anwendungen als vielversprechenderer Ansatz angesehen.

Außerdem wird aufgezeigt, dass KI in der Politik als Überwachungsinstrument eingesetzt wird, was zu einem langfristigen Verlust von Datensicherheit und Privatsphäre führen kann. Die Zukunft der KI könnte auch durch bessere technische Lösungen wie speziell für neuronale Netze optimierte Chips oder sogar Quantencomputer geprägt sein. Zudem spielt Diversität eine entscheidende Rolle, da derzeit die Forschung überwiegend männlich geprägt ist und so wichtige menschliche Erfahrungen wie Schwangerschaft und Geburt nicht berücksichtigt werden.

Die Kernbotschaft: KI sollte nicht als Ersatz für menschliches Denken dienen, sondern als Ergänzung – das eigene Denken, kreative Prozesse und menschliche Kontakte müssen bewahrt werden.

FAQs

Martens meint, dass große Sprachmodelle keine echte menschliche Intelligenz besitzen und stattdessen stark vereinfachte, verzerrte Modelle sind, die auf Daten basieren, die bis in die frühen Jahre des Internets zurückgehen und oft durch KI selbst generierte Inhalte beeinflusst werden.

Derzeit gibt es keinen konkreten wirtschaftlichen Nutzen für die meisten Anwendungen. Die Software wurde entwickelt, um technische Ziele zu erreichen, nicht weil Unternehmen einen dringenden Bedarf an KI sehen, sondern aus kommerziellen Gründen.

Die Modelle sind auf eine beschränkte Art von Sprachverarbeitung spezialisiert und übersehen komplexe menschliche Prozesse wie kritisches Denken, kreative Entwicklung und den Weg zur Lösung eines Problems.

Die Daten stammen überwiegend aus dem Internet ab 2016, wobei zunehmend KI-generierte Inhalte in die Datenströme eindringen. Dies führt zu einer Verschlechterung der Datenqualität und damit zu einer weiteren Verschlechterung der KI-Modelle.

Martens betont, dass kreative Prozesse nicht durch KI ersetzt werden sollten. Menschen müssen ihre eigenen Ideen entwickeln und kreativ arbeiten, um eigene Denkprozesse und kreative Fähigkeiten zu bewahren.

Martens warnt davor, dass Unternehmen und Regierungen die Entwicklung von KI so leiten, dass sie zur Überwachung und Profiling führen. Dies könnte zu einer massiven Verletzung der Privatsphäre und dem Verlust der menschlichen Freiheit führen.

Chat with AI

Loading...

Pro features

Go deeper with this episode

Unlock creator-grade tools that turn any transcript into show notes and subtitle files.