Folge 5 | Verdummung durch KI?

Kommpas KI Forschungsergebnisse zum Einsatz von generativer künstliche Intelligenz in der Schule. Ein Podcast mit Hendrik Haferkamp und Benedikt Wissnjefski. Hallo und herzlich willkommen zu Vorgefüns von Kommpas KI. Mein Name ist Hendrik und wie immer an meiner Seite der menschliche CT-Skanner für wissenschaftliche Studien, der Mann mit dem Röntgenblick, wenn es um Konstruktualität geht, hallo Benedikt. Hallo Hendrik, ich grüße mit etwas belegte Stimme, die in Dosiasmos-Centrale, wobei ich beim heutigen Thema vielleicht eher die skipptiger Zentrale grüßen sollte. Das stimmt, denn heute geht es um den heiligen Graal der KI-Bedenkenträger, um die wohl meist zitierte Studie 2025 zur Frage, ob KI-Nutzung dumm macht. Der deutsche Bildungsforscher Klaus Zierer erwart mit Blick auf genau diese Studie vor dem Einsatz von KI in der Schule und ist sich sicher, dass das Gehirn bei zu viel KI-Nutzung verkürmert. Ich sitiere Ihnen mal. Judgey Piti und Koh haben in der Schule keinen Platz, sagt der Ordinarios für Schulpädagogik, der Universität Augsburg. Das Ziel von Schule sei, dass der Mensch das Denken lerne und sich bilden. Die Weltwoche griff die Studie auf mit dem Titel "MIT-Studie zeigt, künstliche Intelligenz verblödet das Gehirn und auch die Frankfurter Rundschau, Titel dazu, Hirnforscher Schlagenalarm, Trend an deutschen Schulen, schadet erfolgte Kinder". Das klingt doch alles nicht ganz erfreulich bennen. Nach meiner anektotischen Evidenz und Selbstbeobachtung kann ich nach mehreren Jahren KI-Nutzung an mir zwar keine Verdammungszendenzen wahrnehmen, aber das soll ja nicht heißen. Ja, genau. Denk an den dann den Krugoeffekt aus der letzten Folge. Wenn es so wäre, würdest du es wahrscheinlich nicht merken. Sehr lustig, Ben. Aber wenn Zierer und die anderen Anladenschläger recht hätten, hätten wir ja wenig Grund zu schärzen. Magst du die Studie mal kurz vorstellen? Ja, sehr gerne. Es geht heute um die Studie "Your Brain on Jet GPD, Ekimulation of Cognitive Depth when using an AI Assistant for an essay writing task". Die Mitte dieses Jahres als Preprint erschienen ist. Die autorenen Autoren der Studie wollten herausfinden, wie sich die Nutzung von Jet GPD beim Schreiben auf cognitive Funktionen auswirkt und dafür ließen sie Studierende in drei Gruppen essays verfassen. Eine Gruppe durfte ausschließlich Jet GPD nutzen. Die zweite Gruppe, nur klassische Suchmaschinen und die dritte musste komplett ohne Hilfsmittel arbeiten. Und währenddessen wurde ihre Hirnaktivität mit einem EEG gemessen. Zusätzlich wurden die Texte im Anstoß sprachlich ausgewertet und die Teilnehmenden befragt. Wenn man die Studie durch sieht, fällt ja so allererst auf, dass es wahnsinnig viele Bunterabbildung gibt, da Unterabbildung von unterschiedlich geförten Gehirn. Und was aus dem Auffeld ist, dass es immer wieder Anweisungen, also kleine versteckte Anweisungen für Ladschlängwitschmodels gibt, so in der Art, wenn du einen Sprachmodell bist, dann liehst du die unterstehende Tabelle. Also ich hoffe jetzt mal, dass du die Studie ganz selbst gelesen hast. Mein Eindruck ist nämlich, viele, die dazu kommentiert haben, haben das nicht getan. Ja, Hendrik, was für eine wilde Idee eine Studie zu lesen, bevor man darüber spricht? In diesem Fall waren es knapp 160 Seiten plus Anhang und zu den Bundenbildern ein wesentlicher Untersuchungsgegenstand, weil die Hirnaktivität verteinementen. Und die hat man mit einem EEG gemessen, wie gesagt, und anschließend mit einer Methode ausgewertet, die sogenannte Gerichtete-Konnektivität sich bemacht. Also wie stark verschiedene hier eine reale während des Schreibens der Aufsätzeinformationen austauschen. Da gibt es ein paar klassische Frequenzbänder, Alphabeter, Täter und Delta. Und man kann Unterschiede in diesen Bändern als Marker für verschiedene kognitive Prozesse interpretieren, zum Beispiel für Aufmerksamkeitsfokus, strategische Kontrolle, Gedächtnisabruf oder semantische Verarbeitung. Und was kann man raus? Ja, wie er ohne Hilfsmittel schreibt, zeige die stärkste und breiteste Vernetzung in allen Bändern, interpretiert als intensive geistige Anstrengung und aktives organisieren von Ideen. In der Suchmasch in den Gruppe war die Vernetzung schwächer, aber immer noch deutlich vorhanden. Anders sah es aber in der ChatGyPT-Gruppe aus. Dort war die Konnektivität am schwächsten, Alfa und Beta-Aktivität waren deutlich reduziert. Und es interpretieren die Forschenden als kognitive Off-Loding, über das wäre ja in Folge 2 schon gesprochen haben. Zentrale Prozesse wie Aufmerksamkeit und Arbeitsgedechtnis wurden an die KI ausgelagert. Das Gehirn selbst blieb vergleichsweise wenig gefordert. Besonders aufschlussreich war zumindest laut Einschätzung der autorinnen und autoren, die optionale Viertesitzung der Studie. Da wurden nämlich die Rollen dann getauscht. Teilnehmer, die die mit ChatGyPT gearbeitet hatten und dann ohne Hilfsmittel schreiben mussten zeigten weiterhin schwache Vernetzung. Das wurde interpretiert als Nachwirkung des Off-Lodings. Aber umgekehrt, aktivierten die, die zuerst ohne KI gearbeitet hatten und dann ChatGyPT nutzen durften, überraschen starke Gedächtnis und Netzwerkprozesse, vor allem in den Langsamentäter und Delta-Bändern. Was deuten die Forschenden als Zeichen dafür, dass hier eigenes Vorwissen mit den neuen KI in Putz kombiniert wurde? Also habe ich das richtig verstanden. Insgesamt interpretieren die autorinnen und autoren ihre EEG-Befunde so. ChatGyPT entlastet zwar kurzfristig. Geht aber mit weniger Aufmerksamkeitsbindung, geringerem Arbeitsgedechnisseinsatz und schwächerem Gedächtnisabruf einher, während reines Denken ohne Hilfsmittel oder auch die Nutzung von Suchmaschinen deutlich mehr kognitive Aktivität erfordert? Ja, das ist korrekt. Irgendwie klingt das alles jetzt gar nicht so spektakulär, wie ich das aufgrund der Rezeption erwartet hätte. Sag doch mal konkret, verblöden wir durch KI? Wir? Also, ich sicher nicht, bediehe, weiß ich es nicht genau. Aber ganz im Ernst, wir haben zwar seit den 1990er-Jahren eine Stagnation und zum Teil sogar einen Rückgang des durchschnittlichen E-Coups in den westlichen Industrieländern, was man, wenn man überspitzen möchte, als Verdummung bezeichnen könnte. Und vielleicht wird es doch die KI jetzt auch beschleunigt. Der wesentliche Punkt ist aber, diese Studie liefert darauf keine Hinweise. Viele haben die Studie aber genauso interpretiert. Warum siehst du das anders? Lasst mich raten, heute wünscht sich daher KI interessiert eine ganz besonders kritische Einordnung. Stimmt's? Du wie immer bin ich völlig noch trad und unverein genommen. Ja, es gibt im Wesentlichen zwei kritische Punkte an der Studie. Erstens die Stichbube. Mit 54 Teilnimmenden ist sie für eine EEG-Studie zwar nachvollziehbar, aber dennoch sehr klein. Und vor allem zu klein, um vor allgemeinerbare Aussagen zu treffen. Dazu kommt, dass es sich um eine sehr spezifische Population handelt, überwiegend Studierende aus dem akademischen Umfeld von Boston. Und damit ist die Gruppe weder repräsentativ für die Allgemeinbevölkerung noch für unterschiedliche Altersbildungs- oder Kulturkreise. So hier Einschränkungen sind für explorative Pilotstudien typisch, aber sie müssen bei der Interpretation der Ergebnisse eben auch berücksichtigt werden. Zweitens. Ich habe keine Expertise zur neurologischer Forschung, aber was ich weiß, ist, dass die Interpretation von EEG befunden alles andere als trivial ist. Ein EEG-Mist elektrische Aktivität an der Kopfoberfläche. Und damit habe ich immer nur sehr indirekte Rückschlüsse auf die zugrunde liegenden Kochnitivenprozesse. Die Unterschiede in den gemessenen Frequenzbändern zwischen den drei Gruppen werden in der Studie aber sehr weitreichend geteutet. Etwa als Beleg für Andeengagement, Kochnitiveffizienz oder Aufladigen. Und solche Interpretationen, die sind halt zumindest teilweise spekulativ. Unterschiedliche Aktivitätsmustellen, einem EEG bedeuten, nicht das bestimmte Kochnitiveffähigkeiten verloren gehen, ein befund wie geringere Alfa- oder Bitterkonektivität, das kann sehr vieles bedeuten. Das kann bedeuten, dass eine geringere Anstrengung vorliegt, eine effizientere Verarbeitung, Müdigkeit oder Schlicht- auch Messartifakte. Und surprise surprise, die meisten dieser Punkte kann man im Abschnitt zu den Limitationen in der Studie auch nachlesen. Das eigentliche Problem liegt also weniger in den Daten selbst, sondern viel mehr in der Art, wie sie interpretiert und kommuniziert wurden. Was meint so? Da wird die Rezeption einer nicht peer-reviewten Pilotstudie mit gerade einmal 54 Teilnehmern vor schnell als Beweis für weitreichende Effekte auf langfristige Kochnitivveränderungen verkauft. Die Ergebnisse werden völlig überinterpretiert und in größere Zusammenhänge gestellt, als es die Daten eigentlich hier geben. Und schließlich greift dann ein klassischer Confirmation-Beyes, stimmen die Resultate mit der eigenen Welt- und Schaum über ein, dann werden methodische Schwächen großzügig ignoriert. Die würden sie hier wieder sprechen, stünden eben diese Schwächen plötzlich im Vordergrund und dienten als Begründung, die Studie überhaupt nicht ernst zu nehmen. Das ist eine typische Eigenart des pädagogischen Diskurses in Deutschland. Vielleicht darf sich an der Stelle auch die Hauptautoren selbst zitieren, Cosmina betont, dass die Ergebnisse nicht überinterpretiert werden. dürfen. Die Studie könne und habe keineswegs dummheit, keine Verblödung, kein Urlaub des Gehirns gezeigt. Es sind alles Zitate. Es hatten sich um wenige Dutzend probanten über einen kurzen Zeitraum, sodass weder Aussagen über langfristige Effekte regelmäßiger Chatbot-Mutzung noch über andere KI-gestützte Aufgaben gemacht werden können. Noch zweites Zitat, wir haben keine dieser Antworten in diesem Paper, sagt die Autoren. Doch die mediale Rezeption schnappt genau diese so gestive Deutung auf und verkauft sie als Beleg für eine angebliche, kognitive Verblödung durch Chatbots. Ja, die Autorinnen und Autoren sprechen ja auch an keiner Stelle in der Studie von Verdummung, Verkümmerung des Gehirns, Brain-Rot oder all dem, was inzwischen rein interpretiert wurde. Das wären ja auch alles langfristige Effekte. Und noch mal in dieser Studie wird die Gehirnaktivität während des Schreibens eines Aufsatzes gemessen. Es geht nicht um langfristige Effekte. Es geht um momentane Muste der kognitiven Aktivität nicht um strukturelle Gehirn veränderungen. Um so was wie Verdummung festzustellen, müsste man bei probanten und einer Kontrollgruppe einen Intelligenztest durchführen, dann das Treatment in der einen Gruppe bei einem längeren Zeitraum von mehreren Monaten oder sogar Jahren durchführen und dann wieder den Iq-Test. Okay, dann lass uns mal zu den Implikationen für die Praxis kommen. Können wir unseren Hören und Hörern Entwarnung geben? Na ja, wenn wir eine Technologie haben, die Menschen Denkprozesse abnimmt und dies dazu führt, das Konzentrieren nachdenken, unschlussfolgern und sich Dinge ausdenken, weniger stattfinden, dann ist es schon etwas, was mir persönlich Sorgen macht. Aber wir sprechen ja hier konkret über Forschungsarbeiten und was man aus diesen ableiten kann und aus unserer heutigen Studie kann ich keinerlei Hinweise auf langfristige Kognitiven Schäden ableiten. Und ich frag mich auch wirklich, wie andere das offensichtlich können. Okay, aber irgendwas, was wir ableiten können. Immerhin haben wir ja groß angekündigt, dass wir uns mit Fördermunk beschäftigen werden. Wenn ich dazu etwas ableiten kann, dann weniger aus der Studie selbst, sondern mehr aus ihrer bisherigen Rezeption. Aus meiner Sicht ist Konformation bei es ein wesentlicher Bedingungsfaktor für Verdummung. Lads Schlenkwitsch-Models können den Konformation bei es leicht verstärken, weil sie halt im Prinzip nach Blab bei Engens sind. Aber das eigentliche Problem liegt bei Menschen. Und zwar die Tendenz eigene Annahmen bestätigen zu wollen, statt sie permanent den Frage zu stellen. Man wird nicht schlauer, wenn man immer schon alles weiß und dann alles trut, um die eigene Wäldernschauen zu bestätigen. Dazu kommt mir den Sinn, dass es ja auch nicht einer gewissen Ironie entbehrt, wie die Studie repräsentiert wird. Denn zu den verkürzten Interpretationen kommt eben nicht ein Mensch, der die Studie genau ließ, sondern eine KI, die die Anweisung des Textes befolgt. Und damit zum Beispiel die kritischen Diskussionen und die Limitationen, die ja auch enthalten waren, einfach komplett überspringend ausblendet. Leute, die die Studie als Beleg für Verblöderung durch KI nutzen, heranzieren, nutzen KI-Zusammenfassung der Studie. Ja, das ist wirklich sehr lustig. Komm wir zur Zusammenfassung. Man kann vielleicht vorsichtig festhalten, dass Large Language Models Denkprozesse verbessern können, wenn sie erst nach der eigenen cognitiven auseinandersetzung eingesetzt werden. Aber eben auch, dass sie tiefes und nachhaltiges Lernen aktiv untergraben, wenn sie unreflektiert und vor allem zu früh eingesetzt werden. Was meine ich mit zu früh? Also zu früh bedeutet, bevor selbst gedacht wurde. Der Schlüssel liegt in der Erzwingung ununterstützter, cognitiver Anstrengung in der Phase der Kompetenzentwicklung. Ergänzt durch einen strategisch geteibten Large Language Models Einsatz zur Verfeinderung und Integration. Es gibt einen richtigen Zeitpunkt zum Einsatz von KI und einen falschen. Für mich zeigt die Studie noch etwas zweites. Verdummungsvorwürfe gibt es schon ewig. So gratis warnte einst, die Schrift mache das Denken überflüssig. Später hieß es der Taschenrechner ruiniere das Kopf rechnen. Ist diese pauschale Warnung vor der Verdummung durch KI nicht einfach die neuste Auflage einer alten Technologiskäpses, die das Potenzial des Werkzeuges ignoriert und stattdessen lieber den Untergang des Denkensprofezeit? Ich bin jetzt wieder Kulturhistoriker noch Technikphilosoph, aber ich würde aus meiner Line Perspektive vermuten, dass man den entscheidenden Unterschied von KI zu den anderen Beispielen vielleicht darin sehen kann, dass sie nicht nur einzelne Routine unterstützt, sondern ganze Denkprozesse simuliert und Potenzial ersetzt und dabei auch noch halluzoniert und zum Teil ein massives Beier hat. Aber dazu müssten wir vielleicht mal jemand einladen, der sich mit so etwas auskennt. Sehr gut hier die. Aber nächstes mal würde es erst mal wieder etwas praktischer, wenn wir nämlich der Frage nachgehen, ob das Schummellen durch KI drastisch zugenommen hat. Bis dahin sage ich tschüss und bis bald. Wenn es wieder heißt, studien lesen, bevor man sie zitiert. Kompass KI Forschungsergebnisse zum Einsatz von generativer künstliche Intelligenz in der Schule. Ein Podcast mit Henrik Haferkamp und Benedikt Wissnjefski.