KI im Journalismus - Welche Regeln brauchen wir?

Deutschlandfunk. Nach Redaktionsschluss. Der Medienpodcast. Heute mit "Smike Herbstreut Hallo". Anfang des Jahres im Jahr 'noa, da haben wir hier bei Nach Redaktionsschluss eine Folge zu KI im Journalismus gemacht. Und da ging's um die Frage, wird 2026 das Schicksalsjahr zur Nutzung von künstlicher Intelligenz durch Journalist*innen. Ja, und kein halbes Jahr später kann man sagen, es sieht so aus, also bis das wird. Denn wir haben gerade die ersten KI-Skandal in deutschen Medien hinter uns. Die Fats hatten einen Gastbeitrag des Thüringischen Ministerpräsident Mario Fogh depublikiert, weil der den von einer KI hat schreiben lassen, inklusive falsche Zitate. Fraufin, springer Chef Matthias Döpf, für ein ganzes Artikel von einer KI hat schreiben lassen, der die Fats für dieses Löschendesbeitrags von Fogh kritisiert hat. Tenor ist doch alles hat so wild, seit man nicht so KI-Faltlich. Und kurz später wurde öffentlich das Stefan Andreas Kastoff, Editor at large, beim Tagespiegel, also herausgehubene Redakteur, mehrere seiner Meinungsartikel auch von einer KI hat schreiben lassen. Sind wir an einem Punkt angekommen, den man eigentlich sagen muss, KI schadet dem Journalismus mehr als das sie imnetzt? Das will ich heute besprechen, Helm Podcast. Mit Christina Elmer, sie ist Professoren für digitalen Journalismus an der TU Dortmund, war selber Journalistin und stellvertretende Entwicklungschefin beim Spiel damals, "Hallo, Christina". Hallo und vielen Dank für die Einladung. Dabei ist auch Jana Ballwebe, sie ist Journalistin beim Mediendienst der katholischen Nachrichtenagentur, KNA und beschäftigt sich da mit Medien und Digital-Themen, "Hallo Jana". Hallo, vielen Dank. Und Jens Becker ist auch da, er ist online-Redaktionschef hier beim Deutschland-Radio und Mitglied einer Gruppe, die sich im Haus intern darüber Gedanken macht, wie wir eigentlich KI benutzen dürfen, können sollen, "Hallo Jens". Hallo und danke für die Einladung und ich freue mich aufs Gespräch. Christina, was hast du gedacht, als diese Fälle von Fogt und Kastorff bekannt wurden in den vergangenen Tagen? Also ehrlich gesagt habe ich erst mal versucht, das auseinander zu sortieren, weil da ist ja ganz viel sozusagen drin. Es gibt einmal die KI-Generierten-Meinungstexte, dann Zitate, die von KI-Systeme erfunden wurden. Zu diesen einzelnen Themen muss man erst mal eine Haltung entwickeln. Und ehrlich gesagt finde ich jetzt sehr gut, dass sehr viel Aufmerksamkeit auf dem Thema liegt und dass man sich jetzt vielleicht nochmal stärker damit beschäftigt, was man denn eigentlich mit diesem System tut und was nicht. Und in welcher Hinsicht vielleicht eine etwas unversichtige KI-Nutzung auch dem Journalismus schaden kann. Das finde ich jetzt tatsächlich in der Debatte, was ganz positives. Aber ich hatte auch den Eindruck, da wird auch sehr viel übertret in alle Richtungen und ein bisschen Werteferenzierung wäre gar nicht schlecht gewesen. Ist das auch was, du dir wünschen würdest, Jana bei dieser ganzen Debatte? Ja, also die Differenzierung ist glaube ich wirklich ganz entscheidend. Wir reden da über unterschiedliche Textarten. Wir reden auch darüber, wo es nicht nur darum geht, Texte zu generieren, sondern eben auch um KI-Einsatz allgemeinem Journalismus, der ja auch sehr oft im Hintergrund passiert. Und ich glaube schon, dass da viel durchherinander geht in der Debatte und dass man eigentlich nur vorankommt, wenn man es auseinander hält, so wie Christina das ja jetzt auch gesagt hat. Ich war eigentlich sehr positiv überrascht von der Debatte. Mir war schon klar, dass früher oder später diese Fälle auftreten werden. Aber ich finde die Reaktionen der Medienhäuser sehr ermutigend. Jens als jemand, der für ein Medienhaus dran arbeitet, wie die Mitarbeiterin hier KI verwenden dürfen. Was hast du gedacht hast, du gedacht, da haben manche noch ein bisschen Nachholbedarf oder dich vielleicht auch gewundert, wie dort mit KI gearbeitet wird? Das solche Fälle auftauchen, hat mich überhaupt nicht überrascht. Da ist es eigentlich nur eine Frage des Wann gewesen, meiner Meinung nach. Ich finde es jetzt vor allen Dingen gut, es war klar, dass auch Fälle auftauchen werden, wo klar ist. Das war vorher nicht abgesprochen und da wusste vielleicht der ein oder die andere nicht, was da veröffentlicht wird. Und deswegen finde ich es gerade ganz wichtig, dass wir diese Debatte führen. Und das ist auch was, was wir hier im Haus in verschiedenen Runden in unser, wir haben eine Redaktionssitzung, die 39, eine große des Hauses, wo das auch immer wieder Thema ist, wie wollen wir den KI einsetzen? Und wie halten wir es für verantwortungsvoll? Und das ist glaube ich eine Debatte, die wir jetzt immer weiterführen müssen, weil sich die Möglichkeit hier auch ständig verändern. Ich fand total interessant. Also ich habe mir dann die Kommentare reiche auf so ein paar Webseiten von großen deutschen Medien angeguckt zu Artikeln über Kastor, Fogt und die KI-Nutzung generell. Und da gibt es so zwei Pole, der eines ein bisschen was sollt, stellt euch nicht so an, KI-Hilf-Journalist*innen, die Arbeit zu vereinfachen oder schneller fertig zu werden. Warum sollten sie sich das nicht zu nutze machen? Beliebt auch so, wie der Gärtner, der Mädchen auch mit dem Rasen mehr und nicht mehr mit der Sänse oder Bücher, die mit einem Laptop geschrieben sind, sind auch nicht schlechter als Bücher, die man mit einer Schreibmaschine geschrieben hat. Und auf der anderen Seite hat man dann Leute, die sagen, "Wie soll ich denn jetzt noch trauen, wer da selber Arbeit reinsteckt in die Artikel, wozu brauche ich dann überhaupt noch eine Zeitung, wenn ich dann ja selber die KI-Sachen schreiben lassen kann?" Und auch da waren dann wieder so Beispiel aus dem Handwerk, dass sei so, wie wenn Spitzenkoch eine Tüten-Suppe serviert, kann schmecken, ist aber nicht inspiriert, oder auch ein faular Elektriker, der seinen Werkzeug nicht beherrscht, dem ist auch nicht zuzutrauen, dass er Schaltpläne versteht. Von sich auch ein sehr schönes Beispiel. Kristina, welches dieser Beispiel trifft denn die aktuelle Lage für dich am besten, die Technik offenen Romanautor*innen und Gärtner*innen oder die faulen Elektriker*innen und Köchen? Das ist eine sehr schöne Spannbreite an Bildern tatsächlich. Und ich habe aber bei allen diesen einzelnen Bildern gedacht, das sieht man eigentlich auch im Journalismus. Also es geht sowohl den Bereich, wo man einfach KI-Systeme als Werkzeug benutzt, zum Beispiel beim Transkribieren von Texten, bei Zusammenfassung vielleicht auch, wenn es um Daten an der Lüsen geht, also gerade im Bereich des Datenjournalismus ja auch schon seit vielen Jahren ist Machine Learning ein wichtiges Werkzeug. Und auf der anderen Seite, wenn es darum geht, zum Beispiel beim Meinungstexten, ja, der Kern sozusagen im Produktversprechen eines Meinungstexes ist ja, dass da jemand eine Meinung hat, ein Mensch, eine Meinung hat. Und wenn das quasi simuliert wird, über eine Maschine, die mit Wahrscheinlichkeiten arbeitet und wirklich keine eigenen Meinungen haben kann, dann ist das natürlich an der Stelle schon etwas, was glaube ich die Glaubwürdigkeit durchaus gefährden kann. Aber ich glaube, es ist eben wichtig, dass wir diese Bereiche unterschiedlich diskutieren. Also durchaus würde ich auch sagen, auch in unserem Studium, der Journalistik, mit dem ich auch Lehrveranstaltungen betreuen kann. Da ist es natürlich wichtig, das Studierende lernen, mit diesen Werkzeugen umzugehen und die auch gut beherrschen. Aber natürlich sollte ihn auch wichtig sein, wo ein Journalismus dann aber vielleicht auch sie selbst eine ganz entscheidende Rolle spielen als Menschen, die als Autoren da stehen und ja, da einfach auch ihre eigene Stimme auch tatsächlich selber formulieren müssen. Wie sehen das denn die Studierenden? Gibt es da so Punkte an denen, die sagen, "Mhm, das ist mir jetzt vielleicht ein bisschen too much, da muss man vorsichtig sein oder sind die da generelle Offen für?" Also sie experimentieren gerne viel und dafür bieten wir ihn auch immer gerne die Räume, weil das können wir im Studium prima machen. Aber wenn es darum geht, so was ist eigentlich, oder wie ist das einzuordnen, was aus so einem KI-Sprachmodell herauskommt? Also ist das wirklich etwas, was sich Journalistisch auch mitverantworten kann? Da sind sie zum Glück sehr zurückhaltend, aber natürlich sind sie alle in ihrer eigenen Arbeit so im alltäglichen, schon zuerst sehr vertraut mit Sprachmodellen muss man sagen. Ja, na, wie ist es bei dir? Binets du KI-Tools für deine Arbeit? Ich glaube, da müssten wir erst mal darüber sprechen, was KI eigentlich genau ist. Ich meine es gab ja auch schon KI vor dem Halb um Chat Gipeetee zum Beispiel. Also der erste Schach-Computer, der funktioniert in nach technischen Modellen, der dann ein Mensch besiegt hat, wo damals klar gesagt wurde, dass es KI da würde heute vermutlich niemand mehr davon sprechen. KI ist immer nur so die neueste magische Entwicklung, die wir uns nicht erklären können. Ich finde es auch interessant, dass wir uns in der Debatte im Moment schon sehr oft auf Sprachmodelle beziehen und KI dann so ein bisschen Vorbehalten ist für Agentik AI, was du der neue heiße Scheiß ist irgendwie, um auf deine Frage zu antworten. Natürlich benutze ich KI im Alltag und ich benutze aber keine KI, um beispielsweise Texte zu generieren oder ähnliches. Ich glaube, dass sie Leute sehr unterschiedliche Anwendungsbereiche gefunden haben. Ich sehe das auch so in meinem Umfeld. Sei es jetzt Hilfe bei der Recherche. Ich weiß, dass es im Datenzonalismus einfach komplett neue Möglichkeiten eröffnet. Das spielt für meinen Alltag jetzt weniger Rolle. Aber was ich zum Beispiel gerne mag, ist mir Interviewfragen von KI generieren zu lassen und die dann nicht zu stellen, weil die sind auch die KI gekommen wäre und nicht die, für die man eben originell denkenden Menschen braucht. Und solche Sparingspartnergeschichten finde ich manchmal ganz hilfreich im Hintergrund. Jens, was glaubst du denn? Warum ist diese Debatte, diese Fälle, warum helfen, die sich gerade jetzt so ist? Weil diese Tools jetzt im Moment einfach so weit entwickelt sind, dass sie für alle Nutzbar sind und dass sie in den Redaktionen ankommen. Oder ist das einfach nur Zufall? Zufall ist das nicht als TouchyPT rauskam. Ein Riesenhype, hat dir eher gerade auch schon gesagt. Wenn man ehrlich ist, war das, was TouchyPT an Text generiert hat, ja, auch oft wirklich jetzt. Ja, net hat man kurz drüber geschmunzelt. Aber wir haben auch viel damit rumgetestet und haben eigentlich dann das allermeiste verworfen. Mittlerweile finde ich und Jana Duas gerade das Beispiel mit den Interviewfragen gesagt für Überschriften, für Formulierung, eine KI als Sparingspartner zwischen durchzunutzen. Da kommt ja Mittlerweile, je nachdem, wie man prompted, kommt da ja wirklich oft auch was Brauchbares raus, nicht, dass ich etwas so direkt übernehmen würde. aber so als Ferringspartner zum Nachdenken. hilft das ja schon, wenn man gerade nicht ne kollegenden Kollegen hat greifbar. Und ich glaube, es ist die Erfahrung, die Entwicklung der Sprachmodelle und die Erfahrung der Menschen mit den Prompten, also wirklich so zu Prompten, dass auf was gescheites bei rauskommt. Das führt dazu, dass die Ergebnisse halt auch mittlerweile besser werden. Und gleichzeitig ja immer mehr dann auffällt, hat der oder die eigentlich früher auch so geschrieben, hat er auch so gesprochen oder wie viel KI steckt da jetzt gerade drin. Ja, ich glaube, das ist auch die Frage, die sich dann viele Stellen eben dieses, wo hört dann vielleicht das eigene Denken auf, wo beginnt die eigene Arbeit, wo beginnt die Arbeit der KI und Janaduaß im Medium-Magazin einen Kommentar zur Debatte geschrieben und das zu geschrieben, dass KI generierte Journalismus für dich kein Journalismus ist, sondern ich zitiere mal Verbraucherteuschung, wo Journalismus draufsteht, darf kein überdimensionierter Taschenrechner drin sein, selbst dann nicht. Wenn der ungeübte Leser den Unterschied nicht sofort bemerkt, denn genau hier geht das für die Demokratie so unerlässliche Medienvertrauen flöten, zitatende. Was glaubst du denn da, was da grundsätzlich es zerbrechen könnte? Ich glaube, dass KI sehr gut darin ist. Also wenn wir jetzt über wirklich generative KI sprechen, die Artikel schreibt, die Sachen im Hintergrund würde ich mal ausklammern, an der Stelle. Aber wenn wir wirklich über KI generierte Artikel sprechen, die sind sehr gut darin, einen Journalismus ähnliches Produkt herzustellen und deswegen war mir das auch so wichtig zu erwähnen, dass der Unterschied nicht unbedingt immer spürbar ist. Aber für mich ist Journalismus eben nicht nur das Produkt, was am Ende dabei rauskommt, sondern der ganze Prozess, das ganze System im Hintergrund. Ich glaube, dass wir einen großen Mangel darin haben, zu erklären, wie dieses System funktioniert und ich glaube, dass die Probleme mit dem Medienvertrauen teilweise auch damit zu tun haben, dass wir eben besser erklären müssen, dass wir einen Handwerk sind und nach welchen Standards wir arbeiten und was da dahinter steckt. Und ich glaube aber, dass das alles dazu gehört, um eben Journalismus als Gesamtsystem herzustellen und dass es nicht nur auf das letztendliche Produkt ankommt. Und ich glaube, wenn wir das Produkt KI generieren, dass wir automatsten Prozesse dann auslagern, weil ich strukturier meinen Denken zu einem Thema auch beim Schreiben und gerade wenn wir über Meinungstexte sprechen, finde ich, dass da der Aspekt der Personalisierung eine Rolle spielt. Also viele sind ja sehr treue Leser oder Zuschauer von bestimmten Sendungen, Formaten, Medienprodukten, Zeitungen oder ähnliches und kennen die Leute, die dort kommentieren und ein Menschen kann ich vertrauen entgegenbringen oder eben kein Vertrauen entgegenbringen. Und ich finde, dass bei Meinungstexten die Person, die dahinter steht noch mal mehr in den Vordergrund, tritt als bei anderen Texten und dass es da eben essentiell ist, dass die Menschen sich darauf verlassen können, dass das dann wirklich auch einen Menschen gemacht, da Text ist. Christina, wie siehst du das, ist da diese Gefahr, da das Medienvertrauen flüten geht? Ja, definitiv. Also das hat ja noch ja gerade auch schon total gut mal umrissen. Dieses Thema, was weibendes Wissen Menschen eigentlich darüber, wie Redaktionen Qualität sicherstellen. Das ist halt relativ gering dieses Wissen in der Regel und das ist etwas, was Redaktionen noch viel besser kommunizieren könnten, um eben auch deutlich zu machen, dass eine verantwortungsvolle KI-Nutzung sogar von Sprachmodellen tatsächlich auch möglich ist. Und das ist auch etwas, was mir in der aktuellen Debatte tatsächlich noch so ein bisschen ja sauer aufgestoßen ist, so dieses Thema der KI-Detektoren. Sie ist immer mal wieder genannt worden und wurde ja auch tatsächlich auch diskutiert von den Medien selbst, dass man eben diese Texte erkannt haben, will über KI-Detektoren, die aber natürlich nicht sicher arbeiten, die machen selber viel zu viele Fehler und sagt ja auch gar nichts darüber aus, ob ich jetzt den Text vorher selber geschrieben habe, vielleicht und am Ende nur noch mal habe, überarbeiten lassen, oder ob ich ihn wie jetzt hält, z.B. mit einem lapischen prompt quasi einfach mal direkt habe generieren lassen, ohne mir selber irgendeine Arbeit gemacht zu haben. Und das finde ich, es am Ende auch eine ganz wichtige Unterscheidung, die man aber dann auch kommunizieren muss. Also das müssen Leute eben auch verstehen, was im Hintergrund an Qualität sich hierherung auch passiert. Das finde ich, es ist ein ganz entscheidender Punkt, nämlich man könnte ja jetzt argumentieren. Ich sage explizit, ich würde das nicht tun, aber die Argumente kommen einmal entgegen, wenn ich mir richtig die richtigen Gedanken mache und wenn ich dann entsprechend viel prompte, das ist ja nicht nur dass man da irgendwie mal einen lapischen prompt irgendwo in chat GPT reinhaut, sondern da muss man sich ja schon viel Gedanken machen, wenn am Ende da etwas bei rauskommt, von dem ich auch überzeugt bin, dass das meine Meinung ist. Dann ist für mich genau der Punkt, Jana, was du sagst, das ist dann ein KI Produkt, weil wenn ich genau überlege, um ehrlich zu sein müsste, ich genau das transparent machen. Und dann muss ich mir auch vergegenwertigen, sprachmodelle haben Beius, sprachmodelle diskriminieren, habe ich das wirklich alles bedacht, habe ich das wirklich reproduziert, wenn ich mein Meinungstück geschrieben habe, weil da glaube ich, werden wir dann da vertrauen, wir ganz schnell ganz leicht der Maschine und wenn wir das wirklich mal transparent machen würden, dann würden die Menschen uns wahrscheinlich zu recht genau deswegen nicht mehr vertrauen. Wir sind dabei quasi genau aufzulisten, welche KI-Nutzung muss wie transparent gemacht werden und da ist zum Beispiel, müsste ein Text der weitgehend von KKI geschrieben ist, wo ich vielleicht noch mal drüber geguckt hab, da müsste das dann auch drunter stehen und das möchte keiner hier und das ist eben auch, da steht auch so in unserer KI-Richtlinie drin, dass wir genau das nicht tun wollen. Uns geht es eben darum KI gestützt zu arbeiten freiräume für unsere eigentliche journalistische Tätigkeit, nämlich Analyse, Einordnung, kritische Perspektive zu haben und es soll eben nicht darum gehen, möglichst schnell ein paar Texte geschrieben zu haben, sei es jetzt fürs Radio, sei es für online oder für Social Media. Jetzt sind wir natürlich beim öffentlich-rechtlichen Rundfunk, es gibt andere Medien, da ist der privacere wirtschaftliche Druck auch größer und ich sehe schon bei einigen Verlagen auch diese Tendenz, dass ich da vielleicht so ein bisschen auch gedacht wird, hey, damit können wir die Effizien steigen, das ist schon immer großes Thema bei uns. Deshalb machen wir da viel mit. Also zum Beispiel der Verlag-Ippen, im Media Markus Knall des Geschäftsredakteur der Super-Große KI-Fan, er verantworteten Netzwerk aus 70 Websites, darunter 20 Lokalseitungen, Müncher Merkohl, Strunter, Frankfurt und Rundschau mit so eine Gesamtauflage von 750.000 und monatliche Online-Ur-27 Millionen und dort lassen Sie ganze Texte von KI schreiben, zum Beispiel zu Lokalwahlen, wo Sie sagen, wir können in jeder Gemeinde vor Ort sein, wir lassen das von KI zusammenfassen, ihr Ergebnis auch ohne, dass da nochmal über jeden Artikel ein Mensch drüber schaut. Also es gibt so Stichproben, aber diese so genannte Human in the Loop, dieses Prinzip, dass eben der Mensch nochmal drüber gucken muss und dann auch die Verantwortung trägt für das Veröffentlichte, das fällt da weg. Christina, siehst du, dass als Einweg den auch noch andere Verlage gehen oder das Ippen da schon so ein mehr besonderer Fall? Also ich habe ähnliche Anwendungspfälle tatsächlich auch schon häufiger gehört und mich ändert das ein bisschen auch an die Zeit als der Robotagenalismus, wo man dann auf der Basis von Datenmengen zum Beispiel im Sportjournalismus oder auch bei Wahlen dann automatisierte Artikel generiert hat, haben wir beim Spiegel auch damals schon gemacht, als ich noch dort gearbeitet habe und wir haben ganz bewusst gesagt, wir machen nur Lückentext mit klar vor definierten Textblöcken, weil das bei Wahlen einfach so ein wahnsinnig wichtiges Thema ist. Da möchte man einfach keine Halluzination, keine KI zum Beispiel haben, die dann den Wahlen sieht, der AfD möglicherweise sozusagen ja einen falsches Licht rückt usw. sondern man möchte da wirklich alles unter Kontrolle haben. Ich kann mir aber andere Themen vorstellen, wo das ja vielleicht dann auch in Ordnung ist und wo die inhaltliche Lasse sozusagen die auf dem Thema liegt, jetzt nicht ganz so groß ist. Also wenn da eine gute Datengrundlage da ist und man kann am Ende auch mit Rack Technologien, also mit Technologien, die dann noch mal rücküber prüfen, ob das was tatsächlich verwendet wurde in dem Text auch der Fakten-Datenbank im Hintergrund entspricht, dann ist es vielleicht vorstellbar. Also der Eben-Vallag hat hier auch mit den bayerischen Rundfunk ein gemeinsames Projekt, den berätseln Bord auf der Baseseiner gemeinsam Datengrundlage eines trusted content pools und da hatte ich den Eindruck, das ist schon sehr verantwortungsvoll entwickelt worden. Jana bei der KNA wie handt habt ihr es da? Also es gibt Vorgaben, die finde ich aber ziemlich allgemein würde ich jetzt mal so sagen, also es ist natürlich festgehalten, dass jeder Art von Kainutz und allen Standards entsprechend muss die auch sonst für Adel-Texte gelten. Wir haben so Tools, die uns beispielsweise bei Überschriften und Tisern zur Hand gehen, Erfahrungsgemäß werden die auch genutzt von den Kolleginnen, allerdings glaube ich, dass die wenigsten Sachen eins zu einzübernehmen, sondern dass das dann auch eher so oft der Ebene von Sparingspartnern ist. Man muss halt auch dazu sagen, dass man als Agentur noch mal eine andere Art von Verantwortung hat. Fehler, die wir machen, multiplizieren sich natürlich bei allen unseren Kunden und Kundinnen, inklusive aller rechtlichen Verantwortigkeiten, die man da hat. Insofern glaube ich, dass das weniger praktikabel ist, einfach weil die Fehler, die man ja beispielsweise auch bei Ippen immer wieder sieht bei den KI-Artikeln. Also die Kolleginnen und von über Medien sind daher sehr fix hinterher, da regelmäßig nachzuschauen, wenn sie mal wieder in Bock geschossen haben mit der KI-Nutzung. Auch bei den Wahlthemen, die sie da gemacht haben, gab es beispielsweise Probleme, wenn es Gleichstand gab, in Landkreisebene oder so, weil das eben Szenarien waren, die vorher nicht mit bedacht waren. Das sind viele Dinge, die wir hier haben. die lassen sich ausmerzen. Aber wenn der Fehler passiert ist, dann ist er natürlich da und untergräbt das Medienvertrauen auch, wenn er dann hinterher korrigiert werden kann. Und ich glaube, dass für die meisten Menschen der Journalismus ein Gesamtsystem ist und sie dann nicht sehr unterscheiden, ob jetzt einen Online-Portal dem Öpenverlag angehört, die so oder so mit KI umgehen, sondern dass solche Fehler natürlich immer eine Rückwirkung auf die gesamte Branche haben. Und deswegen ist es so wichtig, dass man als Branche diesen Diskurs gemeinsam führt, weil natürlich alles was irgendwo gemacht wird auf alle zurückfällt, ist zumindest so ein Stück weit mein Eindruck. Jetzt hat man da natürlich aber so sehr KI offene Verlage, wie jetzt zum Beispiel Eppen oder auch Springer, dann hat man auch Medien, die sehr sehr viel vorsichtiger sind. Ist es denn überhaupt möglich zwischen den Konsens zu erreichen, was okay ist, was nicht oder hätte man diese Debatte schon viel früher führen müssen und jetzt macht jeder mehr oder weniger sein oder ihr eigenes Ding. Also ich glaube Konsens ist vielleicht gar nicht unbedingt das Ziel, dass man jetzt eins zu eins bei allem auf einer Linie legt, aber ich meine die Branche hat es auch in der Vergangenheit geschafft, sich auf Standards zu einigen, sei es jetzt der Presse-Codex oder sein ist so impliziteetische Annahmen über Journalismus, denen sich hoffentlich die meisten verpflichtet fühlen, man kann es natürlich auch nicht so eins zu eins vergleichen. Also das, was der Eppenverlag macht gerade im Onlinebereich, ist natürlich sehr viel reichweiten Journalismus, da geht es viel um korratieren, um Masse, da ist es natürlich was ganz anderes, als wenn man jetzt beispielsweise zur FZ schaut oder zur Südeutschen Zeitung, wo es dann eher so darum geht, die organiseren Geschichten zu machen, die auch größere Recherchen machen, die sich natürlich für weniger Auslagern lassen. Und ich glaube, so ein Konsens herzustellen wird schwierig sein, wir nutzen es gar nicht oder nur so oder so weiter, aber ich glaube, es ist auch in der Vergangenheit gelungen, sich auf Regelwerke zu einigen, wie die dann in der Realität umgesetzt werden, ist immer die andere Frage, dafür gibt es den Presse-Rat, weil sich eben nicht jeder an den Presse-Codex hält, aber ich glaube, dass es unerlässlich ist, dass man da weiter drüber spricht. Ich finde da noch einen weiteren Gedanken dabei, entscheiden das am Ende nicht auch ein ganzes Stück weit die Menschen da draußen, weil die einsetzen wirklich auf Masse. Und dann passieren da ziemlich viele Fehler und meine Einschätzung im Moment ist, wenn man als Menschenfehler macht und sagt, oh, das war nicht gut, dann wird einem das vielleicht noch verzien, wenn die Kaide in Fehler macht und das einfach veröffentlicht wird, dann ist, glaube ich, der Schaden für den Anbieter, aber auch den Journalismus im gesamten deutlich größer. Ich war letztes Jahr beim Treffen mit allen Raspelager, dem dem langjährigen Guardian-Chef und der hat zum Beispiel gesagt, er würde heutzutage nur noch den Weg gehen zu sagen, ich suche mir eine ganz kleine Zahl an Themenbereichen, drei bis fünf und in denen muss ich mein Anbieter, mein Medienhaus, der absolute Experte sein, dann verstehen die Menschen da draußen, die wissen, wo von sie reden, die machen solche Fehler nicht und dann ist eben genau, es egal, ob da KI auch im Spiel ist oder nicht, weil die Menschen dann auch verstehen, dass KI dann verantwortungsvoll eingesetzt wird. Christina, was würdest du denn sagen? War die letzte Woche dann jetzt so ein wichtiger Schuss vor den Buch der deutschen Medienbranche oder wären wir in Zukunft noch häufiger von Depublikation wegen unerlaubte KI-Nutzung Lesen hören sehen. Ich glaube, eigentlich muss man das sowohl als auch beantworten, weil ich finde einerseits den Impuls jetzt sehr, sehr wichtig. Ich glaube, dass wir jetzt erst so richtig in die Diskussion einsteigen wie über die Fragen im Hintergrund und dass man auch wirklich mal aufdröselt, um welche KI-Systeme geht es eigentlich und was erwarten Menschen von Redaktionen in dieser Hinsicht, aber was ich tatsächlich nicht hoffe ist, dass weiterhin Texte depublikiert werden, weil erstens vergisst das Internet nichts und zweitens kann man sich ja damit auch dann tatsächlich auseinander setzen. Also ich glaube, es wäre ein großer Gewinn in Zukunft, wenn man über solche Texte spricht, dass die eben kommentiert werden, dass die aufdröselt werden, dass man auch deutlich macht, warum dieser Text einem Standard, den man ja offensichtlich hat, explizit oder implizit, nicht genügt, damit man wirklich in tiefer ins Thema kommt und dass Menschen das auch wirklich dann nachvollziehen können. Wenn wir so mit ja repärenden Leserin und Lesern zu sprechen und fragen, was erwarten Sie denn eigentlich, was Medien so mit KI machen, dann erwarten die schon, dass da ziemlich viel passiert und dass das ziemlich stark genutzt wird und sie wünschen sich eigentlich eine Kennzeichnung, die übergreifend gemeinsam ähnlich aussieht, tatsächlich, um das eben auch wieder zu erkennen zu können. Und ich glaube, dass wir da eigentlich jetzt noch weiterhin kommen müssen und dafür war das sicherlich eine ganz hilfreiche Woche auch, wenn ja ich mir jetzt eigentlich nicht so viele Unfälle gewünscht hätte, um das Thema voranzutreiben. Ja, wir arbeiten tatsächlich auch in dem Projekt daran, mit Medienpartnern auch gemeinsam und Forschungspartnern, dass jetzt vielleicht so gemeinsam auch zu entwickeln, dass muss jetzt kein gemeinsames Regelwerk werden. Es hat ja Janar eben auch schon gesagt, dass wäre zu viel verlangt. Also die KI nur zum Können wir nicht regeln über alle Redaktionen hinweg, aber vielleicht kann man sich auf irgendein gemeinsames Kommunikationsmerkmal, ein Label, ein Signal, irgendetwas einigen, sodass es verständlich wird für die Menschen da draußen, was sie da eigentlich gerade konsumieren. Das wäre aus meiner Sicht sehr, sehr schön. Vielleicht auch eine Ergänzung bei der Diskussion um die Kennzeichnungspflicht noch eine Sache interessant, weil ich glaube, dass das für viele erst mal dazu führt, dass sie sich überhaupt gedanken darüber machen, wie sie die KI dann tatsächlich einsetzen. Also den ganzen Text zu generieren, haben wir jetzt schon drüber gesprochen, ist ja nur der extrem fall. Und wenn man jetzt wirklich eine Kennzeichnung haben möchte, dann muss man natürlich überlegen, welche Arten von KI-Nützungen das mache ich kenntlich. Also ist es die Rechtschreibkontrolle, ist es die Übersetzung, ist es die Transkription von Interviews? Und ich finde das ganz hilfreich, also ich bin da auch unentschieden, ob das hilft, ob das sinnvoll ist, das einheitlich zu machen. Aber ich finde die Diskussion darüber, wenn jeder sich das mal für seine eigenen Beiträge überlegt und vielleicht auch überlegt, welche Art von KI-Nützungen im vielleicht peinlich wäre, transparent zu machen beim eigenen Beitrag, dann kommt man vielleicht auch der Antwort auf die Frage, ne, welche Arten problematisch sind, weil wenn man was nicht transparent machen möchte, dann gibt es da vielleicht auch einen Grund für. Lass uns zum Abschluss vielleicht noch mal kurz eine kleine Runde machen mit einer Frage an euch alle. Christina Deutsch, erstes, wie würden denn in der Idealeinwelt Journalist in den KI benutzen? Also in meiner Idealeinwelt würden sie KI benutzen tatsächlich, also verschiedene KI-Systeme immer da, wo es sinnvoll ist. Also kompetent auf jeden Fall, aber auch expierementierfreudig, also dass sie auch ausprobieren, in welchen anderen Kontexten es vielleicht noch interessant sein könnte, aber eben im geschützten Rahmen in der Redaktion. Sie würden es kritisch und reflektiert nutzen, also auch überlegen werden eben schon Jens hat die Beistes angesprochen, ganz, ganz wichtig zu überlegen, mit welchen Systemen arbeite ich da eigentlich, was hole ich mir da auch inhaltlich an Verzerrungen in meiner Arbeit rein, wenn ich die Inhalte übernehmen würde. Das ist glaube ich ganz, ganz wichtig und sie würden immer die letzte Entscheidungsinstanz bleiben. Also sie setzen einfach immer auf dem Driver-Seed sozusagen und würden entscheiden, wie sie diese KI-Systeme im Dienst des Gemeinwohls, im Dienst ist Publikums einsetzen, um eben guten Journalist muss zu machen. Jens, was meinst du? Ich denke KI kann uns an so vielen Stellen helfen. Wir alle haben die ganze Zeit dauernd irgendwas noch zu tun und wenn die KI es schafft, uns die Freiräume zu schaffen, damit wir uns aus wesentlichen konzentrieren können, hab ich grad schon mal gesagt, Journalistische Einordnung, kritische Perspektive, wirklich die Qualität und redaktionelle Verantwortung, absolut in den Mittelpunkt zurück. Eine KI wird auch nicht auf den Marktplatz gehen und sich mit Menschen unterhalten, das wird sie nicht tun. Und dass wir dafür mehr Zeit haben und gleichzeitig immer und das ist auch der Grundsatz bei allem, was wir auch an Richtlinien aufgeschrieben haben, die Freigabe erfolgt immer durch einen Menschen. Das muss jungen in den Lumpen, das absolut unverrückbare Grundprinzip bleiben. Ja, und du hast das Schlusswort KI-Nutzung, wie sollte sie in der ideale Welt aussehen bei Journalistinnen? Ich glaube, für eine gute KI-Nutzung müsste man erst mal die ideale Welt des Journalismus allgemeinschaffen. Ich glaube, dass viele Probleme, die mit KI-Nutzung einhergehen, auch mit anderen Arten von Problemen einhergehen, die das System Journalismus hat. Zum Beispiel eben die wirtschaftliche Krise damit einhergehend der Druck- und der Stress in den Redaktionen. Ich würde mir wünschen, dass Journalistinnen niemals aus Zeitdruck KI einsetzen müssen, dass sie niemals KI einsetzen müssen, weil sie das Gefühl haben, dass sie ihr Pensoom sonst nicht schaffen. Natürlich kann das Sachen effizienter machen. Ich möchte bitte nicht meine Interviews wieder selber transcribieren müssen. Aber ich glaube, dass man da eben im System an anderen Stellen sehr viel reparieren müsste, damit man dann wirklich die KI als Werkzeug begreifen kann und eben nicht nur als Produktivitätssteigerung um dann vielleicht auch noch Stellen abzubauen. Und ich würde mir auch wünschen, dass man sich ein bisschen mehr um Lieferketten und um Abhängigkeiten Gedanken macht bei dem Einsatz der Systeme. Wie entstehen diese Systeme von welchen Konzernen machen wir uns damit abhängig? Von welchen klimaschädlichen Technologien machen wir uns damit abhängig? Ich glaube, dass das einen Punkt ist, den weniger Häuser im Blick haben und das würde ich mir mehr wünschen. Das persönlich freue ich mich immer, wenn Führungskräfte ihre Mitarbeiter mit einbeziehen in die Frage, wie KI einsetzt wird. Ich habe 1.000 Wünsche, was man automatisieren könnte an meiner Arbeit. Und das ist aber oft nicht das, was dann vielleicht die Priorität in Redaktionen ist. Ich weiß, dass es vielen Menschen so geht und ich glaube, da hilft es sehr, die Menschen mit einzubeziehen, die damit arbeiten soll. Das war nach Redaktionsschluss zum Thema KI im Journalismus. Mit dabei war heute Jana Ballweber, Experts in Familien und Digital-Themen bei der katholischen Nachrichtenagentur, KNA, also dem Christina Elmer, Professorin für Digital-Jolismus, Journalismus an der TU Dortmund und Jens Becker, Chef der Online-Redaktion von Deutschlandfunk und Deutschlandfunkkultur. Vielen Dank euch, Dr. Rein. Danke. Vielen Dank. Und falls Sie ein Thema haben, über das wir hier unbedingt mal sprechen sollten, dann schreiben Sie uns gerne an nach [email protected]. Meine Name ist Mike Herbst Deutsch. Danke fürs Zuhören. Machen Sie's gut.