KI, Deepfakes & Co: Was ist überhaupt noch echt?

Leute, ihr wisst, man kann Videos im Internet wirklich nicht mehr trauen. Ich meine, wer weiß, bin das gerade wirklich ich, der hier im Studio sitzt und mit euch spricht, oder ist das alles nur Karten. Tja, tatsächlich habe ich das gerade gesagt. Aber wir wissen ja auch alle, dass das mittlerweile ohne Probleme möglich wäre, mich einfach so in ein Studio rein zu generieren. KI generierter Content kann ja auch ganz witzig sein. Der Papst, wie auf einmal eine Fancy Down-Jaggedrägt, kann Inchen, die auf einem Trampolin rumhüpfen, oder Friedrich März, wie er die neuesten TikTok-Tenze auspackt. Aber KI kann uns auch täuschen und im schlimmsten Fall richtig schaden anrichten. Du bist auch nicht viel, dass meine Familie gut erklären kann. Also so "Hey Mama, Papa, es gibt irgendwie gefälschen Nackbilder von mir im Internet, die zu 1000 geleigt und runtergeladen werden. Es ist irgendwie nicht so eine einfach Konversation." Kurz vor Weihnachten stößt Herr Rhesier im Internet auf ein Fake-Profil von sich selbst. Jemand hat mit KI pornografische Bilder und Videos von ihr erstellt und veröffentlicht. Bilder, die sie nie gemacht hat und trotzdem ist der Gesicht überall. Und aber ich hab auch fünf paar Sekunden so gedacht. Wann wurden diese Bilder aufgenommen? Also mein Gehörn hat wirklich so länger gebraucht und zu checken, "das bist gar nicht du, das ist ein gefälschtes Bild." Woha, das muss ja so absurd sein, das so zu sehen. Diese Bilder sind mittlerweile einfach so täuschen echt, dass wir sie kaum noch von echten Bildern unterscheiden können. Und Anfang des Jahres war ja auch der Fall von Kulin vernanntes Groß in der Presse. Sie kämpft ja schon seit Jahren gegen Deepfake Pornos, die gegen ihren Willen erstellt und im Internet verbreitet wurden. Aber nicht nur KI-Pornos sind ein Problem. Plattformen wie TikTok werden regelrecht mit KI geflutet. Ein Viertel aller meist geklickten TikTok-Suchekepnisse sind KI generiert. Und nur die Hälfte der KI-Beiträge auf TikTok sind auch richtig als KI geläbelt. Das zeigt eine Studie aus dem Jahr 2025. Auch in meinem Freundeskreis und auf Social Media wird gerade ziemlich viel darüber diskutiert, wie schwer es mittlerweile ist, KI-Kontent zu erkennen. Insicher seid ihr euch eigentlich, ob ihr noch echte Bilder von KI generierten Fakes unterscheiden könnt. Ich nehme mich nicht mehr so sehr. Welche nicht auf die Kommentare gegangen ich jetzt komplett für eure Mönzungen genommen. Was ist die genuine purpose of creating realistic AI-Images? Call me a pessimist or conspiracy there is, but the only thing I can think of is this is to have a question the reality of everything. Also, das wirkt ja so, als wäre es fast unmöglich zwischen KI-Kontent und echt dem Content zu unterscheiden. Und das ist auch für unsere gesamte Gesellschaft eine richtige Gefahr. Und gerade dieses Problem hat uns dann sehr lange beschäftigt, weil sie immer auf der Auswirkungen hat, z.B. auf möglichen Angriffe, auf die Demokratie, diese ganzen Missinformationskampagnen und dass man die Menschen beeinflussen kann. Ich bin Julian Stoper und ihr hört uns seht wissen Weekly. Der Videopotkass, der noch nicht von einer künstlichen Intelligenz betrieben wird. Wir graben uns für euch durch Studien und reden mit Experten und Betroffenen, damit ihr in der nächsten Diskussion wirklich wisst, was gerade Sache ist. In dieser Folge klären wir, wie problematisch ist KI wirklich. Okay, so welches Video würdest du sagen, ist AI. Also man sieht hier so ein Heide durchs Wasser schwimmt. Das ist meine Kollegin Leagrise. Sie testet gerade mit mir, wie gut ich darin bin, echte Videos von KI-Videos zu unterscheiden. Und Realtalk, ich dachte, das ist deutlich einfacher. Ich glaub das rechte. Das rechte? Ich glaube das rechte ist AI, weil ich das. Nein, das liegt schuldig und das linke. Ich glaube, wenn man im Wasser wär und da werden Heider, wirkt man den High-Wider-Film. Der Test, den ich gerade mache, basiert auf einer Studie des KI-Unternehmens Run-Way mit über 1000 Teilen nehmt. Vor dem Test war ich noch ziemlich überzeugt von meinen Fähigkeiten. Ich dachte, dass ich die KI-Videos easy an diesen klassischen Merkmalen erkennen kann. Also schiefe Zähne, Weerda, Hintergrund oder vielleicht ein Finger zu viel. Ja. Ich finde, ich war uns nicht schwer, ich glaub, links ist echt. Links ist es. Also rechts ist KI. Ich hab das Gefühl, der Hund hat sich komisch bewegt, keine Ahnung. Okay. Ich drücke mal rechts KI. Wenn ihr Lust habt, den Test auch zu machen, wir verlinken ihn euch in den Show-Nodes. Wie mein Test ausgeht, das verrat ich euch später. Zum Glück bin ich mit meinen Struggles aber nicht allein. Sagt unser Experte in dieser Folge. Professor Dr. Thorsten Holz. Er ist Direktor am Max Planck-Institut für Sicherheit und Privatsphäre in Bochum. Was ich ziemlich krass finde, so richtig wohl fühlt er sich auf Social Media selbst nicht mehr. Ich war früher ein großer Fan von Twitter, dass ich leider nicht mehr ganz das tolle Sozialhändel zu verärkt. Da bin ich leider raus. Seitdem habe ich keine richtig neue Heimat gefunden. Ich hab zwar Profiler auf den sozialen Medien, aber Twitter trau ich immer leider noch ein bisschen nach. Thorsten Holz beschäftigt sich damit, wie sicher, wie im Netz sind und wie gut wir Täuschungen überhaupt noch erkennen. Um das herauszufinden, hat er mit Kollegen in den im Jahr 2023 eine der ersten wirklich umfassenden Studien weltweit dazu gemacht. Mehr als 3000 Menschen aus den USA, Deutschland und China sollten bei Bildern, Audio und Texten unterscheiden, was echt und was KI generiert ist. Und das Überraschende Ergebnis war, dass die Modelle mittlerweile so gut sind, dass die Menschen fast geraten haben. Also wir waren nicht systematisch in der Lage zu unterscheiden, ist etwas echt oder gefälscht. Das ist so crazy. Bei Audio und Texten konnten nur 60 Prozent der Teilnimmenden zwischen Echten und KI inhalten unterscheiden. Und bei Bildern sah es noch schlechter aus. Da lag die Trefferquote in der Studie im Schnitt bei unter 50 Prozent. Es ist einfach richtig schwer. Sogar Experten in den für Gesichtserkennung können KI generierte Gesichter kaum von Echten unterscheiden. Das zeigt eine australische Studie vom Februar 2026. Also früher war ich noch so ein typischer Methode. Man hat sich den Hintergrund genauer angeschaut, hat dann in Konsistenzten gesehen. Oder was typische bei einer Frau, das sind Linker oder Rechte-Oring, unterschiedlich wahr. Die Modelle wurden aber besser, dass es heute fast kein Problem mehr. Die Hinterkunde sind gut. Die ganze Konsistenz in ein halbes Bild ist stimmig. Also wird immer schwieriger, weil die Modelle eben auch viel besser trainiert werden. Viel besser sind. Das ist so heavy, wenn unser Experte von früher spricht, meint er vor ein bis zwei Jahren. Das war ja gerade erst. Und interessanterweise ist es auch noch so, dass wir KI-Gesichter sogar als vertrauenswürdiger Einschätzen als Echte-Gesichter. Das zeigt eine Studie aus dem Jahr 2022. Und ja gut, jetzt können man denken, irgendwie doof, aber nicht als ordionalverbraucher betrifft das ja eigentlich nicht wirklich. Und das stimmt halt leider nicht. Wir können alle Opfer werden, zum Beispiel von Deepfakes. So ging es zum Beispiel meld. Sie ahnt nichts Böses, als sich eine Freundin bei ihr meldet. Die hatten mir an diesem Tag früh morgens auf Instagram so, danach ich geschrieben, hey, guck mal, das sieht voll irgendwie nach dir aus. Hast du damit was zu tun? Guck dir das mal an. Mel, online besser bekannt unter Vannelli Meli, arbeitet seit über zehn Jahren als Content-Kreaterin, Fotografin und Model. Als Mel auf den Link von ihrer Freundin klickt, sieht sie auf einmal ein Werbesport mit einem Model, das wirklich eins zu eins meld sein könnte. Nur, dass sie noch nie von der Kampagne gehört und auch nicht am Werbesport mitgewirkt hat. Ihr Verdacht, für die Werbung wurde eine Art KI-Zwilling von ihr erstellt. Also ein Deepfake. Ich war schon sehr schockiert. Also es war also ich saß vor meinem Computer und hatte wirklich so die Kennlade unten. Weil das total absurd ist. Also ich muss sagen, dadurch, dass hier eine kreative branche Arbeit viel mit Fotog ist mir jetzt KI-Generator Content natürlich nicht fremd. Aber dann so eine starke Inlichkeit, zu sich selbst, zu sehen, war schon einfach ein bisschen beängstigend. Schaltet jetzt gerne mal den Videoportkass an, da könnt ihr mal sehen, wie das aussieht. Dieser KI-Avatar-Zwäh in jedem Frame ein bisschen anders aus. Aber ich finde schon, dass die Ähnlichkeit echt krass ist. Denn Mel hat im Frühling 2023 für eine andere Werbekampagne Fotos auf Instagram hochgeladen. Mit dem selben Outfit und Look wie die KI-Mail in dem Spot. Vor allem auch in der Kleidung. Weil das halt eins zu eins wirklich aufs kleinste Detail der Hosenfarbe und das muss da vom Kleid ist so genau wahr. Es hat das Gefühl, ich bin in einer parallel Welt quasi gelandet. Auch voll die grusige Vorstellung plötzlich morgens mit Bildern von sich in einer Werbung aufzuwachen, nur weil man mal von paar Jahren Bilder auf Instagram gepostet hat. Und damit kommen wir zu einer fundamentalen Frage. Wie kriegt die KI das überhaupt hin? Denn nur wenn wir verstehen, wie diese Systeme funktionieren, können wir auch einschätzen, warum sie so überzeugen sind und wo ihre Grenzen liegen. Werfen wir mal ein Blick auf den aktuellen Stand der KI-Technik. Die meisten KI-Inhalte entstehen heute mit sogenannten Diffusions oder Transformer-Modellen. Ich lasse das aber lieber unseren Experten Torsten Holzer klären. Weil im Endeffekt was die Modelle machen ist, sie versuchen ja, außer großen Mänger an Daten, so einen neuen Datenpunkt, also neues Bild zum Beispiel zu erzeugen. Dadurch haben sie eine gewisse Mathematische Reparation, auf denen sie arbeiten. Aber im Endeffekt haben sie in so eine Art Mittelwert, was sie immer versuchen rauszubringen. Das bedeutet die KI. greift zuerst auf eine riesige Menge an Daten zu. Dann lernt sie, wie Bilder aussehen und wie man sie schritt für Schritt in Rauschen verwandelt, das nichts mehr mit dem ursprünglichen Bild zu tun hat. Das sieht dann aus wie ein "bundes Pixel" wir war. Danach trainiert die KI diesen Prozess wieder umzukehren, um wieder ein realistisches Bild zu erzeugen, entfern die KI schritt für Schritt dieses Rauschen. Am Ende entsteht so ein komplett neues realistisches Bild, das auf "Gelärnten" muß dann wasiert. Und so konnte die KI auch Melzbilder so realistisch machen. Also als die Bilder entstanden sind, 2023 hatte ich noch längere Haare, ich hatte so einen lockigen Fokuhiler quasi und jetzt habe ich seit einem Jahr dieses kurzer Frisur den Pixi und er wurde quasi geabtätet auf diese KI-Person. Das war schon irgendwie komisch, sich selbst so als Avatar zu sehen, ohne dass man dem halt zu stimmt hat. Nach dem ersten Schock entscheidet sich Mel dazu, ihren Fall öffentlich zu machen. Sie lehht ein Reader zu hoch und kriegt online ziemlich viel Zuspruch. Trotzdem entscheidet sie sich letztendlich dagegen rechtliche Schritte einzuleiten. So wie es jetzt gerade aussieht, werden wir nicht vor Gericht damit gehen, weil die Chancen das zu gewinnen jetzt nicht überragend sind. Warum ist so schwer es, in Deutschland gegen Deepfax vorzugehen, dazu kommen wir gleich noch. Erst mal wollen wir verstehen, welchen Einfluss KI auf unsere Gesellschaft nehmen kann. Also nicht nur Betroffene haben ein Problem mit ihrem Persönlichkeitsrecht, wenn die gefakten Bilder so täuschen echt sind, sondern auch wir als Gesellschaft. Während der ersten Wochen des Kriegs in Iran haben sich auf Social Media massenweise KI generierte Videos und Bilder verbreitet. Die Videos zeigen zum Beispiel riesige Explosionen oder Proteste, die nie passiert sind. Die New York Times hat innerhalb von zwei Wochen über 110 KI generierte Inhalte rund um diesen Konflikt gefunden. Und genau deshalb ist das auch ein zentrales Thema in der Forschung, sagt unser Experte Thorsten Holz. Und gerade dieses Problem hat uns dann sehr lange beschäftigt, weil es immer viele Auswirkungen hat, zum Beispiel auf mögliche Angriffe auf die Demokratie, diese ganzen Missinformationskampagnen und dass man ihn Menschen beeinflussen kann. Denn klar, wenn wir KI falsche Tatsachen zeigt, kann das meine politische Haltung beeinflussen und damit vielleicht sogar, wie wir wählen. Also, wir halten fest. Durch die aktuellen Divisions- und Transformer-Modelle können wir KI kaum noch erkennen. Und die Hinweise, wie das ein Finger an der Hand zu vieles, funktionieren in den meisten Fällen nicht mehr. Und selbst KI-Profis haben Schwierigkeiten KI richtig zu erkennen. Parallel wird KI aber eben nicht nur für lustige Tiervideos verwendet, sondern auch um Deepfakes von Frauen wie Mell zu erstellen oder politische Narrative zu verschieben. Also, was können wir tun? Gibt's echt gar keine Möglichkeit, KI inhalte zu erkennen. Jetzt von der Ausgapfaleiung gab's ganz viele KI-generierte Bilder von Timothy Schalameh, wieder irgendwie Kanahnung, eine Treppe runterfällt. Und da dachte ich, das ist echt für einen Moment. Und dann habe ich das erst geguhult und dann habe ich gesehen, ah, Kacke, das ist nicht echt. Und das ist ein ganz kurzer Moment, wenn man da irgendwie mit konfrontiert wird, dass man gerade darauf reingefallen ist. Es ist ganz weird irgendwie. Seid ihr doch mal ehrlich, wie oft seid ihr auf TikTok schon auf so random Fakes reingefallen? Schreibt mir das doch mal in die Kommentare. Also, der zuverlässigste Weg, um KI zu erkennen, ist oft nicht mehr das Bild selbst, sondern der Kontext. Wenn ihr euch nicht sicher seid, dann könnt ihr euch Fragen stellen, wie wer hat das gepostet. Und warum geht genau das gerade viral? Wer profitiert vielleicht davon? Das sagt auch unser Experte Torsten Holz. Oder wenn es eben so etwas ist wie ein Angriff auf weiße Haus oder andere größere blische Events, dann sollte man vielleicht noch andere Quellen dazu ziehen, ist gerade wirklich etwas passiert, oder es ist hier jetzt nur etwas, was gerade irgendwie reinkommt. Das heißt, nicht alles direkt teilen, ohne es zu hinterfragen. Aber ganz ehrlich, mache ich das auch wirklich, wenn ich abends auf dem Sofa-Liege eintauode. Bei Instagram gibt es jetzt deshalb eine Kound, der euch dabei helfen kann. Ihr könnt da per Direktnachricht einfach das Bild hinschicken, bei dem ihr unsicher seid. Dann hilft euch ein KI-Detector im Chat, das Bild zu analysieren und sagt euch auch, ob es wahrscheinlich KI ist. Den verlinken wir euch in den Show-Nodes. Und es gibt tatsächlich auch Menschen unter uns, die einfach krass gut darin sind, KI zu erkennen, die sozusagen ein Talent dafür haben. In der Forschung nennt man sie Super-Recognizer. Man weiß noch nicht genau, wie diese Super-Recognizer das machen, dass sie aber dann zum Beispiel anhand des Gesichtsaustrucks anscheinenden Lage sind zu merken, okay, das ist jetzt nicht so ein normales Lächeln, sondern das ist etwas, was jetzt künstlich aussieht, weil einfach eine Mensch irgendwie anscheinend nicht so leckchen würde. Nach einem kurzen Training, können nämlich diese Super-Recognizer schon 64 Prozent aller KI-Gesichter erkennen, während alle anderen nur auf 51 Prozent kommen. Das zeigt eine britische Studie aus dem Jahr 2025, mit über 600 Teilnehmenden. Und das macht ja auch so ein bisschen Hoffnung. Und wenn ihr herausfinden wollt, ob ihr eventuell auch einen Super-Recognizer seid, könnt ihr verschiedene Online-Tests machen, die verlinken wir euch in den Show-Nodes. Auch Thereseer hätte so ein Super-Recognizer gut gebrauchen können. Ihr habt sie schon am Anfang der Folge gehört. Also ich habe vor Weihnachten immer wieder gemerkt, dass ich so komisch und narrigte auf Instagram bekomme, von Männern. Ich konnte dir aber nicht ganz zu anden, weil ich auch mal so ein bisschen kryptisch war. Also das war dann so was wie, ich weiß, wer du wirklich, bist, was du wirklich machst. In den Weihnachtsferien 2023 ist sie auf Heimatbesuch bei ihren Eltern in Schwerien. Thereseer hofft auf eine ruhige vor Weihnachtliche Zeit, denn sie studiert Jura und muss für ihre Prüfungen lernen. Aber immer wieder kriegt sie diese merkwürdigen Nachrichten. Bis mir dann jemand geschrieben hat, hey, ich glaube es gibt einen Fake-Profil von dir, guck dir das mal an mit einem Link. Ich bin dann raufgegangen und habe dann eben einen Profil von mir entdecken, meinem Namen, meinem Gesicht, meinem Geburtstart und meinem Alter Bildern von mir. Aber halt nicht nur Bilder, wo ich normal bin, sondern auch gefälschtes Nacktbilder von mir. Es gab Bilder, die haben meiner Meinung nach aus Situationen dargestellt, die Gewalt voll sind. Also wo das für mich nicht nach ein vernehmlichen sexuellen Interaktion aussah. Horror, so unvorstellbar. Schon 2019 bestanden 96% aller Deepfakes im Netz aus nicht einvernehmlicher Pornografie. Das hat eine Studie von der damaligen Cybersecurity Firma Deeptrace heute Sensitiai herausgefunden. Sie hat sich auf die Untersuchung von Deepfakes specialisiert. Experten wie Thorsten Holz vermuten, dass die Dunkelziffer noch weit aus höher ist. Also es ist sich das erste Mal gesehen habe, weil ich erst mal so richtig unmechtig machtlos. Ich habe mich schon gefragt, warum passiert mir das. Ich war damals auch nicht groß auf Social Media unterwegs. Also ich hatte normalen Account, aber ich habe jetzt nicht irgendwie 10.000 Follower gehabt oder so was. Ein prominentes Beispiel für nicht einvernehmliche Deepfake Pornos ist die Schauspielerin Collin Fernandes. Laut Spiegel sollen seit Jahren hunderte gefälschte Pornauaufnahmen von Fernandes im Netz sein. Darunter auch Deepfakes. Der Fall hat ja in Deutschland für eine riesige Aufmerksamkeit gesorgt, weil sie gegen ihren Ex-Man Christian Ulmen Klage eingereicht hat. Er soll über Jahre unter anderem Fake-Profil von ihr erstellt und damit sexualisierten Content, der ihr optisch enelt verschickt haben. Collin Fernandes hat die Klage aber in Spanien eingereicht, denn in Deutschland gibt es für Deepfakes bislang keinen eigenen Straftatbestand. Es gibt wirklich kein Paragraphen der konkrete Verbreitung von künstlich generierten Inhalten unter Strafestellt, insbesondere sexualisierte. Natürlich gibt es Strafen für Vergewaltigungen oder sexuelle Nötigungen, aber eben nur, wenn diese Taten auch mit direktem Körperkontakt passiert sind. In Italien und Spanien hingegen ist digitale Gewalt bereits strafbar. Für Fälle wie Theresia kommt die aktuelle Debatte aber zu spät. Als 2023 ihre gefälschten Nackbilder auftauchen, ist sie damit noch ziemlich allein. Ich glaube, ich habe mir die Schuld am Anfang selbst gegeben. Nachdem du hast Selfies von dem Internet gepostet, dann musst du auch damit rechnen, dass Menschen gibt, die so was damit machen. Bis jetzt kann man eben nur über Umwege dafür sorgen, dass diese digitale Gewalt auch geahndet wird. Zum Beispiel über das Recht am eigenen Bild. Theresia entscheidet sich trotz der schlechten Rechtslage, dagegen vorzugehen. Nach ein paar anstrengenden Wochen rund um Weihnachten erstattet Theresia dann kurz nach neuer 2024 die Anzeige. Ich weiß noch genau, dass ich so in meinem alten Kinderzimmer war und das war eine sehr surreal Situation, dass ich jetzt auf einmal mit der Polizei rede, darüber, dass es gefälschte Nackbilder von mir gibt, wenn ich umgeben bin, von diesen religieren meiner Kindheit. Die Polizei findet den mutmaßlichen Täter bereits nach ein paar Wochen, da man ja eine E-Mail-Adresse oder Telefonnummer enttalegen muss, wenn man ein Account erstellt. Ein mega Erfolg für sie. Es ist ein junger Mann aus Sachsen-Anhalt, den Theresia nicht persönlich kennt, der ihr aber auf Social Media folgt. Aber von da an läuft es auf rechtlicher Seite nur noch sehr schleppend. Ab dem Moment, wo klar war, wer das sein könnte, gab es einfach gar keine Rückmeldung mehr von der Polizei oder der Staatsanwaltschaft. Also ich dachte jetzt ist der Moment, wo es losgeht, aber mir wurde man nur gesagt, ja, das reicht von den Beweisen, nicht, wir müssen beweistig an den Maßnahmen ergreifen, also zum Beispiel eine Hausdurchsorgung machen. Und darauf habe ich dann anderthalb Jahre warten müssen, in den anderthalb Jahren, wo wir keine Informationen zur Verfügung gestellt, außer dass ich keinen Zugriff auf die Akten habe, weil sie bearbeitet werden. Experte Torsten Holz kann die Frustration verstehen. Gletztendlich gibt es aktuell wenig, was man dagegen machen kann. Ich kann es mal versuchen, dass die Bilder online runtergenommen werden. Ich kann die vielleicht bei Google aus dem Suchendeck entfernen lassen, aber dass sie eben auf gewissen Plattformen sind, das ist Das ist ein schwieriges. Wenn ihr. gegen checken wollt, ob es vielleicht auch Deepfakes von euch gibt, dann gibt es verschiedene Möglichkeiten. Eine davon ist zum Beispiel in deiner Suchmaschine dein Name und Video Deepfake einzutippen. Eine andere sind sogenannte Reverse Suchmaschinen. Wir verlinken euch eine in den Show Notes. Natürlich sind das nur ein paar Möglichkeiten. Ihr solltet euch nicht zu 100% darauf verlassen, falls ihr da nichts finden solltet. Und wenn ihr das Gefühl habt, dass ihr selbst von digitaler Gewalt betroffen seid, dann gibt es Hilfe. Zum Beispiel bei Hate Aid, einer Organisation, die sich für Menschenrechte und gegen Hass im Netz einsetzt. Also wir halten fest. Wir können alle Opfer von Deepfakes werden und leider sind 96% aller Deepfakes tatsächlich Pornos. Es gibt bislang kein Paragraphen mit dem wir uns rechtlich gegen die Verbreitung von KI generiertem Content wehren können. Aber es gibt noch andere Möglichkeiten, um sich selbst mehr zu schützen. Darüber sprechen wir gleich. So, jetzt aber zurück zum Test, den meine Kollegin Lea mit mir gemacht hat, zu checken, wie gut ich eigentlich KI Videos erkennen kann. Wir sind mittlerweile fast am Ende angekommen. Allerletzte Frage, jetzt wird spannend. Wo-oh. Man sieht ein Feld. - Wie sieht man das? Mhm. - Mhm. Mit, äh, ich weiß nicht, was das ist. Was ist das für ein Korn? Ja, irgendein grünes Korn. - Wed. Es ist wirklich Deckungsgleich für mich. Also, du könntest es vertauschen und ich würde wieder glauben, es ist genau wie vorher. Mhm. Äh, mein Gefühl sagt, links ist KI. Links ist KI. Okay. So jetzt der Moment der Wahrheit gekommen. Wie viele hast du richtig? Es ist real. Ah. 14, 20. Ist das gut? Für die schon. - Ja, besser. Ja. Ja. Ja. Ich bin schon ein bisschen stolz. Tatsächlich war ich am Ende sogar 79 Prozent besser als die anderen Nutzer*innen. Aber ich bin Journalist, bin Gen-Sie und sehe täglich KI-Slob auf TikTok. Und selbst ich hatte ja echt Schwierigkeiten. Und ich hatte jetzt ja auch beide Videos direkt im Vergleich. Und wusste schon vorher, dass eins davon auf jeden Fall KI ist. Auf TikTok ist das ja nicht so leicht. Für mich zeigt das auf jeden Fall, wir wissen viel zu wenig über den aktuellen Stand der Technik. Und auch unser Experte Torsten Holz findet, wir sollten uns viel mehr mit KI auseinandersetzen. Was wir in die Interviews gesehen haben, ist, dass viele Leute sich einerseits mit dem Thema noch gar nicht auseinandergesetzt. Ich glaube, dass etwas, was wir jetzt in der nächsten Zeit sehr schnell alle lernen werden, dass ein Wort da super viel möglich ist. Dann haben wir auch gelernt, dass das ganze Mitmissbrauchspotenzial noch nicht so ganz gut verstanden ist. Aber trotzdem gab es immer den Wunsch, okay, wenn etwas Aai ist, will ich irgendwie auch wissen, dass das Aai ist. Also, wir brauchen dringend bessere Regeln, damit wir KI-Inhalte im Netz auch direkt erkennen können. Ein erster Schritt kommt jetzt von der EU. Ab dem zweiten August müssen Unternehmen oder Personen, die ein KI-Modell entwickeln, ihre KI-Generierten Inhalte auch verpflichten Kennzeichnen. Also alles, was täuschen, echt wirkt. Das wird es für uns hoffentlich deutlich leichter machen, KI-Generierten Content zu erkennen. Aber damit ist die aktuelle Gesetzeslücke in Deutschland noch nicht geschlossen. Das wird sich vermutlich erst in den kommenden Monaten entscheiden. Die Technologie entwickelt sich halt aktuell schneller als die Gesetze hinterherkommen. Und die Politik hat das Problem lange nicht ernst genug genommen. Deshalb ist es auch so mega wichtig, dass wir selbst lernen, damit umzugehen. Also, so verhängt habe ich noch viel Aufklärung nötig. Und auch der Appell müssen sich irgendwie damit auseinandersetzen, weil das wird einfach mehr und mehr wichtig. Deshalb nutzt auch Chat-Bots, um einfach nur zu schauen. Das ist nicht möglich. Also, fassen wir zusammen. Es ist super wichtig, auf den Kontext des KI-Kontents zu achten. Und sich immer wieder zu fragen, warum wird das gerade gehypt? Ist das wirklich realistisch? Wenn ihr euch nicht sicher seid, gibt es verschiedene Optionen, wo ihr die Bilder hochladen und Gegenschecken lassen könnt. In Theresia's Fall gibt es mittlerweile auch endlich einen Strafbefehl. Der Täter wurde zu einer Geldstrafe verurteilt und gilt jetzt auch als Vorbestraft. Erledigt ist die Sache für sie, damit aber nicht. Es ist nie vorbei. Es gibt immer wieder Leute, die diese Bilder finden, weiter teilen, neue Bilder erstellen, die mich belästigen bedrohen. Theresia steht mittlerweile selbst in der Öffentlichkeit und engagiert sich auch über ihren Fallchen hinaus. Gegen digitale Gewalt und führt den Schutz von Frauen im digitalen Raum. Dafür spricht sie im Bundestag oder auf Demos. Es gibt mir ein bisschen das Gefühl, es hatte irgendwie einen Sinn oder ich kann was Gutes aus einer sehr schlimmer Erfahrung machen. *Musik* Volk dem Podcast hier auf Spotify und aktiviert die Glocke, um keine Folge mehr zu verpassen. Und lasst uns auch sehr gerne eine Bewertung da oder schreibt uns einen Kommentar. Nächste Woche geht es um traditionelle chinesische Medizin, wie Akkupunktur und ob das wirklich wirkt. Aber ich war halt in den Zeitpunkt, total für zwei Filme. Man versucht aus allen Ecken irgendwas zu finden, was hilft. Ich bin Julian Stoper und bedanke mich bei allen, die mit uns bei der Recherche gesprochen haben. Vielen Dank an Theresia, Mel und Professor Dr. Thorsten Holz. Wissen Weekly, das ist eine Produktion von Spotify Studios in Zusammenarbeit mit Kugel und Nire, Executive Producer, Michael Badleski, Reaktion, Lea Grise, Michael Badleski, Elisabeth Feh und ich Julian Stoper. Creative Producer Nadine Raber, Produktion Jonas Schlögel, Joey Fleischhauer und David Burga. Design, Hannah Wiesner und Julia Bochnik. Lein Producer, Sarul Krause-Jent.