Karina, stell dir mal vor, du hast mit zwei Jahren Vorlauf auf ein richtig großes Ereignis hingearbeitet. Also sag mal mal, die Veröffentlichung ist ein erstes Buch, ein KI-Ratgeber, zum Beispiel, von dem du genau weißt, der wird das Leben von Millionen Lesern verändern. Wie fennest du es dann in Eichwäntern verlagst, so vier Wochen vor Verkaufsstaat sagen würde, sorry, wir verschieben das ganze um 16 Monate? Du kennst mich her, ich hab ein sehr sanftes Gemüth. Ich würde nach außen hin total Ladylike sagen, ja, gar kein Problem, das passiert ja mal. Und innerlich würde ich Toben und Ausraff. Ja, zumal die war schon keine Ahnung, zwei Dutzend Leute für die Release-Parts, die eingeladen hättest uns etwas genaust. Ja, genau, schon Bücher signiert hätte und alles. Ja, also ziemlich blöde Sache, euch und genau so was passiert in Europa, Skis, Zähne gerade auch. Also da gibt es eigentlich einen großen Stichtag, auf dem man seit zwei Jahren hinarbeitet. Es ist ja zweite August 2026, also ziemlich genau zehn Tage nachdem wir diese Episode von KI-Verschäne aufzeichnen. Ja, und da ist natürlich die Frage, was ist da los? Ich ahne, was du meinst. Also es geht wahrscheinlich um den EU-AI-Ekt und den Stichtag fürs Inkrafttreten der weltweit schärfsten KI-Regeln. Ja, schaufst du ja nicht, KI-Regeln genau. Und zweitend August soll das eben so richtig ernst werden mit dieser KI-Regulierung in Europa und in der Juni hat Brüssel die Partie da einfach abgesagt. Und wir haben ja über ein Jahr nach hinten verschoben. Aber kein Grund, dass wir das Ding verschieben, sondern wir können ja trotzdem heute darüber reden, wie es dazu kam, welch Folgen das hat. Und was dann am zweiten August vielleicht doch passiert für KI-Nuzerinnen und KI-Anbieter in Europa? Genau, und etwas zugespitzt. Also wirklich auch um die Frage ist der EU-AI-Ekt jetzt eigentlich schon tot, weil Lobby Verbände ihnen bekremen haben oder zeigt ja seine Zähne vielleicht doch noch und vielleicht nur ein bisschen später. KI verstehen. Der Deutschlandfunkpodcast über künstliche Intelligenz im Alltag. Herzlich willkommen zu einer neuen Folge. Mein Name ist Karina Schröder und ich freue mich, dass Sie das Ihr dabei seid. Wir sprechen heute über den EU-AI-Ekt und das ist ja das weltweit erste umfassende Regelwerk für den Verantwortungsvollen und auch nachhaltigen Umgang mit KI-System. Eigentlich soll es Anfang August 2026 in die heiße Phase gehen, aber vor wenigen Wochen hat Brüssel die Notbremse gezogen, weil dem Thema wird man irgendwie nicht müde immer so Autometafan zu benutzen. Menschen, die KI verstehen hören wissen, wo was ich meine. Genau. Also jetzt erstmal nach monatelange Debatte, ne, Moment, stopp, Stichwort ist hier KI-Ominibus. Also Frage an meinen Kollegen Reifkounter. Willst du sagen, eigentlich ist der Stichtag der zweite August damit, ne, irgendwie unwichtig geworden? Also, er ist weniger wichtig als eigentlich gedacht. Das dreht tatsächlich einige neue Regeln zur KI-Regulierung in Kraft. Allerdings nur ein Bruchteil der ursprünglich geplanten Maßnahmen. Die meisten werden tatsächlich auf die längere Bank geschoben, also um 16 Monate oder teilweise sogar näher nach hinten. Ja und die spannende Frage, ob das jetzt gut oder schlecht ist, dabei kommt man unterschiedliche Antworten, die nachdem, wie man darüber spricht. Ich bin gespannt, was du herausgefunden hast, aber wichtig hier noch mal kurz klarzustellen. Der Aoe-Ei-Ekt, der gilt ja eigentlich schon seit August 2024, der ist ein Kraft getreten. Einige Regeln, die gelten ja auch schon, aber in vielen Bereichen fehlt es bis lang oder fehlt es immer noch an konkret Berichtlinien und Verordnung für die Umsetzung. Genau. Und bevor wir gleich darüber sprechen, was denn konkret jetzt aktuell schon Phase ist und was die nächste gelten wird, springen wir vielleicht noch mal kurz zurück ins Jahr 2023, da war der Aoe-Ei-Ekt noch nicht in Kraft, aber schon in der Mache und er war sehr große Schatten voraus. Aoe-Ei ist ein Generaltechnologien, das ist ein sehr voller und adaptiertes Verwahrstrange von den Ärzten und die Mühle. Kennst du die Stämme, oder? Ja, natürlich. Das ist unsere ehemalige Verteidigungsministerin. Ja und die heutige Präsident der EU-Kommission Ursula von der Leyen. Und das ist die State of the Union Rede vom September 2023. Und sie sagte da, sind gemäß, Kai ist eine sehr mächtige Technologie mit vielen spannenden Anwendungen, Zivil und Militärisch. Und ob er es der Priorität sei, ist eben sicherzustellen, dass sich die KI-Entwicklung an den Bedürfnissen der Menschen orientiert, dass sie transparent und verantwortungsvoll erfolgt. Und sie sagt auch, Europas EI-Ekt ist eine Blaupause für den Rest der Welt. Und das Schöne ist, ich habe mich gerade mit jemandem unterhalten aus der EU-Kommission, also der der arbeitet und der hat gesagt, es war mega überraschend, dass Ursula von der Leyen das da angekündigt hat. Also die meisten wussten nichts davon. Oder wurden die auch große Erwartungen geschürt. Also umso ärgerlicher, dass man jetzt das Gefühl hat, Brüssel möchte vielleicht doch nicht ganz vorne mit spielen bei KI-Regulierung. Ja, also die Eindruck könnte tatsächlich entstehen. Er stimmt aber nur zum Teil. Also in der Tat ist es so, dass ein gekritischer KI-Anwendung in Europa ja wirklich schon verboten sind. Seit Februar 2025 wegen dem EU-AEkt also zum Beispiel, soziale Bewertungssystem, Stichwort Social Scoring, das Auslesen von Emotionen am Arbeitsplatz, so den der Schule mit KI-Tools ist nicht erlaubt. KI-Systeme, die menschliches Verhalten hinterrücksmannipulierern sind auch verboten, genauso wie die biometrische Fern-Edit-Fizierung in echtzeitem öffentlichen Raum, genauso wie das ungezieltes Craping von Gesichtsbildern im Internet oder von Überwachungskameras und verboten ist auch die Kategorisierung von Person anhand biometrische Daten, die mit KI ausgewertet werden. All das greift schon. Verstöße dagegen können teuer werden, bis zu 35 Millionen Euro oder 7 Prozent des Jahres umsatzes. Seit August 2025 gelten außerdem auch spezielle Auflagen für General Purpose-Eyesysteme und zu diesem Generalisten unter dem KI-System zählen die großen Sprachmodelle wie ChatGPT-Claw, Gemini und Bistral. Die müssen technische Dokumentation bereitstellen und Transparenzberichte vorlegen zu den Fähigkeiten, Grenzen und Risiken ihrer Systeme. Gerade in dem Kontext gibt es auch gerade spannende Neuigkeiten, also an dem Tag, wo die Folge aufzeichnen, wo die Publikta seine KI von Open AI sich unerleibterweise aus ihrem Käfig befreitert und die KI-Server von Hacking-Face gehackt hat, um an Informationen zu kommen, um eine bestimmte Aufgabe zu lösen. Also ein Sicherheitsvorfall, bis er nicht gekannter Tragweite über die noch zu reden sein wird, werden hier sicher auch noch mal aufgreifen. Im Deutschlandfunk kam er das Thema aktuell in verschiedenen anderen Formaten abgehandelt zum Beispiel bei Forschung aktuell. Also weitere Infos dazu braucht gerne mal dort nachhören. Und jetzt sollte ihm am zweiten August es weitergehen mit dem nächsten großen Meilenstein in Sachen KI-Regulierung. Da sollten nämlich strenger Regeln für die Hochrisiko-Anwendung in Kraft treten. Und weil das jetzt verschoben worden ist, ist aus dem geplanten Meilenstein, ich würde mal sagen, Karina vielleicht so ein Kieselstein am Weg gesamt geworden, allerdings kein ganz unwichtiger Wichter jetzt gleich erklären werde. Ich muss sagen, mir gefällt das Bild sehr gut. Also das aus einem großen Meilenstein ein Kieselstein wird, das merke ich mir auf jeden Fall. Und dafür bist du ja auch irgendwie bekannt, Reif. Ja, mit Taffern, mit Taffern sind Dein. Und das ist so kam das verrät ja auch eine Menge darüber, wie kontrovers in Europa eigentlich gerade über diese Technologie über KI diskutiert wird. Weil da gibt es ja auch viel Druck auf Politik und Wirtschaft. Also man will irgendwie regulieren, aber man soll es auch nicht übertreiben mit gesetzlichen Auflagen, weil man will ja auch weiter Wirtschaftsstandort bleiben und attraktiv für KI-Undaneben bleiben. Genau, also zu viele Regulierungen wäre natürlich schlecht, das wäre ein Schostopper, da sind sich alle eigentlich zu wenig, aber sicher auch ein Fehler. Dann drohnt eben vielleicht auch fatale Sicherheitsrisiken, so wie wir es jetzt bei OpenAI gesehen haben. Es geht ihm sowas oft im Leben um die richtige Ballaus. Lass uns das mal Stück für Stück aufdröseln. Aus verhörigen Episoden zum Thema Wissengenarkte zuhörer in ja auch, dass der EYE-Akt so eine Art Risiko basierten Ansatz hat. Also das heißt KI-Systeme, die besonders gravierende Folgen für das Leben von uns Menschen haben könnte oder für unser soziales Miteinander. Die müssen natürlich viel strengere Auflagen erfüllen, als jetzt ein Algorithmus von einem Streaming-Dienst, der mir vielleicht eine individuelle Playlist zusammenstellt. Und du hast ja schon die Hochrisiko-Systeme angesprochen. Lass uns doch vielleicht einfach bei den Anfang. Und das interessante finde ich immer wieder, heißt zwar Hochrisiko-Systeme, aber wichtiger als die Systeme selbst, ist fast in welchen. Ja, Szenarien, in welchen Bereichen die eingesetzt werden zum Beispiel im Krankenhaus. Genau, also Platt gesagt geht's bei den Hochrisiko-Systemen, um KI-Systeme, die über das Leben von Menschen entscheiden. Also fragen wir, wer bekommt einen Studienplatz? Wer wird zu einem Bewerbungsgespräch eingeladen? Welche Familie erhält denn im Immobilien-Kritid und welche nicht? Welche alleine erziehende Mutter hat Anspruch auf Sozialhilfe und welcher nicht EU-Bürger darf nach Europa einreißen und wer nicht? Weil KI basierte Helfer in solchen Fällen eben Entscheidungen mit großer Traakweite beeinflussen können, muss hier laut EYE-Besonders genau hingeschaut werden, um eben sicherzustellen. Dass es da unter allen Umständen fair und transparent zugeht und das niemals benachteiligt wird. Und wie du gesagt hast, deswegen braucht man auch besonders strenger Auflagen zum Beispiel, das klingt vielleicht nicht sehr streng, ist aber eigentlich sehr streng gemeint, Dokumentationspflichten. Genau, und die sind recht umfassend. Also, das heißt, die Entwickleranbiete und Nutzer, solche Hochrisiko-Systeme müssen dann Dinge vorweisen wie Risikomanagement, menschliche Aufsicht, transparent und das muss eben auch alles dokumentiert sein. Sie müssen aber auch eine Grundrechte folgen abschöpfen.
machen die klären soll, ob der Einsatz dieses KI-Systems dann eben keine Grundrechte verletzt. Also zum Beispiel Datenschutz und Privatsphäre. Ja, wobei man auch sagen muss, das kommt ja nicht aus dem Nichts. Also hochrisiko Systeme, die werden auch so strikt reguliert, weil da schon öfter mal, sage ich mal einige krass so Probleme aufgetreten sind mit KI-System. Ein ganz bitteres Beispiel, weil die sogenannte Kindergeldaffäre in den Niederlanden haben wir hier auch schon mal verlängerer Zeit darüber bericht. Das waren Polizkandal in dessen Folge mal Grote 2021 als Regierungschefs sein Hut nehmen musste. Hintergrund waren Algorithmus der Steuerbehörde, der über 20.000 Familien fälschlicherweise das Sozialbetrugs bezichtigt hat. Überpropazionale viele Menschen davon hatten eine doppelte Staatsbürgerschaft und die Folge für die betroffenen Familien war, die sollten plötzlich tausende Euro zurückzahlen, wurden quasi in den Ruinen getrieben und darüber ist die Regierung letztlich gestürzt. Also so was ist der Albtraum, das Albtraumszenario, dass die hochrisiko regeln verhindern sollen und eigentlich sollten sie eben am zweiten August den Kraftreden aber vor einigen Wochen dann am 29. Juni kam das ambitionierte Projektleiter unter die Rede von einem Omnibus. Du meinst den KI Omnibus um das hier nochmal zu sagen, wir wissen sehr wohl, dass es sich nicht um ein Auto handelt, sondern eine Art Gesetzespaket, eine Art Maßnahmepaket, dass die EU-Kommission verabstidet hat, um auch Bürokratie abzubauen. Genau, und es ist nicht ganz klar, ob die so Omnibus fahre ein KI-Führerschein wandert. Und den wird es nochmal aufzugreifen, Karila, was klar ist, dieser Verkehrsunfall mit dem Omnibus, der kam definitiv mit Ansage, weil die Aufweichung der stritten Regeln, die darin stehen, die sind letztlich seit Monaten vorbereitet worden. Mit dem Ergebnis eben, dass die Pflichten für Ho-Risi-Kukai jetzt ihr 16 Monate später greifen sollen, am 2. Dezember 2027 erst und für Ho-Risi-Kukai, die in Produkten drinsteckt. Also zum Beispiel in Medizingeräten im Krankenhaus oder in anderen Maschinen, da soll das dann sogar erst im August 2008 scharf gestellt werden, also 2 Jahre später als geplant. Ja, vielleicht sollten wir nochmal über die Gründe für die Aufschiebung sprechen, denn ich bin ja bekanntlich eine riesiger Fan von strenger Regulierung, aber auch ich muss sagen, also die Auflagen waren ja nicht ganz einfach umzusetzen, was auch daran liegt. Es war nicht immer ganz klar definiert, was müssen die Unternehmen, was müssen die Anbieter von Karisystem jetzt eigentlich alles leisten und können sie das überhaupt alles leisten. Also die offizielle Begründung war tatsächlich die Voraussetzungen, sei noch nicht gegeben, weil eben die zuständigen Behörden in Brüssel und den EU starten ihre Hausaufgaben noch nicht gemacht haben. Also da geht es um technischen Normen, an denen die Anbieter dieser Ho-Risi-Kukai-Systeme sich orientieren können und die Liegengrößenteils tatsächlich noch gar nicht vor werden gerade erst noch erarbeitet. Da geht es auch um nationale Prüfstellen, die dann die Einhaltung dieser Regel und zertifizieren sollen. Auch die gibt es zum Teil gar nicht beziehungsweise sie nehmen gerade erst ihre Arbeit auf. Und es natürlich schon nachvollziehbar ein Gesetz scharf zu stellen, macht eigentlich erst, sind wir mal ein klare Vorgeabenn macht und auch Strukturen etablierter, die dann die Einhaltung auch wirklich kontrollieren können. Aber ich muss jetzt mal so spitzfragen, also überzeugt ich das denn Kritikerin sagen ja auch immer wieder die großen Tech-Unternehmen profitieren am Ende von diesen Verschiebungen und vielleicht auch Lockerungen. Also ich finde trotzdem die Argumentation, die offizielle teilweise nachvollziehbar, denn die EU-AEQ-Wahl ja immer auch eher eine Sammlung von Leitplakken mit groben Richtlinen, die dann erst nach und nach in konkrete Verwaltungsvorschriften übersetzt werden sollten, im Dialog dann mit den Betroffenen, mit den Steak Holdern, das alles dauert, weil die Materie eben sehr komplex ist und auch weil die Technik sich eben so rasant entwickelt. Also die großen Sprachmodelle zum Beispiel, die seit November 2022 in aller Munde sind Chat-Cheapy Tion Co. Die hatten in den ursprünglichen Regulierungsüberlegung für den AIEQ ja noch gar keine Rolle gespielt, die wurden erst nachträglich aufgenommen. Also ich finde schon mal muss feralweise sagen, dass es alles auch sehr kompliziert und dynamisch, aber fakt ist schon auch wieder, sagst die großen Tech-Konzernen, die massiv betroffen sind vom EU-AEQ, die haben wirklich alle Hebel in Bewegung gesetzt, damit das ein zahnloser Tiger wird und die Verschiebung der Schafstellung der Pflichten für Hochrisikokaisysteme jetzt, das spielt die natürlich in die Hände und die Bürgerinnen und Bürger der EU dagegen. Die haben natürlich so ein bisschen das nachsehen, weil eben diese Hochrisikokai-Werkzeuge vor denen, uns der EU-AEQ-AEQ-Wahl direkt ja primär schützen sollte jetzt eben noch einhalb Jahre länger, ohne große Auflagen und Sicherheitsprüfung, Risikopschätzung und Grundrechtsverrüfung vermarktet werden können und kritiker finden logischerweise keine gute Idee und sie befürchten außerdem die mächtige Industrie-Loppy könnte die nächsten einhalb Jahre eben auch nutzen, um den AIEQ noch weiter auszuhölen. Komm, er spielt ja noch dazu. Wobei man ja auch sagen muss, ne, auf Schoben ist ja noch nicht aufgehoben, also die Regulierung von KI-System-Vorrisikokanwendung, die kommt ja auf jeden Fall. Und die Ziemensweise, ich hoffe, dass sie jetzt in den nächsten anderthalb Jahren da nicht auch irgendwas dran drum schrauben. Aber dazu kommt ja noch das digitale Omnibus-Paket ja auch schon Teile von dem AIEQ der bereits in Kraft getreten ist, wie da ein bisschen entschärft hat. Also da kann ich jetzt mal auf meinen Wissen zurückgreifen aus der Folge zum Thema KI-Scholungen. - KI-Führerschein, genau. - Genau. Denn Unternehmen, die hatten ja beslagen die Pflicht, dass ihre Mitarbeitenden in KI geschult werden. Also so war es zumindest ursprünglich mal im AIEQ angedacht. Und nun würde man sagen, Unternehmen sollten ja lediglich KI-Verständnis fördern. - Klingt erst mal einer Kleinigkeit, aber ich hab mal in meinem Beispiel überlegt, um zu illustrieren, was das bedeutet. Also stell dir vor, dass eine Firma, die es verpflichtet, sicherzustellen, dass all ihre Mitarbeitenden zu einem bestimmten Zeitpunkt schwimmen gelernt haben. Eine andere Firma wird dagegen nur verpflichtet, ihre Angestellten dabei zu fördern, bis zu einem bestimmten Zeitpunkt schwimmen zu lernen. Und ist schon klein, da geben es, ist es ein ziemlich große Unterschied? - Naja, es macht schon Unterschied, ob du am Ende vielleicht eine Schwimmprüfung bestehen musst oder im anderen Fall, ob die Firma vielleicht nur Prospekte für eventuell Schwimmkurse auslegt und dann mal guckt, ob du dir auch wahrnimmst oder nicht. - Genau. Es gibt eine andere Aufweichung, die Datenschütze wirklich so richtig auf die Palme bringt. Und jetzt wird es spannend. Bisher war es nämlich so, dass Firmen mit KI-Systemen, die eigentlich in die Hochrisiko-Kategorie fallen, sich quasi selber so eine Art Freibriefe ausstellen konnten und sagen, unser KI-System ist doch gar nicht so gefährlich ausfolgenden Gründen. Das war eine von den Lobbyverbänden rein verhandelte Ergänzung in einem Artikel des EIx. - Ja, also ich glaube, wenn ich eine Firma wäre, wird es mir auch gefallen, dass ich einfach selbst bestimmen kann, ob mein Produkt gut ist oder nicht. Also bei mir ist alles sicher. - Genau, also das ist schon lustig, die können sich quasi selber von auflagen frei stellen. Das war schon der erste große Erfolg der Industrie Lobby. Zum Ausgleich in der Hinsellte ist eine öffentliche Datenbank geben, wo diese selbstgewährten Freibriefe der Unternehmen quasi einsehbar sind. Und der Witz, jetzt wurde auch diese Datenbank, die öffentliche abgeschafft. Da geht also jede Menge Transparenz und Kontrolle verloren. Daniel Läufer, Senior Analyst für Digital-Politik bei Access Now, also eine Organisation, die für digitale Bürgerrechte kämpft. Der erschrieb dazu in einem Artikel bei Tech Policy Press, sieht hier mal die Ergänzung in Artikel 6 war eine enormer siegte Industrie Lobby und hat eine klaffende Lücke in die Hochrisiko ein Stufung des EIx gerissen. Die neue Änderung macht die schlimmste Lücke im EIx noch schlimmer. Ja, also viel dazu im Plattex heißt es natürlich. Man darf sich jetzt nicht mehr nur selbst benoten. Man muss das Zeugnis, dass man sich selber ausstellt, auch keine anderen mehr zeigen. Okay, jetzt darf ich mal ein Vergleich anstellen. Also es klingt ein bisschen so, als hätte man das Fundament für die KI-Regulierung fast schon wieder eingerissen, bevor eigentlich der Rohbau so richtig stand. Aber gut, versuchen wir es vielleicht noch mal ein bisschen positiver. Es gibt ja auch gute Sachen zu vermelden, zum Beispiel die Kennzeichnungspflicht. Auf jeden Fall, zwei positive Entwicklung, Kennzeichnungsflicke sprechen wir gleich noch darüber, die soll ab dem zweiten August tatsächlich in Kraft reden. Erst noch können wir abhaken, eine andere wichtige Veränderung, eine Verschärfung der Spielregel durch den omnibus KI-Systeme, die in-Team Bilder von Menschen ohne deren Einwiligung erzeugen. Die sind ab december 2006 und 20 in der EU verboten, also eine wichtige Verschärfung der Regeln. Und zwar betreffen die sogenannten Judify Apps, die Menschen per Mauselig zum Beispiel im String-Tanger zeigen oder es geht auch um KI-Tools zu Erzeugung von Deepfake Pornographie und auch um KI-generierte Kinderbilder mit sexuellen Anspielung. All das ist verboten und all das auch schon ab december diesen Jahres. Also man muss sagen, da hat man verbrüsselt, da verhält es schon recht flott auf neue Bedrohungslagen reagiert. Unter anderem wohl auch mit Blick auf den Chatbot Krock von Elon Musk Firma XAI, die mit solchen Features von einem halben Jahr verzimlich wirbel und Protest gesorgt hat. Das Gesetz scheint auch übrigens genau dieses schäbige Geschäftsmodell zu attressieren. Es werden nämlich nicht nur spezielle, nudify und Deepfake Apps verboten, sondern ganz allgemein alle Bildgeneratoren mit den Missbrauch für solche dubiosen Zwecke absehbar und ohne großen Aufwand möglich ist und keine wirksam Schutzmechanismen eingebaut sind. Genau wie das eben bei Krock von XAI der Fall war und ich muss schon sagen, ich finde es klasse, dass so was in Europa künftig illegal ist und dass man da so schnell den Anbietern richtig auf die Füße tritt und es richtig teuer macht, wenn sie gegen diese Verbote verstoßen. Trotzdem lassen wir es noch mal ganz kurz zur Kennzeichnungssricht zurückkommen. Wir sehen ja zumindest in den sozialen Netzwerken, dass es jetzt zunehmend immer mehr diese Hinweise gibt. Also hier das und das wurde mit KI erstellt, also zum Beispiel die Untertitel bei The Reads zum Beispiel. Genau, also diese Kennzeichnungsspflicht von KI inhalten, die jetzt zum zweiten August greifen wird.
Das ist der kleine nicht unbedochtende Kieselstein, von dem ich vorhin introgesprochen habe. Karina, der von dem großen Meilstand übrig geblieben ist. Es geht um Artikel 50 der CUA-IACs. Da geht es um Transparenzverpflichtung für Anbieter und Betreiber von KI-System und der besagt im Kern. Wenn du künftig mit einem KI-Avatar oder Chatboard redest, dann musst du darüber informiert werden, dass das eine KI ist. Und wenn ein Text Bild oder Video von der KI stand, oder mit KI manipuliert wurde, dann muss das künftig kenntlich gemacht werden. Ja, wobei es gibt ja auch so ein paar Einschränkungen. Das Label muss ja nicht überall dran. Wenn ich jetzt zum Beispiel KI benutze und meine Bilder in sozialen Netzwerken aufzuhübschen, dann muss ich nicht unbedingt so ein Hinweis hinmachen. Gibt da sozusagen eine Grenze, die daran festgemacht wird, wie viel KI im Einsatz war? Laut dem Gesetz macht es nämlich ein Unterschied, ob KI ein Inhalt maßgeblich erstellt hat, oder ob sie quasi nur als Handlanger beteiligt war. Diese Unterscheidung wird auch für alle möglichen Formate, im Journalismus übrigens relevant werden. Also stell dir vor ein Online-Magazin veröffentlichen Artikel, der komplett von KI recherchiert und geschrieben worden ist und den kein Redaktömer angefasst hat. So was ist ja heute schon möglich, dann müsste diese Artikel künftig ein KI-Lebel tragen. Hat dagegen einen Journalist nur eine KI als Sparingspartner genutzt, um den Titel zu optimieren, den Tiesertext zuzuspitzen, den Text auf eine bestimmte Länge zu kürzen, dann entfällt die Kennzeichnungspflicht. Selbst einen großen Textentwurf von ein Artikel durfte man sich als Journalist machen lassen, sofern der gründlich überarbeitet wird, würde die Kennzeichnungspflichten fallen. Also es kommt ja auch darauf an, wer letztlich die Hand quasi auf der Tastatur hat. Ist es der Mensch oder ist es die Maschine? Bei Bildern sind die Regeln übrigens strenger. Ein KI-Bild auf die eine echte Person zu sehen, es muss immer als KI generiert gekennzeichnet werden, dass eben den Boden zu entziehen. Und der KI-Stimm, die einen echten Menschen imitiert, muss auch gekennzeichnet werden. Das kleine Problem, dass ich dabei sehe, es gibt eine Grauzone, wenn man noch mal auf die Texte gucken, ob ein Textentwurf, den eine KI geliefert hat, dann wirklich ernsthaft redaktionell überarbeitet worden ist oder nicht. Darüber könnte man bei unterschiedlichen Medien ja zu unterschiedlichen Ergebnissen kommen. Also wo KI aufhört, Hilfsmittel zu sein, und wo sie tatsächlich maßgeblich für die Entstehung von Inhalten verantwortlich ist. Ich glaube, das ist juristisch noch nicht ganz sauber geklärt und könnte durchaus noch Anwälte beschäftigen in den nächsten Jahren. Ja, und dann gibt es ja noch eine Voraussetzung. Also es muss ja irgendwie auch technisch umgesetzt werden. Also es gibt ja nicht nur diesen kleinen Text sozusagen, wo es steht KI generiert, sondern es soll ja auch Wasserzeichen geben und Hinweise im Code, die einem sagen, ob da was KI generiert wurde oder nicht. Genau, also die großen Anbieter wie zum Beispiel Google, Meta, OpenAI, die eben alle solche generativen KI-System angeboten haben, die müssen ihre KI generierten Inhalte abzweiten August definitiv maschinen, lesbar, Kennzeichnen mit digitalen Wasserzeichen und Metadaten, die detaist, die regelt kürzlich veröffentlicher EU-Verhältniskodix, der Code of Practice on Transparency. Und da steht dann zum Beispiel drin, es wird auf eine Kombination von Techniken rauslaufen, weil kein Einzel des Kennzeichnungsverfahren nach aktuellem Stand alle gesetzlichen Anforderungen erfüllt. Als da wären Wirksamkeit, Zuförlässigkeit, Robustheit und Interoperabilität. Das heißt, ein KI-Lebel von Gemini muss auch erkannt werden, wenn ich mit ChatGPT auf den Inhaltsugreifel zum Beispiel. Ich glaube, es ist spannend zu sehen, wie Ernst, die großen KI-Anbieter und Social-Mieterplattform diese neuen Spielregeln jetzt nehmen. Und wie stark sie sich auch ins Zeug legen, da jetzt wirklich zuverlässig und wirksammerlösungsimplementieren. Für die ganz konkrete Umsetzung haben sie noch vier Monate Zeit, bis zweiten Dezember nämlich. Und ab dann gelten beim Missachtung der Regeln Busgelder bis zu 15 Millionen Euro können verhängt werden, oder bis zu 3 Prozent des Jahres umsatzes, könnte also richtig teuer werden, wenn der jemand nicht mitzieht. Ja, aber man muss trotzdem sagen, vielleicht sollten wir uns noch nicht zurücklehnen, sondern man sollte jetzt noch aufpassen, weil man kann gegebenenfalls eben nicht sicher sein, dass an Inhalts nicht doch KI generiert ist, nur weil er zum Beispiel kein passendes Label bisher hat. Also ganz klein, die so übergangsfristige wir jetzt haben, ist natürlich weiter vorsichtgeboten. Und ich würde sagen, auch danach, bitte unbedingt vorsichtig bleiben, denn die Kennzeichnungspflicht für KI Content allein, die wird das die Fake-Problem natürlich nicht lösen. Aber es ist definitiv ein wichtiger Baustein im Kampf dagegen. Und die KI Kennzeichnungspflicht, die kommt jedenfalls zum zweiten August und muss bespätestens zweiten Dezember umgesetzt werden, um das noch mal so festzuhalten. Und ab da sind auch nur die Fire Apps zur Erzeugung von Nacktbildern und von Missbrauchs-Darstellung in der EU verboten. Die geplanten Regeln für Hochrisikosysteme, die hingegen wurden ja eben um 16 Monate nach hinten verschoben. Und ich sag mal, in dieser Folge hat sich schon ein bisschen angedeutet, dass Lobbyverbände vielleicht nicht ganz unschuldig daran sind. Vielleicht kannst du noch mal erklären, woran machst du das denn fest? Also, ich mach's fest am Urteil von zwei unabhängigen Wächterorganisationen, die wirklich auffällig dazu recherchiert haben, die heißen "Cop Red Europe Observatory" und "Lobby Control". Und die haben eben den Gesetzestext, dieses aufweichenden Omnibuspakets, einfach mal Zileverzeile mit denen bekannten Wunschlisten der Techkonzerne verglichen. Und das Ergebnis, sieben von acht großen Änderungen, beziehungsweise Abschwächung des AIX durch den digitalen Omnibus, die decken sich eben sehr weit, kehlt mittelobby Position von Google Microsoft und Meta. Das überrascht mich überhaupt nicht. Ich musste immer erzählen, ich war letztens, also letztens, es wird sich ich war im April in Brüssel. Und hab ich so eine Lobby-Tour gemacht. Und da geht man eben durch die Stadt und schaut sich an, wo diese ganzen Unternehmen ihre Lobby-Sitze haben. Und was mich fast am meisten überrascht hat, die sind superunaufwällig. Also normalerweise so Firmen, die machen ja riesen Firmenlogus dahin. In dem Fall war es aber so, das war alles sehr versteckt. Und das passt ja auch so ein bisschen zu den Methoden, wie die da vorgehen. Also, jemand hat auch erzählt, dass zum Beispiel die Abgeordneten auf dem Klo abgefangen werden, wenn man da irgendwelche Gesetzesänderungen machen will, von irgendwelchen Lobbyvertretern. Und das passiert ja auch wirklich, sag ich mal, für uns nicht immer wirklich sichtbar. Zum Glück gibt es eben Organisationen, wie die, die du angesprochen hast, wie jemand wie Lobby-Control, die eben auch solche Zahlen aufdecken. Also sieben von acht Entschuldigung. Das ist ja wohl keine reiner Zuför, würde ich mal sagen. Also bedeutet, dass womöglich die E-O-Kommission sich hat bei den Änderungen, sagen wir mal so vielleicht helfen lassen von Tech-Unternehmen. Ja, es deutet eben schon einiges drauf hin, wobei fährereweise muss man sagen, es gab schon aus Deutschland und Frankreich und andere Ländern durchaus laut, aus Wirtschaft und Politik, die eben vor einer Überregulierung von KI-System auch gewarnt haben. Aber wenn sich eben die Position von Big Tech dann wirklich fast eins zu eins in Gesetzestexten wiederfinden, dann habe ich als Bürger natürlich schon kein so besonders gutes Gefühl und frag mich dann, wie gut die Politikerinnen ihrer Kontrollfunktion dann wirklich nachkommen, ob sie sich wirklich um einen echten Interessen ausgleich bemüht haben. Es gibt die dem Kontext noch zwei weitere Zahlen, die nachdenklich stimmen. Die Lobby-Ausgaben der Digitalbranche in Brüssel, die sind laut Recherchen von Corporate Europe, Security und Lobby-Control in nur zwei Jahren um ein Drittel gestiegen von 113, auf 151 Millionen Euro. Außerdem, zweite spannende Zahl fanden 2025, 69 Prozent der Treffen der Kommission mit Wirtschaftsverbänden statt und nur 16 Prozent mit zivilgesellschaftlichen Organisationen. Dort ist schon darauf hin, dass es da vielleicht eine leichte Unwucht gegeben hat. Ja, wobei die EU-Kommission und auch der EU-Rat wahrscheinlich ausdrücklich sagen würden, wir sind hier keinem Druckgewichen, wir haben uns hier nicht beinflusst. Ja, klar. Also, die weisten das von sich, dass es da eine Kniefall vor Big Tech gegeben hätte, die sagen, uns geht zum Gewerkewerbsfähigkeit. Wir hängen in Europa im KI-Rennen hinterher, die Regeln sind zu kompliziert, gerade auch für kleine Firmen. Man beruf sich dabei unter anderem auf den 2025 vorgelegten Report von Mario Draghi zur mangelnden Wettbewerbsfähigkeit Europas. Und so gesehen wäre die Aufhebung des AIX eben schlicht Realismus einig. Also ein Gesetz für dessen Umsetzung mal noch keine klaren Regeln und Kontrollwerkzeuge hat. Das macht eben keinen Sinn, den ohne Rechtssicherheit und harmonisierte Umsetzung. Schafft man am Ende dann vielleicht wirklich ein Bürokratie-Monster, was keinem was bringt. Ich finde beide Perspektiven validio-nachvollziehbar entscheidend ist eben die richtige Balance zu finden. Zwischen diesen durchaus widerstreiten Interessen das Regelwerk verschlanken und besser Handhabar zu machen. Das ist sicher klug. Aber die Grundlegung dahinter, dieser Risikropassierte Ansatz um Schaden von Menschen und der Gesellschaft abzuwenden, das bleibt ja im Kern richtig und ich finde schon, das sollte Brustel deswegen auch unbedingt kurz halten. Ich glaube trotzdem auch, dass das noch eine richtige Mahmutaufgabe wird für DEO, weil sie muss im Beideschaffen. Also es soll ein attraktiver Standort für KI-Unternehmen sein. Und gleichzeitig muss eben auch bewahrt werden, was ja eigentlich der AI-Eakt-Ursprünglich erreichen wollte, nämlich Vertrauen auch in die Technologie schaffen und Sicherheiten schaffen. Ohne Vertrauen kann sich KI ja langfristig auch in der Wirtschaft vielleicht nicht durchsetzen. Also egal, wie man es dreht und wenn das Beides gehört, finde ich schon zusammen. Hast du denn noch ein konkretes Beispiel, das illustriert, wo der AI-Eakt ohne die Einschränkung durch den Omnibus vielleicht ein bisschen übersteht, hinausgeschossen wäre? Ja, habe ich gefunden. Ich bin bei den Recherchenkariner auf einen aktuellen Artikel im Behördenspiel gestoßen, weil ich echt sehr spannend fand. Mir war nämlich nicht klar, dass in Prinzip auch jedes KI-System einer deutschen Behörde in die rubrik Hochrisiko-Anwendung fällt. Ein Algorithmus der Anträge auf Wohngeld oder Bürgergeld vorsertiert greift so tief ins Leben von Menschen ein, dass es eine Hochrisiko-Anwendung ist. Ein System in der Ausländerbehörde, das Akten nach Tringlichkeit vorsortiert, auch eine Hochrisiko-Anwendung. ein System das. Werber für Kita-Pletze bewertet, Hochrisiko. Viele KI-Anwendungen, die die Verwaltung so richtig Arbeit einsparen könnte, fallen unter die strengste Kategorie mit der Folge, dass man eben laut AI-Ekt eine wirklich lückenlose Dokumentation braucht, eine grundrechte Folgenabschätzung und außerdem Sachbearbeiterin und Sachbearbeitet, die alle Entscheidungen der KI zu jeden Zeitpunkt verstehen und im Zweifel überstimmen können. Also, du merkst, statt Warteschlang zu verkürzen? Für Ursache KI da erst mal ein riesigen Aufwand an Papier- und Organisationsgraben für Kommunalverwaltung und Behörden und da sieht nicht alle Begeistert von gewesen. Das kann ich mir vorstellen, aber dieser Aufwand ist ja kein Selbstzweck. Also man möchte die Leute nicht einfach mal ein bisschen beschäftigen, sondern es geht ja darum, dass schwere Grundrechtseingriffe verhindert werden, durch vielleicht noch nicht wirklich gut funktionierende KI-Systeme. Also die Absicht ist gut klar, aber der Aufwand bei der Umsetzung, der führt an eben unter Umstätten dazu, dass manche Kommunen sagen, da lass ich lieber ganz die Finger davon mit KI mich effizienter aufzustellen. Es gibt Fachleute, die waren vor einem Innovation Freeze. Und das darf natürlich auch nicht die Antwort sein, weil das Potenzial für Effizienstreihung ist ja gerade in der Verwaltung enorm. Und der Behördenspiegelartikel, den ich gerade erwähnt habe, der zitiert dazu Thomas Köster, den Leiter der Bürgerämter in Ham mit den Worten. Wir wollen in die Reduzierung von wachte Zeit investieren, die ihre Milch, die in ihre Organisation. Aber gibt es da irgendwelche praktischen Lösungen, wie sowas aussehen könnte? Also mein Arbeit in der Töne strahnen, und das ist klar, es muss eine Lösung sein, die verhindert, dass jede der rund 11.000 Kommunen in Deutschland das Rat neu erfinden und eigene Grundrechtsfolgenabschätzung für jede KI, abmachen muss die man gerne einsetzen würde. Ein Ansatz wäre natürlich sowas wie zertifizierte KI-Baukästen vom Bund, mit rechtssicheren Musterverträgen, auf die dann alle zugreifen können. In Deutschland ist die Bundesnetzagenturzentrale Anlaufstelle für die Umsetzung und Überwachung des EIX. Das Zugehörige EIX Durchführungsgesetz hat der Bundesrat, aber ihr ist jetzt am 10. Juni überhaupt abgenickt und das neu eingerichtete Koordinierungs- und Kapitänzzentrum für die KI-Verordnung. Das muss jetzt überhaupt erst mal anslaufen können. Bevor man dann sozusagen mit solchen Musterformatvorlagen für Behörden KI ist eine Marschrichtung vorgeben könnte. Dieses Beispiel zeigt für mich schon sehr deutlich die Strukturen für die Umsetzung des EIX, die entstehenden Deutschland gerade ist. Und auch vor diesem Hintergrund schreibt mir die Verschiebung der Regel für die Hochrisikosysteme durchaus sinnvoll. So, Reif, ich fast noch mal kurz zusammen, was uns alles spannendes mitgebracht hast. Die Umsetzung wichtiger Teile des EIX wurde aufgeschoben, aber eben nicht abgesagt oder auch nicht aufgehoben. An manchen Stellen entfaltet er sich trotzdem schon und seine Wirkung, weil er zum Beispiel in akzeptable KI-Anwendung in der EU verbietet oder zumindest einschränkt. Und weil jetzt zum zweiten Agust die Kennzeichnungspflicht für KI-Kontent kommt, sind wir in Europa also doch auf einem guten Weg in Sachen Regulierung. Also läuft's eigentlich doch gut. Karina, ich denke, die Kennzeichnungspflicht, die jetzt kommt, die wird z.B. Luckmustest für die Ambitionen der EU sein. Auch weiterhin vor, weiter bei der KI-Regulierung sein zu wollen. Wenn das technische überzeugend läuft und politisch auch durchgesetzt wird, inklusive Strafzahlung, vor allem die nicht mitmachen, dann wäre das echt ein gutes Zeichen. In Dezember dann das Verbot von "Judify Apps". Auch da ist zu erwarten, dass Elon Musk und Co. wahrscheinlich Druck dagegen machen. Und ich bin gespannt, ob brüssel dann Standhaft bleibt. Wenn ja, würde auch das meine Sorgen noch ein bisschen dampfen, dass der AI-Ekt durch weitere Lobbyarbeit doch noch komplett sturmreif geschossen werden könnte. Denn das wäre echt fatal, finde ich, die Zielvorgaben, die drinstehen. Die sind nämlich nach wie vor richtig. Es geht darum, die Gesellschaft vor unermünschen Nebenwirkung von KI-System zu schützen. Und wenn wir Europäer das nicht tun, wer bitte soll das denn sonst machen? Also das ist doch meine Frage, die ich an unsere Hörer in weitergeben möchte. Was denken Sie denn? Wie läuft's mit der KI-Regulierung? Alles gut, machen wir da einen guten Job oder könnten wir es besser machen oder könnten? Oder könnten andere Flanches vielleicht auch besser machen? Dann schreiben Sie uns, schreibt ihr uns unter
[email protected]. Wie freuen uns immer? Und das hat auch Lothar getan. Der ist selbst blind und hat sich sehr über den differenzierten Blick auf Smartglaces in der letzten Folge gefreut. Wenn ihr die noch nicht gehört habt, holt die doch gerne einfach mal nach. Und jetzt sage ich noch, danke Reif. Dass du dich durch gesetztes Texte gewühlt hast und Infos uns zusammengestellt hast. Das war total hilfreich. Und jetzt freue ich mich schon richtig auf den zweiten August. Ich mich auch, Karina. Es geht los. Langsam aber sicher geht's los mit dem A.A. Ich freue mich auch darauf. Danke dir. Und wir freuen uns, wenn ihr bei der nächsten Folge vielleicht auch dabei sein wollt, wenn Fedi und Moritz über die KI Start-Absäne sprechen. Danke fürs Zuhören und ich sage, tschüss. Ciao. [Musik] Deutschlandfunk. Damit der grausame Kühnisch-Charriar sie nicht tötet, erzählt die mutige Charizard jede Nacht. Von Verliebten und Verrückten. Ich werde einen Fährde-Satte aus Puchen-Golzschmieden lassen. Ich werde ihn mit kostbaren Edelstein besetzen lassen, Meereswesen und sprechen den Tieren. Na, du? Wie ist denn dein Name? Oh, mein Name ist Edel von Wackdat, Persien und China. Und immer an der spannenden Stelle unter Bericht-Charizard ihre Geschichte. Tausend und eine Nacht, Staffel 2 mit 559 Nächten. Alle Folgen gibt es in der Deutschlandfunk ab. Elf-Flehler, Urlehler. [Musik] Charizard erzählt um ihr Leben. Und wir hören zu.
PodcastTranscript AI