AI Act vs. ChatGPT – ein spannendes Match. Mit Lena Maria Urban und Gerald Trieb

* Musik * Recht aktuell, der Podcast. Liebe Hörerinnen und Hörer, herzlich willkommen zum Mannspodcast. Mein Name ist Elisabeth Meier. Ich bin mit der Welt darin in Verakmanz und arbeite in der Zeitschrift-Moldaktion. Und so heutiges Thema ist der neue EI-Ektel U im Zusammenhang mit JetGPD. Und da freue ich mich zwei Daten-Schutz-Experten, und ein Experten hier im Podcast-Studio zu begrüßen. Ja, Frau Magista Lena Uhrmann, herzlich willkommen. Herr Dr. Trip, herzlich willkommen. Grüß Gott. Kurz zu unseren beiden Gästen. Frau Magista Lena Uhrmann ist Rechtsanwältin bei Nierimtrieb Rechtsanwälte. Herr Dr. Gerrard Trip ist Rechtsanwalt und Partner von Nierimtrieb Rechtsanwälte. Er ist auch umschreibt, vieles ist gefragt der Autor und auch mite rausgeber des Datenschutzkommendgas Datkom. In der Rechtsakademie von Manns leitet er seit Jahren die Jahresdarkung Datenschutzrecht. Da ist der nächste Termin im September. In Lins, glaube ich, richtig. So ist es ja in Lins, genau. Und dann? Das ist ja auch sogar das Datum im Kopf wunderbar. Im Dezember gibt es dann einen weiteren Termin in Vorallberg. Das ist, glaube ich, euer zum ersten Mal das für den Vorallberg das machen. Hoi, ein erster Versuch, auch eine Tagung in Vorallberger stattfinden zu lassen. Ich bin aber guter Dinge, dass wir auch dort auf viel Interesse stoßen werden. Fünf der Dezember ist da der fixierte Termin. Ja, alle Termine und alle Dells finden sie dann auf unserer Homepage. Zurück zum Thema EI Act und Chat GPD zu Beginn, vielleicht gleich ein Disclimate, aber immer die Rade Chat GPD um fast viel Lebensbereiche und viel und daher auch viele rechtliche Regelungen. Wie ist die Abgrenzung des Thema "Wass-Behandlung", wie heute, Dr. Dribh? Ja, zunächst einmal vielen herzlichen Dank für die Einladung. Hier beim Podcast dabei sein zu dürfen. Dankeschön, dass wir uns bei diesem Thema gedacht haben zur Abgrenzung. Das Gegenstand, denke ich, das heutigen Podcast ist wichtig zu sagen, dass natürlich Artificial Intelligence, künstliche Intelligenz und auch das Gesetz, in Europa in der Pipeline, sozusagen ist in viele, viele Rechtsbereiche eingreifen. Wir, ich glaube, das haben wir alle noch gar nicht wirklich erfasst. Wir uns natürlich als Datenschutz-Experten vor allem auf die Datenschutzrechtliche Komponenten hier fokussieren und auch beschränken werden. Wichtig ist es hier, ganz allgemein zu sagen, dass geschaut werden muss darauf, dass man die Grundsätze der Datenverarbeitung dabei einhält, ganz prominent dabei zu nennen. Der Grundsätze der Information, der Transparenz über die Datenverarbeitung, sowohl in Bezug auf die Nutzer entsprechen das Systeme, wie auch in Bezug auf die Personen, die an Daten dabei verarbeitet werden. Zweckbindung, ganz prominent, dürfen denn tatsächlich alle Informationen, die das System auch bei der Anwendung sammelt für die Wetterentwicklung verwendet werden und aber auch nicht zu vergessen, denke ich, der Grundsatz der Daten-Richtigkeit. Wenn man hier a Chat-GPT verwendet. Ja, gefahrt Chat-GPT ist sehr benötig. Wenn man jetzt Chat-GPT verwendet oder wahrscheinlich auch, man soll jetzt hier nicht ein Produkt oder eine Software sozusagen eine Branga stellen. Das ist ja sozusagen kein Einzelfall, denke ich, gerade hier aber wird man gleich mit dem Disklima konfrontiert, dass das Ergebnis, das Chat-GPT liefert, nicht richtig sein muss. Aber es hält natürlich auch Personen mit sogenannten Daten, je nachdem, was man Chat-GPT als Chat-Programm fragt. Und hier stehen sich natürlich auch gewisse Probleme mit dem Grundsatz der Daten-Richtigkeit. Ja, muss man sich gefallen lassen, aber all das, was hier Chat-GPT sozusagen über einen produziert, auch falsch sein kann. Man darf auch nicht vergessen, wissen Stand von Chat-GPT ist September 2021. Da ist jetzt doch schon einige Zeit vergangen, fast zwei Jahre. Und daher auch immer bitte Vorsicht bei der Bewertung der Informationen der Ergebnisse der Chat-GPT liefert. Jetzt habe ich gesagt, was man besprechen, was besprechen wir aber nicht. Nämlich andere rechtliche Fragestellungen zum Beispiel des Urheberrechts, des Medienrechts, des Geheimnis-Schutzes und auch des Berufsrechts. Das darf man auch nicht vergessen. Wir haben in der Kanzleihe, das möchte ich auch sagen. Aber unseren Mitarbeitern verboten Chat-GPT zu verwenden, weil hier es zu einer Offenbarung schlicht und ergreifend formantanten Informationen kommen kann. Und man ja einfach nicht darauf vertrauen kann, dass hier auch tatsächlich die Daten vertraulich behandelt werden. Ich höre aber doch immer wieder, dass das durchaus auch in anderen Kanzlei schon gar nicht und gebe ist. Und hier hoffe ich doch auch, ein entsprechendes Sensibilität gegeben ist und die Ergebnisse, die sozusagen ausgeworfen werden, noch entsprechend überprüft werden. Das ist glaube ich ein ganzer Zentraler Punkt, dem man ganz allgemein bei der Anwendung nicht vergessen darf. Ja, geradeberechtet, wollen Sie es natürlich mit den Mandanten und Geheimnis-Schutzen ein sensibles Thema. Absolut. Inzwischen gibt es ja unzählige UX. Man hat das Gefühl, wir werden jeden Tag mehr. Der Data gab man ein Sektor, Digital-Market-Extra-Digital-Service-Extra. Wie passt das jetzt alles zusammen mit diesem AI-Extra? Und wie ist das in den Europerechtlichen Rahmen eingebettet sozusagen? Das ist eine ausgezeichnete Frage und ich glaube in den nächsten Jahren, wenn wir uns vor allem mit dieser Frage sehr stark auseinandersetzen müssen. Sie haben es jetzt schon verweg genommen. Der AI-Extra ist nicht eine stende Lohngesetzgierung. Es ist nicht jetzt sozusagen der einzige Ekte, die Digitalisierung, die man weiter fortschreitet, auf europäischer Ebene regeln soll. Anders als noch bei der DSG-VO, wenn man jetzt das Telekomunikationsdatenschutzrecht, sozusagen einmal bei Seite lässt, war das doch eine sehr sehr zentrale Vorschrift. Es ist immer noch die Farbeiter und Personen bezogen an Daten regelt und wenn man diese Vorschrift sozusagen, wenn man damals die Struktur verstanden hat, das Konzept verstanden hat, dann kommt man im Datenschutzrecht sehr, sehr weit. Bei der Digitalisierungstrategie, muss man allerdings mehrere neue Gesetze ekt's, wie Sie jetzt heißen, beachten mit dem AI-Extra. Sie kommen da Data-Ekt in sich genannt haben und auch da Data-Gavernens-Ekt. Ich glaube, die zwei kann man ein bisschen in einer Gruppe. Sozusagen sehen, die sollen sicherstellen, dass Daten da öffentlichen haben, wie auch Daten, die von private wirtschaftlich tätigen Unternehmen verarbeitet werden. Der Allgemeinheit möglichst zur Verfügung stehen, wird man sehen, wie dieses Konzept greifen wird. Da kommen auch noch insbesondere der Digital-Markets-Ekt und der Digital-Services-Ekt, also Ekt's-Ekt's-Ekt's-Ekt's, den wir europäischen Daten erreicht. Die beiden letzten genannten Gesetze werden insbesondere große Plattformen, aber auch insbesondere Dienstleister von digitalen Diensten im Internet, im Online-Bereich, an die Kandare nehmen und diesen Pflichten auferlegen. Den Verbrauchern, den Nutzern, hier möglichst bessere Rechte, eine größere Handhabung, also sagen gegen diese Plattformen, während dann immer so ein Beispiel. Genau, das ist so eine Plattform, die man natürlich erst das denkt, aber auch Suchmaschinen sind davon erfasst, also da ist durchaus ein größer Anwendungsbereich auch gegeben. Lastbot-Nut-List, auch im Daten-Sicherheitsbereich gibt es neue Ekt's. Wir haben es gerade vorher in der Datakommensreaktionssitzung darüber gesprochen. Auch zu natürlich 32 DSGVO wird sozusagen ein wenig flankierende Begleitende Regelungen geben, die man beachten wird müssen, Data-Resilience-Ekt und Cybersecurity-Ekt werden auch auf uns zukommen. So zusammen spielt, werden wir sehen, überall steht, die Datenschutz-Grundverordnung bleibt unberührt, das heißt, wir haben weder Lex Speziales, wir haben keine Lex-Bosterior, die hier kommt, sondern Paralleles-Datenrecht. Das Parallel-Anwend bei Ist, dauerhaft seine Freude haben, der wird viel auszulegen haben und so viele Fragen beantworten können. Nach den ersten Judikarten zur DSGVO, die wir jetzt doch immer mehr bekommen, ist das allerdings ein bisschen zu bezweifeln, ob er das wirklich schaffen wird können. Also die DSGVO ist nicht obsolet, sie bleibt erhalten und das zusammen spielt, wird mal schauen, wie das funktioniert, wenn ich das richtig verstanden habe. Ja, also ich denke, das wird dann die Praxis zeigen und die einzelnen Anwendungsfälle, die werden da ein bisschen Licht ins Dunkel bringen. Der E-Ekt ist ja noch nicht in Kraft, wie ist denn da dann stand des Verfahrens von Marke Stuban? Genau, ist nach wie vor im Gesetzgebungsverfahren gerade dieser Tage wird verhandelt und zwar im Plenum des EU-Parlaments. Ursprünglich gab es einmal einen Entwurf, das war Vorschlag der Kommission im Jahr 2021. Das ist jetzt schon schon eine Zeit lang her, ja. Dann gab es in weitere Folge Ende letzten Jahres eine gemeinsame Ausrichtung des Rates mit einigen Änderungen, wo und da anderem auch für ChatGPT neue Artikel, also neue Regelungen durch Stimmungen dazu gekommen sind. Und jetzt gibt es aus diesem Jahr aus May einen Kompromistext, um auf was es dessen wird sozusagen jetzt dann im EU-Parlament verhandelt. Was momentan enorm umstritten ist, ist die Frage, wie mit biometrischen Erkennungssystemen umgegangen werden soll, also stichwort Massenüberwachung, insbesondere auch zur Strafverfolgungstrecken. Darüber wird gestritten und davon hängt jetzt auch nach der bisherigen Berichterstattung ein bisschen so die Frage ab, ob hier erfolgreich weiter verhandelt wird. Planmäßiges in Kraft treten des EU-Eakt war ursprünglich sicherlich schon viel früher geplant. Da, manchmal länger, als man glaubt. Und wäre angesichts der aktuellen Entwicklungen auch wünschenswert, es ist denkbar, dass noch dieses Jahr darüber sozusagen fertig verhandlicht wird und möglicherweise das in Kraft treten, auch noch zu 2020 erfolgen kann. Gelten würde der EU-Eakt nach dem aktuellsten Natur, aber dann erst zwei Jahre später. Das ist ja eine relativ lange Regel, was kann sein, eigentlich, ne? Genau, wir werden dann in Ende 2025 möglicherweise 2020 relativ spät. Ist ja doch interessant, weil in diesen zwei Jahren wird die Technik wahrscheinlich nicht stehen bleiben, ne? Ja, genau. Muss man schauen, wir müssen alles dann zusammenpassen. Wie man sehen, wie der Gesetzgeber dann hinterherkommt. Was ist das eigentlich, wenn man rasen Meeroboter auch schon in künstlichen Intelligenz oder der Assistent, der Spurenassistent im Auto? Das ist auch eine sehr zentrale Frage. Und es lässt sich leider gar nicht so einfach beantworten. Die definieren sich auch nicht. Und das ist ein sehr guter Gesetzgeber. Das ist auch ein sehr zentraler Frage. Das lässt sich leider gar nicht so einfach beantworten. Die Definition der KI wurde über die bisherigen Entwürfe immer mehr verkürzt und dadurch aber verbreitet. Zunächst wurde noch auf einen Anrang verwiesen und auf die Art und Weise, wie die künstliche Intelligenz sozusagen hergestellt wurde, abgestellt. Und mittlerweile ist man dabei, dass man Sinyemais sagt. Es handelt sich um ein Maschinengeschütz des System mit einem gewissen, gerade in Autonomie, das für irgendwelche festgelegten Ziele irgendeine Art von Ergebnisses liefern kann. Und dieses Ergebnis beeinflusst dann die physische oder, also das physische oder virtuelle Umfeld. Also einer enorm schwammige Definition. Ja, sehr breit, enorm breit. Zu Beginn waren vom Bordlert ja auch statistische Verfahren und Schlussfolgerungen umfasst. Die sind jetzt so nicht mehr erwähnt, aber bei dieser Definition stellt sich halt die Frage, ob es nicht auch da schon berühmt befehlt, insbesondere, ist es meiner Sicht sehr schwierig abzugrenzen, wann dieses erforderliche Maß an Autonomie vorlegt. Ja, ist ja. Und welche Art von künstlichen Intelligenz, Intelligenz kennt jetzt der AI-Akt? Wie schaut da die Regelungstruktur aus? Also der AI-Akt verfolgt einen Risiko basierten Ansatz? Ja, möchte einerseits ganz gefährliche künstliche Intelligenz verbieten. Also es gibt quasi einen Verbotskatalog. Darunter fällt Fallensysteme, die Personen unterschwellig beeinflussen können. Oder sollen fallen, so zumindest der aktuellen Entwürfe, die Schwächen von Personen ausnutzen sollen. Es gibt eben die schon angesprochene biometrische Verarbeitung von Daten in Zusammenhang mit der Kategorisierung von Personen auf Basis-Sensibler Merkmalen, Social Scoring, dann weiters auch, beispielsweise die Analyse, ob jetzt eine Person auf Basis ihres Verhaltens möglicherweise dazu neigen könnte, für rückfällig zu werden. Aber es geht auch in Richtung Verbraucherschutzung. Ist das richtig verstanden, dass das Ausmützen betrifft vor allem? Ja, genau. Ja und Emotionserkennung soll auch in bestimmten Bereichen verboten werden. Also damit Videoaufnahmen wahrscheinlich, ne? Gibt es ja den Grund, warum gerade Emotionen da ausgenommen sind oder was das in dieses Scoring hinein? Das passt jetzt eher beispielsweise hinein, so wie ich mir das vorstelle, wenn jemand einvernommen wird und wie sozusagen so unwirkt. Diese Lügenanalyse sozusagen hoch zweier? Genau. Also dieser Lügendetekt, der immer das Filmen kennt, der das ausschlägt, den gibt es dann nicht mehr. Oder zum Verbracht. Genau, also das wäre jetzt einmal die verbotenen Bereiche gewesen und der weitere große Punkt, der vom AI-Akt abgedeckt wird, sind die sogenannten Hochrisikokaisysteme. Die sind zwar erlaubt, müssen aber eine Reihe an Anforderungen erfüllen, dass sie rechtmäßig hergestellt betrieben und genutzt werden können. Was eine Hochrisikokai ist, ist auch nicht so einfach zu sagen. Der AI-Akt stellt einerseits darauf ab, dass für bestimmte Produkte, wo aktuell schon Produktsicherzworschriften gelten. Man denkt jetzt zum Beispiel an Medizinprodukte, dass dann, wenn dort eine Kain-Spiel kommt, die als Hochrisikokai eingestuft wird und andererseits nennt der AI-Akt auch in einem weiteren Anhang einfach bestimmte Anwendungsfälle und bestimmte Bereiche. Wie beispielsweise biometrische Systeme, der betriebkritischer Infrastruktur, demokratische Prozesse, rechtsdurchsetzung. Also auch alle wahlen würden um der Fall. Genau. Und auch dann fällt man in die Hochrisikokai. Allerdings, was jetzt spannenderweise neu dazu gekommen ist, in diesen Bereichen muss es ein signifikantes Risiko geben. Der Betreiber oder Hersteller muss dann auch für sich das Risiko abschätzen. Es muss nicht eine Hochriske, es muss auch signifikant sein. Und dieses signifikante Risiko ist grundsätzlich auch in AI-Akt definiert. Es bleibt dann abzuwarten, ab wann man da hineinfällt. Und alles andere ist dann sozusagen unreguliert oder alles, was nicht hochrisiko ist und signifikant. Und alles andere ist grundsätzlich erlaubt, was jetzt dabei im Hinblick auf ChatGyPity sehr relevant ist. Sind die neuen zugekommenen Regelungen, die nicht nur auf Hochrisiko AI abstellen, sondern auf sogenannte Foundation Models. Foundation Models sind KI-Modelle, die mit sehr vielen Daten trainiert wurden und für verschiedene Aufgaben gibt es eingesetzt werden können. Da würde jetzt ChatGyPity auch bei Runde fallen. Gleichzeitig gibt es auch einen weiteren Begriff. Nämlich die KI mit allgemeinem Verwendungszweck. Und da sage ich genauso, ist ChatGyPity sozusagen brinnen. Allerdings gibt es für diese beiden KI-Bereiche eigene Regelungen. Und KI mit allgemeinem Verwendungszweck fallen dann in die erhöhten Anforderungen an der Hochrisiko KI, wenn sie als Teil einer Hochrisiko KI verwendet werden können. Möglichkeit. Die Möglichkeit, dass sie so verwendet werden können, führt dazu, dass die Anforderungen einer Hochrisiko KI einzuhalten sind. Und wie sind die Regelungen für ChatGyPity gibt, da gibt es verschiedene Akteures, die Daten einspielen. Es gibt Ergebnisse, wie schaut es da? Also es ist einerseits so, dass die meisten Anforderungen, die im AIG geregelt sind, einmal die Herstellung der KI betreffen. So ist es so, dass der Herstellung einer Hochrisiko KI beispielsweise dafür sorgen muss, dass die KI ein Risiko-Management-System hat, muss bei der Datenqualität gewisse Anforderungen erfüllen. Also die Daten, die für das Training der KI verwendet werden. Es gibt dann spannenderweise auch einen Bezug zu DSGVO. Im AIG ist es momentan vorgesehen, dass zur Vermeidung von negativen Buyers auch besondere Kategorien von Daten, also beispielsweise die Gesundheitsdaten verarbeitet werden dürfen, die normalerweise nach DSGVO nicht verarbeitet werden dürfen, bis auf bestimmte Ausnahmen. Weiter muss ein Hersteller von einer Hochrisiko KI eine technische Dokumentation machen, Aufzeichnungen machen, Transparenzpflichten erfüllen. Also Dinge, die jetzt auch in die klassische Produktsicherheit fallen. Das, was für die KI besonders wichtig ist, ist, denke ich auch, dass die menschliche Aufsicht möglich sein muss. Also ein Mensch muss die letzte Entscheidung so helfen können. Und da muss schon der Hersteller dafür sorgen, dass das System das möglich machen. Das heißt, der AIG behandelt vor allem die Hersteller. Einerseits fliechten dem Volker. Sehr viele Fliechten für die Hersteller. Zusätzlich auch Fliechten für Impotörer und Händler. Wenn solche Akteure dann beispielsweise die KI leicht abändern oder unterermagen vertreiben, werden sie sozusagen schnell zum Hersteller und müssen wieder um die Herstelleranforderungen einhalten. Und der Nutzer wird auch geregelt. Auch wenn ich jetzt betätilt, was eingebe, dann bin ich ja der Nutzer der KI, oder? Mittlerweile ist es so, dass im aktuellen Dorf der Begriff "Die Pläuer" verwendet wird. Nicht mehr Jose, wie bisher. Und der Die Pläuer ist die Person, die das KI-System unter seiner Aufsicht verwendet. Also, ich denke hier, beispielsweise einen Unternehmen, das die KI für seinen Unternehmenszweck. Ja. Und auch der Nutzer muss schauen, dass es eine menschliche Aufsicht gibt. Die menschliche Aufsicht steht dann überall im sozusagen. Genau. Wie schaut es eigentlich, dann die Entwicklungen in Bezug auf JCPD aus? Also, die behörliche Kontrolle funktioniert da schon, wie läuft das? Ich denke, sie hat einen wenig angefangen zu funktionieren, bei dem Regelungsgegenstand, in der ihr eikt haben wird, in jetzt auch die Frau Mr. Urban. Es kitziert hat, sieht man ja, dass sehr, sehr viel sozusagen auch Datenschutzrechtlich getrieben ist, bzw. sich parallel zu DSGVO ergeben. Es wurde jetzt gerade gesagt, auch der Die Pläuer der Nutzer muss sozusagen dafür sagen, dass die KI das richtige macht. Das ist wieder verantwortlich im Datenschutzrecht, denke ich, der eine Software hier betreibt, bzw. verwendet. Und gleichzeitig auch die Aufsicht über die Entscheidungen, oder sozusagen die Überprüfung der Entscheidung kennen. Wir schauen aus der Deckel 22 DSGVO. Und so konnte auch die italienische Datenschutzbehörde auf Basis der geltenden Datenschutzgrundverordnung, die sagen, als JGPD aufs Koan fühlen und hier eine Entscheidung fehlen am Anfang des Frühjahrs, die sogar so weit gegangen ist, dass JGPD aufgrund Datenschutzrechtlicher Verletzungen für eine Zeitlang nicht online gehen durfte. So quasi die Verarbeitung binden musste, aussetzen musste für eine Zeit. Das hat gedauert ungefähr einen halben Monat, bis 30.04. Wurde der JGPD von der italienischen Datenschutzbehörde der Garantezeit gegeben, einige Korrekturen, Anpassungen vorzunehmen. Beispelsweise Informationen über die Datenverarbeitung, Ausübung von Betroffenenrechten, Rechtsgrundlage der Datenverarbeitung. Man hat das Training, die Entwicklung der Software unter die Vertragserfüllung beispielsweise zu subsummieren versucht. Tricks bzw. auch Themen, die wir auch schon jetzt aus der Datenschutzrechtlichen Kompleins kennen. OpenAI als Unternehmen, das hinter JGPD steht, hat ja auch tatsächlich entsprechend Adaptionen durchgeführt und mit 28.04. Die Anwendung wieder in Italien verfügbar gemacht und hier Verbesserungen vorgesehen. Es gibt eine überarbeitete Datenschutzinformation, es gibt Tools über die Betroffenenrechte ausgeübt werden können. Auf diese Weise hat man sich sozusagen jetzt einmal das erste große Umgemach wieder ein bisschen so zu sagen, sich dessen entledigen können. Es geht aber sicher weiter. Und zwar hat jetzt sozusagen die Garante die italienische Datenschutzbehörde das Thema ein wenig zum europäischen Datenschutz-Ausschuss verlagert, der jetzt hier eine koordinierte Überprüfungsaktion zu entsprechenden Systemen, insbesondere JGPD durchführt. Wie das Ganze wirken wird, ob das wirklich von Erfolg getragen sein wird, war ich ein wenig zu bezweifeln. Die bisherigen entsprechenden Strategien, beziehungsweise Initiativen des europäischen Datenschutz-Ausschusses sind bezog auf glatt Datenverarbeitung, diese auch schon gegeben hat. Die haben jetzt nicht wirklich zu sichtbaren Verbesserungen und Ergebnisse geführt, muss ich sagen. Die Italiener sind sozusagen vorgeprescht und möglicherweise die haben sozusagen ausgesprochen, was in der gesamten Union ohnehin geholten hat, aber sie haben natürlich nur die jurisdiction über Italien, daher braucht JGPD nur in Italien nicht verfügbar für diesen Zeitraum. Aber die Verbesserungen, die das mit sich gebracht hat, die genießen jetzt alle Unionspürger. Ist das für Vortel für uns? - Insofern absolut. Wie schaut jetzt konkret die Umsetzung des AIEQs aus, welche Regelungen wird es da geben, welche Behörden, wie wird das ablaufen? Also zu dem Behörden gibt es einmal einerseits etwas auf EU-Ebene und zwar soll eine AI-Office geschaffen werden. Das soll eine unabhängige EU-Institution sein, die mit dem AIEQ geschaffen wird. Und die dann auch beispielsweise zuständig sein soll, halt für die internationale Durchsetzung und auch für gewisse Durchführungsreinsakte. Und zusätzlich soll es auf EU-Ebene, das ist vielleicht auch noch interessant, an der Stelle zu erwienen, eine Datenbank für Hochrisiko-Kaisysteme geben. Da kann dann jeder Reihenchanz sozusagen. - Genau, die dann auch öffentlich zur Verfügung gestellt wird. Ist denn alle Ebene, soll es dann pro Mitgliedstadt eine Überwachungsbehörde geben? Weiß mal deine Österreich schon, wer das sein wird? - In Österreich, weiß man leider noch nichts. Man kann nur spekulieren. Es ist natürlich eine Überlegung, ob eventuell die Datenschutzbehörde da eine Rolle übernehmen kann. Damit Mitgliedstadt soll die Behörde auf jeden Fall benennen, d.h. da muss nichts mingend eine neue Behörde schaffen. Und in dem Bereichen, wo es schon Marktüberwachungsbehörden gibt, bleiben die für ihren Teil auch zuständig. Es kann aber durchaus Überschneidungen mit der sozusagen neuen KI-Behörder geben. Ja, zur Durchsetzung, was vielleicht auch noch sehr zentrales sind die Sanktionen, die drohen, wenn man sich nicht an den Eigent hält. Die sind gestaffelt und als Maximum für den Verstoß gegen die verbotenen KI-Systeme droht eine Strafe von 7 Prozent des Weltwärten vor Jahresumsatzes oder 40 Millionen Euro. Das ist der nicht weniger. - Also sogar noch ein Stückchen mehr als in der DSGVO, war gesehen. Das ist dann schon recht umfassend. Gibt es noch eine Regelung, dass man diese, wenn die so viel im Netz sind, dass man diese verbotenen KI-Systeme wieder vom letzten nehmen muss? Also die Behörden, die nationalen Überwachungsbehörden hätten die Rolle im Worst Case, wenn das System die Anforderungen nicht erfüllt und ein Risikotar stellt, dieses auch abzutrennen. Es gibt in dem EI auch die sogenannte Regulatory Sandboxes, was kann man sich den Tatum davor stellen, dass sie sein relativ unbekannte Begriffe. Ja, das sind sozusagen im deutschen KI-Real-Laborer. Der Gedanke ist der, das Behördenunternehmen an der Hand nehmen und sozusagen eine Umgebung schaffen, wo man sicher, einmal KI testen kann, das, was aber auf jeden Fall spannend ist, ist, dass die Beteiligten für das, was sie da tun, auch Haften. Also man kann sich da nicht einfach austoben und ausprobieren, ohne mit den Konsequenzen leben zu müssen. Auch eine Haftungsrechtliche abgesichtete Hassankiste? - Genau. Eine Abschlussfrage, vielleicht noch, haben Sie selber schon mal Jet-GPD benutzt und welche Erfahrungen haben Sie damit gemacht? Bei mir sind die Erfahrungen noch nicht sehr viel fehlte, glaube ich, habe sie in der Tat schon, und zwar auch sozusagen mit Mans-Rechtsakademie-Bezug. Es gab schon eine Tagung zu neuen EU-Daten-Strategie, den EGTS, die ich vorher erwähnt habe. Wir haben eine Tagung, wo alle fünf Haupt-Ekts vorgestellt wurden, wir zuergenst nächstes Jahr wiedergeben, weil es Interesse vor allem, weil es sehr, sehr groß war. Und für die Eröffnung dieser Tagung, wo ich in das Thema ein wenig einführe, dachte ich, es wäre passend, sich diese Rede, diese kurze, von Jet-GPD schreiben zu lassen. Und hab dann tatsächlich die ersten fünf bis sieben Minuten, das, was Jet-GPD hier produziert hat, zum besten gegeben. Und dann sicherlich auch ein wenig bewusst versucht, einen Kontrast zu den restlichen fünf Minuten der Rede aufzubauen. Und hab jetzt, wie soll man sagen, nicht das aller beste Feedback dazu bekommen, weil das eine war mal, ja, das bin grundsätzlich nicht ich, dass man hier sozusagen mir einen Text vorgibt, den ich da zum besten gebe, insbesondere Teilnehmer, die schon auf mehreren Tagungen gewesen sind. Reden schon gehört und ein anderer hat gemeint, dass so das, was da von der künstlichen Intelligenz gekommen ist. Das war so fahrt wie noch nichts, was ich sonst verbessend gegeben habe, also den nächsten Öffnungen werden wieder nicht von der künstlichen Intelligenz kommen, sondern doch eher meinen Gedanken entspringen. Ich habe es auch schon getestet, ich habe eher versucht, Datenschutzrechtliche Fragen zu stellen und zu schauen, was das System auswürft. Da kann man sagen, bitte wirf mir das jetzt in einer Tabelle aus und sortiere es nach Entscheidungsdatum, aber das Problem ist, dass halt dann leider da inhalt nicht so ganz korrekt war. Es war zwar schön in einer Tabelle und das war auch schön chronologisch sortiert, aber es waren halt nicht alles tatsächlich datenschutzrechtlich relevante Entscheidungen. Also vorsichtbar, wenn man so wirklich rechtlich inhaltet sich rausgeben lässt, das kann dann eben gehen. Dafür ist das System einfach nicht da genau. Und mit viel Humor ist es offensichtlich auch nicht gesegnet. Absolut nicht. Nein, es war eher trocken sozusagen, dass Basis Wissen heruntergebietet. Ein Anfang, wir wissen, wo wir dann in zwei, drei Jahren stehen. Absolut, wenn wir sehen, ob sich die Systeme da tatsächlich entsprechend verbessern. Das wäre möglich, wenn man sich die besetzige technischen Entwicklung anschaut, ist es nicht ganz ausgeschlossen. Nein, es ist nicht ausgeschlossen und glaube ich wäre auch verfehlt, dass irgendwie insbesondere als technischerlei vor ihr sagen zu wollen. Ja, liebe Frau Magisturmann, liebe Dr. Dr. Trieb, danke, dass ihr zu uns ins Podcast zu dir gekommen sind. Sehr gerne. Ja, wir haben ja noch viel Neues heute gehört, glaube ich. Gerade diese EU-Ekt sind alle noch ein bisschen unbegrannter. Ja, liebe Höhren und Hörer, wenn Sie noch mehr über den AI-Ekt und Touch-Gbidier fahren möchten, kann ich in des Dezitschaftsdatentutz konkret empfehlen, da wird es in den Hälften drei und vier Berichte darüber geben und Schwerpunkte dazu. Für die technischen, rechtlichen Grundlagen kann ich auf Brückstaller Hermann Lampisberger verweisen. Da gibt es im Buch mit dem Titel künstlichen Intelligenz. Die technischen Grundlagen sind dort auch so oft bereitet, dass sie nicht techniker verstehen. Das kann ich selber bestätigen. Ja, wenn Sie noch weitere Podcasts hören wollen, die von echten Menschen gesprochen worden sind, wo es noch echte Versprechungen, echte Hems gibt, dann kann ich auch auf die anderen Ausgaben von unserem Mannsrecht-Aktuell-Podcast verweisen. Bis bald und auf Wiederhörn. Wiederhörn. Das war Recht aktuell, der Podcast. Zuhören auf manz.at/podcast und überall wo es Podcast gibt. Wenn Sie haben Themenvorschläge oder Wunschgäste, dann schreiben Sie uns an [email protected]. Abonnieren Sharon und liken Sie uns, wenn Ihnen die Sendung gefallen haben. Bis zum nächsten Mal.