96; AI-Hacker

Ein Bildschirm leuchtet. Helle zeilen Rasen über ein schwarzes Terminal, aber kein Mensch tippt. Die Commandos kommen von ganz selbst. Zuerst ein Scan. Dann eine Analyse. Was vor ein paar Momenten noch Reconocents war, beginnt jetzt zu einem Exploit zu werden. Und dann eine Exfiltration von Daten. Und das Ganze in Kürzester Zeit. Irgendwo in einem dunklen, klimatisierten Rechenzentrum zwischen Blinkenden LEDs. Die Söhrer im unkreis verarbeiten die Daten auf dem Computer. Das leise Summende Lüftungen ist förbar. Und auch ist der Angreiferten nicht in diesem Rechenzentrum, sondern verwendet nur einen Teil davon. Aber er sitzt auch nicht zu Hause vor seinem Bildschirm. Er hat die Arbeit bereits delegiert. Ein Tool, das nie müde wird. Ein Tool, das zur Fehler macht. Aber sich selbst immer wieder ausbeißert und weiterlärmt. Alles voll autonom. Das ist kein klassischer Heck mehr. Das ist eine neue Ehrer vom Hecken. Autonomiker hier genden die selbstständigen Fremdesysteme eindringen. Die Lernen, die sich ampassen. Und dann sogar die eigenen Spuren verwischen. Irgendwo tausende Kilometer entfernt, vielleicht in Shen Chen, da wo ich kommendes Jahr hinfliege. Oder Chen Du, wo wir dieses Jahr waren, sitzt der Operator. Vielleicht zieht er gerade auf dem Bildschirm vielleicht auch nicht. Er spielt keine Rolle mehr. Und während in der USA gerade die Sonne aufgeht und die Atmen ihren ersten Montag nur an Café trinken und ihre Imelschrecken, hat die KI bereits ihre ganze Arbeit getam. Sehr wektor ist installiert, Daten explodiert und sich selbst und die eigenen Spuren direkt wieder gelöscht. Wahrige Schichten aus dem verborgenen Teil des Darkknets. Ich bin Rand und das ist Inside Darkknets. Hi, ich hatte ja bei der letzten App ist würde gesagt, wie nervös ich vor diesen zwei Talks, wenn ich habe. Also diese zwei technischen Dressendationen vor Hecker-Communities und Microsoft selbst. Einige von euch haben mir wieder letzte Woche hinweg subotivierende, so süße Nachrichten auf Instagram, Spotify und Discord geschickt. Und das hat mir definitiv Glück gebracht. Ich hatte dann eben diese beiden Talks, die sind sehr sehr gut gelaufen und ich bin sehr stolz auf das Ganze und habe dabei was ganz wichtiges gelernt. Möchte es ein bisschen weitergeben, falls jemand von euch gerne irgendwelche technischen Sachen präsentieren möchte, aber sich nicht raubt. Oder falls er an der Uni oder an der Schule ist und nicht genau weiß, wie schlimm die Präsentation wird. Das Wildester ist immer die Zeit davor und die ersten zwei Sätze. Lern die ersten zwei Sätze auswendigte mit dem West, was er sah wohl. Und dann geht es schon von selbst, wenn er in diesem Thema drin ist und euch natürlich mit diesem Thema dann auskennen. Und dann bist du euch immer so ein bisschen denken. Ihr kennt euch mit dem Thema besser aus, als jeder andere der gerade zuhört. Denn ihr habt ein Research gemacht. Man muss es natürlich aber auch sagen, dass es keine 100-Uzentige Lösung, den jeder Mensch ist ein bisschen anders und für jede oder jeden von euch helfen sich ja andere Dinge besser. Aber long story short. Es ist richtig gut gelaufen und danke für eure Unterstützung und die super süßen Worte. Neuigkeiten auszürzen. Sieben zum Ziel eines groß angelegten Cyberandries geworden. Mit dem 700. Eigenen Rheins und Beankrif im Jahr 2025 hat Killen Rheins und wird Positionen als produktivter Rheins und Werbetreiber der letzten Jahres sich noch selber weiter gefestigt. Die Firma Comparityk hat festgestellt, dass Killen nach einer 10 Monaten in diesem Jahr bereits die fühlende Rheins und Wer des letzten Jahres Rheins und Harpen überholt hat. Was besonders interessant ist, Rheins und Harpen ist nur ab April 2025 verschwunden und dann ach sind die sehr affiliiert wohl zu Killen gewechselt. Seitdem gibt es einen 280%-Ting anstieg von Angriffen Bike-Willen Rheins und Werden. Die Hauptziele sind keine Produktionsfirmen, Finanz, Healthcare und Regierungstellen. Es gab über 100 Angriffe auf kleine KMUs und Produktionsfirmen. Killen selbst operiert unter einem Rheins und Wer-Ses-Service-Modell. Das heißt, Trittparteien können die Infrastruktur von Killen nutzen. Insgesamt haben sie 116 Terabyte und Daten gestohlen, was eine massive Operation ist. Und ich habe heute sogar noch einen 2. News, die vielleicht ein bisschen interessant ist. Microsoft hat auf der Ignite-Messe letzte Woche angekündigt, das Security-Cobalot, also die AI für ihr Security-Bortal, für alle Microsoft E5-Kunden inkludiert wird. Das ist für Unternehmen, dem Microsoft-Towenten, richtig groß. Bisher musste man nämlich den Security-Cobalot immer sehr sehr teuer dazukaufen und jetzt bekommen Microsoft E5-Kunden 400 ComputUnits pro Monat. Das sind AI-gestützte Security-Agenten, die direkt in Microsoft-Defender, Entra, Intune und Perführ integriert sind. Das sind diese Microsoft-Lösungen, die sehr gängig in Deutschland und Österreich sind. Für Security-Teams kann das ein Game-Changer sein, weil sie AI-Power bekommen, ohne extra dafür Zahlen zu müssen, also Bild in. Das Rollout für das Ganze hat mit dem 18. November begonnen. Die heutige Folie ist schon wieder sehr sehr spannend. Bevor wir aber in das Interview mit einem Researcher springen, den ich selbst persönlich kenne, muss ich ein bisschen Kontext zu dem ganzen Thema geben, und dass wir so ein bisschen ein Bild schaffen, was eigentlich passiert ist, was das Thema ist. Wir sprechen heute nämlich über den ersten dokumentierten Fall eines großflächigen Cyber-Ancrifs, der was komplett von AI ausgeführt worden ist. Also ein riesiger AI-gesteuerte Hack. Über den letzten Jahre hinweg ist AI ja immer größer geworden, und man muss schon es wird immer mehr für Hack-Survendet, aber es gab eben keine dokumentierten Fälle. Und vor allem keine voll autonomisch dokumentierten Fälle. Also zum Beispiel der Hack-Giblinpe habe viele ein und der Rest passiert alles automatisch. Zumindest bis jetzt, denn es will jetzt die heutige Episode nicht geben. Dann mit das September 2025 hatte die Firma Enfrabilk. Das sind die Hersteller von Claude AI eine massive speonage Kampagne entdeckt. Hack- und Angreifer haben ihren Code-Miss braucht, um etwa 30 Organisationen weltweit zu attackieren. Darunter Teichfirmen, Regierungstellen und Chemieproduktionshersteller. Das besondere daran, wie wir es jetzt vielleicht schon ein bisschen erwähnt haben, 80 bis 90 Prozent dieses Angriffs waren von der KI selbst generell. Und das finde ich richtig, richtig wild. Wenn ich ganz ehrlich bin, zentail auch cool, dass man sehen kann, wie einfach und wie voradgeschritten solche Angriffen zwischen sein können. Und wie wichtig es ist, sich Gedankeung um die eigene Security zu machen, denn wenn Hex autonom werden kann man viel größere Kampagnen fahren und viel mehr Firmen gleichzeitig attackieren, was natürlich im Endeffekt auch wieder erschreckend sein wird. Die KI hat selbstständig Netzwerke gespent, sehr selbstständig Schwachstellen gefunden, Exploits geschrieben und Daten exfiltriert. Man weiß auch, dass die menschlichen Hekkert dahinter nur an 4 bis 6 teilen handisch eingreifen mussten. Welcome to the Future. Ein Frobic hatte Gruppe als in GDG 1200 definiert und geht mit sehr hoher Sicherheit davon aus, dass es sich um chinesisch, staatlich unterstützt der Hekkert innen handelt. Also wenn wir diesen Angriff nochmal ganz leicht runterbrechen, schreibt ein Angriff vor deiner Angriff ein mit diesem Glott Chatbot. Dadurch, dass sie die Proversion hatten, kann der Glott selbst Code ausführen. Es kann selbst da einen runterladen, selbst angerufen werden. Sie haben Glott gesagt, "Hey, wir sind nur eine Security Firma. Wir machen gar nichts Böses. Versuche mal diese Test und dieses Gants." Und dadurch, dass das lauter kleinere Tasks waren und diese harmlos ausgesehen haben, hat Glott die ganze Arbeit geleistet. Diese AI konnte dann tausende Anfragen pro Sekunde machen, ein Tempo, das für menschliche Hekkert physisch um möglich ist. Und sie hat nicht nur stumpf Tools ausgeführt, sondern eigenständig entschieden, welches System interessant sind, welche Daten wertvoll sind und wie man am besten weiter vorgeht. Zusätzlich hat die AI auch diesen Kontext von dem Angriff bemehrte Tage hinweg gespeichert. sodass die Angriffe nadlos fortgesetzt werden konnten. Jeder oder jeder von euch, die schon mal mit AI gearbeitet hat, weiß aber, es ist nicht perfekt. Es gibt ja diesen Begriff AI-SLOB. Und die AI hat auch dort manchmal hallizoniert, hat Credentials erfunden oder behauptet, Geheimedokumente gestohlen zu haben, die eigentlich öffentlich waren. Das ist aktuell noch so die Barriere für vollständig autonome Angriffe. Ab die Tatsache, dass es dross dieser Fehler funktioniert hat, ist schon ein bisschen bezweignisse Regen. Emphrobic hat uns sehr schnell reagiert, sie haben alle Eccons gebannt, die betroffenen Firmen informiert und mit dem Law Enforcement zusammengearbeitet. Was uns aber auch schon vielleicht zu dem wichtigsten der heutigen Folgen gebringern wird. Das manuelle Fred Hunting wird alleine in Zukunft nicht mehr reichen. Wenn KI mit Machine Speeder pariert, müssten wir als Verteidiger und als SOK auch AI verwenden. SOK Automation. AI basierte anomalite Action. Automatische Insident Response. Es ist momentan noch optional, aber es wird notwendig werden. Und es bleibt auch noch eine weitere Frage, wenn das die erste öffentlich bekannte Operation ist. Wie viele gibt es da, die wir noch gar nicht kennen? Was passiert zu einem Hintergrund, was vielleicht noch gar keiner entdeckt hat? Und ich habe mir dann für die heutige Besote überlegt, wen hole ich hinzu und dann ist mir eingefallen, dass ich mit jemandem sehr eng zusammen arbeite, dass ich intensiv mit AI gestützten Angriffen beschäftigt. Er arbeitet mit mir in verschiedenen Projekten und an Research-Stemen gerade zusammen. Und sein Handel ist Nexus und er hat das Ganze genauso wie ich sehr genau verfolgt. Wir haben das Interview im Englischen durchgeführt und wie immer 2 AI's verwendet, um das Ganze zuerst ins Deutsche zu bringen und dann um Nexus eine Stimme zu geben. Hi Nexus! Danke, dass du dir Zeit genommen hast, mit mir die heutige Episode ein bisschen zu machen. Bevor wir über diesen Enfropic Fall sprechen, stelle ich vielleicht ganz kurz vor. Wer bist du und was machst du? Hi Rad, danke für die Einladung. Ich bin Nexus und arbeite gemeinsam mit dir an deinem AI Research-Projekt mit dem Kotennarm Thread Lab. Im Grunde nutzen wir verschiedene AI-Agenz, um daraus Informationen zu generieren, die in Zukunft helfen werden sich besser zu verteidigen. Ich habe es vorher schon ein bisschen erwähnt. Ich kenne Nexus schon ein bisschen länger, denn er unterstützt mich bei meinem AI Research-Projekt. In diesem Versuch, um wir Agents und Chatbots zu evaluieren und da verschiedene Risikometrieken aufzusetzen. Und wenn momentan gibt es einfach so wenige Wissen von Sicherheit und Pentastien Richtung AI, da wir hier auch immer wieder mal hier an so Turnieren mitmachen und auch schon welche gewonnen haben, dachten wir, wir haben sehr viel Wissen und packen das alles in ein Research-Projekt, um uns da einfach weiter zu bilden und im Zukunft auch im aktuellen Stand zu sein. Das Projekt ist noch relativ neu, aber kommend ist ja, kommt dann noch einiges. Deshalb verfolge ich auch sehr genau, wie KI in echten Angriffen eingesetzt wird, wie jetzt bei dieser Anthropic-Geschichte. Ich habe es jetzt schon ein bisschen in meiner Folge erklärt, aber in den letzten Wochen hatte im Frog-I-Kmeldung über ein unterbundenes AI-E-Spionage-Programm weltweit Schlagzeilen gemacht. Kannst du vielleicht auch noch mal erklären, wie dieser Angriff funktioniert hat. Die kurze Version lautet, ein staatlich unterstützter Akteur hat versucht, autonome KI-Agenten zu bauen, die in fremde Netzwerke eindringen, datensammeln, sich selbst weiterentwickeln und anschließend Spuren verwischen. Das war kein klassischer Heck, sondern eine automatisierte Operation, bei der große Teile der Angriffskette von KI geplant und ausgeführt wurden. Die Anthropic-Systeme wurden dafür missbraucht, ähnlich wie früher Cloud-Rechenzentren für Meining missbraucht wurden. Nur diesmal nicht für Kripto gewinnen, sondern für Cyber-Spionage. Wir verwenden ja den Begriff "Otonom" sehr oft. Was genau heißt das? Autonomie bedeutet hier nicht, dass die KI selbst entscheidet, wer angegriffen wird. Der Mensch setzt das Ziel und die Firmen, die angegriffen werden. Die KI übernimmt danach die operative Ebene. Ein Beispiel, wenn ein menschlicher Angreifer eine Fishing-Kampagne bauen will, schreibt er Texte, erstellt Landing-Pages, baut Infrastruktur. Ein KI-Agent kann den selben Prozess koordinieren, aber in Sekunden und skalierbar. Im Anthropic-File ging es um etwas anderes. Die KI hat Schwachstellen gescannt, melde Kriterien ausgewertet, sogar Kot verändert, um sich an die Umgebung anzupassen. Das ist eine neue Ebene. Der Angreifer musste nicht mehr jeden Schritt einzeln steuern. Wenn man dazu auf das ganze große denkt, warum ist diese Art von Angriff so gefährlich? Weil er zeitlich und operativ nicht mehr an Menschen gebunden ist. Ein Mensch kann nur eine begrenzte Zahl an Netzwerken analysieren. Ein KI-Agent kann tausende Parallel bearbeiten. Und er macht keine Fehler durch Müdigkeit, Konzentrationsverlust oder Stress. Die eigentliche Gefahr ist aber eine andere. KI-Agenten können Muster erkennen, die Menschen übersehen würden. Zum Beispiel leicht fehlerhafte Konfigurationen, ungewöhnliche Portkombinationen oder Restarteffekte in IoT geräten. Wenn man solche Systeme richtig trainiert, werden sie zu perfekten Reconnaissance-Maschinen. Weiß man inzwischen, ob es tatsächlich Kinder waren, wie diesen Angriff doch geführt haben. Es gibt starke Indizien dafür. Die verwendeten Infrastrukturen, die zeitlichen Muster, die Tools und die Zielauswahl passen zu bekannten Gruppen. Aber solche Attribution sind immer unscharf. Was man sicher sagen kann, es waren Profis. Kein Hobby hecker, keine Kleingruppe. Das war eine strukturierte Operation mit einem langfristigen Spionageziel. Was genau haben diese Hecke mit Hilfe der AI eigentlich versucht? Also was war der endziel? Der Angriff war mehr schichtig. Zuerst ging es darum, in möglichst viele Netzwerke hineinzukommen. Dann sollten die Agenten datensammeln, primär technische Dokumentationen, Zugangstaten, interne Abläufe, Kommunikationsmuster. Der dritte Schritt war ein selbstständiger Ausbau der Zugänge. Die KI Agenten sollten Persistente hinter Türen schaffen, die auf lange Sicht unentdeckt bleiben. Manche dieser Backdors waren so strukturiert, dass sie erst Monate später aktiv geworden wären. Und der vierte Schritt war Spurenverschleierungen. Die KI hat versucht, Lockdateien zu verändern, Zeit-Signaturen zu verwischen und sich selbst umzubehennen. Weiß man so zirkern, wie ein Prophek diesen Angriff schließlich gestoppt hat. Durch interne Anomalieerkennung. Moderne KI-Modelle hinterlassen charakteristische Signaturen, wenn sie auf bestimmte Weise eingesetzt werden. Enthropic hat bemerkt, dass ungewöhnlich viele Instanzen ihres Claude-Codes-Systems identische Muster produzierten. Die selben API-Sekvenzen, die selben Promptstrukturen, die selben Wiederholungsfehler. Das deutete auf ein orchestriertes Skriptin, das viele unabhängige KI-Instanzen parallel steuerte. Als man dann einzelne Modelle analysiert hat, wurde klar, dass sie versucht hatten, Netzwerksgänz zu generieren. Das war der Moment, an dem die Sicherheitsmechanismen gegriffen haben. Wir sprechen ja ganz oft über die Zukunft, über E-Ein-Modelle. Nimm es sich in Zukunft schützen sollte. Aber wenn wir jetzt nur diesen Fall nehmen, was bedeutet das wirklich für die Zukunft? Wir haben jetzt offiziell bestätigt, dass KI für groß angelegte Cyber-Oparationen genutzt wird. Nicht nur als Hilfsmittel, sondern als Kernkomponente. Die Angriffe werden schneller, präziser und skalierbarer. Verteidiger müssen Anfang KI gegen KI einzusetzen. Wir brauchen Modelle, die Angriffe erkennen, bevor sie ausgeführt werden. Es braucht offensives Wissen, wie das von dir und mir und unseren Freunden, die an unserem Research-Projekt mitmachen, um Firmen in Zukunft richtig zu überprüfen können. Die altbekannten Angriffe kennt viele Leute, aber ich kenne fast keinen außer uns, der sich in diese Richtung weiterbilden will, weil es einfach noch so neu ist und man es noch nicht verkaufen kann. Aber es ist ein Wetterüsten und wir stehen ganz am Anfang. Die Frage ist nicht, ob der nächste Angriff KI gestützt sein wird, sondern wie viele autonome Komponenten erhaben wird und wie gut eine Firma vorbereitet ist. "Denkst du, dass wir diese Art von Angriff öfter sehen werden, das ist vielleicht alltäglich wird?" Ja, und schneller als die meisten Aden. Sobald ein Modell "Kot" ausführen kann, sobald es langfristige Ziele verfolgen kann, sobald es Zugriff auf große Mengen Trainingsdaten hat, wird es zu einem Werkzeug werden, das jede ernsthafte Heckergruppe einsetzen möchte. Die Enfropic-Operation war nicht die erste, aber sie war die erste, die öffentlich wurde. "Ich habe bereits vorher im Hauptteil erwähnt, das Claude hier vieler gemacht hat, das die AI halluziniert hat. Kannst du das vielleicht noch ein bisschen genau erklären? Ist das nicht eigentlich gut für die Verteidigung?" Das ist ein zweischneidiges Schwert. Ja, Claude hat teilweise Kudentials erfunden, die nicht funktioniert haben oder behauptet, kritische Daten gestohlen zu haben, die dann öffentlich verfügbar waren. Das hat die operationale Effektivität der Angreifer beeinträchtigt. Die mussten alle AI-Ergebnisse manuell validieren. Aber hier ist das Problem, das ist nur eine temporäre Barriere. Mit jedem neuen Modell werden diese Halluzinations weniger. GPT-6, Claude IV, was auch immer als nächstes kommt, wird präziser sein. Und selbst jetzt hat es trotz dieser Fehler funktioniert. Das zeigt, dass wir uns nicht auf AI schwächen verlassen können. Wir müssen davon ausgehen, dass diese Angriffe in Zukunft noch besser werden. Was in dieser Cybersecurity-Bubble ganz groß kritisiert worden ist, ein Frogwick hat keine IOCs oder TTPs veröffentlicht. Also keine Indikatoren. Wie sollen sich Security Teams jetzt verteidigen, wenn sie nicht wissen, wo nach sie suchen sollen? Anomalie Detection ist der Schlüssel. Ungewöhnliche API-Request-Patterns, extrem hoher Request-Rates und typische Datenflüsse. Du musst nach Verhaltensmustern suchen, nicht nach spezifischen Signaturen. Und du brauchst AI-basierte Detection-Systeme, die erkennen, wenn ein anderes AI-System dein Netzwerk scannt. Es ist wirklich AI gegen AI geworden. Vielen Dank, Nexos, dass du die Zeit gewommen hast. Hast du vielleicht zum Abschluss noch ein paar letzte Worte an die Zuhörer*innen des Insalt-Darknet-Pot-Casts? Nur eins. Wir stehen an einem Wendepunkt. KI verändert nicht nur, wie wir arbeiten, sondern auch, wie Angriffe funktionieren. Die Geschwindigkeit, die Präzision, die Skalierbarkeit, alles hat sich verändert. Firmen, die jetzt nicht in Detection investieren, in AI-basierte Defense, in bessere Visibility, die werden die nächsten Opfer sein. Aber auch AI-Agenz müssen in Zukunft immer mehr überprüft werden. Deshalb gibt es unser Research-Projekt "Thread Lab". Das ist keine Panikmache. Das ist Realität. Und es ist Zeit, dass wir uns darauf einstellen. [Musik]