KI-basierte Entdeckung von Sicherheitslücken in Zeiten von Anthropic Mythos und Co. - Zäsur oder doch bloß vorübergehender Trend?
Die Nutzung KI-basierter Systeme nimmt stetig zu. Dies gilt nicht nur für Unternehmen, sondern auch für Privatpersonen, Bedrohungsakteure und Researcher. Besonders beeindruckte zuletzt Anthropic mit Ankündigungen rund um ihr neuestes KI-Modell Mythos. „Zu gefährlich für die Öffentlichkeit“ titelten die Medien.
Und es schien sich zu bewahrheiten, wurden doch eigens Meetings zwischen Anthropic, dem Vorsitzenden der US-Notenbank Jerome Powell, Finanzminister Scott Bessent und den CEOs großer US-Banken vereinbart, um mögliche Bedrohungen zu erörtern.
Effizient scheint das Tool ja zu sein, findet es doch 27 Jahre alte Sicherheitslücken in OpenBSD, hunderte Schwachstellen in Firefox oder unzählige Bugs im Linux Kernel.
Bedeutet dies nun den Untergang der Softwaresicherheit in Unternehmen? Stehen wir gar vor einem Paradigmenwechsel – oder nur einem überhitzten Trend?
Status Quo – wie Sicherheitslücken heute entdeckt werden
Die Entdeckung von Bugs sind fast so alt wie Computersysteme selbst. Die erste Entdeckung gab es bereits 1947 – wobei es sich wohl noch um ein Insekt im eigentlichen Sinne des Wortes handelte.
Seitdem hat sich die Entdeckung solcher Fehlerquellen deutlich verändert. Heute setzt man auf klassische Methoden wie Penetration Testing, Bug Bounty-Programme, auf statische und/oder dynamische Code-Analysen. Die Verifikation solcher Lücken erfolgt bislang jedoch stets durch Menschen.
Solche Methoden stoßen, natürlich, irgendwann an ihre Grenzen. Menschen skalieren mit wachsenden Aufgaben in aller Regel nicht linear, komplexere Schwachstellen beanspruchen viel Zeit. Einige Sicherheitslücken ergeben sich unter Umständen auch erst durch die Komplexität der unternehmenseigenen Softwarelandschaft und bedürfen einer aufwendigen Fehlersuche.
Der Aufstieg KI-gestützter Vulnerability Discovery
Hier kommt KI ins Spiel. KI-Modelle leisten, was menschliche Ressourcen nicht können:
- Analyse riesiger Codebasen? Erfolgt in Sekunden, Minuten oder Stunden statt Tagen, Wochen oder Monaten.
- Codeprüfung auf semantischer Ebene? Auch das ist für das Tool keine Herausforderung. Logikfehler werden parallel zu Syntaxfehlern erkannt.
- Wie lassen sich diese Schwachstellen in der Praxis ausnutzen? Auch darauf liefern Mythos und Co. die passende Antwort, auch wenn sich herkömmliche Chatbots sträuben, liefern sie mit etwas Überzeugungsarbeit, doch gleich mit.
KI ist damit kein reines Spielzeug mehr, sondern bietet Potenzial für einen explosionsartigen Anstieg gefundener Schwachstellen. Weiterhin ist das Suchen und Entdecken von Schwachstellen nicht länger ausgebildeten Personen vorbehalten. KI macht die Entdeckung kinderleicht.
Neue Risiken: KI-Tools in den falschen Händen
Doch genau hier liegt die Gefahr. Mehr gefundene Schwachstellen bedeuten zwar langfristig sicherere Software, jedoch kurzfristig eine größere Angriffsfläche für Unternehmen.
KI unterstützt Schadakteure Exploits noch schneller zu generieren. Sie hilft auch den Angreifern.
Anforderungen an technische Kenntnisse nehmen deutlich ab, wenn keine Programmierkenntnisse mehr erforderlich sind, um Sicherheitslücken zu entdecken. Heute reicht es einen passenden Prompt zu verfassen. Das dies schon heute gilt, zeigen praktische Erfahrungen. Massenscans und Angriffsautomatisierung wurden etwa bereits Anfang des Jahres für eine Kampagne gegen zahlreiche Fortinet Firewalls verwendet. Ein mutmaßlich russischsprachiger Angreifer kompromittierte dabei hunderte Unternehmen und das ganz ohne technische Expertise.
Ziele ich als Angreifer statt auf Systeme lieber auf die Schwachstelle Mensch? Kein Problem. Die KI liefert mir problemlos Phishing-Mails. Und das alles ohne Rechtschreibfehler mit perfekt gestalteten Ködern.
Kippt nun also das fragile Gleichgewicht zwischen Angreifern und Verteidigern?
Hype-Zyklus: Was ist es denn nun Zäsur oder Hype?
Die Antwort auf diese Frage ist nicht eindeutig. Sie liegt, wie so oft, irgendwo dazwischen.
Fakt ist – Ja: KI-Modelle wie Mythos sind in der Lage Schwachstellen schneller und effektiver zu entdecken als die meisten Menschen dies könnten. Schwachstellen, die zukünftig noch schneller und häufiger ausgenutzt werden. Die Hürden für Knowhow, Geld und Zeit sinken kontinuierlich. Immer mehr Bedrohungsakteure können also darauf zurückgreifen. Für Schadakteure mit hohem technischem Kenntnisstand (Advanced Persistent Threat Groups) wird es dagegen leichter Sicherheitslücken zu entdecken, sich unbemerkt im Netzwerk zu bewegen oder noch größere Kampagnen zu automatisieren.
Aber: KI entdeckt längst nicht alle Bugs und auch nicht sofort. Auch wenn uns viele Artikel suggerieren, dass sich Zero-Days „für wenige Dollar“ finden lassen, so entspricht dies dem Best-Case Scenario. Die Generierung zuverlässiger Exploits benötigt meist mehr als einen Durchlauf, sodass die Kosten vielmehr tausende als nur 50 Dollar kosten werden. Es sollte weiterhin nicht unerwähnt bleiben, dass Zero-Day-Schwachstellen bereits seit Jahren nur wenige Stunden nach initialer Veröffentlichung aktiv ausgenutzt werden. Dieser Trend ist nicht neu. Schon heute sind Angreifer oftmals schneller als viele Patch-Zyklen, müssen diese nicht die Auswirkung auf Produktionssysteme berücksichtigen. Warum also auf unbekannte Sicherheitslücken zugreifen, wenn ich auch Exploits für bereits bekannte Lücken nutzen kann?
Fazit: Zäsur ja, aber mit Einschränkungen
Ein struktureller Wandel in der IT-Sicherheitslandschaft kann nicht abgestritten werden. Aber: Es ist kein vollständiger Umbruch. Vielmehr die Beschleunigung vorhandener Trends. KI verändert dabei lediglich die Geschwindigkeit und Skalierung bei der Entdeckung neuer und Ausnutzung bereits bekannter Schwachstellen, nicht aber deren grundlegenden Prinzipien. Ähnlich wie bei Einführung statischer und dynamischer Code-Analysen ist es vielmehr als neues Werkzeug im Koffer der Angreifer zu verstehen.
Praktische Auswirkungen
Was bedeutet das nun konkret für mich und mein Unternehmen?
- Transparenz als Teil der IT-Strategie gewinnt an Relevanz: Kein Unternehmen kann ein Asset effektiv schützen, von dem es nicht weiß, dass es existiert. Der Einsatz von KI wirkt hier mehr denn je als Brandbeschleuniger. Nicht nur sind Agenten, Chatbots und Co. selbst Assets, sondern erzeugen diese auch in hoher Frequenz.
Die Inventarisierung und insbesondere Sicherstellung der Aktualität der eigenen Asset-Inventare ist eine der künftigen Kernherausforderungen. - Krieg der KI-Modelle: Angreifer setzen ihre neuen „Spielzeuge“ bereits heute ein, wenn auch bislang noch mit schwankender Effizienz und Effektivität. Um im Wettrüsten zwischen Angreifer und Verteidiger künftig nicht hoffnungslos unterlegen zu sein, müssen sich Unternehmen schon heute mit der Frage auseinandersetzen, wie KI die eigenen Informationssicherheitsprozesse sinnvoll verbessern kann.
Wir haben bereits festgestellt, dass bekannte und unbekannte Sicherheitslücken künftig noch schneller und noch weitläufiger aktiv ausgenutzt werden. Künftig wird also nicht mehr die Frage sein, ob Angreifer in das eigene Netzwerk eindringen, sondern wie diese zeitnah und vor allem effektiv isoliert werden können, um kritische Ressourcen zu schützen. KI kann, neben einem Tool für Bedrohungsakteure dabei helfen, Lücken in der Detektion und der Reaktion auf solche Angriffe zu unterstützen. Anomalieerkennung hilft bereits heute ungewöhnlichen Netzwerkverkehr zu identifizieren und Verteidiger zu alarmieren. eXtendend Detection and Response (XDR) unterstützt bereits jetzt bei der automatisierten Ausführung von Maßnahmen zur Abwehr von Cyberangriffen. KI unterstützt somit Incident Response Teams bei der Optimierung eigener Prozesse und Arbeitsabläufe durch den Aufbau neuer Tool Chains.
KI-Angriffe stecken derzeit noch „in den Kinderschuhen“. Es ist davon auszugehen, dass Komplexität und Häufigkeit von Angriffen zunehmen werden, bis KI letztlich vollautomatisiert fremde Systeme attackiert und Angriffsmuster während der Laufzeit den Maßnahmen der Verteidiger anpasst. Um gegen solche Angriffe gewappnet zu sein, werden Unternehmen künftig ebenfalls KI-Modelle für die Abwehr benötigen, sofern sie nicht auf die Option zurückgreifen möchten bei jedem Angriff das gesamte Unternehmen vom Internet zu trennen. - Faktor Mensch gewinnt im Zeitalter von KI an Relevanz: Es mag Paradox klingen, doch Menschen und deren Fertigkeiten werden nun relevanter als je zuvor. Sie sind zeitgleich Haupteinfallstor wie auch letzte Entscheidungsinstanz.
Der Mensch als Risiko: Phishing, Vishing, Quishing. Menschen sind heute noch immer ein beliebtes Ziel. Social Engineering immer ausgefeiter. Waren es Anfang des Jahrtausends noch Mails mit der Bitte einem „Prinz in Nöten“ zu helfen, muss sich das Personal heute vor KI-generierten Anrufen des Abteilungsleiters in Acht nehmen, sollte dieser auf seinem letzten Symposium ausreichend Stimmproben auf YouTube hinterlassen haben.
Damit das Personal in diesem Fall jedoch nicht gleich sämtliche Firmengeheimnisse preisgibt, muss es regelmäßig über die Existenz solcher Angriffe geschult werden. Sowohl in der Theorie, als auch in der Praxis. Viel wichtiger jedoch ist es, eine Unternehmenskultur zu schaffen, in der solche Angriffe gemeldet werden.
Der Mensch als letzte Entscheidungsinstanz: So viel KI schon heute leisten kann, so unzuverlässig ist sie bisweilen auch. Probabilistisch ist eben nicht deterministisch. In Fällen in denen KI nicht vertraut werden darf oder sollte, ist es also essenziell, dass Menschen die letzte Entscheidungsinstanz bilden. Dies gelingt allerdings nur, wenn Personal frühzeitig Expertise auf- und ausbauen kann, um in eben jenen Momenten die korrekte Entscheidung treffen zu können. Neben Security Engineers, gewinnt daher die Rolle des AI Operators im Bereich Informationssicherheit an Relevanz. - Sichere Einführung von KI: Aber nicht nur externe KI können zum Risiko im eigenen Unternehmen werden. Auch eigene Agenten, Chatbots und Co. können im Falle eines Cyberangriffs zur Waffe werden.
Sie haben oftmals weitreichende Privilegien, sind mächtig und nur selten ausreichend überwacht. Das Adopt (A), Defender (D), Govern (G) Framework unterstützt Unternehmen dabei, die Einführung abzusichern.
Dabei ist generell zwischen zwei Arten von KI zu unterscheiden. Modelle, die aktiv in das Unternehmen eingeführt wurden (Trusted AI) und solchen, die keinen öffentlichen Prozess durchlaufen sind (Shadow AI).
Shadow AI umfasst dabei alle KI-basierten Assets, die absichtlich (durch Mitarbeiter oder Schadakteure) oder unabsichtlich in das Unternehmen eigeführt wurden und somit analog zu Schwachstellen und Innentätern zu behandeln sind, sofern sie nicht in eine Trusted AI überführt werden können.
Verfasser: Robin Enste