Künstliche Intelligenz (KI) ist mittlerweile in der Lage, Schwachstellen in Softwaresystemen zu finden und wird zunehmend als mächtiges Werkzeug in der Cybersicherheit eingesetzt. KI-Modelle können Code analysieren, Muster erkennen und Sicherheitslücken identifizieren, oft schneller und effizienter als manuelle Prozesse. Neuere KI-Modelle, wie beispielsweise von Anthropic (Claude Mythos), sind darauf spezialisiert, selbst tief verborgene, jahrelang schlummernde Sicherheitslücken in komplexen Betriebssystemen (wie OpenBSD) zu finden.
Mythos zum Beispiel habe unter anderem eine 27 Jahre alte Schwachstelle im als besonders sicher geltenden Betriebssystem OpenBSD entdeckt, lässt Anthropic wissen. Insgesamt habe man mit Mythos bereits "tausende" schwerwiegende Schwachstellen gefunden - darunter in jedem viel genutzten Betriebssystem und Webbrowser.
Dabei scannt KI kontinuierliche die Systeme und findet Schwachstellen, die bei manuellen Tests oft übersehen werden. Tools wie Github Autofix nutzen KI, um Schwachstellen im Programmcode nicht nur zu identifizieren, sondern auch direkt Lösungsvorschläge zu deren Behebung zu machen.
Allerdings besteht auch das Risiko von Fehlalarmen (False Positives). KI-basierte Tools können eine hohe Anzahl von Fehlalarmen produzieren, was für Entwickler einen erheblichen Prüfaufwand bedeuten kann. Und obwohl KI Schwachstellen erkennen kann, ersetzt sie nicht die Notwendigkeit menschlicher Kontrolle zur Bewertung des Risikos. Problematisch ist auch, dass dieselben KI-Tools, die zur Verteidigung genutzt werden, auch von Angreifern verwendet werden könnenn, um Schwachstellen automatisiert zu finden.
Im Rahmen einer Kooperation mit dem Namen "Project Glasswing" will Anthropic Unternehmen Zugang zu Mythos gewähren, um Sicherheitslücken in ihrer Software zu finden. Jedoch plane Anthropic nicht, Mythos allgemein zugänglich zu machen. Unter den weiteren Kooperationspartnern sind die Linux-Stiftung, die IT-Sicherheitsfirmen Crowdstrike und Palo Alto Networks sowie die Netzwerk-Ausrüsterin Cisco Systems.
