Laut dem "Trend State of AI Security Report" des IT-Security-Spezialisten Trend Micro setzen sich immer mehr KI-Entwickler und IT-Führungskräfte dem Risiko von Datendiebstahl, Data Poisoning (Datenvergiftung), Lösegeldforderungen und anderen Angriffen aus. Denn das Angriffspotenzial - vor allem durch die Nutzung der Möglichkeiten von KI - sei enorm.
Unternehmen, die KI-Anwendungen entwickeln, bereitstellen und nutzen möchten, sollten dem Report nach mehrere spezialisierte Software-Komponenten und -Frameworks einsetzen. Diese können Schwachstellen enthalten, wie sie auch in herkömmlicher Software zu finden sind - insbesondere werden Zero-Day-Schwachstellen und Exploits in Kernkomponenten wie ChromaDB, Redis, Nvidia Triton und Nvidia Container Toolkit erwähnt.
Auch seien die Schwachstellen häufig das Ergebnis von überstürzten Entwicklungs- und Bereitstellungszeitplänen, ebenso wie Fälle, in denen KI-Systeme versehentlich vom Internet aus zugreifbar gemacht werden, wo sie von Angreifern untersucht werden können. Vor diesem Hintergrund habe Trend Micro über 200 ChromaDB-Server, 2.000 Redis-Server und über 10.000 Ollama-Server gefunden, die ohne Authentifizierung zugänglich seien.
Den Experten nach nutzen viele KI-Frameworks und -Plattformen auch Open-Source-Software-Bibliotheken. Open-Source-Komponenten enthalten jedoch häufig Sicherheitslücken, die sich in Produktionssysteme einschleichen und dort nur schwer zu erkennen sind. Beim Pwn2Own-Hacking-Wettbewerb haben IT-Forscher einen Exploit für die Vektordatenbank Redis entdeckt, der auf eine veraltete Lua-Komponente zurückzuführen war.
Auch heisst es in dem Bericht: "Ein Grossteil der KI-Infrastruktur läuft auf Containern und ist somit denselben Sicherheitslücken und Bedrohungen ausgesetzt, die auch Cloud- und Container-Umgebungen betreffen." So haben die IT-Forscher beim Pwn2Own einen Exploit für das Nvidia Container Toolkit aufgedeckt. Unternehmen sollten Eingaben bereinigen und das Laufzeitverhalten überwachen, um solche Risiken zu minimieren, so der Rat.
