Das auf Geschäfts- und Technologieanalysen ausgerichtete Beratungshaus Gartner hat sechs Massnahmen identifiziert, mit denen Unternehmen die Risiken einer unkontrollierten Ausbreitung von KI-Agenten eindämmen können. Dabei prognostiziert Gartner, dass bis 2028 ein durchschnittliches globales Fortune-500-Unternehmen mehr als 150.000 Agenten einsetzen werde. Zum Vergleich: 2025 waren es weniger als 15. Dies werde zu einem deutlichen Anstieg der Anzahl von Agenten, der IT-Komplexität sowie der Anforderungen an deren Steuerung und Management führen, so Gartner.
Im Rahmen des Gartner Digital Workplace Summits, der kürzlich in London über die Bühne ging, erklärte Max Goss, Senior Director Analyst bei Gartner: "Während CIOs und IT-Führungskräfte eine explosionsartige Zunahme von KI-Agenten in ihren Unternehmen beobachten, sehen sich viele mit einer unkontrollierten Ausbreitung konfrontiert. Diese setzt ihre Organisationen einer Reihe von Risiken aus, darunter Fehlinformationen, übermässige Datenweitergabe und Datenverlust."
Viele Unternehmen reagieren Gartner zufolge darauf, indem sie den Einsatz von KI-Agenten blockieren oder stark einschränken. Das sei jedoch keine nachhaltige Lösung. Wenn Mitarbeitende nicht mit den freigegebenen Tools arbeiten könnten, würden sie voraussichtlich bestehende Kontrollen umgehen und auf Schatten-KI ausweichen – mit potenziell noch grösseren Risiken. Unternehmen müssten daher eine Balance finden: Sie sollten den Einsatz von Agenten steuern und ihre Verbreitung kontrollieren, zugleich aber ihre Mitarbeitenden in die Lage versetzen, diese Technologien sicher und innovativ zu nutzen. betont Max Gross.
Gartner listet dazu sechs Schritte auf, die CIOs und IT-Leitern helfen sollen, Governance und Schutzmechanismen zu etablieren, um die Risiken einer unkontrollierten Agentenausbreitung zu reduzieren:
- Agenten-Governance und -Richtlinien etablieren: Klare Regeln für die Erstellung von Agenten, die Berechtigungen zum Erstellen und Teilen sowie die zulässigen Konnektoren festlegen.
- Zentrales Agenteninventar erstellen: Unternehmen können KI-basierte Vertrauens-, Risiko- und Sicherheitsmanagement-Tools (AI TRiSM) nutzen, um Agenten anwendungsübergreifend zu identifizieren und zu kategorisieren – sowohl aus autorisierten Tools als auch aus Schatten-KI-Lösungen. Mit einem zentralen Agenteninventar können adaptive Kontrollen implementiert werden, um die passenden Richtlinien basierend auf dem jeweiligen Risikopotenzial der Agenten durchzusetzen.
- Agentenidentität, Berechtigungen und Lebenszyklusmodell definieren: Agentenidentität, Berechtigungsmodell und Zugriffskontrollen verwalten, redundante Agenten überprüfen und ausser Betrieb nehmen, um eine unkontrollierte Ausbreitung zu verhindern.
- Informationsgovernance für KI entwickeln: Festlegen, auf welche Informationen KI-Tools und -Agenten zugreifen dürfen, und sicherstellen, dass Prozesse zur Datenaktualisierung, zur Verwaltung von Berechtigungen (um übermässige Weitergabe zu verhindern) und zur Archivierung veralteter Daten vorhanden sind.
- Agentenverhalten überwachen und korrigieren: Kontinuierliche Transparenz der Agentennutzung gewährleisten, die Einhaltung von Richtlinien sicherstellen, anomales Verhalten erkennen und Agenten korrigieren, die ihren vorgesehenen Aufgabenbereich oder ihre Risikotoleranz überschreiten.
- Eine Kultur des verantwortungsvollen Umgangs mit KI fördern: Die Mitarbeitenden durch Schulungsprogramme und eine Community of Practice unterstützen, um die Akzeptanz zu steigern und Best Practices im Agentenmanagement unternehmensweit zu verbreiten.
