Laut Einschätzung von Gartner werden Guardian-Agent-Technologien bis zum Jahr 2030 mindestens 10 bis 15 Prozent des Marktes für agentenbasierte Künstliche Intelligenz ausmachen. Guardian Agents sind KI-basierte Technologien, die speziell für vertrauenswürdige und sichere Interaktionen mit KI-Systemen entwickelt wurden. Sie übernehmen dabei eine doppelte Rolle: Einerseits agieren sie als Assistenten, die Nutzer bei Aufgaben wie der Überprüfung, Überwachung und Analyse von Inhalten unterstützen. Andererseits entwickeln sie sich zunehmend zu halbautonomen oder sogar vollständig autonomen Agenten, die eigenständig Aktionspläne erstellen und umsetzen können – einschliesslich der Fähigkeit, Handlungen umzulenken oder zu blockieren, um sie auf vorher definierte Ziele auszurichten.
Eine aktuelle Webinar-Umfrage von Gartner unter 147 CIOs und IT-Führungskräften, die im Mai 2025 durchgeführt wurde, zeigt: 24 Prozent der Befragten setzen bereits erste KI-Agenten (weniger als ein Dutzend) ein, weitere 4 Prozent nutzen eine grössere Anzahl solcher Systeme.
Die Umfrage ergab ausserdem, dass sich 50 Prozent der Teilnehmer derzeit in der Evaluations- oder Testphase befinden. Weitere 17 Prozent gaben an, noch keine entsprechenden Maßnahmen ergriffen zu haben, planen jedoch, bis spätestens Ende 2026 mit der Implementierung zu beginnen. Um diese Systeme wirksam zu koordinieren und abzusichern, sind automatisierte Kontrollen in den Bereichen Vertrauen, Risiko und Sicherheit erforderlich – was die Nachfrage nach Guardian Agents weiter antreibt.
"Agentenbasierte KI ohne Richtlinien kann zu unerwünschten Ergebnissen führen“, sagte Avivah Litan, VP und Distinguished Analyst bei Gartner: "Wenn agentenbasierte KI-Systeme nicht mit klaren Leitplanken ausgestattet sind, können sie Fehlentscheidungen treffen oder Sicherheitsrisiken verursachen. Guardian Agents setzen auf ein breites Spektrum agentischer Fähigkeiten und deterministischer, KI-gestützter Bewertungen. Dadurch sind sie in der Lage, sämtliche Aktivitäten der Agenten zu überwachen, gezielt zu steuern und dabei eine Balance zwischen dynamischer Entscheidungsfindung und konsequentem Risikomanagement herzustellen."
