Proofpoint, ein weltweit führender Anbieter für personen- und agentenzentrierte Cybersicherheit, hat heute die Ergebnisse ihres Reports „ Die KI-Governance-Lücke schließen: KI-Agenten in Deutschland absichern“ veröffentlicht. Die Studie zeigt eine deutliche Diskrepanz zwischen der schnellen Einführung von KI-Agenten und den Sicherheitsmaßnahmen, die Unternehmen für deren Steuerung und Überwachung implementiert haben.

65,4 Prozent der befragten deutschen Unternehmen setzen KI-Agenten bereits umfassend oder unternehmensweit ein, wobei 22,9 Prozent sie bereits fest in zentrale Geschäftsprozesse integriert haben. Allerdings überwachen lediglich 9,3 Prozent die Aktivitäten dieser Agenten kontinuierlich. Damit fehlt vielen Organisationen die notwendige Transparenz darüber, wie KI-Agenten tatsächlich agieren.

Die Ergebnisse zeigen zudem eine Diskrepanz zwischen Sicherheitsrichtlinien und tatsächlichen Zugriffskontrollen. 76,6 Prozent der Befragten geben an, klare Richtlinien für KI-Agenten und deren Umgang mit Daten und Systemen durchzusetzen. Gleichzeitig räumen jedoch 55,4 Prozent dieser Befragten ein, dass Agenten auf mehr sensiblere Informationen zugreifen können als für ihre Aufgaben erforderlich wäre. Die potenziellen Folgen bereiten zunehmend Sorge: Fast die Hälfte der befragten Unternehmen (45,4 Prozent) rechnet innerhalb der nächsten zwölf Monate mit einem Sicherheitsvorfall, der zumindest teilweise durch einen KI-Agenten verursacht wird.

Diese Ergebnisse verdeutlichen eine grundlegende Herausforderung für Organisationen, die KI-Agenten einführen: Das Einführen von Richtlinien und Zugriffsrechten garantiert nicht zwangsläufig, dass die Agenten auch tatsächlich im Sinne ihres vorgesehenen Zwecks handeln.

„Die eigentliche Herausforderung bei KI-Agenten ist nicht der Zugang zu Daten, sondern die Transparenz über ihr Verhalten“. erläutert Patric J.M. Versteeg, Field Chief Technology Officer (CTO) für die DACH-Region bei Proofpoint.

„Viele Unternehmen haben Richtlinien definiert und Berechtigungen vergeben. Doch Governance beginnt dort, wo Sichtbarkeit entsteht. Mit zunehmender Autonomie von KI-Agenten müssen Unternehmen nachvollziehen können, welche Entscheidungen getroffen werden, welche Aktionen ausgeführt werden und ob diese weiterhin dem ursprünglichen Zweck entsprechen. Ohne Transparenz gibt es keine wirksame Governance, sondern lediglich die Hoffnung, dass Systeme wie erwartet handeln.“

84,4 Prozent der befragten Unternehmen der Studie sind außerdem der Ansicht, dass KI-Agenten mit dem gleichen Maß an Verantwortlichkeit gesteuert werden sollten wie menschliche Mitarbeitende.  Die bislang begrenzte Verbreitung einer kontinuierlichen Überwachung deutet jedoch darauf hin, dass es vielen Unternehmen noch an der nötigen Transparenz fehlt, um diesem Anspruch gerecht zu werden.

Da KI-Agenten autonom und mit Maschinengeschwindigkeit agieren können, empfiehlt Proofpoint eine automatisierte Echtzeitüberwachung als zentralen Baustein einer wirksamen Governance für KI-Agenten.

Fünf Säulen für vertrauenswürdige KI-Agenten

Um Unternehmen dabei zu unterstützen, KI-Agenten sicher und nachvollziehbar einzusetzen, empfiehlt Proofpoint ein „Agent Integrity Framework“, das auf fünf sich ergänzenden Säulen basiert.

1. Ausrichtung und Zweckbestimmung

Unternehmen müssen sicherstellen, dass die Handlungen eines KI-Agenten mit seinem vorgesehenen Zweck übereinstimmen. Dazu gehört, die ursprüngliche Nutzerabsicht zu erfassen, die Aktivitäten des Agenten entlang des gesamten Workflows zu überwachen und Handlungen zu identifizieren, die von der vorgesehenen Aufgabe abweichen.

2. Identität und Nachvollziehbarkeit

Jede Aktion sollte eindeutig dem verantwortlichen Nutzer, dem jeweiligen KI-Agenten und dem vorgesehenen Zweck zugeordnet werden können. Dadurch können Sicherheitsteams zwischen von Menschen initiierten und autonom ausgeführten Agentenaktionen unterscheiden, auch in komplexen Workflows mit mehreren KI-Agenten.

3. Konsistenz im Verhalten

Unternehmen benötigen Einblicke in das typische Verhalten von KI-Agenten und die Möglichkeit, unerwartete Veränderungen zu erkennen. Die Überwachung von Verhaltensmustern kann Sicherheitsteams dabei helfen, Auffälligkeiten zu untersuchen und festzustellen, ob ein Agent außerhalb seines vorgesehenen Aufgabenbereichs agiert.

4. Umfassende Agent Audit-Trails

Umfassende Audit-Trails sollten die Aktivitäten von KI-Agenten sowie relevante Sicherheitsereignisse lückenlos dokumentieren. Über die klassische Protokollierung hinaus sollten diese Aufzeichnungen Teams dabei unterstützen, potenzielle Datenoffenlegungen, Richtlinienverstöße und ungewöhnliche Verhaltensweisen zu erkennen und zu untersuchen.

5. Operative Transparenz

Unternehmen müssen nachweisen können, dass KI-Agenten im Einklang mit festgelegten Governance- und Sicherheitsanforderungen arbeiten. Transparenz über die Aktivitäten von KI-Agenten sowie umfassende Audit-Protokolle können die interne Kontrolle, die Einhaltung regulatorischer Vorgaben und die Rechenschaftspflicht unterstützen.

Gemeinsam schaffen diese fünf Säulen einen Rahmen zur Bewertung von KI-Agenten. So lässt sich prüfen, ob Identität, Berechtigungen, vorgesehene Aufgabe und tatsächliches Verhalten eines Agenten im Einklang stehen.

Die Proofpoint AI Security Platform unterstützt Unternehmen dabei, KI sicher einzuführen und wirksam zu steuern. Sicherheitsteams können KI-Agenten so in bestehende Sicherheits- und Governance-Strukturen einbinden und gleichzeitig eine bessere Kontrolle darüber behalten, wie diese auf Unternehmensdaten zugreifen und mit ihnen arbeiten.

Der vollständige Report findet sich unter https://www.proofpoint.com/de/resources/white-papers/dach-survey-report

Methodik

Für die Studie beauftragte Proofpoint im Juli 2026 die moweb research GmbH mit der Befragung von 205 IT-Fachkräften in Deutschland, die Sicherheitsverantwortung in Unternehmen mit mindestens 1.000 Beschäftigten tragen.

Die Befragten waren unter anderem in den Bereichen IT-Betrieb, Infrastruktur, Systemadministration und IT-Sicherheit tätig. Mitglieder der Geschäftsführung sowie leitende Sicherheitsverantwortliche wurden bewusst von der Befragung ausgeschlossen, um die operative Perspektive auf den Einsatz von KI-Agenten, Sicherheitspraktiken und Governance-Herausforderungen zu erfassen, anstatt die Sicht des strategischen Managements abzubilden.

Über Proofpoint

Proofpoint ist ein weltweit führender Anbieter für personen- und agentenzentrierte Cybersicherheit. Das Unternehmen schützt das Zusammenspiel von Menschen, Daten und KI-Agenten über E-Mail, Cloud und Collaboration-Tools hinweg. Proofpoint ist ein vertrauenswürdiger Partner für über 80 der Fortune-100-Unternehmen, mehr als 10.000 Großunternehmen und Millionen kleinerer Organisationen, wenn es darum geht, Bedrohungen abzuwehren, Datenverluste zu verhindern und die Resilienz von Menschen und KI-Workflows zu stärken. Die Kollaborations- und Datensicherheitsplattform von Proofpoint unterstützt Unternehmen jeder Größe dabei, ihre Mitarbeitenden zu schützen und zu stärken und KI gleichzeitig sicher und vertrauensvoll einzusetzen.

Weitere Informationen finden Sie auf www.proofpoint.com.

Vernetzen Sie sich mit Proofpoint auf LinkedIn.

Proofpoint ist ein eingetragenes Warenzeichen von Proofpoint, Inc. in den USA und/oder anderen Ländern. Alle anderen hier erwähnten Marken sind das Eigentum ihrer jeweiligen Inhaber.