Sicherheit für KI-Agenten bezeichnet den Schutz autonomer KI-Systeme, während sie planen, schlussfolgern, auf Daten zugreifen, Tools nutzen und in Unternehmensumgebungen handeln. Dies beschränkt sich jedoch nicht auf die Absicherung des Modells, sondern erfordert auch Einblick in die Interaktionen zwischen Mensch und KI, Kontrollen für vertrauliche Daten, Governance des Agentenverhaltens und Schutz vor Bedrohungen wie Prompt-Injection, Missbrauch von Berechtigungen und Workflow-Manipulation.
Das ist wichtig, weil KI-Agenten nicht nur auf Prompts reagieren. Sie können im Namen von Mitarbeitern verschiedenste Aktionen mit E-Mail- und Collaboration-Tools, SaaS-Anwendungen, Copiloten und Geschäftsworkflows durchführen. Wenn diese Handlungen falsch, manipuliert oder übertrieben sind, kann das zu weitreichenden Konsequenzen führen.
Proofpoint-Untersuchungen zeigen, wie wichtig ein neuer Ansatz geworden ist. Der Bericht zu KI- und personenbezogenen Risiken 2026 ergab, dass 76 % der Unternehmen autonome Agenten im Pilotbetrieb testen oder einführen, während 42 % bereits einen potenziellen oder bestätigten KI-bezogenen Zwischenfall verzeichnet haben. Für Sicherheitsverantwortliche stellt sich nicht mehr die Frage, ob agentenbasierte KI im Unternehmen Einzug halten wird. Es geht darum, sie abzusichern, ohne Innovationen auszubremsen.
Was macht agentenbasierte KI aus?
Agentenbasierte KI-Systeme können ein Ziel interpretieren, Entscheidungen treffen, Tools auswählen und mehrstufige Workflows mit begrenzter menschlicher Aufsicht ausführen. Das unterscheidet sie von herkömmlichen GenAI-Tools, die meist auf einen Prompt reagieren und nach Abschluss der Aufgabe stoppen.
Zum Beispiel könnte ein KI-Assistent einen E-Mail-Thread zusammenfassen, während ein KI-Agent den Thread liest, Kundendaten aus einem CRM abruft, eine Antwort entwirft, ein Ticket aktualisiert und einen Folge-Workflow auslöst. Jeder Schritt mag für sich genommen legitim erscheinen. Risiken treten jedoch in dem Moment auf, wenn der Agent die Absicht falsch interpretiert, auf vertrauliche Daten zugreift, böswillige Anweisungen befolgt oder eine Aktion ausführt, die ein Mensch niemals genehmigt hätte.
Aus diesem Grund erfordert Sicherheit für KI-Agenten mehr als nur Zugriffskontrollen. Notwendig sind Kontrollen, die Verhalten, Absicht, Datenbewegungen und die Beziehung zwischen Menschen und Agenten verstehen.
Wie agentenbasierte KI das Unternehmensrisiko verändert
Klassische Sicherheitsmodelle basierten auf einem vorhersehbaren Ablauf: Eine Person trifft eine Entscheidung und ein System führt sie aus. Agentenbasierte KI ändert dieses Modell.
Ein realistischerer agentenbasierter Workflow sieht so aus:
Anwender-Prompt > KI-Interpretation > KI-Entscheidung > Tool-Nutzung > Systemaktion
Das schafft ein neues Risiko, weil der Kontrollpunkt zwischen Entscheidung und Aktion verschwinden kann. Ein Agent kann gültige Berechtigungen haben, aber dennoch eine Aktion ausführen, die die Absicht des Anwenders überschreitet. Er kann nicht vertrauenswürdige Inhalte lesen, versteckte Anweisungen befolgen, vertrauliche Daten offenlegen oder einen Workflow automatisieren, der von einem Menschen überprüft werden sollte.
Sicherheitsteams müssen drei Fragen zu jedem agentenbasierten Workflow beantworten:
- Kann die Entscheidung des Agenten manipuliert werden, bevor er sie ausführt?
- Kann die Aktion rechtzeitig validiert werden, um noch eine Wirkung zu erzielen?
- Kann die Aktion gestoppt oder untersucht werden, wenn etwas schiefgeht?
Wenn die Antwort nein ist, hat die agentenbasierte KI des Unternehmens eine Sicherheitslücke.
Warum die Abwehr personenbezogener Risiken für agentenbasierte KI wichtig ist
Agentenbasierte KI-Systeme arbeiten nicht isoliert. Sie werden beeinflusst – von den Menschen, die sie nutzen, den Daten, auf die sie zugreifen, und dem Vertrauen, das die Anwender in ihre Ergebnisse setzen. Deshalb ist die Abwehr personenbezogener Risiken ein kritischer Bestandteil der Absicherung agentenbasierter KI.
Personenbezogene Risiken treten in drei Formen auf:
- Eingaberisiko: Mitarbeiter können vertrauliche Daten über Prompts, Uploads oder in KI-Tools kopierte Inhalte eingeben.
- Interpretationsrisiko: KI-Systeme können die Absicht des Anwenders missverstehen oder böswillige Anweisungen befolgen, die in E-Mails, Dokumenten oder Collaboration-Inhalten versteckt sind.
- Vertrauensrisiko: Anwender können KI-Ausgaben ohne ausreichende Validierung akzeptieren, insbesondere wenn die Antwort überzeugt und verlässlich klingt.
Agentenbasierte KI verstärkt diese Risiken, weil ein einziger falscher Prompt, eine vertrauenswürdige Ausgabe oder eine manipulierte Anweisung verschiedenste Aktionen über vernetzte Systeme hinweg mit Maschinengeschwindigkeit auslösen kann.
Größte Sicherheitsrisiken für KI-Agenten
Prompt-Injection
Prompt-Injection tritt auf, wenn ein Angreifer schädliche Anweisungen in Inhalte einbettet, die ein KI-System liest. In agentenbasierten Umgebungen kann dies per E-Mail, in Dokumenten, Chatnachrichten, Webseiten oder freigegebenen Dateien geschehen. Wenn der Agent die schädliche Anweisung als legitim behandelt, kann er Daten preisgeben, Richtlinien ignorieren oder eine unbeabsichtigte Aktion ausführen.
Datenlecks
Damit KI-Agenten nützlich sind, benötigen sie oft Zugriff auf große Mengen unternehmensspezifischer Daten. Das birgt ein Risiko, wenn vertrauliche Daten in Prompts, Uploads, Ausgaben, Protokollen oder Retrieval Augmented Generation-Workflows gelangen. Proofpoint Data Security for AI löst dieses Problem, indem vertrauliche Daten in genehmigten und Schatten-KI-Tools überwacht und kontrolliert werden.
Semantische Rechteerweiterung
Semantische Rechteerweiterung tritt auf, wenn ein Agent gültige Berechtigungen verwendet, mit seinen Handlungen aber über die Absicht der Aufgabe hinausgeht. Das Problem ist nicht, dass der Agent eine Zugriffsregel verletzt hat, sondern dass er die Aufgabe zu weit interpretiert hat und eine Aktion durchführt, die eine zusätzliche Validierung erfordert hätte.
Schatten-KI und nicht genehmigte Agenten
Nicht jede KI-Nutzung findet in genehmigten Tools statt. Mitarbeiter und Teams können Verbraucher-KI-Dienste, nicht autorisierte Agenten oder nicht genehmigte Integrationen außerhalb des Aufsichtsbereichs der IT-Abteilung nutzen. Diese Tools können unbekannte Datenflüsse, schwache Aufbewahrungsrichtlinien und unüberwachte Zugriffspfade erzeugen.
Workflow-Manipulation
Angreifer, die keinen direkten Zugriff auf Unternehmenssysteme haben, können dennoch die Eingaben beeinflussen, die ein Agent zur Entscheidungsfindung verwendet. Durch die Manipulation vertrauenswürdiger Inhalte können sie Genehmigungen, Empfehlungen oder nachgelagerte Workflows beeinflussen, ohne klassische Warnungen auszulösen.
Unsichere Delegierung
Wenn Unternehmen Multi-Agenten-Systeme einführen, kann ein Agent Aufgaben an einen anderen delegieren. Das schafft Risiken an den Grenzen zwischen Agenten, insbesondere wenn jeder Agent unterschiedliche Berechtigungen, Datenzugriffe oder Sicherheitskontrollen hat.
Absicherung agentenbasierter KI
Die Absicherung agentenbasierter KI erfordert ein praxistaugliches Framework, das Menschen, Daten, Agenten und Collaboration-Kanäle abdeckt.
1. Identifizieren Sie Interaktionspunkte zwischen Mensch und KI sowie Agent und System
Erfassen Sie zunächst, wo Menschen mit KI und KI-Agenten mit Unternehmenssystemen interagieren. Dazu gehören genehmigte KI-Tools, Copiloten, SaaS-Integrationen, APIs, Collaboration-Plattformen und Schatten-KI-Nutzung.
Sicherheitsteams sollten Folgendes identifizieren:
- Wer nutzt KI?
- Welche Tools und Agenten werden verwendet?
- Welche Daten können diese Tools abrufen?
- Welche Aktionen können Agenten ausführen?
- Wo ist menschliche Genehmigung erforderlich?
Dieses Inventar gibt den Teams die notwendige Übersicht, um Risiken zu priorisieren.
2. Überwachen Sie Nutzung und Verhalten von KI
Eine Übersicht ist nur nützlich, wenn Teams darauf reagieren können. Beobachten Sie, wie Mitarbeiter und Agenten mit Daten, Tools und Workflows interagieren. Suchen Sie nach risikoreichen Prompt-Mustern, ungewöhnlichen Zugriffsmustern und Datenbewegungen sowie langfristigen Veränderungen im Agentenverhalten.
Verhaltensbasierte Erkennung ist wichtig, da statische Regeln nicht jeden neuen Angriffspfad identifizieren können. In agentenbasierten Umgebungen sind Absicht und Kontext genauso wichtig wie Aktivität.
3. Wenden Sie Least-Privilege-Prinzip und absichtsbasierte Kontrollen an
KI-Agenten sollten nur den Zugriff haben, den sie für ihren beabsichtigten Zweck benötigen. Das Least-Privilege-Prinzip allein reicht jedoch nicht aus. Unternehmen benötigen auch Kontrollen, die bewerten, ob die vorgeschlagene Aktion eines Agenten mit der Anfrage des Anwenders und der Richtlinie übereinstimmt.
Der Leitfaden zum Absichern von KI-Agenten erklärt, warum absichtsbasierte Zugriffskontrollen, die Integrität von Agenten und Transparenz zur Laufzeit für die Absicherung von KI-Agenten in der Produktion unerlässlich sind.
4. Weiten Sie DLP auf KI-Workflows aus
Klassische Datenverlustprävention wurde für Kanäle wie E-Mail, Endpunkte und Cloud-Speicher entwickelt. Agentenbasierte KI führt durch Prompts, Uploads, Antworten, Copiloten, Agenten und Abruf-Workflows neue Datenpfade ein.
Moderne KI-DLP-Systeme sollten Teams helfen, vertrauliche Daten zu erkennen und zu kontrollieren, bevor sie in KI-Systeme gelangen oder diese verlassen. Dazu gehören die Überwachung von Prompts, Datei-Uploads, eingefügten Inhalten, generierten Antworten und Agentenausgaben.
5. Sichern Sie E-Mail- und Collaboration-Kanäle ab
E-Mail- und Collaboration-Tools sind Hauptquellen für Risiken durch agentenbasierte KI, weil hier Menschen, Daten und KI-Systeme aufeinandertreffen. Sie sind auch typische Übermittlungswege für Phishing, schädliche Links, Prompt-Injection und manipulierte Dokumente.
Der Proofpoint-Bericht zu KI- und personenbezogenen Risiken 2026 ergab, dass bei Unternehmen, die einen KI-bezogenen Zwischenfall meldeten, 67 % Bedrohungsaktivitäten in E-Mails, 57 % in SaaS- oder Cloud-Anwendungen und 53 % in KI-Assistenten oder -Agenten feststellten. Die Absicherung von Collaboration-Kanälen ist daher eine zentrale Anforderung für die Absicherung agentenbasierter KI.
6. Erzwingen Sie für Aktionen mit hoher Tragweite eine Überprüfung durch einen Menschen
Nicht jede Aktion sollte autonom erfolgen. Erzwingen Sie für irreversible, finanziell relevante, privilegierte, regulierte oder auf vertrauliche Daten wirkende Aktionen eine menschliche Genehmigung bzw. eine verstärkte Validierung.
Beispiele hierfür sind:
- Versenden externer Kommunikation
- Genehmigen von Finanztransaktionen
- Ändern von Zugriffsrechten
- Löschen oder Ändern von Produktionsdaten
- Weitergabe regulierter oder vertraulicher Informationen
- Auslösen nachgelagerter Geschäftsprozesse
Die Überprüfung durch einen Menschen sollte gezielt und nicht universell erfolgen, damit die Produktivität erhalten wird und gleichzeitig dort Kontrollen hinzugefügt werden, wo das Risiko am höchsten ist.
7. Gewährleisten Sie Auditfähigkeit und Forensik
Wenn ein KI-Agent eine Aktion ausführt, müssen Sicherheitsteams müssen rekonstruieren können, was passiert ist. Dazu werden die ursprüngliche Anwenderanfrage, der abgerufene Kontext, die Modellbegründung (sofern verfügbar), die Tool-Aufrufe, der Datenzugriff, die Richtlinienprüfungen und das Endergebnis erfasst.
Auditfähigkeit unterstützt die Reaktion auf Zwischenfälle, die Governance sowie die Compliance. Angesichts des zunehmenden Einsatzes von agentenbasierter KI hilft sie Unternehmen auch dabei, ihre Richtlinien zu verbessern.
Worauf Sie bei Sicherheitslösungen für agentenbasierte KI achten sollten
Eine Lösung, die nur das Modell schützt, deckt nur eine Ebene des Problems ab. Effektive Sicherheit für KI-Agenten sollte Teams dabei helfen, die Interaktion von Menschen, Daten und Agenten im gesamten Unternehmen zu kontrollieren.
Wählen Sie eine Lösung, die folgende Funktionen bietet:
- Überblick über die Nutzung von genehmigter und Schatten-KI
- Überwachung von Prompts, Uploads, Antworten und Agentenausgaben
- Erkennung von Verhaltensanomalien für Agenten und Anwender
- Laufzeitkontrollen, die die Absicht vor der Durchführung einer Aktion bewerten
- Datenschutz bei genehmigten und nicht genehmigten KI-Tools
- E-Mail- und Collaboration-Sicherheit zum Schutz vor Prompt-Injection und KI-gestützten Bedrohungen
- Transaktionsforensik für Audits und die Reaktion auf Zwischenfälle
- Integration in umfassende KI-Governance- und Sicherheits-Workflows
Die KI-Sicherheitsplattform von Proofpoint basiert auf diesem personen- und agentenzentrierten Modell und hilft Unternehmen, die Nutzung von KI zu kontrollieren, Agenten abzusichern und Daten am agentenbasierten Arbeitsplatz zu schützen.
Fazit
Agentenbasierte KI verändert die Unternehmenssicherheit, weil KI-Systeme jetzt handeln und nicht nur assistieren können. Sie können auf Daten zugreifen, Tools verwenden und im Namen von Anwendern Workflows auslösen. Das schafft neue Risiken dort, wo sich menschliches Verhalten, Datenbewegungen und autonome Aktionen überschneiden.
Die Absicherung agentenbasierter KI erfordert Kontrollen, die Menschen, Daten und KI-Agenten gemeinsam schützen und regeln. Unternehmen sollten mit Transparenz beginnen, den Datenschutz auf KI-Workflows erweitern, Collaboration-Kanäle absichern und die Überprüfung durch einen Menschen einführen, wenn autonome Aktionen ein erhebliches Risiko darstellen.
Weitere Informationen erhalten Sie im Proofpoint-Bericht Absichern von KI-Agenten: Ein praktischer Leitfaden für Verantwortliche im Bereich Cybersicherheit..