Neues Agent Integrity Framework definiert den Rahmen für die Regulierung autonomer KI im Unternehmen und die Durchsetzung des Agentenverhaltens im großen Maßstab

• Aufbauend auf der Übernahme von Acuvity durch Proofpoint: die neueste KI-Sicherheitslösung, die auf einer kontinuierlichen, Intent-basierten Überprüfung basiert und KI über Endgeräte, Browser und MCP-Agentenverbindungen hinweg sichert
• Branchenweit erstes Agent Integrity Framework mit einem fünfstufigen Reifegradmodell, das CISO eine klare, schrittweise Roadmap zur Operationalisierung der KI-Governance bietet – von der Erkennung bis zur Durchsetzung zur Laufzeit
• Etabliert Proofpoint als marktbestimmende Cybersicherheitsplattform, die Menschen schützt, Daten verteidigt und KI-Agenten kontrolliert

Proofpoint, ein führendes Cybersecurity- und Compliance-Unternehmen, stellt Proofpoint AI Security vor. Die Sicherheitslösung kombiniert die Erkennung von Absichten, Kontrollpunkte auf mehreren Ebenen und ein umfassendes Implementierungs-Framework, um den KI-Einsatz durch Menschen und KI-Agenten im gesamten Unternehmen zu sichern. Sie basiert auf dem branchenweit ersten Agent Integrity Framework, das definiert, wie KI-Agent integer arbeiten. Auf dieser Basis führt Proofpoint ein fünfphasiges Reifegradmodell für die Implementierung ein, das von der anfänglichen Erkennung bis zur Durchsetzung während der Laufzeit reicht.

Unternehmen führen in hohem Tempo autonome KI-Agenten ein, die im Internet surfen, auf interne Systeme zugreifen, E-Mails versenden, Code ausführen und Arbeitsabläufe koordinieren. Das führt zu Risiken wie der Ausweitung der Berechtigungen von KI-Agenten und Zero-Click-Prompt-Injection-Angriffe. Eine einzige KI-Anfrage kann Dutzende autonomer Aktionen über mehrere Systeme hinweg auslösen, oft in Maschinen-Geschwindigkeit und ohne menschliche Aufsicht. Bestehende Sicherheitstools können zwar den Datenverkehr und die Berechtigungen erkennen, aber sie bewerten nicht, ob das KI-Verhalten mit der ursprünglichen Absicht des Benutzers übereinstimmt. Untersuchungen von Acuvity, das kürzlich von Proofpoint übernommen wurde, zeigen, dass 70 % der Unternehmen ihre Governance nicht für KI optimiert haben und 50 % mit KI-bedingtem Datenverlust innerhalb von 12 Monaten rechnen. Das unterstreicht die dringende Notwendigkeit, Umgebungen mit KI-Agenten zu sichern.

„KI ist mittlerweile fester Bestandteil der Arbeitsabläufe, und Sicherheitslösungen müssen sich entsprechend weiterentwickeln“, erläutert Sumit Dhawan, CEO von Proofpoint. „Menschen und KI-Agenten sind ähnlichen Risiken ausgesetzt: Beide können manipuliert werden und beide können Handlungen ausführen, die von ihrem beabsichtigten Zweck abweichen. Herkömmliche Sicherheitsmaßnahmen waren aber nie darauf ausgelegt, Absichten zu überprüfen. Als einheitliche Cybersicherheitsplattform ist Proofpoint in der einzigartigen Lage, Menschen zu schützen, Daten zu verteidigen und KI-Agenten zu kontrollieren. Sie bietet eine kontinuierliche, absichtsbasierte Überprüfung, ob das Verhalten der KI-Agenten mit den Richtlinien des Unternehmens und der Absicht der Nutzer übereinstimmt.“

Absichtsbasierte Erkennungsmodelle für alle KI-Interaktionen

Herkömmlichen Sicherheitstools fehlt der Einblick in die Semantik von KI-Interaktionen, wo häufig Risiken lauern. Sie können zwar Datenverkehr, Identitäten oder Berechtigungen erfassen, sind jedoch nicht in der Lage zu beurteilen, ob die Handlungen einer KI im jeweiligen Kontext angemessen sind oder mit der Absicht des Benutzers oder Agenten übereinstimmen.

Proofpoint AI Security schließt diese Lücke durch die Anwendung von absichtsbasierten Erkennungsmodellen, die kontinuierlich bewerten, ob das KI-Verhalten – sei es von einem Menschen oder einem autonomen Agenten initiiert – mit der ursprünglichen Anfrage, den definierten Richtlinien und dem beabsichtigten Zweck übereinstimmt. Durch die Analyse des gesamten semantischen Kontexts von KI-Interaktionen kennzeichnet die Lösung nicht-konforme oder risikoreiche Aktionen in Echtzeit, bevor Schaden entsteht, z.B. nicht-konforme Kommunikation oder Datenverlust.

Schutz vor dem gesamten Spektrum an Risiken durch autonome KI

Proofpoint AI Security basiert auf einer einheitlichen Architektur für den agentenbasierten Arbeitsbereich und deckt alle Bereiche ab, in denen KI zum Einsatz kommt – darunter Endgeräte, Browser-Erweiterungen und MCP-Verbindungen. Damit verschafft es Unternehmen die erforderliche Einsicht und Kontrolle über die KI-Nutzung und die damit verbundenen Risiken. Dies ist besonders wichtig in Entwicklerumgebungen, wo agentenbasierte Programmierassistenten, Plugins und über MCP kommunizierende Tools die Einführung beschleunigen und den Bedarf an Einsichten und Richtliniendurchsetzung erhöhen.

Mithilfe dieser Kontrollen können Unternehmen:

• Sowohl genehmigte als auch nicht-genehmigte KI-Tools wie OpenClaw, Ollama, ChatGPT und MCP-Server identifizieren, die von Mitarbeitern und Agenten genutzt werden
• Eingabeaufforderungen, Antworten und Datenflüsse während der Nutzung von KI-Tools überwachen
• Zugriffskontrollen und Sicherheitsvorkehrungen für die KI-Nutzung anwenden
• Laufzeitüberprüfungen durchführen und Richtlinien während laufender KI-Interaktionen durchsetzen

Agent Integrity Framework und branchenweit erstes AI Maturity Model bieten strukturieren Weg zur Umsetzung

Um Unternehmen eine strukturierte Roadmap für die sichere Steuerung von KI an die Hand zu geben, führt Proofpoint zudem das Agent Integrity Framework ein. Dieser Leitfaden definiert, was es bedeutet, wenn ein KI-Agent integer arbeitet, und stellt ein fünfstufiges Reifegradmodell für die Umsetzung bereit, das von der anfänglichen Erkennung bis zur Durchsetzung während der Laufzeit reicht.

Das Framework definiert Agent Integrity als die Gewährleistung, dass ein KI-Agent bei jeder Interaktion, jedem Tool-Aufruf und jedem Datenzugriff innerhalb der Grenzen seines vorgesehenen Zwecks, seiner Berechtigungen und seines erwarteten Verhaltens agiert. Es umfasst fünf Säulen: Abgleichung der Absichten, Identität und Zuordnung, Verhaltenskonsistenz, Überprüfbarkeit und operative Transparenz. Diese helfen Kunden dabei, KI-Governance zu operationalisieren, ohne ihre bestehende Sicherheitsarchitektur grundlegend überarbeiten zu müssen.

„Von Menschen wird erwartet, dass sie bei der Nutzung von Geschäftssystemen integer handeln, und KI-Agenten müssen denselben Standards unterliegen“, erklärt Ryan Kalember, Executive Vice President of Cybersecurity Strategy bei Proofpoint. „Agent Integrity bedeutet, sicherzustellen, dass KI-Agenten bei jeder Interaktion, jedem Tool-Aufruf und jedem Datenzugriff innerhalb der Grenzen ihres beabsichtigten Zwecks, ihrer autorisierten Berechtigungen und ihres erwarteten Verhaltens agieren. Mit Proofpoint AI Security und dem Agent Integrity Framework stellen wir einen klaren Leitfaden bereit, der Unternehmen dabei hilft, das gesamte Spektrum an Risiken zu berücksichtigen, die entstehen, wenn KI-Agenten autonom in Unternehmenssystemen agieren.“

Proofpoint AI Security ist ab sofort erhältlich. Weitere Informationen finden sich auf: https://www.proofpoint.com/us/platform/ai-security

Das Agent Integrity Framework findet sich auf: https://acuvity.ai/the-agent-integrity-framework-and-maturity-model

Weitere Informationen bietet das Blog: https://www.proofpoint.com/us/blog/corporate-news/intent-design-security-autonomous-ai

###

Über Proofpoint

Die Proofpoint Inc. ist ein weltweit führender Anbieter von Cybersicherheitslösungen, die gezielt auf Menschen und Agenten zugeschnitten sind. Das Unternehmen schützt die Verbindung von Menschen, Daten und KI-Agenten über E-Mail, Cloud und Collaboration-Tools hinweg. Proofpoint ist ein vertrauenswürdiger Partner für über 80 der Fortune-100-Unternehmen, mehr als 10.000 Großunternehmen und Millionen kleinerer Organisationen, wenn es darum geht, Bedrohungen abzuwehren, Datenverluste zu verhindern und die Resilienz von Menschen und KI-Workflows zu stärken. Die Kollaborations- und Datensicherheitsplattform von Proofpoint unterstützt Unternehmen jeder Größe dabei, ihre Mitarbeitenden zu schützen und zu stärken und KI gleichzeitig sicher und vertrauensvoll einzusetzen.

Weitere Informationen finden Sie unter www.proofpoint.com.

Vernetzen Sie sich mit Proofpoint auf LinkedIn.

Proofpoint ist ein eingetragenes Warenzeichen von Proofpoint, Inc. in den USA und/oder anderen Ländern. Alle anderen hier erwähnten Marken sind das Eigentum ihrer jeweiligen Inhaber.