E-Books und Whitepaper

Die KI-Governance-Lücke schließen: KI-Agenten in Deutschland absichern

AI Governance Report

Cover of the Proofpoint report “Die KI-Governance-Lücke schließen: KI-Agenten in Deutschland absichern,” showing a woman with round glasses looking down at a tablet, with an orange accent shape over the black-and-white photo.

KI-Agenten sind heute ein fester Bestandteil betrieblicher Aufläufe. Allerdings bedeutet autorisierter Zugriff nicht automatisch vertrauenswürdiges Verhalten. Mit der zunehmenden Nutzung von KI nimmt auch der Reifegrad der Richtlinien zu, aber die operativen Kontrollmöglichkeiten können weiterhin nicht Schritt halten: Nur 9,3 % der Unternehmen haben kontinuierliche Überwachung für ihre KI-Agenten implementiert, obwohl 65,4 % bereits allgemein oder unternehmensweit KI-Agenten einsetzen.

Proofpoint hat eine Umfrage unter 205 IT-Experten mit sicherheitsrelevanten Aufgabenbereichen in deutschen Unternehmen mit mehr als 1.000 Mitarbeitern durchgeführt. Die Befragten arbeiten in den Bereichen IT-Betrieb, Infrastruktur, Systemadministration und IT-Sicherheit. C-Level-Führungskräfte sowie leitende Sicherheitsverantwortliche wurden bewusst ausgeschlossen, um eine unmittelbare, praxisnahe und keine vorstandsorientierte Perspektive zu erhalten.

Was Sie lernen werden:

  • 84,4 % der IT-Experten sind der Meinung, dass KI-Agenten der gleichen Rechenschaftspflicht unterliegen sollten wie menschliche Mitarbeiter.
  • 76,6 % setzen klare Richtlinien dazu durch, was KI-Agenten mit Daten und Systemen tun dürfen, aber 55,4 % von ihnen sagen, dass Agenten dennoch auf mehr vertrauliche Daten zugreifen können, als es ihre Arbeit erfordert.
  • 45,4 % rechnen in den nächsten 12 Monaten mit einem Sicherheitszwischenfall, der zumindest teilweise von einem KI-Agenten verursacht wird.

Die Ergebnisse deuten auf ein Problem hin, das weit über die reine Zugriffskontrolle hinausgeht: Agenten können auf vollständig autorisierte Systeme und Daten beschränkt sein und trotzdem außerhalb ihres vorgesehenen Zwecks agieren. Proofpoint nennt es „semantische Rechteerweiterung“, wenn die Berechtigungen zwar durchaus gültig sind, aber die Absicht des Agenten manipuliert wurde. Hier kommt das Konzept der Agentenintegrität ins Spiel: Sicherheit entsteht aus dem Zusammenspiel von Zugriff, Absicht und tatsächlichem Verhalten.

Holen Sie sich den Bericht und erfahren Sie, wo die Lücke in der KI-Governance besteht – und was sie für die Absicherung von KI-Agenten in deutschen Unternehmen bedeutet.

Bericht herunterladen
01 04

„Für die Geschäftsführung ist die entscheidende Frage: Handeln unsere KI-Agenten im Rahmen ihres Auftrags? Richtlinien allein reichen nicht aus. Selbst unter den IT-Fachkräften, die von klaren und konsequent durchgesetzten Richtlinien berichten, geben in dieser Studie 55,4 % an, dass KI-Agenten auf mehr sensible Daten zugreifen können, als sie für ihre Aufgaben benötigen. Die Geschäftsführung muss wissen, wer für die KI-Agenten verantwortlich ist, was sie tun und ob sie innerhalb ihres Auftrags handeln. Wir können Aufgaben an KI delegieren – aber nicht die Verantwortung.“

Patric J.M. Versteeg, Field CTO, Proofpoint

„In unseren Projekten sehen wir immer wieder dasselbe Muster: KI-Agenten bekommen großzügige Berechtigungen, damit der Use Case schnell läuft – zurückgeschnitten oder laufend überwacht wird danach kaum. Dass nur 9,3 Prozent ihre Agenten kontinuierlich monitoren, überrascht mich daher nicht, ist aber der eigentliche Weckruf. Security-Teams müssen Agenten wie privilegierte Konten behandeln – sonst prüfen sie im Nachhinein, was der Agent längst in Maschinengeschwindigkeit erledigt hat."

David das Neves, Geschäftsführer (CEO), shiftavenue GmbH