Was ist Schatten-KI?

Schatten-KI bezeichnet KI-Tools und -Anwendungen, die innerhalb eines Unternehmens ohne das Wissen und die Genehmigung der IT-Abteilung eingesetzt werden. Mitarbeiter nutzen diese Tools ohne Absprache, um die ihre Effizienz zu steigern und dringende Aufgaben zu bewältigen. Das Ergebnis ist ein Schatten-KI-Ökosystem, das ohne Einblick des Sicherheitsteams agiert und dadurch weitaus gefährlicher als herkömmliche Schatten-IT ist.

Während es bei Schatten-IT um private Cloud-Speicher und nicht genehmigte Messaging-Anwendungen geht, umgeht Schatten-KI die direkte Kontrolle vollständig: Externe KI-Modelle analysieren vertrauliche Unternehmensdaten und produzieren unvorhersehbare, potenziell schädliche Ergebnisse.

Ein Bericht von Menlo aus dem Jahr 2025, für den über einen Zeitraum von einem Monat hunderttausende Anwender-Eingaben erfasst wurden, zeigt die Risiken einer unregulierten KI-Nutzung durch Mitarbeiter auf. Menlo hat festgestellt, dass 68 % der Mitarbeiter private Konten nutzten, um auf kostenlose KI-Tools wie ChatGPT zuzugreifen, wobei 57 % von ihnen dabei mit vertraulichen Daten arbeiteten. Der Bericht zeigt auch, wie sich KI-Systeme an Eingaben von Anwendern anpassen und vertrauliche Unternehmensdaten an die Öffentlichkeit weitergeben.

Der Einsatz von Schatten-KI wurde Ende 2022 durch die zunehmende Nutzung von GenAI-Technologien im Mainstream verstärkt. Diese meist browserbasierten und Cloud-fähigen Tools dieser Technologien sind leicht zugänglich. Mitarbeiter nutzen auch täglich KI-integrierte SaaS-Produkte. Der Druck auf Mitarbeiter, schnell Ergebnisse zu erzielen, nimmt ständig zu.

Menschen finden ihre eigenen Lösungen, wenn die offizielle Einführung von KI die Genehmigungskanäle nur langsam durchläuft. Es besteht weiterhin eine Diskrepanz zwischen den Bedürfnissen der Mitarbeiter und den Möglichkeiten, die die IT bietet.

Schatten-KI schafft blinde Flecken, die selbst die raffiniertesten Sicherheitssysteme nicht beheben können. CISOs haben es mit einer wachsenden, nicht überwachten und ungeschützten Angriffsfläche zu tun. IBM zufolge ist eine von fünf Datenschutzverletzungen in Unternehmen auf Schatten-KI zurückzuführen und Unternehmen mit einer höheren Häufigkeit von Schatten-KI-Verstößen haben durchschnittlich 670.000 US-Dollar höhere Kosten als solche mit geringeren Anteilen oder ohne Schatten-KI.

Entwickler, die die für KI-Workflows erforderliche Dokumentation nicht erstellen, können Systemschwachstellen nicht kontrollieren und der Einsatz ungetesteter, nicht validierter Produktionssysteme nimmt zu. Compliance-Lücken werden für Richtlinienteams ein immer größeres Problem, da Mitarbeiter bestehende Governance-Frameworks missachten. Die explosionsartige Zunahme von Investitionen in generative KI und agentenbasierte KI verstärkt diese Herausforderung zusätzlich.

Laut dem Bericht von Menlo verzeichneten KI-Websites von Februar 2024 bis Januar 2025 einen Anstieg des Web-Datenverkehrs um 50 %, was insgesamt 10,53 Milliarden Besuchen im Monat entspricht. Die „Bring Your Own AI“-Kultur ist auf dem Höhepunkt. Mehr als 60 % der Anwender verlassen sich auf private, nicht verwaltete KI-Tools und nicht auf vom Unternehmen genehmigte Tools. Patrick Pushor, Senior Solutions Architect bei Acuvity, schrieb kürzlich: „Fast die Hälfte der Unternehmen rechnet in den nächsten 12 Monaten mit einem Schatten-KI-Zwischenfall.“ Diese erschütternde Erkenntnis stammt aus dem jüngsten Bericht des Unternehmens zum Stand der KI-Sicherheit 2025. Dennoch gab es nie eine größere Kluft zwischen der unternehmensweiten Kontrolle und der KI-Nutzung durch Mitarbeiter.

Schatten-KI ist in öffentlichen großen Sprachmodellen (LLMs) wie ChatGPT und Claude offensichtlich, kann sich aber auch verbergen. KI-Funktionen, die in genehmigte SaaS-Tools eingebettet sind, können ebenfalls aktiviert werden, ohne dass die IT-Abteilung davon erfährt. Marketingteams verwenden beispielsweise KI-Testassistenten, die ganze Kampagnen zusammenstellen können. Vertriebsmitarbeiter automatisieren mithilfe von KI-Tools Ihre Antwort-E-Mails an Kunden. Und Finanzanalysten kopieren Daten in Chatbots, um Zusammenfassungen zu erstellen. Dieses Phänomen ist allgegenwärtig und in allen Abteilungen und Rollen zu finden – nicht nur bei technischen Teams.

Ursache dafür sind Zeitdruck und Zugänglichkeit. Mitarbeiter stehen unter dem Druck, schnell und mit weniger Ressourcen mehr zu erreichen. Wenn interne Prozesse zur Genehmigung von KI-Tools sehr langsam ablaufen oder es gar keine Rückmeldung gibt, finden Anwender ihre eigenen Mittel und Wege. Schließlich sind die meisten generativen KI-Tools leicht per Webbrowser zugänglich und Anwender müssen lediglich eine E-Mail-Adresse angeben.

Darüber hinaus gibt es in vielen Unternehmen keine klaren Richtlinien für KI-Tools – insbesondere welche Tools zulässig und genehmigt sind oder nicht. Laut Forschungsergebnissen von S&P Global „verfügt etwas mehr als ein Drittel (36 %) der Befragten über eine separate KI-Richtlinie oder eine in andere Governance-Richtlinien integrierte KI-Richtlinie.“ Die Kluft zwischen den Bedürfnissen der Mitarbeiter und den Angeboten des Governance-Systems wird immer größer.

Schatten-KI stellt für alle Säulen der Unternehmenssicherheit eine einzigartige und komplexe Bedrohung dar. Zu den Risiken gehören unmittelbare Probleme wie Datenschutzverletzungen und Datenkompromittierungen sowie langfristige Probleme im Zusammenhang mit Compliance und Betrieb.

Datenlecks und Datenkompromittierung

Mitarbeiter kopieren vertrauliche, proprietäre Daten und fügen sie in nicht zugelassene KI-Tools ein. Dadurch werden diese Daten offengelegt, was eine Sicherheitsverletzung zur Folge hat. 77 % der Mitarbeiter wurden beobachtet, wie sie vertrauliche, proprietäre Informationen in Tools wie ChatGPT eingegeben haben. Die Ergebnisse von IBM zeigen, dass es sich bei Zwischenfällen mit Schatten-KI in 65 % der Fälle um kompromittierte personenbezogene Daten und in 40 % der Fälle um offengelegtes geistiges Eigentum handelt.

Regulatorische und Compliance-Verstöße

Unregulierte KI-Nutzung führt zu Lücken in der Datenkontrolle. Das kann Unternehmen in Bezug auf die Einhaltung von Datenschutzgesetzen wie der DSGVO sowie Branchenstandards gefährden. Die meisten Unternehmen kontrollieren den Fluss vertraulicher Daten und die von den Mitarbeitern verwendeten Tools nicht. Dieser blinde Fleck macht es fast unmöglich, bei einem Audit Compliance nachzuweisen und auf Anfragen von Datensubjekten zu antworten.

Modellergebnisse und Integrität von Entscheidungsnachweisen

Unregulierte KI-Tools liefern uneingeschränkte, voreingenommene, unwahre oder erfundene Daten, die Mitarbeiter dann in ihre Entscheidungsfindung einfließen lassen. Datenfehler können den Kernbetrieb auf Unternehmensebene gefährden. Unregulierte Datenflüsse führen zu Situationen, in denen fehlerhafte und ungenaue Daten zwischen betrieblichen Abläufen zirkulieren und lange Zeit unentdeckt bleiben.

Kosten und operative Risiken

Wie bereits erwähnt, erhöhen Zwischenfälle mit Schatten-KI die Kosten einer Datenschutzverletzung um 670.000 US-Dollar. Unternehmen hosten unwissentlich durchschnittlich 1.200 inoffizielle Anwendungen, was zu doppelten Ausgaben, fragmentierten Workflows und einer vergrößerten Angriffsfläche führt. Die Lücken bei Governance und Kontrolle, auch als „Schattenbereiche“ bezeichnet, werden im Laufe der Zeit immer größer und schwieriger zu verwalten.

Sicherheits- und Zugriffskontrollrisiken

Unüberwachte Schatten-KI im Bereich Identität und Zugriff birgt das Risiko, anfällig für Sicherheitsbedrohungen zu sein. Ein durchschnittliches Unternehmen hat 15.000 Geisteranwender. Diese unnötigen und inaktiven Anmeldedaten stellen von vornherein eine Bedrohung dar, wenn nicht autorisierte Tools darauf zugreifen. Mitarbeiter, die Kennwörter mit KI-Assistenten weitergeben, öffnen Hintertüren, und die durchschnittliche Zeit bis zur Behebung beträgt 94 Tage.

Es geht aber nicht nur darum, Schatten-KI zu erkennen. Ihre Verwaltung erfordert einen gut geplanten und abgestimmten Ansatz, der Sicherheit und Produktivität in Einklang bringt. Die besten Strategien geben Einblick in den Einsatz von KI, schaffen definierbare Governance-Frameworks, stellen die richtigen Tools bereit und entwickeln praktikable Richtlinien. Der Schlüssel zum Erfolg liegt darin, die Governance von KI als kontinuierlichen Prozess und nicht als einmaliges Projekt zu behandeln.

Erkennung und Inventarisierung der verwendeten KI-Tools. Was Sie nicht sehen, können Sie auch nicht kontrollieren. Verwenden Sie Netzwerküberwachung, sichere Web-Gateways und CASB-Tools, um KI-Domains zu finden und Prompts in Ihrem Netzwerk zu senden. Fragen Sie die Teams, welche Tools sie verwenden und auf welche Daten sie zugreifen. Erstellen Sie ein stets aktuelles Inventar, das jedes Tool mit Geschäftseinheiten, Datenelementen und spezifischen Anwendungsfällen abgleicht.

Bewertung und Priorisierung von Risiken. Nicht jede Schatten-KI birgt das gleiche Risiko. Klassifizieren Sie die Tools, die Sie zugeordnet haben, als inakzeptabel, mit hohem Risiko, moderatem Risiko oder niedrigem Risiko. Berücksichtigen Sie dabei die Vertraulichkeit der Daten, die regulatorischen Risiken und die geschäftlichen Auswirkungen. Eine Risiko-Heatmap zeigt, welche Fälle in die Gefahrenzone fallen und sofortige Aufmerksamkeit erfordern, sodass Sie Ihre Bemühungen zuerst auf die kritischsten Bedrohungen richten können.

Entwicklung und Durchsetzung von Richtlinien. Definieren Sie genehmigte KI-Tools, Verfahren für die Anforderung neuer Tools sowie Richtlinien für die Verwaltung vertraulicher Daten. Implementieren Sie technische Schutzmechanismen dort, wo die eigentliche Arbeit erledigt wird. Kontrollieren Sie den Zugriff und verweigern Sie beliebige Tools mithilfe von Proxy-Zulassungs- und -Blockierungslisten. Verwenden Sie Tools zur Datenverlustprävention, um das Hochladen von Daten in nicht genehmigte Tools zu verhindern und sichere Weiterleitungsalternativen zu genehmigten Modellen bereitzustellen. Richtlinien sollten Innovationen fördern.

Schulungen und Änderung der Sicherheitskultur. Die Nutzung von Schatten-KI erfolgt oft aus Unwissenheit. Schützen Sie Ihr Unternehmen mit rollenspezifischen Schulungen und beziehen Sie dabei reale, arbeitsbezogene Szenarien ein. Ermutigen Sie Teams, offen über die verwendeten KI-Tools zu sprechen, und weisen Sie sie darauf hin, dass sie keine Strafmaßnahmen befürchten müssen. Wenn Führungskräfte konsequent die gewünschte Sicherheitskultur vorleben, ist die Einhaltung der Richtlinien fast garantiert.

Integration der Cybersicherheit. Die KI-Governance sollte mit Ihren vorhandenen Datenschutzmaßnahmen, Zugriffskontrollen und Programmen zum Schutz vor Insider-Risiken verknüpft werden. Definieren Sie funktionsübergreifende Zuständigkeiten, die die Bereiche IT, Sicherheit, Recht, Finanzen und Personalwesen umfassen. Überwachen Sie die KI-Nutzung in Echtzeit, und kennzeichnen Sie große Datenübertragungen an KI-Tools als ungewöhnliche Aktivitäten. Decken Sie mit Routineprüfungen Nutzungsmuster auf, die dazu beitragen, die Governance zu optimieren und Lücken in genehmigten Angeboten aufzudecken.

Für die Verwaltung von Schatten-KI ist mehr als nur ein Team notwendig, denn Risiken machen nicht vor Fachbereichsgrenzen halt, sondern gefährden Ihre Sicherheit, Compliance, Infrastruktur und Geschäftsabläufe. Deshalb teilen erfolgreiche Unternehmen die Verantwortlichkeiten auf und fördern abteilungsübergreifende Zusammenarbeit.

Für die Risikokontrolle sind die Sicherheits- und CISO-Teams zuständig. Sie erkennen potenzielle Bedrohungen, bewerten den Grad der Gefährdung und stellen fest, welche KI-Nutzung zu inakzeptablen Sicherheitslücken führt. Zudem müssen sie die Nutzung nicht autorisierter KI überwachen und in Abstimmung mit anderen Verantwortlichen für ein Gleichgewicht zwischen den Geschäftsanforderungen und der Sicherheit sorgen. Governance-Maßnahmen sind besonders wirksam, wenn Sicherheitsverantwortliche auf hoher Ebene als Vermittler agieren und keine Hindernisse schaffen.

Die Architektur und die technische Umsetzung liegen in der Verantwortung der IT- und Entwicklungsteams. Sie überprüfen KI-Tools auf Sicherheitslücken und entwickeln sichere KI-Tools, die Mitarbeiter für nützlich halten und verwenden möchten. Sie sind verantwortlich für KI-Register, Marktplätze sowie die Durchsetzung der richtlinienkonformen KI-Nutzung und des Zugriffs auf Netzwerk- und Anwendungsebene. Parallel dazu stellen die CISO-Teams sicher, dass KI-Governance-Maßnahmen die Einhaltung der DSGVO-Vorgaben, Branchenstandards und vertraglichen Verpflichtungen ermöglichen. Sie evaluieren Datenverarbeitungsverfahren, überwachen Lieferantenvereinbarungen und erleichtern Unternehmensprüfungen.

Compliance- und Rechtsteams wandeln die Anforderungen an die Einhaltung gesetzlicher Vorschriften in praktische, umsetzbare Richtlinien um. Wenn Mitarbeiter verstehen, warum bestimmte Richtlinien in Kraft sind, und wenn hochwertige, autorisierte Tools zur Verfügung stehen, erfolgt die Einhaltung der Richtlinien automatisch und muss nicht erzwungen werden. Führungskräfte sollten dieses Verhalten selbst vorleben, indem sie die entsprechenden Tools einsetzen.

Diese von der Unternehmensführung unterstützte Compliance-Kultur erfordert strukturierte Governance-Maßnahmen, damit die Dynamik aufrechterhalten bleibt. Daher ist es wichtig, funktionsübergreifende Kanäle für Rückmeldungen in die relevanten Fachbereiche zu integrieren. Die Teams des Unternehmens sollten sich regelmäßig treffen, um Richtlinien zu überprüfen, neu entwickelte Tools zu evaluieren und Risiken zu mindern, die seit dem letzten Treffen entstanden sind. Durch kollaborative Governance können sich die Teams auf das Wesentliche konzentrieren und sowohl Sicherheitslücken als auch unnötigen bürokratischen Aufwand vermeiden.

Selbst Unternehmen, die stark in die Governance-Maßnahmen für KI investiert haben, stehen vor erheblichen Herausforderungen. Angesichts der raschen Veränderungen der Bedrohungslandschaft dauern Richtlinien-Lebenszyklen zu lange. Hinzu kommt, dass die meisten IT-Kontrollen zu elementar sind, um KI-spezifische Risiken abzudecken.

• Schnelle Entwicklung der KI-Tools: Die KI-Funktionen sind so hochentwickelt, dass es jede Woche neue Tools gibt. Vorhandene Plattformen fügen ohne vorherige Ankündigung KI-Funktionen hinzu. Bevor das Sicherheitsteam ein Tool bewertet hat, haben die Mitarbeiter Zugang zu drei ungeprüften Tools und keinen Anreiz, diese nicht zu nutzen.
• Missachtung von Richtlinien: Mitarbeiter sehen in Governance-Maßnahmen ein Hindernis und ignorieren sie, wenn Genehmigungsprozesse mehrere Wochen dauern, während kostenlose KI-Tools sofort verfügbar sind. Wenn die offiziell bereitgestellten Tools nicht die Funktionen und den Bedienkomfort bieten, die von Verbrauchertools erwartet werden, lässt sich die Nutzung von Schatten-KI nicht vermeiden.
• Schwierigkeiten bei der Überwachung der tatsächlich verwendeten Tools: KI funktioniert anders als herkömmliche SaaS. KI kann in zugelassene Plattformen eingebettet oder lokal ohne Netzwerksignaturen betrieben werden. Die meisten Unternehmen verfügen nicht über die technischen Mittel, um KI-Aktivitäten zu verfolgen, sodass Sicherheitsteams der Überblick fehlt.
• Notwendigkeit von Richtlinien mit KI-Fokus: In den meisten Unternehmen fehlen Richtlinien, die sich mit KI-spezifischen Risiken wie Modellergebnissen, Prompt-Injection oder Datentraining befassen. Allgemeine IT-Richtlinien berücksichtigen nicht die einzigartigen Compliance- und ethischen Bedenken, die KI mit sich bringt. Wenn die Richtlinien zu restriktiv sind, wird es zur Nutzung von Schatten-KI kommen. Sind die Richtlinien zu großzügig, ist das Unternehmen gefährdet.

Um Schatten-KI zu erkennen, benötigen Sie mehrere Schutzebenen, die Tools zur Analyse von Netzwerkverkehr, Anwendungen, Anwenderaktivitäten und Datenbewegungen umfassen. Es gibt keine Methode, die alles erkennen kann. Die erfolgreichsten Tools verwenden verschiedene Techniken, um ein vollständiges Verständnis dafür zu entwickeln, wie und wo KI-Tools entstehen und von Mitarbeitern verwendet werden.

Plattformen zur Erkennung von KI-Nutzung

Diese Tools sind auf die Verwaltung der Inventare der von Mitarbeitern verwendeten KI-Anwendungen spezialisiert und identifizieren Unternehmensumgebungen, die mit diesen Tools allgemein zugänglich gemacht wurden. Mithilfe von Machine Learning erkennen diese Tools etablierte KI-Dienste wie ChatGPT, Gemini und Claude sowie neu entwickelte Dienste, die andere herkömmliche Erkennungstools übersehen. Plattformen zur Erkennung untersuchen Finanztransaktionen und Berichte, die Browsernutzung und den Netzwerkverkehr, um den Umfang der KI-Nutzung zu analysieren.

Cloud Access Security Broker (CASB)

CASBs verbessern die herkömmliche Überwachung von SaaS-Anwendungen, indem sie Funktionen für die KI-Governance hinzufügen. CASB-Lösungen bieten eine Echtzeitüberwachung der Nutzung von KI-Diensten durch Mitarbeiter und können KI-abhängige, kontextbezogene Richtlinien anwenden. Die neuesten CASB-Lösungen liefern mithilfe von Deep Packet Inspection eine KI-gestützte Risikobewertung der verarbeiteten Daten und des ein- und ausgehenden KI-Verkehrs eines Unternehmens.

Systeme zur Datenverlustprävention (DLP)

KI-integrierte DLP-Tools erkennen automatisch, wenn Mitarbeiter vertrauliche Informationen an nicht autorisierte KI-Tools übertragen. Sie führen Inhalts-Scans auf Prompt-Ebene durch und überprüfen dabei getippte Eingaben, Datei-Uploads und Einfügungen aus der Zwischenablage, um Dokumentenweitergaben zu erkennen und wichtige Chatbots wie ChatGPT, Copilot, Claude, Gemini und Perplexity zu identifizieren. Hochentwickelte DLP-Lösungen verfügen über kontextbezogene Funktionen, die False Positives weiter reduzieren und die Beweggründe des Datentransfers erläutern.

Überwachung von Identitäts- und Zugriffsmanagement (IAM)

IAM-Systeme überwachen die gemeinsame Nutzung von Anmeldedaten und analysieren Nutzungsmuster, um die Authentifizierung der Mitarbeiter bei KI-Diensten nachzuvollziehen und den Austausch von Dokumenten mit KI zu erfassen. Proaktives IAM prüft zudem auf Dateiebene, ob kontrollierte Eingaben vorliegen, verwaltet die Zugriffskontrolle und meldet inaktive Konten. SIEM-Systeme integrieren spezifisches Identitätsmanagement sowie prädiktive KI-Nutzung. Bei signifikanten Dokumentenexporten und Datenpannen erfolgt eine Echtzeitwarnung basierend auf dynamisch verfolgten KI-Nutzungsgrenzwerten.

Plattformen für Anwenderverhaltensanalysen

Diese Systeme verwenden Machine Learning, um Baselines für die normale KI-Nutzung festzulegen und Anomalien zu identifizieren, die auf potenzielle Richtlinienverstöße hinweisen. Sie weisen Anwendern basierend auf ihren KI-Interaktionsmustern Verhaltensrisikowerte zu und können vorhersagen, welche Mitarbeiter KI-Tools wahrscheinlich missbräuchlich mit vertraulichen Daten nutzen werden. Fortschrittliche Plattformen erstellen psychologische Profile, um nicht nur zu verstehen, was Anwender mit KI machen, sondern auch, warum sie dies tun. Anwenderverhaltensanalysen werden langfristig immer genauer, da sie kontinuierlich aus neuen Mustern lernen.

Tools für Netzwerkverkehrsanalysen

Selbst wenn Anwendungen ihre Kommunikation verschlüsseln, können Netzwerküberwachungslösungen durch die Identifizierung der Muster im Datenverkehr immer noch feststellen, wie die KI genutzt wird. Die Tools identifizieren die Fingerabdrücke von KI-Anwendungen, überwachen die Bandbreitennutzung und erkennen ungewöhnliche Datenübertragungsmengen, die auf den Missbrauch von Tools zur Datenexfiltration hindeuten. Zero-Trust-Netzwerkzugriffsplattformen wenden auf jede KI-Interaktion Verifizierungsrichtlinien an, unabhängig vom Standort oder Gerät des Anwenders. Dieser Ansatz verhindert die Datenexfiltration durch KI-Kanäle, während die Anwendererfahrung erhalten bleibt.