Schatten-KI im Unternehmen: So finden Sie heraus, welche KI-Werkzeuge Ihre Mitarbeiter wirklich nutzen

Das Wichtigste in 30 Sekunden

• Schatten-KI entsteht, wenn Mitarbeiter KI-Werkzeuge oder KI-Funktionen nutzen, ohne dass deren Einsatz von der IT geprüft oder freigegeben wurde.
• KI steckt inzwischen auch in Browsern, Bürosoftware und Besprechungs-Tools, sodass für die KI-Nutzung oft keine zusätzliche Software installiert werden muss.
• Zu den wichtigsten Risiken gehören unkontrollierter Datenabfluss, fehlende Nachvollziehbarkeit sowie Datenschutz-, Mitbestimmungs- und regulatorische Fragen.
• Eine vorhandene Sophos Firewall kann bereits einen ersten Überblick darüber geben, welche generativen KI-Dienste und Anwendungen im Unternehmensnetz auftauchen.
• Statt alle KI-Dienste pauschal zu sperren, ist meist eine kontrollierte Freigabeliste sinnvoller: geeignete Werkzeuge erlauben, sensible Nutzung begrenzen und unbekannte Dienste prüfen.

Was ist Schatten-KI – und was unterscheidet sie von Schatten-IT?

Schatten-KI (englisch: Shadow AI) ist die Nutzung von KI-Werkzeugen oder KI-Funktionen im Unternehmen, ohne dass diese von der IT ausdrücklich geprüft oder freigegeben wurden. Sie kann sowohl durch selbst gewählte Online-Dienste als auch durch KI-Funktionen entstehen, die bereits in vorhandener Software integriert sind. Entscheidend ist, dass das Unternehmen keine vollständige Sicht und Kontrolle über diese Nutzung besitzt.

Klassische Schatten-IT bezeichnet Software, Cloud-Dienste oder Geräte, die Mitarbeiter oder Fachabteilungen ohne Wissen beziehungsweise Freigabe der IT einsetzen. Dazu können private Cloud-Speicher, selbst installierte Programme oder nicht verwaltete Endgeräte gehören.

Schatten-KI ist ein Teil dieses Problems, unterscheidet sich aber in einem wichtigen Punkt: Bei KI-Diensten werden häufig nicht nur Programme verwendet, sondern aktiv Texte, Dokumente, Quellcode, Bilder oder andere Unternehmensdaten an einen externen Dienst übermittelt. Gleichzeitig wird KI zunehmend in Anwendungen eingebaut, die im Unternehmen bereits freigegeben sind.

Ein Mitarbeiter muss daher heute nicht zwangsläufig neue Software installieren, um außerhalb der vorgesehenen Prozesse KI zu verwenden. Häufig entsteht die Nutzung aus Bequemlichkeit, Zeitdruck oder weil eine offiziell freigegebene Alternative fehlt – und nicht aus der Absicht, Sicherheitsregeln zu umgehen. Genau deshalb reicht eine klassische Softwareinventarisierung allein oft nicht mehr aus.

Vier Arten von KI im Unternehmen – und warum nur eine nach Schatten-KI aussieht

Bei KI im Unternehmen geht es längst nicht mehr nur um Mitarbeiter, die heimlich einen öffentlichen Chatbot öffnen. Ein vollständiges Bild muss auch freigegebene Dienste, eingebettete Funktionen und zunehmend selbstständig arbeitende Systeme berücksichtigen. Gerade diese weniger offensichtlichen Nutzungsformen können leicht übersehen werden. 

Für die IT ist deshalb entscheidend, nicht nur nach bekannten Webseiten zu suchen, sondern unterschiedliche Formen der KI-Nutzung zu unterscheiden. Schatten-KI ist dabei nur der offensichtlichste Fall. Auch KI-Agenten oder integrierte Assistenten können neue Risiken erzeugen, obwohl die zugrunde liegende Anwendung längst bekannt und grundsätzlich erlaubt ist.

Gerade die letzten drei Kategorien zeigen, warum eine reine Liste verbotener Chatbots nicht ausreicht. Ein genehmigtes Produkt kann auf eine Weise genutzt werden, die ursprünglich nicht betrachtet wurde. Eine neue KI-Funktion kann mit einem Software-Update erscheinen, ohne dass ein weiteres Programm installiert wird. 

Und bei Agenten verschiebt sich das Risiko zusätzlich: Sie lesen nicht nur Informationen, sondern können abhängig von ihren Berechtigungen auf Daten zugreifen und Aktionen auslösen. 

Für die Praxis bedeutet das: Die entscheidende Frage lautet nicht nur „Welche KI-Produkte sind installiert?“, sondern „Wo wird KI verwendet, mit welchen Daten und mit welchen Berechtigungen?“ Genau diese Unterscheidung hilft später dabei, technische Kontrollen und organisatorische Regeln sinnvoll zu priorisieren.

Warum wird KI-Nutzung gerade jetzt unsichtbar?

Früher war nicht freigegebene Software vergleichsweise leicht zu verstehen: Ein Mitarbeiter installierte ein Programm, verwendete einen unbekannten Cloud-Dienst oder brachte ein privates Gerät ins Unternehmensnetz. Bei modernen KI-Tools fällt genau dieser sichtbare Installationsschritt zunehmend weg.

KI-Funktionen wandern direkt in Anwendungen, die längst vorhanden sind. Browser erhalten Schreib- oder Rechercheassistenten, Office-Anwendungen generieren oder analysieren Texte, Notizprogramme fassen Inhalte zusammen und Besprechungsdienste erstellen automatisch Mitschriften, Zusammenfassungen oder Aufgabenlisten.

Aus Sicht des Benutzers ist das komfortabel. Aus Sicht der IT kann sich der Funktionsumfang einer bereits freigegebenen Anwendung jedoch erheblich verändern, ohne dass ein klassischer Beschaffungs- oder Freigabeprozess ausgelöst wird.

Dass dies kein Randthema mehr ist, zeigen Zahlen des Digitalverbands Bitkom. In einer repräsentativen Befragung von 604 deutschen Unternehmen ab 20 Beschäftigten gingen 2025 vier von zehn Unternehmen zumindest davon aus, dass Beschäftigte private KI-Tools im Arbeitsumfeld nutzen.

Quelle: Bitkom – Beschäftigte nutzen Schatten-KI https://www.bitkom.org/Presse/Presseinformation/Beschaeftigte-nutzen-Schatten-KI 

Damit entsteht ein grundlegendes Problem: Eine Softwareinventarisierung allein beantwortet nicht mehr zuverlässig, wo KI eingesetzt wird. Schatten-KI kann im Browser stattfinden, Bestandteil einer bekannten Anwendung sein oder über einen privaten Zugang genutzt werden. 

Für Unternehmen wird deshalb weniger die Frage wichtig, ob KI überhaupt verwendet wird. Entscheidend wird, welche KI genutzt wird, von wem, mit welchen Daten und unter welchen Regeln. Genau diese vier Fragen bilden die Grundlage für eine belastbare Bestandsaufnahme.

Vier Risiken – konkret statt allgemein

Schatten-KI ist nicht automatisch ein Sicherheitsvorfall. Problematisch wird sie dort, wo dem Unternehmen Transparenz, klare Zuständigkeiten und verbindliche Regeln für den täglichen KI-Einsatz fehlen. Für eine belastbare KI-Sicherheit sind besonders vier Bereiche relevant: Datenabfluss, Nachvollziehbarkeit, rechtliche Rahmenbedingungen und neue technische Angriffsflächen.

Datenabfluss über Eingaben und Uploads

Das offensichtlichste Risiko entsteht durch Informationen, die Benutzer selbst an einen KI-Dienst übermitteln. Ein Mitarbeiter könnte beispielsweise ein Angebot mit Kundennamen, Preisen und internen Kalkulationen hochladen und sich daraus eine freundlichere Formulierung erstellen lassen. 

Ebenso denkbar ist ein Entwickler, der einen Ausschnitt aus internem Quellcode oder eine Fehlermeldung samt Konfigurationsdaten an ein KI-Werkzeug übergibt. Damit verlassen Informationen den vorgesehenen Verarbeitungskontext. Was anschließend mit diesen Daten geschieht, hängt vom jeweiligen Anbieter, Tarif, Vertrag und dessen Einstellungen ab. 

Daten können beispielsweise für eine bestimmte Zeit gespeichert, zur Missbrauchserkennung verarbeitet oder – abhängig von Dienst und Konfiguration – auch zur Verbesserung eines Modells verwendet werden. Das Problem ist daher nicht, dass jeder KI-Dienst Daten grundsätzlich für Training nutzt. 

Entscheidend ist vielmehr: Ohne festgelegte Werkzeuge und Regeln weiß das Unternehmen möglicherweise nicht, welcher Anbieter welche Daten erhält und welche Bedingungen dafür gelten.

Wer hat was womit erzeugt? Verlust der Nachvollziehbarkeit

Ein zweites Problem entsteht, wenn KI-generierte Inhalte weiterverwendet werden, ohne dass später erkennbar ist, wie sie entstanden sind. Das kann Texte, Tabellen, Übersetzungen, Programmcodes oder Auswertungen betreffen.

Wird beispielsweise eine technische Dokumentation mit einem privaten KI-Dienst erstellt und anschließend in ein internes Wiki übernommen, ist Monate später möglicherweise nicht mehr nachvollziehbar, welche Inhalte vom Mitarbeiter selbst stammen und welche von der KI erzeugt wurden. Dasselbe gilt für Code, der in ein Produkt übernommen wird, oder für Berechnungen und Analysen, auf deren Ergebnis weitere Entscheidungen aufbauen.

Für die Qualitätssicherung ist das relevant, weil KI-generierte Ergebnisse Fehler enthalten können und überprüft werden müssen. 

Auch Verantwortlichkeiten werden schwieriger: 

• Wer hat eine Aussage geprüft? 
• Welche Quelle lag zugrunde? 
• Welches Modell wurde verwendet?

Transparente Prozesse sollten deshalb nicht nur festlegen, welche KI erlaubt ist, sondern auch, wann Ergebnisse dokumentiert, geprüft oder gekennzeichnet werden müssen.

Rechtliche Lage: DSGVO, Betriebsrat und KI-Verordnung

Bei der Nutzung externer KI-Dienste können verschiedene rechtliche Fragen entstehen. Werden personenbezogene Daten verarbeitet, sind unter anderem Zweck, Rechtsgrundlage, Rollen der beteiligten Unternehmen und gegebenenfalls Vereinbarungen zur Auftragsverarbeitung zu prüfen. Welche Anforderungen gelten, hängt vom jeweiligen Einsatzfall ab.

Auch betriebliche Mitbestimmung kann relevant werden. Werden technische Systeme eingesetzt, mit denen die Nutzung einzelner Beschäftigter ausgewertet oder Verhalten zugeordnet werden kann, sollte geprüft werden, ob und wie der Betriebsrat einzubeziehen ist.

Bei der KI-Compliance spielt außerdem Artikel 4 der KI-Verordnung eine Rolle. Die Regelung zur KI-Kompetenz gilt seit dem 2. Februar 2025; seit dem 27. Juli 2026 gilt die durch die Verordnung (EU) 2026/1744 geänderte Fassung. Anbieter und Betreiber müssen Maßnahmen ergreifen, die den Aufbau ausreichender KI-Kompetenz ihrer Beschäftigten unterstützen. Ein bestimmtes Kompetenzniveau jedes einzelnen Mitarbeiters muss nach der geänderten Fassung nicht garantiert werden. Welche Maßnahmen angemessen sind, hängt unter anderem von Wissen, Erfahrung und Einsatzkontext ab.

Quelle: EUR-Lex – Verordnung (EU) 2026/1744

https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32026R1744

Dieser Abschnitt ersetzt keine Rechtsberatung. Die konkrete Umsetzung sollte mit den zuständigen Datenschutz-, Rechts- und Arbeitnehmervertretungen abgestimmt werden

Neue Angriffsfläche: Prompt Injection und übernommene KI-Agenten

Nicht jedes KI-Risiko entsteht durch versehentlich hochgeladene Daten. KI-Systeme selbst können Ziel manipulierter Inhalte werden. Bei einer Prompt Injection werden Anweisungen so in Inhalte eingebettet, dass ein KI-System dazu gebracht werden soll, seine vorgesehenen Regeln zu umgehen oder unerwünschte Aktionen auszuführen.

Besonders relevant wird das bei KI-Agenten. Ein Chatbot, der ausschließlich Text erzeugt, besitzt nur begrenzte Möglichkeiten. Ein Agent kann dagegen Zugriffsrechte auf E-Mail, Dateien, Datenbanken, Ticketsysteme oder andere Anwendungen erhalten und abhängig von seinem Auftrag selbstständig handeln.

Wird ein solcher Agent durch manipulierte Inhalte beeinflusst oder erhält er mehr Berechtigungen als notwendig, steigen die möglichen Auswirkungen deutlich. Deshalb sollten Agenten nach denselben Grundsätzen behandelt werden wie andere privilegierte Systeme: möglichst geringe Rechte, klar definierte Aufgaben, Protokollierung und überprüfbare Freigaben für kritische Aktionen.

Wie Sie einen ersten Überblick über die KI-Nutzung mit Ihrer vorhandenen Sophos Firewall erhalten, zeigt der nächste Abschnitt.

KI-Nutzung im Unternehmen sichtbar machen – mit dem, was Sie schon haben

Für einen ersten Überblick über die KI-Nutzung im Unternehmen müssen Sie nicht zwingend sofort ein neues Produkt einführen. Eine vorhandene Sophos Firewall kann bereits Web- und Anwendungsdaten auswerten und damit Hinweise auf genutzte KI-Dienste liefern. Sophos Firewall

Das reicht nicht für jede Form von Schatten-KI, schafft aber eine belastbare Ausgangsbasis: Welche Dienste tauchen auf, welche Benutzer oder Geräte erzeugen den Verkehr und welche Anwendungen werden über vorhandene Kontrollmechanismen erkannt?

Auswertung über Web- und Anwendungskontrolle der Sophos Firewall

Sophos Firewall bietet mehrere Ansatzpunkte für diese Bestandsaufnahme. Web Control kann Zugriffe anhand von Webkategorien auswerten und steuern. Die Anwendungskontrolle arbeitet mit Anwendungssignaturen und kennt eine eigene Kategorie Generative AI.

In den Berichten lassen sich anschließend erkannte Anwendungen, Benutzeraktivitäten und Webzugriffe zusammenführen. Sophos beschreibt dafür unter anderem die Berichte User app risks & usage, Cloud application usage, Web risks & usage und – bei angebundenen Endpoints – Synchronized applications.

Mit SFOS 22.0 MR2, veröffentlicht am 14. Juli 2026, wurde die Kategorisierung generativer KI-Anwendungen über Synchronized Application Control verbessert. Sophos Endpoint identifiziert Generative-AI-Anwendungen genauer und übermittelt diese Information über Synchronized Application Control an die Firewall. Dadurch verbessern sich Anwendungssichtbarkeit, Reporting und Richtliniensteuerung.

Quelle: Sophos Community – Sophos Firewall v22 MR2

Wichtig für die technische Einordnung: Synchronized Application Control überwacht Anwendungen auf Endpoints, die über Security Heartbeat mit der Sophos Firewall verbunden sind. Sophos dokumentiert für SAC außerdem eine gültige Web Protection Subscription. Für Security Heartbeat sind ein Sophos-Fusion-Account, ein von Sophos Fusion verwalteter Endpoint und eine Network-Protection-Subscription auf der Firewall erforderlich. Quelle: Sophos Dokumentation – Synchronized Application Control

Ohne Sophos Endpoint ist die Firewall trotzdem nicht blind. Webkategorien, Anwendungssignaturen und vorhandene Web- beziehungsweise Anwendungsberichte können weiterhin zeigen, dass bekannte KI-Webseiten oder Anwendungen genutzt werden.

Die zusätzliche Endpoint-Telemetrie erweitert jedoch die Erkennung insbesondere dort, wo sich eine Anwendung aus dem Netzwerkverkehr allein nicht eindeutig bestimmen lässt.

Für einen ersten Check sollten Sie deshalb zwei Dinge getrennt betrachten: Welche generativen KI-Webdienste sieht die Firewall? Und – sofern Synchronized Application Control vorhanden ist – welche KI-Anwendungen erkennt der Endpoint zusätzlich und meldet an die Firewall?

Für die Bewertung ist außerdem der Zeitraum wichtig. Ein einzelner Tagesbericht kann zufällige oder seltene Nutzung übersehen. Sinnvoll ist deshalb, zunächst mehrere Tage oder einige Wochen zu betrachten und anschließend auffällige Dienste gegen die intern freigegebenen Werkzeuge zu prüfen.

So entsteht aus technischen Rohdaten eine belastbare Ausgangsliste für die weitere Bewertung.

Schritt für Schritt: der Weg durch die Oberfläche

1. Melden Sie sich an der Web-Admin-Oberfläche Ihrer Sophos Firewall an und öffnen Sie Reports.
2. Wechseln Sie zu Applications & web. Dieser Bereich bündelt Berichte zur Anwendungs- und Internetnutzung
3.  Wählen Sie zunächst User app risks & usage. Hier sehen Sie erkannte Anwendungen, ihre Nutzung und die von Sophos zugeordnete Risikostufe. Für Webzugriffe eignet sich ergänzend Web risks & usage.
4. Setzen Sie einen sinnvollen Zeitraum – beispielsweise die vergangenen sieben oder 30 Tage – und erzeugen Sie den Bericht über Generate.
5. Prüfen Sie insbesondere Anwendungen und Webdienste aus der Kategorie Generative AI.
6. Wenn Sophos Endpoint und Synchronized Application Control eingesetzt werden, öffnen Sie zusätzlich den Bericht Synchronized applications.
7. Notieren Sie nicht nur die Namen der Dienste. Relevant sind auch Benutzer beziehungsweise Geräte, Häufigkeit, Zeitpunkt und die Frage, ob die gefundene Anwendung bereits intern freigegeben ist.

Aus Supportsicht ist gerade der Vergleich mit der eigenen Erwartung interessant: Tauchen nur die offiziell vorgesehenen Dienste auf – oder finden sich Anwendungen, von denen die IT bislang nichts wusste? 

Genau dort beginnt die praktische Bestandsaufnahme. Dokumentieren Sie auffällige Funde zunächst, bevor Sie Regeln ändern. So lässt sich später nachvollziehen, welche Anwendungen neu sind, welche bereits genehmigt wurden und wo tatsächlich Handlungsbedarf besteht.

Was die Zahlen aussagen – und was nicht

• Firewall-Berichte sind eine gute Ausgangsbasis, aber keine vollständige Inventarliste jeder KI-Nutzung. Sichtbar ist nur Verkehr, der die betrachteten Kontrollpunkte tatsächlich passiert und dort erkannt werden kann.
• Ein Mitarbeiter, der über das Mobilfunknetz seines privaten Smartphones auf einen KI-Dienst zugreift, erscheint nicht im Unternehmens-Firewallbericht. Ähnliches gilt für Geräte außerhalb des verwalteten Netzes oder für Verbindungen, die einen anderen Internetzugang verwenden.
• Auch bei verschlüsseltem Verkehr hängt die Erkennbarkeit davon ab, welche Informationen, Signaturen und Inspektionsmöglichkeiten verfügbar sind. Nicht jede KI-Funktion lässt sich allein aus dem Netzwerkverkehr eindeutig einer konkreten Anwendung zuordnen.
• Eingebettete Funktionen können beispielsweise denselben Dienst oder dieselbe Infrastruktur wie die eigentliche Anwendung verwenden. 
• Browsererweiterungen und neue KI-Dienste können ebenfalls zeitweise unter dem Radar bleiben, bis passende Kategorien oder Signaturen verfügbar sind. 

Die Zahlen sollten deshalb nicht als Aussage „Wir sehen unsere gesamte KI-Nutzung“ verstanden werden. 

Sie beantworten zunächst eine andere, aber sehr hilfreiche Frage: Welche KI-Nutzung können unsere vorhandenen Sicherheitskomponenten heute bereits nachweisen?

Die Grenze: Die Firewall sieht die Nutzung – nicht den vollständigen KI-Kontext

Eine Sophos Firewall kann erkennen, dass bestimmte Webseiten, Dienste oder Anwendungen genutzt werden und diese Nutzung – abhängig von den vorhandenen Signalen und der Konfiguration – einem Gerät oder Benutzer zuordnen.

Mit Web-, Anwendungs- und gegebenenfalls SSL/TLS-Inspektionsfunktionen können zusätzliche technische Informationen sichtbar werden. Daraus folgt jedoch nicht automatisch, dass die Firewall den vollständigen geschäftlichen Kontext einer KI-Interaktion versteht.

Aus der erkannten Nutzung eines KI-Dienstes lässt sich insbesondere nicht zuverlässig ableiten, welcher vollständige Prompt eingegeben wurde, welche Informationen fachlich darin enthalten waren oder warum der Mitarbeiter die Anwendung verwendet hat.

Genau hier liegt die Grenze einer primär netzwerk- und anwendungsbezogenen Sicht: Sie schafft wertvolle technische Transparenz, ersetzt aber keine vollständige Bewertung von Bedeutung und Risiko jeder einzelnen KI-Interaktion.

Wann diese Bordmittel nicht mehr genügen, greifen wir weiter unten noch einmal auf.

Selbstcheck: sieben Fragen zur KI-Sicherheit in Ihrem Unternehmen

Wie belastbar ist Ihre KI-Sicherheit im Unternehmen heute wirklich? Die folgenden sieben Fragen helfen bei einer schnellen Selbsteinschätzung.

Antworten Sie jeweils mit Ja, Nein oder Weiß nicht. „Nein“ und „Weiß nicht“ zählen als offener Punkt.

1. Wissen Sie, welche KI-Werkzeuge in Ihrem Unternehmen heute tatsächlich genutzt werden?
2. Können Sie nachvollziehen, welche Daten Ihre Mitarbeiter in KI-Werkzeuge eingeben oder hochladen?
3. Gibt es bei Ihnen eine schriftliche Regelung zur KI-Nutzung?
4. Wird diese Regelung technisch durchgesetzt, oder ist sie eine Empfehlung?
5. Würden Sie bemerken, wenn jemand dagegen verstößt?
6. Erfassen Sie auch KI-Funktionen, die in bereits eingesetzter Software stecken?
7. Könnten Sie der Geschäftsführung heute belegen, wie KI bei Ihnen genutzt wird?

Auswertung: 

• Bis zwei offene Punkte = solide Grundlage
• Drei bis vier = erkennbare Lücken
• Fünf und mehr = kein belastbares Bild der eigenen KI-Nutzung

Bis zwei offene Punkte: solide Grundlage

Sie haben bereits einen vergleichsweise guten Überblick und grundlegende Regeln etabliert. Prüfen Sie trotzdem regelmäßig, ob neue KI-Funktionen oder Dienste hinzukommen und ob Ihre Freigaben noch zum tatsächlichen Einsatz passen.

Wenn Sie die vorhandene Sophos-Konfiguration gegenprüfen möchten, können wir dies im Rahmen unserer Kaufberatung gemeinsam einordnen.

Drei bis vier offene Punkte: erkennbare Lücken

Ein Teil der KI-Nutzung ist bei Ihnen bereits geregelt, an mehreren Stellen fehlen aber Transparenz oder technische Kontrolle.

Sinnvoll ist jetzt eine Bestandsaufnahme:

• Welche Dienste werden tatsächlich verwendet?
• Welche Daten dürfen in KI-Werkzeuge eingegeben oder hochgeladen werden?
• Welche Regeln lassen sich technisch kontrollieren und durchsetzen?

In unserer Kaufberatung können wir gemeinsam prüfen, was Ihre vorhandene Umgebung bereits abdeckt.

Fünf oder mehr offene Punkte: kein belastbares Gesamtbild

Wenn fünf oder mehr Fragen offen bleiben, kann die IT derzeit nur eingeschränkt beurteilen, welche KI-Nutzung tatsächlich stattfindet und welche Risiken damit verbunden sind.

Beginnen Sie mit Sichtbarkeit und klaren Zuständigkeiten, bevor Sie einzelne Dienste pauschal blockieren. Wir können in der Kaufberatung gemeinsam Ihren technischen Ausgangsstand und mögliche nächste Schritte prüfen.

Vom Befund zur Regelung: Freigabeliste statt Pauschalverbot

• Wer erstmals nicht genehmigte KI-Dienste im Netzwerk entdeckt, reagiert verständlicherweise schnell mit dem Gedanken: blockieren. Ein vollständiges Verbot löst das eigentliche Problem jedoch nicht zwangsläufig.
• Mitarbeiter nutzen KI meistens, weil sie damit konkrete Aufgaben schneller erledigen möchten. Wird jede externe KI ohne brauchbare Alternative gesperrt, kann die Nutzung auf private Geräte, Mobilfunkverbindungen oder nicht verwaltete Zugänge ausweichen. Die technische Sichtbarkeit nimmt dann sogar ab.
• Für den Umgang mit Schatten-KI ist deshalb häufig eine Freigabeliste sinnvoller. Das Unternehmen definiert ausdrücklich, welche Werkzeuge für welche Aufgaben und Datenklassen genutzt werden dürfen.
• Ein freigegebener Assistent kann beispielsweise für allgemeine Textentwürfe erlaubt sein, während personenbezogene Kundendaten, interne Verträge oder Zugangsdaten grundsätzlich nicht eingegeben werden dürfen.
• Eine solche KI-Governance verbindet technische und organisatorische Maßnahmen: zugelassene Werkzeuge, nachvollziehbare Verantwortlichkeiten, verständliche Regeln und – soweit technisch möglich – Kontrolle ihrer Einhaltung.
• Praktisch sollte eine Freigabeliste mindestens drei Ebenen unterscheiden: Werkzeug, Nutzungszweck und Datenklasse.
• Ein Dienst kann beispielsweise für Übersetzungen unkritischer Marketingtexte erlaubt sein, für personenbezogene Daten aber nicht. Ebenso kann ein internes KI-Werkzeug mit vertraglich geregelter Datenverarbeitung für andere Aufgaben freigegeben sein als ein öffentlich zugänglicher Dienst.
• Zusätzlich sollte klar sein, wer neue Anwendungen prüft und wie Änderungen bewertet werden. Wenn ein bereits freigegebenes Produkt plötzlich Agentenfunktionen, neue Datenquellen oder externe Integrationen erhält, kann eine erneute Prüfung sinnvoll sein.

So bleibt die Freigabeliste ein lebender Prozess und nicht nur eine einmalige Momentaufnahme.

Ziel ist nicht, jede KI-Nutzung zu verhindern. Ziel ist, Mitarbeitern einen sicheren und praktikablen Weg anzubieten, damit produktive Nutzung nicht in unsichtbare Ausweichkanäle abwandert.

KI-Richtlinie für Unternehmen: fünf Punkte, die reichen

Eine KI-Richtlinie muss für den Einstieg kein mehrseitiges Regelwerk sein. Entscheidend ist, dass Mitarbeiter schnell verstehen, was erlaubt ist und wann sie nachfragen müssen.

1. Freigegebene Werkzeuge nennen: Welche KI-Dienste dürfen geschäftlich verwendet werden?
2. Erlaubte Daten definieren: Welche Informationen dürfen eingegeben oder hochgeladen werden – und welche ausdrücklich nicht?
3. Verantwortung festlegen: KI-Ergebnisse müssen vor Weiterverwendung fachlich geprüft werden.
4. Neue Dienste regeln: Nicht freigegebene KI-Werkzeuge dürfen nicht ohne vorherige Prüfung für Unternehmensdaten verwendet werden.
5. Vorfälle und Fragen melden: Mitarbeiter brauchen eine konkrete Anlaufstelle für neue Funktionen, versehentliche Uploads oder Unsicherheiten.

Eine kurze, verständliche Richtlinie, die im Alltag tatsächlich genutzt wird, ist meist hilfreicher als ein umfangreiches Dokument, das niemand kennt.

Wann die Bordmittel nicht mehr reichen

Firewall-, Web- und Anwendungskontrolle sind ein sinnvoller Ausgangspunkt. Es gibt jedoch Situationen, in denen reine Netzwerk- und Anwendungssicht nicht mehr genügt.

Ein erster Auslöser ist, dass nicht nur bekannt sein soll, welcher KI-Dienst verwendet wird, sondern auch, welche Nutzung tatsächlich ein erhöhtes Risiko erzeugt.

Ein zweiter Punkt sind KI-Agenten mit Zugriffsrechten, bei denen Identität, Berechtigungen und mögliche Datenexposition wichtiger werden als die reine Verbindung zu einem Dienst.

Drittens kann ein Unternehmen gegenüber Geschäftsführung, Datenschutz oder Security-Verantwortlichen einen detaillierteren Nachweis über Nutzung, Bewertung und Richtlinien benötigen.

An dieser Stelle setzt eine weitergehende Steuerung an. Sophos AI Defense ergänzt die vorhandene Sophos-Umgebung um zentrale Sichtbarkeit, Risikoeinordnung und Richtliniensteuerung für KI-Nutzung.

Wie das Produkt funktioniert, welche Voraussetzungen gelten und wie es sich von XDR und MDR unterscheidet, erklären wir separat in unserem Beitrag „Sophos AI Defense einfach erklärt“

Sophos AI Defense ist ab dem 13. Oktober 2026 allgemein verfügbar. Zuvor wurde die Lösung im Early Access bereitgestellt. Die passende Sophos AI Defense Lizenz ist im UTMshop erhältlich.

Häufige Fragen zu Schatten-KI

Was ist Schatten-KI einfach erklärt?

Schatten-KI bedeutet, dass Mitarbeiter KI-Anwendungen oder KI-Funktionen für ihre Arbeit einsetzen, ohne dass diese Nutzung von der IT vollständig geprüft oder freigegeben wurde.

Das kann ein privater Chatbot sein, aber ebenso eine neue KI-Funktion in bereits eingesetzter Software. Problematisch ist vor allem, dass Unternehmen dadurch möglicherweise nicht wissen, welche Daten verarbeitet werden, welcher Anbieter beteiligt ist und welche Regeln für diese Nutzung gelten.

Ist Shadow AI dasselbe wie Schatten-KI?

Ja. Shadow AI ist der englische Begriff für dasselbe Phänomen, das im Deutschen meist als Schatten-KI bezeichnet wird.

Gemeint ist KI-Nutzung außerhalb der vorgesehenen Freigabe-, Sicherheits- oder Governance-Prozesse eines Unternehmens. Der Begriff bezieht sich dabei nicht ausschließlich auf heimlich installierte Software: Auch browserbasierte Dienste oder ungeprüfte KI-Funktionen in bereits vorhandenen Anwendungen können dazugehören und dadurch außerhalb klassischer IT-Prozesse auftauchen.

Was bedeutet Artikel 4 der KI-Verordnung für Unternehmen?

Artikel 4 der EU-KI-Verordnung betrifft die KI-Kompetenz von Personen, die mit KI-Systemen arbeiten.

Die Regelung zur KI-Kompetenz gilt seit dem 2. Februar 2025. Seit dem 27. Juli 2026 gilt die durch die Verordnung (EU) 2026/1744 geänderte Fassung. Anbieter und Betreiber müssen Maßnahmen ergreifen, die den Aufbau entsprechender Kompetenz unterstützen.

Ein bestimmtes Kompetenzniveau jedes einzelnen Mitarbeiters muss nach der geänderten Fassung nicht garantiert werden.

Welche Maßnahmen angemessen sind, hängt unter anderem von Wissen, Erfahrung und Einsatzkontext ab.

 EUR-Lex: Verordnung (EU) 2026/1744

Reicht es, ChatGPT und andere KI-Dienste an der Firewall zu sperren?

Nein. Eine Sperre kann bekannte Dienste im Unternehmensnetz blockieren, erfasst aber nicht automatisch jede Form der KI-Nutzung.

Mitarbeiter könnten auf Privatgeräte oder Mobilfunk ausweichen, und KI kann bereits in freigegebener Software eingebettet sein.

Sinnvoller ist meist eine Kombination aus Sichtbarkeit, klaren Freigaben und technischen Regeln. Die Firewall ist dabei ein wichtiger Kontrollpunkt, aber nicht die einzige Ebene einer belastbaren KI-Governance.

Kann die Sophos Firewall erkennen, welche KI-Werkzeuge genutzt werden?

Ja, bis zu einem gewissen Grad. Sophos Firewall kennt unter anderem die Anwendungskategorie Generative AI und kann Web- und Anwendungsnutzung in ihren Berichten sichtbar machen.

Mit Sophos Endpoint und Synchronized Application Control wurde die Kategorisierung generativer KI-Anwendungen in SFOS 22.0 MR2 zusätzlich verbessert. Dafür müssen die betreffenden Endpoints über Security Heartbeat mit der Firewall verbunden sein; für SAC gelten außerdem die entsprechenden Sophos-Lizenzvoraussetzungen.

Die Firewall liefert technische Sichtbarkeit – nicht automatisch den vollständigen Prompt- oder Geschäftskontext. Sophos Dokumentation

Ist die Nutzung von Schatten-KI verboten?

Nicht grundsätzlich. Ob eine konkrete Nutzung zulässig ist, hängt unter anderem davon ab, welche Daten verarbeitet werden, welchen KI-Dienst der Mitarbeiter verwendet und welche internen Vorgaben gelten.

Ein allgemeiner Chatbot für unvertrauliche Textentwürfe ist anders zu bewerten als das Hochladen personenbezogener Kundendaten oder interner Verträge. Unternehmen sollten deshalb klare Regeln definieren und konkrete Einsatzfälle prüfen.

Diese Einordnung stellt keine Rechtsberatung dar.

Darf der Arbeitgeber die KI-Nutzung seiner Mitarbeiter auswerten?

Eine technische Auswertung kann datenschutzrechtliche und betriebsverfassungsrechtliche Fragen aufwerfen, insbesondere wenn Aktivitäten einzelnen Beschäftigten zugeordnet werden können.

Je nach Ausgestaltung kann deshalb auch die Mitbestimmung des Betriebsrats relevant sein. Welche Voraussetzungen konkret gelten, hängt von den eingesetzten Systemen, den erfassten Daten und dem Zweck der Auswertung ab.

Datenschutz und Arbeitnehmervertretung sollten deshalb frühzeitig eingebunden werden. Die konkrete Bewertung sollte mit den zuständigen Stellen erfolgen.

Was ist Prompt Injection?

Prompt Injection bezeichnet den Versuch, ein KI-System über manipulierte Anweisungen zu einem Verhalten zu bewegen, das ursprünglich nicht vorgesehen war.

Solche Anweisungen können direkt durch einen Benutzer oder indirekt über Inhalte erfolgen, die ein KI-System verarbeitet.

Besonders relevant wird dies bei Agenten, die zusätzliche Systeme lesen oder Aktionen ausführen dürfen, weil eine erfolgreiche Manipulation dann deutlich größere Auswirkungen haben kann.

Wie erkenne ich KI, die in vorhandener Software eingebaut ist?

Beginnen Sie nicht nur mit einer Softwareliste, sondern betrachten Sie Funktionen und tatsächliche Nutzung.

Prüfen Sie Release Notes Ihrer eingesetzten Anwendungen, neue Assistenten- oder Agentenfunktionen und die Web- beziehungsweise Anwendungsberichte Ihrer Sicherheitskomponenten.

Bei Sophos können unter anderem Web- und Anwendungskategorien sowie Synchronized Application Control Hinweise liefern. Neue KI-Funktionen sollten anschließend wie andere funktionale Änderungen bewertet und gegebenenfalls neu freigegeben werden.

Brauche ich ein eigenes Produkt gegen Schatten-KI?

Nicht zwingend als ersten Schritt.

Viele Unternehmen können mit vorhandener Firewall, Endpoint-Telemetrie, Webkontrolle und klaren organisatorischen Regeln bereits einen erheblichen Teil ihrer aktuellen KI-Nutzung sichtbar machen.

Erst wenn zusätzliche Anforderungen entstehen – beispielsweise:

• detailliertere Risikobewertung,
• zentrale Richtlinien
• oder mehrere Kontrollpunkte

sollte geprüft werden, welche ergänzenden Funktionen tatsächlich benötigt werden.

So entsteht die Lösung aus dem konkreten Bedarf statt aus einem Produktnamen.

Fazit: Erst sichtbar machen, dann regeln

Schatten-KI lässt sich nicht sinnvoll lösen, indem Unternehmen pauschal jeden KI-Dienst blockieren. 

Der erste Schritt ist Transparenz: Welche Anwendungen werden tatsächlich genutzt, über welche Geräte und Benutzer und an welchen Stellen fehlen klare Regeln? Eine vorhandene Sophos Firewall kann dafür bereits wertvolle Daten liefern. Sie zeigt jedoch vor allem den Kommunikationsweg und erkannte Anwendungen – nicht automatisch den fachlichen Inhalt und das tatsächliche Risiko jeder KI-Interaktion.

Darauf aufbauend sollten Unternehmen freigegebene Werkzeuge, zulässige Daten und Verantwortlichkeiten definieren. Erst wenn die vorhandenen Kontrollmöglichkeiten nicht mehr ausreichen, ist eine weitergehende technische Steuerung sinnvoll.

Wie diese zusätzliche Ebene innerhalb der Sophos-Plattform funktioniert, welche Voraussetzungen gelten und wo ihre Grenzen liegen, erklären wir im Beitrag „Sophos AI Defense einfach erklärt“.

Fragen zu Schatten-KI in Ihrem Unternehmen?

Sie möchten zunächst wissen, welche KI-Nutzung Ihre vorhandene Sophos-Umgebung bereits erkennen kann und wo noch Lücken bestehen?

Wir prüfen gemeinsam mit Ihnen den technischen Ausgangsstand und zeigen, welche nächsten Schritte für Ihre Umgebung sinnvoll sind – ohne vorschnell ein zusätzliches Produkt vorauszusetzen.

Kaufberatung: https://utm-shop.de/kaufberatung

Vertrieb: +49 351 81077-50

Technik: +49 351 81077-51

E-Mail: service@utm-shop.de

Servicezeiten: Montag bis Freitag, 09:00–17:00 Uhr

Verwandte Artikel

• Sophos Fusion einfach erklärt: So arbeitet das Cyberabwehrsystem  
• Sophos Firewall Logs richtig lesen: Admin-Guide für schnelle Fehleranalyse