Schatten-KI im Unternehmen erkennen und absichern
Ihre Belegschaft nutzt längst ChatGPT, Copilot und andere KI-Tools, oft ohne Freigabe. So finden Sie heraus, was wirklich im Einsatz ist, und machen aus heimlicher Nutzung eine geregelte.
Kurz gesagt: Schatten-KI (englisch Shadow AI) sind KI-Anwendungen, die im Unternehmen ohne Wissen oder Freigabe von IT und Geschäftsleitung genutzt werden: private Chatbot-Konten, KI-Browsererweiterungen, Meeting-Assistenten oder KI-Funktionen, die ein Fachbereich in vorhandener Software einschaltet. Das größte Risiko ist der Abfluss vertraulicher Daten, denn was in einen Prompt kopiert wird, liegt danach beim Anbieter. Ein pauschales Verbot hilft selten. Wirksam sind eine Bestandsaufnahme, freigegebene Alternativen, eine KI-Richtlinie und technische Leitplanken.
Was ist Schatten-KI?
Der Begriff lehnt sich an Schatten-IT an, also an Hard- und Software, die an der IT-Abteilung vorbei eingesetzt wird. Schatten-KI ist die am schnellsten wachsende Spielart davon und unterscheidet sich in drei Punkten von klassischer Schatten-IT:
- Keine Installation nötig: Die meisten KI-Dienste laufen im Browser und sind in der Basisversion kostenlos. Weder Softwareverteilung noch Einkauf bekommen davon etwas mit.
- Die Eingabe sind die Daten selbst: Wer einen Vertrag zusammenfassen oder eine Kundenmail beantworten lässt, kopiert genau diese Inhalte in das Tool.
- KI steckt in vorhandener Software: Office-Pakete, CRM-Systeme, Ticketsysteme und Videokonferenz-Tools bringen KI-Funktionen per Update mit. Ob die bestehenden Verträge diese Funktionen abdecken, prüft oft niemand.
Typische Formen von Schatten-KI in Unternehmen:
- private Konten bei ChatGPT, Claude, Gemini oder DeepSeek, mit denen Firmentexte, Tabellen oder Präsentationen bearbeitet werden
- Browsererweiterungen mit KI-Schreibhilfe, Übersetzung oder Zusammenfassung, die Seiteninhalte und Formulareingaben mitlesen können
- KI-Meeting-Assistenten, die Videokonferenzen aufzeichnen, transkribieren und die Protokolle auf eigenen Servern speichern
- Code-Assistenten, die Quellcode zur Analyse an einen Cloud-Dienst schicken
- selbst gebaute Automatisierungen und KI-Agenten, die per Freigabe auf Postfach, Kalender oder Cloud-Speicher zugreifen
Böser Wille steckt fast nie dahinter. Die Beschäftigten wollen schneller arbeiten, und das Unternehmen hat ihnen kein freigegebenes Werkzeug angeboten. Genau dort setzt eine sinnvolle Strategie an.
Warum Schatten-KI ein Sicherheitsrisiko ist
Vertrauliche Daten verlassen das Unternehmen
Kundendaten, Angebotskalkulationen, Personalunterlagen, Konstruktionsdaten oder Quellcode landen beim KI-Anbieter. Bei Verbraucherversionen hängt es von Einstellungen und Nutzungsbedingungen ab, ob die Eingaben gespeichert, von Menschen ausgewertet oder für das Training künftiger Modelle verwendet werden. Wo die Server stehen und wann gelöscht wird, kann das Unternehmen weder steuern noch nachweisen.
Geschäftsgeheimnisse verlieren ihren Schutz
Nach § 2 Nr. 1 GeschGehG ist eine Information nur dann ein geschütztes Geschäftsgeheimnis, wenn der Inhaber angemessene Geheimhaltungsmaßnahmen getroffen hat. Dürfen Beschäftigte vertrauliche Unterlagen ohne jede Regel in beliebige KI-Dienste hochladen, wird es schwer, diese Maßnahmen im Streitfall zu belegen. Hinzu kommen Geheimhaltungsvereinbarungen mit Kunden, die eine Weitergabe an Dritte häufig ausdrücklich verbieten.
Datenschutzverstöße ohne Vertrag und Rechtsgrundlage
Personenbezogene Daten in einem nicht freigegebenen KI-Tool bedeuten in der Regel: kein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, keine geprüfte Rechtsgrundlage und oft eine Übermittlung in Drittländer nach Art. 44 ff. DSGVO. Fällt so ein Vorgang auf, kann daraus eine Datenschutzverletzung werden, die binnen 72 Stunden an die Aufsichtsbehörde zu melden ist (Art. 33 DSGVO).
Neue Angriffsflächen
KI-Browsererweiterungen verlangen oft weitreichende Rechte, etwa das Lesen aller besuchten Seiten. KI-Agenten, die E-Mails oder Webseiten auswerten und danach handeln, lassen sich über versteckte Anweisungen in diesen Inhalten manipulieren (Prompt Injection). Und jede Freigabe einer Dritt-App in Microsoft 365 oder Google Workspace öffnet einen weiteren Zugang zu Unternehmensdaten, den niemand überwacht.
Ungeprüfte Ergebnisse ohne Nachvollziehbarkeit
Sprachmodelle erfinden gelegentlich Fakten, Quellen oder Paragrafen. Fließen solche Ergebnisse ungeprüft in Verträge, Angebote oder Software ein, entstehen Fehler, deren Ursache später niemand rekonstruieren kann, weil nirgends dokumentiert ist, welches Tool beteiligt war.
Lücken in ISMS und Compliance
Ein Auditor nach ISO 27001 fragt nach dem Inventar der Informationswerte und nach den genutzten Cloud-Diensten. Besonders wichtige und wichtige Einrichtungen müssen nach § 30 BSIG Risikomanagementmaßnahmen umsetzen, die ausdrücklich auch die Sicherheit der Lieferkette umfassen. Und Art. 4 des EU AI Act verlangt von Betreibern von KI-Systemen, Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen. All das setzt voraus, dass das Unternehmen weiß, welche KI im Einsatz ist.
Schatten-KI erkennen: So finden Sie nicht freigegebene KI-Tools
Keine einzelne Methode findet alles. In der Praxis kombinieren wir technische Auswertungen mit einer offenen Befragung.
1. Netzwerk- und Proxy-Daten
DNS-, Proxy- und Firewall-Protokolle zeigen, welche KI-Dienste aus dem Firmennetz aufgerufen werden. Secure Web Gateways und CASB-Lösungen führen dafür meist eine eigene Kategorie für generative KI. Achtung: Personenbezogene Auswertungen sind eine Verarbeitung von Beschäftigtendaten, und ihre Einführung ist bei bestehendem Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Für die Bestandsaufnahme reicht fast immer eine Auswertung nach Diensten und Abteilungen; den Datenschutzbeauftragten binden Sie von Anfang an ein.
2. App-Freigaben in Microsoft 365 und Google Workspace
In Microsoft Entra ID oder der Google-Admin-Konsole sehen Sie, welchen Dritt-Apps Beschäftigte Zugriff auf Postfach, Kalender oder Dateien erteilt haben. KI-Assistenten und Automatisierungsdienste tauchen hier regelmäßig auf. Gleichzeitig lässt sich einstellen, dass neue Freigaben nur noch nach Prüfung durch einen Administrator möglich sind.
3. Endgeräte und Browser
Über die Geräteverwaltung lassen sich installierte Desktop-Apps und Browsererweiterungen auslesen. KI-Erweiterungen sind oft der größte blinde Fleck, weil sie unauffällig im Browser laufen.
4. Einkauf, Spesen und Firmenkreditkarten
Kostenpflichtige KI-Abos tauchen in Spesenabrechnungen und Kreditkartenumsätzen auf. Ein Abgleich mit der Liste freigegebener Software zeigt schnell, welche Teams eigene Wege gehen.
5. Anonyme Befragung
Fragen Sie die Belegschaft direkt, welche KI-Tools sie wofür nutzt, ohne Sanktionen anzudrohen. Die Antworten zeigen Tools, die keine Technik findet, etwa die Nutzung auf dem privaten Smartphone. Vor allem zeigen sie den tatsächlichen Bedarf, aus dem sich ergibt, welche Werkzeuge Sie offiziell anbieten sollten.
6. KI-Funktionen in vorhandener Software
Prüfen Sie, welche bereits lizenzierten Anwendungen KI-Funktionen mitbringen, ob diese aktiviert sind und ob Vertrag und Auftragsverarbeitung sie abdecken. Diese Form von Schatten-KI entsteht ganz ohne Zutun der Beschäftigten.
Schatten-KI in den Griff bekommen, ohne Verbotskultur
Ein Komplettverbot klingt sicher, verlagert die Nutzung aber meist auf private Geräte, wo das Unternehmen gar keinen Einblick mehr hat. Besser funktioniert dieser Weg:
- KI-Inventar anlegen: Für jedes gefundene Tool Zweck, Nutzergruppe, verarbeitete Daten, Anbieter, Vertragslage und Serverstandort erfassen.
- Bewerten und entscheiden: Jedes Tool wird freigegeben, durch eine sichere Alternative ersetzt oder gesperrt. Maßstab ist der Schutzbedarf der Daten, die damit verarbeitet werden.
- Sichere Alternativen bereitstellen: Business- oder Enterprise-Versionen mit Auftragsverarbeitungsvertrag, bei denen die Nutzung der Eingaben für das Training vertraglich ausgeschlossen ist. Für besonders sensible Daten kommen lokal betriebene Sprachmodelle auf eigenen Servern infrage.
- KI-Richtlinie formulieren: Welche Tools wofür erlaubt sind, welche Daten tabu sind (etwa Zugangsdaten, Gesundheitsdaten, Geschäftsgeheimnisse) und wann Ergebnisse geprüft und gekennzeichnet werden. Eine Vorlage mit Erläuterungen finden Sie im Ratgeber KI-Richtlinie für Unternehmen.
- Technische Leitplanken setzen: Webfilter für nicht freigegebene KI-Dienste (sperren oder mit Warnhinweis), DLP-Regeln gegen das Hochladen klassifizierter Dokumente, Admin-Freigabe für Dritt-Apps, eine Positivliste für Browsererweiterungen und Single Sign-on für die freigegebenen Tools.
- Schulen: Beschäftigte müssen wissen, was erlaubt ist und warum. Das zahlt zugleich auf die KI-Kompetenz nach Art. 4 AI Act ein. Passende Formate sind unsere Security-Awareness-Schulungen und die KI-Kompetenz-Schulung.
- Regelmäßig nachprüfen: Neue KI-Dienste erscheinen laufend. Wiederholen Sie die technische Auswertung mindestens quartalsweise und halten Sie das KI-Inventar aktuell.
Schatten-KI im ISMS nach ISO 27001 und ISO/IEC 42001
Wer bereits ein ISMS betreibt, muss für Schatten-KI kein neues System erfinden. Die passenden Maßnahmen aus Anhang A der ISO/IEC 27001:2022 gibt es schon:
| Control (Anhang A) | Was das für Schatten-KI heißt |
|---|---|
| A.5.9 Inventar | KI-Tools und KI-Funktionen gehören ins Verzeichnis der Werte, jeweils mit verantwortlicher Person. |
| A.5.10 Zulässige Nutzung | Die KI-Richtlinie regelt, welche Daten in welche Tools dürfen. |
| A.5.19 bis A.5.22 Lieferanten | KI-Anbieter werden wie andere Dienstleister bewertet, vertraglich gebunden und überwacht. |
| A.5.23 Cloud-Dienste | Neue KI-Dienste durchlaufen einen Freigabeprozess, inklusive Ausstiegsplan. |
| A.6.3 Awareness und Schulung | Die KI-Regeln werden Teil der regelmäßigen Sensibilisierung. |
| A.8.12 Data Leakage Prevention | DLP-Regeln erfassen auch Uploads und Eingaben in KI-Dienste. |
Die ISO/IEC 42001 geht einen Schritt weiter und beschreibt ein eigenes Managementsystem für KI. Das lohnt sich vor allem für Unternehmen, die KI-Systeme selbst entwickeln, in eigene Produkte einbauen oder in großem Umfang einsetzen. Weil beide Normen dieselbe Grundstruktur haben, lässt sich ein KI-Managementsystem in ein bestehendes ISMS integrieren. Mehr dazu im Ratgeber zur ISO-42001-Zertifizierung und auf unserer Seite zur KI-Sicherheit für Unternehmen.
Unser Schatten-KI-Check
Die DATUREX GmbH aus Dresden betreut seit 2012 Unternehmen in Informationssicherheit und Datenschutz; unsere Berater sind TÜV-, IHK- und Bitkom-zertifiziert. Der Schatten-KI-Check ist ein Baustein unserer KI-Sicherheitsberatung:
- Bestandsaufnahme: technische Auswertung von Netzwerk, App-Freigaben und Endgeräten gemeinsam mit Ihrer IT, ergänzt um eine anonyme Befragung und abgestimmt mit Betriebsrat und Datenschutzbeauftragtem
- Risikobewertung jedes gefundenen Tools nach Schutzbedarf der Daten, Vertragslage und Angriffsfläche
- Entscheidungsvorlage: freigeben, ersetzen oder sperren, mit konkreten Alternativen
- KI-Nutzungsrichtlinie und technische Leitplanken, umgesetzt mit Ihrer IT oder Ihrem Dienstleister
- Übergabe ins ISMS: KI-Inventar, Risikoregister und Lieferantenbewertung, auf Wunsch laufend betreut durch uns als externen ISB
Die organisatorische Seite mit KI-Beauftragtem, KI-Governance und den Pflichten aus dem EU AI Act übernimmt unser externer KI-Beauftragter. Den Umfang des Checks klären wir im kostenlosen Erstgespräch.
Häufige Fragen zu Schatten-KI
Was ist Schatten-KI?
Schatten-KI (Shadow AI) bezeichnet KI-Anwendungen, die Beschäftigte ohne Wissen oder Freigabe der IT und der Unternehmensleitung nutzen, zum Beispiel private ChatGPT-Konten, KI-Browsererweiterungen oder Meeting-Assistenten. Sie ist eine Form der Schatten-IT, bei der die eingegebenen Daten das Unternehmen direkt verlassen.
Ist die Nutzung von Schatten-KI verboten?
Ein ausdrückliches gesetzliches Verbot gibt es nicht. Problematisch ist, was dabei mit den Daten passiert: Personenbezogene Daten ohne Auftragsverarbeitungsvertrag verstoßen in der Regel gegen die DSGVO, vertrauliche Kundendaten oft gegen Geheimhaltungsvereinbarungen. Arbeitgeber können die KI-Nutzung per Richtlinie regeln; wer dagegen verstößt, verletzt arbeitsvertragliche Pflichten.
Sollten wir ChatGPT und andere KI-Tools einfach sperren?
Als alleinige Maßnahme selten. Wer Bedarf hat und kein freigegebenes Werkzeug bekommt, weicht auf das private Smartphone aus. Besser ist eine freigegebene Alternative mit passendem Vertrag, eine klare Richtlinie und eine gezielte Sperre für Dienste, die Ihre Anforderungen nicht erfüllen.
Darf der Arbeitgeber auswerten, welche KI-Tools Mitarbeitende nutzen?
In Grenzen. Die Auswertung von Proxy- oder DNS-Protokollen ist eine Verarbeitung personenbezogener Daten und braucht eine Rechtsgrundlage; gibt es einen Betriebsrat, ist die Einführung nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Für eine Bestandsaufnahme reicht meist eine Auswertung nach Diensten und Abteilungen, ohne einzelne Personen zu betrachten.
Wer ist im Unternehmen für Schatten-KI zuständig?
Die Verantwortung liegt bei der Geschäftsleitung. Fachlich teilen sich die Aufgabe meist der Informationssicherheitsbeauftragte (Sicherheit und ISMS), der Datenschutzbeauftragte (personenbezogene Daten) und, falls benannt, ein KI-Beauftragter (KI-Richtlinie und EU AI Act). Legen Sie außerdem fest, wer neue KI-Tools prüft und freigibt.
Schatten-KI-Check für Ihr Unternehmen
Kostenlose Erstberatung – bundesweit, remote oder vor Ort in Sachsen.
Tel: 0351 79 59 35 13