Schatten-KI: Ihre Mitarbeitenden kopieren bereits Firmendaten in ChatGPT

Fragen Sie IT- oder Sicherheitsverantwortliche, ob ihr Unternehmen eine KI-Richtlinie hat, und viele sagen Ja. Fragen Sie, ob Mitarbeitende trotzdem private ChatGPT-Konten für die Arbeit nutzen, und die meisten räumen ein: wahrscheinlich schon.

Diese Lücke heißt Schatten-KI (Shadow AI).

Was ist Schatten-KI?

Schatten-KI ist die Nutzung von KI-Tools durch Mitarbeitende ohne Freigabe und ohne Wissen des Unternehmens. Sie ist die KI-Variante der Schatten-IT, wie private Dropbox-Konten oder Browser-Erweiterungen, die niemand geprüft hat.

Riskanter wird sie durch das, was hineinkopiert wird. Man greift zum KI-Assistenten bei Inhalten, an denen man festhängt: dem schwierigen Vertrag, der angespannten Kunden-E-Mail, der Tabelle mit den Quartalszahlen, dem Mitarbeitergespräch, das morgen ansteht.

Warum es passiert

Menschen greifen zu Schatten-KI, weil sie das Werkzeug wollen und ihnen niemand ein sicheres gegeben hat.

Die Tools sind nützlich. Entwerfen, Zusammenfassen und Umformulieren geht mit KI schneller, und das wissen die Mitarbeitenden. Oft fehlt die freigegebene Alternative oder sie ist schlechter, und lautet die offizielle Antwort „keine KI“, nutzen die Leute sie eben auf dem Handy. Und niemand hat das Risiko erklärt: Die meisten wissen nicht, dass Verbraucherkonten Gespräche zum Training nutzen können oder dass das Unternehmen keinen Vertrag mit dem Anbieter hat.

Was auf dem Spiel steht

Wenn Mitarbeitende ein privates KI-Konto für die Arbeit nutzen, verliert Ihr Unternehmen in der Regel die Kontrolle über vertrauliche Informationen (Kundendaten, Verträge, Quellcode, Preise, M&A-Pläne) und über personenbezogene Daten wie Namen, E-Mails und Personaldaten von Kunden oder Kollegen. Ohne Auftragsverarbeitungsvertrag ist das ein DSGVO-Problem.

Außerdem liegen die Inhalte im privaten Konto der Person, auf den Servern des Anbieters, so lange sie es will. Verlässt sie das Unternehmen, geht ihr Chatverlauf mit.

Der bekannteste Fall ereignete sich 2023 bei Samsung. Ingenieure kopierten vertraulichen Quellcode und interne Besprechungsnotizen in ChatGPT, um sie zu debuggen und zusammenzufassen, und Samsung schränkte daraufhin generative KI-Tools im gesamten Konzern ein.

Warum ein KI-Verbot nicht funktioniert

ChatGPT im Firmennetz zu sperren, fühlt sich nach Kontrolle an. Vor allem verlagert es die Nutzung auf private Geräte, wo Sie noch weniger sehen.

Ein Verbot hat auch Kosten: Die Teams Ihrer Wettbewerber werden mit KI schneller, während Ihre Texte aufs Handy abtippen. Und nach dem EU AI Act müssen Sie bereits die KI-Kompetenz Ihrer Mitarbeitenden sicherstellen, was schwierig ist bei einem Tool, von dem Sie so tun, als nutze es niemand.

Was bei Schatten-IT funktioniert hat, funktioniert auch hier: den Leuten ein freigegebenes Tool geben, das mindestens so gut ist wie das, was sie ohnehin nutzen würden, und die Regeln klar machen.

Schatten-KI in 5 Schritten in den Griff bekommen

1. Zuerst messen

Führen Sie eine anonyme Umfrage durch: Welche KI-Tools werden wofür genutzt? Sie erfahren mehr als aus Firewall-Logs, und die Mitarbeitenden sehen, dass es darum geht, ihnen zu helfen.

2. Einen freigegebenen KI-Assistenten bereitstellen

Wählen Sie ein Tool, das mit Verbraucher-Chatbots mithalten kann und das Ihre Sicherheits- und Rechtsabteilung freigeben kann. Für den beruflichen Einsatz brauchen Sie: kein Training mit Ihren Daten, einen Auftragsverarbeitungsvertrag (AVV) sowie klaren Datenstandort und klare Speicherdauer. Idealerweise verhindert die Architektur, dass der Anbieter Prompts lesen kann. Das geht weiter als eine Richtlinie, die verspricht, es nicht zu tun.

3. Eine einseitige KI-Richtlinie schreiben

Halten Sie sie so kurz, dass sie gelesen wird. Legen Sie fest, welche Tools freigegeben sind, welche Daten nie in eine KI gehören und dass ein Mensch Ergebnisse vor der Nutzung prüfen muss.

4. Kurz und praxisnah schulen

Eine 30-minütige Schulung mit echten Beispielen aus Ihrem Unternehmen bringt mehr als eine 40-seitige Richtlinie. Zeigen Sie, wie gutes Prompting aussieht und wie ein Datenleck aussieht.

5. Quartalsweise überprüfen

Jeden Monat erscheinen neue Tools. Halten Sie die Liste freigegebener Tools und Anwendungsfälle aktuell.

Wo ChatLock ins Spiel kommt

Wir haben ChatLock so gebaut, dass Unternehmen einen KI-Assistenten ohne Bauchschmerzen freigeben können. Mitarbeitende bekommen ein ChatGPT-ähnliches Erlebnis mit führenden Open-Source-Modellen, Datei-Uploads, Projekten und Websuche.

Prompts werden im Browser verschlüsselt und erst in einer hardwaregesicherten Enklave entschlüsselt. Weder ChatLock noch der Cloud-Anbieter können die Daten während der Verarbeitung sehen, und das ist per kryptografischer Attestierung überprüfbar. Nach der Antwort wird nichts aufbewahrt oder zum Training genutzt. Der Business-Tarif bietet zusätzlich SSO, Audit-Logs, einen AVV und dedizierten Support.

Ist die sichere Option zugleich die einfachste, haben Mitarbeitende wenig Grund, sie zu umgehen.

FAQ

Was ist Schatten-KI?

Schatten-KI ist die Nutzung von KI-Tools wie ChatGPT oder anderen Chatbots durch Mitarbeitende ohne Freigabe oder Aufsicht des Unternehmens, oft über private Konten.

Ist Schatten-KI ein DSGVO-Risiko?

Ja. Wenn Mitarbeitende personenbezogene Daten in ein privates KI-Konto eingeben, verarbeitet das Unternehmen diese Daten ohne Auftragsverarbeitungsvertrag und ohne Kontrolle über Speicherung oder Übermittlung. Das ist unter der DSGVO kaum zu rechtfertigen.

Sollten wir ChatGPT im Unternehmen sperren?

Eine Sperre allein verlagert die Nutzung meist auf private Geräte. Besser funktioniert ein freigegebener, sicherer KI-Assistent mit einer klaren Richtlinie und einer kurzen Schulung.

Wie erkenne ich Schatten-KI im Unternehmen?

Kombinieren Sie eine anonyme Umfrage mit Netzwerk- und SaaS-Discovery-Tools. Die Umfrage verrät oft mehr, weil ein Großteil der Nutzung auf privaten Geräten stattfindet.