ChatLock

Ist ChatGPT DSGVO-konform? Was europäische Unternehmen wissen müssen

Dürfen Sie ChatGPT im Unternehmen nutzen, ohne gegen die DSGVO zu verstoßen? Training, Drittlandübermittlung, Speicherdauer und das italienische Bußgeld im Überblick, plus Checkliste für einen DSGVO-tauglichen KI-Assistenten.

8 Min. Lesezeit

Europäische Unternehmen, die KI einführen, stellen immer wieder dieselbe Frage: Können wir ChatGPT nutzen und trotzdem die DSGVO einhalten?

Das hängt davon ab, welche Version Sie nutzen, welche Daten Sie eingeben und welche Kontrollen Sie eingerichtet haben. ChatGPT ist in Europa legal. Die Verbraucherversion mit personenbezogenen Daten und ohne interne Kontrollen zu nutzen, lässt sich gegenüber einer Datenschutzbehörde aber kaum rechtfertigen.

Dieser Leitfaden erklärt, warum, und wie ein DSGVO-taugliches Setup aussieht.

Wann die DSGVO greift

Die DSGVO gilt, sobald Sie personenbezogene Daten verarbeiten: der Name eines Kunden in einer E-Mail, die ChatGPT umformulieren soll, ein Lebenslauf, den es zusammenfassen soll, eine Kundenbeschwerde, die Sie für einen Antwortentwurf einfügen. In all diesen Fällen ist Ihr Unternehmen Verantwortlicher und der KI-Anbieter bestenfalls Ihr Auftragsverarbeiter.

Sie müssen daher diese Fragen nachweisbar beantworten können:

  • Auf welcher Rechtsgrundlage werden die Daten an den KI-Anbieter übermittelt?
  • Gibt es einen Auftragsverarbeitungsvertrag (AVV)?
  • Wo werden die Daten verarbeitet, und ist die Übermittlung außerhalb der EU rechtmäßig?
  • Wie lange werden sie gespeichert, und werden sie für andere Zwecke wie Modelltraining genutzt?

Können Sie das nicht beantworten, liegt die Lücke in Ihrer Compliance-Dokumentation, egal welches Tool Sie nutzen.

Was europäische Aufsichtsbehörden bereits unternommen haben

ChatGPT hat eine Vorgeschichte mit EU-Aufsichtsbehörden:

  • Im März 2023 sperrte die italienische Datenschutzbehörde (Garante) ChatGPT vorübergehend in Italien, unter anderem wegen fehlender Rechtsgrundlage für das Training, fehlender Altersprüfung und mangelnder Transparenz. Nach Änderungen durch OpenAI war der Dienst einen Monat später wieder verfügbar.
  • Im Dezember 2024 verhängte der Garante gegen OpenAI ein Bußgeld von 15 Millionen Euro wegen DSGVO-Verstößen im Zusammenhang mit der Nutzung personenbezogener Daten für das Training von ChatGPT. OpenAI kündigte Rechtsmittel an.
  • Der Europäische Datenschutzausschuss richtete eine ChatGPT-Taskforce ein, um die Verfahren der Mitgliedstaaten zu koordinieren.

Sie dürfen das Tool weiterhin nutzen. Die Behörden schauen aber genau hin, und „alle nutzen es“ taugt nicht als Verteidigung.

Verbraucher-ChatGPT vs. Business-Tarife

Entscheidend ist der Unterschied zwischen dem Verbraucherprodukt (Free und Plus) und den Business-Angeboten (Team, Enterprise, API).

Bei Verbraucher-ChatGPT können Gespräche zur Verbesserung der OpenAI-Modelle genutzt werden, sofern der Nutzer dies nicht in den Einstellungen deaktiviert. Es gibt keinen AVV zwischen Ihrem Unternehmen und OpenAI, denn der Vertrag besteht zwischen OpenAI und dem einzelnen Mitarbeiter. Und Ihr Unternehmen sieht nicht, was Mitarbeitende dort eingeben.

Business-Tarife und die API nutzen Ihre Daten standardmäßig nicht zum Training, enthalten einen AVV und bieten in einigen Tarifen Datenresidenz in Europa.

Wenn Ihr Team private ChatGPT-Konten für die Arbeit nutzt, haben Sie sehr wahrscheinlich eine DSGVO-Lücke. Ein Business-Tarif schließt einen Teil davon.

Was ein Business-Tarif offenlässt

Auch mit AVV und ohne Training bleiben drei strukturelle Punkte.

Der Anbieter kann technisch weiterhin auf Ihre Daten zugreifen. Prompts werden auf seinen Servern entschlüsselt, damit das Modell laufen kann, und den Zugriff begrenzen Richtlinien und Verträge. Bei sensiblen Daten (Gesundheit, Recht, Personal, Finanzen) müssen Sie dieses Risiko in Ihrer Datenschutz-Folgenabschätzung (DSFA) dokumentieren.

Über die Speicherdauer entscheidet jemand anderes. Selbst „gelöschte“ Gespräche können zur Missbrauchserkennung oder aufgrund rechtlicher Pflichten aufbewahrt werden. 2025 verpflichtete ein US-Gericht im Verfahren der New York Times OpenAI vorübergehend, Verbraucher-Chats aufzubewahren, auch gelöschte. Die Aufbewahrung dieser Daten hing damit von einem US-Gericht ab.

OpenAI ist ein US-Unternehmen. Auch bei EU-Datenresidenz können Gesetze wie der CLOUD Act US-Behörden einen Weg eröffnen, Daten von US-Anbietern anzufordern. Seit dem Schrems-II-Urteil muss jeder Datenschutzbeauftragte das bewerten.

DSGVO-Checkliste für jeden KI-Assistenten

Bevor Sie ein KI-Tool für die Arbeit mit personenbezogenen Daten freigeben, prüfen Sie:

  1. Ein AVV ist verfügbar und mit Ihrer Organisation abgeschlossen, nicht mit einzelnen Nutzern.
  2. Ihre Daten werden nicht zum Training genutzt, standardmäßig und schriftlich zugesichert.
  3. Sie wissen, wo die Inferenz läuft und welchem Recht der Anbieter unterliegt.
  4. Sie wissen, wie lange Prompts, Dateien und Antworten gespeichert werden, und können die Löschung überprüfen.
  5. Sie wissen, ob Mitarbeitende des Anbieters oder der Cloud-Anbieter Ihre Daten technisch lesen können.
  6. Sie können Daten einer bestimmten Person finden, exportieren und löschen.
  7. Eine interne Richtlinie legt fest, welche Datenkategorien Mitarbeitende eingeben dürfen.

Die meisten Tools erfüllen heute die ersten beiden Punkte. Bei den Punkten 3 bis 5 hapert es meist.

Zugriff technisch ausschließen

Art. 25 DSGVO verlangt Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen. Am überzeugendsten erfüllen Sie das, wenn niemand technisch auf die Daten zugreifen kann. Das geht weiter als ein Vertrag, der es verbietet.

ChatLock ist so gebaut. Prompts werden in Ihrem Browser verschlüsselt und erst in einer hardwaregesicherten Enklave (Trusted Execution Environment) entschlüsselt, in der das Modell läuft. Weder ChatLock noch der Cloud-Anbieter noch der Modellhersteller können die Daten während der Verarbeitung lesen, und Sie können das per kryptografischer Attestierung überprüfen. Nach der Antwort wird nichts gespeichert oder zum Training genutzt. Ihr Chatverlauf liegt lokal, verschlüsselt mit einem Schlüssel, den nur Sie besitzen. Die Verarbeitung kann innerhalb der Europäischen Union bleiben, und Geschäftskunden erhalten einen AVV.

Die technischen Details finden Sie in unserem Leitfaden zu Confidential Computing.

FAQ

Ist ChatGPT in der EU verboten?

Nein. ChatGPT ist in allen EU-Ländern legal verfügbar. Es wurde 2023 in Italien vorübergehend gesperrt, und OpenAI wurde dort mit einem Bußgeld belegt. Unternehmen dürfen es aber nutzen, solange sie ihre eigenen DSGVO-Pflichten erfüllen.

Darf ich Kundendaten in ChatGPT eingeben?

Nicht in private Verbraucherkonten. Mit einem Business-Tarif und AVV kann es möglich sein, Sie sollten aber das Risiko bewerten, Daten minimieren und die Entscheidung dokumentieren. Für besondere Kategorien personenbezogener Daten sollten Sie ein Tool nutzen, bei dem der Anbieter nicht auf die Inhalte zugreifen kann.

Löst ChatGPT Enterprise das DSGVO-Problem?

Es löst die offensichtlichsten Probleme (Training, AVV, Datenresidenz). Es bleiben der Zugriff des Anbieters und der US-Rechtsraum. Ob das akzeptabel ist, hängt von Ihren Daten und Ihrer Risikobewertung ab.

Welche ChatGPT-Alternative ist DSGVO-konform?

Achten Sie auf einen Assistenten mit AVV, Verarbeitung in der EU und ohne Training, idealerweise mit Ende-zu-Ende-Verschlüsselung und Confidential Computing, damit die Compliance nicht nur auf Versprechen des Anbieters beruht. Dafür haben wir ChatLock entwickelt.