Ist ChatGPT DSGVO-konform? Was Unternehmen wirklich wissen müssen

TL;DR — ChatGPT Free/Plus ist nicht DSGVO-konform für Unternehmensdaten. ChatGPT Enterprise und die OpenAI API mit DPA können es sein. Claude API mit DPA ebenfalls. Die größten Risiken: Mitarbeiter geben personenbezogene Daten in ChatGPT ein, ohne dass das Unternehmen es weiß. Die sauberste Lösung: eine KI-Richtlinie, freigegebene Tools und für sensible Daten lokale KI.

Video

Warum die DSGVO-Frage bei KI so wichtig ist

Fast jedes Unternehmen in Deutschland nutzt inzwischen KI-Tools — oder Mitarbeiter nutzen sie auf eigene Faust. Eine Bitkom-Studie zeigt: über 80 Prozent der Beschäftigten haben ChatGPT mindestens einmal beruflich genutzt. Die DSGVO-Frage ist dabei für die meisten Unternehmen ungeklärt.

Das Problem ist nicht theoretisch. Wenn ein Mitarbeiter eine Kundenbeschwerde in ChatGPT eingibt, um eine Antwort formulieren zu lassen, fließen personenbezogene Daten (Name, E-Mail, Beschwerdeinhalt) an OpenAIs Server in den USA. Ohne Auftragsverarbeitungsvertrag, ohne Information des Kunden, ohne Rechtsgrundlage. Das ist ein DSGVO-Verstoß — auch wenn der Mitarbeiter es nur gut meinte.

In diesem Artikel gehe ich die DSGVO-Frage systematisch durch: Welche KI-Tools sind unter welchen Bedingungen nutzbar? Wo liegen die konkreten Risiken? Und was kannst du als Unternehmen tun, um KI rechtssicher einzusetzen?

Einen allgemeineren Überblick über DSGVO und KI-Agents findest du in DSGVO und KI: Was du wissen musst. Dieser Artikel hier fokussiert sich auf die konkrete Frage: Welche Tools sind datenschutzkonform nutzbar?

DSGVO-Grundlagen für KI-Nutzung

Bevor wir über einzelne Tools sprechen, die vier DSGVO-Kernfragen, die bei jeder KI-Nutzung relevant sind:

1. Werden personenbezogene Daten verarbeitet?

Personenbezogene Daten sind alles, was einer identifizierbaren Person zugeordnet werden kann: Name, E-Mail, Telefonnummer, aber auch indirekte Daten wie „der Geschäftsführer der Firma XY in Musterstadt” — das reicht zur Identifizierung.

Wenn du keine personenbezogenen Daten in KI-Tools eingibst, greift die DSGVO nicht. Eine Marketingtext-Idee ohne Kundenbezug? Kein DSGVO-Problem. Eine Code-Review ohne Nutzerdaten? Kein Problem. Die DSGVO wird relevant, sobald du Daten eingibst, die auf eine reale Person zurückführbar sind.

2. Gibt es eine Rechtsgrundlage?

Für jede Verarbeitung personenbezogener Daten brauchst du eine Rechtsgrundlage (Art. 6 DSGVO). Die drei relevantesten bei KI-Nutzung:

• Berechtigtes Interesse (Art. 6 Abs. 1 lit. f) — z.B. Effizienzsteigerung interner Prozesse
• Vertragsdurchführung (Art. 6 Abs. 1 lit. b) — z.B. KI-gestützte Kundenbetreuung
• Einwilligung (Art. 6 Abs. 1 lit. a) — eher selten praktikabel bei KI

3. Gibt es einen Auftragsverarbeitungsvertrag (DPA)?

Wenn du personenbezogene Daten an einen KI-Anbieter schickst, verarbeitet dieser die Daten in deinem Auftrag. Dafür brauchst du einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO — auch DPA (Data Processing Addendum) genannt.

Ohne DPA ist die Nutzung von Cloud-KI mit personenbezogenen Daten grundsätzlich DSGVO-widrig.

4. Werden Daten in ein Drittland übertragen?

Die Server von OpenAI stehen in den USA. Datenübertragung in die USA ist seit dem EU-US Data Privacy Framework von 2023 unter bestimmten Bedingungen möglich — aber nicht automatisch erlaubt. Der Anbieter muss unter dem Framework zertifiziert sein, und du brauchst zusätzliche Schutzmaßnahmen.

ChatGPT: Der DSGVO-Status im Detail

ChatGPT Free und Plus (Privatkonten)

DSGVO-Status für Unternehmen: nicht geeignet.

Die Gründe:

• Kein DPA verfügbar. OpenAI bietet für ChatGPT Free/Plus keinen Auftragsverarbeitungsvertrag an. Ohne DPA darfst du keine personenbezogenen Daten verarbeiten.
• Daten werden zum Training verwendet. Standardmäßig nutzt OpenAI die Eingaben in ChatGPT Free/Plus zum Trainieren zukünftiger Modelle. Du kannst das in den Einstellungen deaktivieren, aber das löst das DPA-Problem nicht.
• Keine Unternehmenskontrollen. Kein SSO, kein Admin-Dashboard, keine Möglichkeit zu kontrollieren, welche Daten Mitarbeiter eingeben.

Für private Nutzung ohne personenbezogene Daten ist ChatGPT Free/Plus unproblematisch. Für den Unternehmenseinsatz mit Personenbezug: nein.

ChatGPT Enterprise und Team

DSGVO-Status: nutzbar unter Bedingungen.

• DPA verfügbar. OpenAI bietet ein Data Processing Addendum für Enterprise-Kunden.
• Kein Training auf Kundendaten. Enterprise-Daten werden laut OpenAI nicht zum Modell-Training verwendet.
• SOC 2 Type II Zertifizierung. Enterprise hat ein höheres Sicherheitsniveau.
• Admin-Kontrollen. Nutzerverwaltung, Datenrichtlinien, Logging.

Aber: Die Daten werden weiterhin auf OpenAI-Servern in den USA verarbeitet. Du brauchst eine saubere Drittlandtransfer-Grundlage (EU-US Data Privacy Framework) und solltest eine Datenschutz-Folgenabschätzung durchführen.

OpenAI API

DSGVO-Status: am besten konfigurierbar.

• DPA verfügbar. Für die API bietet OpenAI ein DPA an.
• Kein Training per Default. API-Daten werden laut OpenAI nicht zum Training verwendet.
• Volle Kontrolle über Datenflüsse. Du bestimmst, welche Daten du sendest, und kannst serverseitig filtern und anonymisieren.
• Opt-out konfigurierbar. Du kannst explizit festlegen, dass keine Daten gespeichert werden (Zero Data Retention).

Für Entwickler und Unternehmen, die KI in eigene Systeme einbauen, ist die API der sauberste Weg — vorausgesetzt, du kümmerst dich um die richtige Konfiguration.

Claude (Anthropic): Der DSGVO-Status

Anthropic positioniert sich bewusst als datenschutzfreundlichere Alternative. Was heißt das konkret?

Claude API und Claude for Work

• DPA verfügbar. Anthropic bietet einen Auftragsverarbeitungsvertrag an.
• EU-Endpunkte. Daten können über EU-basierte Endpunkte verarbeitet werden — kein US-Transfer nötig.
• Kein Training auf Kundendaten. Anthropics Usage Policy besagt klar, dass API- und Business-Daten nicht zum Training verwendet werden.
• SOC 2 Type II Zertifizierung.

Claude Free (claude.ai)

Ähnlich wie bei ChatGPT Free: für den Unternehmenseinsatz mit personenbezogenen Daten nicht geeignet. Kein DPA, keine Unternehmenskontrollen.

Vergleich auf einen Blick

Die versteckten Risiken für Unternehmen

Selbst wenn du die DSGVO-Anforderungen kennst — in der Praxis lauern Risiken, die viele Unternehmen übersehen.

Schatten-KI: Mitarbeiter nutzen ChatGPT ohne Freigabe

Das größte reale Risiko ist nicht die Technologie, sondern das Verhalten. Mitarbeiter nutzen ChatGPT, um E-Mails zu formulieren, Bewerbungen zu sichten, Kundenbeschwerden zu beantworten oder interne Berichte zusammenzufassen. Dabei geben sie — oft unbewusst — personenbezogene Daten ein.

Was du dagegen tun kannst:

1. Klare KI-Richtlinie erstellen. Definiere, welche KI-Tools erlaubt sind, welche Daten eingegeben werden dürfen und welche nicht. Eine Vorlage findest du unter KI-Richtlinie für Unternehmen.
2. Freigegebene Tools bereitstellen. Wenn du Mitarbeitern ein ChatGPT-Enterprise-Konto oder Claude for Work gibst, nutzen sie das statt der kostenlosen Version.
3. Schulung. Die meisten Mitarbeiter wissen nicht, was personenbezogene Daten im DSGVO-Sinne sind. Eine 30-Minuten-Schulung mit konkreten Beispielen wirkt mehr als ein 20-seitiges PDF.

Fehlende Dokumentation

Die DSGVO verlangt ein Verarbeitungsverzeichnis (Art. 30). Wenn du KI-Tools einsetzt, muss dort dokumentiert sein: welches Tool, welche Daten, welche Rechtsgrundlage, welcher Empfänger, welche Schutzmaßnahmen. In der Praxis fehlt das bei den meisten Unternehmen komplett.

Informationspflicht gegenüber Betroffenen

Wenn du Kundendaten durch KI verarbeitest, müssen die Kunden darüber informiert werden (Art. 13/14 DSGVO). Das heißt: Datenschutzerklärung aktualisieren, konkret benennen, welche KI-Tools genutzt werden und zu welchem Zweck.

Keine Datenschutz-Folgenabschätzung (DSFA)

Bei KI-Nutzung mit personenbezogenen Daten kann eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich sein — insbesondere bei systematischer Verarbeitung oder Profiling. Viele Unternehmen führen keine durch, weil sie nicht wissen, dass sie eine brauchen.

Lokale KI als DSGVO-konforme Alternative

Die sauberste technische Lösung für DSGVO-konforme KI-Nutzung: lokale KI. Wenn das Modell auf deinem eigenen Rechner oder Server läuft und die Daten dein Netzwerk nie verlassen, entfallen die meisten DSGVO-Probleme:

• Kein Drittlandtransfer. Daten bleiben in deinem Netzwerk.
• Kein DPA nötig. Es gibt keinen externen Auftragsverarbeiter.
• Kein Training durch Dritte. Das Modell läuft lokal, niemand sonst sieht deine Daten.
• Volle Kontrolle über Logs und Speicherung.

Aber: Lokale KI ist kein DSGVO-Freibrief. Du bist selbst der Verantwortliche für die Verarbeitung. Das bedeutet:

• Zugriffskontrollen einrichten (wer darf das Modell nutzen?)
• Logs verwalten und Löschfristen definieren
• Verarbeitungsverzeichnis pflegen
• Bei Bedarf DSFA durchführen

Der große Vorteil: du eliminierst den komplexesten Teil der DSGVO-Compliance — die Drittanbieter-Kette. Was übrig bleibt, sind Dinge, die du ohnehin in deinem Unternehmen kontrollieren solltest.

Wenn du wissen willst, welche Hardware du brauchst und wie du ein lokales Modell einrichtest, lies LLM lokal installieren mit Ollama oder den Einstiegsartikel Baue dein eigenes ChatGPT.

Praktische Empfehlungen: So nutzt du KI DSGVO-konform

Hier die konkrete Checkliste, die ich auch meinen Kunden gebe:

Sofort umsetzen

1. KI-Richtlinie erstellen. Regelt: welche Tools erlaubt sind, welche Daten eingegeben werden dürfen, wer verantwortlich ist. Vorlage: KI-Richtlinie.
2. Verarbeitungsverzeichnis aktualisieren. Alle genutzten KI-Tools aufnehmen — auch die, die Mitarbeiter „nur mal kurz” nutzen.
3. Datenschutzerklärung anpassen. KI-Nutzung transparent machen.
4. Team schulen. Was sind personenbezogene Daten? Was darf rein, was nicht? Konkrete Beispiele statt abstrakte Regeln.

Mittelfristig einrichten

5. DPA mit den genutzten Anbietern abschließen. ChatGPT Enterprise, Claude API — DPA aktivieren und dokumentieren.
6. Datenklassifizierung einführen. Welche Daten sind personenbezogen, welche vertraulich, welche unkritisch? Darauf basierend: welches Tool für welche Datenklasse.
7. Für sensible Daten lokale KI evaluieren. Nicht alles muss lokal laufen — aber Personaldaten, Mandantenakten und Gesundheitsdaten sollten nicht in Cloud-KI-Tools landen.

Langfristig optimieren

8. DSFA durchführen. Für systematische KI-Nutzung mit personenbezogenen Daten.
9. Monitoring einrichten. Welche KI-Tools werden tatsächlich genutzt? Gibt es Schatten-KI?
10. Regelmäßig prüfen. DSGVO-Anforderungen und KI-Anbieter-Policies ändern sich. Mindestens jährlich die Situation neu bewerten.

Fazit: Es geht nicht um Verbote, sondern um Struktur

KI-Nutzung und DSGVO-Konformität schließen sich nicht aus. Du musst nur wissen, welches Tool unter welchen Bedingungen nutzbar ist, und das im Unternehmen klar kommunizieren.

Die Kurzfassung:

• ChatGPT Free/Plus: Nicht für Unternehmensdaten mit Personenbezug.
• ChatGPT Enterprise / OpenAI API mit DPA: Nutzbar unter Bedingungen.
• Claude API/Work mit DPA und EU-Endpunkt: Aktuell die datenschutzfreundlichste Cloud-Option.
• Lokale KI: Die sauberste technische Lösung für sensible Daten.
• KI-Richtlinie: Pflicht, nicht Kür.

Die größte Gefahr ist nicht, dass du das falsche Tool wählst — sondern dass du gar keine Struktur hast und Mitarbeiter auf eigene Faust handeln. Eine klare Richtlinie, freigegebene Tools und ein geschultes Team sind der wichtigste Schritt zur DSGVO-konformen KI-Nutzung.