Ist ChatGPT im Unternehmen DSGVO-konform nutzbar?
Ja, unter Bedingungen. Entscheidend ist nicht das Werkzeug allein, sondern wie Sie es einsetzen. ChatGPT im Unternehmen ist datenschutzrechtlich vertretbar, wenn ein geeigneter Tarif mit Vertrag zur Auftragsverarbeitung genutzt wird, eine Rechtsgrundlage für die Verarbeitung besteht, Mitarbeitende wissen, welche Daten tabu sind, und die Nutzung dokumentiert ist. Ohne diese Punkte ist die Eingabe personenbezogener Daten in der Regel unzulässig.
Dasselbe gilt für andere KI-Dienste wie Microsoft Copilot, Google Gemini oder Claude. Die DSGVO kennt keine Sonderregeln für KI. Es gelten die bekannten Grundsätze: Zweckbindung, Datenminimierung, Richtigkeit, Sicherheit der Verarbeitung und Rechenschaftspflicht. Neu ist vor allem, wie leicht Mitarbeitende mit wenigen Klicks große Mengen an Daten an einen externen Dienst übergeben können. Darauf müssen Ihre Regeln eine Antwort geben.
Kein Rechtsrat. Dieser Ratgeber gibt einen Überblick. Lassen Sie Ihren konkreten Einsatz von Ihrer oder Ihrem Datenschutzbeauftragten oder einer Rechtsberatung prüfen.
Was unterscheidet Business- und Consumer-Tarife?
Der wichtigste Unterschied für den Datenschutz ist die Frage, ob Eingaben zum Training der Modelle verwendet werden und ob ein Vertrag zur Auftragsverarbeitung möglich ist. OpenAI gibt auf seiner Seite zu Business Data an, dass Daten aus ChatGPT Business, ChatGPT Enterprise und der API standardmäßig nicht zum Training verwendet werden. Für diese Angebote stellt OpenAI ein Data Processing Addendum bereit. Bei privaten Konten ist das Training mit Eingaben dagegen grundsätzlich vorgesehen und muss von der Person selbst in den Einstellungen abgeschaltet werden.
| Merkmal | Privates Konto (Free, Plus, Pro) | Business, Enterprise, API |
|---|---|---|
| Vertragspartner | Einzelperson | Unternehmen |
| Training mit Eingaben | Standardmäßig möglich, Abschaltung durch Nutzer | Nach Anbieterangaben standardmäßig nicht |
| Vertrag zur Auftragsverarbeitung | Nicht vorgesehen | Verfügbar |
| Zentrale Verwaltung | Nein | Ja, mit Nutzerverwaltung |
| Eignung für personenbezogene Daten | Nicht geeignet | Nach Prüfung und mit Regeln möglich |
Tarifnamen und Bedingungen ändern sich. Prüfen Sie vor Vertragsschluss die aktuellen Unterlagen des Anbieters. Für Microsoft 365 Copilot gelten die Bedingungen aus Ihrem Microsoft-Vertrag. Microsoft gibt an, dass Eingaben in Microsoft 365 Copilot nicht zum Training der Basismodelle verwendet werden. Auch hier gilt: Die Konfiguration im eigenen Tenant entscheidet mit, etwa welche Dateien Copilot sehen kann. Einen Vergleich der Wege finden Sie unter ChatGPT, Copilot oder eigene KI.
Wann brauchen Sie einen AV-Vertrag nach Art. 28 DSGVO?
Sobald ein externer Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet, brauchen Sie einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Personenbezogen ist dabei mehr, als viele denken: Name und E-Mail-Adresse eines Kunden in einem Antwortentwurf, ein Gesprächsprotokoll mit Namen oder eine Bewerbung reichen aus.
Der AV-Vertrag allein genügt nicht. Prüfen Sie zusätzlich:
- Rechtsgrundlage nach Art. 6 DSGVO: Warum dürfen Sie diese Daten für diesen Zweck verarbeiten?
- Informationspflichten nach Art. 13 und 14 DSGVO: Ist der Einsatz in Ihren Datenschutzhinweisen beschrieben?
- Verzeichnis der Verarbeitungstätigkeiten: Ist der KI-Einsatz eingetragen?
- Datenschutz-Folgenabschätzung nach Art. 35 DSGVO: Bei umfangreicher Verarbeitung oder sensiblen Daten kann sie erforderlich sein.
- Automatisierte Entscheidungen nach Art. 22 DSGVO: Entscheidungen mit rechtlicher Wirkung für Personen dürfen nicht allein von der KI getroffen werden.
Die Datenschutzkonferenz (DSK) hat im Mai 2024 eine Orientierungshilfe KI und Datenschutz veröffentlicht. Sie empfiehlt unter anderem dienstliche statt privater Konten, die Abschaltung des Trainings mit eigenen Eingaben, wo möglich, und klare interne Regeln.
Was gilt für die Übermittlung in die USA?
Viele KI-Anbieter haben ihren Sitz in den USA. Eine Übermittlung personenbezogener Daten dorthin ist nach Kapitel V DSGVO nur unter Voraussetzungen zulässig. Seit Juli 2023 gibt es den Angemessenheitsbeschluss der EU-Kommission zum EU-US Data Privacy Framework. Übermittlungen an Unternehmen, die nach diesem Rahmen zertifiziert sind, sind auf dieser Grundlage möglich.
Das Gericht der Europäischen Union hat eine Klage gegen den Beschluss im September 2025 abgewiesen (Rechtssache T-553/23, Latombe). Gegen das Urteil wurde ein Rechtsmittel zum Europäischen Gerichtshof eingelegt. Der Rahmen gilt damit, eine endgültige Klärung steht aber aus. Prüfen Sie, ob Ihr Anbieter zertifiziert ist und welche Absicherung der Vertrag zusätzlich vorsieht, etwa Standardvertragsklauseln oder eine Datenverarbeitung in der EU.
Welche Daten gehören nie in öffentliche KI-Tools?
Für frei zugängliche KI-Dienste mit privaten Konten gilt eine einfache Regel: Nur, was Sie auch auf Ihrer Website veröffentlichen würden. Diese Daten gehören dort nie hinein:
- Namen, Kontaktdaten und sonstige Angaben zu Kunden, Beschäftigten oder Bewerbern
- Gesundheitsdaten und andere besondere Kategorien nach Art. 9 DSGVO
- Personalakten, Gehaltsdaten, Leistungsbeurteilungen
- Verträge, Preise, Kalkulationen und Angebote
- Geschäftsgeheimnisse, Strategien, nicht veröffentlichte Zahlen
- Quellcode mit Bezug zu Sicherheitsfunktionen
- Zugangsdaten, Passwörter, API-Schlüssel
Auch in freigegebenen Business-Tarifen sollten Zugangsdaten und besonders geschützte Daten nur nach gesonderter Prüfung verarbeitet werden. Halten Sie diese Regeln schriftlich fest. Eine Vorlage bietet der Ratgeber KI-Richtlinie für Unternehmen mit Muster.
Welche Alternativen gibt es zu ChatGPT?
Für den datenschutzgerechten KI-Einsatz gibt es mehrere Wege. Sie unterscheiden sich vor allem darin, wie viel Kontrolle Sie über Daten, Modelle und Abläufe haben.
| Weg | Vorteile | Grenzen |
|---|---|---|
| Business-Tarif eines großen Anbieters | Schnell verfügbar, AV-Vertrag, kein Training nach Anbieterangaben | Allgemeiner Assistent, wenig Bezug zu Ihren Systemen, Bindung an einen Anbieter |
| KI-Funktionen in bestehender Software | Im gewohnten Werkzeug, Vertrag oft schon vorhanden | Auf das jeweilige Produkt begrenzt, Rechte im System müssen sauber sein |
| Modelle über API mit Datenverarbeitung in der EU | Mehr Kontrolle über Datenfluss | Eigene Entwicklung und Betrieb nötig |
| Eigene Unternehmens-KI | Eigene Instanz, Gedächtnis, Integration, Freigaben und Protokoll, Modelle austauschbar | Aufbau braucht Planung und Begleitung |
Welcher Weg passt, hängt von Ihren Anwendungsfällen ab. Für einfache Textarbeit reicht oft ein Business-Tarif. Sollen KI-Systeme mit Kundendaten, E-Mails und Fachsoftware arbeiten, lohnt sich ein Blick auf eine eigene Instanz.
Was tun, wenn Mitarbeitende private KI-Konten nutzen?
In vielen Unternehmen nutzen Mitarbeitende KI-Dienste längst mit privaten Konten, oft aus gutem Willen und um schneller zu arbeiten. Man spricht von Schatten-KI. Aus Datenschutzsicht ist das heikel: Das Unternehmen bleibt für personenbezogene Daten verantwortlich, hat aber weder einen Vertrag mit dem Anbieter noch Kontrolle über die Einstellungen. Hinzu kommt das Risiko für Geschäftsgeheimnisse.
Ein reines Verbot löst das Problem selten. Wirksamer ist dieser Weg:
- Offen erheben: Fragen Sie ohne Sanktionsdrohung, welche Tools wofür genutzt werden.
- Bedarf ernst nehmen: Die Nutzung zeigt, wo Mitarbeitende Unterstützung brauchen. Das sind oft gute erste Anwendungsfälle.
- Erlaubte Alternative bereitstellen: Ein geprüftes Werkzeug mit dienstlichem Konto und Vertrag.
- Regeln und Schulung: Klare Vorgaben, was in welches Tool darf, und eine kurze Schulung.
- Altlasten prüfen: Wurden bereits personenbezogene Daten über private Konten verarbeitet, sprechen Sie mit Ihrer oder Ihrem Datenschutzbeauftragten über das weitere Vorgehen.
Datenschutz und Halluzinationen
Datenschutz betrifft nicht nur die Eingabe, sondern auch die Ausgabe. Sprachmodelle können über reale Personen falsche Aussagen erzeugen, sogenannte Halluzinationen. Werden solche Inhalte gespeichert oder weitergegeben, stellt sich die Frage nach der Richtigkeit der Daten im Sinne von Art. 5 DSGVO. Aussagen über Personen sollten deshalb nie ungeprüft aus einer KI übernommen werden.
Checkliste: ChatGPT und KI datenschutzgerecht einsetzen
- Erlaubte Tools festlegen und dienstliche Konten bereitstellen
- AV-Vertrag nach Art. 28 DSGVO abschließen und ablegen
- Training mit Unternehmensdaten ausgeschlossen oder deaktiviert
- Drittlandtransfer geprüft und dokumentiert
- Verzeichnis der Verarbeitungstätigkeiten ergänzt
- Bedarf einer Datenschutz-Folgenabschätzung geprüft
- KI-Richtlinie mit Datenklassen veröffentlicht
- Mitarbeitende geschult, Teilnahme dokumentiert
- Betriebsrat beteiligt, sofern vorhanden
- Meldeweg für versehentlich eingegebene Daten eingerichtet
Die Schulung ist nicht nur aus Datenschutzsicht sinnvoll. Art. 4 der KI-Verordnung verlangt Maßnahmen zur KI-Kompetenz. Mehr dazu im Ratgeber KI-Schulung für Mitarbeiter.
Datenschutz in einer eigenen Unternehmens-KI
Eine eigene Unternehmens-KI setzt beim Datenschutz an anderer Stelle an als ein öffentlicher Assistent. Berechtigungen, Freigaben vor kritischen Aktionen und ein Protokoll sind Teil des Systems. Über den AI Provider Layer lassen sich Modelle austauschen, ohne dass das Wissen des Unternehmens verloren geht.
Wie ELEVUM mit Daten, Rechten und Freigaben umgeht, beschreibt die Seite Sicherheit und Datenschutz. Für die Abwägung zwischen den Wegen hilft der Vergleich ChatGPT, Copilot und eigene KI.