KI und Datenschutz: DSGVO-konform arbeiten

KI und Datenschutz in einem Satz

Sobald du personenbezogene Daten in einen KI-Dienst gibst, ist das eine Verarbeitung im Sinne der DSGVO – mit allem, was dazugehört: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Transparenz gegenüber den Betroffenen und die Klärung, wo die Daten landen.

Die DSGVO kennt keine KI-Ausnahme. Ein Prompt mit einem Kundennamen unterscheidet sich rechtlich nicht von einer E-Mail mit demselben Namen – nur dass der Empfänger diesmal ein US-Anbieter ist, der Inhalte womöglich zum Modelltraining nutzt. Genau daraus entstehen die typischen Probleme.

> Hinweis: Dieser Artikel dient der Orientierung und ersetzt keine Rechtsberatung. Die Bewertung eines konkreten Verarbeitungsvorgangs gehört in die Hände eures Datenschutzbeauftragten oder einer Fachkanzlei.

Der häufigste Fehler: personenbezogene Daten im Prompt

In der Praxis passiert der Datenschutzverstoß fast nie beim großen Systemprojekt, sondern nebenbei. Jemand kopiert eine Bewerbung in den Chat, um sie zusammenfassen zu lassen. Jemand fügt ein Kundengespräch ein, um daraus ein Angebot zu formulieren. Jemand lädt eine Teilnehmerliste hoch, um sie zu sortieren.

Personenbezogen ist dabei mehr, als die meisten annehmen: Namen, E-Mail-Adressen, Telefonnummern, Kundennummern, Bewerbungsunterlagen, Gesprächsprotokolle, Fotos, IP-Adressen – und jede Kombination von Angaben, die eine Person identifizierbar macht. Besonders heikel sind besondere Kategorien nach Artikel 9 DSGVO: Gesundheitsdaten, Gewerkschaftszugehörigkeit, religiöse oder politische Überzeugungen, biometrische Daten. Die haben in einem allgemeinen KI-Assistenten grundsätzlich nichts verloren.

Die einfachste Gegenmaßnahme ist Datenminimierung. Für die meisten Aufgaben braucht das Modell den Personenbezug gar nicht. „Formuliere eine Absage an Herrn Müller, 47, aus Dortmund“ liefert kein besseres Ergebnis als „Formuliere eine freundliche Absage an einen Bewerber, dessen Berufserfahrung nicht zur Rolle passt“. Pseudonymisieren, kürzen, weglassen – das löst einen großen Teil der Fälle, bevor irgendein Vertrag nötig wird.

Die vertragliche Basis: AVV, Rechtsgrundlage, Verzeichnis

Wenn personenbezogene Daten unvermeidbar sind, brauchst du drei Dinge.

Auftragsverarbeitungsvertrag (AVV). Der KI-Anbieter verarbeitet Daten in deinem Auftrag – dafür verlangt Artikel 28 DSGVO einen Vertrag. Die großen Anbieter stellen entsprechende Data Processing Addenda bereit, oft aber nur für ihre geschäftlichen Tarife. In einem privaten Consumer-Konto existiert diese Grundlage nicht. Das ist der eigentliche Grund, warum berufliche Nutzung einen Business-Tarif braucht, nicht die höheren Nutzungslimits.

Rechtsgrundlage. Für jede Verarbeitung brauchst du einen Erlaubnistatbestand nach Artikel 6 – meist berechtigtes Interesse oder Vertragserfüllung, bei Beschäftigtendaten häufig eine Betriebsvereinbarung. Einwilligung ist im Arbeitsverhältnis selten die tragfähigste Wahl, weil sie freiwillig sein muss.

Verzeichnis von Verarbeitungstätigkeiten. Der KI-Einsatz gehört nach Artikel 30 ins Verzeichnis: Zweck, Datenkategorien, Empfänger, Drittlandbezug, Löschfristen. Das ist Fleißarbeit, aber es ist auch das Erste, wonach eine Aufsichtsbehörde fragt.

Kommt KI in einem risikoreichen Kontext zum Einsatz – Bewerberauswahl, Leistungsbewertung, automatisierte Entscheidungen über Personen – wird zusätzlich eine Datenschutz-Folgenabschätzung nach Artikel 35 fällig. Und Artikel 22 setzt eine harte Grenze: Rein automatisierte Entscheidungen mit erheblicher Wirkung auf Menschen sind nur in engen Ausnahmefällen zulässig. Praktisch heißt das: Ein Mensch muss entscheiden, nicht das Modell.

Datenresidenz und Drittlandtransfer

Die meisten leistungsstarken Modelle werden von US-Unternehmen betrieben. Ein Datentransfer in die USA ist nach Kapitel V DSGVO nur mit geeigneter Grundlage zulässig – derzeit typischerweise über den EU-US-Angemessenheitsbeschluss in Verbindung mit Standardvertragsklauseln.

Die letzte Variante ist heute realistischer, als viele denken – offene Modelle laufen inzwischen auf gewöhnlicher Bürohardware. Wie das praktisch funktioniert, zeigt Lokale LLMs & Open-Source-Modelle nutzen. Rechne dabei ehrlich: Was du an Datenschutz gewinnst, zahlst du in Modellqualität und Betriebsaufwand.

Anbieter-Einstellungen: Training abschalten

Die Frage „Werden unsere Eingaben zum Training verwendet?“ entscheidet sich weniger am Anbieter als am Tarif.

• In privaten Verbrauchertarifen ist die Trainingsnutzung häufig standardmäßig aktiv und muss aktiv abgeschaltet werden – wo das überhaupt vorgesehen ist.
• In geschäftlichen Tarifen (Team, Business, Enterprise) ist sie vertraglich ausgeschlossen. Das ist der eigentliche Unterschied zwischen privat und geschäftlich, nicht der Funktionsumfang.
• Bei API-Zugängen gilt bei den großen Anbietern in der Regel ebenfalls kein Training mit Kundendaten, oft kombiniert mit kurzen Aufbewahrungsfristen für Missbrauchskontrolle.

Prüfe zusätzlich immer drei Einstellungen: Aufbewahrungsdauer der Chatverläufe, Protokollierung und Zugriff durch Support-Personal sowie Speicherort. Was in den Tarifen der großen Assistenten konkret geregelt ist, ordnet ChatGPT für Unternehmen ein.

Ein Sonderproblem bleibt: Betroffenenrechte lassen sich bei trainierten Modellen kaum vollständig durchsetzen. Sind Daten einmal ins Modellgewicht eingeflossen, ist eine gezielte Löschung technisch nicht sauber möglich. Deshalb ist Vermeidung an dieser Stelle wirksamer als jede nachträgliche Regelung.

KI-Datenschutz und EU AI Act: zwei Ebenen

Beide Regelwerke gelten nebeneinander und lösen unterschiedliche Fragen. Die DSGVO fragt: Wessen Daten werden hier wie verarbeitet? Der AI Act fragt: Welchen Schaden kann dieses System anrichten? Ein System kann datenschutzrechtlich sauber und trotzdem AI-Act-relevant sein – etwa ein Bewerbungs-Vorfilter, der nur mit anonymisierten Daten arbeitet, aber als Hochrisiko-Anwendung gilt. Die Systematik dazu findest du unter Der EU AI Act verständlich erklärt.

Praktisch lohnt sich ein gemeinsames Projekt: Systeminventar, Rollenklärung und Dokumentation braucht ihr für beide Regelwerke ohnehin.

Die Checkliste für den Alltag

1. Tarif prüfen. Geschäftlicher Tarif mit AVV – kein privates Konto für Firmendaten.
2. AVV abschließen und ablegen. Inklusive Unterauftragsverarbeitern und Transfergrundlage.
3. Trainingsnutzung ausschließen. Vertraglich prüfen, in den Einstellungen kontrollieren.
4. Speicherort und Aufbewahrung klären. EU-Residenz aktivieren, wo verfügbar; Löschfristen setzen.
5. Ins Verarbeitungsverzeichnis eintragen. Zweck, Datenkategorien, Empfänger, Drittlandbezug.
6. Datenminimierung zur Regel machen. Pseudonymisieren statt kopieren – das ist die wirksamste Einzelmaßnahme.
7. Verbotene Datenkategorien definieren. Gesundheitsdaten, Bewerbungsunterlagen, Vertragsentwürfe, Zugangsdaten.
8. Menschliche Entscheidung sicherstellen. Keine automatisierten Entscheidungen über Personen ohne Prüfung.
9. Team schulen und Regeln schriftlich fixieren. Ohne interne Regelung ist der Rest Theorie – siehe KI-Richtlinie fürs Unternehmen.
10. Regelmäßig nachprüfen. Anbieterbedingungen und Funktionen ändern sich, dein Verzeichnis muss mitwachsen.

Fazit

DSGVO-konforme KI-Nutzung ist kein Hexenwerk, sie ist Organisationsarbeit. Die drei Hebel mit dem größten Effekt: einen geschäftlichen Tarif mit AVV nutzen, personenbezogene Daten konsequent minimieren und schriftlich festhalten, was erlaubt ist. Wer diese drei Punkte erledigt, hat den Großteil des Risikos beseitigt – und muss KI nicht aus Unsicherheit verbieten, was in der Praxis ohnehin nur zur Schatten-Nutzung auf privaten Konten führt.