KI DSGVO-konform einsetzen: die Reihenfolge der Fragen

Die Reihenfolge ist der Inhalt dieses Beitrags. Frage 6 lässt sich nicht beantworten, solange Frage 2 offen ist, Frage 7 nicht, solange Frage 3 offen ist. Wer bei Frage 1 zu einem Nein kommt, ist fertig; das kommt seltener vor, als es scheint. Der Text ordnet, er ersetzt keine Rechtsberatung für den Einzelfall. Alle Artikel beziehen sich auf die DSGVO im konsolidierten Text bei EUR-Lex.

1. Sind personenbezogene Daten im Spiel?#

Beim Einsatz eines KI-Dienstes fließen drei getrennte Datenströme, und nur einer davon ist die bewusste Eingabe.

Die Eingabe: alles, was im Prompt landet. Die Datenschutzkonferenz (DSK), das Gremium der deutschen Aufsichtsbehörden, hält in der Orientierungshilfe KI und Datenschutz vom 6. Mai 2024 fest: „Um die Eingabe personenbezogener Daten zu vermeiden, reicht es regelmäßig nicht, Namen und Anschriften einer Eingabe zu entfernen.“ Ein Kündigungsschreiben bleibt zuordenbar, auch ohne Namen.

Die Ausgabe: Ein erzeugter Text über eine identifizierbare Person ist eine neue Verarbeitung, besonders dort, wo die Ausgabe bewertet (Bewerbungen, Bonität, Leistung).

Die Nutzungsdaten: Wer welchen Prompt wann abgeschickt hat, sind Beschäftigtendaten, auch wenn im Prompt nur Produktbeschreibungen stehen.

Die drei Ströme haben verschiedene Zwecke und oft verschiedene Rechtsgrundlagen. Sie lassen sich nicht gemeinsam bewerten.

2. Auf welcher Rechtsgrundlage?#

Die DSK formuliert enger, als viele es lesen: „Für jeden Verarbeitungsschritt, bei dem mit Hilfe einer KI-Anwendung personenbezogene Daten verarbeitet werden, ist eine datenschutzrechtliche Rechtsgrundlage erforderlich.“ Eine Grundlage je Schritt, keine für „den Einsatz von KI“.

Aus Art. 6 Abs. 1 kommen drei Varianten in Betracht. Die Vertragserfüllung (lit. b) trägt, wenn die Verarbeitung für die Leistung gegenüber dem Betroffenen nötig ist, nicht wenn die KI nur bequemer ist. Das berechtigte Interesse (lit. f) ist der übliche Weg für interne Effizienzzwecke und verlangt eine dokumentierte Abwägung. Die Einwilligung (lit. a) ist im Beschäftigungsverhältnis schwer freiwillig darzustellen und jederzeit widerrufbar.

Besondere Kategorien nach Art. 9 (Gesundheit, Religion, Gewerkschaftszugehörigkeit, biometrische Daten) sind grundsätzlich verboten, solange keine der engen Ausnahmen greift. Ein Krankmeldungsverlauf, den ein Assistent zusammenfasst, fällt darunter.

Ein eigener Zweck ist das Training mit deinen Eingaben. Der Europäische Datenschutzausschuss hat in der Stellungnahme 28/2024 vom 18. Dezember 2024 ausgeführt, dass ein berechtigtes Interesse in Betracht kommt, aber im Einzelfall zu prüfen ist, und dass rechtswidrig erlangte Trainingsdaten auf die Rechtmäßigkeit des späteren Einsatzes durchschlagen können. Prüf, ob die Nutzung deiner Eingaben zum Training abschaltbar ist, und schalt sie ab, bevor du produktiv gehst. Die Einstellung heißt je nach Anbieter Training, Opt-out oder Zero Data Retention.

Der Digital-Omnibus der EU-Kommission vom 19. November 2025 will das Training von KI-Systemen ausdrücklich auf das berechtigte Interesse stützen; das Gesetzgebungsverfahren 2025/360 ist am 03.10.2026 noch nicht abgeschlossen. Ein Vorschlag, kein geltendes Recht.

3. Verantwortlicher oder Auftragsverarbeiter?#

Du bleibst Verantwortlicher. Der Anbieter ist in der Regel dein Auftragsverarbeiter, dafür braucht es nach Art. 28 Abs. 3 einen Vertrag; die DSK sieht bei Cloud-Lösungen „häufig ein Auftragsverarbeitungsverhältnis gemäß Art. 28 f. DS-GVO“. Nutzt der Anbieter deine Eingaben für eigene Zwecke, etwa zur Verbesserung seiner Modelle, handelt er dafür als eigener Verantwortlicher, und dein Vertrag deckt das nicht ab.

Daran hängt auch die Frage nach der kostenlosen Version: Bei Verbraucher- und Gratiszugängen ist das Training mit Eingaben oft voreingestellt, und einen Auftragsverarbeitungsvertrag gibt es meist erst ab den Geschäftstarifen. Private Konten tauchen zudem in keiner Übersicht auf; was du nicht kennst, kannst du weder eintragen noch abschalten. Welche Klauseln der Vertrag enthalten muss und wie sechs Anbieter es regeln, steht unter Auftragsverarbeitungsvertrag mit KI-Anbietern, die Vertragsart selbst unter Was ist ein Auftragsverarbeitungsvertrag?.

4. Wo stehen die Server?#

Verlässt ein Datum die EU, greifen Art. 44 ff. Für die USA hat die Kommission am 10. Juli 2023 mit dem Durchführungsbeschluss (EU) 2023/1795 ein angemessenes Schutzniveau festgestellt, das EU-US Data Privacy Framework. Es gilt nicht für das Land, sondern nur für Organisationen, die sich selbst zertifiziert haben; das US-Handelsministerium führt die öffentliche Liste. Zwei Handgriffe: die Gesellschaft aus deinem Vertrag dort nachschlagen (nicht die Dachmarke) und prüfen, ob die Zertifizierung deine Datenart abdeckt. Personaldaten sind gesondert ausgewiesen.

Das Gericht der Europäischen Union hat eine Klage gegen den Beschluss am 3. September 2025 abgewiesen (Rechtssache T-553/23) und dabei bestätigt, dass die USA „zum Zeitpunkt des Erlasses des angefochtenen Beschlusses“ ein angemessenes Schutzniveau gewährleisteten (Pressemitteilung des Gerichts). Nach Art. 45 Abs. 4 und 5 muss die Kommission den Beschluss aussetzen oder aufheben, wenn das Schutzniveau nicht mehr trägt. Nimm die Standardvertragsklauseln deshalb als Rückfallebene in den Vertrag oder wähl eine EU-Region. Wie das bei einzelnen Diensten aussieht, zeigt die Übersicht Drittdienste und die DSGVO.

5. Muss der Dienst ins Verarbeitungsverzeichnis?#

In aller Regel ja. Die Ausnahme in Art. 30 Abs. 5 für Unternehmen mit weniger als 250 Beschäftigten entfällt, sobald die Verarbeitung nicht nur gelegentlich erfolgt, und ein Werkzeug, das täglich im Support läuft, ist nicht gelegentlich. Zu den Pflichtangaben aus Art. 30 Abs. 1 gehören bei einem KI-Dienst vier zusätzliche Zeilen: Modell, Anbieter und Versionsstand; ob Eingaben zum Training verwendet werden und wie das abgeschaltet ist; Verarbeitungsregion und Grundlage der Übermittlung; wie lange Prompts und Ausgaben beim Anbieter gespeichert bleiben.

Den Eintrag legst du an, bevor der Dienst produktiv geht. Meldet ein Anbieter eine Panne, laufen deine 72 Stunden zur Meldung ab dem Bekanntwerden, und ohne Verzeichnis weißt du nicht, wessen Daten betroffen sind.

6. Braucht es eine Datenschutz-Folgenabschätzung?#

Art. 35 verlangt sie bei voraussichtlich hohem Risiko für die Rechte und Freiheiten natürlicher Personen. Die DSK: „Beim Einsatz von KI-Anwendungen wird dies vielfach der Fall sein.“ Konkreter ist die Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist (Version 1.1 vom 17.10.2018): Eintrag Nr. 11 nennt den „Einsatz von künstlicher Intelligenz zur Verarbeitung personenbezogener Daten zur Steuerung der Interaktion mit den Betroffenen oder zur Bewertung persönlicher Aspekte“, mit KI-gestütztem Kundensupport und automatisierter Stimmungsanalyse bei Anrufen als Beispielen. Nr. 5 (Daten aus verschiedenen Quellen zusammenführen) und Nr. 13 (Video- oder Audioaufnahmen automatisiert auswerten) treffen typische KI-Fälle mit.

Die Folgenabschätzung gehört vor den Beginn der Verarbeitung. Ihr Sinn ist, dass sie eine Entscheidung noch ändern kann.

7. Was gehört in die Datenschutzerklärung?#

Über ein internes Werkzeug, das nur Beschäftigtendaten verarbeitet, informierst du die Belegschaft direkt; wo ein Betriebsrat besteht, kommen dessen Beteiligungsrechte hinzu. Verarbeitest du Daten von Kunden, Bewerbern oder Interessenten mit KI-Unterstützung, greifen Art. 13 und 14 voll: Zweck, Rechtsgrundlage, Empfänger, Drittlandübermittlung samt Grundlage, Speicherdauer. Bei einem Chatbot gehört der Hinweis dorthin, wo der Chat startet.

Art. 22 ist der Sonderfall. Die DSK: „Entscheidungen mit Rechtswirkung dürfen gemäß Art. 22 Abs. 1 DS-GVO grundsätzlich nur von Menschen getroffen werden.“ Eine Absage, die ein Modell erzeugt und die niemand mehr prüft, ist keine menschliche Entscheidung, auch wenn ein Mensch auf „Senden“ klickt.

Wo die Kette aufhört#

Die sieben Fragen klären die Zulässigkeit, nicht die Qualität. Ob die Zusammenfassung stimmt, sagt die DSGVO nicht; sie verlangt nur, dass du es prüfst, weil du für die Richtigkeit einstehst. Die DSK: „Die Ergebnisse von KI-Anwendungen mit Personenbezug müssen kritisch hinterfragt werden.“

Zwei Bereiche liegen außerhalb der Kette. Die Sicherheit (manipulierte Eingaben, abfließende Geschäftsgeheimnisse, Werkzeuge mit Schreibrechten) hat eine eigene Systematik, siehe Prompt Injection und KI-Agenten. Und die KI-Verordnung der EU regelt das Produkt und seine Risikoklasse, die DSGVO die Verarbeitung personenbezogener Daten; beide gelten nebeneinander, siehe EU AI Act für kleine Unternehmen.

Stand 03.10.2026. Quellen am selben Tag abgerufen; EUR-Lex beantwortet automatisierte Abrufe mit einer Prüfseite (HTTP 202), die Dokumente sind im Browser erreichbar.