DSGVO und KI-Verordnung für einen KI-Assistenten: was Sie vor dem Start klären

Für DSGVO und KI-Verordnung bei einem KI-Assistenten klären Sie vor dem Livegang sechs Fragen. Wer ist Verantwortlicher, wer Auftragsverarbeiter? Welche Daten fließen wohin, und gehen sie in ein Drittland? Brauchen Sie eine Datenschutz-Folgenabschätzung? Und wie sichern Sie Transparenz gegenüber Kunden sowie die KI-Kompetenz Ihres Teams?

Ein KI-Assistent ist in diesem Leitfaden ein Programm, das ein Sprachmodell wie Claude nutzt, Fragen beantwortet oder Texte entwirft und dafür Daten aus Ihren Systemen liest. Im hier betrachteten Fall sind das Kontakte, Tickets und Vorgänge aus Zoho. Sobald darin Namen, E-Mail-Adressen oder Gesprächsverläufe stehen, verarbeitet der Assistent personenbezogene Daten.

Dieser Leitfaden ersetzt keine Rechtsberatung. Er ordnet die Fragen so, wie sie in der Projektplanung anfallen, damit Ihr Datenschutzbeauftragter und Ihre Rechtsberatung mit vollständigen Unterlagen arbeiten können. Ein Grundsatz trägt dabei alles Weitere: Laut einer Analyse von LokLM zum Begriff „privat“ bei KI-Assistenten ist Konformität eine Eigenschaft des konkreten Einsatzes, nicht des Werkzeugs für sich.

Das heißt praktisch: Kein Anbieter kann Ihnen einen „DSGVO-konformen Assistenten“ verkaufen. Konform wird erst Ihre Kombination aus Modell, Bereitstellungsweg, Datenauswahl, Verträgen und Abläufen. Diese Kombination prüfen Sie, bevor der erste echte Kundendatensatz das Modell erreicht.

Ihr Unternehmen ist in aller Regel der Verantwortliche, weil es über Zweck und Mittel der Verarbeitung entscheidet. Der Verantwortliche ist die Stelle, die festlegt, warum und wie personenbezogene Daten verarbeitet werden. Ein Auftragsverarbeiter ist ein Dienstleister, der diese Daten in Ihrem Auftrag und nach Ihren Weisungen verarbeitet.

Für den KI-Assistenten ist die Abgrenzung technisch begründet. Verarbeitet der Modellanbieter die Daten ausschließlich nach Ihren Weisungen, liegt nach der Einordnung von LokLM Auftragsverarbeitung nach Art. 28 DSGVO vor. Nutzt er Ein- oder Ausgaben für eigene Zwecke wie Training, reicht ein Vertrag zur Auftragsverarbeitung nicht aus. Aus der Auftragsverarbeitung folgen eine Vertragspflicht, ein Eintrag im Verarbeitungsverzeichnis und gegebenenfalls ein Mechanismus für den Drittlandtransfer. Werden Daten gar nicht übertragen, etwa bei einem Modell auf dem eigenen Gerät, findet keine Übermittlung an Dritte statt.

Die Kette hat beim Zoho-Einsatz mehrere Glieder. Die Daten liegen in Zoho CRM, der Assistent liest sie aus, und das Modell verarbeitet sie beim Anbieter. Prüfen Sie für jedes Glied, wer es betreibt und ob ein Vertrag zur Auftragsverarbeitung besteht.

Unabhängig von der Rollenverteilung gelten für Sie als Verantwortlichen die Anforderungen der Art. 5, 24 und 32 DSGVO. Art. 5 enthält die Grundsätze der Verarbeitung, darunter die Datenminimierung. Datenminimierung bedeutet: nur so viele personenbezogene Daten, wie der konkrete Zweck erfordert. Die einzelnen Artikel finden Sie in unserer Übersicht der DSGVO-Artikel für KI mit Erläuterungen.

Der Datenweg ist die vollständige Strecke, die ein Datensatz vom Zoho-Feld bis zur Antwort des Assistenten und zurück nimmt. Ihn zeichnen Sie vor jeder rechtlichen Bewertung auf. Ohne diese Skizze bleiben Verträge, Verzeichnis und Folgenabschätzung Vermutungen.

LokLM nennt vier denkbare Abflusskanäle für Daten aus einem KI-Werkzeug:

• Inferenz: die eigentliche Anfrage an das Modell, also Frage plus mitgeschickte Daten.
• Index-Persistenz: gespeicherte Suchindizes, etwa Vektor-Embeddings.
• Telemetrie: kleine Pakete zu Nutzung, Fehlern und Geräteeigenschaften, die Software automatisch an den Hersteller sendet.
• Synchronisation: der Abgleich von Inhalten mit einer Cloud.

Vektor-Embeddings sind numerische Abbilder von Texten, über die ein System ähnliche Passagen findet. Sie gelten nicht als harmlos, denn laut Forschung zur Embedding-Inversion lässt sich aus ihnen vieles über den Ursprungstext rekonstruieren. Ebenso wenig sind Metadaten ein Ausweg. Die DSGVO unterscheidet nicht zwischen Inhaltsdaten und Metadaten, personenbezogen können beide sein.

In der Praxis entscheidet die Feldauswahl über den Umfang. Bei Svennis legen wir vor dem ersten Test fest, welche Zoho-Module und Felder der Assistent lesen darf, und tragen genau diese Liste ins Verarbeitungsverzeichnis ein. Wo diese Liste fehlt, sehen wir regelmäßig, dass der Zugang später breiter ist als der Zweck verlangt.

Eine Drittlandübermittlung liegt vor, wenn personenbezogene Daten an einen Empfänger außerhalb der EU und des EWR gehen. Für einen Claude-Assistenten hängt die Antwort vom gewählten Bereitstellungsweg ab. Klären Sie diese Frage, bevor Sie Verträge unterschreiben, nicht danach.

Anthropic bietet seine Modelle laut der Modellübersicht in der Claude-Dokumentation über mehrere Wege an, jeweils mit eigener Modellkennung:

• die Claude API direkt bei Anthropic,
• Amazon Bedrock,
• Google Cloud,
• Microsoft Foundry,
• Claude Platform on AWS.

Für jeden Weg halten Sie drei Punkte fest: Wer ist Ihr Vertragspartner? Wo findet die Verarbeitung statt? Welcher Transfermechanismus gilt, falls Daten die EU verlassen? Die Antworten entnehmen Sie den Vertragsunterlagen des jeweiligen Anbieters, nicht Werbeaussagen.

Verschlüsselung allein löst die Frage nicht. LokLM formuliert es knapp: Verschlüsselung beantwortet nicht, wer den Schlüssel besitzt, sie ist notwendig, aber nicht hinreichend. Dokumentieren Sie daher, wer die Schlüssel verwaltet und wer im Klartext auf die Daten zugreifen kann. Ein aktiver Cloud-Abgleich hebt außerdem jede Zusage auf, dass Daten lokal bleiben.

Eine Datenschutz-Folgenabschätzung (DSFA) ist eine dokumentierte Prüfung, welche Risiken eine geplante Verarbeitung für die betroffenen Personen hat und wie Sie diese Risiken begrenzen. Sie gehört an den Anfang des Projekts. Ob sie Pflicht ist, entscheidet Ihr Unternehmen als Verantwortlicher, Ihr Datenschutzbeauftragter berät dabei, sofern Sie einen benannt haben. Prüfen Sie zuerst die Muss-Liste der deutschen Aufsichtsbehörden: Sie nennt den Einsatz künstlicher Intelligenz im Kundensupport, wenn ein System mit Kunden interagiert und dafür personenbezogene Daten verarbeitet.

Die Vorarbeit aus den vorigen Schritten fließt direkt in die DSFA ein. Die Datenwegskizze zeigt, welche Daten wohin gehen. Die Rollenklärung zeigt, wer verarbeitet. Die Prüfung der Drittlandübermittlung zeigt, wo die Daten liegen.

Besonders sorgfältig prüfen Sie, wenn der Assistent sensible Inhalte liest. Wer etwa Patientendaten verarbeitet, sollte die Besonderheiten kennen, die wir für KI in der Arztpraxis und im MVZ beschreiben. Dasselbe gilt für Mandantenschreiben, E-Mail-Verläufe und Vertragsentwürfe. Die Art. 5, 24 und 32 DSGVO gelten für jede Verarbeitung. Bei Gesundheitsdaten kommen die strengeren Voraussetzungen des Art. 9 DSGVO hinzu.

Für die technische Bewertung beschreibt LokLM sechs Prüfschritte für ein konkretes KI-Werkzeug. Drei davon seien nach Angabe der Autoren in zehn Minuten erledigt. Diese schnellen Punkte eignen sich als Einstieg, ersetzen aber keine vollständige Folgenabschätzung. Halten Sie das Ergebnis jedes Schritts schriftlich fest, damit Sie es bei einer Prüfung vorlegen können.

Nach Art. 50 der KI-Verordnung müssen ab August 2026 bestimmte KI-Einsätze gegenüber Nutzern, Kunden, Mitarbeitenden oder der Öffentlichkeit klar erkennbar sein. Für einen Assistenten mit Kundenkontakt ist das die naheliegendste Pflicht aus der KI-Verordnung. Die KI-Verordnung ist laut LokLM seit August 2024 in Kraft, ihre Pflichten werden stufenweise anwendbar.

Wenn Kunden direkt mit einem KI-System interagieren, muss laut einem Ratgeber des DSGVO Schutzteams zu den Transparenzpflichten grundsätzlich erkennbar sein, dass es sich um KI handelt. Eine Ausnahme gilt, wenn das im konkreten Kontext offensichtlich ist. Darauf sollten Sie sich bei einem Kundenkanal nicht verlassen.

Der Ort des Hinweises zählt. Ein pauschaler Satz „KI wurde eingesetzt“ in Datenschutzerklärung oder Impressum reicht laut dem Ratgeber nicht. Die Information muss dort erscheinen, wo Nutzer sie wahrnehmen und wo Täuschungsgefahr entsteht, also direkt im Chatfenster oder in der automatisch erzeugten Nachricht.

Für erzeugte Inhalte gilt eine Abstufung. Reine Hilfsfunktionen wie Rechtschreibkorrektur, Formatierung oder Übersetzung können anders zu beurteilen sein als ein System, das Inhalte eigenständig erzeugt oder wesentlich verändert. Legen Sie deshalb für jede Funktion Ihres Assistenten fest, in welche Gruppe sie fällt. Den Volltext mit Erläuterungen finden Sie auf unserer Seite zur KI-Verordnung.

Die KI-Verordnung verpflichtet Unternehmen, die KI-Systeme einsetzen, Maßnahmen zu ergreifen, um die KI-Kompetenz ihrer Mitarbeitenden zu fördern. Ein bestimmtes Kompetenzniveau schreibt Art. 4 seit der Änderung im Juli 2026 nicht mehr vor, eine dokumentierte Schulung bleibt aber der verlässlichste Nachweis. KI-Kompetenz heißt hier: Wer mit dem Assistenten arbeitet, versteht, was er kann, wo er irrt und welche Daten er nicht erhalten darf. Planen Sie die Schulung vor der Freischaltung, nicht als Nacharbeit.

Für einen Claude-Assistenten auf Zoho-Daten gehören mindestens diese Inhalte in die Schulung:

• welche Zoho-Daten der Assistent lesen darf und welche nicht,
• wo der KI-Hinweis für Kunden erscheint und warum er nicht entfernt wird,
• wie Mitarbeitende einen Antwortentwurf vor dem Versand prüfen,
• wohin sie Fehler oder auffällige Antworten melden.

Ein Punkt wird in Schulungen oft vergessen: Jedes Modell hat einen Wissensstand. Laut Anthropic reicht das verlässliche Wissen von Claude Haiku 4.5 bis Februar 2025, bei Claude Sonnet 5.5, Claude Opus 5.5 und Claude Fable 5.1 bis Juni 2026. Was danach geschah, kennt das Modell nur aus den Daten, die Ihr System ihm mitgibt.

Je selbstständiger der Assistent handelt, desto mehr Schulung braucht das Team. Wer verstehen will, wo ein Assistent endet und ein Agent beginnt, findet die Abgrenzung im Beitrag Was sind KI-Agenten? Aufbau, Grenzen und Kontrolle. Halten Sie Teilnahme und Inhalte der Schulung schriftlich fest.

Ein Beispiel macht die Fragen greifbar. Ein Unternehmen setzt einen Assistenten in Zoho Desk ein. Er liest eingehende Tickets, holt den passenden Kontakt aus Zoho CRM und entwirft eine Antwort. Eine Servicekraft prüft den Entwurf und versendet ihn.

So beantwortet das Unternehmen die sechs Fragen:

1. Rollen: Das Unternehmen ist Verantwortlicher. Der Modellanbieter verarbeitet im Auftrag, also schließt das Unternehmen einen Vertrag zur Auftragsverarbeitung.
2. Datenweg: Der Assistent liest Ticketbetreff, Ticketinhalt, Kontaktname und Kundennummer. Telefonnummer und Adresse bleiben gesperrt.
3. Drittland: Das Modell läuft über die Claude API. Das Unternehmen dokumentiert Vertragspartner, Verarbeitungsort und Transfermechanismus.
4. DSFA: Die Geschäftsführung entscheidet nach Beratung durch den Datenschutzbeauftragten. Da die Muss-Liste der deutschen Aufsichtsbehörden den Kundensupport mittels künstlicher Intelligenz nennt, geht das Unternehmen von einer Pflicht zur Folgenabschätzung aus und hält das Ergebnis fest.
5. Transparenz: Das Team prüft für jede Funktion, ob Kunden direkt mit der KI interagieren, und platziert einen Hinweis dort, wo er nötig ist.
6. KI-Kompetenz: Alle Servicekräfte erhalten vor dem Start eine Schulung zur Prüfung der Entwürfe.

Als Modell wählt das Unternehmen Claude Sonnet 5.5, das Anthropic als beste Kombination aus Tempo und Intelligenz beschreibt. Ins Verzeichnis gehört auch das Ablaufdatum: Anthropic nennt für Sonnet 5.5 eine Abschaltung nicht vor dem 28. September 2027. Ob der Assistent im Alltag trägt, misst das Team danach mit festen Kennzahlen für einen KI-Assistenten im Service Desk.

Die folgende Checkliste fasst die zentralen Prüfpunkte für DSGVO und KI-Verordnung bei einem KI-Assistenten zusammen. Sie zeigt für jede Frage, wer sie typischerweise entscheidet und welches Dokument danach vorliegt. Gehen Sie die Zeilen in dieser Reihenfolge durch, denn jede baut auf der vorigen auf.

Die letzte Zeile verhindert eine stille Änderung. Für Claude Haiku 4.5 nennt Anthropic eine Abschaltung nicht vor dem 15. Oktober 2026, für Claude Opus 5.5 nicht vor dem 22. September 2027. Ein Modellwechsel ändert Ihre Dokumentation und gehört deshalb in denselben Prüfablauf.

In Deutschland und Österreich gelten DSGVO und KI-Verordnung als EU-Verordnungen unmittelbar. Seit dem 2. August 2026 gelten die Transparenzpflichten aus Art. 50 der KI-Verordnung, ein Assistent mit Kundenkontakt muss sie also bereits heute erfüllen.

Die Pflichten betreffen nicht nur große KI-Anbieter. Der Ratgeber betont, dass die Pflichten auch Unternehmen betreffen können, die KI-Werkzeuge im Arbeitsalltag einsetzen, vor allem bei Chatbots mit Kundenkontakt. Für Texte unterscheidet Art. 50 zwei Pflichten. Als Betreiber legen Sie offen, dass ein Text KI-erzeugt ist, wenn er die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert und keiner menschlichen oder redaktionellen Prüfung unterliegt. Anbieter von KI-Systemen, die Texte erzeugen, müssen die Ausgaben zusätzlich maschinenlesbar kennzeichnen. Ob Ihr Unternehmen bei einem selbst gebauten Assistenten als Anbieter gilt, klären Sie mit Ihrer Rechtsberatung. Ein mittelständischer Betrieb mit einem Service-Assistenten auf Zoho-Daten fällt damit in den Kreis derer, die sich vorbereiten müssen.

Für Unternehmen in der Schweiz klären Sie mit Ihrer Rechtsberatung, welche Regeln für Ihren konkreten Fall gelten. Das betrifft vor allem Konstellationen mit Kunden oder Standorten in der EU. Die technische Vorarbeit aus diesem Leitfaden bleibt dieselbe: Datenwegskizze, Feldliste, Bereitstellungsweg und Modellstand brauchen Sie in jedem Fall.

Ein Hinweis zur Reihenfolge im DACH-Raum: Viele Unternehmen beginnen mit der Modellauswahl und klären den Datenschutz danach. Drehen Sie die Reihenfolge um. Der Bereitstellungsweg entscheidet über Vertragspartner und Drittlandfrage, und diese beiden Punkte bestimmen, welche Modelle für Ihren Einsatz überhaupt in Frage kommen.

Mit diesen Schritten bringen Sie DSGVO und KI-Verordnung für Ihren KI-Assistenten in eine prüfbare Form. Jeder Schritt ergibt ein Dokument, das Sie in die Checkliste eintragen. Planen Sie die Schritte vor dem ersten Test mit echten Kundendaten ein.

1. Zeichnen Sie den Datenweg auf: Zoho-Module, Felder, Bereitstellungsweg, Rückweg der Antwort.
2. Prüfen Sie für jeden Dienstleister in der Kette den Vertrag zur Auftragsverarbeitung.
3. Klären Sie Verarbeitungsort und Transfermechanismus für den gewählten Bereitstellungsweg.
4. Entscheiden Sie als Verantwortlicher nach Beratung durch Ihren Datenschutzbeauftragten, ob eine DSFA nötig ist, und halten Sie die Begründung fest.
5. Legen Sie Ort und Wortlaut des KI-Hinweises für jede Funktion mit Kundenkontakt fest.
6. Schulen Sie das Team und halten Sie Teilnahme und Inhalte fest.
7. Tragen Sie Modellname und frühestes Abschaltdatum ins Verzeichnis ein.

Für Schritt 5 lohnt der Blick in den Wortlaut der Vorschrift. Unsere KI-Verordnung im Volltext mit Erläuterungen zeigt Art. 50 im Zusammenhang. Nehmen Sie die ausgefüllte Checkliste anschließend mit in das Gespräch mit Ihrer Rechtsberatung.