Automatisierte Entscheidungen mit KI nach Artikel 22 DSGVO in Claude-Systemen planen

Automatisierte Entscheidungen mit KI nach Artikel 22 DSGVO berücksichtigen Sie in der Architektur mit einer klaren Rollenteilung: Claude bereitet vor, ein Mensch entscheidet. Der Agent sammelt Daten, prüft festgelegte Kriterien und schlägt ein Ergebnis mit Begründung vor. Das Ablehnen, Zusagen oder Einstufen einer Person mit erheblicher Wirkung übernimmt eine Mitarbeiterin oder ein Mitarbeiter mit echtem Entscheidungsspielraum.

Diese Rollenteilung ist eine Frage der Systemplanung und nicht nur eine Frage der Datenschutzerklärung. Ob ein Mensch tatsächlich entscheidet, hängt von wenigen technischen Festlegungen ab. Wichtig ist, welche Werkzeuge der Agent bekommt und wohin sein Ergebnis geschrieben wird. Ebenso wichtig ist, was die prüfende Person sieht, bevor sie bestätigt.

Dieser Beitrag richtet sich an Geschäftsführung und Fachbereichsleitungen, die Claude etwas über eine Person bewerten, freigeben oder ablehnen lassen wollen. Er erklärt die Begriffe, die Schutzmaßnahmen und die Stellen im Ablauf, an denen ein Mensch entscheiden muss. Er ersetzt keine Rechtsberatung. Die rechtliche Bewertung Ihres konkreten Falls gehört zu Ihrer Datenschutzberatung oder Ihrem Datenschutzbeauftragten. Die einschlägigen Artikel erläutert unsere Übersicht DSGVO für KI mit den relevanten Artikeln.

Eine automatisierte Entscheidung im Sinne von Art. 22 Abs. 1 DSGVO ist eine Entscheidung, die ausschließlich auf einer automatisierten Verarbeitung beruht. Erwägungsgrund 71 nennt als Beispiel die Ablehnung eines Online-Kreditantrags „ohne jegliches menschliche Eingreifen“, worauf die Datenschutzberatung activeMind in ihrer Erläuterung verweist. Entscheidend ist also nicht, ob eine KI beteiligt ist. Entscheidend ist, ob am Ende ein Mensch mit echtem Einfluss auf das Ergebnis entscheidet.

Profiling ist nach Art. 4 Nr. 4 DSGVO jede Art der automatischen Verarbeitung personenbezogener Daten, die diese Daten verwendet, um bestimmte persönliche Aspekte einer natürlichen Person zu bewerten. Ein Claude-Agent, der Bewerbungen oder das Zahlungsverhalten einer bestimmten Person bewertet, erfüllt die Merkmale dieser Definition. Das gilt auch dann, wenn er nur einen Vorschlag macht.

Ein Scoring-Verfahren ordnet einer Person nach Bewertung der verfügbaren Informationen einen Wert zu. Ein Beispiel ist ein Wert, der Auskunft über die Zahlungsfähigkeit im Onlinehandel gibt. Lässt man Claude eine Punktzahl, eine Ampel oder eine Rangfolge für Personen vergeben, baut man damit ein solches Verfahren.

Für jeden dieser Schritte brauchen Sie eine Rechtsgrundlage. activeMind betont, dass dies für das Sammeln der Daten, für ihr Verwerten und für die damit verbundene automatisierte Entscheidungsfindung gilt. In der Planung heißt das: Jede Datenquelle, die Sie an den Agenten anbinden, braucht einen begründeten Zweck.

Artikel 22 DSGVO greift, wenn eine Entscheidung ausschließlich auf automatisierter Verarbeitung beruht und erhebliche Wirkung auf die Person hat. Betroffene haben nach Art. 22 DSGVO das Recht, einer solchen Entscheidung nicht unterworfen zu werden. activeMind fasst Art. 22 Abs. 1 DSGVO so zusammen: Eine automatisierte Entscheidung ist grundsätzlich unzulässig, wenn sie rechtliche Wirkung entfaltet oder die Person in ähnlicher Weise erheblich beeinträchtigt.

Erwägungsgrund 71 nennt zwei Beispiele, die für viele Unternehmen naheliegen. Ein Online-Kreditantrag und ein Online-Einstellungsverfahren sollen nicht ausschließlich auf einer automatisierten Entscheidung beruhen. Wer Claude also Anträge ablehnen oder Bewerbungen aussortieren lässt, bewegt sich genau in diesem Bereich.

Für die Systemplanung sind die beiden Merkmale unterschiedlich gut steuerbar:

• Erhebliche Wirkung ergibt sich aus dem Geschäftszweck. Eine Kreditablehnung bleibt erheblich, egal wie Sie das System bauen.
• Ausschließlich automatisiert ergibt sich aus der Architektur. Hier entscheiden Sie, ob ein Mensch mit echtem Einfluss im Ablauf steht.

Eine Sonderregel gilt für besondere Kategorien personenbezogener Daten, etwa Gesundheitsdaten. Art. 22 Abs. 4 DSGVO erlaubt automatisierte Entscheidungen auf Grundlage solcher Daten nur mit ausdrücklicher Einwilligung oder aus erheblichem öffentlichem Interesse nach Art. 9 Abs. 2 Buchstabe a oder g DSGVO. Zusätzlich sind angemessene Schutzmaßnahmen nötig. Wenn Ihr Agent solche Daten sehen kann, sollten Sie das vor dem Bau mit Ihrer Datenschutzberatung klären.

Bei automatisierten Entscheidungen verlangt die DSGVO feste Schutzmaßnahmen für die betroffene Person. Für die Ausnahmen nach Art. 22 Abs. 2 Buchstabe a und c DSGVO gilt Art. 22 Abs. 3 DSGVO. Diese Ausnahmen sind Vertrag und ausdrückliche Einwilligung, und für sie verlangt das Gesetz mindestens drei Rechte der betroffenen Person. Hinzu kommen Informationspflichten, die beide Quellen dieses Beitrags beschreiben.

Diese Anforderungen sollte Ihr System technisch abbilden können:

• Eingreifen einer Person: Die betroffene Person kann erwirken, dass ein Mensch beim Verantwortlichen den Fall prüft.
• Darlegung des eigenen Standpunkts: Die Person kann ihre Sicht vortragen, und diese erreicht die zuständige Stelle.
• Anfechtung der Entscheidung: Die Person kann die Entscheidung anfechten und eine erneute Prüfung verlangen.
• Transparenz: Die Datenschutzerklärung nennt das Bestehen automatisierter Entscheidungen.
• Auskunft über die Logik: Der Verantwortliche erklärt die involvierte Logik, die Tragweite und die angestrebten Auswirkungen.

Beim Scoring wird die Informationspflicht konkret. Nach activeMind muss etwa die Funktionsweise des Algorithmus erklärt werden, der zum Scoring-Wert führt. Bei einem Sprachmodell wie Claude heißt das: Sie brauchen dokumentierte Kriterien und eine Begründung je Fall. „Das Modell hat so entschieden“ genügt dafür nicht.

Der ePrivacy-Blog nennt außerdem die Integration eines menschlichen Eingriffs mit maßgeblichem Einfluss auf die Entscheidung. Wie das Zusammenspiel von DSGVO und KI-Verordnung bei einem Assistenten aussieht, beschreibt unser Beitrag zu DSGVO und KI-Verordnung für einen KI-Assistenten.

Ein Mensch muss überall dort entscheiden, wo das Ergebnis des Agenten eine Person rechtlich oder ähnlich erheblich trifft. Die folgende Tabelle ist eine Planungshilfe für typische Aufgaben, keine rechtliche Einstufung. Sie zeigt, wer jeweils entscheidet und wie sich das im System umsetzen lässt.

Aufgabe des Agenten	Wirkung auf die Person	Wer entscheidet	Umsetzung im System
Anfrage einordnen und an ein Team weiterleiten	Betrifft die Bearbeitung, nicht das Ergebnis für die Person	Agent, mit Stichproben durch das Team	Weiterleitung als Ticket in Zoho Desk
Unterlagen zusammenfassen	Grundlage für eine spätere Entscheidung	Agent erstellt, Mensch liest	Zusammenfassung als Notiz am Datensatz
Scoring-Wert oder Rangfolge vergeben	Bereitet die Entscheidung vor und kann sie faktisch vorwegnehmen	Mensch, gestützt auf die Begründung	Wert mit Kriterien und Begründung im Datensatz
Antrag ablehnen, etwa Kredit oder Kauf auf Rechnung	Kann rechtliche oder ähnlich erhebliche Wirkung haben	Mensch	Agent darf nur vorschlagen, nicht versenden
Bewerbung absagen	Online-Einstellungsverfahren nach Erwägungsgrund 71	Mensch	Kein Werkzeug für Absagen beim Agenten

Die mittlere Zeile verdient die meiste Aufmerksamkeit. Ein Scoring-Wert sieht harmlos aus, weil formal noch niemand entschieden hat. Wenn die Mitarbeitenden den Wert aber regelmäßig ungeprüft übernehmen, wirkt er wie eine Entscheidung. Für die Personalauswahl vertieft unser Beitrag „Claude in der Personalauswahl: was erlaubt ist und was beim Menschen bleibt“ diese Frage.

Eine menschliche Prüfung zählt nur, wenn die prüfende Person die Entscheidung tatsächlich beeinflussen kann. Der ePrivacy-Blog spricht von einem menschlichen Eingriff mit maßgeblichem Einfluss auf die Entscheidung. Ein Bestätigungsknopf, den jemand unter Zeitdruck drückt, erfüllt diesen Anspruch in der Praxis kaum.

Für die Systemplanung lassen sich daraus konkrete Anforderungen an den Prüfschritt ableiten:

• Die prüfende Person sieht die Eingangsdaten, nicht nur das Ergebnis des Agenten.
• Die Begründung von Claude nennt die Kriterien, auf denen der Vorschlag beruht.
• Das Ergebnisfeld ist nicht mit dem Vorschlag vorbelegt, sondern wird aktiv gesetzt.
• Die Person kann jedes Ergebnis wählen, auch gegen den Vorschlag.
• Die Person dokumentiert ihren eigenen Grund in einem Pflichtfeld.
• Die Person hat die fachliche Befugnis und die Zeit für die Prüfung.

Prüfen Sie den Prüfschritt nach dem Start regelmäßig. Ein deutliches Warnsignal ist, wenn die prüfende Person dem Vorschlag praktisch immer folgt. Dann sollten Sie sich ansehen, ob sie genug Informationen, Zeit oder Befugnis hat.

Die Rechte auf Standpunkt und Anfechtung brauchen ebenfalls einen festen Weg. Ein Widerspruch der betroffenen Person sollte als eigener Vorgang bei einem Menschen landen, der den Fall neu prüft. Er darf nicht wieder beim Agenten landen, der den ersten Vorschlag gemacht hat.

Die wirksamste Stelle für Artikel 22 DSGVO ist die Auswahl der Werkzeuge, die ein Claude-Agent nutzen darf. Laut der Modellübersicht von Anthropic unterstützen alle aktuellen Claude-Modelle Werkzeugnutzung. Was der Agent tun kann, bestimmen also die Werkzeuge, die Sie ihm geben. Anthropic weist auch darauf hin, dass die Einstellungen einer Organisation ein unterstütztes Werkzeug sperren können. Ein Administrator kann zum Beispiel die Websuche abschalten.

Daraus folgt eine einfache Regel: Der Agent bekommt lesende Werkzeuge und ein Werkzeug, das einen Vorschlag ablegt. Ein Werkzeug, das eine Entscheidung an die Person versendet, bekommt er nicht. Wie Agenten mit Werkzeugen arbeiten und wo ihre Grenzen liegen, erklärt unser Beitrag Was sind KI-Agenten?

Bei Svennis legen wir in der Planung für jedes Werkzeug fest, ob es nur liest oder schreibt. Ein Agent, der über Personen urteilt, erhält bei uns kein Werkzeug zum Versand einer Ablehnung, sondern nur eines, das einen Vorschlag mit Begründung in die Prüfliste legt.

Für die Anbindung an Ihre Programme bauen wir je Verbindung einen connector, einen MCP server, ein plugin oder einen skill. Wir zeigen die Möglichkeiten mit ihren Kosten, und Sie wählen. In jedem Fall gehören zwei Dinge in den Datensatz, etwa in Zoho CRM: der Vorschlag mit Kriterien und Begründung sowie die Entscheidung der prüfenden Person mit ihrem Grund. Wie Daten und Verträge rund um Claude geregelt sind, beschreibt die Seite Claude im Unternehmen: Daten, DSGVO, KI-Verordnung.

Ein durchgängiges Beispiel zeigt, wie die Rollenteilung im Alltag aussieht. Ein Onlinehändler möchte prüfen lassen, ob ein Kunde auf Rechnung kaufen darf. Diese Prüfung ist ein Scoring-Verfahren über die Zahlungsfähigkeit im Onlinehandel. Eine Ablehnung kann die Person erheblich treffen.

Der Ablauf in sechs Schritten:

1. Der Kunde wählt Kauf auf Rechnung. Der Auftrag entsteht als Datensatz in Zoho CRM.
2. Der Agent liest nur lesend die offenen Posten aus Zoho Books und die Bestellhistorie des Kunden.
3. Claude prüft die schriftlich festgelegten Kriterien und schreibt einen Vorschlag mit Begründung in ein eigenes Feld.
4. Eine Mitarbeiterin der Buchhaltung sieht Daten, Kriterien und Begründung und setzt das Ergebnis selbst.
5. Bei einer Ablehnung erhält der Kunde eine verständliche Information zu den Gründen und einen Kontaktweg.
6. Ein Widerspruch des Kunden landet als neuer Vorgang bei einer zweiten Person, die den Fall neu prüft.

Die Kriterien aus Schritt 3 sind zugleich Ihre Grundlage für die Auskunft über die involvierte Logik. Halten Sie diese Kriterien in Alltagssprache fest. Ändern Sie sie nur mit Versionsdatum, damit Sie später jeden Fall erklären können.

Eine Frage bleibt bewusst offen: Dürfen Freigaben ohne menschliche Prüfung durchlaufen, wenn nur Ablehnungen geprüft werden? Das klären Sie mit Ihrer Datenschutzberatung. Die Architektur sollte beide Wege erlauben, damit Sie das Ergebnis ohne Umbau umsetzen können.

Für deutsche Unternehmen kommt bei Entscheidungen über Mitarbeitende und Bewerber § 26 BDSG hinzu. Als Beschäftigte gelten dort ausdrücklich auch Bewerberinnen und Bewerber sowie Personen, deren Beschäftigungsverhältnis beendet ist. Ein Claude-Agent im Personalbereich verarbeitet also fast immer Beschäftigtendaten.

§ 26 Abs. 1 BDSG erlaubt die Verarbeitung, wenn sie für die Begründung, Durchführung oder Beendigung des Beschäftigungsverhältnisses erforderlich ist. Seit dem Urteil des EuGH vom 30. März 2023 (C-34/21) ist umstritten, ob diese Vorschrift allein trägt. Deshalb wird in der Praxis zusätzlich auf Art. 6 Abs. 1 DSGVO abgestellt. Für die Planung heißt das: Der Agent liest nur die Daten, die für die konkrete Aufgabe erforderlich sind.

Die Absätze 1 bis 6 des § 26 BDSG gelten auch für Beschäftigtendaten, die nicht in einem Dateisystem gespeichert sind.

Eine Einwilligung ist im Arbeitsverhältnis nur eingeschränkt tragfähig. Bei der Beurteilung der Freiwilligkeit sind die Abhängigkeit der beschäftigten Person und die Umstände der Erteilung zu berücksichtigen. Die Einwilligung erfolgt schriftlich oder elektronisch, soweit nicht wegen besonderer Umstände eine andere Form angemessen ist. Der Arbeitgeber klärt in Textform über den Zweck und das Widerrufsrecht nach Art. 7 Abs. 3 DSGVO auf.

Zwei weitere Punkte sind für die Planung wichtig:

• Die Verarbeitung kann auf einer Kollektivvereinbarung beruhen, also einem Tarifvertrag, einer Betriebs- oder einer Dienstvereinbarung.
• Die Beteiligungsrechte der Interessenvertretungen der Beschäftigten bleiben nach § 26 BDSG unberührt.

Beziehen Sie den Betriebsrat deshalb ein, bevor der Agent gebaut wird. Der Verantwortliche muss außerdem geeignete Maßnahmen ergreifen, damit die Grundsätze aus Art. 5 DSGVO eingehalten werden. Die Rollenteilung, das Protokoll und die begrenzten Werkzeuge aus diesem Beitrag können zu solchen Maßnahmen gehören.

Die Bußgelder von 2025 zeigen, dass fehlende Erklärungen zur Entscheidungslogik teuer werden. Der ePrivacy-Blog beschreibt in seinem Beitrag zu aktuellen Bußgeldern bei automatisierter Entscheidungsfindung zwei Fälle. Beide betreffen Kreditentscheidungen, und beide drehen sich um die Information der Betroffenen.

Die Hamburger Datenschutzbehörde verhängte im September 2025 ein Bußgeld von 492.000 EUR gegen ein Finanzunternehmen. Das Unternehmen hatte Kreditkartenanträge auf Basis automatisierter Entscheidungen abgelehnt. Die Kundinnen und Kunden wurden nicht ausreichend über die Gründe informiert, teils trotz guter Bonität. Nach Angaben des ePrivacy-Blogs gab das Unternehmen auf Nachfrage keine verständliche Erklärung zur involvierten Logik.

Laut ePrivacy-Blog verhängte die niederländische Datenschutzbehörde Autoriteit Persoonsgegevens ein Bußgeld von 2.700.000 EUR gegen den Auskunfteidienst Experian. Grund war unter anderem, dass die Betroffenen nicht angemessen informiert wurden. Experian hatte eine Datenbank aus öffentlichen und privaten Quellen aufgebaut, etwa aus dem Handelsregister und von Telekommunikationsunternehmen. Die Notwendigkeit dieser Datenerhebung konnte das Unternehmen nicht überzeugend begründen. Experian erkannte den Verstoß an, legte keinen Einspruch ein, beendete die Geschäftstätigkeit in den Niederlanden und kündigte an, die Datenbank im Jahr 2025 zu löschen.

Für ein System auf Claude lassen sich zwei Lehren ziehen. Erstens braucht jeder Fall eine gespeicherte, verständliche Begründung, die Sie auf Nachfrage herausgeben können. Zweitens sollte der Agent nur Datenquellen sehen, deren Notwendigkeit Sie schriftlich begründet haben.

Der erste praktische Schritt ist eine Liste aller Stellen, an denen Claude etwas über eine Person bewerten, vorschlagen oder auslösen soll. Diese Liste ist die Grundlage für alle weiteren Festlegungen. Sie lässt sich meist in einer Sitzung mit den Fachbereichen erstellen.

Gehen Sie danach in dieser Reihenfolge vor:

1. Ordnen Sie jede Stelle mit der Tabelle aus diesem Beitrag ein: Wirkung auf die Person, wer entscheidet, Umsetzung.
2. Legen Sie für jeden Agenten fest, welche Werkzeuge nur lesen und welche einen Vorschlag schreiben dürfen.
3. Schreiben Sie die Kriterien für jeden Vorschlag in Alltagssprache auf und versehen Sie sie mit einem Versionsdatum.
4. Planen Sie den Prüfschritt mit Eingangsdaten, Begründung, leerem Ergebnisfeld und Pflichtfeld für den eigenen Grund.
5. Richten Sie einen festen Weg für Standpunkt und Widerspruch der betroffenen Person ein.
6. Lassen Sie Datenschutzerklärung und Rechtsgrundlagen prüfen und beteiligen Sie die Beschäftigtenvertretung frühzeitig.

Wenn Sie den Ablauf mit uns umsetzen möchten, beginnt die Arbeit mit dem Workshop. Dort erfassen wir die Entscheidungspunkte und die nötigen Verbindungen. Für einen einzelnen Prozess mit menschlicher Freigabe eignet sich danach der Pilot Claude A mit einem KI-Agenten für einen Prozess. Danach folgen die Activation im Fachbereich und der laufende Betrieb.