Zum Inhalt springen
SVENNISAIWe speak Claude.
Blog · Anthropic

Nutzungsrichtlinie von Anthropic: was mit Claude im Unternehmen verboten ist

Ein Leitfaden für alle, die interne KI-Regeln schreiben: Verbote, Hochrisiko-Bereiche und Pflichten für Kundenchats und Agenten, direkt aus den Rechtstexten von Anthropic.

9 Min. Lesezeit
Beitrag · 9 Min. Lesezeit
Abstrakte Flächen mit klaren Grenzlinien, innerhalb derer sich Formen geordnet bewegen und an Schwellen anhalten

Nutzungsrichtlinie von Anthropic: was mit Claude im Unternehmen verboten ist

Die Nutzungsrichtlinie von Anthropic legt fest, was mit Claude verboten ist und welche Anwendungen strengere Auflagen haben. Für Unternehmen zählen drei Regeln. Empfehlungen über einzelne Personen in Bereichen wie Kredit, Beschäftigung oder Versicherung braucht eine qualifizierte menschliche Prüfung. Kundenchats müssen sich als KI zu erkennen geben. Für Ihre KI-Agenten tragen Sie selbst die Verantwortung.

Die Nutzungsrichtlinie (englisch Usage Policy) ist das Regelwerk, in dem Anthropic beschreibt, wofür seine Produkte und Dienste genutzt werden dürfen. Sie können die Usage Policy von Anthropic im Original nachlesen. Ergänzend gelten für Geschäftskunden die Commercial Terms, also die gewerblichen Vertragsbedingungen.

Dieser Leitfaden richtet sich an die Person, die im Unternehmen die internen Regeln für KI schreibt. Er zeigt, was die beiden Rechtstexte für Support- und Vertriebsassistenten sowie für KI-Agenten bedeuten. Ein KI-Agent ist ein System, das mit Claude eigenständig Schritte ausführt, etwa Daten liest oder Datensätze anlegt. Die Grenzen der Richtlinie gehören in die Planung, bevor ein solches System gebaut wird. Nachträglich eingebaute Freigaben kosten mehr Zeit als von Anfang an vorgesehene.

Für wen die Nutzungsrichtlinie gilt: Mitarbeitende, Entwickler und Ihre Endkunden

Die Nutzungsrichtlinie von Anthropic gilt für jeden, der Eingaben an Anthropics Produkte oder Dienste sendet. Anthropic nennt alle diese Personen „users“. Dazu zählen Nutzer der Apps, Entwickler über die API, Kunden über Cloud-Anbieter und autorisierte Wiederverkäufer. Auch Endnutzer von Produkten, in die Claude eingebaut ist, fallen darunter.

Für Ihr Unternehmen heißt das: Wenn Ihre Kunden mit einem Assistenten auf Ihrer Website schreiben, gilt die Richtlinie auch für deren Eingaben. Die Commercial Terms erlauben ausdrücklich, mit den Diensten Produkte für eigene Kunden und Endnutzer zu betreiben. Die Verantwortung für den Einsatz bleibt dabei bei Ihnen.

Wichtig ist die Trennung zwischen Verbraucher- und Geschäftsangeboten. Laut Commercial Terms sind die dort geregelten Dienste nicht für Verbraucher bestimmt. Verbraucherangebote wie Claude.ai unterliegen den Consumer Terms of Service.

Die Aktualisierungen der Datenschutzrichtlinie im Anthropic Privacy Center ab dem 8. Juli 2026 betreffen nur Verbraucherkonten, also Claude Free, Pro und Max. Für Claude Team, Enterprise und die Claude Developer Platform gelten sie nicht.

Halten Sie deshalb in Ihrer internen Regel fest, welche Konten im Unternehmen zulässig sind. Wer privat angelegte Verbraucherkonten dienstlich nutzt, bewegt sich unter anderen Bedingungen als das Team. Eine Einführung in das Produkt selbst finden Sie unter Was ist Claude.

Drei Kategorien der Richtlinie und die ausdrücklichen Verbote für Unternehmen

Die Nutzungsrichtlinie von Anthropic ist in drei Kategorien gegliedert. Für Ihre interne Regel sollten Sie diese Gliederung übernehmen, damit Fachabteilungen jede Anwendung zuordnen können.

  • Universal Usage Standards: die allgemeinen Nutzungsstandards.
  • High-risk Use Case Requirements: zusätzliche Anforderungen für Hochrisiko-Anwendungen.
  • Additional Use Case Guidelines: ergänzende Leitlinien für bestimmte Anwendungsfälle.

Einige Verbote betreffen Unternehmen ganz direkt. Die Richtlinie untersagt, Ausgaben von Claude ohne vorherige Genehmigung durch Anthropic zum Training eines KI-Modells zu verwenden. Anthropic nennt dafür als Beispiele „model scraping“ und „model distillation“. Ebenso verboten ist es, Zugang zu Claude auf nicht autorisiertem Weg weiterzuverkaufen oder durchzureichen.

Die Commercial Terms ergänzen diese Liste. Kunden dürfen die Dienste nicht nutzen, um ein konkurrierendes Produkt zu bauen oder konkurrierende KI-Modelle zu trainieren. Ein Weiterverkauf der Dienste ist nur mit ausdrücklicher Zustimmung von Anthropic erlaubt. Für die meisten Unternehmen sind diese Punkte kein Hindernis. Sie gehören trotzdem in die interne Regel, etwa für Entwicklungsteams, die mit Ausgaben experimentieren.

Ein weiterer Begriff ist für Kundenanwendungen relevant. Anthropic definiert Minderjährige als alle Personen unter 18 Jahren, unabhängig vom jeweiligen Rechtsraum. Wer einen Assistenten für ein breites Publikum betreibt, sollte diese Altersgrenze kennen.

Hochrisiko-Bereiche: wann eine Empfehlung über eine Person strengere Regeln auslöst

Die Hochrisiko-Anforderungen der Nutzungsrichtlinie greifen, wenn Claude eine Empfehlung in einem festgelegten Bereich liefert. Anthropic nennt diese Bereiche „High-risk Areas“. Eine solche Empfehlung heißt in der Richtlinie „High-risk AI Recommendation“.

Die Richtlinie zählt folgende Hochrisiko-Bereiche auf:

  • Recht
  • Medizin und Zugang zur Gesundheitsversorgung
  • Finanzen, Kredit und Versicherung
  • Wohnen
  • Beschäftigung
  • Bildung und Qualifikationsnachweise
  • öffentliche Leistungen und Dienste
  • Rechtsstatus und behördliche Entscheidungen

Für Unternehmen bedeutet die Liste vor allem eines: Viele alltägliche Prozesse berühren einen dieser Bereiche. Die Vorauswahl von Bewerbungen fällt unter Beschäftigung. Die Entscheidung über Ratenzahlung für einen Privatkunden fällt unter Kredit. Eine Kulanzentscheidung bei einer Versicherungsleistung fällt unter Versicherung.

Zentral ist der Begriff der qualifizierten Person. Eine qualifizierte Person ist laut Richtlinie jemand mit der Ausbildung oder Erfahrung, die Ausgabe im jeweiligen Fachgebiet zu bewerten. Verlangt das geltende Recht für die Tätigkeit eine Zulassung, muss die Person diese besitzen. Ein Sachbearbeiter ohne Fachkenntnis erfüllt diese Anforderung also nicht, nur weil er auf „Freigeben“ klickt. Wie das in der Personalarbeit konkret aussieht, zeigt der Beitrag zu Claude in der Personalauswahl.

Menschliche Prüfung im Hochrisiko-Fall: Verantwortung, Änderungsbefugnis und Hinweis an Betroffene

Bei Hochrisiko-Anwendungen verlangt Anthropic zwei Dinge. Eine qualifizierte Person bleibt für das verantwortlich, was geliefert oder entschieden wird. Und die betroffene Person weiß, dass KI an der Empfehlung oder Entscheidung beteiligt war.

Was die Prüfung leisten muss

Die qualifizierte Person muss die Empfehlung inhaltlich prüfen, bevor sie als Rat weitergegeben oder für eine Entscheidung genutzt wird. Sie braucht dafür die Befugnis, die Empfehlung zu ändern. Ein reiner Bestätigungsschritt ohne Eingriffsmöglichkeit genügt dieser Anforderung nicht. Planen Sie im System deshalb eine Bearbeitungsmaske, keine bloße Ja-Nein-Schaltfläche.

Was die betroffene Person erfahren muss

Wer eine Auskunft oder Entscheidung auf Grundlage einer Hochrisiko-Empfehlung erhält, muss klar darüber informiert werden, dass KI sie erzeugt hat. Sie müssen dabei weder Anthropic noch Claude noch das verwendete Modell nennen. Ein Satz wie „Diese Einschätzung wurde mit KI-Unterstützung erstellt und von einer Fachkraft geprüft“ reicht als Grundlage.

Wo die Anforderungen nicht greifen

Die Richtlinie nimmt zwei Fälle ausdrücklich aus. Internes Entwerfen, Recherchieren, Zusammenfassen oder Analysieren ist ausgenommen, solange es nicht die endgültige Empfehlung ist. Ausgenommen sind auch Geschäftsabläufe, die nicht über eine bestimmte Person beraten oder entscheiden. Eine Zusammenfassung von Vertriebszahlen fällt also nicht darunter, eine Bonitätsempfehlung zu einem einzelnen Kunden sehr wohl.

Empfehlungen über Personen brauchen eine prüfende Person mit Änderungsbefugnis, Kundenchats zwei Hinweise. Empfehlung im Hochrisikobereich / Kundenchat oder Agent. Auslöser: Empfehlung über eine Person, etwa zu Kredit oder Beschäftigung / Direkter Ko

Kundenchat und KI-Agenten: Offenlegung, Faktenhinweis und Verantwortung für jede Aktion

Jeder Chatbot und jeder KI-Agent, der direkt mit externen Nutzern kommuniziert, muss offenlegen, dass dort eine KI antwortet. Diese Pflicht steht in der Nutzungsrichtlinie von Anthropic. Der Hinweis muss mindestens zu Beginn jeder Chatsitzung oder in der Produktoberfläche erscheinen.

Die Commercial Terms fügen eine zweite Pflicht hinzu. Kunden müssen ihre Nutzer darauf hinweisen, dass sie sich auf Tatsachenbehauptungen in den Ausgaben nicht ohne eigene Prüfung verlassen sollten. Für einen Website-Assistenten heißt das: zwei kurze Hinweise im Chatfenster, einer zur KI und einer zur Faktenprüfung. Beide lassen sich vor dem Start in den Text des Begrüßungsfensters schreiben.

Bei Agenten verschiebt sich die Verantwortung deutlich. Laut Nutzungsrichtlinie sind Sie verantwortlich, dass Agenten, die Sie bauen oder einsetzen, die Richtlinie einhalten. Das schließt Aktionen ein, die ein Agent über Werkzeuge, Browser oder angebundene Systeme ausführt. Wenn ein Agent über einen connector eine E-Mail versendet oder einen Datensatz ändert, ist das Ihre Handlung.

Für produzierende Unternehmen gibt es einen eigenen Begriff. Die Richtlinie definiert „High-risk Physical Actions“ als Fälle, in denen Hardware ohne menschliche Freigabe auf Ausgaben reagiert. Gemeint ist Hardware, die sich durch geteilte Räume bewegt, verletzende Kraft ausüben kann oder Industrieprozesse und Sicherheitssysteme steuert. Wer Claude-Ausgaben an Maschinen weitergibt, sollte diesen Abschnitt im Original lesen.

Beispiel: Supportassistent und Vertriebsassistent von Anfang an innerhalb der Richtlinie planen

Ein typisches Vorhaben zeigt, wie die Nutzungsrichtlinie die Planung bestimmt. Ein Unternehmen will einen Assistenten auf der Website, der Anfragen beantwortet und Tickets in Zoho Desk anlegt. Dazu kommt ein Vertriebsassistent, der in Zoho CRM Angebote entwirft. Später soll ein Agent zusätzlich Ratenzahlungen für Privatkunden vorschlagen.

Die folgende Tabelle ordnet jede geplante Funktion ein und nennt die Pflicht, die ins Design gehört:

FunktionEinordnung nach RichtliniePflicht im Design
Website-Chat beantwortet KundenfragenDirekter Kontakt mit externen NutzernKI-Hinweis zu Sitzungsbeginn, Hinweis zur Faktenprüfung
Antwortentwurf im Ticket, Mitarbeitende sendenInternes EntwerfenKeine Hochrisiko-Auflagen, Versand durch Menschen
Angebotsentwurf im CRMInternes EntwerfenFreigabe vor Versand nach eigener Regel
Agent legt Tickets und Datensätze anAgentenhandlung über angebundene SystemeSie verantworten jede Aktion, Rechte eng begrenzen
Vorschlag zur Ratenzahlung für einen PrivatkundenHochrisiko-Bereich KreditQualifizierte Person prüft mit Änderungsbefugnis, Kunde erfährt KI-Einsatz

Die Tabelle zeigt den Kern der Planung. Die ersten vier Funktionen lassen sich mit Hinweisen und Rechten absichern. Die fünfte braucht einen eigenen Prüfschritt mit Fachkraft und eine Mitteilung an den Kunden. Diesen Schritt plant man vor dem Bau, weil er Oberfläche, Rollen und Ablauf verändert. Wie ein sauberer Freigabeweg für Angebote aussieht, beschreibt der Beitrag Angebote mit Claude erstellen.

Folgen eines Verstoßes: Verwarnung, Drosselung, Sperrung oder Kündigung des Zugangs

Vermutet Anthropic einen Verstoß gegen die Nutzungsrichtlinie, kann das Unternehmen abgestuft reagieren. Die Richtlinie nennt eine Verwarnung sowie das Drosseln, Einschränken, Aussetzen oder Beenden des Zugangs. Für ein Unternehmen, dessen Kundenservice auf Claude läuft, ist schon eine Drosselung ein Betriebsrisiko.

Nicht jede Sperre ist ein Verstoß. Anthropic setzt Schutzmechanismen in Echtzeit ein, die einzelne Anfragen blockieren können. Laut Richtlinie bedeutet eine solche Blockade für sich genommen keinen Verstoß. Ihre interne Regel sollte deshalb vorsehen, dass Mitarbeitende Blockaden melden, ohne Sanktionen fürchten zu müssen. So erkennen Sie, ob ein Ablauf grundsätzlich falsch angelegt ist.

Die Vertragstexte ändern sich mit der Zeit. Anthropic kann die Commercial Terms jederzeit aktualisieren. Änderungen werden 30 Tage nach der Veröffentlichung oder nach einer Mitteilung an den Kunden wirksam. Für die Kündigung aus Zweckmäßigkeit muss Anthropic ebenfalls 30 Tage im Voraus informieren.

Benennen Sie daher eine verantwortliche Person, die Änderungen an Nutzungsrichtlinie und Commercial Terms verfolgt. Diese Person prüft bei jeder Änderung, ob bestehende Assistenten und Agenten angepasst werden müssen. Eine Prüfung pro Quartal und bei jeder Mitteilung von Anthropic ist ein praktikabler Rhythmus.

Was die Rechtstexte für Unternehmen in Deutschland, Österreich und der Schweiz bedeuten

Für Unternehmen im Europäischen Wirtschaftsraum, in der Schweiz und im Vereinigten Königreich ist Anthropic Ireland, Limited der Vertragspartner. Das regeln die Commercial Terms von Anthropic. Kunden mit Sitz anderswo schließen mit Anthropic, PBC ab.

Auch der Streitfall ist für diese Kunden europäisch geregelt. Streitigkeiten entscheidet ein Einzelschiedsrichter in Dublin nach den UNCITRAL-Schiedsregeln. Es gilt irisches Recht. Vor dem Schiedsverfahren haben die Parteien 45 Tage für eine einvernehmliche Lösung nach Zugang der Streitmitteilung.

Für Ihre Datenschutzbeauftragten sind drei Punkte entscheidend:

  • Daten aus den Diensten werden nach dem Data Processing Addendum (DPA) verarbeitet, das Teil der Commercial Terms ist.
  • Anthropic darf keine Modelle mit Kundeninhalten aus den Diensten trainieren.
  • Sie behalten alle Rechte an Ihren Eingaben und besitzen die Ausgaben.

Zwei weitere Klauseln gehören in die Prüfung durch die Rechtsabteilung. Die Haftung jeder Partei ist auf die Gebühren der vergangenen 12 Monate begrenzt, mit Ausnahme der Freistellungspflichten. Anthropic darf Ihren Namen und Ihr Logo öffentlich als Kunden nennen, Sie können dem aber widersprechen. Die Nutzungsrichtlinie von Anthropic ersetzt dabei keine gesetzlichen Pflichten in Ihrem Land, sie kommt zu ihnen hinzu.

Grenzen der Nutzungsrichtlinie in die eigene KI-Richtlinie übernehmen

Die eigene KI-Richtlinie übersetzt die Vorgaben von Anthropic in Regeln, die Ihre Abteilungen anwenden können. Was Mitarbeitende in Claude eingeben dürfen, behandelt unser eigener Beitrag zur KI-Richtlinie. Hier geht es um die Ergänzung für Systeme, also Assistenten und Agenten.

Diese fünf Punkte gehören in jede Ergänzung:

  1. Einordnung vor dem Bau: Jede neue Anwendung wird vor Projektbeginn einer der drei Kategorien und gegebenenfalls einem Hochrisiko-Bereich zugeordnet.
  2. Prüfrolle benennen: Für jede Hochrisiko-Anwendung steht namentlich fest, welche qualifizierte Person prüft und ändern darf.
  3. Hinweistexte festlegen: Der KI-Hinweis, der Hinweis zur Faktenprüfung und die Mitteilung an Betroffene liegen als freigegebene Texte vor.
  4. Agentenrechte begrenzen: Jeder Agent erhält nur die Rechte in angebundenen Systemen, die sein Ablauf braucht.
  5. Änderungen verfolgen: Eine verantwortliche Person prüft Änderungen an Nutzungsrichtlinie und Commercial Terms und meldet Anpassungsbedarf.

Die Einordnung vor dem Bau ist der wichtigste dieser Punkte. Bei Svennis ordnen wir jeden geplanten Agenten einer Kategorie der Richtlinie zu, bevor wir den ersten connector oder MCP server bauen. Wo diese Zuordnung erst nach dem Bau geschieht, sehen wir, dass Prüfschritte und Hinweistexte in fertige Abläufe gezwängt werden müssen.

Nächste Schritte: Anwendungen erfassen, einordnen und erst dann bauen

Der erste Schritt ist eine vollständige Liste aller geplanten und laufenden KI-Anwendungen im Unternehmen. Notieren Sie zu jeder Anwendung, ob sie mit externen Nutzern spricht und ob sie über eine bestimmte Person berät oder entscheidet. Diese zwei Fragen trennen bereits die meisten unkritischen Fälle von den Hochrisiko-Fällen.

Im zweiten Schritt ordnen Sie jede Anwendung mit der Tabelle aus dem Beispiel ein. Für jeden Hochrisiko-Fall benennen Sie die qualifizierte Person und legen die Mitteilung an Betroffene fest. Für jeden Kundenchat formulieren Sie den KI-Hinweis und den Hinweis zur Faktenprüfung. Prüfen Sie zugleich, ob alle Konten unter den Commercial Terms laufen und nicht als Verbraucherkonten.

Im dritten Schritt übernehmen Sie die Ergebnisse in Ihre KI-Richtlinie und legen fest, wer Änderungen der Rechtstexte verfolgt. Erst danach beginnt der Bau von Assistenten und Agenten.

Wenn Sie diese Einordnung mit Unterstützung erarbeiten wollen, ist der Claude-Workshop zur KI-Planung der passende Einstieg. Er ist der erste von vier Schritten. Danach folgen Pilot Claude A, ein KI-Agent auf Claude für einen Prozess, oder Pilot Claude B, Claude Team für das ganze Team. Anschließend kommen die Activation einer Abteilung und der monatliche Betrieb. Wer bereits Lizenzen hat und das Team strukturiert starten will, findet den Ablauf unter Claude-Team-Einführung.

Quellen

  1. Anthropic: Usage Policy
  2. Anthropic: Commercial Terms of Service
  3. Anthropic Privacy Center: Aktualisierungen unserer Datenschutzrichtlinie
Kostenlos, 30 Minuten

Wählen Sie einen Termin. Bringen Sie den Prozess mit, an den Sie beim Lesen gedacht haben.

Sie erhalten ein klares Ja oder Nein zur Automatisierung mit Claude und den passenden Schritt laut veröffentlichter Preisliste. Sie sprechen mit den Menschen, die die KI-Agenten bauen, nicht mit dem Vertrieb.

Lieber anrufen? +40 722 567 135 · Lieber erst selbst ausprobieren? Zuerst die kostenlose Analyse.

30 Minuten · Video · kostenlos
  1. 1Termin
  2. 2Ihre Angaben
  3. 3Gebucht