Wann KI die falsche Antwort ist und was Ihr Unternehmen stattdessen braucht

Wann KI die falsche Antwort ist, lässt sich vor dem Projektstart klar sagen. Das gilt immer dann, wenn ein Ablauf festen Regeln folgt, mit einem Auslöser und einer Aktion auskommt oder auf lückenhaften Daten beruht. In diesen Fällen fahren Sie mit sauberen Prozessen, klaren Feldern und klassischer Automatisierung in Zoho besser als mit einem KI-Assistenten.

Ein KI-Assistent ist in diesem Beitrag ein Sprachmodell wie Claude, das Texte liest, Antworten formuliert und über angebundene Werkzeuge Aktionen in Ihren Systemen auslöst. Klassische Automatisierung ist eine fest hinterlegte Regel im System. Wenn ein bestimmtes Ereignis eintritt, folgt immer dieselbe Aktion.

Der Unterschied ist keine Geschmacksfrage. Eine Regel liefert bei gleicher Eingabe immer dasselbe Ergebnis. Ein Sprachmodell formuliert jede Antwort neu und kann sich dabei irren. Für viele Aufgaben ist genau diese Beweglichkeit wertvoll. Für Aufgaben mit genau einer richtigen Antwort ist sie ein Risiko.

Dieser Leitfaden behandelt drei Fälle: Regelwerke, einfache Automatisierung und dünne Daten. Dazu kommen ein durchgerechnetes Beispiel zur Fristberechnung, eine Entscheidungstabelle und eine Prüfliste für die Zeit vor dem Projektstart. Am Ende steht, wo ein Assistent auf Claude trotzdem die richtige Wahl ist.

Ein Regelwerk mit genau einer richtigen Antwort sollte als feste Regel im System laufen. Sprachmodelle machen bei Faktenfragen messbar Fehler. Das zeigt eine Studie der Europäischen Rundfunkunion (EBU), über die tagesschau.de im Oktober 2025 berichtet hat.

Die EBU ist ein Zusammenschluss von 68 öffentlich-rechtlichen Sendern aus 56 Ländern. Sie hat die populärsten KI-Systeme mit hunderten Faktenfragen getestet, etwa zu historischen Ereignissen, wissenschaftlichen Erkenntnissen und aktuellen Nachrichten. Je nach Themenbereich lag die Fehlerquote zwischen 15 und 40 Prozent. Keine der getesteten KIs schnitt fehlerfrei ab.

Die Beispiele sind anschaulich. Laut dem Bericht von tagesschau.de wusste Microsoft Copilot im Test nicht, dass Schweden in der NATO ist, und ChatGPT gab an, Papst Franziskus lebe noch. Solche Fehler fallen bei bekannten Fakten auf. Bei einer Rabattstaffel, einer Zuständigkeitsregel oder einer Frist fallen sie oft erst auf, wenn der Schaden entstanden ist.

Die EBU empfiehlt deshalb, Chatbots niemals blind zu vertrauen und wichtige Informationen immer gegenzuprüfen. Für ein Unternehmen folgt daraus eine einfache Rechnung. Wenn jede Antwort ohnehin geprüft werden muss, ist die Regel günstiger. Sie wird einmal geprüft und arbeitet danach bei jedem Fall gleich.

Eine Fristberechnung ist das klassische Beispiel für eine Aufgabe, die keine KI braucht. Das Zehnte Buch Sozialgesetzbuch (SGB X) regelt das Verwaltungsverfahren im Sozialbereich. Es betrifft Unternehmen, die mit Sozialbehörden oder Leistungsträgern schriftlich verkehren und dort Fristen einhalten müssen.

Zwei Regeln aus dem SGB X lassen sich direkt in ein System übertragen:

• Fällt das Ende einer Frist auf einen Sonnabend, einen Sonntag oder einen gesetzlichen Feiertag, endet sie mit Ablauf des nächstfolgenden Werktages. Das gilt nicht, wenn die Behörde unter Hinweis auf diese Vorschrift einen bestimmten Tag als Fristende mitgeteilt hat.
• Ein Antrag auf Wiedereinsetzung ist innerhalb von zwei Wochen nach Wegfall des Hindernisses zu stellen. Nach einem Jahr seit Ende der versäumten Frist ist er ausgeschlossen, außer bei höherer Gewalt.

So sieht die Umsetzung in Zoho CRM aus. Ein Datumsfeld hält fest, wann das Hindernis entfallen ist. Eine Regel addiert zwei Wochen. Fällt das Ergebnis auf einen Samstag, Sonntag oder einen gesetzlichen Feiertag aus einer Feiertagsliste, die für das maßgebliche Bundesland gepflegt ist, schiebt die Regel das Datum auf den nächsten Werktag. Das gilt nicht, wenn die Behörde unter Hinweis auf § 26 Abs. 3 SGB X einen bestimmten Tag als Fristende mitgeteilt hat.

Ein zweites Datumsfeld hält das Ende der versäumten Frist fest. Liegt das Ergebnis mehr als ein Jahr danach, legt die Regel statt einer Fristaufgabe eine Prüfaufgabe für einen Menschen an. Andernfalls legt sie eine Aufgabe mit Fälligkeit an.

Ein Fall zur Probe: Entfällt das Hindernis an einem Samstag, endet die Zweiwochenfrist rechnerisch wieder an einem Samstag. Die Regel verschiebt das Fristende auf den Montag. Ist dieser Montag ein gesetzlicher Feiertag, wird es der Dienstag.

Ein Sprachmodell müsste dieselbe Rechnung jedes Mal neu herleiten. Hinzu kommt der Wissensstand. Das SGB X wurde zuletzt durch Artikel 6 des Gesetzes vom 21. Juli 2026 geändert. Die aktuellen großen Claude-Modelle haben laut Anthropics Modellübersicht einen verlässlichen Wissensstand bis Juni 2026.

Eine Regel im System pflegen Sie dagegen selbst und wissen genau, welcher Stand gilt.

Braucht ein Ablauf keine Abwägung, ist ein KI-Agent zusätzlicher Aufwand ohne Nutzen. Typische Fälle sind ein Formulareingang, der einen Datensatz anlegt, eine Statusänderung, die eine Aufgabe erzeugt, oder ein Ticket, das nach einem festen Feld einem Team zugeordnet wird. Hier steht vorher fest, was passieren soll.

Ein KI-Agent ist ein Sprachmodell, das selbstständig mehrere Schritte plant und über Werkzeuge ausführt. Was das im Einzelnen bedeutet, erklärt unser Beitrag zu Aufbau, Grenzen und Kontrolle von KI-Agenten. Für einen festen Auslöser mit fester Aktion ist diese Selbstständigkeit nicht nötig.

Die Dokumentation zu den Routinen in Claude Code zeigt, welche Fragen ein Agent zusätzlich aufwirft. Routinen sind gespeicherte Konfigurationen aus Prompt, Repositories und Connectoren, die automatisch laufen. Laut Anthropics Dokumentation zu Routinen gilt:

• Routinen laufen ohne Rückfrage, abgesehen von einigen Aktionen an Artefakten.
• Ein grüner Status bedeutet nur, dass die Sitzung ohne Infrastrukturfehler lief, nicht dass die Aufgabe gelungen ist.
• Routinen gehören zum einzelnen claude.ai-Konto und werden nicht mit Kollegen geteilt.
• Die Funktion befindet sich in einer Forschungsvorschau, Verhalten und Grenzen können sich ändern.

Für anspruchsvolle Aufgaben lassen sich diese Punkte mit Freigaben und Protokollen beherrschen. Für eine Wenn-dann-Regel schaffen sie nur zusätzliche Prüfpflichten.

Dünne Daten sind Datenbestände, in denen wichtige Felder fehlen, uneinheitlich gepflegt oder veraltet sind. Ein KI-Assistent macht solche Lücken nicht sichtbar, sondern füllt sie häufig. Das liegt an der Arbeitsweise von Sprachmodellen.

Eine Halluzination ist laut tagesschau.de der Fall, in dem die KI sich fehlende Informationen zusammenreimt. Sie erzeugt statistisch plausible Wortketten, auch wenn diese faktisch falsch sind. Mitunter erfindet sie sogar Quellen oder verknüpft Fakten, die nicht zusammengehören. Der Bericht nennt als zweite Fehlerquelle veraltete Trainingsdaten.

Ein Beispiel aus dem Vertrieb: Im CRM ist das Feld Branche nur bei einem Teil der Firmen gepflegt. Sie fragen den Assistenten, welche Kunden aus der Fertigung kommen. Er antwortet flüssig und vollständig wirkend. Ob er Lücken aus Firmennamen erraten hat, sehen Sie der Antwort nicht an.

Die bessere Reihenfolge ist deshalb: erst das Feld zum Pflichtfeld machen, Auswahlwerte festlegen und den Bestand bereinigen. Danach beantwortet eine gespeicherte Ansicht oder ein Bericht die Frage exakt. Ob später ein Assistent auf diesen Daten aufsetzt, entscheiden Sie anschließend. Er arbeitet dann auf einer Grundlage, die Sie selbst geprüft haben.

Jeder Aufruf eines Sprachmodells kostet Geld und öffnet eine zusätzliche Angriffsfläche. Eine feste Regel im eigenen System verursacht beides nicht in dieser Form. Das spielt besonders bei Abläufen mit vielen gleichartigen Fällen eine Rolle.

Die Preise rechnet Anthropic nach Token ab. Ein Token ist ein Textbaustein, aus dem das Modell Eingaben und Antworten zusammensetzt. Laut Modellübersicht kostet Claude Sonnet 5.5 2 US-Dollar je Million Eingabe-Token und 10 US-Dollar je Million Ausgabe-Token. Claude Haiku 4.5 kostet 1 und 5 US-Dollar, Claude Opus 5.5 4 und 20 US-Dollar. Bei einer Regel, die tausendfach im Monat greift, entfallen diese laufenden Kosten vollständig.

Das zweite Thema ist Prompt Injection, also das Einschleusen von Anweisungen über Inhalte, die das Modell liest. Anthropic schreibt in der Dokumentation zum Computer-Use-Werkzeug offen, dass Claude unter Umständen Befehlen aus Inhalten folgt, auch wenn sie den Anweisungen des Nutzers widersprechen. Anthropic setzt dort Klassifikatoren ein, die solche Versuche markieren.

Eine Regel, die nur ein Statusfeld oder ein Datum auswertet, liest keine Anweisungen aus Freitext. Sie lässt sich durch eine präparierte E-Mail nicht umlenken. Wo kein Freitext verstanden werden muss, ist das ein klarer Vorteil.

Die folgende Tabelle ordnet typische Aufgaben der passenden Lösung zu. Maßgeblich ist jeweils, ob es genau eine richtige Antwort gibt, ob Freitext verstanden werden muss und ob die Daten vollständig sind.

Viele Prozesse enthalten beide Arten von Schritten. Dann übernimmt der Assistent das Verstehen des Textes und setzt ein Feld. Ab diesem Feld arbeitet wieder eine feste Regel weiter.

Ein KI-Assistent lohnt sich dort, wo Menschen bisher Texte lesen, verstehen und einordnen. Das sind Aufgaben ohne feste Formulierung: Kundenanfragen in eigenen Worten, Anhänge in unterschiedlichen Formaten, Nachrichten in mehreren Sprachen. Eine Regel scheitert hier, weil sich das Anliegen nicht an einem Feld ablesen lässt.

Laut Anthropics Modellübersicht verarbeiten alle aktuellen Claude-Modelle Text- und Bildeingaben, beherrschen mehrere Sprachen und können Werkzeuge nutzen. Damit kann ein Assistent etwa eine eingehende Anfrage lesen, ihr Thema erkennen und das Ergebnis als Feldwert an Zoho Desk übergeben. Die eigentliche Weiterleitung übernimmt dann die bestehende Regel im Ticketsystem.

Diese Arbeitsteilung hat einen Vorteil. Das Modell trifft nur die Entscheidung, die tatsächlich Sprachverständnis erfordert. Alles, was danach folgt, bleibt nachvollziehbar und prüfbar. Fehler des Modells zeigen sich an einer einzigen Stelle, dem gesetzten Feld, und lassen sich dort messen.

Wie solche kombinierten Abläufe für mittelständische Unternehmen aufgebaut werden, beschreibt unsere Seite zur KI-Automatisierung für den Mittelstand. Der Grundsatz bleibt gleich: KI für das Verstehen, Regeln für das Ausführen.

In Deutschland sprechen oft rechtliche Pflichten für feste Regeln statt für ein Sprachmodell. Das gilt besonders für Berufe mit Schweigepflicht und für Abläufe, in denen Fristen rechtliche Folgen haben. Wer hier automatisiert, muss jeden Datenweg begründen können.

Ein Beispiel ist die Anwaltschaft. Nach § 43a BRAO ist der Rechtsanwalt zur Verschwiegenheit über alles verpflichtet, was ihm in Ausübung seines Berufes bekannt geworden ist. Er muss seine Beschäftigten in Textform zur Verschwiegenheit verpflichten und über die strafrechtlichen Folgen einer Pflichtverletzung belehren. Personen, die in einer Hilfstätigkeit mitwirken, stehen den Beschäftigten gleich.

Daraus folgt eine praktische Abwägung. Eine Regel, die nur Felder im eigenen System prüft, übermittelt keine Mandatsinhalte zur Auswertung an ein Sprachmodell. Ein KI-Assistent tut das, sobald Mandatsinhalte Teil der Anfrage sind. Das kann zulässig sein, muss aber vorher vertraglich und organisatorisch geklärt werden. Branchenspezifische Hinweise finden Sie auf unserer Seite zur KI in der Anwaltskanzlei.

Bei Fristen kommt die Nachweisbarkeit hinzu. Eine feste Regel lässt sich dokumentieren und gegen das Gesetz prüfen. Bei einem Modell können Sie nur das Ergebnis prüfen, nicht den Rechenweg. Einen Überblick über die rechtlichen Rahmenbedingungen gibt unsere Seite zum KI-Recht für Unternehmen in Deutschland.

Ob ein Prozess KI braucht, entscheidet sich an wenigen Fragen, die Sie vor jeder Toolauswahl beantworten können. Bei Svennis nehmen wir vor jedem KI-Projekt den Ablauf Schritt für Schritt auf und markieren jede Entscheidung, die sich als feste Regel formulieren lässt. Diese Schritte bauen wir zuerst als klassische Automatisierung in Zoho, und erst für die verbleibenden Schritte prüfen wir einen Assistenten.

Diese fünf Prüffragen helfen bei der Einordnung:

1. Gibt es für jeden Fall genau eine richtige Antwort, die sich aus Feldern ableiten lässt? Dann genügt eine Regel.
2. Lässt sich der Ablauf als „wenn dies, dann das“ beschreiben? Dann genügt klassische Automatisierung.
3. Sind die nötigen Felder vollständig und einheitlich gepflegt? Wenn nicht, kommt zuerst die Datenbereinigung.
4. Muss Freitext in wechselnden Formulierungen oder Sprachen verstanden werden? Dann ist ein Assistent sinnvoll.
5. Dürfen die Inhalte rechtlich an ein Sprachmodell übermittelt werden? Wenn das ungeklärt ist, bleibt der Schritt vorerst bei der Regel oder beim Menschen.

Wer diese Fragen ehrlich beantwortet, stellt oft fest, dass der größere Teil eines Prozesses ohne KI auskommt. Der verbleibende Teil ist dafür klar umrissen. Genau dort bringt ein Assistent dann messbaren Nutzen.

Der erste Schritt ist eine schriftliche Aufnahme des Prozesses, nicht die Auswahl eines Modells. Notieren Sie jeden Schritt, wer ihn heute erledigt und auf welche Daten er sich stützt. Markieren Sie danach mit den Prüffragen, welche Schritte Regeln sind und welche Sprachverständnis brauchen.

Gehen Sie anschließend in dieser Reihenfolge vor:

• Pflichtfelder und Auswahlwerte festlegen, die die Regeln brauchen.
• Den Datenbestand für diese Felder bereinigen.
• Die festen Regeln im System anlegen und mit echten Fällen testen.
• Erst dann den Schritt mit Freitext an einen Assistenten übergeben und dessen Ergebnis als Feldwert messen.

Wenn Sie unsicher sind, wie bereit Ihre Daten und Abläufe für KI sind, hilft der KI-Readiness-Check für Ihr Unternehmen. Er ordnet ein, wo Sie mit sauberen Prozessen schneller vorankommen und wo ein Assistent tatsächlich Arbeit abnimmt. So entscheiden Sie auf Grundlage Ihrer eigenen Prozesse, nicht auf Grundlage der Erwartungen an die Technik.