KI-Halluzinationen entstehen, weil ein Sprachmodell die wahrscheinlichste Fortsetzung eines Textes berechnet. Ob diese Fortsetzung stimmt, schlägt es nicht nach. Fehlt eine Information, schreibt das Modell trotzdem eine flüssige Antwort. Ihr Team erkennt solche Fehler zuverlässig nur mit festen Prüfungen: Herkunft, Fundstelle, Aktualität, Gegenprobe und Detailabgleich.
Eine KI-Halluzination ist ein überzeugend formuliertes Ergebnis eines KI-Modells, das sachlich falsch ist oder nicht durch die zugrunde liegenden Daten gedeckt ist. Statt von Halluzination sprechen manche auch von Konfabulation. Google Cloud beschreibt KI-Halluzinationen knapp als falsche oder irreführende Ergebnisse, die KI-Modelle erzeugen.
Auch Claude ist davon betroffen. Anthropic schreibt in der Claude-Hilfe zu falschen oder irreführenden Antworten, Claude könne im Bemühen, hilfreich zu sein, gelegentlich falsche Antworten geben. Anthropic nennt das ein Nebenprodukt der heutigen Grenzen generativer KI-Modelle.
Für die Geschäftsführung folgt daraus eine klare Einordnung. Halluzinationen sind kein seltener Programmfehler, den das nächste Update behebt. Die Forschung beschreibt sie als statistisch unvermeidliches Nebenprodukt jedes unvollkommenen generativen Modells. Entscheidend ist daher, ob Ihr Team den Fehler bemerkt, bevor er das Unternehmen verlässt.



