KI-Halluzinationen bei Finanzdaten: So erfinden KI-Systeme keine Zahlen mehr

Ein Controller fragt einen KI-Assistenten nach der Bruttomarge des letzten Quartals. Die Antwort kommt in zwei Sekunden: 61,4 %. Eine saubere Zahl, ein souveräner Ton, auf eine Nachkommastelle formatiert. Das einzige Problem: Niemand findet, woher die 61,4 % stammen. Das Hauptbuch weist 58,9 % aus. Das Modell hat nicht etwa die falsche Zelle gegriffen. Es hat eine Zahl produziert, die nirgendwo je existiert hat.

Das ist eine Halluzination – und im Finanzbereich ist sie keine Marotte. Sie ist der eigentliche Versagensmodus.

Das Unangenehme daran ist, wie plausibel die erfundene Zahl wirkt. Eine halluzinierte Umsatzgröße kommt nicht rot markiert an. Sie kommt im selben ruhigen Satz daher wie die korrekten, oft eingebettet in eine ordentliche Tabelle, oft mit Verweis auf eine Quelle, die etwas leicht anderes aussagt. Das Modell lügt nicht im menschlichen Sinne. Es tut genau das, wofür es gebaut wurde: das wahrscheinlichste nächste Token vorhersagen. Am wahrscheinlichsten ist aber nicht dasselbe wie richtig. Wenn es um Ihre GuV geht, ist genau diese Lücke das ganze Problem.

Was „Halluzination” bei Zahlen tatsächlich bedeutet

Wer Halluzination hört, denkt an ein LLM, das einen erfundenen Rechtsfall oder eine nicht existierende Quellenangabe ausspuckt. Bei Finanzdaten geschieht es leiser und ist gefährlicher, weil Zahlen eine unverdiente Aura der Präzision tragen.

Drei Dinge gehen schief, und sie verstärken sich gegenseitig:

• Fabrikation. Das Modell erzeugt eine Größe, die in keiner Quelle vorkommt. Es hat interpoliert. Es hat per Mustererkennung eine Zahl gegriffen, die sich für ein Unternehmen wie Ihres „nach einer Bruttomarge anfühlt”.
• Fehlzuordnung. Die Zahl ist echt, aber das Modell heftet sie an die falsche Periode, die falsche Einheit oder die falsche Position. Q2 wird als Q3 etikettiert. Die liquiden Mittel einer Tochtergesellschaft werden als Konzern-Cash ausgewiesen.
• Fehlerhafte Rechenoperation. Die Eingangsgrößen stimmen, und das Modell errechnet dennoch die falsche Summe – weil große Sprachmodelle Zahlen als Text tokenisieren und Arithmetik per Mustererkennung nachbilden, statt sie tatsächlich zu berechnen. Den Mechanismus haben wir in warum Ihre KI bei Finanzmathematik falsch rechnet seziert.

Hinzu kommt ein spezifisch tabellarisches Versagen. Finanzdaten leben in Rastern. Forschung zum tabellarischen Schlussfolgern – darunter Arbeiten aus der FAITH-Linie zur Bewertung der Treue bei Frage-Antwort-Systemen über Tabellen – fördert immer wieder dieselbe Schwäche zutage: Modelle verlieren den Überblick, welche Zeile zu welcher Spalte gehört, besonders in dichten Aufstellungen mit verbundenen Kopfzeilen, Fußnoten und Zwischensummen. Eine Bilanz ist genau die Art von Dokument, an der sie scheitern. Das Modell liest das richtige Dokument und liefert trotzdem die falsche Zelle.

Die Belege sind längst keine Randnotiz mehr

Eine Zeit lang ließ sich das als Kinderkrankheit abtun. Das ist vorbei.

Die Halluzinationsraten der stärksten Allzweckmodelle sind bei Benchmark-Aufgaben in den niedrigen einstelligen Prozentbereich gefallen, doch zwei Tatsachen verderben die Beruhigung. Erstens: „Niedrig” ist nicht null, und eine Fehlerquote von 2 % über ein Board-Deck mit hundert Zahlen bedeutet, dass Sie regelmäßig falsche Zahlen ausliefern. Zweitens: Die Fehlerquoten steigen außerhalb sauberer Benchmark-Bedingungen steil an – bei unaufgeräumten Finanzdokumenten aus der Praxis und bei längeren Schlussfolgerungsketten. Manche auf Schlussfolgern ausgelegten Modelle halluzinieren bei bestimmten Aufgaben sogar mehr statt weniger, weil mehr Inferenzschritte mehr Gelegenheiten zum Abdriften bedeuten.

Die operative Realität deckt sich mit dem Labor. Umfrage um Umfrage unter Daten- und Analyseteams zeigt: Die große Mehrheit hat sich mindestens einmal die Finger daran verbrannt, dass KI-Werkzeuge ungenaue oder erfundene Daten produziert haben. Sind die Eingangsdaten nicht abgestimmt, hat das Modell keine belastbare Referenz, an der es sich verankern kann – also konfabuliert es eine plausible.

Und die Fehler sind nicht akademisch. Die Warngeschichten, die unter Finanzpraktikern kursieren, gleichen sich: eine halluzinierte Kennzahl, die durch die Due Diligence rutschte, bis jemand die Quelle prüfte; eine selbstbewusste Prognose, gebaut auf einer Zahl, die das Modell erfunden hatte; eine Board-Zahl, die nicht mit dem Hauptbuch übereinstimmte. Einen dieser Fälle schildern wir in die 15-Millionen-Lektion – eine einzige verwirrte Größe, die wenige Tage vor Abschluss einer Finanzierungsrunde auftauchte. Das Muster ist immer dasselbe: Die Zahl sah richtig aus, also prüfte sie niemand – bis der Einsatz eine Prüfung erzwang.

Warum Ihre üblichen Sicherheitsnetze das nicht abfangen

Wären Halluzinationen offensichtlich falsch, wäre die Sache keine Frage. Sie würden den Unsinn erkennen und weitermachen. Gefährlich sind sie gerade deshalb, weil sie den ersten Blick bestehen.

Drei Abwehrmaßnahmen, zu denen man greift, und warum jede für sich genommen zu kurz greift:

„Wir überprüfen das Ergebnis einfach.” Überprüfung funktioniert, wenn Fehler sichtbar sind. Eine halluzinierte 61,4 % neben vierzig korrekten Größen ist nicht sichtbar. Sie müssten jede Zahl von Hand neu herleiten – womit der Sinn, überhaupt KI einzusetzen, dahin ist. Stichproben finden die offensichtlichen Fehler und übersehen die plausiblen. Die plausiblen sind die teuren.

„Wir nutzen Retrieval, also ist es in unseren Dokumenten verankert.” Retrieval hilft. Es genügt nicht. Das richtige Dokument zu ziehen verrät Ihnen, woher eine Zahl stammen sollte. Es garantiert nicht, dass das Modell die richtige Zelle liest, sie der richtigen Periode zuordnet oder anschließend korrekt rechnet. Naive retrieval-gestützte Aufbauten bleiben an einer Genauigkeitsobergrenze hängen, die weit unter dem liegt, was Finanzfunktionen brauchen – und sie übergeben die finale Berechnung weiterhin dem Modell, das schlecht im Rechnen ist. Diese Lücke nehmen wir in RAG für Finanzen reicht nicht auseinander.

„Neuere Modelle halluzinieren weniger.” Langsam, im Durchschnitt, unter Benchmark-Bedingungen. Aber Sie arbeiten nicht mit Durchschnitten. Sie arbeiten mit dem konkreten Quartalsabschluss, bei dem das Modell zwei Einheiten verwechselt hat. Eine niedrigere Grundrate ist willkommen – und sie ist keine Kontrolle. Sie können „das Modell liegt meistens richtig” nicht als Fußnote ins Board-Protokoll schreiben.

Die ehrliche Bilanz: Prompting, Überprüfung und Modell-Upgrades senken die Häufigkeit halluzinierter Zahlen. Keine davon liefert das, was ein CFO tatsächlich braucht – die Gewissheit, für jede einzelne Größe zu wissen, dass sie korrekt ist, und beweisen zu können, woher sie stammt.

Die einzige Absicherung, die trägt: die KI in einem abgestimmten Modell verankern

Hier liegt der Umdenkpunkt. Hören Sie auf, das Sprachmodell bei Zahlen vertrauenswürdig machen zu wollen. Es wird es nicht sein, denn es ist das falsche Werkzeug für Arithmetik und Zuordnung. Legen Sie stattdessen darunter eine Schicht, die vertrauenswürdig ist, und lassen Sie das Modell gegen diese arbeiten.

Diese Schicht ist ein abgestimmtes Finanzmodell: eine einzige Quelle der Wahrheit, die mit dem Hauptbuch übereinstimmt. Kein Stapel Dokumente, den die KI durchwühlt. Ein einziges, strukturiertes, abgestimmtes Modell, in dem Umsatz gleich Umsatz ist, die Zwischensummen aufgehen und jede Größe an ihre Quelltransaktion gebunden ist.

Mit dieser Schicht verändert sich das Verhalten der KI in drei Punkten:

1. Sie ruft ab, statt zu erfinden. Wenn die Antwort auf „Wie hoch war die Bruttomarge” ein konkreter Wert in einem abgestimmten Modell ist, besteht die Aufgabe der KI darin, ihn abzurufen – nicht etwas Margenartiges zu erzeugen. Sie haben den Spielraum zum Konfabulieren entfernt. Steht die Größe nicht im Modell, lautet die ehrliche Antwort „nicht verfügbar” und nicht eine Schätzung.
2. Sie rechnet deterministisch. Margen, Wachstumsraten, Runway, Szenariorechnungen – nichts davon sollte durch den Token-Vorhersager laufen. Eine deterministische Engine führt die Arithmetik auf geprüften Eingangsgrößen aus und liefert jedes Mal dieselbe Antwort. Das Modell orchestriert und erklärt. Es rechnet nicht.
3. Jede Zahl lässt sich bis zur Quelle zurückverfolgen. Weil jede Größe an die Transaktionen und Aufstellungen gebunden ist, aus denen sie stammt, können Sie auf jedes Ergebnis klicken und die Herkunftskette sehen. Genau das macht die Antwort gegenüber einem Wirtschaftsprüfer, einem Investor oder dem Board belastbar. Nachvollziehbarkeit behandeln wir als erstrangige Anforderung in Prüfpfade für KI im Finanzbereich aufbauen.

Genau das baut Rexfin. Es bindet sich an Ihre Buchhaltungs- und Finanzdatenplattformen an oder an hochgeladene Aufstellungen, stimmt alles zu einem Modell ab, das mit dem Hauptbuch übereinstimmt, und stellt dieses Modell dann der KI bereit – für Abruf, deterministische Berechnung, Was-wäre-wenn-Szenarien und Erkenntnisse, die sich bis zur Quelle zurückverfolgen lassen. Die KI darf nützlich sein. Sie darf Ihre Zahlen nicht erfinden.

Wie der gute Zustand konkret aussieht

Wenn Sie irgendeine KI für den Finanzbereich bewerten, ist die Messlatte einfach zu benennen und schwer vorzutäuschen. Für jede Größe, die sie ausweist, sollten Sie alle folgenden Fragen mit Ja beantworten können:

• Existiert diese Zahl in einem abgestimmten Modell, das mit dem Hauptbuch übereinstimmt, oder hat das Modell sie aus dem Nichts erzeugt?
• Wurde die Berechnung von einer deterministischen Engine durchgeführt oder vom Sprachmodell?
• Kann ich auf die Größe klicken und die Quelldokumente sowie den Rechenweg sehen?
• Sagt das System ausdrücklich Bescheid, wenn die Daten nicht vorliegen, statt zu raten?

Ein Werkzeug, das diese Messlatte nicht nimmt, weist Ihre Zahlen nicht aus. Es improvisiert sie mit exzellenter Grammatik. Das tiefergehende Kategorienargument, warum dieser ganze Stack überhaupt existieren muss, finden Sie in unserer Säule zu der Zuverlässigkeitsschicht für KI im Finanzbereich.

Das Fazit

Halluzination bei Finanzdaten ist kein Fehler, den das nächste Modell-Release stillschweigend behebt. Sie ist eine strukturelle Folge davon, dass man ein Text-Vorhersagesystem zum Rechner und zum führenden System machen will. Sie lösen das nicht, indem Sie dem Modell stärker vertrauen. Sie lösen es, indem Sie dem Modell nichts zum Erfinden geben – indem Sie es in einer abgestimmten Quelle der Wahrheit verankern, die Rechenarbeit einer deterministischen Engine übertragen und jede Zahl an ihre Quelle binden.

Die skeptische Frage – kann man KI seine Finanzen anvertrauen? – hat eine präzise Antwort: nur so weit, wie Sie nachvollziehen können, was sie Ihnen sagt. Alles andere ist eine selbstbewusste Schätzung.

Wenn Sie Zahlen sehen möchten, die mit dem Hauptbuch übereinstimmen und sich bis zur Quelle zurückverfolgen lassen, buchen Sie eine Demo und bringen Sie eine Zahl mit, die Sie normalerweise doppelt prüfen müssten.