Konfidenzwerte reichen nicht: Wie echte Verankerung in der KI-Finanzwelt aussieht

Ein Modell teilt Ihnen mit, es sei zu 94 % sicher, dass die Bruttomarge im dritten Quartal bei 41,2 % lag. Der tatsächliche Wert, der im Hauptbuch steht, beträgt 38,7 %. Der Konfidenzwert war kein Maß für Richtigkeit. Er war ein Maß dafür, wie flüssig die falsche Antwort klang.

In diese Falle tappen die meisten Finanzteams, sobald sie beginnen, einer KI Zahlen anzuvertrauen. Die Ausgabe kommt in einem Prozentwert verpackt, der wie eine Wahrscheinlichkeit aussieht, und ein Prozentwert, der wie eine Wahrscheinlichkeit aussieht, fühlt sich wie eine Kontrolle an. Er ist keine. Ein Konfidenzwert sagt Ihnen, wie sicher sich das Modell seiner eigenen Vermutung ist. Über die Frage, ob diese Vermutung zu Ihren Büchern passt, sagt er nichts.

Was ein Konfidenzwert tatsächlich misst

Große Sprachmodelle sind zuverlässig fehlkalibriert, und der vorherrschende Fehlermodus ist Selbstüberschätzung. Dieses Muster zeigt sich über eine breite Palette von Aufgaben, Modellen und Datensätzen hinweg. Und selbst wenn ein Modell bei einem sauberen Prompt, der seiner Trainingsverteilung entspricht, gut kalibriert wirkt, ist diese Kalibrierung fragil und bricht in dem Moment zusammen, in dem die Eingabe von dem abweicht, was das Modell im Training gesehen hat. Finanztabellen weichen ständig ab: verbundene Zellen, fußnotenbereinigte Zwischensummen, gemischte Einheiten, neu dargestellte Vergleichswerte.

Darunter liegt ein noch beunruhigenderer Befund. Jüngere Arbeiten zur Halluzinationserkennung im Finanzbereich zeigen, dass eine hohe Token-Konfidenz paradoxerweise ein höheres Halluzinationsrisiko vorhersagen kann, nicht ein geringeres. Das Modell tritt genau in den falschen Momenten am bestimmtesten auf. Der Reflex, Antworten nach dem Prinzip „Zeig mir nur Kennzahlen mit über 90 % Konfidenz” zu filtern, kann also bevorzugt die Erfindungen nach oben spülen.

Das ist das Kernproblem, wenn man selbstberichtete Sicherheit als Kontrollinstanz einsetzt. Sie bitten dasselbe System, das den Fehler erzeugt hat, den Fehler auch noch zu benoten. Ein kritischer CFO würde eine solche Anordnung von einem menschlichen Analysten niemals akzeptieren, und es gibt keinen Grund, sie von einem Modell zu akzeptieren.

Unsicherheitsbewusstes RAG ist besser – und reicht trotzdem nicht

Der naheliegende nächste Schritt besteht darin, das Modell nicht mehr nach seiner Einschätzung zu fragen, sondern es in abgerufenen Dokumenten zu verankern. Retrieval-Augmented Generation reduziert Halluzinationen tatsächlich gegenüber dem Verlassen auf das parametrische Gedächtnis des Modells, und die neueren unsicherheitsbewussten Varianten sind ein echter Fortschritt. Eine Studie von 2026 zu bayesianischem RAG baute epistemische Unsicherheit über Monte-Carlo-Dropout direkt in den Abruf ein und berichtete von rund 93 % Antwortgenauigkeit sowie einer etwa 27 % besseren Unsicherheitskalibrierung gegenüber den Baselines bei den 10-K-Berichten von Apple und Microsoft. Das ist echter Fortschritt und verdient ernst genommen zu werden.

Doch lesen Sie genau, was dort gemessen wird. Quantifiziert wird, wie unsicher der Abruf ist – also ob das System die richtige Textstelle herausgezogen hat. Es ist damit nicht garantiert, dass die Zahl innerhalb dieser Textstelle korrekt gelesen wurde, dass die richtige Position aus einer Tabelle mit vierzig Zeilen ausgewählt wurde oder dass die anschließend durchgeführte Rechnung stimmt. Die meisten RAG-Implementierungen, selbst gute, produzieren weiterhin überzeugend klingende Antworten, wenn die zugrunde liegenden Daten unvollständig, irrelevant oder schlicht falsch aus einer Tabelle ausgelesen wurden. Die Verankerung über den Abruf beantwortet die Frage „Woher stammt das?”. Sie beantwortet nicht die Frage „Stimmt die Rechnung?” oder „Passt das zum Hauptbuch?”.

Speziell bei Tabellen liegt in dieser Lücke der eigentliche Schaden. Ein 10-K-Bericht besteht überwiegend aus Tabellen. Das Modell kann die richtige Seite abrufen, sie sauber zitieren – und Ihnen trotzdem den Umsatz aus dem falschen Segment liefern, weil sich zwei Spalten eine Überschrift teilten. Die Konfidenz wird hoch sein. Die Quellenangabe wird stimmen. Die Zahl wird falsch sein.

Echte Verankerung knüpft an die Bücher an, nicht an den Prompt

Hier liegt die entscheidende Unterscheidung. Es gibt zwei Arten von Verankerung, und die Branche wirft sie fortwährend durcheinander.

Die erste ist die textuelle Verankerung: Die Antwort verweist zurück auf ein Quelldokument. Nützlich, aber ein PDF ist nicht die Quelle der Wahrheit. Es ist eine Wiedergabe der Quelle der Wahrheit, und oft eine verschlechterte.

Die zweite ist die Hauptbuch-Verankerung: Jede Kennzahl, die die KI zurückgibt, löst sich auf zu einem bestimmten Wert in einem abgestimmten Finanzmodell, das mit dem Hauptbuch zusammenpasst. Nicht eine Textstelle, die die Kennzahl erwähnt – die Kennzahl selbst, mit Herkunftsnachweis bis hinunter zu den Transaktionen, die sie erzeugt haben.

Echte Verankerung ist die zweite Art. Sie verändert, was „prüfen” bedeutet. Statt sich zu einem Quelldokument durchzuklicken und eine Tabelle erneut zu lesen, die das Modell bereits falsch gelesen hat, folgt der Controller der Zahl nach unten durch die Berechnung, die sie hervorgebracht hat, bis zu den abgestimmten Salden, auf denen sie beruht. Das Vertrauen ist nicht probabilistisch. Es ist strukturell.

Das ist der Ansatz der abgestimmten Zahlen, um den herum Rexfin aufgebaut ist. Wir verbinden Ihre Buchhaltungs- und Finanzdatensysteme – QuickBooks, Xero, NetSuite, Sage, Ihr Data Warehouse – oder Ihre hochgeladenen Abschlüsse und bauen daraus ein abgestimmtes Modell, das mit dem Hauptbuch zusammenpasst. Die KI berechnet die Marge nicht. Sie ruft Kennzahlen aus diesem Modell ab und lässt die Berechnung durch eine deterministische Engine laufen, so wie es eine Formel in einer kontrollierten Tabellenkalkulation täte. Die Antwort kommt mit einer nachvollziehbaren Spur zurück: welche Salden, welche Perioden, welche Anpassungen. Kein Konfidenzwert erforderlich, denn der Weg ist überprüfbar.

Warum deterministische Berechnung die letzte Lücke schließt

Die Eingaben zu verankern ist notwendig, aber nicht hinreichend. Die andere Hälfte ist die Rechnung selbst. Selbst wenn ein LLM die richtigen Zahlen abruft, kann es eine Kennzahl noch immer umkehren, eine absolute Veränderung mit einer prozentualen verwechseln oder das Vorzeichen bei einem Mittelabfluss umdrehen – eine Fehlerklasse, die wir in Die KI hatte die Zahlen richtig und die Rechnung falsch behandeln. Ein Konfidenzwert wird das nicht abfangen. Die Rechnung wirkte für das Modell plausibel, also trat es bestimmt auf.

Jede Berechnung durch eine deterministische Engine zu leiten, beseitigt diesen Fehler vollständig. Dieselben Eingaben liefern stets dasselbe Ergebnis, und das Ergebnis ist reproduzierbar. Genau das macht eine Kennzahl vor einem Vorstand oder einem Wirtschaftsprüfer verteidigbar: nicht dass das Modell sicher war, sondern dass die Berechnung reproduziert und nachvollzogen werden kann. Aus derselben Logik gehören KI-Zahlen erst nach einer Prüfung in eine Vorstandspräsentation – und genau deshalb sollte die Prüfung eine strukturelle Kontrolle sein und kein Bauchgefühl-Check über einen Prozentwert.

Das Fazit

Konfidenzwerte und unsicherheitsbewusster Abruf sind beide real, beide verbessern sich, und beide reichen für sich allein nicht aus. Sie sagen Ihnen, wie das Modell über seine Antwort denkt und wo es nachgeschaut hat. Keiner von beiden sagt Ihnen, dass die Antwort zu Ihren Büchern passt. Für die Finanzwelt ist das die einzige Frage, die zählt.

Hören Sie auf, KI-Ausgaben danach zu bewerten, wie sicher das Modell klingt. Bewerten Sie sie danach, ob sich jede Kennzahl zu einem abgestimmten Modell auflöst, deterministisch berechnet und bis zur Quelle nachvollziehbar. Das ist eine Verankerung, die Sie verteidigen können.

Wenn Sie sehen möchten, wie eine Kennzahl aussieht, die bis ganz hinunter zum Hauptbuch zusammenpasst, buchen Sie eine Demo und bringen Sie eine Zahl mit, die Ihr letztes KI-Tool falsch hatte.