RAG allein reicht im Finanzbereich nicht – es fehlt der Rechenlayer

Ein Retrieval-System kann Ihrer KI exakt die Seite des 10-Q liefern, auf der der Umsatz ausgewiesen ist, exakt die Zelle im Export, exakt die Zeile im Hauptbuch. Und die KI nennt Ihnen trotzdem die falsche Bruttomarge.

Genau diese Lücke ist das eigentliche Problem, wenn man RAG zur Antwort für den Finanzbereich erklärt.

Retrieval-Augmented Generation hat sich seinen Ruf redlich verdient. Setzen Sie eine Vektorsuche auf ein Sprachmodell, füttern Sie es mit Ihren Dokumenten – und es erfindet keine Fakten mehr aus dem Nichts. Für „Was besagt unsere Rückerstattungsrichtlinie?“ oder „Fassen Sie den Lagebericht zusammen“ funktioniert das. Das Modell verankert seine Antwort in etwas Realem, und in der Regel können Sie zur Quelle zurückklicken. Für viele Wissensaufgaben genügt das.

Der Finanzbereich ist keine gewöhnliche Wissensaufgabe. Im Finanzbereich geht es um Arithmetik, die aufgehen muss.

Retrieval beantwortet „woher“, nicht „stimmt es“

Hier wird ein entscheidender Unterschied übersehen. RAG ist sehr gut in Sachen Herkunftsnachweis. Es kann Ihnen sagen, woher eine Zahl stammt. Im Rechnen ist es nicht gut, denn die Berechnung läuft nach wie vor durch das Sprachmodell – und das Sprachmodell ist ein Textvorhersager, kein Tabellenkalkulationsprogramm.

So entsteht ein eigentümliches Fehlerbild. Die KI ruft den korrekten Umsatz ab. Sie ruft die korrekten Umsatzkosten ab. Dann berechnet sie die Bruttomarge, indem sie vorhersagt, welche Tokens wahrscheinlich als Nächstes folgen – und landet bei einer Zahl, die plausibel aussieht und um ein relevantes Maß danebenliegt. Jeder Eingangswert war richtig. Das Ergebnis ist falsch. Und weil die Eingangswerte tatsächlich aus Ihren Daten abgerufen wurden, kommt die Antwort in Quellenangaben verpackt daher, die sie vertrauenswürdig erscheinen lassen.

Das ist schlimmer als ein offensichtlicher Fehler. Ein offensichtlicher Fehler wird entdeckt. Eine selbstbewusst zitierte falsche Zahl landet im Board-Deck.

Wer das erforscht, stößt immer wieder an dieselbe Wand. Text einzubetten ist leicht, weil Wörter eine Bedeutung tragen, die Vektoren erfassen können. Tabellarische Finanzdaten sind schwierig, weil die Zahlen selbst kaum semantisches Signal enthalten. Eine Spalte mit Zahlen ist für ein Embedding-Modell schlicht eine Spalte mit Zahlen. Aktuelle Arbeiten zu Benchmarks für Text-und-Tabellen-Retrieval kamen zu dem Ergebnis: Selbst wenn das System exakt die richtigen Zeilen lieferte, konnten die Modelle die Tabelle nicht zuverlässig auswerten, um den Trend abzuleiten – und die Autoren folgerten, die Aufgabe brauche einen echten Rechenschritt, nicht besseres Retrieval. (T²-RAGBench bringt das direkt auf den Punkt.)

Lesen Sie das ein zweites Mal. Besseres Retrieval löst das Rechenproblem nicht. Das Retrieval war bereits korrekt.

Die Genauigkeitsgrenze, mit der niemand wirbt

Naives RAG über Finanzdokumente stagniert bei numerischen Frage-Antwort-Aufgaben tendenziell irgendwo im Bereich von 85 bis 92 Prozent – je nachdem, wie Sie messen. Das klingt respektabel, bis man sich vor Augen führt, was es bedeutet.

Im Finanzbereich ist eine Genauigkeit von 92 Prozent keine „Zwei minus“. Eine Studie zur Finanzprüfung hat es pointiert formuliert: Eine Trefferquote von 99 Prozent erzeugt null operatives Vertrauen, wenn der eine Prozent Fehler eine umgekehrte Vorzeichenkonvention in der Bilanz ist. Eine Marge, die positiv sein sollte, kommt negativ zurück. Eine Verbindlichkeit wird als Vermögenswert gelesen. Der Gesamtwert sieht großartig aus. Die konkrete Antwort ist unbrauchbar – und Sie haben keine Möglichkeit zu erkennen, welche Antworten in den schlechten Anteil fielen.

Diese Grenze hat strukturelle Ursachen, keine, die sich per Prompt beheben ließen:

• Zahlen lassen sich schlecht einbetten. Die semantische Suche findet, was ähnlich liest, nicht, was korrekt rechnet.
• Mehrstufiges Schlussfolgern driftet ab. Jeder arithmetische Zwischenschritt durch das Modell ist eine weitere Gelegenheit, zu runden, Ziffern zu vertauschen oder einen Schritt zu halluzinieren.
• Keine Abstimmung. Das Retrieval zieht eine Zahl aus einer Quelle, ohne zu prüfen, ob sie mit derselben Zahl an anderer Stelle im Buchwerk übereinstimmt.
• Mehrdeutigkeit bei Format und Lokalisierung. Sind 1,250 eintausendzweihundertfünfzig oder eins Komma zwei fünf? Das Modell rät.

Keines dieser Probleme wird gelöst, indem man mehr Dokumente indexiert oder ein klügeres Basismodell kauft. Es sind Eigenschaften, die entstehen, wenn man einen Textvorhersager mit Buchhaltung beauftragt.

Was die Zahl tatsächlich bewegt

Die Forschung, die diese Grenze durchbricht, hat eine Gemeinsamkeit. Sie hört auf, das Sprachmodell rechnen zu lassen.

Zwei Schritte sind entscheidend. Erstens: Machen Sie das Retrieval metadaten- und unsicherheitsbewusst, damit das System nicht nur weiß, was es gefunden hat, sondern auch, wie sicher es sein sollte. Bayessches, unsicherheitsbewusstes Retrieval, angewendet auf Finanz-QA, reduzierte Halluzinationen gegenüber Standardmethoden um rund 28 Prozent und förderte zugleich präzise Werte zutage, wo herkömmliches Retrieval scheiterte. (Bayesian RAG berichtet von einer Reduktion um 27,8 Prozent.) Zitatpflichtige und feingranulare Verifikationsansätze steigern die Zuverlässigkeit weiter, indem sie eine Antwort in atomare Aussagen zerlegen und jede einzelne gegen die Quelle prüfen, statt die Gesamtantwort als Block zu bewerten.

Zweitens – und diesen Teil überspringen die meisten Teams: Leiten Sie die eigentliche Berechnung an eine deterministische Engine. Das Modell entscheidet, welche Werte es benötigt und welche Operation auszuführen ist. Eine separate, prüfbare Engine führt die Operation aus, auf verifizierten Eingangswerten, jedes Mal auf dieselbe Weise. Das Modell addiert die Zahlen nie. Es orchestriert; es rechnet nicht.

Kombinieren Sie beides, ändert sich das Bild. Metadatenbewusstes Retrieval plus ein deterministischer Rechenlayer hebt die Zuverlässigkeit über 93 Prozent – und, was wichtiger ist, macht die falschen Antworten sichtbar, statt sie zu verbergen. Wenn die Engine deterministisch über abgestimmte Eingangswerte rechnet, lässt sich jedes Ergebnis über die Berechnung zur Quellzahl bis hin zum Hauptbuch zurückverfolgen. Die Zahl ist nicht nur zitiert. Sie ist reproduzierbar.

Warum das abgestimmte Modell zuerst kommen muss

Darunter liegt ein Schritt, den das Retrieval allein nicht leisten kann. Das Retrieval zieht eine Zahl. Es prüft nicht, ob die Zahl über Ihre Systeme hinweg mit sich selbst übereinstimmt. Ihre Abrechnungsplattform, Ihr Buchhaltungsexport und Ihr Data Warehouse können für denselben Monat jeweils einen leicht abweichenden Umsatz ausweisen – und das Retrieval reicht der KI bereitwillig den Wert weiter, den es zuerst gefunden hat.

Deshalb liefert ein deterministischer Rechenlayer nur dann etwas, wenn er auf einem abgestimmten Modell läuft: einer einzigen Quelle der Wahrheit, die mit dem Hauptbuch aufgeht, bevor eine KI sie überhaupt berührt. Wir haben das Argument für dieses Fundament in Single Source of Truth: Warum abgestimmte Daten der eigentliche Schlüssel für KI im Finanzbereich sind dargelegt. Und es geht Hand in Hand mit der grundlegenderen Frage, warum KI bei Finanzmathematik falsch rechnet – einer Eigenschaft, die darin wurzelt, wie diese Modelle Zahlen überhaupt lesen.

Auf dieser Architektur läuft Rexfin. Verbinden Sie Ihre Buchhaltungs- und Finanzquellen, bauen Sie ein abgestimmtes Modell und lassen Sie die KI anschließend Werte daraus abrufen und gegen eine deterministische Engine rechnen, statt die Mathematik selbst zu erledigen. Retrieval für die Herkunft. Abstimmung für das Vertrauen. Deterministische Berechnung für eine Arithmetik, die aufgeht. Die ausführlichere Argumentation findet sich im Pillar zum Zuverlässigkeitslayer für KI im Finanzbereich.

Das Fazit

RAG hat das richtige Problem auf der falschen Ebene gelöst. Es hat KI-Antworten nachvollziehbar gemacht, was der Finanzbereich dringend brauchte. Aber nachvollziehbar und korrekt sind nicht dasselbe, und Retrieval allein stößt genau dort an seine Grenze, wo der Finanzbereich es sich am wenigsten leisten kann. Dass eine Zahl zitiert wird, macht die Rechnung nicht richtig. Eine deterministische Engine, die auf abgestimmten Daten läuft, schon.

Wenn Ihre KI Quellen zitiert, Sie den berechneten Werten aber dennoch nicht trauen können, ist der Rechenlayer das fehlende Stück. Buchen Sie eine Demo und wir zeigen Ihnen den Unterschied zwischen einer zitierten Zahl und einer Zahl, die aufgeht.