Warum Ihre KI bei den Zahlen danebenliegt

LLMs lesen Zahlen als Text und arbeiten mit Mustererkennung statt zu rechnen. Hier das zugrunde liegende Tokenisierungsproblem – und die einzige Lösung, die wirklich trägt.

Bitten Sie ein Spitzenmodell, zwei große Primzahlen zu multiplizieren, und beobachten Sie, was passiert. Forscher stellten fest, dass die Genauigkeit von GPT-4 bei einer Multiplikationsaufgabe regelrecht abstürzte, je größer die Zahlen wurden – von nahezu fehlerfrei bei kleinen Operanden bis hin zu fast null bei größeren. Dasselbe Modell. Dieselbe Prompt-Struktur. Das Einzige, was sich änderte, war die Anzahl der Ziffern.

Das sollte jede Finanzverantwortliche und jeden Finanzverantwortlichen beunruhigen, denen man erzählt hat, ein KI-Assistent könne „die Zahlen schon übernehmen”. Denn dieses Versagen ist nicht zufällig. Es ist strukturell. Und es hat einen Namen.

Das Modell sieht Ihre Zahl gar nicht

Große Sprachmodelle verarbeiten Text nicht so, wie Sie es tun. Bevor auch nur ein einziges Gewicht aktiv wird, wird Ihre Eingabe in Tokens zerlegt – die Bruchstücke, die das Modell tatsächlich liest. Bei Wörtern funktioniert das meist gut. Bei Zahlen ist es ein leises Desaster.

Je nach Tokenizer wird „1.234.567” womöglich in „1”, „.”, „234”, „.”, „567” oder eine andere willkürliche Gruppierung zerlegt. Das Modell sieht keine eine Million zweihundertvierunddreißigtausend. Es sieht eine Folge von Fragmenten ohne jeden inhärenten Zahlenwert. Es gibt keine Stellenwert-Spalte. Es gibt kein Konzept davon, dass die linke Ziffer das Millionenfache der rechten wert ist. Die arithmetische Struktur, die ein Zehnjähriger versteht, fehlt in der Repräsentation schlicht.

Was also tut das Modell, wenn Sie es bitten, zu addieren, zu multiplizieren oder eine Marge zu berechnen? Es sagt den nächsten Token voraus. Es gleicht Muster ab gegen die Milliarden von Zahlenfolgen, die es im Training gesehen hat. Wenn Ihr Beispiel etwas Häufigem ähnelt, trägt das Muster und die Antwort wirkt korrekt. Wenn nicht, produziert das Modell eine selbstbewusste, plausible, falsche Zahl.

Das ist der Teil, der Ihnen den Schlaf rauben sollte. Es ist kein Taschenrechner, der gelegentlich irrt. Es ist ein Textvorhersager, der einen Taschenrechner imitiert.

„Plausibel” ist das eigentliche Problem

Ein defekter Taschenrechner wirft einen Fehler aus. Ein LLM tut etwas Schlimmeres: Es liefert eine Zahl, die exakt wie eine richtige aussieht. Richtige Größenordnung. Richtiges Format. Richtiges Selbstbewusstsein. Falscher Wert.

Unabhängige Evaluierungen von LLMs bei mehrstufigen Rechen- und Abstimmungsaufgaben haben wiederholt Fehlerquoten gezeigt, die – je nach Benchmark und Größe der Operanden – bei den schwierigeren deterministischen Problemen grob im Bereich von 40 bis 50 Prozent liegen. Der genaue Wert verschiebt sich mit dem Test. Die Richtung nicht. Treiben Sie ein Modell über die Muster hinaus, die es auswendig gelernt hat, verschlechtert sich die Genauigkeit – häufig drastisch.

Im Finanzbereich ist diese Verschlechterung keine akademische Kuriosität. Ihre Zahlen sind groß. Ihre Berechnungen sind verkettet: Umsatz speist die Bruttomarge, die Bruttomarge das EBITDA, das EBITDA eine Covenant-Kennzahl. Ein einziger mustererkannter Fehler am Anfang pflanzt sich durch alles Nachgelagerte fort, und weil jeder Zwischenwert plausibel aussieht, fällt es niemandem auf – bis ein Aufsichtsratsmitglied die Rechnung von Hand nachprüft.

Warum „nimm ein größeres Modell” Sie nicht rettet

Der naheliegende Reflex ist, auf das nächste, klügere Modell zu warten. Das wird das Problem nicht lösen. Das Problem ist nicht die Intelligenz. Es ist die Architektur. Ein leistungsfähigeres Modell ist ein besserer Mustererkenner, aber es bleibt Mustererkennung. Es tokenisiert „47.318.902” weiterhin in bedeutungslose Fragmente. Skalierung macht die Imitation überzeugender, nicht die Arithmetik korrekter.

Schlimmer noch: Bei manchen „Reasoning”-Modellen wirkt der Trend in die andere Richtung – sie schaffen über längere Ketten hinweg mehr Stellen, an denen sich selbstbewusste Fehler einschleichen können. Mehr Schritte, mehr Angriffsfläche dafür, dass ein falscher Zwischenwert richtig aussieht.

Wenn eine Zahl korrekt sein soll, muss das Modell aufhören, sie zu erraten.

Die Lösung: Hören Sie auf, das LLM rechnen zu lassen

Die verlässliche Architektur ist fast schon langweilig einfach zu formulieren. Lassen Sie das Sprachmodell tun, worin es wirklich gut ist – Ihre Frage verstehen, die Absicht interpretieren, Ergebnisse erklären – und übergeben Sie die eigentliche Berechnung an etwas, das nicht rät.

Dieses Etwas ist eine deterministische Engine. Echte Arithmetik, ausgeführt von Code, der jedes Mal dasselbe Ergebnis berechnet, gegen verifizierte Werte. Das LLM ruft die richtigen Eingangsdaten ab und rahmt das Ergebnis ein. Es berührt die Rechnung selbst nie.

Das ist der Kern dessen, wie Rexfin funktioniert. Wir binden Ihre Buchhaltungs- und Finanzdaten an – QuickBooks, Xero, NetSuite, Sage, ein Data Warehouse oder hochgeladene Abschlüsse – und bauen daraus ein einziges abgestimmtes Finanzmodell, das sich auf das Hauptbuch zurückführen lässt. Wenn Sie oder Ihre KI eine Frage stellen, werden die Werte aus diesem Modell abgerufen und von einer deterministischen Berechnungs-Engine ermittelt – nicht Token für Token generiert. Jedes Ergebnis lässt sich bis zu seiner Quellzeile zurückverfolgen. Sie können auf eine Zahl klicken und sehen genau, woher sie stammt und wie sie hergeleitet wurde.

Aus diesem Aufbau folgen zwei Dinge:

Die Arithmetik ist korrekt, weil Code sie ausgeführt hat – nicht, weil eine Wahrscheinlichkeitsverteilung zufällig an der richtigen Stelle gelandet ist.
Die Eingangsdaten sind korrekt, weil sie abgestimmt sind – gegen Ihre Bücher, bevor die KI sie überhaupt zu Gesicht bekommt. So rechnen Sie nicht präzise auf Datenmüll.

Der zweite Punkt zählt genauso viel wie der erste. Ein perfekter Taschenrechner auf nicht abgestimmten Daten liefert Ihnen immer noch eine falsche, gut formatierte Antwort. Vertrauen erfordert beide Hälften: verifizierte Eingangsdaten und deterministische Berechnung. Das ist die Argumentation, die sich durch diesen gesamten Themenschwerpunkt zum Aufbau einer verlässlichen Finanzmodellierungsschicht für KI zieht.

Was das in der Praxis bedeutet

Stellen Sie sich den Unterschied vor. Sie fragen: „Wie hoch war unsere gemischte Bruttomarge im letzten Quartal, und wie verändert sie sich, wenn die Herstellkosten um 6 Prozent steigen?”

Ein nicht verankertes LLM zieht ein paar Zahlen aus seinem Kontext, versucht die Prozentrechnung im Kopf und reicht Ihnen eine Marge. Vielleicht stimmt sie. Sie haben keine Möglichkeit, das zu wissen, ohne es nachzurechnen.

Ein verankertes, deterministisches System ruft die abgestimmten Umsatz- und Herstellkostenwerte ab, führt die Margenberechnung im Code aus, wendet die 6-prozentige Verschiebung als echtes Was-wäre-wenn-Szenario an und zeigt Ihnen das Ergebnis – mit Quellenangabe für jeden einzelnen Eingangswert. Sie vertrauen nicht der Arithmetik der KI. Sie vertrauen Ihrem eigenen Hauptbuch, mit einem Taschenrechner obendrauf und einem angehängten Prüfpfad.

Das ist eine grundlegend andere Haltung. Die eine verlangt, dass Sie glauben. Die andere lässt Sie nachprüfen.

Die ehrlichen Grenzen

Nichts davon macht das Sprachmodell selbst zu einer finanziellen Instanz – und das sollte es auch nicht vorgeben zu sein. Das Modell kann eine mehrdeutige Frage immer noch missverstehen oder ein Ergebnis schlecht einordnen. Was sich ändert: Die Zahlen darunter sind kein Ratespiel mehr. Eine Interpretation lässt sich überprüfen. Arithmetik muss, wenn sie deterministisch und nachvollziehbar ist, nicht von Hand neu hergeleitet werden.

Wenn Sie nur die Rechnung in Ordnung bringen, die Daten aber unsauber lassen, haben Sie das Problem nur zur Hälfte gelöst. Genau deshalb lässt sich das 95-Prozent-Problem bei GenAI-Piloten so oft auf die Datenreife zurückführen, und genau deshalb reicht selbst ein Code-Interpreter für sich allein nicht aus – ein Punkt, den man verstehen sollte, bevor man darauf vertraut, dass Retrieval Ihre Finanzantworten fundiert.

Das Fazit ist unverblümt: Ein LLM, das Ihre Zahlen falsch wiedergibt, ist nicht kaputt – es funktioniert genau so, wie es konstruiert wurde. Die Lösung ist kein klügerer Rater. Es ist ein System, das gar nicht erst raten muss.

Möchten Sie deterministische Berechnung auf Ihren eigenen abgestimmten Zahlen erleben? Demo buchen – und bringen Sie eine Zahl mit, bei der Sie eine KI schon einmal beim Danebenliegen ertappt haben.