Die 15-Millionen-Lektion: Wenn eine halluzinierte Zahl den Deal platzen lässt

Das Term Sheet war unterzeichnet. Die Anwälte entwarfen bereits die Closing-Dokumente. Die Überweisung sollte am Donnerstag eingehen.

Am Montag jagte ein Associate des Lead-Investors den Datenraum des Unternehmens durch einen KI-Assistenten, um für das Partnergremium eine abschließende Kennzahlenübersicht zusammenzustellen. Die KI las eine Zeile in einem Tab mit der Bezeichnung „Wiederkehrender Umsatz Q4” als Jahreswert und baute darauf einen ARR-Wert auf. Das Modell lieferte am Ende rund das Vierfache der tatsächlichen Run-Rate des Unternehmens. Das Wachstum wirkte unwirklich. Die Margen sahen zu gut aus. Der Partner, der den Deal vorangetrieben hatte, erhielt eine Zusammenfassung, die nicht zu dem Modell passte, das das Team zwei Monate zuvor erstellt hatte, und niemand konnte auf die Schnelle sagen, welche Zahl nun stimmte.

Genau diese Lücke, die wenigen Stunden, in denen niemand mit Sicherheit sagen konnte, welche Zahl korrekt war, hat die Runde scheitern lassen. Nicht die aufgeblähte Zahl selbst. Sondern die Tatsache, dass sie sich nicht schnell genug bis zur Quelle zurückverfolgen ließ, um sie zu verteidigen.

Das Unternehmen ist ein fiktives Kompositbeispiel. Der Mechanismus ist es nicht. Eine als Jahreswert gelesene Quartalszahl bläht eine Kennzahl um exakt 400 % auf, und genau dieses Versagen ist in der realen Berichterstattung schon aufgetreten. Ein vielzitiertes Beispiel betraf eine KI-generierte Prognose, die Quartalsumsatz mit einem Jahreswert verwechselte, die zentrale Kennzahl um 400 % aufblähte und dazu beitrug, dass eine Finanzierung wenige Tage vor Closing zerbrach. Wer schon einmal erlebt hat, wie ein Deal an einer Abstimmungsfrage stirbt, weiß, wie plausibel das ist.

Warum die Due Diligence der schlechteste Ort für eine Halluzination ist

Die meisten KI-Fehler lassen sich beheben. Sie erkennen die falsche Zahl, korrigieren sie und machen weiter. Bei der Due Diligence ist das anders, denn sie beruht auf Vertrauen, und Vertrauen ist asymmetrisch. Man braucht Monate, um es aufzubauen, und eine einzige falsche Zahl, um es zu zerstören.

Wenn der Analyst eines Fonds eine Zahl findet, die nicht aufgeht, geht er nicht von einem ehrlichen Werkzeugfehler aus. Er nimmt an, das Modell sei schludrig erstellt, oder schlimmer, dass jemand an den Kennzahlen gedreht hat. Das Gespräch verschiebt sich von „Wie schnell wachsen Sie?” hin zu „Können wir überhaupt irgendetwas in diesem Datenraum glauben?”. So spät im Prozess ist das eine tödliche Verschiebung. Drei Tage vor der Überweisung bekommen Sie keine zweite Chance, Vertrauen zurückzugewinnen.

Hinzu kommt ein Problem zweiter Ordnung, das speziell SaaS betrifft. ARR ist ohnehin ein unscharfer Begriff. Man verwendet ihn sowohl für vertraglich gesicherten jährlich wiederkehrenden Umsatz als auch für die annualisierte Run-Rate, die einen jüngeren Zeitraum auf zwölf Monate hochrechnet. Gründer und Investoren annualisieren Quartale, Monate, manchmal eine einzige starke Woche, und nennen all das ARR. Diese Mehrdeutigkeit ist dokumentiert und gerät zunehmend unter Beobachtung, da überzogene ARR-Angaben im gesamten KI-Startup-Boom Aufmerksamkeit erregen. Ein LLM, das man in einen Datenraum wirft, löst diese Mehrdeutigkeit nicht auf. Es entscheidet sich für eine Lesart, formuliert sie mit voller Überzeugung und macht weiter. Genau diese Überzeugung ist das Gefährliche.

Nicht die Zahl war das Problem. Sondern ihre Herkunft.

Hier die unbequeme Wahrheit für alle, die KI auf Finanzdaten anwenden: Das Modell hat nicht „gelogen”. Es hat eine Beschriftung gemustererkannt, eine plausibel klingende Vermutung über den Zeitraum angestellt und einen flüssigen Output produziert. Halluzinationsraten beim unbeschränkten Einsatz im Finanzbereich werden je nach Aufgabe und Fundierung grob im Bereich von 15 bis 25 Prozent angegeben, und die Fehler ballen sich genau dort, wo Kontext fehlt. Eine Zelle mit der Bezeichnung „Wiederkehrender Umsatz Q4” muss wissen, ob es sich um ein Quartal oder einen annualisierten Wert handelt, ob Abwanderung saldiert ist, ob sie mit dem übereinstimmt, was das Buchhaltungssystem sagt. Nimmt man diesen Kontext weg, erhält man eine selbstbewusste falsche Antwort.

Die Lösung lautet also nicht „Verwenden Sie ein klügeres Modell”. Auch ein klügeres Modell kann nicht wissen, dass die Quartalszelle nicht annualisiert werden darf, denn dieses Wissen steckt nicht im Text. Es steckt in der Struktur der Finanzdaten. Die Lösung besteht darin, die KI auf ein Modell aufzusetzen, in dem jede Zahl ihre Bedeutung und ihre Quelle bereits in sich trägt.

Das ist der gesamte Kerngedanke dieses Themenschwerpunkts zu KI-Halluzinationen bei Finanzdaten: Der belastbare Schutz vor erfundenen Zahlen ist die Verankerung in einem abgestimmten Modell, nicht das bessere Prompting.

Was ein belastbarer Datenraum tatsächlich braucht

Hätte der Associate mit Zahlen gearbeitet, die sich bis zur Quelle zurückverfolgen lassen, wäre der Montag anders verlaufen. Der vierfach überhöhte Wert taucht entweder nie auf, weil der Zeitraum bereits definiert ist, oder er erscheint mit einem Pfad, der per Klick bis zum zugrunde liegenden Buchungssatz zurückführt, und die Abweichung lässt sich in Minuten klären, statt zu einer unbeantwortbaren Frage zu werden.

Drei Eigenschaften machen das möglich.

• Eine abgestimmte Single Source of Truth. Ein einziges Finanzmodell, das mit dem Buchungssystem in Einklang steht, sodass „Wiederkehrender Umsatz Q4” genau eine Bedeutung hat und die KI ihn nicht klammheimlich umdeuten kann. Genau das baut Rexfin aus Ihren Buchhaltungsplattformen oder hochgeladenen Auswertungen auf, bevor irgendeine KI die Daten berührt.
• Deterministische Berechnung statt LLM-Arithmetik. Wird die Kennzahl berechnet, sollte sie durch eine feste Engine laufen und nicht Token für Token von einem Sprachmodell erraten werden. Die Zahl ist reproduzierbar. Fragen Sie zweimal, erhalten Sie dieselbe Antwort. Genau deshalb macht auch „nehmen Sie einfach einen Code-Interpreter” KI im Finanzbereich nicht sicher – für sich allein, denn die Eingaben müssen trotzdem stimmen.
• Nachvollziehbarkeit von der Zelle bis zur Quelle. Jede Zahl, die eine KI meldet, sollte mit dem Dokument, dem Buchungssatz und dem Rechenweg dahinter verknüpft sein. Fragt ein Partner „Wo kommt das her?”, antworten Sie in Sekunden. Genau darum geht es beim Aufbau von Audit-Trails für KI im Finanzbereich, und genau das fehlte in der Geschichte oben.

Nichts davon macht das Modell selbst ehrlicher. Es ändert, was das Modell überhaupt anfassen darf. Die KI ruft geprüfte Zahlen ab und führt Berechnungen gegen eine deterministische Engine aus, sodass der schlimmste denkbare Output „Das habe ich nicht” lautet und nicht ein selbstbewusster 400-%-Fehler in einem sauberen Diagramm.

Was darüber hinaus auf dem Spiel steht

Die Finanzierungsrunde ist die scharfe Kante, aber dasselbe Risiko zieht sich durch Board-Decks, Reportings an Fremdkapitalgeber und Covenant-Berechnungen. Überall, wo eine Zahl mit Ihrem Namen das Haus verlässt, ist eine nicht verankerte KI eine Haftung, die Sie persönlich unterschreiben. Der Sinn der verlässlichen Schicht für Finanzmodellierung besteht darin, dass die Zahlen vertrauenswürdig sind, bevor die KI überhaupt etwas sagt.

Die harte Lektion aus dieser verlorenen Series B lautet nicht „KI ist für den Finanzbereich zu riskant”. Sie lautet, dass KI die Vertrauenswürdigkeit der darunterliegenden Daten erbt und ein nicht abgestimmter Datenraum der KI eine vergiftete Frage in die Hand drückt. Geben Sie ihr ein abgestimmtes Modell und nachvollziehbare Zahlen, und die selbstbewusste, aber falsche Antwort wird weitgehend unmöglich.

Wenn Sie wollen, dass jede Zahl, die eine KI meldet, bis zur Quelle zurückverfolgbar ist, bevor sie einen Investor erreicht, buchen Sie eine Demo, und wir zeigen Ihnen das abgestimmte Modell darunter.