Erklärbarkeit vs. Verifizierbarkeit: Das Vertrauenswort, das jeder KI-Anbieter für Finanzen benutzt (und was ihm fehlt)

Öffnen Sie gerade die Vertrauensseite eines beliebigen FP&A-Anbieters, lesen Sie irgendeine Variante desselben Satzes: Unsere KI ist vollständig nachvollziehbar, nichts ist eine Black Box, jede Zelle lässt sich per Rechtsklick zur Logik dahinter aufschlüsseln. Es gibt CTO-Videoserien mit Titeln wie „Raus aus der Black Box”. Es gibt Glasbox-Diagramme mit kleinen Lupensymbolen über jedem Ergebnis. Die gesamte Kategorie hat sich innerhalb von etwa achtzehn Monaten auf dieselbe Botschaft eingeschworen.

Keiner von ihnen sagt Ihnen das eine, was wirklich zählt: Was passiert, wenn die KI eine Zahl nicht belegen kann? Gesteht sie das ein? Oder zeigt sie Ihnen eine sehr überzeugende Erklärung für eine Zahl, die sie sich ausgedacht hat?

Genau diese Lücke ist der Unterschied zwischen Erklärbarkeit und Verifizierbarkeit, und derzeit verkauft Ihnen fast der ganze Markt das eine, während er das andere suggeriert.

Erklärbarkeit zeigt Ihnen einen Grund. Verifizierbarkeit zeigt Ihnen eine Quelle.

Erklärbarkeit bedeutet, dass das System seine eigene Argumentation nacherzählen kann. Fragen Sie, warum die Marketingausgaben in Q3 so aussehen, wie sie aussehen, und es führt Sie Schritt für Schritt durch: Es hat das Sachkonto gezogen, einen Filter angewendet, einen Bereich summiert, eine Abgrenzung berücksichtigt. Diese Erzählung ist tatsächlich nützlich. Sie ist aber für sich genommen keine Garantie dafür, dass die Zahl stimmt.

Hier ist der Teil, über den die Glasbox-Demos gerne hinweggehen: Ein Sprachmodell kann eine flüssige, strukturierte, absolut plausible Erklärung für eine Zahl liefern, die es halluziniert hat. Erklärbarkeit ist eine Eigenschaft der Erzählung. Sie zeigt Ihnen die Form der Argumentation, die das Modell behauptet, verfolgt zu haben. Sie sagt Ihnen nicht, ob diese Argumentation je das tatsächliche Hauptbuch berührt hat. Sie können eine Zelle anklicken und eine Geschichte sehen. Die Geschichte kann falsch sein und trotzdem selbstsicher, sauber aufgebaut und in sich schlüssig wirken, weil das Erzeugen einer plausibel klingenden Herleitung genau die Art von Aufgabe ist, in der Sprachmodelle gut sind, unabhängig davon, ob die zugrunde liegende Zahl real ist.

Verifizierbarkeit ist ein völlig anderes Versprechen: Das System kann keine Antwort liefern, ohne diese Antwort anhand der Quelldaten zu belegen. Nicht einen plausiblen Weg dorthin erzählen, sondern beweisen, so wie ein Prüfer es beweist: indem er die Zahl bis zu einer konkreten Transaktion, einer Bilanzposition oder einem abgestimmten Buchungssatz zurückverfolgt. Ein verifizierbares System zeigt Ihnen nicht seine Argumentation. Es zeigt Ihnen den Beleg. Und entscheidend: Existiert kein Beleg, sagt ein verifizierbares System das auch so, statt sich trotzdem zu einer Zahl durchzuargumentieren.

Die beiden stehen sich nicht direkt als Gegensatz gegenüber. Ein gutes System sollte beides haben. Aber sie lösen unterschiedliche Fehlerbilder, und Anbieter vermarkten fast ausnahmslos das, was sich leichter bauen lässt.

	Erklärbarkeit	Verifizierbarkeit
Was sie zeigt	Den Argumentationsweg, den das Modell behauptet	Den Quelldatensatz, an den die Zahl gebunden ist
Was sie belegt	Dass das Ergebnis hergeleitet klingt	Dass das Ergebnis tatsächlich hergeleitet ist
Wie sie versagt	Erklärt eine falsche Zahl mit voller Überzeugung	Kann nicht lautlos versagen: keine Quelle, keine Antwort
Leicht zu fälschen?	Ja: flüssige Erzählung ist für ein Sprachmodell billig	Nein: der Beleg löst sich entweder auf oder nicht
Was Sie erfahren, wenn die KI unsicher ist	Meist nichts; sie erklärt trotzdem	Sie verweigert die Antwort

Warum Erklärbarkeit gewonnen hat und zum ganzen Wortschatz wurde

Es ist nicht schwer zu verstehen, warum „Glasbox” die Kategorie erobert hat. Erklärbarkeit lässt sich mit dem Modell erreichen, das man ohnehin schon hat. Man weist es an, seinen Denkweg zu zeigen, formatiert die Gedankenkette als Klick-Oberfläche, und schon hat man in ein, zwei Sprints ein demofertiges Feature. Es macht sich gut auf Screenshots. Es beantwortet den Einwand, den Käufer tatsächlich laut äußern („Ich traue einer Black Box nicht”), ohne dass sich an der Art, wie die Zahl darunter zustande kommt, irgendetwas ändern müsste.

Verifizierbarkeit ist das schwierigere technische Problem, denn dafür muss die Zahl von Anfang an irgendwo deterministisch und nachvollziehbar berechnet worden sein, bevor die KI sie überhaupt anfasst. Einen Beleg lässt sich einer Zahl, die das Modell im Kopf berechnet hat, nicht nachträglich anheften. Fand die Rechenoperation innerhalb des Sprachmodells statt (was hinter einer flüssigen Erklärung oft genau das ist, was passiert), gibt es keinen Buchungssatz, auf den man zeigen könnte, nur eine Erzählung, die wie einer klingt. Unser Grundlagenartikel zu KI-Halluzinationen bei Finanzdaten geht genauer darauf ein, warum Modelle bei der Arithmetik danebenliegen, selbst wenn der Datenabruf stimmt, genau das ist der Fehler, den eine gute Erklärung kaschieren kann.

Der Markt hat also im großen Stil das Machbare getan, ihm ein warmes, transparent klingendes Vokabular gegeben, und dieses Vokabular wurde zum Vertrauenssignal, unabhängig davon, ob die Pipeline dahinter überhaupt in der Lage ist, eine Antwort zu verweigern.

Der Zwei-Fragen-Test in der Demo

Um die beiden auseinanderzuhalten, müssen Sie keine Architektur prüfen. Sie brauchen zwei Fragen, in der richtigen Reihenfolge gestellt, in jeder Anbieter-Demo.

Frage 1: „Zeigen Sie mir genau, woher diese Zahl kommt.”

Fast jeder Anbieter besteht diesen Test inzwischen. Sie bekommen eine hervorgehobene Zelle, eine Hover-Karte, einen Klick durch die „Denkschritte”. Das prüft Erklärbarkeit, und 2026 ist das Standard, es unterscheidet Anbieter nicht mehr voneinander.

Frage 2: „Bringen Sie es jetzt dazu, die Antwort zu verweigern. Fragen Sie etwas, das es nicht belegen kann, und zeigen Sie mir, dass es das eingesteht, statt zu raten.”

Das ist die Frage, die tatsächlich trennt. Fragen Sie nach einer Zahl, für die das System keine saubere Quelle hat: eine Kennzahl, die zwei nicht abgeglichene Systeme überspannt, eine Größe, die eine Annahme voraussetzt, die niemand eingegeben hat, eine Periode mit einer Datenlücke. Ein System, das allein auf Erklärbarkeit aufgebaut ist, wird in der Regel trotzdem antworten. Es liefert eine Zahl, verpackt sie in eine flüssige Erklärung, und diese Erklärung wirkt genauso poliert wie die für Zahlen, die tatsächlich stimmten. Das ist die Falle: Von außen ist der Unterschied nicht erkennbar, weil die Qualität der Erzählung nicht sinkt, nur weil die zugrunde liegende Zahl erfunden ist.

Ein verifizierbares System tut etwas anderes: Es stoppt. Es sagt Ihnen, dass es diese Zahl nicht liefern kann, und sagt Ihnen auch, warum: welche Quelle fehlt, welcher Abgleich nicht abgeschlossen wurde, welche Annahme nie bestätigt wurde. Die Verweigerung, auf Kommando, vor Ihren Augen, ist das Erkennungsmerkmal. Kann ein Anbieter sein eigenes Produkt nicht zur Verweigerung bringen, hat er einen Erklärer gebaut, keinen Verifizierer.

Was Verweigerung tatsächlich voraussetzt

Damit ein System glaubwürdig ablehnen kann, muss die Verweigerung eine strukturelle Eigenschaft sein, kein nachträglich eingebauter Höflichkeitshinweis. Das bedeutet: Jede Zahl, die die KI äußern darf, muss sich vorher auf einen Beleg gegen eine abgeglichene Quelle zurückführen lassen, nicht nachträglich, als Dekoration auf eine Antwort, die bereits erzeugt wurde. Lässt sich der Beleg nicht auflösen, wird die Antwort gar nicht erst erzeugt. Das ist der Beleg-oder-Verweigerung-Mechanismus: Das Modell denkt nach und ruft Daten ab, aber eine deterministische Schicht darunter prüft, dass jede Größe an eine Quelle gebunden ist, bevor sie das System verlassen darf. Keine Quelle, keine Ausgabe, unabhängig davon, wie sicher sich das Modell innerlich gefühlt hat.

Es bedeutet auch, dass die Verweigerung den Moment überstehen muss, der wirklich zählt: den Export. Eine Demo, die im Chatfenster höflich ablehnt, ist keine gleichwertige Zusicherung wie ein System, das eine unverifizierte Zahl gar nicht erst in ein Board-Paket lässt. Dafür ist ein Export-Sperre da: eine harte technische Blockade gegen das Erzeugen eines Dokuments, kein Warnhinweis, den man wegklicken kann. Und es lohnt sich, präzise zu benennen, warum ein Konfidenzwert dafür kein Ersatz ist: Eine Prozentzahl lässt eine unsichere Zahl weiterhin durch, nur mit einem Vorbehalt versehen, das ist eine mildere Variante desselben Fehlers, den Erklärbarkeit schon hat. Unser Beitrag darüber, warum Konfidenzwerte nicht ausreichen, zeigt, wo dieser Ansatz bei echten Finanztabellen versagt.

Fazit

Erklärbarkeit beantwortet „wie sind Sie darauf gekommen”. Verifizierbarkeit beantwortet „können Sie beweisen, dass das echt ist”, und nur Letztere ist bereit, Nein zu sagen. Jeder FP&A-Anbieter kann Ihnen inzwischen einen Argumentationspfad zeigen: dieses Wettrüsten ist vorbei, und es hat Sie nie davor geschützt, dass eine halluzinierte Zahl mit selbstsicherer Erklärung in einer Vorstandspräsentation landet. Der Test, der die Anbieter noch trennt, ist, ob sich die KI dazu bringen lässt, auf Verlangen zu verweigern, wenn die Zahl sich nicht belegen lässt. Verlangen Sie das in der Demo. Kommt keine Verweigerung zustande, wissen Sie, woraus die Glasbox tatsächlich besteht.

Rexfin ist um die Verweigerung herum gebaut, nicht nur um den Argumentationspfad. Demo buchen und sie zur Verweigerung auffordern.