FINRA benennt KI-Halluzinationen: Was regulierte Finanzteams gegen erfundene Zahlen tun müssen

Der FINRA-Aufsichtsbericht 2026 führt halluzinierte Zahlen und erfundene Vorschriften als Compliance-Risiken auf. Warum quellennachweisbare KI jetzt eine regulatorische Notwendigkeit ist.

Am 9. Dezember 2025 veröffentlichte die FINRA ihren Annual Regulatory Oversight Report 2026. Versteckt in rund 90 Seiten voller Prüfungsschwerpunkte liegt nun eine Definition auf dem Schreibtisch jedes Compliance-Verantwortlichen eines Mitgliedsunternehmens: Eine Halluzination liegt vor, wenn ein Modell „Informationen erzeugt, die ungenau oder irreführend sind, aber als Tatsachen dargestellt werden”. Der Regulierer nennt Beispiele. Halluzinierte Zahlen. Erfundene Verweise auf Vorschriften. Fehlerhafte Zusammenfassungen von Kundendaten. Das sind keine Hypothesen, die sich ein Anbieter ausgedacht hat, um Governance-Software zu verkaufen. Es sind die konkreten Fehlerbilder, die eine Selbstregulierungsorganisation schriftlich benannt hat.

Wenn Sie Finanzen oder Compliance bei einem Broker-Dealer verantworten, verändert das die Rechnung für den KI-Einsatz. Die Frage lautet nicht mehr, ob Ihr Modell gelegentlich eine Zahl erfindet. Die Frage lautet, ob Sie auf Verlangen nachweisen können, dass die Zahl, die ein registrierter Vertriebsmitarbeiter oder ein Analyst einem Kunden vorgelegt hat, auf eine reale Quelle zurückführbar ist.

Was die FINRA tatsächlich gesagt hat – und was nicht

Beginnen wir mit den Grenzen, denn sie sind entscheidend. Die FINRA hat keine neue Regel erlassen. Der Bericht 2026 stützt sich, wie schon das Regulatory Notice 24-09 zuvor, auf einen Grundsatz, den die FINRA häufig wiederholt: Ihre bestehenden Regeln sind „technologieneutral”. Eine halluzinierte Ergebniszahl in einer KI-erstellten Kundenzusammenfassung unterliegt denselben Aufsichts- und Kommunikationsregeln, die schon immer galten. Das Werkzeug ist neu. Die Pflicht ist es nicht.

Dieser Grundsatz greift härter als eine neue Regel es täte. Rule 3110 verlangt ein Aufsichtssystem, das „nach vernünftigem Ermessen darauf ausgelegt” ist, die Einhaltung der Wertpapiergesetze sicherzustellen. Der Bericht 2026 macht deutlich, dass „nach vernünftigem Ermessen ausgelegt” nun die bekannten Risiken der eingesetzten Werkzeuge berücksichtigen muss. Halluzination ist nach eigenem Eingeständnis der FINRA ein bekanntes Risiko. Ein Aufsichtssystem, das KI-Ergebnisse ohne eine Kontrolle gegen erfundene Zahlen an Kunden weitergibt, lässt sich somit kaum noch als angemessen verteidigen.

Die Erwartung des Berichts ist konkret: Unternehmen sollten ihre Compliance-Pflichten prüfen, bevor sie generative KI einsetzen, eine Governance zur Überwachung ihrer Nutzung aufbauen und eine qualifizierte Person beibehalten, die KI-generierte Inhalte überprüft, sofern diese für Kundeninteraktionen, Finanzanalysen oder Compliance-Zwecke verwendet werden. Der Mensch im Prüfprozess (Human-in-the-Loop) ist die zentrale empfohlene Schutzmaßnahme. Wir kommen darauf zurück, warum diese allein nicht ausreicht.

Warum „lassen Sie einen Menschen drüberschauen” leise scheitert

Wenn Sie einem Prüfer auftragen, Halluzinationen aufzuspüren, haben Sie die Aufgabe beschrieben, nicht gelöst. Der Prüfer liest Fließtext. Der Text ist flüssig und selbstbewusst. Eine erfundene Zahl sieht exakt aus wie eine korrekte – genau darin liegt das gesamte Problem dieser Fehlerklasse. Es gibt keinen Tippfehler, keinen abgebrochenen Satz, kein Warnsignal. Eine Umsatzzahl, die um 8 % danebenliegt, liest sich identisch zu einer, die exakt stimmt.

Also weicht der Prüfer auf Stichproben aus, und Stichproben skalieren schlecht. Ein monatliches Reporting-Paket für einen Kunden kann vierzig Zahlen über ein Dutzend Konten hinweg enthalten. Jede einzelne von Hand gegen die Quelle zu prüfen bedeutet, Depotauszüge, Kontenbücher und frühere Meldungen erneut zu öffnen – also den Großteil der Arbeit zu leisten, die die KI eigentlich abnehmen sollte. In der Praxis verkommt die Prüfung zur Plausibilitätsschätzung. Sieht das ungefähr richtig aus? Das hakt das Kästchen „Prüfpfad” ab und fängt fast nichts ab.

Das tiefere Problem ist, woher die Zahl stammt. Wenn ein Sprachmodell einen Geschäftsbericht oder einen Depotauszug „liest” und eine Zahl ausgibt, erzeugt es Text, der angesichts des Dokuments statistisch wahrscheinlich ist – es ruft keinen Wert aus einem strukturierten Datensatz ab. Meistens stimmt der wahrscheinliche Text mit der realen Zahl überein. Manchmal nicht, und nichts im Ergebnis kennzeichnet, in welchem Fall Sie sich gerade befinden. Ein Prüfer kann einen Prozess nicht beaufsichtigen, dessen Fehler konstruktionsbedingt unsichtbar sind.

Die Kontrolle, die die FINRA-Logik tatsächlich nahelegt

Liest man den Bericht 2026 als Ingenieur statt als Jurist, weist er in eine ganz bestimmte Richtung: Das Ergebnis muss nachverfolgbar sein, und die Berechnung muss verlässlich sein. Nicht „geprüft”. Nachverfolgbar. Jede Zahl vor einem Kunden sollte einen Pfad zurück zu einem Quelldokument oder einer Buchungszeile tragen, und jede durch Berechnung abgeleitete Zahl sollte aus einem Prozess stammen, den Sie erneut ausführen können und der dasselbe Ergebnis liefert.

Das ist der Unterschied zwischen der Bitte an ein Modell, richtig zu liegen, und dem Aufbau eines Systems, das eine Zahl, die es nicht belegen kann, gar nicht erst präsentieren kann. Das sind nicht dasselbe ingenieurtechnische Problem, und nur eines davon übersteht eine Prüfung.

Auf dieser Linie ist Rexfin aufgebaut. Die verlässliche Finanzmodellierungsschicht für KI verlangt nicht vom Sprachmodell, die Wahrheitsquelle zu sein. Sie verbindet sich mit dem Ort, an dem die Zahlen tatsächlich liegen – QuickBooks, Xero, NetSuite, Sage, dem Data Warehouse oder hochgeladenen Auszügen – und baut ein einziges abgestimmtes Finanzmodell, das sich mit dem Hauptbuch deckt. Die KI ruft die Zahlen dann aus diesem Modell ab, statt sie aus einem PDF zu erzeugen. Wird eine Berechnung benötigt – eine Marge, eine Wachstumsrate, eine Kennzahl – läuft sie durch eine deterministische Engine, nicht durch das LLM. Das Modell orchestriert und erläutert. Es rechnet nicht, und es erfindet die Eingangswerte nicht.

Der Compliance-Gewinn ist der Teil, der für die FINRA zählt. Jede Zahl lässt sich auf ihre Quelle zurückführen. Stellen Sie im nächsten Quartal dieselbe Frage, erhalten Sie dieselbe Zahl, weil eine deterministische Engine sie erzeugt hat. Fragt ein Prüfer, woher ein Wert stammt, ist die Antwort ein Quellenverweis und kein Achselzucken. Genau so verwandelt die Plattform KI-Ergebnisse in etwas, das Sie tatsächlich verteidigen können.

Ein Zugeständnis, weil es berechtigt ist

Nichts davon macht KI unfehlbar, und jeder Anbieter, der Ihnen das verspricht, ist genau derjenige, dem Sie misstrauen sollten. Ein abgestimmtes Modell ist nur so gut wie die Abstimmung selbst. Quelldaten können bereits falsch sein, bevor eine KI sie überhaupt berührt. Eine deterministische Engine berechnet genau das, was Sie ihr vorgeben, einschließlich einer fehlerhaften Formel, mit perfekter Konsistenz. Eine Zahl auf ihre Quelle zurückzuführen beweist die Herkunft, nicht die Richtigkeit – die zugrunde liegende Buchung kann nach wie vor ein Fehler sein.

Was sich ändert, ist die Risikokategorie, die Ihnen bleibt. Sie wechseln von „die KI hat das möglicherweise erfunden und wir würden es nie erfahren” zu „diese Zahl stammt aus einer konkreten Quelle über eine bekannte Berechnung”. Das Erste ist in einer Prüfung nicht zu verteidigen. Das Zweite ist die ganz normale Arbeit der Finanzfunktion – überprüfbar, prüffähig und genau die Art von Vorgang, um die herum sich ein Aufsichtssystem nach vernünftigem Ermessen gestalten lässt.

Das Fazit

Die FINRA hat erfundene Zahlen in einen Aufsichtsbericht aufgenommen. Damit entfällt die Möglichkeit, Halluzination als tolerierbare Eigenheit zu behandeln, und sie wird neu eingeordnet als ein Aufsichtsversagen, das nur auf seine Prüfung wartet. Die Unternehmen, die gut durch diese Phase kommen, werden nicht jene mit dem strengsten „Bitte überprüfen Sie die KI doppelt”-Rundschreiben sein. Es werden jene sein, deren KI strukturell keine Zahl präsentieren kann, die sie nicht zurückverfolgen kann, und deren Berechnungen durch eine Engine laufen, die jedes Mal dieselbe Antwort liefert.

Wenn Sie einem Prüfer lieber einen Quellenverweis zeigen als eine Schätzung erklären, vereinbaren Sie eine Demo, und wir gehen gemeinsam durch, wie sich das nachverfolgbare Modell unter genau dieser Prüfung bewährt.

Mehr dazu, wie diese Fehler durchrutschen, finden Sie in der Übersicht zu KI-Halluzinationen bei Finanzdaten sowie in den konkreten Fällen, warum KI Ihren Geschäftsbericht falsch liest und die Prüf-Checkliste, die Sie ausführen sollten, bevor KI-Zahlen in eine Vorstandspräsentation gelangen.