Artikel 14 EU AI Act: Warum die menschliche Aufsicht über KI-Finanzkennzahlen die Pflicht ist, die Einkäufer vergessen

Ein Finanzteam kauft einen KI-Assistenten, richtet ihn auf das Hauptbuch aus und fragt nach der Bruttomarge des Quartals. Die Zahl kommt in zwei Sekunden zurück. Sie sieht richtig aus. Sie landet per Copy-and-paste in einer Vorstandspräsentation. Niemand kann sagen, welche Buchungspositionen summiert wurden, ob die richtigen Wareneinsatzkonten herangezogen wurden oder warum sie um 1,4 Punkte vom selben Wert des Vormonats abweicht. Genau um diese Lücke – zwischen einer Antwort, die ankommt, und einer Antwort, für die Sie geradestehen können – geht es in Artikel 14 des EU AI Act. Und die meisten Unternehmen haben ihn als das Problem eines anderen verbucht.

Das ist er nicht.

Die Pflicht, der Einkäufer zu entkommen glauben

In Finanz- und IT-Abteilungen kursiert eine bequeme Annahme: Wir haben das Modell nicht gebaut, also ist der AI Act die Sorge des Anbieters. Der Act zieht eine Linie zwischen Anbietern (die KI-Systeme entwickeln und in Verkehr bringen) und Betreibern (die sie unter eigener Verantwortung einsetzen). Der Anbieter trägt die schweren Konzeptionspflichten. Geschenkt. Doch Artikel 26 legt dem Betreiber eigenständige Pflichten auf, und in Artikel 14 werden sie scharf.

Artikel 14 verlangt, dass Hochrisiko-KI-Systeme während ihrer gesamten Nutzung von natürlichen Personen beaufsichtigt werden können. Der Anbieter muss die Mittel dafür einbauen; der Betreiber muss die Aufsicht tatsächlich ausüben. Konkret müssen die mit der Aufsicht betrauten Personen die Fähigkeiten und Grenzen des Systems verstehen, seinen Betrieb auf Anomalien überwachen, seinen Output korrekt interpretieren, gegenüber dem Automation Bias wachsam bleiben – der gut dokumentierten menschlichen Neigung, einer selbstbewusst vorgetragenen Maschinenantwort zu vertrauen – und im Einzelfall entscheiden können, den Output zu verwerfen oder das System gar nicht erst zu nutzen.

Lesen Sie diese Liste noch einmal mit den Augen eines CFO. Die Grenzen verstehen. Den Output interpretieren. Ihn übersteuern, wenn er falsch ist. Nichts davon können Sie bei einer Zahl tun, die Sie nicht nachverfolgen können. Die Aufsicht über einen Wert, den Sie nicht zerlegen können, ist reines Theater.

„Hochrisiko” ist näher, als Finanzteams vermuten

Der übliche Einwand lautet, Finanz-KI sei nicht hochriskant, also greife Artikel 14 nicht. Damit ist Vorsicht geboten. Die Hochrisiko-Einstufung nach Anhang III erfasst Bereiche wie die Kreditwürdigkeitsprüfung und das Credit Scoring, und KI, die zur Bewertung der finanziellen Lage von Personen oder Unternehmen eingesetzt wird, kann genau hier landen. Eine KI, die Kreditentscheidungen unterstützt, Geschäftspartner bewertet oder risikogewichtete Zahlen in einen regulierten Prozess einspeist, liegt nicht offensichtlich außerhalb des Anwendungsbereichs. Die ehrliche Einordnung lautet: Der Anwendungsbereich ist eine Frage des Einzelfalls, und ein erheblicher Teil der Finanz-KI wird darunterfallen – nicht alles, aber mehr, als die bequeme Lesart nahelegt.

Selbst dort, wo ein konkreter Anwendungsfall außerhalb des strengen Hochrisiko-Perimeters liegt, ist die operative Logik von Artikel 14 schlicht gute Praxis. Zahlen, die Entscheidungen tragen, brauchen einen Menschen, der sie verifizieren kann. Die Verordnung kodifiziert nur, was eine kompetente Finanzfunktion ohnehin wollen sollte.

Die Uhr tickt auf August 2026 – mit Sternchen

Die Hochrisiko-Pflichten, einschließlich der Betreiberpflichten, sind an einen Anwendungsstichtag gebunden: den 2. August 2026. Auf dieses Datum haben sich Unternehmen eingestellt. Es gibt ein echtes Sternchen: Das Digital-Omnibus-Paket der EU schlägt vor, einige Hochrisiko-Fristen nach hinten zu verschieben; in den politischen Verhandlungen kursieren Werte wie Dezember 2027 für eigenständige Anhang-III-Systeme. Doch ein Vorschlag in Verhandlung ist kein geltendes Recht. Der umsichtige Schritt ist derzeit, August 2026 als verbindlich zu behandeln und darauf hinzuarbeiten, statt ein Compliance-Programm auf eine Verschiebung zu wetten, die kommen mag oder auch nicht. Die bewegliche Frist behandeln wir ausführlicher in der Digital-Omnibus-Frage – die Kurzfassung lautet: Bereiten Sie sich so vor, als käme sie nicht.

Warum „ein Mensch prüft das” meist keine Aufsicht ist

Hier kommt der unbequeme Mechanismus. Die meisten KI-Finanztools arbeiten heute so, dass ein Sprachmodell sowohl abruft als auch rechnet. Sie fragen nach einer Kennzahl; das Modell holt sich einige Zahlen aus dem Kontext und erzeugt die Arithmetik selbst – im selben probabilistischen Schritt, der auch den Satz drumherum schreibt. Große Sprachmodelle sind gut darin, richtig zu klingen, und strukturell schlecht darin, mit Zahlen exakt richtig zu sein. Sie verdrehen einen Wert, mitteln die falsche Periode oder halluzinieren stillschweigend eine Position, die nie in den Daten stand.

Bitten Sie nun Ihre beauftragte Aufsichtsperson, den Output dieses Systems „korrekt zu interpretieren”. Man reicht ihr einen Absatz mit einer Zahl darin und ohne jeden Prüfpfad. Um die Zahl zu verifizieren, müsste sie die gesamte Berechnung von Hand wiederholen – womit die KI ihr nichts erspart hat und die Aufsicht zum Gummistempel verkommt. Das ist Automation Bias by Design: eine flüssige Antwort, die teuer zu hinterfragen ist, weshalb es niemand tut. Artikel 14 benennt genau dieses Versagensmuster, und ein System, das es erzeugt, ist fast per Definition eines, das Sie nicht wirksam beaufsichtigen können.

Wirksame menschliche Aufsicht über Finanzkennzahlen hat zwei harte Voraussetzungen, und keine davon erfüllt man, indem man einem undurchsichtigen Tool einen „Human in the Loop” anschraubt:

• Nachvollziehbare Quellen. Jede Zahl muss auf die Buchungen, Konten und Perioden zurückverweisen, aus denen sie stammt. Kann die Aufsichtsperson die Zahl nicht aufklappen und ihre Herkunft sehen, kann sie sie nicht interpretieren, keine Anomalie erkennen und kein Übersteuern begründen.
• Eine deterministische Rechenschicht. Die Arithmetik muss von einer Berechnungs-Engine erledigt werden, die jedes Mal dasselbe Ergebnis liefert und ihren Rechenweg offenlegt – nicht vom Sprachmodell. Die Aufgabe des LLM ist es, die Frage zu verstehen und das Ergebnis zu erklären, nicht der Taschenrechner zu sein.

Ohne diese beiden Dinge ist das Übersteuerungsrecht aus Artikel 14 eine leere Hülle. Sie können nicht verwerfen, was Sie nicht prüfen können.

Wie sich der Mechanismus tatsächlich verändert

Genau diese Lücke soll Rexfin schließen, und es lohnt sich, konkret zu werden, wie. Rexfin verbindet sich mit Ihren Buchhaltungs- und Finanzdatenplattformen – QuickBooks, Xero, NetSuite, Sage, SAP, Oracle, Ihrem Data Warehouse – oder mit hochgeladenen Auswertungen und baut daraus ein einziges abgestimmtes Finanzmodell, das mit dem Hauptbuch übereinstimmt. Dieses Modell ist die alleinige Wahrheitsquelle. Wird die KI mit einer Frage konfrontiert, ruft sie die Zahlen aus diesem Modell ab und lässt die Rechnung über eine deterministische Engine laufen, nicht über das LLM. Jeder Output verweist auf die Quelle zurück. (Die Technik dahinter ist unter So funktioniert es und Integrationen ausgeführt.)

Der Compliance-Gewinn ist unmittelbar. Ihre beauftragte Aufsichtsperson kann jede KI-erzeugte Zahl aufklappen und die Konten, Perioden und die Berechnung dahinter sehen. Anomalien treten zutage, weil das Modell gegen das Hauptbuch abstimmt und nicht gegen das eigene Schätzen des Modells. Die Übersteuerungsentscheidung wird real: Ein Mensch kann sich eine markierte Marge ansehen, die Abweichung von 1,4 Punkten auf ein umgegliedertes Aufwandskonto zurückführen und entscheiden, sie zu akzeptieren oder zurückzugeben. Genau diese Tätigkeit verlangt Artikel 14 – möglich gemacht dadurch, dass die zugrunde liegenden Zahlen einsehbar sind.

Wir wollen es nicht überverkaufen. Die Verordnung verlangt außerdem eine dokumentierte Governance, geschultes Personal und aufbewahrte Protokolle – organisatorische Arbeit, die keine Plattform für Sie erledigt. Rexfin macht Sie nicht im Alleingang konform. Was es leistet, ist, die technische Unmöglichkeit im Kern des Problems zu beseitigen: eine Aufsicht, die Sie nicht ausüben können, weil sich die Zahlen nicht nachverfolgen lassen. Genau das bringt sonst niemand in Ordnung.

Das Fazit

Artikel 14 macht aus „ein Mensch hat es freigegeben” eine überprüfbare Behauptung: Hätte dieser Mensch die Zahl verstehen, interpretieren und übersteuern können? Wenn Ihre KI in einer Black Box rechnet, lautet die ehrliche Antwort nein – und der Betreiber, also Sie als Einkäufer, trägt das. Die Lösung sind nicht mehr Meetings oder ein größeres Freigabeformular. Es ist eine Architektur, in der Zahlen auf die Quelle zurückverweisen und die Rechnung deterministisch ist. Bekommen Sie das richtig hin, werden auch die verbundenen Pflichten deutlich leichter – von der Prüfung von KI-Zahlen durch Ihren Wirtschaftsprüfer nach IDW PS 861 bis zu den Vorgaben der GoBD zur maschinellen Auswertbarkeit.

Wenn Sie eine Aufsicht sehen wollen, die tatsächlich standhält – jede Zahl aufklappbar, jede Berechnung reproduzierbar –, buchen Sie eine Demo und bringen Sie Ihre schwierigste Zahl mit.