Die KI-Reifetreppe für die Finanzfunktion: Vom eingefügten Prompt zur geführten Autonomie

Fragen Sie eine Finanzleitung, wie reif ihr KI-Einsatz ist, bekommen Sie meist eine Werkzeugliste zu hören: “Wir haben Copilot, ein Analyst nutzt ChatGPT für Entwürfe, wir pilotieren gerade einen Agenten für Kontenabstimmungen.” Das ist eine Bestandsaufnahme, keine Reifebeurteilung. Reife bemisst sich nicht daran, welche Werkzeuge installiert sind. Sie bemisst sich daran, ob Sie bei jeder KI-berührten Zahl im Board-Deck wissen, wer sie geprüft hat, was das Modell überhaupt sehen durfte, und ob Sie das Ergebnis reproduzieren könnten, wenn ein Prüfer nachfragt. Die meisten Finanzorganisationen können das heute nicht beantworten, und die meisten Anbieterinhalte werden es Ihnen nicht sagen, weil es einfacher ist, diese Erkenntnis hinter einem Vertriebsgespräch zu verstecken, als zuzugeben, dass die ehrliche Antwort meist “Nein” lautet.

Im Folgenden eine vierstufige Treppe dafür, wo eine Finanzfunktion tatsächlich steht, und was strukturell stimmen muss, um eine Stufe aufzusteigen. Ethik zeigt sich auf jeder Stufe an etwas Konkretem, nicht als Leitbild-Satz: Wer erfährt, dass eine Zahl von einem Modell stammt, was das Modell anfassen durfte, wer die daraus folgende Entscheidung verantwortet, und wer das Modell selbst über die Zeit im Blick behält.

Stufe 1: Ad hoc

Hier fängt fast jedes Finanzteam an, ob es das zugibt oder nicht. Ein Analyst fügt eine Umsatztabelle in einen Chatbot ein, um Kommentartext zu entwerfen. Ein Controller lässt eine Abweichung von einem KI-Tool plausibilisieren. Niemand hat das Tool für diesen Zweck freigegeben, es gibt keinen Nachweis, dass KI im Spiel war, und die eingefügten Ausgangszahlen wurden zuvor bereits von Hand aus drei Systemen zusammengetragen – niemand kann also mit Sicherheit sagen, ob sie überhaupt stimmten.

Was hier bricht, sind Zurechenbarkeit und Offenlegung gleichzeitig. Liest sich die Board-Erzählung dieses Quartal besser, kann niemand sagen, ob das am Geschäft liegt oder daran, dass ein Modell für eine nie erneut geprüfte Zahl die schmeichelhaftere Formulierung gewählt hat. Dazu kommt eine echte Lücke in der Datenverwaltung: Sensible Kunden- oder Dealdaten landen in einem Consumer-Tool ohne Vertrag, der Speicherung oder Trainingsnutzung regelt. Diese Stufe bedeutet nicht “keine KI”. Sie bedeutet KI ohne jede Sichtbarkeit – was schlimmer ist als keine KI, weil die Führung glaubt, mehr Kontrolle zu haben, als sie hat.

Der Sprung zu Stufe 2 braucht kein Grundsatzpapier. Es reicht, ein oder zwei freigegebene Tools festzulegen, zu definieren, was hinein darf und was nicht, und zu verlangen, dass eine benannte Person jede Ausgabe prüft, bevor sie weiterläuft. Die Hürde ist niedrig, und trotzdem ein echter Fortschritt, weil unsichtbares Risiko dadurch zu sichtbarem, begrenztem Risiko wird.

Stufe 2: Beaufsichtigt

Jetzt gibt es freigegebene Tools, eine Regel für den Umgang mit Daten (zum Beispiel: keine Kunden-PII in Consumer-Chat-Tools) und die gelebte Norm, dass ein Mensch jede KI-berührte Ausgabe prüft, bevor sie ausgeliefert wird. Hier steht heute der Großteil der gut geführten Finanzteams, und das ist ein legitimer, gut vertretbarer Zustand – keine Stufe, die man um ihrer selbst willen überspringen sollte.

Was hier bricht, sind Skalierung und Konsistenz. Beaufsichtigung funktioniert bei niedrigem Volumen. Sie bricht ein, sobald ein Team zwanzig Abweichungserklärungen pro Woche von der KI entwerfen lässt oder hundert Lieferantenrechnungen prüft, weil “ein Mensch prüft alles” still zu “ein Mensch überfliegt das meiste” wird – ohne dass diese Abwägung je bewusst getroffen wurde. Der zweite Fehlermodus: Die Prüfung hat kein Gedächtnis. Dieselbe Fehlerkategorie kann ein Dutzend Mal auffallen und durchgewinkt werden, weil kein Protokoll den Fehler dieses Monats mit dem fast identischen des Vormonats verknüpft.

Stufe 3 zu erreichen bedeutet, explizit festzulegen, welche Kategorien von KI-Ausgaben eine vollständige menschliche Prüfung brauchen und welche eine leichtere Kontrolle – und damit zu beginnen, jede KI-gestützte Entscheidung zu protokollieren: nicht nur die Zahl, sondern welches Modell, welche Eingaben, welcher Mensch abgezeichnet hat. Ohne dieses Protokoll lässt sich echte Prüfung nicht von Stempelabdrücken unterscheiden, und Sie können noch keine Regeln aus der Evidenz ableiten, wo Fehler tatsächlich gehäuft auftreten.

Stufe 3: Geführt

Dies ist die Stufe, die sich die meisten Finanzorganisationen wünschen und die kaum eine tatsächlich gebaut hat. Sie hat drei konkrete Merkmale. Erstens definierte Autonomiestufen: Nicht jede KI-Aufgabe verdient dieselbe Kontrolltiefe, weil nicht jede Aufgabe dasselbe Risiko trägt. Ein Entwurf für einen Kommentartext und eine Überweisungsfreigabe gehören nicht in dieselbe Kategorie, und sie so zu behandeln, überkontrolliert das Triviale oder unterkontrolliert das Gefährliche. Zweitens Entscheidungsprotokollierung als Infrastruktur, nicht als Nachgedanke: Jede KI-berührte Kennzahl trägt einen Nachweis ihrer Quelle, der Modellversion und der verantwortlichen Person – abrufbar, nicht aus dem Gedächtnis rekonstruiert, wenn die Prüfung kommt. Drittens Gates zur Quellenverifikation: Die KI darf nicht mit einer Zahl antworten, die sich nicht auf eine abgestimmte Größe im führenden System zurückführen lässt. Auf dieser Stufe hören die ethischen Fragen auf, abstrakt zu sein, und werden zu technischen Anforderungen – Offenlegung ist ein Feld im Protokoll, keine Fußzeile in einer E-Mail, und Einwilligung wie Datenverwaltung werden durch den tatsächlichen Sichtbereich der Modellverbindung erzwungen, nicht durch eine Richtlinie, die niemand mehr liest.

Was bricht, wenn man versucht, diese Stufe zu früh zu erreichen: Governance der Ausgaben ist strukturell unmöglich, wenn die Eingaben nicht abgestimmt sind. Auf einer Tabelle mit drei widersprüchlichen Versionen von “Umsatz” lässt sich kein Gate zur Quellenverifikation bauen, weil es keine einzige abgestimmte Zahl gibt, gegen die man prüfen könnte – der KI fehlt die Referenzwahrheit, gegen die sie verifizieren könnte, also wird das Gate zur Theaterkulisse. Das ist der eigentliche Grund, warum Governance in Finanzfunktionen immer wieder stecken bleibt, die ihre Datenebene nicht zuerst in Ordnung gebracht haben: Die Reifetreppe und das Datenfundament sind dasselbe Problem, nur aus zwei Blickwinkeln betrachtet. Unser Grundlagenartikel zu KI-Governance und Modellrisiko geht darauf tiefer ein, und drei Verteidigungslinien für KI behandelt, wer die Validierung eigentlich verantwortet, sobald das Modell nicht mehr nur Entwürfe liefert, sondern Zahlen mitverfasst.

Stufe 4 zu verdienen bedeutet, über einen echten Zeitraum zu belegen, dass die Autonomiestufen unter Volumen halten: dass die risikoarme Stufe tatsächlich risikoarm bleibt und die Protokolle die Grenzfälle abfangen, für die sie gebaut wurden – bevor irgendeine Stufe in Richtung unbeaufsichtigtes Handeln erweitert wird.

Stufe 4: Autonom innerhalb von Grenzen

Auf dieser Stufe handeln Agenten selbst: eine Kontenabstimmung anstoßen, eine Abweichung erkennen und weiterleiten, eine Abweichungserklärung entwerfen und ablegen – alles innerhalb vorab festgelegter, harter Leitplanken: Betragsschwellen, Reversibilitätspflichten, ausdrücklich ausgeschlossene Kategorien. Jede Aktion lässt sich einem konkreten Agentenlauf zuordnen und im Nachhinein nachvollziehen, das heißt, Sie können exakt rekonstruieren, welche Daten der Agent gesehen hat und warum er gehandelt hat, nicht nur, was er beschlossen hat. Das entspricht weitgehend dem, was unser Rahmenwerk für Autonomiestufen von Finanz-Agenten und geführte Autonomie versus Mensch im Kontrollkreis ausführlicher beschreiben: Autonomie, die über die Kapazitätsgrenze manueller Freigabe hinausskaliert, ohne die Prüfspur aufzugeben, die diese Freigabe eigentlich liefern sollte.

Wenige Finanzfunktionen sind heute wirklich hier angekommen, und das ist in Ordnung – diese Stufe sollte man nicht vortäuschen. Der Fehler, den wir häufig sehen: Teams vermarkten sich als Stufe 4, während darunter faktisch noch Stufe-1- oder Stufe-2-Kontrollen laufen. Ein “autonomer” Agent, der auf ungeführte Daten aufgesetzt wird, ohne echtes Entscheidungsprotokoll, ist nicht reifer – er ist Stufe 1 mit besserem Marketing. Echte Stufe 4 setzt voraus, dass alles darunter bereits trägt.

Was bricht, und was die nächste Stufe verdient

Stufe	Was bricht	Was die nächste Stufe verdient
Ad hoc	Keine Zurechenbarkeit, keine Offenlegung, ungeprüfte Eingaben frei kopiert	Freigegebene Tools, eine Datenregel, verpflichtende menschliche Prüfung
Beaufsichtigt	Prüfqualität sinkt bei Volumen, kein Gedächtnis für vergangene Fehler	Risikobasierte Autonomiestufen, Beginn der Entscheidungsprotokollierung
Geführt	Gates brauchen abgestimmte Eingaben, die es unter Umständen noch nicht gibt	Nachgewiesene, protokollierte Leistung der Stufen unter echtem Volumen
Autonom innerhalb von Grenzen	Leitplanken driften, wenn Eingaben oder Schwellen unbeobachtet bleiben	Fortlaufende Modell-Governance: Revalidierung, Überwachung, Ablösung

Diese letzte Zeile zählt auch dann noch, wenn Sie die oberste Sprosse erreicht haben. Modell-Governance endet nicht mit der Inbetriebnahme. Modelle werden gegen neue Daten revalidiert, auf Drift beobachtet, während sich das Geschäft verändert, und abgelöst, sobald ein besser passendes Modell existiert oder die an sie gestellten Fragen über das hinausgewachsen sind, wofür sie gebaut wurden. Wird das übersprungen, verkommt ein Stufe-4-System still zu etwas, das eher Stufe 2 mit selbstbewussterem Marketing gleicht.

Das Fazit

Reife ist keine Werkzeugliste, und Ethik ist kein Leitbild-Satz. Reife bemisst sich daran, ob Offenlegung, Einwilligung, Zurechenbarkeit und Modell-Governance strukturelle Bestandteile davon sind, wie KI Ihre Zahlen berührt – nicht Gewohnheiten, von denen Sie hoffen, dass sie unter Druck halten. Und keine der höheren Stufen ist erreichbar ohne die eine Voraussetzung, die Anbieter selten laut aussprechen: Ausgaben lassen sich nicht führen, wenn die Eingaben nicht abgestimmt sind. Ein Gate zur Quellenverifikation braucht eine Referenzwahrheit, gegen die es prüfen kann.

Wenn Sie ehrlich wissen wollen, in welcher Stufe Ihre Finanzfunktion tatsächlich steht, beginnt dieses Gespräch bei der Datenebene unter der KI, nicht bei der KI selbst. Demo vereinbaren, und wir zeigen Ihnen, wie ein abgestimmtes Fundament anhand Ihrer eigenen Zahlen aussieht.