Wer ist bei KI im Finanzbereich verantwortlich? Warum ‚das hat die KI gemacht‘ keine Antwort ist

Fragen Sie die meisten Finanzteams, wer KI in ihrer Abteilung verantwortet, und Sie bekommen ein Schulterzucken, einen Ausschuss oder ein Richtliniendokument ohne Namen darunter. Fragen Sie, wer den Abschluss der Hauptbuchhaltung verantwortet, und Sie haben in unter fünf Sekunden eine Antwort: der Controller. Diese Lücke ist kein Formalienproblem. Sie ist das eigentliche Risiko.

Der Großteil der Governance-Diskussion rund um KI im Finanzbereich dreht sich um technische Kontrollen: Audit-Trails, Modellrisikobewertungen, das Drei-Linien-Modell. Das ist alles wichtig. Aber ein Kontrollrahmen beschreibt, was passieren soll. Er sagt nicht, wer verantwortlich ist, wenn es nicht passiert. Wenn eine KI-gestützte Zahl in einer Vorstandspräsentation falsch ist, in einer Covenant-Bestätigung, in einer Zahl, die ein Wirtschaftsprüfer gerade testet, muss jemand die Frage beantworten können: „Wer hat das freigegeben, und auf welcher Grundlage?” Wenn die ehrliche Antwort lautet „das System hat sie als hochverlässlich markiert”, haben Sie keinen Verantwortlichen. Sie haben eine diffuse Verantwortung, die als Prozess verkleidet ist.

Im Organigramm klafft dort ein Loch, wo der KI-Verantwortliche stehen sollte

Gehen Sie eine typische Finanzfunktion durch, und die Zuständigkeiten sind überall klar, außer hier. Der Controller verantwortet den Abschluss. Die FP&A-Leitung verantwortet die Planung. Der Treasurer verantwortet die Liquidität. Die Interne Revision prüft die Kontrollen. Jede dieser Rollen existiert, weil irgendwann jemand entschieden hat, dass eine Funktion wichtig genug ist, um eine namentlich benannte Person zu brauchen, deren Position davon abhängt, es richtig zu machen.

Die KI-Nutzung im Finanzbereich hat diese Schwelle vor Jahren überschritten, und das Organigramm ist nicht mitgezogen. Manche Teams hängen „KI-Governance” an die IT, die zwar die Infrastruktur verantwortet, aber keinen Bezug dazu hat, was eine Zahl im finanziellen Sinn falsch macht. Manche hängen es an Compliance, die eine Richtlinie schreiben kann, aber meist nicht dabei ist, wenn ein Analyst Hauptbuchdaten in ein Chat-Tool kopiert, um eine Stunde zu sparen. Manche hängen es nirgendwo auf: die häufigste und zugleich schlechteste Antwort.

Das ist relevant, weil erst Eigentümerschaft einen Kontrollrahmen real macht. Das Drei-Linien-Modell (Fachbereich, Risikofunktion, Interne Revision) ist die richtige Grundform für die KI-Aufsicht, funktioniert aber nur, wenn jede Linie eine Person hat, der man eine direkte Frage stellen und von der man eine direkte Antwort bekommen kann. Unser Beitrag zu den drei Verteidigungslinien für KI im Finanzbereich beschreibt diese Struktur. Hier geht es um den schwierigeren Teil: jeder Linie einen Namen zu geben.

Was „KI verantworten” tatsächlich bedeuten muss

Verantwortung ist kein Titel. Es sind drei konkrete Verpflichtungen, und ein Team, das nicht alle drei erfüllen kann, hat noch keinen KI-Verantwortlichen, egal, was im Organigramm steht.

Freigabekompetenz. Jemand muss sagen können „diese KI-generierte Zahl ist freigegeben für eine Einreichung, eine Vorstandsunterlage oder eine Covenant-Bestätigung”, und diese Freigabe muss etwas bedeuten: nachvollziehbar, mit Zeitstempel, einer konkreten Person zurechenbar, nicht „dem Finanzteam” als Kollektiv. Hat niemand diese Befugnis, ist jede KI-Ausgabe implizit standardmäßig vorab genehmigt: das Gegenteil von Governance.

Incident Response. Wenn sich eine KI-gestützte Zahl als falsch herausstellt (und bei ausreichend hohem Nutzungsvolumen wird das irgendwann passieren), muss jemand verantworten, herauszufinden, wie es dazu kam, wer die falsche Zahl gesehen hat, bevor sie auffiel, was sie nachgelagert berührt hat und was sich als Konsequenz ändert. Ohne benannten Verantwortlichen wird Incident Response zu einem E-Mail-Thread ohne Abschlusshandlung.

Verantwortung für Zulieferer-Output. Liefert die KI-Funktion eines zugekauften Tools die Zahl, muss der interne Verantwortliche trotzdem die Entscheidung verantworten, ihr zu vertrauen, nicht nur die Entscheidung, das Tool zu kaufen. Der Einkauf unterschreibt den Vertrag. Jemand anders muss verantworten, was das Tool tatsächlich ausgibt, dauerhaft, solange das Team sich darauf verlässt.

Keiner dieser Punkte ist eine technische Kontrolle. Es sind organisatorische Verpflichtungen, die technische Kontrollen lediglich stützen. Ein Audit-Trail zeigt, was passiert ist. Er zeigt nicht, wessen Aufgabe es war, es zu verhindern.

Warum „das hat die KI gemacht” keine Antwort ist, die ein Verantwortlicher geben kann

Stellen Sie sich das konkrete Gespräch vor. Ein Wirtschaftsprüfer, ein Vorstandsmitglied oder ein Kreditgeber fragt: „Diese Zahl hat sich gegenüber dem Vorquartal verändert: erklären Sie mir, warum.” Wenn die Antwort lautet „die KI hat sie auf Basis aktualisierter Daten neu berechnet”, ist das keine Antwort. Es ist die Beschreibung eines Mechanismus ohne zugeordnete verantwortliche Person. Die Nachfrage (wer hat das geprüft, wer hat die Änderung freigegeben, was hätte man anders gemacht, wäre die Zahl falsch gewesen) muss bei jemandem landen.

Das ist derselbe Maßstab, den der Finanzbereich überall sonst schon anlegt. Wenn eine manuelle Buchung den Umsatz einer Vorperiode korrigiert, akzeptiert niemand „die Tabelle hat das gemacht” als Erklärung. Der Controller, der die Buchung erfasst hat, verantwortet die Erklärung. KI bekommt keinen anderen Maßstab, nur weil sie neuer ist und der Mechanismus dem Fragenden weniger vertraut. Wenn überhaupt, braucht es einen strengeren Maßstab, weil das Fehlerbild (eine flüssig formulierte, überzeugend wirkende, falsche Zahl) bei der Durchsicht schwerer zu erkennen ist als ein Formelfehler in einer Tabelle.

Einen Verantwortlichen zu benennen verändert zudem das Verhalten schon vorher, bevor überhaupt etwas schiefgeht. Wenn der Name einer konkreten Person an die Freigabe gebunden ist, hat diese Person einen Grund, tatsächlich zu verstehen, was die KI tut, statt sie als Blackbox zu behandeln, die plausibel aussehende Ergebnisse liefert. Diffuse Verantwortung erzeugt diffuse Prüfung. Namentliche Verantwortung erzeugt jemanden, der die Zahl zweimal liest.

Schatten-KI macht es schlimmer, nicht besser

Die Verantwortungslücke bleibt nicht theoretisch. Genau so setzt sich Schatten-KI-Nutzung durch: Analysten und selbst erfahrene Mitarbeiter nutzen KI-Tools, die der Finanzbereich nie formell eingeführt hat, weil es keinen klaren Verantwortlichen gibt, den man um Erlaubnis fragen oder über den man Nutzung kanalisieren könnte. Verantwortet niemand KI im Finanzbereich, ist auch niemand in der Position zu sagen: „Nutzen Sie dafür das freigegebene System, nicht ein privates Konto.” Die Nutzung verteilt sich auf ein Dutzend nicht kontrollierter Tools, jedes mit seiner eigenen Version „der Zahlen”, keine davon nachvollziehbar.

Hier treffen sich die Verantwortungsfrage und die Architekturfrage. Man kann einem Verantwortlichen keine Befugnis zuweisen, die er faktisch nicht ausüben kann. Schreibt die eingesetzte KI still in ein Live-Modell hinein, oder läuft sie im privaten Chat-Verlauf eines Analysten, hat der benannte Verantwortliche keinen echten Hebel: kein Gate, an dem eine Zahl aufgehalten wird, kein Protokoll, das er vor Weitergabe prüfen kann. Verantwortung ohne ein System, das diese Verantwortung ausübbar macht, ist ein Titel, keine Kontrolle. Der Ansatz der Service-Account-Zuordnung, bei dem jede KI-Aktion an eine konkrete, protokollierte Identität statt an ein geteiltes Zugangskonto gebunden wird, ist der Mechanismus, der die Freigabe eines Verantwortlichen tatsächlich bis zum realen Geschehen zurückverfolgbar macht, nicht nur bis dahin, was eigentlich hätte passieren sollen.

Was Verantwortung zuweisbar macht statt diffus

Der Grund, warum „das hat die KI gemacht” in den meisten Finanzteams weiter als Nicht-Antwort funktioniert, ist architektonisch, nicht eine Frage der Haltung. Kann die KI live in eine Tabelle hinein abfragen und schreiben, oder antwortet sie frei aus einem nicht abgestimmten Mix an Quellen, gibt es schlicht keinen sauberen Punkt, an dem eine Freigabe ansetzen könnte. Die Zahl, die am Dienstag erscheint, hat nicht dieselbe Herkunft wie die Zahl vom Montag. Niemand hat „die Dienstagsversion” freigegeben, weil diese Version nie als eigenständige, prüfbare Größe existiert hat.

Ein abgeglichenes Modell mit Export-Gate ändert das. Jede Zahl, die die KI ausgibt, lässt sich auf einen konkreten Stand der Buchhaltung zu einem konkreten Zeitpunkt zurückführen, berechnet von einer deterministischen Engine statt vom Modell jedes Mal neu rekonstruiert. Damit hat ein Verantwortlicher etwas Konkretes zum Freigeben: diese Zahl, aus diesem abgeglichenen Stand, auf diese Weise berechnet, von dieser Person an diesem Datum freigegeben. Stellt sich später heraus, dass sie falsch war, zeigt der Prüfpfad genau, was von wem freigegeben wurde, kein vages Gefühl, dass man „dem System” vertraut hat. Genau das macht aus „wer verantwortet das” eine unbeantwortbare Frage eine Fünf-Sekunden-Frage, dieselben fünf Sekunden, die es braucht, um den Controller zu benennen, der den Abschluss verantwortet.

Ohne benannten Verantwortlichen	Mit Verantwortung + abgeglichener Grundlage
„Die KI hat sie als hochverlässlich markiert”	Eine benannte Person hat eine konkrete, belegte Zahl freigegeben
Incident Response ist ein herrenloser E-Mail-Thread	Eine konkrete Rolle verantwortet Ursachenanalyse und Behebung
KI-Output eines Zulieferers wird ungeprüft vertraut	Interner Verantwortlicher prüft und akzeptiert, protokolliert
Schatten-KI füllt die Lücke	Das kontrollierte System ist der naheliegende, durchgesetzte Standard
Prüferfrage hat keine zurechenbare Antwort	Freigabe ist bis zu Person und Datenstand nachvollziehbar

Die Quintessenz

Ein Kontrollrahmen ohne benannten Verantwortlichen ist Theater: gründlich aussehend, auf dem Papier vertretbar, und nutzlos in dem Moment, in dem jemand eine direkte Frage stellt. KI im Finanzbereich zu verantworten bedeutet, eine konkrete Person zu haben, die Freigabekompetenz hält, Incident Response führt und die Verantwortung für die Genauigkeit von Zulieferer-Output übernimmt, nicht einen Ausschuss oder ein Richtlinien-PDF. Diese Verantwortung wird erst ausübbar, wenn die KI selbst auf einem abgeglichenen Modell mit Export-Gate arbeitet, sodass es etwas Konkretes und Nachvollziehbares zu verantworten gibt, statt eines sich ständig verändernden Outputs, den niemand festnageln kann.

Wenn Ihr Team aktuell nicht benennen kann, wer eine KI-gestützte Zahl von Anfang bis Ende verantwortet, sollten Sie das klären, bevor die nächste Prüfung es für Sie tut. Sehen Sie, wie eine abgeglichene Grundlage diese Verantwortung konkret macht: Demo buchen.

Für das größere Governance-Bild starten Sie mit den drei Verteidigungslinien für KI im Finanzbereich, sehen Sie, wie sich Modellrisiko-Pflichten nach SR 11-7 übersetzen, in SR 11-7 ist Geschichte: was jetzt gilt, und arbeiten Sie sich durch die vollständige KI-Governance-Checkliste für den Finanzbereich, um aus Verantwortung einen wiederholbaren Prozess zu machen.