Artikel 12 EU AI Act: Warum sich jede KI-Finanzentscheidung selbst protokollieren muss

Im März 2027 ruft eine Aufsichtsbehörde an und stellt eine einzige Frage: Zeigen Sie mir, wie die KI zu dem Wertberichtigungsbetrag gekommen ist, den Sie im vergangenen September gebucht haben. Wenn Ihre Antwort ein Screenshot eines Chatfensters ist, haben Sie ein Problem. Kein Reputationsproblem, sondern ein rechtliches.

Genau diese Realität schafft Artikel 12 des EU AI Act für jede Finanzfunktion, die ein Hochrisiko-KI-System betreibt. Der Text ist kurz und unmissverständlich. Hochrisiko-KI-Systeme müssen “technisch die automatische Aufzeichnung von Ereignissen (Protokolle/Logs)” über die gesamte Lebensdauer des Systems ermöglichen. Automatisch, nicht manuell. In das System eingebaut, nicht nachträglich als Ordner exportierter PDFs angefügt, an deren Speicherung sich jemand erinnern muss. Ein Jahrzehnt lang waren Prüfspuren im Finanzwesen eine Best Practice, die man gut oder schlecht umsetzen konnte. Der AI Act verschiebt sie in die Spalte mit der Überschrift Pflicht.

Was Artikel 12 tatsächlich verlangt

Auf den Wortlaut kommt es an, lesen Sie ihn also so, wie es ein Prüfer täte. Das System muss von sich aus protokollieren. Sie können die Anforderung nicht erfüllen, indem Sie einen Analysten bitten, Notizen zu führen, denn Notizen sind selektiv – und selektiv ist genau das, was die Verordnung verhindern soll. Die Protokollierung muss über die gesamte Lebensdauer des Systems laufen, vom Tag der Inbetriebnahme bis zur Außerbetriebnahme, nicht nur für die jeweils aktuelle Modellversion.

Und die Protokolle müssen für bestimmte, im AI Act benannte Zwecke brauchbar sein. Artikel 12 knüpft die Protokollierung an drei Aufgaben: das Erkennen von Situationen, in denen das System ein Risiko darstellen könnte, die Unterstützung der Beobachtung nach dem Inverkehrbringen (Post-Market-Monitoring) und die Unterstützung der menschlichen Aufsichtspflichten, die an anderer Stelle des Gesetzes geregelt sind. Im Klartext: Das Protokoll ist kein Schaufenster-Feature. Es existiert, damit jemand zurückgehen, rekonstruieren kann, was geschehen ist, und beurteilen kann, ob sich das System korrekt verhalten hat.

Dann kommt der Teil, den Finanzteams überspringen. Artikel 19 legt die Aufbewahrungsuntergrenze fest: Protokolle müssen über einen Zeitraum aufbewahrt werden, der dem Zweck des Systems angemessen ist, “mindestens jedoch sechs Monate”, sofern Datenschutzrecht oder sektorspezifische Vorschriften keine längere Frist verlangen. Sechs Monate sind das Minimum, nicht das Ziel. Und es gibt eine Klausel, die fast unmittelbar an Banken, Versicherer und regulierte Unternehmen gerichtet ist: Anbieter, die Finanzinstitute sind und bereits internen Governance-Anforderungen nach dem EU-Finanzdienstleistungsrecht unterliegen, müssen diese KI-Protokolle als Teil der Dokumentation aufbewahren, die sie ohnehin schon nach diesem Recht führen. Der AI Act gewährt dem Finanzwesen kein gesondertes, leichteres Regime. Er bettet die KI-Protokollierung in die Dokumentationsdisziplin ein, auf die Sie ohnehin geprüft werden.

Warum ein Chatverlauf keine Prüfspur ist

Hier liegt die Falle. Viele Teams gehen davon aus, sie seien compliant, weil ihr KI-Tool einen Gesprächsverlauf speichert. Sie können nach oben scrollen und sehen, was Sie gefragt und was das Tool geantwortet hat. Das ist doch das Protokoll, oder?

Ist es nicht – und diese Lücke ist der Kern dieses Beitrags. Ein Chatverlauf zeichnet Wörter auf. Bei Artikel 12 geht es um die Rekonstruktion von Entscheidungen. Das sind zwei verschiedene Dinge. Wenn eine KI Ihrem Controller mitteilt, dass das bereinigte EBITDA im Quartalsvergleich um 12 % gefallen sei, stehen die rechtlich interessanten Fragen nicht im Chat. Welche Ausgangszahlen hat sie herangezogen? Aus welchem System, in welcher Version, zu welchem Abschlussstichtag? Welche Berechnung hat die 12 % ergeben? Hat sie die Rechnung selbst durchgeführt oder eine deterministische Engine aufgerufen? Würden Sie bei erneuter Ausführung derselben Anfrage heute dasselbe Ergebnis erhalten?

Ein Gesprächsprotokoll beantwortet nichts davon. Schlimmer noch: Hat die KI den Prozentsatz intern berechnet, ist das Protokoll geradezu irreführend, denn die angezeigte Zahl ist möglicherweise gar nicht reproduzierbar. Wir haben bereits an anderer Stelle über die verborgene Fehlerklasse geschrieben, bei der das Modell die Zahlen richtig hat, aber die Rechnung falsch – vertauschte Kennzahlen, Verwechslung von absoluten und prozentualen Werten, Vorzeichenfehler bei Cashflows. Ein Chatverlauf bewahrt die falsche Antwort in perfekter Treue auf und verrät Ihnen nichts darüber, warum sie falsch ist.

Was Artikel 12 in Wahrheit fordert, ist Lineage – also die nachvollziehbare Herkunft der Zahl. Nicht “die KI hat X gesagt”, sondern “die KI hat diese Eingangsdaten gesehen, diese Operation angewandt, dieses Ergebnis erzeugt, und hier ist der Pfad von der Quelle bis zur Zahl”. Das ist ein strukturell anderes Artefakt, und die meisten LLM-zentrierten Finanztools erzeugen es nicht.

Über die Compliance entscheidet die Architektur

An dieser Stelle hört die Verordnung auf, ein Policy-Problem zu sein, und wird zu einem technischen. Sie können nicht protokollieren, was Ihr System nie wusste. Wenn ein LLM ein PDF liest, einige Zahlen in seinem Kontextfenster hält und in einem einzigen, undifferenzierten Durchlauf eine Antwort ausgibt, gibt es kein sauberes Ereignis, das sich aufzeichnen ließe. Die Argumentation und die Arithmetik sind innerhalb eines probabilistischen Modells miteinander verflochten, und Sie erhalten einen plausiblen Satz, keine rekonstruierbare Entscheidung.

Der Ausweg besteht darin, die Schichten zu trennen. Verbinden Sie die Quellsysteme – Ihr Hauptbuch, Ihr ERP, Ihre Buchhaltungsplattform – und stimmen Sie sie zu einem Modell ab, das mit den Büchern übereinstimmt. Lassen Sie die KI die Zahlen aus diesem abgestimmten Modell abrufen, statt jedes Mal die Rohbelege neu zu lesen. Leiten Sie jede Berechnung durch eine deterministische Engine statt durch das Sprachmodell, damit die Rechnung bei jedem Durchlauf identisch ist. Nun ist jeder dieser Schritte ein eigenständiges, protokollierbares Ereignis. Der Abruf hat eine Quelle und einen Zeitstempel. Die Berechnung hat benannte Eingangsgrößen und eine definierte Formel. Das Ergebnis lässt sich über beides zurückverfolgen.

Funktioniert die Architektur auf diese Weise, ist die Einhaltung von Artikel 12 nahezu automatisch, weil das System von vornherein darauf ausgelegt wurde, Entscheidungen aufzuzeichnen. Das Protokoll ist kein Feature, das Sie sich erinnern mussten einzuschalten. Es ist ein Nebenprodukt der Art und Weise, wie die Zahlen entstehen. Gleiche Eingaben, gleiche Ausgaben, vollständiger Pfad – genau das meint ein Prüfer mit reproduzierbar.

Ein Zugeständnis ist hier angebracht, denn Skeptiker haben es verdient. Nichts davon macht die KI selbst wahrhaftiger. Eine abgestimmte, deterministische Schicht mit vollständiger Protokollierung kann immer noch eine Zahl liefern, die sich auf eine falsche Quellenannahme stützt. Was sich ändert, ist Ihre Position, wenn das geschieht. Statt vor der Aufsicht mit den Schultern zu zucken, können Sie die Eingabe, die Version, die Berechnung und den Zeitpunkt vorlegen, zu dem die Zahl erzeugt wurde. Sie können beweisen, was das System getan hat. Die Verordnung verlangt nicht, dass KI unfehlbar ist. Sie verlangt, dass KI rechenschaftspflichtig ist – und Rechenschaftsfähigkeit ist eine Architekturentscheidung.

Was das bedeutet, bevor die Fristen greifen

Der Zeitplan ist in Bewegung, und die Hochrisiko-Pflichten haben sich verschoben, doch die Richtung nicht. Wie auch immer die endgültigen Anwendungstermine lauten – die Messlatte, die Artikel 12 anlegt (automatische Protokollierung, Aufbewahrung von mindestens sechs Monaten, Einbettung der KI-Aufzeichnungen in Ihre bestehende Finanzdienstleistungsdokumentation), wird nicht gelockert. Es ist die Art von Anforderung, die sich leicht ignorieren lässt, bis eine Prüfung ansteht, und sehr teuer nachzurüsten ist, sobald ein Jahr nicht protokollierter KI-Entscheidungen im Produktivbetrieb liegt.

Der ehrliche Test ist einfach. Greifen Sie sich eine beliebige Zahl heraus, die eine KI Ihrem Finanzteam im letzten Quartal vorgelegt hat. Können Sie heute genau rekonstruieren, wie sie zustande kam – Quelle, Version, Berechnung, Zeitstempel –, ohne das Modell im Nachhinein raten zu lassen? Wenn ja, sind Sie Artikel 12 schon zum größten Teil gerecht geworden. Wenn nein, haben Sie keine Dokumentationslücke. Sie haben eine Architekturlücke, und die Dokumentationslücke ist nur deren Symptom.

Wenn Sie sehen möchten, wie eine rekonstruierbare Prüfspur hinter jeder Zahl in der Praxis aussieht, buchen Sie eine Demo und bringen Sie Ihre härteste “Beweisen Sie diese Zahl”-Frage mit. Genau diese lohnt es sich zu beantworten, bevor eine Aufsichtsbehörde sie an Ihrer Stelle stellt.