Gesteuerte Autonomie statt Human-in-the-Loop: Warum die Freigabe jeder einzelnen Agentenaktion nicht skaliert

Wer jede Agentenaktion freigibt, deckelt die Finance-KI auf das Tempo der menschlichen Prüfung. Gesteuerte Autonomie hebt den Menschen über das System – er setzt Richtlinien, die nur auf abgestimmten Zahlen tragen.

Eine Controllerin, mit der ich letztes Quartal gesprochen habe, war unbemerkt zum Engpass geworden. Ihr Team hatte einen Kreditoren-Agenten ausgerollt, der Rechnungen abglich, Ausnahmen markierte und Zahlungen in die Warteschlange stellte. Es funktionierte. Das Problem war die Freigabeschranke: Jede Aktion, die der Agent vorschlug, landete in ihrer Queue. Zum Monatsende winkte sie 400 Posten am Tag durch, die Hälfte davon unter 200 Dollar, und sie gab zu, die kleinen schon gar nicht mehr zu lesen. Der Agent war schnell. Der Mensch davor war es nicht. Also lief das gesamte System in ihrem Tempo, und ihre Aufmerksamkeit war längst zur Formalie verkommen.

Genau vor diesem Versagensmuster warnt Sie niemand, wenn man Ihnen „menschliche Aufsicht” verkauft. Einen Menschen in jede Transaktion zu setzen klingt sicher. In der Praxis richtet es zweierlei Schaden zugleich an. Es deckelt den Durchsatz auf das Tempo, in dem ein einzelner Prüfer denken kann, und es trainiert genau diesen Prüfer darauf, ohne Hinsehen freizugeben – denn kein Mensch hält über Hunderte nahezu identischer Entscheidungen hinweg echte Sorgfalt durch. Am Ende haben Sie die Kosten einer Kontrolle und die Sicherheit von keiner.

Die Freigabeschranke ist ein Tempolimit

Human-in-the-Loop ergab Sinn, als KI eine Vorschlagsmaschine war und die Volumina niedrig. Eine Handvoll Empfehlungen am Tag, jede ordentlich geprüft, ist ein vernünftiges Design. Es hört in dem Moment auf, vernünftig zu sein, in dem ein Agent Tausende Aktionen pro Stunde ausführen kann. Bei diesem Volumen ist die Schranke keine Absicherung mehr; sie ist eine Warteschlange, und Warteschlangen haben eine maximale Abflussrate, die von der langsamsten Komponente bestimmt wird. Die langsamste Komponente ist der Mensch.

Gartner formuliert es hier unmissverständlich: Agenten, die beobachten, beraten, nach Freigabe handeln oder autonom handeln, tragen nicht dasselbe Risiko – und sie gleich zu behandeln, ist ein Weg zu gescheiterten Deployments. Das Haus geht so weit zu warnen, dass eine einheitliche Governance über alle Agenten hinweg zum Scheitern im Unternehmen führt, mit Sicherheitslücken und Rückabwicklungen aus dem Produktivbetrieb. Den Umkehrschluss übersehen Finanzverantwortliche: den entgegengesetzten Fehler. Wenn Sie die strengste Kontrolle – die menschliche Freigabe je Einzelaktion – auf jeden Workflow anwenden, unabhängig vom Risiko, gewinnen Sie nicht mehr Sicherheit. Sie bekommen ein System, das nicht skalieren kann, und einen Prüfer, der aufgehört hat zu prüfen.

Die Frage lautet also nicht „Mensch oder kein Mensch”. Sie lautet, wo der Mensch relativ zur Arbeit sitzt.

Gesteuerte Autonomie hebt den Menschen eine Ebene höher

Die Verschiebung 2026 – nachzulesen in der Arbeit zum Betriebsmodell der Berkeley CMR und im WEF-Board-Playbook – besteht darin, Menschen nicht länger in Transaktionen zu setzen, sondern über das System. Statt die Ausgabe des Agenten freizugeben, definieren Sie die Richtlinie, die ihn beschränkt: Ausgabengrenzen, welche Konten er berühren darf, welche Reversibilität eine bestimmte Aktion verlangt, wann er eskalieren muss. Der Mensch entwirft die Grenzen. Der Agent operiert innerhalb dieser Grenzen frei und stoppt an deren Rand schlagartig.

Das ist „Human-on-the-Loop” statt Human-in-the-Loop. Ein nützliches Muster aus der Literatur zum agentischen Betriebsmodell ist eine separate Guardrail-Prüfung, die eine Agentenaktion abfängt, bevor sie ausgeführt wird. Wenn ein Beschaffungsagent eine Zahlung über 50.000 Dollar anstößt, während seine verhaltensbasierte Baseline bei 10.000 Dollar liegt, blockiert die Guardrail die Aktion und leitet sie an einen Menschen weiter. Unterhalb der Schwelle handelt der Agent, und der Mensch sieht die Aktion nie. Die Aufmerksamkeit des Prüfers fließt nun ausschließlich in die 3 Prozent der Fälle, die tatsächlich ein Urteil verlangen – was bedeutet, dass es wieder echte Aufmerksamkeit ist.

Die Ökonomie kehrt sich um. Sie zahlen nicht länger dafür, dass ein Prüfer 400 Posten überfliegt, sondern dafür, dass einer zwölf wirklich auf Herz und Nieren prüft. Gleicher Personaleinsatz, ungleich mehr Sicherheit – und der Agent läuft bei allem Routinemäßigen mit Maschinengeschwindigkeit. Das ist die einzige Version von Skalierung, die den Kontakt mit einem Aufsichtsgremium übersteht.

Eine Grenze ist nur so vertrauenswürdig wie die Zahl, die sie prüft

Hier kommt der Teil, den die Governance-Anbieter überspringen – und es ist genau der Teil, der entscheidet, ob das Ganze trägt.

Eine Richtlinie wie „unter 10.000 Dollar automatisch freigeben, bei einer Cash-Wirkung über 5 Prozent des Periodenbudgets eskalieren, eine abgeschlossene Periode niemals berühren” ist ein Satz von Regeln, die gegen Zahlen ausgewertet werden. Die gesamte Architektur gesteuerter Autonomie steht und fällt damit, dass diese Zahlen stimmen. Ist die Sicht des Agenten auf „Cash-Wirkung”, „Periodenbudget” oder „Restsaldo” falsch, dann feuert die Grenze zum falschen Zeitpunkt. Schlimmer noch: Sie feuert lautlos falsch – der Agent gibt voller Zuversicht etwas automatisch frei, das er hätte eskalieren müssen, weil die Zahl, die er gegen die Schwelle geprüft hat, daneben lag.

Genau hier scheitern die meisten agentischen Finance-Stacks im Stillen. Der Agent greift ins ERP, zieht rohe Hauptbuchfelder, und das Sprachmodell betreibt fragile probabilistische Arithmetik, um zu entscheiden, ob eine Schwelle überschritten ist. Wir haben bereits darüber geschrieben, warum Finance-Agenten Tools aufrufen und nicht selbst rechnen müssen: Ein LLM sagt voraus, wie eine Zahl aussehen sollte – es führt nicht die Formel aus. Eine Guardrail, die auf einer vorhergesagten Zahl aufsetzt, ist keine Guardrail. Sie ist Theater mit angehängtem Konfidenzwert.

Gesteuerte Autonomie braucht deterministische und abgestimmte Grenzbedingungen. Die Schwellenprüfung muss gegen ein einziges Finanzmodell laufen, das mit dem Hauptbuch übereinstimmt, wobei die Rechnung von einer Engine ausgeführt wird und nicht vom Modell. Das ist der Unterschied zwischen einer Richtlinie, die Sie gegenüber einem Prüfer verteidigen können, und einer Richtlinie, von der Sie nur hoffen, dass sie hält.

Wie das in der Praxis aussieht

Konkret besteht der Workflow, der skaliert, aus drei Teilen – und sie bilden ab, wo Rexfin ansetzt.

Erstens: ein abgestimmtes Modell. Verbinden Sie QuickBooks, Xero, NetSuite, Sage, Ihr Data Warehouse oder hochgeladene Auszüge zu einer einzigen Quelle der Wahrheit, die mit dem Hauptbuch übereinstimmt. Jede Schwelle, jede Baseline und jedes Budget, auf das sich die Richtlinie bezieht, liest aus diesem Modell – nicht aus dem, was der Agent zufällig zusammengetragen hat.

Zweitens: deterministische Auswertung. Wenn der Agent eine Aktion erwägt, läuft die Schwellenlogik durch eine deterministische Berechnungs-Engine, nicht durch das LLM. „Liegt das über 5 Prozent des Perioden-Cashflows” liefert jedes Mal dieselbe Antwort und ist bis zur Quelle nachvollziehbar. Die Grenze wird prüffähig.

Drittens: der Mensch über dem System. Ihr Team setzt und justiert die Richtlinien, prüft nur die eskalierten Ausnahmen und sieht in einen Verlauf, der nicht nur festhält, was der Agent getan hat, sondern auch, welche Zahl er geprüft hat und warum die Richtlinie sie erlaubt oder blockiert hat. Genau dieser letzte Punkt ist für die Compliance entscheidend, und er knüpft direkt an das an, was SOX-fähige Agenten protokollieren müssen: Entscheidungen, nicht nur Aktionen.

Nichts davon schafft den Menschen ab. Es versetzt ihn dorthin, wo sein Urteil sich verzinst, statt dorthin, wo es zerrieben wird.

Das Fazit

Jede Agentenaktion freizugeben ist keine Vorsicht. Es ist ein Design, das Ihnen den Anschein von Kontrolle erkauft und zugleich Ihre Finanzfunktion auf den Durchsatz eines einzigen erschöpften Prüfers deckelt. Gesteuerte Autonomie ist die Alternative, die tatsächlich skaliert – aber sie funktioniert nur, wenn die Grenzen auf Zahlen berechnet werden, denen Sie vertrauen. Eine Schwelle, die gegen eine halluzinierte Zahl geprüft wird, ist schlimmer als gar keine Schwelle, weil sie lautlos und mit dem Anschein von Strenge versagt.

Wenn Sie dieses Jahr Agentenautonomie konzipieren, entwerfen Sie zuerst die Richtlinien und stellen Sie dann die unbequemere Frage: Woraus lesen diese Richtlinien eigentlich? Lautet die Antwort „aus der besten Vermutung des LLM über das Hauptbuch”, dann haben Sie keine Governance gebaut. Sie haben einen schnelleren Weg gebaut, falsch zu liegen. Buchen Sie eine Demo, und wir zeigen Ihnen, wie gesteuerte Autonomie aussieht, wenn die Grenzen auf einem abgestimmten Modell sitzen.

Quellen: Auditoria, Finance AI 2026: Human-in-the-Loop Out, Governed Autonomy In; California Management Review, Governing the Agentic Enterprise; World Economic Forum, A board playbook for governing agentic AI; Gartner, Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure.