跳到正文
新功能:向 Rexfin 分析师智能体询问你的模型,每个数字都附带出处
· 阅读约 8 分钟

为什么 AI 永远不应该自动应用科目表映射

置信度分数不是 AI 映射变更的安全关卡。为什么重新分类需要人工批准才能生效,以及真正的可撤销性。

作者 The Rexfin team

一个 AI 分类器看到一个名为”Meridian Logistics Group”的供应商,判断它应归入货运与物流类别,而不是两年前有人为它设定的专业服务类别。置信度分数是 94%。系统自动应用了这一变更。没有人看到这一切发生。三个月后,到了结账时,货运科目出现了一笔没人能解释的偏差,原因不是它出错了,而是这实际上是另一个供应商,被用不同方式归类了,而本可以解释分类为何变化的记录并不存在。

这就是本文要讨论的失败模式:不是一个高调出现的错误数字,而是一次悄无声息的重新分类,持续累积整整一个季度,直到有人发现总数看起来不对劲。它与糟糕的预测或臆造的差异分析属于不同的风险类型,需要不同的解决方案。解决方案不是提高置信度门槛,而是在变更生效之前让人工介入批准环节,并保留一份可以回滚到具体某个时点的映射历史,而不仅仅是可以撤销。

映射变更的特殊危险

多数关于 AI 在财务领域风险的讨论都集中在输出结果上:一份预测、一段评论、一个问题的答案。这些都是可见的。如果 AI 告诉你收入增长了 12%,而实际只增长了 8%,通常会场里有人能发现,因为这个数字一旦说出口就会立刻受到审视。

科目表映射的变更不会受到这种审视,因为它不是一个数字,而是管道系统。它决定一笔交易在任何数字被计算之前会落到哪个科目下。管道装错了,每一个涉及该科目的下游数字也会悄悄出错:费用科目、由该费用推算出的利润率、对预算的差异分析、基于历史趋势构建的预测。这些数字单独看都不像是出了问题,它们只是与一本被悄悄重新分类过的总账对上了而已。

这就是为什么映射错误与单一的错误答案属于不同的风险类别。错误答案是可见的,会受到质疑。错误映射是不可见的,会被建立在它之上的一切继承下去,只要它一直未被察觉就会持续存在,而实际情况往往是整整一个结账周期甚至更久,因为没有人会在月结之间去审查映射表。

一个持续对总账科目和供应商进行分类的 AI,也就是 Aleph 的 AI Mappings 等工具中如今出现的那类功能,确实很有用。静态映射规则会过时:新供应商出现,现有供应商开票方式改变,分类会逐渐漂移。总得有东西让映射保持最新。问题不在于是否应该自动化这种分类,而在于从 AI 提出变更到该变更生效之间应该发生什么。

为什么置信度分数不是安全关卡

直觉上的解决方案是自动应用高置信度的变更,只把低置信度的变更交给人工处理。这听起来很合理:让 AI 处理简单情形,把人工注意力留给模棱两可的情形。但这恰恰是错误的关卡,原因就在于这个问题的特殊性。

置信度分数衡量的是模型对某种模式匹配程度的把握,而不是这次重新分类对你的账本是否正确。“Meridian Logistics Group”以 94% 的置信度被判定为货运与物流,意味着模型对这个供应商名称的模式很有信心。但它完全不知道,你的财务总监两年前特意把这个供应商映射到了专业服务类别,因为 Meridian 也为你提供报关顾问服务,你的团队认定这部分支出应归入顾问费,而非货运费。模型无从获取这个决策。它只看到一个名字和一个看似合理的类别。高置信度和错误并不互斥,恰恰是这种组合让静默错误变得危险,因为高分数读起来像是一种放心保证,而不是一个警示信号。

置信度分数关卡还有第二个问题:它优化的是错误的失败模式。一个为捕捉模棱两可情形而调校的阈值,按其构造必然会放过模型非常确信的情形,而这恰恰是系统性错误模式(每一个带”Logistics”字样的供应商都被归入货运,包括那些不该归入货运的)造成最大损害的地方,因为它会在每次该模式再次出现时重复发生。置信度关卡能捕捉噪音,却捕捉不到自信而一致的偏差,而自信一致的偏差正是那种会在一个季度里悄悄重塑损益表科目的版本。

正确的问题不是“模型有多确信”,而是“这个变更是否触及重要的内容,以及负责科目表的人是否已经看过它”。这是一个批准问题,而不是一个置信度问题。

先批准后应用,而非先应用后撤销

有些工具走了折中路线:自动应用变更,但让撤销变得容易。这把映射表当成一份带版本历史的文档,你随时可以退回去。听起来似乎能以更低的工作流速度成本解决与批准相同的问题。但实际上并不能,原因有两个。

第一,撤销依赖于有人注意到有东西需要撤销。一个从未被审查过的变更不会被标记为需要撤销,因为没有任何东西促使任何人去检查。“它是可撤销的”这一整套前提,假定终究会有人去看,而这些错误会持续累积数月的原因,恰恰就是没有人真的去看,直到结账时,直到这个数字已经出现在某人已经签字确认的报告中。

第二,也是“撤销”这个说法往往忽略的部分:撤销一次映射不像撤销一次文本编辑。一旦某个映射变更生效,在此期间根据新映射被分类的每一笔交易,都已经流入了报告、预测,或许还有董事会材料。此后撤销映射并不能追溯性地修正已经流向下游的内容。你需要确切知道哪些交易受到了影响,在确切哪个时间窗口内,处于确切哪个映射版本下,并重现在旧映射下这些数字本应呈现的样子。一个简单的撤销按钮做不到这一点。一份带版本的映射历史可以。

先批准后应用规避了这个问题,而不是事后再去补救。AI 提出建议,下游的一切都不会变化,直到理解为什么”Meridian Logistics”当初被映射到那个类别的人确认或推翻这条建议。这个关卡每次变更只需要几秒钟的审查时间。换来的保证是,没有任何东西会在没有具备背景知识的人做出决定的情况下进入你的科目表。

“可逆”实际需要什么

映射变更确实需要是可逆的,至少对于已经应用的变更如此,而可逆性是一项基础设施要求,而不是一个界面功能。它意味着:

要求为什么重要
每一次映射变更都有版本记录,附带时间戳和受影响的交易让你能确切识别某次变更触及了哪些具体数字,而不只是知道“有东西变了”
保留此前的映射状态,而不是覆盖它撤销必须恢复一个真实的先前状态,而不是近似值
回滚会将旧映射重新应用到受影响的具体交易窗口否则你只修正了未来的映射,却留下整整一个季度的历史被错误分类
变更日志记录谁批准了它,以及 AI 提出的理由是什么当审计师问“为什么这个供应商映射在这里”,需要一个能追溯到具体决策的答案,而不是猜测

这些都不是什么高深的要求。这与账本对日记账分录一贯采用的严谨程度相同,没有任何东西会被悄悄覆盖,任何变化都会留下可以回溯的痕迹。映射表历来没有被要求达到这一标准,因为它们一直被当作配置项,而不是驱动财务模型的数据。一旦 AI 开始持续对映射表提出变更,这种区分就不再成立。一份没有版本历史的映射表,是压在每一个依赖它的数字之下的一个单点静默失败源。

正确的做法是什么样的

可行的模式包含三个部分,而且它们都不需要让 AI 变慢,只需要在 AI 的建议变成事实的那一刻放慢速度。

AI 持续进行分类,留意新出现的供应商、逐渐漂移的模式,以及不再符合当前映射的科目,并在问题出现时就提出变更建议,而不是等着有人注意到问题。每一条建议都会转给负责科目表的人,也就是财务总监,而不是普通审阅者,并附带 AI 给出的理由,这样批准只需几秒钟,而不需要审阅者从头重新推导分类结论。一旦获批,该变更会被纳入版本记录,归入一个能与账本对平的已对账模型,这样如果某个映射后来被证明是错的,回滚就可以做到精确:这个时间窗口、这些交易、这个先前状态,予以恢复。

最后这一点正是把映射批准与整个信任链条其余部分连接起来的关键。只有当映射所输入的模型本身已经过对账并可追溯时,谨慎批准这个映射才有意义,否则你只审查了输入端,却把下游的运算交给了运气。我们曾撰文探讨过同样的严谨为何也需要延伸到文档最初被分类的方式,参见文档摄取分类如何运作。而映射上的批准关卡,只是关于自动化应止于何处、审查应始于何处这一更广泛设计问题的一个实例,参见校准与信任调节,了解这一阈值在整个平台层面(而非单一功能层面)是如何设定的。财务总监实际查看并处理某项建议变更的审查界面本身,则在评论与审查流程中有详细介绍。

结论

自动应用对任何触及科目表的事项而言都是错误的默认选项,原因不是 AI 分类不可靠,而是这种失败模式是静默且会不断累积的,而这一点是糟糕预测从来不会有的特性。置信度分数告诉你一个模式匹配器有多确信,却不会告诉你一个具备背景知识的人是否会认同,而模型自信地出错的那些情形,恰恰就是置信度阈值会放行的情形。先批准后应用能在变更进入你的数字之前将其拦下。带版本、可撤销的映射能确保,一旦真有什么漏了过去,你可以精确追溯它触及了什么,并精确恢复此前的状态,而不只是按下一个开关,寄望下游报告能自行追上。

问任何一家带映射功能的 AI 供应商两个问题:一次变更在触及你的数字之前是否必须有人批准,以及如果某个映射被证明是错的,他们能否准确告诉你它影响了哪些交易,并精确恢复此前的状态,而不只是按下一个开关,寄望下游报告能自行追上。预约演示,我们会向你展示带批准关卡、有版本记录的映射在一个已对账模型上是什么样子,或阅读我们关于 Rexfin 对比 Aleph的完整对比。

所属专题 代理式 AI 在财务领域首先需要一个可靠的数字层

继续阅读

预约演示

亲眼看到您的数字对得上账。

预约一场 30 分钟的演示。带上一个您总是无法快速回答的问题,我们将基于真实财务数据现场为您建模。