跳到正文
新功能:向 Rexfin 分析师智能体询问你的模型,每个数字都附带出处
· 阅读约 7 分钟

《欧盟人工智能法案》第 14 条:为什么 AI 财务数字的人类监督是采购方常常忘记的义务

只要你在使用 AI,你就是部署者,依法有义务对其输出进行监督、解读并在必要时否决。本文说明,若没有可追溯的来源和确定性的计算层,这一点为何根本无法做到。

只要你在使用 AI,你就是部署者,依法有义务对其输出进行监督、解读并在必要时否决。本文说明,若没有可追溯的来源和确定性的计算层,这一点为何根本无法做到。

作者 The Rexfin team

某财务团队购入一款 AI 助手,将其接入总账,要求给出本季度的毛利率。两秒钟后数字出来了,看起来没问题,被粘贴进了董事会材料。但没人说得清它汇总了哪些明细科目,是否调取了正确的销货成本账户,也说不清为什么这个数字与上月同一指标相差了 1.4 个百分点。这个差距,即“给出答案”与“你能为之背书的答案”之间的差距,正是《欧盟人工智能法案》第 14 条所要解决的问题。而大多数企业都把它读成了别人的问题。

其实不是。

采购方以为自己躲过了的义务

财务和 IT 部门中流传着一种令人安心的假设:“模型不是我们造的,所以人工智能法案是供应商的头疼事。”该法案确实在提供者(构建并将 AI 系统投放市场的一方)与部署者(在自身权限下使用这些系统的一方)之间划出了界限。提供者承担着较重的设计义务,这没错。但第 26 条为部署者设定了独立的义务,而第 14 条正是这些义务真正生效的地方。

第 14 条要求高风险 AI 系统在整个使用过程中都可以由自然人进行监督。提供者必须内置监督所需的手段,部署者则必须实际行使这种监督。具体而言,被指派负责监督系统的人员必须能够理解系统的能力与局限、监测其运行中的异常、正确解读其输出、对自动化偏见(即人们倾向于信任一个自信满满的机器答案这一有据可查的习惯)保持警惕,并在任何具体情形下决定是否弃用该输出,甚至完全不使用该系统。

用 CFO 的眼光再读一遍这份清单:理解局限、解读输出、在出错时否决它。对一个你无法追溯的数字,这些事你一件都做不到。对一个无法拆解的数字进行“监督”,只是在演戏。

“高风险”比财务团队想象的更近

常见的反驳是:财务领域的 AI 不属于高风险,所以第 14 条不适用。对此要谨慎。附件三下的高风险分类涵盖了信用评估和信用评分等领域,用于评估个人或企业财务状况的 AI 完全可能落在其中。一个影响放贷决策、为交易对手评分,或将风险加权数字输入受监管流程的 AI,显然不能想当然地认为不在范围之内。诚实的说法是,是否适用取决于具体事实,而相当一部分财务领域的 AI 会符合条件,当然不是全部,但比人们乐于相信的比例要高。

即便某项具体用途落在严格意义上的高风险范围之外,第 14 条的操作逻辑本身也不过是良好实践。驱动决策的数字需要有人能够核实。该法规不过是把一个称职的财务部门本来就应该追求的东西成文化了而已。

2026 年 8 月的时钟,以及那个星号

高风险义务(包括部署者的义务)与 2026 年 8 月 2 日这一适用日期挂钩,这也是企业一直以来的规划节点。但确实存在一个不容忽视的星号:欧盟的《数字综合法案》(Digital Omnibus)已提议将部分高风险截止日期推迟,政治谈判中提到了将独立附件三系统的期限推迟到 2027 年 12 月等数字。但一项仍在谈判中的提案不等于已经生效的法律。就目前而言,审慎的做法是把 2026 年 8 月当作确定生效的日期来做准备,而不是把整个合规计划押注在一个不确定是否会落地的延期上。我们在《数字综合法案》相关问题一文中更详细地讨论了这一变动中的截止日期,简而言之就是:按它不会推迟来准备。

为什么“有人核对过”通常算不上真正的监督

这里有一个令人不安的机制。目前市面上大多数 AI 财务工具的做法,是让语言模型既检索又计算。你请求一个比率,模型从上下文中提取一些数字,并在写出周围那句话的同一个概率性步骤中,自行完成这个运算。大语言模型擅长听起来正确,却在结构上很难做到数字上精确无误。它们会把数字位置弄反,平均错误的期间,或悄悄地凭空捏造出一行数据源中根本没有的内容。

现在让你指派的监督者去“正确解读”这样一个系统的输出。他们拿到的只是一段带着某个数字的文字,却没有审计轨迹可循。要核实这个数字,他们就得把整个计算过程手动重做一遍,而这样一来 AI 就没有帮他们省下任何时间,所谓的监督也只是走个过场。这正是设计层面的自动化偏见:一个流畅的答案,想要质疑它成本很高,于是没人质疑。第 14 条准确点出了这一失败模式,而一个会造成这种局面的系统,几乎从定义上说,就是你无法有效监督的系统。

对财务数字进行有效的人类监督有两个硬性前提,把“人在回路中”生硬地嫁接到一个不透明的工具上,并不能满足这两点:

  • 可追溯的来源。 每个数字都必须能回溯到其来源的总账分录、科目和期间。如果监督者无法打开这个数字看到它的血统,他们就无法解读它,无法发现异常,也无法为否决它提供正当理由。
  • 确定性的计算层。 运算必须由一个每次都返回相同答案、并展示其运算过程的计算引擎完成,而不是由语言模型完成。LLM 的职责是理解问题并解释结果,而不是充当计算器。

没有这两点,第 14 条赋予的否决权就是空的。你无法否决一个你根本无法审视的东西。

这套机制究竟是如何改变的

这正是 Rexfin 致力于弥合的缺口,值得说得具体一些。Rexfin 接入你的会计和财务数据平台(QuickBooks、Xero、NetSuite、Sage、SAP、Oracle、你的数据仓库),或接入上传的报表,构建出一个能与总账核对一致的统一财务模型。这个模型就是唯一的真实来源。当 AI 被问到一个问题时,它从这个模型中检索数字,并通过一个确定性引擎(而非 LLM)来完成运算。每一个输出都可以追溯回源头。(具体的运作方式见工作原理集成。)

合规上的收益是直接的。你指派的监督者可以打开任何一个 AI 生成的数字,查看其背后的科目、期间和计算过程。异常之所以能被发现,是因为模型是与总账对账,而不是与模型自身的猜测对账。否决决策因此变得真实可行:某人可以查看一个被标记出来的利润率,追溯 1.4 个百分点的波动到某个被重新分类的费用科目,然后决定接受或退回。这正是第 14 条所要求的活动,而它之所以能够实现,是因为底层数字是可审视的。

我们不会夸大其词。该法规还要求文档化的治理机制、经过培训的人员以及留存的日志,这些是任何平台都无法替你完成的组织性工作。Rexfin 本身并不能让你自动合规。它所做的,是消除这个问题核心中那个“技术上不可能”的部分:因为数字无法追溯而无法行使的监督。这正是其他人都没有解决的那部分。

结论

第 14 条把“有人批准过”变成了一个可检验的说法:那个人当时真的能理解、解读并否决那个数字吗?如果你的 AI 是在一个黑箱里完成计算的,诚实的答案是“不能”,而部署者,也就是你这个采购方,要为此承担后果。解决方案不是开更多的会,也不是搞更大的签字表,而是构建一种数字可追溯到源头、运算是确定性的架构。把这一点做对,与之相关的义务,从你的审计师依据 IDW PS 861 对 AI 数字的审查GoBD 关于机器可读性的规则,也会随之明显变得容易。

如果你想亲眼看看真正经得起检验的监督:每个数字都可打开,每次计算都可复现,预约演示,并带上你最难核实的数字。

所属专题 经得起审计的 AI 财务:数字可追溯、符合 GoBD 与《AI 法案》要求的模型

继续阅读

预约演示

亲眼看到您的数字对得上账。

预约一场 30 分钟的演示。带上一个您总是无法快速回答的问题,我们将基于真实财务数据现场为您建模。