跳到正文
新功能:向 Rexfin 分析师智能体询问你的模型,每个数字都附带出处
· 阅读约 6 分钟

引用或拒答:Rexfin 的 AI 回答绝不靠猜测

Rexfin 回答引擎中的每一项数字性论断,要么落实到一条引用出处上,要么这个引擎就拒绝作答。没有第三种选项让它靠估算凑数。

作者 The Rexfin team

向一个通用 AI 助手问一个关于某家公司的数字性问题,它会给出答案。这是它的设计使然。它被训练得乐于助人,而一个流畅的“无法回答”在模型看来就是一种失败,于是它会用一个看起来合理的东西填补空缺。在金融领域,一个不真实却显得合理的数字,比根本没有答案更糟糕,因为它看起来和正确答案一模一样,直到有人拿它去对照原始文件,才发现根本对不上。

Rexfin 的回答引擎围绕一条听起来很简单、却被刻意设计得难以绕过的规则运转:回答中的每一项数字性论断,要么落实到一条引用出处上,要么引擎就拒绝回答问题的那一部分。不是“标注为不确定”,而是直接拒绝。

两项工作,刻意拆分

这套引擎把寻找证据和撰写答案这两件事分开处理。第一道流程,即调查员,在从原始文件中提取出的事实及其关系构成的图谱上运行多步搜索,专门寻找该问题实际需要的具体数据点。只有在收集齐这些证据之后,第二道流程,即撰写员,才会起草答案,并且被限定只能依据它拿到手的那个证据区块来写作。它无法越过这个区块,去调用自己从训练数据中“记住”的关于这家公司的任何信息。如果证据里没有这个数字,撰写员就无法接触到任何来自别处的版本。

但仅靠这一层约束还不是全部保障,因为模型仍有可能错误陈述自己手头证据的内容。因此之后还有一道独立的、确定性的检查:一道引用真实性关卡,会审视草拟答案中的每一个数字,验证它是否确实由所引用的证据支撑,而不只是看起来贴合而已。一个背后没有真实引用支撑的数字,不会被加上一句免责声明就蒙混过关,答案会被拒绝,或者把不受支持的那部分内容直接删掉,并在回复中明确说明这一点。在此之上还会运行一道验证流程,并给出一个置信度标签,高、中或低,这样读者得到的不只是“这条答案已经过核实”,而是核实的把握有多大。

有效地拒绝,而不只是一句拒绝

一句干巴巴的“我无法回答”,几乎和给出一个错误数字一样没什么帮助。所以当 Rexfin 无法按照问题原样作答时,不管是因为问题本身含糊不清,还是涉及不止一份文件的范围,又或者要求的是底层文件里根本不存在的内容,它会转而说明自己能够回答什么,而不是留下一条死胡同。如果一个问题在指涉哪家公司或哪份文件上含糊不清,引擎会主动询问缺失的范围信息,而不是去猜用户大概想问哪一个。

范围上的严谨远不止于此。属于某一个报告分部的数字,不会被悄悄当作整个公司的数字来引用;而限定在某一财年的问题,也不会因为文件库里恰好存放着一份更新的年度报告,就被用那一年的数字来作答,而不管问题限定的年份是哪一年。这些听起来是些细枝末节的区别,但恰恰是这类混淆,才会把一个听起来自信满满的答案,变成一个在快速浏览时很难察觉出问题的错误答案。

证据本身来自哪里

如果这套拒答纪律所依赖的证据池本身不牢靠,那么以上这一切都没有多大意义。撰写员被限定只能使用的引用,来自已经通过与文件打印总额的对账核实的数字,并且处于信任链中相应的层级:一个已归档并经过核实的数字,与一个内部估算数字会被区别对待,回答引擎尊重这种区别,而不是把它一律拉平。这也是为什么一条答案背后的引用,会直接链接进入出处抽屉,这样读者只需一次点击,就能从这句话跳转到原始文件,而不必凭信任照单全收。

这是为谁而建

这对任何必须在他人面前为一个 AI 来源的数字担责的人来说都最为重要:向董事会汇报的 CFO、回答贷方问题的分析师、应对审计师追问的财务主管。如果给出一个错误答案的代价是你自己的信誉,那么“听起来自信、却缺乏依据”正是你承担不起的失效模式,而引用或拒答正是为了消除这种失效模式而设计的机制。想了解这套证据层是如何搭建起来的,请浏览完整的 Rexfin 产品导览

所属专题 Rexfin 产品导览:每一个数字都可追溯

继续阅读

预约演示

亲眼看到您的数字对得上账。

预约一场 30 分钟的演示。带上一个您总是无法快速回答的问题,我们将基于真实财务数据现场为您建模。