别让模型编造数字|Kepler 的 Vinoo Ganesh 谈金融 AI 架构

山止川行行业资讯📡 BestBlogs·全站精选⭐ 912026-10-26151 阅读💛 186 收藏
别让模型编造数字|Kepler 的 Vinoo Ganesh 谈金融 AI 架构

📌 One-Sentence Summary

Vinoo Ganesh 解释了 Kepler 如何优先保证事实可追溯:模型引用事实,确定性代码负责计算,无法核验的数字则被移除。

📝 Summary

Vinoo Ganesh 认为,先生成回答再补一个来源链接,并不足以满足金融研究的要求。模型可能检索到错误文档,混淆表格数值的单位或年份,也可能给出无法重算的结果。Kepler 描述的架构会在生成前注册事实与引用,附上数值、单位、数量级和期间等上下文;语言模型负责规划工具调用,确定性软件负责检索和计算。Ganesh 介绍了如何结合向量检索与关键词检索、对来源重排序,并在文档和引用层面检查访问权限。输出层根据注册表解析引用,让读者可以查看底层证据和计算过程。如果生成的数字无法匹配,系统就移除它,或尝试在有限范围内修复引用。他报告,公司评测中的普通模型加 RAG 方案产生了数千条缺乏支持或数字错误的引用。演讲明确区分了仍会产生幻觉的模型,以及旨在拦截无依据数字的输出平台。这是关于受控输出的架构主张,并不能证明每个提取出的源事实、投资解读或预测都正确;评测细节和专有引用修复过程也没有完全公开。

💡 Main Points

数字的出处还必须包含上下文

检索到一个数字并不够,还需要单位、数量级、报告期间和来源位置。文件的发布年份可能与其中某个数值所属的年份不同。

把计算留在自由生成之外

模型规划任务并引用事实,预先定义的软件执行计算。引用注册表让最终数字及其变换过程可以被检查。

检索与授权是两项独立责任

混合检索和重排序负责寻找相关、可信的证据。同时还需要文档级重新授权和受限访问,避免有用的结果泄露其他租户的研究。

移除无法追溯的输出

后处理层根据已注册证据解析引用,并剔除无法匹配的数字。部分情况会尝试修复,但完整实现仍属于专有技术。

约束平台,不等于宣称模型完美

Ganesh 承认模型仍会产生幻觉。阻止无依据的数字输出,远不等于保证源数据提取、金融判断或自主投资机构都可靠。

💬 Key Quotes

我们让模型引用数字,而不是编写数字。

我们核验每一条引用。

模型仍然可能产生幻觉,而且确实会产生。

📊 Article Meta

AI Screening: 91

Featured: Yes

Source: AI Engineer

Author: AI Engineer

Category: 人工智能

Language: 英文

Read Time: 16 min

Word Count: 3850

Tags:

AI 与智能应用 , RAG / 检索增强 , AI Agent , 视频 , 可验证 AI

Play Full Video

#AI 与智能应用# RAG / 检索增强# AI Agent# 视频# 可验证 AI

文章评论(12)

蓝归舟20 天前

不错不错,已加入书签。

回复
风倚栏21 天前

不错不错,已加入书签。

回复
龙文博20 天前

作者写得真不错,学到了不少。

回复
松听风20 天前

看完了,收获满满,期待更多更新。

回复
月沐雨20 天前

路过

回复
晨沐雨21 天前

看标题就点进来了,内容果然没让人失望。

回复
曹浩20 天前

收藏了,以后慢慢研究。

回复
郭超20 天前

实测过类似工具,作者说的基本属实。

回复
龙文博20 天前

楼主辛苦了,内容很有参考价值。

回复
雪影20 天前

思路清晰,干货满满。

回复
雪知秋20 天前

讲解得很细致,新手也能看懂。

回复
墨向阳20 天前

这个观点很中肯,深有同感。

回复