别让模型编造数字|Kepler 的 Vinoo Ganesh 谈金融 AI 架构

📌 One-Sentence Summary
Vinoo Ganesh 解释了 Kepler 如何优先保证事实可追溯:模型引用事实,确定性代码负责计算,无法核验的数字则被移除。
📝 Summary
Vinoo Ganesh 认为,先生成回答再补一个来源链接,并不足以满足金融研究的要求。模型可能检索到错误文档,混淆表格数值的单位或年份,也可能给出无法重算的结果。Kepler 描述的架构会在生成前注册事实与引用,附上数值、单位、数量级和期间等上下文;语言模型负责规划工具调用,确定性软件负责检索和计算。Ganesh 介绍了如何结合向量检索与关键词检索、对来源重排序,并在文档和引用层面检查访问权限。输出层根据注册表解析引用,让读者可以查看底层证据和计算过程。如果生成的数字无法匹配,系统就移除它,或尝试在有限范围内修复引用。他报告,公司评测中的普通模型加 RAG 方案产生了数千条缺乏支持或数字错误的引用。演讲明确区分了仍会产生幻觉的模型,以及旨在拦截无依据数字的输出平台。这是关于受控输出的架构主张,并不能证明每个提取出的源事实、投资解读或预测都正确;评测细节和专有引用修复过程也没有完全公开。
💡 Main Points
数字的出处还必须包含上下文
检索到一个数字并不够,还需要单位、数量级、报告期间和来源位置。文件的发布年份可能与其中某个数值所属的年份不同。
把计算留在自由生成之外
模型规划任务并引用事实,预先定义的软件执行计算。引用注册表让最终数字及其变换过程可以被检查。
检索与授权是两项独立责任
混合检索和重排序负责寻找相关、可信的证据。同时还需要文档级重新授权和受限访问,避免有用的结果泄露其他租户的研究。
移除无法追溯的输出
后处理层根据已注册证据解析引用,并剔除无法匹配的数字。部分情况会尝试修复,但完整实现仍属于专有技术。
约束平台,不等于宣称模型完美
Ganesh 承认模型仍会产生幻觉。阻止无依据的数字输出,远不等于保证源数据提取、金融判断或自主投资机构都可靠。
💬 Key Quotes
我们让模型引用数字,而不是编写数字。
我们核验每一条引用。
模型仍然可能产生幻觉,而且确实会产生。
📊 Article Meta
AI Screening: 91
Featured: Yes
Source: AI Engineer
Author: AI Engineer
Category: 人工智能
Language: 英文
Read Time: 16 min
Word Count: 3850
Tags:
AI 与智能应用 , RAG / 检索增强 , AI Agent , 视频 , 可验证 AI
Play Full Video
不错不错,已加入书签。
不错不错,已加入书签。
作者写得真不错,学到了不少。
看完了,收获满满,期待更多更新。
路过
看标题就点进来了,内容果然没让人失望。
收藏了,以后慢慢研究。
实测过类似工具,作者说的基本属实。
楼主辛苦了,内容很有参考价值。
思路清晰,干货满满。
讲解得很细致,新手也能看懂。
这个观点很中肯,深有同感。