Jev 并非试图成为另一个聊天机器人 —— 它旨在成为软件的决策层

📌 One-Sentence Summary

Jev 将 AI 范式从生成文本转向结构化的「决策层」，提供快速且类型化的原语（Choice， Score， Noul），使软件能够处理逻辑与策略，而模型则提供感知不确定性的判断。

📝 Summary

本文介绍了 Jev，这是一个「系统 1」模型，其设计目标并非聊天机器人，而是作为软件架构中的决策原语。与需要解析和验证生成字符串的传统 LLM 不同，Jev 直接返回结构化的决策（类型化输出）。通过提供三种核心原语 —— 用于路由的 Choice、用于基于量表衡量的 Score 以及用于布尔验证的 Noul，Jev 允许开发者将 AI 作为快速、廉价且可预测的组件集成到应用程序逻辑中。作者主张采用一种混合架构：Jev 作为第一道过滤器，以低成本处理确定性较高的决策，仅将不确定的案例升级至昂贵的 LLM 或人工处理，从而将模型的「不确定性」与应用程序的「策略」分离开来。

💡 Main Points

从生成式 AI 向决策式 AI 转型

传统 LLM 生成的是需要软件解析和验证的文本；Jev 通过返回可直接用于代码分支的类型化决策（Choice， Score， Noul）移除了这个「中间环节」。

「系统 1」模型概念

受快速、直觉性判断的启发，Jev 旨在为大型软件循环内部提供高速、低成本的原子级判断，而非取代整个应用程序逻辑。

不确定性与策略的分离

通过提供概率和置信度分数，Jev 让应用程序掌控策略（例如「如果置信度

混合架构分层

作者提出了一种两层系统：使用廉价的决策模型（Jev）进行初步分类和门控，仅在处理复杂且不确定的任务时才调用昂贵的推理模型（LLM）。

💬 Key Quotes

「LLM 生成字符串。Jev 返回决策。」

「模型产生不确定性。应用程序掌控策略。」

「先进行廉价决策。仅在必要时进行昂贵推理。」

「Jev 旨在为有界决策移除生成文本这一中间环节。」

📊 Article Meta

AI Screening： 86

Source： DEV Community: machinelearning

Author： Sh Raj

Category： 人工智能

Language： 英文

Read Time： 15 min

Word Count： 3520

Tags：

AI 与智能应用 , AI Agent , 系统设计 , LLM , API 设计