Jev：面向生产环境的 System One 模型，而非上帝——对话 TypeSafe AI CEO Diogo Almeida

📌 One-Sentence Summary TypeSafe AI 的 Jev 模型通过 Calibrated Decisions 强化学习（RLCD）技术构建 System One 模型，旨在为生产环境提供高可靠性、可编程的 AI 代理，而非传统对话模型，强调任务优化和数据质量的重要性。 📝 Summary 本文深入探讨了 TypeSafe AI 的 Jev 模型及其背后的 System One 概念。创始人 Diogo Almeida 指出，当前主流的 RLHF 模型存在过度优化人类偏好、导致模式崩溃和校准问题。Jev 通过 Calibrated Decisions 强化学习（RLCD）技术，专注于为软件任务提供具有诚实概率的决策能力。文章强调，AI 的核心价值在于提升「每美元的智能」，而非单纯追求计算能力，并讨论了 Jev 在游戏控制、代码辅助、数据分析等领域的应用场景。TypeSafe AI 认为 AI 应「消失于软件背景」，成为工具而非独立实体。 💡 Main Points Jev 模型定位为 System One 模型，专为生产环境设计 与面向对话的 LLM 不同，Jev 旨在通过代码直接消费，强调可靠性、成本效益和可编程性，目标是实现「每美元的智能」最大化。 采用 Calibrated Decisions 强化学习（RLCD）技术 通过优化任务执行而非人类反馈，解决传统 RLHF 导致的幻觉、奉承和校准问题，提供更诚实的概率评估。 强调任务和数据的重要性 TypeSafe AI 提出「最苦的教训」——优化任务和数据质量比计算能力更重要，AI 应专注于解决实际工作问题而非自动化简单任务。 AI 应「消失于软件背景」 Jev 的设计理念是让 AI 成为软件的背景功能，如正则表达式般融入系统，通过结构化状态和分解决策实现可预测的软件控制流。 应用场景广泛 涵盖游戏控制、代码辅助、数据分析、实体解析等，通过编程原语实现小而可测量的决策，避免大型提示和系统消息。 💬 Key Quotes The first thing that I'm relieved about with this question is now I don't have to answer that question to my parents anymore 'cause ChatGPT can just explain it. Jev is meant to be optimized for intelligence per dollar， hence the name Jev. The most important part of it isn't ML at all. You get what you optimize for. We are designing everything， beyond just the outside， the deep internals of the model to be optimized for software. The thing we really want is to have， like， AI， like， be as powerful as possible， and we think the way to do that is to integrate it with software. 📊 Article Meta AI Screening： 90 Featured： Yes Source： Latent.Space Author： Latent.Space Category： 人工智能 Language： 英文 Read Time： 128 min Word Count： 31878 Tags： AI 与智能应用 , 强化学习 , AI 编程 , AI 安全与对齐 , 模型训练与推理 Read Full Article