TypeSafe AI 发布 Jev：一个返回类型化、校准决策而非文本的 System One 模型

📌 One-Sentence Summary TypeSafe AI 推出 Jev，一个基于 transformer 的模型，输出结构化、类型化的决策并附带置信概率，而不是自由形式的文本，从而可以直接集成到软件工作流程中。 📝 Summary Jev 是 TypeSafe 的一个新型 AI 模型，专门返回校准的、类型化的响应（选择、分数和布尔值），而不是自然语言文本。它旨在被软件系统直接用于决策，相比通用语言模型，具有更高的速度和更低的成本。该模型目前作为托管 API 提供，并配有 Python 和 JavaScript SDK。 💡 Main Points Jev 是一个 System One 模型，输出结构化数据（带有概率的类型化决策），而不是自然语言文本。 与生成字符串的通用 LLM 不同，Jev 被微调用于产生特定数据类型（例如，带有选项的 'Choice'，带有级别的 'Score'，用于真/假的 'Noul'）。这允许直接集成到控制循环和决策算法中，而无需额外的解析或解读。 该模型利用了新的训练栈，涉及用于校准决策的强化学习（RLCD）。 TypeSafe 开发了一种自定义训练方案，重点关注校准和决策质量，而不是类人对话。这导致响应中包含一个 'confidence' 指标，允许用户设置自动化操作与人工审查的阈值。 Jev 提供了比现有模型显著的性能提升，报告显示速度提高了 193.6 倍，成本降低了 444.6 倍。 根据内部基准测试，Jev 在毫秒级（平均 70-500 ms）处理请求，并且每 token 的成本比当前最先进的模型低得多。这使其适合对延迟和成本敏感的高频决策任务。 💬 Key Quotes 2022 年的 ChatGPT 时刻让 AI 学会了与人对话。现在，它的一个构建者押注，下一个时刻是 AI 与软件对话，而不是与人对话。 📊 Article Meta AI Screening： 88 Source： MarkTechPost Author： Asif Razzaq Category： 人工智能 Language： 英文 Read Time： 4 min Word Count： 915 Tags： AI 与智能应用 , 模型发布 , AI 工程 , 强化学习 , 系统设计 Read Full Article