TypeSafe AI 发布 Jev:一个返回类型化、校准决策而非文本的 System One 模型

📌 One-Sentence Summary TypeSafe AI 推出 Jev,一个基于 transformer 的模型,输出结构化、类型化的决策并附带置信概率,而不是自由形式的文本,从而可以直接集成到软件工作流程中。
📝 Summary Jev 是 TypeSafe 的一个新型 AI 模型,专门返回校准的、类型化的响应(选择、分数和布尔值),而不是自然语言文本。它旨在被软件系统直接用于决策,相比通用语言模型,具有更高的速度和更低的成本。该模型目前作为托管 API 提供,并配有 Python 和 JavaScript SDK。
💡 Main Points Jev 是一个 System One 模型,输出结构化数据(带有概率的类型化决策),而不是自然语言文本。与生成字符串的通用 LLM 不同,Jev 被微调用于产生特定数据类型(例如,带有选项的 'Choice',带有级别的 'Score',用于真/假的 'Noul')。这允许直接集成到控制循环和决策算法中,而无需额外的解析或解读。
该模型利用了新的训练栈,涉及用于校准决策的强化学习(RLCD)。TypeSafe 开发了一种自定义训练方案,重点关注校准和决策质量,而不是类人对话。这导致响应中包含一个 'confidence' 指标,允许用户设置自动化操作与人工审查的阈值。
Jev 提供了比现有模型显著的性能提升,报告显示速度提高了 193.6 倍,成本降低了 444.6 倍。根据内部基准测试,Jev 在毫秒级(平均 70-500 ms)处理请求,并且每 token 的成本比当前最先进的模型低得多。这使其适合对延迟和成本敏感的高频决策任务。
💬 Key Quotes 2022 年的 ChatGPT 时刻让 AI 学会了与人对话。现在,它的一个构建者押注,下一个时刻是 AI 与软件对话,而不是与人对话。
📊 Article Meta
AI Screening: 88
Source: MarkTechPost
Author: Asif Razzaq
Category: 人工智能
Language: 英文
Read Time: 4 min
Word Count: 915
Tags: AI 与智能应用 , 模型发布 , AI 工程 , 强化学习 , 系统设计
刚好最近在找这方面的资料,太及时了。
作者写得真不错,学到了不少。
这个观点很中肯,深有同感。
思路清晰,干货满满。
写得挺用心的,支持一下。
很有价值的分享,感谢整理。
整理得太全面了,省了我不少时间。
讲解得很细致,新手也能看懂。
收藏了,以后慢慢研究。
刚好最近在找这方面的资料,太及时了。
不错不错,已加入书签。
思路清晰,干货满满。