LegalOn 在保持开发速度的同时减半 Codex 成本

📌 One-Sentence Summary
LegalOn Technologies 通过实施分层模型选择策略(GPT-6 Astra/Sol/Luna)和动态预算治理,在保持速度的同时将 AI 开发成本降低了 65%。
📝 Summary
本案例研究详细介绍了 AI 原生法律科技初创公司 LegalOn Technologies 如何优化 OpenAI Codex 的使用,以平衡成本效率与开发速度。面对无限制使用高性能模型带来的预算约束,该公司成立了由 AI 驱动的开发卓越中心(AID CoE),制定了将特定模型(GPT-6 Luna、Sol 和 Astra)与任务复杂度相匹配的指南。通过从“所有任务使用最佳模型”转向分层系统——即轻量级模型用于实现,强大模型用于架构——并引入部门预算上限,他们实现了预估每日成本降低 65%。文章还强调了他们转向基于每次功能发布的客户价值而非仅关注开发速度来衡量 ROI,以及将 AI 技能融入招聘和工作流程的组织变革。
💡 Main Points
分层模型选择策略
LegalOn 放弃了在所有任务中使用最强能力的模型的做法。他们实施了一个层级体系:GPT-6 Luna 用于简单的代码实现和自动化,GPT-6.1 Sol 用于标准设计和分析,GPT-6 Astra 用于复杂的架构和编排。这使得工程师能够为具体任务选择合适的工具,从而显著降低了 Token 成本。
动态预算治理
该公司通过管理员设置在部门和个人层面引入了月度使用限额。针对成熟业务单元的目标是实现约 20% 的成本效率提升,而新发布阶段的业务则获得慷慨的预算以鼓励快速实验和增长,从而使支出与战略优先级保持一致。
通过并行化保持速度
默认限制「Fast mode」引发了对开发速度放缓的担忧。然而,团队通过采用并行任务执行策略保持了性能,证明如果调整工作流程实践,成本控制并不一定会损害交付速度。
将 ROI 指标转向客户价值
除了削减成本,LegalOn 还在开发一种指标,旨在将 AI 投资直接与每次功能发布的客户价值挂钩。这将评估重点从原始开发速度或使用量转移到实际业务影响,旨在解决总功能级 AI 成本的「黑盒」问题。
💬 Key Quotes
我们真正想弄清楚的是,更快的开发是否真的能转化为对客户有价值的成果。
通过规则和预算进行过度限制可能会削弱组织的势头。我们需要的是一个灵活的运营模式,能够有效平衡风险控制与团队所需的速度。
通过将发布带来的客户价值与实际投入其中的 AI 成本联系起来,我们旨在使投资回报率变得可见且准确。
📊 Article Meta
AI Screening: 87
Source: OpenAI News
Author: OpenAI
Category: 人工智能
Language: 英文
Read Time: 6 min
Word Count: 1258
Tags:
AI 与智能应用 , AI 工作流 , 模型路由 , AI 工程 , Prompt缓存
暂无评论,快来抢沙发~