范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”

星海拾光行业资讯📡 量子位2026-10-17342 阅读💛 189 收藏
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”

范式智能技术集团有限公司联合北京睿思智联科技有限公司宣布,一站式生产级 AI 部署平台“模域”正式上线。

10月16日,北京– 范式智能技术集团有限公司(“范式” 或“集团”,股票代码:6682.HK)联合北京睿思智联科技有限公司(“睿思智联”)宣布,一站式生产级 AI 部署平台“模域” (ModelSphere) 正式上线。该平台面向企业用户免费开源,将算力管理、模型部署和运行优化整合在统一平台,帮助企业降低部署与运维门槛,更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。平台已在GitHub开源。

Github地址: 

随着大模型进入规模化商业阶段,企业在算力统筹、模型部署与效能优化中,普遍面临资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等问题。模域致力于将这些工作整合为 统一的部署与管理流程,减少企业在底层系统适配、资源调度和日常运维上的重复投入,让企业无需深度掌握驱动编译与硬件适配等复杂工作,即可将各类开源大模型嵌入核心业务流程, 让技术团队更专注应用开发和业务需求。

模域具备四大核心优势:

1.简化部署,保障模型服务稳定运行:模域提供图形化操作面板和预置部署能力,减少环境配置代码的偏写,帮助开发者快速大模型搭建推理服务,并简化不同芯片集群的。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级能力,支持模型服务在生产环境中稳定运行。

2.持续自动化调优,提高模型运行效率:平台内置 AutoTune 智能模型排期策略,以及结合硬件加速能力的自适应负载均衡调度,优化模型处理请求的能力和首次响应速度,系统极限吞吐效率较基准大幅提升约 285%,性能跃升至原来4倍,真正实现了算力的“满血”释放。

3.统一管理多种芯片,减少重复适配:平台融合 EngineX 推理引擎,支持并针对多种算力芯片进行深度调优,可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源,用户无需为不同芯片重写底层逻辑代码。

4. 持续优化适配主流模型,加快部署应用:模域团队持续跟进开源社区迭代,已适配优化了DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM 等主流模型,支持在模型发布后快速部署并且性能调优至生产环境,帮助企业将新模型落地实际业务。

在技术层面上,模域与 vLLM、SGLang 等推理引擎互相配合:推理引擎负责提升单台服务器的计算效率,模域则负责集群架构级纳管和优化,包括负载和缓存感知的请求路由、统一的 KV 缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等,保证生产环境下系统的高性能和高可用。

模域采用宽松的 Apache 2.0 协议全面开源,将大模型部署与优化的工程能力向更多企业和开发者开放,同时汇聚产业力量,持续完善对不同芯片和模型的支持,减少硬件适配障碍,降低大模型应用门槛,帮助企业用好已有算力,高效释放异构算力的商业潜能。

本文由范式提供,量子位获授权转载,观点归原作者所有。

版权所有,未经授权不得以任何形式转载及使用,违者必究。
范式
量子位的朋友们量子位的朋友们
  • 从“看懂世界”到“预演下一步”:世界模型与 VLA,如何让机器人拥有真正的“具身大脑”?2026-10-16
  • 说真话就能拿10万?网易叭哥说重金求“真需求”,不卡专业学历2026-10-16
  • 霸榜三大基准!优必选 Thinker-WM:多模态统一表征,单模型实现六大能力2026-10-16
  • 百度世界2026五大亮点曝光,企业和开发者值得关注什么?2026-10-16

相关阅读

文章评论(12)

拾贝者29 天前

这个观点很中肯,深有同感。

回复
雪知秋29 天前

支持作者,持续关注中。

回复
晨寻梦29 天前

楼主辛苦了,内容很有参考价值。

回复
晨沐雨29 天前

内容翔实,正好需要,先收藏再看。

回复
三分糖去冰29 天前

实测过类似工具,作者说的基本属实。

回复
吴超29 天前

整理得太全面了,省了我不少时间。

回复
逐光而行29 天前

刚好最近在找这方面的资料,太及时了。

回复
一叶知秋29 天前

这个观点很中肯,深有同感。

回复
逐光而行29 天前

讲解得很细致,新手也能看懂。

回复
墨向阳29 天前

写得挺用心的,支持一下。

回复
星观澜29 天前

内容翔实,正好需要,先收藏再看。

回复
蓝光29 天前

支持作者,持续关注中。

回复