NVIDIA Nemotron 3.5 Super VL 通过多模态推理为专业智能体赋能

📌 One-Sentence Summary

NVIDIA 发布了 Nemotron 3.5 Super VL，这是一款 120B MoE 多模态模型，专为具有先进推理和工具使用能力的专业 AI 智能体优化。

📝 Summary

NVIDIA 推出了 Nemotron 3.5 Super VL，这是一个拥有 1200 亿参数的混合专家（MoE）模型，旨在处理复杂的企业工作流。该模型集成了文本、图像和视频理解，允许智能体执行编码、网页研究和文档智能等专业任务。关键技术亮点包括带有量化感知蒸馏（QAD）的 NVFP4 量化、LiLiCorr 投机解码以及用于提高效率的多 Token 预测。NVIDIA 还提供了开放数据集以及一个针对高量级任务的较小版本 Nemotron 3.5 Lightning。

💡 Main Points

专业智能体的多模态推理

该模型将文本、图像和视频理解整合到单一框架中，使智能体能够在不需要独立的视觉语言模型的情况下处理多步工作流。

高效的 MoE 架构

采用 120B 参数的 MoE 结构，每个 Token 激活 12B 参数，该模型在单 GPU 上平衡了高容量与高效的推理速度。

先进的推理优化

使用了 LiLiCorr 投机解码和多 Token 预测（MTP）等技术，减少生成过程中的延迟和计算密集型验证。

无精度损失的量化

NVFP4 量化结合量化感知蒸馏（QAD），允许模型在匹配 BF16 版本准确精度的同时，显著减少在 Blackwell 架构硬件上的内存占用。

💬 Key Quotes

AI 智能体在复杂的芯片设计工作流中提供了显著的生产力提升，但它们产生看似合理实则错误的错误的倾向使得可靠性成为生产化应用的主要障碍。

与同规模的其他开放模型相比，Nemotron 3.5 Super VL 在智能体任务上的吞吐量高出达 5 倍。

专业智能体必须学习组织运作的方式：领域术语、工具接口和操作程序。

📊 Article Meta

AI Screening： 92

Source： NVIDIA Technical Blog

Author： Michelle Horton

Category： 人工智能

Language： 英文

Read Time： 8 min

Word Count： 1999

Tags：

AI 与智能应用 , AI Agent , 多模态 AI , 机器学习 , 大语言模型 (LLM)