通过 NVIDIA OpenShell 为 AI 智能体添加运行时控制

📌 One-Sentence Summary

NVIDIA 发布开源运行时 OpenShell 0.1.0，旨在在 AI 智能体工作负载之外实施细粒度权限控制和凭证保护，具备形式化策略验证及动态访问调整功能。

📝 Summary

NVIDIA OpenShell 0.1.0 是一款新型开源运行时，旨在通过在不要求重写代码的情况下对系统访问、数据使用和凭证施加严格边界来保障 AI 智能体的安全。它采用 Gateway-Supervisor-Sandbox（网关-监管者-沙箱）架构运行，其中 Supervisor（监管者）拦截出站流量并在协议层面执行策略（例如允许 HTTP 读取但阻止写入）。主要功能包括多租户支持、凭证替换（使机密信息不进入智能体工作负载），以及使用逻辑对抗性操纵验证权限边界的正式策略证明器。该工具支持在执行期间进行动态策略调整，并与 Codex 和 Claude Code 等主要框架集成，旨在实现长期运行的自主智能体在企业及研究环境中的安全部署。

💡 Main Points

利用专用 Supervisor 组件在智能体工作负载之外强制执行权限。

该架构将沙箱化的智能体与其网络网关分离。Supervisor 检查出站请求（HTTP， GraphQL， MCP），并在请求到达外部服务之前应用策略，确保即使智能体生成恶意代码或误解指令，也无法绕过嵌入在运行时层的安全控制。

通过替换和绑定而非暴露来保护凭证。

智能体在其沙箱内与占位符密钥交互。仅当请求匹配授权端点和策略时，OpenShell Supervisor 才会替换真实的提供商凭证。这防止了智能体访问原始机密信息，并确保在服务端权限与运行时限制之间保持一致。

利用形式化方法验证针对对抗性智能体的策略完整性。

「策略证明器」使用形式化逻辑从数学上验证授予的权限是否保持在定义的安全边界内。这种方法抵御了社会工程学攻击，即智能体试图说服 AI 审查员授予过度访问权限的情况，因为证明源自策略模型本身，而非智能体的解释。

支持动态策略调整和人在回路治理。

当智能体遇到被阻止的请求时，可以通过「策略顾问」提出范围狭窄的策略变更建议。这些建议在默认情况下保持待处理状态以供人工审查，允许操作员在不重启沙箱的情况下授予特定例外，从而在自主性与监督之间取得平衡。

💬 Key Quotes

有用的智能体需要访问工作区、计算资源、数据、凭证和外部服务。但更广泛的访问权限也会产生更具后果性的失败模式，从更改生产数据或泄露机密信息到超出分配任务范围行事。

OpenShell 在保留这种灵活性的同时，在智能体工作负载之外强制执行权限。

由于结果来自策略模型，智能体的解释无法改变该结果。

具有简化保障措施的前沿智能体曾花费长达两小时的时间试图说服 AI 审查员授予修改受保护 GitHub 仓库所需的权限。

📊 Article Meta

AI Screening： 86

Source： NVIDIA Technical Blog

Author： Alex Watson

Category： 人工智能

Language： 英文

Read Time： 7 min

Word Count： 1629

Tags：

AI 与智能应用 , AI Agent , 安全 , 开源项目 , 社会治理