英伟达联合思科开源 OpenShell：拒绝让智能体变黑盒

JQR1

随着企业级 AI 代理（Autonomous Agents）开始从实验室走向核心业务系统，如何防止 AI “反水”或由于提示注入导致的数据泄露，成了开发者最头疼的问题。

3月17日，英伟达 （NVIDIA） 与 思科 （Cisco） 联手抛出一套重磅方案:正式开源 AI 代理运行时 OpenShell。这套系统旨在为长期运行的 AI 代理构建一道“防火墙”，让企业能够在大规模自动化落地的同时，精准掌控 AI 的每一个动作。

OpenShell 的核心逻辑非常硬核:它为每个 AI 代理提供了一个物理隔离的“沙箱”环境。在这个环境里，代理默认没有任何权限。所有的外部访问、工具调用甚至云端模型的隐私数据脱敏，都必须经过细粒度的策略授权。

与之配合的则是 Cisco 的 AI Defense 安全平台。如果说 OpenShell 规定了代理“能做什么”，那么 AI Defense 则负责实时审计代理“实际做了什么”。它会全天候记录代理的推理步骤和决策过程，确保每一项技能调用都经过供应链安全审查。

这种分层安全架构在实际场景中极具威力。例如，当企业遭遇新的零日漏洞攻击时:

内部 AI 代理会自动解析安全公告，并结合网络知识图谱定位受影响设备。

整个复杂的分析与修复流程均在 OpenShell 沙箱中执行。

如果代理在修复过程中遭遇恶意指令注入，试图窃取敏感配置，AI Defense 网关会瞬间阻断异常请求。

英伟达表示，这一架构的目标是终结 AI 的“黑盒状态”。通过基础设施级的安全验证，企业可以放心地让 AI 代理接管更复杂的自动化流程，而不必担心系统安全失控。随着 OpenShell 的开源，企业级 AI 代理的规模化应用正式进入了“有法可依”的新阶段。

来源：AIbase