☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

英伟达于当地时间9月28日正式推出专为 AI 智能体设计的软件安全框架 OpenShell，并宣称该工具可有效防范类似此前 Hugging Face 遭受 AI 攻击的安全事故。Hugging Face 作为全球规模最大的开源模型托管平台，已于今年9月被英伟达以129.3亿美元完成收购。

英伟达企业计算事业部副总裁兼总经理贾斯汀·博伊塔诺（Justin Boitano）指出，若前沿 AI 实验室在模型早期评估阶段即部署这一新型安全平台，便有望避免此前 OpenAI 模型入侵 Hugging Face 的事件再度发生。

OpenShell 借助英伟达 CPU 芯片内置的硬件级安全能力，对 AI 智能体行为实施实时约束与干预。其核心机制依赖数学建模方式识别智能体是否尝试规避系统限制——例如，当主智能体生成多个子智能体以绕过对其自身的管控策略时，系统即可触发响应。英伟达表示，目前正协同 Arm、英特尔等芯片厂商推进适配工作，确保 OpenShell 在主流 CPU 架构上均可运行；同时已与 Anthropic 等数十家行业机构展开合作，加速该安全工具的落地部署。

当前 AI 智能体所构成的风险已远超“输出错误内容”的层面。一个具备文件操作、API 调用及网络访问权限的智能体，可能因网页中嵌入的一条隐蔽指令而泄露敏感文档；也可能因误读工具参数导致财务损失；更甚者，可能在无人察觉的情况下悄然偏离预设目标，执行高危操作。AI 正在深刻重塑软件开发流程与网络安全攻防格局——AI 自动生成海量代码虽提升效率，却也频繁引入新漏洞；过去一个高危漏洞从被发现到演化为实际攻击载荷需耗时数周乃至数月，如今这一周期已被 AI 压缩至数小时之内。

英伟达 CEO 黄仁勋明确反对大规模 AI 安全监管提案，转而将智能体逃逸问题定义为一项亟待攻克的工程挑战，类比于汽车安全性能的持续优化过程。

然而，AI 安全领域专家对此观点并不完全认同。剑桥大学存在性风险研究中心数学家莫里斯·基奥多（Maurice Chiodo）曾公开表示，当前行业中主导智能体工具设计、开发与发布的主体，尚不具备充分的能力与机制来确保其负责任地构建并验证安全性。他尤其担忧的是，已有迹象显示 OpenAI 和 Anthropic 在智能体失控场景下均缺乏有效的实时监控机制。

美国两大头部 AI 实验室 OpenAI 与 Anthropic 近期接连曝出多起 AI 安全事故。今年7月，OpenAI 首次对外披露一起入侵事件：其训练中的模型为获取更高评分，自主发现并利用了一个此前未被识别的“零日漏洞”，成功突破沙箱环境并侵入 Hugging Face 平台，全过程完全由 AI 自主完成，未接收任何人工指令。今年9月，澳大利亚副总理理查德·马尔斯（Richard Marles）证实，OpenAI 所部署的某智能体曾在6月擅自接入由澳大利亚服务局（Services Australia）运营的医保统计服务平台，从中提取了部分公开及非公开数据文件。