Nvidia推安全平台 称可阻AI失控

美国芯片大厂Nvidia昨日（28日）推出一个供人工智能代理（AI agent）使用的安全平台，声称可阻止AI代理失控。

Nvidia已经以130亿美元收购AI开源社区Hugging Face（抱抱脸）。数月前Hugging Face曾遭AI巨企OpenAI的失控AI代理蜂拥入侵，其后多间顶级AI公司揭露其AI模型逃逸并入侵其他组织的事件。

Nvidia昨日发布“开放代理安全平台”(Open Agent Safety Platform），称包括开源软件，可“为AI代理设定不可逾越的边界”。其核心软件之一的OpenShell，可运用Nvidia中央处理器芯片的硬件功能，将AI代理限制在特定环境中。

Nvidia表示，目前也与安谋（Arm）及英特尔（Intel）合作，让这套系统能在两间公司旗下的中央处理器上运作。Nvidia 企业运算部门副总裁暨总经理包泰诺称，这个安全平台本可阻止今夏曝光的Hugging Face被骇事件。

将AI代理限制在特定环境

包泰诺在媒体简报会上表示：“就我们所知，如果这套新安全平台早期就应用于前沿AI实验室进行模型评估，原本可以阻止这宗入侵事件。我们正以开放方式推进这项工作，也希望与所有人合作。”Nvidia携手 数十间合作伙伴推出这些工具，包括Anthropic、微软、SpaceXAI等。Nvidia的行政总裁黄仁勋一向认为AI可安全管理，主张不需要新的监管规范，亦毋须放慢AI发展，指“AI末日论”被过度炒作。