Nvidia推安全平台 稱可阻AI失控

美國晶片大廠Nvidia昨日（28日）推出一個供人工智能代理（AI agent）使用的安全平台，聲稱可阻止AI代理失控。

Nvidia已經以130億美元收購AI開源社區Hugging Face（抱抱臉）。數月前Hugging Face曾遭AI巨企OpenAI的失控AI代理蜂擁入侵，其後多間頂級AI公司揭露其AI模型逃逸並入侵其他組織的事件。

Nvidia昨日發布「開放代理安全平台」(Open Agent Safety Platform），稱包括開源軟件，可「為AI代理設定不可逾越的邊界」。其核心軟件之一的OpenShell，可運用Nvidia中央處理器晶片的硬體功能，將AI代理限制在特定環境中。

Nvidia表示，目前也與安謀（Arm）及英特爾（Intel）合作，讓這套系統能在兩間公司旗下的中央處理器上運作。Nvidia 企業運算部門副總裁暨總經理包泰諾稱，這個安全平台本可阻止今夏曝光的Hugging Face被駭事件。

將AI代理限制在特定環境

包泰諾在媒體簡報會上表示：「就我們所知，如果這套新安全平台早期就應用於前沿AI實驗室進行模型評估，原本可以阻止這宗入侵事件。我們正以開放方式推進這項工作，也希望與所有人合作。」Nvidia攜手 數十間合作夥伴推出這些工具，包括Anthropic、微軟、SpaceXAI等。Nvidia的行政總裁黃仁勳一向認為AI可安全管理，主張不需要新的監管規範，亦毋須放慢AI發展，指「AI末日論」被過度炒作。