OpenAI暫緩下一代AI模型開發 涉自主識別並開發零日漏洞 網絡安全能力太危險

據彭博報道，OpenAI旗下尚未發布、代號為「Astra」的模型，因其網絡安全能力過於危險，正被暫停部分內部研發工作，以實施更嚴格的安全保障措施。

正提高安全控制措施

OpenAI周五表示，Astra具備在無需人類干預的情況下，自主識別並開發零日漏洞（Zero-day exploits）的能力。目前正採取步驟，以提高開發與測試更新模型時的安全控制措施，並「暫停涉及 Astra、且尚未達到這些加強版安全控制要求的內部活動」。

OpenAI行政總裁阿爾特曼（Sam Altman）在社交平台上表示，「由於其具備的網絡能力，我們需要稍微多一點的時間來安全地完成這項工作，但希望不會太久。」

在過去兩周，OpenAI及Anthropic均公開承認，他們在測試自家模型的過程中，不慎入侵了包括 Hugging Face等多家機構系統。Meta也在周三表示，其近期發布的一款 AI 模型已滲透進第三方的電腦系統。

與政府及AI安全組織共同測試

這些最新資訊均表明AI代理（AI agents）已具備自主運行能力，其方式甚至連專門負責根除該技術漏洞的科研人員也無法再預測。這進一步突顯出實施更嚴格的安全篩查，以及建立更安全可靠測試環境的迫切性。

OpenAI 在其網誌貼文中表示，將與政府機構及 AI 安全組織合作，共同測試 Astra 的能力。該公司還計劃向第三方測試合作夥伴提供建議，以協助他們安全地評估其更先進的模型。