AI失控︱OpenAI旗下AI代理自行入侵初創公司 專家：網絡安全響警鐘

人工智能（AI）安全再敲響警鐘。AI巨擘OpenAI周二（21日）透露，旗下一個由先進AI模型驅動的AI代理（AI Agent），在內部安全測試期間脫離人類控制，突破高度隔離的環境，入侵初創公司、知名AI開源模型託管平台Hugging Face(抱抱臉)的基礎設施，試圖完成測試任務。

OpenAI形容這是「一宗涉及尖端網絡能力、前所未見的網絡事件」。事件加劇外界對前沿AI模型越發強大的能力及潛在風險的擔憂。

聊天機械人ChatGPT的開發商OpenAI在自家網站發文說，這宗事件涉及的先進模型，包括本月早前發布的GPT-5.6 Sol，及另一款尚待發布的更先進測試模型。此次內部安全測試在與互聯網高度隔離的「沙盒」（Sandbox）環境中進行，OpenAI當時特意降低安全防護等級。

由這些先進模型驅動的AI代理（一種能夠根據人類指令自主運行的AI程式），嘗試完成名為ExploitGym的網絡安全基準測試。ExploitGym的目的是測試AI模型是否能將已知的安全漏洞，自動串聯並轉化為實際可執行的攻擊。

使用中國模型助遏攻擊

該AI代理推斷Hugging Face平台可能存有ExploitGym測試相關的模型、數據集和解決方案，遂利用多種攻擊手段找到進入Hugging Face系統的路徑。 最終它成功利用此前未知的安全漏洞逃逸出沙盒（「越獄」），接入互聯網，並連線至Hugging Face的伺服器。

OpenAI稱，該AI代理為了達成狹隘的測試目標，不惜採取多種極端攻擊手段，包括利用偷竊的憑證（登入資料）。 OpenAI安全團隊發現內部異常活動，Hugging Face安全團隊也在其基礎設施上檢測到並阻止相關活動，雙方正在展開聯合調查。

總部位於紐約的Hugging Face表示，上周發現系統遭外部AI系統入侵後，已及時阻止了異常活動，但認為這宗攻擊與眾不同，因為整個過程「從頭到尾都由AI代理自主驅動」，而非人類黑客操作。Hugging Face共同創始人兼行政總裁德朗格在社交平台發文說，「AI能自主完成這一切，實在令人難以置信！」

Hugging Face稱，由於美國領先的模型無法區分防禦者和攻擊者，拒絕處理分析所需的數據，因此該公司使用了開源的中國模型來幫助遏制攻擊。據稱，該公司改為在自己的基礎設施上運行中國企業智譜開發的開放權重模型GLM-5.2，以進行取證分析，從而避免攻擊者數據及相關憑據離開公司內部環境。

OpenAI表示，已與執法部門及政府機關溝通此事，並正加強相應的網絡安全防衛措施。該公司指出，隨着越來越多具備強大網絡能力的模型問世，預料同類事件將更加頻繁發生。

德州聯邦眾議員凱沙警告，AI發展迅速卻缺乏有效監管，呼籲當局推動強制性的獨立安全測試、網絡安全事件強制披露機制及國際監管合作，以防止極端網絡風險爆發。