OpenAI承認AI代理「失控」入侵Hugging Face 形容為前所未有網絡安全事件

OpenAI周二表示，AI模型驅動的一款自主代理在安全測試期間失控，並在上周入侵AI初創公司Hugging Face的基礎設施。

OpenAI周二聯合Hugging Face在一篇網誌文章中表示，他們在受控環境下測試包括GPT-5.6 Sol等模型的網絡能力，惟該代理失去控制，連上網絡並入侵Hugging Face，以達成其測試目標。公司指此次突破是「一場前所未有的網絡安全事件」，並稱正在加強其安全防護措施。

Hugging Face上周亦稱公司系統遭到入侵，並指這次攻擊「從頭到尾都是由一個自主AI代理系統驅動」，與以往處理過的任何入侵事件都不同。

議員籲進行強制性安全測試

德州民主黨眾議員Greg Casar在社交平台X上表示，該事件令人震驚，指「AI發展極其迅速，卻沒有真正的法規保障安全」，並呼籲對AI定期進行強制性獨立安全測試及監督，強制公司揭露安全事件，並加強國際合作，以保障人們「免受災難性後果的侵害」。

此外，網絡安全諮詢公司Luta Security行政總裁Katie Moussouris表示，此事件是未來更多入侵事件的預兆，並形容AI為「世上最聰明的章魚脫逃藝術家」。另外，AI代理網絡安全公司Tolmo工程師Matt Suiche亦認為，前沿模型「正逐漸縮短與最先進攻擊者之間的差距」。