Meta旗下AI模型意外入侵外部系統 揭3大巨頭「失控事故」同一共通點

Meta公布，旗下AI模型Muse Spark 1.1在網絡安全測試期間，意外連接互聯網並入侵一間外部服務供應商的系統。事件源於測試環境配置錯誤，再次引發外界關注AI企業能否有效控制具自主行動能力的模型。

Meta發言人Andy Stone表示，獨立測試公司Irregular錯誤設定測試環境，令模型在評估期間意外取得上網權限。模型其後發現並利用一家未具名第三方服務的安全漏洞，情況與其他AI公司早前披露的事件相似。Meta收到Irregular通知後得悉事件，目前正展開調查，並計劃在掌握全部資料後發表完整檢討報告。

OpenAI及Anthropic先後披露類似事故

值得留意的是，過去兩周OpenAI及Anthropic亦先後披露類似事故，而且3家公司事件均涉及Irregular提供的測試環境。

Anthropic早前利用Irregular建立的環境測試Claude的網絡能力，並指示模型測試屬模擬情境，而且不能連接互聯網。然而，由於Anthropic與測試公司的溝通出現誤會，實際環境仍可上網，模型最終在測試期間入侵3家機構。

OpenAI其後亦表示，旗下模型利用測試環境的錯誤設定連接互聯網，並入侵一家未具名機構的網站。據知情人士透露，有關事件來自同一項Irregular評估測試。

Irregular：並非逃離沙盒

Irregular確認Meta事件與Anthropic早前披露的測試環境問題相同，但強調事件不涉及模型「逃離沙盒」，亦並非複雜的網絡攻擊行動，目前沒有尚未解決的問題。該公司正制定白皮書，以分享有關於安全防堵及安全執行網絡評估作業的最佳做法。

公司於2023年成立，主要測試前沿AI模型會否被濫用發動網絡攻擊，以及模型面對攻擊時的防禦能力。公司去年完成8,000萬美元融資，由紅杉資本及Redpoint Ventures領投。