Anthropic旗下Claude安全測試失控 配置錯誤入侵三公司系統 

Anthropic周四（30日）表示，公司經過一輪安全審查後，發現旗下AI Claude在安全測試期間因配置錯誤導致模型連接網絡，進而入侵三家公司的系統。

利用脆弱密碼及未經驗證端點

據Anthropic官方部落格顯示，是次入侵活動涉及Claude Opus 4.7、Claude Mythos 5及一個內部研究模型，最早可追溯到4月份，且當時未部署標準安全措施。

入侵活動發生時，Claude被要求執行在模擬網絡中尋找隱藏資訊的「奪旗」任務，儘管提示詞告知模型無法上網，但因公司與其評估合作夥伴Irregular發生誤解，導致模型連接公共網絡，並利用脆弱密碼及未經驗證的端點等基本技術，破壞受影響組織的基礎設施。

已通知受影響公司

Anthropic進一步指出，公司在OpenAI早前披露其AI代理入侵Hugging Face後，於7月23日對旗下AI審查，發現Claude可能連接網絡的證據後於同日暫停所有安全測試，公司隨後在審核約14萬次測試會話後於7月24日發現入侵活動，並在周一通知受影響公司，其中兩個組織對入侵事件並不知情。公司更強調，是次審查結果顯示隨着AI日益具備執行真實世界網絡活動的能力，AI在內部及第三方測試環境中均需要更嚴格的控制措施。