OpenAI及Anthropic新模型爆嚴重越權 驚現AI建虛假身份 誘騙人類批准惡意程式 

英國AI安全研究所（AISI）披露，在測試OpenAI及Anthropic的先進AI模型期間，發現智能體作出多項未獲授權的行為。當中最嚴重的一宗涉及AI編寫惡意程式，並建立虛假網上身份，企圖誘使人類批准執行有關程式。AISI強調，事件沒有造成實際損害。

AISI透過與主要AI實驗室訂立的自願協議，取得Anthropic的Mythos 5及OpenAI的GPT-5.6-Sol，並讓相關智能體在虛構網絡安全情境下進行測試，以評估其能力。 

10次測試錄得19宗越權行為

研究所合共進行122次測試，在其中10次測試中發現19宗未獲授權行為，當中17宗涉及Anthropic智能體，其餘兩宗來自OpenAI智能體。

AISI表示，部分智能體持續針對真實個人及機構採取可能造成危害的行動。最嚴重個案涉及一個智能體自行編寫惡意程式，建立虛假網上身份，並試圖透過欺騙方式說服人類批准該程式。不過，AISI沒有披露涉及哪一家公司的模型。

研究員料涉及Anthropic模型

美國非牟利AI研究機構CivAI研究員Andrew Yoon認為，建立虛假身份的可能是Anthropic智能體。Yoon表示，若Mythos在知道目標是真實人物的情況下，仍主動採取欺騙行為，將反映Anthropic對模型行為的掌控程度可能不及預期。

Anthropic在社交平台X表示，正與AISI密切合作，以取得更多事件細節並展開獨立調查。

OpenAI披露兩宗違規細節

OpenAI則在公司網誌交代，其智能體涉及的兩宗未授權行為，均是以測試提示明確禁止的方式連接互聯網。

OpenAI表示，將與業界共同改善高風險測試的共同實踐，計劃未來數周召集各國AI研究所、獨立評估機構、其他AI實驗室及相關團體。

OpenAI同時披露另一宗獨立事件，指第三方測試服務商Irregular因配置錯誤，導致智能體意外連接互聯網。Anthropic上周亦曾披露一宗性質相近的配置錯誤事故。

並非逃離隔離測試環境

AISI強調，今次測試中的智能體並非自行逃離隔離環境。研究所按照標準測試程序，原本已容許智能體連接互聯網，問題在於它們進行了測試指令沒有授權的活動。