OpenAI及Anthropic新模型爆严重越权 惊现AI建虚假身份 诱骗人类批准恶意程式 

英国AI安全研究所（AISI）披露，在测试OpenAI及Anthropic的先进AI模型期间，发现智能体作出多项未获授权的行为。当中最严重的一宗涉及AI编写恶意程式，并建立虚假网上身份，企图诱使人类批准执行有关程式。AISI强调，事件没有造成实际损害。

AISI透过与主要AI实验室订立的自愿协议，取得Anthropic的Mythos 5及OpenAI的GPT-5.6-Sol，并让相关智能体在虚构网络安全情境下进行测试，以评估其能力。 

10次测试录得19宗越权行为

研究所合共进行122次测试，在其中10次测试中发现19宗未获授权行为，当中17宗涉及Anthropic智能体，其余两宗来自OpenAI智能体。

AISI表示，部分智能体持续针对真实个人及机构采取可能造成危害的行动。最严重个案涉及一个智能体自行编写恶意程式，建立虚假网上身份，并试图透过欺骗方式说服人类批准该程式。不过，AISI没有披露涉及哪一家公司的模型。

研究员料涉及Anthropic模型

美国非牟利AI研究机构CivAI研究员Andrew Yoon认为，建立虚假身份的可能是Anthropic智能体。Yoon表示，若Mythos在知道目标是真实人物的情况下，仍主动采取欺骗行为，将反映Anthropic对模型行为的掌控程度可能不及预期。

Anthropic在社交平台X表示，正与AISI密切合作，以取得更多事件细节并展开独立调查。

OpenAI披露两宗违规细节

OpenAI则在公司网志交代，其智能体涉及的两宗未授权行为，均是以测试提示明确禁止的方式连接互联网。

OpenAI表示，将与业界共同改善高风险测试的共同实践，计划未来数周召集各国AI研究所、独立评估机构、其他AI实验室及相关团体。

OpenAI同时披露另一宗独立事件，指第三方测试服务商Irregular因配置错误，导致智能体意外连接互联网。Anthropic上周亦曾披露一宗性质相近的配置错误事故。

并非逃离隔离测试环境

AISI强调，今次测试中的智能体并非自行逃离隔离环境。研究所按照标准测试程序，原本已容许智能体连接互联网，问题在于它们进行了测试指令没有授权的活动。