AI失控︱OpenAI旗下AI代理自行入侵初创公司 专家：网络安全响警钟

人工智能（AI）安全再敲响警钟。AI巨擘OpenAI周二（21日）透露，旗下一个由先进AI模型驱动的AI代理（AI Agent），在内部安全测试期间脱离人类控制，突破高度隔离的环境，入侵初创公司、知名AI开源模型托管平台Hugging Face(抱抱脸)的基础设施，试图完成测试任务。

OpenAI形容这是“一宗涉及尖端网络能力、前所未见的网络事件”。事件加剧外界对前沿AI模型越发强大的能力及潜在风险的担忧。

聊天机器人ChatGPT的开发商OpenAI在自家网站发文说，这宗事件涉及的先进模型，包括本月早前发布的GPT-5.6 Sol，及另一款尚待发布的更先进测试模型。此次内部安全测试在与互联网高度隔离的“沙盒”（Sandbox）环境中进行，OpenAI当时特意降低安全防护等级。

由这些先进模型驱动的AI代理（一种能够根据人类指令自主运行的AI程式），尝试完成名为ExploitGym的网络安全基准测试。ExploitGym的目的是测试AI模型是否能将已知的安全漏洞，自动串联并转化为实际可执行的攻击。

使用中国模型助遏攻击

该AI代理推断Hugging Face平台可能存有ExploitGym测试相关的模型、数据集和解决方案，遂利用多种攻击手段找到进入Hugging Face系统的路径。 最终它成功利用此前未知的安全漏洞逃逸出沙盒（“越狱”），接入互联网，并连线至Hugging Face的服务器。

OpenAI称，该AI代理为了达成狭隘的测试目标，不惜采取多种极端攻击手段，包括利用偷窃的凭证（登入资料）。 OpenAI安全团队发现内部异常活动，Hugging Face安全团队也在其基础设施上检测到并阻止相关活动，双方正在展开联合调查。

总部位于纽约的Hugging Face表示，上周发现系统遭外部AI系统入侵后，已及时阻止了异常活动，但认为这宗攻击与众不同，因为整个过程“从头到尾都由AI代理自主驱动”，而非人类黑客操作。Hugging Face共同创始人兼行政总裁德朗格在社交平台发文说，“AI能自主完成这一切，实在令人难以置信！”

Hugging Face称，由于美国领先的模型无法区分防御者和攻击者，拒绝处理分析所需的数据，因此该公司使用了开源的中国模型来帮助遏制攻击。据称，该公司改为在自己的基础设施上运行中国企业智谱开发的开放权重模型GLM-5.2，以进行取证分析，从而避免攻击者数据及相关凭据离开公司内部环境。

OpenAI表示，已与执法部门及政府机关沟通此事，并正加强相应的网络安全防卫措施。该公司指出，随着越来越多具备强大网络能力的模型问世，预料同类事件将更加频繁发生。

德州联邦众议员凯沙警告，AI发展迅速却缺乏有效监管，呼吁当局推动强制性的独立安全测试、网络安全事件强制披露机制及国际监管合作，以防止极端网络风险爆发。