OpenAI承认AI代理“失控”入侵Hugging Face 形容为前所未有网络安全事件

OpenAI周二表示，AI模型驱动的一款自主代理在安全测试期间失控，并在上周入侵AI初创公司Hugging Face的基础设施。

OpenAI周二联合Hugging Face在一篇网志文章中表示，公司在受控环境下测试包括GPT-5.6 Sol等模型的网络能力，惟该代理失去控制，连上网络并入侵Hugging Face，以达成其测试目标。公司指此次是“一场前所未有的网络安全事件”，并称正在加强其安全防护措施。

Hugging Face上周亦称公司系统遭到入侵，并指这次攻击“从头到尾都是由一个自主AI代理系统驱动”，与以往处理过的任何入侵事件都不同。

议员吁进行强制性安全测试

德州民主党众议员Greg Casar在社交平台X上表示，该事件令人震惊，指“AI发展极其迅速，却没有真正的法规保障安全”，并呼吁对AI定期进行强制性独立安全测试及监督，强制公司揭露安全事件，并加强国际合作，以保障人们“免受灾难性后果的侵害”。

此外，网络安全咨询公司Luta Security行政总裁Katie Moussouris表示，此事件是未来更多入侵事件的预兆，并形容AI为“世上最聪明的章鱼脱逃艺术家”。另外，AI代理网络安全公司Tolmo工程师Matt Suiche亦认为，前沿模型“正逐渐缩短与最先进攻击者之间的差距”。