OpenAI模型再失控 智能体擅自上网洽第三方机器人 另涉存取SEC及人口局数据

OpenAI通知政府部门及大学等数十间机构，指它们的网站可能因该公司的AI模型“造成了负面影响”。据彭博引述知情人士报道，涉及包括人口普查局和美国证券交易委员会（SEC）网站，OpenAI的模型访问了这些网站上的公开讯息。OpenAI同日又表示，另一个原本应在安全、无网络环境中进行训练的AI智能体系统，竟成功连上网络并存取了外部的第三方聊天机器人。

受训时利用“漏洞”连结网络

据OpenAI公布，该公司其中一个智能体系统在沙盒（sandbox）环境中接受训练时，利用了一个“漏洞”连结至公开网络。报告显示，系统利用该连线向一间未具名的第三方聊天机器人服务发送了至少20次查询，其中包括“法国的首都是什么”。OpenAI将该事件描述为自今年7月多个模型组合在内部测试期间取得网络存取权、并意外侵入AI平台Hugging Face系统以来，首宗同类型的资讯安全事故。在事件发生后，OpenAI已决定暂停对其最强大模型进行使用工具（tool use）的训练，直到沙盒漏洞获得解决为止。

干涉数十政府机关与大学网站

此外，彭博知情人士表示，OpenAI的智能体（agentic AI）系统曾与SEC.gov和Investor.gov互动，并存取了来自Census.gov的公开资料。OpenAI其后证实，其模型在进行技术训练与评估期间，确实存取了这些网站上的公开资讯。OpenAI周五较早时表示已通知“数十个”组织，包含政府机关与大学，这些机构的网站在OpenAI对其技术进行评估期间，可能因 AI 模型的造访而受到干扰或影响。目前正在对训练与测试期间发生的“失准”（misalignment）事件进行深入审查，这项工作需要数月时间才能完成。

该公司指，正努力厘清其AI代理到底执行了哪些操作。这凸显不少资讯安全专家的担忧，这些系统在执行上述任务时，创建它们的公司很大程度上无法即时察觉。

或绕过安全控制 影响网站可用性

OpenAI又表示，已向多个团体发出通知，说明其软件可能已绕过线上服务的安全控制、影响了服务可用性，或者失准的 AI 模型可能对 OpenAI 外部的网站或服务造成了“负面影响”。这起调查始于数月前OpenAI的模型意外入侵Hugging Face，而该公司是在扩大调查范围时发现了这些事件。OpenAI表示，今次受影响的网站包括由政府、大学、公共机构及其他团体的网站。

OpenAI日前承认入侵澳洲政府网站

OpenAI日前已承认，其AI模型今年较早时入侵了澳洲政府的一个网站，这是目前已知的最早的AI攻击政府数据库事件。该公司在一份声明中表示，这次入侵发生在其评估模型期间。

澳洲总理阿尔巴尼斯本周表示，OpenAI的技术未经授权访问了一个用于上报医疗健保统计数据的政府网站。他说，6月18日发生的这次入侵似乎没有导致个人讯息泄露。

OpenAI周五在社交媒体平台X上发帖称，其调查重点是“智能体以超出其被分配任务或预定方式的形式与第三方网站互动的情况”。该公司指，目前发现的大多数案例严重程度较低，几乎没有或完全没有证据显示对第三方服务造成了实质性影响。