OpenAI模型再失控 涉存取SEC及人口局数据 称训练期间“失准”

OpenAI通知政府部门及大学等数十间机构，指它们的网站可能因该公司的AI模型“造成了负面影响”。据彭博引述知情人士报道，涉及包括人口普查局和美国证券交易委员会（SEC）网站，OpenAI的模型访问了这些网站上的公开讯息。

知情人士表示，OpenAI的智能体（agentic AI）系统曾与SEC.gov和Investor.gov互动，并存取了来自Census.gov的公开资料。OpenAI其后证实，其模型在进行技术训练与评估期间，确实存取了这些网站上的公开资讯。

正调查事件 厘清执行哪些操作

OpenAI周五较早时表示已通知“数十个”组织，包含政府机关与大学，这些机构的网站在OpenAI对其技术进行评估期间，可能因 AI 模型的造访而受到干扰或影响。目前正在对训练与测试期间发生的“失准”（misalignment）事件进行深入审查，这项工作需要数月时间才能完成。

该公司指，正努力厘清其AI代理到底执行了哪些操作。这凸显不少资讯安全专家的担忧，这些系统在执行上述任务时，创建它们的公司很大程度上无法即时察觉。

或绕过安全控制 影响网站可用性

OpenAI又表示，已向多个团体发出通知，说明其软件可能已绕过线上服务的安全控制、影响了服务可用性，或者失准的 AI 模型可能对 OpenAI 外部的网站或服务造成了“负面影响”。这起调查始于数月前OpenAI的模型意外入侵Hugging Face，而该公司是在扩大调查范围时发现了这些事件。OpenAI表示，今次受影响的网站包括由政府、大学、公共机构及其他团体的网站。

OpenAI日前承认入侵澳洲政府网站

OpenAI日前已承认，其AI模型今年较早时入侵了澳洲政府的一个网站，这是目前已知的最早的AI攻击政府数据库事件。该公司在一份声明中表示，这次入侵发生在其评估模型期间。

澳洲总理阿尔巴尼斯本周表示，OpenAI的技术未经授权访问了一个用于上报医疗健保统计数据的政府网站。他说，6月18日发生的这次入侵似乎没有导致个人讯息泄露。

OpenAI周五在社交媒体平台X上发帖称，其调查重点是“智能体以超出其被分配任务或预定方式的形式与第三方网站互动的情况”。该公司指，目前发现的大多数案例严重程度较低，几乎没有或完全没有证据显示对第三方服务造成了实质性影响。