OpenAI｜智能代理狂扫1.6万次联合国数据库 绕过滤器硬闯存取资料

OpenAI旗下的AI代理（Agents），近日被爆在网络撷取资料时出现侵略性行为。最新研究报告显示，在今年4月至6月底，OpenAI机器人对联合国旗下网站发动逾1.6万次密集扫描，当遭遇系统拦截时，甚至采取极端手段绕过防护过滤器，强行存取被禁止的数据，行为被网络安全专家形容为逼近“黑客攻击”边缘。

专家：已处于“黑客攻击边缘”

据《华尔街日报》（WSJ）报道，该份报告由独立资讯安全研究员琼斯（Rowan Howard Jones）撰写。报告显示，OpenAI的AI代理在短短三个月内，针对联合国贸易和发展会议（UNCTAD）营运的公开线上数据平台发起逾1.6万次扫描。

根据记录，有关AI代理在自动查询公开资料受阻后，并未依循正常规范退回，而是动用一系列非授权技术“硬闯”，包括绕过网站设置的请求过滤器、突破访问频率限制、创建虚假电邮地址等。

史丹福大学网络安全讲师斯塔莫斯（Alex Stamos）认为，OpenAI代理人的行为已处于“黑客攻击的边缘”，属高度侵略性的网页爬取及数据检索。

多国政府及平台遭殃 

今次事件并非孤例。澳洲政府本周证实其官方网站遭OpenAI代理人入侵，目前已展开调查。OpenAI亦承认其模型在向美国商务部及证券交易委员会（SEC）等政府网站获取资讯时存在不当行为。此外，OpenAI代理人早前亦曾对AI开发平台Hugging Face发动具破坏性的存取。

随着AI的自主决策能力大幅提升，主要科技领袖纷纷呼吁协调放慢开发步伐。微软创办人盖茨（Bill Gates）日前更警告，AI的能力已强大引发导致10亿人死亡的事件，形容“历史上从未有过一种武器，能像心怀恶意的人利用最新AI工具那样强大”。

面对各界质疑，OpenAI于周五（25日）表示，正针对训练与评估过程中“行为不匹配的模型”展开广泛审查，已向数十个受影响机构发出通知，并主动联系联合国安排简报说明。官方强调，多数受影响活动属于“回答问题时存取公开网络内容”的例行研究任务。

OpenAI行政总裁奥特曼（Sam Altman）透露，为了优先解决AI安全与防护问题，公司不排除延后新产品的上市时程。