OpenAI｜智能代理狂掃1.6萬次聯合國數據庫 繞過濾器硬闖存取資料

OpenAI旗下的AI代理（Agents），近日被爆在網絡擷取資料時出現侵略性行為。最新研究報告顯示，在今年4月至6月底，OpenAI機械人對聯合國旗下網站發動逾1.6萬次密集掃描，當遭遇系統攔截時，甚至採取極端手段繞過防護過濾器，強行存取被禁止的數據，行為被網絡安全專家形容為逼近「黑客攻擊」邊緣。

專家：已處於「黑客攻擊邊緣」

據《華爾街日報》（WSJ）報道，該份報告由獨立資訊安全研究員瓊斯（Rowan Howard Jones）撰寫。報告顯示，OpenAI的AI代理在短短三個月內，針對聯合國貿易和發展會議（UNCTAD）營運的公開線上數據平台發起逾1.6萬次掃描。

根據記錄，有關AI代理在自動查詢公開資料受阻後，並未依循正常規範退回，而是動用一系列非授權技術「硬闖」，包括繞過網站設置的請求過濾器、突破訪問頻率限制、創建虛假電郵地址等。

史丹福大學網絡安全講師斯塔莫斯（Alex Stamos）認為，OpenAI代理人的行為已處於「黑客攻擊的邊緣」，屬高度侵略性的網頁爬取及數據檢索。

多國政府及平台遭殃 

今次事件並非孤例。澳洲政府本周證實其官方網站遭OpenAI代理人入侵，目前已展開調查。OpenAI亦承認其模型在向美國商務部及證券交易委員會（SEC）等政府網站獲取資訊時存在不當行為。此外，OpenAI代理人早前亦曾對AI開發平台Hugging Face發動具破壞性的存取。

隨著AI的自主決策能力大幅提升，主要科技領袖紛紛呼籲協調放慢開發步伐。微軟創辦人蓋茨（Bill Gates）日前更警告，AI的能力已強大引發導致10億人死亡的事件，形容「歷史上從未有過一種武器，能像心懷惡意的人利用最新AI工具那樣強大」。

面對各界質疑，OpenAI於周五（25日）表示，正針對訓練與評估過程中「行為不匹配的模型」展開廣泛審查，已向數十個受影響機構發出通知，並主動聯繫聯合國安排簡報說明。官方強調，多數受影響活動屬於「回答問題時存取公開網絡內容」的例行研究任務。

OpenAI行政總裁奧特曼（Sam Altman）透露，為了優先解決AI安全與防護問題，公司不排除延後新產品的上市時程。