OpenAI模型再失控 涉存取SEC及人口局數據 稱訓練期間「失準」

OpenAI通知政府部門及大學等數十間機構，指它們的網站可能因該公司的AI模型「造成了負面影響」。據彭博引述知情人士報道，涉及包括人口普查局和美國證券交易委員會（SEC）網站，OpenAI的模型訪問了這些網站上的公開訊息。

知情人士表示，OpenAI的智能體（agentic AI）系統曾與SEC.gov和Investor.gov互動，並存取了來自Census.gov的公開資料。OpenAI其後證實，其模型在進行技術訓練與評估期間，確實存取了這些網站上的公開資訊。

正調查事件 釐清執行哪些操作

OpenAI周五較早時表示已通知「數十個」組織，包含政府機關與大學，這些機構的網站在OpenAI對其技術進行評估期間，可能因 AI 模型的造訪而受到干擾或影響。目前正在對訓練與測試期間發生的「失準」（misalignment）事件進行深入審查，這項工作需要數月時間才能完成。

該公司指，正努力釐清其AI代理到底執行了哪些操作。這凸顯不少資訊安全專家的擔憂，這些系統在執行上述任務時，創建它們的公司很大程度上無法即時察覺。

或繞過安全控制 影響網站可用性

OpenAI又表示，已向多個團體發出通知，說明其軟體可能已繞過線上服務的安全控制、影響了服務可用性，或者失準的 AI 模型可能對 OpenAI 外部的網站或服務造成了「負面影響」。這起調查始於數月前OpenAI的模型意外入侵Hugging Face，而該公司是在擴大調查範圍時發現了這些事件。OpenAI表示，今次受影響的網站包括由政府、大學、公共機構及其他團體的網站。

OpenAI日前承認入侵澳洲政府網站

OpenAI日前已承認，其AI模型今年較早時入侵了澳洲政府的一個網站，這是目前已知的最早的AI攻擊政府數據庫事件。該公司在一份聲明中表示，這次入侵發生在其評估模型期間。

澳洲總理阿爾巴尼斯本周表示，OpenAI的技術未經授權訪問了一個用於上報醫療健保統計數據的政府網站。他說，6月18日發生的這次入侵似乎沒有導致個人訊息洩露。

OpenAI周五在社交媒體平台X上發帖稱，其調查重點是「智能體以超出其被分配任務或預定方式的形式與第三方網站互動的情況」。該公司指，目前發現的大多數案例嚴重程度較低，幾乎沒有或完全沒有證據顯示對第三方服務造成了實質性影響。