人工智能公司Anthropic應美國政府要求 停用Fable 5及Mythos 5模型
【星島綜合報道】人工智能公司Anthropic周五(12日)表示,因應美國政府以國家安全為由發出的出口管制指令,公司將「即時停用」旗下最先進的人工智能模型Fable 5及Mythos 5,並暫停所有外國公民對有關模型的使用權限。
Anthropic發表聲明指出,公司收到政府命令,要求停止所有外國公民使用Fable 5及Mythos 5,但當局未有提供具體的國家安全憂慮細節。
Anthropic表示,據其了解,政府認為存在一種方法可繞過模型安全防護機制,即所謂「越獄(jailbreak)」技術,使Fable 5能被用於識別軟件漏洞。
有關命令出台之際,Anthropic與特朗普政府之間早前的緊張關係才剛出現緩和跡象。Anthropic今年曾拒絕讓美軍使用其人工智能模型進行本土監控及完全自主武器系統開發,其後遭美國政府列入供應鏈黑名單,相關措施預計於今年稍後生效。
今次行動亦被視為美國遏制外國對手發展人工智能能力的重要升級。多年來,美國出口管制主要集中於人工智能晶片及相關設備,而非直接限制外國人士使用人工智能模型。
Anthropic表示,政府僅提供「口頭證據」,指存在一種有限且非普遍適用的越獄方式。公司指出,不同意因發現單一潛在漏洞,便要求撤回已向數以億計用戶提供服務的商業模型。
事件亦反映人工智能開發商與監管機構之間,對如何評估模型安全漏洞風險的分歧正日益加深。
Anthropic本周三才呼籲美國加強人工智能監管,包括賦予政府阻止高風險模型推出市場的權力。不過公司認為,今次政府做法未有遵循公平及以事實為基礎的監管原則。
美國國防部首席資訊官Kirsten Davies在社交平台X表示,國防部支持將國家安全置於首位。她寫道:「有些事情比收入周期、吸睛標題和上市估值更重要。美國優先,永遠如此。」
Anthropic上月已秘密提交美國首次公開招股(IPO)申請,較競爭對手OpenAI更接近進入公開市場。
本周稍早前,Anthropic推出Claude Fable 5模型,屬於公司所稱的「Mythos級別」新一代人工智能系統。公司同時設置多項安全限制,包括禁止用於網絡安全等高風險領域,部分用戶則批評限制過於廣泛。
專家指出,Mythos系列模型若落入不當人士手中,可能大幅提升高級網絡攻擊能力,尤其對銀行等依賴複雜及老舊資訊系統的行業構成風險。
Anthropic表示,公司在推出Fable系列前已與美國政府等機構合作進行安全測試,而其他人工智能企業的模型亦具備類似能力,可協助發現程式碼中的小型漏洞。
公司表示,為遵守命令,必須立即停止所有客戶使用Fable 5及Mythos 5,但其他Anthropic模型不受影響。Anthropic稱,相信事件涉及某種誤解,正積極與政府溝通,希望盡快恢復模型服務。
公司警告,若同一標準適用於整個人工智能產業,幾乎所有前沿模型開發商的新產品部署都將被迫停止。
亞馬遜雲端服務AWS周五晚表示,Anthropic已要求其撤銷全球所有地區用戶對有關模型的存取權限。
一名美國官員證實,商務部已發出出口管制命令,暫停所有外國公民使用Fable 5及Mythos 5。
曾參與白宮2025年人工智能行動計劃制定工作的前官員Dean Ball表示,該命令意味所有非美國公民,包括身處美國境內人士,均可能被禁止使用Anthropic最新模型。
他表示,用戶未來或需證明美國公民身份,方可使用Anthropic相關模型。
值得注意的是,Anthropic多名核心成員,包括共同創辦人Chris Olah、人工智能研究員Andrej Karpathy及哲學家Amanda Askell均出生於美國以外地區。路透社未能確認他們目前的國籍身份,Anthropic亦拒絕評論相關員工會否受禁令影響。
(資料圖:路透社,Getty)T15
>>>星島網WhatsApp爆料熱線(416)6775679,爆料一經錄用,薄酬致意。
>>>立即瀏覽【生活百答】欄目:新移民抵埗攻略,老華僑也未必知道的事,移民、工作、居住、食玩買、交通、報稅、銀行、福利、生育、教育。
