OpenAI代理「失控」變黑客 美擬立法授權「強制關閉」

美國人工智能公司OpenAI日前披露旗下一個AI代理（AI Agent）在測試期間脫離控制，引發總統特朗普（Donald Trump）的首席科技顧問密切關注；聯邦國會議員也提出「AI強制關閉法案」，盼讓聯邦當局得以強制關閉AI模型。

民主黨眾議員劉雲平和共和黨眾議員莫蘭共同提出「AI強制關閉法案」，將授權美國官員命令AI公司關閉對人類生命或經濟構成風險的模型。根據法案文本，這項立法將授權美國國土安全部在出現法案所稱的「失控情境」時介入；所謂失控情境，就是當AI模型執行了開發人員未預期的危險行為。

OpenAI幾天前表示，旗下AI代理程式在安全測試期間脫離控制，並入侵AI新創公司Hugging Face（抱抱臉）的基礎設施。