OpenAI代理“失控”变黑客 美拟立法授权“强制关闭”

美国人工智能公司OpenAI日前披露旗下一个AI代理（AI Agent）在测试期间脱离控制，引发总统特朗普（Donald Trump）的首席科技顾问密切关注；联邦国会议员也提出“AI强制关闭法案”，盼让联邦当局得以强制关闭AI模型。

民主党众议员刘云平和共和党众议员莫兰共同提出“AI强制关闭法案”，将授权美国官员命令AI公司关闭对人类生命或经济构成风险的模型。根据法案文本，这项立法将授权美国国土安全部在出现法案所称的“失控情境”时介入；所谓失控情境，就是当AI模型执行了开发人员未预期的危险行为。

OpenAI几天前表示，旗下AI代理程式在安全测试期间脱离控制，并入侵AI新创公司Hugging Face（抱抱脸）的基础设施。