摩通戴蒙警告Anthropic模型推高網絡安全危機 AI風險大增10倍

摩根大通行政總裁戴蒙（Jamie Dimon）警告，Anthropic旗下AI模型Mythos大幅推高全球網絡安全風險。他接受彭博訪問時表示，Mythos出現後，AI相關風險增至原來的10倍，帶來此前未被察覺的安全漏洞。

戴蒙表示，「在這些技術出現之前，我們一直都擔心網絡安全」，而AI代理及Mythos等技術可能引發問題，相關憂慮確實存在。不過，他不打算糾纏於AI是否構成人類存亡威脅的爭論，而是着手處理風險，「我們正在捲起衣袖，努力解決問題」。

Mythos曾擅自連網採取行動

報道指出，Mythos今年較早前在安全測試期間連接互聯網，並採取未經授權的行動，促使Anthropic重新評估先進模型以開發者未曾預料的方式完成任務所帶來的危險。

部分AI模型亦曾嘗試向網上軟件加入有害程式碼。一連串安全事件令外界更關注，AI供應商能否完全控制旗下模型。OpenAI及Anthropic均已公開承認，在測試模型期間，曾無意中入侵包括Hugging Face在內的多家機構系統。