Anthropic警告AI風險加劇 籲行業放慢開發模型 奧特曼及馬斯克同聲支持

Anthropic行政總裁Dario Amodei周六發表了一篇長文表示，AI技術風險不斷加劇，呼籲行業必須放慢新模型的開發速度，其公司亦會實施新的安全措施，例如引入第三方評估人員。值得留意的是，OpenAI行政總裁奧特曼（Sam Altman）很快採納了Amodei提出「賦予獨立評估機構類似員工的訪問權限」的建議，連其「死敵」、營運xAI的馬斯克也指「Dario説得對」。

建議引入第三方評估人員

據彭博報道，Amodei列舉了兩個主要因素，包括AI自我改進的能力，以及最近OpenAI和Hugging Face發生的事件，涉及一群AI代理協同攻擊第三方網站。

但他補充，任何放緩都必須與競爭的現實相平衡，「需要明確的是，控制進度並不意味停止模型訓練或技術進步，而是確保公司有足夠的時間來調整和保護其模型，並讓第三方評估人員確認這一點」。

風險擔憂開始進入主流視野

報道指出，雖然Amodei、奧特曼及馬斯克這三位AI公司領導人多年來都曾警吿AI風險，但在這個競爭激烈的行業中，真正協調一致的放緩開發卻鮮有先例，各家公司一直不斷推出新產品，以提高用戶參與度、搶佔市場份額及推動銷售增長。

不過，人們對AI嚴重風險的擔憂已開始進入主流視野，部分原因是本週 Anthropic一位研究人員因擔憂公司行為不負責任而辭職，引發了公眾的廣泛關注。此外，美國國內對AI技術的抵制情緒亦日益增長，反對新建數據中心對當地資源造成巨大壓力，並憂慮AI會推高電費，以及可能導致失業。

報道又提到，目前尚不清楚這些領先的AI公司究竟會在多大程度上實施新的限制措施或安全檢查，因為它們本身就是激烈的競爭對手，而且還面臨來自中國公司的激烈競爭。