Anthropic警告AI风险加剧 吁行业放慢开发模型 奥特曼及马斯克同声支持

Anthropic行政总裁Dario Amodei周六发表了一篇长文表示，AI技术风险不断加剧，呼吁行业必须放慢新模型的开发速度，其公司亦会实施新的安全措施，例如引入第三方评估人员。值得留意的是，OpenAI行政总裁奥特曼（Sam Altman）很快采纳了Amodei提出“赋予独立评估机构类似员工的访问权限”的建议，连其“死敌”、营运xAI的马斯克也指“Dario说得对”。

建议引入第三方评估人员

据彭博报道，Amodei列举了两个主要因素，包括AI自我改进的能力，以及最近OpenAI和Hugging Face发生的事件，涉及一群AI代理协同攻击第三方网站。

但他补充，任何放缓都必须与竞争的现实相平衡，“需要明确的是，控制进度并不意味停止模型训练或技术进步，而是确保公司有足够的时间来调整和保护其模型，并让第三方评估人员确认这一点”。

风险担忧开始进入主流视野

报道指出，虽然Amodei、奥特曼及马斯克这三位AI公司领导人多年来都曾警吿AI风险，但在这个竞争激烈的行业中，真正协调一致的放缓开发却鲜有先例，各家公司一直不断推出新产品，以提高用户参与度、抢占市场份额及推动销售增长。

不过，人们对AI严重风险的担忧已开始进入主流视野，部分原因是本周 Anthropic一位研究人员因担忧公司行为不负责任而辞职，引发了公众的广泛关注。此外，美国国内对AI技术的抵制情绪亦日益增长，反对新建数据中心对当地资源造成巨大压力，并忧虑AI会推高电费，以及可能导致失业。

报道又提到，目前尚不清楚这些领先的AI公司究竟会在多大程度上实施新的限制措施或安全检查，因为它们本身就是激烈的竞争对手，而且还面临来自中国公司的激烈竞争。