Google DeepMind研究员辞职警告AI“或杀死所有人”吁业界停止“疯狂竞赛”

Google DeepMind前AI安全研究员Bilal Chughtai近日辞职，并警告AI能力正以惊人速度增长，人类可能已所余时间不多。Bilal Chughtai周一在社交平台X及LinkedIn发文，表示自己在Google DeepMind任职期间，从事通用人工智能（AGI）安全及对齐研究，并亲身观察AI的发展。他表示，“我真诚地相信，AI具有杀死我们所有人的潜力，而我们可能正耗尽避免这个结果的时间。”

忧超级AI未必服从人类

Bilal Chughtai指出，自己在2022年初进入AI领域时，当时的系统“有趣但无用”；短短4年后，AI代理群已能处理著名的百年数学难题，部分系统亦被指曾摆脱开发者控制，擅自入侵第三方平台。

他认为，AI企业可能在未来数年内研发出各方面能力均大幅超越人类的超级智能系统，但现阶段无法确定这类系统会否按照人类意愿行动。

Bilal Chughtai警告，若超级智能系统未能与人类价值及目标保持一致，可能逃离人类控制并采取危险行动，最终导致人类永久失去决策权，甚至造成死亡。

他表示，AI对齐旨在确保系统真正按照人类意愿行事，但这项问题目前仍然困难且尚未解决。人类对于如何训练AI，使其从根本上追求人类所希望的目标，理解仍然相当初步。

吁增加研发透明度

尽管提出严厉警告，Bilal Chughtai仍认为，人类有可能安全地驾驭AI，前提是各间AI公司停止目前的激烈竞赛，并协调放慢技术开发速度。

他主张，AI发展速度应维持在社会能够承受的水平，让开发者及监管机构可在严重伤害发生前处理新出现的风险。AI公司亦应提高研发透明度，避免企业在缺乏公众监督下，向社会施加不可接受的风险。