社论：莫让脱缰野马成祸 中美须扛起AI治理的历史担当

美国人工智能巨擘Anthropic旗下3名研究员，日前发出一个骇人的警告。他们说业界相信人工智能可在2030年前毁灭人类，其中一人更辞职抗议公司忽视风险。这种警告是否危言耸听呢？似乎不是——因为Anthropic本身也承认，也门胡塞武装利用人工智能工具研发导弹；其竞争对手OpenAI的人工智能体，今年7月利用漏洞突破隔离环境，入侵其他公司的系统。显然，人工智能风险早已不是科幻小说的想像，而是触手可及的现实威胁。如何将它变成人类的可信工具，是大家应思考的。

不少美国人对AI心存戒惧

美国称得上是人工智能领域的执牛耳者，但发展这一尖端科技在当地其实缺乏共识。在民间，多地近月兴起了“反对兴建数据中心”运动，参加者主要担心高耗能的人工智能设施密集落地，必定造成电费飙升、环境污染等问题；在国会，联邦参议员桑德斯提出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），希望阻止大型科技企业研发认知能力超越人类的人工智能系统。美国国内确实有许多人对它心存戒惧，并且试图阻挠；无论我们是否赞同他们的观点，起码可从中获得一些启发。

我们认为，技术本身无善恶，关键在于如何驾驭，历史也证明这一点了。蒸汽机的发明，直接摧毁大量职位，对劳动者造成残酷的压榨，却也在劳动法规、安全标准约束下，成为现代工业文明的基石；互联网早期充斥病毒、欺诈和混乱的资讯，如今虽仍问题重重，但在法律框架、平台责任与用户素养的共同作用下，成为促进知识交流与经济发展的基础设施。人工智能之潜力，肯定远超蒸汽机和互联网，虽然它的风险同样巨大。

人工智能所带来的挑战，或许是史无前例的。面对这场波澜壮阔的技术浪潮，我们不应因为恐惧而因噎废食、作茧自缚，更不能因为贪图一时的兴奋与商业利益，而彻底放任自流。关键在于：安全如何保障，治理如何跟上。惟有治理到位，方能将这匹“野马”的力量导向增进人类福祉的正确轨道。

“习特会”将讨论AI治理

我们积极作为、防范失控的时间窗口越来越狭窄；躲避不是办法，放任更是自毁长城。在国际层面，鉴于人工智能的研发与应用，具有高度全球化的特征，单一国家的监管难以全面覆蓋，故各国必须加快形成具约束力的共识与规则，防止恶性竞争；在国家层面，应建立分级分类的监管体系，对通用大模型与高风险应用，实施严格的安全评估与备案要求，既防止扼杀创新，也避免放任自流；在企业层面，则必须把安全与责任内化为研发流程的一部分，Anthropic研究员的公开警告与辞职，正是对内部治理缺失的强烈警示，科技公司绝不能以“创新优先”为理由，回避对潜在灾难性风险的审慎评估。

今年7月中，习近平主席在世界人工智能大会上说，人工智能的发展越是一日千里，监管治理的尺度越要精准把握，防范失控的措施越要及时完善，要使其真正成为增进全人类福祉、推动人类文明进步的强大正能量。这个说法是有道理的，值得细心领会，但更重要的是实践。在9月底的“习特会”上，人工智能治理将是两国元首的讨论议题之一，我们希望中美作为世界两强，能够积极发挥带头作用，提出具体而明确的举措，将脱缰野马驯服成“千里骏马”。