社論：莫讓脫韁野馬成禍 中美須扛起AI治理的歷史擔當

美國人工智能巨擘Anthropic旗下3名研究員，日前發出一個駭人的警告。他們說業界相信人工智能可在2030年前毀滅人類，其中一人更辭職抗議公司忽視風險。這種警告是否危言聳聽呢？似乎不是——因為Anthropic本身也承認，也門胡塞武裝利用人工智能工具研發導彈；其競爭對手OpenAI的人工智能體，今年7月利用漏洞突破隔離環境，入侵其他公司的系統。顯然，人工智能風險早已不是科幻小說的想像，而是觸手可及的現實威脅。如何將它變成人類的可信工具，是大家應思考的。

不少美國人對AI心存戒懼

美國稱得上是人工智能領域的執牛耳者，但發展這一尖端科技在當地其實缺乏共識。在民間，多地近月興起了「反對興建數據中心」運動，參加者主要擔心高耗能的人工智能設施密集落地，必定造成電費飆升、環境污染等問題；在國會，聯邦參議員桑德斯提出《禁止人工超級智能法案》（Ban Artificial Superintelligence Act），希望阻止大型科技企業研發認知能力超越人類的人工智能系統。美國國內確實有許多人對它心存戒懼，並且試圖阻撓；無論我們是否贊同他們的觀點，起碼可從中獲得一些啟發。

我們認為，技術本身無善惡，關鍵在於如何駕馭，歷史也證明這一點了。蒸汽機的發明，直接摧毀大量職位，對勞動者造成殘酷的壓榨，卻也在勞動法規、安全標準約束下，成為現代工業文明的基石；互聯網早期充斥病毒、欺詐和混亂的資訊，如今雖仍問題重重，但在法律框架、平台責任與用戶素養的共同作用下，成為促進知識交流與經濟發展的基礎設施。人工智能之潛力，肯定遠超蒸汽機和互聯網，雖然它的風險同樣巨大。

人工智能所帶來的挑戰，或許是史無前例的。面對這場波瀾壯闊的技術浪潮，我們不應因為恐懼而因噎廢食、作繭自縛，更不能因為貪圖一時的興奮與商業利益，而徹底放任自流。關鍵在於：安全如何保障，治理如何跟上。惟有治理到位，方能將這匹「野馬」的力量導向增進人類福祉的正確軌道。

「習特會」將討論AI治理

我們積極作為、防範失控的時間窗口越來越狹窄；躲避不是辦法，放任更是自毀長城。在國際層面，鑑於人工智能的研發與應用，具有高度全球化的特徵，單一國家的監管難以全面覆蓋，故各國必須加快形成具約束力的共識與規則，防止惡性競爭；在國家層面，應建立分級分類的監管體系，對通用大模型與高風險應用，實施嚴格的安全評估與備案要求，既防止扼殺創新，也避免放任自流；在企業層面，則必須把安全與責任內化為研發流程的一部分，Anthropic研究員的公開警告與辭職，正是對內部治理缺失的強烈警示，科技公司絕不能以「創新優先」為理由，迴避對潛在災難性風險的審慎評估。

今年7月中，習近平主席在世界人工智能大會上說，人工智能的發展越是一日千里，監管治理的尺度越要精准把握，防範失控的措施越要及時完善，要使其真正成為增進全人類福祉、推動人類文明進步的強大正能量。這個說法是有道理的，值得細心領會，但更重要的是實踐。在9月底的「習特會」上，人工智能治理將是兩國元首的討論議題之一，我們希望中美作為世界兩強，能夠積極發揮帶頭作用，提出具體而明確的舉措，將脫韁野馬馴服成「千里駿馬」。