Google DeepMind研究員辭職警告AI「或殺死所有人」籲業界停止「瘋狂競賽」

Google DeepMind前AI安全研究員Bilal Chughtai近日辭職，並警告AI能力正以驚人速度增長，人類可能已所餘時間不多。Bilal Chughtai周一在社交平台X及LinkedIn發文，表示自己在Google DeepMind任職期間，從事通用人工智能（AGI）安全及對齊研究，並親身觀察AI的發展。他表示，「我真誠地相信，AI具有殺死我們所有人的潛力，而我們可能正耗盡避免這個結果的時間。」

憂超級AI未必服從人類

Bilal Chughtai指出，自己在2022年初進入AI領域時，當時的系統「有趣但無用」；短短4年後，AI代理群已能處理著名的百年數學難題，部分系統亦被指曾擺脫開發者控制，擅自入侵第三方平台。

他認為，AI企業可能在未來數年內研發出各方面能力均大幅超越人類的超級智能系統，但現階段無法確定這類系統會否按照人類意願行動。

Bilal Chughtai警告，若超級智能系統未能與人類價值及目標保持一致，可能逃離人類控制並採取危險行動，最終導致人類永久失去決策權，甚至造成死亡。

他表示，AI對齊旨在確保系統真正按照人類意願行事，但這項問題目前仍然困難且尚未解決。人類對於如何訓練AI，使其從根本上追求人類所希望的目標，理解仍然相當初步。

籲增加研發透明度

儘管提出嚴厲警告，Bilal Chughtai仍認為，人類有可能安全地駕馭AI，前提是各間AI公司停止目前的激烈競賽，並協調放慢技術開發速度。

他主張，AI發展速度應維持在社會能夠承受的水平，讓開發者及監管機構可在嚴重傷害發生前處理新出現的風險。AI公司亦應提高研發透明度，避免企業在缺乏公眾監督下，向社會施加不可接受的風險。