大棋盤｜「人類滅絕」掀熱論 AI發展與管控風險並重

人工智能發展迅速，已進入人類生活的方方面面，增加AI應用是大勢所趨，更幾乎是必要技能。不過近日美國三大AI巨頭呼籲放緩AI發展，擔心導致「人類滅絕」，引起熱議。香港首份《五年規劃》及《施政報告》剛剛公布，AI應用貫穿不同篇章及政策措施，例如設立「AI城市大腦」綜合城市管理系統。特首李家超昨日亦同意AI風險存在，但定位是「用好科技、管控風險」。到底AI發展對人類多大威脅？香港又如何自處？

「AI毀滅人類」一說，乍看之下離我們很遠，但實際上普羅市民已經在承受第一波衝擊：部分初級文職、軟件工程等重複性工作可由AI代勞，導致就業門檻變窄，大學生畢業即失業，一些過往「十年寒窗」才能學懂的知識，如今輕易被取代，隨着AI技術越趨進步，問題只會更尖銳。AI技術滲透日常生活，更可能被用於製作色情影像、詐騙等犯罪行為。

近期國際科技界熱論的威脅則是另一層次：Anthropic一名前研究員在社交平台揚言，若再不放慢AI發展速度，未來十年會有超過一成機率「全人類滅絕」，循現時發展軌跡，未來可能出現超越人類想像、能入侵一切系統的AI，而人類監管制度仍未跟得上。類似觀點獲Anthropic行政總裁Dario Amodei、OpenAI行政總裁奧特曼、xAI老闆馬斯克的響應。普通人提出擔憂可能是「危言聳聽」，但這些警告出自科技巨頭老闆口中，便顯得問題真實而逼切。

當然這種討論並非一面倒，科技界亦不乏質疑聲音。在政治層面，AI發展亦涉及國家的經濟、軍事利益，美國總統特朗普直斥說法是「騙局」，否認AI統治世界的可能性，甚至訴諸「陰謀論」，指發表言論的人是希望妨礙美國發展，讓美國在AI競爭中落後。

近日美國三大AI巨頭呼籲放緩AI發展，擔心導致「人類滅絕」。

香港首份《五年規劃》及《施政報告》剛剛公布，AI應用貫穿不同篇章及政策措施。資料圖片

今年《施政報告》除了提出在各公共範疇深化AI應用、設「AI城市大腦」系統外，同時強調打擊AI犯罪，包括研究立法規管深偽罪案。

因此所謂「AI風險」，其實至少有三個層次：距離香港最遠的一層，是矽谷口中的超智能失控，屬「國家級」風險；中間一層，是AI被用來找系統漏洞、製作深偽、詐騙，以及政府把模型接入公共服務後可能形成的誤判；最近的一層則是就業機會削減。

在香港，特區政府其實也意識到AI帶來的風險，今年《施政報告》除了提出在各公共範疇深化AI應用、設「AI城市大腦」系統外，同時強調打擊AI犯罪，包括研究立法規管深偽罪案。勞福局即將發表的人力推算中，會闡述AI對就業市場的衝擊；政府亦與商界合作，透過每月6000元支援鼓勵僱主聘用初出茅廬的青年，暫時「接住」AI浪潮下受衝擊的年輕人。不過以上應對措施是否足夠應對風險？

立法會議員吳傑莊指，「滅絕人類」說法值得商榷，但AI對人類的重大威脅確實存在，近期就有多宗AI安全事故，例如有美國機構透過AI構建工具，發現微信程式的漏洞並可輕易入侵，「騰訊是有10多萬員工的大科企，系統竟可以輕易被AI發現漏洞入侵，可見AI技術發展到多恐怖」。他指目前主流AI仍由人輸入指令工作，但一旦AI發展到帶有自主目的甚至意識，難保不會被利用作「毀滅人類」的用途，例如入侵國家系統、啟動大威力武器等。

他指在香港層面，AI目前對人類的衝擊仍然集中在就業市場上，而針對網絡犯罪、AI帶來的社會問題，政府已在嘗試推出政策堵塞漏洞。不過若涉及一些極為重大的安全威脅，就是國家層面事情，需要國與國之間的合作。

在《奧本海默》電影中，奧本海默在終幕向愛因斯坦剖白，擔心發明原子彈的公式後，會啟動一連串連鎖反應，可能毀滅世界。說到底，科技的初衷是改善人類生活，每次科技大躍進，都會引起「威脅人類存亡」的擔憂。AI性質特殊，對人類社會的衝擊前所未見，能否健康發展，關鍵是人們能否有效駕馭科技，做好風險管控。

聶風