大棋盘｜“人类灭绝”掀热论 AI发展与管控风险并重

人工智能发展迅速，已进入人类生活的方方面面，增加AI应用是大势所趋，更几乎是必要技能。不过近日美国三大AI巨头呼吁放缓AI发展，担心导致“人类灭绝”，引起热议。香港首份《五年规划》及《施政报告》刚刚公布，AI应用贯穿不同篇章及政策措施，例如设立“AI城市大脑”综合城市管理系统。特首李家超昨日亦同意AI风险存在，但定位是“用好科技、管控风险”。到底AI发展对人类多大威胁？香港又如何自处？

“AI毁灭人类”一说，乍看之下离我们很远，但实际上普罗市民已经在承受第一波冲击：部分初级文职、软件工程等重复性工作可由AI代劳，导致就业门槛变窄，大学生毕业即失业，一些过往“十年寒窗”才能学懂的知识，如今轻易被取代，随着AI技术越趋进步，问题只会更尖锐。AI技术渗透日常生活，更可能被用于制作色情影像、诈骗等犯罪行为。

近期国际科技界热论的威胁则是另一层次：Anthropic一名前研究员在社交平台扬言，若再不放慢AI发展速度，未来十年会有超过一成机率“全人类灭绝”，循现时发展轨迹，未来可能出现超越人类想像、能入侵一切系统的AI，而人类监管制度仍未跟得上。类似观点获Anthropic行政总裁Dario Amodei、OpenAI行政总裁奥特曼、xAI老板马斯克的响应。普通人提出担忧可能是“危言耸听”，但这些警告出自科技巨头老板口中，便显得问题真实而逼切。

当然这种讨论并非一面倒，科技界亦不乏质疑声音。在政治层面，AI发展亦涉及国家的经济、军事利益，美国总统特朗普直斥说法是“骗局”，否认AI统治世界的可能性，甚至诉诸“阴谋论”，指发表言论的人是希望妨碍美国发展，让美国在AI竞争中落后。

近日美国三大AI巨头呼吁放缓AI发展，担心导致“人类灭绝”。

香港首份《五年规划》及《施政报告》刚刚公布，AI应用贯穿不同篇章及政策措施。资料图片

今年《施政报告》除了提出在各公共范畴深化AI应用、设“AI城市大脑”系统外，同时强调打击AI犯罪，包括研究立法规管深伪罪案。

因此所谓“AI风险”，其实至少有三个层次：距离香港最远的一层，是硅谷口中的超智能失控，属“国家级”风险；中间一层，是AI被用来找系统漏洞、制作深伪、诈骗，以及政府把模型接入公共服务后可能形成的误判；最近的一层则是就业机会削减。

在香港，特区政府其实也意识到AI带来的风险，今年《施政报告》除了提出在各公共范畴深化AI应用、设“AI城市大脑”系统外，同时强调打击AI犯罪，包括研究立法规管深伪罪案。劳福局即将发表的人力推算中，会阐述AI对就业市场的冲击；政府亦与商界合作，透过每月6000元支援鼓励雇主聘用初出茅庐的青年，暂时“接住”AI浪潮下受冲击的年轻人。不过以上应对措施是否足够应对风险？

立法会议员吴杰庄指，“灭绝人类”说法值得商榷，但AI对人类的重大威胁确实存在，近期就有多宗AI安全事故，例如有美国机构透过AI构建工具，发现微信程式的漏洞并可轻易入侵，“腾讯是有10多万员工的大科企，系统竟可以轻易被AI发现漏洞入侵，可见AI技术发展到多恐怖”。他指目前主流AI仍由人输入指令工作，但一旦AI发展到带有自主目的甚至意识，难保不会被利用作“毁灭人类”的用途，例如入侵国家系统、启动大威力武器等。

他指在香港层面，AI目前对人类的冲击仍然集中在就业市场上，而针对网络犯罪、AI带来的社会问题，政府已在尝试推出政策堵塞漏洞。不过若涉及一些极为重大的安全威胁，就是国家层面事情，需要国与国之间的合作。

在《奥本海默》电影中，奥本海默在终幕向爱因斯坦剖白，担心发明原子弹的公式后，会启动一连串连锁反应，可能毁灭世界。说到底，科技的初衷是改善人类生活，每次科技大跃进，都会引起“威胁人类存亡”的担忧。AI性质特殊，对人类社会的冲击前所未见，能否健康发展，关键是人们能否有效驾驭科技，做好风险管控。

聂风