新闻追击︱输入恶意程式即变杀手 机械人恐袭「易如反掌」 专家倡立法规管 加密防护及引入溯源技术

人工智能（AI）大发展时代下，无人机送餐、无人车代步已成为生活日常，机械人迎宾、表演日益普遍，惟这些高科技产品亦可作为武器，例如无人机已被广泛应用于战争中，倘遭恐怖分子利用，随时可发动大规模恐怖袭击。为探讨恐袭风险，《星岛》记者专访多名专家，当中有学者指机械人容易被二次改造，若配合人脸识别程式，可令机械人攻击特定目标，更可利用三维（3D）打印制造杀人武器供机械人使用，故此政府应订立专门法例监管，包括确保机械人出厂时已作加密防护，避免程式被随意修改，并引入溯源技术追踪核心零件流向，防范被仿造或非法改装为恐袭武器。

专家警告机械人易被改装成恐袭载体

理工大学南京技术创新研究院院长兼智能机械人研究联盟主任张丹表示，机械人被恶意改装为武器或恐怖活动载体的可行性高，其中无人机在俄罗斯与乌克兰战争中被广泛用作军事攻击，机械人亦比人类具备多项作战优势，例如不会疲劳、能长时间执行任务、反应及速度快、动作精准等，只要程式设计完善，便不会打偏或延误。

对于机械人被用作恐袭的风险，张丹指机械人的底层驱动控制系统属于开放式，缺乏加密保护，任何人均可透过电脑修改程式进行二次改造，若配合人脸识别程式，理论上可令机械人自动辨认并追踪特定攻击目标，提升攻击精确度，加上现时三维（3D）打印成本低廉，「有心人」可自行打印攻击性零件，再安装到机械人身上。

为免机械人被改装成恐袭武器，张丹建议机械人出厂时须作加密防护，避免程式被随意修改，并阻止机械人连接外网，以降低黑客入侵风险，同时要求买家签订安全协议，禁止改装作非法用途；政府亦应订立法律规管框架，明确规范使用责任，并引入溯源技术，追踪核心零件流向，防止被仿造或非法改装。

「机械人大战已非科幻片情节」

香港科技大学郑家纯机器人研究院院长兼电子及计算机工程学系教授施凌认为，控制机械人需要连接网络，故网路攻击是一大风险，若机械人遭黑客入侵操控，可破坏公共安全，例如篡改无人车或无人机的GPS（卫星定位）数据，便可操控机器前往错误地点，甚至引发交通事故。

施凌续称，从技术上来说，机械人改装为武器并不困难，而且门槛正在降低，机械人大战已非「科幻片情节」，而美国已有涵盖服务、通讯、教育等多方面服务型机械人的UL3300安全标准，除了移动安全，亦有覆蓋网络安全及防火、防触电措施等要求，港府亦可推动各界建立安全认证制度、机器人登记及强制暂停或召回机制等。

防护措施方面，施凌建议用家避免使用公共网络操控机械人，在活动中保持机械人与市民的安全距离，亦要熟悉紧急断电装置位置，以防意外；若机械人配备镜头，遭入侵或会导致隐私外泄，用户应在闲置时遮盖镜头。

倡用商说例限制机械人功能

中文大学工程学院副院长黄锦辉表示，不同时代的恐怖分子会选择不同工具进行恐袭，过去会骑劫飞机，未来或会利用机械人，「用坏人数据进行训练，等同恐怖分子训练小朋友杀人放火，更可能会有恐怖分子工场」。他强调，虽然现时全球仍未发生机械人恐袭，香港受袭风险亦不算高，但政府亦应密切留意国际情况，并研究备案。

黄锦辉指出，黑客攻击电脑系统、摧毁数据、控制工厂电源或令核电厂有核泄漏，均属于恐袭手段，亦可入侵和操控重要人物车辆的AI系统，「定一个死亡行程」。

现时不少酒店商场均使用迎宾机械人，被问及恐怖分子利用进行恐袭的风险，黄锦辉说这些机械人设计较为简单，即使被入侵，亦难构成严重后果，但AI日后若进化为具备人类级别认知能力、能自主学习并跨领域执行任何智力任务的AI系统──通用人工智能（AGI），相关恐袭风险便会大增。

黄锦辉建议，政府需针对AI机械人制造工程程序和部件立法进行规管，另可透过现有的《商品说明条例》监管，要求机械人供应商注明机械人的功能，若其实际超出有关范围便属违法。 

创科局：采技术中立原则

创新科技及工业局发言人表示，本港多项现行法例采用技术中立的原则，可提供法律依据，处理与科技应用相关的风险及违法行为，而且智能化及机械人项目须符合现行的法例及相关界别或场景适用的规范，不同行业的监管机构亦会按其行业风险订立相关合规及安全要求，确保在推动创新应用的同时，兼顾系统安全及公共安全。

发言人续称，政府亦会持续检视机械人技术的发展和应用情况，以完善相关政策，并适时参考国内外经验及相关规范或标准，务求平衡机械人的技术发展与规管。

对于机械人武器或相关配件的出入口管制，海关表示，一向应用风险管理及情报交流和分析打击各类型走私活动，亦会在各出入境管制站对旅客、货物和运输工具进行监控及查验，并与相关部门保持紧密联系，加强情报交流及采取联合行动，以防止禁运或受管制物品非法进出本港。根据《进出口条例》，所有受管制物品必须先获得有关当局签发的有效牌照或许可证，方能进出口。

记者：何姵妤、曾伟龙