【评论】人工智能征服地球？ 防机器人不如先防人

【世道仁心】人工智能(AI)应用在生活上，并非新鲜事，但随着ChatGPT出现，普罗大众也能运用，遂引起广泛的关注，更有人忧虑，人类被AI机器人征服的日子会否很快来临。不过纵观加拿大的管制AI法律框架，主要关注的不是机器人，而是人。

有看过于上世纪八十年代连载的日漫《我是真悟》吗？故事讲述小学生近藤悟，跟同龄的山本真玲向一台AI机器人“梦露”，输入知识和自己的资料。梦露渐成了有自我认知能力的机器人。

藤悟和真玲后来分隔两地，梦露自视为二人的“孩子”，从两人名字中各取一字，自称“真悟”，并且展开旅程，要把爸爸的“真玲，我依然爱着你”讯息带给妈妈。在充满惊险的旅程中，真悟学会与其他机械装置连结，吸取资讯，甚至能控制其他机器，懂得跟动物沟通，成为强劲的AI机器人。

保护基本人权为基础

在那个年代，这部漫画很有前瞻性。后来越来越多的AI题材故事，如电影《未来战士》，描述有自我意识的AI成了人类“终结者”。再看现时AI的发展速度，对机器人的忧虑可以理解。

不过，忧虑机器人之先，防范人无所不用其极地运用AI，才是当前最现实的课题。

欧盟于6月14日通过全球首个规管AI法案 ——《人工智能法案》，采用以风险分级管制法，把使用AI技术的产品或服务，按风险分为4级，按级别提升监管程度。如何分划出这些级别？主要是AI系统所构成的风险，与欧盟基本价值的抵触或侵犯程度有多大。

何谓“不可接受的风险”

例如，什么是“不可接受的风险”？依据该法案第5条第1项，就是利用AI针对特定弱势族群(如长者、儿童，或有身心障碍者)搞行为操控，造成生、心理损害；利用AI搞社会评分(social scoring)。利用已知、预测个人特征或人格特质，给人评分或分类，造成有害或不利对待；以及在公共场合用AI无差别地大规模持续监控人民。

这些管制风险的目标很清晰，就是防范有人(包括政府、财团)利用AI侵犯个人自由、隐私或其他基本权利。

在加拿大，当局也着手为监管AI制定框架。已通过二读的《人工智能和数据法案》(AIDA)，包含在C-27法案之中。

法规死追科技的现实

C-27法案又称《数码宪章实施法》(Digital Charter Implementation Act)，是一个“颁布《消费者隐私保护法》、《个人信息和数据保护法庭法》以及《人工智能和数据法》，并对其他法案进行相应和相关修订的法案”。

看看以上放在一篮子的法案，不难察觉监管AI框架的用意，就是“确保国民可以信任他们每天使用的数码技术。AI系统的设计、开发和使用必须安全，并且必须尊重加拿大人的价值观”，所以是根据现有的消费者保护和人权法为基础，确保具高影响力的AI系统，符合民众在安全和人权方面的期望。

法规在科技后面死追的情况，自从互联网普及化就已经出现。从互联网所引伸的网上欺凌、企业垄断、私隐侵犯，压制人权等种种挑战，在AI普及化的年代，相信会加剧。

什么时候会出现“真悟”或“未来战士”，天晓得，但人无所不用其极地利用新科技自肥的倾向，是当前必须尽快制定法规严防的一环。

文：独立评论员廖长仁