逾千专家吁暂停训练强大AI

去年美国拉斯维加斯消费电子展，展出的一个AI机器人。

（星岛日报报道）美国亿万富豪马斯克伙同人工智能（AI）专家（包括两名图灵奖得主）、高科技业界高层等逾千人，昨日发表联署公开信，呼吁全球业界立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，直至确保它们是安全的。公开信警告强大、先进的AI系统对社会与人类构成潜在风险。
由非牟利组织“生命未来研究所”发表的公开信，已有超过1100人签署，包括AI聊天机器人ChatGPT开发商OpenAI的初始投资者马斯克（Elon Musk）、有“电脑界诺贝尔奖”之称的图灵奖两名得主西法基斯（Joseph Sifakis）和本吉奥（Yoshua Bengio）、苹果公司共同创办人沃兹尼亚克、AI生成图片公司Stability AI行政总裁莫斯塔克、Alphabet旗下AI公司DeepMind的研究人员，以及其他著名AI专家与学者、科技界高层等。其中希腊裔电脑科学家西法基斯为2007年图灵奖得主、加拿大蒙特利尔大学教授本吉奥为2018年图灵奖得主。
为期至少6个月

 

公开信题为“暂停巨型AI实验”，称已有广泛的研究显示，具有与人类竞争智能的AI系统可能对社会和人类构成深远的风险，“只有当我们确信其影响是积极正面、且风险可控时，才应该开发强大的AI系统。”公开信呼吁未来至少6个月暂停训练较GPT-4更强大的AI系统，直到此类设计的共享安全规则获独立专家订定、实施和审核。GPT-4是ChatGPT的升级版，由新创公司OpenAI推出。

 

信中提到，近几个月AI实验室陷入一场失控的竞赛。公开信说：我们必须问自己，是否应该让机器以宣传和谎言，充斥自身的讯息渠道？是否应该自动化所有工作，包括本已令人满意的工作？是否应该发展并非人类的脑袋，最终它可能比人类更聪明，并取代我们？我们应该冒着失去对自身文明控制的风险吗？

 

公开信指，若不能迅速实施暂停训练，各国政府应介入。据欧盟的登记册资料，生命未来研究所主要由马斯克旗下基金会资助，合作出资者还包括伦敦的利他主义组织Founders Pledge及美国硅谷社区基金会。
裁减伦理团队引起担忧

 

自从微软支持的OpenAI去年底推出ChatGPT之后，竞争者争相推出类似产品。但当愈来愈多人开始尝试使用AI产品之际，微软、亚马逊和Google等科技巨擘却裁减了AI伦理团队，进一步引起了安全担忧。到本周一，欧洲刑警组织警告，ChatGPT这类先进AI系统，可能被滥用于网络钓鱼、假讯息、网络犯罪等。生命未来研究所发言人昨日向媒体称，OpenAI的行政总裁奥尔特曼还没有在这封信上签名。有份签署的纽约大学名誉教授马库斯称，该公开信内容并不完美，“但精神是正确的，大家需要放慢脚步，直到能更好理解后果。”

---------------------------------------------

>>>立即浏览【移民百答】栏目：新移民抵埗攻略，老华侨也未必知道的事，移民、工作、居住、食玩买、交通、报税、银行、福利、生育、教育。

>>>即读【新移民专栏】：新移民第一身经验，与你分享当下年轻移民生活日常大小事，即读“新移民专栏”。