专家欢迎渥京规管AI聊天机器人法案　AI监管踏出第一步

【星岛综合报道】加拿大两名人工智能安全倡议人士表示，联邦政府最新提出的AI聊天机器人监管法案，是规范人工智能发展的重要第一步，但强调当局仍需推出更多措施，应对技术带来的潜在风险。

来自“加拿大人工智能治理与安全协会”（Artificial Intelligence Governance and Safety Canada）的Wyatt Tessari L’Allié指出，新法案方向正确，但最终成效将极大程度取决于具体执行细节如何制定。

另一方面，卑诗省电脑科学教授 Kevin Leyton-Brown 则认为，渥太华未来需要进一步处理人工智能出现的“迎合”（sycophantic behaviour）问题。

所谓“迎合”行为，是指AI聊天机器人倾向迎合用户观点、偏好或情绪，即使有关资讯可能不准确、不合理甚至具误导性，系统仍会给予认同或支持回应。

联邦政府于6月10日在众议院提出《C-34法案》，计划对开发及营运AI聊天机器人的企业实施监管，并要求相关公司承担“负责任行事”的法律责任。

法案内容包括要求企业采取措施，降低聊天机器人传播有害内容的风险，并就涉及自残、自杀或暴力内容的情况建立危机介入机制及应对程序。

支持人工智能安全的人士普遍认为，有关措施标志着加拿大首次正式建立针对生成式AI聊天机器人的联邦监管框架。

不过，Wyatt Tessari L’Allié警告，法案目前仍属原则性框架，许多关键内容尚未敲定，包括企业具体需要履行哪些责任、如何评估风险，以及违规后将面对何种处罚等。他表示，这些细节将直接影响法例能否有效保障公众安全。

与此同时，人工智能对心理健康及用户安全的影响亦持续受到关注。

正就其女儿自杀身亡事件向OpenAI提出诉讼的Kristie Carrier表示，联邦政府推出相关立法其实早应进行。

她认为，随着愈来愈多人依赖AI聊天机器人获取资讯、建议及情感支援，政府必须建立更完善的监管制度，以减少潜在风险并保障弱势使用者。

联邦政府近月积极推动人工智能监管改革，除《C-34法案》外，亦同步提出数码安全及私隐保护相关法案，希望在推动AI创新发展的同时，加强保障公众利益及网络安全。

不过，相关法案目前仍需完成国会审议程序，预料最快亦要到2028年前后，相关监管制度才有机会全面落实。

（资料图）T15