安省审计报告揭公务员使用不安全AI网站　或危及个人资料安全

图：安省审计长Shelley Spence（加通社）

【星岛综合报道】安省审计长Spence今（12日）发表最新报告指出，安省政府人工智能（AI）策略仍缺乏多项关键元素，数以千计公务员曾使用不安全AI网站，可能令市民个人资料面临外泄风险；部分医疗AI笔录系统亦出现错误纪录问题。

审计涵盖2025年1月至11月期间，全面检视省政府内部AI使用情况。

报告指出，省府未有设立足够保安措施，防止公务员将敏感资料误上载至生成式AI网站，包括健康卡、驾驶执照、信用卡资料，以及供应商合约与发票等机密文件。

审计长表示，相关网站可能会保留及利用输入资料，作为大型语言模型训练用途，存在严重私隐风险。

根据Microsoft Defender数据，2025年4月至8月期间，共有约1万2千名安省公务员曾浏览大约400个与AI有关网站，其中244个、即约六成，被评为不安全或缺乏保安措施，部分网站甚至与工作无关，并包含不当内容。

报告指出，虽然省府自2024年起已推出AI负责任使用培训课程，但课程并非强制，截至去年8月仅有约百分之3公务员完成培训。

目前，Microsoft Copilot Chat是唯一获省府批准使用的生成式AI平台，但其使用量仅占所有AI网站流量约6%。

审计亦发现，公务员若使用Google Chrome或Firefox等非默认浏览器，相关AI网站保安风险会进一步增加。省府表示，其后已采取措施封锁不安全AI网站。

另外，政府批准医护人员使用的AI笔录系统“AI Scribe”亦被发现存在准确度问题。测试中，多个系统曾错误记录药物名称，甚至虚构治疗方案，例如建议病人接受并无提及的治疗或验血程序。

审计长批评，省府评估供应商时，对笔录准确度所占比重偏低，可能导致系统产生不准确或带偏见的医疗纪录。

报告亦指出，现时系统未要求医护人员必须核对AI生成纪录，建议将有关程序列为强制要求。

此外，省府正研究推出“文件验证服务”（DVS），利用AI协助市民验证身份，以使用政府服务。不过，审计长发现测试样本规模过小，未能反映安省多元人口结构，可能令部分族群在身份认证时较容易被拒或延误。

审计长表示，省府已接纳大部分有关改善AI安全及应用的建议。

安省审计长今日总共发表四份审计报告，揭露省政府在人工智能应用、货车司机培训、特殊教育及家庭责任办公室等多方面均存在问题。

• 相关新闻：安省审计部门“放蛇”　揭司机培训偷工减料、伪造记录、路试轻松过
• 相关新闻：AI可否取代医生？人工智能如何改变加拿大医疗体系

T15