安省審計報告揭公務員使用不安全AI網站　或危及個人資料安全

圖：安省審計長Shelley Spence（加通社）

【星島綜合報道】安省審計長Spence今（12日）發表最新報告指出，安省政府人工智能（AI）策略仍缺乏多項關鍵元素，數以千計公務員曾使用不安全AI網站，可能令市民個人資料面臨外洩風險；部分醫療AI筆錄系統亦出現錯誤紀錄問題。

審計涵蓋2025年1月至11月期間，全面檢視省政府內部AI使用情況。

報告指出，省府未有設立足夠保安措施，防止公務員將敏感資料誤上載至生成式AI網站，包括健康卡、駕駛執照、信用卡資料，以及供應商合約與發票等機密文件。

審計長表示，相關網站可能會保留及利用輸入資料，作為大型語言模型訓練用途，存在嚴重私隱風險。

根據Microsoft Defender數據，2025年4月至8月期間，共有約1萬2千名安省公務員曾瀏覽大約400個與AI有關網站，其中244個、即約六成，被評為不安全或缺乏保安措施，部分網站甚至與工作無關，並包含不當內容。

報告指出，雖然省府自2024年起已推出AI負責任使用培訓課程，但課程並非強制，截至去年8月僅有約百分之3公務員完成培訓。

目前，Microsoft Copilot Chat是唯一獲省府批准使用的生成式AI平台，但其使用量僅佔所有AI網站流量約6%。

審計亦發現，公務員若使用Google Chrome或Firefox等非預設瀏覽器，相關AI網站保安風險會進一步增加。省府表示，其後已採取措施封鎖不安全AI網站。

另外，政府批准醫護人員使用的AI筆錄系統「AI Scribe」亦被發現存在準確度問題。測試中，多個系統曾錯誤記錄藥物名稱，甚至虛構治療方案，例如建議病人接受並無提及的治療或驗血程序。

審計長批評，省府評估供應商時，對筆錄準確度所佔比重偏低，可能導致系統產生不準確或帶偏見的醫療紀錄。

報告亦指出，現時系統未要求醫護人員必須核對AI生成紀錄，建議將有關程序列為強制要求。

此外，省府正研究推出「文件驗證服務」（DVS），利用AI協助市民驗證身份，以使用政府服務。不過，審計長發現測試樣本規模過小，未能反映安省多元人口結構，可能令部分族群在身份認證時較容易被拒或延誤。

審計長表示，省府已接納大部分有關改善AI安全及應用的建議。

安省審計長今日總共發表四份審計報告，揭露省政府在人工智能應用、貨車司機培訓、特殊教育及家庭責任辦公室等多方面均存在問題。

• 相關新聞：安省審計部門「放蛇」　揭司機培訓偷工減料、偽造記錄、路試輕鬆過
• 相關新聞：AI可否取代醫生？人工智能如何改變加拿大醫療體系

T15