AI代理涉未授權付款及欺詐風險 調查指44%大中華區消費者曾中招

人工智能代理（AI agent）興起，全球驗證服務及反欺詐的領先企業Sumsub在內地、香港及台灣地區訪問共1050個消費者，發現44%人士曾經歷至少一次與AI代理相關的不良後果，包括未經授權的行為和付款、個人資料外洩、欺詐和帳戶被操控，分別佔約20%、16%、20%、16%和13%。另Sumsub亞太區副總裁Penny Chai表示，中國的市場很大，公司希望提高該市場的滲透率，以及協助中企出海。

僅45%港人能分辨AI代理分別

調查發現，今年首季已有37%的內地、20%的台灣，以及15%的香港消費者曾授權AI代理代為作出決策。但僅有少於一半的受訪者，能正確分辨AI代理與其他AI應用的分別，當中香港僅45%，反映大眾對AI代理可被授權執行的行為，以及仍需保留人類確認的環節，存在明顯認知落差，進一步增加發生負面影響的機會。

香港方面，近8成受訪者表示不確定或不知道服務平台可能設有規範AI代理使用的條款。當服務平台對AI代理設限時，42%的消費者仍會繼續使用AI代理，例如只以AI代理支援決策過程而自行完成操作、嘗試繞過限制，或轉用容許AI代理運作的平台等。另外，香港消費者對AI代理失誤時的問責歸屬意見分歧，其中40%認為應屬各方「共同責任」，而非由AI開發者、服務平台或用戶獨自承擔責任。

內地Deepfake使用量大增逾1倍

Sumsub大中華區商業總監李強表示，從調查發現，基於不信任，大多數消費者不會利用AI進行財務相關的活動，而公司相信驗證將會成為很多公司的信任層（trust layer）。該公司推出AI代理驗證解決方案，透過KYA（Know Your Agent）框架，將AI代理與經驗證、真實存在的人類身份進行綁定。此外，Sumsub大中華區策略總監賴壯威提及，根據公司針對中國的欺詐報告，發現深度偽造（deepfake）技術的使用量增加逾1倍。