AI代理涉未授权付款及欺诈风险 调查指44%大中华区消费者曾中招

人工智能代理（AI agent）兴起，全球验证服务及反欺诈的领先企业Sumsub在内地、香港及台湾地区访问共1050个消费者，发现44%人士曾经历至少一次与AI代理相关的不良后果，包括未经授权的行为和付款、个人资料外泄、欺诈和帐户被操控，分别占约20%、16%、20%、16%和13%。另Sumsub亚太区副总裁Penny Chai表示，中国的市场很大，公司希望提高该市场的渗透率，以及协助中企出海。

仅45%港人能分辨AI代理分别

调查发现，今年首季已有37%的内地、20%的台湾，以及15%的香港消费者曾授权AI代理代为作出决策。但仅有少于一半的受访者，能正确分辨AI代理与其他AI应用的分别，当中香港仅45%，反映大众对AI代理可被授权执行的行为，以及仍需保留人类确认的环节，存在明显认知落差，进一步增加发生负面影响的机会。

香港方面，近8成受访者表示不确定或不知道服务平台可能设有规范AI代理使用的条款。当服务平台对AI代理设限时，42%的消费者仍会继续使用AI代理，例如只以AI代理支援决策过程而自行完成操作、尝试绕过限制，或转用容许AI代理运作的平台等。另外，香港消费者对AI代理失误时的问责归属意见分歧，其中40%认为应属各方“共同责任”，而非由AI开发者、服务平台或用户独自承担责任。

内地Deepfake使用量大增逾1倍

Sumsub大中华区商业总监李强表示，从调查发现，基于不信任，大多数消费者不会利用AI进行财务相关的活动，而公司相信验证将会成为很多公司的信任层（trust layer）。该公司推出AI代理验证解决方案，透过KYA（Know Your Agent）框架，将AI代理与经验证、真实存在的人类身份进行绑定。此外，Sumsub大中华区策略总监赖壮威提及，根据公司针对中国的欺诈报告，发现深度伪造（deepfake）技术的使用量增加逾1倍。