金融科企Sumsub推AI代理验证 防止深度伪造影像假冒用户

代理网购兴起，业界亦正应对相关安全风险。全球验证服务金融科技公司Sumsub亚太区副总裁Penny Chai指出，不少电商平台将AI代理的自动化操作默认为高风险活动并加以封锁，该企借此制订“AI代理验证解决方案”，当中核心理念是确认有人类在场及其授权，防止以深度伪造影像伪冒真正用户。

亚太区逾八成欺诈涉网上帐户控制

Penny Chai引述内部数据指出，亚太地区高达84%欺诈个案涉及网上帐户控制权，骗徒更注重窃取身份作长期布局，而非即时获利，并透过AI技术成功绕过传统验证程序，进行未经授权交易。

她续指，近期越来越多用户在网购时，以AI代理协助处理搜寻、格价以至下单和付款，但因为电商平台已视有关行为属高风险，令合法的自动化行为受阻，消费者难以享受便利，企业亦无法顺利转化业务成果。

要求AI代理与已验证人类身份绑定

她称，期望推动具约束力的人类问责制度，于是该企推出AI代理验证解决方案，要求AI代理与已验证的人类身分绑定，当交易进行KYC（认识你的客户）时，亦会实施“KYA（认识你的代理）”，评估AI代理的行为风险级别，并仅在需要时加入额外审查，例如透过要求用户自拍以进行活体侦测等，确认获得人类授权。

Sumsub全球技术解决方案售前策略主管Nikolai Suhharnikov补充，其活体侦测可分辨有否使用深度伪造影像（Deepfake），亦能辨别异常行为，例如是否由第三者替用户拍照，“可能代表受他人指示或被强逼设立帐户，有机会涉及洗钱等金融犯罪。”