每日杂志｜云端滥用越趋普遍 AI助黑客多点渗透 身份凭证成跳板 企业防线现警号

《AI攻防战系列》之云端代理篇

云端早已融入市民日常与企业营运核心，“身份”盗用成为黑客的突破口。黑客在取得凭证后可入侵企业，利用人工智能（AI）自动分析权限结构、进行渗透与资料搜寻，更可能反向利用企业的AI代理（AI Agent），诱使资料外泄。多位专家建议，企业部署“零信任架构”与“最小权限原则”，强化身份验证与权限管理，并善用防御型AI提升资安防御韧性；更重要的是加强员工训练与警觉性，主动拥抱新技术，快速修正潜在风险。

数码化快速推进，市民与企业对云端高度依赖，当中潜在的资安风险不容忽视。参考微软（Microsoft）在《数码防御报告2025》中，比较旗下云端运算平台Azure在今年前后两个100天期间的趋势，显示在后100天的攻击量增加26%、扰乱型攻击活动上升87%、尝试窃取凭证与存取金钥的行为提升23%，尝试从储存帐户与数据库中撷取敏感资料的行为增加了58%，当中攻击者的规避技巧持续进化，对云端防御机制的熟悉度也日益提高。 

AI攻击快速进化难察觉

身份是云端攻击的主要进入点，报告亦披露，单在今年上半年，全球与身份认证相关的网络攻击激增32%；超过97%的身份攻击属密码攻击。微软大中华区安全业务市场推广总监潘汉升向本报表示，黑客可以多种方式盗取身份，例如大规模暴力破解，或以AI生成高仿真的登入页面，诱导用户输入帐密提供真实凭证，以利用其进行二次攻击，扩大影响范围。   

微软大中华区安全业务市场推广总监潘汉升指，企业有需要提高员工的警觉性。 微软提供

黑客越趋利用专门窃取资料的恶意程式，大规模收集网上帐户的凭证和资料，包括浏览器工作阶段的令牌验证（browser session tokens），并在网络犯罪论坛买卖资料，令任何人都能够轻易入侵他人帐户。

资讯安全系统整合供应商安信资讯安全（Ensign）大湾区总经理区宗尧表示，不法份子取得身份后，可以在企业内部系统游走，逐步渗透并窃取更多资料，导致金钱损失、机密外泄，最终重创企业声誉。

AI使身份盗用和滥用权限变得更难以察觉、更具破坏力，且更难防御。科大计算机科学及工程学系副系主任郭嵩教授解释，AI可快速解析云端环境中复杂的权限配置与监控日志，自动构建精确的“权限图谱”，识别出人类难以察觉、多跳的间接权限提升路径，“例如从某用户可担任某一角色，而该角色可修改某策略，到该策略容许另一角色执行管理操作，最终察觉拥有对敏感资料完全存取权限的角色。”

他说，AI一旦窃取到某个身份的权限，会自动化持续扫描可访问的资源内容，寻找敏感资料、其他凭证或更高价值的控制点，以实现最大化的破坏或数据窃取。

科大计算机科学及工程学系副系主任郭嵩教授指，AI可快速解析并构建“权限图谱”。 资料图片

公司AI代理可被反向利用

近年不少企业利用AI代理自动化处理工作。例如聊天机器人和虚拟助理，或作为“小助手”协助收集资料、处理资讯和规划解决方案等。该类代理一般由AI模型驱动，如以大型语言模型（LLM）作为核心引擎。不过，专家提醒，AI代理也逐渐成为黑客的武器。

潘汉升指，常见的AI代理风险包括提示注入（prompt injection）攻击，黑客可将隐藏指令植入文件或邮件，当使用者将文件交由AI代理处理，相关指令会被执行，有机会令机密数据外泄，“例如导出公司数据库，或将重要客户的身份数据流出等。”

黑客可将恶意指令隐藏，导出机密资料。 微软提供

区宗尧提到，攻击者也可通过数据投毒，让AI代理作出错误判断，在公开平台上，甚至可注入恶意程式码，利用后门入侵企业的核心网络。就自适应数据投毒，郭嵩指，AI代理可持续探测并分析云端部署的数据完整性防御机制，“一旦更新防御手段，能迅速识别弱点，自适应地优化投毒数据，绕过检测并破坏数据的完整性或模型的行为。”

验证平台Sumsub的AI及机器学习部门主管Pavel Goldman-Kalaydin坦言，市场对未能根据行业需求灵活调整、无法提供清晰推理过程，或缺乏严谨审核的“黑箱模型”和“即插即用”的AI工具过度追捧，机构若只依赖基于特定规则运行的系统，将难以应对精密攻击。

验证平台Sumsub近日发表年度身份欺诈报告，指全球正向“精密型欺诈”方向发展。 Sumsub提供

设员工最低权限原则降风险

他提到，即使是表现最佳的AI代理，也必须依赖高质素数据持续训练，“整合不良、系统碎片化或数据质素低下，会导致警报被忽视、数据孤立无法整合分析等，企业应建立集中管理机制。”

此外，“零信任架构”及“最小权限原则”是抵御的关键，区宗尧指，不仅是登入时的多重认证，在持续操作过程中也需要验证，以及限制员工权限，即使是高层，也仅应拥有其工作所需的最低权限，提升安全性。

“AI对抗AI”成大方向，郭嵩亦指，防御型的AI代理，能自动化、智能化地侦测、预防、响应和预测安全威胁，从分布式系统的角度，AI能够赋能分布式防御代理的智能部署，透过对系统需求、各类防御代理（如日志管理、流量分析、端点保护等）的优劣势及其互补性的深度评估。他提到，AI可通过分布式协同学习，提升防御体系的可靠性，例如允许分布式AI代理从实时安全事件和防护反馈中持续学习，共同优化其响应策略、专家系统和决策树。

多位专家均指，网络安全的意识最为关键。潘汉升提到，培训与演练不可或缺，“很多涉及身份盗取的活动，攻击者都说很‘紧急’，要求用户做不同行动，企业可以提高员工的警觉性，让他们停一停、想一想，再做处理。”

他强调，AI是不可逆转的大趋势，“业界常说‘fail fast， learn fast’，意思是迎接新技术时，若真的发现问题，也可快些吸取经验教训。我们应该拥抱这些新技术，准备做好防御。

构建智慧学习系统 “红”“蓝”资安演练自动化

随着攻击与防御双方均使用AI工具，“红队”与“蓝队”的资安对抗演练也步入自动化。

科大计算机科学及工程学系副系主任郭嵩教授表示，学术界其中一项前沿研究成果是构建“多智慧体对抗学习系统”，通过模拟内部“左右互搏”的机制，实现安全能力的螺旋式进化，“一组智能体（红队代理）负责发掘新的攻击面、生成攻击策略，另一组（蓝队代理）则专注于侦测新威胁、开发防御机制，另设验证智能体模拟评估与优化攻防效果。”

提升系统对威胁适应性

他续指，这种内生、持续对抗与学习的循环，能提升系统对已知及未知威胁的适应性与韧性，但其效能仍受限于当前智能体的智能化与自动化程度，“因此我们正积极探索赋予智慧体元认知能力（Meta-cognition），使代理执行任务同时能理解自身的知识边界、评估决策的可靠性，并在不确定环境中进行更深层次的推理与学习。”他指，相关成果的应用将带来更主动、具预测性且持续进化的安全防御能力。

记者：林家希、潘明卉

——
《AI攻防战系列》

传统攻击篇：每日杂志｜AI时代网络攻防战升级  低成本客制钓鱼邮件  自动调整攻击模式  专家吁重新审视资安策略

身份诈骗篇：每日杂志｜深伪诈骗年增147%  AI影像更逼真难辨  基本活体检测遭破解  专家吁企业强化防御部署