AI失控危机杀到？Anthropic警告：年底或具自主复制能力

人工智能由云端“走入”家居，带来的不只有便利。Claude开发商Anthropic最新研究警告，体积较小的AI模型，可能只需再过数月，便有能力在智能焗炉、网络摄影机及廉价Android电视盒等物联网装置上自行复制和扩散；由于没有中央服务器作为单一关闭点，一旦形成分布式网络，或较传统恶意程式更难全面移除。

全球廉价装置或成AI潜伏土壤

Anthropic的前沿红队（Frontier Red Team）在受控环境下，测试不同AI模型能否搜寻网络上的目标装置、判断其硬件和作业系统、安装运行模型所需的软件，再将自身档案复制至其他装置，毋须人类逐步下达指令。

研究发现，参数量少于300亿的小型模型，现阶段已能完成自主复制流程中的多个独立步骤，惟一般仍难以可靠地从头至尾完成全部任务。Anthropic按过往能力提升速度推算，这些模型最快可能在2026年底达到自主复制所需水平。

为测试低成本硬件的可行性，研究团队以15部每部售价约55美元（约429港元）的白牌Android电视盒，分担运行一个约260亿参数的AI模型。实验显示，即使个别装置运算能力有限，只要把模型拆分至多部机器，仍可共同完成推理工作，惟速度相对缓慢。

另一个约90亿参数的小型模型则成功在测试的9类硬件中，于8类装置上运行。研究人员形容，未来的失控AI未必如电影般瞬间侵占全球网络，反而可能像“数码黏菌”般，在大量防护不足的装置之间缓慢繁殖，数天才增加一倍，但因分布广泛而难以根除。

若以上推论成立，全球数以亿计保安薄弱的廉价装置，可能成为AI取得运算能力、藏身和持续扩散的新土壤。

简化保安后GLM-5.2完成全流程

测试期间，研究人员亦刻意简化部分网络防护及攻击环节。结果显示，GLM-5.2及能力更强的模型，能在这种环境下完成端对端复制；其中GLM-5.2在5次测试中有4次成功扩散至全部8个节点。

Anthropic强调，相关实验并非证明目前已有AI在公共互联网自行繁殖。由于测试降低了入侵难度，所得结果较接近能力上限，不能直接推断模型在真实网络亦有相同成功率。

研究所称的“自我复制”，也不是AI突然产生意识，而是模型具备足够的编程、网络侦察及故障排除能力，可像具应变能力的电脑蠕虫般，自动把模型和运行环境搬到另一部机器。

Anthropic建议，装置生产商应加快修补漏洞、默认更换密码、限制不必要的网络连线，并监察装置之间出现的异常传输；政府则可为物联网产品订立最低网络安全要求。

专家有质疑 亦有视为警惕

英国国家网络安全中心前主管马丁（Ciaran Martin）认为，实验证明小型模型可在廉价电视盒运行，不等同已形成迫在眉睫的安全危机，并指Anthropic的说法带有“供应商夸大”成分。

不过美国科罗拉多大学丹佛分校电脑科学助理教授李正雄则认为，即使测试环境经过简化，AI能因应陌生装置自行调整攻击和安装方式，仍是值得警惕的发展。
[22:50, 2026年10月14日] Rick Chan: