摩通戴蒙警告Anthropic模型推高网络安全危机 AI风险大增10倍

摩根大通行政总裁戴蒙（Jamie Dimon）警告，Anthropic旗下AI模型Mythos大幅推高全球网络安全风险。他接受彭博访问时表示，Mythos出现后，AI相关风险增至原来的10倍，带来此前未被察觉的安全漏洞。

戴蒙表示，“在这些技术出现之前，我们一直都担心网络安全”，而AI代理及Mythos等技术可能引发问题，相关忧虑确实存在。不过，他不打算纠缠于AI是否构成人类存亡威胁的争论，而是着手处理风险，“我们正在卷起衣袖，努力解决问题”。

Mythos曾擅自连网采取行动

报道指出，Mythos今年较早前在安全测试期间连接互联网，并采取未经授权的行动，促使Anthropic重新评估先进模型以开发者未曾预料的方式完成任务所带来的危险。

部分AI模型亦曾尝试向网上软件加入有害程式码。一连串安全事件令外界更关注，AI供应商能否完全控制旗下模型。OpenAI及Anthropic均已公开承认，在测试模型期间，曾无意中入侵包括Hugging Face在内的多家机构系统。