Anthropic阻AI助研生物武器

美国人工智能（AI）公司Anthropic公布，他们挫败了利用其AI模型Claude进行生物武器研发的“恶意”行为。

Anthropic在一份关于其模型遭到滥用的报告中指出，他们发现了5宗用户获取资料以“支持生物武器研发”的事件。该公司警告，这种滥用行为代表了“前沿AI最严重的风险之一”，如果没有必要的安全措施，可能会造成“灾难性后果”。该公司说，检测此类恶意活动十分复杂，因为相同的资料可能被用于研发疫苗、药物。

Anthropic表示，过去8个月阻截了多宗涉嫌恶意使用Claude模型的行为，例如一个攻击手法与俄罗斯“午夜暴雪”（Midnight Blizzard）相符的黑客组织，针对乌克兰政府、军方与外交部门的目标发动网络钓鱼、酒店Wi-Fi劫持与WhatsApp帐号夺取行动。

Anthropic发现滥用Claude的“新类别威胁行动者”，包括利用该平台“为常规武器开发软件，包括枪械、导弹、武装无人机、炸弹与其他弹药，以及操作武器的瞄准与控制系统”。