Anthropic阻AI助研生物武器

美国人工智能（AI）公司Anthropic公布，他们挫败了利用其AI模型Claude进行生物武器研发的「恶意」行为。

Anthropic在一份关于其模型遭到滥用的报告中指出，他们发现了5宗用户获取资料以「支持生物武器研发」的事件。该公司警告，这种滥用行为代表了「前沿AI最严重的风险之一」，如果没有必要的安全措施，可能会造成「灾难性后果」。该公司说，检测此类恶意活动十分复杂，因为相同的资料可能被用于研发疫苗、药物。

Anthropic表示，过去8个月阻截了多宗涉嫌恶意使用Claude模型的行为，例如一个攻击手法与俄罗斯「午夜暴雪」（Midnight Blizzard）相符的黑客组织，针对乌克兰政府、军方与外交部门的目标发动网路钓鱼、酒店Wi-Fi劫持与WhatsApp帐号夺取行动。

Anthropic发现滥用Claude的「新类别威胁行动者」，包括利用该平台「为常规武器开发软件，包括枪械、导弹、武装无人机、炸弹与其他弹药，以及操作武器的瞄准与控制系统」。