Anthropic阻AI助研生物武器

美國人工智能（AI）公司Anthropic公布，他們挫敗了利用其AI模型Claude進行生物武器研發的「惡意」行為。

Anthropic在一份關於其模型遭到濫用的報告中指出，他們發現了5宗用戶獲取資料以「支持生物武器研發」的事件。該公司警告，這種濫用行為代表了「前沿AI最嚴重的風險之一」，如果沒有必要的安全措施，可能會造成「災難性後果」。該公司說，檢測此類惡意活動十分複雜，因為相同的資料可能被用於研發疫苗、藥物。

Anthropic表示，過去8個月阻截了多宗涉嫌惡意使用Claude模型的行為，例如一個攻擊手法與俄羅斯「午夜暴雪」（Midnight Blizzard）相符的黑客組織，針對烏克蘭政府、軍方與外交部門的目標發動網路釣魚、酒店Wi-Fi劫持與WhatsApp帳號奪取行動。

Anthropic發現濫用Claude的「新類別威脅行動者」，包括利用該平台「為常規武器開發軟件，包括槍械、導彈、武裝無人機、炸彈與其他彈藥，以及操作武器的瞄準與控制系統」。