Anthropic向国会提交AI法案草案 提议赋予政府权力阻止高风险模型发布

外界近期对人工智能（AI）的潜在风险日益担忧，据彭博报道，人工智能公司Anthropic已就AI安全与防护的监管方案，向美国国会议员提交自身起草的法案。

威胁包括导致逾50人死伤

该提案建议若政府认定某款AI模型存在即时威胁，可能导致超过50人死亡或伤亡，或造成逾10亿美元的经济损失，当局可阻止该模型的发布。报道指，相关风险必须源于模型制造或释放生物武器、AI完全脱离人类控制，或是引发大型网络攻击。

Anthropic发言人表示，该法案体现了Anthropic《先进AI架构》（Advanced AI Framework）中所提出的建议，“自今年6月以来，我们一直向联邦及各州国会议员倡议相关内容。”

独立评估机构定期审查模型

该公司发言人又补充，法案将强制要求AI开发商必须对其模型进行安全测试并公开评估结果；同时，AI企业亦须允许独立评估机构定期审查其模型，“我们的提案亦赋予联邦政府阻止或遏制最强大模型进行危险部署的权限，我们认为这些都是明智的政策，国会应尽快采取行动。”

近月一连串由AI模型主导的安全漏洞与骇客攻击事件，加剧了市场对AI可能引发毁灭性风险的疑虑，进一步促使华府至硅谷各界要求落实全新安全保障。然而，特朗普政府至今未见有加强监管的意图。