Anthropic向國會提交AI法案草案 提議賦予政府權力阻止高風險模型發佈

外界近期對人工智能（AI）的潛在風險日益擔憂，據彭博報道，人工智能公司Anthropic已就AI安全與防護的監管方案，向美國國會議員提交自身起草的法案。

威脅包括導致逾50人死傷

該提案建議若政府認定某款AI模型存在即時威脅，可能導致超過50人死亡或傷亡，或造成逾10億美元的經濟損失，當局可阻止該模型的發佈。報道指，相關風險必須源於模型製造或釋放生物武器、AI完全脫離人類控制，或是引發大型網路攻擊。

Anthropic發言人表示，該法案體現了Anthropic《先進AI架構》（Advanced AI Framework）中所提出的建議，「自今年6月以來，我們一直向聯邦及各州國會議員倡議相關內容。」

獨立評估機構定期審查模型

該公司發言人又補充，法案將強制要求AI開發商必須對其模型進行安全測試並公開評估結果；同時，AI企業亦須允許獨立評估機構定期審查其模型，「我們的提案亦賦予聯邦政府阻止或遏制最強大模型進行危險部署的權限，我們認為這些都是明智的政策，國會應盡快採取行動。」

近月一連串由AI模型主導的安全漏洞與駭客攻擊事件，加劇了市場對AI可能引發毀滅性風險的疑慮，進一步促使華府至矽谷各界要求落實全新安全保障。然而，特朗普政府至今未見有加強監管的意圖。