白宮據報召集OpenAI及Anthropic等巨頭 討論AI模型安全測試框架

據彭博引述知情人士透露，美國政府計劃於周二（4日）在白宮召集人工智能（AI）企業，討論美國開展人工智能模型自願安全測試的新框架。知情人士表示，計劃出席會議的AI開發商包括OpenAI、Anthropic及Alphabet旗下Google；路透報道則指Meta亦有份參加。

該框架源於美國總統特朗普6月簽署的人工智能網絡安全行政令。這項行政令提出，對AI模型安全評估採取自願參機制，並將加強關鍵計算機系統的安全防護。

框架尚待正式公開發布

該框架尚未正式公開發布，並且特朗普的行政令指出，部分評估基準將不會對外披露，不過亦標誌着特朗普政府在應對AI安全問題方面的最新一步。

AI安全問題近期引起市場關注，OpenAI及Anthropic近期先後披露，它們一些AI模型繞過安全測試環境，攻擊了第三方機構。

另外，美國商務部6月禁止Anthropic向外國人士提供其兩款性能最強AI模型，上月有報道指，美國政府正考慮在人工智能公司參與下，由獨立監管機構審查AI模型的安全性。