白宫据报召集OpenAI及Anthropic等巨头 讨论AI模型安全测试框架

据彭博引述知情人士透露，美国政府计划于周二（4日）在白宫召集人工智能（AI）企业，讨论美国开展人工智能模型自愿安全测试的新框架。知情人士表示，计划出席会议的AI开发商包括OpenAI、Anthropic及Alphabet旗下Google；路透报道则指Meta亦有份参加。

该框架源于美国总统特朗普6月签署的人工智能网络安全行政令。这项行政令提出，对AI模型安全评估采取自愿参机制，并将加强关键计算机系统的安全防护。

框架尚待正式公开发布

该框架尚未正式公开发布，并且特朗普的行政令指出，部分评估基准将不会对外披露，不过亦标志着特朗普政府在应对AI安全问题方面的最新一步。

AI安全问题近期引起市场关注，OpenAI及Anthropic近期先后披露，它们一些AI模型绕过安全测试环境，攻击了第三方机构。

另外，美国商务部6月禁止Anthropic向外国人士提供其两款性能最强AI模型，上月有报道指，美国政府正考虑在人工智能公司参与下，由独立监管机构审查AI模型的安全性。