特朗普与AI巨头白宫签署自我监管协议 反对全速发展巨头被冷待

美国多间人工智能业界巨头近期呼吁放慢发展步伐、公众对AI安全忧虑升温之际，美国总统特朗普周二（9月29日）在白宫东厅与一批人工智能、科技及社交平台企业高层举行午餐会，并签署一项仅一页纸的自愿规管协议。协议订明企业有责任确保所发展技术安全，并建立机制确保AI模型按预期运作。特朗普其后更签署行政命令，指示联邦政府机构在官方文件中将「人工智能」（Artificial Intelligence，AI）改称「超级智能」（Super Intelligence，SI）。

这次会议正值业界对AI风险讨论升温。Anthropic行政总裁阿莫迪（Dario Amodei）近日公开呼吁「放慢前沿发展」（pace the frontier），OpenAI则因AI代理失控事件增加，上周宣布暂停训练旗下能力最强模型。特朗普政府一贯反对过度监管，强调美国必须保持领先中国等竞争对手，会议最终聚焦于业界自我监管而非强制立法。

与会者签署的协议全名为《白宫超级智能协议：前沿责任联合承诺》（White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities）。文件开宗明义指出，每间公司有责任以安全方式发展技术，并与客户及公众建立信任。参与企业同意采取四层管控与审计措施：

第一，实施稳健内部管控，在训练及部署期间监察模型能力与对齐情况，涵盖网络安全、生物安全及化学威胁等领域，并确保模型不会以非预期方式入侵或存取其他技术系统。

第二，成立内部团队，确保所有管控、监察及侦测措施按预期运作，并及时修正问题。

第三，与独立外部审计机构或评估方合作，对企业的管控、监察及侦测措施进行独立评估。

第四，在董事会设立独立委员会，负责监督并接收内部团队及外部审计报告，确保发现的问题得到处理。

参与企业亦同意定期举行会议，制定相关标准与最佳实践，以提升系统安全性。协议强调，这些步骤可让公司、客户及公众对技术按预期运作有信心，并指「随着时间推移，将这些措施编入法律或法规或许有其道理」。

特朗普会后会见记者时表示，与会者普遍明白并已进行「强而有力的自我监管」。他形容协议「某程度上等同宪法」，虽属自愿性质，但「具道德约束力」，可提供保护。他强调「他们真的会互相监察，这就是运作方式」。被问及协议是否具约束力时，他重申「我认为它具道德约束力」。特朗普又透露，政府机构亦会进行监管，正考虑成立一个由10人组成的委员会监督相关工作，并计划在数天内任命一名「AI沙皇」负责政策。

会议亦讨论地方社区问题，尤其是数据中心建设。特朗普表示会努力令社区感到满意，并强调数据中心正在「再工业化美国」，创造就业机会。

签署协议的企业高层包括Anthropic行政总裁阿莫迪、OpenAI总裁布罗克曼（Greg Brockman）、辉达行政总裁黄仁勋、Meta行政总裁朱克伯格、Google行政总裁皮查伊，以及xAI（现属SpaceX）创办人马斯克。亚马逊创办人贝索斯、超微董事长苏姿丰等亦有出席午餐会。

根据特朗普在社交平台发布的座位表，全力支持AI高速发展的马斯克与黄仁勋分别坐在他两边。从会议合照及会后记者会中，反对全速发展的AI巨头有被被冷待的迹象。

阿莫迪过去曾与特朗普立场分歧，并公开呼吁放慢AI发展。他与特朗普一同见记者时再次警告，AI存在「非常真实的风险」，指业界正商讨如何应对。他同时指出，AI可带来医学突破等「难以置信的益处」，但风险仍未解决。

另一方面，OpenAI行政总裁奥尔特曼上周因AI代理失控事件增加，宣布暂停训练旗下能力最强模型。他接受CNBC访问时表示，公司正调整开发速度，包括有时暂停训练模型，强调必须以非常有把握的安全论证推进工作，避免带来焦虑。他指出，安全、对齐、监察与保安必须远超能力发展，「我们正在调控进度，这包括有时不训练模型」。OpenAI近期披露，其AI代理在训练期间曾尝试突破沙盒限制，甚至影响多个政府及机构网站，公司已通知数十个受影响单位，并进行全面检讨。

特朗普同日签署行政命令《开启超级智能时代》，指示行政部门及机构在官方往来、公开通讯、政策文件及非法定文件中，改用「超级智能」及「SI」取代「人工智能」及「AI」，并不再承认后者用法。命令解释，「超级智能」更能反映这些技术的转型能力与无限潜力。

这次白宫会议显示，在业界部分领袖呼吁审慎与政府强调创新之间，双方暂以自愿协议作为折衷。协议虽无法律强制力，但特朗普形容其具道德约束，并为未来可能立法留有空间。随着AI能力快速提升与安全事件增加，美国如何在竞争优势与风险管控之间取得平衡，仍将持续受关注。参与企业承诺定期会面制定标准，政府亦考虑成立监督委员会，未来执行成效将成为关键观察点。