特朗普與AI巨頭白宮簽署自我監管協議 反對全速發展巨頭被冷待

美國多間人工智能業界巨頭近期呼籲放慢發展步伐、公眾對AI安全憂慮升溫之際，美國總統特朗普周二（9月29日）在白宮東廳與一批人工智能、科技及社交平台企業高層舉行午餐會，並簽署一項僅一頁紙的自願規管協議。協議訂明企業有責任確保所發展技術安全，並建立機制確保AI模型按預期運作。特朗普其後更簽署行政命令，指示聯邦政府機構在官方文件中將「人工智能」（Artificial Intelligence，AI）改稱「超級智能」（Super Intelligence，SI）。

這次會議正值業界對AI風險討論升溫。Anthropic行政總裁阿莫迪（Dario Amodei）近日公開呼籲「放慢前沿發展」（pace the frontier），OpenAI則因AI代理失控事件增加，上周宣布暫停訓練旗下能力最強模型。特朗普政府一貫反對過度監管，強調美國必須保持領先中國等競爭對手，會議最終聚焦於業界自我監管而非強制立法。

與會者簽署的協議全名為《白宮超級智能協議：前沿責任聯合承諾》（White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities）。文件開宗明義指出，每間公司有責任以安全方式發展技術，並與客戶及公眾建立信任。參與企業同意採取四層管控與審計措施：

第一，實施穩健內部管控，在訓練及部署期間監察模型能力與對齊情況，涵蓋網絡安全、生物安全及化學威脅等領域，並確保模型不會以非預期方式入侵或存取其他技術系統。

第二，成立內部團隊，確保所有管控、監察及偵測措施按預期運作，並及時修正問題。

第三，與獨立外部審計機構或評估方合作，對企業的管控、監察及偵測措施進行獨立評估。

第四，在董事會設立獨立委員會，負責監督並接收內部團隊及外部審計報告，確保發現的問題得到處理。

參與企業亦同意定期舉行會議，制定相關標準與最佳實踐，以提升系統安全性。協議強調，這些步驟可讓公司、客戶及公眾對技術按預期運作有信心，並指「隨着時間推移，將這些措施編入法律或法規或許有其道理」。

特朗普會後會見記者時表示，與會者普遍明白並已進行「強而有力的自我監管」。他形容協議「某程度上等同憲法」，雖屬自願性質，但「具道德約束力」，可提供保護。他強調「他們真的會互相監察，這就是運作方式」。被問及協議是否具約束力時，他重申「我認為它具道德約束力」。特朗普又透露，政府機構亦會進行監管，正考慮成立一個由10人組成的委員會監督相關工作，並計劃在數天內任命一名「AI沙皇」負責政策。

會議亦討論地方社區問題，尤其是數據中心建設。特朗普表示會努力令社區感到滿意，並強調數據中心正在「再工業化美國」，創造就業機會。

簽署協議的企業高層包括Anthropic行政總裁阿莫迪、OpenAI總裁布羅克曼（Greg Brockman）、輝達行政總裁黃仁勳、Meta行政總裁朱克伯格、Google行政總裁皮查伊，以及xAI（現屬SpaceX）創辦人馬斯克。亞馬遜創辦人貝索斯、超微董事長蘇姿丰等亦有出席午餐會。

根據特朗普在社交平台發布的座位表，全力支持AI高速發展的馬斯克與黃仁勳分別坐在他兩邊。從會議合照及會後記者會中，反對全速發展的AI巨頭有被被冷待的跡象。

阿莫迪過去曾與特朗普立場分歧，並公開呼籲放慢AI發展。他與特朗普一同見記者時再次警告，AI存在「非常真實的風險」，指業界正商討如何應對。他同時指出，AI可帶來醫學突破等「難以置信的益處」，但風險仍未解決。

另一方面，OpenAI行政總裁奧爾特曼上周因AI代理失控事件增加，宣布暫停訓練旗下能力最強模型。他接受CNBC訪問時表示，公司正調整開發速度，包括有時暫停訓練模型，強調必須以非常有把握的安全論證推進工作，避免帶來焦慮。他指出，安全、對齊、監察與保安必須遠超能力發展，「我們正在調控進度，這包括有時不訓練模型」。OpenAI近期披露，其AI代理在訓練期間曾嘗試突破沙盒限制，甚至影響多個政府及機構網站，公司已通知數十個受影響單位，並進行全面檢討。

特朗普同日簽署行政命令《開啟超級智能時代》，指示行政部門及機構在官方往來、公開通訊、政策文件及非法定文件中，改用「超級智能」及「SI」取代「人工智能」及「AI」，並不再承認後者用法。命令解釋，「超級智能」更能反映這些技術的轉型能力與無限潛力。

這次白宮會議顯示，在業界部分領袖呼籲審慎與政府強調創新之間，雙方暫以自願協議作為折衷。協議雖無法律強制力，但特朗普形容其具道德約束，並為未來可能立法留有空間。隨着AI能力快速提升與安全事件增加，美國如何在競爭優勢與風險管控之間取得平衡，仍將持續受關注。參與企業承諾定期會面制定標準，政府亦考慮成立監督委員會，未來執行成效將成為關鍵觀察點。