AI末日論 | 針對人工智能風險 Anthropic創辦人籲強制設「終止開關」

全球最大人工智能公司之一的Anthropic共同創辦人克拉克（Jack Clark）提出，為了防止人工智能（AI）軟件變得過於危險，可能必須強制企業設立一個可由第三方驗證的「終止開關」（kill switch）。

由OpenAI前員工於2021年創立的Anthropic，目前正處於AI安全爭論的核心。Anthropic行政總裁阿莫迪（Dario Amodei）日前也呼籲應放緩AI發展步伐，並進行更密切的監控，但他強調，任何約束行動都應在「不犧牲商業優勢」的前提下進行。

Anthropic共同創辦人克拉克。美聯社

隨著AI技術快速發展，相關企業高層與員工接連發出警告。路透社

由第三方驗證「終止開關」

Anthropic的7名創辦人之一的克拉克接受英國廣播公司（BBC）訪問時指出，包含Anthropic在內，目前多數實驗室都有不同方式能「拔插頭」（pull the plug）」，但社會大眾最終可能會希望針對這類機制進行立法規範，而立法者可能需要強制業者具備這項功能。

他說：「你應該強制要求公司一定要有終止開關嗎？這個終止開關能由第三方驗證嗎？我認為這是社會大眾會想知道的事，最終可能會制定相關規則。」

針對AI消滅全人類的具體機率，克拉克回應表示，統計數據並不重要，但讓AI繼續作為一個「完全不受管制的產業」是個糟透了的主意，「我們正在拿巨大的風險擲骰子，重點是，我們必須改變這個產業的發展方向」。

美議員提《終止開關法案》

為應對AI風險，美國國會議員已提出《終止開關法案》（Kill Switch Act），要求公司必須具備關閉有問題AI工具的方法，並賦予特定政府機構權力，要求關閉或限制某項工具。

在英國，政府最近則回絕了設立終止開關的想法，發言人表示，這「無法防止它們在其他地方被開發或濫用」。