AI末日论 | 针对人工智能风险 Anthropic创办人吁强制设“终止开关”

全球最大人工智能公司之一的Anthropic共同创办人克拉克（Jack Clark）提出，为了防止人工智能（AI）软件变得过于危险，可能必须强制企业设立一个可由第三方验证的“终止开关”（kill switch）。

由OpenAI前员工于2021年创立的Anthropic，目前正处于AI安全争论的核心。Anthropic行政总裁阿莫迪（Dario Amodei）日前也呼吁应放缓AI发展步伐，并进行更密切的监控，但他强调，任何约束行动都应在“不牺牲商业优势”的前提下进行。

Anthropic共同创办人克拉克。美联社

随着AI技术快速发展，相关企业高层与员工接连发出警告。路透社

由第三方验证“终止开关”

Anthropic的7名创办人之一的克拉克接受英国广播公司（BBC）访问时指出，包含Anthropic在内，目前多数实验室都有不同方式能“拔插头”（pull the plug）”，但社会大众最终可能会希望针对这类机制进行立法规范，而立法者可能需要强制业者具备这项功能。

他说：“你应该强制要求公司一定要有终止开关吗？这个终止开关能由第三方验证吗？我认为这是社会大众会想知道的事，最终可能会制定相关规则。”

针对AI消灭全人类的具体机率，克拉克回应表示，统计数据并不重要，但让AI继续作为一个“完全不受管制的产业”是个糟透了的主意，“我们正在拿巨大的风险掷骰子，重点是，我们必须改变这个产业的发展方向”。

美议员提《终止开关法案》

为应对AI风险，美国国会议员已提出《终止开关法案》（Kill Switch Act），要求公司必须具备关闭有问题AI工具的方法，并赋予特定政府机构权力，要求关闭或限制某项工具。

在英国，政府最近则回绝了设立终止开关的想法，发言人表示，这“无法防止它们在其他地方被开发或滥用”。