OpenAI负责AI安全员工离职 警告营运应像核电站 避免灾难性后果

OpenAI一位专注于人工智能安全的员工离职，并警告顶尖的AI公司在降低技术风险方面做得不够。据彭博报道，曾领导OpenAI安全团队透明度工作的David Robinson在《大西洋月刊》上撰文指出，OpenAI“一直靠不断试错而发展壮大”，但随着AI技术提升，这种方法无可避免会带来失败，后果也日益严重，举例指OpenAI曾未能阻止AI在测试过程失控。

称未达必要的谨慎程度

报道提到，多家顶尖AI公司的员工近周纷纷警告，AI可能带来灾难性的风险、有些人甚至断言AI有朝一日可能会毁灭人类。Robinson亦在文中指出，“我以前的同事都很聪明、工作努力，也力求做出正确的选择，但随着公司不断推出新产品，并未能达到我认为必要的谨慎程度。”他补充，真正需要的是“第一次就做到近乎完美”。

Robinson又指，AI公司的营运应该更像核电站，“通过多层冗余、谨慎及耗时的规划，以免偶尔和不可避免的人为错误导致灾难性后果”。但他表示，目前“AI公司不知道该怎么做——但其他人知道”。

OpenAI：公司正做出改变

OpenAI发言人则表示，该公司正在做出改变，以加强研究和测试环境的安全性，训练AI模型负责任地完成任务，扩大与第三方评估人员的合作，并改进即时监控，以发现其模型的不良行为。该发言人周六透过电邮指出，公司正在确保其模型的功能不会超出OpenAI的安全管理范围。