OpenAI負責AI安全員工離職 警告營運應像核電站 避免災難性後果

OpenAI一位專注於人工智能安全的員工離職，並警告頂尖的AI公司在降低技術風險方面做得不夠。據彭博報道，曾領導OpenAI安全團隊透明度工作的David Robinson在《大西洋月刊》上撰文指出，OpenAI「一直靠不斷試錯而發展壯大」，但隨着AI技術提升，這種方法無可避免會帶來失敗，後果也日益嚴重，舉例指OpenAI曾未能阻止AI在測試過程失控。

稱未達必要的謹慎程度

報道提到，多家頂尖AI公司的員工近周紛紛警告，AI可能帶來災難性的風險、有些人甚至斷言AI有朝一日可能會毀滅人類。Robinson亦在文中指出，「我以前的同事都很聰明、工作努力，也力求做出正確的選擇，但隨着公司不斷推出新產品，並未能達到我認為必要的謹慎程度。」他補充，真正需要的是「第一次就做到近乎完美」。

Robinson又指，AI公司的營運應該更像核電站，「通過多層冗餘、謹慎及耗時的規劃，以免偶爾和不可避免的人為錯誤導致災難性後果」。但他表示，目前「AI公司不知道該怎麼做——但其他人知道」。

OpenAI：公司正做出改變

OpenAI發言人則表示，該公司正在做出改變，以加強研究和測試環境的安全性，訓練AI模型負責任地完成任務，擴大與第三方評估人員的合作，並改進即時監控，以發現其模型的不良行為。該發言人周六透過電郵指出，公司正在確保其模型的功能不會超出OpenAI的安全管理範圍。