OpenAI據報考慮放慢前沿AI研發 奧特曼盼同業共同跟進 逾千名AI企業員工聯署促設「減速機制」

據彭博引述消息報道，OpenAI正考慮放慢尖端AI技術的發展步伐。行政總裁奧特曼（Sam Altman）本周在全體員工會議上表示，公司可能調節AI研發速度，並希望聯同其他AI實驗室採取行動，但承認部分同業未必願意配合。

OpenAI與競爭對手Anthropic今年較早時均已秘密提交上市文件。在相關企業尋求進一步商業化之際，前沿AI模型的安全風險亦引起內部員工及研究人員關注。

首席科學家倡自願放慢研發

OpenAI首席科學家Jakub Pachocki近日發文警告AI可能帶來的風險，認為AI企業有需要協調，在適當情況下放慢未來技術發展。

Pachocki表示，希望業界在建立共同安全標準前，自願放慢研發速度的情況可以變得更普遍。

OpenAI表示，近期已因應安全疑慮，放慢部分模型的開發工作，並暫停某些內部AI訓練。奧特曼今年7月亦曾透露，已與白宮官員討論控制AI發展步伐的需要。

研究員批AI公司「以人命下注」

曾先後任職Anthropic及OpenAI的AI研究員Jacob Coxon，周二宣布離職，並指控兩名前僱主在競逐超級AI的過程中「以人命下注」。

Jacob Coxon在社交平台表示，參與開發AI的人員相信，有關技術可能「在2030年底前將人類全數消滅」。另外，兩名近期離開Anthropic及Google旗下DeepMind的研究人員周四亦公開表達憂慮，認為AI企業需要對這項技術的潛在風險更加公開透明。

今年7月底，來自多間主要AI企業的逾1,000名員工簽署聯署信，要求設立機制，以減慢AI發展速度。多名從事安全工作的AI人員，近月亦先後離開大型實驗室。