OpenAI据报考虑放慢前沿AI研发 奥特曼盼同业共同跟进 逾千名AI企业员工联署促设“减速机制”

据彭博引述消息报道，OpenAI正考虑放慢尖端AI技术的发展步伐。行政总裁奥特曼（Sam Altman）本周在全体员工会议上表示，公司可能调节AI研发速度，并希望联同其他AI实验室采取行动，但承认部分同业未必愿意配合。

OpenAI与竞争对手Anthropic今年较早时均已秘密提交上市文件。在相关企业寻求进一步商业化之际，前沿AI模型的安全风险亦引起内部员工及研究人员关注。

首席科学家倡自愿放慢研发

OpenAI首席科学家Jakub Pachocki近日发文警告AI可能带来的风险，认为AI企业有需要协调，在适当情况下放慢未来技术发展。

Pachocki表示，希望业界在建立共同安全标准前，自愿放慢研发速度的情况可以变得更普遍。

OpenAI表示，近期已因应安全疑虑，放慢部分模型的开发工作，并暂停某些内部AI训练。奥特曼今年7月亦曾透露，已与白宫官员讨论控制AI发展步伐的需要。

研究员批AI公司“以人命下注”

曾先后任职Anthropic及OpenAI的AI研究员Jacob Coxon，周二宣布离职，并指控两名前雇主在竞逐超级AI的过程中“以人命下注”。

Jacob Coxon在社交平台表示，参与开发AI的人员相信，有关技术可能“在2030年底前将人类全数消灭”。另外，两名近期离开Anthropic及Google旗下DeepMind的研究人员周四亦公开表达忧虑，认为AI企业需要对这项技术的潜在风险更加公开透明。

今年7月底，来自多间主要AI企业的逾1,000名员工签署联署信，要求设立机制，以减慢AI发展速度。多名从事安全工作的AI人员，近月亦先后离开大型实验室。