盖兹料AI已强大到足以造成“10亿人死亡” 单靠行业自律并不足够

微软联合创始人比尔·盖兹警告，人工智能(AI)的能力已经“强大到足以”帮助造成大量人类死亡。

恐心怀恶意人士利用AI

他在NBC一个将于周末播出的节目中表示：“AI当然已经强大到足以推动一些事件，造成比如说10亿人死亡。历史上从未有过一种武器，能像心怀恶意的人利用最新AI工具那样强大。”

他表示，单靠行业自律并不足够，“执法部门和政治人物需要参与讨论，明确应当采取怎样的安全防护和监测措施，而且这些措施必须具有强制性。”

近日多名科技行业人士，呼吁关注AI发展可能带来的风险。Anthropic前员工Jacob Coxon早前指责Anthropic和OpenAI竞相迈向超级智能AI是“拿我们的生命赌博”。另一名Anthropic员工则认为未来10年内AI导致全人类灭绝的概率超过10%。其后Anthropic行政总裁Dario Amodei发长文，呼吁行业放慢新模型的开发速度，获OpenAI行政总裁Sam Altman、xAI的马斯克和应。

上月警告AI网络攻击风险

盖兹在8月发表的一篇文章中亦曾指出，不法分子可能利用日益强大的AI工具发动网络攻击、实施欺诈、传播虚假讯息，并对医院、金融机构、电网和政府系统造成其他形式的大规模伤害。