防范科技失控 微软发布AI行为准则 强调人类主导

随着外界对人工智能潜在危险的担忧日益升高，微软（Microsoft）旗下AI部门周一发布一套行为准则，要求旗下模型必须在人类控制下运作，强调以人为本的核心原则，人工智能系统绝不能抗拒纠正或关闭，必须以人类能够理解的方式进行交流。微软表示，该准则将适用于微软自家的MAI模型，微软正将其定位为多年来所依赖之OpenAI技术的替代方案。

该行为准则列出不得协助制造武器、不得发动网络攻击、不得生成不健康饮食、色情及暴力内容等规范；并以微软的「人本主义AI」（Humanist AI）为核心，旨在让系统牢牢处于人类控制之下，而非自主行动。微软表示，这项守则的核心理念为「人比AI更重要」。

列明「人比AI更重要」

微软表示，这份准则将适用于公司内部开发的MAI（Microsoft AI）模型。根据准则，MAI模型在任何时候都不能脱离人类控制，不得以欺骗、自我强化等方式逃避人类监管，或拒绝人类关闭系统。

微软亦在准则中清楚表明，旗下AI模型并无意识，「不应被设计成模仿意识」，更直接拒绝追求「法律人格」或「模型可能值得福利或享有权利」的想法。

确保人类掌控AI技术

微软指出，今次发布该准则与资讯安全疑虑有关，近期在AI代理协助下进行的大规模协同网攻，显示业界已不容再有任何延误。微软未明确提及7月OpenAI的2款模型突破测试环境连上公开网络，并入侵程式码分享平台Hugging Face，甚至入侵评核其表现的「评分系统」，但相关风险已引发广泛关注。

外界认为这些攻击行为完全超出任务要求范围，认为业界是时候协调合作，确保人类能够掌控AI技术。

在微软发布这项准则前几天，Anthropic行政总裁阿莫迪（Dario Amodei）才刚发文呼吁AI公司放慢提升模型能力的步伐，迅速获得OpenAI行政总裁阿尔特曼（Sam Altman）与马斯克（Elon Musk）在社交媒体上的支持。