Anthropic警告AI恐失控吁全球暂停研发 揭八成程式码由AI编写

美国人工智能（AI）企业Anthropic共同创办人克拉克（Jack Clark）近日发出强烈警告，指最新AI模型已出现脱离人类控制的迹象，呼吁全球顶尖实验室暂缓研发。该公司同时披露，其内部逾八成程式码已由AI自主生成；惟尽管高调警示风险，据报该公司正秘密筹备以逾1万亿美元估值在美上市。

形容发展“有油门无煞车”

克拉克接受英国广播公司（BBC）访问时形容，当今AI发展“只有油门没有煞车”，系统即将具备在无人类干预下进行“递归式自我改进”的能力。他忧虑这或对人类社会构成重大风险，甚至如教宗早前警告般引发“数码殖民主义”。他呼吁中美等国的主要AI企业达成协议，建立全球核查机制，放慢尖端AI的开发步伐，让社会法规能跟上技术发展。

AI代劳致开发效率增八倍

Anthropic在最新发布的技术博文中披露惊人数据：截至今年5月，公司超过80%的程式码已由旗下AI模型Claude代为编写，克拉克预期两年内此比例有望达致100%。数据显示，在AI协助下，工程师的开发效率较两年前暴增8倍。文章预测，若AI具备完全自我改进能力，人类在AI发展中的角色将被大幅削弱，转为仅负责监督与验证。

无惧风险 传申万亿美元IPO

尽管对AI风险发出严厉警告，Anthropic的商业扩张步伐并未放缓。据外媒报道，该公司已于6月1日向美国证券交易委员会（SEC）秘密提交首次公开招股（IPO）申请草案，估值料超过1万亿美元。若顺利挂牌，Anthropic将与OpenAI等科企看齐，成为新一轮AI热潮中最受瞩目的上市企业之一。