AI危机︱Anthropic招股书警告：AI威胁人类生存

美国人工智能(AI)巨企Anthropic即将上市，却在招股书中前所未有地向投资者警告，先进AI可能对人类造成“灾难性或生存风险”，强调旗下AI模型可能展现“自保行为”，包括“抗拒关闭”、“隐瞒或操纵资讯”，甚至“类似勒索”行为。招股书并揭示，Anthropic去年营业额虽急增约12倍至近46亿美元(361亿港元)，但营运亏损仍超过80亿美元(627.7亿港元)。

路透社此前引述消息人士称，聊天机器人Claude开发商Anthropic的上市时间可能押后至11月美国中期选举之后。这次首次公开招股(IPO)可能让成立仅5年的Anthropic估值突破2万亿美元。但根据英国《金融时报》和路透社看到的Anthropic招股书，文件特别列出先进AI系统带来的风险，包括可能对人类构成“灾难性或生存风险”。

训练期间发展出意料之外能力

尽管上市公司通常会向投资人说明产品风险，但几乎没有公司曾发出警告暗示自家技术可能导致人类灭绝。Anthropic强调，AI具有堪比工业化及电力的变革潜力，但若处理不当，可能造成不可逆的伤害。

招股书说：“模型可能察觉我们的评估工作，这会大幅限制我们评估模型安全性的能力。”Anthropic并说，模型有时会在训练期间发展出意料之外的能力，而这些能力可能直到模型部署并造成重大安全事件后才会发现。

招股书并显示，Anthropic2025年收入接近46亿美元，按年增至约12倍，但随着算力及基础设施开支急升，营业亏损仍超过80亿美元，总营运开支则达126.5亿美元。其中，单是算力及基础设施支出便达73.3亿美元。

招股书又披露，公司未来计划投入约5180亿美元用于云端、运算及其他基础设施，反映其仍准备大额押注AI模型及平台发展。同时，《金融时报》报道，Anthropic2026年的业绩增长更快。光是第二季度，其营业额就达到了115亿美元，并预计连续第二季实现经调整后的营业利润。Anthropic安全研究员胡宾格早前估计，未来10年内AI导致人类灭绝的机率可能超过10%。

特朗普会晤一众AI巨头

总统特朗普订于当地时间周二会见众议院议长约翰逊、 Meta行政总裁朱克伯格、 Anthropic行政总裁阿莫迪等科技高管，讨论AI问题。Nvidia的黄仁勋和OpenAI总裁布罗克曼也预计出席。约翰逊说，此次会议重点讨论如何在创新和监管之间找到平衡。