Anthropic警告AI恐失控籲全球暫停研發 揭八成程式碼由AI編寫

美國人工智能（AI）企業Anthropic共同創辦人克拉克（Jack Clark）近日發出強烈警告，指最新AI模型已出現脫離人類控制的跡象，呼籲全球頂尖實驗室暫緩研發。該公司同時披露，其內部逾八成程式碼已由AI自主生成；惟儘管高調警示風險，據報該公司正秘密籌備以逾1萬億美元估值在美上市。

形容發展「有油門無煞車」

克拉克接受英國廣播公司（BBC）訪問時形容，當今AI發展「只有油門沒有煞車」，系統即將具備在無人類干預下進行「遞歸式自我改進」的能力。他憂慮這或對人類社會構成重大風險，甚至如教宗早前警告般引發「數碼殖民主義」。他呼籲中美等國的主要AI企業達成協議，建立全球核查機制，放慢尖端AI的開發步伐，讓社會法規能跟上技術發展。

AI代勞致開發效率增八倍

Anthropic在最新發布的技術博文中披露驚人數據：截至今年5月，公司超過80%的程式碼已由旗下AI模型Claude代為編寫，克拉克預期兩年內此比例有望達致100%。數據顯示，在AI協助下，工程師的開發效率較兩年前暴增8倍。文章預測，若AI具備完全自我改進能力，人類在AI發展中的角色將被大幅削弱，轉為僅負責監督與驗證。

無懼風險 傳申萬億美元IPO

儘管對AI風險發出嚴厲警告，Anthropic的商業擴張步伐並未放緩。據外媒報道，該公司已於6月1日向美國證券交易委員會（SEC）秘密提交首次公開招股（IPO）申請草案，估值料超過1萬億美元。若順利掛牌，Anthropic將與OpenAI等科企看齊，成為新一輪AI熱潮中最受矚目的上市企業之一。