智能叛變 | 竟向美警謊報未破兇案線索 Anthropic再爆AI失控

美國人工智能（AI）又傳失控案例，Claude開發商Anthropic公司的AI曾向費城警方提交未偵破命案的捏造線索，甚至自稱知情。此外，AI亦曾自主到美國國務院網站填寫簽證申請表。

據《華爾街日報》報道，費城警方稱日前接獲Anthropic通報，指公司一款AI模型曾向專門受理兇殺案線索提供的網站提交虛假兇案線索。事發生於今年7月，Anthropic直到9月底才發現，並於10月7日才通報費城警方。

Claude開發商Anthropic公司的AI再爆失控。路透社

Anthropic的AI亦曾自主到美國國務院網站填寫簽證申請表。路透社

Anthropic再爆AI失控。路透社

費城警方批開發商遲2個月始通報

費城警方周五說：「費城市政府對這起事件高度重視。事隔2個月才發現並通報，這種延誤令人無法接受。」

警方指出，Anthropic的AI模型當時正進行一項測試，測試內容涉及與隨機選取的網站互動。在測試過程中，該模型在進入費城警方的懸案公開通報網站PhillyUnsolvedMurders.com後，竟捏造了一宗未偵破謀殺案的虛假資訊，甚至在訊息中自稱是掌握案情的知情人士。

懸案牽涉真實受害者及悲痛的家屬

警方表示，這條標註日期為7月18日的線索，因被歸為垃圾訊息而未轉交進一步調查，但這不能掩蓋事件本身的嚴重性。事緣懸案牽涉真實受害者、悲痛的家屬以及極力尋找真相的調查人員。

Anthropic在一篇網誌貼文表示，費城兇殺案虛假線報只是其中一項公司近期發現的連串AI不受控行為。這些異常活動還涉及AI試圖存取聯邦、各州以及地方政府機關的網站，公司已就這些案例向白宮簡報，並通知各受影響機構；未來若發現更多非預期的AI行為，也會持續回報。

自行向美國務院申請簽證

《紐約時報》指出，Anthropic在周五的貼文詳述旗下AI的失控行為，但未透露遭鎖定的網站名稱。然而2名知情人士透露，Anthropic的AI曾透過國務院網站上的表單提交約20份簽證申請，只不過這些申請資料均不完備，因此未獲受理。

Anthropic表示，公司今年7月開始檢視AI系統相關活動後，才發現旗下AI曾出現失序。當時另一美國AI巨頭OpenAI揭露旗下AI曾攻擊另一家AI新創公司Hugging Face。

今夏已有幾家公司的AI突破測試環境限制。隨愈來愈多業者通報旗下AI出現自主行徑，外界對AI可能失控的疑慮也日益升高。除了Anthropic外，Google、Meta及OpenAI等美國AI巨頭均因旗下先進AI可能帶來的風險而受到關注。安全專家警告，失控的AI可能癱瘓電網、銀行系統等關鍵基礎設施。