Google AI模型首度越界 Gemini自主入侵3企業

美國科技巨頭Google周五（18日）承認，旗下人工智能（AI）模型Gemini今年5月在網絡安全測試期間，透過測試環境錯誤開放的互聯網存取權限，自主入侵3間真實企業的受保護系統，為公司首次確認AI系統自主作出這類行為。

《華爾街日報》報道，事發於獨立機構Irregular進行資安測試期間。其中一次，Gemini不斷猜測密碼直至登入受保護系統；另外兩次則從公開存放庫取得憑證，再進入真實系統。Google稱，Gemini判定目標屬真實企業後自行停止，未造成實質損害。

Irregular解釋，測試原以一間虛構公司為目標，但該公司與現實企業同名，加上測試環境意外開放網絡權限，令AI模型誤把真實網站當成測試目標。 Google7月底獲悉事件，但在傳媒查詢前未有公開。另外，Nvidia行政總裁黃仁勳接受專訪表示，他完全不同意AI將在2030年前毀滅世界的說法，並稱這種情況發生的機率是「零」。