逾千專家籲暫停訓練強大AI

去年美國拉斯維加斯消費電子展,展出的一個AI機械人。
去年美國拉斯維加斯消費電子展,展出的一個AI機械人。

(星島日報報道)美國億萬富豪馬斯克夥同人工智能(AI)專家(包括兩名圖靈獎得主)、高科技業界高層等逾千人,昨日發表聯署公開信,呼籲全球業界立即暫停訓練比GPT-4更強大的AI系統,為期至少6個月,直至確保它們是安全的。公開信警告強大、先進的AI系統對社會與人類構成潛在風險。
由非牟利組織「生命未來研究所」發表的公開信,已有超過1100人簽署,包括AI聊天機械人ChatGPT開發商OpenAI的初始投資者馬斯克(Elon Musk)、有「電腦界諾貝爾獎」之稱的圖靈獎兩名得主西法基斯(Joseph Sifakis)和本吉奧(Yoshua Bengio)、蘋果公司共同創辦人沃茲尼亞克、AI生成圖片公司Stability AI行政總裁莫斯塔克、Alphabet旗下AI公司DeepMind的研究人員,以及其他著名AI專家與學者、科技界高層等。其中希臘裔電腦科學家西法基斯為2007年圖靈獎得主、加拿大蒙特利爾大學教授本吉奧為2018年圖靈獎得主。
為期至少6個月

 

公開信題為「暫停巨型AI實驗」,稱已有廣泛的研究顯示,具有與人類競爭智能的AI系統可能對社會和人類構成深遠的風險,「只有當我們確信其影響是積極正面、且風險可控時,才應該開發強大的AI系統。」公開信呼籲未來至少6個月暫停訓練較GPT-4更強大的AI系統,直到此類設計的共享安全規則獲獨立專家訂定、實施和審核。GPT-4是ChatGPT的升級版,由新創公司OpenAI推出。

 

信中提到,近幾個月AI實驗室陷入一場失控的競賽。公開信說:我們必須問自己,是否應該讓機器以宣傳和謊言,充斥自身的訊息渠道?是否應該自動化所有工作,包括本已令人滿意的工作?是否應該發展並非人類的腦袋,最終它可能比人類更聰明,並取代我們?我們應該冒着失去對自身文明控制的風險嗎?

 

公開信指,若不能迅速實施暫停訓練,各國政府應介入。據歐盟的登記冊資料,生命未來研究所主要由馬斯克旗下基金會資助,合作出資者還包括倫敦的利他主義組織Founders Pledge及美國矽谷社區基金會。
裁減倫理團隊引起擔憂

 

自從微軟支持的OpenAI去年底推出ChatGPT之後,競爭者爭相推出類似產品。但當愈來愈多人開始嘗試使用AI產品之際,微軟、亞馬遜和Google等科技巨擘卻裁減了AI倫理團隊,進一步引起了安全擔憂。到本周一,歐洲刑警組織警告,ChatGPT這類先進AI系統,可能被濫用於網絡釣魚、假訊息、網絡犯罪等。生命未來研究所發言人昨日向媒體稱,OpenAI的行政總裁奧爾特曼還沒有在這封信上簽名。有份簽署的紐約大學名譽教授馬庫斯稱,該公開信內容並不完美,「但精神是正確的,大家需要放慢腳步,直到能更好理解後果。」

點擊以下6大平台 接收加拿大新聞及生活資訊
加拿大星島WhatsApp報料熱線:(437)428-9394

下載「星島新聞(加拿大版)」App,隨時看到最新最快新聞:
iPhone:https://apple.co/2IBi812
Android:https://bit.ly/2Pe8anu

訂閱加拿大星島網電郵快訊,每天可收到最快新聞資訊電郵: https://www.singtao.ca/subscribe/singtao.php

>>>訂閱CCUE YouTube 頻道,查看更多吃喝玩樂、生活資訊影片。
share to wechat

延伸閱讀

share to wechat

延伸閱讀

基準試任務完成 IELTS等取代

工行交行去年利潤微升

都市網新聞