美研究團隊拒公開AI寫作系統 恐遭濫用製作假新聞

美國一支研究團隊創造了一套人工智能(AI)寫作系統,但因擔心該系統可能被用作「惡意」用途、包括大量製作假新聞,而拒絕把有關技術公開。

三藩市公司OpenAI是一家獲著名電動車企業特斯拉(Tesla)老闆馬斯克 (Elon Musk)等矽谷科技名人支持的研究機構。OpenAI透露,創造了一套利用人工智能的寫作系統,但研究團隊表示擔心該系統可能被人用來大量製作看似可信的假新聞。

英國廣播公司(BBC)的科技評論員指,OpenAI的表述等於承認該系統製作的是「虛構的垃圾」。但據悉,該系統也有可能製作出看來真實可靠的作品,讓讀者信以為真。

OpenAI表示,只要對該系統輸入關於若干課題的簡短提示,它就能製作出有連貫性的文章。系統的人工智能技術毋須監督指導,意味該系統不用再加訓練,也能製作不同課題的新內容。

據悉該系統是利用取自網上約800萬篇網頁內容來製作文章。研究團隊以新創的自動化方法,從互聯網上找出「高質素」的內容,以為該系統提供可用的材料。

系統並非在網上胡亂取材,而是從美國社交網站Reddit選材,只採用網站上獲得「karma」分數有3分或以上(即有至少3人認為內容有價值)的網頁連結。

人工智能系統逐字製作出的文章,通常具有連貫性,但含有不真實、不準確的內容。

BBC從OpenAI公司取得一篇由該系統製作的樣板文章,其中一句說:「示威遊行由一個名叫『Paddy Power』的男子發起。」但對許多英國人而言,一看到Paddy Power只會想起一家著名博彩網站。

都市網新聞