日本警方搗破首宗以AI製作色情圖像販售案 4人被捕

日本傳媒周二報道，當地警方拘捕4人，指他們涉嫌以AI生成色情圖像後販售，每張價格數千日圓，不到1年便大賺1,000萬日圓（約54萬港元）。這是日本警方首次偵辦AI色情圖牟利案，由東京都警視廳出手將嫌犯逮捕。

販售AI生成色情圖像1年大賺54萬

據日本放送協會（NHK）報道，涉案4人年齡介乎20多到50多歲之間，當中包括愛知縣北名古屋市44歲零售業者水谷智浩，以及埼玉縣53歲公司職員菅沼貴司，他們從去年10月開始在網上販售含有猥褻內容的圖像。

相關新聞：AI生成｜南韓「Deepfake版N號房」震驚全國 2人散布深偽色情片被捕

日本警方拘捕涉嫌以AI生成色情圖片後販售的疑犯。日テレNEWS NNN

東京都警視廳出手將4名嫌犯逮捕。IT Media

全球多國越來越擔心AI被用於惡意目的，包括透過深偽色情。路透社

日本警方首次偵辦AI色情圖牟利案。路透社

透過免費AI模型生成不雅照

據報水谷智浩等人主要是利用免費的AI模型，對其投入大量圖片進行訓練，隨後輸入「雙腳張開」等關鍵字讓AI生成不雅照，並以「AI美女」為圖片標題對外兜售。

日本內閣府科學技術擔當大臣城內實指出，惡意使用AI的行為相當不可取，目前除了依照現行法令偵辦之外，也向國會提出了AI相關法案，希望能夠強化執法依據，並且迅速應對類似狀況。

相關新聞：南韓新法 ： 觀看深偽色情影像可判囚3年

96%線上深偽影片屬非自願色情內容

這是日本首次因為涉嫌出售AI製作的淫穢圖片而逮捕嫌犯，全球多國越來越擔心AI被用於惡意目的，包括透過深偽技術，將人們的真實照片、影片或聲音變成偽造的相像影音。

根據荷蘭人工智能公司Sensity在2019年發表的一份研究，約96%的線上深偽影片都是非自願色情內容，且其中大部分描劃女性。