日本警方捣破首宗以AI制作色情图像贩售案 4人被捕

日本传媒周二报道，当地警方拘捕4人，指他们涉嫌以AI生成色情图像后贩售，每张价格数千日圆，不到1年便大赚1,000万日圆（约54万港元）。这是日本警方首次侦办AI色情图牟利案，由东京都警视厅出手将嫌犯逮捕。

贩售AI生成色情图像1年大赚54万

据日本放送协会（NHK）报道，涉案4人年龄介乎20多到50多岁之间，当中包括爱知县北名古屋市44岁零售业者水谷智浩，以及埼玉县53岁公司职员菅沼贵司，他们从去年10月开始在网上贩售含有猥亵内容的图像。

相关新闻：AI生成｜韩国“Deepfake版N号房”震惊全国 2人散布深伪色情片被捕

日本警方拘捕涉嫌以AI生成色情图片后贩售的疑犯。日テレNEWS NNN

东京都警视厅出手将4名嫌犯逮捕。IT Media

全球多国越来越担心AI被用于恶意目的，包括透过深伪色情。路透社

日本警方首次侦办AI色情图牟利案。路透社

透过免费AI模型生成不雅照

据报水谷智浩等人主要是利用免费的AI模型，对其投入大量图片进行训练，随后输入“双脚张开”等关键字让AI生成不雅照，并以“AI美女”为图片标题对外兜售。

日本内阁府科学技术担当大臣城内实指出，恶意使用AI的行为相当不可取，目前除了依照现行法令侦办之外，也向国会提出了AI相关法案，希望能够强化执法依据，并且迅速应对类似状况。

相关新闻：韩国新法 ： 观看深伪色情影像可判囚3年

96%线上深伪影片属非自愿色情内容

这是日本首次因为涉嫌出售AI制作的淫秽图片而逮捕嫌犯，全球多国越来越担心AI被用于恶意目的，包括透过深伪技术，将人们的真实照片、影片或声音变成伪造的相像影音。

根据荷兰人工智能公司Sensity在2019年发表的一份研究，约96%的线上深伪影片都是非自愿色情内容，且其中大部分描划女性。