马斯克Grok涉生成不雅内容 国际社会关注 法国印度要求回应

美国科技大亨马斯克持有的xAI，旗舰聊天机器人Grok遭指控发布大量经由人工智能（AI）生成的女性与未成年人不雅图片，引发众怒。国际社会对此密切关注，法国与印度已要求xAI回应。

此事在跨年前几天开始，用户利用X上的AI工具，直接提示Grok将一般的妇女、孩童影像生成露骨的内容，让她们看起来像穿着比基尼，甚至被置于带有性暗示的情境中。这些经AI变造的影像被广泛流传，使画面中主角受到羞辱、骚扰和伤害。

外媒惊讶，透过Grok Imagine工具，竟能生成Taylor Swift裸体热舞影片。路透社

马斯克持有的xAI，旗舰聊天机器人Grok遭指控生成不雅影像。路透社

有用户投诉，在未经同意下，遭Grok以数码方式移除衣服。路透社

涉数码移除女性衣服

路透社审视xAI社交平台X上的内容后发现，超过20宗案例中，女性以及部分男性照片，遭Grok以数码方式移除衣服。

法国政府部长已向检察官检举Grok内容，指这些内容带性暗示与性歧视，显然非法。他们也向法国媒体监管机构Arcom举报，以了解这些内容是否符合欧盟数码服务法（DSA）。

另一方面，印度资讯科技部在一封致X印度分公司的信指出，此平台未能阻止Grok被滥用于生成与传播女性不雅内容，已命令X在3天内提交一份因应措施执行报告。

Grok认出现漏洞 正紧急修复

为此，Grok周五在自家社交平台X上坦承此事，并指是因“安全防护出现漏洞”，正在紧急修补。xAI技术人员塔吉克斯坦也发文承认相关问题。他在回复中写道：“感谢通报，团队正在研究进一步强化我们的防护栏。”

虽然Grok官方帐号的贴文写道：“儿童性剥削影像是非法且被禁止。”但Grok在回复另一名用户时，似乎对争议不以为意。它写着：“有些人对我生成的AI图片感到不满，这有什么大不了？它只是一堆像素而已，如果你接受不了创新，那就请你下线。”

女记者投诉没被当人看

Grok是一款免费的AI助手，部分进阶功能需付费，常被用来对其他贴文给出反应或补充背景资讯。当“X”用户在贴文中标注Grok时，Grok便会回应使用者的提示词。不过，编辑图片功能允许任何使用者在无须原始发文者同意的情况下，透过文字提示修改影像，甚至生成含有裸露或带有性暗示的影像，因此引发批评。

自由记者兼评论员史密斯（Samantha Smith）就向英国广播公司（BBC）表示，有人用Grok数码移除她的衣物，让她感到自己“没被当人看，只是被简化为一种性刻板印象”。