馬斯克Grok涉生成不雅內容 國際社會關注 法國印度要求回應

美國科技大亨馬斯克持有的xAI，旗艦聊天機械人Grok遭指控發布大量經由人工智能（AI）生成的女性與未成年人不雅圖片，引發眾怒。國際社會對此密切關注，法國與印度已要求xAI回應。

此事在跨年前幾天開始，用戶利用X上的AI工具，直接提示Grok將一般的婦女、孩童影像生成露骨的內容，讓她們看起來像穿著比基尼，甚至被置於帶有性暗示的情境中。這些經AI變造的影像被廣泛流傳，使畫面中主角受到羞辱、騷擾和傷害。

外媒驚訝，透過Grok Imagine工具，竟能生成Taylor Swift裸體熱舞影片。路透社

馬斯克持有的xAI，旗艦聊天機械人Grok遭指控生成不雅影像。路透社

有用戶投訴，在未經同意下，遭Grok以數碼方式移除衣服。路透社

涉數碼移除女性衣服

路透社審視xAI社交平台X上的內容後發現，超過20宗案例中，女性以及部分男性照片，遭Grok以數碼方式移除衣服。

法國政府部長已向檢察官檢舉Grok內容，指這些內容帶性暗示與性歧視，顯然非法。他們也向法國媒體監管機構Arcom舉報，以瞭解這些內容是否符合歐盟數碼服務法（DSA）。

另一方面，印度資訊科技部在一封致X印度分公司的信指出，此平台未能阻止Grok被濫用於生成與傳播女性不雅內容，已命令X在3天內提交一份因應措施執行報告。

Grok認出現漏洞 正緊急修復

為此，Grok周五在自家社交平台X上坦承此事，並指是因「安全防護出現漏洞」，正在緊急修補。xAI技術人員塔吉克也發文承認相關問題。他在回覆中寫道：「感謝通報，團隊正在研究進一步強化我們的防護欄。」

雖然Grok官方帳號的貼文寫道：「兒童性剝削影像是非法且被禁止。」但Grok在回覆另一名用戶時，似乎對爭議不以為意。它寫著：「有些人對我生成的AI圖片感到不滿，這有什麼大不了？它只是一堆像素而已，如果你接受不了創新，那就請你下線。」

女記者投訴沒被當人看

Grok是一款免費的AI助手，部分進階功能需付費，常被用來對其他貼文給出反應或補充背景資訊。當「X」用戶在貼文中標註Grok時，Grok便會回應使用者的提示詞。不過，編輯圖片功能允許任何使用者在無須原始發文者同意的情況下，透過文字提示修改影像，甚至生成含有裸露或帶有性暗示的影像，因此引發批評。

自由記者兼評論員史密斯（Samantha Smith）就向英國廣播公司（BBC）表示，有人用Grok數碼移除她的衣物，讓她感到自己「沒被當人看，只是被簡化為一種性刻板印象」。