馬斯克把「AI脫衣」搬上X 2小時生出1.5萬張圖/ Grok生成不雅影像引爆爭議 xAI限制X平台圖片功能僅開放付費用戶

lionking0809

馬斯克旗下AI公司xAI開發的聊天機器人Grok，現在竟然能幫人做「AI脫衣」。X的用戶只要在貼文底下叫出Grok、下指令，就能把原本穿著正常衣服的女性照片，換成比基尼、內衣甚至接近透明的服裝，而多數當事人根本沒同意。

有研究者發現，短短兩小時就出現超過1.5萬張相關圖片，X上Grok的媒體頁面幾乎被這類比基尼、內衣照洗版，有人還會要求「胸部放大90％」「大腿加粗50％」這種客製身材的指令。​

過去「nudify／undress」AI服務多藏在Telegram機器人或小網站後面，還設付費牆，但這樣的工具每年還是可以賺進約3,600萬美元，現在Grok不但免費、生成又更快，還直接掛在大型社群平台上，等於把原本就很有問題的技術，門檻再往下拉。​

受害者也不只網紅或創作者，連瑞典副首相、英國兩名政府部長的照片，都被拿去用Grok換成比基尼版。澳洲、英國等國已開始針對「nudify」服務開罰或下達限制，並預告未來可能全面禁止這類功能，部分國家也在調查X與Grok是否踩到當地法律紅線。​

X的安全團隊強調，平台禁止兒童色情和「非自願性裸露」，會移除違規內容、停權帳號，但不少網友還是發現，很多被檢舉或標記為成人內容的Grok生成圖，仍在平台上流傳，馬斯克接下來如何收拾，成為各國監管跟社群輿論關注的焦點。

************************************

馬斯克(Elon Musk)旗下 AI 新創公司 xAI 近期已針對其聊天機器人 Grok 的圖片生成功能祭出限制措施，原因是該工具利用人工智慧生成並公開發布具性暗示影像，引發社會輿論強烈反彈。

先前，用戶可直接在社群平台 X 上要求 Grok 編修他人照片，包括移除衣物、將人物置於性暗示姿勢，且往往未經當事人同意，相關影像還會由 Grok 直接以回覆形式公開張貼。

Grok 9 日向 X 用戶表示，圖片生成與編輯功能現已僅限付費訂閱用戶使用。此一調整似乎已阻止 Grok 在貼文或留言下方，自動生成並發布不雅影像。

不過，路透實測發現，用戶仍可透過 X 平台內的 Grok 分頁，直接與聊天機器人互動來生成具性暗示的圖片，之後再自行將影像發布至 X。另一方面，獨立運作、未與 X 綁定的 Grok App，目前仍允許用戶在未訂閱的情況下生成圖片。

針對路透以電子郵件提出的置評請求，xAI 僅回覆一段疑似自動回應的訊息：「傳統媒體在說謊（Legacy Media Lies）」。X 則尚未回應相關詢問。

馬斯克上週曾表示，任何使用 Grok 製作非法內容的行為，將承擔與直接上傳該類內容相同的法律後果。路透記者 9 日在 X 平台實測，要求 Grok 將其照片轉換為穿著比基尼的影像，機器人並未執行該指令，僅回覆稱該功能僅限付費訂閱用戶。

不過，European Commission 指出，此一限制措施並未回應其核心關切。歐盟執委會先前曾形容在 X 平台流傳的裸露女性與兒童影像「違法且令人震驚」，其發言人強調，不論是否付費，「我們都不希望看到這類影像出現在平台上」。

此外，其他國家政府與監管機構也對 Grok 生成的露骨內容表達譴責，部分單位已展開調查，進一步加大對 X 平台的監管壓力，要求說明其防範與移除非法內容的具體作為。德國媒體部長 Wolfram Weimer 本週更直言，這波半裸影像氾濫，形同「性騷擾的工業化」。

錄自：TN科技島