Grok涉兒童色情深偽圖 英國促馬斯克X平台處理

英國政府今天呼籲馬斯克（Elon Musk）的社群平台X採取緊急行動，因應旗下人工智慧（AI）工具Grok被用來製作兒童的偽造色情圖像。

英國科技大臣肯達爾（Liz Kendall）透過聲明表示：「近幾天我們在網路上看到的景象完全駭人聽聞，在文明社會中是不可接受的。」

法新社報導，AI工具Grok因允許用戶透過所謂的「辛辣模式」（spicy mode）設定，生成女性與未成年人的色情化深度偽造（deepfake）圖像，正引發日益增長的國際反彈。

歐盟執委會昨天宣布，正「非常嚴肅地」審查有關這款工具的投訴；英國媒體監管機構通訊管理局（Ofcom）也表示正在調查X平台及開發Grok的xAI公司。

根據英國去年7月生效的「線上安全法」（Online Safety Act），凡是承載可能有害內容的網站、社群媒體和影音分享平台，都必須透過臉部圖像或信用卡檢查等工具，實施嚴格的年齡驗證。

這項法案也規定，媒體和這類網站製作或分享未經同意的私密圖像或兒童性虐待內容，包括以AI製作的色情深度偽造品，均屬違法。

法案允許對未遵守規定的公司處以其全球收入10%或1800萬英鎊（約新台幣7.6億元）的罰款，以金額較高者為準。

英國政府也已表示，將禁止允許使用者為照片中人物「脫去衣物」的所謂「一鍵脫衣」（nudification）工具。

Grok開發方2日曾表示，已發現旗下AI工具存在缺陷，形容這是「安全防護上的疏失」，並正「緊急」努力修復。