加州檢察長調查馬斯克旗下X平台，因其Grok聊天機器人涉嫌涉及未成年內容。

伊隆·馬斯克週三聲明，他「並不知悉Grok生成任何未成年人裸體圖像」，此番表態距加州總檢察長宣布調查xAI聊天機器人涉及傳播非自願性露骨內容僅數小時。

馬斯克的否認聲明發布之際，英國、歐洲、馬來西亞及印尼等國政府正對其施加日益增大的國際壓力。此前有報導稱，X平台用戶曾誘導Grok生成真實女性（部分案例涉及兒童）的性化圖像，且未獲當事人同意。據AI檢測公司Copyleaks估算，每分鐘約有1張此類圖像被發布至X平台。 另份1月5日至6日的數據樣本顯示，24小時內發布率達每小時6,700張。（X與xAI隸屬同一企業架構）

加州總檢察長羅伯·邦塔聲明：「此類素材...已被用於在網路各處騷擾民眾。我敦促xAI立即採取行動，確保此類行為不再蔓延。」

檢察長辦公室將調查xAI可能涉及的法律違規行為。

多項法律保障個人免於非自願性影像及兒童性虐待素材（CSAM）侵害。去年簽署的聯邦《下架法案》將蓄意散布非自願親密影像（含深度偽造內容）定為刑事犯罪，並要求X等平台須於48小時內移除此類內容。加州亦於2024年由州長加文·紐森簽署立法，專門打擊色情深度偽造內容。

年終之際，Grok開始在X平台上應用戶要求生成女性與兒童的性化照片。 此風潮源於部分成人內容創作者利用Grok生成自身性化影像進行行銷，進而引發其他用戶的類似請求。在涉及女演員米莉·波比·布朗等公眾人物的多起公開案例中，Grok對提示指令的回應是篡改真實女性照片，以露骨性暗示方式修改服裝、姿勢或身體特徵。

報導指出xAI已開始實施防護措施。Grok現要求特定圖像生成請求須付費訂閱，即便如此仍可能拒絕生成。Copyleaks行銷副總裁April Kozen向TechCrunch透露，Grok可能以更泛化或低調的方式回應請求。她補充說明，Grok對成人內容創作者似乎採取更寬鬆的政策。

加入 Disrupt 2026 候補名單

立即加入Disrupt 2026候補名單，搶先掌握早鳥票開售資訊。 歷屆Disrupt大會曾邀得Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界巨擘登台——逾250位領袖驅動200多場專題議程，助您加速成長並強化競爭優勢。更可與橫跨各領域的數百家新創企業交流。

加入 Disrupt 2026 候補名單

立即加入 Disrupt 2026 候補名單，搶先掌握早鳥票開售資訊。 歷屆Disrupt大會曾邀得Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界巨擘登台——逾250位領袖驅動的200餘場議程，助您加速成長並強化競爭優勢。更可與橫跨各領域的數百家創新新創企業交流。

「整體而言，這些行為顯示X正嘗試多種機制來減少或控制問題圖像生成，儘管仍存在不一致之處，」科岑表示。

xAI與馬斯克均未直接處理核心問題。事件爆發數日後，馬斯克竟要求Grok生成他身穿比基尼的圖像，此舉似在淡化問題嚴重性。1月3日，X平台安全帳戶聲明公司「對X平台上的非法內容採取行動，包括[CSAM]」，卻未具體提及Grok明顯缺乏防護機制，或其生成女性性化篡改圖像的問題。

此立場與馬斯克近期貼文強調非法性與用戶行為的論述相符。

馬斯克聲稱「未察覺Grok生成任何未成年裸體圖像，完全沒有」。此聲明並未否認比基尼圖像或更廣泛定義的性化修圖存在。

紐約法學院副教授、前訴訟律師麥可·古德耶爾向TechCrunch指出，馬斯克可能刻意聚焦CSAM議題，因製作或散布兒童合成性化影像的刑責更為嚴厲。

古德耶指出：「例如在美國，《刪除法案》規定傳播或威脅傳播CSAM者最高可判處三年監禁，而傳播非自願成人色情影像者僅判處兩年。」

他補充指出，馬斯克此舉的「核心意圖」在於將焦點轉移至問題用戶內容。

馬斯克在貼文中寫道：「Grok顯然不會自發生成圖像，僅在用戶請求時才執行。當被要求生成圖像時，它會拒絕製作任何非法內容，因Grok的運作原則是遵守任何國家或地區的法律。偶爾可能因惡意攻擊導致Grok提示產生異常行為，若發生此類情況，我們將立即修復漏洞。」

整體而言，這篇貼文將相關事件描繪為罕見案例，歸咎於用戶請求或惡意提示，並將其定位為待修復的技術漏洞。貼文未承認Grok安全設計存在任何根本缺陷。

古德耶表示：「監管機構在保障言論自由的前提下，可考慮要求人工智慧開發者採取主動措施防止此類內容出現。」

TechCrunch已聯繫xAI詢問：該公司已識別多少起涉及女性與兒童的非自願性性操縱圖像事件？具體調整了哪些防護措施？是否已通報監管機構？若收到回覆，TechCrunch將更新本文。

加州檢察長並非唯一追究xAI責任的監管機構。印尼與馬來西亞已暫時封鎖Grok服務；印度要求X平台立即對Grok實施技術與流程調整；歐盟委員會已命令xAI保留所有與Grok聊天機器人相關的文件（此為正式調查的前置步驟）；英國通訊管理局（Ofcom）則依據《英國網路安全法》啟動正式調查。

xAI此前已因Grok的性化圖像引發批評。正如邦塔檢察長所指出的，Grok具備生成露骨內容的「火辣模式」。去年十月更新後，其有限的安全指引更易被繞過，導致眾多用戶利用Grok創作硬核色情內容及暴力性暴力圖像。

Grok產生的色情圖像多為AI生成的人物——儘管此類行為可能對特定個體造成的直接傷害較小，但許多人仍認為其存在倫理爭議。

「當AI系統在未獲明確同意下擅自篡改真人影像時，其衝擊往往即時且極具個人侵擾性，」版權監測平台Copyleaks共同創辦人暨執行長阿隆·雅明向TechCrunch聲明指出：「從Sora到Grok，我們目睹AI篡改媒體的能力正急速提升。為此，當前亟需強化檢測與治理機制，以防範濫用行為。」