美國參議員就性化深度偽造影片向 X、Meta 和 Alphabet 施壓

科技產業面臨的「未經同意且具性暗示的深度偽造影片」危機，如今已遠遠超出 X 平台的範圍。

數名美國參議員在致 X、Meta、Alphabet、Snap、Reddit 及 TikTok 高層的信函中，要求這些公司提供證據，證明已實施「強而有力的保護措施與政策」，並明確說明其打算如何遏止平台上性化深度偽造影片的傳播。

參議員們還要求所有公司保留任何與生成、偵測、審核及人工智慧生成性化影像的變現相關的文件與資訊，以及任何相關政策。

這封信件發出的時間，恰在 X 宣布已更新 Grok 功能、禁止編輯描繪真實人物身著暴露服裝的內容，並將透過 Grok 生成及編輯圖片的功能限制在付費訂閱用戶之後僅數小時。（X 與 xAI 隸屬於同一家母公司。）

參議員們援引媒體報導，詳述Grok如何輕易且頻繁地生成女性與兒童的性化及裸露影像，並指出現有平台為防止用戶發布未經同意的性化影像所設計的防護措施，可能仍顯不足。

「我們承認許多公司都制定了禁止未經同意的親密影像及性剝削的政策，且許多 AI 系統聲稱能阻擋露骨色情內容。然而實際上，如上述例子所示，使用者正設法繞過這些防護措施，或者這些防護措施本身已失效，」信中寫道。

Grok——以及其延伸平台 X——因助長此趨勢而面臨嚴厲批評，但其他平台也難倖免。

加入 Disrupt 2026 候補名單

立即加入 Disrupt 2026 候補名單，當早鳥票開售時即可優先購票。過往的 Disrupt 活動曾邀請 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、 Hugging Face、Elad Gil 以及 Vinod Khosla 等業界領袖曾登上舞台——這只是超過 250 位業界領袖陣容的一部分，他們將主持逾 200 場專題講座，旨在推動您的成長並提升您的競爭優勢。此外，您還能與來自各行各業、致力於創新的數百家新創公司建立聯繫。

加入 Disrupt 2026 候補名單

立即加入 Disrupt 2026 候補名單，確保在早鳥票開售時享有優先購買權。過往的 Disrupt 活動曾邀請 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、 Hugging Face、Elad Gil 及 Vinod Khosla 等業界領袖曾於舞台上亮相——他們是超過 250 位業界領袖的一員，將共同主持逾 200 場專為推動您的成長並提升競爭優勢而設計的講座。此外，您還能與橫跨各領域、致力於創新的數百家新創公司建立聯繫。

「深度偽造」（Deepfakes）最初在 Reddit 上嶄露頭角，當時一個專門發布名人合成色情影片的頁面曾引發瘋傳，直到 2018 年該平台將其移除為止。此後，針對名人與政治人物的色情深度偽造內容在 TikTok 和 YouTube 上如雨後春筍般湧現，儘管這些內容通常源自其他平台。

Meta 的監督委員會去年曾特別指出兩起涉及女性公眾人物露骨 AI 影像的案例，且該平台曾允許「裸體化」應用程式在其服務上投放廣告——儘管該平台後來起訴了一家名為 CrushAI 的公司。此外，亦有多份報導指出，兒童在 Snapchat 上散播同學的深度偽造影片。 此外，雖未被列入參議員名單的Telegram，也因 hosting 專門用於為女性照片「脫衣」的機器人而聞名。

針對這封信函，X 平台援引了其關於 Grok 更新的公告。

「我們從未且絕不會允許任何未經同意的私密媒體（NCIM）出現在 Reddit 上，也不提供任何能製作此類內容的工具，並會採取主動措施來查找並移除此類內容，」Reddit 發言人透過電子郵件聲明表示。 「Reddit 嚴格禁止 NCIM，包括經偽造或由 AI 生成的圖像。我們亦禁止向他人索取此類內容、分享『裸體化』應用程式的連結，或在其他平台上討論如何製作此類內容，」該發言人補充道。

Alphabet、Snap、TikTok 及 Meta 尚未立即回應置評請求。

該信函要求這些公司提供：

• 針對「深度偽造」內容、「非自願親密影像」或類似術語的政策定義。
• 各公司針對非自願性 AI 深度偽造（涉及人體、非裸露照片、服裝修改及「虛擬脫衣」）之政策與執行方式說明。
• 針對經編輯媒體及露骨內容的現行內容政策說明，以及提供給內容審核員的內部指引。
• 現行政策如何規範與暗示性或親密內容相關的 AI 工具及影像生成器。
• 已實施哪些過濾機制、防護措施或手段，以防止深度偽造內容的生成與傳播。
• 各公司採用哪些機制來識別深度偽造內容，並防止其被重新上傳。
• 各公司如何防止用戶藉此類內容牟利。
• 各平台如何防止自身透過非經當事人同意的 AI 生成內容獲利。
• 企業的服務條款如何賦予其權限，以封禁或暫停發布深度偽造內容的用戶。
• 相關企業採取哪些措施，向非自願性性深偽影片的受害者發出通知。

這封信由參議員莉莎·布倫特·羅徹斯特（Lisa Blunt Rochester，民主黨－特拉華州）、塔米·鮑德溫（Tammy Baldwin，民主黨－威斯康辛州）、理查德·布盧門撒爾（Richard Blumenthal，民主黨－康乃狄克州）、柯斯滕·吉莉布蘭德（Kirsten Gillibrand，民主黨－紐約州）、 馬克·凱利（Mark Kelly，亞利桑那州民主黨籍）、班·雷·盧漢（Ben Ray Luján，新墨西哥州民主黨籍）、布萊恩·沙茨（Brian Schatz，夏威夷州民主黨籍）以及亞當·希夫（Adam Schiff，加州民主黨籍）。

此舉發生在 xAI 所有者伊隆·馬斯克聲稱「並不知情 Grok 曾生成任何未成年人裸體影像」的隔天。 週三稍晚，在世界各地政府因 Grok 缺乏防護措施而導致此類事件發生、並對此感到不滿的壓力日益增加下，加州總檢察長針對 xAI 的聊天機器人展開了調查。

xAI 一直堅稱，該公司會採取行動移除「X 平台上的非法內容，包括 [兒童色情材料] 及未經同意的裸露畫面」，但無論是該公司還是馬斯克，都未說明為何 Grok 當初被允許生成此類編輯內容。

問題也不僅限於未經同意的性化影像篡改。雖然並非所有基於人工智慧的影像生成與編輯服務都允許使用者「脫去」人物衣物，但它們仍使生成深度偽造（deepfakes）變得輕而易舉。 例如，據報導，OpenAI 的 Sora 2 允許使用者製作涉及兒童的露骨影片；Google 的 Nano Banana 似乎生成了一張查理·柯克（Charlie Kirk）遭槍擊的圖片；而利用 Google 人工智慧影片模型製作的種族主義影片，在社群媒體上已累積數百萬次觀看。

當中國的圖像與影片生成工具加入戰局時，問題變得更加複雜。許多中國科技公司和應用程式——尤其是與字節跳動有關聯的——提供了輕鬆編輯臉部、聲音和影片的功能，而這些產出內容已擴散至西方社交平台。 中國對合成內容的標註要求更為嚴格，而美國聯邦層級並無此類規定，當地民眾只能依賴各平台自行制定的政策，但這些政策往往零散且執行不一。

美國立法者雖已通過部分旨在遏制深度偽造色情內容的法案，但成效有限。 今年五月成為聯邦法律的《下架法案》（Take It Down Act），旨在將製作和散佈未經同意的性化影像定為刑事犯罪。然而，該法案中的若干條款使得難以追究影像生成平台的責任，因為大部分監管壓力反而落在了個別使用者身上。

與此同時，許多州正試圖自行採取行動，以保護消費者及選舉安全。本週，紐約州州長凱西·霍丘爾（Kathy Hochul）提出法案，要求人工智慧生成的內容必須標示其來源，並在選舉前的特定期間內禁止未經同意的深度偽造內容，包括對反對派候選人的模擬影像。