米上院議員らが、X、Meta、Alphabetに対し、性的要素を含むディープフェイク問題について追及

同意のない、性的なディープフェイクをめぐるテクノロジー業界の危機は、今やXの枠をはるかに超えて広がっている。

X、Meta、Alphabet、Snap、Reddit、TikTokの各社トップ宛てに送られた書簡の中で、複数の米国上院議員は、これらの企業が「強固な保護措置と方針」を整備していることの証拠を提示するとともに、自社プラットフォーム上での性的なディープフェイクの拡散をどのように抑制するつもりなのかについて明確な説明を求めるよう求めている。

また、上院議員らは、AI生成による性的な画像の作成、検出、モデレーション、収益化に関連するあらゆる文書や情報、および関連するポリシーを、すべての企業が保存することを求めている。

この書簡が届いたのは、XがGrokを更新し、実在の人物を露出度の高い服装で描いた編集を禁止するとともに、Grokによる画像の作成・編集を有料会員に限定したと発表してからわずか数時間後のことだった。（XとxAIは同じ企業グループ傘下で運営されている。）

上院議員らは、Grokが女性や子どもの性的な画像やヌード画像をいかに容易かつ頻繁に生成していたかを詳述したメディア報道を引用し、ユーザーが同意のない性的な画像を投稿するのを防ぐために設計された既存のプラットフォームの安全対策では不十分である可能性があると指摘した。

「多くの企業が、同意のない親密な画像や性的搾取に対するポリシーを維持しており、多くのAIシステムが露骨なポルノをブロックすると主張していることは認識している。しかし実際には、上記の例に見られるように、ユーザーはこれらの安全策を回避する方法を見つけ出している。あるいは、これらの安全策が機能していないのだ」と書簡には記されている。

Grok（ひいてはX）は、この傾向を助長しているとして激しい批判にさらされているが、他のプラットフォームも例外ではない。

「Disrupt 2026」のウェイティングリストに登録する

Disrupt 2026のウェイティングリストに登録して、早期割引チケットの販売開始時に優先的に購入できる権利を確保しましょう。過去のDisruptイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、 Hugging Face、Elad Gil、Vinod Khoslaなどが登壇してきました。これらは、250名を超える業界リーダーが、あなたの成長を後押しし、競争力を高めるために設計された200以上のセッションを牽引するラインナップの一部です。さらに、あらゆる分野で革新を続ける数百社のスタートアップと交流する機会もあります。

Disrupt 2026のウェイティングリストに登録する

Disrupt 2026のウェイティングリストに登録して、早期割引チケットの販売開始時に優先的に購入できる権利を確保しましょう。過去のDisruptイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、 Hugging Face、Elad Gil、Vinod Khoslaなどが登壇しました。これらは、皆さんの成長を後押しし、競争力を高めるために企画された200以上のセッションを牽引する250名以上の業界リーダーたちの一部です。さらに、あらゆる分野で革新を起こしている数百社のスタートアップと交流する機会もあります。

ディープフェイクは当初、Redditで注目を集めました。同プラットフォームでは、有名人の合成ポルノ動画を掲載したページが拡散されましたが、2018年に削除されました。それ以来、有名人や政治家を標的とした性的なディープフェイクは、TikTokやYouTube上で急増していますが、その多くは他の場所で作成されたものです。

Metaの監視委員会は昨年、女性公人の露骨なAI生成画像に関する2件の事例を取り上げました。また、同プラットフォームでは、ヌード化アプリがサービス上で広告を掲載していましたが、その後、CrushAIという企業を提訴しました。Snapchat上で、児童が同級生のディープフェイクを拡散しているという報告も複数寄せられています。 また、上院議員らのリストには含まれていないTelegramも、女性の写真から服を脱がせるように設計されたボットをホストしていることで知られるようになった。

この書簡に対し、XはGrokのアップデートに関する発表に言及した。

「Redditでは、同意のない性的メディア（NCIM）を一切許可しておらず、今後も許可する予定はありません。また、そのようなコンテンツを作成できるツールを提供しておらず、それを発見・削除するための積極的な措置を講じています」と、Redditの広報担当者はメールでの声明で述べた。 「Redditは、偽造されたものやAIで生成された描写を含め、NCIMを厳格に禁止しています。また、他者からこのコンテンツを要求すること、『ヌディファイ』アプリのリンクを共有すること、あるいは他のプラットフォームでこのコンテンツの作成方法について議論することも禁止しています」と、同広報担当者は付け加えた。

アルファベット、スナップ、TikTok、メタは、コメント要請に対し直ちには回答しなかった。

この書簡では、各社に対し以下の提供を求めている：

• 「ディープフェイク」コンテンツ、「同意のない親密な画像」、または類似の用語に関するポリシー上の定義。
• 他人の身体を無同意でAIディープフェイク処理したもの、ヌードではない写真、衣服の改変、および「バーチャル脱衣」に関する、各社のポリシーと執行方針の説明。
• 編集されたメディアや露骨なコンテンツに対処する現行のコンテンツポリシー、およびモデレーターに提供されている社内ガイドラインの説明。
• 露骨な内容や親密なコンテンツに関連して、現行の方針がAIツールや画像生成ツールをどのように規制しているか。
• ディープフェイクの生成および拡散を防止するために、どのようなフィルタ、安全策、または措置が実施されているか。
• 各企業がディープフェイクコンテンツを特定し、再アップロードを防ぐためにどのような仕組みを採用しているか。
• ユーザーがそのようなコンテンツから利益を得ることをどのように防止しているか。
• 各プラットフォームが、同意のないAI生成コンテンツを自ら収益化しないようにどのように防止しているか。
• 各社の利用規約に基づき、ディープフェイクを投稿したユーザーを禁止または利用停止にする仕組み。
• 同意のない性的ディープフェイクの被害者に通知するために、各企業はどのような措置を講じているか。

この書簡には、リサ・ブラント・ロチェスター上院議員（民主党、デラウェア州）、タミー・ボールドウィン上院議員（民主党、ウィスコンシン州）、リチャード・ブルーメンソール上院議員（民主党、コネチカット州）、キルステン・ギリアブランド上院議員（民主党、ニューヨーク州）、 マーク・ケリー（民主党・アリゾナ州）、ベン・レイ・ルジャン（民主党・ニューメキシコ州）、ブライアン・シャッツ（民主党・ハワイ州）、アダム・シフ（民主党・カリフォルニア州）の各上院議員が署名している。

この動きは、xAIのオーナーであるイーロン・マスク氏が「Grokによって生成された未成年者のヌード画像については承知していない」と述べたわずか1日後に起こったものである。 水日の後半、カリフォルニア州司法長官は、Grokを巡る規制の欠如がこうした事件を招いたことに不満を抱く世界各国の政府からの圧力が高まる中、xAIのチャットボットに対する調査を開始した。

xAIは、「[CSAM]や同意のないヌードを含む、X上の違法コンテンツ」を削除するための措置を講じていると主張しているが、同社もマスク氏も、そもそもなぜGrokがそのような編集画像を生成することを許されていたのかについては言及していない。

この問題は、同意のない性的な加工画像だけに限定されるものではない。すべてのAIベースの画像生成・編集サービスがユーザーに人物の「服を脱がせる」ことを許可しているわけではないが、それでもディープフェイクを生成するのは容易である。 例えば、OpenAIの「Sora 2」は、ユーザーが児童を登場させた露骨な動画を制作できると報じられている。Googleの「Nano Banana」は、チャーリー・カークが銃撃される画像を生成したようであり、GoogleのAI動画モデルを使って作成された人種差別的な動画は、ソーシャルメディア上で数百万回の再生回数を記録している。

この問題は、中国の画像・動画生成ツールが参入すると、さらに複雑化する。多くの中国のテクノロジー企業やアプリ――特にバイトダンス（ByteDance）に関連する企業やアプリ――は、顔や声、動画を簡単に編集する手段を提供しており、それらの生成物は西側のソーシャルプラットフォームにも拡散している。 中国では、合成コンテンツの表示に関するより厳格な要件が設けられているが、米国連邦レベルではそのような要件が存在せず、代わりに人々は各プラットフォームが独自に定める、断片的で一貫性のない方針に依存せざるを得ない状況にある。

米国の議員たちはすでに、ディープフェイクポルノを抑制することを目的としたいくつかの法案を可決しているが、その効果は限定的である。 5月に連邦法として成立した「テイク・イット・ダウン法（Take It Down Act）」は、同意のない性的な画像の制作および拡散を犯罪とすることを目的としている。しかし、同法のいくつかの条項により、画像生成プラットフォームに責任を問うことは困難となっており、その監視の矛先はむしろ個々のユーザーに向けられている。

一方、多くの州が、消費者や選挙を守るために独自に措置を講じようとしている。今週、ニューヨーク州のキャシー・ホチュール知事は、AI生成コンテンツにその旨の表示を義務付けるほか、選挙前の特定の期間において、野党候補者の描写を含む同意のないディープフェイクを禁止する法案を提案した。