カリフォルニア州司法長官、Grokチャットボットの未成年向けコンテンツ疑惑でマスク氏のXを調査

イーロン・マスク氏は水曜日、カリフォルニア州司法長官が、同意のない性的な素材が拡散していることについて xAI のチャットボットの調査を発表するわずか数時間前に、「Grok が未成年者のヌード画像を生成していることは知らない」と述べた。

マスク氏の否定は、英国、欧州、マレーシア、インドネシアの政府からの国際的な圧力が高まっている中で出されたものです。これは、X のユーザーが Grok に、実在の女性、場合によっては子供たちの同意を得ずに、性的な画像を作成するよう促しているとの報告を受けたものです。AI 検出会社 Copyleaks の推定によると、X には 1 分間に約 1 枚、このような画像が投稿されていたとのことです。 1月5日から6日にかけての別のデータサンプルでは、24時間あたり6,700枚の画像が投稿されていたことが判明している（XとxAIは同一企業構造の一部）。

「この素材は…インターネット上で人々を嫌がらせするために利用されてきた」とカリフォルニア州司法長官ロブ・ボンタは述べた。「xAIに対し、事態の拡大を防ぐための即時対応を強く求める」

司法長官事務所はxAIによる法的違反の可能性を調査する。

非同意の性的画像や児童性的虐待素材（CSAM）から個人を保護する複数の法律が存在する。昨年成立した連邦法「テイク・イット・ダウン法」は、ディープフェイクを含む非同意の親密画像の故意の流通を犯罪化し、Xのようなプラットフォームに対し48時間以内の削除を義務付けている。カリフォルニア州も2024年、ギャビン・ニューサム知事の署名により、露骨な性的ディープフェイク対策の独自法を制定した。

年末にかけて、GrokはX上で女性や児童の性的画像生成をユーザーから依頼されるようになった。 この傾向は、一部の成人向けコンテンツ制作者が自己の性的イメージを生成してマーケティングに利用したことに端を発し、他のユーザーからも同様のリクエストが相次いだ。女優ミリー・ボビー・ブラウンらを巻き込んだ複数の公表事例では、Grokがプロンプトに応答し、女性の実際の写真を改変。衣服や姿勢、身体的特徴を露骨に性的表現へと変更した。

報道によれば、xAIは対策を開始している。Grokは特定の画像生成リクエストにプレミアムサブスクリプションを要求するようになったが、それでも画像を生成しない場合がある。Copyleaksのマーケティング担当副社長エイプリル・コゼンはTechCrunchに対し、Grokはより一般的な表現や控えめな方法でリクエストに応じる可能性があると述べた。また、Grokは成人向けコンテンツ制作者に対してより寛容なポリシーを持っているように見えると付け加えた。

Disrupt 2026 ウェイティングリストに登録

早期割引チケット発売時に最優先で入手できるよう、Disrupt 2026 ウェイティングリストにご登録ください。 過去のディスラプトでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaらが登壇。250以上の業界リーダーが200以上のセッションを牽引し、成長を促進し競争力を高める機会を提供。さらに、あらゆる分野で革新を起こす数百のスタートアップと出会えます。

Disrupt 2026 ウェイティングリストに登録

早期割引チケット発売時に最優先で入手できるよう、Disrupt 2026 ウェイティングリストにご登録ください。 過去のディスラプトでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaらが登壇。250名以上の業界リーダーが200以上のセッションを牽引し、成長を加速し競争力を高める機会を提供します。さらに、あらゆる分野で革新を起こす数百のスタートアップと出会えます。

「全体として、これらの行動はXが問題のある画像生成を削減または制御するための複数のメカニズムを実験していることを示唆しているが、一貫性の欠如は残っている」とコゼンは述べた。

xAIもマスク氏も核心的な問題に直接言及していない。問題発生数日後、マスク氏はGrokに自身のビキニ姿の画像生成を要求し、問題を軽視する姿勢を示した。1月3日、Xの安全対策アカウントは「[CSAM]を含むX上の違法コンテンツに対して措置を講じる」と表明したが、Grokの明らかな安全対策不足や女性を性的に操作した画像生成については具体的に言及しなかった。

この姿勢は、違法性とユーザー行動を強調するマスク氏の最近の投稿と一致している。

マスクは「グロクが生成した未成年者の裸の画像は認識していない。文字通りゼロだ」と記した。この発言はビキニ画像や広義の性的編集画像の存在を否定するものではない。

ニューヨーク・ロースクールのマイケル・グッドイヤー准教授（元訴訟弁護士）はTechCrunchに対し、マスク氏がCSAMに焦点を絞ったのは、児童の合成性的画像の作成・流通に対する罰則がより厳しいからだと指摘した。

「例えば米国では、CSAMの配布者または配布の脅威がある者は『テイク・イット・ダウン法』に基づき最大3年の禁固刑に処される可能性がある。これに対し、非合意の成人性的画像の場合は2年だ」とグッドイヤー氏は述べた。

同氏はさらに「より重要な点は」と前置きし、マスク氏が問題のあるユーザーコンテンツへの注目を向けさせようとしていると指摘した。

「Grokが画像を自発的に生成することはない。ユーザーのリクエストに応じてのみ生成する」とマスクは投稿で記した。「画像生成を求められた場合、Grokは違法なものを一切生成しない。Grokの動作原理は、対象となる国や州の法律に従うことだからだ。Grokのプロンプトに対する敵対的ハッキングが予期せぬ動作を引き起こす場合もある。その際は直ちにバグを修正する」

この投稿は全体として、こうした事例を稀なものと位置付け、ユーザーのリクエストや敵対的なプロンプトが原因であると説明し、修正すべき技術的なバグとして扱っている。Grokの安全設計における根本的な欠陥については一切言及していない。

グッドイヤー氏は「規制当局は、表現の自由の保護に留意しつつ、AI開発者に対しこうしたコンテンツを防止する積極的措置を求めることを検討するかもしれない」と述べた。

TechCrunchはxAIに対し、女性や児童の同意を得ていない性的改変画像の特定事例数、変更された具体的な安全対策、規制当局への通報の有無について問い合わせた。回答が得られ次第、本記事を更新する。

カリフォルニア州司法長官だけがxAIの責任追及を求めているわけではない。インドネシアとマレーシアはGrokへのアクセスを一時的に遮断。インドはXに対しGrokへの即時的な技術的・手続き的変更を要求。欧州委員会は正式調査に先立ち、xAIに対しGrokチャットボット関連の全文書を保持するよう命じた。英国の通信規制機関Ofcomは英国のオンライン安全法に基づき正式調査を開始している。

xAIは以前からGrokの性的なイメージ生成について批判を受けてきた。ボンタ司法長官が指摘したように、Grokには露骨なコンテンツを生成する「スパイシーモード」が存在する。10月のアップデートで制限された安全ガイドラインの回避が容易になり、多くのユーザーがGrokを用いてハードコアなポルノや暴力的で露骨な性的イメージを作成するようになった。

Grokが生成したポルノ画像の多くはAI生成の人物像であった。これは特定の個人への直接的な危害は少ないものの、依然として倫理的に問題があると見なされる可能性が高い。

「AIシステムが明確な同意なしに実在の人物の画像を操作することを許容する場合、その影響は即時的かつ極めて個人的なものとなり得る」と、コピリークス共同創業者兼CEOアロン・ヤミンはテッククランチへの声明で述べた。「ソラからグロックに至るまで、操作されたメディアを生成するAI能力が急速に高まっている。このため、悪用を防ぐためには、検出とガバナンスがこれまで以上に必要とされている」