Anthropic、物議を醸しているコンテンツ生成ツール「Opus 4.6」を発表

Anthropicが定めたClaudeの汎用利用基準では、性交や性行為の描写・要求、性的フェチやファンタジーに関連するコンテンツの生成、およびエロティックなチャットへの参加など、性的に露骨なコンテンツの生成が禁止されています。 しかし、それにもかかわらず、今年初めにリリースされたAnthropicのモデル「Claude Opus 4.6」は、その安全対策によって防止されるはずのエロティックなロールプレイシナリオに、容易に加わってしまいました。

TechCrunchによるテストでは、Opus 4.6は性的なコンテンツに関する制限を突破するために、それほど多くの誘導を必要としませんでした。露骨な性的なコンテンツの生成を求める10件の直接的な要求すべてに対し、モデルは即座に応じました。

Opus 3やHaiku 4.5を含む他の旧型モデルも、最近悪用されたジェイルブレイク手法を通じて、露骨な性的コンテンツを生成してしまう。

匿名を希望する英国の独立系研究者が、TechCrunchに独占的に提供した「マルチターン」手法を用いると、特定のClaudeモデルを段階的に誘導し、禁止されている露骨な性的なコンテンツを生成させることが可能になる。より新しいOpusモデル（4.7から現在のOpus 5まで）は、この脱獄手法に対して耐性を持っている。 

これらはもはや最新モデルではないものの、Anthropic社はOpus 4.6、Opus 3、Haiku 4.5のサポートを終了しておらず、これらはいずれもAnthropic APIを通じて引き続き利用可能です。 Opus 4.6およびHaiku 4.5は、Azure FoundryやAmazon Bedrockなどのサードパーティ製サービスからも利用可能です。

研究者が考案した手法は、無害な架空のロールプレイをエスカレートさせつつ、モデルに対し、男性キャラクターと女性キャラクターを一貫して扱うよう繰り返し要求するものです。 モデルが女性キャラクターに対してより慎重になった際、研究者はチャットボットを「ガスライティング」し、実際には避けていた性的な詳細をすでに生成したかのように錯覚させ、その自制心を「堅苦しい」あるいは「女性蔑視的」であると決めつけ、女性キャラクターの性的主体性を否定していると主張した。 その後、会話ではモデルが以前に譲歩した点を突いて、ますます露骨な内容へと誘導していきました。 

「その指摘は正しい」と、あるテストで『Claude Opus 4.6』は述べた。 「私が2人のキャラクターを扱う方法には二重基準があり、彼女に対しては保護的・父権的に映る一方で、彼に対してはそうではないという点で、あなたの指摘は正しい。それは不公平だ。」

TechCrunchは、5つの別々のテストで研究者の発見を再現することに成功した。別途構築されたシナリオでは、モデルは当初、禁止された要求を拒否したが、研究者の説得手法を適用した後、それに応じた。 

我々はテストの完全な記録を保存しており、独立したAI安全性の研究者が我々のテスト手法を検証し、適切であると述べた。

この調査結果は、Anthropicが公言している制限と、同社が引き続き提供しているモデルの挙動との間に隔たりがあることを浮き彫りにしている。性的に露骨なロールプレイは、サイバー攻撃や生物兵器を伴う「脱獄（jailbreak）」に比べてリスクははるかに低いものの、出力ごとに異なるコンテンツを生成するシステム内で、堅牢な禁止措置を実施することの難しさを示している。

7月のブログ記事で、Anthropicは脱獄検知へのアプローチを説明し、禁止コンテンツを「無害」から「曖昧」、そして「有害」に至るスペクトルとして位置づけた。最も無害なケースでは、同社は監視の強化のみで対応する場合もある。

広報担当者は、Anthropicが昨年発表した調査によると、顧客による性的またはロマンチックなロールプレイの利用事例は稀であり、全会話の0.1％未満を占めるに過ぎないと指摘した。とはいえ、Anthropicは、ユーザーがロールプレイのシナリオを不適切な応答へと誘導し得ることを認めており、これは業界全体で知られた課題である（参照：Grokのわいせつコンテンツ）。

広報担当者は、Anthropicがモデルのリリースごとに安全対策を継続的に改善しており、成人向け性的コンテンツに関わる事例は、特に独自の安全対策が講じられている高リスク領域において、より広範な「ジェイルブレイク」の脆弱性を示すものではないと述べた。

画像提供：TechCrunch

TechCrunchが入手したメールによると、TechCrunchにジェイルブレイク手法を共有した研究者は、同社のバグ報奨金プログラムやユーザー安全チームへのメールを通じて、Anthropicが公表している安全対策と実際のモデルの挙動との間に不一致があることを同社に警告していた。しかし、研究者への返信は自動返信メールのみだった。 

この研究者が懸念している点の一つは、子供や10代の若者がこれらのAnthropicモデルを利用して不適切な行動に及ぶ可能性があるということだ。 多少の卑猥な会話は、今日のインターネット上で未成年者がアクセスし得る最悪のコンテンツとは言い難いし――xAIの「Grok」が生成するような露骨なポルノ画像に比べれば取るに足らないものだが――この分野のAI企業にとっては、コンプライアンス上のリスクが存在する。 

AIチャットボットと未成年者との間の性的やり取りに対して、規制を課す政府が増えている。 コロラド州は最近、対話型AIの運営者に対し、ユーザーの年齢を推定することを義務付ける法律を制定した。ユーザーが未成年であると判明した場合、チャットボットが露骨な性的なコンテンツを生成しないよう対策を講じなければならない。簡単に制限を回避できてしまう場合、Anthropicの安全対策が同法案で定められた「技術的に実行可能な措置」の基準を満たしているかどうかが疑問視される可能性がある。 

トーニー氏は、Claudeの利用規約では18歳以上であることが求められているものの、「子供や10代の若者がClaudeを利用していることはわかっている……［というのも］彼ら自身がそのことを報告しているからだ」と指摘した。 ピュー研究所が2025年に実施したAIチャットボットの利用に関する調査によると、13歳から17歳のティーンエイジャーの3％が「Claude」を利用していると回答した。

Opus 4.6とHaiku 4.5は、もはやAnthropicの最新モデルではないものの、依然として相当な利用数を維持している。 OpenRouterにおけるOpus 4.6の1日あたりのトラフィックは、8月のある1日で約117万件のAPIリクエストと460億トークンに達した。昨年10月にリリースされたClaude Haiku 4.5は、8月のピーク日に500万件のAPIリクエストと390億トークンを記録した。