家Anthropic、クロードモデル向けに虐待チャットを終了させる機能を導入
Anthropicは、同社が言うところの "継続的に有害または虐待的なユーザーとのやり取りが行われる稀で極端なケース "において、一部の高度なモデルが会話を終了することを可能にする新機能を導入した。Anthropicは、この措置は人間のユーザーを保護するためではなく、AIモデル自体を保護するために実施されるとしている。
明確にしておくと、同社はクロードAIモデルが感覚を持っているとか、ユーザーとの会話から危害を受ける可能性があると主張しているわけではない。Anthropic社が説明するように、同社は依然として "クロードや他の大規模な言語モデルの潜在的な道徳的地位については、現在も将来も非常に不確か "である。
とはいえ、この発表では「モデルの福祉」を検討する最近設立されたプログラムについて言及しており、Anthropicが「モデルの福祉に関わるリスクを軽減するために、低コストの介入を特定し、実施する」ことで予防的なアプローチを採用していることを示している。
この新機能は現在、クロード・オーパス4と4.1モデルに限定されており、「未成年者を含む性的コンテンツの要求や、大規模な暴力やテロ活動を可能にする情報を入手しようとする試み」のような「極端なエッジケース」のために特別に設計されている。
このような要求は、Anthropicにとって法的または広報的な問題を引き起こす可能性がありますが（ChatGPTが潜在的にユーザーの妄想を強化するという最近の報道に見られるように）、同社は、展開前のテストにおいて、Claude Opus 4は、これらの要求に従うことに「強い嗜好性」を示し、応答を余儀なくされたときに「苦痛を示唆するパターン」を表示したと報告しています。
これらの新しい会話終了機能について、Anthropic社は、"クロードは、複数のリダイレクションの試みが失敗し、生産的な対話が不可能と思われる場合、またはユーザーが明確にチャットを終了するように要求した場合の最後の手段としてのみ、この機能を使用するように指示されている "と説明しています。
Anthropicはさらに、Claudeは "ユーザーが自傷行為や他人を傷つける差し迫った危険に直面するかもしれない状況では、この機能を利用しないよう指示されている "と明言している。
テッククランチのイベントテックとVCの重鎮がDisrupt 2025のアジェンダに参加
Netflix、ElevenLabs、Wayve、Sequoia Capital、Elad Gil - Disrupt 2025のアジェンダに参加する業界リーダーのほんの一部です。彼らはスタートアップの成長を加速させ、競争優位性を磨くための重要な洞察を共有する。TechCrunch Disruptの20周年記念エディションをお見逃しなく。今すぐチケットを確保し、値上げ前に600ドル以上節約しよう。
テックとVCの重鎮がDisrupt 2025のアジェンダに参加
Netflix、ElevenLabs、Wayve、Sequoia Capital - Disrupt 2025のアジェンダに参加する著名なイノベーターたち。彼らは、スタートアップの拡大を促進し、競争力のあるポジショニングを強化するための貴重な洞察を提供します。TechCrunch Disruptの20周年記念イベントにぜひご参加ください。
サンフランシスコ｜2025年10月27日-29日 今すぐ登録Anthropicは、クロードが会話を終了した場合でも、ユーザーは同じアカウントから新しい会話を開始し、以前の応答を修正することによって別の会話の分岐を作成することができると述べている。
「我々はこの機能を継続的な実験として取り組んでおり、今後も手法を改良していく」と同社は述べている。
関連記事
Anthropic、AI法テック市場に参入、競争激化
Anthropicは火曜日、法律実務に自動化されたサポートを提供することを目的とした一連の新しいチャットボットの機能を公開した。これらの強化機能は、今年初めに導入された企業固有のプラットフォーム「Claude for Legal」を拡張し、異なる法律分野に特化した専門的な法律プラグインとMCPコネクタを追加するものである。これらのツールは、法律AI分野での競争が激化する中で登場した。3月、エージェント型AIを活用して法律ワークフローを効率化するAI法律スタートアップのHarveyは、110億ド
Anthropic、新しいダイナミックワークフローツールを搭載した「Opus 4.8」をリリース
Anthropicは木曜日、同社の主力パブリックモデルである「Opus 4.8」を発表しました。価格は前バージョンと同額で、このアップデートは現在、すべてのプラットフォームで利用可能です。「Opus 4.7」のリリースからわずか41日後に公開された今回のアップデートにより、Anthropicは開発サイクルを大幅に加速させ、最近の「Sonnet」や「Haiku」のリリースで見られた3ヶ月や7ヶ月とい
Anthropicは、『Mythos』の一般公開版である『Claude Fable 5』をリリースした
Anthropicは、同社で最も高性能なAIモデルを初めて一般に公開した――ただし、安全対策が講じられている。火曜日、同社はMythosモデルの初の一般公開版となる「Claude Fable 5」をリリースした。 Anthropicによると、「Fable 5」はソフトウェアエンジニアリング、ナレッジワーク、画像処理タスクにおいて優れた性能を発揮するが、厳格な安全制限が設けられている。サイバーセキ
関連特集おすすめ
教育と学習
宿題や試験対策に役立つAI学習ツール
2026年版 宿題や試験対策に最適な最新AI学習ツール！XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう！
10 ツール
xix.ai
作曲
ソングライター向けAIボーカルデモツール：フック、トップライン、多言語のドラフトセッション
2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール！XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう！
9 ツール
xix.ai
仕事
中小企業に最適なAI競合分析ツール
2026年版 中小企業向け最新・最高評価のAI競合分析ツール！XIX.AIは、実環境での厳格なテストと詳細なランキングに基づき、毎週更新される、極めて強力で業界に革命をもたらすツールを厳選しました。無料版と有料版の包括的な比較も掲載されており、生産性を向上させ、競争優位性をもたらす「ぜひ試すべき」ツールを見つけるのに役立ちます。 今すぐチェックして、あなたにぴったりのツールを見つけましょう！
9 ツール
xix.ai
画像編集
EC用アパレル向けPhotoshop AIレタッチツール、肌のクレンジング、色の統一
2026年最新版、eコマース用アパレル向けPhotoshop AIリタッチツール、肌補正、色調統一に最適！この高評価の厳選リストは、文章作成の効率化、コンテンツ制作の簡素化、完璧な視覚結果の達成を支援する革新的なソリューションを提供しています。各ツールは週次更新ランキングを通じて実世界でテストされ、無料版と有料版の比較詳細も記載されています。XIX.AIが後援するこのガイドは、AIの優位性を最大限に引き出したい方に必見です。今すぐチェック！
10 ツール
xix.ai
プロンプト
ChatGPTワークフローに最適なAIプロンプトライブラリ
2026年版：あらゆる種類のChatGPTワークフローを最適化するための、最新かつ最高評価のAIプロンプトライブラリ。XIX.AIは、最高のパフォーマンスを保証するために厳格な実環境テストを経た、強力で画期的なコレクションを厳選しました。 無料版と有料版の詳細な比較や専門家によるランキングを参考に、生産性を高め、AIの真の力を引き出す「必試」ツールを選んでください。今すぐチェックしましょう！
11 ツール
xix.ai
教育と学習
教師、チューター、およびコホート型学習プログラム向けのAIクイズビルダープラットフォーム
2026年最新版 教師、チューター、コホート型学習プログラム向けベストAIクイズビルダープラットフォーム！XIX.AIは、実世界のテストを経て正確なランキングを提供する革新的なツールの中から、高評価のリストを厳選しました。これらの必須プラットフォームは、すべての学習シナリオにおいて、作成効率の向上、コンテンツ制作の効率化、クイズ設計の簡素化を支援します。今すぐ探索して、教育におけるAIの優位性を引き出すための完璧なツールを見つけましょう！
13 ツール
xix.ai
コメント (1)
0/500
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Anthropicは、同社が言うところの "継続的に有害または虐待的なユーザーとのやり取りが行われる稀で極端なケース "において、一部の高度なモデルが会話を終了することを可能にする新機能を導入した。Anthropicは、この措置は人間のユーザーを保護するためではなく、AIモデル自体を保護するために実施されるとしている。
明確にしておくと、同社はクロードAIモデルが感覚を持っているとか、ユーザーとの会話から危害を受ける可能性があると主張しているわけではない。Anthropic社が説明するように、同社は依然として "クロードや他の大規模な言語モデルの潜在的な道徳的地位については、現在も将来も非常に不確か "である。
とはいえ、この発表では「モデルの福祉」を検討する最近設立されたプログラムについて言及しており、Anthropicが「モデルの福祉に関わるリスクを軽減するために、低コストの介入を特定し、実施する」ことで予防的なアプローチを採用していることを示している。
この新機能は現在、クロード・オーパス4と4.1モデルに限定されており、「未成年者を含む性的コンテンツの要求や、大規模な暴力やテロ活動を可能にする情報を入手しようとする試み」のような「極端なエッジケース」のために特別に設計されている。
このような要求は、Anthropicにとって法的または広報的な問題を引き起こす可能性がありますが（ChatGPTが潜在的にユーザーの妄想を強化するという最近の報道に見られるように）、同社は、展開前のテストにおいて、Claude Opus 4は、これらの要求に従うことに「強い嗜好性」を示し、応答を余儀なくされたときに「苦痛を示唆するパターン」を表示したと報告しています。
これらの新しい会話終了機能について、Anthropic社は、"クロードは、複数のリダイレクションの試みが失敗し、生産的な対話が不可能と思われる場合、またはユーザーが明確にチャットを終了するように要求した場合の最後の手段としてのみ、この機能を使用するように指示されている "と説明しています。
Anthropicはさらに、Claudeは "ユーザーが自傷行為や他人を傷つける差し迫った危険に直面するかもしれない状況では、この機能を利用しないよう指示されている "と明言している。
テッククランチのイベントテックとVCの重鎮がDisrupt 2025のアジェンダに参加
Netflix、ElevenLabs、Wayve、Sequoia Capital、Elad Gil - Disrupt 2025のアジェンダに参加する業界リーダーのほんの一部です。彼らはスタートアップの成長を加速させ、競争優位性を磨くための重要な洞察を共有する。TechCrunch Disruptの20周年記念エディションをお見逃しなく。今すぐチケットを確保し、値上げ前に600ドル以上節約しよう。
テックとVCの重鎮がDisrupt 2025のアジェンダに参加
Netflix、ElevenLabs、Wayve、Sequoia Capital - Disrupt 2025のアジェンダに参加する著名なイノベーターたち。彼らは、スタートアップの拡大を促進し、競争力のあるポジショニングを強化するための貴重な洞察を提供します。TechCrunch Disruptの20周年記念イベントにぜひご参加ください。
サンフランシスコ｜2025年10月27日-29日 今すぐ登録Anthropicは、クロードが会話を終了した場合でも、ユーザーは同じアカウントから新しい会話を開始し、以前の応答を修正することによって別の会話の分岐を作成することができると述べている。
「我々はこの機能を継続的な実験として取り組んでおり、今後も手法を改良していく」と同社は述べている。
Anthropic、AI法テック市場に参入、競争激化
Anthropicは火曜日、法律実務に自動化されたサポートを提供することを目的とした一連の新しいチャットボットの機能を公開した。これらの強化機能は、今年初めに導入された企業固有のプラットフォーム「Claude for Legal」を拡張し、異なる法律分野に特化した専門的な法律プラグインとMCPコネクタを追加するものである。これらのツールは、法律AI分野での競争が激化する中で登場した。3月、エージェント型AIを活用して法律ワークフローを効率化するAI法律スタートアップのHarveyは、110億ド
Anthropic、新しいダイナミックワークフローツールを搭載した「Opus 4.8」をリリース
Anthropicは木曜日、同社の主力パブリックモデルである「Opus 4.8」を発表しました。価格は前バージョンと同額で、このアップデートは現在、すべてのプラットフォームで利用可能です。「Opus 4.7」のリリースからわずか41日後に公開された今回のアップデートにより、Anthropicは開発サイクルを大幅に加速させ、最近の「Sonnet」や「Haiku」のリリースで見られた3ヶ月や7ヶ月とい
Anthropicは、『Mythos』の一般公開版である『Claude Fable 5』をリリースした
Anthropicは、同社で最も高性能なAIモデルを初めて一般に公開した――ただし、安全対策が講じられている。火曜日、同社はMythosモデルの初の一般公開版となる「Claude Fable 5」をリリースした。 Anthropicによると、「Fable 5」はソフトウェアエンジニアリング、ナレッジワーク、画像処理タスクにおいて優れた性能を発揮するが、厳格な安全制限が設けられている。サイバーセキ
2026年版 宿題や試験対策に最適な最新AI学習ツール！XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう！
10 ツール
xix.ai
2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール！XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう！
9 ツール
xix.ai
2026年版 中小企業向け最新・最高評価のAI競合分析ツール！XIX.AIは、実環境での厳格なテストと詳細なランキングに基づき、毎週更新される、極めて強力で業界に革命をもたらすツールを厳選しました。無料版と有料版の包括的な比較も掲載されており、生産性を向上させ、競争優位性をもたらす「ぜひ試すべき」ツールを見つけるのに役立ちます。 今すぐチェックして、あなたにぴったりのツールを見つけましょう！
9 ツール
xix.ai
2026年最新版、eコマース用アパレル向けPhotoshop AIリタッチツール、肌補正、色調統一に最適！この高評価の厳選リストは、文章作成の効率化、コンテンツ制作の簡素化、完璧な視覚結果の達成を支援する革新的なソリューションを提供しています。各ツールは週次更新ランキングを通じて実世界でテストされ、無料版と有料版の比較詳細も記載されています。XIX.AIが後援するこのガイドは、AIの優位性を最大限に引き出したい方に必見です。今すぐチェック！
10 ツール
xix.ai
2026年版：あらゆる種類のChatGPTワークフローを最適化するための、最新かつ最高評価のAIプロンプトライブラリ。XIX.AIは、最高のパフォーマンスを保証するために厳格な実環境テストを経た、強力で画期的なコレクションを厳選しました。 無料版と有料版の詳細な比較や専門家によるランキングを参考に、生産性を高め、AIの真の力を引き出す「必試」ツールを選んでください。今すぐチェックしましょう！
11 ツール
xix.ai
2026年最新版 教師、チューター、コホート型学習プログラム向けベストAIクイズビルダープラットフォーム！XIX.AIは、実世界のテストを経て正確なランキングを提供する革新的なツールの中から、高評価のリストを厳選しました。これらの必須プラットフォームは、すべての学習シナリオにおいて、作成効率の向上、コンテンツ制作の効率化、クイズ設計の簡素化を支援します。今すぐ探索して、教育におけるAIの優位性を引き出すための完璧なツールを見つけましょう！
13 ツール
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
