Anthropic、Claudeコードの制御範囲を拡大しつつ、一定の制限を維持

AIに依存する開発者にとって、現在の「直感的なコーディング」のアプローチでは、多くの場合、すべてのアクションを綿密に監視するか、モデルに完全な自由を与えるかのいずれかとなっています。Anthropic社は、Claudeの最新アップデートにより、AIが一定の範囲内で、どのアクションを実行するのが安全かを自律的に判断できるようになり、このジレンマが解消されたと主張しています。
この動きは、AIツールが各ステップで人間の承認を必要とせずに動作するように構築されるという、業界全体の広範なトレンドを反映している。重要な課題は、スピードと監視のバランスを取ることだ。過度な安全対策は進捗を遅らせ、一方で対策が不十分だと、予測不能で危険な行動につながる恐れがある。 Anthropicの新しい「オートモード」は、現在リサーチプレビュー段階(テストは可能だが、まだ完成品ではない)にあり、このバランスを模索するための同社の最新の取り組みである。
オートモードでは、AIによる安全対策を用いて実行前に各アクションを精査し、要求されていない危険な行動や「プロンプトインジェクション」の兆候を探します。プロンプトインジェクションとは、処理中のコンテンツに悪意のある指示を埋め込み、AIを騙して意図しない行動をとらせる攻撃手法のことです。安全と判断されたアクションは自動的に実行され、危険なアクションはブロックされます。
これは本質的に、Claude Codeの既存の「dangerously-skip-permissions」コマンドの拡張版であり、すべての意思決定をAIに委ねつつ、その上に追加の安全層を構築したものです。
この機能は、GitHubやOpenAIといった企業が提供する、開発者に代わってタスクを実行できる自律型コーディングツールの最近の急増を基盤としています。しかし、ユーザーに許可を求めるタイミングの決定をAI自体に移すことで、さらに一歩進んだものとなっています。
Anthropic社は、安全層が「安全なアクション」と「リスクの高いアクション」を区別するために用いる具体的な基準については明らかにしていない。開発者がこの機能を広く採用する前に、こうした詳細をより明確に理解したいと考えるだろう。(TechCrunchはこの件に関する詳細情報を得るため、同社に問い合わせを行っている。)
「Autoモード」は、コードベースに反映される前にバグを検出する自動コードレビューツール「Claude Code Review」や、ユーザーがAIエージェントにタスクを割り当てて代わりに作業を行わせることができる「Dispatch for Cowork」に続く、Anthropicの新たな機能です。
「Autoモード」は、今後数日中にエンタープライズおよびAPIユーザー向けに提供開始される予定だ。同社によると、現時点では「Claude Sonnet 4.6」および「Opus 4.6」でのみ動作しており、この新機能は「隔離された環境」——本番システムとは切り離されたサンドボックス環境——での使用を推奨している。これにより、万が一問題が発生した場合の被害を最小限に抑えることができる。
関連記事
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
Anthropic、AI法テック市場に参入、競争激化
Anthropicは火曜日、法律実務に自動化されたサポートを提供することを目的とした一連の新しいチャットボットの機能を公開した。これらの強化機能は、今年初めに導入された企業固有のプラットフォーム「Claude for Legal」を拡張し、異なる法律分野に特化した専門的な法律プラグインとMCPコネクタを追加するものである。これらのツールは、法律AI分野での競争が激化する中で登場した。3月、エージェント型AIを活用して法律ワークフローを効率化するAI法律スタートアップのHarveyは、110億ド
OpenAI、Anthropicとの差をビジネスユーザー間で縮める、新しいデータが示す
OpenAIとAnthropicがまだ予想されるIPOや詳細な財務報告から遠く離れているため、私たちはそれらのビジネスパフォーマンスを測定するために代替指標に頼らなければならない。企業向けクレジットカードおよび経費管理プラットフォームであるRampは、最近、OpenAIが米国の企業間でAnthropicとの格差を急速に縮めていることを示す説得力のあるデータを公開した。OpenAIは以前、消費者と企業の両方で支配的な立場を占めていたが、5月にRampの有料企業ユーザーの間での首位をAnthrop
関連特集おすすめ
コメント (0)
0/500

AIに依存する開発者にとって、現在の「直感的なコーディング」のアプローチでは、多くの場合、すべてのアクションを綿密に監視するか、モデルに完全な自由を与えるかのいずれかとなっています。Anthropic社は、Claudeの最新アップデートにより、AIが一定の範囲内で、どのアクションを実行するのが安全かを自律的に判断できるようになり、このジレンマが解消されたと主張しています。
この動きは、AIツールが各ステップで人間の承認を必要とせずに動作するように構築されるという、業界全体の広範なトレンドを反映している。重要な課題は、スピードと監視のバランスを取ることだ。過度な安全対策は進捗を遅らせ、一方で対策が不十分だと、予測不能で危険な行動につながる恐れがある。 Anthropicの新しい「オートモード」は、現在リサーチプレビュー段階(テストは可能だが、まだ完成品ではない)にあり、このバランスを模索するための同社の最新の取り組みである。
オートモードでは、AIによる安全対策を用いて実行前に各アクションを精査し、要求されていない危険な行動や「プロンプトインジェクション」の兆候を探します。プロンプトインジェクションとは、処理中のコンテンツに悪意のある指示を埋め込み、AIを騙して意図しない行動をとらせる攻撃手法のことです。安全と判断されたアクションは自動的に実行され、危険なアクションはブロックされます。
これは本質的に、Claude Codeの既存の「dangerously-skip-permissions」コマンドの拡張版であり、すべての意思決定をAIに委ねつつ、その上に追加の安全層を構築したものです。
この機能は、GitHubやOpenAIといった企業が提供する、開発者に代わってタスクを実行できる自律型コーディングツールの最近の急増を基盤としています。しかし、ユーザーに許可を求めるタイミングの決定をAI自体に移すことで、さらに一歩進んだものとなっています。
Anthropic社は、安全層が「安全なアクション」と「リスクの高いアクション」を区別するために用いる具体的な基準については明らかにしていない。開発者がこの機能を広く採用する前に、こうした詳細をより明確に理解したいと考えるだろう。(TechCrunchはこの件に関する詳細情報を得るため、同社に問い合わせを行っている。)
「Autoモード」は、コードベースに反映される前にバグを検出する自動コードレビューツール「Claude Code Review」や、ユーザーがAIエージェントにタスクを割り当てて代わりに作業を行わせることができる「Dispatch for Cowork」に続く、Anthropicの新たな機能です。
「Autoモード」は、今後数日中にエンタープライズおよびAPIユーザー向けに提供開始される予定だ。同社によると、現時点では「Claude Sonnet 4.6」および「Opus 4.6」でのみ動作しており、この新機能は「隔離された環境」——本番システムとは切り離されたサンドボックス環境——での使用を推奨している。これにより、万が一問題が発生した場合の被害を最小限に抑えることができる。
Anthropic、AI法テック市場に参入、競争激化
Anthropicは火曜日、法律実務に自動化されたサポートを提供することを目的とした一連の新しいチャットボットの機能を公開した。これらの強化機能は、今年初めに導入された企業固有のプラットフォーム「Claude for Legal」を拡張し、異なる法律分野に特化した専門的な法律プラグインとMCPコネクタを追加するものである。これらのツールは、法律AI分野での競争が激化する中で登場した。3月、エージェント型AIを活用して法律ワークフローを効率化するAI法律スタートアップのHarveyは、110億ド
OpenAI、Anthropicとの差をビジネスユーザー間で縮める、新しいデータが示す
OpenAIとAnthropicがまだ予想されるIPOや詳細な財務報告から遠く離れているため、私たちはそれらのビジネスパフォーマンスを測定するために代替指標に頼らなければならない。企業向けクレジットカードおよび経費管理プラットフォームであるRampは、最近、OpenAIが米国の企業間でAnthropicとの格差を急速に縮めていることを示す説得力のあるデータを公開した。OpenAIは以前、消費者と企業の両方で支配的な立場を占めていたが、5月にRampの有料企業ユーザーの間での首位をAnthrop





家






