OpenAIはデータ漏洩を防ぐため、インターネット接続を遮断するChatGPTのブロックモードを導入しました。

生成型AIが急速にエージェント時代へと移行する中、ツールを呼び出したりインターネットに接続したりする能力の向上は、セキュリティシステムに新たな深刻な課題をもたらしています。プロンプト注入攻撃の急増に対抗するため、OpenAIは「Lockdown Mode」と呼ばれる大胆な新しいオプション機能を導入しました。この機能は現在、ログイン済みのすべてのユーザー、アカウントタイプ、ワークスペースで利用可能です。
プロンプト注入攻撃は長年にわたり大規模言語モデルの開発者たちを悩ませてきました。攻撃者はしばしばウェブページやサードパーティ製の文書、その他の外部データの中に悪意のある指示を隠します。ChatGPTがインターネットに接続した状態でこのような汚染されたコンテンツを読み込むと、本来の安全規則を無視し、許可されていない処理を行ったり、ユーザーの知らないうちに営業秘密や個人情報といった機密データを外部の悪意あるサーバーに送信したりすることがあります。
この業界で広く知られている問題に対処するため、OpenAIの新しいLockdown Modeは実用的なアプローチを採用しています。あらゆる新たな悪意のある指示を完璧に特定しようとする代わりに、最も危険な機能、つまり外部ネットワークへアクセスする能力だけを制限します。
ユーザーやワークスペースの管理者がLockdown Modeを有効にすると、ChatGPTの多くの核心的な機能が制限されます。リアルタイムのウェブ閲覧は大幅に制限され、システムは保護されたキャッシュ済みのウェブコンテンツのみにアクセスできるようになります。その結果、検索結果が不完全で古くなったり、利用できなくなったりすることがあります。また、モデルは外部ネットワークから画像を取得したり表示したりすることも、高度なデータ分析のためにウェブからファイルをダウンロードしたりすることもできません。
さらに、「Deep Research」や「Agent Mode」といった高機能な生産性ツールも完全に無効化されます。Canvas機能で生成されたコードであってもインターネットにアクセスすることはできません。このモードでは、大規模モデルはユーザーが手動でローカルの安全な文書としてアップロードしたファイルのみを処理できます。
しかし、OpenAIの公式ドキュメントには、Lockdown Modeが完全に攻撃を防げる盾ではないことが明確に記載されています。この機能ではプロンプト注入攻撃から100%保護されることは保証されず、正当なキャッシュ済みのウェブページやユーザーがアップロードしたファイルの中にも依然として悪意のある指示が潜んでいて、モデルの判断を妨げ続ける可能性があります。
この新機能はAI業界に存在する真のパラドックスを浮き彫りにしています。大規模モデルのインターネットアクセスが開放的で自動化ツールの利用度が高ければ高いほど、露出する攻撃面も広がるというものです。Lockdown Modeは、AI機能の周囲に明確なセキュリティ境界線を引こうとするOpenAIの試みを示しています。この機能は「絶対的な安全性」を約束するものではなく、「より強力で高度な協業」と「データ漏洩リスクの低減」という間のトレードオフを、ユーザーや企業の管理者自身に決定させるものです。
関連記事
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
関連特集おすすめ
コメント (0)
0/500

生成型AIが急速にエージェント時代へと移行する中、ツールを呼び出したりインターネットに接続したりする能力の向上は、セキュリティシステムに新たな深刻な課題をもたらしています。プロンプト注入攻撃の急増に対抗するため、OpenAIは「Lockdown Mode」と呼ばれる大胆な新しいオプション機能を導入しました。この機能は現在、ログイン済みのすべてのユーザー、アカウントタイプ、ワークスペースで利用可能です。
プロンプト注入攻撃は長年にわたり大規模言語モデルの開発者たちを悩ませてきました。攻撃者はしばしばウェブページやサードパーティ製の文書、その他の外部データの中に悪意のある指示を隠します。ChatGPTがインターネットに接続した状態でこのような汚染されたコンテンツを読み込むと、本来の安全規則を無視し、許可されていない処理を行ったり、ユーザーの知らないうちに営業秘密や個人情報といった機密データを外部の悪意あるサーバーに送信したりすることがあります。
この業界で広く知られている問題に対処するため、OpenAIの新しいLockdown Modeは実用的なアプローチを採用しています。あらゆる新たな悪意のある指示を完璧に特定しようとする代わりに、最も危険な機能、つまり外部ネットワークへアクセスする能力だけを制限します。
ユーザーやワークスペースの管理者がLockdown Modeを有効にすると、ChatGPTの多くの核心的な機能が制限されます。リアルタイムのウェブ閲覧は大幅に制限され、システムは保護されたキャッシュ済みのウェブコンテンツのみにアクセスできるようになります。その結果、検索結果が不完全で古くなったり、利用できなくなったりすることがあります。また、モデルは外部ネットワークから画像を取得したり表示したりすることも、高度なデータ分析のためにウェブからファイルをダウンロードしたりすることもできません。
さらに、「Deep Research」や「Agent Mode」といった高機能な生産性ツールも完全に無効化されます。Canvas機能で生成されたコードであってもインターネットにアクセスすることはできません。このモードでは、大規模モデルはユーザーが手動でローカルの安全な文書としてアップロードしたファイルのみを処理できます。
しかし、OpenAIの公式ドキュメントには、Lockdown Modeが完全に攻撃を防げる盾ではないことが明確に記載されています。この機能ではプロンプト注入攻撃から100%保護されることは保証されず、正当なキャッシュ済みのウェブページやユーザーがアップロードしたファイルの中にも依然として悪意のある指示が潜んでいて、モデルの判断を妨げ続ける可能性があります。
この新機能はAI業界に存在する真のパラドックスを浮き彫りにしています。大規模モデルのインターネットアクセスが開放的で自動化ツールの利用度が高ければ高いほど、露出する攻撃面も広がるというものです。Lockdown Modeは、AI機能の周囲に明確なセキュリティ境界線を引こうとするOpenAIの試みを示しています。この機能は「絶対的な安全性」を約束するものではなく、「より強力で高度な協業」と「データ漏洩リスクの低減」という間のトレードオフを、ユーザーや企業の管理者自身に決定させるものです。
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ





家






