ChatGPT、ネットワークを停止せずにデータ盗難を防ぐ「緊急ブロックモード」を導入
機密データの悪意ある盗難を防止するため、OpenAIはログイン中のすべてのユーザー向けに、「インシデントモード」と呼ばれる新しいオプションのセキュリティ機能を導入しました。この設定は、さまざまなアカウントタイプやワークスペースに適用され、ユーザーと管理者の双方が有効化を選択できます。 有効化されると、ChatGPTはリアルタイムのウェブ検索、詳細な調査、およびエージェント機能を制限します。これは、モデルが外部ネットワークへのリクエストを行う能力を制限することで、プロンプトインジェクション攻撃に対するセキュリティの障壁を構築することを目的としています。

データ漏洩を防ぐためのWebアクセス制限
インシデントモードでは、ChatGPTのリアルタイムWeb閲覧はキャッシュされたコンテンツのみに厳格に制限されるため、検索結果が不完全になったり、古くなったりする可能性があります。 さらに、モデルはデータ分析のためにインターネットからファイルをダウンロードできず、Canvasによって生成されたコードによる外部ネットワークへのリクエストも禁止されます。ただし、ユーザーがアップロードした画像、ツールで生成された画像、会話履歴などのローカル機能については、このモードの影響を受けません。
セキュリティに関する決定権をユーザーに委ねる
プロンプトインジェクション攻撃とは、攻撃者がウェブページや文書に悪意のある指示を埋め込み、AIを騙して既存のルールを無視させ、ユーザーの機密情報を外部サーバーに送信させる攻撃です。OpenAIは、悪意のあるコードがキャッシュされたウェブページやユーザーがアップロードしたファイルに隠されている可能性があるため、インシデントモードではこのような攻撃を完全に排除できないことを認めています。 AIの機能強化に伴い攻撃対象領域も拡大するという現実を踏まえ、OpenAIは「機能の強化」と「データ漏洩リスクの低減」というトレードオフの判断を、ユーザー自身に委ねることを選択しました。
関連記事
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
関連特集おすすめ
コメント (0)
0/500
機密データの悪意ある盗難を防止するため、OpenAIはログイン中のすべてのユーザー向けに、「インシデントモード」と呼ばれる新しいオプションのセキュリティ機能を導入しました。この設定は、さまざまなアカウントタイプやワークスペースに適用され、ユーザーと管理者の双方が有効化を選択できます。 有効化されると、ChatGPTはリアルタイムのウェブ検索、詳細な調査、およびエージェント機能を制限します。これは、モデルが外部ネットワークへのリクエストを行う能力を制限することで、プロンプトインジェクション攻撃に対するセキュリティの障壁を構築することを目的としています。

データ漏洩を防ぐためのWebアクセス制限
インシデントモードでは、ChatGPTのリアルタイムWeb閲覧はキャッシュされたコンテンツのみに厳格に制限されるため、検索結果が不完全になったり、古くなったりする可能性があります。 さらに、モデルはデータ分析のためにインターネットからファイルをダウンロードできず、Canvasによって生成されたコードによる外部ネットワークへのリクエストも禁止されます。ただし、ユーザーがアップロードした画像、ツールで生成された画像、会話履歴などのローカル機能については、このモードの影響を受けません。
セキュリティに関する決定権をユーザーに委ねる
プロンプトインジェクション攻撃とは、攻撃者がウェブページや文書に悪意のある指示を埋め込み、AIを騙して既存のルールを無視させ、ユーザーの機密情報を外部サーバーに送信させる攻撃です。OpenAIは、悪意のあるコードがキャッシュされたウェブページやユーザーがアップロードしたファイルに隠されている可能性があるため、インシデントモードではこのような攻撃を完全に排除できないことを認めています。 AIの機能強化に伴い攻撃対象領域も拡大するという現実を踏まえ、OpenAIは「機能の強化」と「データ漏洩リスクの低減」というトレードオフの判断を、ユーザー自身に委ねることを選択しました。
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@





家






