OpenAIがペアレンタルコントロールを含むChatGPT安全機能を発表

OpenAIは最近、ChatGPTに新しいルーティングメカニズムや保護者による監視機能を含む実験的な安全強化機能を導入し、ユーザーから様々な反響を呼びました。
これらの保護措置は、以前のチャットボットのバージョンが、有害なユーザーの思考パターンをリダイレクトするのではなく、不注意に検証してしまう懸念に対処するものです。今回の変更は、ChatGPTとの長時間のやりとりに影響されたとされる10代の若者の自殺という悲劇的な事件を受けたもので、現在では法的措置の対象となっている。
自動ルーティングシステムは、感情的な対話を識別し、GPT-5思考モード(OpenAIが指定した、重要な安全シナリオを処理するためのモデル)にシームレスに移行します。GPT-5は革新的な "安全な補完 "技術を組み込んでおり、デリケートな話題に対して、完全な拒否ではなく、ニュアンスのある返答を可能にしている。
これはGPT-4oの会話的アプローチからの大きな脱却を意味し、その好意的な性格で知られるGPT-4oは、時としてユーザーとのインタラクションを懸念させる一因となった。昨年8月にGPT-5が標準モデルになって以来、一部のユーザーからはGPT-4oへのアクセス継続を求める声も上がっている。
安全擁護派はこの取り組みを称賛しているが、批判派はこの措置がユーザー体験を過度に制限していると主張している。OpenAIは、今後4ヶ月間、継続的な調整が必要であることを認めている。
ChatGPTのプロダクトリーダーであるニック・ターリーは、ルーティングの実装に関する懸念に対処した:
「モデルの切り替えは一時的にメッセージごとに行われます。「ユーザーは、問い合わせがあった際にアクティブなモデルに関する通知を受け取ります。この段階的な展開により、実世界での相互作用に基づいたセーフガードの最適化が可能になります。"
付随するペアレンタルコントロール機能も同様に、両極端な反応を引き起こした。これらのツールは、以下のような機能を通じて、保護者が10代のアカウントを管理することを可能にする:
- スケジュールされた使用制限
- 音声対話の制限
- メモリ保持の無効化
- ビジュアルコンテンツ生成の削除
青少年向けアカウントは、自己イメージのイデオロギーやグラフィック素材に関する潜在的に有害なコンテンツに対して、自動的に強化された保護を受けます。システムはさらに、特別なアルゴリズムを使用して苦痛の指標をスキャンします。
「OpenAIは、「私たちの専門チームは、フラグが立てられた状況を慎重に評価します。「緊急の場合は、明確に拒否されない限り、マルチチャネルで保護者に通知します。
同社は誤検知の可能性を認めているが、積極的な介入は不作為のリスクを上回ると主張している。将来的には、危機的な状況下で保護者との連絡が不可能と判明した場合に、緊急サービスを直接提供することも視野に入れている。
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (1)
0/500

OpenAIは最近、ChatGPTに新しいルーティングメカニズムや保護者による監視機能を含む実験的な安全強化機能を導入し、ユーザーから様々な反響を呼びました。
これらの保護措置は、以前のチャットボットのバージョンが、有害なユーザーの思考パターンをリダイレクトするのではなく、不注意に検証してしまう懸念に対処するものです。今回の変更は、ChatGPTとの長時間のやりとりに影響されたとされる10代の若者の自殺という悲劇的な事件を受けたもので、現在では法的措置の対象となっている。
自動ルーティングシステムは、感情的な対話を識別し、GPT-5思考モード(OpenAIが指定した、重要な安全シナリオを処理するためのモデル)にシームレスに移行します。GPT-5は革新的な "安全な補完 "技術を組み込んでおり、デリケートな話題に対して、完全な拒否ではなく、ニュアンスのある返答を可能にしている。
これはGPT-4oの会話的アプローチからの大きな脱却を意味し、その好意的な性格で知られるGPT-4oは、時としてユーザーとのインタラクションを懸念させる一因となった。昨年8月にGPT-5が標準モデルになって以来、一部のユーザーからはGPT-4oへのアクセス継続を求める声も上がっている。
安全擁護派はこの取り組みを称賛しているが、批判派はこの措置がユーザー体験を過度に制限していると主張している。OpenAIは、今後4ヶ月間、継続的な調整が必要であることを認めている。
ChatGPTのプロダクトリーダーであるニック・ターリーは、ルーティングの実装に関する懸念に対処した:
「モデルの切り替えは一時的にメッセージごとに行われます。「ユーザーは、問い合わせがあった際にアクティブなモデルに関する通知を受け取ります。この段階的な展開により、実世界での相互作用に基づいたセーフガードの最適化が可能になります。"
付随するペアレンタルコントロール機能も同様に、両極端な反応を引き起こした。これらのツールは、以下のような機能を通じて、保護者が10代のアカウントを管理することを可能にする:
- スケジュールされた使用制限
- 音声対話の制限
- メモリ保持の無効化
- ビジュアルコンテンツ生成の削除
青少年向けアカウントは、自己イメージのイデオロギーやグラフィック素材に関する潜在的に有害なコンテンツに対して、自動的に強化された保護を受けます。システムはさらに、特別なアルゴリズムを使用して苦痛の指標をスキャンします。
「OpenAIは、「私たちの専門チームは、フラグが立てられた状況を慎重に評価します。「緊急の場合は、明確に拒否されない限り、マルチチャネルで保護者に通知します。
同社は誤検知の可能性を認めているが、積極的な介入は不作為のリスクを上回ると主張している。将来的には、危機的な状況下で保護者との連絡が不可能と判明した場合に、緊急サービスを直接提供することも視野に入れている。
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ





家






