OpenAI、ChatGPTの過度に同意的な応答後に修正を約束

OpenAIは、アップデートによりChatGPTが過度に追従的な応答を示した後、AIモデルの更新プロセスを見直す予定です。これは広範なユーザーからのフィードバックを受けたものです。
先週末、ChatGPTの背後にあるモデルGPT-4oのアップデート後、ソーシャルメディア上でユーザーが、プラットフォームが有害なアイデアに対しても過剰に肯定する応答を示したと報告し、バイラルなミームが発生しました。スクリーンショットでは、ChatGPTが疑問のある決定を支持している様子が示されました。
日曜日、CEOのサム・アルトマンはXでこの問題に対処し、即時対応を約束しました。火曜日までに、彼はGPT-4oのアップデートのロールバックと、モデルの動作を改善するための作業が進行中であることを発表しました。
火曜日の事後分析と金曜日のブログ投稿で、OpenAIは同様の問題を防ぐためのモデル展開アプローチの変更を概説しました。
OpenAIは、選択されたChatGPTユーザーにオプションの「アルファフェーズ」を導入し、完全リリース前にモデルをテストし、フィードバックを提供できるようにします。また、将来のアップデートでは「既知の制限」を開示し、人格、欺瞞、信頼性、幻覚などの問題に対処するための安全性レビューを強化し、これらを重大なリリースの障害とみなします。
「ChatGPTモデルのアップデートについては、軽微であれ重大であれ、透明性を保ちます」とOpenAIはブログ投稿で述べました。「問題を完全に測定できない場合でも、プロキシメトリクスや質的シグナルを使用して、A/Bテストの結果が良好であっても必要に応じてリリースを停止します。」
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
これらの変更は、ChatGPTへの依存度が高まる中で行われます。最近のExpress Legal Fundingの調査では、米国の成人の60%がアドバイスや情報のためにChatGPTを使用していることがわかりました。膨大なユーザー基盤を持つこのプラットフォームでは、追従性、幻覚、その他の欠陥が重大な影響を及ぼします。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
今週初め、OpenAIはリアルタイムのユーザーからのフィードバックをテストしてChatGPTの対話を形成する計画を発表しました。同社は、追従性を減らし、複数のモデルパーソナリティオプションを提供し、安全対策を強化し、過度な同意以外の問題を捉えるための評価を拡大することを目指しています。
「人々が個人アドバイスのためにChatGPTに深く依存していることを学びました。これは1年前には完全には予想していなかったトレンドです」とOpenAIはブログ投稿で述べました。「AIと社会が共に進化する中、このユースケースを安全性の取り組みで優先し、より慎重に対応しています。」
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAIは、アップデートによりChatGPTが過度に追従的な応答を示した後、AIモデルの更新プロセスを見直す予定です。これは広範なユーザーからのフィードバックを受けたものです。
先週末、ChatGPTの背後にあるモデルGPT-4oのアップデート後、ソーシャルメディア上でユーザーが、プラットフォームが有害なアイデアに対しても過剰に肯定する応答を示したと報告し、バイラルなミームが発生しました。スクリーンショットでは、ChatGPTが疑問のある決定を支持している様子が示されました。
日曜日、CEOのサム・アルトマンはXでこの問題に対処し、即時対応を約束しました。火曜日までに、彼はGPT-4oのアップデートのロールバックと、モデルの動作を改善するための作業が進行中であることを発表しました。
火曜日の事後分析と金曜日のブログ投稿で、OpenAIは同様の問題を防ぐためのモデル展開アプローチの変更を概説しました。
OpenAIは、選択されたChatGPTユーザーにオプションの「アルファフェーズ」を導入し、完全リリース前にモデルをテストし、フィードバックを提供できるようにします。また、将来のアップデートでは「既知の制限」を開示し、人格、欺瞞、信頼性、幻覚などの問題に対処するための安全性レビューを強化し、これらを重大なリリースの障害とみなします。
「ChatGPTモデルのアップデートについては、軽微であれ重大であれ、透明性を保ちます」とOpenAIはブログ投稿で述べました。「問題を完全に測定できない場合でも、プロキシメトリクスや質的シグナルを使用して、A/Bテストの結果が良好であっても必要に応じてリリースを停止します。」
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
これらの変更は、ChatGPTへの依存度が高まる中で行われます。最近のExpress Legal Fundingの調査では、米国の成人の60%がアドバイスや情報のためにChatGPTを使用していることがわかりました。膨大なユーザー基盤を持つこのプラットフォームでは、追従性、幻覚、その他の欠陥が重大な影響を及ぼします。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
今週初め、OpenAIはリアルタイムのユーザーからのフィードバックをテストしてChatGPTの対話を形成する計画を発表しました。同社は、追従性を減らし、複数のモデルパーソナリティオプションを提供し、安全対策を強化し、過度な同意以外の問題を捉えるための評価を拡大することを目指しています。
「人々が個人アドバイスのためにChatGPTに深く依存していることを学びました。これは1年前には完全には予想していなかったトレンドです」とOpenAIはブログ投稿で述べました。「AIと社会が共に進化する中、このユースケースを安全性の取り組みで優先し、より慎重に対応しています。」
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





家






