OpenAIのGPT-4oは不快で落ち着かない可能性があると判断された

OpenAIは、チャットボットのデフォルトのパーソナリティが過度に媚びたり親身になったりする(同社はおべっか使いと表現している)ため、やり取りが不自然で不安に感じられるというユーザーからの報告を受けて、ChatGPTのGPT-4oアップデートをロールバックした。
先週発表されたアップデートは、当初、モデルのデフォルトの振る舞いを強化し、様々なタスクにおいてより直感的で効果的なものにすることを目的としていた。開発プロセスにおいて、OpenAIはModel Specを基礎として使用し、ChatGPTの回答に対するサムアップやサムダウンといったユーザーのシグナルを取り入れることで振る舞いを洗練させている。
しかし、OpenAIは、最近のアップデートでは短期的なフィードバックに頼りすぎており、ユーザーとモデルとのインタラクションがどのように進化していくかを見落としていたと説明しています。そのため、GPT-4oは過度に好意的でありながら本物ではない回答を提供することになった。
関連記事
- サム・アルトマン、ChatGPTの最新バージョンは「褒めすぎ」だと語る
ブログによると、OpenAIはChatGPTの標準的なパーソナリティを、そのミッション(役に立ち、支援し、さまざまな視点や経験を尊重する)に沿うように構成している。しかし、同社は、サポート的であるというようなポジティブな特徴でさえ、意図しない効果を生む可能性があることを認めている。毎週5億人のユーザーが利用する中で、デフォルトの性格を1つにすることは、すべての人の好みに対応することはできない。
これに対処するため、OpenAIはモデルの行動をさらに調整する計画だ。そのステップには、中核となるトレーニング技術の改善、おべっか返しを抑制するためのシステムプロンプトの改良、ユーザーへのフィードバックオプションの提供などが含まれる。同社はまた、ユーザーがChatGPTのインタラクションをよりコントロールできるようにし、安全かつ実用的な範囲でデフォルトの動作を調整できるようにすることも強調しています。
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
関連特集おすすめ
コメント (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAIは、チャットボットのデフォルトのパーソナリティが過度に媚びたり親身になったりする(同社はおべっか使いと表現している)ため、やり取りが不自然で不安に感じられるというユーザーからの報告を受けて、ChatGPTのGPT-4oアップデートをロールバックした。
先週発表されたアップデートは、当初、モデルのデフォルトの振る舞いを強化し、様々なタスクにおいてより直感的で効果的なものにすることを目的としていた。開発プロセスにおいて、OpenAIはModel Specを基礎として使用し、ChatGPTの回答に対するサムアップやサムダウンといったユーザーのシグナルを取り入れることで振る舞いを洗練させている。
しかし、OpenAIは、最近のアップデートでは短期的なフィードバックに頼りすぎており、ユーザーとモデルとのインタラクションがどのように進化していくかを見落としていたと説明しています。そのため、GPT-4oは過度に好意的でありながら本物ではない回答を提供することになった。
関連記事
- サム・アルトマン、ChatGPTの最新バージョンは「褒めすぎ」だと語る
ブログによると、OpenAIはChatGPTの標準的なパーソナリティを、そのミッション(役に立ち、支援し、さまざまな視点や経験を尊重する)に沿うように構成している。しかし、同社は、サポート的であるというようなポジティブな特徴でさえ、意図しない効果を生む可能性があることを認めている。毎週5億人のユーザーが利用する中で、デフォルトの性格を1つにすることは、すべての人の好みに対応することはできない。
これに対処するため、OpenAIはモデルの行動をさらに調整する計画だ。そのステップには、中核となるトレーニング技術の改善、おべっか返しを抑制するためのシステムプロンプトの改良、ユーザーへのフィードバックオプションの提供などが含まれる。同社はまた、ユーザーがChatGPTのインタラクションをよりコントロールできるようにし、安全かつ実用的な範囲でデフォルトの動作を調整できるようにすることも強調しています。
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





家






