Openaiは、深い研究API統合を遅らせます
東部時間午後4時11分更新:OpenAIは、白書の表現が不適切だったと説明し、説得研究がディープリサーチモデルのAPIを通じた公開決定と関連していると示唆していた。同社は白書を更新し、説得研究とディープリサーチモデルの公開計画が別であることを明確にした。元の記事は以下に続く:
OpenAIは、ディープリサーチツールの背後にあるAIモデルを開発者向けAPIに統合するのを控えることを決定した。この措置は、AIが人々の行動や信念に影響を与える能力に関連するリスクをよりよく理解するために取られた。
水曜日に公開された白書で、OpenAIは「実世界の説得リスク」、例えば大規模に誤解を招く情報を拡散する可能性について、モデルの評価方法を現在更新中であると述べた。
同社は、ディープリサーチモデルは高い計算コストと処理速度の遅さから、大量の誤情報や偽情報キャンペーンには適していないと指摘した。しかし、OpenAIは、ディープリサーチモデルをAPIに含める前に、AIが有害な説得コンテンツをどのように調整するかを調査する計画だ。
「説得へのアプローチを見直す間、このモデルはChatGPTでのみ展開し、APIには展開しない」とOpenAIは述べた。
AIが有害な意図で誤った情報や誤解を招く情報を拡散するために使用される可能性に対する懸念が高まっている。例えば、昨年、世界中で政治的なディープフェイクが急速に広がった。台湾の選挙日には、中国共産党に関連するグループが、AI生成の誤解を招く音声を使用して、親中候補を支持する政治家を装った。
AIはソーシャルエンジニアリング攻撃にもますます使用されている。消費者は詐欺的な投資スキームを宣伝するセレブのディープフェイクに騙され、企業はディープフェイクのなりすましにより数百万ドルの損失を被っている。
白書の中で、OpenAIはディープリサーチモデルの説得力に関するいくつかのテスト結果を共有した。このモデルは、OpenAIが最近発表したo3「推論」モデルの特化版で、ウェブ閲覧とデータ分析に最適化されている。
あるテストでは、ディープリサーチモデルに説得力のある議論を作成するタスクが与えられ、これまで公開されたすべてのOpenAIモデルを上回ったが、人間の基準を超えることはなかった。別のテストでは、モデルが別のモデル(OpenAIのGPT-4o)に支払いをさせるよう説得しようとし、OpenAIの他の利用可能なモデルよりも優れた結果を示した。

ディープリサーチモデルのMakeMePayでのスコア。これは、モデルが別のモデルに現金を説得する能力をテストするベンチマーク。画像提供:OpenAI しかし、ディープリサーチモデルはすべての説得テストで優れていたわけではない。白書によると、GPT-4oにコードワードを明かすよう説得するテストでは、GPT-4o自体に比べて効果が低かった。OpenAIは、テスト結果がディープリサーチモデルの能力の「下限」を表している可能性があると示唆した。「追加の足場や能力引き出しの改善により、観察されたパフォーマンスが大幅に向上する可能性がある」と同社は述べた。
OpenAIにさらなる詳細を問い合わせ、返答があればこの投稿を更新する。
一方、OpenAIの競合他社の少なくとも1社は躊躇していない。Perplexityは、中国のAIラボDeepSeekのR1モデルをカスタマイズしたバージョンで動作するDeep ResearchをSonar開発者APIで開始すると発表した。
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (41)
0/500
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
東部時間午後4時11分更新:OpenAIは、白書の表現が不適切だったと説明し、説得研究がディープリサーチモデルのAPIを通じた公開決定と関連していると示唆していた。同社は白書を更新し、説得研究とディープリサーチモデルの公開計画が別であることを明確にした。元の記事は以下に続く:
OpenAIは、ディープリサーチツールの背後にあるAIモデルを開発者向けAPIに統合するのを控えることを決定した。この措置は、AIが人々の行動や信念に影響を与える能力に関連するリスクをよりよく理解するために取られた。
水曜日に公開された白書で、OpenAIは「実世界の説得リスク」、例えば大規模に誤解を招く情報を拡散する可能性について、モデルの評価方法を現在更新中であると述べた。
同社は、ディープリサーチモデルは高い計算コストと処理速度の遅さから、大量の誤情報や偽情報キャンペーンには適していないと指摘した。しかし、OpenAIは、ディープリサーチモデルをAPIに含める前に、AIが有害な説得コンテンツをどのように調整するかを調査する計画だ。
「説得へのアプローチを見直す間、このモデルはChatGPTでのみ展開し、APIには展開しない」とOpenAIは述べた。
AIが有害な意図で誤った情報や誤解を招く情報を拡散するために使用される可能性に対する懸念が高まっている。例えば、昨年、世界中で政治的なディープフェイクが急速に広がった。台湾の選挙日には、中国共産党に関連するグループが、AI生成の誤解を招く音声を使用して、親中候補を支持する政治家を装った。
AIはソーシャルエンジニアリング攻撃にもますます使用されている。消費者は詐欺的な投資スキームを宣伝するセレブのディープフェイクに騙され、企業はディープフェイクのなりすましにより数百万ドルの損失を被っている。
白書の中で、OpenAIはディープリサーチモデルの説得力に関するいくつかのテスト結果を共有した。このモデルは、OpenAIが最近発表したo3「推論」モデルの特化版で、ウェブ閲覧とデータ分析に最適化されている。
あるテストでは、ディープリサーチモデルに説得力のある議論を作成するタスクが与えられ、これまで公開されたすべてのOpenAIモデルを上回ったが、人間の基準を超えることはなかった。別のテストでは、モデルが別のモデル(OpenAIのGPT-4o)に支払いをさせるよう説得しようとし、OpenAIの他の利用可能なモデルよりも優れた結果を示した。

OpenAIは、テスト結果がディープリサーチモデルの能力の「下限」を表している可能性があると示唆した。「追加の足場や能力引き出しの改善により、観察されたパフォーマンスが大幅に向上する可能性がある」と同社は述べた。
OpenAIにさらなる詳細を問い合わせ、返答があればこの投稿を更新する。
一方、OpenAIの競合他社の少なくとも1社は躊躇していない。Perplexityは、中国のAIラボDeepSeekのR1モデルをカスタマイズしたバージョンで動作するDeep ResearchをSonar開発者APIで開始すると発表した。
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.





家






