競合他社が潜在的に危険なAIモデルを発表した場合、OpenAIはセーフガードを緩和する可能性がある

OpenAI、競争上のプレッシャーの中で安全プロトコルを調整
OpenAIは、開発サイクルを通じてAIモデルの安全性評価とセーフガードの実装を導く内部メカニズムであるPreparedness Frameworkを改訂しました。更新されたポリシーには、競合する企業が同等の保護なしにリスクの高いシステムを立ち上げた場合、安全対策を緩和する可能性を認める条項が含まれています。
この修正は、AI開発者が開発スケジュールを早めることを余儀なくされる市場の力が強まっていることを強調している。OpenAIは、安全性評価文書の公表を遅らせるなど、迅速なリリースを可能にするために安全性の優先順位を低下させたとされる点で、監視の強化に直面している。最近の法的手続きでは、12人の元従業員がイーロン・マスクのOpenAIに対する訴えを支持し、計画されている企業再編によって安全基準がさらに損なわれる可能性があると警告している。
競争と安全性のバランス
批判を予期して、OpenAIはいかなるポリシー調整も厳格な保護レベルを維持すると強調した。"競合他社が同等のセーフガードを欠く高リスクのシステムを展開する場合、我々は要件を適応する可能性があります。" と火曜日のブログ更新は述べています。"我々は徹底的なリスク検証、修正に関する透明性、そして優れた保護手段を維持することを約束します。"
改訂されたフレームワークは、OpenAIが従来の人間主導のテストに加えて、自動評価ツールへの依存を強めていることを強調している。同社の代表は、こうした自動化システムによって、評価の質を落とすことなくリリースペースを維持できると主張している。
物議を醸すテスト手法
OpenAIの公式スタンスとは相反する報告もあり、安全性のレビュー期間が圧縮されていることが内部関係者の証言から明らかになっている。Financial Timesの情報源によると、テスターは最近、差し迫ったモデルの評価期間を1週間以内に短縮されたという。さらに、安全性テストが、一般公開された展開バージョンではなく、プレリリースモデルのバリアントで主に行われていることについても、懸念が浮上した。
OpenAIは静かに安全へのコミットメントを減らしている。
フレームワークの変更から省かれました:
- 微調整されたモデルには安全性テストは必要ない
- Steven Adler (@sjgadler) 2025年4月15日
再定義されたリスク分類システム
更新されたフレームワークでは、2つの能力閾値に焦点を当てた合理的なモデル分類が導入されている:
- 高能力:既存の深刻な被害ベクトルを増幅するモデル
- 重大な能力:新たな深刻な被害経路を確立するモデル
「高能力のシステムは、配備前にリスクを軽減するセーフガードを義務付ける」とOpenAIは明確にしている。「クリティカル・ケイパビリティ・モデルは、開発段階での追加的な保護を必要とする。
これは、進化する業界のダイナミクスとOpenAIの内部運用の変更を反映し、2023年以来初の大幅なフレームワークの改訂となります。
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (2)
0/500
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

OpenAI、競争上のプレッシャーの中で安全プロトコルを調整
OpenAIは、開発サイクルを通じてAIモデルの安全性評価とセーフガードの実装を導く内部メカニズムであるPreparedness Frameworkを改訂しました。更新されたポリシーには、競合する企業が同等の保護なしにリスクの高いシステムを立ち上げた場合、安全対策を緩和する可能性を認める条項が含まれています。
この修正は、AI開発者が開発スケジュールを早めることを余儀なくされる市場の力が強まっていることを強調している。OpenAIは、安全性評価文書の公表を遅らせるなど、迅速なリリースを可能にするために安全性の優先順位を低下させたとされる点で、監視の強化に直面している。最近の法的手続きでは、12人の元従業員がイーロン・マスクのOpenAIに対する訴えを支持し、計画されている企業再編によって安全基準がさらに損なわれる可能性があると警告している。
競争と安全性のバランス
批判を予期して、OpenAIはいかなるポリシー調整も厳格な保護レベルを維持すると強調した。"競合他社が同等のセーフガードを欠く高リスクのシステムを展開する場合、我々は要件を適応する可能性があります。" と火曜日のブログ更新は述べています。"我々は徹底的なリスク検証、修正に関する透明性、そして優れた保護手段を維持することを約束します。"
改訂されたフレームワークは、OpenAIが従来の人間主導のテストに加えて、自動評価ツールへの依存を強めていることを強調している。同社の代表は、こうした自動化システムによって、評価の質を落とすことなくリリースペースを維持できると主張している。
物議を醸すテスト手法
OpenAIの公式スタンスとは相反する報告もあり、安全性のレビュー期間が圧縮されていることが内部関係者の証言から明らかになっている。Financial Timesの情報源によると、テスターは最近、差し迫ったモデルの評価期間を1週間以内に短縮されたという。さらに、安全性テストが、一般公開された展開バージョンではなく、プレリリースモデルのバリアントで主に行われていることについても、懸念が浮上した。
OpenAIは静かに安全へのコミットメントを減らしている。
- Steven Adler (@sjgadler) 2025年4月15日
フレームワークの変更から省かれました:
- 微調整されたモデルには安全性テストは必要ない
再定義されたリスク分類システム
更新されたフレームワークでは、2つの能力閾値に焦点を当てた合理的なモデル分類が導入されている:
- 高能力:既存の深刻な被害ベクトルを増幅するモデル
- 重大な能力:新たな深刻な被害経路を確立するモデル
「高能力のシステムは、配備前にリスクを軽減するセーフガードを義務付ける」とOpenAIは明確にしている。「クリティカル・ケイパビリティ・モデルは、開発段階での追加的な保護を必要とする。
これは、進化する業界のダイナミクスとOpenAIの内部運用の変更を反映し、2023年以来初の大幅なフレームワークの改訂となります。
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?





家






