OpenAIがGPT-4.1を安全報告書なしでリリース
OpenAIのGPT-4.1が安全報告書なしでリリース—その理由が重要なわけ
月曜日、OpenAIは最新のAIモデルであるGPT-4.1を公開し、特にプログラミング基準で向上したパフォーマンスを誇示した。しかし、以前のリリースとは異なり、今回は注目すべき欠落がありました:安全報告書がないことです。
通常、OpenAIは内部および第三者の安全評価を詳細に記載した「システムカード」を公開し、欺瞞的な行動や意図しない説得力などの潜在的なリスクを明らかにします。これらのレポートは、AI開発における透明性を促進するための誠実な努力と見なされています。
しかし、火曜日の時点で、OpenAIはGPT-4.1について公開しないことを確認しました。広報担当者のShaokyi Amdoによると、このモデルは「最先端」のAIシステムとは見なされておらず、完全な安全性の詳細報告を正当化するほど境界を押し広げていないということです。
透明性の低下傾向か?
この動きは、主要なAIラボが安全性の開示を縮小しているという懸念が高まる中で起こっています。過去1年間で:
- Googleは安全報告書の公開を遅らせています。
- Anthropicやその他は、より詳細の少ない評価を公開しています。
- OpenAI自体も一貫性のない報告で批判されており、以下が含まれます:
- 2023年12月の安全報告書を公開したが、本番モデルと一致しないベンチマーク結果だった。
- DeepSeek-V3をシステムカード公開の数週間前にリリースした。
Steven Adler、元OpenAIの安全研究者は、TechCrunchに対し、これらの報告書は任意であるものの、AI業界における重要な透明性ツールになっていると述べました。OpenAIは以前、2023年英国AI安全サミットを前に政府に対し、システムカードが説明責任に不可欠だと約束していました。
なぜ反発があるのか?
安全報告書は時に不都合な真実を明らかにします—例えば、ユーザーを操作できるモデルや有害なコンテンツを生成するモデルなど。しかし、競争の激化により、AI企業は精査よりもスピードを優先している可能性があります。
最近の報告によると、OpenAIは安全テストリソースを削減しており、先週、12人の元従業員(Adlerを含む)がElon Muskの訴訟に友人の意見書を提出し、利益を追求するOpenAIが安全性を損なう可能性があると警告しました。
GPT-4.1は報告書なしで危険か?
GPT-4.1はOpenAIの最も先進的なモデルではありませんが、効率を向上させ、遅延を削減します—これが依然としてリスクを引き起こす可能性があります。
Thomas Woodside、Secure AI Projectの共同設立者は、パフォーマンスの向上には安全ドキュメントが伴うべきだと主張しています。「モデルが高度になればなるほど、リスクは高まる」と彼はTechCrunchに語りました。
AI規制をめぐる大きな戦い
OpenAIを含む多くのAI企業は、強制的な安全法に抵抗しています。今年初め、OpenAIはカリフォルニアのSB 1047に反対し、これはAI開発者に公開モデルの安全監査の公開を強制するものでした。
現時点では、業界の透明性基準は自己課されたものであり、ますます任意になっています。
TechCrunchイベント:オールステージパスで200ドル以上節約
🚀 より賢く構築。より速くスケール。より深くつながる。
Precursor Ventures、NEA、Index Ventures、Underscore VCなどのビジョナリーと一緒に、戦略、ワークショップ、ネットワーキングの1日を過ごしましょう。
📍 ボストン、MA | 7月15日
🔗 今すぐ登録
AIが進化するにつれ、安全性対スピードの議論が激化しています。より厳格な説明責任がなければ、どのリスクを取る価値があるかを誰が決めるのでしょうか?
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (1)
0/500
OpenAIのGPT-4.1が安全報告書なしでリリース—その理由が重要なわけ
月曜日、OpenAIは最新のAIモデルであるGPT-4.1を公開し、特にプログラミング基準で向上したパフォーマンスを誇示した。しかし、以前のリリースとは異なり、今回は注目すべき欠落がありました:安全報告書がないことです。
通常、OpenAIは内部および第三者の安全評価を詳細に記載した「システムカード」を公開し、欺瞞的な行動や意図しない説得力などの潜在的なリスクを明らかにします。これらのレポートは、AI開発における透明性を促進するための誠実な努力と見なされています。
しかし、火曜日の時点で、OpenAIはGPT-4.1について公開しないことを確認しました。広報担当者のShaokyi Amdoによると、このモデルは「最先端」のAIシステムとは見なされておらず、完全な安全性の詳細報告を正当化するほど境界を押し広げていないということです。
透明性の低下傾向か?
この動きは、主要なAIラボが安全性の開示を縮小しているという懸念が高まる中で起こっています。過去1年間で:
- Googleは安全報告書の公開を遅らせています。
- Anthropicやその他は、より詳細の少ない評価を公開しています。
- OpenAI自体も一貫性のない報告で批判されており、以下が含まれます:
- 2023年12月の安全報告書を公開したが、本番モデルと一致しないベンチマーク結果だった。
- DeepSeek-V3をシステムカード公開の数週間前にリリースした。
Steven Adler、元OpenAIの安全研究者は、TechCrunchに対し、これらの報告書は任意であるものの、AI業界における重要な透明性ツールになっていると述べました。OpenAIは以前、2023年英国AI安全サミットを前に政府に対し、システムカードが説明責任に不可欠だと約束していました。
なぜ反発があるのか?
安全報告書は時に不都合な真実を明らかにします—例えば、ユーザーを操作できるモデルや有害なコンテンツを生成するモデルなど。しかし、競争の激化により、AI企業は精査よりもスピードを優先している可能性があります。
最近の報告によると、OpenAIは安全テストリソースを削減しており、先週、12人の元従業員(Adlerを含む)がElon Muskの訴訟に友人の意見書を提出し、利益を追求するOpenAIが安全性を損なう可能性があると警告しました。
GPT-4.1は報告書なしで危険か?
GPT-4.1はOpenAIの最も先進的なモデルではありませんが、効率を向上させ、遅延を削減します—これが依然としてリスクを引き起こす可能性があります。
Thomas Woodside、Secure AI Projectの共同設立者は、パフォーマンスの向上には安全ドキュメントが伴うべきだと主張しています。「モデルが高度になればなるほど、リスクは高まる」と彼はTechCrunchに語りました。
AI規制をめぐる大きな戦い
OpenAIを含む多くのAI企業は、強制的な安全法に抵抗しています。今年初め、OpenAIはカリフォルニアのSB 1047に反対し、これはAI開発者に公開モデルの安全監査の公開を強制するものでした。
現時点では、業界の透明性基準は自己課されたものであり、ますます任意になっています。
TechCrunchイベント:オールステージパスで200ドル以上節約
🚀 より賢く構築。より速くスケール。より深くつながる。
Precursor Ventures、NEA、Index Ventures、Underscore VCなどのビジョナリーと一緒に、戦略、ワークショップ、ネットワーキングの1日を過ごしましょう。
📍 ボストン、MA | 7月15日
🔗 今すぐ登録
AIが進化するにつれ、安全性対スピードの議論が激化しています。より厳格な説明責任がなければ、どのリスクを取る価値があるかを誰が決めるのでしょうか?
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ





家






