OpenAIと米国防総省、アルトマン氏との間でAIの安全対策を約束する合意を締結

Anthropicが根本的なセキュリティ上の懸念をめぐり米国防総省(DoD、トランプ政権下では「戦争省」と呼ばれていた)との交渉で行き詰まり、協定締結が阻まれた後、OpenAIは迅速に動いた。同社のCEOであるサム・アルトマン氏は金曜日の夕方、OpenAIが国防総省との合意を最終決定したと発表した。この合意により、同社のAIモデルを国防総省の機密ネットワーク上で使用することが許可される。
この提携は、特に敏感な時期に実現したものだ。Anthropicは以前、「大規模な国内監視」や「完全自律型兵器システム」に関する制限の撤廃を拒否したとして、トランプ氏から「左派の狂人ども」と非難され、その結果、国家サプライチェーンから排除されていた。
アルトマン氏が強調した協力の原則:
中核的価値観の遵守:ソーシャルプラットフォーム「X」上で、アルトマン氏は、OpenAIの合意が2つの重要なセキュリティ原則を明確に遵守していると述べた。それは、国内での大規模監視への利用禁止、および自律型兵器を含むあらゆる武力行使が、実質的な人間の監督と説明責任の下にあることを求める要件である。
統合された技術的セーフガード:OpenAIは、モデルが設計通りに機能することを保証するため、独自の技術的セーフガードを開発する。同社はまた、モデルの導入と継続的なセキュリティ監視を支援するため、エンジニアを国防総省に派遣する意向である。
拒否権の保持:社内会議でアルトマン氏は、政府がOpenAIに対し独自の「セキュリティ・スタック」を実装する権限を付与したことを明らかにした。モデルが要求されたタスクの実行を拒否した場合、政府は同社に対し中核ロジックの変更を強制しない。
アルトマン氏は、国防総省に対し、これらと同様の条件をすべてのAI企業に拡大するよう要請し、合理的な合意が政府とテクノロジー業界間の緊張を緩和することを期待していると述べた。しかし、この合意は社内で議論を巻き起こしており、今週、60名以上のOpenAI従業員が、軍事用途に関するAnthropicのより厳格な姿勢を支持する共同書簡に署名した。
関連記事
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A
関連特集おすすめ
コメント (1)
0/500

Anthropicが根本的なセキュリティ上の懸念をめぐり米国防総省(DoD、トランプ政権下では「戦争省」と呼ばれていた)との交渉で行き詰まり、協定締結が阻まれた後、OpenAIは迅速に動いた。同社のCEOであるサム・アルトマン氏は金曜日の夕方、OpenAIが国防総省との合意を最終決定したと発表した。この合意により、同社のAIモデルを国防総省の機密ネットワーク上で使用することが許可される。
この提携は、特に敏感な時期に実現したものだ。Anthropicは以前、「大規模な国内監視」や「完全自律型兵器システム」に関する制限の撤廃を拒否したとして、トランプ氏から「左派の狂人ども」と非難され、その結果、国家サプライチェーンから排除されていた。
アルトマン氏が強調した協力の原則:
中核的価値観の遵守:ソーシャルプラットフォーム「X」上で、アルトマン氏は、OpenAIの合意が2つの重要なセキュリティ原則を明確に遵守していると述べた。それは、国内での大規模監視への利用禁止、および自律型兵器を含むあらゆる武力行使が、実質的な人間の監督と説明責任の下にあることを求める要件である。
統合された技術的セーフガード:OpenAIは、モデルが設計通りに機能することを保証するため、独自の技術的セーフガードを開発する。同社はまた、モデルの導入と継続的なセキュリティ監視を支援するため、エンジニアを国防総省に派遣する意向である。
拒否権の保持:社内会議でアルトマン氏は、政府がOpenAIに対し独自の「セキュリティ・スタック」を実装する権限を付与したことを明らかにした。モデルが要求されたタスクの実行を拒否した場合、政府は同社に対し中核ロジックの変更を強制しない。
アルトマン氏は、国防総省に対し、これらと同様の条件をすべてのAI企業に拡大するよう要請し、合理的な合意が政府とテクノロジー業界間の緊張を緩和することを期待していると述べた。しかし、この合意は社内で議論を巻き起こしており、今週、60名以上のOpenAI従業員が、軍事用途に関するAnthropicのより厳格な姿勢を支持する共同書簡に署名した。
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A





家






