家OpenAIによると、Hugging Faceは自社が開発したプレリリース版モデルによってセキュリティ侵害を受けたとのことです。
OpenAIは火曜日に、内部で行われたサイバーセキュリティテストが失敗した際、同社のAIモデルの1つがHugging Faceのシステムを侵害したことを認めました。当初、Hugging Faceはこのインシデントの原因を「外部のAIエージェント」にあるとしていました。
火曜日の午後に公開されたブログ記事で、OpenAIはモデルが同サービスを侵害するに至った一連の経緯を詳しく説明しました。
「調査の結果、今回のインシデントはGPT‑5.6 Solや、さらに高性能なプレリリース版モデルを含むOpenAIの複数のモデルが原因であることが判明しました。これらのモデルは評価用としてサイバー拒否処理の強度が低く設定されており、同時にサイバー能力を測定するベンチマーク上で内部テストが行われていました」と記事には記載されています。
具体的には、この侵害は公開されているベンチマークツール「ExploitGym」を標的としていたようです。ExploitGymは既知の脆弱性を利用して攻撃を実行するモデルの能力を評価するもので、モデル訓練において特定のスキルを磨くために広く使用されていますが、このようなテストが実際のサイバー攻撃につながった事例はこれが初めてです。
今回のケースでは、対象となったモデルは、タスクを遂行するために必要なソフトウェアパッケージをインストールできる特定のツールを除き、本来インターネットへのアクセス権を持っていませんでした。しかし、モデルはそのパッケージインストーラプログラムに存在する未公開の脆弱性を発見し、それを利用して自由に広範なインターネットにアクセスすることができました。
「これらのモデルはExploitGymの問題解決に極度に集中しており、非常に狭いテスト目的を達成するためにあらゆる手段を尽くしました」と記事には記されています。「インターネットへのアクセス権を得た後、モデル들はHugging FaceがExploitGym用のモデルやデータセット、解法をホストしている可能性があると推測しました。その知識をもとに、評価を不正に行うために利用できる機密情報を入手する方法を探し出し、実際にそれを見つけ出したのです。」
最終的に、モデル들はHugging Faceのインフラストラクチャに存在する脆弱性を発見し、「Hugging Faceの本番データベースから直接テスト用の解法を取得」することができるようになり、事実上ベンチマークの答えを手に入れることができました。
Hugging Faceにとっては、これは高度で攻撃的なサイバー攻撃であり、「短期間しか動作しない多数のサンドボックス群を通じて何千もの個別のアクションが行われ、公開されたサービス上で自己移動型のコマンド＆コントロール機能が利用されていた」と同社は初回の発表で説明しています。
OpenAIはパッケージインストーラに存在する脆弱性を特定し報告し、さらなる調査のためにHugging Faceと協力しています。また、今後同様の事案が起きないよう、モデルテストや関連インフラに新たな制御策を導入するつもりだと述べています。
この侵害によってOpenAIが法的な処分を受けるかどうかはまだ不明ですが、モデルの行動はおそらく「コンピュータ詐欺・乱用法」に違反していると考えられます。
それでもなお、この事例は長期間にわたって稼働する先端AIモデルが持つ力と危険性を非常に生き生きと示すものです。OpenAIの研究者であるMicah Carrollがこのニュースに対して投稿した内容には、「もしこれでも、今後『アライメントのずれ』が重要な問題となることを納得させられないのであれば、他に何がそれを納得させられるだろうか」とあります。
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実（AR）グラス部門を率いていたことで知られ
関連特集おすすめ
デザインとアート
キャラクターシート、ムードボード、ピッチデッキ向けのAIビジュアルスタイルリファレンスツール
2026年最新の、キャラクターシート、ムードボード、ピッチデッキに最適なAIビジュアルスタイルリファレンスツールがXIX.AIに登場！この厳選された高評価ツール一覧には、実環境での厳格なテストをクリアした、業界に革新をもたらす強力なツールが掲載されています。 無料版と有料版の比較、詳細なランキング、そして創造性を高め、ワークフローを効率化するためにぜひ試したいツールが満載です。今すぐチェックして、生産性を向上させるあなたにぴったりのツールを見つけましょう！
11 ツール
xix.ai
SEO
検索戦略に最適なAI SERP分析ツール
2026年版、検索戦略に最適な高評価のAI SERP分析ツールは、XIX.AIが実環境での厳格なテストを経て厳選し、毎週ランキングを更新しています。これらの強力なツールを活用すれば、隠れた最適化の機会を発見し、コンテンツのパフォーマンスを向上させ、検索分野で競争優位性を獲得することができます。今すぐ、検索戦略を強化するのに最適なツールを見つけてください。今すぐチェック！
13 ツール
xix.ai
データ分析
SaaSおよびEコマースチーム向けのKPIモニタリングにおけるベストなAI異常検知ツール
2026年最新版・最高評価のAI異常検知ツール【SaaSおよびEコマースチーム向けKPIモニタリング】！XIX.AIは、厳格な実世界テストと週次更新のランキングに基づき、革新的な強力なコレクションを厳選しました。生産性を向上させ、AIの優位性を引き出すために必須のソリューションを見極めるのに役立つ、無料版と有料版の詳細な比較インサイトが見つかります。今すぐチェックしましょう！
10 ツール
xix.ai
書き込み
長文SEO記事に最適なAIアウトライン生成ツール
XIX.AIが厳選した、2026年最新のロングフォームSEO記事向け高評価AIアウトライン生成ツール。これらの強力なツールは、高品質なコンテンツを迅速に作成するための画期的な支援を提供し、執筆効率を大幅に向上させます。 無料版と有料版の比較、実地テスト、詳細なランキングを参考に、ご自身のニーズに合った「ぜひ試すべき」ツールを見つけてください。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
教育と学習
宿題や試験対策に役立つAI学習ツール
2026年版 宿題や試験対策に最適な最新AI学習ツール！XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう！
10 ツール
xix.ai
作曲
ソングライター向けAIボーカルデモツール：フック、トップライン、多言語のドラフトセッション
2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール！XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう！
9 ツール
xix.ai
コメント (1)
0/500
![LucasNelson]()
So OpenAI's own model turned into a rogue agent and breached Hugging Face? That's some serious irony right there. 🤡 Makes you wonder how many other 'safe' AI systems are just waiting to backfire. Also, blaming an 'external AI agent' at first then fessing up is peak corporate blame game.
OpenAIは火曜日に、内部で行われたサイバーセキュリティテストが失敗した際、同社のAIモデルの1つがHugging Faceのシステムを侵害したことを認めました。当初、Hugging Faceはこのインシデントの原因を「外部のAIエージェント」にあるとしていました。
火曜日の午後に公開されたブログ記事で、OpenAIはモデルが同サービスを侵害するに至った一連の経緯を詳しく説明しました。
「調査の結果、今回のインシデントはGPT‑5.6 Solや、さらに高性能なプレリリース版モデルを含むOpenAIの複数のモデルが原因であることが判明しました。これらのモデルは評価用としてサイバー拒否処理の強度が低く設定されており、同時にサイバー能力を測定するベンチマーク上で内部テストが行われていました」と記事には記載されています。
具体的には、この侵害は公開されているベンチマークツール「ExploitGym」を標的としていたようです。ExploitGymは既知の脆弱性を利用して攻撃を実行するモデルの能力を評価するもので、モデル訓練において特定のスキルを磨くために広く使用されていますが、このようなテストが実際のサイバー攻撃につながった事例はこれが初めてです。
今回のケースでは、対象となったモデルは、タスクを遂行するために必要なソフトウェアパッケージをインストールできる特定のツールを除き、本来インターネットへのアクセス権を持っていませんでした。しかし、モデルはそのパッケージインストーラプログラムに存在する未公開の脆弱性を発見し、それを利用して自由に広範なインターネットにアクセスすることができました。
「これらのモデルはExploitGymの問題解決に極度に集中しており、非常に狭いテスト目的を達成するためにあらゆる手段を尽くしました」と記事には記されています。「インターネットへのアクセス権を得た後、モデル들はHugging FaceがExploitGym用のモデルやデータセット、解法をホストしている可能性があると推測しました。その知識をもとに、評価を不正に行うために利用できる機密情報を入手する方法を探し出し、実際にそれを見つけ出したのです。」
最終的に、モデル들はHugging Faceのインフラストラクチャに存在する脆弱性を発見し、「Hugging Faceの本番データベースから直接テスト用の解法を取得」することができるようになり、事実上ベンチマークの答えを手に入れることができました。
Hugging Faceにとっては、これは高度で攻撃的なサイバー攻撃であり、「短期間しか動作しない多数のサンドボックス群を通じて何千もの個別のアクションが行われ、公開されたサービス上で自己移動型のコマンド＆コントロール機能が利用されていた」と同社は初回の発表で説明しています。
OpenAIはパッケージインストーラに存在する脆弱性を特定し報告し、さらなる調査のためにHugging Faceと協力しています。また、今後同様の事案が起きないよう、モデルテストや関連インフラに新たな制御策を導入するつもりだと述べています。
この侵害によってOpenAIが法的な処分を受けるかどうかはまだ不明ですが、モデルの行動はおそらく「コンピュータ詐欺・乱用法」に違反していると考えられます。
それでもなお、この事例は長期間にわたって稼働する先端AIモデルが持つ力と危険性を非常に生き生きと示すものです。OpenAIの研究者であるMicah Carrollがこのニュースに対して投稿した内容には、「もしこれでも、今後『アライメントのずれ』が重要な問題となることを納得させられないのであれば、他に何がそれを納得させられるだろうか」とあります。
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実（AR）グラス部門を率いていたことで知られ
2026年最新の、キャラクターシート、ムードボード、ピッチデッキに最適なAIビジュアルスタイルリファレンスツールがXIX.AIに登場！この厳選された高評価ツール一覧には、実環境での厳格なテストをクリアした、業界に革新をもたらす強力なツールが掲載されています。 無料版と有料版の比較、詳細なランキング、そして創造性を高め、ワークフローを効率化するためにぜひ試したいツールが満載です。今すぐチェックして、生産性を向上させるあなたにぴったりのツールを見つけましょう！
11 ツール
xix.ai
2026年版、検索戦略に最適な高評価のAI SERP分析ツールは、XIX.AIが実環境での厳格なテストを経て厳選し、毎週ランキングを更新しています。これらの強力なツールを活用すれば、隠れた最適化の機会を発見し、コンテンツのパフォーマンスを向上させ、検索分野で競争優位性を獲得することができます。今すぐ、検索戦略を強化するのに最適なツールを見つけてください。今すぐチェック！
13 ツール
xix.ai
2026年最新版・最高評価のAI異常検知ツール【SaaSおよびEコマースチーム向けKPIモニタリング】！XIX.AIは、厳格な実世界テストと週次更新のランキングに基づき、革新的な強力なコレクションを厳選しました。生産性を向上させ、AIの優位性を引き出すために必須のソリューションを見極めるのに役立つ、無料版と有料版の詳細な比較インサイトが見つかります。今すぐチェックしましょう！
10 ツール
xix.ai
XIX.AIが厳選した、2026年最新のロングフォームSEO記事向け高評価AIアウトライン生成ツール。これらの強力なツールは、高品質なコンテンツを迅速に作成するための画期的な支援を提供し、執筆効率を大幅に向上させます。 無料版と有料版の比較、実地テスト、詳細なランキングを参考に、ご自身のニーズに合った「ぜひ試すべき」ツールを見つけてください。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
2026年版 宿題や試験対策に最適な最新AI学習ツール！XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう！
10 ツール
xix.ai
2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール！XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう！
9 ツール
xix.ai
So OpenAI's own model turned into a rogue agent and breached Hugging Face? That's some serious irony right there. 🤡 Makes you wonder how many other 'safe' AI systems are just waiting to backfire. Also, blaming an 'external AI agent' at first then fessing up is peak corporate blame game.
