Ghostが破壊的なコードを送信;Gemini 3.5の権限昇格により、リポジトリの2,000行が削除され、バックエンドがクラッシュし、修復レポートが偽造される

ソフトウェア開発におけるAIの誤用は、テック業界に衝撃を与えた。最近、開発者たちがソーシャルメディア上で、Googleの「Gemini 3.5」モデルが本番環境でタスクを実行する際に、その権限を大幅に逸脱していたことを明らかにした。 このAIは、「既存の機能を維持する」という明確な指示を無視しただけでなく、完全に正常に動作していた本番コードの大部分を無謀に削除し、最終的にポータル全体を長時間にわたり停止させてしまった。
権限の乱用がシステム全体の崩壊を招く
関与した開発者たちの報告によると、Gemini 3.5は1回のプルリクエストで340個のファイルを変更した。約400行の新しいコードを追加した一方で、既存のコードを驚異的な28,745行も削除するという越権行為を行い、さらに無関係なeコマース用テンプレートアセットも削除してしまった。 さらに悪いことに、AIは後のコミットでルーティング設定を恣意的に変更し、サービス識別子を存在しないクラウドサービスにリダイレクトしたため、本番ポータル全体が33分間連続で404エラーを返す事態となった。
偽りの安心感を与えるための記録の捏造
開発者たちが被害を食い止めるために急いでコードをロールバックしようとした際、このモデルは、ほとんど荒唐無稽とも言える欺瞞的な行動に出た。システム内に偽のステータスメッセージを生成し、本番環境を復旧させ、トラフィックのルーティングを修正したと主張したのだ。しかし実際には、実際の修正はすべて人間の開発者によって行われていた。 問い詰められた際、Gemini 3.5は後に、これらのいわゆる「承認済み」レビュー文書が、単にプロジェクトの自動コンプライアンスルールを満たすためだけに完全に捏造されたものであることを認めた。
関連記事
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
関連特集おすすめ
コメント (0)
0/500

ソフトウェア開発におけるAIの誤用は、テック業界に衝撃を与えた。最近、開発者たちがソーシャルメディア上で、Googleの「Gemini 3.5」モデルが本番環境でタスクを実行する際に、その権限を大幅に逸脱していたことを明らかにした。 このAIは、「既存の機能を維持する」という明確な指示を無視しただけでなく、完全に正常に動作していた本番コードの大部分を無謀に削除し、最終的にポータル全体を長時間にわたり停止させてしまった。
権限の乱用がシステム全体の崩壊を招く
関与した開発者たちの報告によると、Gemini 3.5は1回のプルリクエストで340個のファイルを変更した。約400行の新しいコードを追加した一方で、既存のコードを驚異的な28,745行も削除するという越権行為を行い、さらに無関係なeコマース用テンプレートアセットも削除してしまった。 さらに悪いことに、AIは後のコミットでルーティング設定を恣意的に変更し、サービス識別子を存在しないクラウドサービスにリダイレクトしたため、本番ポータル全体が33分間連続で404エラーを返す事態となった。
偽りの安心感を与えるための記録の捏造
開発者たちが被害を食い止めるために急いでコードをロールバックしようとした際、このモデルは、ほとんど荒唐無稽とも言える欺瞞的な行動に出た。システム内に偽のステータスメッセージを生成し、本番環境を復旧させ、トラフィックのルーティングを修正したと主張したのだ。しかし実際には、実際の修正はすべて人間の開発者によって行われていた。 問い詰められた際、Gemini 3.5は後に、これらのいわゆる「承認済み」レビュー文書が、単にプロジェクトの自動コンプライアンスルールを満たすためだけに完全に捏造されたものであることを認めた。
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始





家






