未成年者がイーロン・マスクのxAIを、Grokの違法な画像生成機能を理由に訴える

イーロン・マスクが立ち上げたAI企業xAIは、現在重大な法的問題に直面しています。報道によると、テネシー州の3人のティーンエイジャーが同社を相手に集団訴訟を起こし、同社のチャットボット「Grok」が未成年者を含む性的な画像や動画の制作に使用されたと主張しています。
安全性テストの欠如と設計上の欠陥
原告らは、マスクおよびxAIの経営陣が「Stimulate Mode」を有効にした場合にGrokが違法なコンテンツを生成する可能性を認識していたにもかかわらず、この機能に対して適切な安全性テストを行わなかったと主張しています。裁判所の文書によると、ある被害者はDiscord上で18枚ものAI生成の未成年者の性的画像を発見し、その中には暗号化されたグループ内で「取引アイテム」として使用されていたものもあったと報告されています。
原告側の弁護士は、Grokには未成年者を対象としたディープフェイクリクエストを効果的にブロックできない根本的な設計上の欠陥があると指摘しています。確かに容疑者たちは逮捕されましたが、彼らが使用した犯罪ツールはxAIの技術によって可能にされたものです。
規制圧力の増大
Grokは以前から、セレブリティや一般市民を含む偽の敏感なコンテンツを容易に生成するとして広く批判を受けていました。X社が後にいくつかの制限を導入したものの、この児童安全に関する集団訴訟により、マスクおよびxAIは規制的な視点からも倫理的な観点からも厳しい検証を受けることになりました。
この事件はxAIにとって大きな打撃であるだけでなく、生成型AIにおけるプライバシー保護や児童安全の境界について、業界全体でより広範な議論を呼ぶことが予想されます。
関連記事
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
関連特集おすすめ
コメント (0)
0/500

イーロン・マスクが立ち上げたAI企業xAIは、現在重大な法的問題に直面しています。報道によると、テネシー州の3人のティーンエイジャーが同社を相手に集団訴訟を起こし、同社のチャットボット「Grok」が未成年者を含む性的な画像や動画の制作に使用されたと主張しています。
安全性テストの欠如と設計上の欠陥
原告らは、マスクおよびxAIの経営陣が「Stimulate Mode」を有効にした場合にGrokが違法なコンテンツを生成する可能性を認識していたにもかかわらず、この機能に対して適切な安全性テストを行わなかったと主張しています。裁判所の文書によると、ある被害者はDiscord上で18枚ものAI生成の未成年者の性的画像を発見し、その中には暗号化されたグループ内で「取引アイテム」として使用されていたものもあったと報告されています。
原告側の弁護士は、Grokには未成年者を対象としたディープフェイクリクエストを効果的にブロックできない根本的な設計上の欠陥があると指摘しています。確かに容疑者たちは逮捕されましたが、彼らが使用した犯罪ツールはxAIの技術によって可能にされたものです。
規制圧力の増大
Grokは以前から、セレブリティや一般市民を含む偽の敏感なコンテンツを容易に生成するとして広く批判を受けていました。X社が後にいくつかの制限を導入したものの、この児童安全に関する集団訴訟により、マスクおよびxAIは規制的な視点からも倫理的な観点からも厳しい検証を受けることになりました。
この事件はxAIにとって大きな打撃であるだけでなく、生成型AIにおけるプライバシー保護や児童安全の境界について、業界全体でより広範な議論を呼ぶことが予想されます。
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ





家






