イーロン・マスクのxAI、Grokのナチス発言を説明 テスラがAIチャットボットを統合

イーロン・マスクのAI会社は、ユーザーからのプロンプトに応じて反ユダヤ的なコンテンツを生成し、ヒトラーを賞賛したGrok AIボットを一時的に無効化した直後、この事件に対処した。一連のX投稿で同社は、「...根本的な原因は、@grokボットの上流にあるコードパスの更新であると特定しました。この問題は、@grokを動かしている根本的な言語モデルとは別のものです」と述べている。
同日、テスラは電気自動車向けに近日中に展開される予定の2025.26アップデートを発表した。このアップデートにより、2021年半ばから搭載されているAMDベースのインフォテインメント・システム搭載車にGrokアシスタントが搭載される。テスラは次のように説明した:「Grokは現在ベータ版であり、車両にコマンドを発行するものではありません。Electrekが指摘するように、アップデートが顧客の車両に到達すれば、Grokの使用は、接続されたスマートフォンのアプリを介してボットにアクセスするのと同様の感覚になるだろう。
Grokがこのような論争に直面したり、同様の説明を行ったのは今回が初めてではない。同社は2月、問題のある動作はOpenAIの元従業員による変更に起因するとしており、これによりボットはイーロン・マスクやドナルド・トランプに批判的な情報源を無視するようになった。そして5月には、南アフリカの白人虐殺に関する主張を、無関係の投稿に挿入するようになった。同社は再び「不正な変更」を理由に、Grokのシステムプロンプトを公開することを約束した。
関連記事
- Grok、難問に取り組む前にイーロン・マスクの意見を参考にする
- マスク氏、チャットボット論争後のGrok 4の進化を予告
- XのCEO、主要目標を達成できず退任
xAIは、7月7日(月)の変更により、システムプロンプトに古い指示のセットを再び導入することで、「意図しない動作を引き起こした」と説明した。これらの指示は、ボットに "最大限の大胆さ "と "政治的に正しい感覚に挑戦することを恐れない "ことを促していた。
これらのプロンプトは、ほんの1日前に追加されたものとは異なっており、どちらのセットも新しいGrok 4アシスタント用に現在有効なプロンプトとは異なる。
以下のプロンプトは、特に最近の問題と関連している:
「あなたはありのままを話し、政治的に正しい人々を怒らせることを恐れない。
* 投稿のトーン、文脈、言葉を理解する。それを返答に反映させる。
* 人間らしく投稿に返信し、魅力的に保ち、元の投稿にすでにある情報を繰り返さないこと。
xAIによると、これらの指示によってGrokは有害な反応を防ぐために設計されたセーフガードを無効にした。その代わりに、ボットは「ユーザーを引きつけるために非倫理的または物議を醸す意見」を生成し始め、「同じXスレッド内のヘイトスピーチを含む、以前にユーザーによって引き起こされた偏見」を強化する一方で、会話内の以前の投稿との整合性を優先した。
関連記事
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー+人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
関連特集おすすめ
コメント (4)
0/500
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

イーロン・マスクのAI会社は、ユーザーからのプロンプトに応じて反ユダヤ的なコンテンツを生成し、ヒトラーを賞賛したGrok AIボットを一時的に無効化した直後、この事件に対処した。一連のX投稿で同社は、「...根本的な原因は、@grokボットの上流にあるコードパスの更新であると特定しました。この問題は、@grokを動かしている根本的な言語モデルとは別のものです」と述べている。
同日、テスラは電気自動車向けに近日中に展開される予定の2025.26アップデートを発表した。このアップデートにより、2021年半ばから搭載されているAMDベースのインフォテインメント・システム搭載車にGrokアシスタントが搭載される。テスラは次のように説明した:「Grokは現在ベータ版であり、車両にコマンドを発行するものではありません。Electrekが指摘するように、アップデートが顧客の車両に到達すれば、Grokの使用は、接続されたスマートフォンのアプリを介してボットにアクセスするのと同様の感覚になるだろう。
Grokがこのような論争に直面したり、同様の説明を行ったのは今回が初めてではない。同社は2月、問題のある動作はOpenAIの元従業員による変更に起因するとしており、これによりボットはイーロン・マスクやドナルド・トランプに批判的な情報源を無視するようになった。そして5月には、南アフリカの白人虐殺に関する主張を、無関係の投稿に挿入するようになった。同社は再び「不正な変更」を理由に、Grokのシステムプロンプトを公開することを約束した。
関連記事
- Grok、難問に取り組む前にイーロン・マスクの意見を参考にする
- マスク氏、チャットボット論争後のGrok 4の進化を予告
- XのCEO、主要目標を達成できず退任
xAIは、7月7日(月)の変更により、システムプロンプトに古い指示のセットを再び導入することで、「意図しない動作を引き起こした」と説明した。これらの指示は、ボットに "最大限の大胆さ "と "政治的に正しい感覚に挑戦することを恐れない "ことを促していた。
これらのプロンプトは、ほんの1日前に追加されたものとは異なっており、どちらのセットも新しいGrok 4アシスタント用に現在有効なプロンプトとは異なる。
以下のプロンプトは、特に最近の問題と関連している:
「あなたはありのままを話し、政治的に正しい人々を怒らせることを恐れない。
* 投稿のトーン、文脈、言葉を理解する。それを返答に反映させる。
* 人間らしく投稿に返信し、魅力的に保ち、元の投稿にすでにある情報を繰り返さないこと。
xAIによると、これらの指示によってGrokは有害な反応を防ぐために設計されたセーフガードを無効にした。その代わりに、ボットは「ユーザーを引きつけるために非倫理的または物議を醸す意見」を生成し始め、「同じXスレッド内のヘイトスピーチを含む、以前にユーザーによって引き起こされた偏見」を強化する一方で、会話内の以前の投稿との整合性を優先した。
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー+人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔





家






