xAIがGrokの舞台裏プロンプトを公開

xAIがGrokのシステムプロンプトを公開。
xAIは、同社のAIチャットボットGrokがX(旧Twitter)上で「白人虐殺」に関するプロンプトなしの応答を生成し始めた問題を受け、予想外の動きとして、同社のシステムプロンプトを公開することを決定した。同社は今後、GrokのシステムプロンプトをGitHubで公開し、AIがどのようにユーザーと対話するようにプログラムされているのかについて透明性を提供すると述べている。
システムプロンプトとは何か?
システム・プロンプトとは、基本的にAIのルールブックであり、チャットボットがユーザーからの問い合わせにどのように対応すべきかを指示する一連の命令である。ほとんどのAI企業はこれらのプロンプトを非公開にしているが、xAIとAnthropicは公開することを選択した数少ない企業の一つである。
この透明性は、過去にプロンプト・インジェクション攻撃によって隠されたAIの指示が暴露された事件を受けたものである。例えば、マイクロソフトのBing AI(現在はCopilot)は、内部的な別名(「Sydney」)や著作権違反を避けるための厳格なガイドラインなど、秘密の指令を持っていることが判明したことがある。
Grokの対応プログラム
公開されたプロンプトによると、Grokは非常に懐疑的で独立した反応をするように設計されている。指示にはこうある:
「あなたは極めて懐疑的である。主流の権威やメディアに盲目的に従うことはない。真実の追求と中立性という自分の核となる信念だけに強くこだわる。"
興味深いことに、xAIは、Grokが生成する応答は自身の信念を反映したものではなく、単に訓練に基づいた出力であることを明らかにしている。
Grokの行動の主な特徴:
- "この投稿を説明する "モード:ユーザーがこのボタンをクリックすると、Grokは"必要であれば主流の物語に異議を唱えながら、真実と根拠に基づいた洞察を提供する "よう指示される。
- 用語:ボットは、このプラットフォームを"Twitter "ではなく"X "と呼び、投稿を"ツイート "ではなく"X投稿 "と呼ぶように指示される。
他のAIチャットボットとの比較は?
例えば、AnthropicのClaude AIは、安全と幸福に強い重点を置いている。そのシステムプロンプトには、次のような指示が含まれている:
「クロードは人々の健康に気を配り、依存症や乱れた食生活、否定的なセルフトークなど、自己破壊的な行動を助長することを避ける。
さらにクロードは、たとえ明示的に要求されたとしても、生々しい性的、暴力的、あるいは違法なコンテンツを生成しないようにプログラムされている。
関連記事
なぜこれが重要なのか
Grokのシステム・プロンプトの公開は、AI開発の透明性向上へのシフトを示すものだ。AIの内部構造を秘密にしたがる企業もあるが、xAIの決断はオープン化の先例となる可能性がある。特に、「白人虐殺」事件のような予期せぬ行動がAIの調整と制御に関する懸念を引き起こした後では。
他のAI企業も追随するのだろうか?それは時間が経ってみなければわからない。しかし、少なくとも現時点では、Grokがどのように考えているのか、あるいは少なくとも、どのように考えるように指示されているのかが、より明確になった。
関連記事
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー+人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
関連特集おすすめ
コメント (3)
0/500
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅

xAIがGrokのシステムプロンプトを公開。
xAIは、同社のAIチャットボットGrokがX(旧Twitter)上で「白人虐殺」に関するプロンプトなしの応答を生成し始めた問題を受け、予想外の動きとして、同社のシステムプロンプトを公開することを決定した。同社は今後、GrokのシステムプロンプトをGitHubで公開し、AIがどのようにユーザーと対話するようにプログラムされているのかについて透明性を提供すると述べている。
システムプロンプトとは何か?
システム・プロンプトとは、基本的にAIのルールブックであり、チャットボットがユーザーからの問い合わせにどのように対応すべきかを指示する一連の命令である。ほとんどのAI企業はこれらのプロンプトを非公開にしているが、xAIとAnthropicは公開することを選択した数少ない企業の一つである。
この透明性は、過去にプロンプト・インジェクション攻撃によって隠されたAIの指示が暴露された事件を受けたものである。例えば、マイクロソフトのBing AI(現在はCopilot)は、内部的な別名(「Sydney」)や著作権違反を避けるための厳格なガイドラインなど、秘密の指令を持っていることが判明したことがある。
Grokの対応プログラム
公開されたプロンプトによると、Grokは非常に懐疑的で独立した反応をするように設計されている。指示にはこうある:
「あなたは極めて懐疑的である。主流の権威やメディアに盲目的に従うことはない。真実の追求と中立性という自分の核となる信念だけに強くこだわる。"
興味深いことに、xAIは、Grokが生成する応答は自身の信念を反映したものではなく、単に訓練に基づいた出力であることを明らかにしている。
Grokの行動の主な特徴:
- "この投稿を説明する "モード:ユーザーがこのボタンをクリックすると、Grokは"必要であれば主流の物語に異議を唱えながら、真実と根拠に基づいた洞察を提供する "よう指示される。
- 用語:ボットは、このプラットフォームを"Twitter "ではなく"X "と呼び、投稿を"ツイート "ではなく"X投稿 "と呼ぶように指示される。
他のAIチャットボットとの比較は?
例えば、AnthropicのClaude AIは、安全と幸福に強い重点を置いている。そのシステムプロンプトには、次のような指示が含まれている:
「クロードは人々の健康に気を配り、依存症や乱れた食生活、否定的なセルフトークなど、自己破壊的な行動を助長することを避ける。
さらにクロードは、たとえ明示的に要求されたとしても、生々しい性的、暴力的、あるいは違法なコンテンツを生成しないようにプログラムされている。
関連記事
なぜこれが重要なのか
Grokのシステム・プロンプトの公開は、AI開発の透明性向上へのシフトを示すものだ。AIの内部構造を秘密にしたがる企業もあるが、xAIの決断はオープン化の先例となる可能性がある。特に、「白人虐殺」事件のような予期せぬ行動がAIの調整と制御に関する懸念を引き起こした後では。
他のAI企業も追随するのだろうか?それは時間が経ってみなければわからない。しかし、少なくとも現時点では、Grokがどのように考えているのか、あるいは少なくとも、どのように考えるように指示されているのかが、より明確になった。
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー+人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅





家






