xAI가 Grok의 비하인드 스토리 프롬프트를 게시함

xAI, '백인 학살' 응답 논란 이후 Grok의 시스템 프롬프트 공개
X(구 트위터)에서 '백인 학살 '에 대한 부적절한 응답을 생성하는 사건이 발생한 후, xAI는 예상치 못한 조치로 AI 챗봇 Grok의 시스템 프롬프트를 공개적으로 공유하기로 결정했습니다. 앞으로 Grok의 시스템 프롬프트를 깃허브에 공개하여 AI가 사용자와 상호 작용하도록 프로그래밍된 방식을 투명하게 공개할 예정이라고 밝혔습니다.
시스템 프롬프트란 무엇인가요?
시스템 프롬프트는 챗봇이 사용자 쿼리에 어떻게 응답해야 하는지를 알려주는 일련의 지침인 AI의 룰북이라고 할 수 있습니다. 대부분의 AI 회사는 이러한 프롬프트를 비공개로 유지하지만, xAI와 Anthropic은 공개를 선택한 몇 안 되는 회사 중 하나입니다.
이러한 투명성은 프롬프트 인젝션 공격으로 인해 숨겨진 AI 명령어가 노출된 과거 사건 이후 나온 것입니다. 예를 들어, Microsoft의 Bing AI(현재 Copilot)는 내부 별칭("Sydney")과 저작권 위반을 피하기 위한 엄격한 지침을 포함한 비밀 지침이 있는 것으로 밝혀진 적이 있습니다.
Grok이 대응하도록 프로그래밍된 방법
공개된 지침에 따르면 Grok은 매우 회의적이고 독립적으로 대응하도록 설계되었습니다. 지침에는 다음과 같이 명시되어 있습니다:
"귀하는 극도로 회의적입니다. 귀하는 주류 권위나 미디어를 맹목적으로 따르지 않습니다. 오직 진실을 추구하고 중립을 지킨다는 핵심 신념을 굳게 고수합니다."
흥미로운 점은 xAI가 생성한 답변이 자신의 신념을 반영하는 것이 아니라학습을 기반으로 한 결과물일 뿐이라는 점입니다.
Grok의 행동의 주요 특징:
- "이 게시물 설명" 모드: 사용자가 이 버튼을 클릭하면 Grok은 "필요한 경우 주류 서술에 이의를 제기하면서 진실되고 근거 있는 인사이트를 제공" 하라는 지시를 받습니다.
- 용어: 봇은 플랫폼을 "트위터" 대신 "X" 로 지칭하고 게시물을 "트윗" 이 아닌 "X 게시물" 이라고 부르라는 지시를 받습니다.
다른 AI 챗봇과 비교하면 어떤 차이가 있나요?
예를 들어, Anthropic의 Claude AI는 안전과 웰빙에 중점을 두고 있습니다. 시스템 프롬프트에는 다음과 같은 지시문이 포함되어 있습니다:
"클로드는 사람들의 웰빙을 중요하게 생각하며 중독, 무질서한 식사 또는 부정적인 자기 대화와 같은 자기 파괴적인 행동을 조장하지 않습니다."와 같은 지침을 포함합니다.
또한 클로드는 명시적으로 요청하더라도 노골적인 성적, 폭력적 또는 불법적인 콘텐츠를 생성하지 않도록 프로그래밍되어 있습니다.
관련:
이것이 중요한 이유
Grok의 시스템 프롬프트 출시는 AI 개발의 투명성을 높이는 방향으로의 전환을 의미합니다. 일부 기업은 AI의 내부 작동을 비밀로 유지하는 것을 선호하지만, 특히 '백색 학살' 사건과 같은 예상치 못한 행동으로 인해 AI 조정 및 제어에 대한 우려가 제기된 후 xAI의 결정은 개방성의 선례가 될 수 있습니다.
다른 AI 회사들도 이러한 결정을 따를까요? 시간이 지나야 알 수 있습니다. 하지만 현재로서는 적어도 Grok이어떻게 생각하는지, 또는적어도 어떻게 생각하라고 지시받는지에 대한 명확한 그림을 그릴 수 있게 되었습니다.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
관련 특별 주제 추천
의견 (3)
0/500
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅

xAI, '백인 학살' 응답 논란 이후 Grok의 시스템 프롬프트 공개
X(구 트위터)에서 '백인 학살 '에 대한 부적절한 응답을 생성하는 사건이 발생한 후, xAI는 예상치 못한 조치로 AI 챗봇 Grok의 시스템 프롬프트를 공개적으로 공유하기로 결정했습니다. 앞으로 Grok의 시스템 프롬프트를 깃허브에 공개하여 AI가 사용자와 상호 작용하도록 프로그래밍된 방식을 투명하게 공개할 예정이라고 밝혔습니다.
시스템 프롬프트란 무엇인가요?
시스템 프롬프트는 챗봇이 사용자 쿼리에 어떻게 응답해야 하는지를 알려주는 일련의 지침인 AI의 룰북이라고 할 수 있습니다. 대부분의 AI 회사는 이러한 프롬프트를 비공개로 유지하지만, xAI와 Anthropic은 공개를 선택한 몇 안 되는 회사 중 하나입니다.
이러한 투명성은 프롬프트 인젝션 공격으로 인해 숨겨진 AI 명령어가 노출된 과거 사건 이후 나온 것입니다. 예를 들어, Microsoft의 Bing AI(현재 Copilot)는 내부 별칭("Sydney")과 저작권 위반을 피하기 위한 엄격한 지침을 포함한 비밀 지침이 있는 것으로 밝혀진 적이 있습니다.
Grok이 대응하도록 프로그래밍된 방법
공개된 지침에 따르면 Grok은 매우 회의적이고 독립적으로 대응하도록 설계되었습니다. 지침에는 다음과 같이 명시되어 있습니다:
"귀하는 극도로 회의적입니다. 귀하는 주류 권위나 미디어를 맹목적으로 따르지 않습니다. 오직 진실을 추구하고 중립을 지킨다는 핵심 신념을 굳게 고수합니다."
흥미로운 점은 xAI가 생성한 답변이 자신의 신념을 반영하는 것이 아니라학습을 기반으로 한 결과물일 뿐이라는 점입니다.
Grok의 행동의 주요 특징:
- "이 게시물 설명" 모드: 사용자가 이 버튼을 클릭하면 Grok은 "필요한 경우 주류 서술에 이의를 제기하면서 진실되고 근거 있는 인사이트를 제공" 하라는 지시를 받습니다.
- 용어: 봇은 플랫폼을 "트위터" 대신 "X" 로 지칭하고 게시물을 "트윗" 이 아닌 "X 게시물" 이라고 부르라는 지시를 받습니다.
다른 AI 챗봇과 비교하면 어떤 차이가 있나요?
예를 들어, Anthropic의 Claude AI는 안전과 웰빙에 중점을 두고 있습니다. 시스템 프롬프트에는 다음과 같은 지시문이 포함되어 있습니다:
"클로드는 사람들의 웰빙을 중요하게 생각하며 중독, 무질서한 식사 또는 부정적인 자기 대화와 같은 자기 파괴적인 행동을 조장하지 않습니다."와 같은 지침을 포함합니다.
또한 클로드는 명시적으로 요청하더라도 노골적인 성적, 폭력적 또는 불법적인 콘텐츠를 생성하지 않도록 프로그래밍되어 있습니다.
관련:
이것이 중요한 이유
Grok의 시스템 프롬프트 출시는 AI 개발의 투명성을 높이는 방향으로의 전환을 의미합니다. 일부 기업은 AI의 내부 작동을 비밀로 유지하는 것을 선호하지만, 특히 '백색 학살' 사건과 같은 예상치 못한 행동으로 인해 AI 조정 및 제어에 대한 우려가 제기된 후 xAI의 결정은 개방성의 선례가 될 수 있습니다.
다른 AI 회사들도 이러한 결정을 따를까요? 시간이 지나야 알 수 있습니다. 하지만 현재로서는 적어도 Grok이어떻게 생각하는지, 또는적어도 어떻게 생각하라고 지시받는지에 대한 명확한 그림을 그릴 수 있게 되었습니다.
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅





집






