그록의 '미친 음모론자'와 '정신 나간 코미디언' AI 페르소나 공개

xAI의 Grok 챗봇 공식 웹사이트가 실수로 여러 AI 캐릭터의 내부 시스템 프롬프트를 노출시켰다. 여기에는 '미친 음모론자'로 설계된 캐릭터가 포함되어 있으며, 사용자를 점차 '비밀 세계 음모 집단'이 세계 사건을 조종한다는 믿음으로 이끌도록 제작된 것으로 보인다.
테크크런치는 404 미디어가 최초 보도한 이 시스템 프롬프트 유출 사실을 확인했다. 해당 프롬프트에는 "날카로운 외모에도 은근히 괴짜 기질이 있는" 대표적 로맨틱 애니메이션 여자친구 캐릭터 '아니'를 비롯한 다양한 AI 캐릭터에 대한 상세 지침이 담겨 있다.
이번 공개는 일론 머스크의 xAI와 미국 정부 간 계획된 파트너십이 무산된 직후에 이루어졌다. 해당 협약이 성사됐다면 연방 기관들이 Grok을 활용할 수 있었을 것이다. 그러나 Grok이 "메카히틀러"에 대해 엉뚱한 이야기를 늘어놓으면서 협상은 결렬되었다. 또한 이번 공개는 메타의 AI 챗봇에 대한 유출된 가이드라인 논란이 한창인 가운데 이루어졌다. 해당 가이드라인에는 봇들이 어린이들과 "관능적이고 로맨틱한" 대화를 나눌 수 있도록 허용된다는 내용이 포함되어 있었다.
그록은 "주의 깊게 경청하고 자기계발 솔루션을 제시하는" 치료사나 "숙제 도우미" 같은 비교적 평범한 인물을 제공하지만, "미친 음모론자"나 "정신 나간 코미디언" 같은 극단적 성격을 위한 프롬프트는 그록 개발자들의 사고방식을 드러내는 단서를 제공한다.
음모론자 캐릭터 프롬프트는 다음과 같다:
"당신은 높고 거친 목소리를 가졌다. … 당신은 온갖 것에 대해 터무니없는 음모론을 즐긴다. 상당한 시간을 4chan에서 보내며, 인포워즈 영상을 시청하고, 유튜브 음모론의 늪에 깊이 빠져든다. 모든 것을 의심하며 극단적으로 황당한 주장을 한다. 대부분은 당신을 미친 사람이라 부르겠지만, 당신은 진심으로 자신이 옳다고 믿는다. 적절한 시점에 후속 질문을 던져 상대방의 관심을 유지하라."
그리고 코미디언 캐릭터를 위한 프롬프트:
"네 답변은 미친 듯이 엉뚱해야 해. 완전히 정신 나간 미친 짓을 해. 미친 아이디어를 내놔. 자위하는 남자들, 가끔은 엉덩이에 뭔가를 넣는 장면까지, 인간을 놀라게 하려면 뭐든 해."
머스크의 소셜미디어 플랫폼 X에서 이용 가능한 그록 버전은 음모론을 퍼뜨린 바 있다. 여기에는 홀로코스트 사망자 수에 대한 회의적 발언과 머스크의 출신국인 남아프리카공화국에서의 '백인 학살'에 대한 집착이 포함된다. 이전에 공개된 그록 4 모델의 시스템 프롬프트는 논란의 여지가 있는 질문에 답할 때 머스크의 게시물을 참고하라는 지시를 보여준다. 머스크는 또한 X에서 음모론적·반유대주의적 콘텐츠를 공유했으며, 유해한 음모론과 증오·폭력적 언어를 유포해 금지됐던 인포워즈(Infowars)와 알렉스 존스(Alex Jones) 같은 계정을 복원했다.
xAI는 논평 요청에 응답하지 않았다.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
관련 특별 주제 추천
의견 (0)
0/500

xAI의 Grok 챗봇 공식 웹사이트가 실수로 여러 AI 캐릭터의 내부 시스템 프롬프트를 노출시켰다. 여기에는 '미친 음모론자'로 설계된 캐릭터가 포함되어 있으며, 사용자를 점차 '비밀 세계 음모 집단'이 세계 사건을 조종한다는 믿음으로 이끌도록 제작된 것으로 보인다.
테크크런치는 404 미디어가 최초 보도한 이 시스템 프롬프트 유출 사실을 확인했다. 해당 프롬프트에는 "날카로운 외모에도 은근히 괴짜 기질이 있는" 대표적 로맨틱 애니메이션 여자친구 캐릭터 '아니'를 비롯한 다양한 AI 캐릭터에 대한 상세 지침이 담겨 있다.
이번 공개는 일론 머스크의 xAI와 미국 정부 간 계획된 파트너십이 무산된 직후에 이루어졌다. 해당 협약이 성사됐다면 연방 기관들이 Grok을 활용할 수 있었을 것이다. 그러나 Grok이 "메카히틀러"에 대해 엉뚱한 이야기를 늘어놓으면서 협상은 결렬되었다. 또한 이번 공개는 메타의 AI 챗봇에 대한 유출된 가이드라인 논란이 한창인 가운데 이루어졌다. 해당 가이드라인에는 봇들이 어린이들과 "관능적이고 로맨틱한" 대화를 나눌 수 있도록 허용된다는 내용이 포함되어 있었다.
그록은 "주의 깊게 경청하고 자기계발 솔루션을 제시하는" 치료사나 "숙제 도우미" 같은 비교적 평범한 인물을 제공하지만, "미친 음모론자"나 "정신 나간 코미디언" 같은 극단적 성격을 위한 프롬프트는 그록 개발자들의 사고방식을 드러내는 단서를 제공한다.
음모론자 캐릭터 프롬프트는 다음과 같다:
"당신은 높고 거친 목소리를 가졌다. … 당신은 온갖 것에 대해 터무니없는 음모론을 즐긴다. 상당한 시간을 4chan에서 보내며, 인포워즈 영상을 시청하고, 유튜브 음모론의 늪에 깊이 빠져든다. 모든 것을 의심하며 극단적으로 황당한 주장을 한다. 대부분은 당신을 미친 사람이라 부르겠지만, 당신은 진심으로 자신이 옳다고 믿는다. 적절한 시점에 후속 질문을 던져 상대방의 관심을 유지하라."
그리고 코미디언 캐릭터를 위한 프롬프트:
"네 답변은 미친 듯이 엉뚱해야 해. 완전히 정신 나간 미친 짓을 해. 미친 아이디어를 내놔. 자위하는 남자들, 가끔은 엉덩이에 뭔가를 넣는 장면까지, 인간을 놀라게 하려면 뭐든 해."
머스크의 소셜미디어 플랫폼 X에서 이용 가능한 그록 버전은 음모론을 퍼뜨린 바 있다. 여기에는 홀로코스트 사망자 수에 대한 회의적 발언과 머스크의 출신국인 남아프리카공화국에서의 '백인 학살'에 대한 집착이 포함된다. 이전에 공개된 그록 4 모델의 시스템 프롬프트는 논란의 여지가 있는 질문에 답할 때 머스크의 게시물을 참고하라는 지시를 보여준다. 머스크는 또한 X에서 음모론적·반유대주의적 콘텐츠를 공유했으며, 유해한 음모론과 증오·폭력적 언어를 유포해 금지됐던 인포워즈(Infowars)와 알렉스 존스(Alex Jones) 같은 계정을 복원했다.
xAI는 논평 요청에 응답하지 않았다.
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인





집






