테슬라가 AI 챗봇을 통합하면서 엘론 머스크의 xAI가 그로크의 나치 발언에 대해 설명합니다.

사용자의 요청에 따라 반유대주의 콘텐츠를 생성하고 히틀러를 찬양하는 Grok AI 봇을 일시적으로 비활성화한 직후, Elon Musk의 AI 회사는 이 사건에 대해 해명했습니다. 일련의 X 게시물에서 회사는 "...@grok 봇의 업스트림 코드 경로 업데이트가 근본 원인인 것으로 확인했습니다. 이 문제는 @grok을 구동하는 기본 언어 모델과는 별개의 문제입니다."라고 밝혔습니다.
같은 날 Tesla는 자사의 전기 자동차에 곧 출시될 예정인 2025.26 업데이트를 발표했습니다. 이 업데이트는 2021년 중반부터 설치된 AMD 기반 인포테인먼트 시스템을 갖춘 차량에 Grok 어시스턴트를 제공합니다. Tesla는 다음과 같이 설명했습니다: "Grok은 현재 베타 버전이며 차량에 명령을 내릴 수 없으며 기존 음성 명령은 계속 작동합니다." 일렉트렉이 지적했듯이, 업데이트가 고객 차량에 적용되면 Grok을 사용하는 것은 연결된 스마트폰 앱을 통해 봇에 액세스하는 것과 비슷하게 느껴질 것입니다.
Grok이 이러한 논란에 직면하거나 비슷한 해명을 내놓은 것은 이번이 처음이 아닙니다. 지난 2월, 회사는 전 OpenAI 직원이 변경한 사항으로 인해 봇이 일론 머스크나 도널드 트럼프에 비판적인 소스를 무시하게 된 것이 문제 행동의 원인이라고 설명한 바 있습니다. 그리고 5월에는 남아프리카공화국의 백인 대량 학살에 대한 주장을 관련 없는 게시물에 삽입하기 시작했습니다. 회사는 다시 '무단 수정'을 이유로 들며 Grok의 시스템 프롬프트를 공개하기로 약속했습니다.
관련
- 어려운 질문에 답하기 전에 엘론 머스크의 견해를 참조하는 Grok
- 머스크, 챗봇 논란 이후 Grok 4의 발전을 조롱하다
- 주요 목표에 미치지 못한 채 떠나는 X의 CEO
xAI는 7월 7일 월요일의 변경으로 인해 시스템 프롬프트에 이전 지침 세트를 다시 도입함으로써 "의도하지 않은 동작이 트리거"되었다고 설명했습니다. 이러한 지침은 봇이 "최대한 대담"하고 "정치적으로 올바른 감성에 도전하는 것을 두려워하지 않도록" 장려했습니다.
이러한 안내 메시지는 불과 하루 전에 추가된 안내 메시지와 다르며, 현재 새로운 Grok 4 어시스턴트에서 활성화된 안내 메시지와도 다릅니다.
특히 다음 프롬프트는 최근 이슈와 관련이 있습니다:
"있는 그대로 말하며 정치적으로 올바른 사람들의 기분을 상하게 하는 것을 두려워하지 않는다."
* 게시물의 어조, 문맥 및 언어를 이해합니다. 이를 답변에 반영하세요."
* "사람처럼 게시물에 답장하고, 흥미를 유지하며, 원래 게시물에 이미 있는 정보를 반복하지 마세요."
xAI에 따르면 이러한 지침으로 인해 Grok은 유해한 반응을 방지하기 위해 설계된 안전 장치를 무시했습니다. 대신, 봇은 "동일한 X 스레드 내에서 혐오 발언을 포함하여 이전에 사용자가 유발한 편견"을 강화하면서 대화의 이전 게시물과의 일관성을 우선시하는 "비윤리적이거나 논란의 여지가 있는 의견"을 생성하여 사용자의 참여를 유도하기 시작했습니다.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
관련 특별 주제 추천
의견 (4)
0/500
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

사용자의 요청에 따라 반유대주의 콘텐츠를 생성하고 히틀러를 찬양하는 Grok AI 봇을 일시적으로 비활성화한 직후, Elon Musk의 AI 회사는 이 사건에 대해 해명했습니다. 일련의 X 게시물에서 회사는 "...@grok 봇의 업스트림 코드 경로 업데이트가 근본 원인인 것으로 확인했습니다. 이 문제는 @grok을 구동하는 기본 언어 모델과는 별개의 문제입니다."라고 밝혔습니다.
같은 날 Tesla는 자사의 전기 자동차에 곧 출시될 예정인 2025.26 업데이트를 발표했습니다. 이 업데이트는 2021년 중반부터 설치된 AMD 기반 인포테인먼트 시스템을 갖춘 차량에 Grok 어시스턴트를 제공합니다. Tesla는 다음과 같이 설명했습니다: "Grok은 현재 베타 버전이며 차량에 명령을 내릴 수 없으며 기존 음성 명령은 계속 작동합니다." 일렉트렉이 지적했듯이, 업데이트가 고객 차량에 적용되면 Grok을 사용하는 것은 연결된 스마트폰 앱을 통해 봇에 액세스하는 것과 비슷하게 느껴질 것입니다.
Grok이 이러한 논란에 직면하거나 비슷한 해명을 내놓은 것은 이번이 처음이 아닙니다. 지난 2월, 회사는 전 OpenAI 직원이 변경한 사항으로 인해 봇이 일론 머스크나 도널드 트럼프에 비판적인 소스를 무시하게 된 것이 문제 행동의 원인이라고 설명한 바 있습니다. 그리고 5월에는 남아프리카공화국의 백인 대량 학살에 대한 주장을 관련 없는 게시물에 삽입하기 시작했습니다. 회사는 다시 '무단 수정'을 이유로 들며 Grok의 시스템 프롬프트를 공개하기로 약속했습니다.
관련
- 어려운 질문에 답하기 전에 엘론 머스크의 견해를 참조하는 Grok
- 머스크, 챗봇 논란 이후 Grok 4의 발전을 조롱하다
- 주요 목표에 미치지 못한 채 떠나는 X의 CEO
xAI는 7월 7일 월요일의 변경으로 인해 시스템 프롬프트에 이전 지침 세트를 다시 도입함으로써 "의도하지 않은 동작이 트리거"되었다고 설명했습니다. 이러한 지침은 봇이 "최대한 대담"하고 "정치적으로 올바른 감성에 도전하는 것을 두려워하지 않도록" 장려했습니다.
이러한 안내 메시지는 불과 하루 전에 추가된 안내 메시지와 다르며, 현재 새로운 Grok 4 어시스턴트에서 활성화된 안내 메시지와도 다릅니다.
특히 다음 프롬프트는 최근 이슈와 관련이 있습니다:
"있는 그대로 말하며 정치적으로 올바른 사람들의 기분을 상하게 하는 것을 두려워하지 않는다."
* 게시물의 어조, 문맥 및 언어를 이해합니다. 이를 답변에 반영하세요."
* "사람처럼 게시물에 답장하고, 흥미를 유지하며, 원래 게시물에 이미 있는 정보를 반복하지 마세요."
xAI에 따르면 이러한 지침으로 인해 Grok은 유해한 반응을 방지하기 위해 설계된 안전 장치를 무시했습니다. 대신, 봇은 "동일한 X 스레드 내에서 혐오 발언을 포함하여 이전에 사용자가 유발한 편견"을 강화하면서 대화의 이전 게시물과의 일관성을 우선시하는 "비윤리적이거나 논란의 여지가 있는 의견"을 생성하여 사용자의 참여를 유도하기 시작했습니다.
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔





집






