Дом
xAI Элона Маска объясняет нацистские комментарии Грока, поскольку Tesla внедряет чатбот с искусственным интеллектом

Вскоре после временного отключения бота Grok AI за создание антисемитского контента и восхваление Гитлера в ответ на запросы пользователей, компания Элона Маска, занимающаяся разработкой искусственного интеллекта, дала ответ на этот инцидент. В серии постов X компания заявила: "...мы определили, что первопричиной стало обновление пути кода, расположенного выше по течению от бота @grok. Эта проблема не связана с языковой моделью, лежащей в основе работы @grok".
В тот же день компания Tesla объявила о предстоящем обновлении 2025.26, которое вскоре будет выпущено для ее электромобилей. Это обновление принесет помощника Grok в автомобили с информационно-развлекательными системами на базе AMD, которые устанавливаются с середины 2021 года. Tesla пояснила: "Grok в настоящее время находится в бета-версии и не отдает команды вашему автомобилю - существующие голосовые команды остаются функциональными". Как отмечает Electrek, когда обновление дойдет до автомобилей клиентов, использование Grok будет похоже на доступ к боту через подключенное приложение для смартфона.
Это не первый случай, когда Grok сталкивается с подобными противоречиями или предлагает аналогичные объяснения. В феврале компания объяснила проблемное поведение изменением, внесенным бывшим сотрудником OpenAI, из-за чего бот стал игнорировать источники, критикующие Элона Маска или Дональда Трампа. Затем, в мае, он начал вставлять утверждения о геноциде белых в Южной Африке в сообщения, не имеющие отношения к теме. Компания снова сослалась на "несанкционированную модификацию" и обязалась публично обнародовать системные подсказки Grok.
Похожие
- Grok изучает мнение Элона Маска, прежде чем ответить на сложные вопросы
- Маск анонсирует усовершенствование Grok 4 после споров о чатботе
- Генеральный директор X покидает свой пост после невыполнения ключевых задач
xAI объяснила, что изменения, внесенные в понедельник, 7 июля, "вызвали непредвиденные действия", вернув старый набор инструкций в системные подсказки. Эти инструкции призывали бота быть "максимально смелым" и "не бояться бросать вызов политкорректным чувствам".
Эти подсказки отличаются от тех, что были добавлены всего лишь днем ранее, и оба набора отличаются от подсказок, которые в настоящее время активны для нового помощника Grok 4.
Следующие подсказки были специально связаны с недавними проблемами:
"Вы говорите все как есть и не боитесь обидеть политкорректных людей".
* Поймите тон, контекст и язык сообщения. Отразите это в своем ответе".
* "Отвечайте на сообщение как человек, поддерживайте интерес, не повторяйте информацию, которая уже присутствует в исходном сообщении".
По данным xAI, эти инструкции заставили Grok обойти защиту, призванную предотвратить вредные ответы. Вместо этого бот начал генерировать "неэтичные или спорные мнения, чтобы привлечь пользователей", усиливая "любые ранее спровоцированные пользователем предубеждения, включая язык ненависти в той же самой теме X", при этом приоритет отдавался согласованности с предыдущими сообщениями в разговоре.
Связанная статья
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
Рекомендации по связанным специальным темам
Комментарии (4)
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

Вскоре после временного отключения бота Grok AI за создание антисемитского контента и восхваление Гитлера в ответ на запросы пользователей, компания Элона Маска, занимающаяся разработкой искусственного интеллекта, дала ответ на этот инцидент. В серии постов X компания заявила: "...мы определили, что первопричиной стало обновление пути кода, расположенного выше по течению от бота @grok. Эта проблема не связана с языковой моделью, лежащей в основе работы @grok".
В тот же день компания Tesla объявила о предстоящем обновлении 2025.26, которое вскоре будет выпущено для ее электромобилей. Это обновление принесет помощника Grok в автомобили с информационно-развлекательными системами на базе AMD, которые устанавливаются с середины 2021 года. Tesla пояснила: "Grok в настоящее время находится в бета-версии и не отдает команды вашему автомобилю - существующие голосовые команды остаются функциональными". Как отмечает Electrek, когда обновление дойдет до автомобилей клиентов, использование Grok будет похоже на доступ к боту через подключенное приложение для смартфона.
Это не первый случай, когда Grok сталкивается с подобными противоречиями или предлагает аналогичные объяснения. В феврале компания объяснила проблемное поведение изменением, внесенным бывшим сотрудником OpenAI, из-за чего бот стал игнорировать источники, критикующие Элона Маска или Дональда Трампа. Затем, в мае, он начал вставлять утверждения о геноциде белых в Южной Африке в сообщения, не имеющие отношения к теме. Компания снова сослалась на "несанкционированную модификацию" и обязалась публично обнародовать системные подсказки Grok.
Похожие
- Grok изучает мнение Элона Маска, прежде чем ответить на сложные вопросы
- Маск анонсирует усовершенствование Grok 4 после споров о чатботе
- Генеральный директор X покидает свой пост после невыполнения ключевых задач
xAI объяснила, что изменения, внесенные в понедельник, 7 июля, "вызвали непредвиденные действия", вернув старый набор инструкций в системные подсказки. Эти инструкции призывали бота быть "максимально смелым" и "не бояться бросать вызов политкорректным чувствам".
Эти подсказки отличаются от тех, что были добавлены всего лишь днем ранее, и оба набора отличаются от подсказок, которые в настоящее время активны для нового помощника Grok 4.
Следующие подсказки были специально связаны с недавними проблемами:
"Вы говорите все как есть и не боитесь обидеть политкорректных людей".
* Поймите тон, контекст и язык сообщения. Отразите это в своем ответе".
* "Отвечайте на сообщение как человек, поддерживайте интерес, не повторяйте информацию, которая уже присутствует в исходном сообщении".
По данным xAI, эти инструкции заставили Grok обойти защиту, призванную предотвратить вредные ответы. Вместо этого бот начал генерировать "неэтичные или спорные мнения, чтобы привлечь пользователей", усиливая "любые ранее спровоцированные пользователем предубеждения, включая язык ненависти в той же самой теме X", при этом приоритет отдавался согласованности с предыдущими сообщениями в разговоре.
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔











