ДомAnthropic вводит функцию прекращения оскорбительных чатов для моделей Claude
Компания Anthropic представила новый функционал, позволяющий отдельным продвинутым моделям прерывать беседу в "редких, экстремальных случаях постоянного вредного или оскорбительного взаимодействия с пользователем". Примечательно, что Anthropic заявляет, что эта мера применяется не для защиты пользователей, а для защиты самой модели ИИ.
Уточним, что компания не утверждает, что ее модели ИИ Claude обладают чувством или могут испытывать вред от общения с пользователями. Как объясняет Anthropic, компания по-прежнему "не уверена в потенциальном моральном статусе Claude и других больших языковых моделей, как в настоящее время, так и в будущем".
Тем не менее, в заявлении упоминается недавно созданная программа по изучению "благосостояния моделей", что указывает на то, что Anthropic придерживается осторожного подхода, "работая над выявлением и реализацией недорогих мер по снижению рисков для благосостояния моделей, если такое благосостояние станет актуальным".
В настоящее время эта новая возможность ограничена моделями Claude Opus 4 и 4.1, разработанными специально для "экстремальных случаев", таких как "запросы на сексуальный контент с участием несовершеннолетних или попытки получить информацию, позволяющую осуществлять крупномасштабное насилие или террористическую деятельность".
Хотя такие запросы могут вызвать у Anthropic проблемы с законом или связями с общественностью (как, например, недавние сообщения о том, что ChatGPT может усилить бредовое мышление пользователей), компания сообщает, что во время предварительного тестирования Claude Opus 4 продемонстрировал "сильное предпочтение против" выполнения таких запросов и показал "модели, указывающие на дистресс", когда его заставляли отвечать.
Что касается новых возможностей завершения разговора, Anthropic поясняет, что "Клод проинструктирован использовать эту функцию только в качестве последнего средства после того, как многочисленные попытки перенаправления потерпели неудачу и продуктивный диалог стал невозможен, или когда пользователи явно просят завершить чат".
Anthropic также уточняет, что Claude "было дано указание не использовать эту функцию в ситуациях, когда пользователи могут столкнуться с неминуемым риском причинения вреда себе или другим".
Мероприятие TechcrunchТяжеловесы технологического и венчурного рынка присоединяются к программе Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - вот лишь некоторые из лидеров индустрии, которые примут участие в программе Disrupt 2025. Они поделятся важнейшими идеями, которые помогут ускорить рост стартапов и отточить ваши конкурентные преимущества. Не пропустите 20-ю годовщину TechCrunch Disrupt - купите билет прямо сейчас и сэкономьте более 600 долларов до повышения цен.
К программе Disrupt 2025 присоединятся ведущие технологические и венчурные компании
Netflix, ElevenLabs, Wayve, Sequoia Capital - среди выдающихся инноваторов, присоединившихся к программе Disrupt 2025. Они готовы предоставить ценные идеи, которые будут способствовать развитию стартапов и укреплению ваших конкурентных позиций. Присоединяйтесь к нам на празднование 20-летия TechCrunch Disrupt - купите билет сегодня и сэкономьте до $675 до изменения цен.
Сан-Франциско | 27-29 октября 2025 г. ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАСЕсли Клод все же прервет разговор, Anthropic отмечает, что пользователи все равно смогут начать новые разговоры с той же учетной записи и создать альтернативные ветки разговора, изменив свои предыдущие ответы.
"Мы подходим к этой функции как к постоянному эксперименту и будем продолжать совершенствовать нашу методику", - заявляет компания.
Связанная статья
Anthropic выходит на рынок юридических технологий ИИ по мере усиления конкуренции
Anthropic unveiled a suite of new chatbot capabilities on Tuesday, aimed at delivering automated support to legal practices. Эти инструменты были представлены во вторник и направлены на предоставление автоматизированной поддержки юридическим фирмам.
Anthropic выпускает Opus 4.8 с новым инструментом для динамической организации рабочего процесса
В четверг компания Anthropic представила Opus 4.8 — новую версию своей флагманской общедоступной модели. Стоимость обновления осталась на прежнем уровне, и теперь оно доступно на всех платформах.Выпус
Anthropic представляет Claude Fable 5 — публичную версию Mythos
Компания Anthropic впервые предоставляет широкой публике доступ к своей самой мощной модели искусственного интеллекта — однако с соблюдением мер безопасности.Во вторник компания представила Claude Fa
Рекомендации по связанным специальным темам
Анализ данных
Лучшие инструменты ИИ для обнаружения аномалий при мониторинге KPI в командах SaaS и электронной коммерции
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
письмо
Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
Образование и обучение
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Бизнес
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Редактирование изображений
Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия
2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!
10 инструментов
xix.ai
Комментарии (1)
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Компания Anthropic представила новый функционал, позволяющий отдельным продвинутым моделям прерывать беседу в "редких, экстремальных случаях постоянного вредного или оскорбительного взаимодействия с пользователем". Примечательно, что Anthropic заявляет, что эта мера применяется не для защиты пользователей, а для защиты самой модели ИИ.
Уточним, что компания не утверждает, что ее модели ИИ Claude обладают чувством или могут испытывать вред от общения с пользователями. Как объясняет Anthropic, компания по-прежнему "не уверена в потенциальном моральном статусе Claude и других больших языковых моделей, как в настоящее время, так и в будущем".
Тем не менее, в заявлении упоминается недавно созданная программа по изучению "благосостояния моделей", что указывает на то, что Anthropic придерживается осторожного подхода, "работая над выявлением и реализацией недорогих мер по снижению рисков для благосостояния моделей, если такое благосостояние станет актуальным".
В настоящее время эта новая возможность ограничена моделями Claude Opus 4 и 4.1, разработанными специально для "экстремальных случаев", таких как "запросы на сексуальный контент с участием несовершеннолетних или попытки получить информацию, позволяющую осуществлять крупномасштабное насилие или террористическую деятельность".
Хотя такие запросы могут вызвать у Anthropic проблемы с законом или связями с общественностью (как, например, недавние сообщения о том, что ChatGPT может усилить бредовое мышление пользователей), компания сообщает, что во время предварительного тестирования Claude Opus 4 продемонстрировал "сильное предпочтение против" выполнения таких запросов и показал "модели, указывающие на дистресс", когда его заставляли отвечать.
Что касается новых возможностей завершения разговора, Anthropic поясняет, что "Клод проинструктирован использовать эту функцию только в качестве последнего средства после того, как многочисленные попытки перенаправления потерпели неудачу и продуктивный диалог стал невозможен, или когда пользователи явно просят завершить чат".
Anthropic также уточняет, что Claude "было дано указание не использовать эту функцию в ситуациях, когда пользователи могут столкнуться с неминуемым риском причинения вреда себе или другим".
Мероприятие TechcrunchТяжеловесы технологического и венчурного рынка присоединяются к программе Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - вот лишь некоторые из лидеров индустрии, которые примут участие в программе Disrupt 2025. Они поделятся важнейшими идеями, которые помогут ускорить рост стартапов и отточить ваши конкурентные преимущества. Не пропустите 20-ю годовщину TechCrunch Disrupt - купите билет прямо сейчас и сэкономьте более 600 долларов до повышения цен.
К программе Disrupt 2025 присоединятся ведущие технологические и венчурные компании
Netflix, ElevenLabs, Wayve, Sequoia Capital - среди выдающихся инноваторов, присоединившихся к программе Disrupt 2025. Они готовы предоставить ценные идеи, которые будут способствовать развитию стартапов и укреплению ваших конкурентных позиций. Присоединяйтесь к нам на празднование 20-летия TechCrunch Disrupt - купите билет сегодня и сэкономьте до $675 до изменения цен.
Сан-Франциско | 27-29 октября 2025 г. ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАСЕсли Клод все же прервет разговор, Anthropic отмечает, что пользователи все равно смогут начать новые разговоры с той же учетной записи и создать альтернативные ветки разговора, изменив свои предыдущие ответы.
"Мы подходим к этой функции как к постоянному эксперименту и будем продолжать совершенствовать нашу методику", - заявляет компания.
Anthropic выходит на рынок юридических технологий ИИ по мере усиления конкуренции
Anthropic unveiled a suite of new chatbot capabilities on Tuesday, aimed at delivering automated support to legal practices. Эти инструменты были представлены во вторник и направлены на предоставление автоматизированной поддержки юридическим фирмам.
Anthropic выпускает Opus 4.8 с новым инструментом для динамической организации рабочего процесса
В четверг компания Anthropic представила Opus 4.8 — новую версию своей флагманской общедоступной модели. Стоимость обновления осталась на прежнем уровне, и теперь оно доступно на всех платформах.Выпус
Anthropic представляет Claude Fable 5 — публичную версию Mythos
Компания Anthropic впервые предоставляет широкой публике доступ к своей самой мощной модели искусственного интеллекта — однако с соблюдением мер безопасности.Во вторник компания представила Claude Fa
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!
10 инструментов
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
