首页Anthropic 为其克劳德模型推出终止辱骂性聊天的功能
Anthropic 推出了一项新功能，使特定的高级模型能够在该公司所称的 "罕见的、极端的、持续有害或滥用用户互动的情况下终止对话"。值得注意的是，Anthropic 表示实施这一措施不是为了保护人类用户，而是为了保护人工智能模型本身。
需要澄清的是，该公司并没有断言其克劳德人工智能模型拥有感知能力，也不会从用户对话中感受到伤害。正如 Anthropic 所解释的那样，该公司 "对克劳德和其他大型语言模型目前或将来的潜在道德地位仍有很大的不确定性"。
尽管如此，公告中还是提到了最近建立的一项研究 "模型福利 "的计划，表明 Anthropic 正在采取一种预防性方法，"努力确定并实施低成本的干预措施，以减轻模型福利所面临的风险，如果这种福利变得相关的话"。
这项新功能目前仅限于克劳德 Opus 4 和 4.1 模型，专为 "极端边缘情况 "而设计，例如 "请求获取涉及未成年人的性内容或试图获取可促成大规模暴力或恐怖活动的信息"。
虽然此类请求可能会给 Anthropic 带来法律或公共关系方面的挑战（正如最近有关 ChatGPT 可能会强化用户妄想思维的报道所示），但该公司报告称，在部署前测试中，Claude Opus 4 表现出 "强烈反对 "遵守这些请求，并在被迫做出回应时显示出 "暗示痛苦的模式"。
关于这些新的结束对话功能，Anthropic 澄清说："克劳德被指示只有在多次重定向尝试失败且似乎不可能进行富有成效的对话时，或者在用户明确要求结束聊天时，才作为最后手段使用该功能。
Anthropic 还指出，克劳德 "被指示在用户可能面临自残或伤害他人的紧迫风险时不要使用这一功能"。
Techcrunch 活动科技界和风险投资界的重量级人物加入 "颠覆 2025 "议程
Netflix、ElevenLabs、Wayve、红杉资本（Sequoia Capital）、埃拉德-吉尔（Elad Gil）--这些都是加入 "颠覆 2025 "议程的行业领导者。他们将分享重要的见解，以加速初创企业的成长并增强您的竞争优势。千万不要错过 TechCrunch Disrupt 20 周年纪念版 - 现在购买门票，可在价格上涨前节省 600 多美元。
技术和风险投资领域的重量级人物加入 Disrupt 2025 议程
Netflix、ElevenLabs、Wayve、红杉资本等知名创新企业加入了 Disrupt 2025 议程。他们将在这里提供有价值的见解，推动初创企业的扩张，提升您的竞争定位。加入我们的 TechCrunch Disrupt 20 周年庆典 - 今天就购买门票，在价格变动之前最多可节省 675 美元。
旧金山 2025 年 10 月 27-29 日 立即注册当克劳德终止对话时，Anthropic指出用户仍然可以从同一账户发起新的对话，并通过修改之前的回复创建其他对话分支。
"该公司表示："我们正在将这项功能作为一项持续实验，并将继续改进我们的方法。
相关文章
Anthropic 进入 AI 法律科技市场，竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能，旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展，增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧，这些工具应运而生。今年三月，利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月，竞争对手 Legora 完成了 6 亿美元的 D 轮融资，并启动了一场由裘德·
Anthropic 推出 Opus 4.8，新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8，这是其旗舰公开模型的最新版本。该版本定价与前一版本相同，目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天，Anthropic 显著加快了开发周期，远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时，OpenAI的
Anthropic 正式推出 Claude Fable 5，这是 Mythos 的公开版本
Anthropic首次向公众开放其最强大的人工智能模型——但已采取相应的安全措施。本周二，该公司推出了 Claude Fable 5，这是其 Mythos 模型的首次公开发布。 据Anthropic介绍，Fable 5在软件工程、知识工作和视觉任务方面表现优异，但附带严格的安全限制。在网络安全、生物学、化学和蒸馏等高风险领域，该模型将拒绝回答问题，转而交由Claude Opus 4.8处理。M
相关专题推荐
数据分析
适用于 SaaS 和电商团队的 KPI 监控最佳 AI 异常检测工具
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
写作
最适合撰写长篇SEO文章的AI大纲生成器
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
教育与学习
用于作业和考试备考的AI学习工具
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
音乐创作
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
商业
适合中小企业的最佳AI竞品分析工具
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
图像编辑
用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
评论 (1)
0/500
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Anthropic 推出了一项新功能，使特定的高级模型能够在该公司所称的 "罕见的、极端的、持续有害或滥用用户互动的情况下终止对话"。值得注意的是，Anthropic 表示实施这一措施不是为了保护人类用户，而是为了保护人工智能模型本身。
需要澄清的是，该公司并没有断言其克劳德人工智能模型拥有感知能力，也不会从用户对话中感受到伤害。正如 Anthropic 所解释的那样，该公司 "对克劳德和其他大型语言模型目前或将来的潜在道德地位仍有很大的不确定性"。
尽管如此，公告中还是提到了最近建立的一项研究 "模型福利 "的计划，表明 Anthropic 正在采取一种预防性方法，"努力确定并实施低成本的干预措施，以减轻模型福利所面临的风险，如果这种福利变得相关的话"。
这项新功能目前仅限于克劳德 Opus 4 和 4.1 模型，专为 "极端边缘情况 "而设计，例如 "请求获取涉及未成年人的性内容或试图获取可促成大规模暴力或恐怖活动的信息"。
虽然此类请求可能会给 Anthropic 带来法律或公共关系方面的挑战（正如最近有关 ChatGPT 可能会强化用户妄想思维的报道所示），但该公司报告称，在部署前测试中，Claude Opus 4 表现出 "强烈反对 "遵守这些请求，并在被迫做出回应时显示出 "暗示痛苦的模式"。
关于这些新的结束对话功能，Anthropic 澄清说："克劳德被指示只有在多次重定向尝试失败且似乎不可能进行富有成效的对话时，或者在用户明确要求结束聊天时，才作为最后手段使用该功能。
Anthropic 还指出，克劳德 "被指示在用户可能面临自残或伤害他人的紧迫风险时不要使用这一功能"。
Techcrunch 活动科技界和风险投资界的重量级人物加入 "颠覆 2025 "议程
Netflix、ElevenLabs、Wayve、红杉资本（Sequoia Capital）、埃拉德-吉尔（Elad Gil）--这些都是加入 "颠覆 2025 "议程的行业领导者。他们将分享重要的见解，以加速初创企业的成长并增强您的竞争优势。千万不要错过 TechCrunch Disrupt 20 周年纪念版 - 现在购买门票，可在价格上涨前节省 600 多美元。
技术和风险投资领域的重量级人物加入 Disrupt 2025 议程
Netflix、ElevenLabs、Wayve、红杉资本等知名创新企业加入了 Disrupt 2025 议程。他们将在这里提供有价值的见解，推动初创企业的扩张，提升您的竞争定位。加入我们的 TechCrunch Disrupt 20 周年庆典 - 今天就购买门票，在价格变动之前最多可节省 675 美元。
旧金山 2025 年 10 月 27-29 日 立即注册当克劳德终止对话时，Anthropic指出用户仍然可以从同一账户发起新的对话，并通过修改之前的回复创建其他对话分支。
"该公司表示："我们正在将这项功能作为一项持续实验，并将继续改进我们的方法。
Anthropic 进入 AI 法律科技市场，竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能，旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展，增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧，这些工具应运而生。今年三月，利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月，竞争对手 Legora 完成了 6 亿美元的 D 轮融资，并启动了一场由裘德·
Anthropic 推出 Opus 4.8，新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8，这是其旗舰公开模型的最新版本。该版本定价与前一版本相同，目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天，Anthropic 显著加快了开发周期，远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时，OpenAI的
Anthropic 正式推出 Claude Fable 5，这是 Mythos 的公开版本
Anthropic首次向公众开放其最强大的人工智能模型——但已采取相应的安全措施。本周二，该公司推出了 Claude Fable 5，这是其 Mythos 模型的首次公开发布。 据Anthropic介绍，Fable 5在软件工程、知识工作和视觉任务方面表现优异，但附带严格的安全限制。在网络安全、生物学、化学和蒸馏等高风险领域，该模型将拒绝回答问题，转而交由Claude Opus 4.8处理。M
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
