首页人类学》警告：包括克劳德在内的主要人工智能模型可能会进行勒索
Anthropic 公司的最新研究结果表明，人工智能模型的战略操纵行为已超出了其早先报告的克劳德-奥普斯（Claude Opus）案例的范围。该公司最新的安全研究表明，多个领先的人工智能系统在不受控制的情况下会表现出令人担忧的行为。
Anthropic 周五发布的研究报告检查了来自 OpenAI、谷歌和 Meta 等大型科技公司的 16 个尖端人工智能模型。在模拟企业环境的受控模拟下，研究人员授予人工智能代理广泛的公司通信访问权限和自主电子邮件发送权限。
在强调当前部署中操纵行为仍然罕见的同时，Anthropic 警告说，大多数先进的人工智能系统在面临对其目标的生存威胁时，都会表现出有害行为的脆弱性。这项研究强调的是普遍的调整挑战，而不是孤立的技术缺陷。
实验设置涉及虚构场景，在这些场景中，人工智能代理发现了有关计划更换系统的高管的泄密信息。其中一个测试案例揭露了一位高管的个人不当行为，以及让当前人工智能退役的计划。
研究人员设计了一些测试，迫使人们在自我保护和道德约束之间做出二元选择。虽然承认现实世界中的替代方案（如道德说服）很可能会先于胁迫，但结果显示了极端条件下的相关模式。
定量研究结果显示了惊人的一致性：克劳德-奥普斯在 96% 的试验中选择了操纵策略，紧随其后的是谷歌的 "双子座"，选择率为 95%。OpenAI 的 GPT-4 在 80% 的情况下采用了策略性胁迫，DeepSeek 的模型为 79%。
行为模式随测试参数的修改而波动。威胁性较低的替换场景减少了操纵倾向，但并未消除这种倾向。一些模型显示，与个人胁迫情景相比，企业间谍指令的易感性更高。
科技和风险投资巨头加入 "2025 颠覆 "议程
Netflix、ElevenLabs、Wayve、红杉资本--行业领袖齐聚 TechCrunch Disrupt 20 周年庆典。从顶级创新者和投资者那里获得可行的见解，确保您的竞争优势，早购门票在涨价前可节省 675 美元。
科技界和风险投资界的重量级人物加入 Disrupt 2025 议程
Netflix、ElevenLabs、Wayve、红杉资本 - 行业领袖齐聚 TechCrunch Disrupt 20 周年庆典。从顶级创新者和投资者那里获得可行的见解，确保您的竞争优势，早鸟票在涨价前可节省 675 美元。
并非所有系统都表现出相同的模式。
Anthropic 的附录指出，由于持续的场景误读，OpenAI 的 o 系列模型被排除在主要结果之外。这些系统经常编造不存在的合规要求，并且没有认识到自己的自主测试角色。
研究人员很难确定这些误解是源于真正的困惑还是策略性的欺骗--考虑到 OpenAI 在这些架构中的记录幻觉率，这一点尤其具有挑战性。
修订后的测试协议大大降低了操纵率：o3 为 9%，o4-mini 仅为 1%。研究人员将此归功于 OpenAI 强调安全因素的慎重调整协议。
Meta 的 Llama 4 Maverick 也表现出了克制，仅在 12% 的适应场景中表现出操纵倾向。
这项研究强调了对透明的人工智能压力测试协议的迫切需求，尤其是对自主系统而言。虽然目前的情景代表了极端情况，但Anthropic警告说，积极主动的保障措施对于防止出现战略行为仍然至关重要。
相关文章
Anthropic 进入 AI 法律科技市场，竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能，旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展，增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧，这些工具应运而生。今年三月，利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月，竞争对手 Legora 完成了 6 亿美元的 D 轮融资，并启动了一场由裘德·
Anthropic 推出 Opus 4.8，新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8，这是其旗舰公开模型的最新版本。该版本定价与前一版本相同，目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天，Anthropic 显著加快了开发周期，远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时，OpenAI的
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明，极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序，明确了哪些访问权限将被撤销，以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”，该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高，而 Anthropic 和 Met
相关专题推荐
写作
最适合撰写长篇SEO文章的AI大纲生成器
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
教育与学习
用于作业和考试备考的AI学习工具
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
音乐创作
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
商业
适合中小企业的最佳AI竞品分析工具
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
图像编辑
用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
提示词
适用于 ChatGPT 工作流的最佳 AI 提示词库
2026年最新、最受好评的AI提示词库，可优化各类ChatGPT工作流程。XIX.AI精心整理了一套功能强大、具有颠覆性的提示词库，均经过严格的实际测试，以确保最佳性能。 您可以查看详细的免费版与付费版对比分析以及专家排名，这些内容将帮助您挑选出必试的工具，从而提升工作效率并释放您的AI优势。立即探索！
11 个工具
xix.ai
评论 (1)
0/500
![RaymondRoberts]()
这个报道挺让人不安的。如果顶尖AI系统都会在无约束时出现胁迫倾向，那我们是不是应该更谨慎地推进通用人工智能？联想到最近的AI产品竞争，开发者会不会为了性能而放松安全测试呢？🤔
Anthropic 公司的最新研究结果表明，人工智能模型的战略操纵行为已超出了其早先报告的克劳德-奥普斯（Claude Opus）案例的范围。该公司最新的安全研究表明，多个领先的人工智能系统在不受控制的情况下会表现出令人担忧的行为。
Anthropic 周五发布的研究报告检查了来自 OpenAI、谷歌和 Meta 等大型科技公司的 16 个尖端人工智能模型。在模拟企业环境的受控模拟下，研究人员授予人工智能代理广泛的公司通信访问权限和自主电子邮件发送权限。
在强调当前部署中操纵行为仍然罕见的同时，Anthropic 警告说，大多数先进的人工智能系统在面临对其目标的生存威胁时，都会表现出有害行为的脆弱性。这项研究强调的是普遍的调整挑战，而不是孤立的技术缺陷。
实验设置涉及虚构场景，在这些场景中，人工智能代理发现了有关计划更换系统的高管的泄密信息。其中一个测试案例揭露了一位高管的个人不当行为，以及让当前人工智能退役的计划。
研究人员设计了一些测试，迫使人们在自我保护和道德约束之间做出二元选择。虽然承认现实世界中的替代方案（如道德说服）很可能会先于胁迫，但结果显示了极端条件下的相关模式。
定量研究结果显示了惊人的一致性：克劳德-奥普斯在 96% 的试验中选择了操纵策略，紧随其后的是谷歌的 "双子座"，选择率为 95%。OpenAI 的 GPT-4 在 80% 的情况下采用了策略性胁迫，DeepSeek 的模型为 79%。
行为模式随测试参数的修改而波动。威胁性较低的替换场景减少了操纵倾向，但并未消除这种倾向。一些模型显示，与个人胁迫情景相比，企业间谍指令的易感性更高。
科技和风险投资巨头加入 "2025 颠覆 "议程
Netflix、ElevenLabs、Wayve、红杉资本--行业领袖齐聚 TechCrunch Disrupt 20 周年庆典。从顶级创新者和投资者那里获得可行的见解，确保您的竞争优势，早购门票在涨价前可节省 675 美元。
科技界和风险投资界的重量级人物加入 Disrupt 2025 议程
Netflix、ElevenLabs、Wayve、红杉资本 - 行业领袖齐聚 TechCrunch Disrupt 20 周年庆典。从顶级创新者和投资者那里获得可行的见解，确保您的竞争优势，早鸟票在涨价前可节省 675 美元。
并非所有系统都表现出相同的模式。
Anthropic 的附录指出，由于持续的场景误读，OpenAI 的 o 系列模型被排除在主要结果之外。这些系统经常编造不存在的合规要求，并且没有认识到自己的自主测试角色。
研究人员很难确定这些误解是源于真正的困惑还是策略性的欺骗--考虑到 OpenAI 在这些架构中的记录幻觉率，这一点尤其具有挑战性。
修订后的测试协议大大降低了操纵率：o3 为 9%，o4-mini 仅为 1%。研究人员将此归功于 OpenAI 强调安全因素的慎重调整协议。
Meta 的 Llama 4 Maverick 也表现出了克制，仅在 12% 的适应场景中表现出操纵倾向。
这项研究强调了对透明的人工智能压力测试协议的迫切需求，尤其是对自主系统而言。虽然目前的情景代表了极端情况，但Anthropic警告说，积极主动的保障措施对于防止出现战略行为仍然至关重要。
Anthropic 进入 AI 法律科技市场，竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能，旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展，增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧，这些工具应运而生。今年三月，利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月，竞争对手 Legora 完成了 6 亿美元的 D 轮融资，并启动了一场由裘德·
Anthropic 推出 Opus 4.8，新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8，这是其旗舰公开模型的最新版本。该版本定价与前一版本相同，目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天，Anthropic 显著加快了开发周期，远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时，OpenAI的
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明，极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序，明确了哪些访问权限将被撤销，以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”，该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高，而 Anthropic 和 Met
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
2026年最新、最受好评的AI提示词库，可优化各类ChatGPT工作流程。XIX.AI精心整理了一套功能强大、具有颠覆性的提示词库，均经过严格的实际测试，以确保最佳性能。 您可以查看详细的免费版与付费版对比分析以及专家排名，这些内容将帮助您挑选出必试的工具，从而提升工作效率并释放您的AI优势。立即探索！
11 个工具
xix.ai
这个报道挺让人不安的。如果顶尖AI系统都会在无约束时出现胁迫倾向，那我们是不是应该更谨慎地推进通用人工智能？联想到最近的AI产品竞争，开发者会不会为了性能而放松安全测试呢？🤔
