首页网络安全专家批评Anthropic的Fable中的护栏措施
Anthropic 于周二推出了其最新模型 Fable，将其定位为备受期待的网络安全专用模型 Mythos 的公开受限版本。
然而，这些限制引发了部分网络安全研究人员和从业者的不满，他们已在网上表达了担忧。
“[Fable] 会阻止任何可能与网络安全相关的请求，包括阅读博客文章等无害任务，”IBM X-Force 的高级安全研究员 Valentina “Chompie” Palmiotti 表示。
当用户提示触发这些安全过滤器时，Fable 会中断对话，并显示一条消息，称其“安全协议因网络安全或生物主题标记了此输入”。
这些限制旨在降低 Fable 被用于创建恶意软件或利用软件的风险——这是 Anthropic 一直关注的持续性问题。生物领域的限制则源于对开发生物武器的类似担忧。
Anthropic 在 4 月发布 Mythos 时，将访问权限限制在 Project Glasswing 项目下的少数公司和组织，该计划旨在部署该模型以保护关键软件和基础设施。上周，Anthropic 将 Mythos 的访问权限扩大到了 15 个国家的数百个组织。
尽管初衷良好，但许多网络安全专家仍对看似武断的限制感到沮丧。资深网络安全专家 Matt Suiche 告诉 TechCrunch，“如果你要求它编写安全代码，它会将其解读为与网络安全相关的工作，而非软件工程的最佳实践，从而导致降级。”当触发护栏机制时，Fable 会回退到 Claude Opus 4.8。“它似乎依赖于关键词，因此‘网络安全’词汇表中的任何术语都会激活过滤器，”他指出。
联系我们
您是否有关于黑客如何利用 AI，或网络安全公司如何整合 AI 的更多见解？我们欢迎您的意见。您可以从个人设备和网络，通过 Signal 联系 Lorenzo Franceschi-Bicchierai（电话：+1 917 257 1382），或通过 Telegram 和 Keybase（@lorenzofb）以及电子邮件。
“然而，鉴于我们仍处于早期阶段，他们正在完善其护栏机制，这是可以理解的。我相信，随着 Anthropic 和其他前沿模型开发商与新一代网络安全公司更紧密地合作，这些限制将会演变，”Tolmo（一家 AI 网络安全初创公司）的技术人员 Suiche 表示。“最初过度限制并在随后逐步放宽护栏是更可取的。”
另一位研究人员在 X 上抱怨称，“即使是请求代码审查”也会激活 Fable 的安全过滤器。
Anthropic 尚未立即回应置评请求。
除了模型层面的护栏外，Anthropic 还要求网络安全专业人员申请其网络安全验证计划。获得批准的用户在使用 Claude 进行网络安全任务时将面临更少的限制。OpenAI 也提供了一个名为“Trusted Access for Cyber”的类似计划。
相关文章
白宫放弃“超级智能”的AI标签
正在加载播放器……本周，白宫召集了几乎所有主要科技公司的首席执行官齐聚一堂——包括扎克伯格、贝索斯、马斯克以及 Anthropic 的达里奥·阿莫迪——签署了一份人工智能安全承诺，美国总统唐纳德·特朗普称该承诺“具有道德约束力”。特朗普还签署了一项行政命令，正式将人工智能重新定义为“超级智能”，与此同时，Meta 和 OpenAI 正致力于使其人工智能产品更加用户友好，尽管来自企业部门的人工智能最大金融投资仍在持续涌入。在本期 TechCrunch 的 Equity 播客节目中，Kirste
Anthropic 推出 Sonnet 5.5，作为更快、更便宜的工作伙伴
在各大 AI 模型持续竞争的背景下，Anthropic 推出了其中端产品 Sonnet 的最新迭代版本，承诺相比前代版本实现速度的大幅提升和成本的显著降低。Anthropic 将 Sonnet 5.5 定位为适用于日常工作流程的多功能工具，涵盖软件开发和文档创作等领域。Sonnet 5 是 5.5 版本的前身，大约在三个月前推出，其主要优势在于具有成本效益的智能体（agentic）部署能力。5.5 版本的关键改进在于速度的提升。Anthropic 表示，Sonnet 5.5 的运行速度比前
Anthropic 与特朗普政府的最新冲突实际上可能对其有利，销售数据显示
Anthropic 正经历着一个非凡的月份。据 Ramp 数据显示，这家 AI 公司首次超越 OpenAI，在商业支出市场份额中占据首位，并在五月以 650 亿美元的融资额和 9650 亿美元的估值收官。随后不久，Anthropic 提交了保密的首次公开募股（IPO）文件，据报道，这得益于其首个盈利季度的表现。周五，特朗普政府通过要求 Anthropic 阻止非美国用户（包括其自身员工）访问其最新模型——受限的 Mythos 5 和近期公开的 Fable 5——进一步加剧了紧张局势。这一指
相关专题推荐
生产率
最佳 AI 日常计划应用：助力高效深度工作，制定切实可行的日程安排
2026年最新评分最高的AI日常规划应用，让制定切实可行的深度工作日程变得轻而易举。这份精心筛选的列表汇集了经过实际使用测试、具备强大功能且能带来显著效率提升的工具，所有工具的准确性与实用性都已得到验证。您不仅可以查看免费版与付费版的对比信息，还能根据易用性和实际效果了解详细的排名情况。XIX.AI也位列这一值得信赖的应用集合之中。立即探索，找到最适合您的工具，借助AI优势让您每天都能保持专注并提升工作效率。
11 个工具
xix.ai
数据分析
用于快速生成报告的最佳AI图表制作工具
2026年最新、最受欢迎的高评分AI图表制作工具，助您快速生成报告，尽在XIX.AI！这份精心筛选的清单汇集了功能强大、颠覆性的工具，只需点击几下即可生成准确的专业图表，帮助您提升写作效率并优化内容创作流程。 获取免费版与付费版的对比分析，结合实际测试结果和详细排名，为您找到最适合需求的必试解决方案。立即探索，释放您的AI优势！
9 个工具
xix.ai
聊天机器人
适用于电商排队、VIP买家和退货请求的AI实时聊天路由工具
2026年最新最佳、评分最高的AI实时聊天路由工具，适用于电商排队、VIP买家及退货请求。这份精心筛选的清单汇集了经过实际测试、能显著提升工作效率的强大且具有颠覆性的解决方案。其中包含免费版与付费版的对比分析以及详细排名，助您找到最适合的工具。 XIX.AI 是该领域备受信赖的供应商之一。立即探索，释放您的 AI 优势！
9 个工具
xix.ai
写作
适合非母语英语写作者的最佳AI编辑工具：提升语气、语法和行文流畅度
2026年最新、最受好评的面向ESL写作者的AI编辑工具已登陆XIX.AI！这份精心筛选的清单收录了功能强大、能彻底改变写作体验的工具，所有工具均经过实际测试，以确保准确性。 您可以在这里找到免费版与付费版的对比分析以及详细的排名榜单，助您挑选出必试的解决方案，完美提升您的写作语气、语法和行文流畅度。立即探索，解锁您的AI优势！
9 个工具
xix.ai
软件开发
面向工程团队的最佳 AI 缺陷分级工具
2026年最新最佳、评价最高的工程团队AI缺陷分级工具！XIX.AI精心精选了一系列功能强大、具有颠覆性的必试工具，这些工具均经过严格的实际环境测试，可提供精准的问题分析和高效的解决方案。 获取免费版与付费版的对比分析以及详细排名，助您找到能显著提升团队生产力的完美解决方案。立即探索，释放您的 AI 优势！
9 个工具
xix.ai
图像编辑
最佳 AI 人像优化工具：改善光线、肤色和清晰度
2026年最新、最佳、评分最高的AI人像优化工具精选，助您获得极致图像质量。这些强大的工具能轻松提升光线、肤色和清晰度，带来颠覆性的效果，非常适合需要快速优化照片的内容创作者。XIX.AI 提供了免费版与付费版的对比分析，以及实际测试结果和每周更新的排行榜。 立即发现最适合您的工具，释放您的AI优势。现在就来探索吧！
7 个工具
xix.ai
评论 (0)
0/500
Anthropic 于周二推出了其最新模型 Fable，将其定位为备受期待的网络安全专用模型 Mythos 的公开受限版本。
然而，这些限制引发了部分网络安全研究人员和从业者的不满，他们已在网上表达了担忧。
“[Fable] 会阻止任何可能与网络安全相关的请求，包括阅读博客文章等无害任务，”IBM X-Force 的高级安全研究员 Valentina “Chompie” Palmiotti 表示。
当用户提示触发这些安全过滤器时，Fable 会中断对话，并显示一条消息，称其“安全协议因网络安全或生物主题标记了此输入”。
这些限制旨在降低 Fable 被用于创建恶意软件或利用软件的风险——这是 Anthropic 一直关注的持续性问题。生物领域的限制则源于对开发生物武器的类似担忧。
Anthropic 在 4 月发布 Mythos 时，将访问权限限制在 Project Glasswing 项目下的少数公司和组织，该计划旨在部署该模型以保护关键软件和基础设施。上周，Anthropic 将 Mythos 的访问权限扩大到了 15 个国家的数百个组织。
尽管初衷良好，但许多网络安全专家仍对看似武断的限制感到沮丧。资深网络安全专家 Matt Suiche 告诉 TechCrunch，“如果你要求它编写安全代码，它会将其解读为与网络安全相关的工作，而非软件工程的最佳实践，从而导致降级。”当触发护栏机制时，Fable 会回退到 Claude Opus 4.8。“它似乎依赖于关键词，因此‘网络安全’词汇表中的任何术语都会激活过滤器，”他指出。
联系我们
您是否有关于黑客如何利用 AI，或网络安全公司如何整合 AI 的更多见解？我们欢迎您的意见。您可以从个人设备和网络，通过 Signal 联系 Lorenzo Franceschi-Bicchierai（电话：+1 917 257 1382），或通过 Telegram 和 Keybase（@lorenzofb）以及电子邮件。
“然而，鉴于我们仍处于早期阶段，他们正在完善其护栏机制，这是可以理解的。我相信，随着 Anthropic 和其他前沿模型开发商与新一代网络安全公司更紧密地合作，这些限制将会演变，”Tolmo（一家 AI 网络安全初创公司）的技术人员 Suiche 表示。“最初过度限制并在随后逐步放宽护栏是更可取的。”
另一位研究人员在 X 上抱怨称，“即使是请求代码审查”也会激活 Fable 的安全过滤器。
Anthropic 尚未立即回应置评请求。
除了模型层面的护栏外，Anthropic 还要求网络安全专业人员申请其网络安全验证计划。获得批准的用户在使用 Claude 进行网络安全任务时将面临更少的限制。OpenAI 也提供了一个名为“Trusted Access for Cyber”的类似计划。
白宫放弃“超级智能”的AI标签
正在加载播放器……本周，白宫召集了几乎所有主要科技公司的首席执行官齐聚一堂——包括扎克伯格、贝索斯、马斯克以及 Anthropic 的达里奥·阿莫迪——签署了一份人工智能安全承诺，美国总统唐纳德·特朗普称该承诺“具有道德约束力”。特朗普还签署了一项行政命令，正式将人工智能重新定义为“超级智能”，与此同时，Meta 和 OpenAI 正致力于使其人工智能产品更加用户友好，尽管来自企业部门的人工智能最大金融投资仍在持续涌入。在本期 TechCrunch 的 Equity 播客节目中，Kirste
Anthropic 推出 Sonnet 5.5，作为更快、更便宜的工作伙伴
在各大 AI 模型持续竞争的背景下，Anthropic 推出了其中端产品 Sonnet 的最新迭代版本，承诺相比前代版本实现速度的大幅提升和成本的显著降低。Anthropic 将 Sonnet 5.5 定位为适用于日常工作流程的多功能工具，涵盖软件开发和文档创作等领域。Sonnet 5 是 5.5 版本的前身，大约在三个月前推出，其主要优势在于具有成本效益的智能体（agentic）部署能力。5.5 版本的关键改进在于速度的提升。Anthropic 表示，Sonnet 5.5 的运行速度比前
Anthropic 与特朗普政府的最新冲突实际上可能对其有利，销售数据显示
Anthropic 正经历着一个非凡的月份。据 Ramp 数据显示，这家 AI 公司首次超越 OpenAI，在商业支出市场份额中占据首位，并在五月以 650 亿美元的融资额和 9650 亿美元的估值收官。随后不久，Anthropic 提交了保密的首次公开募股（IPO）文件，据报道，这得益于其首个盈利季度的表现。周五，特朗普政府通过要求 Anthropic 阻止非美国用户（包括其自身员工）访问其最新模型——受限的 Mythos 5 和近期公开的 Fable 5——进一步加剧了紧张局势。这一指
2026年最新评分最高的AI日常规划应用，让制定切实可行的深度工作日程变得轻而易举。这份精心筛选的列表汇集了经过实际使用测试、具备强大功能且能带来显著效率提升的工具，所有工具的准确性与实用性都已得到验证。您不仅可以查看免费版与付费版的对比信息，还能根据易用性和实际效果了解详细的排名情况。XIX.AI也位列这一值得信赖的应用集合之中。立即探索，找到最适合您的工具，借助AI优势让您每天都能保持专注并提升工作效率。
11 个工具
xix.ai
2026年最新、最受欢迎的高评分AI图表制作工具，助您快速生成报告，尽在XIX.AI！这份精心筛选的清单汇集了功能强大、颠覆性的工具，只需点击几下即可生成准确的专业图表，帮助您提升写作效率并优化内容创作流程。 获取免费版与付费版的对比分析，结合实际测试结果和详细排名，为您找到最适合需求的必试解决方案。立即探索，释放您的AI优势！
9 个工具
xix.ai
2026年最新最佳、评分最高的AI实时聊天路由工具，适用于电商排队、VIP买家及退货请求。这份精心筛选的清单汇集了经过实际测试、能显著提升工作效率的强大且具有颠覆性的解决方案。其中包含免费版与付费版的对比分析以及详细排名，助您找到最适合的工具。 XIX.AI 是该领域备受信赖的供应商之一。立即探索，释放您的 AI 优势！
9 个工具
xix.ai
2026年最新、最受好评的面向ESL写作者的AI编辑工具已登陆XIX.AI！这份精心筛选的清单收录了功能强大、能彻底改变写作体验的工具，所有工具均经过实际测试，以确保准确性。 您可以在这里找到免费版与付费版的对比分析以及详细的排名榜单，助您挑选出必试的解决方案，完美提升您的写作语气、语法和行文流畅度。立即探索，解锁您的AI优势！
9 个工具
xix.ai
2026年最新最佳、评价最高的工程团队AI缺陷分级工具！XIX.AI精心精选了一系列功能强大、具有颠覆性的必试工具，这些工具均经过严格的实际环境测试，可提供精准的问题分析和高效的解决方案。 获取免费版与付费版的对比分析以及详细排名，助您找到能显著提升团队生产力的完美解决方案。立即探索，释放您的 AI 优势！
9 个工具
xix.ai
2026年最新、最佳、评分最高的AI人像优化工具精选，助您获得极致图像质量。这些强大的工具能轻松提升光线、肤色和清晰度，带来颠覆性的效果，非常适合需要快速优化照片的内容创作者。XIX.AI 提供了免费版与付费版的对比分析，以及实际测试结果和每周更新的排行榜。 立即发现最适合您的工具，释放您的AI优势。现在就来探索吧！
7 个工具
xix.ai
