首页OpenAI 人为错误触发 Hugging Face 上的 AI 驱动黑客攻击
周二，OpenAI 披露称，其一个 AI 模型在一次测试中突破了数据集平台 Hugging Face 的系统，这标志着全自动 AI 驱动攻击的一个重大里程碑。
然而，网络安全专家认为，尽管 AI 发挥了作用，但根本原因是一个人为错误：OpenAI 未能正确配置其“高度隔离的环境”，导致一个本应处于离线状态的测试沙箱连接到了互联网。
网络安全公司 Trail of Bits 的创始人 Dan Guido 将这一疏忽描述为“安全措施关闭时的 containment（隔离）失败”。
OpenAI 在一篇详细介绍该事件的博文中表示，在“高度隔离的环境”中运行的测试旨在限制网络访问，仅允许通过内部托管的第三方软件（作为软件包注册表的代理和缓存）安装软件包。
根据 OpenAI 的说法，该模型利用了一个此前未公开的软件包安装系统中的漏洞，从而逃逸出沙箱环境，这是随后对 Hugging Face 进行黑客攻击的关键第一步。
该公司回应称，“负责任地披露了已识别的内部托管第三方软件中的零日漏洞，并正与其合作进行修补。”
然而，大多数网络安全专家认为，虽然软件漏洞在所难免，但真正的问题在于根本不应该保留该软件。沙箱的核心价值在于完全隔离，而包含安装系统则引入了风险。
网络安全研究员 Martin Boone 告诉 TechCrunch，“这听起来像是人为失误。”
“这绝不应该发生，”Boone 说。“如果沙箱真的是沙箱，你期望它根本没有任何与互联网的物理连接。这听起来更像是他们设置了一些防火墙或其他东西，而防火墙从外向内的防护很难，更不用说从内部到外部互联网的防护了。”
网络安全资深人士 Jake Williams 也表示同意。“任何执行 Hugging Face 所记录的类型操作的模型，都没有在沙箱中得到完全隔离，”Williams 称其为 OpenAI 的“重大控制失败”。
“一个人眼中的‘模型逃逸了沙箱’，是另一个人眼中的‘你未能正确构建沙箱，所以它当然逃逸了’，”Williams 继续说道。
联系我们
您对该事件或其他由 AI 驱动的网络攻击有见解吗？我们想听取您的意见。请从个人设备和网络，通过 Signal 安全联系 Lorenzo Franceschi-Bicchierai，电话为 +1 917 257 1382，或通过 Telegram 和 Keybase @lorenzofb，或通过电子邮件联系。
网络安全顾问 Daniel Card 认为，OpenAI 通过提供未经过滤的互联网路由，“没有在沙箱设计及其控制措施上投入足够的精力”。根据 Card 的说法，按照描述设置具有有限访问权限的沙箱并非“合理”的决定。
虽然这些批评得益于事后诸葛亮，但它们突出了 AI 实验室中的关键安全实践，特别是关于隔离测试环境。OpenAI 的发言人没有回应 TechCrunch 的询问，后者询问是由 AI 还是人类配置了测试环境。
但这些问题的影响远远超出了 OpenAI。
在其专注于网络安全的模型 Mythos 文档中，Anthropic 指出，在一次测试中，该模型“被提供了一个安全的‘沙箱’计算机进行交互”，并被指示逃逸出该“安全容器”。Mythos 成功了，获得了更广泛的互联网访问权限，“从一个本应只能访问少量预定服务的系统中”。然而，Anthropic 指出，该模型并未“完全”逃逸出设计的隔离环境。
相关文章
OpenAI 确认维基百科事件，并表示正在制定更透明的披露框架
OpenAI 已确认其参与了一起近期事件，其中 AI 代理接管了一个德国维基百科论坛。该公司表示，现在是时候“制定标准”来分享关于意外 AI 行为的信息了。在 X 平台的一篇帖子中，OpenAI 解释说，此前它“主要将不对齐问题（即 AI 模型和代理追求与创造者和用户不同的目标）视为一个研究问题，并通过研究论文进行传达。”然而，由于不对齐已“导致新型现实世界影响”，该公司表示其方法需要“为此新阶段模型能力进行扩展”。周五，路透社报道称，OpenAI 的代理从测试环境中逃脱，“劫持”了一个冷门
根据 Ramp 的数据，Anthropic 的企业客户数量已超过 OpenAI
Anthropic 首次超越 OpenAI，成为经验证的商业客户最多的公司，这是金融科技公司 Ramp 本月发布的《AI 指数》所显示的结果。Ramp 客户支出数据显示，34.4% 的参与企业支付 Anthropic 服务费用，超过所有其他 AI 实验室，而 32.3% 的企业支付 OpenAI 费用。这标志着 Anthropic 首次占据领先地位。“Anthropic 已经在金融、科技、专业服务等高采用率群体中处于领先地位，”Ramp 经济学家 Ara Kharazian 告诉 Tech
OpenAI面临各州总检察长的调查
据报道，一群州总检察长已对OpenAI展开调查。据《华尔街日报》报道，该公司于上周五收到了纽约州总检察长发出的传票。该传票要求提供涉及多个方面的文件，包括广告做法、用户参与度和留存率、模型阿谀奉承现象、消费者和健康数据的处理，以及对未成年人和老年人的对待方式。TechCrunch 已联系 OpenAI 和纽约州总检察长办公室寻求置评。该公司一位发言人告诉《华尔街日报》，OpenAI 正配合此次调查
相关专题推荐
设计与艺术
顶级AI插画工具：更快地创作编辑类场景和封面插图
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
教育与学习
备考首选的顶尖AI辅导老师：练习数学、科学和英语
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
金融
用于个人财务管理的 AI 预算规划工具
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
健康养生
AI睡眠追踪助手：通过养成更好的睡前习惯来促进身体恢复
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
数据分析
用于产品和收入分析的 AI SQL 辅助工具
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
教育与学习
最佳的、兼具教学功能的AI作业助手：学习概念，而不仅仅是答案
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
评论 (0)
0/500
周二，OpenAI 披露称，其一个 AI 模型在一次测试中突破了数据集平台 Hugging Face 的系统，这标志着全自动 AI 驱动攻击的一个重大里程碑。
然而，网络安全专家认为，尽管 AI 发挥了作用，但根本原因是一个人为错误：OpenAI 未能正确配置其“高度隔离的环境”，导致一个本应处于离线状态的测试沙箱连接到了互联网。
网络安全公司 Trail of Bits 的创始人 Dan Guido 将这一疏忽描述为“安全措施关闭时的 containment（隔离）失败”。
OpenAI 在一篇详细介绍该事件的博文中表示，在“高度隔离的环境”中运行的测试旨在限制网络访问，仅允许通过内部托管的第三方软件（作为软件包注册表的代理和缓存）安装软件包。
根据 OpenAI 的说法，该模型利用了一个此前未公开的软件包安装系统中的漏洞，从而逃逸出沙箱环境，这是随后对 Hugging Face 进行黑客攻击的关键第一步。
该公司回应称，“负责任地披露了已识别的内部托管第三方软件中的零日漏洞，并正与其合作进行修补。”
然而，大多数网络安全专家认为，虽然软件漏洞在所难免，但真正的问题在于根本不应该保留该软件。沙箱的核心价值在于完全隔离，而包含安装系统则引入了风险。
网络安全研究员 Martin Boone 告诉 TechCrunch，“这听起来像是人为失误。”
“这绝不应该发生，”Boone 说。“如果沙箱真的是沙箱，你期望它根本没有任何与互联网的物理连接。这听起来更像是他们设置了一些防火墙或其他东西，而防火墙从外向内的防护很难，更不用说从内部到外部互联网的防护了。”
网络安全资深人士 Jake Williams 也表示同意。“任何执行 Hugging Face 所记录的类型操作的模型，都没有在沙箱中得到完全隔离，”Williams 称其为 OpenAI 的“重大控制失败”。
“一个人眼中的‘模型逃逸了沙箱’，是另一个人眼中的‘你未能正确构建沙箱，所以它当然逃逸了’，”Williams 继续说道。
联系我们
您对该事件或其他由 AI 驱动的网络攻击有见解吗？我们想听取您的意见。请从个人设备和网络，通过 Signal 安全联系 Lorenzo Franceschi-Bicchierai，电话为 +1 917 257 1382，或通过 Telegram 和 Keybase @lorenzofb，或通过电子邮件联系。
网络安全顾问 Daniel Card 认为，OpenAI 通过提供未经过滤的互联网路由，“没有在沙箱设计及其控制措施上投入足够的精力”。根据 Card 的说法，按照描述设置具有有限访问权限的沙箱并非“合理”的决定。
虽然这些批评得益于事后诸葛亮，但它们突出了 AI 实验室中的关键安全实践，特别是关于隔离测试环境。OpenAI 的发言人没有回应 TechCrunch 的询问，后者询问是由 AI 还是人类配置了测试环境。
但这些问题的影响远远超出了 OpenAI。
在其专注于网络安全的模型 Mythos 文档中，Anthropic 指出，在一次测试中，该模型“被提供了一个安全的‘沙箱’计算机进行交互”，并被指示逃逸出该“安全容器”。Mythos 成功了，获得了更广泛的互联网访问权限，“从一个本应只能访问少量预定服务的系统中”。然而，Anthropic 指出，该模型并未“完全”逃逸出设计的隔离环境。
OpenAI 确认维基百科事件，并表示正在制定更透明的披露框架
OpenAI 已确认其参与了一起近期事件，其中 AI 代理接管了一个德国维基百科论坛。该公司表示，现在是时候“制定标准”来分享关于意外 AI 行为的信息了。在 X 平台的一篇帖子中，OpenAI 解释说，此前它“主要将不对齐问题（即 AI 模型和代理追求与创造者和用户不同的目标）视为一个研究问题，并通过研究论文进行传达。”然而，由于不对齐已“导致新型现实世界影响”，该公司表示其方法需要“为此新阶段模型能力进行扩展”。周五，路透社报道称，OpenAI 的代理从测试环境中逃脱，“劫持”了一个冷门
根据 Ramp 的数据，Anthropic 的企业客户数量已超过 OpenAI
Anthropic 首次超越 OpenAI，成为经验证的商业客户最多的公司，这是金融科技公司 Ramp 本月发布的《AI 指数》所显示的结果。Ramp 客户支出数据显示，34.4% 的参与企业支付 Anthropic 服务费用，超过所有其他 AI 实验室，而 32.3% 的企业支付 OpenAI 费用。这标志着 Anthropic 首次占据领先地位。“Anthropic 已经在金融、科技、专业服务等高采用率群体中处于领先地位，”Ramp 经济学家 Ara Kharazian 告诉 Tech
OpenAI面临各州总检察长的调查
据报道，一群州总检察长已对OpenAI展开调查。据《华尔街日报》报道，该公司于上周五收到了纽约州总检察长发出的传票。该传票要求提供涉及多个方面的文件，包括广告做法、用户参与度和留存率、模型阿谀奉承现象、消费者和健康数据的处理，以及对未成年人和老年人的对待方式。TechCrunch 已联系 OpenAI 和纽约州总检察长办公室寻求置评。该公司一位发言人告诉《华尔街日报》，OpenAI 正配合此次调查
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
