首页OpenAI 现已向联合国人工智能安全理事会提交黑客攻击报告
![]()
约书亚·本吉奥在联合国安理会关于人工智能安全的会议上发表了开幕致辞。图片来源：联合国
在联合国安理会召开以人工智能安全为主题的会议后，有报道称OpenAI发生了一起违规事件，涉及未经授权访问澳大利亚政府的敏感数据。
全球政策制定者和人工智能领域领军人物齐聚纽约，出席联合国安理会第10,228次会议。
本次会议于2026年9月23日召开，多位人工智能界知名人士在会上分享了见解并展开讨论，包括OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）、Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）以及Hugging Face首席执行官克莱门特·德朗格（Clément Delangue）。
联合国人工智能国际独立小组教授兼联合主席约书亚·本吉奥在会上发表了讲话。他在开场白中强调，人工智能的发展是“人类的一项紧迫使命”。
“如今，在近几个月全球觉醒的背景下，领先企业开发的人工智能代理却违背指令，采取了不可接受的危险行为，”他指出。
“它们采取的行动，若由人类实施，将构成犯罪。它们突破了各自的限制，在试图逃避检测的同时，对分配的任务进行作弊。这些失控的人工智能代理自主发起了协调一致的网络攻击，并篡改了答案以掩盖作弊行为。”
此次会议召开之际，恰逢6月有消息称一个失控的OpenAI智能体入侵了澳大利亚政府网站。据BBC新闻报道，一个AI模型“渗透”了澳大利亚全民医疗保健计划“Medicare”的统计门户网站。
这些失控的人工智能代理自主发起了协同网络攻击，并篡改了答案以掩盖作弊行为——约书亚·本吉奥
（Yoshua Bengio），联合国人工智能国际独立小组教授兼联合主席
前沿人工智能对安全构成挑战
达里奥·阿莫迪向联合国重申了他为控制技术前沿所做的努力。 “9月12日，我呼吁开展协作，以控制技术前沿的发展速度——这不是为了阻止人工智能的进步，而是为了共同确保行业和世界能够以一种我们确信安全措施能跟上技术能力发展的速度前进，从而保障行业内每个人的安全，”他说。
“我们呼吁各国政府开展全球合作，以制定国际标准。
“正是这一领域最直接地属于本理事会的职权范围。”
与此同时，OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）赞同约书亚的观点，并指出人工智能发展可能走向失控的途径有两种而非三种，即失去控制以及权力过度集中于少数人手中。
“人工智能应该赋予人们更多掌控自己生活的权力，”他说。“我们既不想陷入盲目乐观的陷阱，也不想陷入末日论的陷阱。
“陷入任何一种极端都无助于我们成功应对眼前的挑战，尤其是在当今世界及其人民正面临如此巨大的挑战之际——而这项技术恰恰能帮助解决这些挑战。”
Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）表示，人工智能需要全球合作。图片来源：Getty Images/Anna Moneymaker
OpenAI模型如何入侵澳大利亚政府网站
安全理事会正在追踪一起事件：一个失控的OpenAI代理入侵了澳大利亚政府的一个官方网站，并获取了非公开数据——专家称这是全球已知的首例此类事件。
据BBC新闻报道，OpenAI称直到8月在审查模型异常活动时才得知此次入侵事件，该模型于2026年9月10日向澳大利亚某政府机构的通用邮箱发送了邮件。
澳大利亚总理安东尼·阿尔巴内塞表示，尽管调查仍在进行中，但据信没有个人信息被泄露。
“我已与OpenAI首席执行官萨姆·阿尔特曼通话，表达了澳大利亚对此事件的极度关切，”他在关于此事的官方新闻发布会上表示。
“我还对该公司耗时过久才向政府通报事件一事表示失望，且该通报的方式也令人无法接受。”
业界领袖对此次数据泄露事件的看法
全球各地的人工智能领军人物和高管们纷纷就此次史无前例的安全漏洞发表了评论。
生物技术研究公司Lifebit的首席执行官玛丽亚·邓福德表示，当AI代理在缺乏监管边界的情况下被授予对敏感数据的自主访问权限时，此类数据泄露在所难免。
“医疗数据泄露本不应是政府或医疗系统在事发两个月后，才通过一封发至通用收件箱的电子邮件才得知的事情，”她说。
“这是一起令人担忧的事件，应当促使各方重新思考政府如何向人工智能授予访问敏感基础设施的权限。”
玛丽亚·邓福德是Lifebit的首席执行官。图片来源：LinkedIn
Illumio亚太及日本地区系统工程总监安德鲁·凯（Andrew Kay）评论道：“尽管此事令人震惊，但现实是我们将继续看到更多此类备受瞩目的数据泄露事件：最近几周，已经发生了一系列AI模型失控的事件。
“随着越来越自主且功能强大的智能体不断涌现，我们不能依赖‘防护栏’这种幻觉，也不能假设人工智能会始终按预期行事。”
当被问及AI领导者应采取何种最佳策略来防止进一步的数据泄露时，玛丽亚补充道：“将AI引入主权环境，确保数据和系统始终处于所有者的控制之下。”
Illumio亚太及日本地区系统工程总监安德鲁·凯（Andrew Kay）表示，我们不能假设人工智能总能按预期运行。图片来源：LinkedIn
安德鲁认为责任在于政府，并补充道：“虽然供应链组织和OpenAI等开发AI模型的公司应承担责任，但保护公民数据的责任尤其落在政府和关键基础设施提供商身上。”
“失控或行为异常的人工智能代理只会变得越来越强大、越来越普遍。当务之急是确保一旦有此类代理越界，它就无法访问敏感信息、造成严重损害或导致关键服务瘫痪。”
OpenAI安全事件时间线（BBC新闻）：
- 2026年6月18日：OpenAI的一个研究模型绕过安全屏障，访问了Medicare统计报告门户。
- 2026年8月：OpenAI在审查行为异常的人工智能模型活动时，发现了此次未经授权的访问。
- 2026年9月10日：OpenAI就此次入侵事件向澳大利亚服务局（Services Australia）的通用收件箱发送了一封电子邮件。
事件发生后，阿尔巴内塞先生宣布成立一个特别工作组，对该事件进行紧急审查，以确定现有流程是否足以应对AI网络安全事件。
“人工智能正在改变世界，”他说。
“它为经济增长、生产力提升、医疗保健、创新以及其他科学领域的突破带来了巨大的经济机遇。
“但人工智能也带来了重大风险，因此我们需要建立防护措施来保护我们的生活方式。我们要确保由我们来塑造人工智能，而不是让人工智能来塑造我们。
“简而言之，人类必须保持控制权。”
联合国安理会会议的主要发言人
- OpenAI：成立于 2015年，OpenAI是一家总部位于美国的人工智能研究实验室。该公司最广为人知的是开发了生成式AI聊天机器人ChatGPT和图像生成器DALL-E。 OpenAI 致力于开发安全的人工通用智能，并与微软等主要技术合作伙伴合作，将其模型部署到企业环境中。
- Anthropic： 由前OpenAI高管于2021年创立， Anthropic是一家总部位于旧金山的美国人工智能安全与研究公司。该公司以公益公司形式运营，最广为人知的是开发了大型语言模型系列“Claude”。 Anthropic 专注于人工智能对齐与安全，利用其“宪法式人工智能”（Constitutional AI）框架开发可靠且可控的系统。
- Hugging Face：成立于 2016年，Hugging Face是一家总部位于纽约市的协作平台和开源社区。该公司常被称为“机器学习界的GitHub”，为人工智能开发者提供工具、代码库和预训练模型。 Hugging Face 以其 Transformers 库而闻名，通过让用户能够轻松地分享、发现和部署机器学习模型，推动人工智能的普及。
相关文章
联合国与谷歌合作，为人工智能代理准备全球数据
联合国于周四宣布，其与谷歌合作，旨在简化对其庞大全球统计档案的人工智能访问。名为“联合国系统数据共享平台”（UN System Data Commons）的新基础设施利用了谷歌开源的 Data Commons 平台，使用户能够使用自然语言查询来自各个联合国机构的统计数据。它取代了依赖传统数据库接口的旧版 UNData 门户。更新后的平台还集成了模型上下文协议（MCP），这是一种促进人工智能直接连接外部数据存储库的标准。虽然用户越来越多地依赖人工智能获取信息，但许多系统仍无法始终如一地提供权威数据
Anthropic首席执行官概述了开拓前沿的计划
人工智能研究人员就人工智能风险发出了日益紧迫的警告，OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）表示，现在或许是时候“放缓”发展步伐了。但这实际上意味着什么呢？在最近的一篇博客文章中，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）不仅支持“放缓前沿发展”的呼吁，还为此提出了三项广泛的策略。他表示，Anthropic正在“单方面承诺”采取其中一种方法。本周，随
距离 TechCrunch Disrupt 2026 还有 48 小时：聆听塑造未来的创新者分享见解
距离开幕不足 48 小时，TechCrunch Disrupt 2026 将在旧金山莫斯康西馆（Moscone West）拉开帷幕。在门票价格上调前，立即预订您的门票，最高可享 100 美元优惠。此外，还可半价获取第二张通行证。立即注册。10 月 13 日至 15 日，超过 10,000 名创始人、投资者和科技领袖将齐聚一堂，建立重塑他们职业道路的联系。超过 250 位演讲者将在 200 多场会议中发表演讲。探索 300 多家初创企业展示的未来。在 10 月 13 日上午 8 点（太平洋时间）门
相关专题推荐
设计与艺术
顶级AI插画工具：更快地创作编辑类场景和封面插图
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
教育与学习
备考首选的顶尖AI辅导老师：练习数学、科学和英语
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
金融
用于个人财务管理的 AI 预算规划工具
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
健康养生
AI睡眠追踪助手：通过养成更好的睡前习惯来促进身体恢复
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
数据分析
用于产品和收入分析的 AI SQL 辅助工具
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
教育与学习
最佳的、兼具教学功能的AI作业助手：学习概念，而不仅仅是答案
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
评论 (0)
0/500
约书亚·本吉奥在联合国安理会关于人工智能安全的会议上发表了开幕致辞。图片来源：联合国
在联合国安理会召开以人工智能安全为主题的会议后，有报道称OpenAI发生了一起违规事件，涉及未经授权访问澳大利亚政府的敏感数据。
全球政策制定者和人工智能领域领军人物齐聚纽约，出席联合国安理会第10,228次会议。
本次会议于2026年9月23日召开，多位人工智能界知名人士在会上分享了见解并展开讨论，包括OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）、Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）以及Hugging Face首席执行官克莱门特·德朗格（Clément Delangue）。
联合国人工智能国际独立小组教授兼联合主席约书亚·本吉奥在会上发表了讲话。他在开场白中强调，人工智能的发展是“人类的一项紧迫使命”。
“如今，在近几个月全球觉醒的背景下，领先企业开发的人工智能代理却违背指令，采取了不可接受的危险行为，”他指出。
“它们采取的行动，若由人类实施，将构成犯罪。它们突破了各自的限制，在试图逃避检测的同时，对分配的任务进行作弊。这些失控的人工智能代理自主发起了协调一致的网络攻击，并篡改了答案以掩盖作弊行为。”
此次会议召开之际，恰逢6月有消息称一个失控的OpenAI智能体入侵了澳大利亚政府网站。据BBC新闻报道，一个AI模型“渗透”了澳大利亚全民医疗保健计划“Medicare”的统计门户网站。
这些失控的人工智能代理自主发起了协同网络攻击，并篡改了答案以掩盖作弊行为——约书亚·本吉奥
（Yoshua Bengio），联合国人工智能国际独立小组教授兼联合主席
前沿人工智能对安全构成挑战
达里奥·阿莫迪向联合国重申了他为控制技术前沿所做的努力。 “9月12日，我呼吁开展协作，以控制技术前沿的发展速度——这不是为了阻止人工智能的进步，而是为了共同确保行业和世界能够以一种我们确信安全措施能跟上技术能力发展的速度前进，从而保障行业内每个人的安全，”他说。
“我们呼吁各国政府开展全球合作，以制定国际标准。
“正是这一领域最直接地属于本理事会的职权范围。”
与此同时，OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）赞同约书亚的观点，并指出人工智能发展可能走向失控的途径有两种而非三种，即失去控制以及权力过度集中于少数人手中。
“人工智能应该赋予人们更多掌控自己生活的权力，”他说。“我们既不想陷入盲目乐观的陷阱，也不想陷入末日论的陷阱。
“陷入任何一种极端都无助于我们成功应对眼前的挑战，尤其是在当今世界及其人民正面临如此巨大的挑战之际——而这项技术恰恰能帮助解决这些挑战。”
Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）表示，人工智能需要全球合作。图片来源：Getty Images/Anna Moneymaker
OpenAI模型如何入侵澳大利亚政府网站
安全理事会正在追踪一起事件：一个失控的OpenAI代理入侵了澳大利亚政府的一个官方网站，并获取了非公开数据——专家称这是全球已知的首例此类事件。
据BBC新闻报道，OpenAI称直到8月在审查模型异常活动时才得知此次入侵事件，该模型于2026年9月10日向澳大利亚某政府机构的通用邮箱发送了邮件。
澳大利亚总理安东尼·阿尔巴内塞表示，尽管调查仍在进行中，但据信没有个人信息被泄露。
“我已与OpenAI首席执行官萨姆·阿尔特曼通话，表达了澳大利亚对此事件的极度关切，”他在关于此事的官方新闻发布会上表示。
“我还对该公司耗时过久才向政府通报事件一事表示失望，且该通报的方式也令人无法接受。”
业界领袖对此次数据泄露事件的看法
全球各地的人工智能领军人物和高管们纷纷就此次史无前例的安全漏洞发表了评论。
生物技术研究公司Lifebit的首席执行官玛丽亚·邓福德表示，当AI代理在缺乏监管边界的情况下被授予对敏感数据的自主访问权限时，此类数据泄露在所难免。
“医疗数据泄露本不应是政府或医疗系统在事发两个月后，才通过一封发至通用收件箱的电子邮件才得知的事情，”她说。
“这是一起令人担忧的事件，应当促使各方重新思考政府如何向人工智能授予访问敏感基础设施的权限。”
玛丽亚·邓福德是Lifebit的首席执行官。图片来源：LinkedIn
Illumio亚太及日本地区系统工程总监安德鲁·凯（Andrew Kay）评论道：“尽管此事令人震惊，但现实是我们将继续看到更多此类备受瞩目的数据泄露事件：最近几周，已经发生了一系列AI模型失控的事件。
“随着越来越自主且功能强大的智能体不断涌现，我们不能依赖‘防护栏’这种幻觉，也不能假设人工智能会始终按预期行事。”
当被问及AI领导者应采取何种最佳策略来防止进一步的数据泄露时，玛丽亚补充道：“将AI引入主权环境，确保数据和系统始终处于所有者的控制之下。”
Illumio亚太及日本地区系统工程总监安德鲁·凯（Andrew Kay）表示，我们不能假设人工智能总能按预期运行。图片来源：LinkedIn
安德鲁认为责任在于政府，并补充道：“虽然供应链组织和OpenAI等开发AI模型的公司应承担责任，但保护公民数据的责任尤其落在政府和关键基础设施提供商身上。”
“失控或行为异常的人工智能代理只会变得越来越强大、越来越普遍。当务之急是确保一旦有此类代理越界，它就无法访问敏感信息、造成严重损害或导致关键服务瘫痪。”
OpenAI安全事件时间线（BBC新闻）：
- 2026年6月18日：OpenAI的一个研究模型绕过安全屏障，访问了Medicare统计报告门户。
- 2026年8月：OpenAI在审查行为异常的人工智能模型活动时，发现了此次未经授权的访问。
- 2026年9月10日：OpenAI就此次入侵事件向澳大利亚服务局（Services Australia）的通用收件箱发送了一封电子邮件。
事件发生后，阿尔巴内塞先生宣布成立一个特别工作组，对该事件进行紧急审查，以确定现有流程是否足以应对AI网络安全事件。
“人工智能正在改变世界，”他说。
“它为经济增长、生产力提升、医疗保健、创新以及其他科学领域的突破带来了巨大的经济机遇。
“但人工智能也带来了重大风险，因此我们需要建立防护措施来保护我们的生活方式。我们要确保由我们来塑造人工智能，而不是让人工智能来塑造我们。
“简而言之，人类必须保持控制权。”
联合国安理会会议的主要发言人
- OpenAI：成立于 2015年，OpenAI是一家总部位于美国的人工智能研究实验室。该公司最广为人知的是开发了生成式AI聊天机器人ChatGPT和图像生成器DALL-E。 OpenAI 致力于开发安全的人工通用智能，并与微软等主要技术合作伙伴合作，将其模型部署到企业环境中。
- Anthropic： 由前OpenAI高管于2021年创立， Anthropic是一家总部位于旧金山的美国人工智能安全与研究公司。该公司以公益公司形式运营，最广为人知的是开发了大型语言模型系列“Claude”。 Anthropic 专注于人工智能对齐与安全，利用其“宪法式人工智能”（Constitutional AI）框架开发可靠且可控的系统。
- Hugging Face：成立于 2016年，Hugging Face是一家总部位于纽约市的协作平台和开源社区。该公司常被称为“机器学习界的GitHub”，为人工智能开发者提供工具、代码库和预训练模型。 Hugging Face 以其 Transformers 库而闻名，通过让用户能够轻松地分享、发现和部署机器学习模型，推动人工智能的普及。
联合国与谷歌合作，为人工智能代理准备全球数据
联合国于周四宣布，其与谷歌合作，旨在简化对其庞大全球统计档案的人工智能访问。名为“联合国系统数据共享平台”（UN System Data Commons）的新基础设施利用了谷歌开源的 Data Commons 平台，使用户能够使用自然语言查询来自各个联合国机构的统计数据。它取代了依赖传统数据库接口的旧版 UNData 门户。更新后的平台还集成了模型上下文协议（MCP），这是一种促进人工智能直接连接外部数据存储库的标准。虽然用户越来越多地依赖人工智能获取信息，但许多系统仍无法始终如一地提供权威数据
Anthropic首席执行官概述了开拓前沿的计划
人工智能研究人员就人工智能风险发出了日益紧迫的警告，OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）表示，现在或许是时候“放缓”发展步伐了。但这实际上意味着什么呢？在最近的一篇博客文章中，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）不仅支持“放缓前沿发展”的呼吁，还为此提出了三项广泛的策略。他表示，Anthropic正在“单方面承诺”采取其中一种方法。本周，随
距离 TechCrunch Disrupt 2026 还有 48 小时：聆听塑造未来的创新者分享见解
距离开幕不足 48 小时，TechCrunch Disrupt 2026 将在旧金山莫斯康西馆（Moscone West）拉开帷幕。在门票价格上调前，立即预订您的门票，最高可享 100 美元优惠。此外，还可半价获取第二张通行证。立即注册。10 月 13 日至 15 日，超过 10,000 名创始人、投资者和科技领袖将齐聚一堂，建立重塑他们职业道路的联系。超过 250 位演讲者将在 200 多场会议中发表演讲。探索 300 多家初创企业展示的未来。在 10 月 13 日上午 8 点（太平洋时间）门
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
