OpenAI的安全承诺受到质疑:监管与监督之争

在导致加拿大震惊的Tumbler Ridge枪击事件发生后,OpenAI迅速采取了一系列补救措施。然而,法律和技术专家们仍对此表示怀疑。学者Jean-Christophe Bélisle-Pipon指出,OpenAI首席执行官Sam Altman向加拿大政府作出的安全承诺实际上是用企业监管取代了民主监督。
在事件发生前几个月,18岁枪手Jesse van Ruttenaar的ChatGPT账户就因发布与枪支暴力相关的内容而被标记。尽管该账户被暂停使用,但OpenAI并未将这一潜在威胁报告给执法部门。这场悲剧最终造成了八人丧生。
OpenAI的新举措:在警方与公司之间建立“直通渠道”
作为回应,OpenAI承诺采取以下行动:
直接报告机制:立即将可信的威胁信息报告给加拿大皇家骑警。
回顾性审查:重新审视此前被标记为可疑的账户。
专家参与:允许加拿大专家加入其安全咨询流程,协助政府制定监管建议。
专家们的担忧:“监控替代品”的陷阱
Bélisle-Pipon教授在分析中指出了一个关键问题:OpenAI正在回避对其核心模型设计及训练方法的监督,而是转而加强了对用户对话的监测。
责任缺失:报告的标准仍由OpenAI内部决定,缺乏透明度和独立审计。
令人担忧的影响:研究表明,由于用户认为聊天机器人能保护隐私,他们往往会向这些机器人倾诉心事。如果这些对话直接成为警方监控的渠道,处于心理危机中的弱势群体可能会选择保持沉默,从而错失获得帮助的机会。
监管上的隐患:这种“自愿做出的让步”可能实际上是为了规避更严格的法律法规。
真正的治理之道:将焦点从用户转向系统本身
批评者认为,真正的人工智能监管应该不仅仅关注对语音的监测,而应深入审视相关系统本身。例如:
建立独立监督机构:由心理健康专家和法律专家组成的第三方机构来评估风险,而不是完全由企业来决定一切。
模型层面的责任机制:仔细审查人工智能模型在面对暴力意图披露时的反应方式,以及开发过程中进行了哪些安全压力测试。
随着OpenAI积极与全球各国政府开展合作,Tumbler Ridge事件正在成为一个重要的参考案例:我们是在朝着更安全的科技方向发展,还是在走向一个由私营企业运营的数字监控网络?
相关文章
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
相关专题推荐
评论 (1)
0/500

在导致加拿大震惊的Tumbler Ridge枪击事件发生后,OpenAI迅速采取了一系列补救措施。然而,法律和技术专家们仍对此表示怀疑。学者Jean-Christophe Bélisle-Pipon指出,OpenAI首席执行官Sam Altman向加拿大政府作出的安全承诺实际上是用企业监管取代了民主监督。
在事件发生前几个月,18岁枪手Jesse van Ruttenaar的ChatGPT账户就因发布与枪支暴力相关的内容而被标记。尽管该账户被暂停使用,但OpenAI并未将这一潜在威胁报告给执法部门。这场悲剧最终造成了八人丧生。
OpenAI的新举措:在警方与公司之间建立“直通渠道”
作为回应,OpenAI承诺采取以下行动:
直接报告机制:立即将可信的威胁信息报告给加拿大皇家骑警。
回顾性审查:重新审视此前被标记为可疑的账户。
专家参与:允许加拿大专家加入其安全咨询流程,协助政府制定监管建议。
专家们的担忧:“监控替代品”的陷阱
Bélisle-Pipon教授在分析中指出了一个关键问题:OpenAI正在回避对其核心模型设计及训练方法的监督,而是转而加强了对用户对话的监测。
责任缺失:报告的标准仍由OpenAI内部决定,缺乏透明度和独立审计。
令人担忧的影响:研究表明,由于用户认为聊天机器人能保护隐私,他们往往会向这些机器人倾诉心事。如果这些对话直接成为警方监控的渠道,处于心理危机中的弱势群体可能会选择保持沉默,从而错失获得帮助的机会。
监管上的隐患:这种“自愿做出的让步”可能实际上是为了规避更严格的法律法规。
真正的治理之道:将焦点从用户转向系统本身
批评者认为,真正的人工智能监管应该不仅仅关注对语音的监测,而应深入审视相关系统本身。例如:
建立独立监督机构:由心理健康专家和法律专家组成的第三方机构来评估风险,而不是完全由企业来决定一切。
模型层面的责任机制:仔细审查人工智能模型在面对暴力意图披露时的反应方式,以及开发过程中进行了哪些安全压力测试。
随着OpenAI积极与全球各国政府开展合作,Tumbler Ridge事件正在成为一个重要的参考案例:我们是在朝着更安全的科技方向发展,还是在走向一个由私营企业运营的数字监控网络?
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work





首页






