马斯克在OpenAI诉讼案中的唯一证人警告称,人工智能通用智能(AGI)军备竞赛迫在眉睫

我们何时应该认真对待那些对人工智能持末日论观点的人?
这个问题是埃隆·马斯克(Elon Musk)试图限制 OpenAI 营利性人工智能运营的核心所在。他的律师团队辩称,该组织最初是作为一个致力于人工智能安全的慈善机构成立的,但为了追求利润而偏离了其使命。为了支持这一主张,他们引用了创始人的早期电子邮件和声明,这些声明强调需要一个公共利益方面的制衡力量来对抗谷歌 DeepMind。
今天,辩方提出了其唯一的专家证人:彼得·罗素(Peter Russell),他是加州大学伯克利分校计算机科学教授,拥有数十年的人工智能研究经验。他的角色是提供关于人工智能的背景信息,并证明该技术存在值得关注的重大风险。
罗素是 2023 年 3 月呼吁暂停人工智能研究六个月的一封公开信的签署人之一。存在一个显著的矛盾的是,马斯克也签署了这封同样的信,与此同时他却推出了自己的营利性人工智能实验室 xAI。
罗素在陪审团和尤冯娜·冈萨雷斯·罗杰斯(Yvonne Gonzalez Rodgers)法官面前作证称,开发人工智能伴随着各种风险,包括网络威胁、对齐问题以及通用人工智能(AGI)的赢家通吃动态。他得出结论,追求 AGI 与确保安全之间存在固有的紧张关系。
罗素关于不受监管的人工智能带来生存威胁的更广泛担忧并未在公开法庭上完全呈现,因为 OpenAI 的律师提出异议,导致法官限制了他的证词。然而,罗素长期以来一直批评全球前沿实验室竞相率先实现 AGI 的竞争军备竞赛,并主张对该领域实施更严格的政府监管。
OpenAI 的法律团队利用交叉盘问确立了一点,即罗素并未直接评估该组织的公司结构或具体的安全协议。
尽管如此,这位记者以及法官和陪审员必须确定,在多大程度上重视公司利润动机与人工智能安全关切之间的关系。几乎所有 OpenAI 的创始人都强烈警告过人工智能的风险,同时强调其好处,力求尽可能快速地构建人工智能,并制定他们控制的营利性人工智能项目的计划。
从外部视角来看,一个明显的问题浮现出来:OpenAI 的创始人在其成立后意识到,该组织需要更多的计算能力才能成功。这种资金只能来自营利性投资者。创始团队对 AGI 落入单一实体手中的恐惧促使他们寻求资本,这最终导致团队分裂,形成了当前的竞争格局,并导致了这场诉讼。
这种动态正在国家层面重演:伯尼·桑德斯(Bernie Sanders)参议员提出的限制数据中心建设的法律提案,引用了马斯克、山姆·奥特曼(Sam Altman)、杰弗里·辛顿(Geoffrey Hinton)等人表达的人工智能恐惧。在一家贸易组织“数据创新中心”工作的霍登·奥马尔(Hoden Omar)反对桑德斯引用这些恐惧而不承认他们的希望,他告诉 TechCrunch:“目前尚不清楚,为什么公众应该忽略科技亿万富翁所说的所有话,除非他们的言论可以被用来填补一个不稳固论点中的空白。”
现在,案件的双方都要求法院这样做:认真对待奥特曼和马斯克论点中的一部分,同时忽略对其法律立场不太有用的部分。
相关文章
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
相关专题推荐
评论 (0)
0/500

我们何时应该认真对待那些对人工智能持末日论观点的人?
这个问题是埃隆·马斯克(Elon Musk)试图限制 OpenAI 营利性人工智能运营的核心所在。他的律师团队辩称,该组织最初是作为一个致力于人工智能安全的慈善机构成立的,但为了追求利润而偏离了其使命。为了支持这一主张,他们引用了创始人的早期电子邮件和声明,这些声明强调需要一个公共利益方面的制衡力量来对抗谷歌 DeepMind。
今天,辩方提出了其唯一的专家证人:彼得·罗素(Peter Russell),他是加州大学伯克利分校计算机科学教授,拥有数十年的人工智能研究经验。他的角色是提供关于人工智能的背景信息,并证明该技术存在值得关注的重大风险。
罗素是 2023 年 3 月呼吁暂停人工智能研究六个月的一封公开信的签署人之一。存在一个显著的矛盾的是,马斯克也签署了这封同样的信,与此同时他却推出了自己的营利性人工智能实验室 xAI。
罗素在陪审团和尤冯娜·冈萨雷斯·罗杰斯(Yvonne Gonzalez Rodgers)法官面前作证称,开发人工智能伴随着各种风险,包括网络威胁、对齐问题以及通用人工智能(AGI)的赢家通吃动态。他得出结论,追求 AGI 与确保安全之间存在固有的紧张关系。
罗素关于不受监管的人工智能带来生存威胁的更广泛担忧并未在公开法庭上完全呈现,因为 OpenAI 的律师提出异议,导致法官限制了他的证词。然而,罗素长期以来一直批评全球前沿实验室竞相率先实现 AGI 的竞争军备竞赛,并主张对该领域实施更严格的政府监管。
OpenAI 的法律团队利用交叉盘问确立了一点,即罗素并未直接评估该组织的公司结构或具体的安全协议。
尽管如此,这位记者以及法官和陪审员必须确定,在多大程度上重视公司利润动机与人工智能安全关切之间的关系。几乎所有 OpenAI 的创始人都强烈警告过人工智能的风险,同时强调其好处,力求尽可能快速地构建人工智能,并制定他们控制的营利性人工智能项目的计划。
从外部视角来看,一个明显的问题浮现出来:OpenAI 的创始人在其成立后意识到,该组织需要更多的计算能力才能成功。这种资金只能来自营利性投资者。创始团队对 AGI 落入单一实体手中的恐惧促使他们寻求资本,这最终导致团队分裂,形成了当前的竞争格局,并导致了这场诉讼。
这种动态正在国家层面重演:伯尼·桑德斯(Bernie Sanders)参议员提出的限制数据中心建设的法律提案,引用了马斯克、山姆·奥特曼(Sam Altman)、杰弗里·辛顿(Geoffrey Hinton)等人表达的人工智能恐惧。在一家贸易组织“数据创新中心”工作的霍登·奥马尔(Hoden Omar)反对桑德斯引用这些恐惧而不承认他们的希望,他告诉 TechCrunch:“目前尚不清楚,为什么公众应该忽略科技亿万富翁所说的所有话,除非他们的言论可以被用来填补一个不稳固论点中的空白。”
现在,案件的双方都要求法院这样做:认真对待奥特曼和马斯克论点中的一部分,同时忽略对其法律立场不太有用的部分。
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码





首页






