首页Fei-Fei Li的团体敦促先发制人的AI安全立法
一份由加利福尼亚州政策小组发布的新报告，由AI先锋李飞飞共同领导，建议立法者在制定AI监管政策时应考虑尚未在现实世界中出现的AI风险。这份41页的临时报告于周二发布，来自加利福尼亚州AI前沿模型联合政策工作小组，该小组由州长加文·纽森在否决了加州备受争议的AI安全法案SB 1047后设立。纽森认为SB 1047未能完全达到目标，但他认识到需要更深入地研究AI风险以指导立法者。
在报告中，李飞飞与共同作者——加州大学伯克利分校计算学院院长詹妮弗·查耶斯和卡内基国际和平基金会主席马里亚诺-弗洛伦蒂诺·库埃拉尔——主张制定法律，使OpenAI等前沿AI实验室的活动更加透明。在报告公开之前，来自各行各业的行业人士对其进行了审阅，包括图灵奖得主约书亚·本吉奥等强烈支持AI安全的倡导者，以及反对SB 1047的人士，如Databricks联合创始人伊恩·斯托伊卡。
报告指出，AI系统的新风险可能意味着我们需要制定法律，要求AI模型开发者公开其安全测试、数据获取方式以及安全措施。报告还呼吁制定更好的第三方检查标准，涵盖这些内容及公司政策，并为AI公司员工和承包商提供更多保护，以支持他们进行举报。
李飞飞及其共同作者提到，目前尚无足够证据证明AI在协助网络攻击、制造生物武器或其他“极端”危险方面的潜力。但他们也表示，AI政策不应仅关注当前发生的事情，还应考虑未来如果缺乏足够安全措施可能发生的情况。
报告以核武器为例，称：“我们无需看到核武器爆炸就知道它可能造成巨大危害。”报告继续指出：“如果那些讨论最坏风险的人是对的——我们不确定他们是否正确——那么现在不对前沿AI采取任何行动可能会付出巨大代价。”
为使AI模型开发更加公开，报告建议采取“信任但需验证”的方法。报告表示，AI模型开发者及其员工应有途径向公众报告重要事项，如内部安全测试，并需由第三方验证其测试声明。
虽然这份将于2025年6月最终定稿的报告未支持任何具体法律，但它在AI政策辩论双方专家中均受到好评。
乔治梅森大学专注于AI的研究员迪恩·鲍尔反对SB 1047，他在X上表示，这份报告为加州的AI安全规则迈出了积极一步。据加州州参议员斯科特·威纳介绍，这对AI安全倡导者来说也是一次胜利，他去年提出了SB 1047。威纳在一份新闻发布会上表示，这份报告为“我们在2024年立法机构中开始的关于AI治理的紧急讨论”增添了内容。
报告似乎部分同意SB 1047及威纳的下一项法案SB 53的内容，如要求AI模型开发者报告其安全测试结果。从更宏观的角度看，这对AI安全倡导者来说是一次急需的胜利，他们的理念在过去一年中逐渐失去影响力。
相关文章
字节跳动旗下 Seed 启动全球校园招聘，以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中，争夺顶尖人才仍然是最关键的战略资产。4月1日，字节跳动宣布启动Seed全球校园招聘计划，作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生，旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张：全球甄选100名“AI种子”在技术快速进步的背景下，字节跳动有限公司今年大幅增加了对基础AI人才的投入：招聘范围： 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人，对象为2027届毕业生。发展路径： Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno，这个允许用户生成由人工智能创作的音乐的平台，近日推出了新功能，包括为平台制作的曲目添加标签、限制下载，并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中，联合创始人兼首席执行官Mikey Shulman概述了核心原则，强调该平台旨在促进原创创作，同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于，用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示，现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码，并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议，首先以简单的“True”（属实）确认了该事件的有效性。他承诺，此前上传至 SpaceXAI 的所有用户数据将被永久删除，并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行，代码
相关专题推荐
设计与艺术
适用于角色设定表、灵感板和项目提案演示文稿的 AI 视觉风格参考工具
2026年最新最佳AI视觉风格参考工具（适用于角色设定图、灵感板和项目提案）现已登陆XIX.AI！这份精心筛选的高评分清单汇集了经过严格实战测试、功能强大且能彻底改变游戏规则的工具。 您将在此找到免费版与付费版的对比分析、详细排名以及不容错过的精选工具，助您激发创意并优化工作流程。立即探索，发现能有效提升工作效率的理想工具！
11 个工具
xix.ai
搜索引擎优化
最适合制定搜索策略的AI搜索结果页面（SERP）分析工具
2026年最新、最受欢迎且评价最高的人工智能搜索结果页面（SERP）分析工具，均由XIX.AI通过严格的实际测试精心筛选，并每周更新排名。这些强大的工具可助您发掘隐藏的优化机会、提升内容表现，并在搜索领域获得竞争优势。立即寻找最适合您的工具，提升您的搜索策略。现在就来探索吧！
13 个工具
xix.ai
数据分析
适用于 SaaS 和电商团队的 KPI 监控最佳 AI 异常检测工具
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
写作
最适合撰写长篇SEO文章的AI大纲生成器
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
教育与学习
用于作业和考试备考的AI学习工具
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
音乐创作
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
评论 (39)
0/500
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
一份由加利福尼亚州政策小组发布的新报告，由AI先锋李飞飞共同领导，建议立法者在制定AI监管政策时应考虑尚未在现实世界中出现的AI风险。这份41页的临时报告于周二发布，来自加利福尼亚州AI前沿模型联合政策工作小组，该小组由州长加文·纽森在否决了加州备受争议的AI安全法案SB 1047后设立。纽森认为SB 1047未能完全达到目标，但他认识到需要更深入地研究AI风险以指导立法者。
在报告中，李飞飞与共同作者——加州大学伯克利分校计算学院院长詹妮弗·查耶斯和卡内基国际和平基金会主席马里亚诺-弗洛伦蒂诺·库埃拉尔——主张制定法律，使OpenAI等前沿AI实验室的活动更加透明。在报告公开之前，来自各行各业的行业人士对其进行了审阅，包括图灵奖得主约书亚·本吉奥等强烈支持AI安全的倡导者，以及反对SB 1047的人士，如Databricks联合创始人伊恩·斯托伊卡。
报告指出，AI系统的新风险可能意味着我们需要制定法律，要求AI模型开发者公开其安全测试、数据获取方式以及安全措施。报告还呼吁制定更好的第三方检查标准，涵盖这些内容及公司政策，并为AI公司员工和承包商提供更多保护，以支持他们进行举报。
李飞飞及其共同作者提到，目前尚无足够证据证明AI在协助网络攻击、制造生物武器或其他“极端”危险方面的潜力。但他们也表示，AI政策不应仅关注当前发生的事情，还应考虑未来如果缺乏足够安全措施可能发生的情况。
报告以核武器为例，称：“我们无需看到核武器爆炸就知道它可能造成巨大危害。”报告继续指出：“如果那些讨论最坏风险的人是对的——我们不确定他们是否正确——那么现在不对前沿AI采取任何行动可能会付出巨大代价。”
为使AI模型开发更加公开，报告建议采取“信任但需验证”的方法。报告表示，AI模型开发者及其员工应有途径向公众报告重要事项，如内部安全测试，并需由第三方验证其测试声明。
虽然这份将于2025年6月最终定稿的报告未支持任何具体法律，但它在AI政策辩论双方专家中均受到好评。
乔治梅森大学专注于AI的研究员迪恩·鲍尔反对SB 1047，他在X上表示，这份报告为加州的AI安全规则迈出了积极一步。据加州州参议员斯科特·威纳介绍，这对AI安全倡导者来说也是一次胜利，他去年提出了SB 1047。威纳在一份新闻发布会上表示，这份报告为“我们在2024年立法机构中开始的关于AI治理的紧急讨论”增添了内容。
报告似乎部分同意SB 1047及威纳的下一项法案SB 53的内容，如要求AI模型开发者报告其安全测试结果。从更宏观的角度看，这对AI安全倡导者来说是一次急需的胜利，他们的理念在过去一年中逐渐失去影响力。
字节跳动旗下 Seed 启动全球校园招聘，以虚拟股份争夺顶尖大模型人才
在大型语言模型的竞争格局中，争夺顶尖人才仍然是最关键的战略资产。4月1日，字节跳动宣布启动Seed全球校园招聘计划，作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生，旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张：全球甄选100名“AI种子”在技术快速进步的背景下，字节跳动有限公司今年大幅增加了对基础AI人才的投入：招聘范围： 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人，对象为2027届毕业生。发展路径： Seed计划将核心业务
Suno 在法律诉讼中为歌曲添加水印
Suno，这个允许用户生成由人工智能创作的音乐的平台，近日推出了新功能，包括为平台制作的曲目添加标签、限制下载，并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中，联合创始人兼首席执行官Mikey Shulman概述了核心原则，强调该平台旨在促进原创创作，同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于，用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示，现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码，并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议，首先以简单的“True”（属实）确认了该事件的有效性。他承诺，此前上传至 SpaceXAI 的所有用户数据将被永久删除，并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行，代码
2026年最新最佳AI视觉风格参考工具（适用于角色设定图、灵感板和项目提案）现已登陆XIX.AI！这份精心筛选的高评分清单汇集了经过严格实战测试、功能强大且能彻底改变游戏规则的工具。 您将在此找到免费版与付费版的对比分析、详细排名以及不容错过的精选工具，助您激发创意并优化工作流程。立即探索，发现能有效提升工作效率的理想工具！
11 个工具
xix.ai
2026年最新、最受欢迎且评价最高的人工智能搜索结果页面（SERP）分析工具，均由XIX.AI通过严格的实际测试精心筛选，并每周更新排名。这些强大的工具可助您发掘隐藏的优化机会、提升内容表现，并在搜索领域获得竞争优势。立即寻找最适合您的工具，提升您的搜索策略。现在就来探索吧！
13 个工具
xix.ai
2026 年最新最佳顶级评分 AI 异常检测工具，助力 SaaS 和电商团队的 KPI 监控！XIX.AI 基于严格的真实世界测试和每周更新的排名，精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察，帮助您识别必须尝试的解决方案，从而提升生产力并释放您的 AI 优势。立即探索！
10 个工具
xix.ai
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
