Y Combinator 的 Geoff Ralston 发起新的人工智能安全基金

杰夫-罗尔斯顿(Geoff Ralston)是初创企业界的知名人士,长期与 Y Combinator 合作。
他的新基金被命名为安全人工智能基金(Safe Artificial Intelligence Fund,SAIF),反映了其核心使命,同时也是一个巧妙的缩写。
根据该基金的网站,Ralston 的目标是致力于 "提高人工智能的安全性、保障性和负责任的部署 "的初创公司。他打算使用 SAFE 协议("双关语")签发 10 万美元的支票,估值上限为 1,000 万美元。SAFE协议由Y Combinator公司开发,是一种简单的未来股权协议,将估值推迟到下一轮融资。
虽然风险资本对人工智能初创企业的兴趣很普遍,但 Ralston 的方法明显是以安全的人工智能为中心,他承认这是一个有意扩大的重点。
"如今,大多数人工智能项目都是为了解决问题、提高效率或创造新的能力。虽然本质上并不安全,但安全并不是它们的首要任务,"Ralston 向 TechCrunch 解释道。"我的目标是资助那些以安全的人工智能为首要目标的初创公司,我对它的定义非常宽泛。"
他的投资范围包括致力于提高人工智能安全性的公司,比如那些提高人工智能决策透明度或建立安全基准的公司。他的投资范围还包括保护知识产权、确保监管合规、打击虚假信息和检测人工智能攻击的工具。此外,他还对具有内置安全性的功能性人工智能工具感兴趣,如先进的人工智能预测系统或保护企业机密的人工智能谈判平台。
虽然这可能与其他以人工智能为重点的风险投资公司的投资理念相似,但雷斯顿将某些领域排除在外。一个明显的例子就是完全自主的武器系统。
"他说:"不可否认,人工智能的应用是不安全的,比如设计生物武器或在没有人类监督的情况下管理常规武器。
事实上,他的目标是支持 "武器安全系统",能够识别或防止来自人工智能控制武器的攻击。
这一立场与当前许多国防科技创始人和投资者的观点截然不同。正如 TechCrunch 所报道的那样,一些人工智能武器的开发者越来越多地主张开发不受人类控制的系统。
尽管人工智能投资领域竞争激烈,但拉尔斯顿相信,他与 Y Combinator 的关系能为公司带来优势。他曾在 YC 担任过三年总裁,后由 Garry Tan 接任,并担任了十多年的顾问,于 2022 年离开 YC。
Ralston 计划提供与他在著名创业加速器时相同的指导,包括指导如何申请 Y Combinator。他还承诺帮助投资组合公司利用他广泛的投资者网络。
罗尔斯顿没有透露基金的规模、计划支持的初创企业数量以及有限合伙人的身份。
相关文章
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
相关专题推荐
评论 (3)
0/500
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?

杰夫-罗尔斯顿(Geoff Ralston)是初创企业界的知名人士,长期与 Y Combinator 合作。
他的新基金被命名为安全人工智能基金(Safe Artificial Intelligence Fund,SAIF),反映了其核心使命,同时也是一个巧妙的缩写。
根据该基金的网站,Ralston 的目标是致力于 "提高人工智能的安全性、保障性和负责任的部署 "的初创公司。他打算使用 SAFE 协议("双关语")签发 10 万美元的支票,估值上限为 1,000 万美元。SAFE协议由Y Combinator公司开发,是一种简单的未来股权协议,将估值推迟到下一轮融资。
虽然风险资本对人工智能初创企业的兴趣很普遍,但 Ralston 的方法明显是以安全的人工智能为中心,他承认这是一个有意扩大的重点。
"如今,大多数人工智能项目都是为了解决问题、提高效率或创造新的能力。虽然本质上并不安全,但安全并不是它们的首要任务,"Ralston 向 TechCrunch 解释道。"我的目标是资助那些以安全的人工智能为首要目标的初创公司,我对它的定义非常宽泛。"
他的投资范围包括致力于提高人工智能安全性的公司,比如那些提高人工智能决策透明度或建立安全基准的公司。他的投资范围还包括保护知识产权、确保监管合规、打击虚假信息和检测人工智能攻击的工具。此外,他还对具有内置安全性的功能性人工智能工具感兴趣,如先进的人工智能预测系统或保护企业机密的人工智能谈判平台。
虽然这可能与其他以人工智能为重点的风险投资公司的投资理念相似,但雷斯顿将某些领域排除在外。一个明显的例子就是完全自主的武器系统。
"他说:"不可否认,人工智能的应用是不安全的,比如设计生物武器或在没有人类监督的情况下管理常规武器。
事实上,他的目标是支持 "武器安全系统",能够识别或防止来自人工智能控制武器的攻击。
这一立场与当前许多国防科技创始人和投资者的观点截然不同。正如 TechCrunch 所报道的那样,一些人工智能武器的开发者越来越多地主张开发不受人类控制的系统。
尽管人工智能投资领域竞争激烈,但拉尔斯顿相信,他与 Y Combinator 的关系能为公司带来优势。他曾在 YC 担任过三年总裁,后由 Garry Tan 接任,并担任了十多年的顾问,于 2022 年离开 YC。
Ralston 计划提供与他在著名创业加速器时相同的指导,包括指导如何申请 Y Combinator。他还承诺帮助投资组合公司利用他广泛的投资者网络。
罗尔斯顿没有透露基金的规模、计划支持的初创企业数量以及有限合伙人的身份。
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?





首页






