Y Combinator 的 Geoff Ralston 發起新的 AI 安全基金

Geoff Ralston 因長期與 Y Combinator 合作而在創業領域嶄露頭角,他在週四宣佈正式重返積極投資的行列。
他的新基金命名為 Safe Artificial Intelligence Fund (SAIF),反映了其核心使命,同時也是一個聰明的縮寫。
根據該基金的網站,Ralston 的目標是致力於「加強人工智能的安全、保全和負責任的部署」的創業公司。他打算使用 SAFE 協議發行 10 萬美元的支票--「雙關語」,他指出,估值上限為 1,000 萬美元。SAFE 是由 Y Combinator 所開發,是一種簡單的未來股權協議,可將估值延遲至後一輪融資。
儘管風險資本對 AI 創業公司的興趣相當廣泛,但 Ralston 的方法明顯是以安全的 AI 為中心,他承認這個重點是刻意擴大的。
"目前大多數的 AI 專案都是為了解決問題、提升效率或創造新能力而設計。Ralston 向 TechCrunch 解釋:「雖然本質上並非不安全,但安全並非其主要優先考量。「我的目標是資助那些以安全 AI 為主要目標的初創公司,我對安全 AI 的定義非常廣泛」。
他的投資範圍包括專注於讓 AI 更安全的公司,例如那些提高 AI 決策透明度或建立安全基準的公司。它還涵蓋了保護智慧財產權、確保法規遵循、對抗假消息以及偵測人工智能驅動攻擊的工具。此外,他對設計內建安全性的功能性 AI 工具也很感興趣,例如先進的 AI 預測系統,或是保護企業機密的 AI 驅動談判平台。
雖然這可能與其他以 AI 為重點的 VC 的投資論點相似,但 Ralston 將某些領域排除在外。一個明顯的例子就是完全自主的武器系統。
"他表示:「無可否認,人工智慧有一些不安全的應用,例如設計生化武器或在沒有人為監督的情況下管理常規武器。
事實上,他的目標是支持「武器安全系統」,能夠識別或防止來自 AI 控制武器的攻擊。
這種立場與目前許多國防科技創辦人和投資人的觀點截然不同。正如 TechCrunch 所報導的,一些 AI 武器的開發者越來越主張使用不受人類控制的系統。
儘管 AI 投資環境紛雜,但 Ralston 相信他與 Y Combinator 的關係能提供優勢。他曾擔任 YC 總裁三年,由 Garry Tan 接任,並擔任顧問十多年,於 2022 年離開 YC。
Ralston 計劃提供與他在著名創業加速器時相同的指導,包括申請 Y Combinator 的指導。他還承諾幫助投資組合中的公司使用其廣泛的投資人網路。
Ralston 尚未透露該基金的規模、計畫支援的創業公司數量,以及其有限合夥人的身份。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (3)
0/500
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?

Geoff Ralston 因長期與 Y Combinator 合作而在創業領域嶄露頭角,他在週四宣佈正式重返積極投資的行列。
他的新基金命名為 Safe Artificial Intelligence Fund (SAIF),反映了其核心使命,同時也是一個聰明的縮寫。
根據該基金的網站,Ralston 的目標是致力於「加強人工智能的安全、保全和負責任的部署」的創業公司。他打算使用 SAFE 協議發行 10 萬美元的支票--「雙關語」,他指出,估值上限為 1,000 萬美元。SAFE 是由 Y Combinator 所開發,是一種簡單的未來股權協議,可將估值延遲至後一輪融資。
儘管風險資本對 AI 創業公司的興趣相當廣泛,但 Ralston 的方法明顯是以安全的 AI 為中心,他承認這個重點是刻意擴大的。
"目前大多數的 AI 專案都是為了解決問題、提升效率或創造新能力而設計。Ralston 向 TechCrunch 解釋:「雖然本質上並非不安全,但安全並非其主要優先考量。「我的目標是資助那些以安全 AI 為主要目標的初創公司,我對安全 AI 的定義非常廣泛」。
他的投資範圍包括專注於讓 AI 更安全的公司,例如那些提高 AI 決策透明度或建立安全基準的公司。它還涵蓋了保護智慧財產權、確保法規遵循、對抗假消息以及偵測人工智能驅動攻擊的工具。此外,他對設計內建安全性的功能性 AI 工具也很感興趣,例如先進的 AI 預測系統,或是保護企業機密的 AI 驅動談判平台。
雖然這可能與其他以 AI 為重點的 VC 的投資論點相似,但 Ralston 將某些領域排除在外。一個明顯的例子就是完全自主的武器系統。
"他表示:「無可否認,人工智慧有一些不安全的應用,例如設計生化武器或在沒有人為監督的情況下管理常規武器。
事實上,他的目標是支持「武器安全系統」,能夠識別或防止來自 AI 控制武器的攻擊。
這種立場與目前許多國防科技創辦人和投資人的觀點截然不同。正如 TechCrunch 所報導的,一些 AI 武器的開發者越來越主張使用不受人類控制的系統。
儘管 AI 投資環境紛雜,但 Ralston 相信他與 Y Combinator 的關係能提供優勢。他曾擔任 YC 總裁三年,由 Garry Tan 接任,並擔任顧問十多年,於 2022 年離開 YC。
Ralston 計劃提供與他在著名創業加速器時相同的指導,包括申請 Y Combinator 的指導。他還承諾幫助投資組合中的公司使用其廣泛的投資人網路。
Ralston 尚未透露該基金的規模、計畫支援的創業公司數量,以及其有限合夥人的身份。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?





首頁






