OpenAI 與五角大廈達成協議,與阿爾特曼共同承諾採取人工智慧安全措施

在 Anthropic 因根本性的安全疑慮與美國國防部(DoD,在川普政府時期曾稱為「戰爭部」)陷入僵局並遭到阻撓後,OpenAI 迅速採取行動。該公司執行長山姆·奧特曼(Sam Altman)於週五晚間宣布,OpenAI 已與五角大廈敲定協議。這項協議允許其人工智慧模型在國防部的機密網路中使用。
這項合作關係誕生於一個特別敏感的時期。Anthropic先前因拒絕解除對「大規模國內監控」及「完全自主武器系統」的限制,而被川普斥為「左翼瘋子」,導致其被排除在國家供應鏈之外。
奧特曼強調的合作原則:
恪守核心價值:奧特曼在社交平台 X 上表示,OpenAI 的協議明確恪守兩項關鍵安全原則:禁止用於大規模國內監控,以及要求任何武力使用——包括自主武器——均須在實質性的人類監督與問責機制下進行。
整合技術保障措施:OpenAI將開發專屬技術保障措施,以確保模型按設計運作。該公司亦計劃派遣工程師進駐五角大廈,協助模型部署及持續的安全監控。
保留拒絕權:在一次內部會議上,奧特曼透露政府已授予 OpenAI 實施其自有「安全堆疊」的權限。若模型拒絕執行所要求的任務,政府不會強迫該公司修改其核心邏輯。
奧特曼敦促國防部將這些條款延伸至所有人工智慧公司,並表示希望理性的協議能緩解政府與科技產業之間的緊張關係。然而,這項協議已引發內部辯論,本週有超過 60 名 OpenAI 員工聯署公開信,支持 Anthropic 對軍事應用採取更嚴格的立場。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (1)
0/500

在 Anthropic 因根本性的安全疑慮與美國國防部(DoD,在川普政府時期曾稱為「戰爭部」)陷入僵局並遭到阻撓後,OpenAI 迅速採取行動。該公司執行長山姆·奧特曼(Sam Altman)於週五晚間宣布,OpenAI 已與五角大廈敲定協議。這項協議允許其人工智慧模型在國防部的機密網路中使用。
這項合作關係誕生於一個特別敏感的時期。Anthropic先前因拒絕解除對「大規模國內監控」及「完全自主武器系統」的限制,而被川普斥為「左翼瘋子」,導致其被排除在國家供應鏈之外。
奧特曼強調的合作原則:
恪守核心價值:奧特曼在社交平台 X 上表示,OpenAI 的協議明確恪守兩項關鍵安全原則:禁止用於大規模國內監控,以及要求任何武力使用——包括自主武器——均須在實質性的人類監督與問責機制下進行。
整合技術保障措施:OpenAI將開發專屬技術保障措施,以確保模型按設計運作。該公司亦計劃派遣工程師進駐五角大廈,協助模型部署及持續的安全監控。
保留拒絕權:在一次內部會議上,奧特曼透露政府已授予 OpenAI 實施其自有「安全堆疊」的權限。若模型拒絕執行所要求的任務,政府不會強迫該公司修改其核心邏輯。
奧特曼敦促國防部將這些條款延伸至所有人工智慧公司,並表示希望理性的協議能緩解政府與科技產業之間的緊張關係。然而,這項協議已引發內部辯論,本週有超過 60 名 OpenAI 員工聯署公開信,支持 Anthropic 對軍事應用採取更嚴格的立場。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






