英國AI的身體重命名為安全研究所,用擬人化簽名諒解備忘錄

英國政府正大幅改變其AI策略,旨在通過此技術促進經濟與產業發展。作為新方向的一部分,科學、工業與技術部宣布將一年前成立的AI安全研究所更名為「AI安全研究所」。此名稱變更反映焦點從AI的生存風險與偏見轉向網絡安全問題,特別是加強對AI相關威脅的防護,以保障國家安全與防止犯罪。
與此更名同時,政府與Anthropic建立了新合作關係。雖然具體服務尚未詳細說明,但合作備忘錄顯示將探索在公共服務中使用Anthropic的AI助理Claude。Anthropic還將參與科學研究與經濟建模,並在AI安全研究所提供評估AI安全風險的工具。
「AI有潛力改變政府服務公民的方式,」Anthropic聯合創始人兼首席執行官Dario Amodei表示。「我們期待探索Anthropic的AI助理Claude如何幫助英國政府機構提升公共服務,目標是發現新方式,使重要資訊與服務對英國居民更高效且易於獲取。」
Anthropic是今日公告中唯一突出的公司,這與慕尼黑和巴黎的AI相關活動週相符。然而,英國政府也與其他AI公司合作。一月,引入了OpenAI提供的新工具,技術國務大臣Peter Kyle提到計劃與多家基礎AI公司合作,與Anthropic的交易即為例證。
AI安全研究所於成立不久後更名為AI安全研究所,與工黨政府一月宣布的以AI為中心的「變革計劃」一致。該計劃顯著省略「安全」、「危害」、「生存」與「威脅」等詞,顯示專注於通過AI推動經濟發展,而非僅關注安全問題。
此轉向並不意外,鑑於政府旨在利用AI刺激現代化經濟投資。該策略包括與大型科技公司更密切合作,及促進本土科技巨頭的成長。公務員將可使用名為「Humphrey」的AI助理,並被鼓勵使用AI提升效率。消費者將受益於政府文件的數位錢包與聊天機器人。
雖然AI安全問題尚未完全解決,但政府立場似乎是進展不應僅受安全顧慮阻礙。儘管名稱變更,政府堅稱核心使命未變。
「我今天宣布的變革代表我們如何負責任發展AI的下一步——幫助我們釋放AI潛力並作為變革計劃的一部分促進經濟增長,」Kyle表示。「AI安全研究所的工作不會改變,但這一新焦點將確保我們的公民——以及盟友的公民——免受那些試圖利用AI對抗我們的機構、民主價值與生活方式的人的威脅。」
繼續擔任研究所主席的Ian Hogarth補充說:「研究所從一開始就專注於安全,我們已建立一支專注於評估重大公共風險的科學家團隊。我們的新犯罪濫用團隊及與國家安全社群的深化合作,標誌著應對這些風險的下一階段。」
全球對AI安全的重視似乎正在轉變。在美國,AI安全研究所面臨被解散的風險,這是副總統J.D. Vance在巴黎演講中暗示的可能性。
相關文章
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
相關專題推薦
評論 (52)
0/500
So they're rebranding the AI Safety Institute and signing deals with Anthropic? Feels like they're trying to put a fresh coat of paint on the same old problems. Hope this MOU actually leads to something concrete, not just another photo op. 🤔
Переименование института безопасности ИИ и сотрудничество с Anthropic... Интересно, это реально усилит экономику или просто очередная бюрократическая перестановка? Надеюсь, это не просто смена вывески, а реальные меры по безопасности ИИ. 🤔
Wow, the UK is really doubling down on AI with this rebrand and Anthropic partnership! Exciting to see how this boosts innovation, but I’m curious if security will keep up with the pace. 🤔
Wow, the UK rebranding its AI body to focus on security is a bold move! Makes me wonder if they're prepping for some sci-fi level AI challenges. Excited to see how this Anthropic partnership shakes things up! 🤖
Super cool to see the UK doubling down on AI with this rebrand! Excited for what this means for tech innovation. 😎

英國政府正大幅改變其AI策略,旨在通過此技術促進經濟與產業發展。作為新方向的一部分,科學、工業與技術部宣布將一年前成立的AI安全研究所更名為「AI安全研究所」。此名稱變更反映焦點從AI的生存風險與偏見轉向網絡安全問題,特別是加強對AI相關威脅的防護,以保障國家安全與防止犯罪。
與此更名同時,政府與Anthropic建立了新合作關係。雖然具體服務尚未詳細說明,但合作備忘錄顯示將探索在公共服務中使用Anthropic的AI助理Claude。Anthropic還將參與科學研究與經濟建模,並在AI安全研究所提供評估AI安全風險的工具。
「AI有潛力改變政府服務公民的方式,」Anthropic聯合創始人兼首席執行官Dario Amodei表示。「我們期待探索Anthropic的AI助理Claude如何幫助英國政府機構提升公共服務,目標是發現新方式,使重要資訊與服務對英國居民更高效且易於獲取。」
Anthropic是今日公告中唯一突出的公司,這與慕尼黑和巴黎的AI相關活動週相符。然而,英國政府也與其他AI公司合作。一月,引入了OpenAI提供的新工具,技術國務大臣Peter Kyle提到計劃與多家基礎AI公司合作,與Anthropic的交易即為例證。
AI安全研究所於成立不久後更名為AI安全研究所,與工黨政府一月宣布的以AI為中心的「變革計劃」一致。該計劃顯著省略「安全」、「危害」、「生存」與「威脅」等詞,顯示專注於通過AI推動經濟發展,而非僅關注安全問題。
此轉向並不意外,鑑於政府旨在利用AI刺激現代化經濟投資。該策略包括與大型科技公司更密切合作,及促進本土科技巨頭的成長。公務員將可使用名為「Humphrey」的AI助理,並被鼓勵使用AI提升效率。消費者將受益於政府文件的數位錢包與聊天機器人。
雖然AI安全問題尚未完全解決,但政府立場似乎是進展不應僅受安全顧慮阻礙。儘管名稱變更,政府堅稱核心使命未變。
「我今天宣布的變革代表我們如何負責任發展AI的下一步——幫助我們釋放AI潛力並作為變革計劃的一部分促進經濟增長,」Kyle表示。「AI安全研究所的工作不會改變,但這一新焦點將確保我們的公民——以及盟友的公民——免受那些試圖利用AI對抗我們的機構、民主價值與生活方式的人的威脅。」
繼續擔任研究所主席的Ian Hogarth補充說:「研究所從一開始就專注於安全,我們已建立一支專注於評估重大公共風險的科學家團隊。我們的新犯罪濫用團隊及與國家安全社群的深化合作,標誌著應對這些風險的下一階段。」
全球對AI安全的重視似乎正在轉變。在美國,AI安全研究所面臨被解散的風險,這是副總統J.D. Vance在巴黎演講中暗示的可能性。
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
So they're rebranding the AI Safety Institute and signing deals with Anthropic? Feels like they're trying to put a fresh coat of paint on the same old problems. Hope this MOU actually leads to something concrete, not just another photo op. 🤔
Переименование института безопасности ИИ и сотрудничество с Anthropic... Интересно, это реально усилит экономику или просто очередная бюрократическая перестановка? Надеюсь, это не просто смена вывески, а реальные меры по безопасности ИИ. 🤔
Wow, the UK is really doubling down on AI with this rebrand and Anthropic partnership! Exciting to see how this boosts innovation, but I’m curious if security will keep up with the pace. 🤔
Wow, the UK rebranding its AI body to focus on security is a bold move! Makes me wonder if they're prepping for some sci-fi level AI challenges. Excited to see how this Anthropic partnership shakes things up! 🤖
Super cool to see the UK doubling down on AI with this rebrand! Excited for what this means for tech innovation. 😎





首頁






