富士通的 PHOTON 架構將 AI 效能提升 475 倍,並解決運算瓶頸
隨著大型模型持續快速演進,運算成本與處理效率仍是業界關注的關鍵議題。富士通近期推出了一種名為 PHOTON(自上而下網路平行分層運算)的創新架構,旨在克服傳統 Transformer 模型在複雜情境下的效能限制。
目前在人工智慧領域佔主導地位的 Transformer 架構,雖能妥善處理長篇文本或高並發的多查詢任務,但往往因頻繁存取記憶體以檢索歷史資訊而導致速度變慢,進而增加 GPU 的工作負載。富士通的研究團隊透過重新構思 PHOTON 架構的設計,解決了這個痛點。

PHOTON 的核心優勢在於其分層處理方法。 與傳統 Transformer 採用的標記級分割不同,PHOTON 引入了語義分層機制,在降低運算複雜度的同時,也提升了並行運算效率。此外,針對多查詢任務,該架構簡化了決策流程:僅需單次推論即可得出結論,並採用「多數決」或「最佳選擇」策略。
測試結果顯示,在參數數為 6 億、9 億及 12 億的小型模型中,PHOTON 不僅能提供極高的吞吐量,記憶體佔用率也極低。 在 12 億參數的模型中,其多查詢效能達到主流 Transformer 架構的 475 倍,顯著提升了資源調度效率。
由於此架構在每次迭代中所需的 KV 快取較少,系統因此能處理更多迭代次數。這對於管理大量 I/O 流程的智慧代理系統而言,是一項重大的效能提升。儘管某些品質指標出現輕微的取捨,但 PHOTON 在運算效率上的飛躍性進步,使其成為降低 AI 營運成本的一項極具潛力的技術解決方案。
富士通目前正積極推廣該架構的應用,旨在透過核心演算法的創新,為未來的智慧型應用場景提供更輕量、更高效的底層支援。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500
隨著大型模型持續快速演進,運算成本與處理效率仍是業界關注的關鍵議題。富士通近期推出了一種名為 PHOTON(自上而下網路平行分層運算)的創新架構,旨在克服傳統 Transformer 模型在複雜情境下的效能限制。
目前在人工智慧領域佔主導地位的 Transformer 架構,雖能妥善處理長篇文本或高並發的多查詢任務,但往往因頻繁存取記憶體以檢索歷史資訊而導致速度變慢,進而增加 GPU 的工作負載。富士通的研究團隊透過重新構思 PHOTON 架構的設計,解決了這個痛點。

PHOTON 的核心優勢在於其分層處理方法。 與傳統 Transformer 採用的標記級分割不同,PHOTON 引入了語義分層機制,在降低運算複雜度的同時,也提升了並行運算效率。此外,針對多查詢任務,該架構簡化了決策流程:僅需單次推論即可得出結論,並採用「多數決」或「最佳選擇」策略。
測試結果顯示,在參數數為 6 億、9 億及 12 億的小型模型中,PHOTON 不僅能提供極高的吞吐量,記憶體佔用率也極低。 在 12 億參數的模型中,其多查詢效能達到主流 Transformer 架構的 475 倍,顯著提升了資源調度效率。
由於此架構在每次迭代中所需的 KV 快取較少,系統因此能處理更多迭代次數。這對於管理大量 I/O 流程的智慧代理系統而言,是一項重大的效能提升。儘管某些品質指標出現輕微的取捨,但 PHOTON 在運算效率上的飛躍性進步,使其成為降低 AI 營運成本的一項極具潛力的技術解決方案。
富士通目前正積極推廣該架構的應用,旨在透過核心演算法的創新,為未來的智慧型應用場景提供更輕量、更高效的底層支援。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






