選項
首頁
新聞
Sakana AI 的 AI 外掛程式簡化了大型模型的文件處理流程

Sakana AI 的 AI 外掛程式簡化了大型模型的文件處理流程

2026-03-21
130

大型語言模型在處理長篇文本時常面臨的困境——通常被稱為「記憶焦慮」——或許很快就會成為歷史。 近期,總部位於東京的 AI 新創公司 Sakana AI 發表了兩項突破性技術:Text-to-LoRA(T2L)Doc-to-LoRA(D2L)。透過創新的「超級網路」架構,這些技術讓大型模型能在不到一秒的時間內「吸收」龐大文件或學習新任務,且無需重新訓練。

image.png

AI開發者長期以來面臨著艱難的取捨:要麼將冗長文件塞進聊天視窗——這會拖慢回應速度並消耗大量記憶體——要麼付出高昂成本來微調模型。Sakana AI 提供了第三種選擇。透過一次性預訓練費用,它能生成極小的權重插件(LoRA),從而實現低成本、高效的模型適應。

Doc-to-LoRA:記憶體需求從 12GB 降至僅 50MB

這正是本次最新版本中最令人驚豔的技術。若使用傳統方法處理一份 128,000 個標記(約 100,000 字)的文件,需耗費超過12GB的 VRAM 來儲存資訊。透過 D2L,模型能直接將這些資訊「消化」成小於50MB 的插件。

驚人速度:傳統技術處理一份文件需耗時 40 至 100 秒,而 D2L 僅需不到1 秒即可完成。

突破極限:它讓模型能處理長度達原始上下文視窗四倍的文本,在「大海撈針」式的檢索測試中實現近乎完美的準確度。

Text-to-LoRA:運用日常語言客製化 AI

Text-to-LoRA 讓模型反應更靈敏。使用者只需用自然語言描述任務——例如「幫我解決一道複雜的數學競賽題」——系統便會自動生成專用外掛程式以提升效能。實驗顯示,以此方式建立的適配器在數學與邏輯推理任務上,表現甚至優於從頭訓練的專用模型。

強大的跨模態技術:讓文字模型「看見」圖像

研究人員發現了一個意想不到的額外好處:D2L 展現出強大的跨模態能力。透過將視覺資訊映射到純文字模型的參數中,一個從未處理過圖像的模型,竟能以 **75.03%** 的準確度對圖像進行分類。

Sakana AI 的成就顯著降低了個人與企業自訂私有 AI 模型的門檻,同時為開發更輕量且智能的通用人工智慧(AGI)開闢了新途徑。

論文:https://arxiv.org/pdf/2602.15902

相關文章
六大科技巨頭向 Linux 基金會捐贈 1250 萬美元,以應對人工智慧漏洞噪音 六大科技巨頭向 Linux 基金會捐贈 1250 萬美元,以應對人工智慧漏洞噪音 為應對由人工智慧自動化工具產生的大量低質量安全報告,六家主要科技公司——Anthropic、亞馬遜(AWS)、GitHub、Google、Microsoft 和 OpenAI——共同向 Linux 基金會專案提供了 1250 萬美元 的資金支援。這項投資旨在減輕開源軟體(FOSS)維護者手動篩選的工作負擔,使他們能夠專注於真正的安全威脅。隨著人工智慧技術降低了漏洞發現的門檻,開源社羣正面臨前所未有的挑戰:無效報告:自動生成的 AI 報告使維護者應接不暇。雖然數量龐大,但這些提交往往缺乏深度,
馬斯克曾考慮將OpenAI留給他的孩子,而奧特曼正在作證 馬斯克曾考慮將OpenAI留給他的孩子,而奧特曼正在作證 今早,OpenAI 執行長山姆·阿爾特曼出庭作證,回應前聯合創始人埃隆·馬斯克針對該公司企業結構提起的訴訟。當被問及馬斯克聲稱其他聯合創始人透過成立一家以營利為目的的子公司來推廣基於人工智慧的產品,從而“竊取了一家慈善機構”的說法時,阿爾特曼表現出明顯的猶豫。“這種說法甚至讓人難以理解,”阿爾特曼在停頓後說道,“我們成立的是全球最大的慈善機構之一。該基金會正在開展令人難以置信的工作,並將繼續做更多事情。”馬斯克的律師團隊指出,OpenAI 基金會目前持有的資產價值約為 2000 億美元
山姆·奧特曼引發關於人工智慧減速的辯論 山姆·奧特曼引發關於人工智慧減速的辯論 在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
相關專題推薦
音樂創作 面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具
面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具

2026 年最新最佳 AI 人聲演示工具,專為詞曲創作者、旋律創作者和多語言內容團隊打造!XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項,幫助您提升創作效率並釋放創意潛力。立即探索,發現滿足您所有內容需求的完美工具!

9 個工具
xix.ai
商業 最適合小型企業的頂尖 AI 競爭情勢分析工具
最適合小型企業的頂尖 AI 競爭情勢分析工具

2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具!XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具,並透過嚴謹的實測與詳細排名,每週更新內容。您可在此找到詳盡的免費版與付費版比較,協助您找出必試的工具,以提升工作效率並獲得競爭優勢。 立即探索,找出最適合您的工具!

9 個工具
xix.ai
圖像編輯 用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具
用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具

2026 年最新最佳 Photoshop AI 修圖工具,適用於電商服裝、皮膚清潔和色彩一致性!這份頂級精選列表包含強大的變革性解決方案,可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試,並透過每週更新的排名進行驗證,同時提供免費與付費版本的詳細對比。由 XIX.AI 支援,這是任何希望發揮 AI 優勢的人必試指南。立即探索!

10 個工具
xix.ai
迅速的 適用於 ChatGPT 工作流程的最佳 AI 提示詞庫
適用於 ChatGPT 工作流程的最佳 AI 提示詞庫

2026 年最新、最受好評的 AI 提示詞庫,可優化各類 ChatGPT 工作流程。XIX.AI 精心蒐羅了一套強大且具革命性的精選集合,並經過嚴格的實際測試,以確保其表現卓越。 您可查閱詳盡的免費版與付費版比較分析,以及專家評比,助您挑選必試工具,從而提升工作效率並釋放您的 AI 優勢。立即探索!

11 個工具
xix.ai
教育與學習 面向教師、輔導老師和基於群體的學習專案的 AI 測驗構建平臺
面向教師、輔導老師和基於群體的學習專案的 AI 測驗構建平臺

2026年最新最佳AI測驗構建平臺,適用於教師、輔導老師和基於群體的學習專案!XIX.AI精心整理了一份頂級評分列表,包含經過現實世界測試的強力變革性工具,以提供準確的排名。這些必試平臺有助於提高寫作效率、簡化內容創作,並簡化各種學習場景中的測驗設計。立即探索,發現您解鎖教學AI優勢的理想工具!

13 個工具
xix.ai
代碼 適用於 GitHub 團隊處理重構、錯誤及安全漏洞的 AI 拉取請求審查工具
適用於 GitHub 團隊處理重構、錯誤及安全漏洞的 AI 拉取請求審查工具

2026 年最新、最優秀的 GitHub 團隊 AI 拉取請求審查工具,就在 XIX.AI!這份精選且評價極高的清單,展示了多款強大且能徹底改變遊戲規則的解決方案,可優化所有團隊工作流程中的重構、錯誤修復及安全漏洞偵測。 透過免費與付費版本的比較、實際測試結果以及詳細排名,協助您找到能顯著提升生產力的完美工具。立即探索,釋放您的 AI 競爭優勢!

12 個工具
xix.ai
評論 (0)
0/500
OR