Google DeepMind 的 TIPSv2:真正理解圖像的人工智慧,而非僅是淺嚐輒止
當前人工智慧的圖像理解能力存在一項核心限制。
當被問及「這張圖片裡有什麼?」時,它能給出詳盡的回答。然而,若詢問「熊貓的左後腿在哪裡?」,則會得到模糊的回答。這並非特定模型的缺陷,而是整個視覺語言大型模型領域普遍存在的問題:具備強大的全局理解能力,卻缺乏精確的局部定位能力。
Google DeepMind 在其最新論文中推出了 TIPSv2,該模型正是專為解決這個棘手問題而設計。

研究團隊觀察到一項反直覺的發現:在細粒度分割任務中,較小的學生模型往往表現優於較大的教師模型。這是因為知識蒸餾去除了遮罩機制,迫使模型學習整張圖片的每個細節,從而形成一種「全域監督」。受此洞見啟發,TIPSv2 引入了三項關鍵增強。
首先是 iBOT++。傳統預訓練僅針對遮罩區域計算損失,導致可見區域被忽略,進而造成局部語義漂移。iBOT++ 要求模型對所有可見區域提供精確的監督,有效將任務從「拼圖遊戲」升級為「仔細閱讀整篇文章」。這項單一改進使零樣本分割性能提升了 14.1 個百分點。
其次,僅限投影頭的 EMA。傳統的自監督訓練需要在記憶體中維持兩個幾乎相同的大型模型,這極度消耗資源。TIPSv2 發現,僅憑圖文對比損失就足以穩定骨幹網路,因此 EMA 只需應用於最終的投影頭,無需複製骨幹網路。這使訓練參數數量減少約 42%,不僅加速訓練過程,且幾乎不影響效能。
第三,多粒度文字配對。在訓練過程中,由 Gemini 生成的短網文描述、中等細節描述及長描述會隨機混合並輸入模型,並交替進行簡單與困難的任務。這既能防止模型在簡單任務中懈怠,又能確保不遺漏任何細節。
最終成果令人信服。TIPSv2 針對九項任務及 20 個權威資料集進行了凍結評估。零樣本語義分割創下新的業界基準,而圖文檢索與分類表現更超越參數多出 56% 的對照模型。純視覺任務的表現同樣名列前茅。
TIPSv2 的程式碼與模型權重已全面開源。對於從事醫學影像、自動駕駛、工業檢測及其他需要高精度影像理解領域的團隊而言,這套解決方案絕對值得深入研究。
論文:https://www.alphaxiv.org/abs/2604.12012
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500
當前人工智慧的圖像理解能力存在一項核心限制。
當被問及「這張圖片裡有什麼?」時,它能給出詳盡的回答。然而,若詢問「熊貓的左後腿在哪裡?」,則會得到模糊的回答。這並非特定模型的缺陷,而是整個視覺語言大型模型領域普遍存在的問題:具備強大的全局理解能力,卻缺乏精確的局部定位能力。
Google DeepMind 在其最新論文中推出了 TIPSv2,該模型正是專為解決這個棘手問題而設計。

研究團隊觀察到一項反直覺的發現:在細粒度分割任務中,較小的學生模型往往表現優於較大的教師模型。這是因為知識蒸餾去除了遮罩機制,迫使模型學習整張圖片的每個細節,從而形成一種「全域監督」。受此洞見啟發,TIPSv2 引入了三項關鍵增強。
首先是 iBOT++。傳統預訓練僅針對遮罩區域計算損失,導致可見區域被忽略,進而造成局部語義漂移。iBOT++ 要求模型對所有可見區域提供精確的監督,有效將任務從「拼圖遊戲」升級為「仔細閱讀整篇文章」。這項單一改進使零樣本分割性能提升了 14.1 個百分點。
其次,僅限投影頭的 EMA。傳統的自監督訓練需要在記憶體中維持兩個幾乎相同的大型模型,這極度消耗資源。TIPSv2 發現,僅憑圖文對比損失就足以穩定骨幹網路,因此 EMA 只需應用於最終的投影頭,無需複製骨幹網路。這使訓練參數數量減少約 42%,不僅加速訓練過程,且幾乎不影響效能。
第三,多粒度文字配對。在訓練過程中,由 Gemini 生成的短網文描述、中等細節描述及長描述會隨機混合並輸入模型,並交替進行簡單與困難的任務。這既能防止模型在簡單任務中懈怠,又能確保不遺漏任何細節。
最終成果令人信服。TIPSv2 針對九項任務及 20 個權威資料集進行了凍結評估。零樣本語義分割創下新的業界基準,而圖文檢索與分類表現更超越參數多出 56% 的對照模型。純視覺任務的表現同樣名列前茅。
TIPSv2 的程式碼與模型權重已全面開源。對於從事醫學影像、自動駕駛、工業檢測及其他需要高精度影像理解領域的團隊而言,這套解決方案絕對值得深入研究。
論文:https://www.alphaxiv.org/abs/2604.12012
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






