TechSpert解釋的設備處理

如果您曾經拿起新的Pixel手機,那麼您可能會聽說過“設備處理”是其很酷的新功能背後的魔力。以Pixel 9手機為例,例如Pixel Studio之類的功能,並呼叫註釋“在設備上”。這不僅僅是電話; Nest攝像頭,Pixel智能手錶和Fitbit設備都在此“設備處理”操作中。鑑於它是多麼廣泛的和功能的功能,這顯然很重要。那麼,“設備處理”到底是什麼意思?好吧,這聽起來像是這樣 - 處理在設備上發生。但是要深入研究,我們與近20年的Google老兵Trystan Upstill聊天,他從事Android,Google News和Search的工程團隊工作。 Trystan,您是團隊的一員,為新的Pixel設備開發了一些令人興奮的功能。你從事什麼工作?最近,我領導了Android中的一個團隊,該團隊致力於將Google的各種技術堆棧融合為出色的用戶體驗。這就是弄清楚如何構建和運輸這些功能。隨著技術不斷改進和引入新功能,它必須感覺像是一項永無止境的工作。絕對地!在過去的幾年中,生成的AI功能取得了巨大的飛躍。起初,在設備上運行大型語言模型的想法似乎是一個遙遠的夢想 - 可能是2026年的事物。但是技術發展得如此之快,以至於我們能夠使用我們的設備模型Gemini Nano在2023年12月8日在Pixel 8 Pro上啟動功能。 Let's Break's Brough of Device Processing''。 “處理”實際上是什麼意思?您的設備中的主處理器或芯片上系統(SOC)具有專門為不同任務設計的幾個處理單元。這就是為什麼您會聽到芯片之類的芯片,例如像素中的張量芯片被稱為“芯片系統”。它不僅是一個處理器,而且是其中一堆,以及記憶,界面等等,全部在一塊矽上。讓我們以Pixel智能手機為例:您將中央處理單元(CPU)作為主要的“發動機”;用於視覺效果的圖形處理單元(GPU);現在,Google專門為處理設備上的AI/ML工作負載而設計的張量處理單元(TPU)。他們都共同努力完成工作 - aka,處理。例如,當您拍攝照片時,您將使用所有這些處理功能。 CPU運行核心任務,GPU有助於渲染鏡頭所看到的東西,並且在像像素這樣的高級Android設備上,TPU致力於增強您的照片。知道了。 “設備”處理意味著存在偏離設備處理。那在哪裡發生?偏離設備處理髮生在雲中。您的設備通過Internet將請求發送給服務器,該服務器執行任務並將結果發送回手機。為了實現這一目標,我們從雲中採取大型機器學習模型,使其更小,更高效,並在設備的操作系統和硬件上運行。什麼硬件可以使這成為可能?新的,更強大的芯片組。例如,Pixel 9 Pro使用我們的SOC稱為Tensor G4,它使這些手機能夠運行Gemini Nano之類的模型並處理高性能計算。因此,張量專門為運行Google AI而設計,該AI為許多Pixel的新代AI功能提供動力。確切地!儘管生成的AI功能是其中的很大一部分,但在設備上處理也使諸如渲染視頻,玩遊戲,HDR照片編輯和語言翻譯之類的事情可能會使您使用手機所做的一切。這些任務發生在手機上,而不是在服務器上。 與雙子座的對講,Gemini分析了圖像並將描述大聲讀取給盲人或低視頻用戶,是設備處理的一個示例,該示例使用了籌碼上使用Tensor,Pixel的系統在芯片上。當今智能手機的計算能力令人難以置信。它們比早期高性能計算機快數千倍,這些計算機用來填補整個房間。這些舊計算機是用於數據分析,圖像處理,異常檢測和早期AI研究的最前沿。現在,我們可以在設備上完成所有這些操作,從而為有用的功能打開了新的機會。在設備處理比偏離設備更好嗎?未必。如果您完全使用搜索,那將是緩慢或有限的,因為搜索網絡就像在乾草堆中找到針頭一樣。整個網絡索引無法放在手機上!相反,搜索使用雲和我們的數據中心訪問數万億個網頁。但是對於更具體的任務,設備處理確實有用。它之所以更快,是因為沒有延遲,並且沒有互聯網連接而起作用,從而使其更可靠。另外,由於AI芯片在您的口袋中,因此應用程序可以免費使用這些LLM功能。兩者都有其優勢:雲具有更強大的模型,並且可以存儲大量數據,例如您的照片和視頻。它還支持搜索大量數據庫(例如驅動器,Gmail和Google照片)等動作。我的像素能做的事情已經給我留下了深刻的印象,但這聽起來好像只會變得更好。是的,我們在Android設備上使用的這些複雜任務的模型變得越來越強大。但這不僅僅是更好的技術;我們還專注於實際受益的人。我們不僅會引入產品,因為設備處理可以處理它;我們要確保這是人們想要在日常生活中使用的東西。
相關文章
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
相關專題推薦
評論 (29)
0/500
So on-device processing means my phone does all the AI stuff locally instead of sending my data to the cloud? That's actually kinda reassuring for privacy. But does it mean the phone needs a super powerful chip? Pixel 9 must be a beast. Still, I wonder how well it handles complex tasks like image generation... 🤔
아티클을 읽어보니까 온 디바이스 처리 기술이 정말 중요한 거 같네요. 핸드폰 배터리 수명에도 좋고, 프라이버시 보호도 강화할 수 있잖아요. 그런데 요즘 AI 기능들 중에서 완전히 디바이스만으로 작동하는 건 얼마나 될까요? 🤔 저는 클라우드에 의존하지 않는 AI가 정말 필요해요! 전화 필기 기능이나 사진 편집 정도 말고도, 진짜 복잡한 작업도 디바이스로 할 수 있다면 더 좋겠네요. 애플이나 삼성이 어떻게 대응할지 궁금합니다.
Me encanta la idea del procesamiento en el dispositivo, pero ¿qué pasa con la privacidad real? 🤔 Todos dicen que es más seguro, pero ¿alguien ha verificado si los datos nunca salen del teléfono? Siempre hay algún pequeño detalle que las empresas olvidan mencionar...
Loved the article on on-device processing! It's wild how much power is packed into my Pixel 9 for stuff like Pixel Studio. Makes me wonder if this is the future of all smart devices or just a Google flex. 😎
On-Device Processing Explained by Techspert is a lifesaver for tech newbies like me! It breaks down the magic behind Pixel phones in such a simple way. I finally get why my Pixel 9 runs so smoothly. Only wish it had more examples for other devices too! 😅

奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
So on-device processing means my phone does all the AI stuff locally instead of sending my data to the cloud? That's actually kinda reassuring for privacy. But does it mean the phone needs a super powerful chip? Pixel 9 must be a beast. Still, I wonder how well it handles complex tasks like image generation... 🤔
아티클을 읽어보니까 온 디바이스 처리 기술이 정말 중요한 거 같네요. 핸드폰 배터리 수명에도 좋고, 프라이버시 보호도 강화할 수 있잖아요. 그런데 요즘 AI 기능들 중에서 완전히 디바이스만으로 작동하는 건 얼마나 될까요? 🤔 저는 클라우드에 의존하지 않는 AI가 정말 필요해요! 전화 필기 기능이나 사진 편집 정도 말고도, 진짜 복잡한 작업도 디바이스로 할 수 있다면 더 좋겠네요. 애플이나 삼성이 어떻게 대응할지 궁금합니다.
Me encanta la idea del procesamiento en el dispositivo, pero ¿qué pasa con la privacidad real? 🤔 Todos dicen que es más seguro, pero ¿alguien ha verificado si los datos nunca salen del teléfono? Siempre hay algún pequeño detalle que las empresas olvidan mencionar...
Loved the article on on-device processing! It's wild how much power is packed into my Pixel 9 for stuff like Pixel Studio. Makes me wonder if this is the future of all smart devices or just a Google flex. 😎
On-Device Processing Explained by Techspert is a lifesaver for tech newbies like me! It breaks down the magic behind Pixel phones in such a simple way. I finally get why my Pixel 9 runs so smoothly. Only wish it had more examples for other devices too! 😅





首頁






