TechSpert解釋：CPU與GPU與TPU差異

在五月的 I/O 大會上，我們揭曉了 Trillium，這是我們第六代自訂設計的晶片，名為 Tensor Processing Unit，或稱 TPU。今天，我們很高興宣布，它現已對 Google Cloud 客戶開放預覽。TPU 是驅動 AI 的魔法，使您的 Google 設備和應用程式變得極其實用，而 Trillium 是我們至今打造的最強大且最環保的 TPU。

那麼，什麼是 TPU？Trillium 又有什麼獨特之處？要了解全貌，先認識其他類型的計算處理器，如 CPU 和 GPU，以及它們的區別會很有幫助。Chelsie Czop 是 Google Cloud AI 基礎設施的產品經理，她能為我們詳細解釋。「我與各團隊合作，確保我們的平台對打造 AI 產品的客戶來說盡可能高效，」她說。根據 Chelsie 的說法，Google 的 TPU 是我們 AI 產品如此有效的重要原因。

讓我們來看看基礎知識！什麼是 CPU、GPU 和 TPU？

這些都是用於計算任務的晶片處理器。想像您的大腦就像一台電腦，執行閱讀或解決數學問題等任務。每項活動都像是一個計算任務。因此，當您使用手機拍照、發送訊息或開啟應用程式時，手機的大腦，也就是處理器，正在處理這些任務。

這些縮寫代表什麼？

儘管 CPU、GPU 和 TPU 都是處理器，但它們的專業化程度越來越高。CPU 代表中央處理單元。這些是多功能的晶片，能處理各種任務。就像您的大腦，有些任務如果 CPU 不是專為其設計，可能會花更多時間。

接下來是 GPU，即圖形處理單元。GPU 是加速計算任務的強大工具，從渲染圖形到運行 AI 工作負載。它們是一種 ASIC，即特定應用積體電路。積體電路通常由矽製成，這就是為什麼您可能聽到晶片被稱為「矽」——是一回事（對，這就是「矽谷」命名的由來！）。簡單來說，ASIC 是為特定目的設計的。

TPU，即 Tensor Processing Unit，是 Google 自己的 ASIC。我們從頭設計 TPU 以處理 AI 相關的計算任務，使其比 CPU 和 GPU 更加專業化。TPU 是 Google 一些最受歡迎的 AI 服務核心，包括搜尋、YouTube 和 DeepMind 的大型語言模型。

明白了，這些晶片是讓我們的設備運作的關鍵。我在哪裡可以找到 CPU、GPU 和 TPU？

CPU 和 GPU 出現在日常用品中：幾乎每台智慧手機和筆記型電腦都有 CPU，而 GPU 則常見於高端遊戲系統和一些桌上型電腦。另一方面，TPU 僅在 Google 資料中心中找到——這些巨大的建築裡裝滿了 TPU 機架，24 小時不停運作，確保 Google 及我們 Cloud 客戶的 AI 服務在全球運行。

是什麼促使 Google 開始開發 TPU？

CPU 在 1950 年代後期問世，GPU 則在 90 年代後期出現。在 Google，我們大約十年前開始思考 TPU。我們的語音識別服務進步很快，我們意識到如果每個用戶每天僅用 Google 語音交談三分鐘，我們的資料中心電腦就需要增加一倍。我們知道需要比當時現成的硬體更高效的東西——而且每個晶片需要更多的處理能力。所以，我們決定自己打造！

那個「T」代表 Tensor，對吧？為什麼？

沒錯——「tensor」是機器學習中使用資料結構的通用術語。AI 任務背後有許多數學運算在進行。有了我們最新的 TPU——Trillium，我們提升了它的計算能力：與上一代 TPU v5e 相比，Trillium 的每顆晶片峰值計算性能提升了 4.7 倍。

這具體意味著什麼？

這意味著 Trillium 能以比上一版本快 4.7 倍的速度處理複雜數學所需的全部計算。不僅 Trillium 更快，它還能處理更大、更複雜的工作負載。

與上一代 TPU 相比，還有什麼改進？

Trillium 的另一大改進是它是我们至今最永續的 TPU——比上一代 TPU 節能 67%。隨著 AI 需求的持續增長，產業需要以永續的方式擴展基礎設施。Trillium 用更少的電力完成相同的工作。

現在客戶開始使用它，你認為 Trillium 會帶來什麼樣的影響？

我們已經看到了一些由 Trillium 驅動的驚人成果！客戶正在用它來分析各種疾病的 RNA、將文字快速轉換為視頻等等。這只是來自我們最初用戶的反饋——現在 Trillium 進入預覽階段，我們很期待看到大家會用它做什麼。