TechSpertの説明：CPU対GPU対TPUの違い

5月のI/Oで、われわれはTensor Processing Unit（TPU）と呼ばれるカスタム設計のチップの第六世代であるTrilliumを発表しました。今日、われわれはこれがGoogle Cloudの顧客向けにプレビュー版として利用可能になったことを興奮してお知らせします。TPUは、Googleのデバイスやアプリを非常に便利にするAIの背後にある魔法であり、Trilliumはこれまでで最も強力で環境に優しいTPUです。

では、TPUとは何か、そしてTrilliumの何が特別なのでしょうか？全体像を把握するためには、CPUやGPUといった他の種類の計算プロセッサについて知り、それらがどう異なるかを理解することが役立ちます。Google CloudでAIインフラストラクチャに取り組むプロダクトマネージャー、チェルシー・チョップがすべてを説明できます。「私はさまざまなチームと協力して、AI製品を構築する顧客にとってわれわれのプラットフォームが可能な限り効率的であるようにしています」と彼女は言います。そしてチェルシーによれば、GoogleのTPUはわれわれのAI製品が非常に効果的な大きな理由です。

基本を掘り下げましょう！CPU、GPU、TPUとは何ですか？

これらはすべて、計算タスクのためのプロセッサとして機能するチップです。あなたの脳を、読書や数学の問題を解くといったことを行うコンピュータだと想像してください。これらの活動はそれぞれ計算タスクのようなものです。ですから、携帯電話で写真を撮ったり、テキストを送信したり、アプリを開いたりするとき、携帯電話の脳、つまりプロセッサがそれらのタスクを処理しています。

これらの略語は何を表しているのですか？

CPU、GPU、TPUはすべてプロセッサですが、ますます専門的になっています。CPUはCentral Processing Unit（中央処理装置）の略です。これらは幅広いタスクを処理できる汎用性の高いチップです。あなたの脳と同じように、CPUが特定のタスクに特化していない場合、一部のタスクには時間がかかるかもしれません。

次はGPU、つまりGraphics Processing Unit（グラフィックス処理装置）です。GPUは、グラフィックスのレンダリングからAIワークロードの実行まで、加速された計算タスクのための強力な存在です。これらはASIC、つまり特定用途向け集積回路の一種です。集積回路は通常シリコンで作られており、そのためチップが「シリコン」と呼ばれることがあります（そう、シリコンバレーの名前の由来です！）。要するに、ASICは特定の目的のために設計されています。

TPU、つまりTensor Processing Unitは、Google独自のASICです。われわれはTPUをAIベースの計算タスクを処理するためにゼロから設計し、CPUやGPUよりもさらに専門的にしました。TPUは、Search、YouTube、DeepMindの大規模言語モデルなど、Googleの最も人気のあるAIサービスの中心にあります。

なるほど、これらのチップがデバイスを動かしているのですね。CPU、GPU、TPUはどこで見つけられますか？

CPUとGPUは日常のアイテムにあります。CPUはほぼすべてのスマートフォンやノートパソコンにあり、GPUはハイエンドのゲーミングシステムや一部のデスクトップコンピュータに一般的です。一方、TPUはGoogleのデータセンターにのみ存在します。これは、TPUのラックが詰まった巨大な建物で、Googleおよびクラウド顧客のAIサービスを世界中で稼働させ続けています。

GoogleがTPUの開発を始めたきっかけは何ですか？

CPUは1950年代後半に発明され、GPUは90年代後半に登場しました。Googleでは約10年前にTPUについて考え始めました。われわれの音声認識サービスが急速に改善しており、すべてのユーザーが1日3分間Googleと話すようになった場合、データセンターのコンピュータを2倍にする必要があると気づきました。当時入手可能な既製品のハードウェアよりもはるかに効率的なものが必要で、1つのチップからより多くの処理能力を得る必要がありました。そこで、われわれは自分たちで作ることにしたのです！

そして、その「T」はTensorの略ですよね？なぜですか？

その通りです。「テンソル」は、機械学習で使用されるデータ構造の一般的な用語です。AIタスクを機能させるためには、裏で多くの数学が行われています。最新のTPUであるTrilliumでは、実行できる計算の数を増やしました。Trilliumは、前世代のTPU v5eと比較して、チップごとのピーク計算性能が4.7倍です。

それは具体的にどういう意味ですか？

これは、Trilliumが複雑な数学に必要なすべての計算を、前のバージョンよりも4.7倍速く処理できることを意味します。Trilliumは速いだけでなく、より大きく複雑なワークロードも管理できます。

前世代のTPUと比べて他にどんな改善がありますか？

Trilliumのもう一つの大きな改善点は、これまでで最も持続可能なTPUであることです。前のTPUよりも67％エネルギー効率が向上しています。AIの需要が増え続ける中、業界はインフラストラクチャを持続可能な方法で拡張する必要があります。Trilliumは同じ仕事をするのに少ない電力を使用します。

顧客が使い始めている今、Trilliumはどのような影響を与えると思いますか？

Trilliumによってすでに驚くべきことが実現しています！顧客は、さまざまな疾患のRNAを分析する技術や、テキストを驚異的な速度でビデオに変換する技術などに使用しています。そして、これは初期のユーザーからのものにすぎません。Trilliumがプレビュー版として提供された今、人々がそれで何をするのか楽しみです。