Techspert explica: CPU vs. GPU vs. Diferenças de TPU

Na I/O em maio, apresentamos o Trillium, a sexta geração do nosso chip projetado sob medida, chamado Tensor Processing Unit, ou TPU. Hoje, estamos empolgados em compartilhar que ele agora está disponível para clientes do Google Cloud em versão de teste. Os TPUs são a magia por trás da IA que torna seus dispositivos e aplicativos do Google extremamente úteis, e o Trillium é o TPU mais poderoso e ecológico que já criamos.

Então, o que é um TPU e o que torna o Trillium único? Para entender o quadro geral, é útil saber sobre outros tipos de processadores de computação, como CPUs e GPUs, e o que os diferencia. Chelsie Czop, gerente de produtos trabalhando na infraestrutura de IA no Google Cloud, pode explicar tudo. "Eu colaboro com várias equipes para garantir que nossas plataformas sejam o mais eficientes possível para nossos clientes que desenvolvem produtos de IA", ela diz. E, segundo Chelsie, os TPUs do Google são uma grande razão pela qual nossos produtos de IA são tão eficazes.

Vamos mergulhar nos conceitos básicos! O que são CPUs, GPUs e TPUs?

Esses são todos chips que atuam como processadores para tarefas de computação. Imagine seu cérebro como um computador realizando atividades como ler ou resolver problemas de matemática. Cada uma dessas atividades é como uma tarefa de computação. Então, quando você usa seu telefone para tirar uma foto, enviar uma mensagem ou abrir um aplicativo, o cérebro do seu telefone, ou processador, está lidando com essas tarefas.

O que significam essas siglas?

Embora CPUs, GPUs e TPUs sejam todos processadores, eles se tornam cada vez mais especializados. CPU significa Central Processing Unit. Esses são chips versáteis que podem lidar com uma ampla variedade de tarefas. Assim como seu cérebro, algumas tarefas podem levar mais tempo se a CPU não for especializada para elas.

Em seguida, temos a GPU, ou Graphics Processing Unit. As GPUs são a potência para tarefas de computação acelerada, desde a renderização de gráficos até a execução de cargas de trabalho de IA. Elas são um tipo de ASIC, ou circuito integrado de aplicação específica. Circuitos integrados geralmente são feitos de silício, e é por isso que você pode ouvir chips sendo chamados de "silício" — é a mesma coisa (e sim, é daí que vem o nome "Silicon Valley"!). Em resumo, ASICs são projetados para um propósito específico.

O TPU, ou Tensor Processing Unit, é o ASIC próprio do Google. Projetamos os TPUs do zero para lidar com tarefas de computação baseadas em IA, tornando-os ainda mais especializados que CPUs e GPUs. Os TPUs estão no núcleo de alguns dos serviços de IA mais populares do Google, incluindo Search, YouTube e os grandes modelos de linguagem da DeepMind.

Entendi, então esses chips são o que faz nossos dispositivos funcionarem. Onde encontro CPUs, GPUs e TPUs?

CPUs e GPUs são encontrados em itens do dia a dia: CPUs estão em quase todos os smartphones e laptops, enquanto GPUs são comuns em sistemas de jogos de alta performance e alguns computadores desktop. Os TPUs, por outro lado, são encontrados apenas nos data centers do Google — grandes edifícios cheios de racks de TPUs, trabalhando 24 horas por dia para manter os serviços de IA do Google e de nossos clientes da Cloud funcionando globalmente.

O que levou o Google a começar a desenvolver TPUs?

As CPUs foram inventadas no final dos anos 1950, e as GPUs surgiram no final dos anos 90. No Google, começamos a pensar em TPUs há cerca de uma década. Nossos serviços de reconhecimento de fala estavam melhorando rapidamente, e percebemos que, se cada usuário começasse a falar com o Google por apenas três minutos por dia, precisaríamos dobrar nossos computadores de data center. Sabíamos que precisávamos de algo muito mais eficiente do que o hardware disponível na época — e precisávamos de muito mais poder de processamento de cada chip. Então, decidimos construir o nosso próprio!

E esse "T" significa Tensor, certo? Por quê?

Sim — um "tensor" é o termo geral para as estruturas de dados usadas em aprendizado de máquina. Há muita matemática acontecendo nos bastidores para fazer as tarefas de IA funcionarem. Com nosso mais recente TPU, o Trillium, aumentamos o número de cálculos que ele pode realizar: o Trillium tem 4,7 vezes o desempenho de computação de pico por chip em comparação com a geração anterior, TPU v5e.

O que isso significa, exatamente?

Significa que o Trillium pode lidar com todos os cálculos necessários para matemática complexa 4,7 vezes mais rápido que a versão anterior. Não só o Trillium é mais rápido, mas também pode gerenciar cargas de trabalho maiores e mais complexas.

Há algo mais que o torna uma melhoria em relação ao nosso TPU da última geração?

Outra grande melhoria com o Trillium é que ele é nosso TPU mais sustentável até agora — é 67% mais eficiente em termos de energia do que nosso TPU anterior. Como a demanda por IA continua crescendo, a indústria precisa escalar a infraestrutura de forma sustentável. O Trillium usa menos energia para realizar o mesmo trabalho.

Agora que os clientes estão começando a usá-lo, que tipo de impacto você acha que o Trillium terá?

Já estamos vendo coisas incríveis impulsionadas pelo Trillium! Os clientes estão usando-o para tecnologias que analisam RNA para várias doenças, convertem texto em vídeo em velocidades impressionantes, e muito mais. E isso é apenas com nossos usuários iniciais — agora que o Trillium está em versão de teste, estamos animados para ver o que as pessoas farão com ele.