Google desenvolve chip com arquitetura do Gemini gravada no Silício para acelerar IA
A Google trabalha em um processador de servidor apelidado internamente de Frozen v2, que gravaria parte da arquitetura do modelo Gemini diretamente nos transistores. A informação…
A Google trabalha em um processador de servidor apelidado internamente de Frozen v2, que gravaria parte da arquitetura do modelo Gemini diretamente nos transistores. A informação é de reportagem publicada na segunda-feira (20) pelo The Information, com base em duas pessoas com conhecimento direto do projeto.
Engenheiros envolvidos projetam que o chip Frozen v2 entregue de seis a dez vezes mais tokens por unidade de energia que a geração mais recente de TPUs da empresa. O prazo de implantação mirado é 2028.
A diferença entre rodar e gravar um modelo
Uma TPU funciona como uma GPU nesse aspecto: executa qualquer modelo carregado nela. Isso obriga o processador a tomar decisões em tempo de execução a cada interação, etapa que consome ciclos e movimenta dados dentro do pacote.
O Frozen v2 fixaria parte dessas decisões específicas do Gemini no próprio circuito. O resultado seria menos passos por consulta e menos tráfego interno de dados, com queda de latência suficiente para viabilizar aplicações que hoje não fecham em tempo de resposta, segundo uma das fontes.
O quanto do modelo será travado no Silício ainda não está definido.
Versão original queria gravar os pesos
O projeto nasceu mais radical: a concepção inicial do Frozen, encabeçada por Jeff Dean, cientista-chefe da Google DeepMind, gravaria os próprios pesos do Gemini no chip, algo que eliminaria quase toda a movimentação de parâmetros.
A proposta foi engavetada por um motivo prático. Silício amarrado a uma única versão de modelo teria ciclo de vida curto demais para justificar o investimento de fabricação.
A segunda versão congela apenas a arquitetura e mantém os pesos atualizáveis. Com isso, o mesmo hardware atravessa várias gerações do Gemini, desde que a Google mantenha a arquitetura de base.
Falta de computação empurrou o projeto
O contexto interno ajuda a explicar a pressa. Segundo as fontes ouvidas pela reportagem, o desenvolvimento responde em parte a uma escassez de capacidade computacional severa o bastante para que o Google Cloud tenha recusado contratos com clientes externos.
A eficiência energética por token virou métrica central nesse tipo de cálculo. Cada watt economizado em inferência libera capacidade sem exigir mais data center, mais transformador e mais contrato de energia.
A empresa não confirmou o projeto. Um porta-voz respondeu ao The Information dizendo que nem todo projeto avança para produção:
“Essa exploração rigorosa é central para a nossa abordagem de stack completo.”
Taalas e Groq já testaram o caminho
Gravar modelo em circuito não é ideia inédita. A Taalas, startup de Toronto que levantou mais de US$ 200 milhões junto a investidores como Quiet Capital e Fidelity, lançou em fevereiro o HC1, com o Llama 3.1 8B permanentemente conectado em um die de 815 mm² fabricado no processo N6 da TSMC.
A empresa afirma atingir 17 mil tokens por segundo por usuário sem qualquer HBM no pacote, o que retira do caminho o componente mais escasso e mais caro do mercado atual de aceleradores.
A NVIDIA também se mexeu nessa direção. Em dezembro, fechou acordo de US$ 20 bilhões para licenciar tecnologia da Groq, projetista de Silício especializado em inferência.
| Abordagem | O que fica fixo | Flexibilidade |
|---|---|---|
| TPU e GPU convencionais | Nada do modelo | Roda qualquer modelo |
| Frozen v2 (projeto) | Parte da arquitetura do Gemini | Pesos atualizáveis |
| Frozen original (arquivado) | Arquitetura e pesos | Presa a uma versão |
| Taalas HC1 | Modelo inteiro no die | Llama 3.1 8B apenas |
Volume baixo e função de laboratório
A Google não pretende produzir o Frozen v2 nos volumes de uma TPU. A companhia trata essa geração parcialmente como ensaio para chips ainda mais especializados, a serem desenvolvidos quando os desenhos de modelo estabilizarem.
O processador ficaria ao lado da linha de TPUs, sem substituí-la. Essa linha se dividiu em variantes separadas de treinamento e inferência na oitava geração, anunciada no Cloud Next em abril.
Leia também:
- IA de Elon Musk está usando apenas 11% das 550 mil GPUs que comprou
- Google domina mercado ASIC e dobra encomenda de TPUs na MediaTek
- Google apresenta Ironwood, novo chip para IA que pode rivalizar com GPUs NVIDIA
2028 já está lotado na agenda da Google
O ano mirado para o Frozen v2 concentra outros compromissos pesados da companhia em fabricação. A Google teria contratado a Intel para empacotar mais de 3 milhões de TPUs em 2028, usando a tecnologia EMIB como alternativa ao CoWoS da TSMC.
A família TPUv9 também desemboca ali; a produção em massa começaria no terceiro trimestre de 2027 com o modelo Humufish, seguido pelo Triggerfish no quarto trimestre, e ambos atingiriam escala de volume em 2028.
Um projeto experimental disputando linha de empacotamento com três milhões de unidades de um produto consolidado tende a perder prioridade. Talvez seja exatamente por isso que a própria Google descreve o Frozen v2 como exploração, e não como produto.
Fonte(s): Tom’s Hardware e The Information
