Máquinas para rodar IA local.

Modelos de linguagem e de imagem rodando no seu computador: sem mensalidade por uso e sem que prontuário, projeto ou código-fonte saia da máquina.

O que define o tamanho do modelo é a memória da placa de vídeo. A categoria reúne as 160 máquinas do catálogo com placa NVIDIA RTX de 12 GB ou mais e pelo menos 32 GB de RAM, e os Apple com 24 GB ou mais de memória unificada.

Ver as máquinas Pedir indicação no WhatsApp

Memória da placa de vídeo, em escala

Menos de 12 GB
Fora da categoria. Rodam modelos pequenos, mas o limite chega cedo.
12 GB na placa70 máquinas
Modelos de linguagem de até uns 14 bilhões de parâmetros inteiros na placa. Assistente de código, transcrição de áudio e geração de imagem.
16 GB na placa82 máquinas
Modelos de linguagem de até uns 20 bilhões de parâmetros inteiros na placa, com resposta rápida. Geração de imagem em alta resolução.
24 GB ou mais na placanenhuma pronta hoje
Modelos de linguagem na casa dos 30 bilhões de parâmetros inteiros na placa, e geração de imagem e vídeo sem aperto.

Antes de escolher

Os tamanhos de modelo desta página valem para modelos comprimidos em 4 bits, o formato mais usado em programas como Ollama e LM Studio. É uma ordem de grandeza: o tamanho da conversa também ocupa memória.

Por que a placa de vídeo pesa mais que o processador?

Porque o modelo é carregado na memória da placa de vídeo e é ela que faz a conta. Quando o modelo não cabe inteiro, uma parte vai para a RAM e a resposta fica bem mais lenta. Por isso a categoria é organizada pela memória da placa.

Preciso de internet para usar um modelo local?

Só para baixar o modelo e os programas. Depois de baixado, ele roda na máquina: o que você escreve ou envia para análise não sai do computador.

Por que só placas NVIDIA?

As ferramentas de IA local são feitas primeiro para NVIDIA, e nelas tudo funciona sem ajuste. Placas Radeon também rodam modelos, mas pedem configuração a mais. Se você prefere uma, fale com a loja.

E os computadores da Apple?

No chip M a memória é unificada: a placa de vídeo usa a mesma memória do sistema. Por isso entram na categoria os Apple com 24 GB ou mais.

Por que a categoria exige 32 GB de RAM?

A RAM é onde o modelo passa antes de ir para a placa, e é para onde vai o que não coube nela. Com menos que isso, a máquina trava justamente quando o modelo é grande.

Preciso de uma placa com 24 GB ou mais. Tem?

Entre as máquinas prontas do catálogo, hoje a maior placa tem 16 GB. Para uma configuração com placa maior, fale com a loja pelo WhatsApp.

Máquinas para rodar IA local.

Todas as máquinas da categoria

Antes de escolher

Diga o que quer rodar. A loja indica a máquina.