Computador para rodar IA em casa: o que ele precisa ter

Você quer usar inteligência artificial sem depender de um serviço na internet, com os seus arquivos dentro de casa, e ficou na dúvida sobre qual computador consegue rodar IA em casa. A pergunta faz sentido: programas gratuitos já permitem baixar um modelo de linguagem, o tipo de IA que conversa e escreve, e usá-lo no próprio computador, sem mandar os textos para fora.

O engano comum é achar que a resposta está no processador mais caro. Para esse uso, o que decide é a memória: a memória da placa de vídeo, chamada VRAM, em um PC, ou a memória unificada, em um Mac. Se o modelo cabe nela, a IA responde com fluidez; se não cabe, ela até funciona, mas fica lenta. O resto deste guia mostra como fazer essa conta.

Por que a memória decide o que você consegue rodar

Um modelo de IA é, na prática, um arquivo enorme de números, os chamados parâmetros. Para responder, o computador precisa ler esses números o tempo todo, e por isso eles ficam carregados na memória mais rápida disponível. Quando o modelo é anunciado com "8 bilhões de parâmetros", isso diz quanto espaço ele vai ocupar.

A documentação da Hugging Face, a maior biblioteca aberta de modelos, dá uma regra prática: carregar um modelo de X bilhões de parâmetros em precisão de 16 bits pede perto de 2 vezes X gigabytes de VRAM. Um modelo de 8 bilhões, nesse formato, já ocuparia cerca de 16 GB, mais do que a maioria das placas de vídeo domésticas tem.

É aí que entra a quantização: guardar cada número com menos bits, por exemplo 4 em vez de 16. A mesma documentação mostra que esse processo reduz bastante a memória necessária, à custa de alguma perda de precisão. Pela conta, em 4 bits o modelo fica por volta de um quarto do tamanho em 16 bits, mais uma folga. É assim que a maioria das pessoas roda IA em casa.

Mas o modelo não é tudo. A Hugging Face explica que, durante a conversa, o programa guarda uma memória de trabalho, o cache de contexto, que cresce a cada palavra lida ou escrita. Em conversas longas ou documentos grandes, esse cache pode ocupar uma parte considerável da memória. Por isso a conta nunca deve fechar no limite.

Leia a tabela como ordem de grandeza, não como promessa. Ela serve para mostrar o salto: dobrar o tamanho do modelo dobra a memória necessária. E, na dúvida entre dois computadores, quase sempre vale mais o que tem mais memória disponível para o modelo.

O que os programas de IA local pedem

Os dois programas gratuitos mais conhecidos para rodar modelos em casa são o LM Studio, que tem janela e botões, e o Ollama, que funciona por linha de comando e serve de base para outros aplicativos. Os dois publicam requisitos, e eles são o ponto de partida mais seguro para conferir o seu computador.

Repare em dois detalhes. O primeiro é o disco: a documentação do Ollama avisa que cada modelo pode ter de dezenas a centenas de gigabytes, separado do programa. Um SSD com espaço sobrando faz diferença, porque o modelo é carregado dele para a memória toda vez que você o abre.

O segundo é a placa de vídeo. O Ollama aceita placas Nvidia a partir de uma geração razoavelmente antiga, enquanto o suporte às Radeon no Windows é mais estreito, concentrado nas séries RX 7000 e PRO W7000. Se você já tem uma placa, confira o modelo exato na página de GPUs do programa antes de contar com ela. Sem placa compatível, o programa usa o processador, e a resposta fica bem mais lenta.

PC com placa de vídeo, Mac ou notebook com NPU: o que muda

PC com placa de vídeo dedicada

No PC, a regra é simples: a VRAM da placa limita o tamanho do modelo que roda com folga. O próprio Ollama mostra isso: o comando ollama ps indica se o modelo está 100% na placa de vídeo ou dividido entre placa e processador. Quando aparece a divisão, parte do trabalho foi para a memória comum, mais lenta. Veja as placas de vídeo pela quantidade de VRAM, e não só pelo nome.

A vantagem do PC de mesa é a troca: dá para começar com uma placa e subir depois, ou acrescentar memória RAM. Mas a placa precisa caber no gabinete e ser bem alimentada pela fonte, então o upgrade pede conferência da montagem inteira.

Mac com chip Apple

Nos Macs com chip Apple, a memória é unificada: a Apple descreve um único conjunto de memória rápida que o processador e o vídeo acessam sem copiar dados de um lado para outro. Na prática, boa parte dessa memória fica disponível para o modelo de IA, o que torna um Mac com bastante memória uma opção interessante para modelos maiores.

O porém é que a memória do Mac não se troca depois da compra. O LM Studio recomenda 16 GB ou mais nos Macs e diz que os de 8 GB podem servir apenas para modelos pequenos e conversas curtas. Quem pensa em IA local deve escolher a memória do Mac já com essa folga.

Notebook com NPU, o chamado AI PC

A NPU é um chip dedicado a cálculos de IA. A Microsoft define os Copilot+ PCs como computadores com Windows 11 e uma NPU capaz de mais de 40 trilhões de operações por segundo, usada em recursos do próprio Windows, como tradução em tempo real e geração de imagens, com economia de bateria.

Mas a NPU não substitui a placa de vídeo para quem quer rodar modelos de linguagem grandes com os programas citados acima. Ela serve muito bem aos recursos de IA embutidos no sistema. Para conversar com um modelo maior em casa, o que continua contando é a memória disponível e, no PC, a VRAM.

Como dimensionar o computador pelo seu uso

Antes de olhar modelos de computador, responda o que você quer fazer com a IA. Resumir textos, revisar e-mails e tirar dúvidas pede bem menos do que analisar documentos longos ou usar modelos grandes para programar. A lista abaixo ajuda a enquadrar o seu caso.

1. Experimentar e usar no dia a dia com modelos pequenos: 16 GB de RAM e, no PC, uma placa com ao menos a VRAM recomendada pelo LM Studio. Em um Mac, 16 GB de memória unificada.
2. Usar com frequência, com modelos médios e conversas mais longas: mais VRAM na placa, ou mais memória unificada no Mac, para que o modelo e o cache caibam sem divisão.
3. Trabalhar com modelos grandes ou vários ao mesmo tempo: aí a quantidade de memória vira o critério principal da compra, e vale olhar máquinas de maior desempenho.
4. Em qualquer caso: SSD com espaço livre para guardar os modelos e uma fonte e uma refrigeração adequadas à placa.

Se você já tem um computador, comece por ele. Instale um dos programas, baixe um modelo pequeno e veja como ele se comporta. Se a resposta vier lenta e o ollama ps mostrar o modelo dividido, o gargalo está na memória. Às vezes basta mais RAM; quando o caso é VRAM, a solução é a placa. O guia sobre DDR4 ou DDR5 ajuda a saber se a memória atual pode ser aproveitada.

Onde montar ou ajustar um computador para IA em Campinas

A Balão da Informática, no Cambuí, em Campinas, tem uma seleção de computadores para rodar IA localmente e monta computador sob medida, o que permite escolher a placa de vídeo e a quantidade de memória pelo uso que você descreveu. Antes de pagar, dá para ver o computador ligado e testar.

Se a ideia é aproveitar a máquina que você já tem, a assistência técnica faz o diagnóstico e o upgrade de memória ou de placa no mesmo endereço. Para modelos maiores, vale conhecer os computadores de maior desempenho. O atendimento no WhatsApp é feito por pessoas da equipe. Em uma linha: para IA em casa, compre memória antes de comprar processador.