IA no computador ou IA na nuvem: o que muda para quem usa

Você usa um assistente de inteligência artificial para escrever e-mails, resumir documentos ou tirar dúvidas e começou a se perguntar se vale mais a pena usar IA no computador ou IA na nuvem. A dúvida aparece quando o assunto envolve dados da empresa, quando a internet cai ou quando alguém comenta que dá para rodar o assistente na própria máquina.

O engano comum é achar que uma opção substitui a outra por completo. Não substitui. A IA na nuvem roda nos servidores de uma empresa e costuma entregar respostas mais completas; a IA local roda no seu computador, mantém os dados em casa e funciona sem internet, mas depende do hardware que você tem. Para a maioria das pessoas, a resposta é usar as duas, cada uma no que faz melhor.

O que acontece com o que você digita em cada caso

Quando você conversa com um assistente na nuvem, o seu texto viaja pela internet até os servidores do serviço, é processado lá e a resposta volta. Isso não é segredo nem defeito: é como o serviço funciona. O que muda de um serviço para outro são as regras sobre o que fica guardado, por quanto tempo e quem pode ler.

A OpenAI, por exemplo, explica na central de ajuda que o usuário pode desligar a opção que permite usar as conversas para melhorar os modelos, em Configurações e Controles de dados. A mesma página diz que os chats temporários não entram no histórico nem no treino, mas podem ficar guardados por até 30 dias por motivo de segurança. Nos planos para empresas e escolas, o conteúdo não vai para o treino por padrão.

O Google, na central de privacidade do Gemini, informa que uma parte das conversas é lida por revisores humanos e pede que o usuário não digite informação confidencial que não gostaria que um revisor visse. Segundo a página, as conversas revisadas ficam guardadas por até três anos, e mesmo com o histórico desligado as conversas ficam com a conta por 72 horas.

Na IA local, o caminho é outro. A documentação do Ollama diz que a empresa não vê os comandos nem os dados quando o modelo roda na máquina do usuário. A do LM Studio afirma que nada do que você digita ao conversar com os modelos sai do aparelho, e que os documentos enviados ao programa são processados ali mesmo. Mas atenção: o Ollama também oferece modelos na nuvem, e quem usa esse recurso volta a mandar o texto para fora.

Quando a IA na nuvem é a melhor escolha

Os serviços na nuvem rodam modelos muito grandes, em servidores com muito mais memória do que qualquer computador de casa. Na prática, isso costuma significar respostas mais completas em temas variados, melhor desempenho em textos longos e recursos que um modelo pequeno não tem, como pesquisa na internet e leitura de imagens e arquivos variados.

Também não pedem quase nada do seu equipamento. Um notebook simples, um celular ou um computador antigo conseguem usar o assistente pelo navegador, porque o trabalho pesado acontece longe dali. Para quem usa IA de vez em quando, para pesquisar, revisar um texto ou planejar uma viagem, a nuvem resolve sem exigir troca de máquina.

Mas há limites. Sem internet, o assistente para. Com conexão instável, a resposta demora ou cai no meio. E tudo o que você digita fica sujeito às regras do serviço, que podem mudar com o tempo. Por isso vale reler as configurações de privacidade de vez em quando e evitar colar ali contrato, dado de cliente ou documento pessoal.

Quando a IA no computador compensa

A IA local faz sentido quando o conteúdo é sensível: contratos, prontuários, planilhas de clientes, documentos internos de uma empresa. Como o texto não sai da máquina, você não depende da política de privacidade de ninguém para saber onde ele está. Para escritórios que lidam com dados pessoais de terceiros, esse controle costuma pesar bastante na decisão.

Ela também funciona sem internet. O LM Studio informa que conversar com modelos já baixados, conversar com documentos e rodar o servidor local funcionam sem conexão. A internet só é necessária para procurar e baixar modelos, baixar os componentes de execução e atualizar o programa. O Ollama tem ainda um modo só local, que desliga os recursos de nuvem dele.

O preço dessa independência é o hardware. O modelo fica inteiro na memória enquanto trabalha, e um computador comum roda modelos bem menores do que os dos grandes serviços. Isso costuma bastar para resumir, reescrever, traduzir e responder sobre um documento, mas as respostas tendem a ser menos completas em perguntas abertas e em temas que pedem muito conhecimento geral.

O que o computador precisa ter para a IA local

O ponto central é a memória. A documentação da Hugging Face dá uma regra prática: carregar um modelo de X bilhões de parâmetros em meia precisão (bfloat16 ou float16) pede cerca de 2 vezes X gigabytes de memória de vídeo. Parâmetros são os valores que o modelo aprendeu; quanto mais deles, maior o arquivo e maior a memória necessária.

A quantização ajuda bastante. É a técnica de guardar esses valores com menos precisão, em 8 ou 4 bits, para o modelo ocupar menos espaço. No exemplo da própria Hugging Face, um modelo que pedia perto de 30 GB em meia precisão caiu para cerca de 15 GB em 8 bits e para pouco mais de 9 GB em 4 bits. Em troca, a resposta pode perder um pouco de qualidade.

Em um PC com placa de vídeo dedicada, o que conta é a memória da placa: se o modelo cabe nela, roda com folga; se não cabe, parte vai para a memória do sistema e tudo fica bem mais lento. Em computadores com memória unificada, como os Mac com chip Apple, a memória do sistema é dividida com o processador gráfico, e o total de memória passa a ser o limite.

E a NPU? A Microsoft explica que a NPU é um chip feito para as contas da inteligência artificial e que os Copilot+ PC trazem uma capaz de mais de 40 trilhões de operações por segundo. Ela gasta pouca energia e atende bem aos recursos de IA do próprio Windows. Mas os programas que rodam modelos de conversa em casa ainda tiram mais proveito de placa de vídeo e de memória.

Se você quer o passo a passo para dimensionar a máquina, o artigo Computador para rodar IA em casa detalha placa de vídeo, Mac e notebook com NPU. Aqui, o que importa é a ideia geral: quem já tem uma placa de vídeo com boa memória costuma conseguir testar a IA local sem trocar nada.

Nuvem, computador ou os dois: como decidir pelo seu uso

A decisão fica mais simples quando você pensa no tipo de tarefa, e não na tecnologia. A tabela abaixo resume os casos mais comuns de quem usa IA no trabalho e em casa. Ela não é regra fixa: depende do que o seu computador aguenta e de quanto o conteúdo precisa ficar reservado.

Para uma pessoa que usa IA de vez em quando, a nuvem basta, desde que ela revise as configurações de privacidade e não cole ali o que não mostraria a um desconhecido. Para um escritório que lida com documentos de clientes, vale ter um computador preparado para a IA local e deixar a nuvem para as tarefas que não envolvem dados sensíveis.

Mas não espere que o modelo local faça tudo o que o serviço grande faz. Se a tarefa pede muito conhecimento geral ou textos longos e bem elaborados, a nuvem continua na frente. O caminho que costuma funcionar é combinar: o que é sigiloso fica em casa, o que é geral vai para fora.

Onde preparar um computador para IA local em Campinas

A Balão da Informática é uma loja de informática no Cambuí, em Campinas, e tem uma seleção de computadores para rodar IA localmente. Também monta computador sob medida para quem quer escolher placa de vídeo e memória pelo modelo que pretende usar, e você pode ver a máquina ligada e testar antes de pagar.

Se você já tem um computador e quer saber se ele aguenta a IA local, a assistência técnica da loja faz diagnóstico e upgrade, como a troca de memória ou de placa de vídeo. O atendimento pelo WhatsApp é feito por pessoas da equipe. Em resumo: use a nuvem para o que é geral e o computador para o que é seu.