IA em VPS sem placa de vídeo: o que dá para rodar de verdade
Uma placa de vídeo na nuvem custa caro, mas muitas tarefas não precisam dela. Modelos de linguagem de 3–8 bilhões de parâmetros, em formato comprimido, rodam em um processador comum: respondem mais devagar que o ChatGPT, mas os dados não saem do seu servidor, e você paga um valor fixo sem limite de requisições. É uma boa opção para bots internos, processamento de documentos, classificação e experimentos.
A memória define qual modelo cabe
O modelo é carregado inteiro na memória RAM. Com quantização de 4 bits (Q4), um bilhão de parâmetros ocupa cerca de 0,6–0,7 GB, mais uma folga para o contexto e o sistema:
- 8 GB de RAM — modelos de até 3–4 bilhões de parâmetros: Llama 3.2 3B, Phi, Qwen 2.5 3B;
- 16 GB de RAM — modelos de 7–8 bilhões: Llama 3.1 8B, Qwen 2.5 7B, Mistral 7B — a classe mais popular;
- 32 GB ou mais — modelos de 13–14 bilhões ou vários modelos ao mesmo tempo.
Por isso a seleção começa em 16 GB de memória e 8 núcleos — o mínimo para trabalhar com conforto com modelos de 7–8 bilhões de parâmetros.
A velocidade depende dos núcleos e da memória
A geração de texto no processador é limitada pela velocidade da memória e pelo número de núcleos. Em 8 núcleos modernos, um modelo 7B gera algo como 5–10 tokens por segundo — o suficiente para um chatbot com um ou dois usuários simultâneos. Repare na frequência e na geração do processador: os planos de alta frequência com AMD EPYC e Ryzen recentes são bem mais rápidos que Xeons antigos. Se houver suporte às instruções AVX2 e AVX-512, o llama.cpp as usa automaticamente.
O que instalar
- Ollama — o jeito mais simples: um comando para instalar, os modelos são baixados pelo nome e há uma API HTTP compatível com a da OpenAI.
- llama.cpp — o motor por trás da maioria das soluções; dá o máximo de controle sobre parâmetros e velocidade.
- Open WebUI — interface web no estilo do ChatGPT sobre o Ollama, prática para equipes.
- Whisper.cpp — reconhecimento de fala no processador, funciona até com 4 GB.
Se os modelos são só parte de uma automação, é fácil ligá-los ao n8n ou a um bot. E se os modelos na nuvem bastam, um servidor comum que chama a API deles resolve, sem exigências especiais de memória.
Disco e limitações
Cada modelo pesa de 2 a 10 GB, então escolha NVMe a partir de 50 GB para manter vários modelos e carregá-los rápido. Lembre-se dos limites: gerar imagens (Stable Diffusion) no processador leva minutos por imagem, e treinar modelos sem placa de vídeo é praticamente impossível — para isso é preciso um servidor com GPU. Não exponha a API do Ollama na internet sem autenticação: feche a porta 11434 no firewall e libere o acesso por um proxy reverso com senha.