Servidores dedicados com GPU

Um servidor dedicado com placa de vídeo é uma máquina física com uma ou várias placas instaladas, e todo esse hardware trabalha só para você. Não há hipervisor entre o seu modelo e a GPU, nenhum vizinho divide com você o barramento PCIe, os discos ou o link, e as configurações de BIOS, driver e sistema operacional ficam nas suas mãos. A tabela acima reúne esse tipo de configuração, de uma única placa de workstation a máquinas com vários aceleradores. Se a sua tarefa é curta e você prefere pagar por hora, compare os planos em nuvem na seção geral de servidores GPU.

Quando um servidor dedicado com GPU compensa mais que uma GPU em nuvem

• A placa trabalha quase o dia inteiro. Uma GPU em nuvem por hora é ótima enquanto você a liga só por uma noite. Quando um serviço responde a usuários sem parar, o aluguel mensal de um servidor dedicado com GPU costuma sair mais barato que a mesma carga cobrada por hora.
• O treinamento dura semanas. Um treinamento ou fine-tuning longo não gosta de interrupções. Na sua própria máquina ele não será interrompido por falta de capacidade do provedor, e os checkpoints ficam no disco local em vez de um armazenamento externo pago.
• Os dados não podem sair da máquina. Exames médicos, conversas com clientes, documentos internos: num servidor dedicado os discos não são compartilhados com outros clientes, e é mais fácil mostrar a um auditor onde os dados estão fisicamente e quem tem acesso a eles.
• As licenças estão ligadas ao hardware. Parte do software profissional de renderização, CAD e simulação é licenciada por máquina ou por placa física. Um servidor permanente com as mesmas GPUs evita reativar a licença a cada reinício de uma máquina virtual.
• Você precisa de várias placas com topologia conhecida. No treinamento distribuído importa exatamente como as placas estão ligadas. Na nuvem a interconexão costuma ficar oculta; num servidor dedicado você pode perguntar antes e conferir depois da entrega.

Se você não precisa de computação em GPU e quer apenas uma máquina física potente para bancos de dados ou virtualização, vale olhar o catálogo geral de servidores dedicados: mais configurações e preços menores.

Placa, memória de vídeo e ligação entre placas

A primeira coisa a ler na linha do plano é o modelo da placa e a quantidade de memória. As placas de workstation RTX A4000 e A5000 foram feitas para cargas longas em rack e são mais silenciosas, as RTX 3090 e 4090 entregam muito processamento pelo preço, e as A100 e H100 são necessárias quando o modelo não cabe em 24 GB ou o treinamento usa lotes grandes. As antigas Tesla K80 e P40 aparecem em configurações baratas: têm bastante memória, mas não suportam versões recentes do CUDA nem formatos numéricos modernos, por isso servem mais para experimentos do que para produção. Atenção também a placas fracas como NVS ou Quadro de entrada: em servidores elas muitas vezes estão ali só para a saída de vídeo e quase não servem para redes neurais.

Um "2×" ou "8×" no nome indica o número de placas, não a memória de uma só. Duas placas de 24 GB não equivalem a uma de 48 GB: o modelo precisa ser dividido, e a velocidade de troca entre as placas passa a decidir o resultado. Placas ligadas por uma ponte NVLink trocam dados várias vezes mais rápido do que pelo barramento PCIe, e nas plataformas multi-GPU da classe HGX todos os aceleradores são conectados diretamente entre si. Pergunte ao provedor quantas linhas PCIe cada placa recebe e se todas estão ligadas ao mesmo processador: se metade delas passa pelo segundo soquete, o tráfego entre elas fica mais lento.

Processador, discos, energia e rede

• CPU e RAM. O processador prepara os dados, decodifica imagens e tokeniza textos. Reserve vários núcleos físicos por placa e pelo menos tanta RAM quanto a memória de vídeo total; caso contrário, os aceleradores ficam esperando dados.
• NVMe para datasets. Um dataset grande é lido do disco a cada época. Um NVMe local encurta bastante o treinamento em comparação com discos SATA e volumes de rede.
• Energia e refrigeração. Uma placa potente consome centenas de watts, e um servidor com oito aceleradores consome tanto quanto um rack pequeno. Nem todo data center consegue destinar tanta potência a uma única unidade, por isso os servidores com várias placas chegam em lotes pequenos e aparecem com frequência na tabela como "esgotado".
• Porta e tráfego. Pesos de modelos e datasets ocupam centenas de gigabytes. Uma porta gigabit sem limite de tráfego apertado evita espera no primeiro download e no envio regular de checkpoints.
• Taxa de instalação e prazo mínimo. Servidores GPU têm, com mais frequência que os comuns, taxa de instalação e prazo mínimo de aluguel de um mês a um ano. Calcule o custo de todo o período, não só a linha mensal.
• Prazo de entrega. Servidores em estoque são entregues em horas; configurações com placas escassas são montadas sob encomenda, e a espera chega a dias ou semanas.

O que verificar antes de pagar

1. Imagem com driver. Pergunte se o provedor instala um sistema com o driver NVIDIA e o CUDA ou entrega um sistema operacional limpo. Compare a versão do driver com o que o seu framework e os seus contêineres exigem.
2. Console remoto. KVM ou IPMI permite reinstalar o sistema e consertar a inicialização depois de uma atualização de driver malsucedida, sem esperar o suporte. Num servidor GPU isso importa ainda mais: uma falha de driver às vezes deixa a máquina sem rede.
3. Troca de uma placa com defeito. Placas de vídeo sob carga constante falham mais que discos. Descubra em quanto tempo uma placa é trocada, se há peças de reposição no local e se o aluguel é estendido pelo tempo parado.
4. Localização dos dados. Verifique o país do data center e as condições de armazenamento se o servidor for tratar dados pessoais ou segredos comerciais. Para clientes no Brasil isso define se valem as regras da LGPD sobre transferência internacional, e na UE as do RGPD; a localização também afeta a velocidade de download dos datasets.
5. Teste após a entrega. Nas primeiras horas, rode uma tarefa real com carga total e acompanhe temperaturas e frequências das placas: superaquecimento e queda de frequência aparecem logo, e uma reclamação é mais simples no início do prazo.

Se você ainda está escolhendo entre classes de servidor, comece pelo guia para escolher um VPS. E para um modelo local pequeno sem exigências rígidas de velocidade, às vezes basta um servidor comum sem placa de vídeo da seleção VPS para Ollama.