Aluguel de servidor com NVIDIA L4: o que cabe em 24 GB e quando a placa compensa mais que as vizinhas
A NVIDIA L4 é uma placa da geração Ada Lovelace instalada em servidores pelo baixo consumo: 72 W, formato low-profile de um slot, refrigeração passiva e alimentação direta pelo slot PCIe 4.0 x16. Onde num gabinete cabe uma placa grande, cabem várias L4. Daí o seu papel: um servidor GPU com L4 não é alugado para treinar modelos grandes, e sim para inferência contínua, reconhecimento de fala e processamento de vídeo, em que contam o preço por hora e o número de fluxos paralelos. É a sucessora da T4 e, nas mesmas tarefas, bem mais rápida.
O que cabe em 24 GB de memória de vídeo
A L4 tem 24 GB de GDDR6. Para modelos de linguagem, uma regra prática: FP16 precisa de cerca de 2 GB por bilhão de parâmetros, 8 bits de cerca de 1 GB e 4 bits de 0,5 a 0,6 GB, mais o cache KV, que cresce com o tamanho do contexto e o número de requisições simultâneas.
- 7–8B parâmetros em FP16 cabem, mas com contexto longo e vários usuários ao mesmo tempo a folga acaba rápido.
- 13B em 8 bits cabem com espaço para o contexto.
- Cerca de 30B em 4 bits são o limite de uma placa, com contexto curto.
- Whisper, embeddings e rerankers são o trabalho principal da L4: os modelos são pequenos e uma placa pode hospedar vários serviços desse tipo.
- Geração de imagens com Stable Diffusion ou Flux roda em velocidade moderada; para um fluxo grande de imagens, uma placa mais potente é mais confortável.
O ajuste fino é possível com LoRA ou QLoRA para modelos de até 7–8B, mas o treinamento completo não é tarefa desta placa. O suporte a FP8 (compute capability 8.9) ajuda na inferência: em FP8 um modelo ocupa metade da memória do FP16 e costuma perder menos qualidade que em formatos de 4 bits, desde que o seu motor de inferência suporte FP8.
Onde a L4 chega ao limite e com o que compará-la
O principal limite é a largura de banda da memória, cerca de 300 GB/s. A velocidade de geração de tokens de um modelo de linguagem depende sobretudo dela, por isso um chatbot numa L4 responde mais devagar do que numa placa com a mesma capacidade, mas memória mais rápida.
- A10: também 24 GB, mas cerca de 600 GB/s com 150 W. Costuma ser mais rápida para chat com usuários reais; para vídeo e modelos pequenos o custo extra nem sempre compensa.
- L40S: 48 GB e muito mais poder de cálculo. Necessária quando o modelo não cabe em 24 GB ou um modelo grande recebe muitas requisições simultâneas.
O ponto forte da L4 é o vídeo. As unidades NVENC e NVDEC suportam AV1, e uma única placa transcodifica muitos fluxos ao mesmo tempo: transcodificação de transmissões ao vivo, corte de clipes, análise de imagens de câmeras com detecção de objetos na mesma placa.
Uma fração, uma placa ou várias
As linhas mais baratas da tabela não são placas inteiras, mas frações vGPU com 2 ou 4 GB de memória de vídeo. A L4 não tem MIG; ela é dividida por perfis vGPU. Uma fração serve para vídeo, desktop remoto e modelos leves de reconhecimento, mas não para modelos de linguagem: em 2–4 GB não cabe nem um LLM pequeno com contexto útil. Os demais planos oferecem placas inteiras: uma, duas ou quatro.
A L4 também não tem NVLink; as placas se comunicam só via PCIe. Por isso um servidor com L4 ×2 ou ×4 compensa não para um único modelo grande dividido em partes, e sim para vários workers independentes: cada placa roda a sua própria cópia do modelo e um balanceador distribui as requisições. Se você precisa de um único modelo de 40–70B, é melhor uma placa com mais memória.
Drivers, preços e cobrança
A L4 precisa de um driver NVIDIA da série 525 ou mais recente e CUDA 11.8+; para FP8, CUDA 12 e versões recentes de PyTorch, vLLM ou TensorRT-LLM. Numa imagem pronta, confira a saída do nvidia-smi: modelo da placa, memória (24 GB ou o tamanho da fração) e versão do driver. Nas frações vGPU o driver convidado precisa corresponder à versão do host, por isso costuma vir na imagem do provedor e não do site da NVIDIA.
O aluguel de um servidor com L4 no catálogo custa aproximadamente de US$ 60 por mês por uma fração até cerca de US$ 5.000 por uma máquina dedicada com quatro placas; o meio da faixa fica em torno de US$ 870. A maioria dos planos é cobrada por hora, o que compensa para testes, processamento de vídeo em lote e serviços usados só no horário comercial. Se a placa fica ocupada o dia inteiro, compare o preço por hora com o mensal; veja mais na página sobre cobrança por hora. Para dados pessoais de residentes da UE, escolha um data center na UE para simplificar a conformidade com o GDPR; para inferência ao vivo, uma localização próxima dos seus usuários para manter a latência baixa. A maioria dos provedores aceita cartões de crédito internacionais.