Servidor con NVIDIA A40: 48 GB de memoria para inferencia, render y estaciones de trabajo virtuales
La NVIDIA A40 es una tarjeta de servidor de la generación Ampere para centros de datos. Según la especificación de NVIDIA, tiene 48 GB de GDDR6 con corrección de errores (ECC) y un ancho de banda de 696 GB/s, 10.752 núcleos CUDA, refrigeración pasiva y un consumo de hasta 300 W. Dos tarjetas se conectan mediante NVLink (112,5 GB/s) y juntas suman 96 GB. La tarjeta admite NVIDIA vGPU, por eso los proveedores la ofrecen tanto completa como en fracciones.
Para qué tareas sirve
- Modelos de lenguaje a los que no les bastan 24 GB: 30–34B parámetros a 8 bits y 70B cuantizados a 4 bits con un contexto corto.
- Render y 3D: núcleos RT de segunda generación y mucha memoria para escenas pesadas.
- Estaciones de trabajo virtuales para CAD y edición de vídeo, mediante perfiles vGPU.
La memoria de la A40 es más lenta que la de las tarjetas gaming: al generar respuestas de un modelo de lenguaje, la RTX 4090 con su 1 TB/s es más rápida si el modelo cabe en 24 GB. Más nueva y rápida en la misma categoría de 48 GB es la L40S.
Tarjeta completa o fracción vGPU
Las filas más baratas de la tabla son fracciones de una tarjeta con 2, 4 u 8 GB de memoria de vídeo. Sirven para un escritorio remoto y gráficos ligeros, pero no para modelos de lenguaje. Para inferencia y render hace falta la tarjeta completa de 48 GB: compruebe la memoria indicada en el plan. La A40 no tiene MIG; solo se reparte mediante vGPU.
Cuánto cuesta al mes y por hora
Según el catálogo a 17 de noviembre de 2026, la mediana del precio de un servidor con una A40 completa ronda los 1.050 $ al mes, y la mitad de los planes cuesta entre 600 y 1.100 $. Repartido en 730 horas, sale a unos 1,44 $ por hora. Hay planes en la nube y servidores dedicados; pocos proveedores ofrecen pago por horas. Si necesita la tarjeta unas horas, compare los planes por horas y lea cuánto cuesta una hora de servidor con GPU. Cuánta memoria ocupa un modelo, en el artículo ejecutar su propio modelo de lenguaje en un servidor.